使用DatabricksJDBC将SQL数据迁移本地到Azure

问题描述

是否可以使用JDBC连接器https://docs.databricks.com/data/data-sources/sql-databases.html以便从本地sql Server获取数据。 (并将其导出到三角洲湖)

使用:

post_install do |installer|
  installer.pods_project.build_configurations.each do |config|
    config.build_settings["EXCLUDED_ARCHS[sdk=iphonesimulator*]"] = "arm64"
  end
end

解决方法

无论您具有MySql还是SQL Server,Databricks驱动程序都支持链接的文章中概述的两种方法。 从访问本地部署的角度来看,答案是肯定的,但是Databricks必须能够连接到它。通常,这意味着将您的Databricks集群部署到可以访问您本地资源的VNET中,例如following the guidance here

或者,您可以使用Azure Data Factory自托管的集成运行时将数据移动到云中的暂存/“铜牌”存储中,并通过Databricks任务将其拾取以将其移动到Delta表中。