連線 至 Syncsort

重要

這項功能處於公開預覽狀態

Syncsort 可藉由整合舊版、大型主機和 IBM 數據與 Azure Databricks,協助您細分數據尋址接收器。 您可以輕鬆地從這些來源提取數據到 Delta Lake。

以下是搭配 Azure Databricks 使用 Syncsort 的步驟。

步驟 1:產生 Databricks 個人存取令牌

Syncsort 會使用 Azure Databricks 個人存取令牌向 Azure Databricks 進行驗證。

注意

作為安全性最佳做法,當您使用自動化工具、系統、腳本和應用程式進行驗證時,Databricks 建議您使用屬於 服務主體 的個人存取令牌,而不是工作區使用者。 若要建立服務主體的令牌,請參閱 管理服務主體的令牌。

步驟 2:設定叢集以支援整合需求

Syncsort 會將數據寫入 Azure Data Lake 儲存體 路徑,而 Azure Databricks 整合叢集會從該位置讀取數據。 因此,整合叢集需要安全存取 Azure Data Lake 儲存體 路徑。

保護 Azure Data Lake 儲存體 路徑的存取

若要保護 Azure Data Lake 儲存體 (ADLS) 中的數據存取權,您可以使用 Azure 儲存器帳戶存取金鑰(建議)或 Microsoft Entra ID 服務主體。

使用 Azure 記憶體帳戶存取金鑰

您可以在整合叢集上設定記憶體帳戶存取金鑰,作為 Spark 設定的一部分。 確定記憶體帳戶可以存取用於暫存數據的 ADLS 容器和文件系統,以及您想要在其中寫入 Delta Lake 數據表的 ADLS 容器和文件系統。 若要將整合叢集設定為使用密鑰,請遵循 連線 Azure Data Lake 儲存體 Gen2 和 Blob 儲存體 中的步驟。

使用 Microsoft Entra ID 服務主體

您可以在 Azure Databricks 整合叢集上設定服務主體,作為 Spark 組態的一部分。 請確定服務主體可以存取用於暫存數據的 ADLS 容器,以及您要在其中寫入 Delta 數據表的 ADLS 容器。 若要將整合叢集設定為使用服務主體,請遵循使用服務主體存取 ADLS Gen2 中的步驟。

指定叢集組態

  1. 將 [叢集模式] 設定為 [標準]。

  2. 將 Databricks 執行時間版本設定為 Databricks 執行時間版本。

  3. 將下列屬性新增至 Spark 組態,以啟用優化的寫入和自動壓縮:

    spark.databricks.delta.optimizeWrite.enabled true
    spark.databricks.delta.autoCompact.enabled true
    
  4. 根據您的整合和調整需求來設定叢集。

如需叢集組態詳細數據,請參閱 計算組態參考

如需取得 JDBC URL 和 HTTP 路徑的步驟,請參閱 取得 Azure Databricks 計算資源的 連線詳細數據。

步驟 3:取得 JDBC 和 ODBC 連線詳細數據以連線到叢集

若要將 Azure Databricks 叢集連線至 Syncsort,您需要下列 JDBC/ODBC 連線屬性:

  • JDBC URL
  • HTTP 路徑

步驟 4:使用 Azure Databricks 設定 Syncsort

移至巨量數據登入頁面的 Databricks 和 連線,並遵循指示。

其他資源

支援