什麼是 Azure AI 容器?

Azure AI 服務提供數個 Docker 容器,讓您可於內部部署使用 Azure 中可用的相同 API。 使用這些容器能讓您有彈性地將 Azure AI 服務帶得離您的資料較近,以滿足合規性、安全性或其他作業目的。 目前 Azure AI 服務中僅有一部分提供容器支援。

容器化是軟體發佈的方法,其中應用程式或服務,包括其相依性和設定,會封裝在一起作為容器映像。 幾乎不需要修改,容器映像就可以部署在容器主機上。 容器會彼此隔離,且基礎操作系統的使用量比虛擬機小。 容器可以從容器映像具現化以進行短期工作,並在不再需要時移除。

功能與優點

  • 不可變的基礎結構:讓 DevOps 小組能夠運用一組一致且可靠的已知系統參數,同時能夠適應變更。 容器可讓您彈性地在可預測的生態系統內樞紐,並避免設定漂移。
  • 對資料的控制:選擇 Azure AI 服務處理資料的位置。 如果您無法將資料傳送至雲端,但需要存取 Azure AI 服務 API,這是不可或缺的。 支援混合式環境中的一致性 – 跨數據、管理、身分識別和安全性。
  • 控制模型更新:在版本設定和更新其解決方案中部署的模型時彈性。
  • 可攜式架構:可讓您建立可在 Azure、內部部署和邊緣上部署的可攜式應用程式架構。 容器可以直接部署至 Azure Kubernetes ServiceAzure 容器執行個體 或部署至 Azure Stack 的 Kubernetes 叢集。 如需詳細資訊,請參閱 將 Kubernetes 部署至 Azure Stack
  • 高輸送量/低延遲:讓 Azure AI 服務在鄰近客戶應用程式邏輯和資料的實體位置執行,為客戶提供針對高輸送量及低延遲需求進行調整的能力。 容器不會限制每秒的交易數(TPS),而且可以進行相應增加和相應放大,以在您提供必要的硬體資源時處理需求。
  • 延展性:隨著容器化和容器協調流程軟體的日益普及,例如 Kubernetes;延展性處於技術進步的前沿。 應用程式開發是以可調整的叢集基礎為基礎建置,以滿足高可用性。

Azure AI 服務中的容器

Azure AI 容器提供下列一組 Docker 容器,每個容器都包含 Azure AI 服務中服務的一部分功能。 您可以在下表中找到指示和影像位置。

注意

請參閱安裝和執行文件智慧服務容器,以取得 Azure AI 文件智慧服務容器指示和映射位置。

決策容器

服務 容器 描述 可用性
異常偵測器 異常偵測程式 (影像 異常偵測程式 API 可讓您使用機器學習來監視和偵測時間序列數據中的異常狀況。 通用

語言容器

服務 容器 描述 可用性
路易士 LUIS影像 將定型或已發佈的 Language Understanding 模型,也稱為 LUIS 應用程式載入 Docker 容器,並提供從容器 API 端點查詢預測的存取權。 您可以從容器收集查詢記錄,並將這些記錄上傳回 LUIS 入口網站 ,以改善應用程式的預測精確度。 正式推出。
此容器也可以在 中斷連線的環境中執行。
語言服務 關鍵片語擷取影像 擷取關鍵詞組以識別主要點。 例如,對於輸入文字「食物很美味,而且有精彩的員工」,API 會傳回主要交談點:「food」 和 「wonderful staff」。 正式推出。
此容器也可以在 中斷連線的環境中執行。
語言服務 文字語言偵測影像 針對最多 120 種語言,偵測輸入文字的撰寫語言,並針對要求上提交的每份文件報告單一語言代碼。 語言代碼會與指出分數強度的分數配對。 正式推出。
此容器也可以在 中斷連線的環境中執行。
語言服務 情感分析影像 分析原始文字,以取得正面或負面情感的相關線索。 此版本的情感分析會傳回每個檔和句子的情感卷標(例如 正面負面)。 正式推出。
此容器也可以在 中斷連線的環境中執行。
語言服務 健康情況的文字分析 (影像) 從非結構化臨床文字中擷取和標記醫療資訊。 通用
語言服務 具名實體辨識影像 從文字擷取具名實體。 正式推出。
此容器也可以在 中斷連線的環境中執行。
語言服務 自訂具名實體辨識 (影像) 使用您使用資料建立的自訂模型,從文字擷取具名實體。 通用
語言服務 摘要(影像 摘要說明各種來源的文字。 公開預覽。
此容器也可以在 中斷連線的環境中執行。
翻譯工具 翻譯工具 (影像) 以多種語言和方言翻譯文字。 正式推出。 閘道 - 要求存取
此容器也可以在 中斷連線的環境中執行。

語音容器

服務 容器 描述 可用性
語音服務 API 語音轉文字 (影像) 將連續即時語音轉譯成文字。 正式推出。
此容器也可以在 中斷連線的環境中執行。
語音服務 API 自訂語音轉換文字 (影像) 使用自定義模型將連續即時語音轉譯成文字。 正式推出
此容器也可以在 中斷連線的環境中執行。
語音服務 API 神經文字轉換語音 (影像) 使用深度神經網路技術將文字轉換成自然語音,以允許更自然的合成語音。 正式推出。
此容器也可以在 中斷連線的環境中執行。
語音服務 API 語音語言辨識影像 決定口語音頻的語言。 預覽

視覺容器

服務 容器 描述 可用性
Azure AI 視覺 讀取 OCR影像 讀取 OCR 容器可讓您從影像和檔擷取印刷和手寫文字,並支援 JPEG、PNG、BMP、PDF 和 TIFF 檔案格式。 如需詳細資訊,請參閱 讀取 API 檔 正式推出。
此容器也可以在 中斷連線的環境中執行。
空間分析 空間分析影像 分析即時串流影片,以了解人員之間的空間關聯性、其移動,以及在實體環境中與對象互動。 預覽

此外,由多服務資源提供的 Azure AI 服務支援某些容器。 您可以建立單一的 Azure AI 服務全方位資源,並在支援的服務之間使用相同的計費金鑰來執行下列服務:

  • Azure AI 視覺
  • LUIS
  • 語言服務

必要條件

您必須先滿足下列必要條件,才能使用 Azure AI 容器:

Docker 引擎:您必須在本機安裝 Docker 引擎。 Docker 提供在 macOSLinuxWindows 上設定 Docker 環境的套件。 在 Windows 上,Docker 必須設定為支援 Linux 容器。 Docker 容器也可以直接部署到 Azure Kubernetes ServiceAzure 容器執行個體

Docker 必須設定為允許容器連線,並將帳單數據傳送至 Azure。

熟悉 Microsoft Container Registry 和 Docker:您應該對 Microsoft Container Registry 和 Docker 概念有基本的瞭解,例如登錄、存放庫、容器和容器映射,以及基本 docker 命令的知識。

如需 Docker 和容器基本概念的入門,請參閱 Docker 概觀

個別容器也可以有自己的需求,包括伺服器和記憶體配置需求。

Azure AI 服務容器安全性

每當您開發應用程式時,安全性應該是主要焦點。 安全性的重要性是成功計量。 當您建構包含 Azure AI 容器的軟體解決方案時,請務必瞭解可用的限制和功能。 如需網路安全性的詳細資訊,請參閱設定 Azure AI 服務虛擬網路

重要

根據預設,Azure AI 服務容器 API 不具備安全性。 原因是容器最常執行為 Pod 的一部分,而 Pod 會受到網路網橋保護。 不過,使用者可以建構自己的驗證基礎結構,以模擬存取雲端式 Azure AI 服務時所使用的驗證方法。

下圖說明預設和非安全性的方法:

Container security

作為替代且 安全 方法的範例,Azure AI 容器的取用者可以使用前端元件來增強容器,讓容器端點保持私人。 讓我們考慮一個使用 Istio 作為輸入閘道的案例。 Istio 支援 HTTPS/TLS 和用戶端憑證驗證。 在此案例中,Istio 前端會公開容器存取權,並顯示事先與 Istio 一起核准的客戶端憑證。

Nginx 是相同類別中的另一個熱門選擇。 Istio 和 Nginx 都可作為服務網格,並提供其他功能,包括負載平衡、路由和速率控制等專案。

容器網路功能

需要 Azure AI 容器才能提交計量資訊以供計費之用。 無法列出 Azure AI 容器所依賴的各種網路通道,將會防止容器運作。

允許列出 Azure AI 服務網域和連接埠

主機應允許列出連接埠 443 和下列網域:

  • *.cognitive.microsoft.com
  • *.cognitiveservices.azure.com

停用深層封包檢查

深度封包檢查 (DPI) 是一種資料處理方式,會詳細檢查透過電腦網路傳送的資料,而且通常會依檢查結果來採取封鎖、重新路由傳送或記錄等動作。

在 Azure AI 容器建立至 Microsoft 伺服器的安全通道上停用 DPI。 若無法這麼做,容器將無法正常運作。

開發人員範例

我們的 GitHub 存放庫提供開發人員範例。

下一步

深入了解您可搭配 Azure AI 服務使用的 容器配方

安裝並探索由 Azure AI 服務中的容器所提供的功能: