Share via


如何使用 Azure AI Studio 部署 Azure OpenAI 模型

注意

Azure AI Studio 目前為公開預覽狀態。 此預覽版本沒有服務等級協定,不建議將其用於生產工作負載。 可能不支援特定功能,或可能已經限制功能。 如需詳細資訊,請參閱 Microsoft Azure 預覽版增補使用條款

Azure OpenAI 服務提供具有不同功能和價格點的多種模型集合。 模型供應情形因區域而異 您可以在 Azure AI Studio 中建立 Azure OpenAI 模型部署,並透過提示流程或您慣用的工具加以取用。 若要深入了解每個模型的詳細資料,請參閱 Azure OpenAI 服務模型

從模型目錄中部署 Azure OpenAI 模型

若要在 Azure AI Studio 遊樂場 中修改 Azure OpenAI 模型並與它互動,您需要先將基本 Azure OpenAI 模型部署到您的專案中。 一旦模型在您的專案中進行部署並且可用之後,您就可以按原樣取用其 REST API 端點,或使用您自己的資料和其他元件 (內嵌、索引等) 做進一步的自訂。

  1. 選擇您想要從 Azure AI Studio 模型目錄中部署的模型。 或者,您也可以從 your project>deployments 中選取 [+ 建立] 來起始部署

  2. 在模型卡詳細資料頁面上對專案選取 [部署]

  3. 選擇您要將該模型部署到其中的專案。 針對 Azure OpenAI 模型,Azure AI 內容安全篩選器會自動開啟。

  4. 選取部署

  5. 您登陸了遊樂場。 選取 [檢視程式碼],以取得可用來取用應用程式中已部署模型的程式碼範例。

模型的區域可用性和配額限制

針對 Azure OpenAI 模型,模型的預設配額會因模型和區域而異。 某幾個模型可能僅適用於某些區域。 如需詳細資訊,請參閱 Azure OpenAI 服務配額和限制 (部分機器翻譯)。

部署和推斷模型的配額

針對 Azure OpenAI 模型,部署和推斷是依每區域每模型為基礎,以每分鐘權杖 (TPM) 為單位而將取用配額指派至您的訂用帳戶中。 當您註冊 Azure AI Studio 時,會收到大部分可用模型的預設配額。 然後,在建立部署將 TPM 指派給每個部署,而該模型的可用配額則會隨著該數量而減少。 您可以繼續建立部署並指派 TPM 給部署,直到達到配額限制為止。

一旦發生這種情況,您只能透過下列方式建立該模型的新部署:

若要深入了解配額,請參閱 Azure AI Studio 配額以及管理 Azure OpenAI 服務配額 (部分機器翻譯)。

下一步