Azure OpenAI 服務常見問題集

Azure OpenAI 不會使用客戶資料來重新訓練模型。 如需詳細資訊，請參閱 Azure OpenAI 資料、隱私權和安全性指南。

最新版的 OpenAI Python 連結庫支援 Azure OpenAI（version>=1.0）。 不過，請務必注意不支援使用 openai migrate 的程式代碼基底移轉，且不適用於以 Azure OpenAI 為目標的程式代碼。

GPT-4 Turbo Preview 是 gpt-4 （1106-preview） 模型。 若要部署此模型，請在 [部署] 底下，選取模型 [gpt-4]。 針對 [ 模型版本 ] 選取 [1106-preview]。 若要檢查此模型可用的區域，請參閱 模型頁面。

Azure OpenAI 支援最新的 GPT-4 模型。 它同時支援 GPT-4 和 GPT-4-32K。

Azure OpenAI 服務為客戶提供具有 OpenAI GPT-3、Codex 和 DALL-E 模型的進階語言 AI，以及 Azure 的安全性和企業承諾。 Azure OpenAI 會與 OpenAI 共同開發 API，確保從一個到另一個的相容性和順暢的轉換。

透過 Azure OpenAI，客戶可享有 Microsoft Azure 的安全性功能，同時執行與 OpenAI 相同的模型。

是，作為 Azure AI 服務的一部分，Azure OpenAI 支援 VNET 和私人端點。 若要深入瞭解，請參閱 Azure AI 服務虛擬網路指引。

否，GPT-4 是由 OpenAI 設計成多模式，但目前僅支援文字輸入和輸出。

先前，新增使用案例的流程需要客戶重新申請服務。 現在，我們推出新的流程，讓您快速新增使用案例以使用服務。 此流程遵循 Azure AI 服務內已建立的有限存取流程。 現有的客戶可以在這裡證明任何和所有新的使用案例。 請注意，每當您想要針對您原本未申請的新使用案例使用服務時，都需要這樣做。

此錯誤通常發生在嘗試傳送一批文字以將單一 API 要求內嵌為陣列時。 Azure OpenAI 目前僅支援具有 text-embedding-ada-002 版本 2 模型的多個輸入的內嵌陣列。 此模型版本支援每個 API 要求最多 16 個輸入組成的陣列。 使用 text-embedding-ada-002（第 2 版）模型時，陣列長度最多可達 8,191 個標記。

請查看我們的 提示工程簡介。 雖然這些模型很強大，但他們的行為也會對使用者收到的提示非常敏感。 這可讓提示建構成為開發的重要技能。 完成簡介之後，請查看我們關於進階提示工程技術的文章。

使用 Azure OpenAI Studio 的預設登入體驗時，這是預期的行為。

若要從已授與 Azure OpenAI 資源存取權的來賓帳戶存取 Azure OpenAI Studio：

1. 請開啟 InPrivate 瀏覽器工作階段，瀏覽至 https://oai.azure.com。
2. 而不是立即輸入您的來賓帳戶認證，而是選取 Sign-in options
3. 現在，選取 [登入組織]
4. 輸入授與來賓帳戶存取 Azure OpenAI 資源的組織網域名稱。
5. 現在，使用您的來賓帳戶認證登入。

您現在應能透過 Azure OpenAI Studio 存取資源。

或者，如果您已從 Azure OpenAI 資源的 [概觀] 窗格登入 Azure 入口網站，您可以選取 [移至 Azure OpenAI Studio] 以使用適當的組織內容自動登入。

Azure OpenAI 模型（包括 GPT-4）無法正確識別正在執行的模型是預期的行為。

為什麼會發生此情況？

最後，模型會執行下一個 令牌 預測，以回應您的問題。 此模型沒有任何原生功能可查詢目前正在執行的模型版本，以回答您的問題。 若要回答這個問題，您隨時可以移至 Azure OpenAI Studio>管理>部署>，並參閱模型名稱數據行，以確認目前與指定部署名稱相關聯的模型。

問題：「您正在執行哪個模型？」或「OpenAI 的最新模型為何？」會產生類似的質量結果，詢問模型今天的天氣情況為何。 它可能會傳回正確的結果，但純粹是偶然的。 模型本身沒有真實世界的資訊，除了其定型/定型數據的一部分之外。 在 GPT-4 的情況下，截至 2023 年 8 月，基礎訓練數據只會在 2021 年 9 月為止。 GPT-4 直到 2023 年 3 月才發行，因此，除非 OpenAI 發行具有更新訓練數據的新版本，或微調以回答這些特定問題的新版本，GPT-4 預期的行為會回應 GPT-3 是 OpenAI 的最新模型版本。

如果您想要協助 GPT 型模型正確回應「您執行哪一個模型？」的問題，您必須透過模型系統訊息的提示工程、擷取擴增產生 （RAG） 等技術，將資訊提供給模型，這是 Azure OpenAI 在查詢時將最新資訊插入系統訊息的數據上使用的技術。 或透過微調，您可以微調模型的特定版本，以特定方式根據模型版本回答該問題。

若要深入瞭解如何定型 GPT 模型並運作，建議您觀看 Andrej Karpathy 關於 GPT 狀態組建 2023 的演講。

這是預期行為。 模型無法回答自己的問題。 如果您想要知道模型定型數據的知識截止時間，請參閱 模型頁面。

這是預期行為。 首先，不保證每個最近的事件都是模型定型數據的一部分。 即使資訊是定型數據的一部分，而不使用其他技術，例如擷取增強產生 （RAG） 來協助將模型的回應固定在地上，也總是可能發生未設定前景的回應。 Azure OpenAI 都會 使用您的數據功能和Bing 聊天 使用 Azure OpenAI 模型與擷取擴增世代結合，以協助進一步的地面模型回應。

定型數據中出現特定資訊片段的頻率，也可能會影響模型以特定方式回應的可能性。

詢問最新的GPT-4渦輪預覽模型，有關最近改變的東西，如“神秘 是紐西蘭總理？”，可能會產生捏造的反應Jacinda Ardern。 然而，問模型「何時 Jacinda Ardern 辭去總理？傾向於產生精確的回應，示範定型數據知識至少到 2023 年 1 月。

因此，雖然可以透過問題來探查模型，以猜測其定型數據知識截止， 但模型的頁面 是檢查模型知識截斷的最佳位置。

舊版定價資訊可透過 可下載的 PDF 檔案取得。 如需所有其他模型，請參閱 官方定價頁面。

您可以將提示的溫度降到小於 1，並確保使用用戶端搭配重試邏輯，以最小化這些錯誤的發生次數。 重新嘗試要求通常會導致回應成功。

如果服務執行處理，即使您的狀態代碼未成功（不是 200），您仍需支付費用。 常見的範例包括：內容篩選或輸入限制所造成的 400 錯誤，或因逾時而發生 408 錯誤。 當 收到 具有 finish_reason 的 content_filter時status 200，也會發生費用。 在此情況下，提示沒有任何問題，但偵測到模型所產生的完成違反了導致篩選完成的內容篩選規則。 如果服務未執行處理，則不會向您收費。 例如，401 錯誤是因為驗證或 429 錯誤，因為超過速率限制。

存取權目前有限，因為我們對高需求、即將推出的產品改進，以及 Microsoft 對負責任 AI 的承諾。 目前，我們會與 Microsoft 存在現有合作關係的客戶、較低風險的使用案例，以及致力於納入風險降低措施的客戶合作。 在這裡申請初始存取： 立即套用

我們目前不提供存取核准的時間軸。

若要了解每月更新，請參閱我們的新功能頁面。

請參閱我們的 Azure OpenAI 訓練課程簡介。

• 建議您在 Microsoft Q&A 上張貼問題。
• 或者，您可以在 Stack Overflow 上張貼問題。

Azure OpenAI 是 Azure AI 服務的一部分。 您可以在支援和協助選項指南中了解 Azure AI 服務的所有支援選項。

請參閱 Azure OpenAI 模型可用性指南。

如需區域可用性，請參閱 Azure OpenAI 模型可用性指南。

若要成功存取微調，您需要指派認知服務 OpenAI 參與者。 即使是具有高階服務 管理員 istrator 許可權的人員仍然需要明確設定此帳戶，才能存取微調。 如需詳細資訊，請檢閱 角色型訪問控制指引。

基本模型是未針對特定使用案例自訂或微調的模型。 微調模型是基本模型的自訂版本，其中模型的權數會以一組唯一的提示來訓練。 微調模型可讓您在更多工作上達到更好的結果，而不需要在完成提示中提供詳細的情境中學習範例。 若要深入了解，請檢閱我們的微調指南。

100

我們目前沒有定義的 API 回應時間服務等級協定 (SLA)。 如需 Azure OpenAI 服務 SLA 的詳細資訊，請參閱 在線服務的服務等級協定 （SLA） 頁面。

如果已部署自定義的（微調）模型超過15天，且該模型不會進行完成或聊天完成呼叫，則會自動刪除部署（而且該部署不會產生任何進一步的裝載費用）。 基礎自定義模型仍可供使用，隨時可重新部署。 若要深入瞭解，請參閱 操作說明文章。

目前有兩個不同的 REST API 允許模型部署。 針對最新的模型部署功能，例如在部署期間為 text-embedding-ada-002 版本 2 等模型指定模型版本的功能，請使用部署 - 建立或更新 REST API 呼叫。

否，配額令牌每分鐘 （TPM） 配置與模型的最大輸入令牌限制無關。 模型輸入令牌限制是在模型數據表中定義，而且不會受到對 TPM 所做的變更影響。

否，我們目前不支援微調 GPT-4 的影像功能。

否，您可以使用 dall-e-3 來產生影像和 gpt-4-visual-preview 瞭解影像。

我們目前支援 PNG （.png）、JPEG （.jpeg 和 .jpg）、WEBP （.webp） 和非動畫 GIF （.gif）。

是，我們會將每個影像的影像上傳限制為 20 MB。

否，在模型處理映射之後，我們會自動為您刪除該映像。

我們會在令牌層級處理映射，因此我們處理的每個映像都會計入您的令牌每分鐘 （TPM） 限制。 如需用來判斷每個影像令牌計數的公式詳細數據，請參閱概觀的映像令牌一節。

否，模型不會接收影像元數據。

如果影像模棱兩可或不清楚，模型會盡最大努力解譯它。 不過，結果可能較不精確。 良好的經驗法則是，如果平均人類無法在低/高解析度模式中使用的解析度看到影像中的資訊，則模型也不能。

請參閱 GPT-4 Turbo with Vision 概念指南的限制一節。

您可以在 Azure 入口網站中自訂已發佈的 Web 應用程式。 已發佈的 Web 應用程式原始程式碼可在 GitHub 上取得，您可以在其中找到變更應用程式前端的相關資訊，以及建置及部署應用程式的指示。

當您更新應用程式時，不會覆寫您的應用程式程序代碼。 應用程式會更新為使用 Azure OpenAI 資源、Azure AI 搜尋索引（如果您在數據上使用 Azure OpenAI），以及在 Azure OpenAI Studio 中選取的模型設定，而不需要變更外觀或功能。

以自有資料為基礎的 Azure OpenAI 是 Azure OpenAI 服務的一項功能，可協助組織使用其指定的資料來源產生自訂深入解析、內容和搜尋。 而且可與 Azure OpenAI 中的 OpenAI 模型功能搭配使用，以自然語言提供更精確的相關回應給使用者查詢。 以自有資料為基礎的 Azure OpenAI 可以與客戶現有的應用程式和工作流程整合、提供關鍵效能指標的深入解析，並可順暢地與使用者互動。

所有 Azure OpenAI 客戶都可以透過 Azure AI Studio 和 Rest API 使用以自有資料為基礎的 Azure OpenAI。

您數據的 Azure OpenAI 支援從 Azure AI 搜尋服務擷取、Azure Blob 儲存體，以及上傳本機檔案。 您可以透過概念文章和快速入門深入了解以自有資料為基礎的 Azure OpenAI。

在數據上使用 Azure OpenAI 時，當您使用 Azure AI 搜尋、Azure Blob 儲存體、Azure Web App Service、語意搜尋和 OpenAI 模型時，會產生成本。 在 Azure AI Studio 中使用「您的數據」功能不需要額外費用。

您可以使用 GitHub 上提供的指令碼自行準備索引。 使用此腳本會建立 Azure AI 搜尋服務索引，其中包含充分利用數據所需的所有資訊，並將文件細分為可管理的區塊。 如需執行方法的詳細資料，請參閱具有資料準備程式碼的讀我檔案。

您可以 排程自動索引重新整理，或將其他數據上傳至 Azure Blob 容器，並在建立新的索引時使用它作為數據源。 新的索引會包含容器中的所有資料。

如需支援檔案類型的詳細資訊，請參閱使用您的資料。

是，以自有資料為基礎的 Azure OpenAI 是 Azure OpenAI 服務的一部分，可與 Azure OpenAI 中可用的模型搭配使用。 Azure OpenAI 的內容篩選和濫用監視功能仍適用。 如需詳細資訊，請參閱 Azure OpenAI 模型的 負責任 AI 做法概觀和 Azure OpenAI 的透明度附注，以取得在數據上負責任地使用 Azure OpenAI 的額外指引。

是，系統訊息上的令牌限製為400。 如果系統訊息超過 400 個令牌，則會忽略前 400 個以外的其餘令牌。 這項限制僅適用於數據功能上的 Azure OpenAI。

您數據上的 Azure OpenAI 目前不支援函式呼叫。

您必須以相同語言的資料傳送查詢。 您的數據可以是 Azure AI 搜尋所支援的任何語言。

當您選取 [Azure AI 搜尋] 作為數據源時，您可以選擇套用語意搜尋。 如果選取 [Azure Blob 容器] 或 [上傳檔案] 作為資料來源，您可以像往常一樣建立索引。 之後，您將使用 [Azure AI 搜尋] 選項重新內嵌數據，以選取相同的索引並套用語意搜尋。 然後，您便準備好使用套用語意搜尋的資料聊天。

當您選取 [Azure Blob 容器]、[Azure AI 搜尋] 或 [上傳檔案] 作為數據源時，您也可以選取 Ada 內嵌模型部署，以在內嵌數據時使用。 這會建立具有向量內嵌的 Azure AI 搜尋服務索引。

如果 Ada 內嵌模型部署的速率限制太低，或您有一組非常大的檔，則索引建立可能會失敗。 您可以使用 GitHub 上提供的此腳本，以手動內嵌來建立索引。

客戶著作權承諾書是一項規定，包含在 2023 年 12 月 1 日的 Microsoft 產品條款中，其中說明 Microsoft 有義務保護客戶免受與輸出內容相關的特定第三方智慧財產權索賠。 如果宣告的主體是 Azure OpenAI 服務所產生的輸出內容（或任何其他允許客戶設定安全系統的涵蓋產品），則客戶必須已在提供輸出內容之供應專案中實作 Azure OpenAI 服務檔所需的所有風險降低措施。 此處記載必要的風險降低措施，並持續更新。 對於新的服務、功能、模型或使用案例，新的 CCC 需求會在這類服務、功能、模型或使用案例的啟動之後發佈並生效。 否則，客戶會在發行時有六個月的時間，以實作新的風險降低措施，以維護 CCC 下的涵蓋範圍。 如果客戶提出索賠，客戶必須證明符合相關需求的規範。 涵蓋產品需要這些風險降低措施，可讓客戶設定安全系統，包括 Azure OpenAI 服務;它們不會影響使用其他涵蓋產品的客戶涵蓋範圍。

下一步

• Azure OpenAI 配額和限制
• Azure OpenAI 新功能
• Azure OpenAI 快速入門