什麼是 Azure OpenAI 服務？
Azure OpenAI 服務提供 REST API 存取 OpenAI 的強大語言模型，包括 GPT-4、GPT-4 Turbo 與視覺、GPT-3.5-Turbo 和內嵌模型系列。 此外，新的 GPT-4 和 GPT-3.5-Turbo 模型系列現已正式推出。 這些模型可以輕鬆地適應您的特定工作，包括但不限於內容產生、摘要、影像理解、語意搜尋，以及程式代碼翻譯的自然語言。 用戶可以透過 AZURE OpenAI Studio 中的 REST API、Python SDK 或 Web 型介面來存取服務。
功能概觀
| 功能 | Azure OpenAI |
|---|---|
| 可用的模型 | GPT-4 系列（包括 GPT-4 Turbo with Vision） GPT-3.5-Turbo 系列 內嵌系列 在我們的 [模型] 頁面中深入瞭解。 |
| 微調 （預覽） | GPT-3.5-Turbo (0613) babbage-002 davinci-002. |
| 價格 | 這裡提供 如需 GPT-4 Turbo with Vision 的詳細資訊，請參閱 特殊定價資訊。 |
| 虛擬網路支援和私人連結支援 | 是，除非您在資料上使用 Azure OpenAI。 |
| 受控識別 | 是，透過 Microsoft Entra 識別碼 |
| UI 體驗 | Azure 入口網站 帳戶和資源管理， 適用於模型探索和微調的 Azure OpenAI Service Studio |
| 建立區域可用性模型 | 模型可用性 |
| 內容篩選 | 系統會使用自動化系統，根據我們的內容原則評估提示和完成。 將會篩選高嚴重性內容。 |
負責 AI
在 Microsoft 中，我們致力於 AI 的推進，其原則將人員放在首位。 Azure OpenAI 中可用的生產力模型具有顯著的潛在優點，但是若沒有仔細設計和謹慎的緩和措施，這類模型可能會產生不正確或甚至是有害的內容。 Microsoft 已進行大量投資，以協助防範濫用和意外傷害，其中包括要求申請人顯示定義完善的使用案例、納入 Microsoft 負責任 AI 使用的原則、建置內容篩選器以支持客戶，以及為上線客戶提供負責任的 AI 實作指引。
如何? 取得 Azure OpenAI 的存取權？
如何? 存取 Azure OpenAI 嗎？
存取權目前有限，因為我們瀏覽高需求、即將推出的產品改進，以及 Microsoft 對於負責任 AI 的承諾。 目前，我們會與 Microsoft 存在現有合作關係的客戶、較低風險的使用案例，以及致力於納入風險降低措施的客戶合作。
申請表單中包含更具體的資訊。 我們很感謝您的耐心，因為我們努力負責任地促成對 Azure OpenAI 的更廣泛存取。
請在這裡套用以存取：
比較 Azure OpenAI 和 OpenAI
Azure OpenAI 服務為客戶提供具有 OpenAI GPT-4、GPT-3、Codex、DALL-E、Whisper 和文字到語音轉換模型的進階語言 AI，以及 Azure 的安全性和企業承諾。 Azure OpenAI 會與 OpenAI 共同開發 API，確保從一個到另一個的相容性和順暢的轉換。
透過 Azure OpenAI，客戶可享有 Microsoft Azure 的安全性功能，同時執行與 OpenAI 相同的模型。 Azure OpenAI 提供專用網、區域可用性，以及負責任的 AI 內容篩選。
重要概念
提示和完成
完成端點是 API 服務的核心元件。 此 API 可提供存取模型的文字輸入、輸出介面。 使用者只需要提供包含英文文字命令的輸入 提示 ，模型就會產生文字 完成。
以下是簡單提示和完成的範例：
提示：
""" count to 5 in a for loop """完成：
for i in range(1, 6): print(i)
語彙基元
文字令牌
Azure OpenAI 會藉由將文字分解成語彙基元來處理文字。 語彙基元可以是字組或字元區塊。 例如，「漢堡」一詞會分解成標記 「ham」、“bur” 和 “ger”，而 “pear” 之類的簡短且常見的單一文字則為單一標記。 許多令牌都是以空格符開頭，例如 「hello」 和 「bye」。
指定要求中處理的令牌總數取決於您的輸入、輸出和要求參數長度。 正在處理的令牌數量也會影響模型的回應延遲和輸送量。
影像令牌 （GPT-4 Turbo with Vision）
輸入影像的令牌成本取決於兩個主要因素：影像大小和每個影像所使用的詳細數據設定（低或高）。 以下是其運作方式的明細：
詳細數據：低解析度模式
- 低詳細數據可讓 API 傳回更快的回應，並針對不需要高詳細數據的使用案例，取用較少的輸入令牌。
- 不論映射大小為何，這些映射各花費85個令牌。
- 範例：4096 x 8192 影像（低詳細數據）：成本是固定的85個令牌，因為它是較低的詳細數據影像，而且大小不會影響此模式的成本。
詳細數據：高解析度模式
- 高詳細數據可讓 API 將影像裁剪成較小的方塊，以更詳細地查看影像。 每個方塊都會使用更多標記來產生文字。
- 令牌成本是由一系列調整步驟所計算：
- 影像會先縮放以符合 2048 x 2048 平方，同時維持其外觀比例。
- 接著會縮小影像，使最短的一邊長 768 圖元。
- 影像分成 512 像素的方形磚，而這些磚的數目會決定最終成本。 每個磚成本170個令牌。
- 額外的85個令牌會新增至總成本。
- 範例：2048 x 4096 影像（高詳細數據）
- 最初調整為 1024 x 2048，以符合 2048 平方。
- 進一步調整為 768 x 1536。
- 需要六個 512px 磚才能涵蓋。
- 總成本是
170 × 6 + 85 = 1105令牌。
資源
Azure OpenAI 服務是 Azure 上的新產品供應項目。 您可以使用與任何其他 Azure 產品一樣的方式來開始使用 Azure OpenAI ，一樣可以在 Azure 訂用帳戶中建立資源或服務的執行個體。 您可以深入瞭解 Azure 的資源管理設計。
部署
建立 Azure OpenAI 資源之後，您必須先部署模型，才能開始進行 API 呼叫和產生文字。 您可以使用部署 API 來完成此動作。 這些 API 可讓您指定要使用的模型。
提示工程
來自 OpenAI 的 GPT-3、GPT-3.5 和 GPT-4 模型是以提示為基礎。 使用提示型模型時，使用者要輸入文字提示來與模型進行互動，而模型會使用文字完成對文字提示進行回應。 此完成是模型的輸入文字接續。
雖然這些模型非常強大，但其行為也會對提示非常敏感。 這可讓提示工程成為開發的重要技能。
提示建構可能很困難。 在實務上，提示用來設定模型權數以完成所需的工作，但它比較是藝術而不是科學，通常需要體驗和直覺來製作成功的提示。
模型
此服務可讓使用者存取數個不同的模型。 每個模型都提供不同的功能和價格點。
DALL-E 模型（部分處於預覽狀態;請參閱 模型）從使用者提供的文字提示產生影像。
Whisper 模型可用來將語音轉譯和翻譯為文字。
目前處於預覽狀態的文字到語音轉換模型可用來合成文字到語音轉換。
在模型 概念頁面上深入瞭解每個模型。