Co je služba Azure OpenAI?
Služba Azure OpenAI poskytuje rozhraní REST API přístup k výkonným jazykovým modelům OpenAI, včetně modelových řad GPT-4, GPT-4 Turbo s vision, GPT-3.5-Turbo a vložených modelů. Kromě toho nová řada modelů GPT-4 a GPT-3.5-Turbo dosáhla obecné dostupnosti. Tyto modely je možné snadno přizpůsobit konkrétnímu úkolu, a to včetně generování obsahu, shrnutí, porozumění obrázkům, sémantického vyhledávání a přirozeného jazyka na překlad kódu. Uživatelé mají přístup ke službě prostřednictvím rozhraní REST API, sady Python SDK nebo webového rozhraní v nástroji Azure OpenAI Studio.
Přehled funkcí
Funkce | Azure OpenAI |
---|---|
Dostupné modely | Řada GPT-4 (včetně GPT-4 Turbo s obrazem) ŘADA GPT-3.5-Turbo Vložené řady Další informace najdete na stránce Modely . |
Vyladění (Preview) | GPT-3.5-Turbo (0613) babbage-002 davinci-002 . |
Cena | K dispozici zde Podrobnosti o GPT-4 Turbo s vision najdete v speciálních informacích o cenách. |
Podpora virtuální sítě a podpora privátního propojení | Ano, pokud ve vašich datech nepoužíváte Azure OpenAI. |
Spravovaná identita | Ano, prostřednictvím Microsoft Entra ID |
Uživatelské rozhraní | Azure Portal pro správu účtů a prostředků, Azure OpenAI Service Studio pro zkoumání modelů a vyladění |
Regionální dostupnost modelu | Dostupnost modelu |
Filtrování obsahu | Výzvy a dokončení se vyhodnocují proti zásadám obsahu pomocí automatizovaných systémů. Obsah s vysokou závažností bude filtrován. |
Zodpovědná AI
V Microsoftu jsme se zavázali k pokroku umělé inteligence řízeného principy, které lidem dávají přednost. Generování modelů, jako jsou modely dostupné v Azure OpenAI, mají významné potenciální výhody, ale bez pečlivého návrhu a promyšleného zmírnění rizik mají tyto modely potenciál generovat nesprávný nebo dokonce škodlivý obsah. Společnost Microsoft významně investovala do ochrany před zneužitím a nezamýšleným poškozením, což zahrnuje žádosti žadatelů o zobrazení jasně definovaných případů použití, začlenění principů Microsoftu pro zodpovědné použití umělé inteligence, vytváření filtrů obsahu pro podporu zákazníků a poskytování zodpovědných pokynů k implementaci AI pro onboardované zákazníky.
Návody získat přístup k Azure OpenAI?
Návody získat přístup k Azure OpenAI?
Access je v současné době omezený, protože procházíme vysokou poptávkou, nadcházejícími vylepšeními produktů a závazkem Microsoftu k zodpovědné umělé inteligenci. Prozatím pracujeme se zákazníky, kteří již mají navázané partnerství se společností Microsoft, mají případy použití s nižším rizikem nebo se zavázali začlenit zmírnění rizik.
Podrobnější informace najdete ve formuláři žádosti. Vážíme si vaší trpělivosti, protože pracujeme na zodpovědném povolení širšího přístupu k Azure OpenAI.
Pokud chcete získat přístup, použijte toto:
Porovnání Azure OpenAI a OpenAI
Služba Azure OpenAI poskytuje zákazníkům pokročilou jazykovou AI s využitím OpenAI GPT-4, GPT-3, Codex, DALL-E, Whisper a textových modelů s využitím zabezpečení a podnikového příslibu Azure. Azure OpenAI společně vyvíjí rozhraní API s OpenAI a zajišťuje kompatibilitu a hladký přechod z jednoho na druhý.
Zákazníci s Azure OpenAI získají možnosti zabezpečení Microsoft Azure a zároveň spouštět stejné modely jako OpenAI. Azure OpenAI nabízí privátní sítě, regionální dostupnost a zodpovědné filtrování obsahu AI.
Klíčové koncepty
Výzvy a dokončení
Koncový bod dokončení je základní komponentou služby API. Toto rozhraní API poskytuje přístup k textovému rozhraní modelu. Uživatelé jednoduše potřebují zadat vstupní výzvu obsahující příkaz anglického textu a model vygeneruje dokončování textu.
Tady je příklad jednoduché výzvy a dokončení:
Výzva:
""" count to 5 in a for loop """
Dokončení:
for i in range(1, 6): print(i)
Tokeny
Textové tokeny
Azure OpenAI zpracovává text tím, že ho rozdělí na tokeny. Tokeny můžou být slova nebo jen bloky znaků. Například slovo "hamburger" se rozdělí na tokeny "ham", "bur" a "ger", zatímco krátké a běžné slovo jako "hrušeň" je jediný token. Mnoho tokenů začíná prázdnými znaky, například "hello" a "bye".
Celkový počet tokenů zpracovaných v daném požadavku závisí na délce vstupu, výstupu a parametrů požadavku. Množství zpracovávaných tokenů ovlivní také latenci a propustnost odpovědí pro modely.
Tokeny obrázků (GPT-4 Turbo s vision)
Náklady na token vstupního obrázku závisí na dvou hlavních faktorech: velikosti obrázku a nastavení podrobností (nízké nebo vysoké) použité pro každý obrázek. Tady je rozpis toho, jak funguje:
Podrobnosti: Režim nízkého rozlišení
- Nízké podrobnosti umožňují rozhraní API vracet rychlejší odpovědi a využívat méně vstupních tokenů pro případy použití, které nevyžadují vysokou úroveň podrobností.
- Tyto obrázky stojí 85 tokenů, a to bez ohledu na velikost obrázku.
- Příklad: 4096 x 8192 obrázek (nízký detail):: Náklady jsou pevné 85 tokenů, protože se jedná o obrázek s nízkými podrobnostmi a velikost nemá vliv na náklady v tomto režimu.
Podrobnosti: Režim vysokého rozlišení
- Rozhraní API s velkými podrobnostmi umožňuje zobrazit obrázek podrobněji tak, že ho oříznou na menší čtverce. Každý čtverec používá k vygenerování textu více tokenů.
- Náklady na token se počítají podle řady kroků škálování:
- Obrázek je nejprve škálován tak, aby se vešl do čtverce 2048 x 2048 při zachování poměru stran.
- Obrázek se pak škáluje dolů, aby nejkratší strana byla dlouhá 768 pixelů.
- Obrázek je rozdělený na čtvercové dlaždice o rozměrech 512 pixelů a počet těchto dlaždic (zaokrouhlování pro částečné dlaždice) určuje konečné náklady. Každá dlaždice stojí 170 tokenů.
- Do celkových nákladů se přidá dalších 85 tokenů.
- Příklad: 2048 x 4096 obrázek (vysoký detail)
- Původně se změnila velikost na 1024 x 2048 tak, aby se vešla do čtverce 2048.
- Velikost byla dále změněna na 768 x 1536.
- K pokrytí vyžaduje šest dlaždic 512 pixelů.
- Celkové náklady jsou
170 × 6 + 85 = 1105
tokeny.
Zdroje informací
Azure OpenAI je nová nabídka produktů v Azure. S Azure OpenAI můžete začít stejným způsobem jako s jakýmkoli jiným produktem Azure, ve kterém ve svém předplatném Azure vytvoříte prostředek nebo instanci služby. O návrhu správy prostředků Azure si můžete přečíst další informace.
Nasazení
Jakmile vytvoříte prostředek Azure OpenAI, musíte model nasadit, abyste mohli začít volat rozhraní API a generovat text. Tuto akci je možné provést pomocí rozhraní API pro nasazení. Tato rozhraní API umožňují určit model, který chcete použít.
Vytváření efektivních dotazů
Modely GPT-3, GPT-3.5 a GPT-4 z OpenAI jsou založené na příkazovém řádku. S modely založenými na dotazech uživatel komunikuje zadáním textového dotazu, na který model reaguje doplněním textu. Toto dokončení je pokračováním modelu vstupního textu.
I když jsou tyto modely mimořádně výkonné, jejich chování je také velmi citlivé na konkrétní dotazy. Díky tomu je příprava výzvy důležitou dovedností k vývoji.
Konstrukce výzvy může být obtížná. V praxi se výzva chová ke konfiguraci hmotností modelu tak, aby dokončila požadovaný úkol, ale je to spíše umění než věda, která často vyžaduje zkušenosti a instinkt k vytvoření úspěšné výzvy.
Modely
Služba poskytuje uživatelům přístup k několika různým modelům. Každý model poskytuje jinou funkci a cenový bod.
Modely DALL-E (některé ve verzi Preview; viz modely) generují obrázky z textových výzev, které uživatel poskytuje.
Modely Šeptání lze použít k přepisu a překladu řeči na text.
Text na řečové modely, které jsou aktuálně ve verzi Preview, lze použít k syntetizaci textu na řeč.
Další informace o jednotlivých modelech najdete na stránce konceptů modelů.
Další kroky
Přečtěte si další informace o základních modelech, které power Azure OpenAI.