Mi az Az Azure OpenAI Szolgáltatás?

Az Azure OpenAI szolgáltatás REST API-hozzáférést biztosít az OpenAI hatékony nyelvi modelljeihez, beleértve a GPT-4, a GPT-4 Turbo with Vision, a GPT-3.5-Turbo és az Embeddings modellsorozatot. Emellett az új GPT-4 és GPT-3.5-Turbo modellsorozat általánosan elérhető lett. Ezek a modellek könnyen adaptálhatók az adott feladathoz, beleértve a tartalomgenerálást, az összegzést, a képfelismerést, a szemantikai keresést és a természetes nyelvet a kódfordításhoz. A felhasználók REST API-kkal, Python SDK-val vagy az Azure OpenAI Studióban található webes felületünkön keresztül érhetik el a szolgáltatást.

Funkciók áttekintése

Szolgáltatás	Azure OpenAI
Elérhető modellek	GPT-4 sorozat (beleértve a GPT-4 Turbo with Vision) GPT-3.5-Turbo sorozat Beágyazási sorozat További információ a Modellek oldalon.
Finomhangolás (előzetes verzió)	GPT-3.5-Turbo (0613) babbage-002 davinci-002.
Ár	Itt érhető el A GPT-4 Turbo with Vision szolgáltatással kapcsolatos részletekért tekintse meg a speciális díjszabási információkat.
Virtuális hálózat támogatása és privát kapcsolat támogatása	Igen, kivéve, ha az Azure OpenAI-t használja az adatain.
Felügyelt identitás	Igen, a Microsoft Entra-azonosítón keresztül
Felhasználói felület	Azure Portal fiók- és erőforrás-kezeléshez, Azure OpenAI Service Studio modellfeltáráshoz és finomhangoláshoz
Modell regionális rendelkezésre állása	Modell rendelkezésre állása
Tartalomszűrés	A kérések és kiegészítések kiértékelése a tartalomszabályzatunk alapján történik automatizált rendszerekkel. A rendszer szűri a nagy súlyosságú tartalmakat.

Felelős AI

A Microsoftnál elkötelezettek vagyunk a mesterséges intelligencia fejlődése mellett, amelyet az emberek elé helyező alapelvek vezérelnek. Az Azure OpenAI-ban elérhető generatív modellek jelentős potenciális előnyökkel járnak, de gondos tervezés és átgondolt megoldások nélkül az ilyen modellek helytelen vagy akár káros tartalmakat is eredményezhetnek. A Microsoft jelentős beruházásokat hajtott végre a visszaélések és a nem szándékos károk elleni védelem érdekében, amely magában foglalja a kérelmezők számára a jól meghatározott használati esetek bemutatását, a Microsoft felelősségteljes AI-használatra vonatkozó alapelveinek beépítését, a tartalomszűrők készítését az ügyfelek támogatásához, valamint felelős migrálási útmutatást ad az előkészített ügyfeleknek.

Hogyan hozzáférni az Azure OpenAI-hoz?

Hogyan hozzáférni az Azure OpenAI-hoz?

A hozzáférés jelenleg korlátozott, mivel nagy a kereslet, közelgő termékfejlesztések és a Microsoft elkötelezettsége a felelős AI iránt. Egyelőre a Microsofttal meglévő partneri viszonyban lévő ügyfelekkel, az alacsonyabb kockázatú használati esetekkel és a kárenyhítési lépések beépítése mellett elkötelezett ügyfelekkel dolgozunk.

Részletesebb leírást a jelentkezési lapon talál. Nagyra értékeljük türelmét, mivel felelősségteljesen szeretnénk szélesebb körű hozzáférést biztosítani az Azure OpenAI-hoz.

Itt érheti el a következőt:

Alkalmazás most

Az Azure OpenAI és az OpenAI összehasonlítása

Az Azure OpenAI szolgáltatás speciális nyelvi AI-t biztosít az ügyfeleknek az OpenAI GPT-4, GPT-3, Codex, DALL-E, Whisper és szöveg beszédmodellekkel az Azure biztonsági és vállalati ígéretével. Az Azure OpenAI az OpenAI-val közösen fejleszti az API-kat, biztosítva a kompatibilitást és az egyikről a másikra való zökkenőmentes átmenetet.

Az Azure OpenAI-val az ügyfelek a Microsoft Azure biztonsági képességeit kapják, miközben ugyanazokat a modelleket futtatják, mint az OpenAI. Az Azure OpenAI privát hálózatkezelést, regionális rendelkezésre állást és felelős AI-tartalomszűrést kínál.

Fő fogalmak

Kérések > kitöltések

A befejezési végpont az API-szolgáltatás fő összetevője. Ez az API hozzáférést biztosít a modell szövegbeviteli, szövegkiírási felületéhez. A felhasználóknak egyszerűen meg kell adniuk az angol szöveg parancsot tartalmazó bemeneti kérést, és a modell szövegkimenetet hoz létre.

Íme egy példa egy egyszerű kérdésre és befejezésre:

Kérdés: """ count to 5 in a for loop """

Befejezés: for i in range(1, 6): print(i)

Tokenek

Szöveges jogkivonatok

Az Azure OpenAI a jogkivonatokra lebontva dolgozza fel a szöveget. A tokenek lehetnek szavak vagy csak karaktersorozatok. A "hamburger" szó például a "sonka", a "bur" és a "ger" jogkivonatra oszlik, míg egy rövid és gyakori szó, mint a "körte" egyetlen token. Számos jogkivonat egy szóközzel kezdődik, például " hello" és "bye".

Az adott kérésben feldolgozott tokenek teljes száma a bemeneti, kimeneti és kérési paraméterek hosszától függ. A feldolgozott jogkivonatok mennyisége a modellek válaszkésésén és átviteli sebességén is hatással lesz.

Kép jogkivonatok (GPT-4 Turbo és Vision)

A bemeneti rendszerkép tokenköltsége két fő tényezőtől függ: a kép méretétől és az egyes képekhez használt részletes beállítástól (alacsony vagy magas). Az alábbiakban bemutatjuk, hogyan működik:

• Részlet: Alacsony felbontású mód

  • Az alacsony részletesség lehetővé teszi, hogy az API gyorsabb válaszokat adjon vissza, és kevesebb bemeneti jogkivonatot használjon fel olyan használati esetekhez, amelyekhez nincs szükség nagy részletességre.
  • Ezek a képek 85 jogkivonatba kerülnek, a kép méretétől függetlenül.
  • Példa: 4096 x 8192 kép (alacsony részletességű): A költség rögzített 85 jogkivonat, mivel alacsony részletességű kép, és a méret nem befolyásolja ebben a módban a költségeket.

• Részlet: Nagy felbontású mód

  • A nagy részletességgel az API részletesebben tekintheti meg a képet, ha kisebb négyzetekre vágja. Minden négyzet több jogkivonatot használ a szöveg létrehozásához.
  • A jogkivonat költségét skálázási lépések sorozata számítja ki:
    1. A kép először úgy van skálázva, hogy elférjen egy 2048 x 2048 négyzeten belül, miközben megtartja az oldalarányát.
    2. A rendszer ezután leskálázza a képet, hogy a legrövidebb oldal 768 képpont hosszú legyen.
    3. A kép 512 képpontos négyzetcsempékre van osztva, és ezeknek a csempéknek a száma (részleges csempékre felfelé kerekítve) határozza meg a végső költséget. Minden csempe 170 jogkivonatba kerül.
    4. A rendszer további 85 jogkivonatot ad hozzá a teljes költséghez.
  • Példa: 2048 x 4096 kép (nagy részletességgel)
    1. Eredetileg 1024 x 2048-ra méretezett, hogy elférjen a 2048 négyzetben.
    2. További átméretezés: 768 x 1536.
    3. Hat 512 képpontos csempét igényel a fedéshez.
    4. A teljes költség jogkivonat 170 × 6 + 85 = 1105 .

Források

Az Azure OpenAI egy új termékajánlat az Azure-ban. Az Azure OpenAI használatbavétele ugyanúgy történik, mint bármely más Azure-termék, ahol erőforrást vagy szolgáltatáspéldányt hoz létre az Azure-előfizetésben. További információ az Azure erőforrás-kezelési tervéről.

Központi telepítés

Miután létrehozott egy Azure OpenAI-erőforrást, üzembe kell helyeznie egy modellt, mielőtt elkezdené az API-hívások indítását és a szöveg létrehozását. Ez a művelet az üzembehelyezési API-k használatával végezhető el. Ezek az API-k lehetővé teszik a használni kívánt modell megadását.

Parancssori tervezés

Az OpenAI GPT-3, GPT-3.5 és GPT-4 modelljei parancssori alapúak. A parancssor-alapú modellek esetében a felhasználó szöveges üzenetek beírásával kezeli a modellt, amely a szöveg kiegészítésével válaszol. Ezzel a kiegészítéssel a modell a bevitt szöveget folytatja.

Bár ezek a modellek rendkívül hatékonyak, a viselkedésük nagyon érzékeny a bevitelre. Így a gyors tervezés fontos képesség a fejlesztéshez.

A gyors építés nehéz lehet. A gyakorlatban a kérés úgy működik, hogy a modell súlyait a kívánt feladat elvégzéséhez konfigurálja, de ez inkább művészet, mint tudomány, gyakran tapasztalatot és intuíciót igényel egy sikeres kérés létrehozásához.

Modellek

A szolgáltatás több különböző modellhez biztosít hozzáférést a felhasználóknak. Minden modell más-más képességet és árpontot biztosít.

A DALL-E modellek (néhány előzetes verzióban, lásd a modelleket) képeket hoznak létre a felhasználó által biztosított szöveges kérésekből.

A Whisper-modellek a beszéd szöveggé való átírására és fordítására használhatók.

A jelenleg előzetes verzióban elérhető szöveg-beszédmodellek a szöveg beszédszintézisére használhatók.

További információ az egyes modellekről a modellek koncepcióoldalán.

Következő lépések

További információ az Azure OpenAI-t használó mögöttes modellekről.