Wat is Azure OpenAI Service?

Azure OpenAI Service biedt REST API-toegang tot de krachtige taalmodellen van OpenAI, waaronder de modelreeks GPT-4, GPT-4 Turbo with Vision, GPT-3.5-Turbo en Embeddings. Bovendien zijn de nieuwe GPT-4- en GPT-3.5-Turbo-modelserie nu algemeen beschikbaar. Deze modellen kunnen eenvoudig worden aangepast aan uw specifieke taak, waaronder maar niet beperkt tot het genereren van inhoud, samenvatting, begrip van afbeeldingen, semantische zoekopdrachten en natuurlijke taal voor codevertaling. Gebruikers hebben toegang tot de service via REST API's, Python SDK of onze webinterface in Azure OpenAI Studio.

Functieoverzicht

Functie	Azure OpenAI
Beschikbare modellen	GPT-4 serie (inclusief GPT-4 Turbo met Vision) GPT-3.5-Turbo serie Reeks insluitingen Meer informatie vindt u op onze pagina Modellen .
Afstemmen (preview)	GPT-3.5-Turbo (0613) babbage-002 davinci-002.
Prijs	Hier beschikbaar Zie de speciale prijsinformatie voor meer informatie over GPT-4 Turbo met Vision.
Ondersteuning voor virtuele netwerken en ondersteuning voor private link	Ja, tenzij u Azure OpenAI op uw gegevens gebruikt.
Beheerde identiteit	Ja, via Microsoft Entra-id
Ui-ervaring	Azure Portal voor account- en resourcebeheer, Azure OpenAI Service Studio voor modelverkenning en -afstemming
Regionale beschikbaarheid modelleren	Beschikbaarheid van modellen
Inhoud filteren	Prompts en voltooiingen worden geëvalueerd op basis van ons inhoudsbeleid met geautomatiseerde systemen. Inhoud met hoge ernst wordt gefilterd.

Verantwoorde AI

Bij Microsoft zetten we ons in voor de vooruitgang van AI op basis van principes die mensen als eerste plaatsen. Generatieve modellen zoals de modellen die beschikbaar zijn in Azure OpenAI hebben aanzienlijke potentiële voordelen, maar zonder zorgvuldig ontwerp en doordachte oplossingen hebben dergelijke modellen het potentieel om onjuiste of zelfs schadelijke inhoud te genereren. Microsoft heeft aanzienlijke investeringen gedaan om te helpen beschermen tegen misbruik en onbedoelde schade, waaronder het vereisen van aanvragers om goed gedefinieerde gebruiksvoorbeelden weer te geven, de principes van Microsoft te integreren voor verantwoordelijk AI-gebruik, het bouwen van inhoudsfilters ter ondersteuning van klanten en het bieden van verantwoorde AI-implementatierichtlijnen voor klanten.

Hoe kan ik toegang krijgen tot Azure OpenAI?

Hoe kan ik toegang krijgen tot Azure OpenAI?

De toegang is momenteel beperkt, omdat we door hoge vraag, toekomstige productverbeteringen en de toezegging van Microsoft aan verantwoorde AI gaan. Op dit moment werken we samen met klanten met een bestaand partnerschap met Microsoft, gebruiksscenario's met een lager risico en met klanten die zich inzetten voor het opnemen van risicobeperkingen.

Meer specifieke informatie is opgenomen in het aanvraagformulier. We waarderen uw geduld omdat we op verantwoorde wijze bredere toegang tot Azure OpenAI mogelijk maken.

Hier aanvragen voor toegang:

Nu toepassen

Azure OpenAI en OpenAI vergelijken

Azure OpenAI Service biedt klanten geavanceerde taal-AI met OpenAI GPT-4, GPT-3, Codex, DALL-E, Whisper en tekst naar spraakmodellen met de beveiliging en bedrijfsbelofte van Azure. Azure OpenAI ontwikkelt de API's samen met OpenAI en zorgt voor compatibiliteit en een soepele overgang van het ene naar het andere.

Met Azure OpenAI krijgen klanten de beveiligingsmogelijkheden van Microsoft Azure terwijl ze dezelfde modellen uitvoeren als OpenAI. Azure OpenAI biedt privénetwerken, regionale beschikbaarheid en verantwoordelijke AI-inhoudsfiltering.

Belangrijke concepten

Prompts en voltooiingen

Het eindpunt voor voltooiingen is het kernonderdeel van de API-service. Deze API biedt toegang tot de tekst-in- en tekst-outinterface van het model. Gebruikers hoeven alleen maar een invoerprompt met de Engelse tekstopdracht op te geven en het model genereert een tekstvoltooiing.

Hier volgt een voorbeeld van een eenvoudige prompt en voltooiing:

Prompt: """ count to 5 in a for loop """

Voltooiing: for i in range(1, 6): print(i)

Tokens

Teksttokens

Azure OpenAI verwerkt tekst door deze op te splitsen in tokens. Tokens kunnen woorden zijn of gewoon stukjes met tekens. Het woord 'hamburger' wordt bijvoorbeeld opgesplitst in de tokens 'ham', 'bur' en 'ger', terwijl een kort en gemeenschappelijk woord zoals 'peer' een enkel token is. Veel tokens beginnen met een witruimte, bijvoorbeeld 'hello' en 'bye'.

Het totale aantal tokens dat in een bepaalde aanvraag wordt verwerkt, is afhankelijk van de lengte van uw invoer-, uitvoer- en aanvraagparameters. De hoeveelheid tokens die wordt verwerkt, heeft ook invloed op de latentie en doorvoer van uw reactie voor de modellen.

Afbeeldingstokens (GPT-4 Turbo met Vision)

De tokenkosten van een invoerafbeelding zijn afhankelijk van twee hoofdfactoren: de grootte van de afbeelding en de detailinstelling (laag of hoog) die voor elke afbeelding wordt gebruikt. Hier volgt een uitsplitsing van de werking:

• Detail: modus lage resolutie

  • Met weinig details kan de API snellere antwoorden retourneren en minder invoertokens gebruiken voor gebruiksvoorbeelden waarvoor geen hoge details nodig zijn.
  • Deze afbeeldingen kosten elk 85 tokens, ongeacht de grootte van de installatiekopieën.
  • Voorbeeld: afbeelding van 4096 x 8192 (lage details): de kosten zijn een vaste 85 tokens, omdat het een afbeelding met lage details is en de grootte niet van invloed is op de kosten in deze modus.

• Detail: modus met hoge resolutie

  • Met hoge details kan de API de afbeelding gedetailleerder bekijken door deze bij tesnijden in kleinere vierkantjes. Elk vierkant gebruikt meer tokens om tekst te genereren.
  • De tokenkosten worden berekend door een reeks schaalstappen:
    1. De afbeelding wordt eerst geschaald om binnen een vierkante breedteverhouding van 2048 x 2048 te passen, terwijl de hoogte-breedteverhouding behouden blijft.
    2. De afbeelding wordt vervolgens omlaag geschaald, zodat de kortste zijde 768 pixels lang is.
    3. De afbeelding is onderverdeeld in vierkante tegels van 512 pixels en het aantal van deze tegels (afronden op gedeeltelijke tegels) bepaalt de uiteindelijke kosten. Elke tegel kost 170 tokens.
    4. Er worden nog 85 tokens toegevoegd aan de totale kosten.
  • Voorbeeld: afbeelding van 2048 x 4096 (hoog detail)
    1. Aanvankelijk aangepast aan 1024 x 2048 om in het 2048-vierkant te passen.
    2. Verder gewijzigd in 768 x 1536.
    3. Vereist zes tegels van 512 pixels om af te dekken.
    4. Totale kosten zijn 170 × 6 + 85 = 1105 tokens.

Resources

Azure OpenAI is een nieuw productaanbod in Azure. U kunt op dezelfde manier aan de slag met Azure OpenAI als elk ander Azure-product waarin u een resource of exemplaar van de service maakt in uw Azure-abonnement. Meer informatie over het ontwerp van resourcebeheer van Azure.

Installaties

Nadat u een Azure OpenAI-resource hebt gemaakt, moet u een model implementeren voordat u API-aanroepen kunt maken en tekst kunt genereren. Deze actie kan worden uitgevoerd met behulp van de implementatie-API's. Met deze API's kunt u het model opgeven dat u wilt gebruiken.

Prompt-engineering

De GPT-3-, GPT-3.5- en GPT-4-modellen van OpenAI zijn gebaseerd op prompts. Met modellen op basis van prompts communiceert de gebruiker met het model door een tekstprompt in te voeren, waarop het model reageert met een tekstvoltooiing. Deze voltooiing is hoe het model de invoertekst aanvult.

Hoewel deze modellen zeer krachtig zijn, is hun gedrag ook zeer gevoelig voor de prompt. Dit maakt prompt engineering een belangrijke vaardigheid om te ontwikkelen.

Prompt constructie kan moeilijk zijn. In de praktijk handelt de prompt om de gewichten van het model te configureren om de gewenste taak te voltooien, maar het is meer van een kunst dan een wetenschap, die vaak ervaring en intuïtiefheid vereist om een succesvolle prompt te maken.

Modellen

De service biedt gebruikers toegang tot verschillende modellen. Elk model biedt een andere mogelijkheid en prijspunt.

De DALL-E-modellen (sommige in preview; zie modellen) genereren afbeeldingen op basis van tekstprompts die de gebruiker biedt.

De Fluistermodellen kunnen worden gebruikt om spraak te transcriberen en te vertalen naar tekst.

De tekst naar spraakmodellen, momenteel als preview-versie, kan worden gebruikt om tekst naar spraak te synthetiseren.

Meer informatie over elk model op de conceptpagina van het model.

Volgende stappen

Meer informatie over de onderliggende modellen die Azure OpenAI mogelijk maken.