Azure Cognitive Services-containrar

Azure Cognitive Services innehåller flera Docker-containrar som gör att du kan använda samma API:er som är tillgängliga i Azure, lokalt. Med dessa containrar får du flexibiliteten att föra Cognitive Services närmare dina data av efterlevnads-, säkerhets- eller andra driftskäl. Stöd för containrar är för närvarande tillgängligt för en delmängd av Azure Cognitive Services.

Containerisering är en metod för programvarudistribution där ett program eller en tjänst, inklusive dess beroenden & konfiguration, paketeras tillsammans som en containeravbildning. Med liten eller ingen ändring kan en containeravbildning distribueras på en containervärd. Containrar är isolerade från varandra och det underliggande operativsystemet, med ett mindre fotavtryck än en virtuell dator. Containrar kan instansieras från containeravbildningar för kortsiktiga uppgifter och tas bort när de inte längre behövs.

Funktioner och fördelar

  • Oföränderlig infrastruktur: Gör det möjligt för DevOps-team att utnyttja en konsekvent och tillförlitlig uppsättning kända systemparametrar, samtidigt som de kan anpassa sig efter förändringar. Containrar ger flexibiliteten att pivotera i ett förutsägbart ekosystem och undvika konfigurationsavdrift.
  • Kontroll över data: Välj var dina data bearbetas av Cognitive Services. Detta kan vara viktigt om du inte kan skicka data till molnet utan behöver åtkomst till API:er för Cognitive Services. Stöd för konsekvens i hybridmiljöer – för data, hantering, identitet och säkerhet.
  • Kontroll över modelluppdateringar: Flexibilitet vid versionshantering och uppdatering av modeller som distribuerats i deras lösningar.
  • Portabel arkitektur: Gör att du kan skapa en portabel programarkitektur som kan distribueras i Azure, lokalt och på gränsen. Containrar kan distribueras direkt till Azure Kubernetes Service, Azure Container Instanceseller till ett Kubernetes-kluster som distribueras till Azure Stack. Mer information finns i Distribuera Kubernetes till Azure Stack.
  • Högt dataflöde/låg latens: Ger kunderna möjlighet att skala för krav på högt dataflöde och låg latens genom att göra det möjligt för Cognitive Services att köras fysiskt nära deras programlogik och data. Containrar tak inte transaktioner per sekund (TPS) och kan göras för att skala upp och ut för att hantera efterfrågan om du tillhandahåller nödvändiga maskinvaruresurser.
  • Skalbarhet: Med den ständigt växande populariteten för containerisering och containerorkestreringsprogramvara, till exempel Kubernetes; skalbarhet ligger i framkant när det gäller tekniska framsteg. Programutvecklingen bygger på en skalbar klustergrund och ger hög tillgänglighet.

Containrar i Azure Cognitive Services

Azure Cognitive Services innehåller följande uppsättning Docker-containrar, där var och en innehåller en delmängd funktioner från tjänster i Azure Cognitive Services. Du hittar instruktioner och bildplatser i tabellerna nedan. En lista över containeravbildningar är också tillgänglig.

Beslutscontainrar

Tjänst Container Description Tillgänglighet
Avvikelseidentifiering Avvikelseidentifiering (bild) Med Avvikelseidentifiering-API:et kan du övervaka och identifiera avvikelser i dina tidsseriedata med maskininlärning. Allmänt tillgänglig

Språkcontainrar

Tjänst Container Description Tillgänglighet
LUIS LUIS (bild) Läser in en tränad eller publicerad Language Understanding-modell, även kallad en LUIS-app, i en Docker-container och ger åtkomst till frågeförutsägelser från containerns API-slutpunkter. Du kan samla in frågeloggar från containern och ladda upp dem tillbaka till LUIS-portalen för att förbättra appens förutsägelsenoggrannhet. Allmänt tillgänglig
Språktjänst Extrahering av diskussionsämne (bild) Extraherar nyckelfraser för att identifiera huvudpunkterna. Exempel: För den inmatade texten ”Maten var härlig och personalen var underbar” returnerar API:et de huvudsakliga diskussionsämnena: ”mat” och ”underbar personal”. Allmänt tillgänglig
Språktjänst Text Språkidentifiering (bild) För upp till 120 språk identifierar vilket språk indatatexten är skriven på och rapporterar en enda språkkod för varje dokument som skickas på begäran. Språkkoden paras med poäng som anger styrkan hos poängen. Allmänt tillgänglig
Språktjänst Attitydanalys (bild) Analyserar råtext för att få ledtrådar om positiv eller negativ attityd. Den här versionen av attitydanalys returnerar sentimentetiketter (till exempel positiva eller negativa) för varje dokument och mening i det. Allmänt tillgänglig
Språktjänst Textanalys för hälsa Extrahera och märka medicinsk information från ostrukturerad medicinsk text. Allmänt tillgänglig
Översättare Översättare Översätta text på flera språk och dialekter. Gated preview (Gated preview). Begär åtkomst.

Speech-containrar

Anteckning

Om du vill använda Speech-containrar måste du fylla i ett formulär för onlinebegäran.

Tjänst Container Description Tillgänglighet
Speech Service API Tal till text (bild) Transkriberar kontinuerlig realtidsöversättning av tal till text. Allmänt tillgänglig
Speech Service API Anpassat tal till text (bild) Transkriberar kontinuerligt tal i realtid till text med hjälp av en anpassad modell. Allmänt tillgänglig
Speech Service API Text till tal (bild) Konverterar text till naturligt tal. Allmänt tillgänglig
Speech Service API Anpassad text till tal (bild) Konverterar text till tal med naturligt ljud med hjälp av en anpassad modell. Gated preview
Speech Service API Neural text till tal (bild) Konverterar text till tal med naturligt ljud med djup teknik för neuralt nätverk, vilket möjliggör mer naturligt syntetiserat tal. Allmänt tillgänglig
Speech Service API Talspråksidentifiering (bild) Avgör språket för talat ljud. Gated preview (Gated preview)

Containrar för visuellt innehåll

Tjänst Container Description Tillgänglighet
Visuellt innehåll Läsa OCR (bild) Med read OCR-containern kan du extrahera tryckt och handskriven text från bilder och dokument med stöd för filformaten JPEG, PNG, BMP, PDF och TIFF. Mer information finns i läs-API-dokumentationen. Gated preview (Gated preview). Begär åtkomst.
Rumslig analys Rumslig analys (bild) Analyserar strömmande video i realtid för att förstå rumsliga relationer mellan människor, deras rörelser och interaktioner med objekt i fysiska miljöer. Förhandsgranskning

Dessutom stöds vissa containrar i Cognitive Services resurserbjudandet för flera tjänster. Du kan skapa en enda Cognitive Services allt-i-en-resurs och använda samma faktureringsnyckel för tjänster som stöds för följande tjänster:

  • Visuellt innehåll
  • LUIS
  • Språktjänst

Förutsättningar

Du måste uppfylla följande krav innan du använder Azure Cognitive Services containrar:

Docker-motor: Du måste ha Docker-motorn installerad lokalt. Docker innehåller paket som konfigurerar Docker-miljön på macOS, Linux och Windows. På Windows docker konfigureras för att stödja Linux-containrar. Docker-containrar kan också distribueras direkt till Azure Kubernetes Service eller Azure Container Instances.

Docker måste konfigureras så att containrarna kan ansluta till och skicka faktureringsdata till Azure.

Kunskaper om Microsoft Container Registry och Docker: Du bör ha grundläggande kunskaper om både Microsoft Container Registry- och Docker-begrepp som register, lagringsdatabaser, containrar och containeravbildningar samt kunskaper om grundläggande docker kommandon.

En introduktion till grunderna för Docker och containrar finns i Docker-översikt.

Enskilda containrar kan också ha sina egna krav, inklusive krav på server- och minnesallokering.

Säkerhet för Azure Cognitive Services-behållare

Säkerheten bör vara primärt fokuserad när du utvecklar program. Vikten av säkerhet är ett mått för framgång. När du skapar en program varu lösning som innehåller Cognitive Services behållare är det viktigt att du förstår de begränsningar och möjligheter som är tillgängliga för dig. Mer information om nätverks säkerhet finns i Konfigurera Azure Cognitive Services virtuella nätverk.

Viktigt

Som standard finns det Ingen säkerhet för API: et för Cognitive Services container. Orsaken till detta är att behållaren ofta körs som en del av en pod som skyddas från utsidan av en nätverks brygga. Det är dock möjligt att aktivera autentisering som fungerar identiskt med autentiseringen som används vid åtkomst till den molnbaserade Cognitive Services.

Diagrammet nedan illustrerar standard och osäker Metod:

Containersäkerhet

Som ett alternativ och säkert tillvägagångs sätt kan förbrukare av Cognitive Services behållare utöka en behållare med en klient som är klient del, så att behållar slut punkten är privat. Vi ska ta en titt på ett scenario där vi använder Istio som en ingress-Gateway. Istio stöder HTTPS/TLS och autentisering av klient certifikat. I det här scenariot exponeras behållar åtkomsten i Istio-frontend-filen och visar klient certifikatet som godkänts i förväg med Istio.

Nginx är ett annat populärt val i samma kategori. Både Istio och Nginx fungerar som ett tjänst nät och erbjuder ytterligare funktioner, inklusive t. ex. belastnings utjämning, Routning och Rate-kontroll.

Nätverk för containrar

Cognitive Services behållare krävs för att skicka in avläsnings information för fakturerings syfte. Det gick inte att tillåta en lista över olika nätverks kanaler som Cognitive Services behållare förlitar sig på förhindrar att behållaren fungerar.

Lista över tillåtna Cognitive Services domäner och portar

Värden ska tillåta List port 443 och följande domäner:

  • *.cognitive.microsoft.com
  • *.cognitiveservices.azure.com

Inaktivera djup paket granskning

Djup paket inspektion (dpi) är en typ av data bearbetning som identifierar data som skickas över ett dator nätverk, och som vanligt vis vidtar åtgärder genom att blockera, dirigera om eller logga i enlighet med detta.

Inaktivera DPI på de säkra kanaler som Cognitive Services behållare skapar till Microsoft-servrar. Om du inte gör det kommer behållaren inte att fungera korrekt.

Utvecklarexempel

Utvecklarexempel finns på vår GitHub lagringsplats.

Nästa steg

Lär dig mer om containerrecept som du kan använda med Cognitive Services.

Installera och utforska funktionerna som tillhandahålls av containrar i Azure Cognitive Services: