Was sind Azure KI-Container?
Azure KI Services bietet mehrere Docker-Container, mit denen Sie lokal die gleichen APIs verwenden können, die in Azure verfügbar sind. Die Verwendung dieser Container gibt Ihnen die Flexibilität, Azure KI Services aus Compliance-, Sicherheits- oder anderen betrieblichen Gründen näher an Ihre Daten heranzubringen. Die Containerunterstützung ist derzeit für einige Dienste von Azure KI Services verfügbar.
Die Verwendung von Containern ist ein Ansatz zur Softwareverteilung, bei dem eine Anwendung oder ein Dienst, einschließlich der Abhängigkeiten und der Konfiguration, als Containerimage zusammengepackt wird. Das Containerimage kann mit geringer oder ganz ohne Bearbeitung auf einem Containerhost bereitgestellt werden. Container sind voneinander und vom zugrunde liegenden Betriebssystem isoliert und nehmen weniger Speicher in Anspruch als ein virtueller Computer. Container können für kurzfristige Aufgaben über Containerimages instanziiert und wieder entfernt werden, wenn sie nicht mehr benötigt werden.
Features und Vorteile
- Unveränderliche Infrastruktur: Ermöglichen Sie es den DevOps-Teams, einen konsistenten und zuverlässigen Satz bekannter Systemparameter zu nutzen und sich zugleich an Änderungen anzupassen. Container bieten die Flexibilität, sich innerhalb eines vorhersehbaren Ökosystems zu bewegen und Konfigurationsabweichungen zu vermeiden.
- Kontrolle über Daten: Wählen Sie aus, wo Ihre Daten von Azure KI Services verarbeitet werden. Dies kann wichtig sein, wenn Sie keine Daten an die Cloud senden können, aber Zugriff auf Azure KI Services-APIs benötigen. Einheitliche Unterstützung in Hybridumgebungen – für Daten, Verwaltung, Identität und Sicherheit.
- Kontrolle über Modellaktualisierungen: Flexibilität bei der Versionsverwaltung und Aktualisierung der in den Lösungen eingesetzten Modelle.
- Portable Architektur: Ermöglicht die Erstellung einer portablen Anwendungsarchitektur, die in Azure, lokal und am Edge eingesetzt werden kann. Container können direkt für Azure Kubernetes Service, Azure Container Instances oder einen Kubernetes-Cluster mit Bereitstellung in Azure Stack bereitgestellt werden. Weitere Informationen finden Sie unter Bereitstellen von Kubernetes in Azure Stack.
- Hoher Durchsatz/niedrige Latenz: Bieten Sie Kunden die Möglichkeit, für hohe Durchsatzraten und niedrige Latenzanforderungen zu skalieren, indem Azure KI Services physisch in der Nähe ihrer Anwendungslogik und -daten ausgeführt wird. Container erzwingen keine Obergrenzen für die Transaktionen pro Sekunde (TPS) und können für die zentrale und horizontale Skalierung konfiguriert werden, um bei Bedarf die erforderlichen Hardwareressourcen bereitzustellen.
- Skalierbarkeit: Mit der ständig wachsenden Beliebtheit von Software für Containerisierung und Containerorchestrierung wie Kubernetes steht die Skalierbarkeit steht im Vordergrund des technologischen Fortschritts. Aufbauend auf einer skalierbaren Clusterbasis sorgt die Anwendungsentwicklung für eine entsprechende Hochverfügbarkeit.
Container in Azure KI Services
Azure KI-Container bieten die folgenden Docker-Container, von denen jeder eine Teilmenge der Funktionalität von Azure KI Services-Diensten enthält. Anweisungen und Imagespeicherorte finden Sie in den folgenden Tabellen.
Hinweis
Weitere Informationen finden Sie unter Installieren und Ausführen von Dokument Intelligenz-Containern für Azure KI Dokument Intelligenz-Container und Imagespeicherorte.
Entscheidungscontainer
| Dienst | Container | BESCHREIBUNG | Verfügbarkeit |
|---|---|---|---|
| Anomalieerkennung | Anomalieerkennung (Image) | Die Anomalieerkennungs-API bietet Ihnen die Möglichkeit, Anomalien in Zeitreihendaten durch maschinelles Lernen zu überwachen und zu erkennen. | Allgemein verfügbar |
Sprachcontainer
| Dienst | Container | BESCHREIBUNG | Verfügbarkeit |
|---|---|---|---|
| LUIS | LUIS (Image) | Lädt Ihr trainiertes oder veröffentlichtes Language Understanding-Modell (auch als LUIS-App bezeichnet) in einen Docker-Container und ermöglicht den Zugriff auf die Abfragevorhersagen von den API-Endpunkten des Containers. Sie können Abfrageprotokolle vom Container erfassen und wieder in das LUIS-Portal hochladen, um die Vorhersagegenauigkeit der App zu verbessern. | Allgemein verfügbar. Dieser Container kann auch in nicht verbundenen Umgebungen ausgeführt werden. |
| Sprachdienst | Schlüsselbegriffserkennung (Bild) | Extrahiert die Schlüsselbegriffe, um die wichtigsten Punkte zu ermitteln. Wenn der eingegebene Text beispielsweise „Das Essen war köstlich, und es gab hervorragendes Personal“ lautet, gibt die API die Kernpunkte „Essen“ und „hervorragendes Personal“ zurück. | Allgemein verfügbar. Dieser Container kann auch in nicht verbundenen Umgebungen ausgeführt werden. |
| Sprachdienst | Textsprachenerkennung (Image) | Erkennt die Sprache von Eingabetexten für bis zu 120 Sprachen und meldet einen einzigen Sprachcode für jedes Dokument, das auf Anforderung gesendet wird. Der Sprachcode ist mit einem Wert kombiniert, der die Stärke der Bewertung angibt. | Allgemein verfügbar. Dieser Container kann auch in nicht verbundenen Umgebungen ausgeführt werden. |
| Sprachdienst | Standpunktanalyse (Bild) | Analysiert unformatierten Text auf Hinweise auf positive oder negative Stimmungen. Von dieser Version der Standpunktanalyse werden für jedes Dokument und jeden darin enthaltenen Satz Stimmungsbezeichnungen (beispielsweise Positiv oder Negativ) zurückgegeben. | Allgemein verfügbar. Dieser Container kann auch in nicht verbundenen Umgebungen ausgeführt werden. |
| Sprachdienst | Textanalyse für das Gesundheitssystem (Image) | Extraktion und Bezeichnung medizinischer Informationen aus unstrukturiertem klinischem Text. | Allgemein verfügbar |
| Sprachdienst | Erkennung benannter Entitäten (NER) (Bild) | Extrahieren von benannten Entitäten aus Text. | Allgemein verfügbar. Dieser Container kann auch in nicht verbundenen Umgebungen ausgeführt werden. |
| Sprachdienst | Benutzerdefinierte Erkennung benannter Entitäten (Bild) | Extrahieren Sie benannte Entitäten aus Text, indem Sie ein benutzerdefiniertes Modell verwenden, das Sie mit Ihren Daten erstellen. | Allgemein verfügbar |
| Language-Dienst | Zusammenfassung (Image) | Fassen Sie Text aus verschiedenen Quellen zusammen. | Öffentliche Vorschau. Dieser Container kann auch in nicht verbundenen Umgebungen ausgeführt werden. |
| Translator | Textübersetzung (Image) | Übersetzt Text in verschiedene Sprachen und Dialekte. | Allgemein verfügbar. Gated – Klicken Sie auf Zugriff anfordern. Dieser Container kann auch in nicht verbundenen Umgebungen ausgeführt werden. |
Speech-Container
| Service | Container | BESCHREIBUNG | Verfügbarkeit |
|---|---|---|---|
| Spracherkennungsdienst-API | Spracherkennung (Abbildung) | Wandelt fortlaufende Sprache in Echtzeit in Text um. | Allgemein verfügbar. Dieser Container kann auch in nicht verbundenen Umgebungen ausgeführt werden. |
| Spracherkennungsdienst-API | Benutzerdefinierte Spracherkennung (Abbildung) | Wandelt fortlaufende Sprache in Echtzeit in Text um und verwendet dazu ein benutzerdefiniertes Modell. | Allgemein verfügbar Dieser Container kann auch in nicht verbundenen Umgebungen ausgeführt werden. |
| Spracherkennungsdienst-API | Neuronale Sprachsynthese (Abbildung) | Konvertiert Text mithilfe von Deep Neural Network-Technologie in natürlich klingende Sprache, die eine natürlichere synthetische Sprache ermöglicht. | Allgemein verfügbar. Dieser Container kann auch in nicht verbundenen Umgebungen ausgeführt werden. |
| Spracherkennungsdienst-API | Speech-Spracherkennung (Bild) | Bestimmt die Sprache der gesprochenen Audiodaten. | Vorschau |
Vision-Container
| Dienst | Container | BESCHREIBUNG | Verfügbarkeit |
|---|---|---|---|
| Azure KI Vision | Read OCR (Image) | Mit dem Read OCR-Container können Sie gedruckten und handschriftlichen Text aus Bildern und Dokumenten mit Unterstützung für die Dateiformate JPEG, PNG, BMP, PDF und TIFF extrahieren. Weitere Informationen finden Sie in der Dokumentation zur Lese-API. | Allgemein verfügbar Dieser Container kann auch in nicht verbundenen Umgebungen ausgeführt werden. |
| Räumliche Analyse | Räumliche Analyse (Image) | Analysiert in Echtzeit gestreamte Videodaten, um räumliche Bezüge zwischen Personen, ihre Bewegungen und ihre Interaktionen mit Objekten in der physischen Umgebung zu verstehen. | Vorschau |
Darüber hinaus werden einige Container im Angebot einer Ressource für mehrere Dienste von Azure KI Services unterstützt. Sie können eine einzelne All-In-One-Ressource von Azure KI Services erstellen und denselben Abrechnungsschlüssel für alle unterstützten Dienste verwenden:
- Azure KI Vision
- LUIS
- Sprachdienst
Voraussetzungen
Sie müssen die folgenden Voraussetzungen erfüllen, bevor Sie Azure KI-Container verwenden können:
Docker-Engine: Die Docker-Engine muss lokal installiert sein. Docker stellt Pakete zur Konfiguration der Docker-Umgebung unter macOS, Linux und Windows zur Verfügung. Unter Windows muss Docker für die Unterstützung von Linux-Containern konfiguriert werden. Docker-Container können auch direkt für Azure Kubernetes Service oder Azure Container Instances bereitgestellt werden.
Docker muss so konfiguriert werden, dass die Container eine Verbindung mit Azure herstellen und Abrechnungsdaten an Azure senden können.
Kenntnisse von Microsoft Container Registry und Docker: Sie sollten über Grundkenntnisse der Konzepte von Microsoft Container Registry und Docker verfügen, einschließlich Registrierungen, Repositorys, Container und Containerimages, und die grundlegenden docker-Befehle kennen.
Eine Einführung in Docker und Container finden Sie in der Docker-Übersicht.
Einzelne Container können auch ihre eigenen Anforderungen haben, wie z.B. Anforderungen an die Server- und Speicherzuordnung.
Containersicherheit von Azure KI Services
Bei der Entwicklung von Anwendungen sollte die Sicherheit im Vordergrund stehen. Die Bedeutung von Sicherheit ist ein Erfolgskriterium. Wenn Sie eine Softwarelösung entwickeln, die Azure KI-Container enthält, ist es wichtig, die Einschränkungen und Funktionen zu verstehen, die Ihnen zur Verfügung stehen. Weitere Informationen zur Netzwerksicherheit finden Sie unter Konfigurieren von virtuellen Netzwerken für Azure KI Services.
Wichtig
Standardmäßig ist keine Sicherheit für die Azure KI Services-Container-API vorhanden. Der Grund dafür ist, dass der Container meist als Teil eines Pod ausgeführt wird, das von außen durch eine Netzwerkbrücke geschützt ist. Es ist jedoch möglich, dass Benutzer ihre eigene Authentifizierungsinfrastruktur aufbauen, die sich den Authentifizierungsmethoden annähert, die beim Zugriff auf die cloudbasierten Azure KI Services verwendet werden.
Das folgende Diagramm veranschaulicht den standardmäßigen und nicht sicheren Ansatz:
Als Beispiel für einen alternativen und sicheren Ansatz könnten Benutzer*innen von Azure KI-Containern einen Container mit einer Frontkomponente erweitern, wodurch der Containerendpunkt privat bleibt. Betrachten wir ein Szenario, in dem Istio als Eingangsgateway verwendet wird. Istio unterstützt HTTPS/TLS und die Authentifizierung über Clientzertifikate. In diesem Szenario stellt das Istio-Front-End den Containerzugriff bereit und präsentiert das Clientzertifikat, das zuvor von Istio genehmigt wurde.
Nginx ist eine weitere beliebte Option in derselben Kategorie. Sowohl Istio als auch Nginx fungieren als Dienstnetz und bieten zusätzliche Features wie Lastenausgleich, Routing und Ratensteuerung.
Containernetzwerke
Die Azure KI-Container sind erforderlich, um Verbrauchsinformationen zu Abrechnungszwecken zu übermitteln. Wenn Sie die verschiedenen Netzwerkkanäle, auf die sich die Azure KI-Container stützen, nicht auf die Positivliste setzen, funktionieren die Container nicht.
Zulassen von Azure KI Services-Domänen und -Ports
Der Host sollte Port 443 und die folgenden Domänen in seiner Positivliste aufführen:
*.cognitive.microsoft.com*.cognitiveservices.azure.com
Deaktivieren der eingehenden Paketuntersuchung
Eingehende Paketuntersuchung (Deep Packet Inspection, DPI) ist eine Art der Datenverarbeitung, bei der die in einem Computernetzwerk gesendeten Daten im Detail untersucht werden. Die zur Verfügung stehenden Maßnahmen sind Blockieren, Umleiten oder Protokollieren von Daten.
Deaktivieren Sie den DPI für die sicheren Kanäle, die von Azure KI-Containern zu Microsoft-Servern erstellt werden. Andernfalls funktionieren die Container nicht ordnungsgemäß.
Entwicklerbeispiele
Beispiele für Entwickler finden Sie in unserem GitHub-Repository.
Nächste Schritte
Erfahren Sie mehr zu Containeranleitungen, die Sie mit Azure KI Services verwenden können.
Installieren und erkunden Sie die Funktionalität der Container in Azure KI Services: