Verwenden von Docker-Containern in nicht verbundenen Umgebungen

Artikel
11/15/2023

Container ermöglichen es Ihnen, die Azure KI Services-APIs in Ihrer eigenen Umgebung auszuführen. Außerdem eignen sie sich hervorragend für Ihre spezifischen Anforderungen für Sicherheit und Datengovernance. Mit Disconnected Containern können Sie mehrere dieser APIs ohne Verbindung zum Internet nutzen. Derzeit können die folgenden Container auf diese Weise ausgeführt werden:

Bevor Sie versuchen, einen Docker-Container in einer Offlineumgebung auszuführen, stellen Sie sicher, dass Sie die Schritte zum erfolgreichen Herunterladen und Verwenden des Containers kennen. Beispiel:

Anforderungen und Empfehlungen für den Hostcomputer.
Der Docker-pull-Befehl, den Sie zum Herunterladen des Containers verwenden werden.
Wie Sie überprüfen, ob ein Container ausgeführt wird.
Wie Sie Abfragen an den Endpunkt des Containers senden, sobald dieser ausgeführt wird.

Anfordern des Zugriffs zur Verwendung von Containern in nicht verbundenen Umgebungen

Füllen Sie das Antragsformular aus und schicken Sie es ab, um den Zugriff auf nicht mit dem Internet verbundenen Containern anzufordern.

Im Formular müssen Sie Informationen über Sie selbst, Ihr Unternehmen und das Benutzerszenario eintragen, für das Sie den Container verwenden möchten. Das Azure KI Services-Team überprüft das Formular nach der Übermittlung und sendet Ihnen innerhalb von 10 Werktagen eine Entscheidung per E-Mail zu.

Wichtig

Im Formular müssen Sie eine E-Mail-Adresse angeben, die einer Azure-Abonnement-ID zugeordnet ist.
Die Azure-Ressource, die Sie zum Ausführen des Containers verwenden, muss mit der genehmigten Azure-Abonnement-ID erstellt worden sein.
Überprüfen Sie Ihre E-Mail-Adresse (Posteingang und Junk-Ordner) auf Updates zum Status Ihrer Anwendung von Microsoft.

Nach der Genehmigung können Sie den Container ausführen, nachdem Sie ihn aus Microsoft Container Registry (MCR) heruntergeladen haben (weiter unten in diesem Artikel beschrieben).

Sie können den Container nicht ausführen, wenn Ihr Azure-Abonnement nicht genehmigt wurde.

Der Zugriff ist auf Kunden beschränkt, die die folgenden Anforderungen erfüllen:

Ihre Organisation muss als strategischer Kunde oder Partner von Microsoft ausgewiesen sein.
Von nicht verbundenen Containern wird erwartet, dass sie vollständig offline ausgeführt werden, daher müssen Ihre Anwendungsfälle eine der folgenden oder ähnliche Anforderungen erfüllen:
- Umgebung oder Geräte ohne Internetverbindung.
- Remotestandort, der gelegentlich über Internetzugriff verfügt.
- Die Organisation unterliegt der strengen Verpflichtung, keine Daten in die Cloud zu senden.
Antrag gemäß den Anweisungen ausgefüllt – Beachten Sie die Hinweise im Antrag genau, um sicherzustellen, dass Sie alle für die Genehmigung erforderlichen Angaben machen.

Erwerben eines Mindestabnahme-Stufenplans für nicht verbundene Container

Neue Ressource erstellen

Melden Sie sich beim Azure-Portal an und wählen Sie für einen der oben aufgeführten Azure KI Services Neue Ressource erstellen aus.
Geben Sie die entsprechenden Informationen ein, um Ihre Ressource zu erstellen. Achten Sie darauf, dass Sie als Tarif Mindestabnahme für nicht verbundene Container auswählen.
Hinweis
- Die Option, eine Mindestabnahme zu erwerben, wird nur angezeigt, wenn Sie von Microsoft zugelassen wurden.
- Die Preisangaben dienen nur als Beispiel.
Wählen Sie am unteren Rand der Seite die Option Bewerten + erstellen aus. Überprüfen Sie die Informationen, und wählen Sie Erstellen aus.

Konfigurieren eines Containers für die Verwendung ohne Verbindung

In der folgenden Dokumentation finden Sie Schritte zum Herunterladen und Konfigurieren des Containers für die Verwendung ohne Verbindung:

Speech-Dienst

Sprachdienst

Namen von Umgebungsvariablen in Kubernetes-Bereitstellungen

Einige Azure KI-Container wie Übersetzer erfordern, dass Benutzer*innen bei der Ausführung von Containern die Namen von Umgebungsvariablen übergeben, die Doppelpunkte (:) enthalten. Das funktioniert bei der Verwendung von Docker gut, Kubernetes hingegen akzeptiert keine Doppelpunkte in Namen von Umgebungsvariablen. Um das zu umgehen, können Sie Doppelpunkte bei der Bereitstellung in Kubernetes durch doppelte Unterstriche (__) ersetzen. Das folgende Beispiel enthält ein akzeptables Format für Namen von Umgebungsvariablen:

        env:  
        - name: Mounts__License
          value: "/license"
        - name: Mounts__Output
          value: "/output"

In diesem Beispiel wird das Standardformat für die Namen Mounts:License und Mounts:Output von Umgebungsvariablen im Docker-Ausführungsbefehl ersetzt.

Containerimage- und Lizenzupdates

Containerlizenzdateien werden als Schlüssel verwendet, um bestimmte Dateien in jedem Containerimage zu entschlüsseln. Wenn diese verschlüsselten Dateien in einem neuen Containerimage aktualisiert werden, kann die Lizenzdatei, über die Sie verfügen, den Container möglicherweise nicht starten, auch wenn sie mit der vorherigen Version des Containerimages funktioniert hat. Um dieses Problem zu vermeiden, empfiehlt es sich, eine neue Lizenzdatei vom Ressourcenendpunkt für Ihren Container herunterzuladen, der in Azure-Portal bereitgestellt wird, nachdem Sie neue Imageversionen von mcr.microsoft.com abgerufen haben.

Zum Herunterladen einer neuen Lizenzdatei können Sie DownloadLicense=True zu Ihrem docker run-Befehl zusammen mit einer Lizenzeinbindung, Ihrem API-Schlüssel und Ihrem Abrechnungsendpunkt hinzufügen. Ausführliche Anweisungen finden Sie in der Dokumentation Ihres Containers.

Verwendungseinträge

Beim Betrieb von Docker-Containern in einer nicht verbundenen Umgebung schreibt der Container Verwendungseinträge in ein Volume, wo sie im Laufe der Zeit gesammelt werden. Sie können auch einen REST-Endpunkt aufrufen, um einen Bericht zur Dienstnutzung zu generieren.

Argumente zum Speichern von Protokollen

Wenn er in einer nicht verbundenen Umgebung ausgeführt wird, muss eine Ausgabeeinbindung für den Container verfügbar sein, um Nutzungsprotokolle zu speichern. Im folgenden Beispiel würden Sie z. B. -v /host/output:{OUTPUT_PATH} und Mounts:Output={OUTPUT_PATH} einbeziehen und {OUTPUT_PATH} durch den Pfad ersetzen, unter dem die Protokolle gespeichert werden:

docker run -v /host/output:{OUTPUT_PATH} ... <image> ... Mounts:Output={OUTPUT_PATH}

Abrufen von Einträgen mithilfe der Containerendpunkte

Der Container stellt zwei Endpunkte zum Zurückgeben von Einträgen zu seiner Nutzung bereit.

Abrufen aller Einträge

Der folgende Endpunkt stellt einen Bericht bereit, der alle im eingebundenen Verzeichnis der Abrechnungseinträge erfassten Nutzungen zusammenfasst.

https://<service>/records/usage-logs/

Es wird eine JSON-Antwort ähnlich wie im folgenden Beispiel zurückgegeben.

{
  "apiType": "noop",
  "serviceName": "noop",
  "meters": [
    {
      "name": "Sample.Meter",
      "quantity": 253
    }
  ]
}

Abrufen der Einträge für einen bestimmten Monat

Der folgende Endpunkt stellt einen Bericht bereit, in dem die Nutzung für einen bestimmten Monat und ein bestimmtes Jahr zusammengefasst wird.

https://<service>/records/usage-logs/{MONTH}/{YEAR}

Es wird eine JSON-Antwort ähnlich wie im folgenden Beispiel zurückgegeben:

{
  "apiType": "string",
  "serviceName": "string",
  "meters": [
    {
      "name": "string",
      "quantity": 253
    }
  ]
}

Erwerben eines Mindestabnahmeplans zur Verwendung von Containern in nicht verbundenen Umgebungen

Mindestabnahmepläne für nicht verbundene Container weisen einen Verpflichtungszeitraum von einem Kalenderjahr auf. Wenn Sie einen Plan kaufen, wird Ihnen sofort der volle Preis in Rechnung gestellt. Während des Verpflichtungszeitraums können Sie Ihren Mindestabnahmeplan nicht ändern, aber Sie können zusätzliche Einheiten zu einem anteiligen Preis für die verbleibenden Tage des Jahres erwerben. Sie haben bis Mitternacht (UTC) am letzten Tag Ihrer Zusage Zeit, um einen Mindestabnahmeplan zu beenden.

Sie können in den Einstellungen Ihrer Ressource unter den Preisen für die Mindestabnahme einen anderen Mindestabnahmeplan festlegen.

Beenden eines Mindestabnahmeplans

Wenn Sie einen Mindestabnahmeplan nicht mehr benötigen, können Sie die automatische Verlängerung für Ihre Ressource auf Nicht automatisch verlängern festlegen. Der Mindestabnahmeplan läuft dann zum angezeigten Enddatum ab. Nach diesem Datum wird Ihnen der Mindestabnahmeplan nicht mehr in Rechnung gestellt. Sie können die Azure-Ressource weiterhin für API-Aufrufe verwenden, und Ihnen werden die Preise für die nutzungsbasierte Bezahlung in Rechnung gestellt. Sie haben bis Mitternacht (UTC) am letzten Tag des Jahres Zeit, einen Mindestabnahmeplan für nicht verbundene Container zu beenden, ohne dass Ihnen für das folgende Jahr Kosten entstehen.

Problembehandlung

Wenn Sie den Container mit einer Ausgabenbereitstellung ausführen und die Protokollierung aktiviert ist, generiert der Container Protokolldateien. Diese sind hilfreich, um Probleme beim Starten oder Ausführen des Containers zu beheben.

Tipp

Weitere Informationen zur Problembehandlung und Anleitungen finden Sie unter Nicht verbundene Container: Häufig gestellte Fragen (FAQ).

Nächste Schritte

Übersicht über Azure KI-Container