Verwenden von Docker-Containern in nicht verbundenen Umgebungen

Artikel
01/18/2025

Container ermöglichen es Ihnen, die Azure KI Services-APIs in Ihrer eigenen Umgebung auszuführen. Außerdem eignen sie sich hervorragend für Ihre spezifischen Anforderungen für Sicherheit und Datengovernance. Mit Disconnected Containern können Sie mehrere dieser APIs ohne Verbindung zum Internet nutzen. Derzeit können die folgenden Container auf diese Weise ausgeführt werden:

Bevor Sie versuchen, einen Docker-Container in einer Offlineumgebung auszuführen, stellen Sie sicher, dass Sie die Schritte zum erfolgreichen Herunterladen und Verwenden des Containers kennen. Beispiel:

Anforderungen und Empfehlungen für den Hostcomputer.
Der Docker-Befehl pull , den Sie zum Herunterladen des Containers verwenden.
Wie Sie überprüfen, ob ein Container ausgeführt wird.
Wie Sie Abfragen an den Endpunkt des Containers senden, sobald dieser ausgeführt wird.

Anfordern des Zugriffs zur Verwendung von Containern in nicht verbundenen Umgebungen

Füllen Sie das Antragsformular aus und schicken Sie es ab, um den Zugriff auf nicht mit dem Internet verbundenen Containern anzufordern.

Im Formular müssen Sie Informationen über Sie selbst, Ihr Unternehmen und das Benutzerszenario eintragen, für das Sie den Container verwenden möchten. Das Azure KI Services-Team überprüft das Formular nach der Übermittlung und sendet Ihnen innerhalb von 10 Werktagen eine Entscheidung per E-Mail zu.

Wichtig

Im Formular müssen Sie eine E-Mail-Adresse angeben, die einer Azure-Abonnement-ID zugeordnet ist.
Die Azure-Ressource, die Sie zum Ausführen des Containers verwenden, muss mit der genehmigten Azure-Abonnement-ID erstellt worden sein.
Überprüfen Sie Ihre E-Mail-Adresse (Posteingang und Junk-Ordner) auf Updates zum Status Ihrer Anwendung von Microsoft.

Nach der Genehmigung können Sie den Container ausführen, nachdem Sie ihn aus Microsoft Container Registry (MCR) heruntergeladen haben (weiter unten in diesem Artikel beschrieben).

Sie können den Container nicht ausführen, wenn Ihr Azure-Abonnement nicht genehmigt wurde.

Der Zugriff ist auf Kunden beschränkt, die die folgenden Anforderungen erfüllen:

Ihre Organisation muss als strategischer Kunde oder Partner von Microsoft ausgewiesen sein.
Getrennte Container werden voraussichtlich vollständig offline ausgeführt, daher müssen Ihre Anwendungsfälle eine der folgenden oder ähnlichen Anforderungen erfüllen:
- Umgebungen oder Geräte mit Nullkonnektivität zum Internet.
- Remotestandort, der gelegentlich über Internetzugriff verfügt.
- Die Organisation unterliegt der strengen Verpflichtung, keine Daten in die Cloud zu senden.
Antrag gemäß den Anweisungen ausgefüllt – Beachten Sie die Hinweise im Antrag genau, um sicherzustellen, dass Sie alle für die Genehmigung erforderlichen Angaben machen.

Erwerben eines Mindestabnahme-Stufenplans für nicht verbundene Container

Neue Ressource erstellen

Melden Sie sich bei der Azure-Portal an, und wählen Sie "Neue Ressource erstellen" für einen der aufgeführten Azure AI-Dienste aus.
Geben Sie die entsprechenden Informationen ein, um Ihre Ressource zu erstellen. Achten Sie darauf, dass Sie als Tarif Mindestabnahme für nicht verbundene Container auswählen.
Hinweis
- Sie sehen nur die Option zum Kauf einer Verpflichtungsstufe, wenn Sie von Microsoft genehmigt wurden.
- Preisdetails sind nur Beispiele.
Wählen Sie am unteren Rand der Seite die Option Bewerten + erstellen aus. Überprüfen Sie die Informationen, und wählen Sie Erstellen aus.

Konfigurieren eines Containers für die Verwendung ohne Verbindung

In der folgenden Dokumentation finden Sie Schritte zum Herunterladen und Konfigurieren des Containers für die Verwendung ohne Verbindung:

Speech-Dienst

Sprachdienst

Namen von Umgebungsvariablen in Kubernetes-Bereitstellungen

Einige Azure KI-Container wie Übersetzer erfordern, dass Benutzer*innen bei der Ausführung von Containern die Namen von Umgebungsvariablen übergeben, die Doppelpunkte (:) enthalten. Dies funktioniert gut bei der Verwendung von Docker, aber Kubernetes akzeptiert keine Doppelpunkte in Umgebungsvariablennamen. Um das zu umgehen, können Sie Doppelpunkte bei der Bereitstellung in Kubernetes durch doppelte Unterstriche (__) ersetzen. Das folgende Beispiel enthält ein akzeptables Format für Namen von Umgebungsvariablen:

        env:  
        - name: Mounts__License
          value: "/license"
        - name: Mounts__Output
          value: "/output"

In diesem Beispiel wird das Standardformat für die Namen Mounts:License und Mounts:Output von Umgebungsvariablen im Docker-Ausführungsbefehl ersetzt.

Containerimage- und Lizenzupdates

Containerlizenzdateien werden als Schlüssel verwendet, um bestimmte Dateien in jedem Containerimage zu entschlüsseln. Wenn diese verschlüsselten Dateien in einem neuen Containerimage aktualisiert werden, kann die Lizenzdatei, über die Sie verfügen, den Container möglicherweise nicht starten, auch wenn sie mit der vorherigen Version des Containerimages funktioniert hat. Um dieses Problem zu vermeiden, empfiehlt es sich, eine neue Lizenzdatei vom Ressourcenendpunkt für Ihren Container herunterzuladen, der in Azure-Portal bereitgestellt wird, nachdem Sie neue Imageversionen von mcr.microsoft.com abgerufen haben.

Zum Herunterladen einer neuen Lizenzdatei können Sie DownloadLicense=True zu Ihrem docker run-Befehl zusammen mit einer Lizenzeinbindung, Ihrem API-Schlüssel und Ihrem Abrechnungsendpunkt hinzufügen. Ausführliche Anweisungen finden Sie in der Dokumentation Ihres Containers.

Verwendungseinträge

Wenn Docker-Container in einer getrennten Umgebung ausgeführt werden, schreibt der Container Verwendungsdatensätze in ein Volume, in dem sie im Laufe der Zeit gesammelt werden. Sie können auch einen REST-Endpunkt aufrufen, um einen Bericht zur Dienstnutzung zu generieren.

Argumente zum Speichern von Protokollen

Wenn er in einer nicht verbundenen Umgebung ausgeführt wird, muss eine Ausgabeeinbindung für den Container verfügbar sein, um Nutzungsprotokolle zu speichern. Sie würden z. B. den Pfad ersetzen-v /host/output:{OUTPUT_PATH}, in dem die Protokolle gespeichert sind, {OUTPUT_PATH} und Mounts:Output={OUTPUT_PATH} im folgenden Beispiel:

docker run -v /host/output:{OUTPUT_PATH} ... <image> ... Mounts:Output={OUTPUT_PATH}

Abrufen von Einträgen mithilfe der Containerendpunkte

Der Container stellt zwei Endpunkte zum Zurückgeben von Einträgen zu seiner Nutzung bereit.

Abrufen aller Einträge

Der folgende Endpunkt stellt einen Bericht bereit, der alle im eingebundenen Verzeichnis der Abrechnungseinträge erfassten Nutzungen zusammenfasst.

https://<service>/records/usage-logs/

Sie gibt JSON ähnlich wie im folgenden Beispiel zurück.

{
  "apiType": "noop",
  "serviceName": "noop",
  "meters": [
    {
      "name": "Sample.Meter",
      "quantity": 253
    }
  ]
}

Abrufen der Einträge für einen bestimmten Monat

Der folgende Endpunkt stellt einen Bericht bereit, in dem die Nutzung für einen bestimmten Monat und ein bestimmtes Jahr zusammengefasst wird.

https://<service>/records/usage-logs/{MONTH}/{YEAR}

Sie gibt eine JSON-Antwort zurück, die dem folgenden Beispiel ähnelt:

{
  "apiType": "string",
  "serviceName": "string",
  "meters": [
    {
      "name": "string",
      "quantity": 253
    }
  ]
}

Erwerben eines Mindestabnahmeplans zur Verwendung von Containern in nicht verbundenen Umgebungen

Mindestabnahmepläne für nicht verbundene Container weisen einen Verpflichtungszeitraum von einem Kalenderjahr auf. Wenn Sie einen Plan kaufen, werden Sie sofort den vollständigen Preis in Rechnung gestellt. Während des Verpflichtungszeitraums können Sie Ihren Mindestabnahmeplan nicht ändern, aber Sie können weitere Einheiten zu einem anteiligen Preis für die verbleibenden Tage des Jahres erwerben. Sie haben bis Mitternacht (UTC) am letzten Tag Ihrer Zusage Zeit, um einen Mindestabnahmeplan zu beenden.

Sie können in den Einstellungen Ihrer Ressource unter den Preisen für die Mindestabnahme einen anderen Mindestabnahmeplan festlegen.

Beenden eines Mindestabnahmeplans

Wenn Sie einen Mindestabnahmeplan nicht mehr benötigen, können Sie die automatische Verlängerung für Ihre Ressource auf Nicht automatisch verlängern festlegen. Der Mindestabnahmeplan läuft zum angezeigten Enddatum ab. Nach diesem Datum wird Ihnen der Mindestabnahmeplan nicht mehr in Rechnung gestellt. Sie können die Azure-Ressource weiterhin verwenden, um API-Aufrufe zu tätigen, die zu pay-as-you-go-Preisen in Rechnung gestellt werden. Sie haben bis Mitternacht (UTC) am letzten Tag des Jahres Zeit, einen Mindestabnahmeplan für nicht verbundene Container zu beenden, ohne dass Ihnen für das folgende Jahr Kosten entstehen.

Problembehandlung

Wenn Sie den Container mit einer Ausgabenbereitstellung ausführen und die Protokollierung aktiviert ist, generiert der Container Protokolldateien. Diese sind hilfreich, um Probleme beim Starten oder Ausführen des Containers zu beheben.

Tipp

Weitere Informationen zur Problembehandlung und Anleitungen finden Sie unter Nicht verbundene Container: Häufig gestellte Fragen (FAQ).

Nächste Schritte

Übersicht über Azure KI-Container

Freigeben über