Udostępnij za pośrednictwem

Kroki uaktualniania usług internetowych usługi Azure Container Instances do zarządzanych punktów końcowych online

  • Artykuł

Zarządzane punkty końcowe online ułatwiają wdrażanie modeli uczenia maszynowego w sposób klucz. Zarządzane punkty końcowe online współpracują z maszynami o zaawansowanych procesorach CPU i GPU na platformie Azure w sposób skalowalny i w pełni zarządzany. Zarządzane punkty końcowe online oferują obsługę, skalowanie, zabezpieczanie i monitorowanie modeli, uwalniając Cię od konieczności konfigurowania infrastruktury bazowej i zarządzania nią. Szczegółowe informacje można znaleźć w temacie Wdrażanie i ocenianie modelu uczenia maszynowego przy użyciu punktu końcowego online.

Możesz wdrożyć bezpośrednio w nowym obiekcie docelowym obliczeniowym przy użyciu poprzednich modeli i środowisk lub użyć skryptów dostarczonych przez nas, aby wyeksportować bieżące usługi, a następnie wdrożyć je w nowym środowisku obliczeniowym bez wpływu na istniejące usługi. Jeśli regularnie tworzysz i usuwasz usługi internetowe usługi Azure Container Instances (ACI), zdecydowanie zalecamy wdrożenie bezpośrednio i nie przy użyciu skryptów.

Ważne

Adres URL oceniania zostanie zmieniony po uaktualnieniu. Na przykład adres URL oceniania dla usługi internetowej ACI jest podobny do http://aaaaaa-bbbbb-1111.westus.azurecontainer.io/score. Identyfikator URI oceniania dla zarządzanego punktu końcowego online jest podobny do https://endpoint-name.westus.inference.ml.azure.com/score.

Obsługiwane scenariusze i różnice

Tryb uwierzytelniania

Brak uwierzytelniania nie jest obsługiwany dla zarządzanego punktu końcowego online. Jeśli używasz skryptów uaktualniania, przekonwertuje go na uwierzytelnianie klucza. W przypadku uwierzytelniania klucza zostaną użyte oryginalne klucze. Obsługiwane jest również uwierzytelnianie oparte na tokenach.

TLS

W przypadku usługi ACI zabezpieczonej za pomocą protokołu HTTPS nie musisz już dostarczać własnych certyfikatów, wszystkie zarządzane punkty końcowe online są chronione przez protokół TLS.

Niestandardowa nazwa DNS nie jest obsługiwana.

Zapotrzebowanie na zasoby

Wymagania containerResourceRequirements nie są obsługiwane. Możesz wybrać odpowiednią jednostkę SKU dla wnioskowania. Narzędzie uaktualniania zamapuje wymaganie procesora CPU/pamięci na odpowiednią jednostkę SKU. Jeśli zdecydujesz się na ponowne wdrożenie ręcznie za pomocą interfejsu wiersza polecenia/zestawu SDK w wersji 2, sugerujemy również odpowiednią jednostkę SKU dla nowego wdrożenia.

Żądanie procesora CPU Żądanie pamięci w GB Sugerowana jednostka SKU
(0, 1] (0, 1.2] DS1 V2
(1, 2] (1.2, 1.7] F2s V2
(1, 2] (1.7, 4.7] DS2, wersja 2
(1, 2] (4.7, 13.7] E2s V3
(2, 4] (0, 5.7] F4s V2
(2, 4] (5.7, 11.7] DS3 V2
(2, 4] (11.7, 16] E4s V3

"(" oznacza większe niż i "]" oznacza mniejsze niż lub równe. Na przykład "(0, 1]" oznacza "większe niż 0 i mniejsze niż lub równe 1".

Ważne

Podczas uaktualniania z usługi ACI zostaną wprowadzone pewne zmiany w sposobie naliczania opłat. Zapoznaj się z naszym blogiem , aby uzyskać przybliżone porównanie kosztów, aby ułatwić wybór odpowiednich jednostek SKU maszyn wirtualnych dla obciążenia.

Izolacja sieciowa

W przypadku scenariuszy z prywatnym obszarem roboczym i siecią wirtualną zobacz Używanie izolacji sieciowej z zarządzanymi punktami końcowymi online.

Ważne

Ponieważ istnieje wiele ustawień obszaru roboczego i sieci wirtualnej, zdecydowanie zalecamy ponowne wdrożenie za pomocą rozszerzenia interfejsu wiersza polecenia platformy Azure w wersji 2 na potrzeby uczenia maszynowego zamiast narzędzia skryptu.

Nieobsługiwane

  • Właściwość EncryptionProperties dla kontenera ACI nie jest obsługiwana.
  • Usługi internetowe ACI wdrożone za pośrednictwem deploy_from_model i deploy_from_image nie są obsługiwane przez narzędzie uaktualniania. Ponownie wdróż ponownie za pomocą interfejsu wiersza polecenia/zestawu SDK w wersji 2.

Kroki uaktualniania

Za pomocą interfejsu wiersza polecenia lub zestawu SDK

Ponownie wdróż ponownie przy użyciu plików modelu i definicji środowiska. Nasze przykłady można znaleźć na stronie azureml-examples. W szczególności jest to przykład zestawu SDK dla zarządzanego punktu końcowego online.

Za pomocą naszego narzędzia do uaktualniania

To narzędzie automatycznie utworzy nowy zarządzany punkt końcowy online na podstawie istniejących usług internetowych. Twoje oryginalne usługi nie będą miały wpływu. Możesz bezpiecznie kierować ruch do nowego punktu końcowego, a następnie usunąć stary.

Uwaga

Skrypt uaktualniania jest przykładowym skryptem i jest dostarczany bez umowy dotyczącej poziomu usług (SLA).

Aby uruchomić skrypty, wykonaj następujące czynności:

Napiwek

Nowy punkt końcowy utworzony przez skrypty zostanie utworzony w tym samym obszarze roboczym.

  1. Uruchamianie skryptów za pomocą powłoki bash. Na przykład sesja terminalu w systemie Linux lub Podsystem Windows dla systemu Linux (WSL).

  2. Zainstaluj zestaw Python SDK w wersji 1 , aby uruchomić skrypt języka Python.

  3. Zainstaluj interfejs wiersza polecenia platformy Azure.

  4. Sklonuj repozytorium do lokalnej env. Na przykład git clone https://github.com/Azure/azureml-examples.

  5. Zmodyfikuj migrate-service.sh następujące wartości w pliku. Zastąp wartości wartościami, które mają zastosowanie do konfiguracji.

    • <SUBSCRIPTION_ID> — Identyfikator subskrypcji subskrypcji platformy Azure, która zawiera obszar roboczy.
    • <RESOURCEGROUP_NAME> — Grupa zasobów zawierająca obszar roboczy.
    • <WORKSPACE_NAME> — Nazwa obszaru roboczego.
    • <SERVICE_NAME> - Nazwa istniejącej usługi ACI.
    • <LOCAL_PATH> — ścieżka lokalna, w której pobierane są zasoby i szablony używane przez skrypt.
    • <NEW_ENDPOINT_NAME> — nazwa nowego punktu końcowego, który zostanie utworzony. Zalecamy, aby nowa nazwa punktu końcowego różniła się od poprzedniej nazwy usługi. W przeciwnym razie oryginalna usługa nie będzie wyświetlana, jeśli sprawdzisz punkty końcowe w portalu.
    • <NEW_DEPLOYMENT_NAME> — nazwa wdrożenia do nowego punktu końcowego.

  6. Uruchom skrypt powłoki bash. Na przykład ./migrate-service.sh. Ukończenie nowego wdrożenia potrwa około 5–10 minut.

    Napiwek

    Jeśli wystąpi błąd, że skrypt nie jest wykonywalny lub edytor zostanie otwarty podczas próby uruchomienia skryptu, użyj następującego polecenia, aby oznaczyć skrypt jako plik wykonywalny:

    chmod +x migrate-service.sh

  7. Po pomyślnym zakończeniu wdrażania możesz zweryfikować punkt końcowy za pomocą polecenia az ml online-endpoint invoke .

Kontakt z nami

Jeśli masz pytania lub opinie dotyczące skryptu uaktualniania, skontaktuj się z nami pod adresem moeonboard@microsoft.com.

Następne kroki