Jak wdrożyć model AutoML w punkcie końcowym online

DOTYCZY: Rozszerzenie interfejsu wiersza polecenia platformy Azure w wersji 2 (current)Zestaw PYTHON SDK azure-ai-ml v2 (bieżąca)

Z tego artykułu dowiesz się, jak wdrożyć model uczenia maszynowego wytrenowanego przez rozwiązanie AutoML do punktu końcowego wnioskowania w czasie rzeczywistym w trybie online. Zautomatyzowane uczenie maszynowe, nazywane również zautomatyzowanym uczeniem maszynowym lub rozwiązaniem AutoML, to proces automatyzowania czasochłonnych, iteracyjnych zadań tworzenia modelu uczenia maszynowego. Aby uzyskać więcej informacji, zobacz Co to jest zautomatyzowane uczenie maszynowe (AutoML)?

W poniższych sekcjach dowiesz się, jak wdrożyć wytrenowany model uczenia maszynowego w usłudze AutoML w punktach końcowych online przy użyciu:

• Azure Machine Learning Studio
• Interfejs wiersza polecenia usługi Azure Machine Learning w wersji 2
• Zestaw SDK języka Python usługi Azure Machine Learning w wersji 2

Wymagania wstępne

• Model uczenia maszynowego wytrenowany przez rozwiązanie AutoML. Aby uzyskać więcej informacji, zobacz Samouczek: trenowanie modelu klasyfikacji bez uczenia maszynowego bez kodu lub Samouczek: prognozowanie zapotrzebowania bez zautomatyzowanego uczenia maszynowego bez kodu.

Wdrażanie z usługi Azure Machine Learning Studio i brak kodu

Wdrażanie modelu wytrenowanego za pomocą zautomatyzowanego uczenia maszynowego na stronie Zautomatyzowane uczenie maszynowe to środowisko bez kodu. Oznacza to, że nie trzeba przygotowywać skryptu oceniania i środowiska, ponieważ oba są generowane automatycznie.

1. W usłudze Azure Machine Learning Studio przejdź do strony Zautomatyzowane uczenie maszynowe .

2. Wybierz swój eksperyment i uruchom go.

3. Wybierz kartę Modele i zadania podrzędne.

4. Wybierz model, który chcesz wdrożyć.

5. Po wybraniu modelu przycisk Wdróż będzie dostępny z menu rozwijanego.

6. Wybierz opcję Punkt końcowy czasu rzeczywistego .

   

   System generuje model i środowisko wymagane do wdrożenia.

   

Ręczne wdrażanie z poziomu programu Studio lub wiersza polecenia

Jeśli chcesz mieć większą kontrolę nad wdrożeniem, możesz pobrać artefakty szkoleniowe i wdrożyć je.

Aby pobrać składniki, potrzebne jest wdrożenie:

1. Przejdź do eksperymentu zautomatyzowanego uczenia maszynowego i uruchom go w obszarze roboczym uczenia maszynowego.

2. Wybierz kartę Modele i zadania podrzędne.

3. Wybierz model, którego chcesz użyć. Po wybraniu modelu zostanie włączony przycisk Pobierz .

4. Wybierz pozycję Pobierz.

   

Otrzymasz plik .zip zawierający następujące elementy:

• Plik specyfikacji środowiska conda o nazwie conda_env_<VERSION>.yml
• Plik oceniania języka Python o nazwie scoring_file_<VERSION>.py
• Sam model w pliku pkl języka Python o nazwie model.pkl

Aby wdrożyć przy użyciu tych plików, możesz użyć programu Studio lub interfejsu wiersza polecenia platformy Azure.

Studio

1. W usłudze Azure Machine Learning Studio przejdź do strony Modele .
2. Wybierz pozycję Wybierz pozycję + Zarejestruj>z plików lokalnych.
3. Zarejestruj model pobrany z przebiegu zautomatyzowanego uczenia maszynowego.
4. Przejdź do strony Środowiska, wybierz pozycję Środowisko niestandardowe, a następnie wybierz pozycję + Utwórz, aby utworzyć środowisko dla danego wdrożenia. Użyj pobranego pliku yaml conda, aby utworzyć środowisko niestandardowe.
5. Wybierz model, a następnie z menu rozwijanego Wdrażanie Dwybierz pozycję Punkt końcowy czasu rzeczywistego.
6. Wykonaj wszystkie kroki opisane w kreatorze, aby utworzyć punkt końcowy i wdrożenie online.

Interfejs wiersza polecenia platformy Azure

DOTYCZY: Rozszerzenie interfejsu wiersza polecenia platformy Azure ml w wersji 2 (bieżąca)

Konfigurowanie interfejsu wiersza polecenia

Aby utworzyć wdrożenie na podstawie interfejsu wiersza polecenia, potrzebujesz interfejsu wiersza polecenia platformy Azure z rozszerzeniem ML w wersji 2. Uruchom następujące polecenie, aby potwierdzić:

az version

Jeśli zostanie wyświetlony komunikat o błędzie lub nie widzisz Extensions: ml go w odpowiedzi, wykonaj kroki opisane w temacie Instalowanie i konfigurowanie interfejsu wiersza polecenia (wersja 2).

1. Zaloguj.

   az login
   

2. Jeśli masz dostęp do wielu subskrypcji platformy Azure, możesz ustawić aktywną subskrypcję.

   az account set -s "<YOUR_SUBSCRIPTION_NAME_OR_ID>"
   

3. Ustaw domyślną grupę zasobów i obszar roboczy na miejsce, w którym chcesz utworzyć wdrożenie.

   az configure --defaults group=$GROUP workspace=$WORKSPACE location=$LOCATION
   

Umieść plik oceniania we własnym katalogu

Utwórz katalog o nazwie src. Zapisz pobrany do niego plik oceniania. Ten katalog jest przekazywany na platformę Azure i zawiera cały kod źródłowy niezbędny do wnioskowania. W przypadku modelu automatycznego uczenia maszynowego jest tylko jeden plik oceniania.

Tworzenie punktu końcowego i pliku yaml wdrożenia

Aby utworzyć punkt końcowy online z poziomu wiersza polecenia, utwórz endpoint.yml i plik deployment.yml . Poniższy kod pobrany z repozytorium Przykłady usługi Azure Machine Learning przedstawia punkty końcowe/online/managed/sample/, które przechwytują wszystkie wymagane dane wejściowe.

automl_endpoint.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

automl_deployment.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
name: blue
endpoint_name: my-endpoint
model:
  path: ../../model-1/model/
code_configuration:
  code: ../../model-1/onlinescoring/
  scoring_script: score.py
environment: 
  conda_file: ../../model-1/environment/conda.yaml
  image: mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu22.04:latest
instance_type: Standard_DS3_v2
instance_count: 1

Należy zmodyfikować ten plik, aby korzystał z plików pobranych ze strony Modele automatycznego uczenia maszynowego.

1. Utwórz plik automl_endpoint.yml i automl_deployment.yml i wklej zawartość powyższych przykładów.

2. Zmień wartość name punktu końcowego. Nazwa punktu końcowego musi być unikatowa w regionie świadczenia usługi Azure. Nazwa punktu końcowego musi zaczynać się od wielkiej lub małej litery i składać się tylko z znaków "-" i alfanumerycznych.

3. W pliku automl_deployment.yml zmień wartość kluczy w następujących ścieżkach.

   Ścieżka	Zmień na
   model:path	Ścieżka do pobranego pliku model.pkl .
   code_configuration:code:path	Katalog, w którym umieszczono plik oceniania.
   code_configuration:scoring_script	Nazwa pliku oceniania języka Python (scoring_file_<VERSION>.py).
   environment:conda_file	Adres URL pliku pobranego pliku środowiska Conda (conda_env_<VERSION>.yml).

   Uwaga

   Pełny opis kodu YAML można znaleźć w temacie Dokumentacja YAML punktu końcowego online.

4. W wierszu polecenia uruchom polecenie:

   DOTYCZY: Rozszerzenie interfejsu wiersza polecenia platformy Azure ml w wersji 2 (bieżąca)

   az ml online-endpoint create -f automl_endpoint.yml
   az ml online-deployment create -f automl_deployment.yml
   

Po utworzeniu wdrożenia można go ocenić zgodnie z opisem w temacie Wywoływanie punktu końcowego w celu oceny danych przy użyciu modelu.

Zestaw SDK dla języka Python

DOTYCZY: Zestaw PYTHON SDK azure-ai-ml w wersji 2 (bieżąca)

Konfigurowanie zestawu SDK języka Python

Jeśli musisz zainstalować zestaw PYTHON SDK w wersji 2, zainstaluj za pomocą tego polecenia:

pip install azure-ai-ml azure-identity

Aby uzyskać więcej informacji, zobacz Instalowanie zestawu Azure Machine Learning SDK w wersji 2 dla języka Python.

Umieść plik oceniania we własnym katalogu

Utwórz katalog o nazwie src. Zapisz pobrany do niego plik oceniania. Ten katalog jest przekazywany na platformę Azure i zawiera cały kod źródłowy niezbędny do wnioskowania. W przypadku modelu automatycznego uczenia maszynowego jest tylko jeden plik oceniania.

Nawiązywanie połączenia z obszarem roboczym usługi Azure Machine Learning

1. Zaimportuj wymagane biblioteki.

   # import required libraries
   from azure.ai.ml import MLClient
   from azure.ai.ml.entities import (
       ManagedOnlineEndpoint,
       ManagedOnlineDeployment,
       Model,
       Environment,
       CodeConfiguration,
   )
   from azure.identity import DefaultAzureCredential
   

2. Konfigurowanie szczegółów obszaru roboczego i uzyskiwanie dojścia do obszaru roboczego.

   # enter details of your Azure Machine Learning workspace
   subscription_id = "<SUBSCRIPTION_ID>"
   resource_group = "<RESOURCE_GROUP>"
   workspace = "<AZUREML_WORKSPACE_NAME>"
   

   # get a handle to the workspace
   ml_client = MLClient(
       DefaultAzureCredential(), subscription_id, resource_group, workspace
   )
   

Tworzenie punktu końcowego i wdrożenia

Utwórz zarządzane punkty końcowe online i wdrożenia.

1. Konfigurowanie punktu końcowego online.

   Napiwek

   • name: nazwa punktu końcowego. Musi być unikatowa w regionie świadczenia usługi Azure. Nazwa punktu końcowego musi zaczynać się od wielkiej lub małej litery i składać się tylko z znaków "-" i alfanumerycznych. Aby uzyskać więcej informacji na temat reguł nazewnictwa, zobacz Limity punktów końcowych.
   • auth_mode : służy key do uwierzytelniania opartego na kluczach. Służy aml_token do uwierzytelniania opartego na tokenach usługi Azure Machine Learning. Element key nie wygasa, ale aml_token wygasa. Aby uzyskać więcej informacji na temat uwierzytelniania, zobacz Uwierzytelnianie w punkcie końcowym online.

   # Creating a unique endpoint name with current datetime to avoid conflicts
   import datetime
   
   online_endpoint_name = "endpoint-" + datetime.datetime.now().strftime("%m%d%H%M%f")
   
   # create an online endpoint
   endpoint = ManagedOnlineEndpoint(
       name=online_endpoint_name,
       description="this is a sample online endpoint",
       auth_mode="key",
   )
   

2. Utwórz punkt końcowy.

   Przy użyciu utworzonego MLClient wcześniej elementu utwórz punkt końcowy w obszarze roboczym. To polecenie uruchamia tworzenie punktu końcowego. Zwraca odpowiedź z potwierdzeniem, gdy tworzenie punktu końcowego będzie kontynuowane.

   ml_client.begin_create_or_update(endpoint)
   

3. Konfigurowanie wdrożenia online.

   Wdrożenie to zestaw zasobów wymaganych do hostowania modelu, który wykonuje rzeczywiste wnioskowanie. Utwórz wdrożenie dla naszego punktu końcowego ManagedOnlineDeployment przy użyciu klasy .

   model = Model(path="./src/model.pkl")
   env = Environment(
       conda_file="./src/conda_env_v_1_0_0.yml",
       image="mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04:latest",
   )
   
   blue_deployment = ManagedOnlineDeployment(
       name="blue",
       endpoint_name=online_endpoint_name,
       model=model,
       environment=env,
       code_configuration=CodeConfiguration(
           code="./src", scoring_script="scoring_file_v_2_0_0.py"
       ),
       instance_type="Standard_DS2_v2",
       instance_count=1,
   )
   

   W tym przykładzie pliki pobrane ze strony Modele automatycznego uczenia maszynowego znajdują się w katalogu src . Parametry w kodzie można zmodyfikować tak, aby odpowiadały twojej sytuacji.

   Parametr	Zmień na
   model:path	Ścieżka do pobranego pliku model.pkl .
   code_configuration:code:path	Katalog, w którym umieszczono plik oceniania.
   code_configuration:scoring_script	Nazwa pliku oceniania języka Python (scoring_file_<VERSION>.py).
   environment:conda_file	Adres URL pliku pobranego pliku środowiska Conda (conda_env_<VERSION>.yml).

4. Utwórz wdrożenie.

   Za pomocą utworzonego MLClient wcześniej polecenia utwórz wdrożenie w obszarze roboczym. To polecenie rozpoczyna tworzenie wdrożenia. Zwraca odpowiedź z potwierdzeniem, gdy tworzenie wdrożenia będzie kontynuowane.

   ml_client.begin_create_or_update(blue_deployment)
   

Po utworzeniu wdrożenia można go ocenić zgodnie z opisem w artykule Testowanie punktu końcowego przy użyciu przykładowych danych.

Aby dowiedzieć się więcej na temat wdrażania w zarządzanych punktach końcowych online za pomocą zestawu SDK, zobacz Wdrażanie i ocenianie modelu uczenia maszynowego przy użyciu punktu końcowego online.

Powiązana zawartość

• Rozwiązywanie problemów z wdrażaniem i ocenianiem punktów końcowych online
• Wykonywanie bezpiecznego wdrażania nowych wdrożeń na potrzeby wnioskowania w czasie rzeczywistym