InferenceConfig Třída

Reference

Představuje nastavení konfigurace pro vlastní prostředí používané k nasazení.

Konfigurace odvozování je vstupní parametr pro Model akce související s nasazením:

Inicializuje objekt konfigurace.

Dědičnost: builtins.object

InferenceConfig

Konstruktor

InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)

Parametry

Name	Description
entry_script Vyžadováno	str Cesta k místnímu souboru, který obsahuje kód, který se má spustit pro image.
runtime	str Modul runtime, který se má použít pro image. Aktuálně podporované moduly runtime jsou spark-py a python. Default value: None
conda_file	str Cesta k místnímu souboru obsahujícímu definici prostředí conda, která se má použít pro image. Default value: None
extra_docker_file_steps	str Cesta k místnímu souboru obsahující další kroky Dockeru, které se mají spustit při nastavování image. Default value: None
source_directory	str Cesta ke složce, která obsahuje všechny soubory pro vytvoření image. Default value: None
enable_gpu	bool Určuje, jestli se má v imagi povolit podpora GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Výchozí hodnota je False. Default value: None
description	str Popis pro tento obrázek. Default value: None
base_image	str Vlastní image, která se má použít jako základní image. Pokud není uvedena žádná základní image, použije se základní image na základě daného parametru modulu runtime. Default value: None
base_image_registry	ContainerRegistry Registr imagí, který obsahuje základní image. Default value: None
cuda_version	str Verze CUDA, která se má nainstalovat pro image, které potřebují podporu GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Podporované verze jsou 9.0, 9.1 a 10.0. Pokud `enable_gpu` je nastavená, bude výchozí hodnota 9.1. Default value: None
environment	Environment Objekt prostředí, který se má použít pro nasazení. Prostředí nemusí být zaregistrované. Zadejte buď tento parametr, nebo ostatní parametry, ale ne oba parametry. Jednotlivé parametry nebudou sloužit jako přepsání objektu prostředí. Mezi výjimky patří `entry_script`, `source_directory`a `description`. Default value: None
entry_script Vyžadováno	str Cesta k místnímu souboru, který obsahuje kód, který se má spustit pro image.
runtime Vyžadováno	str Modul runtime, který se má použít pro image. Aktuálně podporované moduly runtime jsou spark-py a python.
conda_file Vyžadováno	str Cesta k místnímu souboru obsahujícímu definici prostředí conda, která se má použít pro image.
extra_docker_file_steps Vyžadováno	str Cesta k místnímu souboru obsahující další kroky Dockeru, které se mají spustit při nastavování image.
source_directory Vyžadováno	str Cesta ke složce, která obsahuje všechny soubory pro vytvoření image.
enable_gpu Vyžadováno	bool Určuje, jestli se má v imagi povolit podpora GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Výchozí hodnota je False.
description Vyžadováno	str Popis pro tento obrázek.
base_image Vyžadováno	str Vlastní image, která se má použít jako základní image. Pokud není uvedena žádná základní image, použije se základní image na základě daného parametru modulu runtime.
base_image_registry Vyžadováno	ContainerRegistry Registr imagí, který obsahuje základní image.
cuda_version Vyžadováno	str Verze CUDA, která se má nainstalovat pro image, které potřebují podporu GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Podporované verze jsou 9.0, 9.1 a 10.0. Pokud `enable_gpu` je nastavená, bude výchozí hodnota 9.1.
environment Vyžadováno	Environment Objekt prostředí, který se má použít pro nasazení. Prostředí nemusí být zaregistrované. Zadejte buď tento parametr, nebo ostatní parametry, ale ne oba parametry. Jednotlivé parametry nebudou sloužit jako přepsání objektu prostředí. Mezi výjimky patří `entry_script`, `source_directory`a `description`.

Poznámky

Následující ukázka ukazuje, jak vytvořit objekt InferenceConfig a použít ho k nasazení modelu.


   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

Proměnné

Name	Description
entry_script	str Cesta k místnímu souboru, který obsahuje kód, který se má spustit pro image.
runtime	str Modul runtime, který se má použít pro image. Aktuálně podporované moduly runtime jsou spark-py a python.
conda_file	str Cesta k místnímu souboru obsahujícímu definici prostředí conda, která se má použít pro image.
extra_docker_file_steps	str Cesta k místnímu souboru obsahující další kroky Dockeru, které se mají spustit při nastavování image.
source_directory	str Cesta ke složce, která obsahuje všechny soubory pro vytvoření image.
enable_gpu	bool Určuje, jestli se má v imagi povolit podpora GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service.
azureml.core.model.InferenceConfig.description	Popis pro tento obrázek.
base_image	str Vlastní image, která se má použít jako základní image. Pokud není uvedena žádná základní image, použije se základní image na základě daného parametru modulu runtime.
base_image_registry	ContainerRegistry Registr imagí, který obsahuje základní image.
cuda_version	str Verze CUDA, která se má nainstalovat pro image, které potřebují podporu GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Podporované verze jsou 9.0, 9.1 a 10.0. Pokud `enable_gpu` je nastavená hodnota , ve výchozím nastavení se nastaví 9.1.
azureml.core.model.InferenceConfig.environment	Objekt prostředí, který se má použít pro nasazení. Prostředí nemusí být zaregistrované. Zadejte buď tento parametr, nebo ostatní parametry, ale ne oba parametry. Jednotlivé parametry NEBUDOU sloužit jako přepsání objektu prostředí. Mezi výjimky patří `entry_script`, `source_directory`a `description`.

Metody

build_create_payload	Sestavte datovou část vytváření pro image kontejneru.
build_profile_payload	Sestavte datovou část profilace pro balíček modelu.
validate_configuration	Zkontrolujte, jestli jsou zadané hodnoty konfigurace platné. Vyvolá v WebserviceException případě, že se ověření nezdaří.
validation_script_content	Zkontrolujte, jestli je syntaxe skriptu skóre platná s ast.parse. Vyvolá v UserErrorException případě, že se ověření nezdaří.

build_create_payload

Sestavte datovou část vytváření pro image kontejneru.

build_create_payload(workspace, name, model_ids)

Parametry

Name	Description
workspace Vyžadováno	Workspace Objekt pracovního prostoru, ve které se má image vytvořit.
name Vyžadováno	str Název obrázku.
model_ids Vyžadováno	list[str] Seznam ID modelů, které se mají zabalit do image.

Návraty

Typ	Description
dict	Datová část vytvoření image kontejneru

Výjimky

Typ	Description
WebserviceException

build_profile_payload

Sestavte datovou část profilace pro balíček modelu.

build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)

Parametry

Name	Description
profile_name Vyžadováno	str Název běhu profilace.
input_data	str Vstupní data pro profilaci. Default value: None
workspace	Workspace Objekt Pracovního prostoru, ve kterém chcete model profilovat. Default value: None
models	list[Model] Seznam objektů modelu. Může to být prázdný seznam. Default value: None
dataset_id	str ID přidružené k datové sadě obsahující vstupní data pro spuštění profilace. Default value: None
container_resource_requirements	ContainerResourceRequirements Požadavky na prostředky kontejneru pro největší instanci, do které se má model nasadit Default value: None
description	str Popis, který se má přidružit ke spuštění profilace. Default value: None

Návraty

Typ	Description
dict	Datová část profilu modelu

Výjimky

Typ	Description
WebserviceException

validate_configuration

Zkontrolujte, jestli jsou zadané hodnoty konfigurace platné.

Vyvolá v WebserviceException případě, že se ověření nezdaří.

validate_configuration()

Výjimky

Typ	Description
WebserviceException

validation_script_content

Zkontrolujte, jestli je syntaxe skriptu skóre platná s ast.parse.

Vyvolá v UserErrorException případě, že se ověření nezdaří.

validation_script_content()

Výjimky

Typ	Description
UserErrorException

Sdílet prostřednictvím

InferenceConfig Třída

Konstruktor

Parametry

Poznámky

Proměnné

Metody

build_create_payload

Parametry

Návraty

Výjimky

build_profile_payload

Parametry

Návraty

Výjimky

validate_configuration

Výjimky

validation_script_content

Výjimky

Váš názor

Další materiály