Sdílet prostřednictvím

ModelBatchDeploymentSettings Třída

  • Reference

Poznámka

Toto je experimentální třída, která se může kdykoli změnit. Další informace najdete tady: https://aka.ms/azuremlexperimental.

Entita Nastavení nasazení dávky modelu

Dědičnost
builtins.object
ModelBatchDeploymentSettings

Konstruktor

ModelBatchDeploymentSettings(*, mini_batch_size: int | None, instance_count: int | None = None, max_concurrency_per_instance: int | None = None, output_action: BatchDeploymentOutputAction | None = None, output_file_name: str | None = None, retry_settings: BatchRetrySettings | None = None, environment_variables: Dict[str, str] | None = None, error_threshold: int | None = None, logging_level: str | None = None, **kwargs: Any)

Parametry

Name Description
mini_batch_size
Vyžadováno
int

Velikost minidávky předané každému vyvolání dávky, výchozí hodnota je 10
instance_count
Vyžadováno
int

Počet instancí, na kterých bude rušení spuštěno. Odpovídá resources.instance_count.
output_action
Vyžadováno
str nebo BatchDeploymentOutputAction

Určuje, jak bude výstup uspořádaný. Mezi možné hodnoty patří: "summary_only", "append_row". Výchozí hodnota je "append_row"
output_file_name
Vyžadováno
str

Vlastní název výstupního souboru pro výstupní akci append_row, ve výchozím nastavení je "predictions.csv".
max_concurrency_per_instance
Vyžadováno
int

Označuje maximální počet paralelismu na instanci, výchozí hodnota je 1.
retry_settings
Vyžadováno
BatchRetrySettings

Nastavení opakování pro operaci dávkového odvozování, výchozí hodnota je Žádná
environment_variables
Vyžadováno
dict

Proměnné prostředí, které se nastaví v nasazení.
error_threshold
Vyžadováno
int

Prahová hodnota chyby: Pokud počet chyb pro celý vstup překročí tuto hodnotu, dávkové odvozování se přeruší. Rozsah je [-1, int. MaxValue] Hodnota -1 označuje, ignoruje všechna selhání během dávkového odvozování Pro FileDataset počet selhání souborů Pro TabularDataset je to počet selhání záznamů, výchozí hodnota je -1
logging_level
Vyžadováno
str

Úroveň protokolování pro operaci dávkového odvozování, výchozí hodnota je "info".

Příklady

Vytvoření objektu nastavení nasazení dávky modelu.


   from azure.ai.ml.entities._deployment.model_batch_deployment_settings import ModelBatchDeploymentSettings

   modelBatchDeploymentSetting = ModelBatchDeploymentSettings(
       mini_batch_size=256,
       instance_count=5,
       max_concurrency_per_instance=2,
       output_file_name="output-file-name",
       environment_variables={"env1": "value1", "env2": "value2"},
       error_threshold=2,
       logging_level=1,
   )