TensorFlow Třída
Představuje odhadce pro trénování v experimentech TensorFlow.
ZASTARALÉ. Použijte objekt s ScriptRunConfig vlastním definovaným prostředím nebo s jedním z kurátorovaných prostředí Azure ML TensorFlow. Úvod ke konfiguraci spuštění experimentu TensorFlow pomocí ScriptRunConfig najdete v tématu trénování modelů TensorFlow ve velkém s využitím Služby Machine Learning.
Podporované verze: 1.10, 1.12, 1.13, 2.0, 2.1, 2.2
Inicializujte estimátor TensorFlow.
Referenční informace o spuštění Dockeru :type shm_size: str :p aram resume_from: Cesta k datům obsahující soubory kontrolního bodu nebo modelu, ze kterých chcete experiment obnovit. :type resume_from: azureml.data.datapath.DataPath :p aram max_run_duration_seconds: Maximální povolená doba spuštění. Azure ML se pokusí automaticky
zrušte spuštění, pokud trvá déle než tato hodnota.
- Dědičnost
-
azureml.train.estimator._framework_base_estimator._FrameworkBaseEstimatorTensorFlow
Konstruktor
TensorFlow(source_directory, *, compute_target=None, vm_size=None, vm_priority=None, entry_script=None, script_params=None, node_count=1, process_count_per_node=1, worker_count=1, parameter_server_count=1, distributed_backend=None, distributed_training=None, use_gpu=False, use_docker=True, custom_docker_base_image=None, custom_docker_image=None, image_registry_details=None, user_managed=False, conda_packages=None, pip_packages=None, conda_dependencies_file_path=None, pip_requirements_file_path=None, conda_dependencies_file=None, pip_requirements_file=None, environment_variables=None, environment_definition=None, inputs=None, source_directory_data_store=None, shm_size=None, resume_from=None, max_run_duration_seconds=None, framework_version=None, _enable_optimized_mode=False, _disable_validation=True, _show_lint_warnings=False, _show_package_warnings=False)
Parametry
Name | Description |
---|---|
source_directory
Vyžadováno
|
Místní adresář obsahující konfigurační soubory experimentu. |
compute_target
Vyžadováno
|
AbstractComputeTarget nebo
str
Cílový výpočetní objekt, ve kterém bude probíhat trénování. Může to být buď objekt, nebo řetězec "local". |
vm_size
Vyžadováno
|
Velikost virtuálního počítače cílového výpočetního objektu, který se vytvoří pro trénování. Podporované hodnoty: Libovolná velikost virtuálního počítače Azure. |
vm_priority
Vyžadováno
|
Priorita virtuálního počítače cílového výpočetního objektu, který se vytvoří pro trénování. Pokud není zadáno, použije se "vyhrazené". Podporované hodnoty: dedicated a lowpriority. To se projeví pouze v |
entry_script
Vyžadováno
|
Relativní cesta k souboru, který obsahuje trénovací skript. |
script_params
Vyžadováno
|
Slovník argumentů příkazového řádku, který se má předat do trénovacího skriptu zadaného v |
node_count
Vyžadováno
|
Počet uzlů v cílovém výpočetním objektu, které se používají pro trénování.
AmlCompute Pro distribuované trénování je podporován pouze cíl ( |
process_count_per_node
Vyžadováno
|
Pokud používáte MPI, počet procesů na uzel. |
worker_count
Vyžadováno
|
Při použití serveru parametrů pro distribuované trénování počet pracovních uzlů. ZASTARALÉ. Jako součást parametru zadejte |
parameter_server_count
Vyžadováno
|
Pokud používáte server parametrů pro distribuované trénování, počet uzlů serveru parametrů. |
distributed_backend
Vyžadováno
|
Komunikační back-end pro distribuované trénování. ZASTARALÉ.
Podporované hodnoty: "mpi" a "ps". Mpi představuje MPI/Horovod a ps představuje server parametrů. Tento parametr je povinný, pokud některý z parametrů Pokud |
distributed_training
Vyžadováno
|
ParameterServer nebo
Mpi
Parametry pro spuštění distribuované trénovací úlohy Pokud chcete spustit distribuovanou úlohu s back-endem serveru parametrů, použijte ParameterServer objekt k zadání Pokud chcete spustit distribuovanou úlohu s back-endem Mpi MPI, použijte objekt k zadání |
use_gpu
Vyžadováno
|
Určuje, jestli by prostředí pro spuštění experimentu mělo podporovat GPU.
Pokud ano, použije se v prostředí výchozí image Dockeru založená na GPU. Pokud je false, použije se image založená na procesoru. Výchozí image Dockeru (CPU nebo GPU) se použijí pouze v případě, že |
use_docker
Vyžadováno
|
Určuje, jestli má být prostředí, ve kterém se má experiment spustit, založené na Dockeru. |
custom_docker_base_image
Vyžadováno
|
Název image Dockeru, ze které se vytvoří image, která se má použít pro trénování. ZASTARALÉ.
Pokud není nastavená, jako základní image se použije výchozí image založená na procesoru. |
custom_docker_image
Vyžadováno
|
Název image Dockeru, ze které se vytvoří image, která se má použít pro trénování. Pokud není nastavená, jako základní image se použije výchozí image založená na procesoru. |
image_registry_details
Vyžadováno
|
Podrobnosti o registru imagí Dockeru |
user_managed
Vyžadováno
|
Určuje, jestli Azure ML znovu použije existující prostředí Pythonu. Pokud je false, Azure ML vytvoří prostředí Pythonu na základě specifikace závislostí conda. |
conda_packages
Vyžadováno
|
Seznam řetězců představujících balíčky conda, které se mají přidat do prostředí Pythonu pro experiment. |
pip_packages
Vyžadováno
|
Seznam řetězců představujících balíčky pip, které se mají přidat do prostředí Pythonu pro experiment. |
conda_dependencies_file_path
Vyžadováno
|
Řetězec představující relativní cestu k souboru yaml závislostí conda.
Pokud je zadáno, Azure ML nenainstaluje žádné balíčky související s architekturou.
ZASTARALÉ.
|
pip_requirements_file_path
Vyžadováno
|
Řetězec představující relativní cestu k textovému souboru požadavků pip.
To je možné poskytnout v kombinaci s parametrem |
conda_dependencies_file
Vyžadováno
|
Řetězec představující relativní cestu k souboru yaml závislostí conda. Pokud je zadáno, Azure ML nenainstaluje žádné balíčky související s architekturou. |
pip_requirements_file
Vyžadováno
|
Řetězec představující relativní cestu k textovému souboru požadavků pip.
To je možné poskytnout v kombinaci s parametrem |
environment_variables
Vyžadováno
|
Slovník názvů a hodnot proměnných prostředí. Tyto proměnné prostředí se nastavují v procesu, ve kterém se spouští uživatelský skript. |
environment_definition
Vyžadováno
|
Definice prostředí pro experiment. Zahrnuje PythonSection, DockerSection a proměnné prostředí. Pomocí tohoto parametru lze nastavit všechny možnosti prostředí, které nejsou přímo vystaveny prostřednictvím jiných parametrů pro konstrukci nástroje Estimator. Pokud je tento parametr zadaný, bude mít přednost před jinými parametry souvisejícími s prostředím, jako |
inputs
Vyžadováno
|
Seznam DataReference objektů nebo DatasetConsumptionConfig objektů, které se mají použít jako vstup. |
source_directory_data_store
Vyžadováno
|
Záložní úložiště dat pro sdílenou složku projektu. |
shm_size
Vyžadováno
|
Velikost bloku sdílené paměti kontejneru Dockeru Pokud není nastavená, použije se výchozí azureml.core.environment._DEFAULT_SHM_SIZE. Další informace najdete v referenčních informacích o spuštění Dockeru. |
resume_from
Vyžadováno
|
Cesta k datům obsahující soubory kontrolního bodu nebo modelu, ze kterých se má experiment pokračovat. |
max_run_duration_seconds
Vyžadováno
|
Maximální povolený čas pro spuštění. Azure ML se pokusí automaticky zrušit spuštění, pokud trvá déle, než je tato hodnota. |
framework_version
Vyžadováno
|
Verze TensorFlow, která se má použít ke spouštění trénovacího kódu.
Pokud není k dispozici žádná verze, bude odhadce ve výchozím nastavení používat nejnovější verzi podporovanou službou Azure ML.
Pomocí |
source_directory
Vyžadováno
|
Místní adresář obsahující konfigurační soubory experimentu. |
compute_target
Vyžadováno
|
AbstractComputeTarget nebo
str
Cílový výpočetní objekt, ve kterém bude probíhat trénování. Může to být buď objekt, nebo řetězec "local". |
vm_size
Vyžadováno
|
Velikost virtuálního počítače cílového výpočetního objektu, který se vytvoří pro trénování. Podporované hodnoty: Libovolná velikost virtuálního počítače Azure. |
vm_priority
Vyžadováno
|
Priorita virtuálního počítače cílového výpočetního objektu, který se vytvoří pro trénování. Pokud není zadáno, použije se "vyhrazené". Podporované hodnoty: dedicated a lowpriority. To se projeví pouze v |
entry_script
Vyžadováno
|
Relativní cesta k souboru, který obsahuje trénovací skript. |
script_params
Vyžadováno
|
Slovník argumentů příkazového řádku, které se mají předat tne trénovacímu skriptu zadanému v |
node_count
Vyžadováno
|
Počet uzlů v cílovém výpočetním objektu, které se používají pro trénování.
AmlCompute Pro distribuované trénování je podporován pouze cíl ( |
process_count_per_node
Vyžadováno
|
Pokud používáte MPI, počet procesů na uzel. |
worker_count
Vyžadováno
|
Pokud používáte server parametrů, počet pracovních uzlů. ZASTARALÉ. Jako součást parametru zadejte |
parameter_server_count
Vyžadováno
|
Při použití parametru Server počet uzlů serveru parametrů. |
distributed_backend
Vyžadováno
|
Komunikační back-end pro distribuované trénování. ZASTARALÉ.
Podporované hodnoty: "mpi" a "ps". Mpi představuje MPI/Horovod a ps představuje server parametrů. Tento parametr je povinný, pokud některý z parametrů Pokud |
distributed_training
Vyžadováno
|
ParameterServer nebo
Mpi
Parametry pro spuštění distribuované trénovací úlohy Pokud chcete spustit distribuovanou úlohu s back-endem serveru parametrů, zadejte ParameterServer pomocí objektu Pokud chcete spustit distribuovanou úlohu s back-endem MPI, zadejte |
use_gpu
Vyžadováno
|
Určuje, jestli by prostředí pro spuštění experimentu mělo podporovat GPU.
Pokud ano, použije se v prostředí výchozí image Dockeru založená na GPU. Pokud je false, použije se image založená na procesoru. Výchozí image Dockeru (CPU nebo GPU) se použijí pouze v případě, že |
use_docker
Vyžadováno
|
Určuje, jestli má být prostředí, ve kterém se má experiment spustit, založené na Dockeru. |
custom_docker_base_image
Vyžadováno
|
Název image Dockeru, ze které se vytvoří image, která se má použít pro trénování. ZASTARALÉ.
Pokud není nastavená, jako základní image se použije výchozí image založená na procesoru. |
custom_docker_image
Vyžadováno
|
Název image Dockeru, ze které se vytvoří image, která se má použít pro trénování. Pokud není nastavená, jako základní image se použije výchozí image založená na procesoru. |
image_registry_details
Vyžadováno
|
Podrobnosti o registru imagí Dockeru |
user_managed
Vyžadováno
|
Určuje, jestli Azure ML opakovaně používá existující prostředí Pythonu. Pokud je false, Azure ML vytvoří prostředí Pythonu na základě specifikace závislostí conda. |
conda_packages
Vyžadováno
|
Seznam řetězců představujících balíčky conda, které se mají přidat do prostředí Pythonu pro experiment. |
pip_packages
Vyžadováno
|
Seznam řetězců představujících balíčky pip, které se mají přidat do prostředí Pythonu pro experiment. |
conda_dependencies_file_path
Vyžadováno
|
Relativní cesta k závislosti conda soubor yaml. Pokud je zadáno, Azure ML nenainstaluje žádné balíčky související s architekturou.
ZASTARALÉ.
|
pip_requirements_file_path
Vyžadováno
|
Relativní cesta k textovému souboru pip.
To je možné poskytnout v kombinaci s parametrem |
environment_variables
Vyžadováno
|
Slovník názvů a hodnot proměnných prostředí. Tyto proměnné prostředí se nastavují v procesu, ve kterém se spouští uživatelský skript. |
conda_dependencies_file
Vyžadováno
|
Řetězec představující relativní cestu k souboru yaml závislostí conda. Pokud je zadáno, Azure ML nenainstaluje žádné balíčky související s architekturou. |
pip_requirements_file
Vyžadováno
|
Relativní cesta k textovému souboru pip.
To je možné poskytnout v kombinaci s parametrem |
environment_variables
Vyžadováno
|
Slovník názvů a hodnot proměnných prostředí. Tyto proměnné prostředí se nastavují v procesu, ve kterém se spouští uživatelský skript. |
environment_definition
Vyžadováno
|
Definice prostředí pro experiment. Zahrnuje PythonSection, DockerSection a proměnné prostředí. Pomocí tohoto parametru lze nastavit všechny možnosti prostředí, které nejsou přímo vystaveny prostřednictvím jiných parametrů pro konstrukci nástroje Estimator. Pokud je tento parametr zadaný, bude mít přednost před ostatními parametry souvisejícími s prostředím, jako |
inputs
Vyžadováno
|
Seznam azureml.data.data_reference. Objekty DataReference, které se mají použít jako vstup. |
source_directory_data_store
Vyžadováno
|
Záložní úložiště dat pro sdílenou složku projektu. |
shm_size
Vyžadováno
|
Velikost bloku sdílené paměti kontejneru Dockeru Pokud není nastavená, výchozí hodnota je azureml.core.environment._DEFAULT_SHM_SIZE. Další informace najdete v tématu |
framework_version
Vyžadováno
|
Verze TensorFlow, která se má použít ke spouštění trénovacího kódu. Pokud není k dispozici žádná verze, bude odhadce ve výchozím nastavení používat nejnovější verzi podporovanou službou Azure ML. Pomocí TensorFlow.get_supported_versions() můžete vrátit seznam, abyste získali seznam všech verzí podporovaných aktuální sadou Azure ML SDK. |
_enable_optimized_mode
Vyžadováno
|
Povolte přírůstkové sestavování prostředí pomocí předem připravených imagí architektury pro rychlejší přípravu prostředí. Předem připravená image architektury je postavená na výchozích imagích procesoru/GPU Azure ML s předinstalovanými závislostmi architektury. |
_disable_validation
Vyžadováno
|
Před spuštěním odeslání zakažte ověření skriptu. Výchozí hodnota je Pravda. |
_show_lint_warnings
Vyžadováno
|
Zobrazit upozornění lintingu skriptu. Výchozí hodnota je Nepravda. |
_show_package_warnings
Vyžadováno
|
Zobrazit upozornění na ověření balíčku Výchozí hodnota je Nepravda. |
Poznámky
Při odesílání trénovací úlohy Azure ML spustí váš skript v prostředí Conda v kontejneru Dockeru. Kontejnery TensorFlow mají nainstalované následující závislosti.
Závislosti | TensorFlow 1.10/1.12 | TensorFlow 1,13 | TF 2.0/2.1/2.2 | ———————————— | ——————– | ————— | —————— | Python | 3.6.2 | 3.6.2 | 3.6.2 | CUDA (pouze image GPU) | 9.0 | 10,0 | 10,0 | cuDNN (jenom obrázek GPU) | 7.6.3 | 7.6.3 | 7.6.3 | NCCL (jenom obrázek GPU) | 2.4.8 | 2.4.8 | 2.4.8 | azureml-defaults | Nejnovější | Nejnovější | Nejnovější | azureml-dataset-runtime[fuse,pandas] | Nejnovější | Nejnovější | Nejnovější | IntelMpi | 2018.3.222 | 2018.3.222 | —- | OpenMpi | —- | —- | 3.1.2 | horovod | 0.15.2 | 0.16.1 | 0.18.1/0.19.1/0.19.5 | miniconda | 4.5.11 | 4.5.11 | 4.5.11 | tensorflow | 1.10.0/1.12.0 | 1.13.1 | 2.0.0/2.1.0/2.2.0 | git | 2.7.4 | 2.7.4 | 2.7.4 |
Image Dockeru v1 rozšiřují Ubuntu 16.04. Image Dockeru v2 rozšiřují Ubuntu 18.04.
Pokud chcete nainstalovat další závislosti, můžete použít pip_packages
parametr nebo conda_packages
. Nebo můžete zadat pip_requirements_file
parametr nebo conda_dependencies_file
.
Alternativně můžete vytvořit vlastní image a předat custom_docker_image
parametr konstruktoru estimátoru.
Další informace o kontejnerech Dockeru používaných při trénování TensorFlow najdete v tématu https://github.com/Azure/AzureML-Containers.
Třída TensorFlow podporuje dvě metody distribuovaného trénování:
Distribuované trénování založené na MPI s využitím
Horovodská architektura
Nativní distribuovaný TensorFlow
Příklady a další informace o použití TensorFlow v distribuovaném trénování najdete v kurzu trénování a registrace modelů TensorFlow ve velkém s využitím služby Azure Machine Learning.
Atributy
DEFAULT_VERSION
DEFAULT_VERSION = '1.13'
FRAMEWORK_NAME
FRAMEWORK_NAME = 'TensorFlow'