Upgrade koncových bodů kanálu na sadu SDK v2

Článek
09/03/2024

Jakmile máte kanál spuštěný a spuštěný, můžete kanál publikovat tak, aby běžel s různými vstupy. To se označuje jako publikované kanály.

Co se změnilo?

Koncový bod batch navrhuje podobný ještě výkonnější způsob, jak zpracovat více prostředků spuštěných v odolném rozhraní API, což je důvod, proč se funkce publikovaných kanálů přesunula do nasazení součástí kanálu v dávkových koncových bodech.

Koncové body služby Batch oddělují rozhraní (koncový bod) od skutečné implementace (nasazení) a umožňují uživateli rozhodnout, které nasazení bude sloužit jako výchozí implementace koncového bodu. Nasazení součástí kanálu v dávkových koncových bodech umožňují uživatelům nasazovat součásti kanálu místo kanálů, což umožňuje lepší využití opakovaně použitelných prostředků pro tyto organizace, které chtějí zjednodušit své postupy MLOps.

Následující tabulka ukazuje porovnání jednotlivých konceptů:

Koncepce	Sada SDK v1	SDK v2
Koncový bod REST kanálu pro vyvolání	Koncový bod kanálu	Koncový bod služby Batch
Konkrétní verze kanálu v rámci koncového bodu	Publikovaný kanál	Nasazení součásti kanálu
Argumenty kanálu při vyvolání	Parametr kanálu	Vstupy úloh
Úloha vygenerovaná z publikovaného kanálu	Úloha kanálu	Dávková úloha

Informace o tom, jak vytvořit první nasazení součásti kanálu, najdete v tématu Nasazení kanálů v koncových bodech služby Batch.

Přechod na dávkové koncové body

V následujících pokynech se dozvíte, jak přejít ze sady SDK v1 na SADU SDK v2 pomocí konceptů v koncových bodech služby Batch.

Publikování kanálu

Porovnejte, jak se publikování kanálu změnilo z verze 1 na v2:

Sada SDK v1
SDK v2

Nejprve potřebujeme získat kanál, který chceme publikovat:
```
pipeline1 = Pipeline(workspace=ws, steps=[step1, step2])
```

Kanál můžeme publikovat následujícím způsobem:

from azureml.pipeline.core import PipelineEndpoint

endpoint_name = "PipelineEndpointTest"
pipeline_endpoint = PipelineEndpoint.publish(
    workspace=ws, 
    name=endpoint_name,
    pipeline=pipeline, 
    description="A hello world endpoint for component deployments"
)

Nejprve musíme definovat kanál, který chceme publikovat.

@pipeline()
def pipeline(input_data: Input(type=AssetTypes.URI_FOLDER)):
    (...)

    return {
        (..)
    }

Koncové body služby Batch nenasazují kanály, ale součásti kanálu. Komponenty navrhují spolehlivější způsob správy zdrojového kódu prostředků, které se nasazují v rámci koncového bodu. Definici kanálu můžeme převést na komponentu kanálu následujícím způsobem:
```
pipeline_component = pipeline().component
```
Osvědčeným postupem je registrace součástí kanálu, abyste je mohli udržovat centralizovaným způsobem v pracovním prostoru nebo dokonce ve sdílených registrech.
```
ml_client.components.create(pipeline_component)
```

Pak musíme vytvořit koncový bod hostující všechna nasazení kanálu:

endpoint_name = "PipelineEndpointTest"
endpoint = BatchEndpoint(
    name=endpoint_name,
    description="A hello world endpoint for component deployments",
)

ml_client.batch_endpoints.begin_create_or_update(endpoint)

Vytvořte nasazení pro komponentu kanálu:

deployment_name = "hello-batch-dpl"
deployment = BatchPipelineComponentDeployment(
    name=deployment_name,
    description="A hello world deployment with a single step.",
    endpoint_name=endpoint.name,
    component=pipeline_component
)

ml_client.batch_deployments.begin_create_or_update(deployment)

Pokud chcete volat výchozí verzi kanálu, můžete použít:

pipeline_endpoint = PipelineEndpoint.get(workspace=ws, name="PipelineEndpointTest")
run_id = pipeline_endpoint.submit("PipelineEndpointExperiment")

job = ml_client.batch_endpoints.invoke(
    endpoint_name=batch_endpoint, 
)

Slouží inputs k označení vstupů úlohy v případě potřeby. Podrobnější vysvětlení o tom, jak indikovat vstupy a výstupy, najdete v tématu Vytváření úloh a vstupních dat pro dávkové koncové body.

job = ml_client.batch_endpoints.invoke(
    endpoint_name=batch_endpoint,
    inputs={
        "input_data": Input(type=AssetTypes.URI_FOLDER, path="./my_local_data")
    }
)

Úlohu můžete odeslat také do konkrétní verze:

Sada SDK v1
SDK v2

run_id = pipeline_endpoint.submit(endpoint_name, pipeline_version="0")

V dávkovýchkoncovýchch Ve stejném koncovém bodu ale můžete nasadit více verzí součástí kanálu. V tomto smyslu každá verze kanálu v1 odpovídá jiné verzi komponenty kanálu a příslušnému nasazení v rámci koncového bodu.

Pak můžete nasadit konkrétní nasazení spuštěné v rámci koncového bodu, pokud toto nasazení spustí verzi yo zájem.

job = ml_client.batch_endpoints.invoke(
    endpoint_name=endpoint_name, 
    deployment_name=deployment_name, 
)

Nasazení všech kanálů

Sada SDK v1
SDK v2

all_pipelines = PublishedPipeline.get_all(ws)

Následující kód obsahuje seznam všech koncových bodů existujících v pracovním prostoru:

all_endpoints = ml_client.batch_endpoints.list()

Mějte ale na paměti, že dávkové koncové body můžou hostovat nasazení zprovoznění kanálů nebo modelů. Pokud chcete získat seznam všech nasazení, která hostují kanály, můžete provést takto:

all_deployments = []

for endpoint in all_endpoints:
    all_deployments.extend(ml_client.batch_deployments.list(endpoint_name=endpoint.name))

all_pipeline_deployments = filter(all_endpoints, lamdba x: x is BatchPipelineComponentDeployment)

S využitím REST API

Úlohy můžete vytvářet z koncových bodů pomocí rozhraní REST API adresy URL vyvolání. V následujících příkladech se dozvíte, jak se vyvolání změnilo z v1 na v2.

Sada SDK v1
SDK v2

pipeline_endpoint = PipelineEndpoint.get(workspace=ws, name=endpoint_name)
rest_endpoint = pipeline_endpoint.endpoint

response = requests.post(
    rest_endpoint, 
    headers=aad_token, 
    json={
        "ExperimentName": "PipelineEndpointExperiment",
        "RunSource": "API",
        "ParameterAssignments": {"argument1": "united", "argument2":45}
    }
)

Koncové body služby Batch podporují více typů vstupů. Následující příklad ukazuje, jak označit dva různé vstupy typu string a numeric. Podrobnější příklady najdete v tématu Vytváření úloh a vstupních dat pro dávkové koncové body (REST):

batch_endpoint = ml_client.batch_endpoints.get(endpoint_name)
rest_endpoint = batch_endpoint.invocation_url

response = requests.post(
    rest_endpoint, 
    headers=aad_token, 
    json={
        "properties": {
            "InputData": {
                "argument1": {
                    "JobInputType": "Literal",
                    "Value": "united"
                },
                "argument2": {
                    "JobInputType": "Literal",
                    "Value": 45
                }
            }
        }
    }
)

Sdílet prostřednictvím