Förstå och skapa batchslutpunkter

Slutförd

Om du vill hämta en modell för att generera batchförutsägelser kan du distribuera modellen till en batchslutpunkt.

Du får lära dig hur du använder batchslutpunkter för asynkron batchbedömning.

Batch-förutsägelser

För att få batchförutsägelser kan du distribuera en modell till en slutpunkt. En slutpunkt är en HTTPS-slutpunkt som du kan anropa för att utlösa ett batchbedömningsjobb. Fördelen med en sådan slutpunkt är att du kan utlösa batchbedömningsjobbet från en annan tjänst, till exempel Azure Synapse Analytics eller Azure Databricks. Med en batchslutpunkt kan du integrera batchbedömningen med en befintlig datainmatnings- och transformeringspipeline.

När slutpunkten anropas skickas ett batchbedömningsjobb till Azure Machine Learning-arbetsytan. Jobbet använder vanligtvis ett beräkningskluster för att poängsätta flera indata. Resultaten kan lagras i ett datalager som är anslutet till Azure Machine Learning-arbetsytan.

Skapa en batchslutpunkt

Om du vill distribuera en modell till en batchslutpunkt måste du först skapa batchslutpunkten.

Om du vill skapa en batchslutpunkt använder BatchEndpoint du klassen . Batchslutpunktsnamn måste vara unika i en Azure-region.

Använd följande kommando för att skapa en slutpunkt:

# create a batch endpoint
endpoint = BatchEndpoint(
    name="endpoint-example",
    description="A batch endpoint",
)

ml_client.batch_endpoints.begin_create_or_update(endpoint)

Dricks

Utforska referensdokumentationen för att skapa en batchslutpunkt med Python SDK v2.

Distribuera en modell till en batchslutpunkt

Du kan distribuera flera modeller till en batchslutpunkt. När du anropar batchslutpunkten, som utlöser ett batchbedömningsjobb, används standarddistributionen om inget annat anges.

Använda beräkningskluster för batchdistributioner

Den idealiska beräkning som ska användas för batchdistributioner är Azure Machine Learning-beräkningsklustret. Om du vill att batchbedömningsjobbet ska bearbeta nya data i parallella batchar måste du etablera ett beräkningskluster med fler än en maximal instans.

Om du vill skapa ett beräkningskluster kan du använda AMLCompute klassen .

from azure.ai.ml.entities import AmlCompute

cpu_cluster = AmlCompute(
    name="aml-cluster",
    type="amlcompute",
    size="STANDARD_DS11_V2",
    min_instances=0,
    max_instances=4,
    idle_time_before_scale_down=120,
    tier="Dedicated",
)

cpu_cluster = ml_client.compute.begin_create_or_update(cpu_cluster)