CLI (v2) YAML-schema för onlineslutpunkt

Artikel
09/25/2024

GÄLLER FÖR: Azure CLI ml-tillägget v2 (aktuellt)

JSON-källschemat finns på https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json för den hanterade onlineslutpunkten och för https://azuremlschemas.azureedge.net/latest/kubernetesOnlineEndpoint.schema.json Kubernetes onlineslutpunkt. Skillnaderna mellan hanterad onlineslutpunkt och Kubernetes onlineslutpunkt beskrivs i tabellen med egenskaper i den här artikeln. Exemplet i den här artikeln fokuserar på hanterad onlineslutpunkt.

Kommentar

YAML-syntaxen som beskrivs i det här dokumentet baseras på JSON-schemat för den senaste versionen av ML CLI v2-tillägget. Den här syntaxen är garanterad att endast fungera med den senaste versionen av ML CLI v2-tillägget. Du hittar scheman för äldre tilläggsversioner på https://azuremlschemasprod.azureedge.net/.

Kommentar

Ett fullständigt angivet exempel på YAML för hanterade onlineslutpunkter är tillgängligt som referens

YAML-syntax

Nyckel	Typ	Beskrivning	Tillåtna värden	Standardvärde
`$schema`	sträng	YAML-schemat. Om du använder Azure Machine Learning VS Code-tillägget för att skapa YAML-filen, inklusive `$schema` längst upp i filen, kan du anropa schema- och resursavslutningar.
`name`	sträng	Obligatoriskt. Namnet på slutpunkten. Måste vara unikt på Azure-regionnivå. Namngivningsregler definieras under slutpunktsgränser.
`description`	sträng	Beskrivning av slutpunkten.
`tags`	objekt	Ordlista med taggar för slutpunkten.
`auth_mode`	sträng	Autentiseringsmetoden för att anropa slutpunkten (dataplansåtgärd). Används `key` för nyckelbaserad autentisering. Används `aml_token` för tokenbaserad autentisering i Azure Machine Learning. Används `aad_token` för Microsoft Entra-tokenbaserad autentisering.	`key`, , `aml_tokenaad_token`	`key`
`compute`	sträng	Namnet på beräkningsmålet som slutpunktsdistributionerna ska köras på. Det här fältet gäller endast för slutpunktsdistributioner till Azure Arc-aktiverade Kubernetes-kluster (beräkningsmålet som anges i det här fältet måste ha `type: kubernetes`). Ange inte det här fältet om du gör en hanterad online-slutsatsdragning.
`identity`	objekt	Konfigurationen för hanterad identitet för åtkomst till Azure-resurser för slutpunktsetablering och slutsatsdragning.
`identity.type`	sträng	Typen av hanterad identitet. Om typen är `user_assigned`måste egenskapen `identity.user_assigned_identities` också anges.	`system_assigned`, `user_assigned`
`identity.user_assigned_identities`	matris	Lista över fullständigt kvalificerade resurs-ID:n för de användartilldelade identiteterna.
`traffic`	objekt	Trafik representerar procentandelen begäranden som ska hanteras av olika distributioner. Den representeras av en ordlista med nyckel/värde-par, där nycklar representerar distributionsnamnet och värdet representerar procentandelen trafik till den distributionen. Innebär till exempel `blue: 90 green: 10` att 90 % begäranden skickas till distributionen med namnet `blue` och 10 % skickas till distributionen `green`. Den totala trafiken måste antingen vara 0 eller summera upp till 100. Se Säker distribution för onlineslutpunkter för att se hur trafikkonfigurationen fungerar. Obs! Du kan inte ange det här fältet när onlineslutpunkten skapas, eftersom distributionerna under slutpunkten måste skapas innan trafiken kan ställas in. Du kan uppdatera trafiken för en onlineslutpunkt när distributionerna har skapats med hjälp av `az ml online-endpoint update`, till exempel `az ml online-endpoint update --name <endpoint_name> --traffic "blue=90 green=10"`.
`public_network_access`	sträng	Den här flaggan styr synligheten för den hanterade slutpunkten. När `disabled`tas inkommande bedömningsbegäranden emot med hjälp av den privata slutpunkten för Azure Machine Learning-arbetsytan och slutpunkten kan inte nås från offentliga nätverk. Den här flaggan gäller endast för hanterade slutpunkter	`enabled`, `disabled`	`enabled`
`mirror_traffic`	sträng	Procentandel av livetrafik som ska speglas i en distribution. Speglingstrafiken ändrar inte resultatet som returneras till klienterna. Den speglade procentandelen trafik kopieras och skickas till den angivna distributionen så att du kan samla in mått och loggning utan att påverka klienter. Om du till exempel vill kontrollera om svarstiden ligger inom godkända gränser och att det inte finns några HTTP-fel. Den representeras av en ordlista med ett enda nyckel/värde-par, där nyckeln representerar distributionsnamnet och värdet representerar procentandelen trafik som ska speglas i distributionen. Mer information finns i Testa en distribution med speglad trafik.

Kommentarer

Kommandona az ml online-endpoint kan användas för att hantera Azure Machine Learning-slutpunkter online.

Exempel

Exempel är tillgängliga i GitHub-exempellagringsplatsen. Flera visas nedan.

YAML: basic

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

YAML: systemtilldelad identitet

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-sai-endpoint
auth_mode: key

YAML: användartilldelad identitet

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-uai-endpoint
auth_mode: key
identity:
  type: user_assigned
  user_assigned_identities:
    - resource_id: user_identity_ARM_id_place_holder

Dela via