Microsoft.MachineLearningServices workspaces/onlineEndpoints/deployments 2021-03-01-preview

Artykuł
12/09/2024

Definicja zasobu Bicep

Typ zasobu obszary robocze/onlineEndpoints/deployments można wdrożyć przy użyciu operacji docelowych:

grupy zasobów — zobacz polecenia wdrażania grupy zasobów

Aby uzyskać listę zmienionych właściwości w każdej wersji interfejsu API, zobacz dziennika zmian.

Format zasobu

Aby utworzyć zasób Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments, dodaj następujący kod Bicep do szablonu.

resource symbolicname 'Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments@2021-03-01-preview' = {
  parent: resourceSymbolicName
  identity: {
    type: 'string'
    userAssignedIdentities: {
      {customized property}: {
        clientId: 'string'
        principalId: 'string'
      }
    }
  }
  kind: 'string'
  location: 'string'
  name: 'string'
  properties: {
    appInsightsEnabled: bool
    codeConfiguration: {
      codeId: 'string'
      scoringScript: 'string'
    }
    description: 'string'
    environmentId: 'string'
    environmentVariables: {
      {customized property}: 'string'
    }
    livenessProbe: {
      failureThreshold: int
      initialDelay: 'string'
      period: 'string'
      successThreshold: int
      timeout: 'string'
    }
    model: {
      referenceType: 'string'
      // For remaining properties, see AssetReferenceBase objects
    }
    properties: {
      {customized property}: 'string'
    }
    requestSettings: {
      maxConcurrentRequestsPerInstance: int
      maxQueueWait: 'string'
      requestTimeout: 'string'
    }
    scaleSettings: {
      maxInstances: int
      minInstances: int
      scaleType: 'string'
      // For remaining properties, see OnlineScaleSettings objects
    }
    endpointComputeType: 'string'
    // For remaining properties, see OnlineDeployment objects
  }
  tags: {
    {customized property}: 'string'
  }
}

Obiekty AssetReferenceBase

Ustaw właściwość referenceType, aby określić typ obiektu.

W przypadku DataPath użyj:

{
  datastoreId: 'string'
  path: 'string'
  referenceType: 'DataPath'
}

W przypadkuidentyfikatora użyj:

{
  assetId: 'string'
  referenceType: 'Id'
}

W przypadku OutputPathużyj:

{
  jobId: 'string'
  path: 'string'
  referenceType: 'OutputPath'
}

Obiekty OnlineDeployment

Ustaw właściwość endpointComputeType, aby określić typ obiektu.

W przypadku K8S użyj:

{
  containerResourceRequirements: {
    cpu: int
    cpuLimit: int
    fpga: int
    gpu: int
    memoryInGB: int
    memoryInGBLimit: int
  }
  endpointComputeType: 'K8S'
}

W przypadku zarządzanychużyj:

{
  endpointComputeType: 'Managed'
  instanceType: 'string'
  readinessProbe: {
    failureThreshold: int
    initialDelay: 'string'
    period: 'string'
    successThreshold: int
    timeout: 'string'
  }
}

Obiekty OnlineScaleSettings

Ustaw właściwość scaleType, aby określić typ obiektu.

W przypadku autoużyj:

{
  pollingInterval: 'string'
  scaleType: 'Auto'
  targetUtilizationPercentage: int
}

W przypadku ręcznegoużyj:

{
  instanceCount: int
  scaleType: 'Manual'
}

Wartości właściwości

AssetReferenceBase

Nazwa	Opis	Wartość
referenceType	Ustaw wartość "DataPath" dla typu DataPathAssetReference. Ustaw wartość "Id" dla typu IdAssetReference. Ustaw wartość "OutputPath" dla typu OutputPathAssetReference.	"DataPath" "Id" "OutputPath" (wymagane)

AutoskalowanieUstawienia

Nazwa	Opis	Wartość
pollingInterval	Interwał sondowania w formacie ISO 8691. Obsługuje tylko czas trwania z dokładnością do sekund.	struna
scaleType	[Wymagane] Typ algorytmu skalowania wdrożenia	"Auto" (wymagane)
targetU enterprisePercentage	Docelowe użycie procesora CPU dla narzędzia do skalowania automatycznego.	Int

Konfiguracja kodu

Nazwa	Opis	Wartość
codeId	Identyfikator zasobu usługi ARM zasobu kodu.	struna
scoringScript	[Wymagane] Skrypt do wykonania podczas uruchamiania. Np. "score.py"	struna Ograniczenia: Minimalna długość = 1 Wzorzec = `[a-zA-Z0-9_]` (wymagane)

ContainerResourceRequirements

Nazwa	Opis	Wartość
procesor	Minimalna ilość rdzeni procesora CPU do użycia przez kontener. Więcej informacji: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/	Int
cpuLimit	Maksymalna liczba rdzeni procesora CPU, które mogą być używane przez kontener. Więcej informacji: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/	Int
fpga	Liczba urządzeń FPGA PCIE uwidocznionych w kontenerze. Musi mieć wielokrotność 2.	Int
Gpu	Liczba rdzeni procesora GPU w kontenerze.	Int
memoryInGB	Minimalna ilość pamięci (w GB) do użycia przez kontener. Więcej informacji: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/	Int
memoryInGBLimit	Maksymalna ilość pamięci (w GB) dozwolona do użycia przez kontener. Więcej informacji: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/	Int

DataPathAssetReference

Nazwa	Opis	Wartość
datastoreId	Identyfikator zasobu usługi ARM magazynu danych, w którym znajduje się zasób.	struna
ścieżka	Ścieżka pliku/katalogu w magazynie danych.	struna
referenceType	[Wymagane] Określa typ odwołania do zasobu.	"DataPath" (wymagane)

IdAssetReference

Nazwa	Opis	Wartość
assetId	[Wymagane] Identyfikator zasobu usługi ARM.	struna Ograniczenia: Wzorzec = `[a-zA-Z0-9_]` (wymagane)
referenceType	[Wymagane] Określa typ odwołania do zasobu.	"Id" (wymagany)

K8SOnlineDeployment

Nazwa	Opis	Wartość
containerResourceRequirements	Wymagania dotyczące zasobów dla każdego wystąpienia kontenera we wdrożeniu online.	ContainerResourceRequirements
endpointComputeType	[Wymagane] Typ obliczeniowy punktu końcowego.	"K8S" (wymagane)

ManagedOnlineDeployment

Nazwa	Opis	Wartość
endpointComputeType	[Wymagane] Typ obliczeniowy punktu końcowego.	"Zarządzane" (wymagane)
instanceType	Typ wystąpienia obliczeniowego.	struna
gotowośćProbe	Konfiguracja sondy liveness/readiness kontenera wdrożenia.	ProbeSettings

ManualScaleSettings

Nazwa	Opis	Wartość
instanceCount	Stała liczba wystąpień dla tego wdrożenia.	Int
scaleType	[Wymagane] Typ algorytmu skalowania wdrożenia	"Ręczne" (wymagane)