az ml online-endpoint

참고 항목

이 참조는 Azure CLI(버전 2.15.0 이상)에 대한 ml 확장의 일부입니다. az ml online-endpoint 명령을 처음 실행할 때 확장이 자동으로 설치됩니다. 확장 프로그램에 대해 자세히 알아보세요.

Azure ML 온라인 엔드포인트를 관리합니다.

Azure ML 엔드포인트는 모델 배포를 만들고 관리하기 위한 간단한 인터페이스를 제공합니다. 각 엔드포인트에는 하나 이상의 배포가 있을 수 있으므로, 필요한 경우 단일 점수 매기기 엔드포인트의 트래픽을 여러 배포로 처리할 수 있습니다. 이는 제어된 롤아웃과 같은 시나리오에 유용합니다.

Azure ML은 온라인 및 일괄 처리라는 두 가지 유형의 엔드포인트를 지원합니다. 온라인 엔드포인트는 실시간 유추를 지원하지만 일괄 처리 엔드포인트는 오프라인 일괄 처리 채점에 사용됩니다.

명령

Name	Description	형식	상태
az ml online-endpoint create	엔드포인트를 만듭니다.	내선 번호	GA
az ml online-endpoint delete	엔드포인트를 삭제합니다.	내선 번호	GA
az ml online-endpoint get-credentials	온라인 엔드포인트의 토큰/키를 나열합니다.	내선 번호	GA
az ml online-endpoint invoke	엔드포인트를 호출합니다.	내선 번호	GA
az ml online-endpoint list	작업 영역의 엔드포인트를 나열합니다.	내선 번호	GA
az ml online-endpoint regenerate-keys	온라인 엔드포인트의 키를 다시 생성합니다.	내선 번호	GA
az ml online-endpoint show	엔드포인트에 대한 세부 정보를 표시합니다.	내선 번호	GA
az ml online-endpoint update	엔드포인트를 업데이트합니다.	내선 번호	GA

az ml online-endpoint create

엔드포인트를 만듭니다.

엔드포인트를 만들려면 YAML 파일에 온라인 엔드포인트 구성을 제공합니다. 엔드포인트가 이미 있는 경우 실패합니다. 기존 엔드포인트를 업데이트하려면 az ml online-endpoint update를 사용합니다.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

예제

YAML 사양 파일에서 엔드포인트 만들기

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

필수 매개 변수

--resource-group -g

리소스 그룹의 이름입니다. az configure --defaults group=<name>을 사용하여 기본 그룹을 구성할 수 있습니다.

--workspace-name -w

Azure ML 작업 영역의 이름입니다. 를 사용하여 az configure --defaults workspace=<name>기본 작업 영역을 구성할 수 있습니다.

선택적 매개 변수

--auth-mode

엔드포인트에 대한 인증 방법입니다. 허용되는 값: 키, aml_token. 기본값: 키입니다.

--file -f

Azure ML 온라인 엔드포인트 사양을 포함하는 YAML 파일의 로컬 경로입니다. 온라인 엔드포인트에 대한 YAML 참조 문서는 다음 https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference위치에서 찾을 수 있습니다.

--local

로컬로 엔드포인트를 만듭니다. 참고: 트래픽 및 인증은 로컬에서 지원되지 않습니다. 'az ml online-deployment create --local'을 직접 사용할 수 있습니다. 엔드포인트가 없는 경우 엔드포인트를 만듭니다.

허용되는 값: false, true

Default value: False

--name -n

온라인 엔드포인트의 이름입니다.

--no-wait

장기 실행 작업이 완료되기를 기다리지 마세요. 기본값은 false입니다.

Default value: False

--set

설정할 속성 경로와 값을 지정하여 개체를 업데이트합니다. 예: --set property1.property2=.

--web -e

웹 브라우저에서 Azure ML 스튜디오에서 엔드포인트의 세부 정보를 표시합니다.

Default value: False

전역 매개 변수

--debug

로깅의 자세한 정도를 늘려 모든 디버그 로그를 표시합니다.

--help -h

이 도움말 메시지를 표시하고 종료합니다.

--only-show-errors

오류만 표시하고, 경고를 표시하지 않습니다.

--output -o

출력 형식입니다.

허용되는 값: json, jsonc, none, table, tsv, yaml, yamlc

Default value: json

--query

JMESPath 쿼리 문자열입니다. 자세한 내용과 예제는 http://jmespath.org/를 참조하세요.

--subscription

구독의 이름 또는 ID입니다. az account set -s NAME_OR_ID를 사용하여 기본 위치를 구성할 수 있습니다.

--verbose

로깅의 자세한 정도를 늘립니다. 전체 디버그 로그를 표시하려면 --debug를 사용합니다.

az ml online-endpoint delete

엔드포인트를 삭제합니다.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

예제

모든 배포를 포함하여 온라인 엔드포인트 삭제

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

필수 매개 변수

--name -n

온라인 엔드포인트의 이름입니다.

--resource-group -g

리소스 그룹의 이름입니다. az configure --defaults group=<name>을 사용하여 기본 그룹을 구성할 수 있습니다.

--workspace-name -w

Azure ML 작업 영역의 이름입니다. 를 사용하여 az configure --defaults workspace=<name>기본 작업 영역을 구성할 수 있습니다.

선택적 매개 변수

--local

로컬 엔드포인트를 삭제합니다.

허용되는 값: false, true

Default value: False

--no-wait

장기 실행 작업이 완료되기를 기다리지 마세요. 기본값은 false입니다.

Default value: False

--yes -y

확인을 묻는 메시지를 표시하지 마세요.

Default value: False

전역 매개 변수

--debug

로깅의 자세한 정도를 늘려 모든 디버그 로그를 표시합니다.

--help -h

이 도움말 메시지를 표시하고 종료합니다.

--only-show-errors

오류만 표시하고, 경고를 표시하지 않습니다.

--output -o

출력 형식입니다.

허용되는 값: json, jsonc, none, table, tsv, yaml, yamlc

Default value: json

--query

JMESPath 쿼리 문자열입니다. 자세한 내용과 예제는 http://jmespath.org/를 참조하세요.

--subscription

구독의 이름 또는 ID입니다. az account set -s NAME_OR_ID를 사용하여 기본 위치를 구성할 수 있습니다.

--verbose

로깅의 자세한 정도를 늘립니다. 전체 디버그 로그를 표시하려면 --debug를 사용합니다.

az ml online-endpoint get-credentials

온라인 엔드포인트의 토큰/키를 나열합니다.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

예제

온라인 엔드포인트의 키 나열

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

필수 매개 변수

--name -n

온라인 엔드포인트의 이름입니다.

--resource-group -g

리소스 그룹의 이름입니다. az configure --defaults group=<name>을 사용하여 기본 그룹을 구성할 수 있습니다.

--workspace-name -w

Azure ML 작업 영역의 이름입니다. 를 사용하여 az configure --defaults workspace=<name>기본 작업 영역을 구성할 수 있습니다.

전역 매개 변수

--debug

로깅의 자세한 정도를 늘려 모든 디버그 로그를 표시합니다.

--help -h

이 도움말 메시지를 표시하고 종료합니다.

--only-show-errors

오류만 표시하고, 경고를 표시하지 않습니다.

--output -o

출력 형식입니다.

허용되는 값: json, jsonc, none, table, tsv, yaml, yamlc

Default value: json

--query

JMESPath 쿼리 문자열입니다. 자세한 내용과 예제는 http://jmespath.org/를 참조하세요.

--subscription

구독의 이름 또는 ID입니다. az account set -s NAME_OR_ID를 사용하여 기본 위치를 구성할 수 있습니다.

--verbose

로깅의 자세한 정도를 늘립니다. 전체 디버그 로그를 표시하려면 --debug를 사용합니다.

az ml online-endpoint invoke

엔드포인트를 호출합니다.

일부 요청 데이터를 사용하여 온라인 엔드포인트를 호출할 수 있습니다. 실시간 유추가 되고 점수 매기기 결과가 즉시 반환됩니다.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

예제

일부 요청 데이터를 사용하여 온라인 엔드포인트 호출

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

특정 배포를 대상으로 하는 온라인 엔드포인트 호출

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

필수 매개 변수

--name -n

온라인 엔드포인트의 이름입니다.

--resource-group -g

리소스 그룹의 이름입니다. az configure --defaults group=<name>을 사용하여 기본 그룹을 구성할 수 있습니다.

--workspace-name -w

Azure ML 작업 영역의 이름입니다. 를 사용하여 az configure --defaults workspace=<name>기본 작업 영역을 구성할 수 있습니다.

선택적 매개 변수

--deployment-name -d

대상으로 지정할 배포의 이름입니다.

--local

로컬 엔드포인트를 호출합니다. 이 엔드포인트에 대한 로컬 배포가 만들어진 경우에만 작동합니다.

허용되는 값: false, true

Default value: False

--request-file -r

요청 데이터가 포함된 JSON 파일의 로컬 경로입니다.

전역 매개 변수

--debug

로깅의 자세한 정도를 늘려 모든 디버그 로그를 표시합니다.

--help -h

이 도움말 메시지를 표시하고 종료합니다.

--only-show-errors

오류만 표시하고, 경고를 표시하지 않습니다.

--output -o

출력 형식입니다.

허용되는 값: json, jsonc, none, table, tsv, yaml, yamlc

Default value: json

--query

JMESPath 쿼리 문자열입니다. 자세한 내용과 예제는 http://jmespath.org/를 참조하세요.

--subscription

구독의 이름 또는 ID입니다. az account set -s NAME_OR_ID를 사용하여 기본 위치를 구성할 수 있습니다.

--verbose

로깅의 자세한 정도를 늘립니다. 전체 디버그 로그를 표시하려면 --debug를 사용합니다.

az ml online-endpoint list

작업 영역의 엔드포인트를 나열합니다.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

예제

작업 영역의 모든 온라인 엔드포인트 나열

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

작업 영역의 모든 일괄 처리 엔드포인트 나열

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

--query 인수를 사용하여 명령 결과에 대한 JMESPath 쿼리를 실행하여 작업 영역의 모든 온라인 엔드포인트를 나열합니다.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

필수 매개 변수

--resource-group -g

리소스 그룹의 이름입니다. az configure --defaults group=<name>을 사용하여 기본 그룹을 구성할 수 있습니다.

--workspace-name -w

Azure ML 작업 영역의 이름입니다. 를 사용하여 az configure --defaults workspace=<name>기본 작업 영역을 구성할 수 있습니다.

선택적 매개 변수

--local

모든 로컬 엔드포인트를 나열합니다.

허용되는 값: false, true

Default value: False

전역 매개 변수

--debug

로깅의 자세한 정도를 늘려 모든 디버그 로그를 표시합니다.

--help -h

이 도움말 메시지를 표시하고 종료합니다.

--only-show-errors

오류만 표시하고, 경고를 표시하지 않습니다.

--output -o

출력 형식입니다.

허용되는 값: json, jsonc, none, table, tsv, yaml, yamlc

Default value: json

--query

JMESPath 쿼리 문자열입니다. 자세한 내용과 예제는 http://jmespath.org/를 참조하세요.

--subscription

구독의 이름 또는 ID입니다. az account set -s NAME_OR_ID를 사용하여 기본 위치를 구성할 수 있습니다.

--verbose

로깅의 자세한 정도를 늘립니다. 전체 디버그 로그를 표시하려면 --debug를 사용합니다.

az ml online-endpoint regenerate-keys

온라인 엔드포인트의 키를 다시 생성합니다.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

예제

온라인 엔드포인트에 대한 키 다시 생성

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

필수 매개 변수

--name -n

온라인 엔드포인트의 이름입니다.

--resource-group -g

리소스 그룹의 이름입니다. az configure --defaults group=<name>을 사용하여 기본 그룹을 구성할 수 있습니다.

--workspace-name -w

Azure ML 작업 영역의 이름입니다. 를 사용하여 az configure --defaults workspace=<name>기본 작업 영역을 구성할 수 있습니다.

선택적 매개 변수

--key-type

다시 생성할 키의 형식입니다. 허용되는 값: 기본, 보조 값입니다.

Default value: primary

--no-wait

장기 실행 작업이 완료되기를 기다리지 마세요. 기본값은 false입니다.

Default value: False

전역 매개 변수

--debug

로깅의 자세한 정도를 늘려 모든 디버그 로그를 표시합니다.

--help -h

이 도움말 메시지를 표시하고 종료합니다.

--only-show-errors

오류만 표시하고, 경고를 표시하지 않습니다.

--output -o

출력 형식입니다.

허용되는 값: json, jsonc, none, table, tsv, yaml, yamlc

Default value: json

--query

JMESPath 쿼리 문자열입니다. 자세한 내용과 예제는 http://jmespath.org/를 참조하세요.

--subscription

구독의 이름 또는 ID입니다. az account set -s NAME_OR_ID를 사용하여 기본 위치를 구성할 수 있습니다.

--verbose

로깅의 자세한 정도를 늘립니다. 전체 디버그 로그를 표시하려면 --debug를 사용합니다.

az ml online-endpoint show

엔드포인트에 대한 세부 정보를 표시합니다.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

예제

일괄 처리 엔드포인트에 대한 세부 정보 표시

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

--query 인수를 사용하여 명령 결과에 대한 JMESPath 쿼리를 실행하는 엔드포인트의 프로비저닝 상태를 표시합니다.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

필수 매개 변수

--name -n

온라인 엔드포인트의 이름입니다.

--resource-group -g

리소스 그룹의 이름입니다. az configure --defaults group=<name>을 사용하여 기본 그룹을 구성할 수 있습니다.

--workspace-name -w

Azure ML 작업 영역의 이름입니다. 를 사용하여 az configure --defaults workspace=<name>기본 작업 영역을 구성할 수 있습니다.

선택적 매개 변수

--local

로컬 엔드포인트를 표시합니다.

허용되는 값: false, true

Default value: False

--web -e

웹 브라우저에서 Azure ML 스튜디오에서 엔드포인트의 세부 정보를 표시합니다.

Default value: False

전역 매개 변수

--debug

로깅의 자세한 정도를 늘려 모든 디버그 로그를 표시합니다.

--help -h

이 도움말 메시지를 표시하고 종료합니다.

--only-show-errors

오류만 표시하고, 경고를 표시하지 않습니다.

--output -o

출력 형식입니다.

허용되는 값: json, jsonc, none, table, tsv, yaml, yamlc

Default value: json

--query

JMESPath 쿼리 문자열입니다. 자세한 내용과 예제는 http://jmespath.org/를 참조하세요.

--subscription

구독의 이름 또는 ID입니다. az account set -s NAME_OR_ID를 사용하여 기본 위치를 구성할 수 있습니다.

--verbose

로깅의 자세한 정도를 늘립니다. 전체 디버그 로그를 표시하려면 --debug를 사용합니다.

az ml online-endpoint update

엔드포인트를 업데이트합니다.

엔드포인트의 'description', 'tags' 및 'traffic' 속성을 업데이트할 수 있습니다. 또한 새 배포를 엔드포인트에 추가할 수 있으며 기존 배포를 업데이트할 수 있습니다.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

예제

YAML 사양 파일에서 엔드포인트 업데이트

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

엔드포인트에 대한 트래픽 설정 업데이트

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

필수 매개 변수

--resource-group -g

리소스 그룹의 이름입니다. az configure --defaults group=<name>을 사용하여 기본 그룹을 구성할 수 있습니다.

--workspace-name -w

Azure ML 작업 영역의 이름입니다. 를 사용하여 az configure --defaults workspace=<name>기본 작업 영역을 구성할 수 있습니다.

선택적 매개 변수

--add

경로 및 키 값 쌍을 지정하여 개체 목록에 개체를 추가합니다. 예: --add property.listProperty <key=value, string or JSON string>

Default value: []

--file -f

Azure ML 온라인 엔드포인트 사양을 포함하는 YAML 파일의 로컬 경로입니다. 온라인 엔드포인트에 대한 YAML 참조 문서는 다음 https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference위치에서 찾을 수 있습니다.

--force-string

'set' 또는 'add'를 사용하는 경우 JSON으로 변환하는 대신 문자열 리터럴을 유지합니다.

Default value: False

--local

로컬 엔드포인트를 업데이트합니다.

허용되는 값: false, true

Default value: False

--mirror-traffic

배포 학습에 라이브 트래픽의 중복 비율을 지정합니다.

--name -n

온라인 엔드포인트의 이름입니다.

--no-wait

장기 실행 작업이 완료되기를 기다리지 마세요. 기본값은 false입니다.

Default value: False

--remove

목록에서 속성 또는 요소를 제거합니다. 예: --remove property.list <indexToRemove> OR --remove propertyToRemove.

Default value: []

--set

설정할 속성 경로와 값을 지정하여 개체를 업데이트합니다. 예: --set property1.property2=<value>

Default value: []

--traffic -r

엔드포인트의 트래픽 설정에 대한 공백으로 구분된 키-값 쌍(따옴표)입니다.

--web -e

웹 브라우저에서 Azure ML 스튜디오에서 엔드포인트의 세부 정보를 표시합니다.

Default value: False

전역 매개 변수

--debug

로깅의 자세한 정도를 늘려 모든 디버그 로그를 표시합니다.

--help -h

이 도움말 메시지를 표시하고 종료합니다.

--only-show-errors

오류만 표시하고, 경고를 표시하지 않습니다.

--output -o

출력 형식입니다.

허용되는 값: json, jsonc, none, table, tsv, yaml, yamlc

Default value: json

--query

JMESPath 쿼리 문자열입니다. 자세한 내용과 예제는 http://jmespath.org/를 참조하세요.

--subscription

구독의 이름 또는 ID입니다. az account set -s NAME_OR_ID를 사용하여 기본 위치를 구성할 수 있습니다.

--verbose

로깅의 자세한 정도를 늘립니다. 전체 디버그 로그를 표시하려면 --debug를 사용합니다.