Delen via


AksEndpointDeploymentConfiguration Klas

Notitie

Dit is een experimentele klasse en kan op elk gewenst moment worden gewijzigd. Zie https://aka.ms/azuremlexperimental voor meer informatie.

Vertegenwoordigt informatie over de implementatieconfiguratie voor een service die is geïmplementeerd op Azure Kubernetes Service.

Maak een AksEndpointDeploymentConfiguration-object met behulp van de deploy_configuration methode van de AksEndpoint klasse.

Initialiseer een configuratieobject voor het implementeren van een eindpunt in een AKS-rekendoel.

Overname
AksEndpointDeploymentConfiguration

Constructor

AksEndpointDeploymentConfiguration(autoscale_enabled, autoscale_min_replicas, autoscale_max_replicas, autoscale_refresh_seconds, autoscale_target_utilization, collect_model_data, auth_enabled, cpu_cores, memory_gb, enable_app_insights, scoring_timeout_ms, replica_max_concurrent_requests, max_request_wait_time, num_replicas, primary_key, secondary_key, tags, properties, description, gpu_cores, period_seconds, initial_delay_seconds, timeout_seconds, success_threshold, failure_threshold, namespace, token_auth_enabled, version_name, traffic_percentile, compute_target_name, cpu_cores_limit, memory_gb_limit)

Parameters

Name Description
autoscale_enabled
Vereist

Of automatisch schalen al dan niet moet worden ingeschakeld voor deze webservice. De standaardwaarde is Waar als num_replicas Geen is.

autoscale_min_replicas
Vereist
int

Het minimale aantal containers dat moet worden gebruikt bij het automatisch schalen van deze webservice. Standaardwaarde is 1.

autoscale_max_replicas
Vereist
int

Het maximum aantal containers dat moet worden gebruikt bij het automatisch schalen van deze webservice. De standaardwaarde is 10.

autoscale_refresh_seconds
Vereist
int

Hoe vaak de automatische schaalaanpassing moet proberen deze webservice te schalen. Standaardwaarde is 1.

autoscale_target_utilization
Vereist
int

Het doelgebruik (in procenten van 100) dat de automatische schaalaanpassing moet proberen te onderhouden voor deze webservice. De standaardwaarde is 70.

collect_model_data
Vereist

Of het verzamelen van modelgegevens voor deze webservice al dan niet moet worden ingeschakeld. Standaard ingesteld op False.

auth_enabled
Vereist

Of verificatie voor deze webservice moet worden ingeschakeld. De standaardwaarde is True.

cpu_cores
Vereist

Het aantal CPU-kernen dat moet worden toegewezen voor deze webservice. Kan een decimaal getal zijn. Standaard ingesteld op 0.1

memory_gb
Vereist

De hoeveelheid geheugen (in GB) die voor deze webservice moet worden toegewezen. Kan een decimaal getal zijn. De standaardwaarde is 0,5

enable_app_insights
Vereist

Of application insights-logboekregistratie voor deze webservice al dan niet moet worden ingeschakeld. Standaard ingesteld op False.

scoring_timeout_ms
Vereist
int

Een time-out die moet worden afgedwongen voor het scoren van aanroepen naar deze webservice. De standaardwaarde is 60000.

replica_max_concurrent_requests
Vereist
int

Het aantal maximale gelijktijdige aanvragen per replica dat deze webservice toestaat. Standaardwaarde is 1. Wijzig deze instelling niet van de standaardwaarde 1, tenzij u hiervoor instructies krijgt van de technische ondersteuning van Microsoft of een lid van het Azure Machine Learning-team.

max_request_wait_time
Vereist
int

De maximale hoeveelheid tijd die een aanvraag in de wachtrij blijft (in milliseconden) voordat een fout van 503 wordt geretourneerd. De standaardwaarde is 500.

num_replicas
Vereist
int

Het aantal containers dat moet worden toegewezen voor deze webservice. Geen standaardwaarde, als deze parameter niet is ingesteld, is automatische schaalaanpassing standaard ingeschakeld.

primary_key
Vereist
str

Een primaire verificatiesleutel die voor deze webservice kan worden gebruikt

secondary_key
Vereist
str

Een secundaire verificatiesleutel die voor deze webservice kan worden gebruikt

tags
Vereist

Woordenlijst met sleutelwaardetags voor deze webservice

properties
Vereist

Woordenlijst met sleutelwaarde-eigenschappen voor deze webservice. Deze eigenschappen kunnen niet worden gewijzigd na de implementatie, maar er kunnen wel nieuwe sleutelwaardeparen worden toegevoegd.

description
Vereist
str

Een beschrijving voor deze webservice.

gpu_cores
Vereist
int

Het aantal GPU-kernen dat voor deze webservice moet worden toegewezen. De standaardwaarde is 0.

period_seconds
Vereist
int

Hoe vaak (in seconden) de activiteitstest moet worden uitgevoerd. De standaardwaarde is 10 seconden. Minimumwaarde is 1.

initial_delay_seconds
Vereist
int

Het aantal seconden nadat de container is gestart voordat de activiteitstests worden gestart. De standaardwaarde is 310.

timeout_seconds
Vereist
int

Het aantal seconden waarna er een time-out optreedt voor de activiteitstest. De standaardinstelling is 2 seconden. Minimumwaarde is 1.

success_threshold
Vereist
int

De minimale opeenvolgende successen voor de liveness-test om als geslaagd te worden beschouwd nadat deze is mislukt. Standaardwaarde is 1. Minimumwaarde is 1.

failure_threshold
Vereist
int

Wanneer een pod wordt gestart en de activiteitstest mislukt, probeert failureThreshold Kubernetes het af en toe voordat hij opgeeft. Standaardwaarde is 3. Minimumwaarde is 1.

namespace
Vereist
str

De Kubernetes-naamruimte waarin deze webservice moet worden geïmplementeerd: maximaal 63 kleine alfanumerieke tekens ('a'-'z', '0'-'9') en afbreekstreepjes ('-'). De eerste en laatste tekens mogen geen afbreekstreepjes zijn.

token_auth_enabled
Vereist

Of Azure Active Directory-verificatie voor deze webservice al dan niet moet worden ingeschakeld. Als dit is ingeschakeld, hebben gebruikers toegang tot deze webservice door het toegangstoken op te halen met behulp van hun Azure Active Directory-referenties. Standaard ingesteld op False.

version_name
Vereist
str

De naam van de versie in een eindpunt.

traffic_percentile
Vereist

De hoeveelheid verkeer die de versie in een eindpunt afneemt.

cpu_cores_limit
Vereist

Het maximum aantal CPU-kernen dat deze webservice mag gebruiken. Kan een decimaal getal zijn.

memory_gb_limit
Vereist

De maximale hoeveelheid geheugen (in GB) die deze webservice mag gebruiken. Kan een decimaal getal zijn.

autoscale_enabled
Vereist

Of automatisch schalen al dan niet moet worden ingeschakeld voor deze webservice. De standaardwaarde is Waar als num_replicas Geen is.

autoscale_min_replicas
Vereist
int

Het minimale aantal containers dat moet worden gebruikt bij het automatisch schalen van deze webservice. Standaardwaarde is 1.

autoscale_max_replicas
Vereist
int

Het maximum aantal containers dat moet worden gebruikt bij het automatisch schalen van deze webservice. De standaardwaarde is 10.

autoscale_refresh_seconds
Vereist
int

Hoe vaak de automatische schaalaanpassing moet proberen deze webservice te schalen. Standaardwaarde is 1.

autoscale_target_utilization
Vereist
int

Het doelgebruik (in procenten van 100) dat de automatische schaalaanpassing moet proberen te onderhouden voor deze webservice. De standaardwaarde is 70.

collect_model_data
Vereist

Of het verzamelen van modelgegevens voor deze webservice al dan niet moet worden ingeschakeld. Standaard ingesteld op False.

auth_enabled
Vereist

Of verificatie voor deze webservice moet worden ingeschakeld. De standaardwaarde is True.

cpu_cores
Vereist

Het aantal CPU-kernen dat moet worden toegewezen voor deze webservice. Kan een decimaal getal zijn. Standaard ingesteld op 0.1

memory_gb
Vereist

De hoeveelheid geheugen (in GB) die voor deze webservice moet worden toegewezen. Kan een decimaal getal zijn. De standaardwaarde is 0,5

enable_app_insights
Vereist

Of u Application Insights-logboekregistratie wilt inschakelen voor deze webservice. Standaard ingesteld op False.

scoring_timeout_ms
Vereist
int

Een time-out die moet worden afgedwongen voor score-aanroepen naar deze webservice. De standaardwaarde is 60000.

replica_max_concurrent_requests
Vereist
int

Het aantal maximale gelijktijdige aanvragen per replica dat deze webservice toestaat. Standaardwaarde is 1. Wijzig deze instelling niet van de standaardwaarde 1, tenzij u hiervoor instructies krijgt van de technische ondersteuning van Microsoft of een lid van het Azure Machine Learning-team.

max_request_wait_time
Vereist
int

De maximale hoeveelheid tijd die een aanvraag in de wachtrij blijft (in milliseconden) voordat een fout van 503 wordt geretourneerd. De standaardwaarde is 500.

num_replicas
Vereist
int

Het aantal containers dat voor deze webservice moet worden toegewezen. Geen standaardwaarde, als deze parameter niet is ingesteld, is automatische schaalaanpassing standaard ingeschakeld.

primary_key
Vereist
str

Een primaire verificatiesleutel die voor deze webservice kan worden gebruikt

secondary_key
Vereist
str

Een secundaire verificatiesleutel die voor deze webservice kan worden gebruikt

tags
Vereist

Woordenlijst met sleutelwaardetags voor deze webservice

properties
Vereist

Woordenlijst met sleutelwaarde-eigenschappen voor deze webservice. Deze eigenschappen kunnen niet worden gewijzigd na de implementatie, maar er kunnen wel nieuwe sleutelwaardeparen worden toegevoegd.

description
Vereist
str

Een beschrijving voor deze webservice.

gpu_cores
Vereist
int

Het aantal GPU-kernen dat voor deze webservice moet worden toegewezen. De standaardwaarde is 0.

period_seconds
Vereist
int

Hoe vaak (in seconden) de activiteitstest moet worden uitgevoerd. De standaardwaarde is 10 seconden. Minimumwaarde is 1.

initial_delay_seconds
Vereist
int

Het aantal seconden nadat de container is gestart voordat de activiteitstests worden gestart. De standaardwaarde is 310.

timeout_seconds
Vereist
int

Het aantal seconden waarna er een time-out optreedt voor de liveness-test. De standaardwaarde is 2 seconden. Minimumwaarde is 1.

success_threshold
Vereist
int

De minimale opeenvolgende successen voor de liveness-test om als geslaagd te worden beschouwd nadat deze is mislukt. Standaardwaarde is 1. Minimumwaarde is 1.

failure_threshold
Vereist
int

Wanneer een pod wordt gestart en de activiteitstest mislukt, probeert failureThreshold Kubernetes het op tijd voordat het opgeeft. Standaardwaarde is 3. Minimumwaarde is 1.

namespace
Vereist
str

De Kubernetes-naamruimte waarin deze webservice moet worden geïmplementeerd: maximaal 63 kleine alfanumerieke tekens ('a'-'z', '0'-'9') en afbreekstreepjes ('-'). De eerste en laatste tekens kunnen geen afbreekstreepjes zijn.

token_auth_enabled
Vereist

Of u Azure Active Directory-verificatie wilt inschakelen voor deze webservice. Als dit is ingeschakeld, hebben gebruikers toegang tot deze webservice door het toegangstoken op te halen met behulp van hun Azure Active Directory-referenties. Standaard ingesteld op False.

version_name
Vereist
str

De naam van de versie in een eindpunt.

traffic_percentile
Vereist

De hoeveelheid verkeer die de versie in een eindpunt afneemt.

compute_target_name
Vereist
str

De naam van het rekendoel voor implementatie

cpu_cores_limit
Vereist

Het maximum aantal CPU-kernen dat deze webservice mag gebruiken. Kan een decimaal getal zijn.

memory_gb_limit
Vereist

De maximale hoeveelheid geheugen (in GB) die deze webservice mag gebruiken. Kan een decimaal getal zijn.

Variabelen

Name Description
azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.autoscale_enabled

Of automatisch schalen al dan niet moet worden ingeschakeld voor deze webservice. De standaardwaarde is Waar als num_replicas Geen is.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.autoscale_min_replicas

Het minimale aantal containers dat moet worden gebruikt bij het automatisch schalen van deze webservice. Standaardwaarde is 1.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.autoscale_max_replicas

Het maximum aantal containers dat moet worden gebruikt bij het automatisch schalen van deze webservice. De standaardwaarde is 10.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.autoscale_refresh_seconds

Hoe vaak de automatische schaalaanpassing moet proberen deze webservice te schalen. Standaardwaarde is 1.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.autoscale_target_utilization

Het doelgebruik (in procent van 100) dat de automatische schaalaanpassing voor deze webservice moet onderhouden. De standaardwaarde is 70.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.collect_model_data

Of het verzamelen van modelgegevens voor deze webservice al dan niet moet worden ingeschakeld. Standaard ingesteld op False.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.auth_enabled

Of verificatie voor deze webservice al dan niet moet worden ingeschakeld. De standaardwaarde is Waar.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.cpu_cores

Het aantal CPU-kernen dat moet worden toegewezen voor deze webservice. Kan een decimaal getal zijn. Standaard ingesteld op 0.1

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.memory_gb

De hoeveelheid geheugen (in GB) die voor deze webservice moet worden toegewezen. Kan een decimaal getal zijn. De standaardwaarde is 0,5

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.enable_app_insights

Of u Application Insights-logboekregistratie wilt inschakelen voor deze webservice. Standaard ingesteld op False.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.scoring_timeout_ms

Een time-out die moet worden afgedwongen voor score-aanroepen naar deze webservice. De standaardwaarde is 60000.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.replica_max_concurrent_requests

Het aantal maximale gelijktijdige aanvragen per replica dat deze webservice toestaat. Standaardwaarde is 1. Wijzig deze instelling niet van de standaardwaarde 1, tenzij u hiervoor instructies krijgt van de technische ondersteuning van Microsoft of een lid van het Azure Machine Learning-team.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.max_request_wait_time

De maximale hoeveelheid tijd die een aanvraag in de wachtrij blijft (in milliseconden) voordat een fout van 503 wordt geretourneerd. De standaardwaarde is 500.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.num_replicas

Het aantal containers dat voor deze webservice moet worden toegewezen. Geen standaardwaarde, als deze parameter niet is ingesteld, is automatische schaalaanpassing standaard ingeschakeld.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.primary_key

Een primaire verificatiesleutel die voor deze webservice kan worden gebruikt

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.secondary_key

Een secundaire verificatiesleutel die voor deze webservice kan worden gebruikt

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.tags

Woordenlijst met sleutelwaardetags voor deze webservice

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.properties

Woordenlijst met sleutelwaarde-eigenschappen voor deze webservice. Deze eigenschappen kunnen niet worden gewijzigd na de implementatie, maar er kunnen wel nieuwe sleutelwaardeparen worden toegevoegd.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.description

Een beschrijving voor deze webservice.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.gpu_cores

Het aantal GPU-kernen dat voor deze webservice moet worden toegewezen. De standaardwaarde is 0.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.period_seconds

Hoe vaak (in seconden) de activiteitstest moet worden uitgevoerd. De standaardwaarde is 10 seconden. Minimumwaarde is 1.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.initial_delay_seconds

Het aantal seconden nadat de container is gestart voordat de activiteitstests worden gestart. De standaardwaarde is 310.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.timeout_seconds

Het aantal seconden waarna er een time-out optreedt voor de liveness-test. De standaardwaarde is 2 seconden. Minimumwaarde is 1.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.success_threshold

De minimale opeenvolgende successen voor de liveness-test om als geslaagd te worden beschouwd nadat deze is mislukt. Standaardwaarde is 1. Minimumwaarde is 1.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.failure_threshold

Wanneer een pod wordt gestart en de activiteitstest mislukt, probeert failureThreshold Kubernetes het op tijd voordat het opgeeft. Standaardwaarde is 3. Minimumwaarde is 1.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.namespace

De Kubernetes-naamruimte waarin deze webservice moet worden geïmplementeerd: maximaal 63 kleine alfanumerieke tekens ('a'-'z', '0'-'9') en afbreekstreepjes ('-'). De eerste en laatste tekens kunnen geen afbreekstreepjes zijn.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.token_auth_enabled

Of u Azure Active Directory-verificatie wilt inschakelen voor deze webservice. Als dit is ingeschakeld, hebben gebruikers toegang tot deze webservice door het toegangstoken op te halen met behulp van hun Azure Active Directory-referenties. Standaard ingesteld op False.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.version_name

De naam van de versie in een eindpunt.

azureml.core.webservice.aks.AksEndpointDeploymentConfiguration.traffic_percentile

De hoeveelheid verkeer die de versie in een eindpunt afneemt.

Methoden

validate_endpoint_configuration

Controleer of de opgegeven configuratiewaarden geldig zijn.

Hiermee wordt een WebserviceException weergegeven als de validatie mislukt.

validate_endpoint_configuration

Controleer of de opgegeven configuratiewaarden geldig zijn.

Hiermee wordt een WebserviceException weergegeven als de validatie mislukt.

validate_endpoint_configuration()

Uitzonderingen

Type Description