Werken met Azure OpenAI-modellen
Azure OpenAI Service wordt mogelijk gemaakt door een diverse set modellen met verschillende mogelijkheden en prijspunten. De beschikbaarheid van modellen verschilt per regio.
U kunt een lijst met modellen ophalen die beschikbaar zijn voor zowel deductie als het verfijnen van uw Azure OpenAI-resource met behulp van de Api voor modellenlijst.
Modelupdates
Azure OpenAI ondersteunt nu automatische updates voor geselecteerde modelimplementaties. Op modellen waar ondersteuning voor automatische updates beschikbaar is, is een vervolgkeuzelijst met modelversies zichtbaar in de Azure AI Foundry-portal onder Implementaties en Bewerken:
Meer informatie over Azure OpenAI-modelversies en hoe ze werken in het artikel over Azure OpenAI-modelversies .
Automatisch bijwerken naar standaardwaarde
Wanneer u uw implementatie instelt op automatisch bijwerken op standaard, wordt uw modelimplementatie automatisch bijgewerkt binnen twee weken na een wijziging in de standaardversie. Voor een preview-versie wordt deze automatisch bijgewerkt wanneer een nieuwe preview-versie beschikbaar is vanaf twee weken nadat de nieuwe preview-versie is uitgebracht.
Als u zich nog in de vroege testfasen voor deductiemodellen bevindt, raden we u aan modellen met automatisch bijwerken te implementeren op standaardinstelling wanneer deze beschikbaar is.
Specifieke modelversie
Naarmate uw gebruik van Azure OpenAI zich ontwikkelt en u begint met het bouwen en integreren met toepassingen, wilt u mogelijk handmatig modelupdates beheren. U kunt eerst testen en valideren dat uw toepassingsgedrag consistent is voor uw use-case voordat u een upgrade uitvoert.
Wanneer u een specifieke modelversie voor een implementatie selecteert, blijft deze versie geselecteerd totdat u ervoor kiest om uzelf handmatig bij te werken of wanneer u de buitengebruikstellingsdatum voor het model hebt bereikt. Wanneer de buitengebruikstellingsdatum is bereikt, wordt het model automatisch bijgewerkt naar de standaardversie op het moment van buitengebruikstelling.
Buitengebruikstellingsdatums weergeven
Selecteer Implementaties in de Azure AI Foundry-portal voor momenteel geïmplementeerde modellen:
Upgradeconfiguratie voor modelimplementatie
U kunt controleren welke upgradeopties voor modellen zijn ingesteld voor eerder geïmplementeerde modellen in de Azure AI Foundry-portal. Selecteer Implementaties> onder de kolom Implementatienaam een van de implementatienamen die blauw zijn gemarkeerd.
Als u een implementatienaam selecteert, worden de eigenschappen voor de modelimplementatie geopend. U kunt bekijken welke upgradeopties zijn ingesteld voor uw implementatie onder Versie-updatebeleid:
De bijbehorende eigenschap kan ook worden geopend via REST, Azure PowerShell en Azure CLI.
| Optie | Lezen | Bijwerken |
|---|---|---|
| REST | Ja. Als versionUpgradeOption het niet wordt geretourneerd, betekent dit dat het is null |
Ja |
| Azure PowerShell | Ja.VersionUpgradeOption kan worden gecontroleerd op $null |
Ja |
| Azure-CLI | Ja. Deze wordt weergegeven null als versionUpgradeOption deze niet is ingesteld. |
Nee Het is momenteel niet mogelijk om de versie-upgradeoptie bij te werken. |
Er zijn drie verschillende upgradeopties voor modelimplementatie:
| Name | Beschrijving |
|---|---|
OnceNewDefaultVersionAvailable |
Zodra een nieuwe versie is aangewezen als de standaardversie, wordt de modelimplementatie automatisch bijgewerkt naar de standaardversie binnen twee weken nadat die aanduiding is gewijzigd. |
OnceCurrentVersionExpired |
Zodra de buitengebruikstellingsdatum is bereikt, wordt de modelimplementatie automatisch bijgewerkt naar de huidige standaardversie. |
NoAutoUpgrade |
De modelimplementatie wordt nooit automatisch bijgewerkt. Zodra de buitengebruikstellingsdatum is bereikt, werkt de modelimplementatie niet meer. U moet uw code bijwerken die naar die implementatie verwijst om te verwijzen naar een niet-verlopen modelimplementatie. |
Notitie
null is equivalent aan OnceCurrentVersionExpired. Als de optie Versie-updatebeleid niet aanwezig is in de eigenschappen voor een model dat modelupgrades ondersteunt, geeft dit aan dat de waarde momenteel nullis. Zodra u deze waarde expliciet hebt gewijzigd, is de eigenschap zichtbaar op de pagina met studio-eigenschappen en via de REST API.
Voorbeelden
Raadpleeg de aan de slag-handleiding voor Azure PowerShell om Azure PowerShell lokaal te installeren of u kunt De Azure Cloud Shell gebruiken.
In de onderstaande stappen ziet u hoe u de VersionUpgradeOption optieeigenschap controleert en deze bijwerkt:
// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}
// To update to a new model version
// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version
// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
// repeat step 1 and 2 to confirm the change.
Modellen bijwerken en implementeren via de API
PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01
Padparameters
| Parameter | Type | Vereist? | Beschrijving |
|---|---|---|---|
acountname |
tekenreeks | Vereist | De naam van uw Azure OpenAI-resource. |
deploymentName |
tekenreeks | Vereist | De implementatienaam die u hebt gekozen bij het implementeren van een bestaand model of de naam die u wilt gebruiken voor een nieuwe modelimplementatie. |
resourceGroupName |
tekenreeks | Vereist | De naam van de gekoppelde resourcegroep voor deze modelimplementatie. |
subscriptionId |
tekenreeks | Vereist | Abonnements-id voor het bijbehorende abonnement. |
api-version |
tekenreeks | Vereist | De API-versie die voor deze bewerking moet worden gebruikt. Dit volgt de indeling JJJJ-MM-DD. |
Ondersteunde versies
2023-05-01Swagger-specificatie
Aanvraagbody
Dit is slechts een subset van de beschikbare parameters voor de aanvraagbody. Raadpleeg de REST API-referentiedocumentatie voor de volledige lijst met parameters.
| Parameter | Type | Description |
|---|---|---|
| versionUpgradeOption | String | Upgradeopties voor implementatiemodelversie:OnceNewDefaultVersionAvailableOnceCurrentVersionExpiredNoAutoUpgrade |
| capacity | geheel getal | Dit vertegenwoordigt de hoeveelheid quotum die u aan deze implementatie toewijst. Een waarde van 1 is gelijk aan 1000 tokens per minuut (TPM) |
Voorbeeld van aanvraag
curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \
-H "Content-Type: application/json" \
-H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
-d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'
Notitie
Er zijn meerdere manieren om een autorisatietoken te genereren. De eenvoudigste methode voor eerste tests is het starten van Cloud Shell vanuit Azure Portal. Voer vervolgens az account get-access-token uit. U kunt dit token gebruiken als uw tijdelijke autorisatietoken voor API-tests.
Voorbeeld van een antwoord
{
"id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
"type": "Microsoft.CognitiveServices/accounts/deployments",
"name": "gpt-35-turbo",
"sku": {
"name": "Standard",
"capacity": 120
},
"properties": {
"model": {
"format": "OpenAI",
"name": "gpt-35-turbo",
"version": "0613"
},
"versionUpgradeOption": "OnceCurrentVersionExpired",
"capabilities": {
"chatCompletion": "true"
},
"provisioningState": "Succeeded",
"rateLimits": [
{
"key": "request",
"renewalPeriod": 10,
"count": 120
},
{
"key": "token",
"renewalPeriod": 60,
"count": 120000
}
]
},
"systemData": {
"createdBy": "docs@contoso.com",
"createdByType": "User",
"createdAt": "2023-02-28T02:57:15.8951706Z",
"lastModifiedBy": "docs@contoso.com",
"lastModifiedByType": "User",
"lastModifiedAt": "2023-10-31T15:35:53.082912Z"
},
"etag": "\"GUID\""
}