Toegang tot De Azure OpenAI-service

  • 2 minuten

De eerste stap bij het bouwen van een generatieve AI-oplossing met Azure OpenAI is het inrichten van een Azure OpenAI-resource in uw Azure-abonnement. U kunt aan de slag gaan door een resource te maken in Azure Portal of met de Azure-opdrachtregelinterface (CLI).

Een Azure OpenAI-serviceresource maken in Azure Portal

Wanneer u een Azure OpenAI-serviceresource maakt, moet u een abonnementsnaam, resourcegroepnaam, regio, unieke instantienaam opgeven en een prijscategorie selecteren.

Schermopname van de pagina van Azure Portal om een Azure OpenAI-serviceresource te maken.

Een Azure OpenAI-serviceresource maken in Azure CLI

Als u een Azure OpenAI-serviceresource wilt maken vanuit de CLI, raadpleegt u dit voorbeeld en vervangt u de volgende variabelen door uw eigen variabelen:

  • MyOpenAIResource: vervangen door een unieke naam voor uw resource
  • OAIResourceGroup: vervangen door de naam van de resourcegroep
  • eastus: vervangen door de regio om uw resource te implementeren
  • subscriptionID: vervangen door uw abonnements-id
az cognitiveservices account create \
-n MyOpenAIResource \
-g OAIResourceGroup \
-l eastus \
--kind OpenAI \
--sku s0 \
--subscription subscriptionID

Notitie

U vindt de regio's die beschikbaar zijn voor een service via de CLI-opdracht az account list-locations. Als u wilt zien hoe u zich aanmeldt bij Azure en een Azure-groep maakt via de CLI, raadpleegt u de documentatie hier. Azure OpenAI Service biedt toegang tot veel soorten modellen. Bepaalde modellen zijn alleen beschikbaar in bepaalde regio's. Raadpleeg de beschikbaarheidshandleiding voor Azure OpenAI-modellen voor de beschikbaarheid van regio's. U kunt twee Azure OpenAI-resources per regio maken.

Azure OpenAI Foundry gebruiken

Azure AI Foundry biedt toegang tot modelbeheer, implementatie, experimenten, aanpassing en leerbronnen.

U hebt toegang tot Azure AI Foundry via Azure Portal nadat u een resource hebt gemaakt of door https://ai.azure.com/ u aan te melden bij uw Azure-account. Selecteer tijdens de aanmeldingswerkstroom de juiste map, het Azure-abonnement en de Azure OpenAI-resource.

Wanneer u Azure AI Foundry voor het eerst opent, gaat u naar de Azure OpenAI-pagina (waar u zich richt op alleen Azure OpenAI-servicemodellen), selecteert u uw resource als u dat nog niet hebt gedaan en implementeert u uw eerste model. Hiervoor selecteert u de pagina Implementaties , waar u een basismodel kunt implementeren en ermee kunt experimenteren.

Notitie

Als u niet de eigenaar van de resource bent, hebt u de volgende op rollen gebaseerde toegangsbeheer nodig: 1. Cognitive Services OpenAI-gebruiker: met deze rol kunt u resources weergeven en de chatspeeltuin gebruiken. 2. Cognitive Services OpenAI-inzender: met deze rol kan de gebruiker nieuwe implementaties maken.

Schermopname van het menu van de Azure AI Foundry-portal met pagina's.

Typen OpenAI-modellen

Als u met Azure OpenAI wilt beginnen, moet u een basismodel kiezen en implementeren. Microsoft biedt basismodellen en de optie om aangepaste basismodellen te maken. In deze les worden de momenteel beschikbare basismodellen behandeld.

Azure OpenAI bevat verschillende typen modellen:

  • GPT-4-modellen zijn de nieuwste generatie van generatieve vooraf getrainde (GPT) modellen die natuurlijke taal en codevoltooiingen kunnen genereren op basis van prompts in natuurlijke taal.
  • GPT 3.5-modellen kunnen natuurlijke taal- en codevoltooiingen genereren op basis van prompts in natuurlijke taal. In het bijzonder zijn GPT-35-turbomodellen geoptimaliseerd voor op chat gebaseerde interacties en werken ze goed in de meeste generatieve AI-scenario's.
  • Insluitmodellen converteren tekst naar numerieke vectoren en zijn handig in taalanalysescenario's, zoals het vergelijken van tekstbronnen voor overeenkomsten.
  • DALL-E-modellen worden gebruikt om afbeeldingen te genereren op basis van prompts in natuurlijke taal. Momenteel zijn DALL-E-modellen in preview.
  • Fluistermodellen worden gebruikt om spraak naar tekst te converteren.
  • Tekst-naar-spraakmodellen worden gebruikt om tekst naar spraak te converteren.

Notitie

Prijzen worden bepaald door tokens en op modeltype. Meer informatie over de nieuwste prijzen vindt u hier.

In de Azure AI Foundry-portal bevat de pagina Modelcatalogus de beschikbare basismodellen en biedt u een optie om extra aangepaste modellen te maken door de basismodellen af te stemmen. De modellen met de status Geslaagd betekenen dat ze zijn getraind en kunnen worden geselecteerd voor implementatie.

U zult merken dat er verschillende modellen buiten OpenAI beschikbaar zijn in de modelcatalogus, waaronder modellen van Microsoft, Meta, Mistral en meer. Met Azure AI Foundry kunt u een van deze modellen implementeren voor uw use-case. Deze module richt zich op Azure OpenAI-modellen.

Schermopname van de out-of-the-box ai-modellen van de Azure AI Foundry-portal.

OpenAI-modellen implementeren

U moet eerst een model implementeren om te chatten met of API-aanroepen te voeren om antwoorden op prompts te ontvangen. Wanneer u een nieuwe implementatie maakt, moet u aangeven welk basismodel moet worden geïmplementeerd. U kunt een willekeurig aantal implementaties implementeren zolang de tokens per minuut (TPM) binnen het implementatiequotum blijven.

Implementeren met Behulp van Azure AI Foundry

Op de cataloguspagina Modelcatalogus van de Azure AI Foundry-portal kunt u een nieuwe implementatie maken door een modelnaam te selecteren in de lijst.

Implementeren met behulp van Azure CLI

U kunt ook een model implementeren met behulp van de console. Vervang in dit voorbeeld de volgende variabelen door uw eigen resourcewaarden:

  • OAIResourceGroup: vervangen door de naam van de resourcegroep
  • MyOpenAIResource: vervangen door uw resourcenaam
  • MyModel: vervangen door een unieke naam voor uw model
  • gpt-35-turbo: vervang door het basismodel dat u wilt implementeren
az cognitiveservices account deployment create \
   -g OAIResourceGroup \
   -n MyOpenAIResource \
   --deployment-name MyModel \
   --model-name gpt-35-turbo \
   --model-version "0125"  \
   --model-format OpenAI \
   --sku-name "Standard" \
   --sku-capacity 1

Implementeren met behulp van de REST API

U kunt een model implementeren met behulp van de REST API. In de hoofdtekst van de aanvraag geeft u het basismodel op dat u wilt implementeren. Zie een voorbeeld in de Documentatie van Azure OpenAI.

OpenAI-prompts verkennen

Zodra het model is geïmplementeerd, kunt u testen hoe het prompts voltooit. Een prompt is het tekstgedeelte van een aanvraag die wordt verzonden naar het voltooiingseindpunt van het geïmplementeerde model. Antwoorden worden voltooiingen genoemd, die kunnen worden geleverd in de vorm van tekst, code of andere indelingen.

Prompttypen

Prompts kunnen worden gegroepeerd in typen aanvragen op basis van de taak.

Taaktype Voorbeeld van prompt Voorbeeld van voltooiing
Inhoud classificeren Tweet: Ik heb genoten van de reis.
Sentiment:		 Positief
Nieuwe inhoud genereren Manieren van reizen weergeven 1. Fiets
2. Auto ...
Een gesprek houden Een vriendelijke AI-assistent Voorbeelden bekijken
Transformatie (conversie en symboolconversie) Engels: Hallo
Frans:		 Bonjour
Inhoud samenvatten Geef een samenvatting van de inhoud op
{text}		 De inhoud deelt methoden van machine learning.
Ophalen waar je was gebleven Een manier om tomaten te laten groeien is om zaden te planten.
Feitelijke antwoorden geven Hoeveel manen heeft de aarde? Eén

Voltooiingskwaliteit

Verschillende factoren zijn van invloed op de kwaliteit van voltooiingen die u krijgt van een generatieve AI-oplossing.

  • De manier waarop een prompt wordt ontworpen. Meer informatie over prompt-engineering vindt u in de module Prompt-engineering , verderop in deze module.
  • De modelparameters (hieronder beschreven).
  • De gegevens waarop het model is getraind, die kunnen worden aangepast door middel van het aanpassen van het model met aanpassing.

U hebt meer controle over de voltooiingen die worden geretourneerd door een aangepast model te trainen dan via prompt engineering en parameteraanpassing.

API-aanroepen maken

U kunt beginnen met het maken van aanroepen naar uw geïmplementeerde model via de REST API, Python of C#. Als uw geïmplementeerde model een GPT-3.5- of GPT-4-modelbasis heeft, gebruikt u de documentatie over voltooiingen van Chat, die eindpunten en variabelen bevat die vereist zijn voor deze basismodellen.

De Azure Studio-speeltuinen gebruiken

Playgrounds zijn nuttige interfaces in Azure AI Foundry die u kunt gebruiken om te experimenteren met uw geïmplementeerde modellen zonder dat u uw eigen clienttoepassing hoeft te ontwikkelen. Azure AI Foundry Portal biedt meerdere speeltuinen met verschillende opties voor het afstemmen van parameters.

Chatspeeltuin

De chatspeeltuin is gebaseerd op een interface voor in- en uitgesprekken. U kunt de sessie initialiseren met een systeembericht om de chatcontext in te stellen.

In de Chat-speeltuin kunt u promptvoorbeelden gebruiken, parameters aanpassen en enkele voorbeelden toevoegen. De term paar-shots verwijst naar het verstrekken van enkele voorbeelden om het model te helpen leren wat het moet doen. U kunt het zien in tegenstelling tot zero-shot, wat verwijst naar het verstrekken van geen voorbeelden.

Schermopname van de chatspeeltuin van de Azure AI Foundry-portal.