Generatieve AI-modellen implementeren

  • 2 minuten

U moet eerst een model implementeren om te chatten met of API-aanroepen te voeren om antwoorden op prompts te ontvangen. Wanneer u een nieuwe implementatie maakt, moet u aangeven welk basismodel moet worden geïmplementeerd. U kunt een willekeurig aantal implementaties implementeren in een of meerdere Azure OpenAI-resources, zolang hun tokens per minuut (TPM) binnen het implementatiequotum blijven.

Implementeren met Behulp van Azure AI Studio

Op de pagina Implementaties van Azure AI Studio kunt u een nieuwe implementatie maken door een modelnaam te selecteren in het menu. De beschikbare basismodellen zijn afkomstig uit de lijst op de pagina modellen.

Schermopname van de wizard modelimplementatie van de Azure AI Studio-portal.

Op de pagina Implementaties in Studio kunt u ook informatie bekijken over al uw implementaties, waaronder implementatienaam, modelnaam, modelversie, status, gemaakt op datum en meer.

Implementeren met behulp van Azure CLI

U kunt ook een model implementeren met behulp van de console. Vervang in dit voorbeeld de volgende variabelen door uw eigen resourcewaarden:

  • OAIResourceGroup: vervangen door de naam van de resourcegroep
  • MyOpenAIResource: vervangen door uw resourcenaam
  • MyModel: vervangen door een unieke naam voor uw model
  • gpt-35-turbo: vervang door het basismodel dat u wilt implementeren
az cognitiveservices account deployment create \
   -g OAIResourceGroup \
   -n MyOpenAIResource \
   --deployment-name MyModel \
   --model-name gpt-35-turbo \
   --model-version "0301"  \
   --model-format OpenAI \
   --sku-name "Standard" \
   --sku-capacity 1

Implementeren met behulp van de REST API

U kunt een model implementeren met behulp van de REST API. In de hoofdtekst van de aanvraag geeft u het basismodel op dat u wilt implementeren. Zie een voorbeeld in de Documentatie van Azure OpenAI.