Snabbstart: Integrera Azure OpenAI

Artikel
10/01/2024

Kommentar

Basic-, Standard- och Enterprise-planerna kommer att vara inaktuella från och med mitten av mars 2025, med en 3-årig pensionsperiod. Vi rekommenderar att du övergår till Azure Container Apps. Mer information finns i meddelandet om azure Spring Apps-pensionering.

Standardförbrukningen och den dedikerade planen kommer att vara inaktuell från och med den 30 september 2024, med en fullständig avstängning efter sex månader. Vi rekommenderar att du övergår till Azure Container Apps. Mer information finns i Migrera Azure Spring Apps Standard-förbrukning och dedikerad plan till Azure Container Apps.

Den här artikeln gäller för:❌ Basic/Standard ✔️ Enterprise

Den här snabbstarten visar hur du integrerar Azure OpenAI med program som distribueras i Azure Spring Apps Enterprise-planen.

Med Azure OpenAI kan dina program dra nytta av storskaliga, generativa AI-modeller med djup förståelse för språk och kod för att möjliggöra nya resonemang och förståelsefunktioner.

Följande video visar hur Azure Spring Apps använder Azure OpenAI för att skapa intelligenta program:

Förutsättningar

Ett Azure-konto med en aktiv prenumeration. Skapa ett konto utan kostnad.
Åtkomst beviljas till Azure OpenAI. Mer information finns i Begära åtkomst till Azure OpenAI-tjänsten.
Förstå och uppfylla avsnittet Krav i Enterprise-plan på Azure Marketplace.
Azure CLI version 2.45.0 eller senare.
Git.
jq
Azure Spring Apps Enterprise-plantillägget. Använd följande kommando för att ta bort tidigare versioner och installera det senaste Enterprise-plantillägget. Om du tidigare har installerat spring-cloud tillägget avinstallerar du det för att undvika konfigurations- och versionsmatchningar.
```
az extension add --upgrade --name spring
az extension remove --name spring-cloud
```
Slutför stegen i Skapa och distribuera appar till Azure Spring Apps med hjälp av Enterprise-planen.

Etablera Azure OpenAI

Om du vill lägga till AI i programmet skapar du ett Azure OpenAI-konto och distribuerar språkmodeller. Följande steg beskriver hur du etablerar ett Azure OpenAI-konto och distribuerar språkmodeller med hjälp av Azure CLI:

Använd följande kommando för att skapa ett Azure OpenAI-konto:

az cognitiveservices account create \
    --resource-group <resource-group-name> \
    --name <open-ai-service-name> \
    --location <region> \
    --kind OpenAI \
    --sku s0 \
    --custom-domain <open-ai-service-name>

Använd följande kommandon för att skapa modelldistributionerna för text-embedding-ada-002 och gpt-35-turbo-16k i din Azure OpenAI-tjänstinstans:

az cognitiveservices account deployment create \
    --resource-group <resource-group-name> \
    --name <open-ai-service-name> \
    --deployment-name text-embedding-ada-002 \
    --model-name text-embedding-ada-002 \
    --model-version "2"  \
    --model-format OpenAI \
    --sku-name "Standard" \
    --sku-capacity 1

az cognitiveservices account deployment create \
    --resource-group <resource-group-name> \
    --name <open-ai-service-name> \
    --deployment-name gpt-35-turbo-16k \
    --model-name gpt-35-turbo-16k \
    --model-version "0613"  \
    --model-format OpenAI \
    --sku-name "Standard" \
    --sku-capacity 1

Distribuera Assist Service till Azure Spring Apps

Använd följande steg för att skapa, konfigurera och distribuera Assist Service-programmet till Azure Spring Apps.

Använd följande kommando för att skapa den nya AI-tjänsten: assist-service

az spring app create \
    --resource-group <resource-group-name> \
    --name assist-service \
    --service <Azure-Spring-Apps-service-instance-name> \
    --instance-count 1 \
    --memory 1Gi

Använd följande kommando för att konfigurera Spring Cloud Gateway med Assist Service-vägen:

az spring gateway route-config create \
    --resource-group <resource-group-name> \
    --service <Azure-Spring-Apps-service-instance-name> \
    --name assist-routes \
    --app-name assist-service \
    --routes-file azure-spring-apps-enterprise/resources/json/routes/assist-service.json

Använd följande kommando för att hämta REST API-slutpunktsbas-URL:en för Azure OpenAI-tjänsten:

export SPRING_AI_AZURE_OPENAI_ENDPOINT=$(az cognitiveservices account show \
    --name <open-ai-service-name> \
    --resource-group <resource-group-name> \
    | jq -r .properties.endpoint)

Använd följande kommando för att hämta den primära API-nyckeln:

export SPRING_AI_AZURE_OPENAI_APIKEY=$(az cognitiveservices account keys list \
    --name <open-ai-service-name> \
    --resource-group <resource-group-name> \
    | jq -r .key1)

Använd följande kommando för att distribuera Assist Service-programmet:

az spring app deploy 
    --resource-group <resource-group-name> \
    --name assist-service \
    --service <Azure-Spring-Apps-service-instance-name> \
    --source-path apps/acme-assist \
    --build-env BP_JVM_VERSION=17 \
    --env \
        SPRING_AI_AZURE_OPENAI_ENDPOINT=${SPRING_AI_AZURE_OPENAI_ENDPOINT} \
        SPRING_AI_AZURE_OPENAI_APIKEY=${SPRING_AI_AZURE_OPENAI_APIKEY} \
        SPRING_AI_AZURE_OPENAI_MODEL=gpt-35-turbo-16k \
        SPRING_AI_AZURE_OPENAI_EMBEDDINGMODEL=text-embedding-ada-002

Testa nu Fitness Store-programmet i webbläsaren. Välj BE OM FITASSIST för att samtala med Assist Service-programmet.
I FitAssist anger du Att jag behöver en cykel för att pendla till jobbet och observera utdata som genererades av Assist Service-programmet:

Rensa resurser

Om du planerar att fortsätta arbeta med efterföljande snabbstarter och självstudier kanske du vill lämna dessa resurser på plats. Ta bort resursgruppen när den inte längre behövs, vilket tar bort resurserna i resursgruppen. Om du vill ta bort resursgruppen med hjälp av Azure CLI använder du följande kommandon:

echo "Enter the Resource Group name:" &&
read resourceGroupName &&
az group delete --name $resourceGroupName &&
echo "Press [ENTER] to continue ..."

Nästa steg

Fortsätt till någon av följande valfria snabbstarter:

Dela via