Udostępnij za pośrednictwem

Konfigurowanie połączenia w celu korzystania z wnioskowania modelu AI platformy Azure w projekcie sztucznej inteligencji

  • Artykuł

Ważne

Elementy oznaczone (wersja zapoznawcza) w tym artykule są obecnie dostępne w publicznej wersji zapoznawczej. Ta wersja zapoznawcza jest udostępniana bez umowy dotyczącej poziomu usług i nie zalecamy korzystania z niej w przypadku obciążeń produkcyjnych. Niektóre funkcje mogą być nieobsługiwane lub ograniczone. Aby uzyskać więcej informacji, zobacz Uzupełniające warunki korzystania z wersji zapoznawczych platformy Microsoft Azure.

Wnioskowanie modelu sztucznej inteligencji platformy Azure w projektach w usłudze Azure AI Foundry umożliwia tworzenie dostępnych modeli i interakcję z nimi. Aby użyć usługi wnioskowania modelu AI platformy Azure w projekcie, musisz utworzyć połączenie z zasobem usługi Azure AI Services.

W poniższym artykule wyjaśniono, jak utworzyć połączenie z zasobem usług Azure AI Services w celu korzystania z punktu końcowego wnioskowania.

Wymagania wstępne

Aby ukończyć pracę z tym artykułem, potrzebne są następujące zasoby:

Dodaj połączenie

Połączenie z zasobem usług Azure AI można utworzyć, wykonując następujące kroki:

  1. Przejdź do witryny Azure AI Foundry Portal.

  2. W lewym dolnym rogu ekranu wybierz pozycję Centrum zarządzania.

  3. W sekcji Połączenia wybierz pozycję Nowe połączenie.

  4. Wybierz pozycję Usługi sztucznej inteligencji platformy Azure.

  5. W przeglądarce wyszukaj istniejący zasób usług Azure AI Services w ramach subskrypcji.

  6. Wybierz opcję Dodaj połączenie.

  7. Nowe połączenie zostanie dodane do centrum.

  8. Wróć do strony docelowej projektu, aby kontynuować, a następnie wybierz nowe utworzone połączenie. Odśwież stronę, jeśli nie jest wyświetlana natychmiast.

    Zrzut ekranu przedstawiający stronę docelową projektu z wyróżnioną lokalizacją połączonego zasobu i skojarzonym punktem końcowym wnioskowania.

Zobacz wdrożenia modelu w połączonym zasobie

Wdrożenia modelu dostępne w połączonym zasobie można wyświetlić, wykonując następujące kroki:

  1. Przejdź do witryny Azure AI Foundry Portal.

  2. Na lewym pasku nawigacyjnym wybierz pozycję Modele i punkty końcowe.

  3. Na stronie zostaną wyświetlone wdrożenia modelu dostępne dla elementu pogrupowane według nazwy połączenia. Znajdź właśnie utworzone połączenie, które powinno być typu Azure AI Services.

    Zrzut ekranu przedstawiający listę modeli dostępnych w ramach danego połączenia.

  4. Wybierz dowolne wdrożenie modelu, które chcesz sprawdzić.

  5. Na stronie szczegółów są wyświetlane informacje o konkretnym wdrożeniu. Jeśli chcesz przetestować model, możesz użyć opcji Otwórz na placu zabaw.

  6. Zostanie wyświetlony plac zabaw rozwiązania Azure AI Foundry, w którym można wchodzić w interakcje z danym modelem.

Ważne

Elementy oznaczone (wersja zapoznawcza) w tym artykule są obecnie dostępne w publicznej wersji zapoznawczej. Ta wersja zapoznawcza jest udostępniana bez umowy dotyczącej poziomu usług i nie zalecamy korzystania z niej w przypadku obciążeń produkcyjnych. Niektóre funkcje mogą być nieobsługiwane lub ograniczone. Aby uzyskać więcej informacji, zobacz Uzupełniające warunki korzystania z wersji zapoznawczych platformy Microsoft Azure.

Wnioskowanie modelu sztucznej inteligencji platformy Azure w projektach w usłudze Azure AI Foundry umożliwia tworzenie dostępnych modeli i interakcję z nimi. Aby użyć usługi wnioskowania modelu AI platformy Azure w projekcie, musisz utworzyć połączenie z zasobem usługi Azure AI Services.

W poniższym artykule wyjaśniono, jak utworzyć połączenie z zasobem usług Azure AI Services w celu korzystania z punktu końcowego wnioskowania.

Wymagania wstępne

Aby ukończyć pracę z tym artykułem, potrzebne są następujące zasoby:

  • Zainstaluj interfejs wiersza polecenia platformy Azure i ml rozszerzenie dla rozwiązania Azure AI Foundry:

    az extension add -n ml

  • Zidentyfikuj następujące informacje:

    • Identyfikator subskrypcji platformy Azure.

    • Nazwa zasobu usług Azure AI Services.

    • Grupa zasobów, w której wdrożono zasób usług Azure AI Services.

Dodaj połączenie

Aby dodać model, należy najpierw zidentyfikować model, który chcesz wdrożyć. Dostępne modele można wykonywać w następujący sposób:

  1. Zaloguj się do subskrypcji platformy Azure:

    az login

  2. Skonfiguruj interfejs wiersza polecenia, aby wskazywał projekt:

    az account set --subscription <subscription>
az configure --defaults workspace=<project-name> group=<resource-group> location=<location>

  3. Utwórz definicję połączenia:

    connection.yml

    name: <connection-name>
type: aiservices
endpoint: https://<ai-services-resourcename>.services.ai.azure.com
api_key: <resource-api-key>

  4. Utwórz połączenie:

    az ml connection create -f connection.yml

  5. W tym momencie połączenie jest dostępne do użycia.

Ważne

Elementy oznaczone (wersja zapoznawcza) w tym artykule są obecnie dostępne w publicznej wersji zapoznawczej. Ta wersja zapoznawcza jest udostępniana bez umowy dotyczącej poziomu usług i nie zalecamy korzystania z niej w przypadku obciążeń produkcyjnych. Niektóre funkcje mogą być nieobsługiwane lub ograniczone. Aby uzyskać więcej informacji, zobacz Uzupełniające warunki korzystania z wersji zapoznawczych platformy Microsoft Azure.

Wnioskowanie modelu sztucznej inteligencji platformy Azure w projektach w usłudze Azure AI Foundry umożliwia tworzenie dostępnych modeli i interakcję z nimi. Aby użyć usługi wnioskowania modelu AI platformy Azure w projekcie, musisz utworzyć połączenie z zasobem usługi Azure AI Services.

W poniższym artykule wyjaśniono, jak utworzyć połączenie z zasobem usług Azure AI Services w celu korzystania z punktu końcowego wnioskowania.

Wymagania wstępne

Aby ukończyć pracę z tym artykułem, potrzebne są następujące zasoby:

  • Projekt sztucznej inteligencji platformy Azure z centrum sztucznej inteligencji.

  • Zainstaluj interfejs wiersza polecenia platformy Azure.

  • Zidentyfikuj następujące informacje:

    • Identyfikator subskrypcji platformy Azure.

    • Nazwa zasobu usług Azure AI Services.

    • Identyfikator zasobu usług Azure AI Services.

    • Nazwa centrum azure AI, w którym jest wdrażany projekt.

    • Grupa zasobów, w której wdrożono zasób usług Azure AI Services.

Dodaj połączenie

  1. Użyj szablonu ai-services-connection-template.bicep , aby opisać połączenie:

    ai-services-connection-template.bicep

    @description('Name of the hub where the connection will be created')
param hubName string

@description('Name of the connection')
param name string

@description('Category of the connection')
param category string = 'AIServices'

@allowed(['AAD', 'ApiKey', 'ManagedIdentity', 'None'])
param authType string = 'AAD'

@description('The endpoint URI of the connected service')
param endpointUri string

@description('The resource ID of the connected service')
param resourceId string = ''

@secure()
param key string = ''


resource connection 'Microsoft.MachineLearningServices/workspaces/connections@2024-04-01-preview' = {
  name: '${hubName}/${name}'
  properties: {
    category: category
    target: endpointUri
    authType: authType
    isSharedToAll: true
    credentials: authType == 'ApiKey' ? {
      key: key
    } : null
    metadata: {
      ApiType: 'Azure'
      ResourceId: resourceId
    }
  }
}

  2. Uruchom wdrożenie:

    RESOURCE_GROUP="<resource-group-name>"
ACCOUNT_NAME="<azure-ai-model-inference-name>" 
ENDPOINT_URI="https://<azure-ai-model-inference-name>.services.ai.azure.com"
RESOURCE_ID="<resource-id>"
HUB_NAME="<hub-name>"

az deployment group create \
    --resource-group $RESOURCE_GROUP \
    --template-file ai-services-connection-template.bicep \
    --parameters accountName=$ACCOUNT_NAME hubName=$HUB_NAME endpointUri=$ENDPOINT_URI resourceId=$RESOURCE_ID

Następne kroki