Sdílet prostřednictvím

Konfigurace připojení pro použití odvozování modelu Azure AI v projektu AI

  • Článek

Důležité

Položky označené (Preview) v tomto článku jsou aktuálně ve verzi Public Preview. Tato verze Preview je poskytována bez smlouvy o úrovni služeb a nedoporučujeme ji pro produkční úlohy. Některé funkce se nemusí podporovat nebo mohou mít omezené možnosti. Další informace najdete v dodatečných podmínkách použití pro verze Preview v Microsoft Azure.

Pomocí odvozování modelů Azure AI ve svých projektech v Azure AI Foundry můžete vytvářet dostupné aplikace a interagovat a spravovat dostupné modely. Pokud chcete ve svém projektu použít službu odvozování modelu Azure AI, musíte vytvořit připojení k prostředku azure AI Services.

Následující článek vysvětluje, jak vytvořit připojení k prostředku Azure AI Services pro použití koncového bodu odvození.

Požadavky

K dokončení tohoto článku potřebujete:

  • Předplatné Azure. Pokud používáte modely GitHubu, můžete prostředí upgradovat a v procesu vytvořit předplatné Azure. Pokud se jedná o váš případ, přečtěte si upgrade z modelů GitHubu na odvození modelu Azure AI.

  • Prostředek služeb Azure AI Další podrobnosti najdete v tématu Vytvoření prostředku Azure AI Services.

Přidat připojení

Pomocí následujícího postupu můžete vytvořit připojení k prostředku služeb Azure AI:

  1. Přejděte na portál Azure AI Foundry.

  2. V levém dolním rohu obrazovky vyberte Centrum pro správu.

  3. V části Připojení vyberte Nové připojení.

  4. Vyberte služby Azure AI.

  5. V prohlížeči vyhledejte existující prostředek azure AI Services ve vašem předplatném.

  6. Vyberte Přidat připojení.

  7. Nové připojení se přidá do centra.

  8. Vraťte se na cílovou stránku projektu a pokračujte výběrem nového vytvořeného připojení. Aktualizujte stránku, pokud se nezobrazí okamžitě.

    Snímek obrazovky s cílovou stránkou projektu a zvýrazněním umístění připojeného prostředku a přidruženého koncového bodu odvozování

Zobrazení nasazení modelů v připojeném prostředku

Nasazení modelů dostupná v připojeném prostředku můžete zobrazit pomocí následujícího postupu:

  1. Přejděte na portál Azure AI Foundry.

  2. Na levém navigačním panelu vyberte Modely + koncové body.

  3. Na stránce se zobrazí nasazení modelu, která jsou k dispozici pro vaše, seskupené podle názvu připojení. Vyhledejte právě vytvořené připojení, které by mělo být typu Azure AI Services.

    Snímek obrazovky zobrazující seznam modelů dostupných v rámci daného připojení

  4. Vyberte libovolné nasazení modelu, které chcete zkontrolovat.

  5. Na stránce podrobností se zobrazí informace o konkrétním nasazení. Pokud chcete model otestovat, můžete použít možnost Otevřít v dětském hřišti.

  6. Zobrazí se dětské hřiště Azure AI Foundry, kde můžete s daným modelem pracovat.

Důležité

Položky označené (Preview) v tomto článku jsou aktuálně ve verzi Public Preview. Tato verze Preview je poskytována bez smlouvy o úrovni služeb a nedoporučujeme ji pro produkční úlohy. Některé funkce se nemusí podporovat nebo mohou mít omezené možnosti. Další informace najdete v dodatečných podmínkách použití pro verze Preview v Microsoft Azure.

Pomocí odvozování modelů Azure AI ve svých projektech v Azure AI Foundry můžete vytvářet dostupné aplikace a interagovat a spravovat dostupné modely. Pokud chcete ve svém projektu použít službu odvozování modelu Azure AI, musíte vytvořit připojení k prostředku azure AI Services.

Následující článek vysvětluje, jak vytvořit připojení k prostředku Azure AI Services pro použití koncového bodu odvození.

Požadavky

K dokončení tohoto článku potřebujete:

  • Předplatné Azure. Pokud používáte modely GitHubu, můžete prostředí upgradovat a v procesu vytvořit předplatné Azure. Pokud se jedná o váš případ, přečtěte si upgrade z modelů GitHubu na odvození modelu Azure AI.

  • Prostředek služeb Azure AI Další podrobnosti najdete v tématu Vytvoření prostředku Azure AI Services.

  • Nainstalujte Azure CLI a ml rozšíření pro Azure AI Foundry:

    az extension add -n ml

  • Identifikujte následující informace:

    • ID vašeho předplatného Azure

    • Název prostředku azure AI Services

    • Skupina prostředků, ve které je nasazený prostředek Azure AI Services.

Přidat připojení

Pokud chcete přidat model, musíte nejprve identifikovat model, který chcete nasadit. Dostupné modely můžete dotazovat následujícím způsobem:

  1. Přihlaste se k předplatnému Azure:

    az login

  2. Nakonfigurujte rozhraní příkazového řádku tak, aby odkazovali na projekt:

    az account set --subscription <subscription>
az configure --defaults workspace=<project-name> group=<resource-group> location=<location>

  3. Vytvoření definice připojení:

    connection.yml

    name: <connection-name>
type: aiservices
endpoint: https://<ai-services-resourcename>.services.ai.azure.com
api_key: <resource-api-key>

  4. Vytvořte připojení:

    az ml connection create -f connection.yml

  5. V tomto okamžiku je připojení k dispozici ke spotřebě.

Důležité

Položky označené (Preview) v tomto článku jsou aktuálně ve verzi Public Preview. Tato verze Preview je poskytována bez smlouvy o úrovni služeb a nedoporučujeme ji pro produkční úlohy. Některé funkce se nemusí podporovat nebo mohou mít omezené možnosti. Další informace najdete v dodatečných podmínkách použití pro verze Preview v Microsoft Azure.

Pomocí odvozování modelů Azure AI ve svých projektech v Azure AI Foundry můžete vytvářet dostupné aplikace a interagovat a spravovat dostupné modely. Pokud chcete ve svém projektu použít službu odvozování modelu Azure AI, musíte vytvořit připojení k prostředku azure AI Services.

Následující článek vysvětluje, jak vytvořit připojení k prostředku Azure AI Services pro použití koncového bodu odvození.

Požadavky

K dokončení tohoto článku potřebujete:

  • Předplatné Azure. Pokud používáte modely GitHubu, můžete prostředí upgradovat a v procesu vytvořit předplatné Azure. Pokud se jedná o váš případ, přečtěte si upgrade z modelů GitHubu na odvození modelu Azure AI.

  • Prostředek služeb Azure AI Další podrobnosti najdete v tématu Vytvoření prostředku Azure AI Services.

  • Projekt Azure AI s centrem AI

  • Nainstalujte rozhraní příkazového řádku Azure CLI.

  • Identifikujte následující informace:

    • ID vašeho předplatného Azure

    • Název prostředku azure AI Services

    • ID prostředku azure AI Services

    • Název centra Azure AI, ve kterém je projekt nasazený.

    • Skupina prostředků, ve které je nasazený prostředek Azure AI Services.

Přidat připojení

  1. Použití šablony ai-services-connection-template.bicep k popisu připojení:

    ai-services-connection-template.bicep

    @description('Name of the hub where the connection will be created')
param hubName string

@description('Name of the connection')
param name string

@description('Category of the connection')
param category string = 'AIServices'

@allowed(['AAD', 'ApiKey', 'ManagedIdentity', 'None'])
param authType string = 'AAD'

@description('The endpoint URI of the connected service')
param endpointUri string

@description('The resource ID of the connected service')
param resourceId string = ''

@secure()
param key string = ''


resource connection 'Microsoft.MachineLearningServices/workspaces/connections@2024-04-01-preview' = {
  name: '${hubName}/${name}'
  properties: {
    category: category
    target: endpointUri
    authType: authType
    isSharedToAll: true
    credentials: authType == 'ApiKey' ? {
      key: key
    } : null
    metadata: {
      ApiType: 'Azure'
      ResourceId: resourceId
    }
  }
}

  2. Spusťte nasazení:

    RESOURCE_GROUP="<resource-group-name>"
ACCOUNT_NAME="<azure-ai-model-inference-name>" 
ENDPOINT_URI="https://<azure-ai-model-inference-name>.services.ai.azure.com"
RESOURCE_ID="<resource-id>"
HUB_NAME="<hub-name>"

az deployment group create \
    --resource-group $RESOURCE_GROUP \
    --template-file ai-services-connection-template.bicep \
    --parameters accountName=$ACCOUNT_NAME hubName=$HUB_NAME endpointUri=$ENDPOINT_URI resourceId=$RESOURCE_ID

Další kroky