共用方式為

設定連線以在 AI 專案中使用 Azure AI 模型推斷

  • 發行項

重要

本文中標示為 (預覽) 的項目目前處於公開預覽狀態。 此預覽版本沒有服務等級協定，不建議將其用於生產工作負載。 可能不支援特定功能，或可能已經限制功能。 如需詳細資訊，請參閱 Microsoft Azure 預覽版增補使用條款。

您可以在 Azure AI Foundry 中的專案中使用 Azure AI 模型推斷，以建立觸達應用程式並互動/管理可用的模型。 若要在專案中使用 Azure AI 模型推斷服務，您必須建立 Azure AI 服務資源的連線。

下列文章說明如何建立 Azure AI Services 資源的連線，以使用推斷端點。

必要條件

若要完成本文，您需要：

新增連線

您可以使用下列步驟建立 Azure AI 服務資源的連線：

  1. 移至 Azure AI Foundry 入口網站。

  2. 在畫面左下角，選取 [管理中心]。

  3. 在 [連線] 區段中，選取 [新增連線]。

  4. 選取 [Azure AI 服務]。

  5. 在瀏覽器中，在您的訂用帳戶中尋找現有的 Azure AI Services 資源。

  6. 請選取新增連線。

  7. 新的聯機會新增至您的中樞。

  8. 返回專案的登陸頁面以繼續，現在選取新建立的連線。 如果頁面未立即顯示，請重新整理頁面。

    專案的登陸頁面螢幕快照，其中醒目提示連線資源的位置和相關聯的推斷端點。

請參閱連線資源中的模型部署

您可以遵循下列步驟，查看連線資源中可用的模型部署：

  1. 移至 Azure AI Foundry 入口網站。

  2. 在左側導覽列上，選取 [模型 + 端點]。

  3. 頁面會顯示可供您使用的模型部署，並依聯機名稱分組。 找出您剛才建立的連線，其類型應該是 Azure AI Services。

    此螢幕快照顯示指定連接下可用的模型清單。

  4. 選取您想要檢查的任何模型部署。

  5. 詳細數據頁面會顯示特定部署的相關信息。 如果您想要測試模型，您可以使用 [在遊樂場中開啟] 選項。

  6. Azure AI Foundry 遊樂場隨即顯示，您可以在其中與指定的模型互動。

重要

本文中標示為 (預覽) 的項目目前處於公開預覽狀態。 此預覽版本沒有服務等級協定，不建議將其用於生產工作負載。 可能不支援特定功能，或可能已經限制功能。 如需詳細資訊，請參閱 Microsoft Azure 預覽版增補使用條款。

您可以在 Azure AI Foundry 中的專案中使用 Azure AI 模型推斷，以建立觸達應用程式並互動/管理可用的模型。 若要在專案中使用 Azure AI 模型推斷服務，您必須建立 Azure AI 服務資源的連線。

下列文章說明如何建立 Azure AI Services 資源的連線，以使用推斷端點。

必要條件

若要完成本文，您需要：

  • 安裝 Azure CLI 和適用於 Azure AI Foundry 的ml擴充功能：

    az extension add -n ml

  • 識別下列資訊：

    • 您的 Azure 訂用帳戶識別碼。

    • 您的 Azure AI 服務資源名稱。

    • 部署 Azure AI 服務資源的資源群組。

新增連線

若要新增模型，您必須先識別要部署的模型。 您可以查詢可用的模型，如下所示：

  1. 登入您的 Azure 訂用帳戶：

    az login

  2. 設定 CLI 以指向專案：

    az account set --subscription <subscription>
az configure --defaults workspace=<project-name> group=<resource-group> location=<location>

  3. 建立連線定義：

    connection.yml

    name: <connection-name>
type: aiservices
endpoint: https://<ai-services-resourcename>.services.ai.azure.com
api_key: <resource-api-key>

  4. 建立連線：

    az ml connection create -f connection.yml

  5. 現在，連線已可供取用。

重要

本文中標示為 (預覽) 的項目目前處於公開預覽狀態。 此預覽版本沒有服務等級協定，不建議將其用於生產工作負載。 可能不支援特定功能，或可能已經限制功能。 如需詳細資訊，請參閱 Microsoft Azure 預覽版增補使用條款。

您可以在 Azure AI Foundry 中的專案中使用 Azure AI 模型推斷，以建立觸達應用程式並互動/管理可用的模型。 若要在專案中使用 Azure AI 模型推斷服務，您必須建立 Azure AI 服務資源的連線。

下列文章說明如何建立 Azure AI Services 資源的連線，以使用推斷端點。

必要條件

若要完成本文，您需要：

  • 具有 AI 中樞的 Azure AI 專案。

  • 安裝 Azure CLI。

  • 識別下列資訊：

    • 您的 Azure 訂用帳戶識別碼。

    • 您的 Azure AI 服務資源名稱。

    • 您的 Azure AI 服務資源識別碼。

    • 部署專案的 Azure AI Hub 名稱。

    • 部署 Azure AI 服務資源的資源群組。

新增連線

  1. 使用樣本 ai-services-connection-template.bicep 來描述連線：

    ai-services-connection-template.bicep

    @description('Name of the hub where the connection will be created')
param hubName string

@description('Name of the connection')
param name string

@description('Category of the connection')
param category string = 'AIServices'

@allowed(['AAD', 'ApiKey', 'ManagedIdentity', 'None'])
param authType string = 'AAD'

@description('The endpoint URI of the connected service')
param endpointUri string

@description('The resource ID of the connected service')
param resourceId string = ''

@secure()
param key string = ''


resource connection 'Microsoft.MachineLearningServices/workspaces/connections@2024-04-01-preview' = {
  name: '${hubName}/${name}'
  properties: {
    category: category
    target: endpointUri
    authType: authType
    isSharedToAll: true
    credentials: authType == 'ApiKey' ? {
      key: key
    } : null
    metadata: {
      ApiType: 'Azure'
      ResourceId: resourceId
    }
  }
}

  2. 執行部署：

    RESOURCE_GROUP="<resource-group-name>"
ACCOUNT_NAME="<azure-ai-model-inference-name>" 
ENDPOINT_URI="https://<azure-ai-model-inference-name>.services.ai.azure.com"
RESOURCE_ID="<resource-id>"
HUB_NAME="<hub-name>"

az deployment group create \
    --resource-group $RESOURCE_GROUP \
    --template-file ai-services-connection-template.bicep \
    --parameters accountName=$ACCOUNT_NAME hubName=$HUB_NAME endpointUri=$ENDPOINT_URI resourceId=$RESOURCE_ID

下一步