從不同的 Azure AI Foundry 專案或中樞取用無伺服器 API 端點
在本文中,您會了解如何在與用於建立部署的專案或中樞不同的專案或中樞中,設定現有的無伺服器 API 端點。
重要
處於預覽狀態的模型會在模型目錄中的模型卡片上標示為 預覽 。
模型目錄中的特定模型可以部署為無伺服器 API。 這種部署可讓您以 API 形式取用模型,而不必在您的訂用帳戶上裝載模型,同時讓組織保持所需的企業安全性與合規性。 此部署選項不需要您的訂用帳戶提供配額。
在不同於用於建立部署的專案或中樞内取用無伺服器 API 端點的需求,可能會發生下列情況:
- 您想要將部署集中到指定的專案或中樞,並從組織中的不同專案或中樞取用它們。
- 您必須在特定 Azure 區域中的中樞部署模型,而該模型在該區域可使用無伺服器部署。 不過,您需要從另一個區域取用它,但這特定模型在此區域無法使用無伺服器部署。
必要條件
具有有效付款方式的 Azure 訂用帳戶。 免費版或試用版 Azure 訂用帳戶將無法運作。 如果您沒有 Azure 訂用帳戶,請建立付費 Azure 帳戶以開始。
部署至無伺服器 API 端點的模型。 本文假設您先前已部署 Meta-Llama-3-8B-Instruct 模型。 若要了解如何將此模型部署為無伺服器 API,請參閱 將模型部署為無伺服器 API。
您必須安裝下列軟體,才能使用 Azure AI Foundry:
您可以使用任何相容的網頁瀏覽器瀏覽 Azure AI Foundry。
建立無伺服器 API 端點連線
請遵循這些步驟,以建立連線:
連線至部署端點的專案或中樞:
移至 Azure AI Foundry ,並流覽至您要在其中部署端點的專案。
取得您要連線之端點的端點 URL 和認證。 在這個範例中,您會取得名稱為 meta-llama3-8b-qwerty 的端點的詳細資料。
從 Azure AI Foundry 入口網站中項目的左側提要欄位,移至 [我的資產>模型 + 端點] 以查看專案中的部署清單。
選取您要連線至的部署。
複製 目標 URI 和 金鑰 的值。
現在,連線到您要在其中建立連線的專案或中樞:
前往需要建立連線的專案。
在專案中建立連線:
從 Azure AI Foundry 入口網站中的專案,移至左側提要字段的底部,然後選取 [管理中心]。
從管理中心的左側提要字段中,選取 [ 已連線的資源]。
選取新增連線。
選取 [無伺服器模型]。
在 [目標 URI]上貼上您先前複製的值。
在 [金鑰]上貼上您先前複製的值。
為連線指定名稱,此案例中為 meta-llama3-8b-connection。
請選取新增連線。
現在,連線已可供取用。
若要驗證連線是否已在運作:
返回 Azure AI Foundry 入口網站中的專案。
從項目的左側提要字段中,移至 [建置並自定義>提示流程]。
選取 [建立] 以建立新流程。
在 [聊天流程] 方塊中選取 [建立]。
為您的 [提示流程] 命名,並選取 [建立]。
從圖表中選取 [聊天] 節點,以前往 [聊天] 區段。
針對 [連線],請開啟挑選清單,選取您剛才建立的連線,此案例為 [meta-llama3-8b-connection]。
在頂端瀏覽列選取 [啟用計算工作階段],以啟用提示流程自動執行階段。
選取 [聊天] 選項。 您現在可以傳送訊息並取得回應。