探索連線和執行階段

已完成

當您使用提示流程建立大型語言模型 (LLM) 應用程式時,您必須先設定任何必要的連線執行階段

探索連線

每當您想要讓流程連線到外部資料來源、服務或 API 時,都需要讓您的流程獲得授權才能與該外部服務通訊。 當您建立連線時,您會設定提示流程與外部服務之間的安全連結,以確保順暢且安全的資料通訊。

Diagram showing a flow with two nodes, connecting to Cognitive Search and Azure Open AI.

根據您所建立的連線類型,連線會安全地儲存端點、API 金鑰或提示流程與外部服務通訊所需的認證。 任何必要的祕密都不會公開給使用者,而是儲存在 Azure Key Vault 中。

藉由設定連線,使用者可以輕鬆地重複使用其流程中工具所需的外部服務。

某些內建工具會要求您設定連線:

連線類型 內建工具
Azure Open AI LLM 或 Python
Open AI LLM 或 Python
認知搜尋 向量資料庫查閱或 Python
Serp Serp API 或 Python
自訂 Python

提示流程連線會在兩個案例中扮演關鍵角色。 它們會將 API 認證管理自動化,簡化和保護敏感性存取資訊的處理。 此外,它們可讓來自各種來源的資料進行安全傳輸,對於維護不同環境的資料完整性和隱私權至關重要。

探索執行階段

建立流程並設定工具所使用的必要連線之後,您想要執行流程。 若要執行流程,您需要計算,這是透過提示流程執行階段提供。

Diagram runtimes, compute, and environments in relation to flows.

執行階段 (1) 是計算執行個體的組合 (2) 提供必要計算執行資源,而環境 (3) 指定必須先行安裝的必要套件和程式庫,如此一來才能執行流程。

當您使用執行階段時,您有可執行和驗證流程的受控制環境,確保一切如預期般在穩定設定中運作。 預設環境可用於快速開發和測試。 當您需要安裝其他套件時,您可以建立自訂環境