探索連線和執行階段
當您使用提示流程建立大型語言模型 (LLM) 應用程式時,您必須先設定任何必要的連線和執行階段。
探索連線
每當您想要讓流程連線到外部資料來源、服務或 API 時,都需要讓您的流程獲得授權才能與該外部服務通訊。 當您建立連線時,您會設定提示流程與外部服務之間的安全連結,以確保順暢且安全的資料通訊。
根據您所建立的連線類型,連線會安全地儲存端點、API 金鑰或提示流程與外部服務通訊所需的認證。 任何必要的祕密都不會公開給使用者,而是儲存在 Azure Key Vault 中。
藉由設定連線,使用者可以輕鬆地重複使用其流程中工具所需的外部服務。
某些內建工具會要求您設定連線:
連線類型 | 內建工具 |
---|---|
Azure Open AI | LLM 或 Python |
Open AI | LLM 或 Python |
認知搜尋 | 向量資料庫查閱或 Python |
Serp | Serp API 或 Python |
自訂 | Python |
提示流程連線會在兩個案例中扮演關鍵角色。 它們會將 API 認證管理自動化,簡化和保護敏感性存取資訊的處理。 此外,它們可讓來自各種來源的資料進行安全傳輸,對於維護不同環境的資料完整性和隱私權至關重要。
探索執行階段
建立流程並設定工具所使用的必要連線之後,您想要執行流程。 若要執行流程,您需要計算,這是透過提示流程執行階段提供。
執行階段 (1) 是計算執行個體的組合 (2) 提供必要計算執行資源,而環境 (3) 指定必須先行安裝的必要套件和程式庫,如此一來才能執行流程。
當您使用執行階段時,您有可執行和驗證流程的受控制環境,確保一切如預期般在穩定設定中運作。 預設環境可用於快速開發和測試。 當您需要安裝其他套件時,您可以建立自訂環境。