什麼是 Azure AI 代理程式服務?
Azure AI 代理程式服務 是完全受控的服務,可讓開發人員安全地建置、部署及調整高品質且可延伸的 AI 代理程式,而不需要管理基礎計算和記憶體資源。 原本需要數百行程式代碼來支援 用戶端函式呼叫 的功能,現在只需使用 Azure AI 代理程式服務幾行程式代碼即可完成。
什麼是 AI 代理程式?
在 Azure AI Foundry 中,AI 代理程式可作為「智慧」微服務,可用來回答問題(RAG)、執行動作或完全自動化工作流程。 其可藉由將產生的 AI 模型的強大功能與工具結合,讓其能夠存取及與真實世界數據源互動,來達成此目的。
因為 Azure AI 代理程式服務使用與 Azure OpenAI Assistants 相同的有線通訊協定,因此您可以使用 OpenAI SDK 或 Azure AI Foundry SDK ,在幾行程式代碼中建立和執行代理程式。 例如,若要使用 Azure AI Foundry SDK 建立 AI 代理程式,您可以直接定義 AI 所使用的模型、完成工作的指示,以及可用來存取及與其他服務互動的工具。
agent = project_client.agents.create_agent(
model="gpt-4o-mini",
name="my-agent",
instructions="You are helpful agent",
tools=code_interpreter.definitions,
tool_resources=code_interpreter.resources,
)
定義代理程序之後,您可以藉由叫用活動線程上的執行,開始要求它執行工作,這隻是多個代理程式與使用者之間的交談。
# Create a thread with messages
thread = project_client.agents.create_thread()
message = project_client.agents.create_message(
thread_id=thread.id,
role="user",
content="Could you please create a bar chart for the operating profit using the following data and provide the file to me? Company A: $1.2 million, Company B: $2.5 million, Company C: $3.0 million, Company D: $1.8 million",
)
# Ask the agent to perform work on the thread
run = project_client.agents.create_and_process_run(thread_id=thread.id, agent_id=agent.id)
# Fetch and log all messages to see the agent's response
messages = project_client.agents.list_messages(thread_id=thread.id)
print(f"Messages: {messages}")
每當叫用執行作業時,Azure AI 代理程式服務將會完成整個工具呼叫生命週期,1)使用提供的指示執行模型,2) 叫用工具作為代理程式呼叫它們,3) 將結果傳回給您。
取得基本概念之後,您就可以開始使用多個代理程式,使用 AutoGen 和 Semantic Kernel 將更複雜的工作流程自動化。 由於 Azure AI 代理程式服務是完全受控的服務,因此您可以專注於建置工作流程和代理程式,而不需要擔心個別代理程式的基礎結構調整、安全性或管理。
為什麼要使用 Azure AI 代理程式服務?
相較於直接使用 推斷 API 進行開發,Azure AI 代理程式服務提供更簡化且安全的方法來建置和部署 AI 代理程式。 這包括:
- 自動工具呼叫 – 不需要剖析工具呼叫、叫用工具及處理回應;這一切現在已完成伺服器端
- 安全管理的數據 – 您不需要管理自己的交談狀態,而是依賴線程來儲存您需要的所有資訊
- 現成的工具 – 除了 Azure OpenAI Assistants 所提供的檔案擷取和程式代碼解釋器工具之外,Azure AI 代理程式服務也隨附一組工具,可用來與數據源互動,例如 Bing、Azure AI 搜尋和 Azure Functions。
原本花費數百行程式代碼的項目現在只需使用 Azure AI 代理程式服務即可完成。
比較 Azure 代理程式和 Azure OpenAI 助理
這兩項服務都可讓您使用相同的 API 和 SDK 來建置代理程式,但如果您有額外的企業需求,您可能想要考慮使用 Azure AI 代理程式服務。 Azure AI 代理程式服務除了提供下列各項功能外,還提供助理的所有功能:
彈性模型選擇 - 建立使用 Azure OpenAI 模型的代理程式,或其他代理程式,例如 Llama 3、Mistral 和 Cohere。 選擇最適合的模型以符合您的業務需求。
廣泛的數據整合 - 讓您的 AI 代理程式與各種數據源取得相關、安全的企業知識,例如Microsoft Bing、Azure AI 搜尋和其他 API。
企業級安全性 - 確保數據隱私權與符合安全數據處理、無密鑰驗證,以及沒有公用輸出。
選擇您的記憶體解決方案 - 自備 Azure Blob 記憶體以取得記憶體資源的完整可見度和控制,或使用平臺管理的記憶體來保護方便使用。
負責 AI
Microsoft 承諾 AI 的進展,由以人為先的原則所驅動。 Azure OpenAI 中可用的生產力模型具有顯著的潛在優點,但是若沒有仔細設計和謹慎的緩和措施,這類模型可能會產生不正確或甚至是有害的內容。 Microsoft已進行大量投資,以協助防範濫用和意外傷害,其中包括納入Microsoft 負責任 AI 使用的原則、採用 使用服務的規範 、建 置內容篩選 以支持客戶,以及提供客戶在使用 Azure AI 代理程式服務時應考慮的負責任 AI 資訊和指引 。
開始使用 Azure AI 代理程式服務
若要開始使用 Azure AI 代理程式服務,您必須在 Azure 訂用帳戶中建立 Azure AI Foundry 中樞和代理程序專案。
如果您是第一次使用服務,請從快速入門指南開始。
- 您可以使用必要的資源建立 AI 中樞和專案。
- 建立項目之後,您可以部署相容的模型,例如 GPT-4o。
- 當您有已部署的模型時,您也可以使用 SDK 開始對服務進行 API 呼叫。
下一步
深入瞭解 為代理程式提供電源的模型。