開始使用提示流程

本文會逐步引導您完成在 Azure Machine Learning 工作室中使用提示流程的主要使用者旅程圖。 您會了解如何在 Azure Machine Learning 工作區中啟用提示流程、建立及開發您的第一個提示流程、對其進行測試及評估，然後將其部署到生產環境。

必要條件

• 請確定工作區中的預設資料存放區為 Blob 類型。

• 如果您使用虛擬網路保護提示流程，請遵循提示流程中的網路隔離，以深入了解詳細資料。

設定連線

首先，您需要設定連線。

連線有助於安全地儲存和管理與 LLM (大型語言模型) 和其他外部工具互動所需的祕密金鑰或其他敏感性認證，例如 Azure Content Safety。

瀏覽至提示流程首頁，選取 [連線] 索引標籤。連線是與工作區中所有成員的共用資源。 因此，如果已經看到提供者為 AzureOpenAI 的連線，您可以略過此步驟，移至啟動計算工作階段。

如果您尚未連線到 AzureOpenAI，請選取 [建立] 按鈕，然後從下拉式清單中選取 [AzureOpenAI]。

右側面板隨即顯示。 在這裡，您必須選取訂用帳戶和資源名稱、提供連線名稱、API 金鑰 (如果驗證類型等於 API 金鑰)、API 基底、API 類型和 API 版本，再選取 [儲存] 按鈕。 提示流程也支援 Microsoft Entra ID 作為 Azure OpenAI 資源身分識別型驗證的驗證類型。 深入了解如何使用受控識別設定 Azure OpenAI 服務。

若要取得 API 金鑰、基底、類型和版本，您可以在 Azure OpenAI 入口網站中瀏覽至聊天遊樂場，然後選取 [檢視程式碼] 按鈕。 您可以從這裡複製必要的資訊，並將其貼到連線建立面板中。

輸入必要欄位之後，請選取 [儲存] 以建立連線。

建立及開發您的提示流程

在提示流程首頁的 [流程] 索引標籤中，選取 [建立] 以建立您的第一個提示流程。 您可以藉由複製資源庫中的範例來建立流程。

從範例複製

內建範例會顯示在資源庫中。

在本指南中，我們將會使用 Web 分類範例來引導您完成主要使用者旅程圖。 您可以在 [Web 分類] 圖格上選取 [檢視詳細資料] 以預覽範例。 預覽視窗隨即出現。 您可以瀏覽範例簡介，以查看範例是否與您的案例類似。 或者，您可以只選取 [複製] 來直接複製範例，然後檢查流程。 對其進行測試和修改。

選取 [複製] 之後，就會建立新的流程，並儲存在工作區檔案共用儲存體內的特定資料夾中。 您可以根據右側面板中的喜好設定來自訂資料夾名稱。

啟動計算工作階段

然後您會進入流程製作頁面。 在深入探討之前，首先會啟動計算工作階段。

計算工作階段會作為執行應用程式所需的計算資源，包括包含所有必要相依性套件的 Docker 映像。 這是流程執行的必備項目。

流程撰寫頁面

當啟動工作階段啟動時，我們可以查看流程製作頁面。

在撰寫頁面左側為扁平化檢視，是供您撰寫流程的主要工作區，例如新增新節點、編輯提示、選取流程輸入資料等等。

右上角會顯示流程的資料夾結構。 每個流程都有一個資料夾，其包含 flow.dag.yaml 檔案、原始程式碼檔案和系統資料夾。 您可以輕鬆地匯出或匯入流程以進行測試、部署或共同作業。

除了在扁平化檢視中直接編輯節點之外，您還可以開啟 [原始檔案模式] 切換，然後選取檔名以在 [開啟的檔案] 索引標籤中編輯檔案。

右下角是只有視覺效果的圖表檢視。 您可以進行放大、縮小、自動配置等。

在本指南中，我們將會使用 Web 分類範例來引導您完成主要使用者旅程圖。 「Web 分類」是示範使用 LLM 進行多類別分類的流程。 假設有 URL，只需幾張螢幕擷取畫面、簡單的摘要和分類提示，即可將 URL 分類為 Web 類別。 例如，假設有 "https://www.imdb.com/""，其會將此 URL 分類為「電影」。

在圖表檢視中，您可以看到範例流程的外觀。 輸入是要分類的 URL，然後使用 Python 指令碼從 URL 擷取文字內容、使用 LLM 來摘要 100 個字內的文字內容，然後根據 URL 和摘要文字內容進行分類，最後使用 Python 指令碼將 LLM 輸出轉換成字典。 prepare_examples 節點是對分類節點提示的饋送少量樣本範例。

流程輸入資料

展開 [輸入] 區段時，您可以建立和檢視輸入。 針對如以下螢幕擷取畫面所示的「Web 分類」範例，流程輸入是字串類型的 URL。

複製範例時，已設定輸入結構描述 (name: url; type: string) 和值。 您可以手動變更為另一個值，例如「https://www.imdb.com/"」。

設定 LLM 節點

針對每個 LLM 節點，您必須選取連線來設定 LLM API 金鑰。

在此範例中，請確定 API 類型是聊天，因為我們提供的提示範例適用於聊天 API。 若要了解聊天和完成 API 的提示格式差異，請參閱開發流程。

然後，視您選取的連線類型而定，您必須選取部署或模型。 如果您使用 Azure OpenAI 連線，您必須在下拉式清單中選取部署 (如果您沒有部署，請在 Azure OpenAI 入口網站中藉由遵循下列使用 Azure OpenAI 建立資源並部署模型，建立一個部署)。 如果您使用 OpenAI 連線，則必須選取模型。

流程中有兩個 LLM 節點 (summarize_text_content 和 classify_with_llm)，因此您必須分別為各個節點設定。

執行單一節點

若要測試和偵錯單一節點，請在扁平化檢視的節點上選取 [執行] 圖示。 執行狀態會顯示在頂端，一旦執行完成，請檢查節點輸出區段中的輸出。

執行 fetch_text_content_from_url 然後執行 summarize_text_content，檢查流程是否可以成功從 Web 擷取內容，並且摘要 Web 內容。

圖表檢視中也會顯示單一節點狀態。 您也可以變更流程輸入 URL，以測試不同 URL 的節點行為。

執行整個流程

若要測試和偵錯整個流程，請選取右上方的 [執行] 按鈕。

然後，您可以檢查每個節點的執行狀態和輸出。 圖表檢視中也會顯示節點狀態。 同樣地，您可以變更流程輸入 URL，以測試流程對不同 URL 的行為。

設定和檢查流程輸出

除了檢查每個節點上的輸出，您也可以設定流程輸出，並在一個位置檢查多個節點的輸出。 此外，流程輸出有助於：

• 在單一資料表中檢查大量測試結果
• 定義評估介面對應
• 設定部署回應結構描述

當您複製範例時，已設定流程輸出 (類別和辨識項)。

您可以在橫幅中選取 [檢視追蹤] 按鈕，以檢視詳細的輸入、輸出、流程執行和協調流程資訊。 您可以看到流程使用類別和辨識項來預測輸入 URL。

您可以選取 [檢視測試結果]，以檢查清單中的所有歷程記錄測試。

測試和評估

使用單一資料列的資料成功執行流程之後，您可能會想要測試其是否在大型資料集中表現良好，您可以執行大量測試，選擇一些評估方法，然後檢查計量。

準備資料

您必須先準備測試資料。 我們目前支援 csv、tsv 和 jsonl 檔案。

移至 GitHub 下載 "data.csv"，這是「Web 分類」範例的黃金資料集。

評估

選取 [執行] 按鈕旁的 [評估] 按鈕，右側面板隨即出現。 這是一個精靈，會引導您提交批次執行並選取評估方法 (選擇性)。​​​​​​

您必須設定批次執行名稱、描述，然後選取 [新增資料] 上傳您下載的資料。 上傳資料或工作區中的同事已建立資料集之後，您可以從下拉式清單選擇資料集，並預覽前五個資料列。 資料集選取下拉式清單支援搜尋和自動建議。

此外，輸入對應支援將流程輸入對應至資料集中的特定資料行，這表示即使資料行名稱不相符，您也可以使用任何資料行作為輸入。

接下來，選取一或多個評估方法。 評估方法也是流程，使用 Python 或 LLM 等項目來計算正確性、相關性分數等計量。 內建評估流程和自訂評估流程會列在頁面中。 由於 Web 分類是分類案例，因此適合選取要評估的分類正確性評估。

如果您對於如何為內建評估方法定義計量感興趣，您可以選取 [更多詳細資料] 來預覽評估流程。

選取 [分類正確性評估] 作為評估方法之後，您可以設定介面對應，將有根據事實對應至流程輸入，並將預測對應至流程輸出。

然後選取 [檢閱 + 提交]，以提交批次執行和選取的評估。

檢查結果

成功提交執行後，請選取 [檢視執行清單]以瀏覽至此流程的批次執行清單。

批次執行可能需要一些時間才能完成。 您可以重新整理頁面以載入最新狀態。

批次執行完成後，請選取執行，然後選取 [視覺化輸出] 來檢視批次執行的結果。 選取 [檢視輸出] (眼睛圖示) 將評估結果附加至批次執行結果的資料表。 您可以看到權杖計數總計和整體正確性，然後在資料表中，您會看到每個資料列的結果：輸入、流程輸出和評估結果 (哪些案例正確預測以及哪些案例不是)。

您可以調整資料行寬度、隱藏/取消隱藏資料行、變更資料行順序。 您也可以選取 [匯出] 下載輸出資料表以進行進一步調查，我們提供 2 個選項：

• 下載目前頁面：批次執行的 csv 檔案會輸出到目前頁面中。
• 下載所有資料：您下載的是 Jupyter 筆記本檔案，您必須執行該檔案才能下載 jsonl 或 csv 格式的輸出。

如您所知，正確性並不是唯一可以評估分類工作的計量，例如您也可以使用重新叫用來評估。 在此情況下，您可以選取 [視覺化輸出] 按鈕旁的 [評估]，選擇其他評估方法以進行評估。

部署

建置流程並正確測試之後，您可能會想要將其部署為端點，以便叫用端點以進行即時推斷。

設定端點

選取批次執行連結，然後系統會將您導向至批次執行詳細資料頁面，選取 [部署]。 精靈隨即出現，可讓您設定端點。 指定端點和部署名稱、選取虛擬機器、設定連線、執行某些設定 (您可以使用預設設定)、選取 [檢閱 + 建立] 以啟動部署。

測試端點

您可以從通知移至端點詳細資料頁面，或瀏覽至工作室左側導覽中的 [端點]，然後在 [即時端點] 索引標籤中選取您的端點。部署端點需要幾分鐘的時間。 成功部署端點之後，您可以在 [測試] 索引標籤中測試端點。

將您想要測試的 URL 放在輸入方塊中，然後選取 [測試]，您就會看到端點預測的結果。

清除資源

如果您現在打算繼續進行操作指南，並且想要使用您在這裡建立的資源，請跳至後續步驟。

停止計算執行個體

如果現在不打算使用，請停止計算執行個體：

1. 在工作室的左側導覽區域中，選取 [計算]。
2. 在頂端索引標籤中，選取 [計算執行個體]
3. 選取清單中的計算執行個體。
4. 在頂端工具列中，選取 [停止]。

刪除所有資源

如果不打算使用您建立的任何資源，請刪除以免產生任何費用：

1. 在 Azure 入口網站中，選取最左邊的 [資源群組]。
2. 從清單中，選取您所建立的資源群組。
3. 選取 [刪除資源群組]。

下一步

現在您對於流程開發、測試、評估和部署所涉及的項目已經有概念，接下來請深入了解這些教學課程中的程序：

• 管理計算工作階段
• 開發標準流程
• 提交大量測試及評估流程
• 使用變體調整提示
• 部署流程