教學課程:部署企業聊天 Web 應用程式
重要
本文中標示為 (預覽) 的項目目前處於公開預覽狀態。 此預覽版本沒有服務等級協定,不建議將其用於生產工作負載。 可能不支援特定功能,或可能已經限制功能。 如需詳細資訊,請參閱 Microsoft Azure 預覽版增補使用條款。
在本文中,您會在 Azure AI Foundry 入口網站中部署使用您自己的數據與大型語言模型的企業聊天 Web 應用程式。
您的資料來源可用於使用特定資料作為模型的基礎。 作為基礎表示模型使用您的資料來協助其了解問題的內容。 您不會變更已部署的模型本身。 您的資料會分別安全地儲存在原始資料來源中
本教學課程中的步驟如下:
- 在不使用您的資料的情況下部署及測試聊天模型。
- 新增您的資料。
- 使用您的資料測試模型。
- 部署 Web 應用程式。
必要條件
Azure 訂用帳戶 - 建立免費帳戶。
已部署的 Azure OpenAI 聊天模型。 如果您尚未完成 Azure AI Foundry 遊樂場快速入門,即可建立此資源。
為範例產品資料編製索引的 Azure AI 搜尋服務連線。
產品數據的本地副本。 GitHub 上的 Azure-Samples/rag-data-openai-python-promptflow 存放庫 (英文) 包含與本教學課程案例相關的範例零售產品資訊。 具體而言,
product_info_11.md
包含與本教學課程範例相關的 TrailWalker 登山鞋產品資訊。 下載 ZIP 檔案中的範例 Contoso Trek 零售產品資料到本機電腦。在所選訂用帳戶中註冊的 Microsoft.Web 資源提供者,能夠部署至 Web 應用程式。
新增您的資料並再次試用聊天模型
在 Azure AI Foundry 遊樂場快速入門 中(這是本教學課程的必要條件),觀察您的模型在沒有數據的情況下回應的方式。 現在,您要將資料新增至模型中,以協助其回答有關您產品的問題。
若要完成本節,您需要產品資料的本機複本。 GitHub 上的 Azure-Samples/rag-data-openai-python-promptflow 存放庫 (英文) 包含與本教學課程案例相關的範例零售產品資訊。 具體而言,product_info_11.md
包含與本教學課程範例相關的 TrailWalker 登山鞋產品資訊。 下載 ZIP 檔案中的範例 Contoso Trek 零售產品資料到本機電腦。
遵循下列步驟,將資料新增至聊天遊樂場,以協助助理回答有關您產品的問題。 您不會變更已部署的模型本身。 您的資料會單獨且安全地儲存在您的 Azure 訂用帳戶中。
在 Azure AI Foundry 中移至您的專案。
選取 [ 遊樂場]。
選取 [ 試用聊天遊樂場]。
從 [部署] 下拉式清單中,選取已部署的聊天模型。
在聊天遊樂場左側,選取 [新增您的資料]>[+ 新增資料來源]。
在 [資料來源] 下拉式清單中,選取 [上傳檔案]。
選取 [上傳]>[上傳檔案] 以瀏覽您的本機檔案。
選取您要上傳的檔案。 選取您先前下載或建立的產品資訊檔案。 立即新增所有檔案。 您稍後將無法在相同遊樂場工作階段中新增更多檔案。
選取 [上傳],以將檔案上傳至您的 Azure Blob 儲存體帳戶。 然後選取下一步。
選取 Azure AI 搜尋服務。 在此範例中,我們會從 [選取 Azure AI 搜尋服務] 下拉式清單中選取 [連線其他 Azure AI 搜尋資源]。 如果您沒有搜尋資源,可以選取 [建立新的 Azure AI 搜尋資源] 來建立一個資源。 然後返回此步驟以連線並加以選取。
瀏覽您的 Azure AI 搜尋服務,然後選取 [新增連線]。
針對向 量索引名稱,輸入 產品資訊 ,然後選取 [ 下一步]。
在 [向量設定] 下的 [搜尋設定] 頁面上,取消選取 [將向量搜尋新增至此搜尋資源] 核取方塊。 此設定有助於判斷模型如何回應要求。 然後選取下一步。
注意
如果您新增向量搜尋,此處會提供更多選項,但需要額外付費。
檢閱您的設定,然後選取 [ 建立向量索引]。
在遊樂場中,您可以看到資料擷取正在進行中。 此程序可能需要幾分鐘的時間。 請等到您看見資料來源和索引名稱 (而非狀態) 之後再繼續。
您現在可以與模型聊天,詢問與之前相同的問題 (「TrailWalker 登山健行鞋多少錢」),這次其會使用來自您資料的資訊來建構回應。 您可以展開 [參考] 按鈕,以查看所使用的資料。
部署 Web 應用程式
一旦您滿意 Azure AI Foundry 入口網站中的體驗,您可以將模型部署為獨立 Web 應用程式。
在 Azure 入口網站中尋找您的資源群組
在本教學課程中,Web 應用程式會部署至與 Azure AI Foundry 中樞相同的資源群組。 稍後您會在 Azure 入口網站中設定 Web 應用程式的驗證。
請遵循下列步驟,從 Azure AI Foundry 流覽至 Azure 入口網站 中的資源群組:
在 Azure AI Foundry 中移至您的專案。 然後從左窗格中選取 [管理中心 ]。
在 [ 專案 ] 標題底下,選取 [ 概觀]。
選取資源群組名稱,以在 Azure 入口網站中開啟資源群組。 在此範例中,資源群組名為
rg-contoso
。您現在應該在 Azure 入口網站中,檢視部署中樞的資源群組內容。 將此頁面在瀏覽器索引標籤中保持為開啟。您稍後會回到此檔案。
部署 Web 應用程式
發佈會在您的訂用帳戶中建立 Azure App Service。 視您選取的 價格方案 而定,可能會產生成本。 當您完成應用程式時,您可以從 Azure 入口網站中刪除它。
若要部署 Web 應用程式:
注意
您必須在選取的訂用帳戶中註冊 Microsoft.Web 資源提供者,才能部署至 Web 應用程式。
完成上一節中的步驟,以新增您的資料至遊樂場。
注意
您可以使用自己的數據來部署 Web 應用程式,但至少您需要已部署的模型,如 Azure AI Foundry 遊樂場快速入門中所述。
選取 [ 部署 > ...作為 Web 應用程式。
在 [部署至 Web 應用程式] 頁面上,輸入下列詳細資料:
- 名稱:Web 應用程式的唯一名稱。
- 訂用帳戶:您的 Azure 訂用帳戶。
- 資源群組:選取要在其中部署 Web 應用程式的資源群組。 您可以使用與中樞相同的資源群組。
- 位置:選取要在其中部署 Web 應用程式的位置。 您可以使用與中樞相同的位置。
- 價格方案:選擇 Web 應用程式的價格方案。
- 在 Web 應用程式中啟用聊天歷程記錄:針對教學課程,不會選取聊天歷程記錄方塊。 如果您啟用該功能,您的使用者將有權存取其個人先前的查詢和回應。 如需詳細資訊,請參閱聊天歷程記錄備註。
選取部署。
等候應用程式部署,這可能需要幾分鐘的時間。
準備就緒時,[啟動] 按鈕會在工具列上啟用。 但尚物啟動應用程式,且不要關閉 [聊天遊樂場] 頁面 - 您稍後會回來。
設定 Web 應用程式驗證
根據預設,Web 應用程式將只能供您存取。 在本教學課程中,您會新增驗證,以將應用程式的存取限制為 Azure 租用戶的成員。 系統會要求使用者使用其 Microsoft Entra 帳戶登入,才能存取您的應用程式。 如果您想要的話,可以遵循類似的程序來新增另一個識別提供者。 除了驗證使用者是您租用戶的成員以外,應用程式不會以任何其他方式使用使用者的登入資訊。
回到包含 Azure 入口網站的瀏覽器索引標籤 (或在新的瀏覽器索引標籤中重新開啟 Azure 入口網站),並檢視您部署中樞和 Web 應用程式所在的資源群組內容 (您可能必須重新整理檢視,才能看到 Web 應用程式)。
從資源群組的資源清單中選取 App Service 資源。
從左側可摺疊的功能表中,於 [設定] 底下選取 [驗證]。
使用下列設定來新增識別提供者:
- 識別提供者:選取 Microsoft 作為識別提供者。 此頁面上的預設設定只會將應用程式限制為您的租用戶,因此您不需要在這裡變更任何其他項目。
- 租用戶類型:勞動力
- 應用程式註冊:建立新的應用程式註冊
- 名稱:Web 應用程式服務的名稱
- 支援的帳戶類型:目前租用戶 - 單一租用戶
- 限制存取:需要驗證
- 未驗證的要求:HTTP 302 找到重新導向 - 建議用於網站
使用 Web 應用程式
您只差一點點了! 現在您可以測試 Web 應用程式。
等候 10 分鐘左右,驗證設定才會生效。
返回瀏覽器索引標籤,其中包含 Azure AI Foundry 入口網站中的聊天遊樂場頁面。
選取 [啟動] 以啟動已部署的 Web 應用程式。 如果出現提示,請接受權限要求。
如果驗證設定尚未生效,請關閉 Web 應用程式的瀏覽器索引標籤,並返回 Azure AI Foundry 入口網站中的聊天遊樂場。 然後稍候一會兒,再試一次。
在您的 Web 應用程式中,您可以詢問與之前相同的問題 (「TrailWalker 登山健行鞋多少錢」),這次其會使用來自您資料的資訊來建構回應。 您可以展開 [參考] 按鈕,以查看所使用的資料。
瞭解聊天記錄
透過聊天歷程記錄功能,您的使用者將有權存取其個人先前的查詢和回應。
您可以在部署 Web 應用程式時啟用聊天歷程記錄。 選取 [在 Web 應用程式中啟用聊天歷程記錄] 核取方塊。
重要
啟用聊天歷程記錄將會在您的資源群組中建立 Cosmos DB 執行個體,並針對所使用的儲存體衍生額外費用。 刪除 Web 應用程式並不會自動刪除您的 Cosmos DB 執行個體。 若要刪除您的 Cosmos DB 執行個體以及所有已儲存的聊天,您必須瀏覽至 Azure 入口網站中相關聯的資源並加以刪除。
啟用聊天歷程記錄之後,您的使用者將能夠在應用程式右上角顯示和隱藏它。 顯示記錄時,他們可以重新命名或刪除交談。 當他們登入應用程式,交談會自動從最新到最舊的順序排序,並根據交談中的第一個查詢來命名。
如果您刪除 Cosmos DB 資源,但保留工作室上的聊天歷程記錄選項啟用,您的使用者會收到連線錯誤通知,但可以繼續使用 Web 應用程式而不會存取聊天歷程記錄。
清除資源
為了避免產生不必要的 Azure 費用,如果您不再需要在本快速入門中建立的資源,則應該加以刪除。 若要管理資源,您可以使用 Azure 入口網站。
相關內容
- 開始使用提示流程 SDK 建置聊天應用程式
- 使用 Azure AI SDK 建置自訂聊天應用程式。