如何在 Azure AI 服務中使用封鎖清單與 Azure AI 模型推斷服務
可設定的內容篩選足以因應大部分的內容調節需求。 不過,您可能需要篩選針對使用案例特定的字詞。
必要條件
Azure 訂用帳戶。 如果您使用 GitHub Models,您可以升級您的體驗,並在程式中建立 Azure 訂用帳戶。 如果是您的情況,請閱讀 從 GitHub 模型升級至 Azure AI 模型推斷 。
Azure AI 服務資源。 如需詳細資訊,請參閱 建立 Azure AI 服務資源。
Azure AI Foundry 專案和 Azure AI Foundry Hub 已連線到您的 Azure AI 服務資源。
模型部署。 請參閱 將模型新增並設定至 Azure AI 服務 ,以將模型新增至您的資源。
注意
只有 Azure OpenAI 模型才支持封鎖清單(預覽)。
建立封鎖清單
移至 Azure AI Foundry 並流覽至您的專案/中樞。 然後選取 左側導覽上的 [Safety+ Security] 頁面,然後選取 [ 封鎖清單] 索引 卷標。
選取 [建立封鎖清單]。 輸入封鎖清單的名稱、新增描述,然後選取要與其連線的 Azure OpenAI 資源。 然後選取 [ 建立封鎖清單]。
建立新的封鎖清單之後,請選取它。 在封鎖清單的頁面上,選取 [ 新增字詞]。
輸入應該篩選的字詞,然後選取 [ 新增字詞]。 您也可以使用 regex。 您可以在封鎖清單中移除每個字詞。
將封鎖清單附加至內容篩選組態
一旦封鎖清單準備就緒,請返回 [安全+ 安全性 ] 頁面,然後選取 [內容篩選 ] 索引標籤。建立新的內容篩選設定。 這會開啟具有數個 AI 內容安全性元件的精靈。
在 [輸入篩選] 和 [輸出篩選] 畫面上,切換 [封鎖清單] 按鈕。 然後,您可以從清單中選取封鎖清單。 封鎖清單有兩種類型:您所建立的自定義封鎖清單,以及預先建置的封鎖清單,Microsoft提供,在此案例中為粗話封鎖清單(英文)。
您現在可以決定要在內容篩選設定中包含哪些可用的封鎖清單。 最後一個步驟是選取 [下一步] 來檢閱和完成內容篩選設定。 您可以隨時返回並編輯您的設定。 準備好之後,請選取 [建立 內容篩選]。 包含封鎖清單的新設定現在可以套用至部署。