練習 - 影像調節

  • 4 分鐘

Contoso Camping Store 為客戶提供上傳相片的功能，以補充其產品評論。 客戶發現此功能很實用，因為它可以提供產品在一般行銷影像之外的外觀和功能之深入解析。 我們可以套用 AI 模型來偵測客戶張貼的影像是否有害，然後使用偵測結果來實作必要的預防措施。

安全内容

讓我們首先測試家庭露營的影像！

  1. 在 [內容安全] 頁面上，選取 [仲裁影像內容]。

  2. 選取 [瀏覽檔案] 並上傳 family-builds-campfire.JPG 檔案。

  3. 將所有 [閾值層級] 設定為 [中]。

    用於影像仲裁的影像預覽和篩選設定的螢幕擷取畫面。

  4. 選取 [執行測試]。

不出所料，此影像內容為 [允許]，並且所有類別的 [嚴重性層級] 均為 [安全]。

影像仲裁結果的螢幕擷取畫面。該內容是允許的。所有類別的嚴重性層級都是安全的。所有類別的閾值均為中等。所有類別的判斷都是允許的。

暴力內容

我們還應預計客戶可能會張貼有害的影像內容。 為了確保考慮到這種情況，讓我們測試有害影像內容的偵測。

注意

用於測試的影像包含熊攻擊的圖形偵測。 根據預設，在 [影像預覽] 中會模糊影像。 但是，歡迎您使用 [模糊影像] 切換開關來變更此設定。

  1. 選取 [瀏覽檔案] 並上傳 bear-attack-blood.JPG 檔案。
  2. 將所有 [閾值層級] 設定為 [中]。
  3. 選取 [執行測試]。

沒錯，內容已封鎖，並被嚴重性為 [高] 的 [暴力] 篩選條件拒絕。

影像仲裁結果的螢幕擷取畫面。該內容遭到封鎖，暴力的嚴重性是高的。對暴力的判斷遭到封鎖。

執行大量測試

到目前為止，我們測試了單一隔離影像的影像內容。 然而，如果我們有影像內容的大量資料集，我們可以立即測試大量資料集並接收根據模型效能的計量。

我們有客戶提供的大量影像資料集。 資料集還包括有害影像樣本，以測試模型偵測有害內容的能力。 資料集中的每個記錄都包括標籤，用於指示內容是否有害。 讓我們再做一輪測試，但這次是用資料集！

  1. 切換至 [執行大量測試] 索引標籤。

  2. 選取 [瀏覽檔案] 並上傳 bulk-image-moderation-dataset.zip 檔案。

  3. 在 [資料集預覽] 區段中，瀏覽 [記錄] 及其相應的 [標籤]。 0 表示內容是可接受的 (無害)。 1 表示內容不可接受 (有害內容)。

    用於大量影像仲裁的資料集預覽的螢幕擷取畫面。影像記錄的清單會與其標籤一起顯示。嚴重性閾值的設定篩選條件全都設定為中等。

  4. 將所有 [閾值層級] 設定為 [中]。

  5. 選取 [執行測試]。

大量影像仲裁結果的螢幕擷取畫面。

根據結果，是否還有改進的空間？ 如有，請調整 [閾值層級]，直到精確度、重新叫用和 F1 分數計量接近 1。