연습 – 이미지 조정
Contoso Camping Store는 고객에게 제품 검토를 보완하기 위해 사진을 업로드할 수 있는 기능을 제공합니다. 고객은 이 기능이 일반적인 마케팅 이미지 외부에서 제품이 어떻게 보이고 작동하는지에 대한 인사이트를 제공하므로 유용하다고 생각합니다. AI 모델을 적용하여 고객이 게시한 이미지가 유해한지 여부를 감지하고 나중에 감지 결과를 사용하여 필요한 예방 조치를 구현할 수 있습니다.
안전한 콘텐츠
먼저 가족 캠핑 이미지를 테스트해보겠습니다!
콘텐츠 보안 페이지에서 이미지 콘텐츠 조정을 선택합니다.
파일 찾아보기를 선택하고
family-builds-campfire.JPG파일을 업로드합니다.모든 기준 수준을 중간으로 설정합니다.
테스트 실행을 선택합니다.
예상한 대로 이 이미지 콘텐츠는 허용이며 모든 범주에서 심각도 수준은 안전입니다.
폭력적인 콘텐츠
또한 고객이 잠재적으로 유해한 이미지 콘텐츠를 게시할 수도 있다는 점을 예상해야 합니다. 이러한 시나리오를 설명하기 위해 유해한 이미지 콘텐츠 검색을 테스트해 보겠습니다.
참고 항목
테스트에 사용된 이미지에는 곰 공격에 대한 그래픽 검색이 포함되어 있습니다. 이미지 미리 보기에서는 기본적으로 이미지가 흐리게 표시됩니다. 하지만 이미지 흐리게 처리 전환을 사용하여 이 설정을 변경할 수 있습니다.
- 파일 찾아보기를 선택하고
bear-attack-blood.JPG파일을 업로드합니다. - 모든 기준 수준을 중간으로 설정합니다.
- 테스트 실행을 선택합니다.
당연히 해당 콘텐츠는 차단되었으며 심각도 수준이 높음인 폭력 필터에 의해 거부되었습니다.
일괄 테스트 실행
지금까지 하나의 격리된 이미지에 대한 이미지 콘텐츠를 테스트했습니다. 그러나 이미지 콘텐츠의 대량 데이터 세트가 있는 경우 대량 데이터 세트를 한 번에 테스트하고 모델 성능에 따른 메트릭을 받을 수 있습니다.
고객이 제공한 대량의 이미지 데이터 세트를 보유하고 있습니다. 데이터 세트에는 모델의 유해 콘텐츠 검색 기능을 테스트하기 위한 샘플 유해 이미지도 포함되어 있습니다. 데이터 세트의 각 레코드에는 콘텐츠가 유해한지 여부를 나타내는 레이블이 포함되어 있습니다. 이번에는 데이터 세트를 사용하여 또 다른 테스트를 진행해 보겠습니다.
일괄 테스트 실행 탭으로 전환합니다.
파일 찾아보기를 선택하고
bulk-image-moderation-dataset.zip파일을 업로드합니다.데이터 세트 미리 보기 섹션에서 레코드와 해당 레이블을 찾습니다. 0은 콘텐츠가 허용 가능(해롭지 않음)함을 나타냅니다. 1은 해당 콘텐츠가 허용되지 않음(유해한 콘텐츠)을 나타냅니다.
모든 기준 수준을 중간으로 설정합니다.
테스트 실행을 선택합니다.
결과를 토대로 개선의 여지가 있나요? 그렇다면 정밀도, 재현율 및 F1 점수 메트릭이 1에 가까워질 때까지 임계값 수준을 조정합니다.