소개

  • 2분

Contoso Camping Store는 사용자 상호 작용과 안전을 향상시키기 위해 웹 사이트에 대한 새로운 AI 기반 기능을 개발하고 있습니다. 개발자는 Azure AI 콘텐츠 보안 기능을 해당 Store 플랫폼에 통합하는 임무를 맡습니다. 사용자의 목표는 모든 고객 지원 대화와 제품 검토 및 이미지와 같은 사용자 생성 콘텐츠가 회사의 콘텐츠 지침을 준수하여 모든 사용자에게 안전하고 포용적인 환경을 조성하도록 하는 것입니다. 테스트를 위해 Azure AI Studio 내에서 조정 및 안전 기능을 사용하도록 선택합니다.

학습 목표

이 모듈을 완료하면 다음을 수행할 수 있습니다.

  • 유해한 콘텐츠를 차단하도록 필터 및 임계값 수준을 구성합니다.
  • 유해한 콘텐츠에 대해 텍스트 및 이미지 조정을 수행합니다.
  • 정밀도, 재현율, F1 점수 메트릭을 분석하고 개선합니다.
  • 모델 출력에서 근거 있음 상태를 검색합니다.
  • 직간접적인 프롬프트 삽입을 완화합니다.
  • 필터 구성을 코드로 출력합니다.

필수 조건