콘텐츠 안전
Azure AI 콘텐츠 안전은 애플리케이션 및 서비스에서 유해한 사용자 생성 및 AI 생성 콘텐츠를 검색합니다. Azure AI 콘텐츠 보안 내의 기능을 사용하면 제품 검토, 포럼 게시물 및 이미지가 Contoso Camping Store의 콘텐츠 지침에 부합하는지 확인하는 데 도움이 될 수 있습니다.
Azure AI 콘텐츠 보안은 콘텐츠를 실시간으로 모니터링하고 조정하도록 설계된 일련의 기능을 제공합니다. 다음을 포함합니다.
텍스트 조정: 불쾌한 표현, 폭력, 부적절한 언어 등 텍스트에서 유해한 콘텐츠를 검색하고 필터링합니다.
이미지 조정: 이미지를 분석하여 안전하지 않거나 불쾌한 것으로 간주될 수 있는 콘텐츠를 식별하고 차단합니다.
다중 모드 콘텐츠 분석: 다양한 형식의 콘텐츠에 걸쳐 작동하여 포괄적인 콘텐츠 보안 전략을 보장합니다.
근거 감지: 모델 출력에서 잘못된 정보를 검색하고 차단하여 제공된 원본 재질을 기반으로 대규모 언어 모델의 텍스트 응답이 실제이고 정확하도록 보장합니다.
프롬프트 쉴드: LLM(대규모 언어 모델) 입력을 분석하고 사용자 프롬프트 공격 및 문서 공격을 탐지합니다.
보호자료감지: 노래, 뉴스 문서, 조리법, 선택한 웹 콘텐츠 등을 포함한 타사 텍스트 콘텐츠의 인덱스와 일치하는 항목을 검사하여 잠재적으로 저작권을 위반할 수 있는 출력을 식별하고 차단합니다.
이러한 기능은 광범위한 잠재적 위험, 위협 및 품질 문제를 감지할 수 있는 최첨단 AI 모델을 기반으로 합니다. 이러한 문제를 식별하면 Contoso Camping Store 웹 사이트의 모든 사용자에게 안전하고 포용성 있는 환경을 보장하는 데 도움이 됩니다.