요약
사용자 생성 콘텐츠의 확산으로 인해 인간 중재자가 온라인 플랫폼을 효과적으로 관리하는 것은 거의 불가능합니다. 그러나 사용자 생성 콘텐츠의 양이 증가함에 따라 온라인 안전의 중요성도 증가합니다.
Azure AI 콘텐츠 보안은 AI 모델을 사용하여 폭력, 성적, 자해 또는 증오 언어를 실시간으로 자동으로 감지합니다. 심각도 수준을 할당하므로 인간 중재자는 우선 순위가 높은 사례에 집중하고 노출되는 불쾌한 콘텐츠의 양을 줄일 수 있습니다. Azure AI 콘텐츠 보안에는 사람이 생성한 자료와 AI가 생성한 자료를 모두 조정하는 기능이 포함되어 있습니다.
이 모듈에서는 Azure AI 콘텐츠 보안의 기능이 전자상거래 브랜드, 게임 회사 및 교육자가 사용자에게 더 안전한 공간을 제공하는 데 어떻게 도움이 되는지 살펴보았습니다.