소개
온라인에 게시되는 사용자 생성 콘텐츠의 양이 빠르게 증가하고 있습니다. 이에 따라 부적절하거나 유해한 콘텐츠로부터 모든 사람을 보호해야 할 필요성도 점점 더 커지고 있습니다.
Azure AI 콘텐츠 보안은 개발자가 애플리케이션 및 서비스에 고급 콘텐츠 보안을 포함할 수 있도록 설계된 AI 서비스입니다.
온라인 토론 호스팅을 담당하는 개발자 팀에서 안전하고 상호 존중하는 온라인 공간을 유지하는 데 따르는 어려움이 점점 더 커지고 있습니다. Azure AI 콘텐츠 보안은 잠재적으로 안전하지 않은 콘텐츠를 식별하고 조직이 규정을 준수하고 자체 품질 표준을 충족하도록 지원합니다.
온라인 콘텐츠 보안을 개선해야 하는 네 가지 주요 동인은 다음과 같습니다.
- 유해한 콘텐츠 증가: 유해하고 부적절한 콘텐츠를 포함하여 사용자 생성 온라인 콘텐츠가 크게 증가했습니다.
- 규제 압력: 온라인 콘텐츠를 규제하는 정부의 압력.
- 투명성: 사용자는 콘텐츠 조정 기준 및 적용에 대한 투명성이 필요합니다.
- 복잡한 콘텐츠: 기술의 발전으로 사용자가 멀티모달 콘텐츠 및 비디오를 더 쉽게 게시할 수 있습니다.
참고 항목
Azure AI 콘텐츠 보안은 2024년 2월에 사용 중단되었으며 2027년 2월에 서비스가 종료되는 Azure Content Moderator를 대체합니다.
이 모듈에서는 Azure AI 콘텐츠 보안의 주요 기능과 각 기능을 사용할 수 있는 시점에 대해 알아봅니다.