액세스 가능한 AI 솔루션 설계 및 평가
생성 AI는 장애인의 생산성을 크게 향상시킬 수 있지만 책임감 있게 빌드되지 않으면 접근성에 대해 다음과 같은 과제와 위험을 초래할 수 있습니다.
- 바이어스: 생성 AI의 데이터, 알고리즘 또는 결과에 영향을 미치는 불공평하거나 부정확한 가정 또는 기본 설정입니다. 바이어스의 예로는 생성 AI에 사용되는 데이터 세트나 모델에서 장애인의 표현이나 다양성이 부족하다는 것입니다. 이러한 상황은 부정확하거나 부적절하거나 유해한 결과를 초래할 수 있습니다.
- 능력주의: 장애인이 다른 사람보다 열등하거나 기능이 부족하다는 가정에 근거하여 장애인을 차별하거나 억압하는 것입니다. 장애인 차별의 예로는 접근성을 위한 생성 AI의 디자인, 개발 또는 평가에서 장애인을 배제하거나 소외시키는 것입니다. 이러한 배제는 장애인이 자신에게 영향을 미치는 솔루션에 의견을 내거나 선택권을 갖는 것을 방지합니다.
접근성에 대한 생성 AI의 윤리적, 사회적 영향을 고려하고 장애인을 프로세스의 공동 창작자 및 관련자로 참여시켜야 합니다. 그러면 생성 AI는 해악이나 차별의 원인이 아니라 장애인에게 권한을 부여하고 사용하도록 설정하는 도구가 될 수 있습니다.
AI 솔루션을 위한 인클루시브 디자인 원칙
액세스 가능한 AI 솔루션을 설계하려면 특정 사용자 요구 사항과 상황을 이해하고 인클루시브 디자인 원칙을 적용해야 합니다.
사용자 테스트 및 평가는 액세스 가능하고 포괄적인 AI 솔루션이 사용자 예상 결과와 요구 사항을 충족하고 의도하지 않은 결과나 피해를 초래하지 않도록 하기 위해 필수적입니다. 사용자 테스트 및 평가에는 솔루션의 편리성, 유용성 및 바람직성에 대한 피드백을 제공할 수 있는 다양하고 대표적인 사용자 샘플이 포함되어야 합니다.
개발자는 연구 질문과 목표에 따라 다양한 방법을 통해 사용자 테스트 및 평가를 수행할 수 있습니다. 방법에는 인터뷰, 설문 조사, 관찰 또는 실험이 포함될 수 있습니다.
사용자 테스트 및 평가 결과는 솔루션의 개선 및 정제에 대한 정보를 제공해야 합니다.