책임 있는 AI에 필요한 고려사항 이해
이전 단원에서는 AI 지원 소프트웨어의 책임 있고 윤리적인 개발에 대한 고려사항의 필요성을 소개했습니다. 이 단원에서는 Microsoft에서 도입된 책임 있는 AI에 대한 몇 가지 핵심 원칙에 대해 설명합니다.
공정성
AI 시스템은 모든 사람을 공평하게 대해야 합니다. 예를 들어 은행의 대출 승인 애플리케이션을 지원하는 기계 학습 모델을 만든다고 가정합니다. 이 모델은 성별, 민족 또는 특정 지원자 그룹에 대한 부당한 이익 또는 불이익을 초래할 수 있는 다른 요인에 근거한 편견 없이 대출 승인 여부를 예측해야 합니다.
기계 학습 시스템의 공정성은 현재 진행 중인 연구에서 매우 활발한 영역으로, 기계 학습 모델의 불공정성을 평가하고, 수량화하고, 완화하기 위한 일부 소프트웨어 솔루션이 있습니다. 그러나 도구만으로는 공정성을 보장할 수 없습니다. 애플리케이션 개발 프로세스 시작부터 공정성을 고려합니다. 학습 데이터를 신중하게 검토하여 잠재적으로 영향을 받을 수 있는 모든 주제를 확인하고 개발 수명 주기 전반에서 사용자 모집단의 하위 섹션에 대한 예측 성능을 평가합니다.
안정성 및 안전성
AI 시스템은 안정적이고 안전한 방식으로 작동해야 합니다. 예를 들어 자율 주행 차량에 대한 AI 기반 소프트웨어 시스템 또는 환자 증상을 진단하고 처방전을 권장하는 기계 학습 모델을 생각해 보세요. 이러한 종류의 시스템을 믿을 수 없다면 인간의 삶에 상당한 위험을 초래할 수 있습니다.
다른 소프트웨어와 함께 AI 기반 소프트웨어 애플리케이션을 개발할 때는 출시 전에 예상대로 작동하는지 확인하기 위해 엄격한 테스트 및 배포 관리 프로세스를 실시해야 합니다. 또한 소프트웨어 엔지니어는 기계 학습 모델의 확률 특성을 고려하고 예측에 대한 신뢰도 점수를 평가할 때 적절한 임계값을 적용해야 합니다.
개인 정보 보호 및 보안
AI 시스템은 안전하고 개인 정보를 보호해야 합니다. 기계 학습 모델을 기준으로 하는 AI 시스템은 대량의 데이터에 의존하며, 여기에는 비공개로 유지해야 하는 개인 정보가 포함될 수 있습니다. 모델이 학습되고 시스템이 프로덕션 환경에 있는 경우에도 새 데이터를 사용하여 개인 정보 보호 또는 보안 문제가 발생할 수 있는 예측을 하거나 조치를 취합니다. 따라서 데이터와 고객 콘텐츠를 보호하기 위한 적절한 보호책을 구현해야 합니다.
포용성
AI 시스템은 모든 사람에게 힘을 주고 사람들과 관계를 맺어야 합니다. AI는 신체적 능력, 성별, 성적 지향, 인종 또는 기타 요인에 관계없이 사회의 모든 부분에 혜택을 가져다 주어야 합니다.
포괄성을 최적화하는 한 가지 방법은 애플리케이션의 설계, 개발 및 테스트에 최대한 다양한 그룹의 사람들의 의견이 포함되도록 하는 것입니다.
투명성
AI 시스템은 이해하기 쉬워야 합니다. 사용자는 시스템의 목적, 작동 방식 및 예상되는 제한 사항에 대해 충분히 인식해야 합니다.
예를 들어 AI 시스템이 기계 학습 모델을 기반으로 하는 경우 일반적으로 모델을 학습하는 데 사용되는 사례의 수 또는 예측에 가장 큰 영향을 미치는 특정 기능 등 예측의 정확도에 영향을 줄 수 있는 요소를 사용자가 인식하도록 해야 합니다. 예측에 대한 신뢰도 점수 정보를 공유해야 합니다.
AI 애플리케이션이 개인 데이터를 사용하는 경우(예: 사람들의 이미지를 인식하는 얼굴 인식 시스템) 사용자에게 데이터를 사용하고 유지하는 방법과 액세스 권한이 있는 사람을 명확히 해야 합니다.
책임성
사람들은 AI 시스템에 대한 책임을 져야 합니다. 많은 AI 시스템이 자율적으로 작동하는 것처럼 보이지만 궁극적으로 사용하는 모델을 학습하고 유효성을 검사하며 전체 시스템이 책임 요구 사항을 충족하는지 확인하기 위해 모델 예측을 기반으로 결정을 내리는 논리를 정의하는 것은 개발자의 책임입니다. 이러한 목표를 충족하기 위해 AI 기반 솔루션의 설계자와 개발자는 솔루션이 명확하게 정의된 윤리적 및 법적 표준 충족을 보장하는 거버넌스 및 조직 원칙의 프레임워크 내에서 작동해야 합니다.
참고
Microsoft는 2022년 6월에 책임 있는 AI 표준에 대한 의미 있는 업데이트를 릴리스했습니다. 그 일환으로 특정 기능에 대한 새로운 제한된 액세스 정책을 포함하여 얼굴 인식에 대한 접근 방식을 책임 있는 사용에 대한 보호책으로 업데이트했습니다. 제한된 액세스를 적용하여 애플리케이션에 해당 기능을 사용하도록 설정할 수 있습니다.
책임 있는 AI에 대한 Microsoft의 원칙에 대한 자세한 내용은 Microsoft의 책임 있는 AI 사이트를 참조하세요.