Azure 워크로드의 책임 있는 AI
책임 있는 AI의 목표는 워크로드 디자인에서 AI 알고리즘의 사용이 공정하고, 투명하며, 그리고 포괄적이도록돕는 것입니다. Microsoft Azure Well-Architected Framework 보안 원칙은 상호 관련되며 기밀성 및 무결성집중합니다. 사용자 개인 정보를 유지하고, 데이터를 보호하고, 디자인의 무결성을 보호하기 위한 보안 조치가 마련되어 있어야 합니다. 의도치 않은 용도로 디자인을 오용해서는 안 됩니다.
AI 워크로드에서 모델은 종종 불투명한 논리를 사용하여 결정을 내립니다. 사용자는 시스템의 기능을 신뢰하고 모델이 이러한 결정을 책임감 있게 결정한다고 확신해야 합니다. 조작, 콘텐츠 독성, IP 침해 및 조작된 응답과 같은 허용되지 않는 동작을 방지해야 합니다.
미디어 엔터테인먼트 회사가 AI 모델을 사용하여 권장 사항을 제공하려는 사용 사례를 고려합니다. 회사에서 책임 있는 AI 및 적절한 보안 프로토콜을 구현하지 않는 경우 잘못된 행위자가 모델을 제어할 수 있습니다. 모델은 해를 입히는 콘텐츠를 추천할 수 있습니다. 조직의 경우 이러한 동작으로 인해 브랜드 손상, 안전하지 않은 환경 및 법적 문제가 발생할 수 있습니다. 따라서 시스템의 수명 주기 전반에 걸쳐 적절한 경계를 유지하는 것은 필수이며 협상할 수 없습니다.
설계 결정을 내릴 때 보안 및 워크로드 관리의 우선 순위를 지정하고 사용자 결과를 염두에 두어야 합니다. Microsoft의 책임 있는 AI 에 대한 프레임워크를 숙지하고, 디자인에 해당 프레임워크의 원칙을 측정하고 구현해야 합니다. 다음 이미지는 프레임워크의 핵심 개념을 보여 줍니다.
Important
예측의 정확도와 책임 있는 AI에 대한 메트릭은 일반적으로 상호 연결됩니다. 모델의 정확도를 개선하면 공정성과 현실과의 맞춤을 향상시킬 수 있습니다. 책임 있는 AI는 정확도와 자주 일치하지만 정확도만으로는 모든 안전 고려 사항이 포함되지 않습니다. 이러한 원칙의 유효성을 책임감 있게 검증하는 것이 중요합니다.
이 문서에서는 책임 있는 의사 결정, 사용자 입력 유효성 검사 및 안전한 사용자 환경을 보장하는 데 도움이 되는 권장 사항을 제공합니다. 또한 사용자 데이터를 보호하는 데 도움이 되는 데이터 보안에 대한 지침을 제공합니다.
권장 사항
다음 표에는 이 문서의 권장 사항이 요약되어 있습니다.
| 추천 | 설명 |
|---|---|
| 수명 주기의 각 단계에서 도덕적 관행을 시행하는 정책을 개발합니다. | 안전 요구 사항을 명시적으로 명시하고 워크로드 컨텍스트에 맞게 조정된 검사 목록 항목을 포함합니다. 예로는 사용자 데이터 투명성, 동의 구성 및 RTBF(잊혀질 권리)를 처리하는 방법에 대한 절차가 포함됩니다. ▪ 책임 있는 AI 대한 정책 개발 ▪ 책임 있는 AI 대한 정책에 대한 거버넌스 적용 |
| 개인 정보를 최대화하기 위해 사용자 데이터를 보호합니다. | 필요한 항목만 수집하고 적절한 사용자 동의를 통해 수집합니다. 기술 컨트롤을 적용하여 사용자 프로필, 해당 데이터 및 해당 데이터에 대한 액세스를 보호합니다. ▪ 사용자 데이터를 적절하게 처리 ▪ 들어오고 나가는 데이터 검사 |
| AI 의사 결정을 명확하고 이해할 수 있도록 유지합니다. | 권장 사항 알고리즘의 작동 방식을 명확하게 설명합니다. 사용자가 프로세스를 이해하고 신뢰할 수 있도록 데이터 사용량 및 알고리즘 의사 결정에 대한 인사이트를 제공합니다. ▪ 사용자 환경을 안전하게 만들기 |
책임 있는 AI에 대한 정책 개발
책임 있는 AI 사용에 대한 접근 방식을 문서화합니다. 워크로드 팀이 책임을 이해할 수 있도록 수명 주기의 각 단계에서 적용하는 정책을 명시적으로 명시합니다. 책임 있는 AI에 대한 Microsoft 표준은 지침을 제공하지만, 이러한 지침이 컨텍스트에 대해 특별히 무엇을 의미하는지 정의해야 합니다.
예를 들어 정책에는 사용자 데이터 투명성 및 동의 구성을 지원하는 메커니즘에 대한 검사 목록 항목이 포함되어야 합니다. 이상적으로 이러한 메커니즘을 사용하면 사용자가 데이터 포함을 옵트아웃할 수 있습니다. 데이터 파이프라인, 분석, 모델 학습 및 기타 단계는 모두 해당 선택을 존중해야 합니다. 또 다른 예는 RTBF를 처리하는 절차입니다. 조직의 윤리 부서 및 법률 팀에 문의하여 정보에 입각한 결정을 내립니다.
사용자가 프로세스를 이해하고 신뢰할 수 있도록 데이터 사용 및 알고리즘 의사 결정을 위한 투명한 정책을 만듭니다. 잠재적인 향후 소송에 대한 명확한 기록을 유지하기 위해 이러한 결정을 문서화합니다.
책임 있는 AI 구현에는 연구 팀, 정책 팀 및 엔지니어링 팀의 세 가지 주요 역할이 포함됩니다. 이러한 팀 간의 협업은 운영되어야 합니다. 조직에 기존 팀이 있는 경우 해당 작업을 사용합니다. 그렇지 않으면 이러한 관행을 직접 수립합니다.
각 팀은 자신의 책임이 있어야 합니다. 예를 들어:
연구팀은 조직 지침, 업계 표준, 법률, 규정 및 알려진 레드 팀 전술을 참조하여 위험 검색 수행합니다.
정책 팀은 워크로드와 관련된 정책을 개발합니다. 부모 조직 및 정부 규정의 지침을 통합합니다.
엔지니어링 팀은 프로세스 및 결과물에 정책을 구현합니다. 팀은 준수에 대한 유효성을 검사하고 테스트합니다.
각 팀은 지침을 공식화하지만 워크로드 팀은 자체적으로 문서화된 관행에 대해 책임을 져야 합니다. 팀은 허용되는 것에 대한 모호성이 없도록 추가 단계 또는 의도적인 편차를 명확하게 문서화해야 합니다. 또한 팀은 솔루션의 잠재적인 단점이나 예기치 않은 결과에 대해서도 투명해야 합니다.
책임 있는 AI에 대한 정책에 대한 거버넌스 적용
조직 및 규제 거버넌스를 준수하도록 워크로드를 디자인합니다. 예를 들어 투명성이 조직의 요구 사항인 경우 워크로드에 적용되는 방식을 결정합니다. 디자인, 수명 주기, 코드 또는 해당 표준을 충족하기 위해 투명도 기능을 도입해야 하는 기타 구성 요소의 영역을 식별합니다.
필요한 거버넌스, 책임, 검토 보드 및 보고 의무를 이해합니다. 거버넌스 협의회 가 워크로드 디자인을 승인하고 서명하여 재설계를 피하며 안전 또는 개인 정보 보호 문제를 완화하도록 합니다. 여러 승인 계층을 거쳐야 할 수도 있습니다. 다음 다이어그램에서는 조직의 일반적인 거버넌스 구조를 간략하게 설명합니다.
조직 정책 및 승인자에 대한 자세한 내용은 책임 있는 AI 전략정의를 참조하세요.
사용자 환경을 안전하게 만들기
사용자 환경은 업계 지침을 기반으로 해야 합니다. Microsoft Human-AI 경험 디자인 라이브러리를 사용하세요. 이 라이브러리에는 원칙이 포함되어 있으며 구현 지침을 제공합니다. 또한 Microsoft 제품 및 기타 업계 원본의 예제를 제공합니다.
사용자 상호 작용의 수명 주기 동안 워크로드 책임이 있습니다. 시스템을 사용하려는 사용자의 의도로 시작하며, 세션 전체와 시스템 오류로 인해 중단되는 동안 계속됩니다. 다음 사례를 고려합니다.
투명도를 구축합니다. 사용자가 시스템에서 쿼리에 대한 응답을 생성하는 방법을 인식하도록 합니다.
모델이 예측을 위해 참조하는 데이터 원본에 대한 링크를 포함합니다. 이렇게 하면 정보의 출처를 표시하여 사용자 신뢰도가 높아집니다. 데이터 디자인에는 이러한 원본이 메타데이터에 포함되어야 합니다. 예를 들어 검색 보강된 애플리케이션의 오케스트레이터가 검색을 수행하는 경우 20개의 문서 청크를 검색하고 상위 10개의 청크를 컨텍스트로 모델에 보냅니다. 상위 10개 청크는 세 개의 서로 다른 문서에 속합니다. 그런 다음 UI는 모델의 응답을 표시할 때 이러한 세 가지 원본 문서를 참조할 수 있습니다. 이러한 투명성은 사용자 신뢰를 높입니다.
프런트 엔드 인터페이스와 백 엔드 시스템 간의 중개자 역할을 하는 에이전트를 사용하는 경우 투명성이 더욱 중요해집니다. 예를 들어 티켓 시스템에서 오케스트레이션 코드는 사용자 의도를 해석하고 필요한 정보를 검색하기 위해 에이전트에 대한 API(애플리케이션 프로그래밍 인터페이스) 호출을 만듭니다. 이러한 상호 작용을 노출하면 사용자가 시스템의 작업을 인식할 수 있습니다.
여러 에이전트를 포함하는 자동화된 워크플로의 경우 각 단계를 기록하는 로그 파일을 만듭니다. 로그 파일은 오류를 식별하고 수정하는 데 도움이 될 수 있습니다. 또한 사용자에게 투명성을 운영하는 의사 결정에 대한 설명을 제공합니다.
주의
투명성 권장 사항을 구현하는 경우 너무 많은 정보로 사용자를 압도하지 않도록 합니다. 최소한의 방해를 주는 UI 방법을 사용하여 점진적인 접근 방식을 취합니다.
예를 들어 모델의 신뢰도 점수를 표시하는 도구 설명을 표시합니다. 원본 문서에 대한 링크와 같은 링크를 통합하여 사용자가 자세한 내용을 선택할 수 있습니다. 이 사용자 시작 메서드는 UI를 무차별적으로 유지하고 사용자가 선택한 경우에만 추가 정보를 검색할 수 있도록 합니다.
피드백을 수집합니다. 피드백 메커니즘을 구현합니다.
각 응답 후에 광범위한 설문지를 사용하여 사용자를 압도하지 않도록 합니다. 대신 엄지 손가락 위로 또는 엄지 손가락 아래로, 또는 1에서 5의 규모로 답변의 특정 측면에 대한 등급 시스템과 같은 빠르고 간단한 피드백 메커니즘을 사용합니다. 이러한 방법은 시간이 지남에 따라 시스템을 개선하고 방해하지 않고 세분화된 피드백을 허용하는 데 도움이 됩니다. 사용자 응답 뒤에 보조 이유가 있을 수 있으므로 피드백의 잠재적 공정성 문제를 염두에 두어야 합니다.
피드백 메커니즘을 구현하면 데이터 스토리지가 필요하기 때문에 아키텍처에 영향을 줍니다. 사용자 데이터와 같은 피드백을 처리하고 필요에 따라 개인 정보 보호 수준을 적용합니다.
응답 피드백 외에도 사용자 환경의 효율성에 대한 피드백을 수집합니다. 시스템의 모니터링 스택을 통해 참여 메트릭을 수집합니다.
콘텐츠 안전 조치 운영
사용자 지정 솔루션 코드, 적절한 도구 및 효과적인 보안 사례를 사용하여 AI 수명 주기의 모든 단계에 콘텐츠 안전을 통합합니다. 다음 전략을 고려합니다.
데이터를 익명화합니다. 데이터가 수집에서 학습 또는 평가로 이동함에 따라 개인 정보 유출 위험을 최소화하고 원시 사용자 데이터 노출을 방지하기 위해 검사를 구현합니다.
콘텐츠를 조정합니다. 요청 및 응답을 실시간으로 평가하는 콘텐츠 안전 API를 사용합니다. 이러한 API에 연결할 수 있는지 확인합니다.
위협을 식별하고 완화합니다. AI 시나리오에 잘 알려진 보안 사례를 적용합니다. 예를 들어 위협 모델링을 수행한 다음 위협 및 위협을 완화하는 방법을 문서화합니다. 빨간색 팀 연습과 같은 일반적인 보안 관행은 AI 워크로드에 적용됩니다. 빨간색 팀은 유해한 콘텐츠를 생성하기 위해 모델을 조작할 수 있는지 여부를 테스트할 수 있습니다. 이러한 활동은 AI 작업에 통합되어야 합니다.
자세한 내용은 대규모 언어 모델 및 관련 애플리케이션에 대한 레드 팀 전략 계획을 참조하세요.
올바른 메트릭을 사용합니다. 모델의 동작을 효과적으로 측정하는 메트릭을 사용합니다. 메트릭은 AI 모델의 유형에 따라 달라집니다. 경우에 따라 생성 모델의 측정이 회귀 모델에 적용되지 않을 수 있습니다. 예를 들어 모델은 평균 수명을 예측하고 그 결과는 보험율에 영향을 줍니다. 이 모델의 공정성 문제로 인해 공정성 관련 피해가 발생할 수 있습니다. 이 문제는 공정성 및 정확도 메트릭이 일반적으로 상호 연결되기 때문에 핵심 메트릭 테스트의 편차에서 비롯됩니다. 공정성 관련 피해를 줄이는 데 도움이 되도록 정확도를 향상시킵니다.
적절한 계측을 추가합니다. AI 모델 결과를 설명할 수 있어야 합니다. 학습 데이터, 계산된 기능 및 접지 데이터를 포함하여 유추가방법을 정당화하고 추적해야 합니다. 차별적 AI에서는 의사 결정을 단계별로 정당화할 수 있습니다. 그러나 생성 모델의 경우 결과를 설명하는 것은 복잡할 수 있습니다. 잠재적인 법적 의미를 해결하고 투명성을 제공하기 위한 의사 결정 프로세스를 문서화합니다.
전체 AI 수명 주기 동안 이러한 설명 측면을 구현해야 합니다. 데이터 정리, 계보, 선택 조건 및 처리는 의사 결정을 추적해야 하는 중요한 단계입니다.
도구
Microsoft Purview 같은 콘텐츠 안전성 및 데이터 추적 기능을 위한 도구를 통합합니다. 콘텐츠 안전 테스트를 용이하게 하기 위해 테스트에서 Azure AI 콘텐츠 안전 API를 호출할 수 있습니다.
Azure AI Foundry는 모델의 동작을 평가하는 메트릭을 제공합니다. 자세한 내용은 생성 AI에 대한 평가 및 모니터링 메트릭을 참조하세요.
학습 모델은 Azure Machine Learning에서 제공하는 메트릭을참조하세요.
들어오고 나가는 데이터 검사
탈옥과 같은 프롬프트 삽입 공격은 AI 워크로드의 일반적인 관심사입니다. 이 경우 일부 사용자는 의도하지 않은 목적으로 모델을 오용하려고 할 수 있습니다. 안전을 보장하기 위해 데이터를 검사하여 공격을 방지하고 부적절한 콘텐츠필터링합니다. 이 분석을 사용자의 입력 및 시스템 응답 모두에 적용하여 들어오는 흐름과 나가는 흐름에서 철저한 콘텐츠 조정을 보장합니다.
경우에 따라 단일 클라이언트 요청을 처리하려면 Azure OpenAI Service를 통해 여러 모델 호출을 수행해야 합니다. 이러한 시나리오에서는 모든 호출에 콘텐츠 안전 검사를 적용하는 것은 비용이 많이 들고 불필요할 수 있습니다. 보안을 서버 쪽 책임으로 유지하면서 아키텍처에서 해당 작업을 중앙 집중화하는 것이 좋습니다. 아키텍처에 특정 백 엔드 기능을 오프로드하는 모델 유추 엔드포인트 앞에 게이트웨이가 있다고 가정합니다. 백 엔드가 기본적으로 지원하지 않을 수 있는 요청 및 응답에 대한 콘텐츠 안전 검사를 처리하도록 게이트웨이를 디자인할 수 있습니다. 게이트웨이는 일반적인 솔루션이지만 오케스트레이션 계층은 더 간단한 아키텍처에서 이러한 작업을 효과적으로 처리할 수 있습니다. 두 경우 모두 필요한 경우 이러한 검사를 선택적으로 적용하여 성능과 비용을 최적화할 수 있습니다.
검사는 다중 모드 및 다양한 형식을 포함해야 합니다. 이미지와 같은 다중 모달 입력을 사용하는 경우 유해하거나 폭력적일 수 있는 숨겨진 메시지에 대해 분석하는 것이 중요합니다. 이러한 메시지는 즉시 표시되지 않을 수 있으므로 신중하게 검사해야 합니다. 이 목적을 위해 콘텐츠 안전 API와 같은 도구를 사용합니다.
개인 정보 보호 및 데이터 보안 정책을 적용하려면 사용자 데이터 및 접지 데이터를 검사하여 개인 정보 규정 준수를 확인합니다. 데이터가 시스템을 통해 전달될 때 삭제되거나 필터링되는지 확인합니다. 예를 들어 이전 고객 지원 대화의 데이터는 접지 데이터로 사용될 수 있습니다. 이 데이터는 다시 사용하기 전에 삭제해야 합니다.
사용자 데이터를 적절하게 처리
책임 있는 사례에는 사용자 데이터 관리를 신중하게 처리하는 작업이 포함됩니다. 이 관리에는 데이터를 사용해야 하는 시기와 사용자 데이터에 의존하지 않아야 하는 시기가 포함됩니다.
사용자 데이터를 공유하지 않고 유추를 연습합니다. 인사이트를 위해 사용자 데이터를 다른 조직과 안전하게 공유하려면 클리어링하우스 모델을 사용합니다. 이 시나리오에서 조직은 집계된 데이터를 사용하여 모델을 학습시키는 신뢰할 수 있는 파트너에게 데이터를 제공합니다. 그러면 모든 기관에서 개별 데이터 세트를 노출하지 않고도 이 모델을 사용하고 인사이트를 공유할 수 있습니다. 자세한 학습 데이터를 공유하지 않고 모델의 유추 기능을 사용하는 것이 목표입니다.
다양성과 포용성을 촉진합니다. 사용자 데이터가 필요한 경우 과소 대표된 장르 및 작성자를 포함하여 다양한 범위의 데이터를 사용하여 공정성 관련 피해를 완화합니다. 사용자가 새롭고 다양한 콘텐츠를 탐색하도록 장려하는 기능을 구현합니다. 지속적으로 사용량을 모니터링하고 권장 사항을 조정하여 단일 콘텐츠 형식이 과도하게 표현되지 않도록 합니다.
RTBF를 존중합니다. 가능한 경우 사용자 데이터를 사용하지 마세요. 사용자 데이터가 부지런히 삭제되도록 필요한 조치를 마련하여 RTBF를 준수하도록 합니다.
규정 준수를 보장하기 위해 시스템에서 사용자 데이터를 제거하라는 요청이 있을 수 있습니다. 더 작은 모델의 경우 개인 정보를 제외하는 데이터를 사용하여 모델을 다시 학습시켜 사용자 데이터를 제거할 수 있습니다. 독립적으로 학습된 여러 개의 작은 모델로 구성될 수 있는 대규모 모델의 경우 프로세스가 더 복잡하고 비용과 노력이 중요합니다. 이러한 상황을 처리하는 방법에 대한 법적 및 윤리적 지침을 찾고 책임 있는 AI 대한정책에 지침을 포함해야 합니다.
데이터를 책임감 있게 유지합니다. 데이터 삭제가 불가능한 경우 데이터 수집 에 대한 명시적 사용자 동의를 얻고 명확한 개인 정보 보호 정책을 제공합니다. 절대적으로 필요한 경우에만 데이터를 수집하고 보존합니다. 더 이상 필요하지 않을 때 적극적으로 데이터를 제거하는 작업을 수행합니다. 예를 들어 채팅 기록을 최대한 빨리 지우고 중요한 데이터를 보존하기 전에 익명화합니다. 비활성 상태의 데이터에 고급 암호화 방법을 사용하세요.
설명 기능을 지원합니다. 설명 요구 사항을 지원하기 위한 시스템의 의사 결정을 추적합니다. 권장 사항 알고리즘의 작동 방식에 대한 명확한 설명을 개발합니다. 특정 콘텐츠가 권장되는 이유에 대한 인사이트를 사용자에게 제공합니다. 목표는 AI 워크로드와 해당 결과가 의사 결정을 내리는 방법, 사용하는 데이터 및 모델 학습 방법을 자세히 설명하여 투명하고 정당화되도록 하는 것입니다.
사용자 데이터를 암호화합니다. 입력 데이터는 사용자가 데이터를 입력하는 순간부터 데이터 처리 파이프라인의 모든 단계에서 암호화되어야 합니다. 이러한 단계에는 한 지점에서 다른 지점으로 이동하는 데이터, 저장된 데이터 및 필요한 경우 유추되는 데이터가 포함됩니다. 보안 및 기능의 균형을 맞추고 수명 주기 데이터를 비공개로 유지하는 것을 목표로 합니다.
강력한 액세스 제어를 제공합니다. 여러 유형의 ID는 잠재적으로 사용자 데이터에 액세스할 수 있습니다. 사용자 및 시스템 간 통신을 포괄하도록 컨트롤 플레인과 데이터 평면 모두에 대한 역할 기반 액세스 제어를 구현합니다.
개인 정보를 보호하기 위해 적절한 사용자 구분을 유지합니다. 예를 들어 Microsoft 365 Copilot는 사용자의 특정 문서 및 전자 메일을 기반으로 답변을 검색하고 제공하는 동시에 해당 사용자와 관련된 콘텐츠만 액세스할 수 있도록 할 수 있습니다.
노출 영역을 줄입니다. Well-Architected 프레임워크 보안 핵심 요소의 기본 전략은 공격 노출 영역을 최소화하고 리소스를 강화하는 것입니다. API 엔드포인트를 엄격하게 제어하고, 필수 데이터만 노출하고, 응답에서 불필요한 정보를 방지하여 이 전략을 표준 엔드포인트 보안 사례에 적용해야 합니다. 유연성과 제어 사이에서 디자인 선택의 균형을 조정합니다.
익명 엔드포인트가 없는지 확인합니다. 일반적으로 사용자에게 필요한 것보다 더 많은 제어 권한을 부여하지 마세요. 대부분의 시나리오에서 사용자는 실험적 환경을 제외하고 하이퍼 매개 변수를 조정할 필요가 없습니다. 가상 에이전트와의 상호 작용과 같은 일반적인 사용 사례의 경우 사용자는 불필요한 제어를 제한하여 보안을 보장하는 데 필요한 측면만 제어해야 합니다.
자세한 내용은 Azure AI 워크로드에 대한애플리케이션 디자인을 참조하세요.