Azure에서 AI 워크로드를 위한 디자인 방법론
AI 워크로드를 디자인할 때 통합하는 코드와 데이터가 결정적 동작을 대체합니다. 이러한 변화는 예측, 분류 및 기타 기능 목표와 같은 작업을 용이하게 합니다. AI 워크로드 아키텍처는 복잡할 수 있으며 비즈니스 제약 조건과 일치해야 합니다. Azure Well-Architected Framework는 아키텍처 우수성을 위한 견고한 기반을 제공하지만 AI 관련 디자인 원칙도 고려해야 합니다.
이 문서에서는 AI 원칙을 기반으로 하는 디자인 방법론을 제공합니다. AI 원칙은 솔루션의 설계 및 최적화를 체계적으로 안내합니다. 방법론의 또 다른 이점은 기술 결정을 정당화하기 위해 제품 소유자 및 이해 관계자와의 협업입니다. 결정을 내리는 데 도움이 필요한 경우 이 방법론을 다시 참조하여 디자인 방향을높은 수준의 AI 원칙과
기능을 디자인하거나 개선 사항을 도입하는 경우 방법론 관점에서 변경 사항을 평가합니다. 변경 내용이 사용자 환경에 영향을 주나요? 변경 내용이 미래의 혁신에 적응할 수 있을 만큼 유연합니까? 실험 흐름이 중단됩니까?
실험적 사고방식을 사용하여 디자인
실제 사용 사례를 기반으로 반복적이고 통계적으로 구동되는 프로세스를 통해 관련성을
AI 실험에는 각 반복 후 품질 목표에 대해 측정할 수 있는 결과를 지속적으로 조정하는 작업이 포함됩니다. 초기 모델 평가 및 진행 중인 구체화 중에 실험 루프를 수행합니다. 내부 루프는 개발 환경에서 모델의 예측 능력을 구체화합니다. 외부 루프는 프로덕션 사용량을 모니터링하고 추가 구체화 또는 데이터 준비를 트리거할 수 있습니다. 두 루프 모두 지속적인 모니터링 및 평가에 의존하여 향상된 기능을 식별합니다.
모든 실험이 성공하는 것은 아닙니다. 최악의 시나리오를 고려하고 실패한 실험에 대한 대체 계획을 갖습니다.
책임감 있게 디자인
사용자가 AI 시스템과 상호 작용할 때, AI 모델의 기본 논리 및 의사 결정을 이해하지 못하더라도, 그들은 그 시스템의 윤리적인 기능에 대한 신뢰를 갖습니다. 이 책임은 조작, 콘텐츠 독성, IP 침해뿐만 아니라 허위 응답 등의 비윤리적 행동을 방지하는 시스템을 설계하도록 귀하에게 책임을 묻습니다. 시스템 운영 및 팀 문화에 책임 있는 AI 원칙을 포함해야 합니다. 이러한 사례는 사용자 상호 작용의 수명 주기 내내 확장되어야 하며, 사용자의 초기 의도에서 시스템을 사용하려는 의도, 세션 중 및 시스템 오류로 인한 중단 중에도 확장되어야 합니다.
콘텐츠 조정은 생성 AI를 책임지는 디자인의 핵심 전략입니다. 콘텐츠 조정은 요청 및 응답을 실시간으로 평가하여 안전성과 적합성을 보장합니다. 실험 루프의 일부로 알고리즘을 공정하고 포괄적으로 만들어 바이어스를 최소화하기 위해 노력합니다. 바이어스는 실제 세션 중에 또는 피드백을 수집할 때를 포함하여 다양한 채널을 통해 시스템에 진입할 수 있습니다.
윤리적 데이터 관리는 책임 있는 디자인의 핵심입니다. 사용자 데이터를 사용하거나 사용하지 않도록 하는 시기에 대해 정보에 입각한 결정을 내립니다. 사용자는 개인 정보가 시스템에서 제거되거나 동의를 통해서만 보존되도록 신뢰합니다. 보존이 불가피한 경우 신뢰할 수 있는 기술을 사용하여 데이터를 보호하여 개인 정보 보호 및 보안을 보장해야 합니다.
설명성을 위한 디자인
AI 모델 결과는 설명 가능하고 정당화할 수 있어야 합니다. 데이터의 원본, 유추 프로세스 및 원본에서 서비스 계층으로 데이터의 여정을
설명 가능한 결과는 사용자의 신뢰를 얻기 위해 시스템의 투명성과 책임을 보장하는 데 도움이됩니다.
모델 붕괴보다 앞서 나가기
모델 감쇠는 디자인 결정에 영향을 주는 AI의 고유한 과제입니다. AI 모델 출력의 품질은 코드를 변경하지 않고도 시간이 지남에 따라 악화시킬 수 있습니다. 경우에 따라 데이터 또는 외부 요인의 변경으로 인해 갑자기 악화가 발생할 수도 있습니다.
이 악화는 시스템의 다양한 측면에 영향을 줍니다. 이러한 측면에는 데이터 수집 속도, 데이터 품질, 모니터링 요구 사항, 평가 프로세스 및 문제 해결을 위한 반응 시간이 포함됩니다. 연속 모니터링 및 모델 평가를 위한 자동화된 프로세스 조합을 통해 조기 검색을 구현합니다. 사용자 피드백을 활용하여 모델 감쇠를 식별할 수 있습니다.
모델 감쇠를 식별하는 데 사용하는 방법에 관계없이 운영 팀은 데이터 과학자를 참여시켜 잠재적인 부패 문제를 신속하게 연구하고 해결해야 합니다.
적응성을 위한 디자인
AI는 기술 발전 및 채택 측면에서 빠른 속도로 발전하고 있습니다. 현재 빌드하는 빠르게 사용되지 않을 수 있습니다. 디자인 결정을 내리고 프로세스를 만들 때 이 고려 사항을 염두에 두어야 합니다.
AI 발전은 민첩성 및 유연성필요성을 강조합니다. 일부 구성 요소의 수명이 제한될 수 있음을 인식합니다. 모델 발견, 프로그래밍 라이브러리와 프레임워크, 그리고 처리 기술 연구에 중점을 두는 멈추고 생각하는 접근 방식을 채택합니다.
다음 단계
Azure에서 AI 워크로드를 빌드하고 운영하는 디자인 원칙에 대해 알아봅니다.