Azure Machine Learning에서 기본 제공 정책을 사용하여 AI 모델 배포 제어
Azure Policy는 MaaS(관리형 AI 서비스) 및 MaaP(Model-as-a-Platform)에서 AI 모델의 배포를 제어하는 데 도움이 되는 기본 제공 정책 정의를 제공합니다. 이러한 정책을 사용하여 개발자가 배포할 수 있는 모델을 제어할 수 있습니다.
필수 구성 요소
- Azure 구독 Azure 구독이 아직 없는 경우 시작하기 전에 체험 계정을 만듭니다.
- 정책을 만들고 할당할 수 있는 권한입니다. 정책을 만들고 할당하려면 Azure 구독 또는 리소스 그룹 수준에서 소유자 또는 리소스 정책 기여자여야 합니다.
- Azure Policy에 대해 잘 알고 있습니다. 자세한 내용은 Azure Policy란?을 참조하세요.
정책 사용
Azure Portal의 페이지 왼쪽에서 정책을 선택합니다. 페이지 맨 위에 있는 검색 창에서 정책을 검색할 수도 있습니다.
Azure Policy 대시보드의 왼쪽에서 작성, 할당을 선택한 다음 페이지 위쪽에서 정책 할당을 선택합니다.
정책 할당 양식에서 다음 값을 사용합니다.
- 범위: 정책을 할당할 범위를 선택합니다. 범위는 관리 그룹, 구독 또는 리소스 그룹일 수 있습니다.
- 정책 정의: 줄임표(...)를 선택하고 AI 모델 배포에 허용되는 모델을 검색합니다. 목록에서 정책 정의를 선택합니다. 예를 들어 MaaS 및 MaaP에서 AI 모델 배포에 허용되는 모델입니다.
- 배정 이름: 과제의 고유한 이름을 입력합니다.
나머지 필드는 기본값으로 남겨지거나 조직에 필요한 대로 사용자 지정할 수 있습니다.
페이지 아래쪽에서 다음을 선택하거나 페이지 맨 위에 있는 매개 변수 탭을 선택합니다.
매개 변수 탭에서 다음 필드를 사용합니다.
허용되는 모델: 이 필드에는 쉼표로 구분된 모델 ID 문자열이 필요합니다. 모델 ID 문자열을 가져오려면 다음 단계를 사용합니다.
작업 영역에 대한 Azure Machine Learning 모델 카탈로그로 이동합니다.
참고 항목
모델 카탈로그에 액세스하려면 Azure Machine Learning 작업 영역이 있어야 합니다.
허용하려는 각 모델에 대해 세부 정보를 볼 모델을 선택합니다. 모델 세부 정보에서 모델 ID 값을 복사합니다. 예를 들어 값은 다음과 같
azureml://registries/azure-openai/models/gpt-35-turbo/versions/3을 수 있습니다.Important
모델 ID 값은 모델과 정확히 일치해야 합니다. 모델 ID가 정확히 일치하지 않으면 모델이 허용되지 않습니다.
효과: 이 필드는 정책이 허용된 모델 필드에 나열된 모델의 사용을 감사하거나 거부하는지 여부를 결정합니다.
필요에 따라 페이지 맨 위에 있는 비준수 메시지 탭을 선택하고 비준수에 대한 사용자 지정 메시지를 설정합니다.
검토 + 만들기 탭을 선택하고 정책 할당이 올바른지 확인합니다. 준비가 되면 만들기를 선택하여 정책을 할당합니다.
정책이 시행 중임을 개발자에게 알립니다. 허용되는 모델 목록에 없는 모델을 배포하려고 하면 오류 메시지가 표시됩니다.
규정 준수 모니터링
정책 준수를 모니터링하려면 다음 단계를 수행합니다.
- Azure Portal의 페이지 왼쪽에서 정책을 선택합니다. 페이지 맨 위에 있는 검색 창에서 정책을 검색할 수도 있습니다.
- Azure Policy 대시보드의 왼쪽에서 준수를 선택합니다. 각 정책 할당은 준수 상태와 함께 나열됩니다. 자세한 내용을 보려면 정책 할당을 선택합니다.
정책 할당 업데이트
기존 정책 할당을 새 모델로 업데이트하려면 다음 단계를 수행합니다.
- Azure Portal의 페이지 왼쪽에서 정책을 선택합니다. 페이지 맨 위에 있는 검색 창에서 정책을 검색할 수도 있습니다.
- Azure Policy 대시보드의 왼쪽에서 할당을 선택하고 기존 정책 할당을 찾습니다. 과제 옆에 있는 줄임표(...)를 선택하고 할당 편집을 선택합니다.
- 매개 변수 탭에서 허용되는 모델 매개 변수를 새 모델 ID로 업데이트합니다.
- 검토 + 저장 탭에서 저장을 선택하여 정책 할당을 업데이트합니다.
모범 사례
- 세부 범위 지정: 적절한 범위에서 정책을 할당하여 제어 및 유연성의 균형을 조정합니다. 예를 들어 구독 수준에서 적용하여 구독의 모든 리소스를 제어하거나 리소스 그룹 수준에서 적용하여 특정 그룹의 리소스를 제어합니다.
- 정책 명명: 정책 할당에 일관된 명명 규칙을 사용하여 정책의 목적을 보다 쉽게 식별할 수 있습니다. 이름에 목적 및 범위와 같은 정보를 포함합니다.
- 설명서: 감사 목적으로 정책 할당 및 구성에 대한 레코드를 유지합니다. 시간이 지남에 따라 정책의 변경 내용을 문서화합니다.
- 정기 검토: 정기적으로 정책 할당을 검토하여 조직의 요구 사항에 부합하는지 확인합니다.
- 테스트: 프로덕션 리소스에 적용하기 전에 비프로덕션 환경에서 정책을 테스트합니다.
- 커뮤니케이션: 개발자가 현재 위치에 있는 정책을 인식하고 작업에 미치는 영향을 이해해야 합니다.