허브를 사용하여 관리, 공동 작업 및 구성

아티클
11/24/2024

허브는 AI Foundry의 기본 최상위 Azure 리소스이며 팀이 플레이그라운드 및 프로젝트에서 보안, 연결 및 컴퓨팅 리소스를 제어할 수 있는 중앙 방법을 제공합니다. 허브가 만들어지면 개발자는 IT 관리자의 반복적인 도움 없이도 허브에서 프로젝트를 만들고 공유 회사 리소스에 액세스할 수 있습니다.

허브를 사용하여 만들어진 프로젝트 작업 영역은 동일한 보안 설정 및 공유 리소스 액세스를 상속합니다. 팀에서 필요에 따라 프로젝트 작업 영역을 만들어 작업을 정리하고, 데이터를 격리하고, 액세스를 제한할 수 있습니다.

이 문서에서는 허브 기능과, 조직을 위해 허브를 설정하는 방법에 대해 자세히 알아봅니다. Azure Portal 및 Azure AI Foundry에서 만든 리소스를 볼 수 있습니다.

IT 병목 현상 없이 신속한 AI 사용 사례 탐색

성공적인 AI 애플리케이션 및 모델은 일반적으로 개발자가 아이디어의 타당성을 테스트하거나 특정 작업에 대한 데이터 또는 모델의 품질을 평가하는 프로토타입으로 시작됩니다. 프로토타입은 프로젝트 자금을 조달하거나 본격적으로 구현하기 위한 디딤돌입니다.

단일 플랫폼 팀이 클라우드 리소스 설정을 담당하는 경우 아이디어의 타당성 입증에서 자금 지원 프로젝트로의 전환이 생산성에 병목 현상을 일으킬 수 있습니다. 이 팀은 비용이 발생할 수 있는 보안, 연결 또는 기타 리소스를 구성할 권한이 있는 유일한 팀일 수 있습니다. 이러한 상황으로 인해 엄청난 백로그가 발생하여 개발팀이 새로운 아이디어를 혁신하는 데 방해가 될 수 있습니다. Azure AI Foundry 포털에서 허브는 이 병목 상태를 완화하는 데 도움이 됩니다. IT는 팀을 위해 미리 구성된 재사용 가능한 환경(허브)을 한 번 설정할 수 있습니다. 그런 다음 팀은 해당 허브를 사용하여 AI 애플리케이션의 프로토타입을 생성하고, 빌드하고, 운영하기 위한 자체 프로젝트를 만들 수 있습니다.

팀을 위한 허브 설정 및 보호

Azure AI Foundry 포털에서 첫 번째 허브를 만들어 시작하거나 고급 구성 옵션에 Azure Portal 또는 템플릿을 사용합니다. 조직의 요구 사항을 준수하기 위해 네트워킹, ID, 암호화, 모니터링 또는 태그를 사용자 지정할 수 있습니다.

비즈니스 도메인의 프로젝트에서는 벡터 인덱스, 모델 엔드포인트 또는 리포지토리와 같은 동일한 회사 리소스에 대한 액세스가 필요한 경우가 많습니다. 팀 리더로서 허브 내에서 이러한 리소스와의 연결을 미리 구성할 수 있으므로 개발자는 IT에 대한 지체 없이 새로운 프로젝트 작업 영역에서 해당 리소스에 액세스할 수 있습니다.

연결을 사용하면 허브 외부에서 관리되는 AI Foundry 포털의 개체에 액세스할 수 있습니다. 예를 들어, Azure Storage 계정에 데이터를 업로드하거나 기존 Azure OpenAI 리소스에 모델 배포를 수행합니다. 연결은 모든 프로젝트와 공유되거나 하나의 특정 프로젝트에 액세스할 수 있습니다. 키 기반 액세스 또는 Microsoft Entra ID로 연결을 구성하여 연결된 리소스에 대한 사용자 액세스 권한을 부여할 수 있습니다. 또한 관리자는 허브를 사용하여 프로젝트 전반의 연결을 추적, 감사 및 관리할 수 있습니다.

공유 Azure 리소스 및 구성

팀 리더 및 관리자가 팀의 환경을 중앙에서 관리할 수 있도록 허브에서 다양한 관리 개념을 사용할 수 있습니다.

사용자 지정을 위해 프로젝트를 만들 수 있는 사용자에 대한 공용 네트워크 액세스, 가상 네트워킹, 고객 관리형 키 암호화 및 권한 있는 액세스를 포함한 보안 구성입니다. 허브에서 구성된 보안 설정은 자동으로 각 프로젝트로 전달됩니다. 관리형 가상 네트워크는 동일한 허브를 공유하는 모든 프로젝트 간에 공유됩니다.
연결은 데이터 스토리지 공급자와 같은 Azure 및 비 Azure 리소스에 대한 명명되고 인증된 참조입니다. 개인에게 저장된 자격 증명을 노출하지 않고도 개발자 그룹이 외부 리소스를 사용할 수 있는 방법으로 연결을 사용합니다.
컴퓨팅 및 할당량 할당 은 동일한 허브를 공유하는 AI Foundry 포털의 모든 프로젝트에 대한 공유 용량으로 관리됩니다. 이 할당량에는 컴퓨팅 인스턴스가 개인용 관리형 클라우드 기반 워크스테이션으로 포함됩니다. 동일한 사용자가 프로젝트 간에 컴퓨팅 인스턴스를 사용할 수 있습니다.
미리 빌드된 AI 모델의 엔드포인트에 대한 AI 서비스 액세스 키는 허브 범위에서 관리됩니다. 이러한 엔드포인트를 사용하여 하나의 API 키를 사용하여 Azure OpenAI, 음성, 비전 및 콘텐츠 보안에서 기본 모델에 액세스합니다.
허브 범위에서 Azure에 적용되는 정책은 해당 범위에서 관리되는 모든 프로젝트에 적용됩니다.
종속 Azure 리소스 는 허브 및 연결된 프로젝트당 한 번씩 설정되며 로그와 같은 AI Foundry 포털에서 작업하거나 데이터를 업로드할 때 생성하는 아티팩트 저장에 사용됩니다. 자세한 내용은 Azure AI 종속성을 참조하세요.

사용자 지정을 위해 프로젝트에서 작업 구성

허브는 AI Foundry 포털의 프로젝트에 대한 호스팅 환경을 제공합니다. 프로젝트는 AI 사용자 지정 및 오케스트레이션을 위한 도구가 있는 조직 컨테이너입니다. 작업을 구성하고, 프롬프트 흐름과 같은 다양한 도구에서 상태를 저장하고, 다른 사용자와 공동 작업할 수 있습니다. 예를 들어 업로드된 파일과 연결을 데이터 원본에 공유할 수 있습니다.

여러 프로젝트에서 허브를 사용할 수 있으며 여러 사용자가 프로젝트를 사용할 수 있습니다. 또한, 프로젝트는 청구를 추적하고 액세스를 관리하고 데이터 격리를 제공하는 데 도움이 됩니다. 모든 프로젝트는 전용 스토리지 컨테이너를 사용하여 파일을 업로드하고 '데이터' 환경을 사용할 때 다른 프로젝트 멤버와만 공유할 수 있습니다.

프로젝트를 사용하면 AI Foundry 포털의 도구에서 사용할 수 있는 재사용 가능한 구성 요소를 만들고 그룹화할 수 있습니다.

자산	Description
Data	인덱스를 만들고, 모델을 미세 조정하고, 모델을 평가하는 데 사용할 수 있는 데이터 세트입니다.
흐름	AI 논리를 구현할 수 있는 실행 명령 집합입니다.
평가	모델 또는 흐름의 평가입니다. 수동 또는 메트릭 기반 평가를 실행할 수 있습니다.
인덱스	데이터에서 생성된 벡터 검색 인덱스입니다.

프로젝트에는 해당 프로젝트에 대해서만 유지되는 특정 설정도 있습니다.

자산	Description
프로젝트 연결	사용자 및 다른 프로젝트 구성원만 사용할 수 있는 데이터 스토리지 공급자와 같은 외부 리소스에 대한 연결입니다. 모든 프로젝트에 액세스할 수 있는 허브의 공유 연결을 보완합니다.
프롬프트 흐름 런타임	프롬프트 흐름은 흐름을 생성, 사용자 지정 또는 실행하는 데 사용할 수 있는 기능입니다. 프롬프트 흐름을 사용하려면 컴퓨팅 인스턴스 위에 런타임을 만들어야 합니다.

참고 항목

AI Foundry 포털에서는 허브 또는 프로젝트에 관계없이 액세스할 수 있는 모든 프로젝트에 적용되는 언어 및 알림 설정을 관리할 수도 있습니다.

Azure AI 서비스 API 액세스 키

허브를 사용하면 모델 배포를 호스트하는 데 사용할 수 있는 기존 Azure OpenAI 또는 Azure AI 서비스 리소스 종류에 대한 연결을 설정할 수 있습니다. AI Foundry 포털의 연결된 리소스에서 이러한 모델 배포에 액세스할 수 있습니다. 연결된 리소스에 대한 키는 AI Foundry 포털 또는 Azure Portal에서 나열할 수 있습니다. 자세한 내용은 Azure Portal에서 Azure AI Foundry 리소스 찾기를 참조하세요.

가상 네트워킹

허브, 컴퓨팅 리소스 및 프로젝트는 동일한 Microsoft 관리형 Azure Virtual Network를 공유합니다. 허브 만들기 프로세스 중에 관리형 네트워킹 설정을 구성한 후에는 해당 허브를 사용하여 만든 모든 새 프로젝트가 동일한 가상 네트워크 설정을 상속합니다. 따라서 네트워킹 설정에 대한 모든 변경 내용은 해당 허브의 현재 및 새 프로젝트 모두에 적용됩니다. 기본적으로 허브는 공용 네트워크 액세스를 제공합니다.

허브 환경에 대한 프라이빗 인바운드 연결을 설정하려면 다음 범위에서 Azure Private Link 엔드포인트를 만듭니다.

허브
리소스를 제공하는 종속 Azure AI services
기타 모든 Azure AI 종속성(예: Azure Storage)

프로젝트는 Azure Portal에서 자체 추적 리소스로 표시되지만 자체 프라이빗 링크 엔드포인트에 액세스할 필요가 없습니다. 허브를 설치한 후에 만들어지는 새 프로젝트는 네트워크 격리 환경에 자동으로 추가됩니다.

Azure 및 타사 리소스에 대한 연결

Azure AI는 다양한 유형의 데이터 원본 및 기타 Azure 도구에 연결할 수 있는 커넥터 집합을 제공합니다. 커넥터를 활용하여 Azure AI 검색의 인덱스와 같은 데이터에 연결하면 흐름을 증강할 수 있습니다.

연결은 동일한 허브의 모든 프로젝트와 공유로 설정하거나 한 프로젝트에 대해 단독으로 만들 수 있습니다. Azure AI Foundry를 통해 연결을 관리하려면 프로젝트로 이동한 다음 관리 센터를 선택합니다. 허브 또는 프로젝트 섹션에서 연결된 리소스를 선택하여 프로젝트 또는 허브에 대한 공유 연결을 각각 관리합니다. 관리자는 허브 수준에서 공유 연결과 프로젝트 범위 연결을 모두 감사하여 프로젝트 간에 단일 연결 창을 만들 수 있습니다.

Azure AI 종속성

Azure AI 및 Azure Machine Learning 서비스를 비롯한 기존 Azure 서비스 위에 있는 Azure AI Foundry 계층 Azure Portal, AI Foundry 또는 SDK 또는 CLI를 사용하는 경우 표시 이름에 표시되지 않을 수 있지만 Azure REST API를 사용하거나 Azure 비용 보고를 사용하거나 Azure Bicep 또는 Azure Resource Manager와 같은 코드 기반 인프라 템플릿을 사용할 때 이러한 아키텍처 세부 정보 중 일부가 명확하게 표시됩니다. Azure 리소스 공급자 관점에서 Azure AI Foundry 리소스 유형은 다음 리소스 공급자 종류에 매핑됩니다.

리소스 종류	리소스 공급자	종류
Azure AI Foundry 허브	`Microsoft.MachineLearningServices/workspace`	`hub`
Azure AI Foundry 프로젝트	`Microsoft.MachineLearningServices/workspace`	`project`
Azure AI 서비스 ‘또는’ Azure AI OpenAI Service	`Microsoft.CognitiveServices/account`	`AIServices` `OpenAI`

새 허브를 만들 때 AI Foundry 포털에서 작업할 때 업로드하거나 생성되는 데이터를 저장하려면 종속 Azure 리소스 집합이 필요합니다. 사용자가 이러한 리소스를 제공하지 않는 경우 필요하면 이러한 리소스가 자동으로 생성됩니다.

종속 Azure 리소스	리소스 공급자	선택 사항	참고 항목
Azure AI 검색	`Microsoft.Search/searchServices`	✔	프로젝트 검색 기능을 제공합니다.
Azure Storage 계정	`Microsoft.Storage/storageAccounts`		흐름 및 평가와 같은 프로젝트의 아티팩트를 저장합니다. 데이터 격리의 경우 스토리지 컨테이너는 프로젝트 GUID를 사용하여 접두사가 지정되고 프로젝트 ID에 Azure ABAC를 사용하여 조건부로 보호됩니다.
Azure Key Vault	`Microsoft.KeyVault/vaults`		리소스 연결에 대한 연결 문자열과 같은 비밀을 저장합니다. 데이터 격리의 경우 API를 통해 프로젝트에서 비밀을 검색할 수 없습니다.
Azure Container Registry	`Microsoft.ContainerRegistry/registries`	✔	프롬프트 흐름에 사용자 지정 런타임을 사용할 때 만든 Docker 이미지를 저장합니다. 데이터 격리의 경우 Docker 이미지는 프로젝트 GUID를 사용하여 접두사로 지정됩니다.
Azure Application Insights 및 Log Analytics 작업 영역	`Microsoft.Insights/components` `Microsoft.OperationalInsights/workspaces`	✔	배포된 프롬프트 흐름에 대한 애플리케이션 수준 로깅을 옵트인할 때 로그 스토리지로 사용됩니다.

비용 관리

Azure AI 비용은 다양한 Azure 리소스에 의해 발생합니다.

일반적으로 허브 및 프로젝트에는 고정 월별 비용이 없으며 사용된 컴퓨팅 시간 및 토큰 측면에서만 사용량에 대한 요금이 청구됩니다. Azure Key Vault, Storage 및 Application Insights는 프로젝트에 저장된 데이터의 양에 따라 트랜잭션 및 볼륨 기반 요금을 청구합니다.

이러한 서로 다른 서비스의 비용을 함께 그룹화해야 하는 경우, Azure 환경에서 하나 이상의 전용 리소스 그룹 및 구독에 허브를 만드는 것이 좋습니다.

비용 관리 및 Azure 리소스 태그를 사용하여 자세한 리소스 수준 비용 분석을 활용하거나, 위의 나열된 리소스에서 Azure 가격 계산기를 실행하여 가격 추정치를 얻을 수 있습니다. 자세한 내용은 Azure Machine Learning 비용 계획 및 관리를 참조하세요.

Azure Portal에서 Azure AI Foundry 리소스 찾기

Azure Portal의 Azure AI Foundry 포털에서 프로젝트에 해당하는 리소스를 찾을 수 있습니다.