다음을 통해 공유

작업 영역 관리 가상 네트워크에서 모델 카탈로그 컬렉션 사용

  • 아티클

이 문서에서는 격리된 네트워크 내에서 모델 카탈로그의 다양한 컬렉션을 사용하는 방법을 알아봅니다.

작업 영역 관리 가상 네트워크는 모델 카탈로그에서 네트워크 격리를 지원하는 데 권장되는 유일한 방법입니다. 작업 영역을 보호하기 위한 구성을 제공합니다. 작업 영역 수준에서 관리형 가상 네트워크를 사용하도록 설정하면 동일한 가상 네트워크의 작업 영역과 관련된 리소스는 작업 영역 수준에서 동일한 네트워크 설정을 사용합니다. 프라이빗 엔드포인트를 사용하여 Azure OpenAI와 같은 다른 Azure 리소스에 액세스하도록 작업 영역을 구성할 수도 있습니다. 또한 모델 카탈로그의 일부 컬렉션을 사용하는 데 필요한 비 Azure 리소스에 대한 아웃바운드를 승인하도록 FQDN 규칙을 구성할 수 있습니다. 작업 영역 관리형 가상 네트워크를 사용하도록 설정하려면 작업 영역 관리되는 네트워크 격리를 참조하세요.

관리되는 가상 네트워크 만들기는 컴퓨팅 리소스가 만들어지거나 프로비전이 수동으로 시작될 때까지 연기됩니다. 다음 명령을 사용하여 네트워크 프로비전을 수동으로 트리거할 수 있습니다.

az ml workspace provision-network --subscription <sub_id> -g <resource_group_name> -n <workspace_name>

인터넷 아웃바운드를 허용하는 작업 영역 관리 가상 네트워크

  1. 여기 나열된 단계에 따라 인터넷 아웃바운드를 허용하도록, 관리 가상 네트워크를 사용하여 작업 영역을 구성합니다.

  2. 작업 영역에 대한 공용 네트워크 액세스를 사용하지 않도록 설정하려는 경우 다음 방법 중 하나를 사용하여 작업 영역에 연결할 수 있습니다.

    • Azure VPN 게이트웨이 - 프라이빗 연결을 통해 가상 네트워크에 온-프레미스 네트워크를 연결합니다. 공용 인터넷을 통해 연결됩니다. 사용할 수 있는 VPN 게이트웨이의 두 가지 유형은 다음과 같습니다.

      • 지점 및 사이트 간: 각 클라이언트 컴퓨터는 VPN 클라이언트를 사용하여 가상 네트워크에 연결합니다.
      • 사이트 간: VPN 디바이스는 가상 네트워크를 온-프레미스 네트워크에 연결합니다.

    • ExpressRoute - 프라이빗 연결을 통해 온-프레미스 네트워크를 클라우드에 연결합니다. 연결 공급자를 사용하여 연결합니다.

    • Azure Bastion - 이 시나리오에서는 가상 네트워크 내에 Azure Virtual Machine(점프 상자라고도 함)을 만듭니다. 그런 다음, Azure Bastion을 사용하여 VM에 연결합니다. Bastion을 사용하면 로컬 웹 브라우저에서 RDP 또는 SSH 세션을 사용하여 VM에 연결할 수 있습니다. 그런 다음, 점프 상자를 개발 환경으로 사용합니다. 가상 네트워크 내부에 있기 때문에 작업 영역에 직접 액세스할 수 있습니다.

작업 영역 관리 가상 네트워크는 이 구성에서 인터넷에 액세스할 수 있으므로 작업 영역 내에서 모델 카탈로그의 모든 컬렉션을 사용할 수 있습니다.

승인된 아웃바운드만 허용하는 작업 영역 관리 가상 네트워크

  1. 작업 영역 관리 네트워크 격리에 따라 작업 영역을 구성합니다. 작업 영역 관리 아웃바운드 액세스를 선택하는 경우 자습서의 3단계에서 승인된 아웃바운드만 허용을 선택합니다.
  2. 작업 영역에 대한 공용 네트워크 액세스를 사용하지 않도록 설정한 경우, 이 자습서의 인터넷 아웃바웃드 허용 섹션의 2단계에 있는 방법 중 하나를 사용하여 작업 영역에 연결할 수 있습니다.
  3. 가상 네트워크를 관리하는 작업 영역은 허용 전용 구성으로 설정됩니다. 모든 관련 FQDN을 허용하려면 해당 사용자 정의 아웃바운드 규칙을 추가해야 합니다.
    1. Azure AI 큐레이팅 컬렉션에 필요한 FQDN 목록을 보려면 이 링크를 따릅니다.
    2. Hugging Face 컬렉션에 필요한 FQDN 목록을 보려면 이 링크를 따릅니다.

Azure Machine Learning에서 큐레이팅한 오픈 소스 모델 작업

승인된 아웃바운드만 허용하기 위해 작업 영역 관리 가상 네트워크는 Azure Machine Learning 관리 스토리지 계정에 대한 서비스 엔드포인트 정책을 사용하여 Azure Machine Learning에서 큐레이팅한 컬렉션의 모델에 기본 제공 방식으로 액세스할 수 있도록 지원합니다. 이 작업 영역 구성 모드에는 모델을 배포하는 데 사용되는 Docker 이미지가 포함된 Microsoft Container Registry에 대한 기본 아웃바운드도 있습니다.

'Azure AI에서 큐레이팅' 컬렉션의 언어 모델

이러한 모델에는 런타임에 종속성을 동적으로 설치하는 작업이 포함됩니다. 사용자 정의 아웃바운드 규칙을 추가하려면, Azure AI 컬렉션에서 큐레이팅된 규칙을 사용하기 위한 4단계에 따라 사용자가 작업 영역 수준에서 다음 FQDN에 대해 사용자 정의 아웃바운드 규칙을 추가해야 합니다.

  • *.anaconda.org
  • *.anaconda.com
  • anaconda.com
  • pypi.org
  • *.pythonhosted.org
  • *.pytorch.org
  • pytorch.org

관리 가상 네트워크 자습서의 4단계에 따라 해당 사용자 정의 아웃바운드 규칙을 추가합니다.

Warning

FQDN 아웃바운드 규칙은 Azure Firewall을 사용하여 구현됩니다. 아웃바운드 FQDN 규칙을 사용하는 경우 Azure Firewall에 대한 요금이 청구서에 포함됩니다. 자세한 내용은 가격 책정을 참조하세요.

Meta 컬렉션

사용자는 다른 사용자가 정의한 아웃바운드 규칙이 필요하지 않은 네트워크 격리 작업 영역에서 이 컬렉션을 사용할 수 있습니다.

참고 항목

새로운 큐레이팅된 컬렉션은 모델 카탈로그에 자주 추가됩니다. 다양한 컬렉션에 대한 프라이빗 네트워크의 지원을 반영하도록 이 설명서를 업데이트합니다.

Hugging Face 컬렉션 작업

Hugging Face 레지스트리를 사용하는 경우 모델 가중치는 Azure에서 호스트되지 않습니다. 모델 가중치는 이러한 모델이 배포될 때 Hugging Face 허브에서 작업 영역의 온라인 엔드포인트로 직접 다운로드됩니다. 사용자는 다음 호스트에 대한 트래픽을 허용하기 위해 Hugging Face 허브, Docker 허브 및 해당 CDN에 대해 다음 아웃바운드 FQDN 규칙을 추가해야 합니다.

  • docker.io
  • huggingface.co
  • production.cloudflare.docker.com
  • cdn-lfs.huggingface.co
  • cdn.auth0.com

관리 가상 네트워크 자습서의 4단계에 따라 해당 사용자 정의 아웃바운드 규칙을 추가합니다.

다음 단계