다음을 통해 공유

자습서: Azure Container Apps에서 서버리스 GPU를 사용하여 이미지 생성(미리 보기)

  • 아티클

이 문서에서는 서버리스 GPU를 사용하여 AI 애플리케이션에 전원을 공급하는 컨테이너 앱을 만드는 방법을 알아봅니다.

서버리스 GPU를 사용하면 드라이버 설치와 같은 수동 인프라 구성을 수행할 필요 없이 GPU 컴퓨팅 리소스에 직접 액세스할 수 있습니다. AI 모델의 이미지를 배포하기만 하면 됩니다.

이 자습서에서 수행하는 작업은 다음과 같습니다.

  • 새 컨테이너 앱 및 환경 만들기
  • 서버리스 GPU를 사용하도록 환경 구성
  • Azure Container Apps에 앱 배포
  • 새 서버리스 GPU 사용 애플리케이션 사용
  • 아티팩트 스트리밍을 사용하여 GPU 콜드 시작 줄이기

필수 조건

리소스 설명
Azure 계정 활성 구독이 있는 Azure 계정이 필요합니다. GitHub 계정이 없는 경우 무료로 만들 수 있습니다.
Azure Container Registry 인스턴스 기존 Azure Container Registry 인스턴스 또는 인스턴스를 만들 수 있는 권한이 필요합니다.
서버리스 GPU에 대한 액세스 GPU에 대한 액세스는 GPU 할당량을 요청한 후에만 사용할 수 있습니다. 고객 지원 사례를 통해 GPU 할당량 요청을 제출할 수 있습니다.

컨테이너 앱 만들기

  1. Azure Portal로 이동하여 Container Apps를 검색하고 선택합니다.

  2. 만들기를 선택한 다음, 컨테이너 앱을 선택합니다.

  3. 기본 사항 창에서 각 섹션에 다음 값을 입력합니다.

    프로젝트 세부 정보 아래에 다음 값을 입력합니다.

    설정 값
    Subscription Azure 구독을 선택합니다.
    Resource group 새로 만들기를 선택하고 my-gpu-demo-group을 입력합니다.
    컨테이너 앱 이름 my-gpu-demo-app을 입력 합니다.
    배포 원본 컨테이너 이미지를 선택합니다.

    Container Apps 환경에서 다음 값을 입력합니다.

    설정 값
    지역 미국 서부 3을 선택합니다.

    지원되는 더 많은 지역은 Azure에서 서버리스 GPU 사용을 참조하세요.
    Container Apps 환경 새로 만들기를 선택합니다.

    Container Apps 환경 만들기 창에서 다음 값을 입력합니다.

    설정 값
    환경 이름 my-gpu-demo-env를 입력 합니다.

    만들기를 실행합니다.

    다음: 컨테이너>를 선택합니다.

  4. 컨테이너 창에서 다음 값을 입력합니다.

    설정 값
    속성 my-gpu-demo-container를 입력 합니다.
    이미지 원본 Docker Hub 또는 기타 레지스트리를 선택합니다.
    이미지 유형 public을 선택합니다.
    레지스트리 로그인 서버 mcr.microsoft.com을 입력합니다.
    이미지 및 태그 k8se/gpu-quickstart:latest를 입력합니다.
    워크로드 프로필 소비로 시작하는 옵션 선택 - 최대 4...
    GPU 확인란을 선택합니다.
    GPU 형식 T4 옵션을 선택하고 링크를 선택하여 사용자 환경에 프로필을 추가합니다.

    다음: 수신>을 선택합니다.

  5. 수신 창에서 다음 값을 입력합니다.

    설정 값
    수신 사용 확인란을 선택합니다.
    수신 트래픽 어디서나 트래픽 허용 단추를 선택합니다.
    대상 포트 80을 입력합니다.

  6. 검토 + 만들기를 선택합니다.

  7. 만들기를 선택합니다.

  8. 배포가 완료되기까지 잠시 기다린 다음 리소스로 이동을 선택합니다.

    이 프로세스를 완료하는 데 최대 5분이 걸릴 수 있습니다.

GPU 앱 사용

개요 창에서 애플리케이션 URL 링크를 선택하여 브라우저에서 웹앱 프런트 엔드를 열고 GPU 애플리케이션을 사용합니다.

참고 항목

  • GPU 앱의 최상의 성능을 달성하려면 단계에 따라 서버리스 GPU에 대한 콜드 시작을 개선합니다.
  • 애플리케이션에 여러 컨테이너가 있는 경우 첫 번째 컨테이너는 GPU에 대한 액세스를 가져옵니다.

GPU 모니터링

이미지를 생성한 후 다음 단계를 사용하여 GPU 처리 결과를 확인합니다.

  1. Azure Portal에서 컨테이너 앱을 엽니다.

  2. 모니터링 섹션에서 콘솔을 선택합니다.

  3. 복제본을 선택합니다.

  4. 컨테이너를 선택합니다.

  5. *다시 연결]을 선택합니다.

  6. 시작 선택 명령 창에서 /bin/bash를 선택하고 연결을 선택합니다.

  7. 셸이 설정되면 nvidia-smi 명령을 입력하여 GPU의 상태 및 출력을 검토합니다.

리소스 정리

이 자습서에서 만든 리소스는 Azure 청구서에 영향을 줍니다.

이러한 서비스를 장기적으로 사용하지 않을 경우 이 자습서에서 만든 모든 항목을 제거하는 단계를 사용합니다.

  1. Azure Portal에서 리소스 그룹을 검색하고 선택합니다.

  2. my-gpu-demo-group을 선택합니다.

  3. 리소스 그룹 삭제를 선택합니다.

  4. 확인 상자에 my-gpu-demo-group을 입력합니다.

  5. 삭제를 선택합니다.

다음 단계

서버리스 GPU에 대한 콜드 시작 개선