Azure AI Foundry 포털에서 프롬프트 흐름 컴퓨팅 세션 만들기 및 관리

아티클
11/24/2024

Important

이 문서에 표시된 항목(미리 보기)은 현재 퍼블릭 미리 보기에서 확인할 수 있습니다. 이 미리 보기는 서비스 수준 계약 없이 제공되며, 프로덕션 워크로드에는 권장되지 않습니다. 특정 기능이 지원되지 않거나 기능이 제한될 수 있습니다. 자세한 내용은 Microsoft Azure Preview에 대한 추가 사용 약관을 참조하세요.

프롬프트 흐름을 실행하려면 컴퓨팅 세션이 필요합니다. Azure AI Foundry를 사용하여 프롬프트 흐름 컴퓨팅 세션을 만들고 관리합니다.

프롬프트 흐름 컴퓨팅 세션에는 필요한 모든 종속성 패키지가 포함된 Docker 이미지를 포함하여 애플리케이션을 실행하는 데 필요한 컴퓨팅 리소스가 있습니다. 흐름 실행 외에도 Azure AI Foundry는 컴퓨팅 세션을 사용하여 프롬프트 또는 코드 콘텐츠를 업데이트할 때 흐름 내에 통합된 도구의 정확도와 기능을 보장합니다.

필수 조건

Azure AI Foundry에 로그인하고 프로젝트를 선택합니다.

컴퓨팅 세션 만들기

컴퓨팅 세션을 시작할 때 기본 설정을 사용하거나 고급 설정을 사용자 지정할 수 있습니다.

기본 설정으로 컴퓨팅 세션 시작

기본적으로 컴퓨팅 세션은 흐름 폴더에서 flow.dag.yaml의 정의된 환경을 사용합니다. 작업 영역에 충분한 할당량이 있는 VM(가상 머신) 크기의 서버리스 컴퓨팅에서 실행됩니다.

Azure AI Foundry 포털에서 프로젝트로 이동합니다.
왼쪽 창에서 프롬프트 흐름을 선택한 다음 실행할 흐름을 선택합니다.
프롬프트 흐름의 위쪽 도구 모음에서 컴퓨팅 세션 시작을 선택합니다.

고급 설정을 사용하여 컴퓨팅 세션 시작

고급 설정에서 컴퓨팅 유형을 선택할 수 있습니다. 서버리스 컴퓨팅과 컴퓨팅 인스턴스 중에서 선택할 수 있습니다.

Azure AI Foundry 포털에서 프로젝트로 이동합니다.
왼쪽 창에서 프롬프트 흐름을 선택한 다음 실행할 흐름을 선택합니다.
프롬프트 흐름의 위쪽 도구 모음에서 컴퓨팅 세션 시작 단추의 오른쪽에 있는 드롭다운 화살표를 선택합니다. 고급 설정으로 시작을 선택하여 컴퓨팅 세션을 사용자 지정합니다.

서버리스 컴퓨팅과 컴퓨팅 인스턴스 중에서 선택할 수 있습니다.
- 서버리스 컴퓨팅을 선택하면 다음 설정을 지정할 수 있습니다.
  - 컴퓨팅 세션에서 사용하는 VM 크기를 사용자 지정합니다.
  - 유휴 시간을 사용자 지정합니다. 사용하지 않는 경우 컴퓨팅 세션을 자동으로 삭제하여 코드를 저장합니다.
  - 사용자가 할당한 관리 ID를 설정합니다. 컴퓨팅 세션은 이 ID를 사용하여 기본 이미지를 끌어오고 패키지를 설치합니다. 사용자가 할당한 관리 ID에 Azure Container Registry 끌어오기 권한이 있는지 확인합니다.
  사용자 할당 ID를 설정하지 않으면 프롬프트 흐름은 기본적으로 사용자 ID를 사용합니다. 작업 영역에 대한 사용자 할당 ID를 만들고 업데이트하는 방법에 대해 자세히 알아봅니다.
- 컴퓨팅 인스턴스를 선택하면 유휴 종료 시간만 설정할 수 있습니다.
  - 이는 기존 컴퓨팅 인스턴스이므로 VM 크기는 고정되며 컴퓨팅 세션 쪽에서는 변경할 수 없습니다.
  - 이 컴퓨팅 세션에 사용되는 ID도 컴퓨팅 인스턴스에 정의되며 기본적으로 사용자 ID를 사용합니다. 컴퓨팅 인스턴스에 ID를 할당하는 방법에 대해 자세히 알아보기
  - 유휴 종료 시간은 컴퓨팅 세션의 수명 주기를 정의하는 데 사용됩니다. 컴퓨팅 세션이 설정한 시간 동안 유휴 상태이면 자동으로 삭제됩니다. 컴퓨팅 인스턴스에서 유휴 종료를 사용하도록 설정한 경우 종료되지만 삭제되지는 않습니다.
다음을 선택하여 기본 이미지 설정을 지정합니다. 기본 이미지를 사용하거나 사용자 지정 기본 이미지를 제공합니다. 사용자 지정된 기본 이미지를 선택하는 경우 이미지 URL 및 이미지 태그를 제공합니다. 공용 Docker 레지스트리 또는 ACR(Azure Container Registry)의 이미지만 지원됩니다. ACR에서 이미지를 지정하는 경우 사용자(또는 사용자가 할당한 관리 ID)에 ACR 끌어오기 권한이 있는지 확인합니다.
다음을 선택하여 설정을 검토합니다.
적용을 선택하고 컴퓨팅 세션을 시작하여 컴퓨팅 세션을 시작합니다.

컴퓨팅 세션 관리

컴퓨팅 세션을 관리하려면 흐름 페이지의 위쪽 도구 모음에서 실행되는 컴퓨팅 세션을 선택합니다.

컴퓨팅 세션 설정 변경 컴퓨팅 세션 구성 페이지가 열립니다. 여기서 컴퓨팅 세션의 VM 쪽 및 유휴 시간을 정의할 수 있습니다.
패키지를 추가할 수 있도록 프롬프트 흐름 UI에서 requirements.txt 열기 requirements.txt 패키지를 설치합니다.
설치된 패키지 보기 컴퓨팅 세션에 설치된 패키지를 표시합니다. 여기에는 기본 이미지로 구운 패키지와 흐름 폴더의 requirements.txt 파일에 지정된 패키지가 포함됩니다.
컴퓨팅 세션 재설정은 현재 컴퓨팅 세션을 삭제하고 동일한 환경을 사용하여 새 컴퓨팅 세션을 만듭니다. 패키지 충돌이 발생하는 경우 이 옵션을 사용해 볼 수 있습니다.
컴퓨팅 세션 중지는 현재 컴퓨팅 세션을 삭제합니다. 기본 서버리스 컴퓨팅에 활성 컴퓨팅 세션이 없으면 컴퓨팅 리소스도 삭제됩니다. 컴퓨팅 세션이 컴퓨팅 인스턴스에 있는 경우 세션을 중지하면 인스턴스가 유휴 상태가 될 수 있습니다.

흐름 폴더의 requirements.txt 파일에 패키지를 추가하여 이 흐름을 실행하는 데 사용하는 환경을 사용자 지정할 수 있습니다. 이 파일에 패키지를 더 추가한 후 다음 옵션 중 하나를 선택합니다.

저장 및 설치 흐름 폴더의 pip install -r requirements.txt를 트리거합니다. 이 프로세스는 설치하는 패키지에 따라 몇 분 정도 걸릴 수 있습니다.
저장만 requirements.txt 파일을 저장하기만 합니다. 나중에 직접 패키지를 설치할 수 있습니다.

참고 항목

requirements.txt의 위치와 파일 이름도 변경할 수 있지만 흐름 폴더의 flow.dag.yaml 파일에서도 이러한 항목을 변경해야 합니다.

promptflow, promptflow-tools 및 requirements.txt 버전을 고정하지 마세요. 컴퓨팅 세션 기본 이미지에 이미 포함되어 있기 때문입니다.

Azure DevOps의 프라이빗 피드에 패키지 추가

Azure DevOps에서 프라이빗 피드를 사용하려면 다음 단계를 수행합니다.

사용자가 할당한 관리 ID를 만들고 Azure DevOps 조직에서 이 ID를 추가합니다. 자세한 내용은 서비스 주체 및 관리 ID 사용을 참조하세요.

참고 항목

사용자 추가 단추가 표시되지 않으면 이 작업을 수행하는 데 필요한 권한이 없을 수 있습니다.
프로젝트에 사용자가 할당한 ID를 추가하거나 업데이트합니다.
프라이빗 피드 URL에 {private}을 추가합니다. 예를 들어 Azure DevOps에서 test_feed의 test_package를 설치하려면 requirements.txt에 -i https://{private}@{test_feed_url_in_azure_devops}를 추가합니다.
```
-i https://{private}@{test_feed_url_in_azure_devops}
test_package
```
컴퓨팅 세션이 실행되고 있지 않은 경우 고급 설정으로 시작에서 사용자 할당 관리 ID를 지정하거나 컴퓨팅 세션이 실행 중인 경우 편집 단추를 사용합니다.

기본 이미지 변경

기본적으로 최신 프롬프트 흐름 이미지를 기본 이미지로 사용합니다. 다른 기본 이미지를 사용하려면 고유한 기본 이미지를 빌드해야 합니다. Docker 이미지는 프롬프트 흐름 기본 이미지인 mcr.microsoft.com/azureml/promptflow/promptflow-runtime:<newest_version>에서 빌드되어야 합니다. 가능하다면 최신 버전의 기본 이미지를 사용합니다.

프롬프트 흐름을 엽니다.
위쪽 도구 모음에서 원시 파일 모드를 선택하여 파일 편집기에서 편집을 사용하도록 설정합니다.
파일 섹션을 열고 flow.dag.yaml을 선택합니다.
flow.dag.yaml 파일의 environment 섹션에서 이미지를 지정합니다. 예를 들어 이미지 <your-custom-image>을(를) 사용하려면 다음 코드를 추가합니다.
```
environment:
    image: <your-custom-image>
    python_requirements_txt: requirements.txt
```

컴퓨팅 인스턴스 런타임 업그레이드

이전에 컴퓨팅 인스턴스 런타임을 만든 경우 다음 단계를 사용하여 컴퓨팅 세션으로 전환합니다.

흐름 폴더에서 requirements.txt 파일을 준비합니다. 자세한 내용은 컴퓨팅 세션 관리를 참조하세요.
사용자 지정 환경을 만든 경우 환경 세부 정보 페이지에서 이미지를 가져와 흐름 폴더의 flow.dag.yaml 파일에 지정합니다. 자세한 내용은 기본 이미지를 변경하세요. 이미지에 대한 acr pull 권한이 있는지 확인합니다.
수명 주기를 수동으로 관리하려는 경우 기존 컴퓨팅 인스턴스를 계속 사용할 수 있습니다.

다음을 통해 공유

Azure AI Foundry 포털에서 프롬프트 흐름 컴퓨팅 세션 만들기 및 관리

필수 조건