Azure AI Foundry에 대한 비용 계획 및 관리

아티클
11/24/2024

Important

이 문서에 표시된 항목(미리 보기)은 현재 퍼블릭 미리 보기에서 확인할 수 있습니다. 이 미리 보기는 서비스 수준 계약 없이 제공되며, 프로덕션 워크로드에는 권장되지 않습니다. 특정 기능이 지원되지 않거나 기능이 제한될 수 있습니다. 자세한 내용은 Microsoft Azure Preview에 대한 추가 사용 약관을 참조하세요.

이 문서에서는 Azure AI Foundry에 대한 비용을 계획하고 관리하는 방법을 설명합니다. 먼저 Azure 가격 계산기를 사용하여 비용을 예측하기 위해 서비스에 대한 리소스를 추가하기 전에 Azure AI Foundry 비용을 계획할 수 있습니다. 그런 다음 Azure 리소스를 추가할 때 예상 비용을 검토합니다.

팁

Azure AI Foundry에는 Azure 가격 계산기에 특정 페이지가 없습니다. Azure AI Foundry는 다른 여러 Azure 서비스로 구성되며, 그 중 일부는 선택 사항입니다. 이 문서에서는 가격 계산기를 사용하여 이러한 서비스에 대한 비용을 예측하는 방법에 대한 정보를 제공합니다.

Azure AI Foundry 포털에서 Azure AI 서비스를 사용합니다. Azure AI 서비스 비용은 Azure 청구서의 월별 비용 중 일부에 불과합니다. 타사 서비스를 포함하여 Azure 구독에서 사용되는 모든 Azure 서비스 및 리소스에 대해 요금이 청구됩니다.

필수 조건

Microsoft Cost Management에서의 비용 분석은 대부분의 Azure 계정 유형을 지원하지만 일부는 지원하지 않습니다. 지원되는 계정 유형의 전체 목록을 보려면 Cost Management 데이터 이해를 참조하세요. 비용 데이터를 보려면 최소한 Azure 계정에 대한 읽기 권한이 있어야 합니다. Microsoft Cost Management 데이터에 대한 액세스 권한 할당에 대한 자세한 내용은 데이터에 대한 액세스 권한 할당을 참조하세요.

Azure AI 서비스를 사용하기 전 비용 예측

Azure AI 서비스를 추가하기 전에 Azure 가격 책정 계산기를 사용하여 비용을 추정해 보세요.

Azure 가격 계산기에서 Azure OpenAI와 같은 제품을 선택합니다.
사용하려는 단위 수를 입력합니다. 예를 들어 프롬프트 및 완료를 위한 토큰 수를 입력합니다.
여러 제품의 비용을 예측하기 위해 둘 이상의 제품을 선택할 수 있습니다. 예를 들어 Virtual Machines를 선택하여 컴퓨팅 리소스에 대한 잠재적 비용을 추가합니다.

프로젝트에 새 리소스를 추가할 때 이 계산기로 돌아가서 동일한 리소스를 추가하여 비용 추정치를 업데이트합니다.

일반적으로 Azure AI Foundry를 사용하여 발생하는 비용

허브에 대한 리소스를 만들 때 다른 Azure 서비스에 대한 리소스도 만들어집니다. 화면은 다음과 같습니다.

서비스 가격 책정 페이지	사용 사례의 예에 대한 설명
Azure AI 서비스	Azure OpenAI, 음성, 콘텐츠 보안, 비전, 문서 인텔리전스 및 언어와 같은 서비스를 사용하기 위해 비용을 지불합니다. 비용은 각 서비스 및 각 서비스 내의 몇몇 기능에 따라 다릅니다. Azure AI 서비스 프로비저닝에 대한 자세한 내용은 Azure AI Foundry 허브를 참조 하세요.
Azure AI 검색	사용 사례의 예는 벡터 검색 인덱스에서 데이터를 저장하는 것입니다.
Azure Machine Learning	컴퓨팅 인스턴스는 Visual Studio Code(웹 또는 데스크톱)를 실행하고 Azure AI Foundry를 통해 흐름을 프롬프트하는 데 필요합니다. 컴퓨팅 인스턴스를 만들 때 VM(가상 머신)은 작업에 사용할 수 있도록 유지됩니다. VM이 지정된 기간 동안 유휴 상태인 경우 유휴 종료를 사용하여 비용을 절감합니다. 또는 컴퓨팅 인스턴스를 자동으로 시작 및 중지하도록 일정을 설정하여 사용하지 않을 때 비용을 절감합니다.
Azure Virtual Machine	Azure Virtual Machines은 Linux, Windows Server, SQL Server, Oracle, IBM, SAP 등을 지원하는 광범위한 컴퓨팅 솔루션에 대한 가상화의 유연성을 제공합니다.
Azure Container Registry 기본 계정	프라이빗 Docker 컨테이너 이미지의 스토리지를 제공하므로 Azure에서 컨테이너 워크로드에 대해 빠르고 확장 가능한 검색 및 네트워크에 가까운 배포가 가능합니다.
Azure Blob Storage	Azure AI Foundry 프로젝트 파일을 저장하는 데 사용할 수 있습니다.
Key Vault	비밀을 저장하는 데 사용할 키 자격 증명 모음입니다.
Azure Private Link	Azure Private Link를 사용하면 가상 네트워크의 프라이빗 엔드포인트를 통해 Azure PaaS 서비스(예: Azure Storage 및 SQL Database)에 액세스할 수 있습니다.

리소스를 삭제하기 전 비용이 누적될 수 있음

Azure Portal 또는 Azure CLI에서 허브를 삭제하기 전에 다음 하위 리소스는 작업 영역에서 적극적으로 작업하지 않는 경우에도 누적되는 일반적인 비용입니다. 나중에 허브로 돌아갈 계획인 경우 이러한 리소스는 계속 비용이 발생할 수 있습니다.

Azure AI 검색(데이터용)
가상 머신
Load Balancer
Azure Virtual Network
대역폭

각 VM은 실행 중인 시간당 요금이 청구됩니다. 비용은 VM 사양에 따라 달라집니다. 실행 중이지만 데이터 세트에서 적극적으로 작동하지 않는 VM은 부하 분산 장치를 통해 요금이 계속 청구됩니다. 각 컴퓨팅 인스턴스의 경우 하루에 하나의 부하 분산 장치에 대한 요금이 청구됩니다. 컴퓨팅 클러스터의 노드 50개마다 하나의 표준 부하 분산 장치에 대한 요금이 청구됩니다. 각 부하 분산 장치는 하루에 약 0.33달러의 요금이 청구됩니다. 중지된 컴퓨팅 인스턴스 및 컴퓨팅 클러스터에서 부하 분산 장치 비용을 방지하려면 컴퓨팅 리소스를 삭제합니다.

컴퓨팅 인스턴스는 중지된 상태에서도 P10 디스크 비용이 발생합니다. 이 비용은 디스크에 저장된 모든 사용자 콘텐츠가 Azure VM과 유사하게 중지된 상태에서 유지되기 때문입니다. 비용을 더 잘 관리하기 위해 OS 디스크 크기/형식을 구성할 수 있도록 노력하고 있습니다. Azure Virtual Network의 경우 구독당 및 지역당 하나의 가상 네트워크가 청구됩니다. 가상 네트워크는 지역 또는 구독을 포괄할 수 없습니다. 가상 네트워크 설정에서 프라이빗 엔드포인트를 설정하는 경우에도 요금이 발생할 수 있습니다. 가상 네트워크에서 Azure Firewall을 사용하는 경우 방화벽에 요금이 부과될 수도 있습니다. 대역폭 사용 요금이 청구됩니다. 전송되는 데이터가 많을수록 요금이 더 많이 청구됩니다.

팁

관리형 가상 네트워크 사용은 무료입니다. 그러나 관리 네트워크의 일부 기능은 Azure Private Link(프라이빗 엔드포인트용) 및 Azure Firewall(FQDN 규칙용)을 사용하므로 요금이 부과됩니다. 자세한 내용은 관리되는 가상 네트워크 격리를 참조하세요.

리소스를 삭제한 후에도 비용이 증가할 수 있습니다.

Azure Portal 또는 Azure CLI에서 허브를 삭제한 후 다음 리소스가 계속 존재합니다. 해당 리소스는 삭제할 때까지 계속해서 비용을 발생시킵니다.

Azure Container Registry
Azure Blob Storage
Key Vault
Application Insights(허브에 사용하도록 설정한 경우)

비용 모니터링

허브에서 Azure AI Foundry를 사용하면 비용이 발생합니다. 리소스 사용량 단위 비용은 시간 간격(초, 분, 시간, 일) 또는 단위 사용량(바이트, 메가바이트 등)에 따라 달라집니다. 비용 분석에서 발생한 비용을 확인할 수 있습니다.

비용 분석을 사용하는 경우 그래프 및 테이블에서 다양한 시간 간격으로 허브 비용을 볼 수 있습니다. 몇 가지 예로 일, 현재 달과 이전 달 및 연도에 따라 확인할 수 있습니다. 예산 및 예상 비용에 대한 비용도 조회할 수 있습니다. 시간이 지남에 따라 더 긴 보기로 전환하면 지출 추세를 파악하는 데 도움이 됩니다. 그리고 과도한 지출이 발생한 위치를 확인할 수 있습니다. 예산을 만들면 초과된 부분도 쉽게 확인할 수 있습니다.

Azure AI Foundry 프로젝트 비용 모니터링

Azure Portal에서 비용 분석을 얻을 수 있습니다. Azure AI Foundry에서 비용 분석을 얻을 수도 있습니다.

Important

AI Foundry 프로젝트 비용은 전체 애플리케이션 또는 솔루션 비용의 일부일 뿐입니다. 애플리케이션 또는 솔루션에 사용되는 모든 Azure 리소스에 대한 비용을 모니터링해야 합니다. 자세한 내용은 Azure AI Foundry 허브를 참조 하세요.

이 섹션의 예제에서는 모든 Azure AI Foundry 리소스가 동일한 리소스 그룹에 있다고 가정합니다. 그러나 다른 리소스 그룹에 리소스가 있을 수 있습니다. 예를 들어 Azure AI 검색 리소스는 프로젝트와 다른 리소스 그룹에 있을 수 있습니다.

다음은 프로젝트의 비용을 모니터링하는 방법의 예입니다. 비용은 예로만 사용됩니다. 비용은 사용하는 서비스와 사용량에 따라 달라집니다.

Azure AI Foundry에 로그인합니다.
프로젝트를 선택한 다음 왼쪽 메뉴에서 관리 센터를 선택합니다.
프로젝트 제목 아래에서 개요를 선택합니다.
총 비용 섹션에서 리소스 비용 보기를 선택합니다. Azure Portal에서 이 프로젝트의 리소스 그룹으로 열립니다.
리소스 열을 확장하여 프로젝트의 기본이 되는 각 서비스의 비용을 확인합니다. 그러나 이 보기에는 프로젝트에서 사용하는 모든 리소스에 대한 비용이 포함되지 않습니다.
리소스별 비용>리소스를 선택합니다.
이동한 비용 분석 페이지에서 범위가 리소스 그룹으로 설정되어 있는지 확인합니다.

이 예에서는 다음이 적용됩니다.
- 리소스 그룹 이름은 rg-contosoairesource입니다.
- 리소스 그룹의 모든 리소스 및 서비스에 대한 총 비용은 $222.97입니다. 이 예제에서 $222.97은 Azure AI Foundry를 사용하여 빌드하는 애플리케이션 또는 솔루션의 총 비용입니다. 이 예제에서는 모든 Azure AI Foundry 리소스가 동일한 리소스 그룹에 있다고 가정합니다. 그러나 다른 리소스 그룹에 리소스가 있을 수 있습니다.
- 프로젝트 이름은 contoso-outdoor-proj입니다.
- 프로젝트의 리소스 및 서비스로 제한되는 비용은 총 $212.06입니다.
contoso-outdoor-proj를 확장하여 프로젝트 리소스의 기반이 되는 서비스의 비용을 확인합니다.
contoso_ai_resource를 확장하여 허브 리소스의 기반이 되는 서비스의 비용을 확인합니다. 필터를 적용하여 리소스 그룹의 다른 비용에 집중할 수도 있습니다.

Azure Portal에서 직접 리소스 그룹 비용을 볼 수도 있습니다. 수행할 작업:

Azure 포털에 로그인합니다.
리소스 그룹을 선택합니다.
Azure AI Foundry 리소스가 포함된 리소스 그룹을 찾아 선택합니다.
왼쪽 탐색 메뉴에서 비용 분석을 선택합니다.

자세한 내용은 Azure 가격 계산기를 참조하세요.

Azure Marketplace를 통해 제공되는 모델에 대한 비용 모니터링

종량제를 사용하여 서비스로 배포된 모델은 Azure Marketplace를 통해 제공됩니다. 모델 게시자는 제품에 따라 다른 비용을 적용할 수 있습니다. Azure AI Foundry 포털의 각 프로젝트에는 해당 프로젝트에서 발생하는 비용과 소비를 모니터링할 수 있는 제품이 포함된 자체 구독이 있습니다. Microsoft Cost Management를 사용하여 비용을 모니터링합니다.

Azure 포털에 로그인합니다.
왼쪽 탐색 영역에서 Cost Management+ Billing을 선택한 다음, 동일한 메뉴에서 Cost Management를 선택합니다.
왼쪽 탐색 영역의 Cost Management 섹션에서 지금 비용 분석을 선택합니다.
리소스와 같은 보기를 선택합니다. 각 리소스와 관련된 비용이 표시됩니다.
형식 열에서 필터 아이콘을 선택하여 microsoft.saas/resources 종류의 모든 리소스를 필터링합니다. 이 종류는 Azure Marketplace의 제품에서 만든 리소스에 해당합니다. 편리하게 문자열 SaaS가 포함된 리소스 종류를 기준으로 필터링할 수 있습니다.
프로젝트당 각 모델 제품에 대해 하나의 리소스가 표시됩니다. 이러한 리소스의 이름은 [Model offer name]-[GUID]와 같이 지정합니다.
리소스 세부 정보를 확장하여 리소스와 관련된 각 비용 미터에 액세스하려면 선택합니다.
- 계층은 제품을 나타냅니다.
- 제품은 제품 내의 특정 제품입니다.
일부 모델 공급자는 둘 다에 대해 동일한 이름을 사용할 수 있습니다.

팁

프로젝트가 구독하는 각 플랜에 따라 각 프로젝트당 하나의 리소스가 만들어집니다.

세부 정보를 확장하면 제품과 연결된 각 미터당 비용이 보고됩니다. 각 미터는 유추 또는 미세 조정과 같은 비용의 다양한 출처를 추적할 수 있습니다. 다음과 같은 미터가 표시됩니다(일부 비용이 미터와 관련된 경우).

미터	그룹	설명
`paygo-inference-input-tokens`	베이스 모델	베이스 모델의 유추를 위한 입력으로 사용되는 토큰과 관련된 비용입니다.
`paygo-inference-output-tokens`	베이스 모델	베이스 모델의 유추를 위한 출력으로 생성된 토큰과 관련된 비용입니다.
`paygo-finetuned-model-inference-hosting`	미세 조정된 모델	미세 조정된 모델의 유추 엔드포인트 호스팅과 관련된 비용입니다. 이 값은 모델을 호스팅하는 비용이 아니라 모델에 서비스를 제공하는 엔드포인트를 사용하는 데 드는 비용입니다.
`paygo-finetuned-model-inference-input-tokens`	미세 조정된 모델	미세 조정된 모델의 유추를 위한 입력으로 사용되는 토큰과 관련된 비용입니다.
`paygo-finetuned-model-inference-output-tokens`	미세 조정된 모델	미세 조정된 모델의 유추를 위한 출력으로 생성된 토큰과 관련된 비용입니다.

예산 만들기

예산을 만들면 비용을 관리하고 관련자에게 비정상 지출 및 과다 지출 위험을 자동으로 알리는 경고를 만들 수 있습니다. 경고는 예산 및 비용 임계값에 따른 지출을 기준으로 합니다. Azure 구독 및 리소스 그룹에 대한 예산 및 경고가 만들어지므로 전체 비용 모니터링 전략의 일부로 유용합니다.

모니터링에 더 많은 세분성을 제공하려는 경우 Azure의 특정 리소스 또는 서비스에 대한 필터를 사용하여 예산을 만들 수 있습니다. 필터는 추가 비용이 드는 새 리소스를 실수로 만들지 않도록 도움을 줍니다. 예산을 만들 때 사용하는 필터 옵션에 대한 자세한 내용은 그룹 및 필터 옵션을 참조하세요.

비용 데이터 내보내기

스토리지 계정으로 비용 데이터를 내보낼 수도 있습니다. 데이터 내보내기는 사용자 또는 다른 사용자가 비용에 대해 더 많은 데이터 분석을 수행해야 하는 경우에 유용합니다. 예를 들어 재무 팀이 Excel 또는 Power BI를 사용하여 데이터를 분석할 수 있습니다. 매일, 매주 또는 매월 일정으로 비용을 내보내고 사용자 지정 날짜 범위를 설정할 수 있습니다. 비용 데이터를 내보내는 것은 비용 데이터 세트를 검색하는 데 권장되는 방법입니다.

Azure AI 서비스에 대한 전체 청구 모델 이해

Azure AI 서비스는 새 리소스를 배포할 때 Azure AI와 함께 비용이 증가하는 Azure 인프라에서 실행됩니다. 추가 인프라로 인해 비용이 누적될 수 있다는 것을 이해하는 것이 중요합니다. 배포된 리소스를 변경할 때 비용을 관리해야 합니다.

Azure AI 서비스 리소스를 만들거나 사용할 때 사용하는 서비스에 따라 요금이 부과될 수 있습니다. Azure AI 서비스에는 다음 두 가지 청구 모델을 사용할 수 있습니다.

종량제: 종량제 가격을 사용하면 청구 정보를 기준으로 사용하는 Azure AI 서비스 제품에 따라 요금이 청구됩니다.
약정 계층: 약정 계층 가격 책정을 사용하면 몇 가지 서비스 기능을 고정 요금으로 사용하도록 약정하여 워크로드 요구 사항에 따라 예측 가능한 총 비용을 확보할 수 있습니다. 선택한 플랜에 따라 요금이 청구됩니다. 사용 가능한 서비스, 등록 방법 및 플랜 구매 시 고려 사항에 대한 정보는 빠른 시작: 구매 약정 계층 가격 책정을 참조하세요.

참고 항목

약정 플랜에서 제공하는 할당량을 초과하여 리소스를 사용하는 경우 약정 플랜 구매 시 Azure Portal에 언급된 초과량에 따라 추가 사용량이 청구됩니다.

Azure 선불(이전의 금전적 약정) 크레딧으로 Azure AI 서비스 요금을 지불할 수 있습니다. 그러나 Azure 선불 크레딧을 사용하여 Azure Marketplace에 있는 항목을 포함한 타사 제품 및 서비스에 대한 요금을 지불할 수는 없습니다.