Azure AI 에이전트 서비스(미리 보기)란?

아티클
01/10/2025

Azure AI 에이전트 서비스는 개발자가 기본 컴퓨팅 및 스토리지 리소스를 관리할 필요 없이 고품질의 확장 가능한 AI 에이전트를 안전하게 빌드, 배포 및 확장할 수 있도록 설계된 완전 관리형 서비스입니다. 클라이언트 쪽 함수 호출을 지원하기 위해 원래 수백 줄의 코드가 사용되었던 작업은 이제 Azure AI 에이전트 서비스를 사용하여 몇 줄의 코드에서만 수행할 수 있습니다.

AI 에이전트란?

Azure AI Foundry 내에서 AI 에이전트는 RAG(질문에 대답하거나, 작업을 수행하거나, 워크플로를 완전히 자동화하는 데 사용할 수 있는 "스마트" 마이크로 서비스 역할을 합니다. 이를 위해 생성 AI 모델의 기능을 실제 데이터 원본에 액세스하고 상호 작용할 수 있는 도구와 결합합니다.

Azure AI 에이전트 서비스는 Azure OpenAI Assistants와 동일한 유선 프로토콜을 사용하므로 OpenAI SDK 또는 Azure AI Foundry SDK를 사용하여 몇 줄의 코드로 에이전트를 만들고 실행할 수 있습니다. 예를 들어 Azure AI Foundry SDK를 사용하여 AI 에이전트를 만들려면 AI가 사용하는 모델, 작업을 완료하는 방법에 대한 지침 및 다른 서비스에 액세스하고 상호 작용하는 데 사용할 수 있는 도구를 정의할 수 있습니다.

agent = project_client.agents.create_agent(
    model="gpt-4o-mini",
    name="my-agent",
    instructions="You are helpful agent",
    tools=code_interpreter.definitions,
    tool_resources=code_interpreter.resources,
)

에이전트를 정의한 후에는 여러 에이전트와 사용자 간의 대화인 활동 스레드 위에 실행을 호출하여 작업을 수행하도록 요청할 수 있습니다.

# Create a thread with messages
thread = project_client.agents.create_thread()
message = project_client.agents.create_message(
    thread_id=thread.id,
    role="user",
    content="Could you please create a bar chart for the operating profit using the following data and provide the file to me? Company A: $1.2 million, Company B: $2.5 million, Company C: $3.0 million, Company D: $1.8 million",
)

# Ask the agent to perform work on the thread
run = project_client.agents.create_and_process_run(thread_id=thread.id, agent_id=agent.id)

# Fetch and log all messages to see the agent's response
messages = project_client.agents.list_messages(thread_id=thread.id)
print(f"Messages: {messages}")

실행 작업이 호출될 때마다 Azure AI 에이전트 서비스는 1) 제공된 지침으로 모델을 실행하고, 2) 에이전트가 호출할 때 도구를 호출하고, 3) 결과를 다시 반환하여 전체 도구 호출 수명 주기를 완료합니다.

기본 사항을 얻은 후에는 여러 에이전트를 함께 사용하여 AutoGen 및 의미 체계 커널을 사용하여 더욱 복잡한 워크플로를 자동화할 수 있습니다. Azure AI 에이전트 서비스는 완전히 관리되는 서비스이므로 개별 에이전트에 대한 기본 인프라의 크기 조정, 보안 또는 관리에 대해 걱정할 필요 없이 워크플로 및 워크플로를 구동하는 에이전트를 빌드하는 데 집중할 수 있습니다.

Azure AI 에이전트 서비스를 사용하는 이유는 무엇인가요?

추론 API를 사용하여 직접 개발하는 것과 비교할 때 Azure AI 에이전트 서비스는 AI 에이전트를 빌드하고 배포하는 보다 간소화되고 안전한 방법을 제공합니다. 다음 내용이 포함됩니다.

자동 도구 호출 – 도구 호출을 구문 분석하고, 도구를 호출하고, 응답을 처리할 필요가 없습니다. 이제 이 모든 작업이 서버 쪽에서 수행됩니다.
안전하게 관리되는 데이터 - 사용자 고유의 대화 상태를 관리하는 대신 스레드를 사용하여 필요한 모든 정보를 저장할 수 있습니다.
기본 제공 도구 – Azure OpenAI Assistants에서 제공하는 파일 검색 및 코드 인터프리터 도구 외에도 Azure AI 에이전트 서비스에는 Bing, Azure AI Search 및 Azure Functions와 같은 데이터 원본과 상호 작용하는 데 사용할 수 있는 도구 집합이 제공됩니다.

원래 수백 줄의 코드가 사용되었던 작업은 이제 Azure AI 에이전트 서비스를 사용하여 몇 줄에서만 수행할 수 있습니다.

Azure 에이전트 및 Azure OpenAI 도우미 비교

두 서비스 모두 동일한 API 및 SDK를 사용하여 에이전트를 빌드할 수 있지만 추가 엔터프라이즈 요구 사항이 있는 경우 Azure AI 에이전트 서비스를 사용하는 것이 좋습니다. Azure AI 에이전트 서비스는 다음 외에도 도우미의 모든 기능을 제공합니다.

유연한 모델 선택 - Azure OpenAI 모델 또는 Llama 3, Mistral 및 Cohere와 같은 다른 모델을 사용하는 에이전트를 만듭니다. 비즈니스 요구 사항을 충족하는 가장 적합한 모델을 선택합니다.

광범위한 데이터 통합 - Microsoft Bing, Azure AI Search 및 기타 API와 같은 다양한 데이터 원본의 관련 안전한 엔터프라이즈 지식으로 AI 에이전트를 접지합니다.

엔터프라이즈급 보안 - 보안 데이터 처리, 키 없는 인증 및 공용 송신이 없는 데이터 개인 정보 보호 및 규정 준수를 보장합니다.

스토리지 솔루션 선택 - 스토리지 리소스의 모든 가시성과 제어를 위해 사용자 고유의 Azure Blob Storage를 가져오거나 플랫폼 관리형 스토리지를 사용하여 사용하기 쉽습니다.

책임 있는 AI

Microsoft는 사용자를 최우선으로 하는 원칙에 따라 AI를 발전시키기 위해 최선을 다하고 있습니다. Azure OpenAI에서 사용할 수 있는 것과 같은 생성 모델은 상당한 잠재적 이점이 있지만 신중한 디자인과 사려 깊은 완화 없이 이러한 모델은 부정확하거나 심지어 유해한 콘텐츠를 생성할 가능성이 있습니다. Microsoft는 책임 있는 AI 사용에 대한 Microsoft의 원칙 통합, 서비스 사용을 위한 행동 강령 채택, 고객을 지원하기 위한 콘텐츠 필터 빌드, Azure AI 에이전트 서비스를 사용할 때 고객이 고려해야 하는 책임 있는 AI 정보 및 지침을 제공하는 등 남용 및 의도하지 않은 피해를 방지하기 위해 상당한 투자를 했습니다.

Azure AI 에이전트 서비스 시작

Azure AI 에이전트 서비스를 시작하려면 Azure 구독에서 Azure AI Foundry 허브 및 에이전트 프로젝트를 만들어야 합니다.

서비스를 처음 사용하는 경우 빠른 시작 가이드로 시작합니다.

필요한 리소스를 사용하여 AI 허브 및 프로젝트를 만들 수 있습니다.
프로젝트를 만든 후 GPT-4o와 같은 호환되는 모델을 배포할 수 있습니다.
배포된 모델이 있는 경우 SDK를 사용하여 서비스에 대한 API 호출을 시작할 수도 있습니다.

다음 단계

전원 에이전트를 사용하는 모델에 대해 자세히 알아봅니다.

다음을 통해 공유