의미 체계 커널의 관찰 가능성
관찰 가능성에 대한 간략한 소개
AI 솔루션을 빌드할 때 서비스의 동작을 관찰할 수 있어야 합니다. 관찰성은 분산 시스템 내에서 구성 요소의 내부 상태를 모니터링하고 분석하는 기능입니다. 엔터프라이즈 지원 AI 솔루션을 빌드하기 위한 주요 요구 사항입니다.
관찰성은 일반적으로 로깅, 메트릭 및 추적을 통해 수행됩니다. 그들은 종종 관찰의 세 가지 기둥이라고합니다. 이 세 가지 핵심 요소에서 수집한 데이터를 설명하는 데 사용되는 "원격 분석"이라는 용어도 들립니다. 디버깅과 달리 관찰성은 시스템의 상태 및 성능에 대한 지속적인 개요를 제공합니다.
추가 읽기를 위한 유용한 자료:
의미 체계 커널의 관찰 가능성
의미 체계 커널은 관찰할 수 있도록 설계되었습니다. OpenTelemetry 표준과 호환되는 로그, 메트릭 및 추적을 내보낸다. 선호하는 관찰성 도구를 사용하여 의미 체계 커널을 기반으로 하는 서비스의 동작을 모니터링하고 분석할 수 있습니다.
특히 의미 체계 커널은 다음과 같은 관찰 기능을 제공합니다.
- 로깅: 의미 체계 커널은 커널, 커널 플러그 인 및 함수뿐만 아니라 AI 커넥터의 의미 있는 이벤트 및 오류를 기록합니다.
Important
Application Insights의 추적은 기존 로그 항목 및 OpenTelemetry 범위 이벤트를 나타냅니다. 분산 추적과 동일하지 않습니다.
- 메트릭: 의미 체계 커널은 커널 함수 및 AI 커넥터에서 메트릭을 내보낸다. 커널 함수 실행 시간, AI 커넥터의 토큰 사용 등과 같은 메트릭을 모니터링할 수 있습니다.
- 추적: 의미 체계 커널은 분산 추적을 지원합니다. 다양한 서비스와 의미 체계 커널 내에서 활동을 추적할 수 있습니다.
| 원격 | 설명 |
|---|---|
| Log | 로그는 커널 전체에 기록됩니다. .Net의 로깅에 대한 자세한 내용은 이 문서를 참조하세요. 커널 함수 인수 및 결과와 같은 중요한 데이터는 추적 수준에서 기록됩니다. 로그 수준에 대한 자세한 내용은 이 표를 참조하세요. |
| 활동 | 각 커널 함수 실행 및 AI 모델에 대한 각 호출은 활동으로 기록됩니다. 모든 활동은 "Microsoft.SemanticKernel"이라는 활동 원본에 의해 생성됩니다. |
| 메트릭 | 의미 체계 커널은 커널 함수에서 다음 메트릭을 캡처합니다.
|
| 원격 | 설명 |
|---|---|
| Log | 로그는 커널 전체에 기록됩니다. Python의 로깅에 대한 자세한 내용은 이 문서를 참조하세요. 커널 함수 인수 및 결과와 같은 중요한 데이터는 디버그 수준에서 기록됩니다. |
| 범위 | 각 자동 함수 호출 루프, 각 커널 함수 실행 및 AI 모델에 대한 각 호출은 범위로 기록됩니다. |
| 메트릭 | 의미 체계 커널은 커널 함수에서 다음 메트릭을 캡처합니다.
|
참고 항목
Java에는 시맨틱 커널 관찰 기능을 아직 사용할 수 없습니다.
OpenTelemetry 의미 체계 규칙
의미 체계 커널은 OpenTelemetry 의미 체계 규칙을 따릅니다. 즉, 의미 체계 커널에서 내보낸 로그, 메트릭 및 추적이 구조화되고 공통 스키마를 따릅니다. 이렇게 하면 의미 체계 커널에서 내보낸 원격 분석 데이터를 보다 효과적으로 분석할 수 있습니다.
참고 항목
현재 생성 AI 에 대한 의미 체계 규칙은 실험적 상태입니다. 의미 체계 커널은 OpenTelemetry 의미 체계 규칙을 최대한 긴밀하게 따르고 AI 솔루션에 대한 일관되고 의미 있는 관찰 환경을 제공하기 위해 노력하고 있습니다.
다음 단계
이제 의미 체계 커널의 관찰 가능성을 기본적으로 이해했으므로 원격 분석 데이터를 콘솔에 출력하거나 APM 도구를 사용하여 원격 분석 데이터를 시각화하고 분석하는 방법에 대해 자세히 알아볼 수 있습니다.