Waarneembaarheid in Semantische kernel
Korte inleiding tot waarneembaarheid
Wanneer u AI-oplossingen bouwt, wilt u het gedrag van uw services kunnen observeren. Waarneembaarheid is de mogelijkheid om de interne status van onderdelen binnen een gedistribueerd systeem te bewaken en te analyseren. Het is een belangrijke vereiste voor het bouwen van AI-oplossingen die gereed zijn voor ondernemingen.
Waarneembaarheid wordt doorgaans bereikt via logboekregistratie, metrische gegevens en tracering. Ze worden vaak de drie pijlers van waarneembaarheid genoemd. U hoort ook de term 'telemetrie' die wordt gebruikt om de gegevens te beschrijven die door deze drie pijlers worden verzameld. In tegenstelling tot foutopsporing biedt waarneembaarheid een doorlopend overzicht van de status en prestaties van het systeem.
Nuttige materialen voor meer lezen:
- Waarneembaarheid gedefinieerd door Cloud Native Computing Foundation
- Gedistribueerde tracering
- Waarneembaarheid in .Net
- OpenTelemetry
Waarneembaarheid in Semantische kernel
Semantische kernel is ontworpen om waarneembaar te zijn. Er worden logboeken, metrische gegevens en traceringen verzonden die compatibel zijn met de OpenTelemetry-standaard. U kunt uw favoriete waarneembaarheidshulpprogramma's gebruiken om het gedrag van uw services te bewaken en te analyseren die zijn gebouwd op Semantische kernel.
Semantische kernel biedt de volgende waarneembaarheidsfuncties:
- Logboekregistratie: Semantische kernel registreert zinvolle gebeurtenissen en fouten van de kernel, kernelinvoegtoepassingen en functies, evenals de AI-connectors.
Belangrijk
Traceringen in Application Insights vertegenwoordigen traditionele logboekvermeldingen en OpenTelemetry-span-gebeurtenissen. Ze zijn niet hetzelfde als gedistribueerde traceringen.
- Metrische gegevens: Semantische kernel verzendt metrische gegevens van kernelfuncties en AI-connectors. U kunt metrische gegevens bewaken, zoals de uitvoeringstijd van de kernelfunctie, het tokenverbruik van AI-connectors, enzovoort.
- Tracering: Semantic Kernel ondersteunt gedistribueerde tracering. U kunt activiteiten in verschillende services en binnen Semantische kernel bijhouden.
| Telemetrie | Beschrijving |
|---|---|
| Logboek | Logboeken worden vastgelegd in de kernel. Raadpleeg dit document voor meer informatie over logboekregistratie in .Net. Gevoelige gegevens, zoals argumenten voor kernelfuncties en resultaten, worden vastgelegd op traceringsniveau. Raadpleeg deze tabel voor meer informatie over logboekniveaus. |
| Activiteit | Elke uitvoering van de kernelfunctie en elke aanroep naar een AI-model worden vastgelegd als een activiteit. Alle activiteiten worden gegenereerd door een activiteitsbron met de naam Microsoft.SemanticKernel. |
| Metrische gegevens | Semantische kernel legt de volgende metrische gegevens vast van kernelfuncties:
|
| Telemetrie | Beschrijving |
|---|---|
| Logboek | Logboeken worden vastgelegd in de kernel. Raadpleeg dit document voor meer informatie over logboekregistratie in Python. Gevoelige gegevens, zoals argumenten voor kernelfuncties en resultaten, worden vastgelegd op foutopsporingsniveau. |
| Span | Elke aanroeplus voor automatische functies, elke uitvoering van de kernelfunctie en elke aanroep naar een AI-model worden vastgelegd als een periode. |
| Metrische gegevens | Semantische kernel legt de volgende metrische gegevens vast van kernelfuncties:
|
Notitie
Waarneembaarheid van Semantische kernel is nog niet beschikbaar voor Java.
OpenTelemetry Semantic Convention
Semantische kernel volgt de OpenTelemetry Semantic Convention for Observability. Dit betekent dat de logboeken, metrische gegevens en traceringen die door Semantic Kernel worden verzonden, gestructureerd zijn en een gemeenschappelijk schema volgen. Dit zorgt ervoor dat u de telemetriegegevens die worden verzonden door Semantische kernel effectiever kunt analyseren.
Notitie
Momenteel hebben de Semantische Conventies voor Generatieve AI de experimentele status. Semantische kernel streeft ernaar om de OpenTelemetry Semantic Convention zo dicht mogelijk te volgen en een consistente en zinvolle waarneembaarheidservaring te bieden voor AI-oplossingen.
Volgende stappen
Nu u basiskennis hebt van waarneembaarheid in Semantische kernel, kunt u meer informatie krijgen over het uitvoeren van telemetriegegevens naar de console of het gebruik van APM-hulpprogramma's om telemetriegegevens te visualiseren en te analyseren.