Monitorowanie usługi Azure OpenAI

W tym artykule opisano:

• Typy danych monitorowania, które można zbierać dla tej usługi.
• Sposoby analizowania tych danych.

Uwaga

Jeśli znasz już tę usługę i/lub usługę Azure Monitor i chcesz wiedzieć, jak analizować dane monitorowania, zobacz sekcję Analizowanie pod koniec tego artykułu.

Jeśli masz krytyczne aplikacje i procesy biznesowe korzystające z zasobów platformy Azure, musisz monitorować i otrzymywać alerty dla systemu. Usługa Azure Monitor zbiera i agreguje metryki i dzienniki z każdego składnika systemu. Usługa Azure Monitor zapewnia wgląd w dostępność, wydajność i odporność oraz powiadamia o problemach. Do konfigurowania i wyświetlania danych monitorowania można użyć witryny Azure Portal, programu PowerShell, interfejsu wiersza polecenia platformy Azure, interfejsu API REST lub bibliotek klienckich.

• Aby uzyskać więcej informacji na temat usługi Azure Monitor, zobacz Omówienie usługi Azure Monitor.
• Aby uzyskać więcej informacji na temat ogólnego monitorowania zasobów platformy Azure, zobacz Monitorowanie zasobów platformy Azure za pomocą usługi Azure Monitor.

Pulpity nawigacyjne

Usługa Azure OpenAI udostępnia gotowe pulpity nawigacyjne dla każdego zasobu usługi Azure OpenAI. Aby uzyskać dostęp do logowania się do https://portal.azure.com pulpitów nawigacyjnych monitorowania i wybrać okienko przeglądu dla jednego z zasobów usługi Azure OpenAI.

Pulpity nawigacyjne są pogrupowane w cztery kategorie: żądania HTTP, użycie oparte na tokenach, wykorzystanie jednostki PTU i dostrajanie.

Zbieranie i routing danych w usłudze Azure Monitor

Usługa Azure OpenAI zbiera te same rodzaje danych monitorowania co inne zasoby platformy Azure. Usługę Azure Monitor można skonfigurować tak, aby generowała dane w dziennikach aktywności, dziennikach zasobów, dziennikach maszyn wirtualnych i metrykach platformy. Aby uzyskać więcej informacji, zobacz Monitorowanie danych z zasobów platformy Azure.

Metryki platformy i dziennik aktywności usługi Azure Monitor są zbierane i przechowywane automatycznie. Te dane można kierować do innych lokalizacji przy użyciu ustawienia diagnostycznego. Dzienniki zasobów usługi Azure Monitor nie są zbierane i przechowywane do momentu utworzenia ustawienia diagnostycznego, a następnie kierowania dzienników do co najmniej jednej lokalizacji.

Podczas tworzenia ustawienia diagnostycznego należy określić kategorie dzienników, które mają być zbierane. Aby uzyskać więcej informacji na temat tworzenia ustawienia diagnostycznego przy użyciu witryny Azure Portal, interfejsu wiersza polecenia platformy Azure lub programu PowerShell, zobacz Tworzenie ustawienia diagnostycznego w celu zbierania dzienników platformy i metryk na platformie Azure.

Należy pamiętać, że korzystanie z ustawień diagnostycznych i wysyłanie danych do dzienników usługi Azure Monitor wiąże się z innymi kosztami. Aby uzyskać więcej informacji, zobacz Azure Monitor Logs cost calculations and options (Obliczenia i opcje dotyczące kosztów dzienników usługi Azure Monitor).

Metryki i dzienniki, które można zebrać, zostały opisane w poniższych sekcjach.

Typy zasobów

Platforma Azure używa koncepcji typów zasobów i identyfikatorów, aby zidentyfikować wszystko w subskrypcji. Typy zasobów są również częścią identyfikatorów zasobów dla każdego zasobu uruchomionego na platformie Azure. Na przykład jeden typ zasobu dla maszyny wirtualnej to Microsoft.Compute/virtualMachines. Aby uzyskać listę usług i skojarzonych z nimi typów zasobów, zobacz Dostawcy zasobów.

Usługa Azure Monitor podobnie organizuje podstawowe dane monitorowania w metryki i dzienniki na podstawie typów zasobów, nazywanych również przestrzeniami nazw. Różne metryki i dzienniki są dostępne dla różnych typów zasobów. Usługa może być skojarzona z więcej niż jednym typem zasobu.

Aby uzyskać więcej informacji na temat typów zasobów dla usługi Azure OpenAI, zobacz Dokumentacja danych monitorowania usługi Azure OpenAI.

Magazyn danych

W przypadku usługi Azure Monitor:

• Dane metryk są przechowywane w bazie danych metryk usługi Azure Monitor.
• Dane dziennika są przechowywane w magazynie dzienników usługi Azure Monitor. Log Analytics to narzędzie w witrynie Azure Portal, które może wykonywać zapytania dotyczące tego magazynu.
• Dziennik aktywności platformy Azure to oddzielny magazyn z własnym interfejsem w witrynie Azure Portal.

Opcjonalnie możesz kierować dane metryki i dziennika aktywności do magazynu dzienników usługi Azure Monitor. Następnie możesz użyć usługi Log Analytics, aby wykonać zapytanie o dane i skorelować je z innymi danymi dziennika.

Wiele usług może używać ustawień diagnostycznych do wysyłania danych metryk i dzienników do innych lokalizacji przechowywania poza usługą Azure Monitor. Przykłady obejmują usługę Azure Storage, hostowane systemy partnerskie i systemy partnerskie spoza platformy Azure przy użyciu usługi Event Hubs.

Aby uzyskać szczegółowe informacje na temat sposobu przechowywania danych przez usługę Azure Monitor, zobacz Azure Monitor data platformy.

Metryki platformy usługi Azure Monitor

Usługa Azure Monitor udostępnia metryki platformy dla większości usług. Te metryki to:

• Definiowane indywidualnie dla każdej przestrzeni nazw.
• Przechowywane w bazie danych metryk szeregów czasowych usługi Azure Monitor.
• Lekki i zdolny do obsługi alertów niemal w czasie rzeczywistym.
• Służy do śledzenia wydajności zasobu w czasie.

Kolekcja: usługa Azure Monitor automatycznie zbiera metryki platformy. Nie jest wymagana żadna konfiguracja.

Routing: możesz również kierować niektóre metryki platformy do dzienników usługi Azure Monitor/ usługi Log Analytics, aby móc wykonywać zapytania względem nich przy użyciu innych danych dziennika. Sprawdź ustawienie eksportu DS dla każdej metryki, aby sprawdzić, czy możesz użyć ustawienia diagnostycznego, aby kierować metrykę do dzienników usługi Azure Monitor/ usługi Log Analytics.

• Aby uzyskać więcej informacji, zobacz ustawienie diagnostyczne Metryki.
• Aby skonfigurować ustawienia diagnostyczne dla usługi, zobacz Tworzenie ustawień diagnostycznych w usłudze Azure Monitor.

Aby uzyskać listę wszystkich metryk, które można zebrać dla wszystkich zasobów w usłudze Azure Monitor, zobacz Obsługiwane metryki w usłudze Azure Monitor.

Usługa Azure OpenAI ma wspólność z podzbiorem usług Azure AI. Aby uzyskać listę dostępnych metryk dla usługi Azure OpenAI, zobacz Dokumentacja danych monitorowania usługi Azure OpenAI.

Dzienniki zasobów usługi Azure Monitor

Dzienniki zasobów zapewniają wgląd w operacje wykonywane przez zasób platformy Azure. Dzienniki są generowane automatycznie, ale należy skierować je do dzienników usługi Azure Monitor, aby je zapisać lub wysłać do nich zapytanie. Dzienniki są zorganizowane w kategoriach. Dana przestrzeń nazw może mieć wiele kategorii dziennika zasobów.

Kolekcja: dzienniki zasobów nie są zbierane i przechowywane do momentu utworzenia ustawienia diagnostycznego i kierowania dzienników do co najmniej jednej lokalizacji. Podczas tworzenia ustawienia diagnostycznego należy określić kategorie dzienników, które mają być zbierane. Istnieje wiele sposobów tworzenia i konserwacji ustawień diagnostycznych, w tym witryny Azure Portal, programowo i choć usługi Azure Policy.

Routing: sugerowaną wartością domyślną jest kierowanie dzienników zasobów do dzienników usługi Azure Monitor, co umożliwia wykonywanie zapytań względem nich przy użyciu innych danych dziennika. Dostępne są również inne lokalizacje, takie jak Azure Storage, Azure Event Hubs i niektórzy partnerzy monitorowania firmy Microsoft. Aby uzyskać więcej informacji, zobacz Dzienniki zasobów platformy Azure i lokalizacje docelowe dziennika zasobów.

Aby uzyskać szczegółowe informacje na temat zbierania, przechowywania i routingu dzienników zasobów, zobacz Ustawienia diagnostyczne w usłudze Azure Monitor.

Aby uzyskać listę wszystkich dostępnych kategorii dzienników zasobów w usłudze Azure Monitor, zobacz Obsługiwane dzienniki zasobów w usłudze Azure Monitor.

Wszystkie dzienniki zasobów w usłudze Azure Monitor mają te same pola nagłówka, a następnie pola specyficzne dla usługi. Typowy schemat jest opisany w schemacie dziennika zasobów usługi Azure Monitor.

Aby uzyskać dostępne kategorie dzienników zasobów, skojarzone z nimi tabele usługi Log Analytics i schematy dzienników dla usługi Azure OpenAI, zobacz Dokumentacja danych monitorowania usługi Azure OpenAI.

Dziennik aktywności platformy Azure

Dziennik aktywności zawiera zdarzenia na poziomie subskrypcji, które śledzą operacje dla każdego zasobu platformy Azure widoczne spoza tego zasobu; na przykład utworzenie nowego zasobu lub uruchomienie maszyny wirtualnej.

Kolekcja: zdarzenia dziennika aktywności są generowane automatycznie i zbierane w osobnym magazynie do wyświetlania w witrynie Azure Portal.

Routing: możesz wysyłać dane dziennika aktywności do dzienników usługi Azure Monitor, aby móc analizować je wraz z innymi danymi dziennika. Dostępne są również inne lokalizacje, takie jak Azure Storage, Azure Event Hubs i niektórzy partnerzy monitorowania firmy Microsoft. Aby uzyskać więcej informacji na temat kierowania dziennika aktywności, zobacz Omówienie dziennika aktywności platformy Azure.

Analizowanie danych monitorowania

Istnieje wiele narzędzi do analizowania danych monitorowania.

Narzędzia usługi Azure Monitor

Usługa Azure Monitor obsługuje następujące podstawowe narzędzia:

• Eksplorator metryk — narzędzie w witrynie Azure Portal, które umożliwia wyświetlanie i analizowanie metryk dla zasobów platformy Azure. Aby uzyskać więcej informacji, zobacz Analizowanie metryk za pomocą Eksploratora metryk usługi Azure Monitor.

• Log Analytics — narzędzie w witrynie Azure Portal, które umożliwia wykonywanie zapytań i analizowanie danych dzienników przy użyciu języka zapytań Kusto (KQL). Aby uzyskać więcej informacji, zobacz Rozpoczynanie pracy z zapytaniami dzienników w usłudze Azure Monitor.

• Dziennik aktywności, który zawiera interfejs użytkownika w witrynie Azure Portal do wyświetlania i podstawowych wyszukiwań. Aby przeprowadzić bardziej szczegółową analizę, musisz kierować dane do dzienników usługi Azure Monitor i uruchamiać bardziej złożone zapytania w usłudze Log Analytics.

Narzędzia, które umożliwiają bardziej złożoną wizualizację, obejmują:

• Pulpity nawigacyjne, które umożliwiają łączenie różnych rodzajów danych w jednym okienku w witrynie Azure Portal.
• Skoroszyty, dostosowywalne raporty, które można utworzyć w witrynie Azure Portal. Skoroszyty mogą zawierać tekst, metryki i zapytania dziennika.
• Grafana to otwarte narzędzie platformy, które wyróżnia się na operacyjnych pulpitach nawigacyjnych. Za pomocą narzędzia Grafana można tworzyć pulpity nawigacyjne zawierające dane z wielu źródeł innych niż usługa Azure Monitor.
• Power BI, usługa analizy biznesowej, która udostępnia interaktywne wizualizacje w różnych źródłach danych. Usługę Power BI można skonfigurować tak, aby automatycznie importować dane dziennika z usługi Azure Monitor, aby korzystać z tych wizualizacji.

Konfigurowanie ustawień diagnostycznych

Wszystkie metryki można eksportować przy użyciu ustawień diagnostycznych w usłudze Azure Monitor. Aby analizować dzienniki i dane metryk za pomocą zapytań usługi Log Analytics usługi Azure Monitor, należy skonfigurować ustawienia diagnostyczne dla zasobu usługi Azure OpenAI i obszaru roboczego usługi Log Analytics.

Po skonfigurowaniu ustawień diagnostycznych możesz pracować z metrykami i danymi dziennika dla zasobu usługi Azure OpenAI w obszarze roboczym usługi Log Analytics.

Narzędzia eksportu usługi Azure Monitor

Dane z usługi Azure Monitor można pobrać do innych narzędzi przy użyciu następujących metod:

• Metryki: użyj interfejsu API REST dla metryk , aby wyodrębnić dane metryk z bazy danych metryk usługi Azure Monitor. Interfejs API obsługuje wyrażenia filtrów w celu uściślinia pobranych danych. Aby uzyskać więcej informacji, zobacz Dokumentacja interfejsu API REST usługi Azure Monitor.

• Dzienniki: użyj interfejsu API REST lub skojarzonych bibliotek klienckich.

• Inną opcją jest eksportowanie danych obszaru roboczego.

Aby rozpocząć pracę z interfejsem API REST dla usługi Azure Monitor, zobacz Przewodnik po interfejsie API REST monitorowania platformy Azure.

Zapytania usługi Kusto

Dane monitorowania można analizować w magazynie dzienników usługi Azure Monitor /Log Analytics przy użyciu języka zapytań Kusto (KQL).

Ważne

Po wybraniu pozycji Dzienniki z menu usługi w portalu usługa Log Analytics zostanie otwarta z zakresem zapytania ustawionym na bieżącą usługę. Ten zakres oznacza, że zapytania dziennika będą zawierać tylko dane z tego typu zasobu. Jeśli chcesz uruchomić zapytanie zawierające dane z innych usług platformy Azure, wybierz pozycję Dzienniki z menu usługi Azure Monitor . Aby uzyskać szczegółowe informacje, zobacz Zakres zapytań dzienników i zakres czasu w usłudze Azure Monitor Log Analytics .

Aby uzyskać listę typowych zapytań dotyczących dowolnej usługi, zobacz interfejs zapytań usługi Log Analytics.

Po wdrożeniu modelu usługi Azure OpenAI możesz wysłać kilka wywołań ukończenia przy użyciu środowiska zabaw w usłudze Azure AI Studio.

Dowolny tekst wprowadzony na placu zabaw ukończenia lub plac zabaw czatu generuje metryki i dane dziennika dla zasobu usługi Azure OpenAI. W obszarze roboczym usługi Log Analytics dla zasobu możesz wykonywać zapytania dotyczące danych monitorowania przy użyciu języka zapytań Kusto .

Ważne

Opcja Otwórz zapytanie na stronie zasobu azure OpenAI przechodzi do usługi Azure Resource Graph, która nie została opisana w tym artykule. Poniższe zapytania używają środowiska zapytań dla usługi Log Analytics. Pamiętaj, aby wykonać kroki opisane w temacie Konfigurowanie ustawień diagnostycznych w celu przygotowania obszaru roboczego usługi Log Analytics.

1. Na stronie zasobu Azure OpenAI w obszarze Monitorowanie w okienku po lewej stronie wybierz pozycję Dzienniki.

2. Wybierz obszar roboczy usługi Log Analytics skonfigurowany z diagnostyką dla zasobu usługi Azure OpenAI.

3. Na stronie obszaru roboczego usługi Log Analytics w obszarze Przegląd w okienku po lewej stronie wybierz pozycję Dzienniki.

   W witrynie Azure Portal zostanie wyświetlone okno Zapytania z przykładowymi zapytaniami i sugestiami domyślnie. Możesz zamknąć to okno.

W poniższych przykładach wprowadź zapytanie Kusto w regionie edycji w górnej części okna Zapytanie , a następnie wybierz pozycję Uruchom. Wyniki zapytania są wyświetlane poniżej tekstu zapytania.

Poniższe zapytanie Kusto jest przydatne podczas początkowej analizy danych Diagnostyka Azure (AzureDiagnostics) dotyczących zasobu:

AzureDiagnostics
| take 100
| project TimeGenerated, _ResourceId, Category, OperationName, DurationMs, ResultSignature, properties_s

To zapytanie zwraca próbkę 100 wpisów i wyświetla podzbiór dostępnych kolumn danych w dziennikach. W wynikach zapytania możesz wybrać strzałkę obok nazwy tabeli, aby wyświetlić wszystkie dostępne kolumny i skojarzone typy danych.

Aby wyświetlić wszystkie dostępne kolumny danych, możesz usunąć wiersz | project ... parametrów określania zakresu z zapytania:

AzureDiagnostics
| take 100

Aby sprawdzić dane metryk platformy Azure (AzureMetrics) dla zasobu, uruchom następujące zapytanie:

AzureMetrics
| take 100
| project TimeGenerated, MetricName, Total, Count, Maximum, Minimum, Average, TimeGrain, UnitName

Zapytanie zwraca próbkę 100 wpisów i wyświetla podzestaw dostępnych kolumn danych metryk platformy Azure:

Uwaga

Po wybraniu pozycji Dzienniki monitorowania>w menu Azure OpenAI dla zasobu usługa Log Analytics zostanie otwarta z zakresem zapytania ustawionym na bieżący zasób. Widoczne zapytania dziennika obejmują dane tylko z tego konkretnego zasobu. Aby uruchomić zapytanie zawierające dane z innych zasobów lub danych z innych usług platformy Azure, wybierz pozycję Dzienniki z menu usługi Azure Monitor w witrynie Azure Portal. Aby uzyskać więcej informacji, zobacz Zakres zapytań dzienników i zakres czasu w usłudze Azure Monitor Log Analytics , aby uzyskać szczegółowe informacje.

Alerty

Alerty usługi Azure Monitor proaktywnie powiadamiają o znalezieniu określonych warunków w danych monitorowania. Alerty umożliwiają identyfikowanie i rozwiązywanie problemów w systemie przed ich zauważeniem przez klientów. Aby uzyskać więcej informacji, zobacz Alerty usługi Azure Monitor.

Istnieje wiele źródeł typowych alertów dotyczących zasobów platformy Azure. Przykłady typowych alertów dotyczących zasobów platformy Azure można znaleźć w temacie Przykładowe zapytania alertów dziennika. Witryna Alerty bazowe usługi Azure Monitor (AMBA) udostępnia częściowo zautomatyzowaną metodę implementowania ważnych alertów metryk platformy, pulpitów nawigacyjnych i wytycznych. Witryna ma zastosowanie do stale powiększającego się podzestawu usług platformy Azure, w tym wszystkich usług, które są częścią strefy docelowej platformy Azure (ALZ).

Typowy schemat alertu standandaryzuje użycie powiadomień o alertach usługi Azure Monitor. Aby uzyskać więcej informacji, zobacz Wspólny schemat alertów.

Typy alertów

Możesz otrzymywać alerty dotyczące dowolnej metryki lub źródła danych dziennika na platformie danych usługi Azure Monitor. Istnieje wiele różnych typów alertów w zależności od usług, które monitorujesz i zbieranych danych monitorowania. Różne typy alertów mają różne zalety i wady. Aby uzyskać więcej informacji, zobacz Wybieranie odpowiedniego typu alertu monitorowania.

Poniższa lista zawiera opis typów alertów usługi Azure Monitor, które można utworzyć:

• Alerty metryk oceniają metryki zasobów w regularnych odstępach czasu. Metryki mogą być metrykami platformy, metrykami niestandardowymi, dziennikami z usługi Azure Monitor przekonwertowanym na metryki lub metrykami usługi Application Insights. Alerty metryk mogą również stosować wiele warunków i progów dynamicznych.
• Alerty dzienników umożliwiają użytkownikom używanie zapytania usługi Log Analytics do oceny dzienników zasobów z wstępnie zdefiniowaną częstotliwością.
• Alerty dziennika aktywności są wyzwalane, gdy wystąpi nowe zdarzenie dziennika aktywności zgodne ze zdefiniowanymi warunkami. Alerty usługi Resource Health i alerty usługi Service Health to alerty dziennika aktywności, które zgłaszają kondycję usługi i zasobów.

Niektóre usługi platformy Azure obsługują również alerty wykrywania inteligentnego, alerty Prometheus lub zalecane reguły alertów.

W przypadku niektórych usług można monitorować na dużą skalę, stosując tę samą regułę alertu metryki do wielu zasobów tego samego typu, które istnieją w tym samym regionie świadczenia usługi Azure. Poszczególne powiadomienia są wysyłane dla każdego monitorowanego zasobu. Aby uzyskać informacje o obsługiwanych usługach i chmurach platformy Azure, zobacz Monitorowanie wielu zasobów przy użyciu jednej reguły alertu.

Konfigurowanie alertów

Wymagania dotyczące zgłaszania alertów w każdej organizacji różnią się i mogą się zmieniać wraz z upływem czasu. Ogólnie rzecz biorąc, wszystkie alerty powinny być możliwe do działania i mieć określoną określoną odpowiedź, jeśli wystąpi alert. Jeśli alert nie wymaga natychmiastowej odpowiedzi, warunek można przechwycić w raporcie, a nie w alercie. Niektóre przypadki użycia mogą wymagać alertów w dowolnym momencie istnienia określonych warunków błędu. W innych przypadkach mogą być potrzebne alerty dotyczące błędów, które przekraczają określony próg w wyznaczonym przedziale czasu.

Błędy poniżej niektórych progów można często oceniać za pomocą regularnej analizy danych w dziennikach usługi Azure Monitor. Podczas analizowania danych dziennika w czasie może się okazać, że określony warunek nie występuje przez oczekiwany okres czasu. Ten warunek można śledzić przy użyciu alertów. Czasami brak zdarzenia w dzienniku jest tak samo ważny jak sygnał jako błąd.

W zależności od typu aplikacji opracowywanej przy użyciu usługi Azure OpenAI usługa Azure Monitor Application Insights może oferować więcej korzyści z monitorowania w warstwie aplikacji.

Reguły alertów usługi Azure OpenAI

Alerty można ustawić dla dowolnej metryki, wpisu dziennika lub wpisu dziennika aktywności wymienionego w dokumentacji danych monitorowania usługi Azure OpenAI.

Zalecenia doradcy

W przypadku niektórych usług, jeśli podczas operacji zasobów wystąpią krytyczne warunki lub nieuchronne zmiany, na stronie Przegląd usługi w portalu zostanie wyświetlony alert. Więcej informacji i zalecanych poprawek alertu można znaleźć w temacie Zalecenia usługi Advisor w obszarze Monitorowanie w menu po lewej stronie. Podczas normalnych operacji nie są wyświetlane żadne zalecenia doradcy.

Aby uzyskać więcej informacji na temat usługi Azure Advisor, zobacz Omówienie usługi Azure Advisor.

Powiązana zawartość

• Zapoznaj się z dokumentacją danych monitorowania usługi Azure OpenAI, aby uzyskać informacje o metrykach, dziennikach i innych ważnych wartościach utworzonych dla usługi Azure OpenAI.
• Zobacz Monitorowanie zasobów platformy Azure za pomocą usługi Azure Monitor , aby uzyskać ogólne informacje na temat monitorowania zasobów platformy Azure.
• Zobacz Omówienie przeszukiwania dzienników w dziennikach usługi Azure Monitor dotyczących dzienników .