Udostępnij za pośrednictwem

Wizualizowanie śladów

  • Artykuł

Ważne

Elementy oznaczone (wersja zapoznawcza) w tym artykule są obecnie dostępne w publicznej wersji zapoznawczej. Ta wersja zapoznawcza jest udostępniana bez umowy dotyczącej poziomu usług i nie zalecamy korzystania z niej w przypadku obciążeń produkcyjnych. Niektóre funkcje mogą być nieobsługiwane lub ograniczone. Aby uzyskać więcej informacji, zobacz Uzupełniające warunki korzystania z wersji zapoznawczych platformy Microsoft Azure.

Po instrumentowaniu aplikacji w celu rejestrowania śladów omówimy sposób wyświetlania śladów zarówno w rozwiązaniach lokalnych, jak i w chmurze w celu debugowania aplikacji.

Wyświetlanie śladów na potrzeby debugowania lokalnego

Aby włączyć śledzenie lokalnie, dostępne są dwie opcje:

  1. Za pomocą funkcji Prompty możesz śledzić aplikację przy użyciu zestawu SDK wnioskowania sztucznej inteligencji platformy Azure, który oferuje lepszą widoczność i uproszczone rozwiązywanie problemów z aplikacjami opartymi na usłudze LLM. Ta metoda jest zgodna ze specyfikacją OpenTelemetry, przechwytywaniem i wizualizowanie szczegółów wewnętrznych wykonywania dowolnej aplikacji sztucznej inteligencji, co zwiększa ogólne środowisko programistyczne. Aby dowiedzieć się więcej, zobacz Debugowanie monitu.
  2. Pulpit nawigacyjny Aspiruj: bezpłatny pulpit nawigacyjny open-source OpenTelemetry umożliwiający szczegółowe informacje o aplikacjach na lokalnej maszynie dewelopera. Aby dowiedzieć się więcej, zobacz Aspiruj pulpit nawigacyjny.

Wyświetlanie śladów w portalu usługi Azure AI Foundry

Zanim będzie można zalogować się do portalu usługi Azure AI Foundry, dołącz zasób usługi Application Insights do projektu.

  1. Przejdź do projektu w portalu azure AI Foundry.
  2. Wybierz stronę Śledzenie po lewej stronie.
  3. Wybierz pozycję Utwórz nowy , aby dołączyć nowy zasób usługi Application Insights do projektu.
  4. Podaj nazwę i wybierz pozycję Utwórz.

Animacja śledzenia i tworzenia zasobu usługi Application Insights.

Następnie zainstaluj zestaw opentelemetry SDK:

%pip install azure-monitor-opentelemetry

Teraz włącz śledzenie z danymi wyjściowymi w konsoli:

import os
from azure.monitor.opentelemetry import configure_azure_monitor

os.environ['AZURE_TRACING_GEN_AI_CONTENT_RECORDING_ENABLED'] = 'true'
# Enable Azure Monitor tracing
application_insights_connection_string = project.telemetry.get_connection_string()
if not application_insights_connection_string:
    print("Application Insights was not enabled for this project.")
    print("Enable it via the 'Tracing' tab in your Azure AI Foundry project page.")
    exit()
    
configure_azure_monitor(connection_string=application_insights_connection_string)

Na koniec uruchom wywołanie wnioskowania. Wywołanie jest rejestrowane w usłudze Azure AI Foundry. Ten kod wyświetla link do śladów.

response = chat.complete(
    model="gpt-4o-mini",
    messages=[
        {"role": "system", "content": "You are an AI assistant that is a travel planning expert especially with National Parks."},
        {"role": "user", "content": "Hey, can you recommend me trails I should go on when I visit Mount Rainier?"},
    ]
)

print("View traces at:")
print(f"https://ai.azure.com/tracing?wsid=/subscriptions/{project.scope['subscription_id']}/resourceGroups/{project.scope['resource_group_name']}/providers/Microsoft.MachineLearningServices/workspaces/{project.scope['project_name']}")

Wybierz link i rozpocznij wyświetlanie śladów w portalu usługi Azure AI Foundry!

Debugowanie i filtrowanie śladów

W projekcie możesz filtrować ślady w miarę dopasowania.

Wybierając ślad, mogę przejść przez poszczególne zakresy i zidentyfikować problemy podczas obserwowania sposobu reagowania aplikacji.

Animacja filtrowania śladów w portalu.

Aktualizowanie dołączonego zasobu usługi Application Insights

Aby zaktualizować zasób usługi Application Insights dołączony do projektu, przejdź do obszaru Zarządzanie źródłem danych i Edytuj , aby przełączyć się na nowy zasób usługi Application Insights.

Zrzut ekranu przedstawiający wyskakujące okienko Zarządzanie źródłami danych z wyróżnionym przyciskiem edycji.

Wyświetlanie śladów w usłudze Azure Monitor

Jeśli zarejestrowano ślady przy użyciu poprzedniego fragmentu kodu, wszystko jest gotowe do wyświetlania śladów w usłudze Azure Monitor Application Insights. Możesz otworzyć w usłudze Application Insights z obszaru Zarządzanie źródłem danych i użyć widoku Szczegóły transakcji kompleksowej w celu dalszego zbadania.

Aby uzyskać więcej informacji na temat wysyłania śladów wnioskowania usługi Azure AI do usługi Azure Monitor i tworzenia zasobu usługi Azure Monitor, zobacz dokumentację usługi Azure Monitor OpenTelemetry.

Wyświetlanie generowanych zakresów i śladów sztucznej inteligencji

W projekcie usługi Azure AI Foundry możesz również otworzyć niestandardowy pulpit nawigacyjny, który zapewnia szczegółowe informacje, aby ułatwić monitorowanie generowanej aplikacji sztucznej inteligencji.

W tym skoroszycie platformy Azure możesz wyświetlić zakresy sztucznej inteligencji generacji i przejść do widoku szczegółów kompleksowej transakcji usługi Azure Monitor, aby szczegółowo poznać i zbadać.

Dowiedz się więcej o korzystaniu z tego skoroszytu do monitorowania aplikacji, zobacz dokumentację skoroszytu platformy Azure.

Powiązana zawartość