Dokumentacja wnioskowania modelu AI platformy Azure

Wnioskowanie modelu AI platformy Azure zapewnia dostęp do najbardziej zaawansowanych modeli dostępnych w katalogu modeli AI platformy Azure. Modele pochodzą od kluczowych dostawców modeli w branży, w tym OpenAI, Microsoft, Meta, Mistral, Cohere, G42 i AI21 Labs. Modele te można zintegrować z rozwiązaniami programowymi, aby dostarczać szeroką gamę zadań obejmujących generowanie zawartości, podsumowywanie, zrozumienie obrazów, wyszukiwanie semantyczne i generowanie kodu.

Wnioskowanie modelu AI platformy Azure

Omówienie

• Co to jest wnioskowanie modelu AI platformy Azure?
• Modele
• Limity przydziału i limity
• Języki programowania/zestawy SDK

Szybki start

• Tworzenie zasobów i konfigurowanie
• Uaktualnianie z modeli Usługi GitHub do wnioskowania modelu AI platformy Azure
• Konfigurowanie projektów sztucznej inteligencji do pracy z wnioskowaniem modelu AI platformy Azure

Konfigurowanie i zarządzanie

Pojęcie

• Punkty końcowe i wdrożenia
• Typy wdrożeń
• Filtrowanie zawartości

Przewodnik z instrukcjami

• Wdrażanie i konfigurowanie modeli
• Konfigurowanie filtrów zawartości
• Konfigurowanie list zablokowanych (wersja zapoznawcza)
• Konfigurowanie uwierzytelniania bez klucza
• Zarządzanie kosztami

Programowanie

Pojęcie

• Języki programowania/zestawy SDK

Rozpocznij

• Osadzanie tekstu
• Osadzanie obrazów
• Ukończenie czatu
• Analizowanie
• Programowanie za pomocą języka LangChain lub LangGraph
• Programowanie za pomocą usługi Llama-Index
• Programowanie za pomocą jądra semantycznego