Przepływ monitów w portalu usługi Azure AI Foundry
Ważne
Elementy oznaczone (wersja zapoznawcza) w tym artykule są obecnie dostępne w publicznej wersji zapoznawczej. Ta wersja zapoznawcza jest udostępniana bez umowy dotyczącej poziomu usług i nie zalecamy korzystania z niej w przypadku obciążeń produkcyjnych. Niektóre funkcje mogą być nieobsługiwane lub ograniczone. Aby uzyskać więcej informacji, zobacz Uzupełniające warunki korzystania z wersji zapoznawczych platformy Microsoft Azure.
Przepływ monitów to narzędzie programistyczne zaprojektowane w celu usprawnienia całego cyklu tworzenia aplikacji sztucznej inteligencji obsługiwanych przez duże modele językowe (LLM). Przepływ monitów zapewnia kompleksowe rozwiązanie, które upraszcza proces tworzenia prototypów, eksperymentowania, iteracji i wdrażania aplikacji wykorzystujących sztuczną inteligencję.
Przepływ monitów jest dostępny niezależnie jako projekt open source w usłudze GitHub z własnym zestawem SDK i rozszerzeniem programu VS Code. Przepływ monitów jest również dostępny i zalecany do użycia jako funkcja zarówno w usłudze Azure AI Foundry, jak i w usłudze Azure Machine Learning Studio. Ten zestaw dokumentacji koncentruje się na przepływie monitów w portalu usługi Azure AI Foundry.
Definicje:
- Przepływ monitów to funkcja, która może służyć do generowania, dostosowywania lub uruchamiania przepływu.
- Przepływ to zestaw instrukcji wykonywalnych, który może implementować logikę sztucznej inteligencji. Przepływy można tworzyć lub uruchamiać za pomocą wielu narzędzi, takich jak wstępnie utworzona kanwa, LangChain itp. Iteracji przepływu można zapisać jako zasoby; po wdrożeniu przepływu staje się interfejsem API. Nie wszystkie przepływy są przepływami monitów; zamiast tego przepływ monitu jest jednym ze sposobów tworzenia przepływu.
- Monit to pakiet danych wejściowych wysyłanych do modelu, składający się z danych wejściowych użytkownika, komunikatu systemowego i wszystkich przykładów. Dane wejściowe użytkownika to tekst przesłany w oknie czatu. Komunikat systemowy to zestaw instrukcji dotyczących modelu określający zakres jego zachowań i funkcjonalności.
- Przykładowy przepływ to prosty, wstępnie utworzony przepływ aranżacji, który pokazuje sposób działania przepływów i można go dostosować.
- Przykładowy monit jest zdefiniowanym monitem dla określonego scenariusza, który można skopiować z biblioteki i używany jako jest lub modyfikowany w projekcie monitu.
Zalety przepływu monitów
Przepływ monitów w portalu azure AI Foundry umożliwia:
- Orkiestruj przepływy wykonywalne za pomocą narzędzi LLM, monitów i języka Python za pomocą wizualizowanego grafu.
- Debugowanie, udostępnianie i iterowanie przepływów z łatwością dzięki współpracy zespołowej.
- Utwórz warianty monitów i porównaj ich wydajność.
Monituj o elastyczność inżynieryjną
- Interaktywne środowisko tworzenia: Przepływ monitów zapewnia wizualną reprezentację struktury przepływu, umożliwiając łatwe zrozumienie i nawigowanie po projektach.
- Warianty dostrajania monitów: można tworzyć i porównywać wiele wariantów monitów, ułatwiając iteracyjny proces uściślenia.
- Ocena: Wbudowane przepływy ewaluacyjne umożliwiają ocenę jakości i skuteczności monitów i przepływów.
- Kompleksowe zasoby: Przepływ monitów zawiera bibliotekę wbudowanych narzędzi, przykładów i szablonów, które służą jako punkt wyjścia do opracowywania, inspirującej kreatywności i przyspieszania procesu.
Gotowość przedsiębiorstwa
- Współpraca: Przepływ monitów obsługuje współpracę zespołową, umożliwiając wielu użytkownikom współpracę nad monitowymi projektami inżynieryjnymi, udostępnianie wiedzy i utrzymywanie kontroli wersji.
- Platforma all-in-one: Przepływ monitów usprawnia cały proces inżynieryjny, od programowania i oceny po wdrażanie i monitorowanie. Możesz bez wysiłku wdrażać swoje przepływy jako punkty końcowe sztucznej inteligencji platformy Azure i monitorować ich wydajność w czasie rzeczywistym, zapewniając optymalną operację i ciągłe ulepszanie.
- Rozwiązania do gotowości dla przedsiębiorstw: przepływ monitów stosuje niezawodne rozwiązania do gotowości przedsiębiorstwa z użyciem sztucznej inteligencji platformy Azure, zapewniając bezpieczne, skalowalne i niezawodne podstawy do opracowywania, eksperymentowania i wdrażania przepływów.
Dzięki przepływowi monitów w portalu azure AI Foundry możesz uwolnić elastyczność inżynieryjną, efektywnie współpracować i zastosować rozwiązania klasy korporacyjnej w celu pomyślnego tworzenia i wdrażania aplikacji opartych na usłudze LLM.
Cykl projektowania przepływu
Przepływ monitów oferuje dobrze zdefiniowany proces, który ułatwia bezproblemowe tworzenie aplikacji sztucznej inteligencji. Dzięki niej można skutecznie przechodzić przez etapy opracowywania, testowania, dostrajania i wdrażania przepływów, co ostatecznie skutkuje tworzeniem w pełni użytecznych aplikacji sztucznej inteligencji.
Cykl życia składa się z następujących etapów:
- Inicjowanie: zidentyfikuj przypadek użycia biznesowego, zbierz przykładowe dane, dowiedz się, jak utworzyć podstawowy monit i opracować przepływ rozszerzający jego możliwości.
- Eksperymentowanie: w razie potrzeby uruchom przepływ względem przykładowych danych, oceń wydajność monitu i iteruj przepływ. Stale eksperymentuj, dopóki wyniki nie będą zadowalające.
- Ocena i uściślenie: oceń wydajność przepływu, uruchamiając go względem większego zestawu danych, oceniając skuteczność monitu i uściślij zgodnie z potrzebami. Przejdź do następnego etapu, jeśli wyniki spełniają żądane kryteria.
- Produkcja: zoptymalizuj przepływ pod kątem wydajności i skuteczności, wdróż go, monitoruj wydajność w środowisku produkcyjnym i zbieraj dane użycia oraz opinie. Skorzystaj z tych informacji, aby ulepszyć przepływ i przyczynić się do wcześniejszych etapów dalszej iteracji.
Stosując tę ustrukturyzowaną i metodyczną metodę, przepływ monitowania umożliwia tworzenie, rygorystyczne testowanie, dostosowywanie i wdrażanie przepływów z ufnością, co pozwala na tworzenie niezawodnych i zaawansowanych aplikacji sztucznej inteligencji.
Typy przepływów
W portalu azure AI Foundry możesz uruchomić nowy przepływ, wybierając typ przepływu lub szablon z galerii.
Oto kilka przykładów typów przepływów:
- Przepływ standardowy: przeznaczony do ogólnego tworzenia aplikacji standardowy przepływ umożliwia tworzenie przepływu przy użyciu szerokiej gamy wbudowanych narzędzi do tworzenia aplikacji opartych na języku LLM. Zapewnia elastyczność i wszechstronność tworzenia aplikacji w różnych domenach.
- Przepływ czatu: dostosowany do tworzenia aplikacji konwersacyjnych, przepływ czatu opiera się na możliwościach standardowego przepływu i zapewnia rozszerzoną obsługę danych wejściowych/wyjściowych czatów i zarządzania historią czatów. Dzięki natywnym trybowi konwersacji i wbudowanym funkcjom można bezproblemowo opracowywać i debugować aplikacje w kontekście konwersacyjnym.
- Przepływ oceny: zaprojektowany pod kątem scenariuszy oceny przepływ oceny umożliwia utworzenie przepływu, który pobiera dane wyjściowe z poprzedniego przepływu jako dane wejściowe. Ten typ przepływu umożliwia ocenę wydajności poprzednich wyników przebiegu i danych wyjściowych odpowiednich metryk, ułatwiając ocenę i ulepszanie modeli lub aplikacji.
Przepływy
Przepływ w przepływie monitu służy jako wykonywalny przepływ pracy, który usprawnia opracowywanie aplikacji sztucznej inteligencji opartej na usłudze LLM. Zapewnia kompleksową strukturę do zarządzania przepływem danych i przetwarzaniem w aplikacji.
W ramach przepływu węzły są etapem centralnym, reprezentując określone narzędzia z unikatowymi możliwościami. Te węzły obsługują przetwarzanie danych, wykonywanie zadań i operacje algorytmiczne z danymi wejściowymi i wyjściowymi. Łącząc węzły, należy ustanowić bezproblemowy łańcuch operacji, który prowadzi przepływ danych przez aplikację.
Aby ułatwić konfigurację węzła i dostrajanie, wizualna reprezentacja struktury przepływu pracy jest dostarczana za pomocą grafu DAG (skierowanego grafu Acyklicznego). Ten wykres przedstawia łączność i zależności między węzłami, zapewniając jasny przegląd całego przepływu pracy.
Funkcja przepływu w przepływie monitowania umożliwia projektowanie, dostosowywanie i optymalizowanie logiki aplikacji sztucznej inteligencji. Spójny układ węzłów zapewnia wydajne przetwarzanie danych i efektywne zarządzanie przepływami, umożliwiając tworzenie niezawodnych i zaawansowanych aplikacji.
Monituj narzędzia przepływu
Narzędzia to podstawowe bloki konstrukcyjne przepływu.
W portalu azure AI Foundry opcje narzędzi obejmują narzędzie LLM, narzędzie monitu, narzędzie języka Python i inne.
Każde narzędzie jest prostą jednostką wykonywalną z określoną funkcją. Łącząc różne narzędzia, można utworzyć przepływ, który osiąga szeroką gamę celów. Na przykład możesz użyć narzędzia LLM do wygenerowania tekstu lub podsumowania artykułu oraz narzędzia języka Python w celu przetworzenia tekstu w celu poinformowania o następnym składniku przepływu lub wyniku.
Jedną z kluczowych zalet narzędzi do przepływu monitów jest bezproblemowa integracja z interfejsami API innych firm i pakietami open source języka Python. Poprawia to nie tylko funkcjonalność dużych modeli językowych, ale także sprawia, że proces programowania jest bardziej wydajny dla deweloperów.
Jeśli narzędzia przepływu monitów w portalu azure AI Foundry nie spełniają Twoich wymagań, możesz opracować własne narzędzie niestandardowe i utworzyć go jako pakiet narzędzi. Aby dowiedzieć się więcej niestandardowych narzędzi opracowanych przez społeczność open source, odwiedź stronę monituj o przepływ niestandardowych narzędzi.