Omówienie podstawowych składników i eksplorowanie typów przepływów
Aby utworzyć aplikację modelu dużego języka (LLM) z przepływem monitów, musisz zrozumieć podstawowe składniki przepływu monitów.
Omówienie przepływu
Przepływ monitów to funkcja w programie Azure AI Studio, która umożliwia tworzenie przepływów. Przepływy to przepływy wykonywalne często składają się z trzech części:
- Dane wejściowe: reprezentują dane przekazane do przepływu. Mogą być różnymi typami danych, takimi jak ciągi, liczby całkowite lub wartość logiczna.
- Węzły: reprezentują narzędzia , które wykonują przetwarzanie danych, wykonywanie zadań lub operacje algorytmiczne.
- Dane wyjściowe: reprezentują dane generowane przez przepływ.
Podobnie jak w przypadku potoku, przepływ może składać się z wielu węzłów, które mogą używać danych wejściowych przepływu lub dowolnych danych wyjściowych wygenerowanych przez inny węzeł. Możesz dodać węzeł do przepływu, wybierając jeden z dostępnych typów narzędzi.
Eksplorowanie narzędzi dostępnych w przepływie monitów
Trzy typowe narzędzia to:
- Narzędzie LLM: umożliwia tworzenie niestandardowych monitów przy użyciu dużych modeli językowych.
- Narzędzie języka Python: umożliwia wykonywanie niestandardowych skryptów języka Python.
- Narzędzie monitowania: przygotowuje monity jako ciągi do złożonych scenariuszy lub integracji z innymi narzędziami.
Każde narzędzie jest jednostką wykonywalną z określoną funkcją. Możesz użyć narzędzia do wykonywania zadań, takich jak podsumowywanie tekstu lub wykonywanie wywołania interfejsu API. Można użyć wielu narzędzi w jednym przepływie i wielokrotnie używać narzędzia.
Napiwek
Jeśli szukasz funkcji, które nie są oferowane przez dostępne narzędzia, możesz utworzyć własne narzędzie niestandardowe.
Za każdym razem, gdy dodasz nowy węzeł do przepływu, dodaj nowe narzędzie, możesz zdefiniować oczekiwane dane wejściowe i wyjściowe. Węzeł może używać jednego z danych wejściowych całego przepływu lub danych wyjściowych innego węzła, efektywnie łącząc węzły ze sobą.
Definiując dane wejściowe, łącząc węzły i definiując żądane dane wyjściowe, można utworzyć przepływ. Przepływy ułatwiają tworzenie aplikacji LLM do różnych celów.
Omówienie typów przepływów
Istnieją trzy różne typy przepływów, które można utworzyć za pomocą przepływu monitu:
- Przepływ standardowy: idealny do ogólnego tworzenia aplikacji opartych na usłudze LLM, oferując szereg wszechstronnych narzędzi.
- Przepływ czatu: przeznaczony dla aplikacji konwersacyjnych z rozszerzoną obsługą funkcji związanych z czatami.
- Przepływ oceny: koncentruje się na ocenie wydajności, umożliwiając analizowanie i ulepszanie modeli lub aplikacji za pośrednictwem opinii na temat poprzednich przebiegów.
Teraz, gdy już wiesz, jak przepływ jest ustrukturyzowany i do czego można go użyć, zobaczmy, jak można utworzyć przepływ.