Omówienie cyklu projektowania aplikacji dużego modelu językowego (LLM)

  • 8 min

Zanim dowiesz się, jak pracować z przepływem monitów, zapoznajmy się z cyklem projektowania aplikacji modelu dużego języka (LLM).

Cykl życia składa się z następujących etapów:

Diagram of the four stages of the development lifecycle.

  1. Inicjowanie: zdefiniuj przypadek użycia i zaprojektuj rozwiązanie.
  2. Eksperymentowanie: opracowywanie przepływu i testowanie za pomocą małego zestawu danych.
  3. Ocena i uściślenie: ocena przepływu przy użyciu większego zestawu danych.
  4. Produkcja: wdrażanie i monitorowanie przepływu i aplikacji.

Podczas oceny i uściślenia oraz produkcji może się okazać, że rozwiązanie musi zostać ulepszone. Możesz powrócić do eksperymentowania, podczas którego ciągle opracowujesz przepływ, dopóki nie będziesz zadowolony z wyników.

Przyjrzyjmy się dokładniej każdej z tych faz.

Inicjowanie

Wyobraź sobie, że chcesz zaprojektować i opracować aplikację LLM w celu klasyfikowania artykułów z wiadomościami. Przed rozpoczęciem tworzenia czegokolwiek należy zdefiniować kategorie, które mają być danymi wyjściowymi. Musisz zrozumieć, jak wygląda typowy artykuł z wiadomościami, jak przedstawić artykuł jako dane wejściowe aplikacji i jak aplikacja generuje żądane dane wyjściowe.

Innymi słowy podczas inicjowania :

Diagram of the four steps during initialization.

  1. Definiowanie celu
  2. Zbieranie przykładowego zestawu danych
  3. Tworzenie podstawowego monitu
  4. Projektowanie przepływu

Do projektowania, opracowywania i testowania aplikacji LLM potrzebny jest przykładowy zestaw danych, który służy jako dane wejściowe. Przykładowy zestaw danych to niewielki reprezentatywny podzestaw danych, które w końcu będą analizowany jako dane wejściowe aplikacji LLM.

Podczas zbierania lub tworzenia przykładowego zestawu danych należy zapewnić różnorodność danych, aby uwzględnić różne scenariusze i przypadki brzegowe. Należy również usunąć wszelkie poufne informacje o ochronie prywatności z zestawu danych, aby uniknąć wszelkich luk w zabezpieczeniach.

Eksperymenty

Zebrano przykładowy zestaw danych artykułów z wiadomościami i podjęto decyzję o kategoriach, w których chcesz sklasyfikować artykuły. Zaprojektowano przepływ, który przyjmuje artykuł z wiadomościami jako dane wejściowe i używa programu LLM do klasyfikowania artykułu. Aby sprawdzić, czy przepływ generuje oczekiwane dane wyjściowe, uruchom go względem przykładowego zestawu danych.

Diagram of the four steps during experimentation.

Faza eksperymentowania to proces iteracyjny, podczas którego (1) uruchamiasz przepływ względem przykładowego zestawu danych. Następnie (2) ocenisz wydajność monitu. Jeśli jesteś (3) zadowolony z wyniku, możesz przejść do oceny i uściślenia. Jeśli uważasz, że istnieje miejsce na ulepszenie, możesz (4) zmodyfikować przepływ, zmieniając sam monit lub przepływ.

Ocena i uściślenie

Jeśli dane wyjściowe przepływu klasyfikujące artykuły z wiadomościami są zadowalające na podstawie przykładowego zestawu danych, możesz ocenić wydajność przepływu względem większego zestawu danych.

Testując przepływ w większym zestawie danych, możesz ocenić, jak dobrze aplikacja LLM uogólnia nowe dane. Podczas oceny można zidentyfikować potencjalne wąskie gardła lub obszary optymalizacji lub uściślenia.

Podczas edytowania przepływu należy najpierw uruchomić go względem mniejszego zestawu danych przed ponownym uruchomieniem go względem większego zestawu danych. Testowanie przepływu przy użyciu mniejszego zestawu danych umożliwia szybsze reagowanie na wszelkie problemy.

Gdy aplikacja LLM będzie niezawodna i niezawodna w obsłudze różnych scenariuszy, możesz zdecydować się na przeniesienie aplikacji LLM do środowiska produkcyjnego.

Produkcyjne

Na koniec aplikacja klasyfikacji artykułów z wiadomościami jest gotowa do produkcji.

Diagram of the three steps during production.

Podczas produkcji:

  1. Zoptymalizuj przepływ, który klasyfikuje przychodzące artykuły pod kątem wydajności i skuteczności.
  2. Wdróż przepływ w punkcie końcowym. Po wywołaniu punktu końcowego przepływ zostanie wyzwolony w celu uruchomienia, a żądane dane wyjściowe będą generowane.
  3. Monitoruj wydajność rozwiązania, zbierając dane użycia i opinie użytkowników końcowych. Zrozumienie sposobu działania aplikacji pozwala usprawnić przepływ zawsze wtedy, gdy jest to konieczne.

Eksplorowanie pełnego cyklu życia programowania

Teraz, gdy rozumiesz każdy etap cyklu projektowania aplikacji LLM, możesz zapoznać się z pełnym omówieniem:

Diagram of all stages including their steps of the development lifecycle.