Warianty w przepływie monitu
Przepływ monitów usługi Azure Machine Learning umożliwia dostosowanie monitu przy użyciu wariantów. W tym artykule poznasz koncepcję wariantów przepływu monitu.
Warianty
Wariant odnosi się do określonej wersji węzła narzędzia, która ma odrębne ustawienia. Obecnie warianty są obsługiwane tylko w narzędziu LLM. Na przykład w narzędziu LLM nowy wariant może reprezentować inną zawartość monitu lub inne ustawienia połączenia.
Załóżmy, że chcesz wygenerować podsumowanie artykułu z wiadomościami. Można ustawić różne warianty monitów i ustawień w następujący sposób:
| Warianty | Monit | Ustawienia połączenia |
|---|---|---|
| Wariant 0 | Summary: {{input sentences}} |
Temperatura = 1 |
| Wariant 1 | Summary: {{input sentences}} |
Temperatura = 0,7 |
| Wariant 2 | What is the main point of this article? {{input sentences}} |
Temperatura = 1 |
| Wariant 3 | What is the main point of this article? {{input sentences}} |
Temperatura = 0,7 |
Korzystając z różnych wariantów monitów i ustawień, możesz dowiedzieć się, jak model reaguje na różne dane wejściowe i wyjściowe, umożliwiając odnajdywanie najbardziej odpowiedniej kombinacji dla wymagań.
Zalety korzystania z wariantów
- Zwiększ jakość generacji usługi LLM: tworząc wiele wariantów tego samego węzła LLM z różnymi monitami i konfiguracjami, możesz zidentyfikować optymalną kombinację, która generuje zawartość wysokiej jakości dopasowaną do Twoich potrzeb.
- Oszczędzaj czas i wysiłek: Nawet niewielkie modyfikacje monitu mogą przynieść znacznie różne wyniki. Kluczowe znaczenie ma śledzenie i porównywanie wydajności każdej wersji monitu. Dzięki wariantom można łatwo zarządzać wersjami historycznymi węzłów LLM, ułatwiając aktualizacje na podstawie jakiegokolwiek wariantu bez ryzyka zapomnienia poprzednich iteracji. Pozwala to zaoszczędzić czas i nakład pracy w zarządzaniu historią dostrajania monitów.
- Zwiększenie produktywności: Warianty usprawniają proces optymalizacji dla węzłów LLM, co ułatwia tworzenie wielu odmian i zarządzanie nimi. Możesz osiągnąć lepsze wyniki w krótszym czasie, zwiększając w ten sposób ogólną produktywność.
- Ułatwianie łatwego porównywania: możesz bez wysiłku porównać wyniki uzyskane z różnych wariantów obok siebie, umożliwiając podejmowanie decyzji opartych na danych dotyczących wariantu, który generuje najlepsze wyniki.