Comprendre les principaux composants et explorer les types de flux
Pour créer une application LLM (Large Language Model) avec un flux d’invite, vous devez comprendre les principaux composants du flux d’invite.
Comprendre un flux
Le flux d’invite est une fonctionnalité au sein d’Azure AI Studio qui vous permet de créer des flux. Les flux sont des workflows exécutables souvent constitués de trois parties :
- Entrées : représentent les données transmises dans le flux. Il peut s’agir de différents types de données, tels que des chaînes, des entiers ou des valeurs booléennes.
- Nœuds : représentent les outils qui effectuent le traitement des données, l’exécution des tâches ou les opérations algorithmiques.
- Sorties : représentent les données produites par le flux.
Semblable à un pipeline, un flux peut se composer de plusieurs nœuds qui peuvent utiliser les entrées du flux ou toute sortie générée par un autre nœud. Vous pouvez ajouter un nœud à un flux en choisissant l’un des types d’outilsdisponibles.
Explorer les outils disponibles dans le flux d’invite
Les trois outils suivants sont couramment utilisés :
- Outil LLM : autorise la création d’invites personnalisées à l’aide de modèles de langage volumineux.
- Outil Python : autorise l’exécution de scripts Python personnalisés.
- Outil d’invite : prépare les invites sous forme de chaînes pour des scénarios complexes ou une intégration avec d’autres outils.
Chaque outil est une unité exécutable avec une fonction spécifique. Vous pouvez utiliser un outil pour effectuer des tâches telles que résumer un texte ou effectuer un appel d’API. Vous pouvez utiliser plusieurs outils au sein d’un flux, et utiliser un outil à plusieurs reprises.
Conseil
Si vous recherchez une fonctionnalité qui n’est pas proposée par les outils disponibles, vous pouvez créer votre propre outil personnalisé.
Chaque fois que vous ajoutez un nouveau nœud à votre flux, en ajoutant un nouvel outil, vous pouvez définir les entrées et sorties attendues. Un nœud peut utiliser l’une des entrées du flux entier, ou la sortie d’un autre nœud, créant par là un lien entre les nœuds.
En définissant les entrées, en connectant des nœuds et en définissant les sorties souhaitées, vous pouvez créer un flux. Les flux vous aident à créer des applications LLM à différentes fins.
Comprendre les types de flux
Vous pouvez créer trois types de flux différents avec le flux d’invite :
- Flux standard : idéal pour le développement général d’applications LLM, offrant une gamme d’outils polyvalents.
- Flux de conversation : conçu pour les applications conversationnelles, avec prise en charge améliorée des fonctionnalités liées aux conversations.
- Flux d’évaluation : axé sur l’évaluation des performances, ce qui permet l’analyse et l’amélioration des modèles ou des applications par le biais de commentaires sur les exécutions précédentes.
Maintenant que vous comprenez comment il est structuré et à quoi il peut servir, examinons comment créer un flux.