Variantes no fluxo de prompt
Com o fluxo de prompt do Azure Machine Learning, você pode usar variantes para ajustar seu prompt. Neste artigo, você aprenderá o conceito de variantes de fluxo de prompt.
Variantes
Uma variante refere-se a uma versão específica de um nó de ferramenta que tem configurações distintas. Atualmente, as variantes são suportadas apenas na ferramenta LLM. Por exemplo, na ferramenta LLM, uma nova variante pode representar um conteúdo de prompt diferente ou configurações de conexão diferentes.
Suponha que você queira gerar um resumo de uma notícia. Você pode definir diferentes variantes de prompts e configurações como esta:
| Variantes | Pedido | Definições de ligação |
|---|---|---|
| Variante 0 | Summary: {{input sentences}} |
Temperatura = 1 |
| Variante 1 | Summary: {{input sentences}} |
Temperatura = 0,7 |
| Variante 2 | What is the main point of this article? {{input sentences}} |
Temperatura = 1 |
| Variante 3 | What is the main point of this article? {{input sentences}} |
Temperatura = 0,7 |
Ao utilizar diferentes variantes de prompts e configurações, você pode explorar como o modelo responde a várias entradas e saídas, permitindo que você descubra a combinação mais adequada para suas necessidades.
Benefícios do uso de variantes
- Melhore a qualidade de sua geração LLM: Ao criar várias variantes do mesmo nó LLM com diversos prompts e configurações, você pode identificar a combinação ideal que produz conteúdo de alta qualidade alinhado às suas necessidades.
- Economize tempo e esforço: mesmo pequenas modificações em um prompt podem produzir resultados significativamente diferentes. É crucial acompanhar e comparar o desempenho de cada versão de prompt. Com variantes, você pode gerenciar facilmente as versões históricas de seus nós LLM, facilitando atualizações baseadas em qualquer variante sem o risco de esquecer iterações anteriores. Isso economiza tempo e esforço no gerenciamento do histórico de ajuste imediato.
- Aumente a produtividade: as variantes agilizam o processo de otimização para nós LLM, tornando mais simples criar e gerenciar várias variações. Você pode alcançar melhores resultados em menos tempo, aumentando assim sua produtividade geral.
- Facilite a comparação fácil: Você pode comparar sem esforço os resultados obtidos de diferentes variantes lado a lado, permitindo que você tome decisões baseadas em dados em relação à variante que gera os melhores resultados.