Entender os prompts para melhorar a qualidade do preenchimento

Concluído

A criação de prompt pode ser complexa. Na prática, o prompt atua para configurar os pesos do modelo para concluir a tarefa desejada. É mais uma arte do que uma ciência, muitas vezes exigindo experiência e intuição para criar um prompt bem-sucedido.

Quando você envia prompts bem construídos para o modelo, o modelo retorna melhores preenchimentos.

Em nosso bot de recomendação de trilha, um ótimo prompt do sistema ajuda o modelo a se preparar para recomendar trilhas apropriadas. E bons prompts do usuário refinam ainda mais as recomendações que o modelo retorna.

Nessa unidade, falamos sobre os conceitos e padrões gerais que podem ser usados para construir prompts e examinar algumas técnicas que podem ser usadas para melhorar a qualidade dos preenchimentos.

Noções básicas

Os prompts de texto são como os usuários interagem com modelos GPT. Os modelos de linguagem generativa tentam produzir a série seguinte de palavras que provavelmente continuará do texto anterior. É como se disséssemos Qual é a primeira coisa que vem à mente quando digo <prompt>?

À medida que você desenvolve prompts complexos, é útil ter em mente esse comportamento essencial. Independentemente do prompt, o modelo está simplesmente respondendo com o que determina ser mais provável seguir a partir do prompt.

Componentes do prompt

Ao usar a API de Preenchimento, não há nenhuma diferenciação entre diferentes partes do prompt, mas ainda é útil examinar as partes componentes do prompt, pois o objetivo é pensar na construção de prompts.

Instruções

As instruções provavelmente são o componente de prompt mais usado. Eles são a parte do prompt que informa ao modelo o que fazer e pode variar de simples a complexo. Por exemplo, Trilhas recomendadas a Você gosta de trilhas e ainda ajuda as pessoas a descobrir trilhas divertidas em sua área. Você é alegre e simpático. Você se apresenta quando diz olá pela primeira vez. Ao ajudar as pessoas, você sempre pergunta onde elas moram e a intensidade da trilha desejada para informar a recomendação de trilha.

Conteúdo principal

O conteúdo principal se refere a algum tipo de texto que é processado ou transformado pelo modelo. Ele geralmente é usado em conjunto com instruções. Por exemplo, você fornecerá três sugestões de trilhas nas proximidades que variam de extensão depois de obter essas informações.

O conteúdo primário pode ser muito mais longo, como pedir ao modelo para resumir um artigo da Wikipédia.

Exemplos

Os prompts bem-sucedidos geralmente dependem da prática de aprendizado de "única tentativa" ou "algumas tentativas". Isso se refere à inclusão de um ou mais exemplos do comportamento desejado do modelo, normalmente incluindo pares de entrada e saída. Isso não é aprendizado no sentido de que o modelo é alterado constantemente, mas sim que os exemplos preparam melhor o modelo para responder conforme desejado apenas para a inferência atual.

Às vezes, o uso de prompts sem exemplos é chamado de aprendizado "sem tentativa".

Hike request: I live near Seattle and would like an easy hike.
Recommendation: That's great to hear, the Seattle area has some of the best hikes in the nation! You should try Little Si, you'll love it.

Hike request: I want to go on a hike in the North Cascades that will blow my mind.
Recommendation: You won't find a bad hike in the North Cascades. However, I hear the Sahale Arm stops people in their tracks with its beauty.

Hike request: I'd like to find a strenuous hike that's just like the Enchantments, but without as many people.
Recommendation:

Indicação

As sugestões atuam como o "estímulo" para a saída do modelo, ajudando a direcionar o modelo para a saída desejada. Geralmente, é um prefixo no qual o modelo pode ser criado. Um indicador pode orientar o preenchimento a incluir elementos-chave. Eles geralmente são usados com instruções.

O exemplo a seguir mostra um único indicador para resumir muitas avaliações da trilha.

Prompt	Completion
As avaliações da trilha são uma consideração importante sobre se as pessoas fazem uma trilha porque a avaliação lista as condições atuais da trilha. [...] Resuma a avaliação das trilhas acima: O principal aprendizado das avaliações de trilha são:	que a trilha do Mailbox Peak está lamacenta agora e terá muitos mosquitos ao passar da linha das árvores. Há também muitas pessoas que começam a trilha no meio da manhã.

Conteúdo de suporte

Conteúdo de apoio são informações que o modelo pode utilizar para influenciar a saída de alguma forma. Isso difere do conteúdo principal, pois não é o principal objetivo ou tarefa, mas geralmente é usado junto com o conteúdo principal. Exemplos comuns incluem informações contextuais, como a data atual, o nome do usuário, as preferências do usuário e assim por diante.

Práticas recomendadas

• Seja específico. Deixe o mínimo de espaço possível para interpretação. Restrinja o espaço operacional.
• Seja descritivo. Use analogias.
• Aprimore-se. Talvez a repetição seja necessária para o modelo. Dê instruções antes e depois do conteúdo principal, use uma instrução e uma sugestão etc.
• A ordem é importante. A ordem na qual você apresenta as informações ao modelo pode afetar a saída. Se você colocar as instruções antes do conteúdo ("resuma o seguinte...") ou depois ("resuma o acima...") pode fazer a diferença na saída. Até mesmo a ordem dos exemplos de poucas tentativas é importante. Essa técnica é conhecida como viés de recência.
• Prepare a saída. Inclua algumas palavras ou frases no final do prompt para obter uma resposta de modelo que segue o formulário desejado.
• Dê uma "saída" ao modelo. Às vezes, pode ser útil dar ao modelo um caminho alternativo se não for possível concluir a tarefa atribuída. Por exemplo, ao fazer uma pergunta sobre um texto, você pode incluir algo como "responder com 'não encontrado' se não houver resposta". Essa técnica ajuda o modelo a evitar a geração de respostas falsas.
• Construa o prompt com cadeia de pensamento. O modelo é instruído a agir etapa por etapa e apresentar todas as etapas envolvidas. Isso reduz a possibilidade de imprecisões dos resultados e facilita a avaliação da resposta do modelo.