Introdução

  • 2 minutos

Os modelos de linguagem estão crescendo em popularidade, pois criam respostas coerentes e impressionantes para as perguntas de um usuário. Especialmente quando um usuário interage com um modelo de linguagem por meio de chat, ele oferece uma maneira intuitiva de obter as informações necessárias.

Um desafio predominante na implantação de modelos de linguagem por meio de chat é a chamada fundamentalidade, que se refere ao fato de uma resposta estar enraizada, conectada ou ancorada na realidade ou em um contexto específico. Em outras palavras, a fundamentação refere-se ao fato de a resposta de um modelo de linguagem ser baseada em informações factuais.

Solicitações e respostas sem aterramento

Quando você usa um modelo de linguagem para gerar uma resposta a uma solicitação, a única informação em que o modelo precisa basear a resposta vem dos dados nos quais ele foi treinado, que geralmente são apenas grandes quantidades de texto não contextualizado da Internet ou de alguma outra fonte.

Diagrama de um modelo sem aterramento retornando uma resposta não contextualizada.

O resultado provavelmente será uma resposta gramaticalmente coerente e lógica à solicitação, mas como ele não está fundamentado em dados relevantes e fatos, ele não é especificado e pode de fato ser impreciso e incluir informações "inventadas". Por exemplo, a pergunta "Qual produto devo usar para fazer X?" pode incluir detalhes de um produto fictício.

Solicitações e respostas com aterramento

Por outro lado, você pode usar uma fonte de dados para aterrar o prompt com algum contexto de fato relevante. Em seguida, a solicitação pode ser enviada para um modelo de linguagem, incluindo os dados de aterramento, para gerar uma resposta contextualizada, relevante e precisa.

Diagrama de um modelo aterrado retornando uma resposta contextualizada.

A fonte de dados pode ser qualquer repositório de dados relevantes. Por exemplo, você pode usar dados de um banco de dados do catálogo de produtos para aterrar o prompt "Qual produto devo usar para fazer X?" para que a resposta inclua detalhes relevantes dos produtos que existem no catálogo.

Neste módulo, você explorará como criar seu próprio aplicativo de modelo de linguagem baseado em chat que seja fundamentado, criando um copiloto com seus próprios dados.