Seleção de modelo e configurações de temperatura

Quando você cria uma ação de solicitação no construtor de solicitações, o painel à direita inclui uma seção de Configurações. Esta seção permite que você defina estes parâmetros:

• Versão do modelo de IA generativa
• Temperatura

Este artigo explora o impacto desses parâmetros.

Versões do modelo de IA generativa

O menu suspenso permite que você selecione entre os modelos de IA generativa, que geram a resposta à sua solicitação personalizada.

O modelo padrão, a partir de novembro de 2024, é GPT 4o Mini (disponibilidade geral, ou GA). Também é possível usar o modelo GPT 4o (GA) mais potente. Essas versões secundárias exatas desses modelos estão sujeitas a alterações.

Quando você usa ações de solicitação no Power Apps ou no Power Automate, elas consomem créditos do AI Builder.

Observação

As solicitações anteriores criadas no construtor de solicitações que dependem desse modelo padrão GPT 3.5 foram ou serão atualizadas automaticamente para o modelo GPT 4o Mini. A nuvem governamental continua usando o modelo GPT 3.5 até o final de novembro de 2024.

Escolha um modelo

Escolha entre os modelos com base no status e nas regras de licenciamento.

Modelo GPT	Status	Regras de licenciamento	Funcionalidades	Disponibilidades da região
GPT 4o Mini	GA - Modelo padrão	Consome créditos no Power Apps e no Power Automate. Mais informações: Guia de Licenciamento do Power Platform	Treinamento em dados até dezembro de 2023. Contexto permitido até 128k tokens.	Disponibilidade de recursos por regiões para solicitações
GPT 4	GA	Consome créditos no Power Apps e no Power Automate. Mais informações: Guia de Licenciamento do Power Platform	O GPT 4o tem conhecimento até outubro de 2023 e tem um comprimento de contexto de 128 mil tokens.	Disponibilidade de recursos por regiões para solicitações

Escolha entre o modelo com base em recursos e cenários.

Comparação entre GPT-4o Mini e GPT-4o

Fatores	GPT-4o Mini	GPT-4o
Custo	Menor e mais econômico	Preços mais altos e premium
Performance	Bom para a maioria das tarefas	Superior para tarefas complexas
Velocidade	Processamento mais rápido	Pode ser mais lento devido à complexidade
Casos de Uso	Resumo, tarefas de informação	Tarefas complexas de análise de dados, justificativa e criação de conteúdo

Narrativa da decisão

Quando você precisar de uma solução econômica para tarefas moderadamente complexas, tiver recursos computacionais limitados ou exigir processamento mais rápido, escolha GPT-4o Mini. Ele é ideal para projetos com restrições orçamentárias e aplicativos como suporte ao cliente ou análise de código eficiente.

Quando você estiver lidando com tarefas multimodais altamente complexas que exigem desempenho superior e análise detalhada, escolha GPT-4o. Ele é a melhor escolha para projetos de grande escala onde a precisão e os recursos avançados são cruciais. Outro cenário em que é uma escolha melhor é quando você tem o orçamento e os recursos computacionais para suportá-lo. O GPT-4o também é preferível para projetos de longo prazo que podem crescer em complexidade ao longo do tempo.

Uso de solicitações de IA no contexto do Microsoft Copilot Studio

As solicitações de IA não consomem créditos de AI Builder quando estão no contexto do Copilot Studio, mas consomem mensagens quando são criadas em um modelo GPT GA.

Saiba mais sobre o consumo de mensagens no Guia de licenciamento do Power Platform.

Temperatura

O controle deslizante permite selecionar a temperatura do modelo de IA generativa. Ele varia entre 0 e 1 e orienta o modelo de IA generativa sobre quanta criatividade (1) vs resposta determinística (0) ele deve fornecer.

A temperatura é um parâmetro que controla a aleatoriedade da saída gerada pelo modelo de IA. Uma temperatura mais baixa resulta em saídas mais previsíveis e conservadoras. Para comparar, uma temperatura mais alta permite mais criatividade e diversidade nas respostas. É uma maneira de ajustar o equilíbrio entre aleatoriedade e determinismo na saída do modelo.

Por padrão, a temperatura é 0, como nas solicitações criadas anteriormente.

Temperatura	Funcionalidade	Usar em
0	Resultados mais previsíveis e conservadores. As respostas são mais consistentes.	Solicitações que exigem alta precisão e menor variabilidade.
0	Mais criatividade e diversidade nas respostas. Respostas mais variadas e, por vezes, mais inovadoras.	Solicitações que criam novo conteúdo pronto para uso

Embora o ajuste da temperatura possa influenciar a saída do modelo, ele não garante um resultado específico. As respostas da IA são inerentemente probabilísticas e podem variar mesmo com a mesma configuração de temperatura.