Selección de modelo y configuración de temperatura

Cuando crea una acción de una solicitud en el generador de solicitudes, el panel de la derecha incluye la sección Configuración. Esta sección le permite configurar estos parámetros:

• Versión del modelo de IA generativa
• Temperatura

Este artículo explora el impacto de estos parámetros.

Versiones de modelos de IA generativa

El menú desplegable le permite seleccionar entre los modelos de IA generativa, que generan la respuesta a su mensaje personalizado.

El modelo predeterminado a partir de noviembre de 2024 es GPT 4o Mini (disponibilidad general o GA). También es posible utilizar el modelo GPT 4o (GA) más potente. Estas versiones secundarias exactas de estos modelos están sujetas a cambios.

Cuando utiliza acciones rápidas en Power Apps o Power Automate, estas consumen créditos del AI Builder.

Nota

Las solicitudes más antiguas creadas en el generador de solicitudes que se basan en este modelo predeterminado GPT 3.5 se actualizaron o se actualizarán automáticamente al modelo GPT 4o Mini. La nube gubernamental sigue utilizando el modelo GPT 3.5 hasta finales de noviembre de 2024.

Elegir un modelo

Elija entre los modelos en función del estado y las reglas de licencia.

Modelo GPT	Status	Reglas sobre licencias	Funcionalidades	Disponibilidades por regiones
GPT 4o Mini	GA - Modelo predeterminado	Consume créditos en Power Apps y Power Automate. Más información: Guía de licencias de Power Platform	Entrenado con datos hasta diciembre de 2023. El contexto permitió hasta 128.000 tokens.	Disponibilidad de funciones por regiones para las solicitudes
GPT 4	GA	Consume créditos en Power Apps y Power Automate. Más información: Guía de licencias de Power Platform	GPT 4o tiene conocimiento hasta octubre de 2023 y tiene una longitud de contexto de 128k tokens.	Disponibilidad de funciones por regiones para las solicitudes

Elija entre el modelo basado en capacidades y escenarios.

Comparación de GPT-4o Mini y GPT-4o

Factores	GPT-4o Mini	GPT-4o
Coste	Menor, más rentable	Mayor, precios más altos
Rendimiento	Bueno para la mayoría de las tareas	Superior para tareas complejas
Velocidad	Procesamiento más rápido	Puede ser más lento debido a la complejidad
Casos de uso	Resumen, tareas de información	Tareas complejas de análisis de datos, razonamiento y creación de contenido

Narrativa de la decisión

Cuando necesite una solución rentable para tareas moderadamente complejas, tenga recursos computacionales limitados o requiera un procesamiento más rápido, elija GPT-4o Mini. Es ideal para proyectos con limitaciones presupuestarias y aplicaciones como la atención al cliente o el análisis eficiente de código.

Cuando se trata de tareas multimodales muy complejas que requieren un rendimiento superior y un análisis detallado, elija GPT-4o. Es la mejor opción para proyectos a gran escala donde la precisión y las capacidades avanzadas son cruciales. Otro escenario en el que es una mejor opción es cuando tiene el presupuesto y los recursos computacionales para respaldarlo. GPT-4o también es preferible para proyectos a largo plazo que pueden crecer en complejidad con el tiempo.

Uso de indicaciones de IA en el contexto de Microsoft Copilot Studio

Las indicaciones de IA no consumen créditos de AI Builder en el contexto de Copilot Studio, pero consumen mensajes cuando se basan en un modelo GA GPT.

Para obtener más información sobre el consumo de mensajes, vaya a Guía de licencias de Power Platform.

Temperatura

El control deslizante le permite seleccionar la temperatura del modelo de IA generativa. Varía entre 0 y 1 y orienta al modelo de IA generativa sobre cuánta creatividad (1) frente a la respuesta determinista (0) debe proporcionar.

La temperatura es un parámetro que controla la aleatoriedad de la salida generada por el modelo de IA. Una temperatura más baja da como resultado resultados más predecibles y conservadores. En comparación, una temperatura más alta permite una mayor creatividad y diversidad en las respuestas. Es una forma de afinar el equilibrio entre aleatoriedad y determinismo en el resultado del modelo.

De forma predeterminada, la temperatura es 0, como en las solicitudes creadas anteriormente.

Temperatura	Funcionalidad	Usar en
0	Resultados más predecibles y conservadores. Las respuestas son más coherentes.	Indicaciones que requieren alta precisión y menos variabilidad.
1	Más creatividad y diversidad en las respuestas. Respuestas más variadas y a veces más innovadoras.	Mensajes que crean contenido nuevo listo para usar

Si bien el ajuste de la temperatura puede influir en la salida del modelo, no garantiza un resultado específico. Las respuestas de la IA son inherentemente probabilísticas y pueden variar incluso con el mismo ajuste de temperatura.