Avance del nivel de madurez para las operaciones de inteligencia artificial generativa (GenAIOps)
Las operaciones de inteligencia artificial generativa o GenAIOps (a veces llamadas LLMOps) describen las prácticas operativas y las estrategias para administrar modelos de lenguaje grandes (LLM) en producción. En este artículo se proporcionan instrucciones sobre cómo avanzar sus funcionalidades en GenAIOps, en función del nivel de madurez actual de la organización.
Use las descripciones siguientes para encontrar su nivel de clasificación delmodelo de madurez de GenAIOps. Estos niveles proporcionan una comprensión general y un nivel de aplicación práctica de su organización. Las instrucciones proporcionan vínculos útiles para expandir la base de conocimiento de GenAIOps.
Sugerencia
Use la evaluación del modelo de madurez de GenAIOps para determinar el nivel de madurez de GenAIOps actual de la organización. El cuestionario está diseñado para ayudarle a comprender las capacidades actuales de su organización e identificar áreas para mejorar.
Los resultados de la evaluación corresponden a un nivel de clasificación del Modelo de madurez de GenAIOps, que proporciona un nivel de aplicación general y práctico de su organización. Estas instrucciones proporcionan vínculos útiles para expandir la base de conocimiento de GenAIOps.
Nivel 1: inicial
Sugerencia
Puntuación de la Evaluación del modelo de madurez de GenAIOps: inicial (0-9).
Descripción: su organización se encuentra en la fase inicial de madurez de GenAIOps. Está explorando las funcionalidades de los LLM, pero aún no ha desarrollado procedimientos estructurados ni enfoques sistemáticos.
Comience por familiarizarse con las diferentes API de LLM y sus funcionalidades. A continuación, comience a experimentar con el diseño de símbolos estructurados y la ingeniería básica de solicitudes. Revise los artículos de Microsoft Learning como punto de partida. Teniendo en cuenta lo que ha aprendido, descubra cómo introducir métricas básicas para la evaluación del rendimiento de las aplicaciones LLM.
Referencias sugeridas para avanzar en el nivel 1
- Catálogo de modelos de Inteligencia artificial de Azure Studio
- Exploración del catálogo de modelos de Inteligencia artificial de Azure Studio
- Introducción a la ingeniería de solicitudes
- Técnicas de ingeniería solicitudes
- Marco de mensajes del sistema
- Flujo de solicitudes en Inteligencia artificial de Azure Studio
- Evaluación de aplicaciones de GenAI con Inteligencia artificial de Azure Studio
- Métricas de evaluación y supervisión de GenAI con Inteligencia artificial de Azure Studio
Para comprender mejor GenAIOps, considere los cursos y talleres disponibles en MS Learning.
Nivel 2: definido
Sugerencia
Puntuación de la Evaluación del modelo de madurez de GenAIOps: maduración (10-14).
Descripción: Su organización ha empezado a sistematizar las operaciones de LLM, con un enfoque en el desarrollo estructurado y la experimentación. Sin embargo, hay espacio para una integración y optimización más sofisticadas.
Para mejorar sus capacidades y aptitudes, obtenga información sobre cómo desarrollar solicitudes más complejas y empezar a integrarlas de forma eficaz en aplicaciones. Durante este recorrido, querrá implementar un enfoque sistemático para la implementación de aplicaciones LLM, posiblemente explorando la integración de CI/CD. Una vez que comprenda lo esencial, podrá empezar a emplear métricas de evaluación más avanzadas como la base, la relevancia y la similitud. En última instancia, querrá centrarse en las consideraciones éticas y de seguridad del contenido en el uso de LLM.
Referencias sugeridas para avanzar en el nivel 2
- Participe en nuestro taller paso a paso de para mejorar las prácticas de GenAIOps
- Flujo de solicitudes en Inteligencia artificial de Azure Studio
- Cómo compilar con el flujo de solicitud
- Implementar un flujo como punto de conexión administrado en línea para la inferencia en tiempo real
- Integración de Prompt Flow con GenAIOps
- Evaluación de GenAI con Inteligencia artificial de Azure Studio
- Métricas de evaluación y supervisión de GenAI
- Azure Content Safety
- prácticas y herramientas de inteligencia artificial responsables
Nivel 3: administrado
Sugerencia
Puntuación de la Evaluación del modelo de madurez de GenAIOps: maduración (15-19).
Descripción: su organización administra flujos de trabajo de LLM avanzados con estrategias de implementación estructuradas y supervisión proactivas. Está cerca de lograr la excelencia operativa.
Para ampliar sus conocimientos de base, céntrese en la mejora continua y la innovación en sus aplicaciones LLM. A medida que avanza, puede mejorar las estrategias de supervisión con análisis predictivo y medidas completas de seguridad de contenido. Aprenda a optimizar y ajustar las aplicaciones LLM para requisitos específicos. En última instancia, lo que busca es reforzar las estrategias de administración de activos mediante funcionalidades avanzadas de control de versiones y reversión.
Referencias sugeridas para avanzar en el nivel 3
- Ajuste preciso con Azure ML Learning
- Personalización del modelo con ajuste preciso
- Supervisión de modelos de GenAI
- Elevación de aplicaciones LLM a producción con GenAIOps
Nivel 4: optimizado
Sugerencia
Puntuación de evaluación del modelo de madurez de GenAIOps: optimizado (20-28).
Descripción: su organización demuestra la excelencia operativa en GenAIOps. Cuenta con un enfoque sofisticado respecto del desarrollo, la implementación y la supervisión de aplicaciones de LLM.
A medida que evolucionan los LLM, querrá mantener su posición de vanguardia al mantenerse actualizado con los últimos avances de LLM. Evalúe continuamente la alineación de las estrategias de LLM con los objetivos empresariales en constante evolución. Asegúrese de fomentar una cultura de innovación y aprendizaje continuo dentro de su equipo. Por último, pero no menos importante, comparta sus conocimientos y procedimientos recomendados con la comunidad más amplia para establecer el liderazgo de pensamiento en el campo.