Evaluación, implementación y prueba de un modelo base ajustado

Completado

Después de ajustar un modelo base del catálogo de modelos de Azure Machine Learning, puede evaluar e implementar el modelo para probarlo y usarlo fácilmente.

Evaluación de un modelo ajustado

Para decidir si un modelo ajustado funciona según lo previsto, revise las métricas de entrenamiento y evaluación.

Cuando envía un modelo para ajustarlo, Azure Machine Learning crea un nuevo trabajo de canalización dentro de un experimento. El trabajo de canalización incluye un componente que representa el ajuste del modelo. Para analizar los registros, las métricas y las salidas del trabajo, seleccione el trabajo de canalización completado y elija componentes de ajuste específicos para examinarlos.

Screenshot of metrics of the completed pipeline job that fine-tuned a foundation model.

Sugerencia

En Azure Machine Learning, se hace un seguimiento de las métricas del modelo con MLflow. Si desea acceder a las métricas y revisarlas mediante programación, puede usar MLflow en un cuaderno de Jupyter Notebook.

Implantar el modelo ajustado

Para probar y usar el modelo ajustado, puede implementar el modelo en un punto de conexión.

Un punto de conexión de Azure Machine Learning es una interfaz de programación de aplicaciones (API) que expone el modelo entrenado o ajustado, lo que permite a los usuarios o aplicaciones hacer predicciones basadas en datos nuevos.

Hay dos tipos de puntos de conexión en Azure Machine Learning:

  • Puntos de conexión en tiempo real: diseñados para controlar predicciones inmediatas o sobre la marcha.
  • Puntos de conexión por lotes: optimizados para controlar un gran volumen de datos a la vez.

Dado que los puntos de conexión en tiempo real permiten obtener predicciones inmediatas, estos puntos de conexión también son ideales para probar las predicciones de un modelo.

Registro de un modelo con Estudio de Azure Machine Learning

Para implementar un modelo ajustado con Estudio de Azure Machine Learning, puede usar la salida del trabajo de ajuste.

Azure Machine Learning usa MLflow para hacer un seguimiento de los trabajos y registrar métricas y archivos de los modelos. Dado que MLflow está integrado en Estudio de Azure Machine Learning, puede implementar un modelo desde un trabajo con un esfuerzo mínimo.

En primer lugar, debe registrar el modelo desde la salida del trabajo. Vaya a la información general del trabajo para buscar la opción + Registrar modelo.

Screenshot of pipeline job overview with register model feature.

El tipo de modelo registrado es MLflow y Azure Machine Learning rellena automáticamente la carpeta que contiene los archivos del modelo. Debe proporcionar un nombre para el modelo registrado y, opcionalmente, una versión.

Implementación de un modelo con Estudio de Azure Machine Learning

Una vez registrado el modelo en el área de trabajo de Azure Machine Learning, puede ir a la información general del modelo e implementarlo en un punto de conexión por lotes o en tiempo real.

Screenshot of the deployment options from a registered model.

Por ejemplo, puede implementar el modelo en un punto de conexión en tiempo real proporcionando lo siguiente:

Screenshot of the endpoint creation from a registered model.

  • Máquina virtual: proceso que usa el punto de conexión.
  • Recuento de instancias: número de instancias que se usarán para la implementación.
  • Punto de conexión: implemente el modelo en un punto de conexión actual o nuevo.
  • Nombre del punto de conexión: se usa para generar la dirección URL del punto de conexión.
  • Nombre de la implementación: nombre del modelo implementado en el punto de conexión.

Nota:

Puede implementar varios modelos en el mismo punto de conexión. La creación del punto de conexión y la implementación de un modelo en un punto de conexión requiere algún tiempo. Espere hasta que el punto de conexión y la implementación estén listos antes de intentar probar o usar el modelo implementado.

Prueba de un modelo en Estudio de Azure Machine Learning

Cuando el modelo se implementa en un punto de conexión en tiempo real, puede probarlo rápidamente en Estudio de Azure Machine Learning.

Vaya al punto de conexión y explore la pestaña Prueba.

Screenshot of the test pane of a deployed model.

Dado que el punto de conexión en tiempo real funciona como UNA API, espera los datos de entrada en formato JSON. En la pestaña Prueba se proporciona un ejemplo de la salida esperada:

{
  "input_data": {
    "columns": [
      "input_string"
    ],
    "index": [],
    "data": []
  }
}

El formato de los datos de prueba debe ser similar al de los datos de entrenamiento, excepto la columna de etiqueta. Por ejemplo, si desea probar un modelo ajustado para la clasificación de texto, debe proporcionarle una columna al punto de conexión, la oración que se va a clasificar:

{
  "input_data": {
    "columns": [
      "input_string"
    ],
    "index": [0, 1],
    "data": [["This would be the first sentence you want to classify."], ["This would be the second sentence you want to classify."]]
  }
}

Puede escribir los datos de prueba en Estudio y seleccionar Prueba para enviar los datos al punto de conexión. El resultado aparece en Resultado de la prueba casi de inmediato.

Sugerencia

Si no ve la respuesta esperada en Resultado de la prueba, la causa más probable es que el formato de los datos de entrada no es correcto. El script de puntuación se genera automáticamente al implementar un modelo de MLflow, lo que significa que el formato de los datos de entrada debe ser similar al de los datos de entrenamiento (excepto la columna de etiqueta).