Partilhar via

Criar uma execução de treinamento usando a API de ajuste fino do modelo básico

  • Artigo

Importante

Este recurso está na visualização pública nas seguintes regiões: centralus, eastus, eastus2, northcentraluse westus.

Este artigo descreve como criar e configurar uma execução de treinamento usando a API Foundation Model Fine-tuning (agora parte do Mosaic AI Model Training) e descreve todos os parâmetros usados na chamada de API. Você também pode criar uma execução usando a interface do usuário. Para obter instruções, consulte Criar uma execução de treinamento utilizando a UI de ajuste fino do modelo básico.

Requerimentos

Consulte Requisitos.

Criar uma sessão de treino

Para criar execuções de treinamento programaticamente, use a create() função. Esta função treina um modelo no conjunto de dados fornecido e converte o ponto de verificação final do Composer em um ponto de verificação formatado no Hugging Face para inferência.

As entradas necessárias são o modelo que você deseja treinar, o local do seu conjunto de dados de treinamento e onde registrar seu modelo. Há também parâmetros opcionais que permitem realizar a avaliação e alterar os hiperparâmetros da sua execução.

Após a conclusão da execução, a execução concluída e o ponto de verificação final são salvos, o modelo é clonado e esse clone é registrado no Unity Catalog como uma versão do modelo para inferência.

O modelo da execução concluída, e não a versão clonada no Unity Catalog, e os seus pontos de verificação Composer e Hugging Face são guardados em MLflow. Os pontos de verificação do Composer podem ser usados para tarefas contínuas de ajuste fino.

Consulte Configurar uma execução de treinamento para obter detalhes sobre argumentos para a create() função.

from databricks.model_training import foundation_model as fm

run = fm.create(
  model='meta-llama/Llama-3.2-3B-Instruct',
  train_data_path='dbfs:/Volumes/main/mydirectory/ift/train.jsonl', # UC Volume with JSONL formatted data
  # Public HF dataset is also supported
  # train_data_path='mosaicml/dolly_hhrlhf/train'
  register_to='main.mydirectory', # UC catalog and schema to register the model to
)

Configurar uma execução de treinamento

A tabela a seguir resume os parâmetros para a função foundation_model.create().

Parâmetro Necessário Tipo Descrição
model x STR O nome do modelo a ser usado. Consulte Modelos suportados.
train_data_path x STR A localização dos seus dados de formação. Pode ser uma localização no Catálogo Unity (<catalog>.<schema>.<table> ou dbfs:/Volumes/<catalog>/<schema>/<volume>/<dataset>.jsonl) ou um conjunto de dados do HuggingFace.
Para INSTRUCTION_FINETUNE, os dados devem ser formatados com cada linha contendo um prompt e response campo.
Para CONTINUED_PRETRAIN, esta é uma pasta de .txt arquivos. Consulte Preparar dados para ajuste fino de um Modelo Fundamental para conhecer os formatos de dados aceites e Tamanho de dados recomendados para treino de modo a obter recomendações sobre o tamanho dos dados.
register_to x STR O catálogo e o esquema do Unity Catalog (<catalog>.<schema> ou <catalog>.<schema>.<custom-name>) onde o modelo é registrado após o treinamento para facilitar a implantação. Se custom-name não for fornecido, assume por padrão o nome da execução.
data_prep_cluster_id STR A ID do cluster a ser usada para o processamento de dados do Spark. Isso é necessário para tarefas de treinamento de instrução em que os dados de treinamento estão em uma tabela Delta. Para obter informações sobre como localizar a ID do cluster, consulte Obter ID do cluster.
experiment_path STR O caminho para a experiência MLflow onde são guardados os resultados do treino (métricas e marcos de verificação). O padrão é o nome de execução no espaço de trabalho pessoal do usuário (ou seja, /Users/<username>/<run_name>).
task_type STR O tipo de tarefa a ser executada. Pode ser CHAT_COMPLETION (padrão), CONTINUED_PRETRAIN, ou INSTRUCTION_FINETUNE.
eval_data_path STR A localização remota dos seus dados de avaliação (se houver). Deve seguir o mesmo formato que train_data_path.
eval_prompts Lista[str] Uma lista de frases de sugestão para gerar respostas durante a avaliação. O padrão é None (não gerar prompts). Os resultados são registrados no experimento toda vez que o modelo é verificado. As gerações ocorrem em cada ponto de verificação do modelo com os seguintes parâmetros de geração: max_new_tokens: 100, temperature: 1, top_k: 50, top_p: 0.95, do_sample: true.
custom_weights_path STR A localização remota de um ponto de verificação personalizado do modelo para formação. O padrão é None, o que significa que a execução começa a partir dos pesos pré-treinados originais do modelo escolhido. Se forem fornecidos pesos personalizados, esses pesos serão usados em vez dos pesos pré-treinados originais do modelo. Esses pesos devem ser um ponto de verificação do Composer e devem corresponder à arquitetura do model especificado. Consulte Construir com pesos de modelo personalizados
training_duration STR A duração total da sua corrida. O padrão é uma época ou 1ep. Pode ser especificado em épocas (10ep) ou tokens (1000000tok).
learning_rate STR A taxa de aprendizagem para a formação de modelos. Para todos os modelos que não sejam Llama 3.1 405B Instruct, a taxa de aprendizagem padrão é 5e-7. Para Llama 3.1 405B Instruct, a taxa de aprendizagem padrão é 1.0e-5. O otimizador é DecoupledLionW com betas de 0,99 e 0,95 e sem decaimento de peso. O agendador da taxa de aprendizagem é LinearWithWarmupSchedule com um período de adaptação de 2% da duração total da formação e um multiplicador da taxa de aprendizagem final de 0.
context_length STR O comprimento máximo da sequência de uma amostra de dados. Isso é usado para truncar quaisquer dados que sejam muito longos e para empacotar sequências mais curtas juntas para eficiência.
O padrão é 8192 tokens ou o comprimento máximo de contexto para o modelo fornecido, o que for menor. Você pode usar esse parâmetro para configurar o comprimento de contexto, mas não há suporte para a configuração além do comprimento máximo de contexto de cada modelo. Consulte Modelos suportados para obter o comprimento máximo de contexto suportado de cada modelo.
validate_inputs Booleano Se deve validar o acesso aos caminhos de entrada antes de enviar o trabalho de treinamento. A predefinição é True.

Construa com pesos de modelo personalizados

O ajuste fino do modelo básico suporta a adição de pesos personalizados usando o parâmetro custom_weights_path opcional para treinar e personalizar um modelo.

Para começar, configure custom_weights_path para o caminho de ponto de verificação do Composer de uma execução de treino anterior. Os caminhos de ponto de verificação podem ser encontrados na guia Artefatos de uma execução MLflow anterior. O nome da pasta do ponto de verificação corresponde ao lote e à época (epoch) de um instantâneo específico, como ep29-ba30/.

Guia Artefatos para uma execução anterior do MLflow

  • Para fornecer o ponto de verificação mais recente de uma execução anterior, defina custom_weights_path para o ponto de verificação do Composer. Por exemplo, custom_weights_path=dbfs:/databricks/mlflow-tracking/<experiment_id>/<run_id>/artifacts/<run_name>/checkpoints/latest-sharded-rank0.symlink.
  • Para fornecer um ponto de verificação anterior, defina custom_weights_path como um caminho para uma pasta que contenha .distcp arquivos correspondentes ao ponto de verificação desejado, como custom_weights_path=dbfs:/databricks/mlflow-tracking/<experiment_id>/<run_id>/artifacts/<run_name>/checkpoints/ep#-ba#.

Em seguida, atualize o parâmetro model para corresponder ao modelo base do ponto de verificação que você passou para custom_weights_path.

No exemplo seguinte, ift-meta-llama-3-1-70b-instruct-ohugkq é uma execução anterior que ajusta meta-llama/Meta-Llama-3.1-70B. Para ajustar o ponto de verificação mais recente do ift-meta-llama-3-1-70b-instruct-ohugkq, defina as variáveis model e custom_weights_path da seguinte maneira:

from databricks.model_training import foundation_model as fm

run = fm.create(
model = 'meta-llama/Meta-Llama-3.1-70B'
custom_weights_path = 'dbfs:/databricks/mlflow-tracking/2948323364469837/d4cd1fcac71b4fb4ae42878cb81d8def/artifacts/ift-meta-llama-3-1-70b-instruct-ohugkq/checkpoints/latest-sharded-rank0.symlink'
... ## other parameters for your fine-tuning run

)

Consulte Configurar uma execução de treino para definir outros parâmetros na sua execução de ajuste personalizado.

Obter ID de cluster

Para recuperar a ID do cluster:

  1. Na barra de navegação esquerda do espaço de trabalho Databricks, clique em Computar.

  2. Na tabela, clique no nome do seu cluster.

  3. Clique botão Mais no canto superior direito e selecione Exibir JSON no menu suspenso.

  4. O arquivo JSON do cluster é exibido. Copie a ID do cluster, que é a primeira linha do arquivo.

    ID do cluster

Obter o status de uma execução

Você pode acompanhar o progresso de uma execução usando a página Experimento na interface do usuário do Databricks ou usando o comando get_events()API . Para obter detalhes, consulte Visualizar, gerir e analisar execuções de ajustamento fino de modelos base.

Exemplo de saída de get_events():

Usar a API para obter o status de execução

Detalhes da execução de amostra na página do Experimento.

Obter estado de execução dos experimentos na interface do utilizador

Próximos passos

Após a conclusão da execução do treinamento, você poderá revisar as métricas no MLflow e implantar seu modelo para inferência. Consulte as etapas 5 a 7 do Tutorial: Criar e implantar uma execução de ajuste fino do modelo básico.

Consulte o notebook de demonstração Ajuste fino de instruções: reconhecimento de entidade nomeada para obter um exemplo de ajuste fino de instruções que percorre a preparação de dados, o ajuste fino de treinamento, a execução e a implantação.

Exemplo de bloco de notas

O bloco de anotações a seguir mostra um exemplo de como gerar dados sintéticos usando o modelo Meta Llama 3.1 405B Instruct e usar esses dados para ajustar um modelo:

Gerar dados sintéticos usando o notebook Llama 3.1 405B Instruct

Obter portátil

Recursos adicionais