NasBertTrainer.NasBertOptions Classe
Definição
Importante
Algumas informações se referem a produtos de pré-lançamento que podem ser substancialmente modificados antes do lançamento. A Microsoft não oferece garantias, expressas ou implícitas, das informações aqui fornecidas.
public class NasBertTrainer.NasBertOptions : Microsoft.ML.TorchSharp.TorchSharpBaseTrainer.Options
type NasBertTrainer.NasBertOptions = class
inherit TorchSharpBaseTrainer.Options
Public Class NasBertTrainer.NasBertOptions
Inherits TorchSharpBaseTrainer.Options
- Herança
- Derivado
Construtores
NasBertTrainer.NasBertOptions() |
Campos
ActivationDropout |
Taxa de abandono após funções de ativação em camadas FFN. Deve estar dentro de [0, 1). |
AdamBetas |
Betas para o otimizador Adam. |
AdamEps |
Otimizador do Epsilon para Adam. |
AttentionDropout |
Taxa de abandono para pesos de atenção. Deve estar dentro de [0, 1). |
BatchSize |
Número de exemplos a serem usados para treinamento em minilote. (Herdado de TorchSharpBaseTrainer.Options) |
ClipNorm |
O limite de recorte de gradientes. Deve estar dentro de [0, +Inf). 0 significa não recortar norm. |
Dropout |
Taxa de abandono para situações gerais. Deve estar dentro de [0, 1). |
DynamicDropout |
Se deve ser usado o descarte dinâmico. |
EncoderNormalizeBefore |
Se a normalização de camada deve ser aplicada antes de cada bloco de codificador. |
FinalLearningRateRatio |
A taxa de aprendizado final para o agendador de decaimento polinomial. (Herdado de TorchSharpBaseTrainer.Options) |
FreezeEncoder |
Se os parâmetros do codificador devem ser congelados. |
FreezeTransfer |
Se os parâmetros do módulo de transferência devem ser congelados. |
LabelColumnName |
O nome da coluna do rótulo. (Herdado de TorchSharpBaseTrainer.Options) |
LayerNormTraining |
Se os parâmetros de norma de camada devem ser treinados. |
LearningRate |
Taxa de aprendizado para as primeiras N épocas; todas as épocas >N usando LR_N. Observação: isso pode ser interpretado de forma diferente, dependendo do agendador. |
MaxEpoch |
Pare o treinamento ao atingir esse número de épocas. (Herdado de TorchSharpBaseTrainer.Options) |
PoolerDropout |
Taxa de descarte nas camadas do pooler de modelos de linguagem mascarada. Deve estar dentro de [0, 1). |
PredictionColumnName |
O nome da coluna Previsão. (Herdado de TorchSharpBaseTrainer.Options) |
ScoreColumnName |
O nome da coluna Pontuação. (Herdado de TorchSharpBaseTrainer.Options) |
Sentence1ColumnName |
A primeira coluna de frase. |
Sentence2ColumnName |
A segunda coluna de frase. |
StartLearningRateRatio |
A taxa de aprendizado inicial para o agendador de decaimento polinomial. (Herdado de TorchSharpBaseTrainer.Options) |
TaskType |
Tipo de tarefa, que está relacionado ao cabeçalho do modelo. |
ValidationSet |
O conjunto de validação usado durante o treinamento para melhorar a qualidade do modelo. (Herdado de TorchSharpBaseTrainer.Options) |
WarmupRatio |
Proporção de etapas de aquecimento para o agendador de decaimento polinomial. |
WeightDecay |
Coefficiency de decadência de peso. Deve estar dentro de [0, +Inf). (Herdado de TorchSharpBaseTrainer.Options) |