NasBertTrainer.NasBertOptions 类

定义

public class NasBertTrainer.NasBertOptions : Microsoft.ML.TorchSharp.TorchSharpBaseTrainer.Options
type NasBertTrainer.NasBertOptions = class
    inherit TorchSharpBaseTrainer.Options
Public Class NasBertTrainer.NasBertOptions
Inherits TorchSharpBaseTrainer.Options
继承
派生

构造函数

NasBertTrainer.NasBertOptions()

字段

ActivationDropout

FFN 层中激活函数后的退出率。 应位于 [0, 1) 。

AdamBetas

Adam 优化器 Beta 版。

AdamEps

Epsilon for Adam 优化器。

AttentionDropout

注意力权重的掉落率。 应位于 [0, 1) 。

BatchSize

用于小型批处理训练的样本数。

(继承自 TorchSharpBaseTrainer.Options)
ClipNorm

渐变的剪裁阈值。 应位于 [0, +Inf) 。 0 表示不剪辑规范。

Dropout

一般情况下的辍学率。 应位于 [0, 1) 。

DynamicDropout

是否使用动态删除。

EncoderNormalizeBefore

是否在每个编码器块之前应用层规范化。

FinalLearningRateRatio

多项式衰减计划程序的最终学习速率。

(继承自 TorchSharpBaseTrainer.Options)
FreezeEncoder

是否冻结编码器参数。

FreezeTransfer

是否冻结传输模块参数。

LabelColumnName

标签列名称。

(继承自 TorchSharpBaseTrainer.Options)
LayerNormTraining

是否训练层规范参数。

LearningRate

前 N 个时期的学习率;使用 LR_N 的所有 epochs >N。 注意:根据计划程序的不同,可能会对此进行不同的解释。

MaxEpoch

达到此纪元数时停止训练。

(继承自 TorchSharpBaseTrainer.Options)
PoolerDropout

屏蔽的语言模型池程序层中的退出率。 应位于 [0, 1) 。

PredictionColumnName

预测列名称。

(继承自 TorchSharpBaseTrainer.Options)
ScoreColumnName

Score 列名称。

(继承自 TorchSharpBaseTrainer.Options)
Sentence1ColumnName

第一个句子列。

Sentence2ColumnName

第二个句子列。

StartLearningRateRatio

多项式衰减计划器的开始学习速率。

(继承自 TorchSharpBaseTrainer.Options)
TaskType

任务类型,它与模型头相关。

ValidationSet

训练时用于提高模型质量的验证集。

(继承自 TorchSharpBaseTrainer.Options)
WarmupRatio

多项式衰减计划器的预热步骤比例。

WeightDecay

体重衰减的协同效率。 应位于 [0, +Inf) 。

(继承自 TorchSharpBaseTrainer.Options)

适用于