parameter_expressions 模块
定义可在 HyperDrive 中用于描述超参数搜索空间的函数。
这些函数用于指定不同类型的超参数分布。 分布是在为超参数扫描配置采样时定义的。 例如,使用 RandomParameterSampling 类时,可以选择从一组离散值或连续值的分布中采样。 在这种情况下,可使用 choice 函数生成一组离散值,使用 uniform 函数生成连续值的分布。
有关使用这些函数的示例,请参阅教程:https://docs.microsoft.com/azure/machine-learning/how-to-tune-hyperparameters。
函数
choice
lognormal
指定根据 exp(normal(mu, sigma)) 绘制的值。
返回值的对数呈正态分布。 优化时,此变量被限制为正数。
lognormal(mu, sigma)
参数
名称 | 说明 |
---|---|
mu
必需
|
正态分布的平均值。 |
sigma
必需
|
正态分布的标准偏差。 |
返回
类型 | 说明 |
---|---|
随机表达式。 |
loguniform
指定对数均匀分布。
根据 exp(uniform(min_value, max_value)) 绘制值,使返回值的对数均匀分布。 优化时,此变量被限制为区间 [exp(min_value), exp(max_value)]
loguniform(min_value, max_value)
参数
名称 | 说明 |
---|---|
min_value
必需
|
范围内的最小值将是 exp(min_value)(含)。 |
max_value
必需
|
范围内的最大值将是 exp(max_value)(含)。 |
返回
类型 | 说明 |
---|---|
随机表达式。 |
normal
指定正态分布的实际值,包括平均值 mu 和标准偏差 sigma。
优化时,这是一个无约束变量。
normal(mu, sigma)
参数
名称 | 说明 |
---|---|
mu
必需
|
正态分布的平均值。 |
sigma
必需
|
正态分布的标准偏差。 |
返回
类型 | 说明 |
---|---|
随机表达式。 |
qlognormal
指定类似于 round(exp(normal(mu, sigma)) / q) * q 的值。
适用于目标为平滑且随变量大小(一侧有界)而更加平滑的离散变量。
qlognormal(mu, sigma, q)
参数
名称 | 说明 |
---|---|
mu
必需
|
正态分布的平均值。 |
sigma
必需
|
正态分布的标准偏差。 |
q
必需
|
平滑因子。 |
返回
类型 | 说明 |
---|---|
随机表达式。 |
qloguniform
指定 round(exp(uniform(min_value, max_value) / q) * q 格式的均匀分布。
这适用于目标为“平滑”且随值大小而更加平滑(但上下应该都有界)的离散变量。
qloguniform(min_value, max_value, q)
参数
名称 | 说明 |
---|---|
min_value
必需
|
范围内的最小值(含)。 |
max_value
必需
|
范围内的最大值(含)。 |
q
必需
|
平滑因子。 |
返回
类型 | 说明 |
---|---|
随机表达式。 |
qnormal
指定类似于 round(normal(mu, sigma) / q) * q 的值。
适用于可能取 mu 相近的值但基本无界的离散变量。
qnormal(mu, sigma, q)
参数
名称 | 说明 |
---|---|
mu
必需
|
正态分布的平均值。 |
sigma
必需
|
正态分布的标准偏差。 |
q
必需
|
平滑因子。 |
返回
类型 | 说明 |
---|---|
随机表达式。 |
quniform
指定 round(uniform(min_value, max_value) / q) * q 格式的均匀分布。
这适用于其目标仍是稍微“平滑”但上下都应有界的离散值。
quniform(min_value, max_value, q)
参数
名称 | 说明 |
---|---|
min_value
必需
|
范围内的最小值(含)。 |
max_value
必需
|
范围内的最大值(含)。 |
q
必需
|
平滑因子。 |
返回
类型 | 说明 |
---|---|
随机表达式。 |
randint
指定 [0, upper) 范围中的一组随机整数。
此分布的语义是,与更远的整数值相比,相近整数值之间的损失函数没有更多的相关性。 例如,这是描述随机种子的适当分布。 如果损失函数对相近整数值来说更加相关,则可能应使用其中一个“量化”连续分布,例如 quniform、qloguniform、qnormal 或 qlognormal。
randint(upper)
参数
名称 | 说明 |
---|---|
upper
必需
|
整数范围的上限(不含)。 |
返回
类型 | 说明 |
---|---|
随机表达式。 |