AdamParams
class mint.types.AdamParams ( StrictBase )¶
字段:
- learning_rate ( float ) – 优化器的学习率
- beta1 ( float ) – 计算梯度一阶矩(滑动平均)时使用的系数
- beta2 ( float ) – 计算梯度平方的滑动平均时使用的系数
- eps ( float ) – 加在分母上以提升数值稳定性的项
- weight_decay ( float ) – 优化器的权重衰减,采用解耦权重衰减
- grad_clip_norm ( float ) – 全局梯度的最大范数。若全局梯度范数超过该值,则裁剪到该值。0.0 表示不裁剪。
被引用¶
- TrainingClient.optim_step