跳转至

AdamParams

class mint.types.AdamParams ( StrictBase )

字段:

  • learning_rate ( float ) – 优化器的学习率
  • beta1 ( float ) – 计算梯度一阶矩(滑动平均)时使用的系数
  • beta2 ( float ) – 计算梯度平方的滑动平均时使用的系数
  • eps ( float ) – 加在分母上以提升数值稳定性的项
  • weight_decay ( float ) – 优化器的权重衰减,采用解耦权重衰减
  • grad_clip_norm ( float ) – 全局梯度的最大范数。若全局梯度范数超过该值,则裁剪到该值。0.0 表示不裁剪。

被引用

  • TrainingClient.optim_step