tf.train.AdamOptimizer 優化器

本文轉載自查看原文 2019-07-17 20:05 3588 dl

adaptive moment estimation(自適應矩估計)

tf.train.AdamOptimizer(
    learning_rate=0.001,
    beta1=0.9,
    beta2=0.999,
    epsilon=1e-08,
    use_locking=False,
    name='Adam'
)

參數：
learning_rate: （學習率）張量或者浮點數
beta1:  浮點數或者常量張量 ，表示 The exponential decay rate for the 1st moment estimates.
beta2:  浮點數或者常量張量 ，表示 The exponential decay rate for the 2nd moment estimates.
epsilon: A small constant for numerical stability. This epsilon is "epsilon hat" in the Kingma and Ba paper (in the formula just before Section 2.1), not the epsilon in         Algorithm 1 of the paper.
use_locking: 為True時鎖定更新
name:  梯度下降名稱，默認為 "Adam"

免責聲明！

本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。

猜您在找 tf.train.AdamOptimizer()函數解析 tf.train.MomentumOptimizer 優化器 tf.train.GradientDescentOptimizer 優化器 tf.train.Saver() tf.train.ExponentialMovingAverage tf.train.examle函數 mnist 識別率達98%以上，學習率lr越來越小，優化器AdamOptimizer tf.train.saver().save() 和。restore（s） tf.train.shuffle_batch函數解析 tf.train.MonitoredTrainingSession()的使用案例