深度學習中常用的優化器簡介

深度學習中常用的優化器簡介 SGD mini-batch SGD 是最基礎的優化方法，是后續改良方法的基礎。下式給出SGD的更新公式 \[\theta_t = \theta_{t-1} - ...