一、GRU
其中， rt表示重置門，zt表示更新門。
- 重置門決定是否將之前的狀態忘記。(作用相當於合並了 LSTM 中的遺忘門和傳入門）
當rt趨於0的時候，前一個時刻的狀態信息ht−1會被忘掉，隱藏狀態h^t會被重置為當前輸入的信息。
- 更新門決定是否要將隱藏狀態更新為新的狀態h^t（作用相當於 LSTM 中的輸出門） 。
二、GRU的優點：解決梯度消失的問題
序列模型（4）----門控循環單元（GRU）
免責聲明！
本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。