強化學習——值迭代和策略迭代


【強化學習】值迭代和策略迭代

在強化學習中我們經常會遇到策略迭代與值迭代,但是很多人都搞不清楚他們兩個之間的區別,他們其實都是強化學習中的動態規划方法(DP)。 ——《Reinforcement Learning:An Introduction》

(一)值迭代

對每一個當前狀態 s ,對每個可能的動作 a 都計算一下采取這個動作后到達的下一個狀態的期望價值。看看哪個動作可以到達的狀態的期望價值函數最大,就將這個最大的期望價值函數作為當前狀態的價值函數 V(s) ,循環執行這個步驟,直到價值函數收斂。

400


 

(二)策略迭代

從一個初始化的策略出發,先進行策略評估,然后改進策略,評估改進的策略,再進一步改進策略,經過不斷迭代更新,直達策略收斂,這種算法被稱為“策略迭代”

 

 

 


 

References:

 [1] 【強化學習】值迭代與策略迭代

 

 

 

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM