【強化學習】值迭代和策略迭代
在強化學習中我們經常會遇到策略迭代與值迭代,但是很多人都搞不清楚他們兩個之間的區別,他們其實都是強化學習中的動態規划方法(DP)。 ——《Reinforcement Learning:An Introduction》
(一)值迭代
對每一個當前狀態 s ,對每個可能的動作 a 都計算一下采取這個動作后到達的下一個狀態的期望價值。看看哪個動作可以到達的狀態的期望價值函數最大,就將這個最大的期望價值函數作為當前狀態的價值函數 V(s) ,循環執行這個步驟,直到價值函數收斂。


(二)策略迭代
從一個初始化的策略出發,先進行策略評估,然后改進策略,評估改進的策略,再進一步改進策略,經過不斷迭代更新,直達策略收斂,這種算法被稱為“策略迭代”


References:
[1] 【強化學習】值迭代與策略迭代
