Majorization-Minimization優化框架在各類算法中是很常見的，而且這個思想其實也很容易理解，簡單點說，只需文獻【1】中的三頁PPT即可：
或者用文獻【2】中的三頁PPT來說明：
注意一點：在迭代過程中，新的目標函數是不斷隨着迭代點的變化而變化的，這個可以從文獻【1】的那個圖解過程清晰的看到。
可以看出，Majorization-Minimization流程很簡單，關鍵的問題是如何構建新的目標函數，有關這個問題在文獻【2】【3】【4】中都有涉及，這個得具體問題具體分析。
另外，文獻【5】將Majorization-Minimization進行了推廣，即Generalized MM：
懂得Majorization-Minimization這個優化框架很重要，很多迭代類的算法均基於此，否則無法透徹的理解一些算法。
參考文獻：
【1】谷鵠翔.IteratedSoft-ThresholdingAlgorithm[Report,slides]. http://www.sigvc.org/bbs/thread-41-1-2.html
【2】Ying Sun and Daniel P. Palomar. Majorization-Minimization Algorithm: Theory andApplications[slides]. 2015,HongKong. (Available at:http://www.ece.ust.hk/~palomar/ELEC5470_lectures/11/slides_MM_algorithms.pdf)
【3】Lange, K., Hunter, D.R., Yang, I..OptimizationTransfer Using Surrogate Objective Functions[J]. Journal ofComputational &Graphical Statistics, 2000, 9(1):1-20. (Available at:http://sites.stat.psu.edu/~dhunter/papers/ot.pdf)
【4】D. R. Hunter, and K. Lange, ”A Tutorial on MMAlgorithms”, Amer. Statistician, pp. 30-37, 2004. (Available at: http://sites.stat.psu.edu/~dhunter/papers/mmtutorial.pdf)
【5】Parizi S N, He K, Sclaroff S, et al.Generalized Majorization-Minimization[J]. Computer Science, 2015,121(2):95-108. (Available at: http://arxiv.org/pdf/1506.07613.pdf)