在看機器學習時,經常碰到一個叫超參數的參數(hyperparameter),所以到底什么是超參數?
超參數的定義:在機器學習的上下文中,超參數是在開始學習過程之前設置值的參數,而不是通過訓練得到的參數數據。通常情況下,需要對超參數進行優化,給學習機選擇一組最優超參數,以提高學習的性能和效果。
理解:超參數也是一個參數,是一個未知變量,但是它不同於在訓練過程中的參數,它是可以對訓練得到的參數有影響的參數,需要訓練者人工輸入,並作出調整,以便優化訓練模型的效果。
超參數:
1. 定義關於模型的更高層次的概念,如復雜性或學習能力。
2. 不能直接從標准模型培訓過程中的數據中學習,需要預先定義。
3. 可以通過設置不同的值,訓練不同的模型和選擇更好的測試值來決定
超參數的一些示例:
1. 聚類中類的個數
2. 話題模型中話題的數量
3. 模型的學習率
4. 深層神經網絡隱藏層數
參考:
https://blog.csdn.net/u011501388/article/details/78447839