機器學習中訓練集、驗證集、測試集的定義和作用

下面是一些定義及作用：
Training set: A set of examples used for learning, which is to fit the parameters [i.e., weights] of the classifier.
訓練集是用來學習的樣本集，通過匹配一些參數來建立一個分類器
Validation set: A set of examples used to tune the parameters [i.e., architecture, not weights] of a classifier, for example to choose the number of hidden units in a neural network.
驗證集是用來調整分類器的參數的樣本集，比如在神經網絡中選擇隱藏單元數。驗證集還用來確定網絡結構或者控制模型復雜程度的參數
Test set: A set of examples used only to assess the performance [generalization] of a fully specified classifier.
測試集純粹是為了測試已經訓練好的模型的分類能力的樣本集。
 
一般驗證集在交叉驗證里應用的比較多：
    利用交叉驗證方法選擇模型思路是：使用訓練集(trainset)數據所有候選模型進行參數估計，使用驗證集(validationset)為檢驗樣本，然后計算預測均方誤差，比較各個模型的預測均方誤差，選擇預測均方誤差最小的擬合模型為選擇模型。