提前終止
在對模型進行訓練時，我們可以將我們的數據集分為三個部分，訓練集、驗證集、測試集。我們在訓練的過程中，可以每隔一定量的step，使用驗證集對訓練的模型進行預測，一般來說，模型在訓練集和驗證集的損失變化如下圖所示：
可以看出，模型在驗證集上的誤差在一開始是隨着訓練集的誤差的下降而下降的。當超過一定訓練步數后，模型在訓練集上的誤差雖然還在下降，但是在驗證集上的誤差卻不在下降了。此時我們的模型就過擬合了。因此我們可以觀察我們訓練模型在驗證集上的誤差，一旦當驗證集的誤差不再下降時，我們就可以提前終止我們訓練的模型。