機器學習 損失函數(Loss/Error Function)、代價函數(Cost Function)和目標函數(Objective function)

損失函數(Loss/Error Function): 計算單個訓練集的誤差，例如：歐氏距離，交叉熵，對比損失，合頁損失

代價函數(Cost Function): 計算整個訓練集所有損失之和的平均值

至於目標函數(Objective function)，字面一些，就是有某個（最優化）目標的函數，比如最優化這個目的。沒有找到定義，個人理解，目標函數是一個大類，包含損失函數、代價函數；損失函數、代價函數，屬於目標函數。