損失函數與代價函數：目前理解是損失函數就是代價函數，且在損失函數的基礎上進行梯度下降，找到最優解。
損失函數：根據目標模型的不同，會分為回歸損失函數，邏輯回歸分類損失。
MSE損失函數：度量特征圖之間的距離，目標是提取特征圖推理一致性。平均平方誤差（mean square error）。MAE損失函數與之會有差異，mean absolute error，思想是這一類。
交叉熵損失函數：交叉熵由真實分布編碼長度的期望演變而來（參考https://www.cnblogs.com/ljy2013/p/6432269.html），交叉熵(cross entropy error)是衡量兩個概率分布p，q之間的相似性。這在特征工程中，用來衡量變量的重要性。所以交叉熵常用於分類。表達式是 類別✖️相應的概率表達。其他分類損失函數如0-1損失函數，變形聯立后用交叉熵表達就是交叉熵損失函數。