损失函数度量的是训练的模型与真实模型之间的距离。一般以最小化损失函数为目标，对模型进行不断优化。 常见的损失函数在计算过程中都会接受两个参数：模型预测值y_pred和正确答案y_true。 由于背后的数学计算过程相同，所以即使是不同深度学习框架这些损失函数的api也是大同小异。本文以keras ...

机器学习中的所有算法都依靠最小化或最大化函数，我们将其称为“目标函数”。被最小化的函数就被称为“损失函数”。损失函数也能衡量预测模型在预测期望结果方面的性能，如果预测值与实际结果偏离较远，损失函数会得到一个非常大的值。而在一些优化策略的辅助下，我们可以让模型“学会”逐步减少损失函数预测值的误差 ...

在深度学习中，损失函数扮演着至关重要的角色。通过对最小化损失函数，使模型达到收敛状态，减少模型预测值的误差。因此，不同的损失函数，对模型的影响是重大的。接下来，总结一下，在工作中经常用到的损失函数： 图像分类：交叉熵 目标检测：Focal loss，L1/L2损失函数，IOU Loss ...

1. softmax层的作用 通过神经网络解决多分类问题时，最常用的一种方式就是在最后一层设置n个输出节点，无论在浅层神经网络还是在CNN中都是如此，比如，在AlexNet中最后的输出层有100 ...

深度学习中，交叉熵损失函数为什么优于均方差损失函数 一、总结 一句话总结： A)、原因在于交叉熵函数配合输出层的激活函数如sigmoid或softmax函数能更快地加速深度学习的训练速度 B)、因为反向传播过程中交叉熵损失函数得到的结果更加简洁，无论sigmoid或softmax，可以定 ...

前面学习了如何构建模型、模型初始化，本章学习损失函数。本章从3个方面学习，（1）损失函数的概念以及作用；（2）学习交叉熵损失函数；（3）学习其他损失函数NLL、BCE、BCEWithLogits Loss 损失函数概念 损失函数：衡量模型输出与真实标签的差异。 图 ...

1、sigmoid函数 ​ sigmoid函数，也就是s型曲线函数，如下： 函数： 导数： ​ 上面是我们常见的形式，虽然知道这样的形式，也知道计算流程，不够感觉并不太直观，下面来分析一下。 1.1 从指数函数到sigmoid ​ 首先我们来画出指数函数 ...

一.损失函数的使用 　　损失函数【也称目标函数或优化评分函数】是编译模型时所需的两个参数之一。 　　model.compile(loss='mean_squared_error', optimizer='sgd') 　　或 　　from keras import losses ...