机器学习中的所有算法都依靠最小化或最大化函数，我们将其称为“目标函数”。被最小化的函数就被称为“损失函数”。损失函数也能衡量预测模型在预测期望结果方面的性能，如果预测值与实际结果偏离较远，损失函数会得到一个非常大的值。而在一些优化策略的辅助下，我们可以让模型“学会”逐步减少损失函数预测值的误差 ...

前面学习了如何构建模型、模型初始化，本章学习损失函数。本章从3个方面学习，（1）损失函数的概念以及作用；（2）学习交叉熵损失函数；（3）学习其他损失函数NLL、BCE、BCEWithLogits Loss 损失函数概念 损失函数：衡量模型输出与真实标签的差异。 图 ...

1、sigmoid函数 ​ sigmoid函数，也就是s型曲线函数，如下： 函数： 导数： ​ 上面是我们常见的形式，虽然知道这样的形式，也知道计算流程，不够感觉并不太直观，下面来分析一下。 1.1 从指数函数到sigmoid ​ 首先我们来画出指数函数 ...

一.损失函数的使用 　　损失函数【也称目标函数或优化评分函数】是编译模型时所需的两个参数之一。 　　model.compile(loss='mean_squared_error', optimizer='sgd') 　　或 　　from keras import losses ...

　　学校给我们一人赞助了100美元购买英文原版图书，几方打听后选择了PRML 即Pattern Recognition and Machine Learning。自从拆封这本书开始慢慢的品读，经常会有 ...

损失函数度量的是训练的模型与真实模型之间的距离。一般以最小化损失函数为目标，对模型进行不断优化。 常见的损失函数在计算过程中都会接受两个参数：模型预测值y_pred和正确答案y_true。 由于背后的数学计算过程相同，所以即使是不同深度学习框架这些损失函数的api也是大同小异。本文以keras ...

1.损失函数---------经典损失函数--------交叉熵：交叉熵刻画了两个概率分布之间的距离，它是分类问题中使用比较广的一种损失函数。通过q来表示p的交叉熵为： Softmax将神经网络前向传播得到的结果变成概率分布，原始神经网络的输出被用作置信度来生成新的输出，而新的输出满足 ...

激活函数：将神经网络上一层的输入，经过神经网络层的非线性变换转换后，通过激活函数，得到输出。常见的激活函数包括：sigmoid, tanh, relu等。https://blog.csdn.net/u013250416/article/details/80991831 损失函数：度量神经网络 ...