0. 前言 1. 损失函数 2. Margin 3. Cross-Entropy vs. Squared Error 总结 参考资料 0. 前言 “尽管新技术新算法层出不穷，但是掌握好基础算法就能解决手头 90% 的机器学习问题 ...

我们希望并期望我们的网络能够从他们的错误中学习的很快，首先看一个小例子。 我们将训练这个神经元做一些非常简单的事情:把输入的1转换成输出的0。当然，如果我们不是用学习算法，可以很容易地计算 ...

softmax模型可以用来给不同的对象分配概率。即使在之后，我们训练更加精细的模型时，最后一步也需要用softmax来分配概率。 cross-entropy 交叉熵是度量这两个向量距离的方法之一。我们将记它为D以表示距离。 labels标签向量经过了one-hot编码 ...