在标量、向量和矩阵的求导过程中一定要知道最后结果的形状。 这里总结几个常见的求导形式： 前言： 最基础最重要的，标量对向量求导和向量对标量求导，有两种方式，分子布局和分母布局，不同的方式都是对的 ...

原文来自微信公众号 深度学习推荐系统（一） 协同过滤 定义 ...

一、最大似然估计与最大后验概率 1、概率与统计 概率与统计是两个不同的概念。 概率是指：模型参数已知，X未知，p(x1) ... p(xn) 都是对应的xi的概率 统计是指：模型参数未知，X已 ...

目录 一、BP原理及求导 二、softmax及求导 一、BP 1、为什么沿梯度方向是上升最快方向 根据泰勒公式对f(x)在x0处展开，得到f(x) ~ f(x0) ...