使用牛顿迭代法求解方程 尽管通过因式分解和利用求根公式可以很方便的得出多项式方程的根，但大多数时候这个多项式的次数都很高，计算将变得非常复杂，因此，我们必须转向一些近似解法。 牛顿迭代法是其中最好 ...

本文始发于个人公众号：TechFlow，原创不易，求个关注 上一篇文章我们复习了函数求导的定义和一些常见函数的导数，今天这篇文章我们回顾一下复杂函数的求导方法。先强调一下，今天的文章很重要，想要看懂机器学习各种公式推导，想要能够自己推一推各种公式，函数求导是基础中的基础，在算法这个领域，它比 ...

一、基本概念与性质 记号规范请参考：记号规范 1. 迹 对称矩阵\(A\)的迹定义为： \[Tr(A) = \sum_{i=1}^nA_i^i \tag{1.1} \] 2. 迹的运 ...

1. softmax函数定义 softmax函数为神经网络定义了一种新的输出层：它把每个神经元的输入占当前层所有神经元输入之和的比值，当作该神经元的输出。假设人工神经网络第$L$层的第$ ...

Julia语言具有强大的元编程机制，本文用Julia实现《SICP》中文第二版中第 99 页中的实例：符号求导，体验一下Julia元编程。 运行结果如下： julia> include("deriv.jl")　　# 加载代码multiplicand (generic ...