线性搜索算法 简介 　　线性搜索算法又被称为顺序搜索算法，是一种暴力算法。主要是通过从头至尾开始逐个检举来确定所需数据的位置。如果不在列表中则通过返回特殊值进行标记。 伪代码如下 　　PS：在伪代码中以procedure标记一个程序的开始，其后说明程序的名字及具体参数，并且数组的下标 ...

固定步长的时候往往不能很快的梯度下降。 所以步长的选择也很重要。 下面的dk是搜索方向，在梯度下降中就是负梯度方向。 在这里是假设了h（a）是连续可导的函数，一般情况下也是这样。 找到合适的a有几种方式 1.简单的二分搜索 2.回溯法线性搜索 上式中小于等于号右边 ...

Gradient Descent 机器学习中很多模型的参数估计都要用到优化算法，梯度下降是其中最简单也用得最多的优化算法之一。梯度下降(Gradient Descent)[3]也被称之为最快梯度(S ...

Wolfe准则 Armijo准则 ...

Armijo-Goldstein准则与Wolfe-Powell准则是不精确的一维搜索的两大准则。 之所以要遵循这些准则是为了能使算法收敛（求最优解）。即要使我们的不精确的一维搜索的步长满足一定的规则，使之后的求最优解的过程不至于因为步长过大或者过小而不收敛。 Armijo ...

非常好的题！和spoj 的 Mobile Service有点相似，用记忆化搜索很容易解决 看了网上的题解，也是减掉一维，刚好可以开下数组 https://blog.lucien.ink/archives/224/ 此外是滚动数组的版本（没有降维复杂度比较高） ...

　　关于线性空间也叫向量空间的理解 　　首先,客观上,从本质上来讲线性空间就是用来研究某一类事物在矩阵代数里的抽象的表示,线性空间也就是以向量为元素的集合,所以线性空间首先满足集合的概念和基本运算. 　　在集合基本运算中重点提一下笛卡尔积(叉乘),定义上讲X和Y的笛卡尔积就是两个集合中所 ...

数学中空间是一个非空的集合，用符号 $V$ 表示，它的组成包括两个部分：元素 + 规则，任何操作以及推导都只能在规则的基础上进行。 1. 线性空间 是一种定义了加法和数乘这两种规则的空间，其中的元素是向量，故也称为向量空间。符号 $P$ 表示一个数域。 1）加法运算 ...