注：该文是上了开智学堂数据科学基础班的课后做的笔记，主讲人是肖凯老师。 最优化 为什么要做最优化呢？因为在生活中，人们总是希望幸福值或其它达到一个极值，比如做生意时希望成本最小，收入最大，所以在很多商业情境中，都会遇到求极值的情况。 函数求根 这里「函数的根」也称「方程的根」，或「函数 ...

发现自己傻傻分不清斜率优化和决策单调性→_→，被一些博客误导了。。于是总结一下。萌新们可以先写写[hnoi2008]玩具装箱，并不难。 数 　　相信有心想学习斜率优化的同志们一定自己摸索着写过[hnoi2008]玩具装箱这道题吧，我刚开始学习斜率优化的时候，也是写了这个，然后似懂非懂的发现 ...

在优化问题中，寻找最优解过程中两个基本的难点：一是局部最优不一定是全局最优，而通过各类算法找到的最优值往往是局部最优值；其次便是约束条件的复杂性导致求解算法的复杂性大幅度增加。凸优化问题的优势在于其局部最优解就是全局最优解，技巧与难点体现在描述问题的环节，一旦问题被建模为凸优化问题，求解过程 ...

优化学习率的相关算法 在使用优化算法的时候，常常会涉及到一些学习率的优化，那么我们应该怎么优化学习率呢？ 调整学习率的策略： 1.在斜率(方向导数)大的地方，使用小的学习率 2.在斜率(方向导数)小的地方，使用大的学习率 下面我们通过梯度下降算法进行学习率的优化分析 在梯度下降中，设x ...

mysql性能优化 硬件对数据库的影响 CPU资源和可用内存大小 服务器硬件对mysql性能的影响 我们的应用是CPU密集型？ 我们的应用的并发量如何？ 数量比频率更好 64位使用32位的服务器版本 32位不能使用超过4G的内容，因此选择的时候需要 ...

MySQL服务器参数介绍 mysql参数介绍（客户端中执行），尽量只修改session级别的参数。 全局参数（新连接的session才会生效，原有已经连接的session不生效） set global 参数名=参数值; set @@global.参数名 :=参数值 ...

通用的损失函数最优化的数值方法，来源于泰勒展开式，多元函数的泰勒展开式为： 一、一阶逼近与一阶方法 一阶泰勒展开式： 其中，是代表了β变化的可能性，t在之后说到的梯度下降方法中演变成了学习速率。 现在，我们需要第二项最小，向量内积，最小为-|梯度||a|，这就是β的改变量。梯度 ...