我眼中的机器学习(三) 如何寻找模型的最优解
前面两篇文章, 我们先是通过三个非常简单的数学例子了解了机器学习的基本流程(训练, 预测). 接着为大家解释了为什么大家早就学会解方程了, 还需要用到机器学习技术. 我们接下来要讲的是机器学习算法怎样为我们在无数个可能的模型中找出最有可能正确的(最优的)那个模型. 首先在上一篇文章中, 有朋友 ...
原文：我眼中的机器学习(四) 快速寻找最优解
快速寻找最优解 基础知识 通过上文, 我们知道了, 如果盲目使用随机算法或者遍历算法寻找最优解的话, 需要计算的空间将会太大. 为了能够让大家直观的感受一下实际应用的计算量, 我这里再举个例子, 年 月 日 IBM的深蓝AI战胜卡国际象棋名家斯帕罗夫. 我们知道 围棋的棋盘是 路总共 格, 如果计算机需要计算 步则需要计算的状态数量为 个, 而前文我们提到的当步长为 . 时需要计算的状态数量为 ...
2016-10-27 10:04 3 4575 推荐指数：
相关推荐
机器学习之寻找KMeans的最优K
K-Means聚类算法是最为经典的，同时也是使用最为广泛的一种基于划分的聚类算法，它属于基于距离的无监督聚类算法。KMeans算法简单实用，在机器学习算法中占有重要的地位。对于KMeans算法而言，如何确定K值，确实让人头疼的事情。 最近这几天一直忙于构建公司的推荐引擎。对用户群体的分类 ...
机器学习：决策树（使用信息熵寻找最优划分）
老师强调：作为计算机工程师，传统的算法和数据结构是最基础的内容，要掌握。 一、节点数据集的划分 1）决策树算法的思想 解决分类问题时，决策树算法的任务是构造决策树模型，对未知的 ...
机器学习常见的最优化算法
1. 梯度下降法（Gradient Descent） 梯度下降法是最早最简单，也是最为常用的最优化方法。梯度下降法实现简单，当目标函数是凸函数时，梯度下降法的解是全局解。一般情况下，其解不保证是全局最优解，梯度下降法的速度也未必是最快的。梯度下降法的优化思想是用当前位置负梯度方向作为搜索方向 ...
最优化理论——机器学习基础
目录 前言 常见概念 目标函数（objective function） 收敛（convergence） 局部最小值（local mininu ...
我眼中的机器学习(一) 应用,目的及基本概念
经常有一些学弟在QQ或者邮箱上面问我, 机器学习是什么? 我要怎么学习机器学习? 机器学习要如何入门/上手 等类似的问题. 现在我索性就发个博客出来, 以后你们直接来看这个文章就好了~ 机器学习是一门研究如何从已有的数据样本中发现该数据样本的数学模型, 而后利用 ...
机器学习，优化——如何找到最优学习率
1.找到最优学习率的方法 （1）笨方法——指数提高学习率 从0.0001开始尝试，然后用0.001，每个量级的学习率都去跑一下网络，然后观察一下loss的情况，选择一个相对合理的学习率，但是这种方法太耗时间了。 （2）简单的启发方法【有时间总结】 参考：https ...
机器学习（一） ---- 最优化理论基础
之前学习机器学习和数据挖掘的时候，很多都是知道这些算法的设计机制，对数学推导和求解过程依然是一知半解，最近看了一些机器学习算法的求解和各种优化算法，也发现了这些算法设计和公式推导背后的数学精妙之处和随处可见的最优化的影子。还是决定从最优化理论开始补起，本文主要内容如下： ...