Coursera台大机器学习课程笔记6 -- The VC Dimension
本章的思路在于揭示VC Dimension的意义，简单来说就是假设的自由度，或者假设包含的feature vector的个数（一般情况下），同时进一步说明了Dvc和，Eout，Ein以及Model ...
原文：Coursera台大机器学习课程笔记5 -- Theory of Generalization
本章思路： 根据之前的总结，如果M很大，那么无论假设泛化能力差的概率多小，都无法忽略，所以问题转化为证明M不大，然后上章将其转化为证明成长函数：mh N 为多项式级别。直接证明似乎很困难，本章继续利用转化的思想，首先想想和mh N 相关的因素可能有哪些 不难想到目前来看只有两个： 假设的抽样数据集大小N break point k 这个变量确定了假设的类型 那么，由此可以得到一个函数B，给定N和k ...
2014-03-25 08:33 1 2291 推荐指数：
相关推荐
Coursera台大机器学习课程笔记4 -- Training versus Testing
这节的主题感觉和training，testing关系不是很大，其根本线索在于铺垫并求解一个问题： 为什么算法PLA可以正确的work？因为前面的知识告诉我们，只有当假设的个 ...
Coursera台大机器学习课程笔记3 – 机器学习的可能性
提纲： 机器学习为什么可能？ 引入计算橙球概率问题 通过用Hoeffding's inequality解决上面的问题，并得出PAC的概念，证明采样数据学习到的h的错误率可以和全局一致是PAC的 将得到的理论应用到机器学习，证明实际机器 ...
Coursera台大机器学习基础课程学习笔记2 -- 机器学习的分类
总体思路： 各种类型的机器学习分类 按照输出空间类型分Y 按照数据标记类型分yn 按照不同目标函数类型分f 按照不同的输入空间类型分X 按照输出空间类型Y，可以分为二元分类，多元分类，回归分析以及结构化学习 ...
Coursera台大机器学习基础课程学习笔记1 -- 机器学习定义及PLA算法
最近在跟台大的这个课程，觉得不错，想把学习笔记发出来跟大家分享下，有错误希望大家指正。 一机器学习是什么？ 感觉和 Tom M. Mitchell的定义几乎一致， A computer program is said to learn from experience E ...
机器学习笔记：Learning Theory
截止目前，已经知道了常用的机器学习算法是怎么回事儿、学习的步骤是怎么进行的。但在机器学习的应用背景是多种多样的，做实际工程必须学会如何根据具体的问题评估一个学习模型的好坏，如何合理地选择模型、提取特征，如何进行参数调优。这些也是我以前做模式识别时欠缺的环节，所以在遇到识别率很低的情况时，往往 ...
【原】Coursera—Andrew Ng机器学习—课程笔记 Lecture 9_Neural Networks learning
神经网络的学习(Neural Networks: Learning) 9.1 代价函数 Cost Function 参考视频: 9 - 1 - Cost Function (7 min).mkv 假设神经网络的训练样本有𝑚个，每个包含一组输入 𝑥 和一组输出信号 𝑦，𝐿 表示 ...
【原】Coursera—Andrew Ng机器学习—课程笔记 Lecture 1_Introduction and Basic Concepts 介绍和基本概念
目录 1.1 欢迎1.2 机器学习是什么 1.2.1 机器学习定义 1.2.2 机器学习算法 - Supervised learning 监督学习 - Unsupervised learning 无监督学习 - Reinforcement learning 强化学习 ...