总体思路: 各种类型的机器学习分类 按照输出空间类型分Y 按照数据标记类型分yn 按照不同目标函数类型分f 按照不同的输入空间类型分X 按照输出空间类型Y,可以分为二元分类,多元分类,回归分析以及结构化学习 ...
最近在跟台大的这个课程,觉得不错,想把学习笔记发出来跟大家分享下,有错误希望大家指正。 一机器学习是什么 感觉和Tom M. Mitchell的定义几乎一致, A computer program is said to learn fromexperienceE with respect to some class of tasks T and performance measureP, if i ...
2013-12-03 23:56 8 20593 推荐指数:
总体思路: 各种类型的机器学习分类 按照输出空间类型分Y 按照数据标记类型分yn 按照不同目标函数类型分f 按照不同的输入空间类型分X 按照输出空间类型Y,可以分为二元分类,多元分类,回归分析以及结构化学习 ...
本章思路: 根据之前的总结,如果M很大,那么无论假设泛化能力差的概率多小,都无法忽略,所以问题转化为证明M不大,然后上章将其转化为证明成长函数:mh(N)为多项式级别。直接证明似乎很困难,本章继续利 ...
本章的思路在于揭示VC Dimension的意义,简单来说就是假设的自由度,或者假设包含的feature vector的个数(一般情况下),同时进一步说明了Dvc和,Eout,Ein以及Model Complexity Penalty的关系。 一回顾 由函数B(N,k)的定义 ...
这节的主题感觉和training,testing关系不是很大,其根本线索在于铺垫并求解一个问题: 为什么算法PLA可以正确的work?因为前面的知识告诉我们,只有当假设的个数有限的时候,我们才能比较确认我们得到坏的数据集的概率比较低,也就是说算法得出的假设和最佳假设在 ...
提纲: 机器学习为什么可能? 引入计算橙球概率问题 通过用Hoeffding's inequality解决上面的问题,并得出PAC的概念,证明采样数据学习到的h的错误率可以和全局一致是PAC的 将得到的理论应用到机器学习,证明实际机器 ...
注:本大纲和笔记是根据台大林轩田老师《机器学习基石》和《机器学习技法》视频课程整理而来。林老师讲课幽默风趣,授课内容丰富而又通透,解决了我作为初学者的很多困惑,对此我非常感激。关于林老师的视频课程和相关资料,可参考这里。另外,个人认为,这里面讲解的最最精彩的是SVM和机器学习的可行性这两部分 ...
7 Support Vector Machines7.1 Large Margin Classification7.1.1 Optimization Objective支持向量机(SVM)代价函数在数学上的定义。 复习一下S型逻辑函数: 那么如何由逻辑回归代价函数得到支持向量机的代价函数 ...