没有系统学过数学优化,但是机器学习中又常用到这些工具和技巧,机器学习中最常见的优化当属凸优化了,这些可以参考Ng的教学资料:http://cs229.stanford.edu/section/cs229-cvxopt.pdf,从中我们可以大致了解到一些凸优化的概念,比如凸集,凸函数,凸 ...
前言: 这次的内容是Ng关于machine learning关于svm部分的一些笔记。以前也学过一些svm理论,并且用过libsvm,不过这次一听Ng的内容,确实收获不少,隐约可以看到从logistic model到svm model的过程。 基础内容: 使用linear模型进行分类时,可以将参数向量看成一个变量,如果代价函数用MSE表示,则代价函数的图形类似抛物线 以新的变量为自变量 如果代价 ...
2013-05-26 23:01 3 10356 推荐指数:
没有系统学过数学优化,但是机器学习中又常用到这些工具和技巧,机器学习中最常见的优化当属凸优化了,这些可以参考Ng的教学资料:http://cs229.stanford.edu/section/cs229-cvxopt.pdf,从中我们可以大致了解到一些凸优化的概念,比如凸集,凸函数,凸 ...
概率论的一些基础知识 条件概率 \(P(B|A) = \frac{1}{3}\) 表示的意思为当A发生的时候,B发生的概率 有公式 \[P(B|A) = \frac{P(AB)}{P(A)} \] \[P(AB) = P(B|A)*P(A)=P(A|B)*P(B ...
原文:http://blog.csdn.net/heyongluoyao8/article/details/47840255 常见的机器学习&数据挖掘知识点 转载请说明出处 Basis(基础): SSE(Sum of Squared Error, 平方误差 ...
谈谈数据挖掘和机器学习 又是好长时间没有写博客了,最近周末事情太多,明天劳动节终于可以让我们劳动人民休息一天了。首先声明的是本人并非数据挖掘和机器学习的高手,只是作为业余兴趣刚刚开始研究,据我所知好多朋友也和我一样对这方面的东西感兴趣,个人认为机器人技术是未来发展的方向。虽然我的专业是软件开发 ...
一、数据挖掘任务 数据挖掘常见的六大任务: 1.分类问题 2.聚类问题 3.回归问题 4.关联问题 5.序列问题 6.异常检测 二、数据挖掘流程 CRISP-DM:跨行业数据挖掘标准流程 ...
李航的《统计学习方法》 这本书开篇第一章写得特别好,各个模型的算法推导也比较全,基本涵盖了比较经典的判别模型和生成模型。 《机器学习实战》 这本书代码和应用特别多,了解python用法和机器学习算法的代码实现非常方便。 项亮的《推荐系统实践》 这本书个人感觉偏理论一点,伪代码 ...
http://blog.sina.com.cn/s/blog_627a4f560100xmj1.html 在机器学习(Machine learning)领域,监督学习(Supervised learning)、非监督学习(Unsupervised learning)以及半监督学习 ...
前言: 本次实验包含了2部分:贝叶斯模型参数的学习以及贝叶斯模型结构的学习,在前面的博文PGM练习七:CRF中参数的学习 中我们已经知道怎样学习马尔科夫模型(CRF)的参数,那个实验采用的是优化方法,而这里贝叶斯模型参数的学习是先假定样本符合某种分布,然后使用统计 ...