前言 过去几个月,一直在学习机器学习模型,输入只是学习的一部分,输出可以帮助自己更熟练地掌握概念和知识。把一个复杂的事物简单的讲述出来,才能表示真正弄懂了这个知识。所以我将在博客中尽量简单地把这些模型讲述出来,以加深自己的掌握,也为他人提供一点点参考。在此感谢大神刘建平Pinard的博客,如有任何疑惑可参考该神博客,此作仅为狗尾续貂之作。 每个模型介绍都将用基本思想,输入,输出,损失函数,优化方法 ...
2020-10-24 19:57 0 611 推荐指数:
线性回归 线性回归是一个回归问题,即用一条线去拟合训练数据 线性回归的模型: 通过训练数据学习一个特征的线性组合,以此作为预测函数。 训练目标:根据训练数据学习参数(w1,w2, ... , wn,b) 学习策略: 要确定参数(w1,w2, ... , wn,b),即关键在于 ...
前面已经对感知机和SVM进行了简要的概述,本节是SVM算法的实现过程用于辅助理解SVM算法的具体内容,然后借助sklearn对SVM工具包进行实现。 SVM算法的核心是SMO算法的实现,首先对SMO算法过程进行实现,先对一些辅助函数进行定义: 然后实现一个简化版 ...
对《Python与机器学习实战》一书阅读的记录,对于一些难以理解的地方查阅了资料辅以理解并补充和记录,重新梳理一下感知机和SVM的算法原理,加深记忆。 1.感知机 感知机的基本概念 感知机是运用梯度下降学习过程的最简单的机器学习算法之一,是神经网络和支持向量机的基础。具体提出 ...
逻辑回归和线性回归都是广义线性模型中的一种,接下来我们来解释为什么是这样的? 1、指数族分布 指数族分布和指数分布是不一样的,在概率统计中很对分布都可以用指数族分布来表示,比如高斯分布、伯努利分布、多项式分布、泊松分布等。指数族分布的表达式如下 其中η ...