概率论的一些基础知识 条件概率 \(P(B|A) = \frac{1}{3}\) 表示的意思为当A发生的时候，B发生的概率 有公式 \[P(B|A) = \frac{P(AB)}{P(A)} \] \[P(AB) = P(B|A)*P(A)=P(A|B)*P(B ...

原文：决策树系列（一）——基础知识回顾与总结 作者： 学会分享~ 1.决策树的定义 树想必大家都会比较熟悉，是由节点和边两种元素组成的结构。理解树，就需要理解几个关键词：根节点、父节点、子节点和叶子节点。 父节点和子节点是相对的，说白了子节点由父节点根据某一规则 ...

关于机器学习的一些基本概念的整理 1.前言 1.机器学习是一门致力于研究如何通过计算的手段，利用经验来改善系统自身的性能的学科。1997年Mitchell给出一个更形式化的定义，假设用P来评估计算机程序在某任务类T上的性能，若一个程序通过利用经验E在T中任务上获得了性能改善，则我们就说关于T ...

1.1 统计学习 统计学习也称统计机器学习 主要特点： 以计算机及网络为平台，建立在计算机及网络之上 以数据为研究对象，是数据驱动的学科 统计学习的目的是对数据进行预测和分析 统计学习以方法为中心，统计学习方法构建模型并应用模型进行预测和分析 统计学习是概率论、统计学 ...

似然函数 常说的概率是指给定参数后，预测即将发生的事件的可能性。拿硬币这个例子来说，我们已知一枚均匀硬币的正反面概率分别是0.5，要预测抛两次硬币，硬币都朝上的概率： H代表Head，表示头朝上 ...

1、向量、矩阵求导 当然了，这里补充一下求解过程中的关于向量、矩阵求导的几个公式： 这里其实只需要明白第一个，后边的三个都可以由第一个简单的推导而来。 注意这里对列向量A ...

一 矩阵求导 复杂矩阵问题求导方法：可以从小到大，从scalar到vector再到matrix。 x is a column vector, A is a matrix d(A&am ...