这记录一些我刚开始学习所用到的数学 基础从最基础的开始 小知识： 　　0 ∈ ｛0 1 ｛0 1｝表示一个集合，里面有0,1两个元素。所以0属于这个集合，就用0 ∈ ｛0 1｝表示了。∈代表属于。｛0 ｝ ∈ ｛0 1｝是错误的，一个集合不能属于另一个集合。反着的E:谓词逻辑 ...

线性代数，面向连续数学，非离散数学。《The Matrix Cookbook》，Petersen and Pedersen，2006。Shilov(1977)。 标量、向量、矩阵、张量。 标量(scalar)。一个标量，一个单独的数。其他大部分对象是多个数的数组。斜体表示标量。小写变量名 ...

标量、向量、矩阵、张量之间的联系 在深度学习中，大家肯定都知道这几个词：标量（Scalar），向量（Vector），矩阵（Matrix），张量（Tensor）。但是要是让我们具体说下他们，可能一下子找不出头绪。下面介绍一下他们之间的关系： 标量（scalar) ​一个标量 ...

原文：https://www.jianshu.com/p/5ae644748f21 要介绍Tensor这个数据类型，我觉得有必要扯一下数学。 我们都知道： 标量（Scalar）是只有大小，没有方向的量，如1，2，3等 向量（Vector）是有大小和方向的量 ...

矩阵 参考: 机器学习基础 一般而言，一个对象应该被视为完整的个体，表现实中有意义的事物，不能轻易拆分。 对象是被特征化的客观事物，而表（或矩阵）是容纳这些对象的容器。换句话说，对象是表中的元素，表是对象的集合（表中的每个对象都有相同的特征和维度，对象对于每个特征都有一定的取值 ...

　　　　在矩阵向量求导前4篇文章中，我们主要讨论了标量对向量矩阵的求导，以及向量对向量的求导。本文我们就讨论下之前没有涉及到的矩阵对矩阵的求导，还有矩阵对向量，向量对矩阵求导这几种形式的求导方法。 　　　　本文所有求导布局以分母布局为准，为了适配矩阵对矩阵的求导，本文向量对向量的求导也以分母布局 ...

四、信息论 信息论是应用数学的一个分支，主要研究的是对一个信号能够提供信息的多少进行量化。如果说概率使我们能够做出不确定性的陈述以及在不确定性存在的情况下进行推理，那信息论就是使我们能够量化概率分布中不确定性的总量。 1948年，香农引入信息熵，将其定义为离散随机事件的出现概率。一个系统 ...

目录 线性代数 一、基本知识 概率论与随机过程 一、概率与分布 1.1 条件概率与独立事件 ...