這記錄一些我剛開始學習所用到的數學 基礎從最基礎的開始 小知識： 　　0 ∈ ｛0 1 ｛0 1｝表示一個集合，里面有0,1兩個元素。所以0屬於這個集合，就用0 ∈ ｛0 1｝表示了。∈代表屬於。｛0 ｝ ∈ ｛0 1｝是錯誤的，一個集合不能屬於另一個集合。反着的E:謂詞邏輯 ...

線性代數，面向連續數學，非離散數學。《The Matrix Cookbook》，Petersen and Pedersen，2006。Shilov(1977)。 標量、向量、矩陣、張量。 標量(scalar)。一個標量，一個單獨的數。其他大部分對象是多個數的數組。斜體表示標量。小寫變量名 ...

標量、向量、矩陣、張量之間的聯系 在深度學習中，大家肯定都知道這幾個詞：標量（Scalar），向量（Vector），矩陣（Matrix），張量（Tensor）。但是要是讓我們具體說下他們，可能一下子找不出頭緒。下面介紹一下他們之間的關系： 標量（scalar) ​一個標量 ...

原文：https://www.jianshu.com/p/5ae644748f21 要介紹Tensor這個數據類型，我覺得有必要扯一下數學。 我們都知道： 標量（Scalar）是只有大小，沒有方向的量，如1，2，3等 向量（Vector）是有大小和方向的量 ...

矩陣 參考: 機器學習基礎 一般而言，一個對象應該被視為完整的個體，表現實中有意義的事物，不能輕易拆分。 對象是被特征化的客觀事物，而表（或矩陣）是容納這些對象的容器。換句話說，對象是表中的元素，表是對象的集合（表中的每個對象都有相同的特征和維度，對象對於每個特征都有一定的取值 ...

　　　　在矩陣向量求導前4篇文章中，我們主要討論了標量對向量矩陣的求導，以及向量對向量的求導。本文我們就討論下之前沒有涉及到的矩陣對矩陣的求導，還有矩陣對向量，向量對矩陣求導這幾種形式的求導方法。 　　　　本文所有求導布局以分母布局為准，為了適配矩陣對矩陣的求導，本文向量對向量的求導也以分母布局 ...

四、信息論 信息論是應用數學的一個分支，主要研究的是對一個信號能夠提供信息的多少進行量化。如果說概率使我們能夠做出不確定性的陳述以及在不確定性存在的情況下進行推理，那信息論就是使我們能夠量化概率分布中不確定性的總量。 1948年，香農引入信息熵，將其定義為離散隨機事件的出現概率。一個系統 ...

目錄 線性代數 一、基本知識 概率論與隨機過程 一、概率與分布 1.1 條件概率與獨立事件 ...