換底公式內容 \(\log_ab=\frac{\log_cb}{\log_ca}\) 公式推導及證明 設 \(c_1=\log_ca,\ c_2=\log_cb,\ c_3=\log_ab\) 則欲求證 \(c_3=\frac{c_1}{c_2}\) ∴ \(c^{c_1}=a,\ c ...

一、機器學習的概念 　　1、什么是學習？ 　　　　--從人的學習說起 　　　　--學習理論；從實踐中總結 　　　　--在理論上推導；在實踐中檢驗 　　　　--通過各種手段獲取知識或技能的過程 　　2、機器怎么學習？ 　　　　--處理某個特定的任務，以大量的“經驗”為基礎 ...

（feasibility of learning）？機器學習的學習理論對這些問題作出了解釋。本文以理論 ...

一、概述 我們知道，機器學習的特點就是：以計算機為工具和平台，以數據為研究對象，以學習方法為中心；是概率論、線性代數、數值計算、信息論、最優化理論和計算機科學等多個領域的交叉學科。所以本文就先介紹一下機器學習涉及到的一些最常用的的數學知識。 二、線性代數 2-1、標量 一個標量 ...

一、什么是機器學習？簡述機器學習的一般過程。 　　機器學習是通過算法使得機器從大量歷史數據中學習規律，從而對新樣本做分類或者預測。 　　一個機器學習過程主要分為三個階段： 　　（1）訓練階段，訓練階段的主要工作是根據訓練數據建立模型。 　　（2）測試階段，測試階段的主要工作是利用驗證集 ...

Frequentist VS Bayesian 在機器學習領域分為兩個流派，分別是貝葉斯派和頻率派。兩種學派所基於的理論背景不同，應用場景也不盡相同。本文就以閱讀PRML為背景，對學習所悟進行總結。 對於一些問題，比如類似從盒子中抽取小球的經典問題，我們可以通過多次實驗的方式來計算頻率，並進 ...

獨立和互斥的區別在此省略，比較好理解。 首先我們看協方差的定義: 　　　　　　　　　　　　Cov(X, Y) = E{[X - E(X)][Y - E(Y)]}. 協方差的性質有: 　　　　　　　　　　　　Cov(X, Y) = Cov(Y, X) 　　　　　　　　　　　　Cov ...

稍微了解有監督機器學習的人都會知道，我們先通過訓練集訓練出模型，然后在測試集上測試模型效果，最后在未知的數據集上部署算法。然而，我們的目標是希望算法在未知的數據集上有很好的分類效果（即最低的泛化誤差），為什么訓練誤差最小的模型對控制泛化誤差也會有效呢？這一節關於學習理論的知識就是讓大家知其然也知 ...