機器學習理論基礎
一、機器學習的概念 1、什么是學習？ --從人的學習說起 --學習理論；從實踐中總結 --在理論上推導；在實踐中檢驗 --通過各種手段獲取知識或技能的過程 2、機器怎么學習？ --處理某個特定的任務，以大量的“經驗”為基礎 ...
原文：機器學習 - 學習理論
背景 提及機器學習 Machine Learning ，大多數人的腦海中首先浮現出來的就是各種機器學習的模型策略。當一個問題的數據集 data set 確定后，我們便開始觀察數據，處理特征，確定模型。然而，為什么機器學習這個工具可以大概正確地預測數據的目標結果 在某個數據集上的學習是否具有可行性 feasibility of learning 機器學習的學習理論對這些問題作出了解釋。本文以理論推導 ...
2017-06-08 10:08 0 2203 推薦指數：
相關推薦
機器學習理論篇:機器學習的數學基礎
一、概述 我們知道，機器學習的特點就是：以計算機為工具和平台，以數據為研究對象，以學習方法為中心；是概率論、線性代數、數值計算、信息論、最優化理論和計算機科學等多個領域的交叉學科。所以本文就先介紹一下機器學習涉及到的一些最常用的的數學知識。 二、線性代數 2-1、標量 一個標量 ...
【機器學習理論】換底公式--以e，2，10為底的對數關系轉化
我們在推導機器學習公式時，常常會用到各種各樣的對數，但是奇怪的是--我們往往會忽略對數的底數是誰，不管是2，e，10等。 原因在於，lnx，log2x，log10x，之間是存在常數倍關系。 回顧學過的數學知識，換底公式如下: 則有 ...
機器學習理論基礎--常用算法思想要點
一、什么是機器學習？簡述機器學習的一般過程。 機器學習是通過算法使得機器從大量歷史數據中學習規律，從而對新樣本做分類或者預測。 一個機器學習過程主要分為三個階段： （1）訓練階段，訓練階段的主要工作是根據訓練數據建立模型。 （2）測試階段，測試階段的主要工作是利用驗證集 ...
機器學習理論|頻率派和貝葉斯派對比
Frequentist VS Bayesian 在機器學習領域分為兩個流派，分別是貝葉斯派和頻率派。兩種學派所基於的理論背景不同，應用場景也不盡相同。本文就以閱讀PRML為背景，對學習所悟進行總結。 對於一些問題，比如類似從盒子中抽取小球的經典問題，我們可以通過多次實驗的方式來計算頻率，並進 ...
深度學習理論
前段時間，跟部門同事分享了深度學習相關的一些理論基礎，在此記錄一下。僅供后續學習和復習。 目錄 1、背景及現狀 2、Embeding 3、DNN 4、CNN 5、RNN（LSTM） 6、應用（結合自身的應用案例） （1）情感分析/類目預測（文本分類） （2）NER/POS ...
【機器學習理論】概率論與數理統計--獨立和不相關
獨立和互斥的區別在此省略，比較好理解。 首先我們看協方差的定義: Cov(X, Y) = E{[X - E(X)][Y - E(Y)]}. 協方差的性質有: ...
斯坦福CS229機器學習課程筆記六：學習理論、模型選擇與正則化
稍微了解有監督機器學習的人都會知道，我們先通過訓練集訓練出模型，然后在測試集上測試模型效果，最后在未知的數據集上部署算法。然而，我們的目標是希望算法在未知的數據集上有很好的分類效果（即最低的泛化誤差），為什么訓練誤差最小的模型對控制泛化誤差也會有效呢？這一節關於學習理論的知識就是讓大家知其然也知 ...