Coursera台大機器學習課程筆記5 -- Theory of Generalization
本章思路： 根據之前的總結，如果M很大，那么無論假設泛化能力差的概率多小，都無法忽略，所以問題轉化為證明M不大，然后上章將其轉化為證明成長函數：mh(N)為多項式級別。直接證明似乎很困難，本章繼續利 ...
原文：Coursera台大機器學習課程筆記6 -- The VC Dimension
本章的思路在於揭示VC Dimension的意義，簡單來說就是假設的自由度，或者假設包含的feature vector的個數 一般情況下 ，同時進一步說明了Dvc和，Eout，Ein以及Model Complexity Penalty的關系。 一回顧 由函數B N,k 的定義，可以得到比較松的不等式mh N 小於等於N k 取第一項 。 這樣就可以把不等式轉化為僅僅只和VC Dimension和 ...
2014-03-30 16:26 0 5745 推薦指數：
相關推薦
Coursera台大機器學習課程筆記4 -- Training versus Testing
這節的主題感覺和training，testing關系不是很大，其根本線索在於鋪墊並求解一個問題： 為什么算法PLA可以正確的work？因為前面的知識告訴我們，只有當假設的個 ...
Coursera台大機器學習課程筆記3 – 機器學習的可能性
提綱： 機器學習為什么可能？ 引入計算橙球概率問題 通過用Hoeffding's inequality解決上面的問題，並得出PAC的概念，證明采樣數據學習到的h的錯誤率可以和全局一致是PAC的 將得到的理論應用到機器學習，證明實際機器 ...
Coursera台大機器學習基礎課程學習筆記2 -- 機器學習的分類
總體思路： 各種類型的機器學習分類 按照輸出空間類型分Y 按照數據標記類型分yn 按照不同目標函數類型分f 按照不同的輸入空間類型分X 按照輸出空間類型Y，可以分為二元分類，多元分類，回歸分析以及結構化學習 ...
Coursera台大機器學習基礎課程學習筆記1 -- 機器學習定義及PLA算法
最近在跟台大的這個課程，覺得不錯，想把學習筆記發出來跟大家分享下，有錯誤希望大家指正。 一機器學習是什么？ 感覺和 Tom M. Mitchell的定義幾乎一致， A computer program is said to learn from experience E ...
【原】Coursera—Andrew Ng機器學習—課程筆記 Lecture 9_Neural Networks learning
神經網絡的學習(Neural Networks: Learning) 9.1 代價函數 Cost Function 參考視頻: 9 - 1 - Cost Function (7 min).mkv 假設神經網絡的訓練樣本有𝑚個，每個包含一組輸入 𝑥 和一組輸出信號 𝑦，𝐿 表示 ...
【原】Coursera—Andrew Ng機器學習—課程筆記 Lecture 1_Introduction and Basic Concepts 介紹和基本概念
目錄 1.1 歡迎1.2 機器學習是什么 1.2.1 機器學習定義 1.2.2 機器學習算法 - Supervised learning 監督學習 - Unsupervised learning 無監督學習 - Reinforcement learning 強化學習 ...
【原】Coursera—Andrew Ng機器學習—課程筆記 Lecture 2_Linear regression with one variable 單變量線性回歸
Lecture2 Linear regression with one variable 單變量線性回歸 2.1 模型表示 Model Representation 2.1.1 線性回 ...