簡介 最近在參加一個利用機器學習來解決安全問題的算法比賽，但是對機器學習的算法一直不了解，所以先了解一下機器學習相關的算法。 Andrew Ng就是前段時間從百度離職的吳恩達。關於吳恩達是誰，相信程序員/媛都知道。 Andrew Ng的機器學習的公開課其實就是當年吳恩達還在斯坦福大學 ...

矩陣定義 數學上，一個m×n的矩陣是一個由m行n列元素排列成的矩形陣列 使用Aij來獲取矩陣中第i行j列的數據 向量的定義 向量就是n行1列的特殊矩陣 由於向量僅僅只有1行，那么通過一 ...

邏輯回歸 先前所講的線性回歸主要是一個預測問題，根據已知的數據去預測接下來的情況。線性回歸中的房價的例子就很好地說明了這個問題。 然后在現實世界中，很多問題不是預測問題而是一個分類問題。 如郵件 ...

機器學習的定義 Arthur Samuel給出的定義，Field of Study that gives computers the ability to learn without being explicitly programmed.（在不直接針對問題進行編程的情況下，賦予計算機 ...

多變量線性回歸 之前討論的都是單變量的情況。例如房價與房屋面積之前的關系，但是實際上，房價除了房屋面積之外，還要房間數，樓層等因素相關。那么此時就變成了一個多變量線性回歸的問題。在實際問題中，多變量 ...

為： 其中X表示的房屋面積。 所以選擇了合適的特征，對算法進行預測和分類是非常有好處的 多項式回 ...

網易公開課，監督學習應用.梯度下降 notes，http://cs229.stanford.edu/notes/cs229-notes1.pdf 線性回歸（Linear Regression） 先看個例子，比如，想用面積和卧室個數來預測房屋的價格 訓練集如下 首先，我們假設為線性模型 ...

梯度下降法是一個 最優化算法，通常也稱為 最速下降法。 最速下降法是求解無約束優化問題最簡單和最古老的方法之一，雖然現在已經不具有實用性，但是許多有效算法都是以它為基礎進行改進和修正而得到的。 最速下降法是用 負梯度方向為搜索方向的，最速下降法越接近目標值，步長越小，前進 ...