前面兩篇文章, 我們先是通過三個非常簡單的數學例子了解了機器學習的基本流程(訓練, 預測). 接着為大家解釋了為什么大家早就學會解方程了, 還需要用到機器學習技術. 我們接下來要講的是機器學習算法怎樣為我們在無數個可能的模型中找出最有可能正確的(最優的)那個模型. 首先在上一篇文章中, 有朋友 ...

　　K-Means聚類算法是最為經典的，同時也是使用最為廣泛的一種基於划分的聚類算法，它屬於基於距離的無監督聚類算法。KMeans算法簡單實用，在機器學習算法中占有重要的地位。對於KMeans算法而言，如何確定K值，確實讓人頭疼的事情。 最近這幾天一直忙於構建公司的推薦引擎。對用戶群體的分類 ...

老師強調：作為計算機工程師，傳統的算法和數據結構是最基礎的內容，要掌握。 一、節點數據集的划分 　1）決策樹算法的思想 解決分類問題時，決策樹算法的任務是構造決策樹模型，對未知的 ...

1. 梯度下降法（Gradient Descent） 梯度下降法是最早最簡單，也是最為常用的最優化方法。梯度下降法實現簡單，當目標函數是凸函數時，梯度下降法的解是全局解。一般情況下，其解不保證是全局最優解，梯度下降法的速度也未必是最快的。梯度下降法的優化思想是用當前位置負梯度方向作為搜索方向 ...

目錄 前言 常見概念 目標函數（objective function） 收斂（convergence） 局部最小值（local mininu ...

經常有一些學弟在QQ或者郵箱上面問我, 機器學習是什么? 我要怎么學習機器學習? 機器學習要如何入門/上手 等類似的問題. 現在我索性就發個博客出來, 以后你們直接來看這個文章就好了~ 機器學習是一門研究如何從已有的數據樣本中發現該數據樣本的數學模型, 而后利用 ...

1.找到最優學習率的方法 （1）笨方法——指數提高學習率 從0.0001開始嘗試，然后用0.001，每個量級的學習率都去跑一下網絡，然后觀察一下loss的情況，選擇一個相對合理的學習率，但是這種方法太耗時間了。 （2）簡單的啟發方法【有時間總結】 參考：https ...

之前學習機器學習和數據挖掘的時候，很多都是知道這些算法的設計機制，對數學推導和求解過程依然是一知半解，最近看了一些機器學習算法的求解和各種優化算法，也發現了這些算法設計和公式推導背后的數學精妙之處和隨處可見的最優化的影子。還是決定從最優化理論開始補起，本文主要內容如下： ...