沒有系統學過數學優化,但是機器學習中又常用到這些工具和技巧,機器學習中最常見的優化當屬凸優化了,這些可以參考Ng的教學資料:http://cs229.stanford.edu/section/cs229-cvxopt.pdf,從中我們可以大致了解到一些凸優化的概念,比如凸集,凸函數,凸 ...
數學優化方法在機器學習算法中至關重要,本篇博客主要來簡單介紹下Conjugate Gradient 共軛梯度法,以下簡稱CG 算法,內容是參考的文獻為:An Introduction to the Conjugate Gradient Method Without the Agonizing Pain,具體細節大家還需仔細閱讀那篇文章,這篇博客並不是重現那篇論文的內容,只是簡單的梳理下CG算法的 ...
2013-08-17 21:54 3 11107 推薦指數:
沒有系統學過數學優化,但是機器學習中又常用到這些工具和技巧,機器學習中最常見的優化當屬凸優化了,這些可以參考Ng的教學資料:http://cs229.stanford.edu/section/cs229-cvxopt.pdf,從中我們可以大致了解到一些凸優化的概念,比如凸集,凸函數,凸 ...
前言: GP(高斯過程)是一種自然界中普遍存在且重要的隨機過程,也叫正態隨機過程,在ML等領域應用比較廣泛。本次實驗目的是簡單理解下GP,特別是要體驗到GP的一個sample不再是一個普通的點,而是一個函數。實驗部分完成了常見的GP的一維和二維sample的顯示,常見的GP有線 ...
為了對GMM-HMM在語音識別上的應用有個宏觀認識,花了些時間讀了下HTK(用htk完成簡單的孤立詞識別)的部分源碼,對該算法總算有了點大概認識,達到了預期我想要的。不得不說,網絡上關於語音識別的通俗易懂教程太少,都是各種公式滿天飛,很少有說具體細節的,當然了,那需要有實戰經驗才行 ...
前言: 找工作時(IT行業),除了常見的軟件開發以外,機器學習崗位也可以當作是一個選擇,不少計算機方向的研究生都會接觸這個,如果你的研究方向是機器學習/數據挖掘之類,且又對其非常感興趣的話,可以考慮考慮該崗位,畢竟在機器智能沒達到人類水平之前,機器學習可以作為一種重要手段 ...
最近在看圖模型中著名的HMM算法,對應的一些理論公式也能看懂個大概,就是不太明白怎樣在一個具體的機器學習問題(比如分類,回歸)中使用HMM,特別是一些有關狀態變量、觀察變量和實際問題中變量的對應關系,因此目前急需一個實際例子來加深對HMM算法的仰慕,大家如有好的例子來具體學HMM算法的話 ...
談談數據挖掘和機器學習 又是好長時間沒有寫博客了,最近周末事情太多,明天勞動節終於可以讓我們勞動人民休息一天了。首先聲明的是本人並非數據挖掘和機器學習的高手,只是作為業余興趣剛剛開始研究,據我所知好多朋友也和我一樣對這方面的東西感興趣,個人認為機器人技術是未來發展的方向。雖然我的專業是軟件開發 ...
一、數據挖掘任務 數據挖掘常見的六大任務: 1.分類問題 2.聚類問題 3.回歸問題 4.關聯問題 5.序列問題 6.異常檢測 二、數據挖掘流程 CRISP-DM:跨行業數據挖掘標准流程 ...
李航的《統計學習方法》 這本書開篇第一章寫得特別好,各個模型的算法推導也比較全,基本涵蓋了比較經典的判別模型和生成模型。 《機器學習實戰》 這本書代碼和應用特別多,了解python用法和機器學習算法的代碼實現非常方便。 項亮的《推薦系統實踐》 這本書個人感覺偏理論一點,偽代碼 ...