[Machine Learning] logistic函數和softmax函數
函數定義 引用wiki百科的定義： A logistic function or logi ...
原文：Machine Learning/Introducing Logistic Function
打算寫點關於Machine Learning的東西， 正好也在cnBlogs上新開了這個博客， 也就更新在這里吧。 這里主要想討論的是統計學習， 涵蓋SVM， Linear Regression等經典的學習方法。 而最近流行的基於神經網略的學習方法並不在討論范圍之內。 不過以后有時間我會以Deep Learning為label新開一個系列， 大概寫寫我的理解。 總之Machine Learning ...
2013-07-18 09:35 8 812 推薦指數：
相關推薦
[Machine Learning] 淺談LR算法的Cost Function
了解LR的同學們都知道，LR采用了最小化交叉熵或者最大化似然估計函數來作為Cost Function，那有個很有意思的問題來了，為什么我們不用更加簡單熟悉的最小化平方誤差函數（MSE）呢？ 我個人理解主要有三個原因： MSE的假設是高斯分布，交叉熵的假設是伯努利分布，而邏輯回歸采用 ...
機器學習---邏輯回歸（一）（Machine Learning Logistic Regression I）
邏輯回歸（Logistic Regression）是一種經典的線性分類算法。邏輯回歸雖然叫回歸，但是其模型是用來分類的。 讓我們先從最簡單的二分類問題開始。給定特征向量x=([x1,x2,...,xn])T以及每個特征的權重w=([w1,w2,...,wn])T，閾值為b，目標y是兩個分類 ...
CheeseZH: Stanford University: Machine Learning Ex3: Multiclass Logistic Regression and Neural Network Prediction
Handwritten digits recognition (0-9) Multi-class Logistic Regression 1. Vectorizing Logistic Regression (1) Vectorizing the cost function ...
[Machine Learning] 邏輯回歸 (Logistic Regression) -分類問題-邏輯回歸-正則化
在之前的問題討論中，研究的都是連續值，即y的輸出是一個連續的值。但是在分類問題中，要預測的值是離散的值，就是預測的結果是否屬於某一個類。例如：判斷一封電子郵件是否是垃圾郵件；判斷一次金融交易是否是 ...
Logistic回歸Cost函數和J(θ)的推導----Andrew Ng【machine learning】公開課
最近翻Peter Harrington的《機器學習實戰》，看到Logistic回歸那一章有點小的疑問。 作者在簡單介紹Logistic回歸的原理后，立即給出了梯度上升算法的code：從算法到代碼跳躍的幅度有點大，作者本人也說了，這里略去了一個簡單的數學推導。 那么其實這個過程在Andrew ...
[Machine Learning] Active Learning
1. 寫在前面 在機器學習(Machine learning)領域，監督學習(Supervised learning)、非監督學習(Unsupervised learning)以及半監督學習(Semi-supervised learning)是三類研究比較多，應用比較廣的學習技術，wiki ...
logistic function 和 sigmoid function
簡單說， 只要曲線是 “S”形的函數都是sigmoid function； 滿足公式<1>的形式的函數都是logistic function。 兩者的相同點是： 函數曲線都是“S”形。 另外造成兩個概念混用導致初學者困擾主要是因為一個 ...