Sigmoid函數是機器學習中比較常用的一個函數，在邏輯回歸、人工神經網絡中有着廣泛的應用，Sigmoid函數是一個有着優美S形曲線的數學函數。
Sigmoid函數的表達式：
$$ f(x) = \frac{1}{1+e^{-x}} $$
Sigmoid函數的圖像：
在上圖可以看出，Sigmoid函數連續，光滑，嚴格單調，是一個非常良好的閾值函數。當x趨近負無窮時，y趨近於0；趨近於正無窮時，y趨近於1；x=0時，y=0.5。當然，在x超出[-6,6]的范圍后，函數值基本上沒有變化，值非常接近，在應用中一般不考慮。Sigmoid函數的值域范圍限制在(0,1)之間，這和概率值的范圍[0,1]很接近，所以二分類的概率常常用這個函數。
Sigmoid函數的導數:
$$f'(x) = \frac{e^{-x}}{(1+e^{-x})^2} = \frac{1+e^{-x} -1}{(1+e^{-x})^2} = f(x)(1-f(x))$$