（1）對於深度神經網絡，中間的隱層的輸出必須有一個激活函數。否則多個隱層的作用和沒有隱層相同。這個激活函數不一定是sigmoid，常見的有sigmoid、tanh、relu等。
（2）對於二分類問題，輸出層是sigmoid函數。這是因為sigmoid函數可以把實數域光滑的映射到[0,1]空間。函數值恰好可以解釋為屬於正類的概率（概率的取值范圍是0~1）。另外，sigmoid函數單調遞增，連續可導，導數形式非常簡單，是一個比較合適的函數
（3）對於多分類問題，輸出層就必須是softmax函數了。softmax函數是sigmoid函數的推廣
免責聲明！
本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。
猜您在找
神經網絡常用的sigmoid函數匯總
Java實現的簡單神經網絡(基於Sigmoid激活函數)
神經網絡激活函數sigmoid relu tanh 為什么sigmoid 容易梯度消失
對於分類問題的神經網絡最后一層的函數：sigmoid、softmax與損失函數
ANN神經網絡——Sigmoid 激活函數編程練習 (Python實現)
神經網絡中的激活函數具體是什么？為什么ReLu要好過於tanh和sigmoid function?（轉）
學習筆記：神經網絡傳輸函數sigmoid,tanh,ReLu,softmax的比較（非原創）
神經網絡激活函數softmax，sigmoid，tanh，relu總結
神經網絡中的激活函數tanh sigmoid RELU softplus softmatx
神經網絡中的激活函數具體是什么？為什么Relu要好過與tanh和sigmoid function