（1）对于深度神经网络，中间的隐层的输出必须有一个激活函数。否则多个隐层的作用和没有隐层相同。这个激活函数不一定是sigmoid，常见的有sigmoid、tanh、relu等。
（2）对于二分类问题，输出层是sigmoid函数。这是因为sigmoid函数可以把实数域光滑的映射到[0,1]空间。函数值恰好可以解释为属于正类的概率（概率的取值范围是0~1）。另外，sigmoid函数单调递增，连续可导，导数形式非常简单，是一个比较合适的函数
（3）对于多分类问题，输出层就必须是softmax函数了。softmax函数是sigmoid函数的推广
免责声明！
本站转载的文章为个人学习借鉴使用，本站对版权不负任何法律责任。如果侵犯了您的隐私权益，请联系本站邮箱yoyou2525@163.com删除。
猜您在找
神经网络常用的sigmoid函数汇总
Java实现的简单神经网络(基于Sigmoid激活函数)
神经网络激活函数sigmoid relu tanh 为什么sigmoid 容易梯度消失
对于分类问题的神经网络最后一层的函数：sigmoid、softmax与损失函数
ANN神经网络——Sigmoid 激活函数编程练习 (Python实现)
神经网络中的激活函数具体是什么？为什么ReLu要好过于tanh和sigmoid function?（转）
学习笔记：神经网络传输函数sigmoid,tanh,ReLu,softmax的比较（非原创）
神经网络激活函数softmax，sigmoid，tanh，relu总结
神经网络中的激活函数tanh sigmoid RELU softplus softmatx
神经网络中的激活函数具体是什么？为什么Relu要好过与tanh和sigmoid function