sigmoid與softmax 二分類、多分類的使用


二分類下,sigmoid、softmax兩者的數學公式是等價的,理論上應該是一樣的,但實際使用的時候還是sigmoid好

https://www.zhihu.com/question/295247085

為什么好?其實現在我得到一個確切的答案!

 

多個sigmoid與一個softmax都可以進行多分類

如果多個類別之間是互斥的,就應該使用softmax,即這個東西只可能是幾個類別中的一種。

如果多個類別之間不是互斥的,使用多個sigmoid。比如4個類別人聲音樂、舞曲、影視原聲、流行歌曲,一首歌曲可以來自影視原聲,同時也包含人聲。

https://max.book118.com/html/2017/0428/102950525.shtm

為什么softmax使用在類別互斥,多個sigmoid使用在不是互斥?

因為softmax中,所有類別之和是1,如果你一個類別高了,另一個類別的概率肯定下降。但多個sigmoid,可以同時輸出多個0.9的概率,多個sigmoid之間不影響。比如一首歌曲,第一個類別是判斷是否是影視歌曲,可以是0.9,判斷的人聲的類別也可以是0.9。但如果是softmax,影視歌曲類別是0.9了,人聲就最多只能是0.1了。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM