Softmax在機器學習中有非常廣泛的應用，但是剛剛接觸機器學習的人可能對Softmax的特點以及好處並不理解，其實你了解了以后就會發現，Softmax計算簡單，效果顯著，非常好用。
我們先來直觀看一下，Softmax究竟是什么意思
我們知道max，假如說我有兩個數，a和b，並且a>b，如果取max，那么就直接取a，沒有第二種可能
但有的時候我不想這樣，因為這樣會造成分值小的那個飢餓。所以我希望分值大的那一項經常取到，分值小的那一項也偶爾可以取到，那么我用softmax就可以了 現在還是a和b，a>b，如果我們取按照softmax來計算取a和b的概率，那a的softmax值大於b的，所以a會經常取到，而b也會偶爾取到，概率跟它們本來的大小有關。所以說不是max，而是 Soft max 那各自的概率究竟是多少呢，我們下面就來具體看一下
定義
假設我們有一個數組，V，Vi表示V中的第i個元素，那么這個元素的Softmax值就是
也就是說，是該元素的指數，與所有元素指數和的比值