激活函數sigmoid、tanh、relu、Swish

激活函數的作用主要是引入非線性因素，解決線性模型表達能力不足的缺陷 　　sigmoid函數可以從圖像中看出，當x向兩端走的時候，y值越來越接近1和-1，這種現象稱為飽和，飽和意味着當x=100和x= ...

TensorFlow 2.0 深度學習實戰 —— 詳細介紹損失函數、優化器、激活函數、多層感知機的實現原理

前言 AI 人工智能包含了機器學習與深度學習，在前幾篇文章曾經介紹過機器學習的基礎知識，包括了監督學習和無監督學習，有興趣的朋友可以閱讀《 Python 機器學習實戰 》。而深度學習開始只是機器學習 ...