神經網絡中常用的激活函數 Introduce 理論上神經網絡能夠擬合任意線性函數，其中主要的一個因素是使用了非線性激活函數（因為如果每一層都是線性變換，那有啥用啊，始終能夠擬合的都是線性函數啊）。本文主要介紹神經網絡中各種常用的激活函數。 以下均為個人學習筆記，若有錯誤望指出 ...

深度學習 (DeepLearning) 基礎 [3]---梯度下降法 Introduce 在上一篇“深度學習 (DeepLearning) 基礎 [2]---神經網絡常用的損失函數”中我們介紹了神經網絡常用的損失函數。本文將繼續學習深度學習的基礎知識，主要涉及基於梯度下降的一類優化算法 ...

深度學習 (DeepLearning) 基礎 [4]---欠擬合、過擬合與正則化 Introduce 在上一篇“深度學習 (DeepLearning) 基礎 [3]---梯度下降法”中我們介紹了梯度下降的主要思想以及優化算法。本文將繼續學習深度學習的基礎知識，主要涉及： 欠擬合 ...

深度學習 (DeepLearning) 基礎 [1]---監督學習與無監督學習 Introduce 學習了Pytorch基礎之后，在利用Pytorch搭建各種神經網絡模型解決問題之前，我們需要了解深度學習的一些基礎知識。本文主要介紹監督學習和無監督學習。 以下均為個人學習筆記，若有 ...

002-深度學習數學基礎(神經網絡、梯度下降、損失函數) 這里在進入人工智能的講解之前，你必須知道幾個名詞，其實也就是要簡單了解一下人工智能的數學基礎，不然就真的沒辦法往下講了。 本節目錄如下： 前言。 監督學習與無監督學習。 神經網絡。 損失函數。 梯度下降 ...

一、深層神經網絡 深層神經網絡的符號與淺層的不同，記錄如下： 用\(L\)表示層數,該神經網絡\(L=4\) \(n^{[l]}\)表示第\(l\)層的神經元的數量，例如\(n^{[1]}=n^{[2]}=5,n^{[3]}=3,n^{[4]}=1\) \(a^{[l ...

介紹 DeepLearning課程總共五大章節，該系列筆記將按照課程安排進行記錄。 另外第一章的前兩周的課程在之前的Andrew Ng機器學習課程筆記(博客園)&Andrew Ng機器學習課程筆記(CSDN)系列筆記中都有提到，所以這里不再贅述。 1、神經網絡概要 ...

1、什么是神經網絡？ （1）房價預測模型Ⅰ： 神經網絡：size x ——> O ——> price y ReLU函數（Rectified linear unit 修正線性單元）：修改線性的函數，避免出現price未負數的情況. （2）房價預測模型 ...