神经网络中常用的激活函数 Introduce 理论上神经网络能够拟合任意线性函数，其中主要的一个因素是使用了非线性激活函数（因为如果每一层都是线性变换，那有啥用啊，始终能够拟合的都是线性函数啊）。本文主要介绍神经网络中各种常用的激活函数。 以下均为个人学习笔记，若有错误望指出 ...

深度学习 (DeepLearning) 基础 [3]---梯度下降法 Introduce 在上一篇“深度学习 (DeepLearning) 基础 [2]---神经网络常用的损失函数”中我们介绍了神经网络常用的损失函数。本文将继续学习深度学习的基础知识，主要涉及基于梯度下降的一类优化算法 ...

深度学习 (DeepLearning) 基础 [4]---欠拟合、过拟合与正则化 Introduce 在上一篇“深度学习 (DeepLearning) 基础 [3]---梯度下降法”中我们介绍了梯度下降的主要思想以及优化算法。本文将继续学习深度学习的基础知识，主要涉及： 欠拟合 ...

深度学习 (DeepLearning) 基础 [1]---监督学习与无监督学习 Introduce 学习了Pytorch基础之后，在利用Pytorch搭建各种神经网络模型解决问题之前，我们需要了解深度学习的一些基础知识。本文主要介绍监督学习和无监督学习。 以下均为个人学习笔记，若有 ...

002-深度学习数学基础(神经网络、梯度下降、损失函数) 这里在进入人工智能的讲解之前，你必须知道几个名词，其实也就是要简单了解一下人工智能的数学基础，不然就真的没办法往下讲了。 本节目录如下： 前言。 监督学习与无监督学习。 神经网络。 损失函数。 梯度下降 ...

一、深层神经网络 深层神经网络的符号与浅层的不同，记录如下： 用\(L\)表示层数,该神经网络\(L=4\) \(n^{[l]}\)表示第\(l\)层的神经元的数量，例如\(n^{[1]}=n^{[2]}=5,n^{[3]}=3,n^{[4]}=1\) \(a^{[l ...

介绍 DeepLearning课程总共五大章节，该系列笔记将按照课程安排进行记录。 另外第一章的前两周的课程在之前的Andrew Ng机器学习课程笔记(博客园)&Andrew Ng机器学习课程笔记(CSDN)系列笔记中都有提到，所以这里不再赘述。 1、神经网络概要 ...

1、什么是神经网络？ （1）房价预测模型Ⅰ： 神经网络：size x ——> O ——> price y ReLU函数（Rectified linear unit 修正线性单元）：修改线性的函数，避免出现price未负数的情况. （2）房价预测模型 ...