. Mini batch梯度下降法 介绍 假设我们的数据量非常多，达到了 万以上，那么此时如果按照传统的梯度下降算法，那么训练模型所花费的时间将非常巨大，所以我们对数据做如下处理： 如图所示，我们以 为单位，将数据进行划分，令 x x ,x x , 一般地用 x t ,y t 来表示划分后的mini batch。 注意区分该系列教学视频的符号标记： 小括号 表示具体的某一个元素，指一个具体的值， ...
2017-09-22 22:00 1 2295 推荐指数：
一、调试处理 week2中提到有如下的超参数： α hidden units mini-batch size β layers learning rate decay \(β_1,β_2,ε\) 颜色表示重要性，以及调试过程中可能会需要修改的程度 ...
更多笔记请火速前往 DeepLearning.ai学习笔记汇总 本周我们将学习如何配置训练/验证/测试集，如何分析方差&偏差，如何处理高偏差、高方差或者二者共存的问题，如何在神经网络中应用不同的正则化方法(如L2正则化、Dropout)，梯度检测。 一、训练/验证/测试集 ...
一、深层神经网络 深层神经网络的符号与浅层的不同，记录如下： 用\(L\)表示层数,该神经网络\(L=4\) \(n^{[l]}\)表示第\(l\)层的神经元的数量，例如\(n^{[1]}=n^{[2]}=5,n^{[3]}=3,n^{[4]}=1\) \(a^{[l ...
一、为什么要进行实例探究？ 通过他人的实例可以更好的理解如何构建卷积神经网络，本周课程主要会介绍如下网络 LeNet-5 AlexNet VGG ResNet (有152层) Inception 二、经典网络 1.LeNet-5 该网络主要针对灰度图像训练 ...
一 批标准化 (batch normalization) Batch Normalization是Google2015年在论文：http://jmlr.org/proceedings/papers/v37/ioffe15.pdf中提出来的 训练深层的神经网络很复杂，因为训练时每一层输入 ...
介绍 DeepLearning课程总共五大章节，该系列笔记将按照课程安排进行记录。 另外第一章的前两周的课程在之前的Andrew Ng机器学习课程笔记(博客园)&Andrew Ng机器学习课程笔记(CSDN)系列笔记中都有提到，所以这里不再赘述。 1、神经网络概要 ...
一、目标定位 这一小节视频主要介绍了我们在实现目标定位时标签该如何定义。 上图左下角给出了损失函数的计算公式(这里使用的是平方差) 如图示，加入我们需要定位出图像中是否有pedes ...
一、计算机视觉 如图示，之前课程中介绍的都是64* 64 *3的图像，而一旦图像质量增加，例如变成1000 * 1000 * 3的时候那么此时的神经网络的计算量会巨大，显然这不现实。所以需要引入其他的方法来解决这个问题。 二、边缘检测示例 边缘检测可以是垂直边缘检测，也可以是水平边缘检测 ...
