一、归一化简介 在对数据进行预处理时，经常要用到归一化方法。 在深度学习中，将数据归一化到一个特定的范围能够在反向传播中获得更好的收敛。如果不进行数据标准化，有些特征（值很大）将会对损失函数影响更大，使得其他值比较小的特征的重要性降低。因此 数据标准化可以使得每个特征的重要性更加均衡。 公式 ...

批量归一化 在对神经网络的优化方法中，有一种使用十分广泛的方法——批量归一化，使得神经网络的识别准确度得到了极大的提升。 在网络的前向计算过程中，当输出的数据不再同一分布时，可能会使得loss的值非常大，使得网络无法进行计算。产生梯度爆炸的原因是因为网络的内部协变量转移，即正向传播的不同层参数 ...

激活函数的作用如下-引用《TensorFlow实践》： 这些函数与其他层的输出联合使用可以生成特征图。他们用于对某些运算的结果进行平滑或者微分。其目标是为神经网络引入非线性。曲线能够刻画出输入的复杂的变化。TensorFlow提供了多种激活函数，在CNN中一般使用tf.nn.relu的原因是 ...

在深度学习章节里，已经介绍了批量归一化的概念，详情请点击这里：第九节，改善深层神经网络：超参数调试、正则化以优化(下) 神经网络在进行训练时,主要是用来学习数据的分布规律,如果数据的训练部分和测试部分分布不一样,那么网络的泛化能力会变得非常差.而且对于训练的数据,每批分布也是不一样的,那么网络 ...

之前已经看到了用直方图来显示数据集的重要性，以便分析图表形状，我们想要分析该形状，这样就可以严谨地思考平均值、中位数和众数并描述数据集，在偏态分布中平均值、中位数和众数各不相同，在很多情况下，中位数可 ...

函数(续) Normalize 根据某种范数或者数值范围归一化数组. void cvNorm ...

本人人工智能初学者，现在在学习TensorFlow2.0，对一些学习内容做一下笔记。笔记中，有些内容理解可能较为肤浅、有偏差等，各位在阅读时如有发现问题，请评论或者邮箱（右侧边栏有邮箱地址）提醒。 若有小伙伴需要笔记的可复制的html或ipynb格式文件，请评论区留下你们的邮箱，或者邮箱（右侧 ...

.caret, .dropup > .btn > .caret { border-top-color: #000 !important ...