1、softsign函数 图像 2、tensorflow softsign应用 输出结果： input:[ 0. -1. 2. -30. 30.]output:[ 0. -0.5 0.66666669 -0.96774191 0.96774191] ...

1、dropout dropout 是指在深度学习网络的训练过程中，按照一定的概率将一部分神经网络单元暂时从网络中丢弃，相当于从原始的网络中找到一个更瘦的网络，这篇博客中讲的非常详细 2、tensorflow实现 用dropout ...

1、激活函数的作用 什么是激活函数？ 　　在神经网络中，输入经过权值加权计算并求和之后，需要经过一个函数的作用，这个函数就是激活函数（Activation Function）。 激活函数的作用？ 　　首先我们需要知道，如果在神经网络中不引入激活函数，那么在该网络 ...

激活函数（relu，prelu，elu，+BN）对比on cifar10 可参考上一篇： 激活函数 ReLU、LReLU、PReLU、CReLU、ELU、SELU 的定义和区别 一．理论基础 1.1激活函数 1.2 ...

最近学习了一下ResNet50模型，用其跑了个Kaggle比赛，并仔细阅读了其Keras实现。在比赛中，我修改了一下源码，加入了正则项，激活函数改为elu， 日后的应用中也可以直接copy 使用之。 ResNet50 的结构图网上已经很多了，例如这篇博文：https ...

map函数和lambda函数 字典类型的dataset数据集 ...

激活函数并没有多少要说的，根据公式定义好就行了，需要注意的是梯度公式的计算。 ...

学习RNN时原理理解起来不难，但是用TensorFlow去实现时被它各种数据的shape弄得晕头转向。现在就结合一个情感分析的案例来了解一下LSTM的操作流程。 一、深度学习在自然语言处理中的应用 自然语言处理是教会机器如何去处理或者读懂人类语言的系统，主要应用领域： 对话系统 ...