在FNN（DNN）的前向传播，反向梯度推导以及代码验证中，我们不仅总结了FNN（DNN）这种神经网络结构的前向传播和反向梯度求导公式，还通过tensorflow的自动求微分工具验证了其准确性。在本篇章 ...

前言 在本篇章，我们将专门针对LSTM这种网络结构进行前向传播介绍和反向梯度推导。 关于LSTM的梯度推导，这一块确实挺不好掌握，原因有： 一些经典的deep learning 教程，例如 ...

本内容为神经网络的梯度推导与代码验证系列内容的第一章，更多相关内容请见《神经网络的梯度推导与代码验证》系列介绍。 目录 1.1 数学符号 1.2 矩阵导数的定义和布局 1 ...

在本篇章，我们将专门针对vanilla RNN，也就是所谓的原始RNN这种网络结构进行前向传播介绍和反向梯度推导。更多相关内容请见《神经网络的梯度推导与代码验证》系列介绍。 注意： 本 ...

在《神经网络的梯度推导与代码验证》之数学基础篇：矩阵微分与求导中，我们总结了一些用于推导神经网络反向梯度求导的重要的数学技巧。此外，通过一个简单的demo，我们初步了解了使用矩阵求导来批量求神经网络参 ...

在《神经网络的梯度推导与代码验证》之CNN的前向传播和反向梯度推导 中，我们学习了CNN的前向传播和反向梯度求导，但知识仍停留在纸面。本篇章将基于深度学习框架tensorflow验证我们所得结论的准 ...

在《神经网络的梯度推导与代码验证》之FNN（DNN）的前向传播和反向梯度推导中，我们学习了FNN（DNN）的前向传播和反向梯度求导，但知识仍停留在纸面。本篇章将基于深度学习框架tensorflow验证 ...