深度学习系列一（DNN的网络结构）
DNN的网络结构 近两年深度学习不管是在科研领域还是工业界都非常火，其实深度学习相比之前的神经网络在理论上没什么区别，唯一区别可能是加了一个pretraining的过程而已。DNN(Deep neural network)是一种前馈人工神经网络，在输入与输出层之间包含了多于一层的隐含层 ...
原文：深度学习系列三（DNN的pretraining-RBM）
DNN的pretraining RBM DNN是高度非线性函数，采用BP算法训练网络的存在一个问题，非常容易陷入局部极值点。Restricted Boltzmann machine RBM 提供了一种无监督的训练方式可以对DNN进行pretraining。也有一些其他的方法 如autoencoder 可以用来预训练，这里只介绍RBM。最近太忙，有时间再更新。 ...
2015-01-08 13:40 0 3171 推荐指数：
相关推荐
深度学习笔记（五） RBM和DBN
) 监督学习的任务就是从数据中学习一个模型（也叫分类器），应用这一模型，对给定的输入X预测相应的输 ...
深度学习系列二（DNN的有监督训练-BP算法）
DNN的有监督训练-BP算法 这里以$K$类分类问题来对BP算法进行描述。实际上对于其他问题（如回归问题）基本是一样的。给定训练样本为：$(\mathbf{x},\mathbf{y})$，其中$\mathbf{x}$为样本的特征，$\mathbf{y}$为类别标签，其形式 ...
深度学习——深度神经网络（DNN）反向传播算法
深度神经网络（Deep Neural Networks，简称DNN）是深度学习的基础。 回顾监督学习的一般性问题。假设我们有$m$个训练样本$\{(x_1, y_1), (x_2, y_2), …, (x_m, y_m)\}$，其中$x$为输入向量，$y$为输出向量，利用这个训练样本 ...
一天搞懂深度学习-训练深度神经网络(DNN)的要点
前言 这是《一天搞懂深度学习》的第二部分 一、选择合适的损失函数 典型的损失函数有平方误差损失函数和交叉熵损失函数。 交叉熵损失函数： 选择不同的损失函数会有不同的训练效果 二、mini-batch和epoch （1）什么是mini-batch和epoch ...
RBM
RBM 目录 RBM 基础知识 马尔可夫链 马尔可夫性质 马尔可夫链 n次转移矩阵 细致平稳条件 分布抽样 ...
深度神经网络（DNN）
深度神经网络（DNN） 深度神经网络（Deep Neural Networks， 以下简称DNN）是深度学习的基础，而要理解DNN，首先我们要理解DNN模型，下面我们就对DNN的模型与前向传播算法做一个总结。 1. 从感知机到神经网络 在感知机原理小结中，我们介绍过感知机的模型，它是 ...
深度学习练手项目——DNN识别手写数字
该案例主要目的是为了熟悉Keras基本用法，以及了解DNN基本流程。 示例代码： 训练结果为： 继续在测试集上评估模型。 运行结果为： 为了了解模型预测错误原因，可查看预测错误的图片。 运行结果为： ...