原：http://www.cnblogs.com/DjangoBlog/p/6476332.html 综述 如果已经有一个足够强大的机器学习算法，为了获得更好的性能，最靠谱的方法之一是给这个算法以更多的数据。机器学习界甚至有个说法：“有时候胜出者并非有最好的算法，而是有更多的数据 ...

UFLDL深度学习笔记 （四）用于分类的深度网络 1. 主要思路 本文要讨论的“UFLDL 建立分类用深度网络”基本原理基于前2节的softmax回归和 无监督特征学习，区别在于使用更“深”的神经网络，也即网络中包含更多的隐藏层，我们知道前一篇“无监督特征学习”只有一层隐藏层。原文深度网络概览 ...

Manifold Learning t-SNE的“N E”就是Neighbor Embedding的缩写。现在要做的事情就是之前讲过的降维，只不过是非线性的降维。 我们知道数据点可能是高维空间 ...

1-of-N encoding 词嵌入其实是降维的一种非常好，非常广为人知的应用。 如果要用一个向量表示一个词，最典型的做法是1-of-N encoding。每一个词用一个向量表示，向量的维度 ...

把无监督学习分成两种 一种是化繁为简，可以分成两大类：聚类和降维 所谓的化繁为简的意思是说，找一个函数，可以input看起来像树的东西，output都是抽象的树，把本来复杂的东西，变成比较简单的output。在做无监督学习时，通常只会有函数中的一边。比如找一个函数，可以把所有的树都变成抽象 ...

稀疏自编码器的学习结构: 稀疏自编码器Ⅰ： 神经网络 反向传导算法 梯度检验与高级优化 稀疏自编码器Ⅱ： 自编码算法与稀疏性 可视化自编码器训练结果 Exercise: Sparse Autoencoder 稀疏自编码器Ⅰ这部分先简单讲述神经网络的部分，它和稀疏 ...

监督学习中的应用，其中训练样本是有类别标签的（x_i，y_i）。 自编码神经网络是一种无监督学习算法，它使 ...

UFLDL深度学习笔记 （一）基本知识与稀疏自编码 前言 　　近来正在系统研究一下深度学习，作为新入门者，为了更好地理解、交流，准备把学习过程总结记录下来。最开始的规划是先学习理论推导；然后学习一两种开源框架；第三是进阶调优、加速技巧。越往后越要带着工作中的实际问题去做，而不能是空中楼阁式 ...