【原创】深度神经网络(Deep Neural Network, DNN)
线性模型通过特征间的现行组合来表达“结果-特征集合”之间的对应关系。由于线性模型的表达能力有限，在实践中，只能通过增加“特征计算”的复杂度来优化模型。比如，在广告CTR预估应用中，除了“标题长度、描述 ...
原文：神经网络和深度学习 (Neural Network & Deep Learning)
深度学习其实就是有更多隐层的神经网络，可以学习到更复杂的特征。得益于数据量的急剧增多和计算能力的提升，神经网络重新得到了人们的关注。 . 符号说明 . 激活函数 为什么神经网络需要激活函数呢 如果没有激活函数，可以推导出神经网络的输出y是关于输入x的线性组合，那么神经网络的隐层就没有任何意义，对于这样的模型，直接使用线性回归拟合就可以了。 一些常见的激活函数如下所示： 在上一篇文章中推导了BP算 ...
2020-07-14 23:03 0 568 推荐指数：
相关推荐
Neural Networks and Deep Learning(神经网络与深度学习) - 学习笔记
catalogue 0. 引言 0x1: 神经网络的分层神经元意味着什么 为了解释这个问题，我们先从一个我们熟悉的场景开始说起，电子电路的设计 如上图所示，在实践中，在解决线路设计问题(或者大多数其他算法问题)时，我们通常先考虑如何解决子问题，然后逐步地集成这些子 ...
深度神经网络多任务学习(Multi-Task Learning in Deep Neural Networks)
MTL 有很多形式：联合学习（joint learning）、自主学习（learning to learn）和带有辅助任务的学习（learning with auxiliary task）等。一般来说，优化多个损失函数就等同于进行多任务学习。即使只优化一个损失函数（如在典型情况下），也有可能借 ...
深度学习：卷积神经网络（convolution neural network）
（一）卷积神经网络 卷积神经网络最早是由Lecun在1998年提出的。 卷积神经网络通畅使用的三个基本概念为： 1.局部视觉域； 2.权值共享； 3.池化操作。 在卷积神经网络中，局部接受域表明输入图像与隐藏神经元的连接方式。在图像处理操作中采用局部视觉域的原因是：图像中的像素并不是 ...
深度学习（Deep Learning）：循环神经网络一（RNN）
原址：https://blog.csdn.net/fangqingan_java/article/details/53014085 概述 循环神经网络（RNN-Recurrent Neural Network）是神经网络家族中的一员，擅长于解决序列化相关问题。包括不限于序列化标注问题、NER ...
[译]深度神经网络的多任务学习概览(An Overview of Multi-task Learning in Deep Neural Networks)
译自：http://sebastianruder.com/multi-task/ 1. 前言 在机器学习中，我们通常关心优化某一特定指标，不管这个指标是一个标准值，还是企业KPI。为了达到这个目标，我们训练单一模型或多个模型集合来完成指定得任务。然后，我们通过精细调参，来改进模型直至 ...
Deep Q-Network 学习笔记（二）—— Q-Learning与神经网络结合使用（有代码实现）
参考资料： https://morvanzhou.github.io/ 非常感谢莫烦老师的教程 http://mnemstudio.org/path-finding-q-learning-tutorial.htm http://www.cnblogs.com/dragonir/p ...
神经网络(Neural Network)
1 引言 机器学习(Machine Learning)有很多经典的算法，其中基于深度神经网络的深度学习算法目前最受追捧，主要是因为其因为击败李世石的阿尔法狗所用到的算法实际上就是基于神经网络的深度学习算法。本文先介绍基本的神经元，然后简单的感知机，扩展到多层神经网络，多层前馈 ...