李宏毅深度学习笔记-为什么要深度？
问题：越深越好？ 层数越多，参数越多，model比较复杂，数据又多的话，本来误差就越小，这为什么归因于”深“呢？ 矮胖结构 v.s. 高瘦结构 真正要比较”深“和”浅“的model的时候 ...
原文：李宏毅深度学习笔记-反向传播
李宏毅深度学习笔记 https: datawhalechina.github.io leeml notes 李宏毅深度学习视频 https: www.bilibili.com video BV JE g XF 背景 梯度下降 假设有很多参数 theta 选择一组初始值 theta 计算 theta 对loss function的gradient，也就是计算loss function 对每个网络里面 ...
2020-06-01 14:45 0 544 推荐指数：
相关推荐
李宏毅深度学习笔记-Transformer
Transformer英文的意思就是变形金刚，Transformer现在有一个非常知名的应用，这个应用叫做BERT，BERT就是非监督的Transformer，Transformer是一个seq2se ...
李宏毅深度学习笔记-深度学习简介
李宏毅深度学习笔记 https://datawhalechina.github.io/leeml-notes 李宏毅深度学习视频 https://www.bilibili.com/video/BV1JE411g7XF step1 神经网络 激活函数是sigmoid，红色圈是一组神经元，每个 ...
李宏毅《机器学习 深度学习》简要笔记（一）
P1 一、线性回归中的模型选择 上图所示： 五个模型，一个比一个复杂，其中所包含的function就越多，这样就有更大几率找到一个合适的参数集来更好的拟合训练集。所以，随着模型的复杂度提 ...
李宏毅深度学习笔记-半监督学习
半监督学习 什么是半监督学习？ 大家知道在监督学习里，有一大堆的训练数据（由input和output对组成）。例如上图所示\(x^r\)是一张图片，\(y^r\)是类别的label。 半监督学习是说，在label数据上面，有另外一组unlabeled的数据，写成\(x^u ...
李宏毅深度学习笔记-Seq2seq
在讲Sequence Generation之前，再复习下RNN和有门的RNN（LSTM，GRU） 之前告诉你说，RNN是一个有记忆的神经网络，但今天从另外一个角度来讲RNN。我们说RNN特别 ...
李宏毅深度学习笔记-Adagrad算法
李宏毅深度学习笔记 https://datawhalechina.github.io/leeml-notes 李宏毅深度学习视频 https://www.bilibili.com/video/BV1JE411g7XF 普通的梯度下降法 学习率\(\eta\)是个超参数需要人工调整 ...
李宏毅深度学习笔记-分类模型
李宏毅深度学习笔记 https://datawhalechina.github.io/leeml-notes 李宏毅深度学习视频 https://www.bilibili.com/video/BV1JE411g7XF 假设有两个类别，label为1和-1 如果用回归的方式拟合模型，那么目标 ...