李宏毅深度学习笔记-结构化支持向量机
统一框架：两步走，三问题 两步 第一步：训练 寻找一个函数 \(F:X \times Y \to R\) \(F(x,y)\)用来评估对象x和y的兼容性 or 合理性 第二步：推 ...
原文：李宏毅深度学习笔记-结构化学习序列标注
之前讲了结构化学习的概念，其实学习都可以看做是两个步骤，只要回答三个问题，就可以解决所有学习的task。 序列标注 现在函数input是一个sequence，output也是一个sequence 先假设两个sequence的长度一样 。如上图所示，input x 是 x ,x ,...,x L ，output y 是 y ,y ,...,y L 。这个问题其实是可以用RNN解决的。 例子：词性标注 ...
2020-07-07 17:55 0 741 推荐指数：
相关推荐
李宏毅深度学习笔记-为什么要深度？
问题：越深越好？ 层数越多，参数越多，model比较复杂，数据又多的话，本来误差就越小，这为什么归因于”深“呢？ 矮胖结构 v.s. 高瘦结构 真正要比较”深“和”浅“的model的时候，要让它们的参数一样多。 “浅”的model就会是一个矮胖的model，“深”的model就会 ...
李宏毅深度学习笔记-Transformer
Transformer英文的意思就是变形金刚，Transformer现在有一个非常知名的应用，这个应用叫做BERT，BERT就是非监督的Transformer，Transformer是一个seq2se ...
李宏毅深度学习笔记-深度学习简介
李宏毅深度学习笔记 https://datawhalechina.github.io/leeml-notes 李宏毅深度学习视频 https://www.bilibili.com/video/BV1JE411g7XF step1 神经网络 激活函数是sigmoid，红色圈是一组神经元，每个 ...
李宏毅《机器学习 深度学习》简要笔记（一）
P1 一、线性回归中的模型选择 上图所示： 五个模型，一个比一个复杂，其中所包含的function就越多，这样就有更大几率找到一个合适的参数集来更好的拟合训练集。所以，随着模型的复杂度提 ...
李宏毅深度学习笔记-半监督学习
半监督学习 什么是半监督学习？ 大家知道在监督学习里，有一大堆的训练数据（由input和output对组成）。例如上图所示\(x^r\)是一张图片，\(y^r\)是类别的label。 半监督学习是说，在label数据上面，有另外一组unlabeled的数据，写成\(x^u ...
李宏毅深度学习笔记-反向传播
李宏毅深度学习笔记 https://datawhalechina.github.io/leeml-notes 李宏毅深度学习视频 https://www.bilibili.com/video/BV1JE411g7XF 背景 梯度下降 假设有很多参数\(\theta\) 选择一组初始值 ...
李宏毅深度学习笔记-Seq2seq
在讲Sequence Generation之前，再复习下RNN和有门的RNN（LSTM，GRU） 之前告诉你说，RNN是一个有记忆的神经网络，但今天从另外一个角度来讲RNN。我们说RNN特别 ...