本文作为自己学习李宏毅老师 春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏 建议，还请各位博友不吝指教，感谢 全连接网络的输入是一个向量，但是当输入是一个变长的向量序列时，就不能再使用全连接网络了。这种情况通常可以使用卷积网络或循环网络进行编码来得到一个相同长度的输出向量序列。 基于卷积或循环网络的序列编码都是一种局部的编码方式，只建模了输入信息的局部依赖关系。虽然循环网络理 ...
2021-05-04 19:13 2 2364 推荐指数：
本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ 一、Machine Learning概念理解 Machine Learning主要的任务是寻找一个合适的Function来完成我们的工作（非常不严 ...
本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ CNN理解角度一 图像的表达形式 对于一个Machine来说，一张输入的图像其实是一个三维的Tensor。 如上图所示，三个维度分别 ...
本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ 概率生成模型 概率生成模型（Probabilistic Generative Model）简称生成模型，指一系列用于随机生成可观测数据的模型 ...
self-attention是什么? 一个 self-attention 模块接收 n 个输入，然后返回 n 个输出。自注意力机制让每个输入都会彼此交互（自），然后找到它们应该更加关注的输入（注意力）。自注意力模块的输出是这些交互的聚合和注意力分数。 self-attention模块 ...
本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ 如何更好的训练我们的模型呢？我们可以通过观察训练集上的loss，来决定下一步采取什么措施来优化我们的训练过程。 训练集上的Loss很大 ...
前言 这一章看啥视频都不好使，啃书就完事儿了，当然了我也没有感觉自己学的特别扎实，不过好歹是有一定的了解了 注意力机制 由于之前的卷积之类的神经网络，选取卷积中最大的那个数，实际上这种行为是没有目的的，因为你不知道那个最大的数是不是你需要的，也许在哪一块你偏偏就需要一个最小的数呢？所以就有 ...
自然语言处理中的自注意力机制（Self-attention Mechanism） 近年来，注意力（Attention）机制被广泛应用到基于深度学习的自然语言处理(NLP)各个任务中，之前我对早期注意力机制进行过一些学习总结（可见http://www.cnblogs.com ...
一.最常见的self-attention 对于自注意力机制而言，我们有的时候会遇到词性分类的任务，比如说给定一句话，我想知道这句话当中每一个单词的词性。但是使用双向lstm呢，会有很多信息被忽略掉，尤其是一些位于后面的词很可能前面的词对它的影响没有那么大，即使我们的lstm考虑了一些遗忘 ...
