本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ 一、Machine Learning概念理解 Machine Learning主要的任务是寻找一个合适的Function来完成我们的工作（非常不严 ...

本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ 概率生成模型 概率生成模型（Probabilistic Generative Model）简称生成模型，指一系列用于随机生成可观测数据的模型 ...

本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ 如何更好的训练我们的模型呢？我们可以通过观察训练集上的loss，来决定下一步采取什么措施来优化我们的训练过程。 训练集上的Loss很大 ...

本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ 全连接网络的输入是一个向量，但是当输入是一个变长的向量序列时，就不能再使用全连接网络了。这种情况通常可以使用卷积网络或循环网络进行编码来得到一个相同 ...

一、方法总结 Network Pruning Knowledge Distillation Parameter Quantization Architecture Design Dynamic Computation 二、Network Pruning 模型通常是 ...

梯度下降伪代码 梯度下降可以优化损失函数的值，使其尽量小，即可找到最好（在数据集上拟合效果最好）的模型参数。 现在假设模型\(f\)中只有一个参数\(w\)，则损失函数为\(L(f)=L(w)\) ...

P1 一、线性回归中的模型选择 上图所示： 　　五个模型，一个比一个复杂，其中所包含的function就越多，这样就有更大几率找到一个合适的参数集来更好的拟合训练集。所以，随着模型的复杂度提 ...

1.背景知识 one-hot -> word class -> word embedding 不过传统的word embedding解决不了多义词的问题。 2. ELMO ...