本文作为自己学习李宏毅老师 春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏 建议，还请各位博友不吝指教，感谢 如何更好的训练我们的模型呢 我们可以通过观察训练集上的loss，来决定下一步采取什么措施来优化我们的训练过程。 训练集上的Loss很大 在这种情况下，可能的原因有Model bias和Optimization两种。 Model Bias 在上一节中提到，model b ...
2021-04-08 09:55 1 243 推荐指数：
本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ 一、Machine Learning概念理解 Machine Learning主要的任务是寻找一个合适的Function来完成我们的工作（非常不严 ...
本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ CNN理解角度一 图像的表达形式 对于一个Machine来说，一张输入的图像其实是一个三维的Tensor。 如上图所示，三个维度分别 ...
本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ 概率生成模型 概率生成模型（Probabilistic Generative Model）简称生成模型，指一系列用于随机生成可观测数据的模型 ...
本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ 全连接网络的输入是一个向量，但是当输入是一个变长的向量序列时，就不能再使用全连接网络了。这种情况通常可以使用卷积网络或循环网络进行编码来得到一个相同 ...
梯度下降伪代码 梯度下降可以优化损失函数的值，使其尽量小，即可找到最好（在数据集上拟合效果最好）的模型参数。 现在假设模型\(f\)中只有一个参数\(w\)，则损失函数为\(L(f)=L(w)\)，梯度下降算法如下（若模型有多个参数，按相同方法更新各参数） 初始化参数 随机选取一个 ...
P1 一、线性回归中的模型选择 上图所示： 五个模型，一个比一个复杂，其中所包含的function就越多，这样就有更大几率找到一个合适的参数集来更好的拟合训练集。所以，随着模型的复杂度提高，train error呈下降趋势。 上图所示： 右上角的表格中分 ...
1.背景知识 one-hot -> word class -> word embedding 不过传统的word embedding解决不了多义词的问题。 2. ELMO ...
1.RNN和CNN的局限性 RNN是seq2seq的模型，RNN不易平行化，如果是单向的话，要输出\(b^3\)，需要先看完\(a^1, a^2, a^3\)。如果是双向的话，可以看完整个句子。 CNN在高层的时候，可以考虑距离更长的信息，CNN易于并行化。CNN的缺点是，考虑的只是局部内容 ...
