原文:【笔记】机器学习 - 李宏毅 -- ELMO、BERT、GPT

.背景知识 one hot gt word class gt word embedding 不过传统的word embedding解决不了多义词的问题。 . ELMO 为了解决上述问题,首先有了ELMO。 它是一个双向的RNN网络,这样每一个单词都对应两个hidden state,进行拼接便可以得到单词的Embedding表示。当同一个单词上下文不一样,得到的embedding就不同。 当然也可 ...

2020-04-07 19:25 0 615 推荐指数:

查看详情

机器学习 深度学习》简要笔记(一)

P1 一、线性回归中的模型选择 上图所示:   五个模型,一个比一个复杂,其中所包含的function就越多,这样就有更大几率找到一个合适的参数集来更好的拟合训练集。所以,随着模型的复杂度提 ...

Mon Jul 22 01:14:00 CST 2019 0 436
机器学习笔记01(regression)

Regression 1、首先,什么是regression(回归) 2、然后,实现回归的步骤(机器学习的步骤)   step1、model(确定一个模型)——线性模型   step2、goodness of function(确定评价函数)——损失函数   step3、best ...

Sun Jul 21 19:59:00 CST 2019 0 1815
机器学习笔记12(Transfer Learning)

Transfer Learning 1、什么是迁移学习 2、如何实现迁移学习   1)source有label,target有label     一、model fine-tuning(模型微调)       方法一、conservative training(保守训练 ...

Mon Aug 26 22:25:00 CST 2019 0 390
笔记机器学习 - -- Transformer

1.RNN和CNN的局限性 RNN是seq2seq的模型,RNN不易平行化,如果是单向的话,要输出\(b^3\),需要先看完\(a^1, a^2, a^3\)。如果是双向的话,可以看完整个句子。 ...

Wed Apr 08 02:58:00 CST 2020 0 1386
笔记机器学习 - -- Explainable ML 可解释性机器学习

课程笔记 前言 两种可解释性: 局部解释:为什么这种图是猫? 全局解释:猫是什么样子的? 为什么需要可解释机器学习?(打开黑盒) 一般的提升效果的方法就是一顿暴调参数,可解释性可以帮助我们更好地提升模型性能。 其实人也是个黑盒(这个观点太6了)。 可解释机器学习的目标,不需要 ...

Wed Mar 04 01:39:00 CST 2020 0 932
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM