无所不能的Embedding2 - 词向量三巨头之FastText详解
Fasttext是FaceBook开源的文本分类和词向量训练库。最初看其他教程看的我十分迷惑，咋的一会ngram是字符一会ngram又变成了单词，最后发现其实是两个模型，一个是文本分类模型[Ref2]，表现不是最好的但胜在结构简单高效，另一个用于词向量训练[Ref1]，创新在于把单词分解成字符结构 ...
原文：无所不能的Embedding7 - 探索通用文本表达[FastSent/InferSent/GenSen/USE]
在 章我们讨论过用skip thought，quick thought任务来进行通用文本向量提取，当时就有一个疑问为什么用Bookcorpus这种连续文本，通过预测前一个和后一个句子的方式得到的文本向量，能在下游任务里取得比较好的效果呢 这一章我们来聊聊都有哪些SOTA通用文本框架，或许直接使用它们的场景已经不多，但你依旧能在各个前沿方法中看到它们的影子。我们会主要聊聊以下内容 通用性：为啥需要通 ...
2021-02-24 08:46 0 275 推荐指数：
相关推荐
无所不能的Embedding6 - 跨入Transformer时代～模型详解&代码实现
need论文本身是针对NMT翻译任务的,但transformer作为后续USE/Bert的重要组件，放 ...
无所不能的Embedding1 - 词向量三巨头之Word2vec模型详解&代码实现
word2vec是google 2013年提出的，从大规模语料中训练词向量的模型，在许多场景中都有应用，信息提取相似度计算等等。也是从word2vec开始，embedding在各个领域的应用开始流行，所以拿word2vec来作为开篇再合适不过了。本文希望可以较全面的给出Word2vec从模型结构 ...
无所不能的Embedding3 - word2vec->Doc2vec[PV-DM/PV-DBOW]
这一节我们来聊聊不定长的文本向量，这里我们暂不考虑有监督模型，也就是任务相关的句子表征，只看通用文本向量，根据文本长短有叫sentence2vec, paragraph2vec也有叫doc2vec的。这类通用文本embedding的应用场景有很多，比如计算文本相似度用于内容召回, 用于聚类给文章 ...
无所不能的Embedding4 - skip-thought & tf-Seq2Seq源码解析
前一章Doc2Vec里提到，其实Doc2Vec只是通过加入Doc_id捕捉了文本的主题信息，并没有真正考虑语序以及上下文语义，n-gram只能在局部解决这一问题，那么还有别的解决方案么？依旧是通用文本向量，skip-thought尝试应用encoder-decoder来学习包含上下文信息和语序 ...
LindAgile~大叔新宠~一个无所不能框架
关于她 LindAgile是大叔在这两年里的新宠儿,它主推模块化,插件化,敏捷化,主要于LindAgile基础项目,LindAgile.Http项目,LindAgile.Modules项目和几个扩展 ...
无所不能的requests-html库(requests库的爸爸)
官网介绍 全面支持解析JavaScript! CSS 选择器 (jQuery风格, 感谢PyQuery). XPath 选择器, for the faint at heart. 自 ...
NodeJS无所不能：细数10个令人惊讶的NodeJS开源项目
在几年的时间里，NodeJS逐渐发展成一个成熟的开发平台，吸引了许多开发者。有许多大型高流量网站都采用NodeJS进行开发，像PayPal，此外，开发人员还可以使用它来开发一些快速移动Web框架。 ...