深度学习与人类语言处理-introduction
深度学习与人类语言处理（Deep learning for Human Language Processing） 李宏毅老师深度学习与人类语言处理课程笔记，请看正文 这门课会学到什么？ 为什么叫人类语言处理呢？ 现在大家熟知的基本都是自然语言处理，那什么是自然语言 ...
原文：深度学习与人类语言处理-语言模型
上节课学习了seq seq模型如何用于语音识别，这节课我们将学习如何将语言模型加入到模型中 为什么需要语言模型 token sequence 的概率 token sequence: Y y ,y ,...,y n P y ,y ,...,y n token 可以是字符 词等等，可以见深度学习与人类语言处理 语音识别 part HMM begin equation mathrm Y arg max ...
2020-04-01 11:31 0 805 推荐指数：
相关推荐
深度学习与人类语言处理-语音识别(part3)
上节回顾深度学习与人类语言处理-语音识别(part2)，这节课我们接着看seq2seq模型怎么做语音识别 上节课我们知道LAS做语音识别需要看完一个完整的序列才能输出，把我们希望语音识别模型可以在听到声音的时候就进行输出，一个直观的想法就是用单向的RNN，我们来看看CTC是怎么做 ...
深度学习与人类语言处理-语音识别(part1)
深度学习与人类语言处理课程笔记，上节回顾深度学习与人类语言处理-introduction。这节课将会简单介绍语音识别的最新研究方法，请看正文 语音识别该何去何从？ 1969年，J.R. PIERCE：“语音识别就像把水变成汽油、从大海中淘金、治疗癌症、人类登陆月球” 当然，这是 ...
深度学习与人类语言处理-语音识别(part2)
上节回顾深度学习与人类语言处理-语音识别(part1)，这节课我们将学习如何将seq2seq模型用在语音识别 LAS 那我们来看看LAS的Encoder，Attend，Decoder分别是什么 Listen Listen是一个典型的Encoder结构，输入为声学特征\({x^1,x ...
NLP之语言模型
参考： https://mp.weixin.qq.com/s/NvwB9H71JUivFyL_Or_ENA http://yangminz.coding.me/blog/post/MinkolovRNNLM/MinkolovRNNLM_thesis.html 语言模型本质上是在回答一个 ...
用CNTK搞深度学习 （二） 训练基于RNN的自然语言模型 ( language model )
前一篇文章 用 CNTK 搞深度学习 （一） 入门 介绍了用CNTK构建简单前向神经网络的例子。现在假设读者已经懂得了使用CNTK的基本方法。现在我们做一个稍微复杂一点，也是自然语言挖掘中很火的一个模型： 用递归神经网络构建一个语言模型。 递归神经网络 （RNN），用图形化的表示则是隐层 ...
1. 语言模型
1. 语言模型 2. Attention Is All You Need（Transformer）算法原理解析 3. ELMo算法原理解析 4. OpenAI GPT算法原理解析 5. BERT算法原理解析 6. 从Encoder-Decoder(Seq2Seq)理解Attention ...
OCR技术浅探：基于深度学习和语言模型的印刷文字OCR系统
识别 OCR技术浅探：7. 语言模型 OCR技术浅探：8. 综合评估 OCR技术浅探：9. 代码共享(完) ...