假设每个词对应一个词向量，假设： 1)两个词的相似度正比于对应词向量的乘积。即：$sim(v_1,v_2)=v_1\cdot v_2$。即点乘原则； 2)多个词$v_1\sim v_n$组成的一个上下文用$C$来表示，其中$C=\sum_{i=1}^{n}v_i$。$\frac{C}{|C ...

什么是PyTorch？   PyTorch是Facebook人工智能团队开发的一个机器学习和深度学习工具，用于处理大规模图像分析，包括物体检测，分割与分类。但是它的功能不仅限于此。它与其它深度学习框架结合，能够完成复杂的算法。PyTorch用Python和C++编写。   PyTorch属于 ...

1. 创建vocabulary 学习词向量的概念 用Skip-thought模型训练词向量 学习使用PyTorch dataset 和 dataloader 学习定义PyTorch模型 学习torch.nn中常见的Module ...

总体思路 导入想要产生词云的文章或者段落 对导入的文字进行jieba分词 统计分词之后的词频 生成并绘制词云 Demo ...

支持向量机概念 线性分类器 首先介绍一下线性分类器的概念，C1和C2是要区分的两个类别，在二维平面中它们的样本如上图所示。中间的直线就是一个分类函数，它可以将两类样本完全分开。一般的，如果一个线性函数能够将样本完全正确的分开，就称这些数据是线性可分的，否则称为非线性可分的。 线性函数 ...

Embedding原理和生成方法进行了讲解。 一、Word Embedding初探 什么是Wor ...

不涉及具体代码，只是记录一下自己的疑惑。 我们知道对于在pytorch中，我们通过构建一个词向量矩阵对象。这个时候对象矩阵是随机初始化的，然后我们的输入是单词的数值表达，也就是一些索引。那么我们会根据索引，赋予每个单词独一无二的一个词向量表达。在其后的神经网络训练过程中，每个单词对应独一无二 ...

一、介绍 内容 将接触现代 NLP 技术的基础：词向量技术。 第一个是构建一个简单的 N-Gram 语言模型，它可以根据 N 个历史词汇预测下一个单词，从而得到每一个单词的向量表示。 第二个将接触到现代词向量技术常用的模型 Word2Vec。在实验中将以小说《三体》为例，展示了小语料 ...