原文:主题模型之概率潜在语义分析(Probabilistic Latent Semantic Analysis)

上一篇总结了潜在语义分析 Latent Semantic Analysis, LSA ,LSA主要使用了线性代数中奇异值分解的方法,但是并没有严格的概率推导,由于文本文档的维度往往很高,如果在主题聚类中单纯的使用奇异值分解计算复杂度会很高,使用概率推导可以使用一些优化迭代算法来求解。 Thomas Hofmann 于 年根据似然原理定义了生成模型并由此提出了概率潜在语义分析模型 Probabili ...

2015-09-17 08:56 0 2019 推荐指数:

查看详情

语义分析(Latent Semantic Analysis)

LSI(Latent semantic indexing, 潜语义索引)和LSA(Latent semantic analysis,潜语义分析)这两个名字其实是一回事。我们这里称为LSA。 LSA源自问题:如何从搜索query中找到相关的文档?当我们试图通过比较词来找到相关的文本时,就很机械 ...

Mon Jul 01 01:20:00 CST 2013 1 2489
主题模型概率语义分析PLSA、隐含狄利克雷分布LDA)

一、pLSA模型 1、朴素贝叶斯的分析 (1)可以胜任许多文本分类问题。(2)无法解决语料中一词多义和多词一义的问题——它更像是词法分析,而非语义分析。(3)如果使用词向量作为文档的特征,一词多义和多词一义会造成计算文档间相似度的不准确性。(4)可以通过增加“主题”的方式,一定程度的解决 ...

Mon Jun 12 00:45:00 CST 2017 0 3999
潜在语义分析LSA

潜在语义分析通过矢量语义空间来分析文档和词的关系。 基本假设:如果两个词多次出现在同个文档中,则两个词在语义上具有相似性。 LSA使用大量文本构成矩阵,每行表示一个词,一列表示一个文档,矩阵元素可以是词频或TF-IDF,然后使奇异值分解SVD进行矩阵降维,得到原矩阵的近似,此时两个词的相似性 ...

Thu Nov 12 20:19:00 CST 2015 0 2368
《统计学习方法》笔记--概率潜在语义分析

概率潜在语义分析(probabilistic latent semantic analysis,PLSA)是一种利用概率生成模型对文本集合进行话题分析的无监督学习方法。 跟潜在语义分析相似,而其特点是基于概率模型,用隐变量表示话题;整个模型表示文本生成话题,话题生成单词,从而得到单词-文本共现 ...

Wed Mar 25 06:18:00 CST 2020 0 852
概率主题模型简介 Introduction to Probabilistic Topic Models

此文为David M. Blei所写的《Introduction to Probabilistic Topic Models》的译文,供大家参考。 摘要:概率主题模型是一系列旨在发现隐藏在大规模文档中的主题结构的算法。本文首先回顾了这一领域的主要思想,接着调研了当前的研究水平,最后展望某些有所 ...

Wed Jan 30 16:41:00 CST 2013 1 14583
Latent Semantic Analysis(LSA/ LSI)算法简介

本文地址为:http://www.cnblogs.com/kemaswill/,作者联系方式为kemaswill@163.com,转载请注明出处。 1. 传统向量空间模型的缺陷 向量空间模型是信息检索中最常用的检索方法,其检索过程是,将文档集D中的所有文档和查询都表示成以单词为特征 ...

Thu Apr 18 06:50:00 CST 2013 0 16762
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM