preface 这一篇我们做文本相似度计算主要采用jieba,Gensim模块来做。文本相似度有什么用呢？它能够计算出文本内容相似的文章，可以把相似的文章推送给读者，也可以去计算几篇文章是否存在抄袭的嫌疑。好那么下面就开始开车，请坐稳扶好。 windows下大型文本读取如何处理字符编码问题 ...

一、数据挖掘---中文分词 • 一段文字不仅仅在于字面上是什么，还在于怎么切分和理解。• 例如： – 阿三炒饭店： – 阿三 / 炒饭 / 店 阿三 / 炒 / 饭店• 和英文不同，中文词之间没有空格，所以实现中文搜索引擎，比英文多了一项分词的任务。• 如果没有中文分词会出 ...

数据挖掘---推荐算法(Mahout工具) 一、简介 Apache顶级项目(2010.4) Hadoop上的开源机器学习库 可伸缩扩展的 Java库 推荐引擎(协同过滤)、聚类和分类 二、机器学习介绍 通常问题 ...

前言 在自然语言处理过程中，经常会涉及到如何度量两个文本之间的相似性，我们都知道文本是一种高维的语义空间，如何对其进行抽象分解，从而能够站在数学角度去量化其相似性。而有了文本之间相似性的度量方式，我们便可以利用划分法的K-means、基于密度的DBSCAN或者是基于模型的概率方法进行文本之间 ...

目录 前言 字面距离 common lang库 相同字符数 莱文斯坦距离(编辑距离) 定义 实现方式 ...

数据挖掘(Data Mining)是从大量的、不完全的、有噪声的、模糊的、随机的数据中提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。 一、数据挖掘对象 根据信息存储格式，用于挖掘的对象有关系数据库、面向对象数据库、数据仓库、文本数据源、多媒体数据库、空间数据 ...

最近有很多人咨询，想学习大数据，但不知道怎么入手，从哪里开始学习，需要学习哪些东西？对于一个初学者，学习大数据挖掘分析的思路逻辑是什么？本文就梳理了如何从0开始学习大数据挖掘分析，学习的步骤思路，可以给大家一个学习的建议。 很多人认为数据挖掘需要掌握复杂高深的算法，需要掌握技术开发，才能把 ...

前言 本文基于教材《大数据挖掘与应用》王振武，出于期末复习目的，对部分算法利用python进行实现，顺便学习numpy构建思维导图，帮助理解。 所有代码、结果都以jupyter的形式放在了github上。 题型 选择题和判断题可能从里面出，题目与答案的word版同样放入了github中 ...