最近研究數據挖掘的相關知識，總是搞混一些算法之間的關聯，俗話說好記性不如爛筆頭，還是記下了以備不時之需。 首先明確一點KNN與Kmeans的算法的區別： 1.KNN算法是分類算法，分類算法肯定是需要有學習語料，然后通過學習語料的學習之后的模板來匹配我們的測試語料集，將測試語料集合進行按照預先 ...

這兩種算法之間的根本區別是，Kmeans本質上是無監督學習而KNN是監督學習。Kmeans是聚類算法，KNN是分類（或回歸）算法。 Kmeans算法把一個數據集分割成簇，使得形成的簇是同構的，每個簇里的點相互靠近。該算法試圖維持這些簇之間有足夠的可分離性。由於無監督的性質，這些簇沒有任何標簽 ...

聚類算法 　　任務：將數據集中的樣本划分成若干個通常不相交的子集，對特征空間的一種划分。 　　性能度量：類內相似度高，類間相似度低。兩大類：1.有參考標簽，外部指標；2.無參照，內部指標。 　　距離計算：非負性，同一性（與自身距離為0），對稱性，直遞性（三角不等式）。包括歐式距離（二范數 ...

最近在網上查看用MapReduce實現的Kmeans算法，例子是不錯，http://blog.csdn.net/jshayzf/article/details/22739063 但注釋太少了，而且參數太多，如果新手學習的話不太好理解。所以自己按照個人的理解寫了一個簡單的例子並添加了詳細的注釋 ...

一、聚類分析又稱群分析，它是研究（樣品或指標）分類問題的一種統計分析方法，同時也是數據挖掘的一個重要算法。 聚類（Cluster）分析是由若干模式（Pattern）組成的，通常，模式是一個度量（Measurement）的向量，或者是 多維空間中的一個點。 聚類分析以相似性 ...

一.簡介 　　KMeans 算法的基本思想是初始隨機給定K個簇中心，按照最鄰近原則把分類樣本點分到各個簇。然后按平均法重新計算各個簇的質心，從而確定新的簇心。一直迭代，直到簇心的移動距離小於某個給定的值。 二.步驟 　　1.為待聚類的點尋找聚類中心。 　　2.計算每個點到聚類中心的距離 ...

這個算法中文名為k均值聚類算法，首先我們在二維的特殊條件下討論其實現的過程，方便大家理解。 第一步.隨機生成質心 由於這是一個無監督學習的算法，因此我們首先在一個二維的坐標軸下隨機給定一堆點，並隨即給定兩個質心，我們這個算法的目的就是將這一堆點根據它們自身的坐標特征分為兩類，因此選取了兩個質心 ...

一、KMeans算法原理 1.1 KMeans算法關鍵概念：簇與質心 簇：KMeans算法將一組N個樣本的特征矩陣X划分為K個無交集的簇，直觀上看是一組一組聚集在一起的數據，在一個簇中的數據就認為是同一類。簇就是聚類的結果表現。 質心：簇中所有數據的均值U通常被認為這個簇的“質心 ...