決策樹 決策樹模型是一種樹形結構，基於特征對實例進行分類或回歸的過程。即根據某個特征把數據分划分到若干個子區域(子樹)，再對子區域遞歸划分，直到滿足某個條件則停止划分並作為葉子節點，不滿足條件則繼續遞歸划分。 一個簡單的決策樹分類模型：紅色框出的是特征。 決策樹模型學習 ...

這里僅介紹分類決策樹。 決策樹：特征作為決策的判斷依據，整個模型形如樹形結構，因此，稱之為決策樹 對於分類決策樹，他們可以認為是一組if-then規則的集合。決策樹的每一個內部節點有特征組成，葉子節點代表了分類的結果。父節點和子節點之間是由有向邊連接，表示了決策 ...

一、決策樹 決策樹（decision tree）是一種基本的分類與回歸方法，本篇主要討論用於分類的決策樹。 1.決策樹模型 分類決策樹模型是一種描述對實例進行分類的樹形結構。決策樹由結點（node）和有向邊（directed edge）組成。結點有兩種類型：內部結點（internal ...

K-Means 概念定義： K-Means 是一種基於距離的排他的聚類划分方法。 上面的 K-Means 描述中包含了幾個概念： 聚類（Clustering）：K-Means 是一種聚類分析（Cluster Analysis）方法。聚類就是將數據對象分組成為多個類或者簇 ...

1.原文：http://www.cnblogs.com/jerrylead/archive/2011/04/06/2006910.html K-means也是聚類算法中最簡單的一種了，但是里面包含的思想卻是不一般。最早我使用並實現這個算法是在學習韓爺爺那本數據挖掘的書中，那本書比較注重應用 ...

聚類分析是在數據中發現數據對象之間的關系，將數據進行分組，組內的相似性越大，組間的差別越大，則聚類效果越好。 不同的簇類型 聚類旨在發現有用的對象簇，在現實中我們用到很多的簇的類型，使用不同的簇類型划分數據的結果是不同的，如下的幾種簇類型。 明顯分離的 可以看到(a)中不同組中任意兩點 ...

K-means聚類算法（K-平均/K-均值算法）是最為經典也是使用最為廣泛的一種基於距離的聚類算法。基於距離的聚類算法是指采用距離作為相似性量度的評價指標，也就是說當兩個對象離得近時，兩者之間的距離比較小，那么它們之間的相似性就比較大。 算法的主要思想是通過迭代過程把數據集划分為不同的類別 ...

1.K-Means定義： K-Means是一種無監督的基於距離的聚類算法，簡單來說，就是將無標簽的樣本划分為k個簇（or類）。它以樣本間的距離作為相似性的度量指標，常用的距離有曼哈頓距離、歐幾里得距離和閔可夫斯基距離。兩個樣本點的距離越近，其相似度就越高；距離越遠，相似度越低。 目的是，實現簇 ...