數據挖掘聚合算法K-Means

目錄

• 基本信息
• 工作原理
• 算法優缺點
• 算法實現

基本信息

K-means算法是很典型的基於距離的聚類算法，采用距離作為相似性的評價指標，即認為兩個對象的距離越近，其相似度就越大。該算法認為簇是由距離靠近的對象組成的，因此把得到緊湊且獨立的簇作為最終目標。

工作原理

從n個數據對象任意選擇 k 個對象作為初始聚類中心；而對於所剩下其它對象，則根據它們與這些聚類中心的相似度（距離），分別將它們分配給與其最相似的（聚類中心所代表的）聚類；然 后再計算每個所獲新聚類的聚類中心（該聚類中所有對象的均值）；不斷重復這一過程直到聚類中心K個對象不在更換為止。k個聚類具有以下特點：各聚類本身盡可能的緊湊，而各聚類之間盡可能的分開。

 

 

算法優缺點

K-Means聚類算法的優點主要集中在：

1. 算法快速、簡單
2. 對大數據集有較高的效率並且是可伸縮性的
3. 時間復雜度接近於線性，而且適合挖掘大規模數據集，K-Means聚類算法的時間復雜度是O(nkt)，其中n代表數據集中對象的數量，t代表着算法迭代的次數，k代表着簇的數目。

K-Means算法的缺點

1. 很多時候，事先並不知道給定的數據集應該分成多少個類才最合適。在算法中K是事先給定的，對聚類結果有較大的影響，一旦初始值選擇不好，可能得到有效的聚類結果，對於該問題的解決，許多算法采用遺傳算法，對於數據是密集的，簇與簇之間區別較明顯，得到的聚類結果較為有效。
2. 該算法需要不斷地進行樣本分類調整，不斷地計算調整后的新的聚類中心，因此當數據量非常大時，算法的時間開銷是非常大的。所以需要對算法的時間復雜度進行分析、改進，提高算法應用范圍

算法實現

例如：如下隨機生成1-100內10個double類型的數，可以看出數據簇與簇之間區別較為明顯，得到的聚類較為有效，結果也比較明顯。

 

 

如下：隨機生成100個數

 

 代碼：

namespace DataStructure
{
    using System;
    using System.Collections.Generic;
    /// <summary>
    /// author yanhf
    /// K-Means
    /// </summary>
    public class K_Means
    {
        /// <summary>
        /// Update index cluster identification based on cluster point key
        /// </summary>
        /// <param name="data">Data</param>
        /// <param name="index">index</param>
        /// <param name="key">key values</param>
        public static void _K_Means(double[] data, ref int[] index, int[] key)
        {
            bool change = true;
            int _index = 0;
            double Length = 0;
            while (change)
            {
                change = false;
                for (int i = 0; i < data.Length; i++)//根據當前的聚簇點更新index聚簇標識數組
                {
                    for (int j = 0; j < key.Length; j++)
                    {
                        double currentLength = Math.Abs(data[key[j]] - data[i]);
                        if (j == 0 || Length > currentLength)
                        {
                            Length = Math.Abs(data[key[j]] - data[i]);
                            _index = j + 1;
                        }
                    }
                    index[i] = _index;
                    Length = 0;
                }
                change = _ChangeKey(data, index, ref key);
            }
        }
        /// <summary>
        /// Judging the current Key needs not to be changed
        /// </summary>
        /// <param name="data">Data</param>
        /// <param name="index">index</param>
        /// <param name="key">key values</param>
        /// <returns></returns>
        public static bool _ChangeKey(double[] data, int[] index, ref int[] key)
        {
            bool IsChange = false;
            int i = 0;
            List<double> _listData = new List<double>();
            while (i++ < key.Length)
            {
                _listData.Clear();
                for (int j = 0; j < index.Length; j++)
                {
                    if (index[j] == i)
                    {
                        _listData.Add(data[j]);
                    }
                }
                _listData.Sort();
                if (_listData.Count > 1)
                {
                    if (key[i - 1] != _index(data, _listData[_listData.Count / 2]))
                    {
                        IsChange = true;
                        key[i - 1] = _index(data, _listData[_listData.Count / 2]);
                    }
                }
            }
            return IsChange;
        }
        /// <summary>
        /// Get the index in the key's data
        /// </summary>
        /// <param name="data">Data</param>
        /// <param name="num">key values</param>
        /// <returns></returns>
        public static int _index(double[] data, double num)
        {
            List<double> _listData = new List<double>(data);
            return _listData.IndexOf(num) >= 0 ? _listData.IndexOf(num) : -1;
        }
    }
}

using DataStructure;
using System;

namespace ClusterNumeric
{
    class ClusterNumProgram
    {
        public static int dataNumber = 0;
        public static int keyNumber = 0;
        static void Main(string[] args)
        {
            start:
            string[] inputArray = null;
            {
                Console.WriteLine("\nEnter the total number of data you want to divide and The number of divisions\nFor example: 100,3");
                string input = Console.ReadLine();
                inputArray = input.Split(new char[] { ',' });
            } while (!int.TryParse(inputArray[0], out dataNumber) || !int.TryParse(inputArray[1], out keyNumber) || keyNumber >= dataNumber) ;

            Random random = new Random();
            double[] _data = new double[dataNumber];
            Console.WriteLine("\nShow the total number of  random generated  data");
            Console.WriteLine("-------------------------------------------------------------------------");
            int M = 1;
            for (int i = 0; i < _data.Length; i++)
            {
                _data[i] = Math.Round(random.NextDouble() * (100 < dataNumber ? dataNumber : 100), 2);
                Console.Write(_data[i].ToString("F2").PadLeft(7));
                if (M++ % 10 == 0)
                {
                    Console.WriteLine();
                }
            }
            int[] _index = new int[dataNumber];
            int[] keyData = new int[keyNumber];
            for (int i = 0; i < keyNumber; i++)
            {
                keyData[i] = random.Next(0, dataNumber);
            }
            K_Means._K_Means(_data, ref _index, keyData);
            Console.WriteLine("\n*************************************************************************");
            Console.WriteLine("\nShow the Result");
            Console.WriteLine("-------------------------------------------------------------------------");
            for (int i = 0; i < keyData.Length; i++)
            {
                M = 1;
                Console.WriteLine("Value values of the " + (i + 1) + " group:key " + _data[keyData[i]].ToString().PadRight(7));
                Console.WriteLine();
                for (int j = 0; j < _index.Length; j++)
                {
                    if (_index[j] == i + 1)
                    {
                        Console.Write(_data[j].ToString("F2").PadLeft(7));
                        if (M++ % 10 == 0)
                        {
                            Console.WriteLine();
                        }
                    }
                }
                Console.WriteLine();
                Console.WriteLine("-------------------------------------------------------------------------");
            }
            Console.WriteLine("*************************************************************************");
            goto start;
        }
    }
}