C# Linq 的三種去重方式（Distinct）

前言

關於C#中默認的Distinct方法在什么情況下才能去重，這個就不用我再多講，針對集合對象去重默認實現將不再滿足，於是乎我們需要自定義實現來解決這個問題，接下來我們詳細講解幾種常見去重方案，孰好孰歹自行判之。

首先給出我們需要用到的對象，如下：

public class Person
{
    public string Name { get; set; }
    public int Age { get; set; }
}

接下來我們添加100萬條數據到集合中，如下：

            var list = new List<Person>();
            for (int i = 0; i < 1000000; i++)
            {
                list.Add(new Person() { Age = 18, Name = "迷戀自留地" });
            }
            for (int i = 0; i < 1000; i++)
            {
                list.Add(new Person() { Age = 19, Name = "迷戀自留地" });
            }

第一種分組去重

年齡和名稱進行分組，然后取第一條即可達到去重，如下：

var  list1 = list.GroupBy(d => new { d.Age, d.Name })
    .Select(d => d.FirstOrDefault())
    .ToList();

第二種 HashSet去重 （擴展方法）

C#中HashSet對於重復元素會進行過濾篩選，所以我們寫下如下擴展方法（在靜態函數中定義），遍歷集合元素，最后利用HashSet進行過濾達到去重目的，如下：

public static IEnumerable<TSource> Distinct<TSource, TKey>(
        this IEnumerable<TSource> source,
        Func<TSource, TKey> keySelector)
    {
        var hashSet = new HashSet<TKey>();
        
        foreach (TSource element in source)
        {
            if (hashSet.Add(keySelector(element)))
            {
                yield return element;
            }
        }
    }

述擴展方法即可去重，如下：

 var  list2 = list.Distinct(d => new { d.Age, d.Name }).ToList();

第三種 IEqualityComparer去重 （擴展方法）

在實際項目中有很多通過具體實現類實現該接口，通過重寫Equals和HashCode比較屬性值來達到去重目的，因為對於每一個類都得實現對應比較器，所以並不通用，反而利用上述方式才是最佳，其實我們大可借助該比較接口實現通用解決方案，對於每一個類都得實現一個比較器的原因在於，我們將屬性比較放在類該接口內部，如果我們將屬性比較放在外圍呢，這個時候就達到了通用解決方案，那么我們怎么實現呢，通過委托來實現，實現該接口的本質無非就是比較HashCode，然后通過Equals比較其值，當比較HashCode時，我們強制其值為一個常量（比如0），當重寫Equals方法我們調用委托即可，如下

public static class Extensions
{
    public static IEnumerable<T> Distinct<T>(
        this IEnumerable<T> source, Func<T, T, bool> comparer)
        where T : class
        => source.Distinct(new DynamicEqualityComparer<T>(comparer));

    private sealed class DynamicEqualityComparer<T> : IEqualityComparer<T>
        where T : class
    {
        private readonly Func<T, T, bool> _func;

        public DynamicEqualityComparer(Func<T, T, bool> func)
        {
            _func = func;
        }

        public bool Equals(T x, T y) => _func(x, y);

        public int GetHashCode(T obj) => 0;
    }
}

最終通過指定屬性進行比較即可去重，如下：

list = list.Distinct((a, b) => a.Age == b.Age && a.Name == b.Name).ToList();

性能比較

以上3種常見方式我們已經介紹完畢了，當數據量比較小時，我們大可忽略對集合進行各種操作所帶來的性能，但是一旦數據量很大時，我們可能需要考慮性能，能節省一點時間或許有必要，於是乎，在上述100萬條數據前提下，我們來分析其耗時情況，如下：

var list = new List<Person>();
for (int i = 0; i < 1000000; i++)
{
    list.Add(new Person() { Age = 18, Name = "jeffcky" });
}

var time1 = Time(() =>
{
    list.GroupBy(d => new { d.Age, d.Name })
        .Select(d => d.FirstOrDefault())
        .ToList();
});
Console.WriteLine($"分組耗時：{time1}");

var time2 = Time(() =>
{
    list.Distinct(d => new { d.Age, d.Name }).ToList();
});
Console.WriteLine($"HashSet耗時：{time2}");

var time3 = Time(() =>
{
    list.Distinct((a, b) => a.Age == b.Age && a.Name == b.Name).ToList();
});
Console.WriteLine($"委托耗時：{time3}");


static long Time(Action action)
{
    var stopwatch = new Stopwatch();
    stopwatch.Start();
    action();
    stopwatch.Stop();
    return stopwatch.ElapsedMilliseconds;
}

為了方便大家在移動端也能看到我分享的博文，現已注冊個人公眾號，掃描上方左邊二維碼即可,或者搜索（net分享），歡迎大家關注，有時間會及時分享相關技術博文。

參考：https://www.cnblogs.com/CreateMyself/p/12863407.html