[Asp.net 5] Caching-緩存架構與源碼分析

首先奉獻caching的開源地址[微軟源碼]

1.工程架構

 

為了提高程序效率，我們經常將一些不頻繁修改，但是使用了還很大的數據進行緩存。尤其是互聯網產品，緩存可以說是提升效率優化第一利器。微軟為我們實現了倆種緩存方式：內存緩存、分布式緩存。個人理解如果緩存在前端電腦內存的緩存叫做內存緩存，如果緩存在其它設備上，那么叫做分布式緩存。

• 倆種緩存方式的優缺點

　　我開發程序經歷過三個時間點，開始的時候從來不使用緩存，之后將數據緩存在內存中，最后使用分布式緩存。內存緩存的優點是速度快，缺點是內存損耗比較大，可能緩存的數據太大的時候就放不下了，另外一個缺點就是對於多前端程序的原則上是不支持的。而分布式緩存的優點是，理論上緩存大小沒有上線，可以通過擴充物理硬件進行擴展，對於多前端支持的較好。

Microsoft.Framework.Caching.Abstractions

這個工程定義的是緩存的整體架構。我們的思想是面向接口編程，而不是面向實現編程。所以該工程定義了我們想要的接口

從上圖顯而易見，微軟將內存緩存和分布式緩存割裂開來，而不是我們一般意義上定義一個ICache接口，之后讓IMemoryCache和IDistributedCache分別繼承ICache接口。

所以我們用分布式緩存，內存緩存原則不能無縫的直接切換。需要我們修改程序代碼，或者進行適配封裝。

• 分布式緩存

　  這部分包含內容只包含簡單的倆點：配置項（DistributedCacheEntryOptions）、緩存接口（IDistributedCache）。而DistributedCacheEntryExtentions是DistributedCacheEntryOptions的擴展方法包裝類，CaceheExtensions是IDistributedCache擴展方法包裝類,CacheItemPriority是優先級枚舉。

• 內存緩存

　　內存緩存，微軟的設計就比較復雜，考慮到方方面面。首先時緩存的配置項（IMemoryCacheEntryOptions）、緩存接口（IMemoryCache）以及它們擴展項（MemoryCacheEntryExtentions、CacheExtentions）。

　　但是微軟的想法，緩存不止應該只有過期失效，當我程序update一個字段后，我想通知內存緩存，我更改了，那又該怎么辦呢？於是微軟設計了右上角的部分（*由於代碼的持續更新原因右上角部分的接口已經被去掉，由IList<IChangeToken> ExpirationTokens { get; }屬性替代，但是原則都是一樣的，即外部通知內部，數據已經更新）。

　　既然外部數據更新能通知緩存，那反向呢？緩存更新是否能夠通知外部使用對象呢？答案是這個可以支持，所有上邊框，下面的部分。

　　既然能外部修改通知內部，內部修改也能通知外部應用程序。設計已經趨近完美了？微軟說還不夠，於是上圖左邊的部分產生了。它的意義就是，我可以為緩存創建一個范圍，至於范圍是做什么的？答案是“我也不知道”，但是從內存緩存的實現上來看，是用於整體緩存token等信息的。

　　緩存配置項的時間選項：AbsoluteExpiration、AbsoluteExpirationRelativeToNow、SlidingExpiration。分別表示的是絕對的過期時間點、相對於現在多久的絕對過期時間點，有效期時長。我們注意下類型AbsoluteExpiration是DateTimeOffset不是DateTime。（*DateTimeOffset 是對於1970年1月1日0時的時間偏移量，和DateTime相比，缺少時區的概念。而此處不需要有時區相關概念，所以選用了DateTimeOffset ）。

 

 Microsoft.Extensions.Caching.Memory

　　內存緩存的實現。此處代碼結構如下圖所示：

• 大邏輯

　　1，緩存太大時，壓縮緩存空間（個人理解）

　　系統創建內存緩存對象（MemoryCache）的時候，同時創建GcNotification對象，之后GcNotification對象立馬失效。GC需要析構的時候，會調用GcNotification的析構函數，析構函數被調用后會執行CallBack函數（定義在MemoryCache），之后再次注冊析構函數，循環往復的如此。所以當內存占用太高的時候，緩存會縮減緩存空間。

        if (reRegister && !Environment.HasShutdownStarted)
            {
                GC.ReRegisterForFinalize(this);
            }    

　　2，緩存對象（MemoryCache）的釋放，沒有對象引用緩存的話，難免GC會回收緩存對象。那么怎么避免緩存被GC回收？下面代碼的思路還是不錯的

        ~MemoryCache()
        {
            Dispose(false);
        }

        public void Dispose()
        {
            Dispose(true);
        }

        protected virtual void Dispose(bool disposing)
        {
            if (!_disposed)
            {
                if (disposing)
                {
                    GC.SuppressFinalize(this);
                }

                _disposed = true;
            }
        }

        private void CheckDisposed()
        {
            if (_disposed)
            {
                throw new ObjectDisposedException(typeof(MemoryCache).FullName);
            }
        }

　　3，IEntryLink對象的跨線程訪問

　　緩存過期的時候，很可能不是本線程訪問的，可能是另外一個線程，通過獲取IEntryLink，之后通過IChangeToken對象通知緩存，所以不同線程間必須是可以共享IEntryLink對象。此處使用的是CallContext.LogicalGetData與CallContext.LogicalSetData。關於線程見數據通信，請參考“如何實現對上下文（Context）數據的統一管理”

    internal static class EntryLinkHelpers
    {
        private const string ContextLinkDataName = "EntryLinkHelpers.ContextLink";

        public static EntryLink ContextLink
        {
            get
            {
                var handle = CallContext.LogicalGetData(ContextLinkDataName) as ObjectHandle;

                if (handle == null)
                {
                    return null;
                }

                return handle.Unwrap() as EntryLink;
            }
            set
            {
                CallContext.LogicalSetData(ContextLinkDataName, new ObjectHandle(value));
            }
        }

        internal static IEntryLink CreateLinkingScope()
        {
            var parentLink = ContextLink;
            var newLink = new EntryLink(parent: parentLink);
            ContextLink = newLink;
            return newLink;
        }

        internal static void DisposeLinkingScope()
        {
            var currentLink = ContextLink;
            var priorLink = ((EntryLink)currentLink).Parent;
            ContextLink = priorLink;
        }
    }

 

 

未完待續......