c++實現緩存

1.網絡應用流程框架

2.緩存的目的：
在用戶量、訪問數巨大的情況下，服務器的資源有限、數據庫每秒能夠接受的請求有限，需要在有限的資源下盡可能大地提供吞吐量。一個有效的解決方案是使用緩存，在上圖中每個請求的環節都可以使用緩存。
3.緩存的屬性和行為：
緩存的屬性：
1.命中率：緩存最重要的屬性，等於緩存正確的返回值/緩存的申請數，刻畫了緩存的有效性；
2.最大元素個數：緩存的元素空間，當緩存中的元素個數超過了最大元素空間，啟動清空策略；
3.元素使用時間：某個元素的使用時間，可以用來判斷該元素是否過期
緩存的行為：
清空策略：當緩存中的元素超過了最大元素空間時，為了保證較高的命中率，而針對不同場景采取的策略：
1.針對時效性強的場景---FIFO（First In First Out）
緩存優先清空最先存儲的元素，保證緩存中的元素具有較強的時效性
2.針對高頻場景--LFU（Less Frequently Used）
根據元素的使用次數，使用次數最少的元素優先被清空
3.針對熱點場景（Least Recently Used）
根據元素最后被使用的時間，如果最后使用時間最長則優先被淘汰，該策略確保了熱點元素存在於緩存中