函數緩存 (Function caching)

 

函數返回值緩存是優化一個函數的常用手段。我們可以將函數、輸入參數、返回值全部保存起來，當下次以同樣的參數調用這個函數時，直接使用存儲的結果作為返回(不需要重新計算)。

函數緩存允許我們將一個函數對於給定參數的返回值緩存起來。當一個I/O密集的函數被頻繁使用相同的參數調用的時候，函數緩存可以節約時間。

 

Python 3.2及以后版本

我們來實現一個斐波那契計算器，並使用lru_cache。

from functools import lru_cache

@lru_cache(maxsize=32)
def fib(n):
    if n < 2:
        return n
    return fib(n-1) + fib(n-2)

>>> print([fib(n) for n in range(10)])
# Output: [0, 1, 1, 2, 3, 5, 8, 13, 21, 34]


# 我們也可以輕松地對返回值清空緩存，通過這樣：
fib.cache_clear()
那個maxsize參數是告訴lru_cache，最多緩存最近多少個返回值。

functools模塊和cachetools模塊都提供了類似的緩存機制。 
functools提供了 lru_cache，如果緩存數據超出參數 maxsize的值，就用LRU（最少最近使用算法）清除最近很少使用過的緩存結果

而cachetools模塊提供了更多緩存失效策略：

• LFUCache(Least Frequently Used (LFU) cache implementation.)
• LRUCache(Least Recently Used (LRU) cache implementation.)
• RRCache(Random Replacement (RR) cache implementation.)
• TTLCache(LRU Cache implementation with per-item time-to-live (TTL) value.)

 

Python 2系列版本

你可以創建任意種類的緩存機制，有若干種方式來達到相同的效果，這完全取決於你的需要。
這里是一個一般的緩存：

from functools import wraps

def memorize(function):
    memo = {}
    @wraps(function)
    def wrapper(*args):
        if args in memo:
            return memo[args]
        else:
            rv = function(*args)
            memo[args] = rv
            return rv
    return wrapper

@memorize
def fibonacci(n):
    if n < 2: return n
    return fibonacci(n - 1) + fibonacci(n - 2)

fibonacci(25)

 

總結：

函數的緩存是通過閉包實例來實現的，對於每一個被加上cache裝飾器的函數，運行時都會被創建一個不同的閉包實例。
參數的緩存是通過閉包實例中引入的哈希表(dict)的key來保存的。
返回值的緩存是通過字典形式保存，鍵為函數參數，值為函數返回值，。

refer

Python進階 函數緩存 (Function caching)

函數返回值緩存