@lru_cache 装饰器缓存未命中过多

Question

如何配置 lru_cache 以根据收到的实际值而不是函数的调用方式为其缓存设置键值？

>>> from functools import lru_cache
>>> @lru_cache
... def f(x=2):
...     print("reticulating splines...")
...     return x ** 2
...
>>> f()
reticulating splines...
4
>>> f(2)
reticulating splines...
4
>>> f(x=2)
reticulating splines...
4

换句话说，只有上面的第一个调用应该是缓存未命中，其他两个应该是缓存命中。

Answer 1

为此，您必须完成将参数绑定到形式参数的过程。实际过程是在没有 public 接口的 C 代码中实现的，但是在 inspect 中有一个（慢得多的）重新实现。这比正常使用 functools.lru_cache 慢 100 倍：

import functools
import inspect

def mycache(f=None, /, **kwargs):
    def inner(f):
        sig = inspect.signature(f)
        f = functools.lru_cache(**kwargs)(f)
        @functools.wraps(f)
        def wrapper(*args, **kwargs):
            bound = sig.bind(*args, **kwargs)
            bound.apply_defaults()
            return f(*bound.args, **bound.kwargs)
        return wrapper
    if f:
        return inner(f)
    return inner

@mycache
def f(x):
    print("reticulating splines...")
    return x ** 2

如果该方法的性能损失太大，您可以改用以下技巧，它需要更多代码重复但运行速度更快，仅比正常使用 lru_cache 慢 2 倍左右（有时更快） , 带关键字参数):

@functools.lru_cache
def _f(x):
    print("reticulating splines...")
    return x ** 2

def f(x=2):
    return _f(x)

这使用更快的 C 级参数绑定来规范化对记忆辅助函数的调用，但需要复制函数的参数 3 次：一次在外部函数的签名中，一次在辅助函数的签名中，一次在对助手的调用。

@lru_cache 装饰器缓存未命中过多

@lru_cache decorator excessive cache misses

python

caching

function

memoization

functools