反应性：缓存服务响应几个小时

Question

所以我的应用程序会多次调用以下昂贵的 HTTP 服务（同时通过多个线程对我的应用程序的每个客户端请求使用相同和不同的 ID）。

Mono<Foo> response = myService.fetch(id);

我想将响应（在内存中）缓存几个小时，然后仅在下一个客户端请求时只调用一次来刷新缓存。

方法一：

Mono<Foo> cachedResponse = Mono.empty();

public Mono<Foo> get(String id){
   return cachedResponse.switchIfEmpty(Mono.defer(()-> 
    {
       cachedResponse = myService.fetch(id).cache(Duration.ofHours(4));
       return cachedResponse;
    }));    
}

下面的方法可以吗？特别是因为多个线程可以调用具有相同 ID 的 get 方法。另外，当缓存在 4 小时后失效时，是否会使 cachedResponse Mono 为空以使 switchIfEmpty 正常工作？

方法二： 我可以使用一些缓存解决方案来存储几个小时的缓存。例如

Foo getFromCacheSolution(String id);

然后，

public Mono<Foo> get(String id){
   Foo cachedFoo = getFromCacheSolution(id);
   if(cachedFoo != null){
      return Mono.just(cachedFoo);
   }
   else{
      return myService.fetch(id).doOnNext(value->storeToCacheSolution(id, value)); //line 7
   }
}

此解决方案的问题是第 7 行将被多次调用，导致多次调用昂贵的获取服务（例如，如果 3 个线程进入 id 为 123 的 get 方法并且 cachedFoo 为空）。使方法同步可能无济于事，因为第 7 行会立即完成。

一种解决方法是将 Mono 存储在缓存解决方案中而不是 Foo（不确定这是否是个好主意）：

Mono<Foo> getFromCacheSolution(String id); //returns cached or empty Mono

然后，

public Mono<Foo> get(String id){
   return getFromCacheSolution(id).switchIfEmpty(Mono.defer(()-> 
    {
       cachedResponse = myService.fetch(id).doOnNext(value->storeToCacheSolution(id, value));
       return cachedResponse;
    }));
}

有什么建议或更好的选择吗？

Answer 1

您的问题由两部分组成：关于缓存和关于具有相同参数的调用的独占锁定。

缓存。

您的第二种方法适用于内存缓存。或者，您可以使用 reactor-extra

中的 CacheMono

Mono<Foo> myFoo =
        CacheMono.lookup(key -> Mono.justOrEmpty(myCache.getIfPresent(key))
                .map(Signal::next), id)
                .onCacheMissResume(() -> myService.fetch(id))
                .andWriteWith((key, signal) -> Mono.fromRunnable(() ->
                        Optional.ofNullable(signal.get())
                                .ifPresent(value -> myCache.put(key, value))));

具有相同参数的调用独占锁定。

通常我们应该避免在反应世界中进行任何锁定。但是如果你真的需要它，你的锁应该是非阻塞的。我不知道任何图书馆，但您可以在 this question thread

反应性：缓存服务响应几个小时

Reactive: Caching service response for few hours

java

spring

project-reactor

spring-webflux