grpc 完成异步 java 服务 request/response 映射

Question

Java 服务（我们称之为门户）既是 gRPC 客户端又是服务器。它为数百万 gRPC 客户端（服务器）提供服务，每个客户端请求一些 task/resource。根据传入的请求，门户将确定后端服务并与其中的一个或多个对话，并将返回的响应发送给原始客户端。因此，这里的要求是：

1. 原来数百万客户端会有自己的超时
2. 门户不应为数百万客户端（异步）阻塞线程。它也不应该为每个客户端对后端服务（异步）的调用阻塞线程。我们可以使用接收到客户端调用的同一线程来调用后端服务。
3. 如果原始客户端超时，门户应该能够将其传达给后端服务或终止对后端服务的特定调用。
4. 后端服务出错时，门户应该能够将错误反馈给调用失败的特定客户端。

所以这里的问题是：

1. 我们必须在这里使用异步一元调用，对吗？
2. 中间服务器（门户）如何将原始请求与后端服务的响应相匹配？
3. 如果后端服务出错，中间服务器如何传播错误？
4. 中间服务器如何传播截止日期？
5. 如果发起客户端终止，中间服务器如何取消对后端服务的请求？

Answer 1

gRPC Java 可以相对容易地制作代理。对此类代理使用异步存根很常见。当代理创建其传出 RPC 时，它可以在传出 RPC 的回调中保存对原始 RPC 的引用。当传出 RPC 的回调触发时，只需向原始 RPC 发出相同的调用即可。这解决了消息和错误。

截止日期和取消传播由 io.grpc.Context 自动处理。

您可能需要参考 this grpc-level proxy example（尚未合并到 grpc/grpc-java）。它使用 ClientCall/ServerCall 因为它很方便并且不想解析消息。可以使用 StreamObserver API.

做同样的事情

这种代理的主要困难是观察流量控制。我引用的示例就是这样做的。如果使用 StreamObserver API 您应该将传递给服务器的 StreamObserver 转换为 ServerCallStreamObserver 并通过将 ClientResponseObserver 传递给客户端来获得 ClientCallStreamObserver存根