Golang 中的 GRPC 连接管理
GRPC Connection Management in Golang
我对 GRPC 比较陌生,想确保我正确地使用 golang 进行连接管理。我不想为每个呼叫都创建一个新连接,但我也不想在扩展时造成瓶颈。
我所做的是在 init 函数中创建一个连接:
var userConn *grpc.ClientConn
var userServiceName string
func init() {
userServiceName := os.Getenv("USER_SERVICE_URL")
if userServiceName == "" {
userServiceName = "localhost"
}
logging.LogDebug("userClient: Connecting to: "+userServiceName, "")
tempConn, err := grpc.Dial(userServiceName, grpc.WithInsecure())
if err != nil {
logging.LogEmergency("account_user_client.Init() Could not get the connection. "+err.Error(), "")
return
}
userConn = tempConn
}
然后对于每个函数,我将使用该连接创建一个客户端:
c := user.NewUserClient(userConn)
// Contact the server and print out its response.
ctx, cancel := context.WithTimeout(context.Background(), time.Second)
defer cancel()
r, err := c.GetUserFromTokenID(ctx, &user.GetUserFromTokenRequest{TransactionID: transactionID, OathToken: *oathToken})
//Handle Error and Response
这是处理 grpc 连接的可接受方式吗?关于更好的方法有什么建议吗?
非常感谢。
是的,每个服务有一个 GRPC 客户端连接很好。此外,我在这里看不到任何其他选项。 GRPC 在幕后完成所有繁重的工作:例如,您不需要编写自己的客户端连接池(就像您为典型的 RDBMS 所做的那样),因为它不会提供比单个 GRPC 连接更好的结果。
但是我建议您避免使用全局变量和初始化函数,尤其是对于网络设置。此外,您不需要在每次 post 向 GRPC 服务发出请求时都创建 GRPC 客户端 (c := user.NewUserClient(userConn)
):这只是垃圾收集器的额外工作,您可以创建唯一的客户端实例在应用程序启动时。
更新
假设您正在编写服务器应用程序(因为可以从您调用远程 GRPC 服务的方法中看出),您可以简单地定义一个类型,该类型将包含与整个应用程序本身。按照传统,这些类型通常被称为 "server context",虽然这有点令人困惑,因为 Go 的标准库中有非常重要的概念 context
。
// this type contains state of the server
type serverContext struct {
// client to GRPC service
userClient user.UserClient
// default timeout
timeout time.Duration
// some other useful objects, like config
// or logger (to replace global logging)
// (...)
}
// constructor for server context
func newServerContext(endpoint string) (*serverContext, error) {
userConn, err := grpc.Dial(endpoint, grpc.WithInsecure())
if err != nil {
return nil, err
}
ctx := &serverContext{
userClient: user.NewUserClient(userConn),
timeout: time.Second,
}
return ctx, nil
}
type server struct {
context *serverContext
}
func (s *server) Handler(ctx context.Context, request *Request) (*Response, error) {
clientCtx, cancel := context.WithTimeout(ctx, time.Second)
defer cancel()
response, err := c.GetUserFromTokenID(
clientCtx,
&user.GetUserFromTokenRequest{
TransactionID: transactionID,
OathToken: *oathToken,
},
)
if err != nil {
return nil, err
}
// ...
}
func main() {
serverCtx, err := newServerContext(os.Getenv("USER_SERVICE_URL"))
if err != nil {
log.Fatal(err)
}
s := &server{serverCtx}
// listen and serve etc...
}
细节可能会根据您的实际工作而改变,但我只是想表明,将应用程序的状态封装在不同类型的实例中比感染全局命名空间要好得多。
有几件事使这个实施工作。
gRPC 通道(即来自 c := user.NewUserClient(userConn)
的 c
)由 http/2 连接支持。当连接关闭或失效时,它会自动重新连接或重试连接。
http/2 支持在单个连接中同时发送消息。考虑到这种场景,service Order 对service Product 一次获取一个产品库存,更新产品库存,更改产品优惠券。三个 grpc 请求可以复用单个 http/2 连接,grpc 将并发处理数据交换。所以可以只使用一个连接,而不是创建三个连接(如http/1)来实现这一点。
为避免过早优化,一个连接应该可以启动一个服务。为了将来的池性能,考虑为热点 grpc 请求创建一个单独的 tcp 连接(然后单独 http/2 连接)。
最好让连接保持活动状态,以防某些代理可能会终止空闲连接。在 https://github.com/grpc/grpc-go/blob/master/Documentation/keepalive.md, and example code at https://github.com/grpc/grpc-go/tree/master/examples/features/keepalive.
查看更多解释
对于 gRPC 与 http/2 连接,检查 https://grpc.io/blog/grpc-on-http2/#a-robust-high-performance-protocol and https://www.cncf.io/blog/2018/07/03/http-2-smarter-at-scale/。
我对 GRPC 比较陌生,想确保我正确地使用 golang 进行连接管理。我不想为每个呼叫都创建一个新连接,但我也不想在扩展时造成瓶颈。
我所做的是在 init 函数中创建一个连接:
var userConn *grpc.ClientConn
var userServiceName string
func init() {
userServiceName := os.Getenv("USER_SERVICE_URL")
if userServiceName == "" {
userServiceName = "localhost"
}
logging.LogDebug("userClient: Connecting to: "+userServiceName, "")
tempConn, err := grpc.Dial(userServiceName, grpc.WithInsecure())
if err != nil {
logging.LogEmergency("account_user_client.Init() Could not get the connection. "+err.Error(), "")
return
}
userConn = tempConn
}
然后对于每个函数,我将使用该连接创建一个客户端:
c := user.NewUserClient(userConn)
// Contact the server and print out its response.
ctx, cancel := context.WithTimeout(context.Background(), time.Second)
defer cancel()
r, err := c.GetUserFromTokenID(ctx, &user.GetUserFromTokenRequest{TransactionID: transactionID, OathToken: *oathToken})
//Handle Error and Response
这是处理 grpc 连接的可接受方式吗?关于更好的方法有什么建议吗?
非常感谢。
是的,每个服务有一个 GRPC 客户端连接很好。此外,我在这里看不到任何其他选项。 GRPC 在幕后完成所有繁重的工作:例如,您不需要编写自己的客户端连接池(就像您为典型的 RDBMS 所做的那样),因为它不会提供比单个 GRPC 连接更好的结果。
但是我建议您避免使用全局变量和初始化函数,尤其是对于网络设置。此外,您不需要在每次 post 向 GRPC 服务发出请求时都创建 GRPC 客户端 (c := user.NewUserClient(userConn)
):这只是垃圾收集器的额外工作,您可以创建唯一的客户端实例在应用程序启动时。
更新
假设您正在编写服务器应用程序(因为可以从您调用远程 GRPC 服务的方法中看出),您可以简单地定义一个类型,该类型将包含与整个应用程序本身。按照传统,这些类型通常被称为 "server context",虽然这有点令人困惑,因为 Go 的标准库中有非常重要的概念 context
。
// this type contains state of the server
type serverContext struct {
// client to GRPC service
userClient user.UserClient
// default timeout
timeout time.Duration
// some other useful objects, like config
// or logger (to replace global logging)
// (...)
}
// constructor for server context
func newServerContext(endpoint string) (*serverContext, error) {
userConn, err := grpc.Dial(endpoint, grpc.WithInsecure())
if err != nil {
return nil, err
}
ctx := &serverContext{
userClient: user.NewUserClient(userConn),
timeout: time.Second,
}
return ctx, nil
}
type server struct {
context *serverContext
}
func (s *server) Handler(ctx context.Context, request *Request) (*Response, error) {
clientCtx, cancel := context.WithTimeout(ctx, time.Second)
defer cancel()
response, err := c.GetUserFromTokenID(
clientCtx,
&user.GetUserFromTokenRequest{
TransactionID: transactionID,
OathToken: *oathToken,
},
)
if err != nil {
return nil, err
}
// ...
}
func main() {
serverCtx, err := newServerContext(os.Getenv("USER_SERVICE_URL"))
if err != nil {
log.Fatal(err)
}
s := &server{serverCtx}
// listen and serve etc...
}
细节可能会根据您的实际工作而改变,但我只是想表明,将应用程序的状态封装在不同类型的实例中比感染全局命名空间要好得多。
有几件事使这个实施工作。
gRPC 通道(即来自
c := user.NewUserClient(userConn)
的c
)由 http/2 连接支持。当连接关闭或失效时,它会自动重新连接或重试连接。http/2 支持在单个连接中同时发送消息。考虑到这种场景,service Order 对service Product 一次获取一个产品库存,更新产品库存,更改产品优惠券。三个 grpc 请求可以复用单个 http/2 连接,grpc 将并发处理数据交换。所以可以只使用一个连接,而不是创建三个连接(如http/1)来实现这一点。
为避免过早优化,一个连接应该可以启动一个服务。为了将来的池性能,考虑为热点 grpc 请求创建一个单独的 tcp 连接(然后单独 http/2 连接)。
最好让连接保持活动状态,以防某些代理可能会终止空闲连接。在 https://github.com/grpc/grpc-go/blob/master/Documentation/keepalive.md, and example code at https://github.com/grpc/grpc-go/tree/master/examples/features/keepalive.
查看更多解释对于 gRPC 与 http/2 连接,检查 https://grpc.io/blog/grpc-on-http2/#a-robust-high-performance-protocol and https://www.cncf.io/blog/2018/07/03/http-2-smarter-at-scale/。