Golang Nats 订阅问题
Golang Nats subscribe issue
我目前从事微服务架构方面的工作。
在我将 NATS 插入我的项目之前,我想用它测试一些简单的场景。
在一个场景中,我有一个简单的发布者,它在 localhost:4222 上的基本 Nats 服务器 运行 上的 for 循环中发布 100.000 条消息。
最大的问题是订阅者。当他收到 30.000 - 40.000 条消息时,我的整个 main.go 程序和所有其他 go 例程都会停止,什么也不做。我可以用 ctrl + c 退出。但发布者仍在继续发送消息。当我打开一个新终端并启动订阅者的一个新实例时,一切都再次运行良好,直到订阅者收到大约 30000 条消息。最糟糕的是,连一个错误都没有出现,服务器上也没有日志,所以我不知道发生了什么。
之后我尝试用 QueueSubscribe 方法替换 Subscribe 方法并且一切正常。
订阅和队列订阅的主要区别是什么?
NATS-Streaming 是更好的机会吗?或者在哪些情况下我更喜欢 Streaming 以及标准 NATS-Server
这是我的代码:
出版商:
package main
import (
"fmt"
"log"
"time"
"github.com/nats-io/go-nats"
)
func main() {
go createPublisher()
for {
}
}
func createPublisher() {
log.Println("pub started")
nc, err := nats.Connect(nats.DefaultURL)
if err != nil {
log.Fatal(err)
}
defer nc.Close()
msg := make([]byte, 16)
for i := 0; i < 100000; i++ {
nc.Publish("alenSub", msg)
if (i % 100) == 0 {
fmt.Println("i", i)
}
time.Sleep(time.Millisecond)
}
log.Println("pub finish")
nc.Flush()
}
订阅者:
package main
import (
"fmt"
"log"
"time"
"github.com/nats-io/go-nats"
)
var received int64
func main() {
received = 0
go createSubscriber()
go check()
for {
}
}
func createSubscriber() {
log.Println("sub started")
nc, err := nats.Connect(nats.DefaultURL)
if err != nil {
log.Fatal(err)
}
defer nc.Close()
nc.Subscribe("alenSub", func(msg *nats.Msg) {
received++
})
nc.Flush()
for {
}
}
func check() {
for {
fmt.Println("-----------------------")
fmt.Println("still running")
fmt.Println("received", received)
fmt.Println("-----------------------")
time.Sleep(time.Second * 2)
}
}
无限 for
循环可能会使垃圾收集器饿死:https://github.com/golang/go/issues/15442#issuecomment-214965471
发布者 运行 我能够重现该问题。要解决,我建议使用sync.WaitGroup
。以下是我如何更新评论中链接的代码以完成它:
package main
import (
"fmt"
"log"
"sync"
"time"
"github.com/nats-io/go-nats"
)
// create wait group
var wg sync.WaitGroup
func main() {
// add 1 waiter
wg.Add(1)
go createPublisher()
// wait for wait group to complete
wg.Wait()
}
func createPublisher() {
log.Println("pub started")
// mark wait group done after createPublisher completes
defer wg.Done()
nc, err := nats.Connect(nats.DefaultURL)
if err != nil {
log.Fatal(err)
}
defer nc.Close()
msg := make([]byte, 16)
for i := 0; i < 100000; i++ {
if errPub := nc.Publish("alenSub", msg); errPub != nil {
panic(errPub)
}
if (i % 100) == 0 {
fmt.Println("i", i)
}
time.Sleep(time.Millisecond * 1)
}
log.Println("pub finish")
errFlush := nc.Flush()
if errFlush != nil {
panic(errFlush)
}
errLast := nc.LastError()
if errLast != nil {
panic(errLast)
}
}
我建议以类似方式更新上述订阅者代码。
Subscribe
和 QueueSubscriber
之间的主要区别在于,在 Subscribe
中,所有订阅者都从中发送所有消息。在 QueueSubscribe
中,每条消息仅发送 QueueGroup
中的一个订阅者。
有关 NATS Streaming 附加功能的一些详细信息,请参见此处:
https://nats.io/documentation/streaming/nats-streaming-intro/
我们看到 NATS 和 NATS Streaming 被用于从数据管道到控制平面的各种用例。您的选择应由您的用例需求决定。
如前所述,移除 for{} 循环。替换为 runtime.Goexit()。
对于订阅者,您不需要在 Go 例程中创建订阅者。异步订阅者已经有自己的回调例程。
还使用原子或互斥锁保护接收到的变量。
也请参阅此处的示例。
我目前从事微服务架构方面的工作。 在我将 NATS 插入我的项目之前,我想用它测试一些简单的场景。
在一个场景中,我有一个简单的发布者,它在 localhost:4222 上的基本 Nats 服务器 运行 上的 for 循环中发布 100.000 条消息。
最大的问题是订阅者。当他收到 30.000 - 40.000 条消息时,我的整个 main.go 程序和所有其他 go 例程都会停止,什么也不做。我可以用 ctrl + c 退出。但发布者仍在继续发送消息。当我打开一个新终端并启动订阅者的一个新实例时,一切都再次运行良好,直到订阅者收到大约 30000 条消息。最糟糕的是,连一个错误都没有出现,服务器上也没有日志,所以我不知道发生了什么。
之后我尝试用 QueueSubscribe 方法替换 Subscribe 方法并且一切正常。
订阅和队列订阅的主要区别是什么?
NATS-Streaming 是更好的机会吗?或者在哪些情况下我更喜欢 Streaming 以及标准 NATS-Server
这是我的代码:
出版商:
package main
import (
"fmt"
"log"
"time"
"github.com/nats-io/go-nats"
)
func main() {
go createPublisher()
for {
}
}
func createPublisher() {
log.Println("pub started")
nc, err := nats.Connect(nats.DefaultURL)
if err != nil {
log.Fatal(err)
}
defer nc.Close()
msg := make([]byte, 16)
for i := 0; i < 100000; i++ {
nc.Publish("alenSub", msg)
if (i % 100) == 0 {
fmt.Println("i", i)
}
time.Sleep(time.Millisecond)
}
log.Println("pub finish")
nc.Flush()
}
订阅者:
package main
import (
"fmt"
"log"
"time"
"github.com/nats-io/go-nats"
)
var received int64
func main() {
received = 0
go createSubscriber()
go check()
for {
}
}
func createSubscriber() {
log.Println("sub started")
nc, err := nats.Connect(nats.DefaultURL)
if err != nil {
log.Fatal(err)
}
defer nc.Close()
nc.Subscribe("alenSub", func(msg *nats.Msg) {
received++
})
nc.Flush()
for {
}
}
func check() {
for {
fmt.Println("-----------------------")
fmt.Println("still running")
fmt.Println("received", received)
fmt.Println("-----------------------")
time.Sleep(time.Second * 2)
}
}
无限 for
循环可能会使垃圾收集器饿死:https://github.com/golang/go/issues/15442#issuecomment-214965471
发布者 运行 我能够重现该问题。要解决,我建议使用sync.WaitGroup
。以下是我如何更新评论中链接的代码以完成它:
package main
import (
"fmt"
"log"
"sync"
"time"
"github.com/nats-io/go-nats"
)
// create wait group
var wg sync.WaitGroup
func main() {
// add 1 waiter
wg.Add(1)
go createPublisher()
// wait for wait group to complete
wg.Wait()
}
func createPublisher() {
log.Println("pub started")
// mark wait group done after createPublisher completes
defer wg.Done()
nc, err := nats.Connect(nats.DefaultURL)
if err != nil {
log.Fatal(err)
}
defer nc.Close()
msg := make([]byte, 16)
for i := 0; i < 100000; i++ {
if errPub := nc.Publish("alenSub", msg); errPub != nil {
panic(errPub)
}
if (i % 100) == 0 {
fmt.Println("i", i)
}
time.Sleep(time.Millisecond * 1)
}
log.Println("pub finish")
errFlush := nc.Flush()
if errFlush != nil {
panic(errFlush)
}
errLast := nc.LastError()
if errLast != nil {
panic(errLast)
}
}
我建议以类似方式更新上述订阅者代码。
Subscribe
和 QueueSubscriber
之间的主要区别在于,在 Subscribe
中,所有订阅者都从中发送所有消息。在 QueueSubscribe
中,每条消息仅发送 QueueGroup
中的一个订阅者。
有关 NATS Streaming 附加功能的一些详细信息,请参见此处: https://nats.io/documentation/streaming/nats-streaming-intro/
我们看到 NATS 和 NATS Streaming 被用于从数据管道到控制平面的各种用例。您的选择应由您的用例需求决定。
如前所述,移除 for{} 循环。替换为 runtime.Goexit()。
对于订阅者,您不需要在 Go 例程中创建订阅者。异步订阅者已经有自己的回调例程。
还使用原子或互斥锁保护接收到的变量。
也请参阅此处的示例。