登录
首页 >  Golang >  Go问答

Jetstream是否支持消息排序?

来源:stackoverflow

时间:2024-02-12 22:54:27 444浏览 收藏

golang学习网今天将给大家带来《Jetstream是否支持消息排序?》,感兴趣的朋友请继续看下去吧!以下内容将会涉及到等等知识点,如果你是正在学习Golang或者已经是大佬级别了,都非常欢迎也希望大家都能给我建议评论哈~希望能帮助到大家!

问题内容

我是 nats jetstream 的新手,我一直在阅读他们的官方文档以了解其概念并将其与 kafka 进行比较。我的主要用例之一是解决基于特定 id 的消息/事件排序(例如 kafka 世界中的 partition key)。

例如,有多个针对 order 实体的更新事件,我的系统需要以相同的顺序使用特定 order 的事件。在本例中,我将在发布到 kafka 主题时使用 order-id 作为分区键。如何在 jetstream 中实现此目的?

我在jetstream中遇到过一个重复数据删除键(nats-msg-id),但我认为这个功能更像是kafka中的主题压缩。我说得对吗?

尽管如此,我还是用 golang 编写了以下代码用于发布:

order = Order{
    OrderId: orderId,
    Status:  status,
}
orderJson, _ := json.Marshal(order)
dedupKey := nats.MsgId(order.OrderId)
_, err := js.Publish(subjectName, orderJson, dedupKey)

我这样做对吗?特定 orderid 的所有订单是否都会发送到 jetstream 世界中消费者组中的同一消费者,从而保持顺序?

编辑 1

这是我从@tbeets的建议中得到的。例如,我预定义了 10 个流主题,例如 order.1order.2order.3 .... order.10

在发布方面,我可以执行 order-id%10+1 来查找我想要发布的确切流主题。所以在这里,我们已经实现了相同 orderid 的所有更新事件每次都会转到相同的流主题。

现在,在订阅者端,我有 10 个消费者组(每个消费者组内有 10 个消费者),每个消费者都来自特定的流主题,例如 consumergroup-1order.1 消费,consumergroup-2order 消费.2等等...

假设,order-id 111 出现了 2 个订单更新事件,该事件将映射到 order.1 流主题,相应地 consumergroup-1 将消耗这 2 个事件。但是在这个consumergroup中,2个更新事件可以发送给不同的消费者,如果其中一个消费者有点忙或慢,那么从整体上看,更新事件的顺序消费可能不同步或无序.

kafka 使用分区键的概念解决了这个问题,因为消费者组的消费者被分配到特定的分区。因此,同一 orderid 的所有事件都由同一个消费者消费,从而保持了订单更新事件消费的顺序。如何在 jetstream 中解决此问题?

正确答案


在 NATS 中,您的发布主题可以包含多个分隔标记。例如,您的订单事件可以发布到 ORDER.{store}.{orderid},其中最后两个标记特定于每个事件,并提供您的用例所需的任何切片维度。

然后,您为 ORDER.>(即所有事件)定义一个 JetStream。可以在 JetStream 上创建 N 个消费者(临时的或持久的),每个消费者都有一个可选的过滤器定义,以满足您在底层流消息上的用例需求(例如 ORDER.Store24.>)。 JetStream 确保消息(已过滤或未过滤)按照接收顺序传送。

以上就是《Jetstream是否支持消息排序?》的详细内容,更多关于的资料请关注golang学习网公众号!

声明:本文转载于:stackoverflow 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>