ReactiveKafkaConsumerTemplate receiveAutoAck 的消息排序

问题描述

我在问自己 spring-kafka 项目的 ReactiveKafkaConsumerTemplate 是否能保证消息的正确排序。我阅读了 reactor-kafka 项目的文档,它指出应该使用 concatMap 运算符来使用消息,但是 ReactiveKafkaConsumerTemplate 至少在 flatMap 方法的情况下使用 receiveAutoAck 运算符这里:

https://github.com/spring-projects/spring-kafka/blob/master/spring-kafka/src/main/java/org/springframework/kafka/core/reactive/ReactiveKafkaConsumerTemplate.java#L69

reactor-kafka 项目的参考文档: https://projectreactor.io/docs/kafka/release/reference/#_auto_acknowledgement_of_batches_of_records

我对使用 receiveAutoAck 很感兴趣,因为它似乎是最简单、最舒适的方法,足以满足我的用例需求。克服 receiveAutoAck 方法的这种行为的唯一方法似乎是继承 ReactiveKafkaConsumerTemplate 并覆盖这种行为。这是正确的吗?

解决方法

我认为这在这里并不重要,因为我们内部的数据源是 Flux.fromIterable(consumerRecords),它不会因为迭代器而失去顺序,因此我们不会尝试并行处理它们,我们仍然会在一个迭代器中获得订单。是的,我们扁平化的迭代器之间的顺序确实不可预测,但这对我们来说并不重要,因为我们担心单个分区的顺序,仅此而已。

尽管如此,我认为我们肯定需要针对提到的 concatMap() 修复该问题,以避免将来出现此类混淆。请随时就此事做出贡献!