在Kafka中,如何查找给定开始日期和结束日期或说时间戳之间所有分区的偏移量,并重播msgs

问题描述

我需要找到给定开始日期和结束日期之间的所有偏移量,然后在此时间段内重播味精,因为该时间段味精丢失了。

解决方法

您可以使用kafka-consumer-groups工具-https://docs.cloudera.com/runtime/7.2.1/kafka-managing/topics/kafka-manage-cli-cgroups.html(来自cloudera,但包含在v0.11之后的任何kafka发行版中)来重置消费者组的偏移量。

您还可以运行以下命令: ./kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list <hostname>:<port> --time <epoch> --topic <topic>并获得时间偏移。 请参阅https://cwiki.apache.org/confluence/display/KAFKA/System+Tools#SystemTools-GetOffsetShell