rd_kafka_consumer_poll() 大多数情况下返回 null

问题描述

我使用 https://github.com/edenhill/librdkafka/blob/master/examples/consumer.c 中的 consumer.c 没有任何更改并将其作为 ./consumer broker groupid topicname 执行,rd_kafka_consumer_poll 大部分时间返回 null(某些 groupid 值除外),即使kafka 集群中存在数据。我会理解是否有一些调用返回 null,但我不明白为什么它总是为 null。

我尝试将轮询超时从 100ms 增加1000ms,它仍然没有任何区别并且一直返回 null。但是在某些随机 groupid 值下,它确实从集群中获取所有数据。在重复运行时,我必须不断将 groupid增加随机值,以便消费者获取数据。

  1. 这是 rd_kafka_consumer_poll 的预期行为吗?或者我在实施中有什么需要改变的

  2. 是否有一个函数可以从 kafka 集群中获取主题及其分区,并仅请求给定集群和分区的数据。我看过像 rd_kafka_consume_start()rd_kafka_consume() 这样的函数,但所有这些都需要 rd_kafka_topic_t *rkt。我们如何为集群上已存在的主题获取或构建 rd_kafka_topic_t

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)