Kafka项目反应堆处理与背压异步

问题描述

我正在使用Kafka反应堆。我使用了来自Kafka的一批消息,并将其异步存储在DB中,并且该操作返回了CompletableFutures。 这是我到目前为止所拥有的:

Flux<K> flux = receiver.receiveAtmostOnce()
   flux
            .bufferTimeout(maxBatchSize,batchTimeout)
            .onBackpressureBuffer()
            .publishOn(Schedulers.boundedElastic())
            .doOnError(th -> {
                LOG.warn("Exception while handling records",th);
                latch.countDown();
            })
            .doOnCancel(() -> LOG.info("Kafka receiver stopped"))
            .subcribe(records ->
                                completetableFutureArray = processRecords(records)  
                               //Blocking call that I want to avoid//
                                completetableFutureArray.join() 
             )

我知道使用阻止呼叫是不好的,但

如果我不阻止,背压将如何工作?订户是否会在完成对现有项目的处理之前连续获取更多项目? 矿山是一个缓慢的消费者快速生产者的问题,这就是为什么背压很重要的原因。 任何帮助/建议将不胜感激

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)