Kafka应用实战——使用Kafka在文件之间传递数据

转载请注明出处:http://blog.csdn.net/dongdong9223/article/details/88579875
本文出自【我是干勾鱼的博客

Ingredient:

之前在Kafka应用实战——Kafka安装及简单使用讲解了Kafka的基本用法,今天来讲解一下使用Kafka在文件之间传递数据。

1 生成source内容

echo -e "foo\nbar" > test.txt

2 交互处理

> bin/connect-standalone.sh config/connect-standalone.properties config/connect-file-source.properties config/connect-file-sink.properties

3 查看效果

more test.sink.txt

也可以:

tail -f test.sink.txt

或者查看topic的交互内容:

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic connect-test --from-beginning

topic的交互结果如下:

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic connect-test --from-beginning
{"schema":{"type":"string","optional":false},"payload":"foo"}
{"schema":{"type":"string","optional":false},"payload":"bar"}

4 无数据同步时的处理

如果发现并没有预期的同步效果,可能是offset发生了错误,这时候先将原有topic删除:

./bin/kafka-topics.sh --delete --zookeeper localhost:2181 --topic connect-test

然后删除offset记录:

rm -rf /tmp/connect.offsets

然后再重新执行:

> bin/connect-standalone.sh config/connect-standalone.properties config/connect-file-source.properties config/connect-file-sink.properties

5 参考

Step 7: Use Kafka Connect to import/export data

kafka connect 简单测试

相关文章

# 前言 现有主流消息中间件都是生产者-消费者模型,主要角色...
错误的根源是:kafka版本过高所致,2.2+=的版本,已经不需要...
DWS层主要是存放大宽表数据,此业务中主要是针对Kafka topic...
不多BB讲原理,只教你怎么用,看了全网没有比我更详细的了,...
终于写完了,其实最开始学kafka的时候是今年2月份,那时候还...
使用GPKafka实现Kafka数据导入Greenplum数据库踩坑问题记录(...