Kafka连接不适用于文件流

时间:2016-09-07 10:27:00

标签: streaming apache-kafka apache-kafka-connect

我使用以下指南

一直在使用Kafka connect进入汇合平台

Kafka connect quickstart

但它不再更新接收器文件,源文件中的任何更改都不会写入kafka主题。

我已经删除了所有tmp文件,但没有更改。

提前致谢

4 个答案:

答案 0 :(得分:1)

启动一个新的文件源连接器,其中包含一个用于存储偏移的新位置。这个连接器是一个演示版,除了一个只能附加更新的简单文件外,它不会处理任何事情。请注意,除了简单的演示之外,您不应该使用此连接器执行任何操作。如果您需要生产用的东西,请查看连接器集线器。

答案 1 :(得分:0)

对于OP,我已经有5分钟了,但是当我重新启动连接器时它很好,test.sink.txt和消费者都添加了新行。简而言之,只需重新启动连接器即可。

答案 2 :(得分:0)

FileStreamSource / Sink 在它工作正常后你不能正常工作并且你已经重新启动了zookeeper,kafka服务器和连接器但是它仍然不起作用那么问题是 kafka目录中的CONNECT.OFFSETS 文件。 你应该删除它并创建一个新的空的。

答案 3 :(得分:0)

我以前也遇到过同样的问题。但是如下所述,更正属性文件中输入和输出文件的路径对我来说是可行的。然后从输入文件(test.txt)流到输出文件(test.sink.txt)。

name=local-file-source
connector.class=FileStreamSource
tasks.max=1
file=/home/mypath/kafka/test.txt
topic=connect-test

name=local-file-sink
connector.class=FileStreamSink
tasks.max=1
file=/home/mypath/kafka/test.sink.txt
topics=connect-test
相关问题