通过 Kafka REST 向 Kafka 发布 AVRO 消息

问题描述

我们已在 Kubernetes 集群中部署了 Confluent Platform 6.0。我通过 Kafka REST api 创建了一个 Kafka 主题“test-topic-1”。现在我正在尝试向该主题发布一条简单的 AVRO 消息。

curl --location --request POST 'https://kafka-rest-master.k8s.hip.com.au/topics/test-topic-1' \
--header 'Content-Type: application/vnd.kafka.avro.v2+json' \
--header 'Accept: application/vnd.kafka.v2+json' \
--data-raw '{"value_schema":{"type":"record","name":"User","fields":[{"name":"name","type":"string"}]},"records":[{"value":{"name":"testUser"}}]}'

我收到此请求的 500 错误响应，

{"error_code":500,"message":"Internal Server Error"}

查看kafka rest pod的日志时，可以看到如下错误，

ERROR 请求失败，异常 (io.confluent.rest.exceptions.DebuggableExceptionMapper) com.fasterxml.jackson.databind.exc.MismatchedInputException：不能 从 START_OBJECT 令牌反序列化 java.lang.String 的实例 在 [来源： (org.glassfish.jersey.message.internal.ReaderInterceptorExecutor$UnCloseableInputStream); 行：1，列：17]（通过参考链： io.confluent.kafkarest.entities.v2.SchemaTopicProduceRequest["value_schema"]) 在 com.fasterxml.jackson.databind.exc.MismatchedInputException.from(MismatchedInputException.java:59) 在 com.fasterxml.jackson.databind.DeserializationContext.reportInputMismatch(DeserializationContext.java:1445)

我是否按照正确的步骤将 AVRO 消息发布到新创建的 Kafka 主题？如果是这样，这里可能有什么问题？

解决方法

您的 AVRO 架构定义是错误的。它应该定义如下

{
  "type": "record","name": "recordName","namespace": "namespace","doc": "description","fields": [
    {
      "name": "key","type": {
        "type": "string","avro.java.string": "String"
      }
    }
  ]
}

或

"fields": [
  {
    "name": "fiedName","type": "string"
  },]