Zookeeper合奏将无法启动

问题描述

我已经设置了3个实例的Zookeeper集成（版本3.4.9）。在测试系统上，这就像一个魅力，但在实时系统上却根本没有出现。错误消息如下：

2020-08-28 06:26:24,643 [myid:1] - WARN  [WorkerSender[myid=1]:QuorumCnxManager@400] - Cannot open channel to 2 at election address /10.3.1.173:3888
java.net.NoRouteToHostException: Host is unreachable (Host unreachable)
    at java.net.PlainSocketImpl.socketConnect(Native Method)
    at java.net.AbstractPlainSocketImpl.doConnect(AbstractPlainSocketImpl.java:350)
    at java.net.AbstractPlainSocketImpl.connectToAddress(AbstractPlainSocketImpl.java:206)
    at java.net.AbstractPlainSocketImpl.connect(AbstractPlainSocketImpl.java:188)
    at java.net.SocksSocketImpl.connect(SocksSocketImpl.java:392)
    at java.net.Socket.connect(Socket.java:589)
    at org.apache.zookeeper.server.quorum.QuorumCnxManager.connectOne(QuorumCnxManager.java:381)
    at org.apache.zookeeper.server.quorum.QuorumCnxManager.toSend(QuorumCnxManager.java:354)
    at org.apache.zookeeper.server.quorum.FastLeaderElection$Messenger$WorkerSender.process(FastLeaderElection.java:452)
    at org.apache.zookeeper.server.quorum.FastLeaderElection$Messenger$WorkerSender.run(FastLeaderElection.java:433)
    at java.lang.Thread.run(Thread.java:745)

我在这里和其他地方进行了搜索，但是唯一可以接受的解决方案是将每个节点的服务器地址设置为0.0.0.0，在这里不起作用。我的设置已完全通过docker化并在ansible中应用，因此它看起来与人们通常看起来的工作有所不同。但是连接字符串例如对于server.1是这样的：

"server.1=0.0.0.0:2888:3888 server.2=10.3.1.173:2888:3888 server.3=10.3.1.175:2888:3888"

这也适用于zookeeper的内部配置，如日志所示（再次针对server.1）：

ZooKeeper JMX enabled by default
Using config: /conf/zoo.cfg
2020-08-28 06:26:23,549 [myid:] - INFO  [main:QuorumPeerConfig@124] - Reading configuration from: /conf/zoo.cfg
2020-08-28 06:26:23,559 [myid:] - INFO  [main:QuorumPeer$QuorumServer@149] - Resolved hostname: 10.3.1.175 to address: /10.3.1.175
2020-08-28 06:26:23,559 [myid:] - INFO  [main:QuorumPeer$QuorumServer@149] - Resolved hostname: 10.3.1.173 to address: /10.3.1.173
2020-08-28 06:26:23,560 [myid:] - INFO  [main:QuorumPeer$QuorumServer@149] - Resolved hostname: 0.0.0.0 to address: /0.0.0.0
2020-08-28 06:26:23,560 [myid:] - INFO  [main:QuorumPeerConfig@352] - Defaulting to majority quorums
(...)
2020-08-28 06:26:23,570 [myid:1] - INFO  [main:QuorumPeerMain@127] - Starting quorum peer
2020-08-28 06:26:23,577 [myid:1] - INFO  [main:Login@294] - successfully logged in.
2020-08-28 06:26:23,579 [myid:1] - INFO  [main:NIOServerCnxnFactory@89] - binding to port 0.0.0.0/0.0.0.0:2181

这适用于Zookeeper的所有3个实例，但是它们都无法与另一个实例对话。

其他信息：

• 除了服务器的IP地址外，配置与测试系统相同。 Ansible Docker模块的配置相同，JAAS-Config（带有DigestLoginModule）相同，并且所有Docker容器内部的环境变量也相同。
• 实时系统中的每个服务器都可以ping其他服务器。我还可以从每个Zookeeper容器内部ping这些服务器。另外，我可以从实时系统的任何其他容器内部卷曲JMX端口上的每个Zookeeper容器。因此他们绝对可以通过网络进行连接。

请帮助，谢谢：D

---

编辑：@Stefano问我如何启动Docker容器，因此我将尝试提供一些见解。如前所述，这是使用“ docker_container”插件在任务中进行的Ansible设置，该手册在剧本中用于在机器之间安装3个实例：

---
- name: Install Zookeeper
  docker_container:
    name: zookeeper
    image: zookeeper:3.4.9
    state: started
    ports:
      - "2181:2181" # Zookeeper Port
      - "2888:2888" 
      - "3888:3888" # Election ports
      - "9998:8080" # JMX metrics
    env:
        ZOO_MY_ID: "{{ ID }}"  #this is 1 for server.1,etc.
        ZOO_PORT: "2181"
        ZOO_SERVERS: "{{ ZOO_SERVERS }}"  #provided in host-vars
        SERVER_JVMFLAGS: "-Djava.security.auth.login.config=/etc/kafka/zookeeper_jaas.conf -javaagent:/opt/jmx-exporter/jmx_prometheus_javaagent-0.12.0.jar=8080:/opt/jmx-exporter/zookeeper.yml"
    volumes:
      - /home/ansible/volumes/zoo1/data:/data
      - /home/ansible/volumes/zoo1/datalog:/datalog
      - /home/ansible/jmx-exporter:/opt/jmx-exporter
      - /home/ansible/zookeeper_jaas.conf:/etc/kafka/zookeeper_jaas.conf

ZOO_SERVERS来自主机文件：

all:
  (...)
  children:
    zookeeper:
      hosts:
        zoo1:
          ID: "1"
          ZOO_SERVERS: "server.1=0.0.0.0:2888:3888 server.2=10.3.1.173:2888:3888 server.3=10.3.1.175:2888:3888"
          ansible_host: 10.3.1.171
        zoo2: 
          ID: "2"
          ZOO_SERVERS: "server.1=10.3.1.171:2888:3888 server.2=0.0.0.0:2888:3888 server.3=10.3.1.175:2888:3888" 
          ansible_host: 10.3.1.173
        zoo3: 
          ID: "3"
          ZOO_SERVERS: "server.1=10.3.1.171:2888:3888 server.2=10.3.1.173:2888:3888 server.3=0.0.0.0:2888:3888"
          ansible_host: 10.3.1.175

解决方法

因此，当我读回上面的评论时，我注意到我实际上不是在使用“ confluentinc / cp-zookeeper”泊坞窗映像，而是在使用“ zookeeper”泊坞窗映像。

一旦我从“ zookeeper：3.4.9”更改为“ confluentinc / cp-zookeeper：5.4.0”，并将ZOO_PORT env-var的名称调整为ZOOKEEPER_CLIENT_PORT，便可以使用。

这不能回答“为什么”，但也许此解决方法可以帮助其他人。我现在将其标记为已接受的答案，但请随时提供其他见解。