SpringBoot+kafka+ES实现信息数据同步管理一

最近刚做完一个新的项目,趁着闲暇时间记录下用的项目结构与知识点

一、项目整体技术结构

本项目主要是需要的数据存储于TIDB与ES中,页面通过SpringBoot从ES中查询数据,在对数据有增、删、改的情况下,通过java后台数据库数据进行同步,同时将增、删、改操作的数据同步发送到消息队列kafka中,再通过kafka将数据同步到ES中,这样始终保持数据库数据与ES数据一致。结构如下图

二、项目技术架构分析

1、项目才用kafka中间件作为消息同步工具,是因为防止该系统在使用时,用户量过多导致操作数据量过多而出现的问题。

2、使用java操作数据库是对数据能进行稳定方便存储,因为在数据初始化时候,TIDB数据与ES数据是同步导入的,后续,通过页面对部分数据进行维护(增删改)

相关文章

# 前言 现有主流消息中间件都是生产者-消费者模型,主要角色...
错误的根源是:kafka版本过高所致,2.2+=的版本,已经不需要...
DWS层主要是存放大宽表数据,此业务中主要是针对Kafka topic...
不多BB讲原理,只教你怎么用,看了全网没有比我更详细的了,...
终于写完了,其实最开始学kafka的时候是今年2月份,那时候还...
使用GPKafka实现Kafka数据导入Greenplum数据库踩坑问题记录(...