canal本质就是"冒充"从库,通过订阅mysql bin-log来获取数据库的更改信息。 mysql配置(my.cnf) mysql需要配置my.cnf开启bin-log日志并且将bin-log日志格式设置为row, 同时为了防止bin-log日志占用过多磁盘,可以设置一下过期时间, [mysqld] log-bin=mysql-bin # 打开binlog binlog-format=ROW # ROW格式 server_id=1 # mysql Replication 需要设置 在mysql集群里唯一expire_logs_days=7 # binlog文件保存7天 max_binlog_size = 500m ...
1.Kafka Connect Connect是Kafka的一部分，它为在Kafka和外部存储系统之间移动数据提供了一种可靠且伸缩的方式，它为连接器插件提供了一组API和一个运行时-Connect负责运行这些插件，它们负责移动数据。Connect以worker进程集群的方式运行，基于work进程安装连接器插件，然后使用REST API管理和配置connector，这些work进程都是长时间运行的作业。connector启动额外的task，利用work节点的资源以并行的方式移动大量的数据。SourceC...
目前我们在构建一个多租户多产品类网站，为了让用户更好的找到他们所需要的产品，我们需要构建站内搜索功能，并且它应该是实时更新的。本文将会讨论构建这一功能的核心基础设施，以及支持此搜索能力的技术栈。 问题的定义与决策 为了构建一个快速、实时的搜索引擎，我们必须做出某些设计决策。我们使用MySQL作为主数据库存储，因此有以下选择： 直接在MySQL数据库中查询用户在搜索框中输入的每个关键词，就像%#{word1}%#{word2}%…...