1.Canal-adapter1.1.4集成Elasticsearch7.8.0排坑指南及在本地环境运行canal-adapter项目
Canal-adapter1.1.4集成Elasticsearch7.8.0排坑指南及在本地环境运行canal-adapter项目
在集成canal的码解过程中，我遇到了众多问题，码解尽管网上有诸多解答，码解但质量不尽如人意。码解于是码解，我下载源码进行本地编译，码解重庆和上海源码逐一排查，码解总结出以下要点：
以下是码解常见问题：
1、如何使canal-adapter1.1.4支持ES7系列？
2、码解常见错误信息
3、码解canal-adapter1.1.4支持的码解具体版本号范围
问题一：让canal-adapter支持ES7系列
首先，下载canal对应版本的码解源码到本地，使用编码工具打开。码解群组聊天app源码由于canal1.1.4最高支持的码解版本是6.4.3，在canal-adapter的码解elasticsearch模块中，引用的ES版本号为6.4.3，因此需要将ES的依赖版本号升起来。
修改完毕后，重新编译项目，会发现有几处代码编译报错。因为不同版本的ES的代码语法有所不同，只需要稍作改动即可。
代码编译通过后，修改canal-adapter下的launcher模块中的application.yml文件，修改后的答题竞赛app源码示例如下：
修改完配置文件后，接下来配置数据库与ES索引的对应关系。位于elasticsearch模块下的资源文件目录下的es文件夹下，默认有3个文件。为了方便演示，先删除了两个文件。
然后在ES中创建相应的mapping结构，用于将数据库数据同步到ES中。
完成上述步骤后，即可启动canal-adapter本地项目。
问题二：关于常见的报错信息
canal-adapter在使用过程中，通常会遇到很多报错。以下逐一为大家解答：
采坑点之一：在本地运行前一定先在maven的怎么编写iapp源码root模块下安装，安装完毕后再运行CanalAdapterApplication启动类。
如果没有先安装直接运行，会出现报错，提示找不到OuterAdapter类的实现类。
通过报错信息可以发现，当前提示是ESAdapter这个类找不到。根据抛出异常代码所在行通过源码打断点进一步排查，发现找不到target目录下的plugin目录下面的jar包。
有两种方式可以解决这个问题，第一种是在canal-adapter项目的launcher模块下的main方法下面新建文件夹canal-adapter/plugin，将编译后的es的jar包放进去，然后修改源码中关于本地文件加载的zblog资源源码路径。
另外一种方法就是，运行前还是先使用maven的install安装一下。
采坑点之二：报错信息Config dir not found
在本地调试过程中，发现有报错Config dir not found。通过报错行打断点进一步排查，发现是项目启动完毕后在执行数据初始化阶段没有找到配置文件所导致的异常。
这个问题也比较好解决，我们可以在canal-adapter的launcher模块的配置文件中新建一个叫es的文件夹，把elasticsearch模块下的es文件夹拷贝过来，即可解决这个问题。
采坑点之三：报错Elasticsearch exception [type=index_not_found_exception, reason=no such index [XXXX]]
这个问题，大家可以检查一下ES里面对应的索引名称是否存在，索引的mapping结构是否已经创建；当然，可能还有其他情况下导致出现这个问题，暂时没有遇到。
采坑点之四：报错Not found the mapping info of index: XXX
这个问题从报错信息来看，总感觉像是ES中索引的Mapping结构没有创建好。我用多种方式进行mapping结构的创建，可一直报错。
根据报错堆栈信息，通过打断点的方式进一步排查，我们会看到在ESConnection类的行有这样一些被注释了的代码。
这也正是canal-adapter1.1.4为什么不支持ES7以上的版本了。我们只需要将这些被注释的代码打开即可解决这个问题。
通过上述代码的改造，我们可以对改完后的内容进行测试，全量同步数据和增量同步数据。
canal-adapter为我们提供了全量同步数据的接口，我们在canal-adapter的launcher模块的com.alibaba.otter.canal.adapter.launcher.rest目录下可以看到有一个类叫做CommonRest，其里面提供全量同步数据的方法和条件同步数据的方法。
直接使用postman发送如下请求即可完成数据的全量同步，效果如下，同时，如果数据库当前表的数据发生变更，canal-adapter也能及时监听到并同步到ES中。
关于canal-adapter配置文件的，大家可以参考一下官网文档：github.com/alibaba/cana...
另外还有一个网上经常提到的name: es6和es7，通过观察源码，在adapter1.1.4版本中，直接使用es即可。
如上，canal-adapter1.1.4在本地运行起来了，并且全量同步数据和增量同步数据都已触发并生效。
通过kibana也可以查询到对应的数据了。
最后，这个项目在本地编译后在target目录下会生成一个canal-adapter的文件夹，这个文件夹可以拷贝出来直接运行。
在windos和linux都可以运行。我这边编译后，在本地直接运行bat文件，程序正常并且可以正常全量同步数据和增量同步数据。
不过遇到很奇怪的一个问题，将编译后的文件放在linux系统运行，则会不同的刷错误日志如下。
暂时还未解决当前问题。不过我这边在目前的实际应用场景中，使用不到adapter，因为它的使用场景比较有效，对数据有较高的要求。
这个问题在github上提了issues。
地址：canal-adapter在本地环境可正常运行，编译后在服务器上运行出错；· Issue # · alibaba/canal