当前位置: 首页 > 后端技术 > Java

ETL工具如何实现高可用?ETL工具高可用解决方案

时间:2023-04-01 19:58:46 Java

高可用和高并发需求一直是大家关注的话题。下面以etl-engine为例,说明ETL工具如何实现高可用。使用场景为解决高可用场景,etl-crontab提供向consul注册服务,第三方系统可以通过consul的服务发现获取etl-crontab提供的服务地址。前提条件由于etl-engine和etl-crontab涉及的配置文件都是以XML文件的形式存储的,所以需要将以上两个配置文件存放在数据中心的共享目录下,以及该目录的读写权限应该被etl-engine和etl-crontab使用。etl-engine和etl-crontab都可以运行多个实例。etl-crontab启动后,会自动向consul注册服务,供第三方系统使用。文件服务器Windows是目录服务器,共享文件目录到LinuxWindows配置目录共享,Linux配置CIFS服务Linux文件路径示例/sharedir/sample.grfWindows是目录服务器,共享文件目录到WindowsWindows配置目录共享Windows文件路径示例//192.168.31.19/sharedir/sample.grfLinux为目录服务器,共享文件目录为WindowLinux配置samba服务,实现目录共享Windows文件路径示例//192.168.31.19/sharedir/sample.grfLinux为目录服务器,共享文件directories配置NFSforLinuxLinux服务实现目录共享Linux文件路径Sample/sharedir/sample.grf以上方案根据实际使用场景进行配置。consulservicehttps://developer.hashicorp.c...部署架构参考资源下载etl-engine使用手册etl-crontab使用手册嵌入式脚本开发