当前位置: 首页 > Linux

分布式任务调度平台自动化部署

时间:2023-04-06 19:23:07 Linux

一、概述1、自动化部署可以简化开发过程的代码管理,让开发者把更多的时间花在业务实现上,简化繁琐的线上流程和操作步骤,实现快速项目的打包和部署减少了人为错误。2、分布式任务调度平台XXL-JOB:由美团点评徐雪丽开发。其核心设计目标是快速开发、易学、轻量、易扩展。现已开放源码,接入多家公司线上产品线,开箱即用。源码地址:https://github.com/xuxueli/xxl-job2.本文介绍主要是使用成熟的CI部署工具Jenkins,结合开源分布式任务调度框架xxl-job作为demoproject,快速构建自己的连续集成项目,其他项目可类似构建。三、Jenkins部署与配置一、安装1.1使用特定版本的安装包进行安装安装包下载页面:https://pkg.jenkins.io/redhat-stable/(注意:安装包会出现一些问题安装版本匹配jdk版本,一般CentOS6.5安装版本jenkins-2.7.4-1.1.noarch.rpm即可)1.2.安装最新版本:按照文档操作不会有问题:https://jenkins.io/doc/book/getting-started/installing/#unix-linux1.3,启停sudoservicejenkinsstart/stop/restartsudochkconfigjenkinson2,全局配置2.1全局配置:点击系统管理,进入GlobalToolConfiguration2.2配置公共环境变量注意:所有配置都需要配置在全局环境变量中,这样系统的所有用户都可以访问。比如maven不能配置在特定的用户目录下,否则jenkins用户将无法执行mvn命令而报错。jdk:git:maven:3.项目配置3.1.新建一个项目,点击新建,创建一个自由风格的软件项目。3.2.项目源码配置(使用git管理):首先需要安装插件:在插件中找到这个,之后直接安装地址3.构建触发配置远程构建脚本4.构建环境配置部分脚本5.构建和配置构建工具,如maven打包、上传war包、执行tomcat服务启动脚本等6.构建后操作发布、构建后邮件发送等操作4.1、介绍和配置4.2、配置项目源码地址和访问密码4.3、配置Credentials4.4、构建环境4.5、构建配置构建命令(这里的maven是在前面的全局环境变量中配置的)添加构建后操作(需要安装之前的远程ssh插件)4.6。配置构建后操作其中:TransferSetSourcefiles:表示要上传的本地war包和路径,可以去工作区查看Removeprefix:表示上传时要移除的文件夹,即只上传warpackageremotedriectory:表示执行时的路径,相当于在这里上传war包execcommad:要执行的命令,这里可以重命名jar包,启动tomcat服务器7.构建后操作:8.回到配置主页,开始搭建。9.进入构建控制台查看构建日志。如果有错误,可以直接查看。4、xxl-job介绍项目地址:https://github.com/xuxueli/xxl-job概述:XXL-JOB是一个轻量级的分布式任务调度框架。其核心设计目标是快速开发、易学、轻量、易扩展。现已开放源码,接入多家公司线上产品线,开箱即用。特点:-1.简单:支持通过网页对任务进行CRUD操作,操作简单,一分钟上手;-2.动态:支持动态修改任务状态,暂停/恢复任务,终止任务正在运行的任务,立即生效;-3.调度中心HA(Central):调度采用中心化设计。“调度中心”基于集群Quartz实现,可以保证调度中心HA;服务器”支持集群部署,可以保证任务执行HA;-5.TaskFailover:执行器集群部署时,如果任务路由策略选择“failover”调度失败,会平滑切换执行器进行Failover;-6.性能一致性:“调度中心”通过DB锁保证集群分布式调度的一致性,一次任务调度只会触发一次执行;-7.自定义任务参数:支持在线配置调度任务入参,将立即生效;-8.调度线程池:调度系统以多线程触发调度操作,保证调度准确执行,不被阻塞;-9.灵活扩缩容:一旦有新的执行机上线或下线,任务会在下次调度时重新分配;-10.邮件告警:支持任务失败邮件告警,支持配置多个邮件地址发送告警邮件;-11.状态监控:支持实时监控任务进度;-12.滚动执行日志:支持在线查看调度结果,支持Rolling实时查看执行者输出的完整执行日志;-13.GLUE:提供WebIDE,支持在线开发任务逻辑代码,动态发布,实时编译生效,省略部署上线过程。支持回溯30个历史版本。-14、数据加密:调度中心与执行者之间的通信加密,提高调度信息的安全性;-15.任务依赖:支持配置子任务依赖,当父任务执行完成并执行成功时自动触发执行一个子任务,多个子任务用逗号分隔;-16.推送maven中央仓库:最新的稳定版会推送到maven中央仓库,方便用户访问和使用;-17.任务注册:执行器会定时自动注册任务,调度中心会自动发现注册的任务并触发执行。同时也支持手动录入执行者地址;-18、路由策略:执行器集群部署时提供了丰富的路由策略,包括:first、last、polling、random、consistentHASH、leastfrequencyused、Notusedrecently、failover;-19、运行报表:支持实时查看运行数据,如任务数、调度次数、执行人数等;调度报表,如调度日期分布图、调度成功分布图等;-20、脚本任务:支持以GLUE方式开发运行脚本任务,包括Shell、Python等类型的脚本;-21、阻塞处理策略:调度过于密集,执行者来不及执行时的处理策略过程。策略包括:单机串行(默认),丢弃后续调度,覆盖之前的调度;-22.故障处理策略;调度失败时的处理策略,策略包括:失败告警(默认),失败重试;

猜你喜欢