更新RM
This commit is contained in:
xuxueli
parent
f587f10e32
commit
0d808d857d
46
README.md
46
README.md
|
|
@ -47,29 +47,30 @@ XXL-JOB是一个轻量级分布式任务调度框架，其核心设计目标是
|
||||||
## Features
|
## Features
|
||||||
- 1、简单：支持通过Web页面对任务进行CRUD操作，操作简单，一分钟上手；
|
- 1、简单：支持通过Web页面对任务进行CRUD操作，操作简单，一分钟上手；
|
||||||
- 2、动态：支持动态修改任务状态、暂停/恢复任务，以及终止运行中任务，即时生效；
|
- 2、动态：支持动态修改任务状态、暂停/恢复任务，以及终止运行中任务，即时生效；
|
||||||
- 3、调度中心HA（中心式）：调度采用中心式设计，“调度中心”基于集群Quartz实现，可保证调度中心HA；
|
- 3、调度中心HA（中心式）：调度采用中心式设计，“调度中心”基于集群Quartz实现并支持集群部署，可保证调度中心HA；
|
||||||
- 4、执行器HA（分布式）：任务分布式执行，任务"执行器"支持集群部署，可保证任务执行HA；
|
- 4、执行器HA（分布式）：任务分布式执行，任务"执行器"支持集群部署，可保证任务执行HA；
|
||||||
- 5、任务Failover：执行器集群部署时，任务路由策略选择"故障转移"情况下调度失败时将会平滑切换执行器进行Failover；
|
- 5、注册中心: 执行器会周期性自动注册任务, 调度中心将会自动发现注册的任务并触发执行。同时，也支持手动录入执行器地址；
|
||||||
- 6、一致性：“调度中心”通过DB锁保证集群分布式调度的一致性, 一次任务调度只会触发一次执行；
|
- 6、弹性扩容缩容：一旦有新执行器机器上线或者下线，下次调度时将会重新分配任务；
|
||||||
- 7、自定义任务参数：支持在线配置调度任务入参，即时生效；
|
- 7、路由策略：执行器集群部署时提供丰富的路由策略，包括：第一个、最后一个、轮询、随机、一致性HASH、最不经常使用、最近最久未使用、故障转移、忙碌转移等；
|
||||||
- 8、调度线程池：调度系统多线程触发调度运行，确保调度精确执行，不被堵塞；
|
- 8、故障转移：任务路由策略选择"故障转移"情况下，如果执行器集群中某一台机器故障，将会自动Failover切换到一台正常的执行器发送调度请求。
|
||||||
- 9、弹性扩容缩容：一旦有新执行器机器上线或者下线，下次调度时将会重新分配任务；
|
- 9、失败处理策略；调度失败时的处理策略，策略包括：失败告警（默认）、失败重试；
|
||||||
- 10、邮件报警：任务失败时支持邮件报警，支持配置多邮件地址群发报警邮件；
|
- 10、失败重试：调度中心调度失败且启用"失败重试"策略时，将会自动重试一次；执行器执行失败且回调失败重试状态时，也将会自动重试一次；
|
||||||
- 11、状态监控：支持实时监控任务进度；
|
- 11、阻塞处理策略：调度过于密集执行器来不及处理时的处理策略，策略包括：单机串行（默认）、丢弃后续调度、覆盖之前调度；
|
||||||
- 12、Rolling执行日志：支持在线查看调度结果，并且支持以Rolling方式实时查看执行器输出的完整的执行日志；
|
- 12、分片广播任务：执行器集群部署时，任务路由策略选择"分片广播"情况下，一次任务调度将会广播触发集群中所有执行器执行一次任务，可根据分片参数开发分片任务；
|
||||||
- 13、GLUE：提供Web IDE，支持在线开发任务逻辑代码，动态发布，实时编译生效，省略部署上线的过程。支持30个版本的历史版本回溯。
|
- 13、动态分片：分片广播任务以执行器为维度进行分片，支持动态扩容执行器集群从而动态增加分片数量，协同进行业务处理；在进行大数据量业务操作时可显著提升任务处理能力和速度。
|
||||||
- 14、数据加密：调度中心和执行器之间的通讯进行数据加密，提升调度信息安全性；
|
- 14、事件触发：除了"Cron方式"和"任务依赖方式"触发任务执行之外，支持基于事件的触发任务方式。调度中心提供触发任务单次执行的API服务，可根据业务事件灵活触发。
|
||||||
- 15、任务依赖：支持配置子任务依赖，当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔；
|
- 15、任务进度监控：支持实时监控任务进度；
|
||||||
- 16、推送maven中央仓库: 将会把最新稳定版推送到maven中央仓库, 方便用户接入和使用;
|
- 16、Rolling实时日志：支持在线查看调度结果，并且支持以Rolling方式实时查看执行器输出的完整的执行日志；
|
||||||
- 17、任务注册: 执行器会周期性自动注册任务, 调度中心将会自动发现注册的任务并触发执行。同时，也支持手动录入执行器地址；
|
- 17、GLUE：提供Web IDE，支持在线开发任务逻辑代码，动态发布，实时编译生效，省略部署上线的过程。支持30个版本的历史版本回溯。
|
||||||
- 18、路由策略：执行器集群部署时提供丰富的路由策略，包括：第一个、最后一个、轮询、随机、一致性HASH、最不经常使用、最近最久未使用、故障转移、忙碌转移等；
|
- 18、脚本任务：支持以GLUE模式开发和运行脚本任务，包括Shell、Python、NodeJS等类型脚本;
|
||||||
- 19、运行报表：支持实时查看运行数据，如任务数量、调度次数、执行器数量等；以及调度报表，如调度日期分布图，调度成功分布图等；
|
- 19、任务依赖：支持配置子任务依赖，当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔；
|
||||||
- 20、脚本任务：支持以GLUE模式开发和运行脚本任务，包括Shell、Python等类型脚本;
|
- 20、一致性：“调度中心”通过DB锁保证集群分布式调度的一致性, 一次任务调度只会触发一次执行；
|
||||||
- 21、阻塞处理策略：调度过于密集执行器来不及处理时的处理策略，策略包括：单机串行（默认）、丢弃后续调度、覆盖之前调度；
|
- 21、自定义任务参数：支持在线配置调度任务入参，即时生效；
|
||||||
- 22、失败处理策略；调度失败时的处理策略，策略包括：失败告警（默认）、失败重试；
|
- 22、调度线程池：调度系统多线程触发调度运行，确保调度精确执行，不被堵塞；
|
||||||
- 23、分片广播任务：执行器集群部署时，任务路由策略选择"分片广播"情况下，一次任务调度将会广播触发对应集群中所有执行器执行一次任务，同时传递分片参数；可根据分片参数开发分片任务；
|
- 23、数据加密：调度中心和执行器之间的通讯进行数据加密，提升调度信息安全性；
|
||||||
- 24、动态分片：分片广播任务以执行器为维度进行分片，支持动态扩容执行器集群从而动态增加分片数量，协同进行业务处理；在进行大数据量业务操作时可显著提升任务处理能力和速度。
|
- 24、邮件报警：任务失败时支持邮件报警，支持配置多邮件地址群发报警邮件；
|
||||||
- 25、事件触发：除了"Cron方式"和"任务依赖方式"触发任务执行之外，支持基于事件的触发任务方式。调度中心提供触发任务单次执行的API服务，可根据业务事件灵活触发。
|
- 25、推送maven中央仓库: 将会把最新稳定版推送到maven中央仓库, 方便用户接入和使用;
|
||||||
|
- 26、运行报表：支持实时查看运行数据，如任务数量、调度次数、执行器数量等；以及调度报表，如调度日期分布图，调度成功分布图等；
|
||||||
|
|
||||||
|
|
||||||
## Development
|
## Development
|
||||||
|
|
@ -148,6 +149,7 @@ XXL-JOB是一个轻量级分布式任务调度框架，其核心设计目标是
|
||||||
- 56、凯京集团
|
- 56、凯京集团
|
||||||
- 57、华夏票联（北京）科技有限公司
|
- 57、华夏票联（北京）科技有限公司
|
||||||
- 58、拍拍贷
|
- 58、拍拍贷
|
||||||
|
- 59、北京尚德机构在线教育有限公司
|
||||||
- ……
|
- ……
|
||||||
|
|
||||||
> 更多接入的公司，欢迎在 [登记地址](https://github.com/xuxueli/xxl-job/issues/1 ) 登记，登记仅仅为了产品推广。
|
> 更多接入的公司，欢迎在 [登记地址](https://github.com/xuxueli/xxl-job/issues/1 ) 登记，登记仅仅为了产品推广。
|
||||||
|
|
|
||||||
|
|
@ -16,29 +16,30 @@ XXL-JOB是一个轻量级分布式任务调度框架，其核心设计目标是
|
||||||
### 1.2 特性
|
### 1.2 特性
|
||||||
- 1、简单：支持通过Web页面对任务进行CRUD操作，操作简单，一分钟上手；
|
- 1、简单：支持通过Web页面对任务进行CRUD操作，操作简单，一分钟上手；
|
||||||
- 2、动态：支持动态修改任务状态、暂停/恢复任务，以及终止运行中任务，即时生效；
|
- 2、动态：支持动态修改任务状态、暂停/恢复任务，以及终止运行中任务，即时生效；
|
||||||
- 3、调度中心HA（中心式）：调度采用中心式设计，“调度中心”基于集群Quartz实现，可保证调度中心HA；
|
- 3、调度中心HA（中心式）：调度采用中心式设计，“调度中心”基于集群Quartz实现并支持集群部署，可保证调度中心HA；
|
||||||
- 4、执行器HA（分布式）：任务分布式执行，任务"执行器"支持集群部署，可保证任务执行HA；
|
- 4、执行器HA（分布式）：任务分布式执行，任务"执行器"支持集群部署，可保证任务执行HA；
|
||||||
- 5、任务Failover：执行器集群部署时，任务路由策略选择"故障转移"情况下调度失败时将会平滑切换执行器进行Failover；
|
- 5、注册中心: 执行器会周期性自动注册任务, 调度中心将会自动发现注册的任务并触发执行。同时，也支持手动录入执行器地址；
|
||||||
- 6、一致性：“调度中心”通过DB锁保证集群分布式调度的一致性, 一次任务调度只会触发一次执行；
|
- 6、弹性扩容缩容：一旦有新执行器机器上线或者下线，下次调度时将会重新分配任务；
|
||||||
- 7、自定义任务参数：支持在线配置调度任务入参，即时生效；
|
- 7、路由策略：执行器集群部署时提供丰富的路由策略，包括：第一个、最后一个、轮询、随机、一致性HASH、最不经常使用、最近最久未使用、故障转移、忙碌转移等；
|
||||||
- 8、调度线程池：调度系统多线程触发调度运行，确保调度精确执行，不被堵塞；
|
- 8、故障转移：任务路由策略选择"故障转移"情况下，如果执行器集群中某一台机器故障，将会自动Failover切换到一台正常的执行器发送调度请求。
|
||||||
- 9、弹性扩容缩容：一旦有新执行器机器上线或者下线，下次调度时将会重新分配任务；
|
- 9、失败处理策略；调度失败时的处理策略，策略包括：失败告警（默认）、失败重试；
|
||||||
- 10、邮件报警：任务失败时支持邮件报警，支持配置多邮件地址群发报警邮件；
|
- 10、失败重试：调度中心调度失败且启用"失败重试"策略时，将会自动重试一次；执行器执行失败且回调失败重试状态时，也将会自动重试一次；
|
||||||
- 11、状态监控：支持实时监控任务进度；
|
- 11、阻塞处理策略：调度过于密集执行器来不及处理时的处理策略，策略包括：单机串行（默认）、丢弃后续调度、覆盖之前调度；
|
||||||
- 12、Rolling执行日志：支持在线查看调度结果，并且支持以Rolling方式实时查看执行器输出的完整的执行日志；
|
- 12、分片广播任务：执行器集群部署时，任务路由策略选择"分片广播"情况下，一次任务调度将会广播触发集群中所有执行器执行一次任务，可根据分片参数开发分片任务；
|
||||||
- 13、GLUE：提供Web IDE，支持在线开发任务逻辑代码，动态发布，实时编译生效，省略部署上线的过程。支持30个版本的历史版本回溯。
|
- 13、动态分片：分片广播任务以执行器为维度进行分片，支持动态扩容执行器集群从而动态增加分片数量，协同进行业务处理；在进行大数据量业务操作时可显著提升任务处理能力和速度。
|
||||||
- 14、数据加密：调度中心和执行器之间的通讯进行数据加密，提升调度信息安全性；
|
- 14、事件触发：除了"Cron方式"和"任务依赖方式"触发任务执行之外，支持基于事件的触发任务方式。调度中心提供触发任务单次执行的API服务，可根据业务事件灵活触发。
|
||||||
- 15、任务依赖：支持配置子任务依赖，当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔；
|
- 15、任务进度监控：支持实时监控任务进度；
|
||||||
- 16、推送maven中央仓库: 将会把最新稳定版推送到maven中央仓库, 方便用户接入和使用;
|
- 16、Rolling实时日志：支持在线查看调度结果，并且支持以Rolling方式实时查看执行器输出的完整的执行日志；
|
||||||
- 17、任务注册: 执行器会周期性自动注册任务, 调度中心将会自动发现注册的任务并触发执行。同时，也支持手动录入执行器地址；
|
- 17、GLUE：提供Web IDE，支持在线开发任务逻辑代码，动态发布，实时编译生效，省略部署上线的过程。支持30个版本的历史版本回溯。
|
||||||
- 18、路由策略：执行器集群部署时提供丰富的路由策略，包括：第一个、最后一个、轮询、随机、一致性HASH、最不经常使用、最近最久未使用、故障转移、忙碌转移等；
|
- 18、脚本任务：支持以GLUE模式开发和运行脚本任务，包括Shell、Python、NodeJS等类型脚本;
|
||||||
- 19、运行报表：支持实时查看运行数据，如任务数量、调度次数、执行器数量等；以及调度报表，如调度日期分布图，调度成功分布图等；
|
- 19、任务依赖：支持配置子任务依赖，当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔；
|
||||||
- 20、脚本任务：支持以GLUE模式开发和运行脚本任务，包括Shell、Python等类型脚本;
|
- 20、一致性：“调度中心”通过DB锁保证集群分布式调度的一致性, 一次任务调度只会触发一次执行；
|
||||||
- 21、阻塞处理策略：调度过于密集执行器来不及处理时的处理策略，策略包括：单机串行（默认）、丢弃后续调度、覆盖之前调度；
|
- 21、自定义任务参数：支持在线配置调度任务入参，即时生效；
|
||||||
- 22、失败处理策略；调度失败时的处理策略，策略包括：失败告警（默认）、失败重试；
|
- 22、调度线程池：调度系统多线程触发调度运行，确保调度精确执行，不被堵塞；
|
||||||
- 23、分片广播任务：执行器集群部署时，任务路由策略选择"分片广播"情况下，一次任务调度将会广播触发集群中所有执行器执行一次任务，可根据分片参数开发分片任务；
|
- 23、数据加密：调度中心和执行器之间的通讯进行数据加密，提升调度信息安全性；
|
||||||
- 24、动态分片：分片广播任务以执行器为维度进行分片，支持动态扩容执行器集群从而动态增加分片数量，协同进行业务处理；在进行大数据量业务操作时可显著提升任务处理能力和速度。
|
- 24、邮件报警：任务失败时支持邮件报警，支持配置多邮件地址群发报警邮件；
|
||||||
- 25、事件触发：除了"Cron方式"和"任务依赖方式"触发任务执行之外，支持基于事件的触发任务方式。调度中心提供触发任务单次执行的API服务，可根据业务事件灵活触发。
|
- 25、推送maven中央仓库: 将会把最新稳定版推送到maven中央仓库, 方便用户接入和使用;
|
||||||
|
- 26、运行报表：支持实时查看运行数据，如任务数量、调度次数、执行器数量等；以及调度报表，如调度日期分布图，调度成功分布图等；
|
||||||
|
|
||||||
### 1.3 发展
|
### 1.3 发展
|
||||||
于2015年中，我在github上创建XXL-JOB项目仓库并提交第一个commit，随之进行系统结构设计，UI选型，交互设计……
|
于2015年中，我在github上创建XXL-JOB项目仓库并提交第一个commit，随之进行系统结构设计，UI选型，交互设计……
|
||||||
|
|
@ -116,6 +117,7 @@ XXL-JOB是一个轻量级分布式任务调度框架，其核心设计目标是
|
||||||
- 56、凯京集团
|
- 56、凯京集团
|
||||||
- 57、华夏票联（北京）科技有限公司
|
- 57、华夏票联（北京）科技有限公司
|
||||||
- 58、拍拍贷
|
- 58、拍拍贷
|
||||||
|
- 59、北京尚德机构在线教育有限公司
|
||||||
- ……
|
- ……
|
||||||
|
|
||||||
> 更多接入的公司，欢迎在 [登记地址](https://github.com/xuxueli/xxl-job/issues/1 ) 登记，登记仅仅为了产品推广。
|
> 更多接入的公司，欢迎在 [登记地址](https://github.com/xuxueli/xxl-job/issues/1 ) 登记，登记仅仅为了产品推广。
|
||||||
|
|
@ -374,8 +376,8 @@ XXL-JOB是一个轻量级分布式任务调度框架，其核心设计目标是
|
||||||
丢弃后续调度：调度请求进入单机执行器后，发现执行器存在运行的调度任务，本次请求将会被丢弃并标记为失败；
|
丢弃后续调度：调度请求进入单机执行器后，发现执行器存在运行的调度任务，本次请求将会被丢弃并标记为失败；
|
||||||
覆盖之前调度：调度请求进入单机执行器后，发现执行器存在运行的调度任务，将会终止运行中的调度任务并清空队列，然后运行本地调度任务；
|
覆盖之前调度：调度请求进入单机执行器后，发现执行器存在运行的调度任务，将会终止运行中的调度任务并清空队列，然后运行本地调度任务；
|
||||||
- 失败处理策略；调度失败时的处理策略；
|
- 失败处理策略；调度失败时的处理策略；
|
||||||
失败告警（默认）：调度失败时，将会触发失败报警，如发送报警邮件；
|
失败告警（默认）：调度失败和执行失败时，都将会触发失败报警，默认会发送报警邮件；
|
||||||
失败重试：调度失败时，将会主动进行一次失败重试调度，重试调度后仍然失败将会触发一失败告警。注意当任务以failover方式路由时，每次失败重试将会触发新一轮路由。
|
失败重试：调度失败时，除了进行失败告警之外，将会自动重试一次；注意在执行失败时不会重试，而是根据回调返回值判断是否重试；
|
||||||
- 执行参数：任务执行所需的参数，多个参数时用逗号分隔，任务执行时将会把多个参数转换成数组传入；
|
- 执行参数：任务执行所需的参数，多个参数时用逗号分隔，任务执行时将会把多个参数转换成数组传入；
|
||||||
- 报警邮件：任务调度失败时邮件通知的邮箱地址，支持配置多邮箱地址，配置多个邮箱地址时用逗号分隔；
|
- 报警邮件：任务调度失败时邮件通知的邮箱地址，支持配置多邮箱地址，配置多个邮箱地址时用逗号分隔；
|
||||||
- 负责人：任务的负责人；
|
- 负责人：任务的负责人；
|
||||||
|
|
@ -837,6 +839,15 @@ XXL-JOB会为每次调度请求生成一个单独的日志文件，需要通过
|
||||||
|
|
||||||
执行器API服务请求参考代码：com.xxl.executor.test.DemoJobHandlerTest
|
执行器API服务请求参考代码：com.xxl.executor.test.DemoJobHandlerTest
|
||||||
|
|
||||||
|
### 5.13 故障转移 & 失败重试
|
||||||
|
一次完整任务流程包括"调度（调度中心） + 执行（执行器）"两个阶段。
|
||||||
|
|
||||||
|
- "故障转移"发生在调度阶段，在执行器集群部署时，如果某一台执行器发生故障，该策略支持自动进行Failover切换到一台正常的执行器机器并且完成调度请求流程。
|
||||||
|
- "失败重试"发生在"调度 + 执行"两个阶段，如下：
|
||||||
|
- 调度中心调度失败时，任务失败处理策略选择"失败重试"，将会自动重试一次；
|
||||||
|
- 执行器运行失败时，任务执行结果返回"失败重试"回调，将会自动重试一次；
|
||||||
|
|
||||||
|
|
||||||
## 六、版本更新日志
|
## 六、版本更新日志
|
||||||
### 6.1 版本 V1.1.x，新特性[2015-12-05]
|
### 6.1 版本 V1.1.x，新特性[2015-12-05]
|
||||||
**【于V1.1.x版本，XXL-JOB正式应用于我司，内部定制别名为 “Ferrari”，新接入应用推荐使用最新版本】**
|
**【于V1.1.x版本，XXL-JOB正式应用于我司，内部定制别名为 “Ferrari”，新接入应用推荐使用最新版本】**
|
||||||
|
|
@ -1065,7 +1076,7 @@ Tips: 历史版本(V1.3.x)目前已经Release至稳定版本, 进入维护阶段
|
||||||
- 11、任务Cron长度扩展支持至128位；
|
- 11、任务Cron长度扩展支持至128位；
|
||||||
- 12、调度报表优化，支持时间区间筛选；
|
- 12、调度报表优化，支持时间区间筛选；
|
||||||
- 13、Log组件支持输出异常栈信息，底层实现优化；
|
- 13、Log组件支持输出异常栈信息，底层实现优化；
|
||||||
- 14、失败重试完整支持：任务流程分为调度和执行，之前仅支持调度失败的重试；目前支持执行失败的重试，通过任务返回值判断。
|
- 14、失败重试：调度失败且启用"失败重试"策略时，将会自动重试一次；执行失败且回调失败重试状态时，也将会自动重试一次；
|
||||||
|
|
||||||
### TODO LIST
|
### TODO LIST
|
||||||
- 1、任务权限管理：执行器为粒度分配权限，核心操作校验权限；
|
- 1、任务权限管理：执行器为粒度分配权限，核心操作校验权限；
|
||||||
|
|
|
||||||
Loading…
Reference in New Issue