[开源]全新一代分布式调度与计算框架,企业级分布式任务调度平台

开源系统流程管理
2026-06-28 03:09 0 次浏览 • 0 次下载 0KB
[开源]全新一代分布式调度与计算框架,企业级分布式任务调度平台

一、开源项目简介

PowerJob(原OhMyScheduler)是全新一代分布式调度与计算框架,能让您轻松完成作业的调度与繁杂任务的分布式计算。

新一代分布式任务调度与计算框架,支持CRON、API、固定频率、固定延迟等调度策略,提供工作流来编排任务解决依赖关系,使用简单,功能强大,文档齐全,欢迎各位接入使用!

二、开源协议

使用Apache-2.0开源协议

三、界面展示

四、功能概述

主要特性

  • 使用简单:提供前端Web界面,允许开发者可视化地完成调度任务的管理(增、删、改、查)、任务运行状态监控和运行日志查看等功能。
  • 定时策略完善:支持CRON表达式、固定频率、固定延迟和API四种定时调度策略。
  • 执行模式丰富:支持单机、广播、Map、MapReduce四种执行模式,其中Map/MapReduce处理器能使开发者寥寥数行代码便获得集群分布式计算的能力。
  • DAG工作流支持:支持在线配置任务依赖关系,可视化得对任务进行编排,同时还支持上下游任务间的数据传递
  • 执行器支持广泛:支持Spring Bean、内置/外置Java类、Shell、Python等处理器,应用范围广。
  • 运维便捷:支持在线日志功能,执行器产生的日志可以在前端控制台页面实时显示,降低debug成本,极大地提高开发效率。
  • 依赖精简:最小仅依赖关系型数据库(MySQL/Oracle/MS SQLServer...),扩展依赖为MongoDB(用于存储庞大的在线日志)。
  • 高可用&高性能:调度服务器经过精心设计,一改其他调度框架基于数据库锁的策略,实现了无锁化调度。部署多个调度服务器可以同时实现高可用和性能的提升(支持无限的水平扩展)。
  • 故障转移与恢复:任务执行失败后,可根据配置的重试策略完成重试,只要执行器集群有足够的计算节点,任务就能顺利完成。

适用场景

  • 有定时执行需求的业务场景:如每天凌晨全量同步数据、生成业务报表等。
  • 有需要全部机器一同执行的业务场景:如使用广播执行模式清理集群日志。
  • 有需要分布式处理的业务场景:比如需要更新一大批数据,单机执行耗时非常长,可以使用Map/MapReduce处理器完成任务的分发,调动整个集群加速计算。
  • 有需要延迟执行某些任务的业务场景:比如订单过期处理等。

设计目标

PowerJob 的设计目标为企业级的分布式任务调度平台,即成为公司内部的任务调度中间件。整个公司统一部署调度中心 powerjob-server,旗下所有业务线应用只需要依赖 powerjob-worker 即可接入调度中心获取任务调度与分布式计算能力。

五、技术选型

架构图(模块视图)

Server 启动流程分析

server 功能全景图,感谢 群友@大海 的贡献

Worker 启动流程分析

worker 功能全景图,感谢 群友@大海 的贡献

MapReduce 原理

同类产品对比



QuartZ

xxl-job

SchedulerX 2.0

PowerJob

定时类型

CRON

CRON

CRON、固定频率、固定延迟、OpenAPI

CRON、固定频率、固定延迟、OpenAPI

任务类型

内置Java

内置Java、GLUE Java、Shell、Python等脚本

内置Java、外置Java(FatJar)、Shell、Python等脚本

内置Java、外置Java(容器)、Shell、Python等脚本

分布式计算

无

静态分片

MapReduce动态分片

MapReduce动态分片

在线任务治理

不支持

支持

支持

支持

日志白屏化

不支持

支持

不支持

支持

调度方式及性能

基于数据库锁,有性能瓶颈

基于数据库锁,有性能瓶颈

不详

无锁化设计,性能强劲无上限

报警监控

无

邮件

短信

WebHook、邮件、钉钉与自定义扩展

系统依赖

JDBC支持的关系型数据库(MySQL、Oracle...)

MySQL

人民币

任意Spring Data Jpa支持的关系型数据库(MySQL、Oracle...)

DAG工作流

不支持

不支持

支持

支持

项目结构说明

本项目由主体项目(PowerJob)和前端项目(PowerJob-Console)构成,其中,PowerJob各模块说明如下:

├── LICENSE
├── powerjob-client // powerjob-client,普通Jar包,提供 OpenAPI
├── powerjob-common // 各组件的公共依赖,开发者无需感知
├── powerjob-server // powerjob-server,基于SpringBoot实现的调度服务器
├── powerjob-worker // powerjob-worker, 普通Jar包,接入powerjob-server的应用需要依赖该Jar包
├── powerjob-worker-agent // powerjob-agent,可执行Jar文件,可直接接入powerjob-server的代理应用
├── powerjob-worker-samples // 教程项目,包含了各种Java处理器的编写样例
├── powerjob-worker-spring-boot-starter // powerjob-worker 的 spring-boot-starter ,spring boot 应用可以通用引入该依赖一键接入 powerjob-server
├── powerjob-official-processors // 官方处理器,包含一系列常用的 Processor,依赖该 jar 包即可使用
├── others
└── pom.xml