基于Quartz的调度系统 - Marble

简介: 实际项目中需要用到JOB的场景非常多,通常需要JOB的业务都需要如下基本功能: 1)集群环境单实例调度; 2)JOB可视化启停; 3)JOB频率可视化配置; 单应用使用JOB开发适配的需求的调度功能过滤繁琐,开销太大,考虑提供统一的调度系统对外提供JOB的调度服务。

目录

摘要: 实际项目中需要用到JOB的场景非常多,通常需要JOB的业务都需要如下基本功能:
1)集群环境单实例调度;
2)JOB可视化启停;
3)JOB频率可视化配置;
单应用使用JOB开发适配的需求的调度功能过滤繁琐,开销太大,考虑提供统一的调度系统对外提供JOB的调度服务。

Marble简介

Marble是一款基于Quartz的计划任务调度系统,提供基本的任务定时调度功能。Marble包含两部分:

  • 1)Marble OFFLINE: 一套可视化的JOB配置系统。包含JOB的启停、频率配置、调度日志查看等功能;
  • 2)Marble AGENT:以Jar包形式整合进接入Marble的第三方应用,透明化Job的调度过程;详情见<< Marble使用>>章节

OFFLINE>>

为了可视化管理JOB,提供一个前端基于Bootstrap, 后端采用SpringMVC + MyBatis + MySql结构的控制台。提供基本的JOB的增删改查,启动/暂停等操作。

Marble部署图如下:
marble_deployment__diagram

目前版本Marble提供的功能如下:

  • 基本JOB管理(增删改查、暂停/启动);
  • JOB执行参数传递的支持;
  • 同步JOB和异步JOB支持;
  • CRON表达式生成控件;
  • 多种Misfire策略配置;
  • 集群环境部署(不重复执行);
  • 集群的软负载均衡;
  • Spring整合;

Marble使用

接入Marble步骤

服务端=>

  1. 引入相关Jar包(Netty等)
  2. 定义Job的具体实现类(Spring中的Bean)
  3. Spring中配置Job的实现类

OFFLINE端=>

  1. 配置对应应用和Job信息(配合权限管理)

接入Marble - 服务端

  1. 引入相关Jar包(以Maven为例)

    注:依赖marble-agent包(自己通过源代码的marble-server模块生成)和Thrift包
<!-- Marble相关 -->
  <dependency>
    <groupId>com.github.jxdong</groupId>
    <artifactId>marble-agent</artifactId>
    <version>1.0.1</version>
</dependency>
<!-- Netty相关 -->
<dependency>
    <groupId>io.netty</groupId>
    <artifactId>netty-all</artifactId>
    <version>4.0.4.Final</version>
</dependency>

2.定义Job具体实现类

定义java类继承父类MarbleJob,覆盖方法execute (当Job被调用时会执行execute下的内容)。

//异步JOB
@Component
public class TestMarbleJob1 extends MarbleJob {
    private Logger logger = LoggerFactory.getLogger(TestMarbleJob1.class);
    @Override
    public void execute(String param) {
        logger.info(" 异步 JOB1 执行正常: {}", param);
    }
}
//同步JOB
@Component
public class TestSyncMarbleJob1 extends MarbleJob {
    private Logger logger = LoggerFactory.getLogger(TestSyncMarbleJob1.class);
 
    @Override
    public Result executeSync(String param) {
        logger.info(" 同步 JOB1(3S) 执行正常: {}", param);
        try {
            Thread.sleep(3000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        return Result.SUCCESS();
    }
}
  1. Spring中添加Job配置

marble框架中已经自定义了Spring标签方便直接配置。
示例配置如下:

<marble:scheduler id="Scheduler001" port="9091" appCode="8890">
    <marble:job name="Job1" description="jobDescription1" ref="testMarbleJob1"/>
    <marble:job name="Job2" description="jobDescription2" ref="testSyncMarbleJob1"/>
</marble:scheduler>

配置解释:

配置了一个名称为Scheduler001的计划任务(job组),在9091端口上暴露服务。

Scheduler001下包含了两个Job:job1和job2.

Job1的实现类是 Spring bean - testMarbleJob1

Job2的实现类是Spring Bean – testSyncMarbleJob1

Marble标签详解:

<marble:scheduler/>: 计划任务配置。一个应用可以配置多个计划任务,每个计划任务暴露在一个IP的端口下,一个计划任务中可以包含多个Job。

属性 是否必填 描述
id 必填 ID属性,英文+数字的组合来定义该计划任务的唯一标识。
host 非必填 所在服务器的IP地址。指定后Marble会尝试将服务暴露在该IP下。不是必填项。由于集群,建议该字段不填,Marble默认会自动获取;
port 必填 计划任务暴露的端口号。指明该计划任务暴露在机器的哪个端口下,Marble随Spring启动后会尝试打开本机的该端口并暴露服务。
appCode (必填) 所在应用的APPID。为了在同一台机器上区别不同的应用,以免调用时混淆。

<marble:job/>: 计划任务下的job的配置。指明具体任务的别名以及实现类。

属性 是否必填 描述
name 必填 给当前Job起的别名,在所属的scheduler下必须唯一。
description 非必填 ob的描述信息,仅用来便于开发者自己识别,非必填。
ref 必填 Job的具体实现类,必须指向存在的一个Spring Bean。值为bean的name。且该bean必须继承自MarbleJob并覆盖execute方法。Job被调用时会执行execute方法,因此执行逻辑要写在execute中。

接入Marble - OFFLINE端

1、添加相关应用

marble_offline_addapp

  • 应用Code:唯一的APPID
  • 应用name:应用name必须与server端中标签的appCode属性值一致
  • 应用描述
  • 应用拥有者:输入员工号
  • Marble版本号:2.0.0开始支持Netty

2、应用下添加运行的服务器(可添加多台)

marble_offline_addserver

  • 服务器组:默认DEFAULT
  • 服务器name:组内唯一
  • 服务器描述

3、应用下添加Scheduler

marble_offline_addSched

  • Scheduler名称:唯一Scheduler
  • Scheduler 描述
  • 服务器相关信息(点击选中输入打开的端口号)

4、Scheduler下添加多个Job

marble_offline_addjob

  • Job名称:唯一job
  • job 描述
  • Cron表达式: 通过控件选择(具体含义,请 自行百度Cron表达式)
  • Misfire策略选择(目前提供三种方式)
  • Job执行参数:String类型

Marble原理介绍

Marble的核心其实有两个部分:

  • 1)Job的调度;
  • 2)与服务端的通讯;

Marble的job调度使用了Quartz – 一款流行的开源作业调度框架。

与Job服务端的通讯使用了Apache Thrift / Netty(2.0.0开始) - 一款开源的高效RPC框架。

Marble在两个开源框架基础上做了必要的封装和针对公司使用的定制化修改。

Marble实现原理 - 一次JOB调度过程

调度服务与job服务交互:

  1. 服务端(Job执行服务器)随spring启动打开Socket端口;
  2. OFFLINE配置执行频率后,到达job执行时间,通过SOCKET与job服务器建立连接;
  3. 调用job服务器的execute方法(不等待返回),关闭本次socket连接;

marble_job_dispatch

Marble实现原理 - 集群支持

TODO

Marble实现原理 - Misfire策略

存在的问题 + 后续计划

  • 由于集群依赖于DB,如果大量JOB管理会造成DB的资源竞争加剧,从而引发JOB的misfire;
  • 更多功能等待添加,比如:监控,报警,分析等;
  • JOB的执行是单机不能发挥集群的优势;
  • 准备接入zookeeper,摒弃手动配置服务器,采用自发现,自维护;
  • ...

TODO

github第一版代码: https://github.com/jeff-dong/marble

关于作者

Java菜鸟。联系方式djx_19881022@163.com or dongjianxing@aliyun.com

目录
相关文章
|
30天前
|
负载均衡 Java 调度
xxl-job与其他调度框架比较与部署
xxl-job与其他调度框架比较与部署
xxl-job与其他调度框架比较与部署
|
6月前
|
Kubernetes 算法 调度
|
Java 调度 Spring
【小家Spring】Spring任务调度核心接口(类)之---TaskScheduler(任务调度器)、Trigger(触发器)、ScheduledTask(调度任务)详解(下)
【小家Spring】Spring任务调度核心接口(类)之---TaskScheduler(任务调度器)、Trigger(触发器)、ScheduledTask(调度任务)详解(下)
|
Java 调度 Spring
【小家Spring】Spring任务调度核心接口(类)之---TaskScheduler(任务调度器)、Trigger(触发器)、ScheduledTask(调度任务)详解(上)
【小家Spring】Spring任务调度核心接口(类)之---TaskScheduler(任务调度器)、Trigger(触发器)、ScheduledTask(调度任务)详解(上)
【小家Spring】Spring任务调度核心接口(类)之---TaskScheduler(任务调度器)、Trigger(触发器)、ScheduledTask(调度任务)详解(上)
调度介绍 - Quartz
众所周知,Quartz作为知名的企业级调度框架,提供了丰富的特性。本文通过一个简单的示例,介绍下quartz在springboot的应用和quartz部分基本概念,并展示了quartz调度作业的基本过程。
调度介绍 - Quartz
|
机器学习/深度学习 人工智能 Kubernetes
进击的 Kubernetes 调度系统(二):支持批任务的 Coscheduling/Gang scheduling
阿里云容器服务团队结合多年 Kubernetes 产品与客户支持经验,对 Kube-scheduler 进行了大量优化和扩展,逐步使其在不同场景下依然能稳定、高效地调度各种类型的复杂工作负载。《进击的 Kubernetes 调度系统》系列文章将把我们的经验、技术思考和实现细节全面地展现给 Kubernetes 用户和开发者,期望帮助大家更好地了解 Kubernetes 调度系统的强大能力和未来发展方向。本文为该系列文章的第二篇。
进击的 Kubernetes 调度系统(二):支持批任务的 Coscheduling/Gang scheduling
|
机器学习/深度学习 缓存 Kubernetes
进击的Kubernetes调度系统(一):Scheduling Framework
阿里云容器服务团队结合多年Kubernetes产品与客户支持经验,对Kube-scheduler进行了大量优化和扩展,逐步使其在不同场景下依然能稳定、高效地调度各种类型的复杂工作负载。 《进击的Kubernetes调度系统》系列文章将把我们的经验、技术思考和实现细节全面地展现给Kubernetes用户和开发者,期望帮助大家更好地了解Kubernetes调度系统的强大能力和未来发展方向。
7299 0
|
机器学习/深度学习 Kubernetes TensorFlow
进击的Kubernetes调度系统(二):支持批任务的Coscheduling/Gang scheduling
阿里云容器服务团队结合多年Kubernetes产品与客户支持经验,对Kube-scheduler进行了大量优化和扩展,逐步使其在不同场景下依然能稳定、高效地调度各种类型的复杂工作负载。 《进击的Kubernetes调度系统》系列文章将把我们的经验、技术思考和实现细节全面地展现给Kubernetes用户和开发者,期望帮助大家更好地了解Kubernetes调度系统的强大能力和未来发展方向。
6367 0
|
Web App开发 SQL 调度
分布式工作流任务调度系统--Easy Scheduler 1.0.3 发布
Easy Scheduler Release 1.0.3 Easy Scheduler 1.0.3是1.x系列中的第四个版本。 新特性: [EasyScheduler-254] 流程定义删除和批量删除 [EasyScheduler-347] 任务依赖增加“今日” [EasySchedule.
2191 0
|
分布式计算 资源调度 Hadoop
都是default惹的祸-yarn调度(一)-fair调度器drf调度策略作业不执行问题的调查和源码分析
问题背景 yarn的fair类型资源池,是企业级hadoop用户常用的资源池类型。该资源池默认的队列调度策略是fair,即分配资源时只考虑内存限制。 对一个多个团队混合使用的大集群来说,如果想要在分配资源时同时考虑内存和cpu限制,需要指定调度策略为drf。
3919 0