您所在的位置:下载吧  >  软件下载  >  其他软件  >  程序源码 > PowerJob(任务调度计算框架)

PowerJob(任务调度计算框架) v3.4.6 官方版

  • 软件大小:2.3 MB
  • 软件语言:英文
  • 更新时间:2024-05-25
  • 授   权:免费软件
  • 适用平台:WinAll
  • 推荐度: 6
无病毒官方版绿色版
点击查看大图
软件介绍

  PowerJob 是一款功能非常强大专业的新一代分布式任务调度与计算框架,该框架的设计目标为企业级的分布式任务调度平台,即成为公司内部的调度中间件,支持CRON、API、固定频率、固定延迟等调度策略,提供工作流来编排任务解决依赖关系,可以说是整个公司统一部署调度中心;PowerJob 这款分布式任务调度与计算框架界面简洁直观、操作简单便捷,功能强大、文档齐全,旗下所有业务线的应用只需要依赖powerjob-worker即可接入获取任务调度与分布式计算能力,通过不同的appName相互隔离、互不影响。

PowerJob(任务调度计算框架)

软件功能

  定时调度 精准而优雅

  PowerJob内置了CRON 表达式、固定频率和固定延迟 3 种最常用的定时策略,同时提供 OpenAPI 作为扩展能力。

  用户可以通过 OpenAPI 轻松定制自己的调度策略,扩展 PowerJob 调度层。

  还额外提供了强大的“延迟执行”方法,消息中间件不再是唯一选择!

  分布式计算如此简单,如此强大

  PowerJob 除了基础的任务调度能力外,还提供了一套完整的分布式计算解决方案。

  用户只需要实现指定的“Map/MapReduce” 处理器,就可以用寥寥数行代码调动整个集群参与计算,是您处理大批量业务数据的不二之选!

  工作流任务依赖,不再烦恼

  PowerJob内置了强大的工作流调度引擎,同时为用户提供友好的前端界面可视化地完成任务的编排。

  在前端页面拖拖拽拽即可解决复杂任务依赖的烦恼。

  监控、报警、运维样样齐全

  通过 PowerJob 前端控制台,您可以轻松监测任务的一举一动,整体运行状态净收眼底。

  此外,PowerJob 还提供在线日志、在线运维等功能,无论哪一样,都是开发和调试的好帮手。

  高可用、高可靠、高性能

  PowerJob 有着经过精心设计的分布式架构,任意组件都支持多实例集群部署来保证可用性和可靠性。

  同时,基于“无锁化设计”的调度服务器和支持 “MapReduce”的执行器节点都能够通过水平扩展来获取性能的提升。

软件特色

  使用简单

  提供前端Web界面,允许开发者可视化地完成调度任务的管理(增、删、改、查)、任务运行状态监控和运行日志查看等功能。

  定时策略完善

  支持CRON表达式、固定频率、固定延迟和API四种定时调度策略。

  执行模式丰富

  支持单机、广播、Map、MapReduce四种执行模式,其中Map/MapReduce处理器能使开发者寥寥数行代码便获得集群分布式计算的能力。

  工作流支持

  支持在线配置任务依赖关系(DAG),可视化得对任务进行编排,同时还支持上下游任务间的数据传递。

  执行器支持广泛

  支持Spring Bean、内置/外置Java类、Shell、Python等处理器,应用范围广。

  运维便捷

  支持在线日志功能,执行器产生的日志可以在前端控制台页面实时显示,降低debug成本,极大地提高开发效率。

  依赖精简

  最小仅依赖关系型数据库(MySQL/PostgreSQL/Oracle/MS SQLServer...)

  高可用&高性能

  调度服务器经过精心设计,一改其他调度框架基于数据库锁的策略,实现了无锁化调度。部署多个调度服务器可以同时实现高可用和性能的提升(支持无限的水平扩展)。

  故障转移与恢复

  任务执行失败后,可根据配置的重试策略完成重试,只要执行器集群有足够的计算节点,任务就能顺利完成。

官方教程

  STEP1: 初始化项目

  git clone https://github.com/PowerJob/PowerJob.git

  导入 IDE,源码结构如下,我们需要启动调度服务器(powerjob-server),同时在samples工程中编写自己的处理器代码

PowerJob(任务调度计算框架)

  STEP2: 启动调度服务器

  创建数据库(仅需要创建数据库):找到你的DB,运行SQLCREATE DATABASE IF NOT EXISTS `powerjob-daily` DEFAULT CHARSET utf8mb4,搞定~

  修改配置文件,配置文件的说明官方文档写的非常详细,此处不再赘述。需要修改的地方为数据库配置spring.datasource.core.jdbc-url、spring.datasource.core.username和spring.datasource.core.password,当然,有mongoDB的同学也可以修改spring.data.mongodb.uri以获取完全版体验。

PowerJob(任务调度计算框架)

  3.完成配置文件的修改后,可以直接通过启动类

  com.github.kfcfans.powerjob.server.OhMyApplication启动调度服务器,观察启动日志,查看是否启动成功~启动成功后,访问 http://127.0.0.1:7700/ ,如果能顺利出现Web界面,则说明调度服务器启动成功!

  4.注册应用:点击主页应用注册按钮,填入powerjob-agent-test和控制台密码(用于进入控制台),注册示例应用(当然你也可以注册其他的appName,只是别忘记在示例程序中同步修改~)

PowerJob(任务调度计算框架)

  STEP3: 编写示例代码

  进入示例工程(powerjob-worker-samples),修改配置文件连接powerjob-server并编写自己的处理器代码。

  1.修改 powerjob-worker-samples 的 application.properties,将 powerjob.worker.app-name 改为刚刚在控制台注册的名称。

PowerJob(任务调度计算框架)

  2.编写自己的处理器:随便找个地方新建类,继承你想要使用的处理器(各个处理器的介绍可见官方文档,文档非常详细),这里为了简单演示,选择使用单机处理器BasicProcessor,以下是代码示例。

PowerJob(任务调度计算框架)

  3.启动示例程序,即直接运行主类com.github.kfcfans.powerjob.samples.SampleApplication,观察控制台输出信息,判断是否启动成功。

  STEP4: 任务的配置与运行

  调度服务器与示例工程都启动完毕后,再次前往Web页面( http://127.0.0.1:7700/ ),进行任务的配置与运行。

  1.在首页输入框输入配置的应用名称,成功操作后会正式进入前端管理界面。

PowerJob(任务调度计算框架)

  2.点击任务管理 -> 新建任务(右上角),开始创建任务。

PowerJob(任务调度计算框架)

  任务名称:名称

  任务描述:描述

  任务参数:任务处理时能够获取到的参数(即各个Processor的process方法入参TaskContext对象的jobParams属性)(进行一次处理器开发就能理解了)

  定时信息:该任务的触发方式,由下拉框和输入框组成

  API -> 不需要填写任何参数,表明该任务由OpenAPI触发

  CRON -> 填写 CRON 表达式(在线生成网站)

  固定频率 -> 任务以固定的频率执行,填写整数,单位毫秒

  固定延迟 -> 任务以固定的延迟执行,填写整数,单位毫秒

  工作流 -> 不需要填写任何参数,表明该任务由工作流(workflow)触发

  执行配置:由执行类型(单机、广播和MapReduce)、处理器类型和处理器参数组成,后两项相互关联。

  内置Java处理器 -> 填写该处理器的全限定类名(eg, com.github.kfcfans.oms.processors.demo.MapReduceProcessorDemo)

  Java容器 -> 填写容器ID#处理器全限定类名(eg,18#com.github.kfcfans.oms.container.DemoProcessor)

  SHELL -> 填写需要处理的脚本(直接复制文件内容)或脚本下载链接(http://xxx)

  PYTHON -> 填写完整的python脚本或下载链接(http://xxx)

  运行配置

  最大实例数:该任务同时执行的数量

  单机线程并发数:该实例执行过程中每个Worker使用的线程数量(MapReduce任务生效,其余无论填什么,都只会使用必要的线程数...)

  运行时间限制:限定任务的最大运行时间,超时则视为失败,单位毫秒,0代表不限制超时时间(不建议不限制超时时间)。

  重试配置:

  Instance重试次数:实例级别,失败了整个任务实例重试,会更换TaskTracker(本次任务实例的Master节点),代价较大,大型Map/MapReduce慎用。

  Task重试次数:Task级别,每个子Task失败后单独重试,会更换ProcessorTracker(本次任务实际执行的Worker节点),代价较小,推荐使用。

  注:请注意同时配置任务重试次数和子任务重试次数之后的重试放大,比如对于单机任务来说,假如任务重试次数和子任务重试次数都配置了1且都执行失败,实际执行次数会变成4次!推荐任务实例重试配置为0,子任务重试次数根据实际情况配置。

  机器配置:用来标明允许执行任务的机器状态,避开那些摇摇欲坠的机器,0代表无任何限制。

  最低CPU核心数:填写浮点数,CPU可用核心数小于该值的Worker将不会执行该任务。

  最低内存(GB):填写浮点数,可用内存小于该值的Worker将不会执行该任务。

  最低磁盘(GB):填写浮点数,可用磁盘空间小于该值的Worker将不会执行该任务。

  集群配置

  执行机器地址:指定集群中的某几台机器执行任务(debug的好帮手),多值英文逗号分割,如192.168.1.1:27777,192.168.1.2:27777

  最大执行机器数量:限定调动执行的机器数量

  报警配置:选择任务执行失败后报警通知的对象,需要事先录入。

  3.完成任务创建后,即可在控制台看到刚才创建的任务,如果觉得等待调度太过于漫长,可以直接点击运行按钮,立即运行本任务。

PowerJob(任务调度计算框架)

  4.前往任务示例边栏,查看任务的运行状态和在线日志

PowerJob(任务调度计算框架)

运用场景

  有定时执行需求的业务场景:如每天凌晨全量同步数据、生成业务报表等。

  有需要全部机器一同执行的业务场景:如使用广播执行模式清理集群日志。

  有需要分布式处理的业务场景:比如需要更新一大批数据,单机执行耗时非常长,可以使用Map/MapReduce处理器完成任务的分发,调动整个集群加速计算。

  有需要延迟执行某些任务的业务场景:比如订单过期处理等。

PowerJob(任务调度计算框架)下载地址

本类最新
  • CIMCO Edit

    276.25 MB/2020-08-17

    CIMCOEditV5是CIMCO软件公司专为数控编程而设计的专业软件,该软件以其强大的功能、低廉的价格而风靡欧美,它有强大而实用的数控编辑功能、文件的智能比较、刀位轨迹的三维模拟、DNC传输等功能。其完全的Windows界面,一目了然的地址颜色,强大的在线帮助,会使您爱不释手。

  • CKplayer网页播放器

    336 KB/2020-08-17

    ckplayer是一款在网页上播放视频的免费的网页播放器,功能强大,体积小巧,跨平台,使用起来随心所欲。CKplayer网页播放器主要以adobe的flash(所使用的版本是CS5)平台开发,ckplayer同时也支持html5的视频播放。

  • WordPress

    6.7 MB/2020-08-17

    WordPress是一种使用PHP语言开发的博客平台,用户可以在支持PHP和MySQL数据库的服务器上架设自己的网志。也可以把WordPress当作一个内容管理系统(CMS)来使用。

  • Discuz论坛

    4.05 MB/2020-08-17

    Discuz!Board(以下简称Discuz!,中国国家版权局著作权登记号2003SR6623)是一个通用的论坛软件系统,用户可以在不需要任何编程的基础上,Discuz论坛通过简单的设置和安装

  • Guns后台管理系统

    12.5 MB/2020-08-17

    Guns后台管理系统是一款项目快速开发管理系统网站搭建模板,基于SpringBoot2开发,内置主控面板、组织架构、用户管理、机构管理、职位管理、权限管理、基础数据、系统功能

  • 狂雨小说cms

    7.8 MB/2020-08-17

    狂雨小说是一款体积轻量、简单易用的轻量级小说网站搭建模板,基于ThinkPHP5.1+MySQL的技术开发,网站搭建和部署便捷简单,通过该模板用户可以快速搭建一个属于自己的小说内

  • Slidev(开发幻灯片展示)

    8.52 MB/2020-08-17

    Slidev是一款非常专业且优秀的开发幻灯片展示软件,作为基于Web的幻灯片制作和演示软件,非常适合开发人员使用,可帮助他们专注于在Markdown中编写内容,软件功能强大,拥有HTML

  • 魔众短链接系统

    27.5 MB/2020-08-17

    魔众短链接系统是一款绿色安全、免费开源的短链接生成网站搭建模板,基于PHP+Mysql开发,可帮助用户快速搭建属于自己的短链接生成网站,该网站界面简洁美观、对SEO非常友好,功

每日更新软件推荐
  • 一周最热
  • 总排行榜

您可能感兴趣的专题

  • 男生必备

    男生必备

    男生们看过来!

  • 安卓装机必备

    安卓装机必备

  • 女生必备

    女生必备

      女生必备app是拥有众多女性用户的手机软件,作为一个女生,生活中像淘宝、京东这类线上购物软件可以说是少不了的,小红书这种穿搭、化妆分享平台也很受欢迎,类似于西柚大姨妈、美柚这种专为女生打造的生理期app更是手机必备,还有大家用的最多拍照美颜app是绝对不能忘记的,除此之外对于一些追星女孩来说,微博也是一个必不可少的软件。超多女生必备软件尽在下载吧!

  • 迅雷看看使用教程

    迅雷看看使用教程

    迅雷看看播放器是一款多功能在线高清多媒体视频播放器,支持本地播放与在线视频点播,采用P2P点对点传输技术,可以在线流畅观看高清晰电影。不仅如此,迅雷看看不断完善用户交互和在线产品体验,让您的工作与生活充满乐趣。

  • 驱动精灵

    驱动精灵

    驱动精灵是一款集驱动管理和硬件检测于一体的、专业级的驱动管理和维护工具。驱动精灵为用户提供驱动备份、恢复、安装、删除、在线更新等实用功能,也是大家日常生活中经常用到的实用型软件之一了。

  • 拼音输入法

    拼音输入法

    对于电脑文字输入,拼音输入法是一种非常受欢迎的输入法,搜狗拼音输入法、百度拼音输入法、QQ拼音输入法、谷歌拼音输入法、紫光拼音输入法、智能拼音输入法等,你在用哪款呢?一款好用适合自己的拼音输入法一定对您平时帮助很大!下载吧收集了最热门国人最喜欢用的拼音输入法给大家。

  • b站哔哩哔哩怎么使用

    b站哔哩哔哩怎么使用

    很多人都喜欢在b站哔哩哔哩上观看视频,不单是因为可以提前看到一些视频资源,B站的一些弹幕、评论的玩法也是被网友们玩坏了!下面下载吧小编带来了b站哔哩哔哩怎么使用的教程合集!希望能帮到你啦!

  • 抖音短视频app

    抖音短视频app

    抖音短视频app,这里汇聚全球潮流音乐,搭配舞蹈、表演等内容形式,还有超多原创特效、滤镜、场景切换帮你一秒变大片,为你打造刷爆朋友圈的魔性短视频。脑洞有多大,舞台就有多大!好玩的人都在这儿!