大数据工作流调度系统Easy Scheduler正式开源

2019-04-03    来源:raincent

容器云强势上线!快速搭建集群,上万Linux镜像随意使用

Easy Scheduler 大数据工作流调度系统已经开源,欢迎下载交流 https://github.com/analysys/

EasyScheduler Easy Scheduler for Big Data

设计特点: 一个分布式易扩展的可视化DAG工作流任务调度系统。

Easy Scheduler

大数据工作流调度系统已经开源,欢迎下载交流 https://github.com/analysys/EasyScheduler

Easy Scheduler for Big Data

设计特点: 一个分布式易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。

其主要目标如下:

♦ 以DAG图的方式将Task按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态

♦ 支持丰富的任务类型:Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等

♦ 支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作

♦ 支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败

♦ 支持工作流全局参数及节点自定义参数设置

♦ 支持资源文件的在线上传/下载,管理等,支持在线文件创建、编辑

♦ 支持任务日志在线查看及滚动、在线下载日志等

♦ 实现集群HA,通过Zookeeper实现Master集群和Worker集群去中心化

♦ 支持对Master/Worker cpu load,memory,cpu在线查看

♦ 支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计

♦ 支持补数

♦ 支持多租户

♦ 支持国际化

♦ 还有更多等待伙伴们探索

与同类调度系统的对比

 

 

系统部分截图

 

 

 

 

 

 

文档

后端部署文档

前端部署文档

使用手册

更多文档请参考 easyscheduler中文在线文档

帮助

The fastest way to get response from our developers is to submit issues, or add our wechat : 510570367

标签: [db:TAGG]

版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点!
本站所提供的图片等素材,版权归原作者所有,如需使用,请与原作者联系。

上一篇:从术语到Spark,10篇必读大数据学习资源

下一篇:微软亚太区总裁:中国发展人工智能有天然优势