Azkaban简介

阅读量：243 次

发布时间：2019-03-01

本文共 467 字，大约阅读时间需要 1 分钟。

Azkaban简介

一、Azkaban 介绍

1.1 背景

一个完整的大数据分析系统，必然由很多任务单元 (如数据收集、数据清洗、数据存储、数据分析等) 组成，所有的任务单元及其之间的依赖关系组成了复杂的工作流。复杂的工作流管理涉及到很多问题：

如何定时调度某个任务？

如何在某个任务执行完成后再去执行另一个任务？

如何在任务失败时候发出预警？

…

面对这些问题，工作流调度系统应运而生。Azkaban 就是其中之一。

1.2 功能

Azkaban 产生于 LinkedIn，并经过多年生产环境的检验，它具备以下功能：

兼容任何版本的 Hadoop

易于使用的 Web UI

可以使用简单的 Web 页面进行工作流上传

支持按项目进行独立管理

定时任务调度

模块化和可插入

身份验证和授权

跟踪用户操作

支持失败和成功的电子邮件提醒

SLA 警报和自动查杀失败任务

重试失败的任务

Azkaban 的设计理念是在保证功能实现的基础上兼顾易用性，其页面风格清晰明朗，下面是其 WEB UI 界面：

二、Azkaban 和 Oozie

<

转载地址：http://ikxv.baihongyu.com/

你可能感兴趣的文章

MySQL Binlog 日志监听与 Spring 集成实战

MySQL binlog三种模式

multi-angle cosine and sines

Mysql Can't connect to MySQL server

mysql case when 乱码_Mysql CASE WHEN 用法

MySQL Cluster 7.0.36 发布

Multimodal Unsupervised Image-to-Image Translation多通道无监督图像翻译

MySQL Cluster与MGR集群实战

multipart/form-data与application/octet-stream的区别、application/x-www-form-urlencoded

mysql cmake 报错,MySQL云服务器应用及cmake报错解决办法

Multiple websites on single instance of IIS

mysql CONCAT()函数拼接有NULL

multiprocessing.Manager 嵌套共享对象不适用于队列

multiprocessing.pool.map 和带有两个参数的函数

MYSQL CONCAT函数

multiprocessing.Pool:map_async 和 imap 有什么区别?

MySQL Connector/Net 句柄泄露

multiprocessor（中)

mysql CPU使用率过高的一次处理经历