Azkaban简介

阅读量：243 次

发布时间：2019-03-01

本文共 467 字，大约阅读时间需要 1 分钟。

Azkaban简介

一、Azkaban 介绍

1.1 背景

一个完整的大数据分析系统，必然由很多任务单元 (如数据收集、数据清洗、数据存储、数据分析等) 组成，所有的任务单元及其之间的依赖关系组成了复杂的工作流。复杂的工作流管理涉及到很多问题：

如何定时调度某个任务？

如何在某个任务执行完成后再去执行另一个任务？

如何在任务失败时候发出预警？

…

面对这些问题，工作流调度系统应运而生。Azkaban 就是其中之一。

1.2 功能

Azkaban 产生于 LinkedIn，并经过多年生产环境的检验，它具备以下功能：

兼容任何版本的 Hadoop

易于使用的 Web UI

可以使用简单的 Web 页面进行工作流上传

支持按项目进行独立管理

定时任务调度

模块化和可插入

身份验证和授权

跟踪用户操作

支持失败和成功的电子邮件提醒

SLA 警报和自动查杀失败任务

重试失败的任务

Azkaban 的设计理念是在保证功能实现的基础上兼顾易用性，其页面风格清晰明朗，下面是其 WEB UI 界面：

二、Azkaban 和 Oozie

<

转载地址：http://ikxv.baihongyu.com/

你可能感兴趣的文章

Mysql 会导致锁表的语法

mysql 使用sql文件恢复数据库

mysql 修改默认字符集为utf8

Mysql 共享锁

MySQL 内核深度优化

mysql 内连接、自然连接、外连接的区别

mysql 写入慢优化

mysql 分组统计SQL语句

Mysql 分页语句 Limit原理

MySQL 创建新用户及授予权限的完整流程

mysql 创建表，不能包含关键字values 以及表id自增问题

mysql 删除日志文件详解

mysql 判断表字段是否存在，然后修改

mysql 协议的退出命令包及解析

mysql 取表中分组之后最新一条数据分组最新数据分组取最新数据分组数据获取每个分类的最新数据

mysql 多个表关联查询查询时间长的问题

mySQL 多个表求多个count

mysql 多字段删除重复数据，保留最小id数据

MySQL 多表联合查询：UNION 和 JOIN 分析