云计算视频教程 Flume视频教程分布式的海量日志采集 Flume日志收集利器视频教程-云计算大数据技术

admin

下载地址

游客，如果您要查看本帖隐藏内容请回复

云计算视频教程 Flume视频教程分布式的海量日志采集 Flume日志收集利器视频教程

      

      



Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受方（可定制）的能力。


当前Flume有两个版本Flume 0.9X版本的统称Flume-og，Flume1.X版本的统称Flume-ng。由于Flume-ng经过重大重构，与Flume-og有很大不同，使用时请注意区分。

-------------------课程目录-------------------


1flume简介-基础知识
讲述flume的基础知识包括flume的基本概念和核心组件。flume是一个分布式、可靠、高可用的海量日志聚合系统，支持在系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据的简单处理，并写到各种数据接收方的能力。
2
flume安装与测试
讲述flume安装与测试，主要包括flume单机安装与测试、flume集群安装与测试、Arvo环境的搭建以及安装过程中的一些异常的解决方案讲解。
3
flume部署方式
讲述flume部署种类、流配置。其中详细讲解了单一代理、多代理、多路复用流的配置说明。
4
flume source相关配置及测试
讲述flume source相关的配置和案例分析，包括了Avro Source配置、Thrift Source配置、Exec Source配置、JMS Source配置、NetCat Source配置、Spooling Directory Source配置、Sequence Generator Source配置、Syslog TCP Source配置、Multiport Syslog TCP Source配置、Syslog UDP Source配置、Http Source配置、Custom Source配置。
5
flume sink相关配置及测试
讲述flume sink相关的配置以及flume channel配置和案例分析，包括了HDFS Sink配置、Logger Sink配置、Avro Sink配置、Thrift Sink配置、IRC Sink配置、File Roll Sink配置、Null Sink配置、Hbase Sink配置、AsyncHbase Sink配置、Custom Sink配置；Memory Channel配置、JDBC Channel配置、File Channel配置、Pseudo Transaction Channel配置、Custom Channel配置。

6
flume selector 相关配置与案例分析
讲述 flume selector相关配置和案例分析，包括了Replicating Channel Selector配置、Multiplexing Channel Selector配置、Custom Channel Selector配置。
7
Flume Sink Processors相关配置和案例分析
讲述 Flume Sink Processors相关配置和案例分析，包括了Default Sink Processor配置、Failover Sink Processor配置、Load balancing Sink Processor配置。
8
Flume Interceptors相关配置和案例分析
讲述 Flume Event Serializers、Flume Interceptors相关配置和案例分析，包括了Body Text Serializer配置、Avro Text Serializer配置、Timestamp Interceptor配置、Host Interceptor配置、Static Interceptor配置、Regex Filtering Interceptor配置。
9
Flume RPC Client开发
讲述如何进行 flume RPC Client开发，这个是在通常应用中使用的较多的一种方式。
10
Flume Sink和Flume Source开发
讲述如何进行 flume Sink、flume Source开发。