受欢迎的佛山网站制作,免费房屋设计app,百度网站下载安装,上海app外包公司一、目的
最近在看尚硅谷的Flume资料#xff0c;看到拓扑结构这一块#xff0c;觉得蛮有意思#xff0c;于是整理一下Flume的4种拓扑结构
二、拓扑结构
#xff08;一#xff09;简单串联 1、结构含义
这种模式是将多个flume顺序连接起来了#xff0c;从最初的sourc…一、目的
最近在看尚硅谷的Flume资料看到拓扑结构这一块觉得蛮有意思于是整理一下Flume的4种拓扑结构
二、拓扑结构
一简单串联 1、结构含义
这种模式是将多个flume顺序连接起来了从最初的source开始到最终sink传送的目的存储系统。
2、结构特征
此模式不建议桥接过多的flume数量 flume数量过多不仅会影响传输速率而且一旦传输过程中某个节点flume宕机会影响整个传输系统。
二复制和多路复用 1、结构含义
Flume 支持将事件流向一个或者多个目的地。
2、结构特征
这种模式可以将相同数据复制到多个channel 中或者将不同数据分发到不同的 channel 中sink 可以选择传送到不同的目的地
三负载均衡和故障转移 1、结构含义
Flume支持使用将多个sink逻辑上分到一个sink组
2、结构特征
sink组配合不同的SinkProcessor可以实现负载均衡和错误恢复的功能
四聚合 1、结构含义
这种模式是我们最常见的也非常实用。日常web应用通常分布在上百个服务器大者甚至上千个、上万个服务器产生的日志处理起来也非常麻烦。
2、结构特征
用flume的这种组合方式能很好的解决这一问题每台服务器部署一个 flume 采集日志传送到一个集中收集日志的flume再由此flume上传到hdfs、hive、hbase等进行日志分析。 以上就是Flume的4种拓扑结构介绍当然项目中Flume到底选择哪种拓扑结构还是需要根据项目的实际情况因地制宜
