Channel 被设计为 Event 中转临时缓冲区,存储 Source 收集并且没有被 Sink 读取的 Event,为平衡 Source 收集和 Sink 读取的速度,可视为 Flume 内部的消息队列。
Channel 线程安全并且具有事务性,支持 Source 写失败写,和 Sink 读失败重复读的操作。
常见的类型包括 Memory Channel,File Channel,Kafka Channel。
千锋教育-做有情怀、有良心、有品质的职业教育机构
千锋学习站 | 随时随地免费学
扫一扫进入千锋手机站
Channel 被设计为 Event 中转临时缓冲区,存储 Source 收集并且没有被 Sink 读取的 Event,为平衡 Source 收集和 Sink 读取的速度,可视为 Flume 内部的消息队列。
Channel 线程安全并且具有事务性,支持 Source 写失败写,和 Sink 读失败重复读的操作。
常见的类型包括 Memory Channel,File Channel,Kafka Channel。
上一篇
Flume监控器
hive外部表是使用external关键字并指定一个hdfs目录创建的表。hive内部表在创建时会在对应hive目录下创建相应的文件夹,外部表则以指定文件夹为...详情>>
2022-09-02 17:21:00
Checkpoint是为runtime准备的,Savepoint 是为用户准备的。Checkpoint 机制的目标在于保证Flink作业意外崩溃重启不影响exactly once 准确性,通...详情>>
2022-09-02 16:59:22
State:指一个具体的Task/Operator的状态。State可以被记录,在失败的情况下数据还可以恢复,Flink中有两种基本类型的State: Keyed State, Op...详情>>
2022-09-02 16:59:19
Flink 内部是基于producer-consumer模型来进行消息传递的,Flink的反压设计也是基于这个模型。Flink 使用了高效有界的分布式阻塞队列,就像 Jav...详情>>
2022-09-02 16:59:16
虽说水位线(Watermark)表明早于它的事件不应该再出现,但是接收到水位线以前的的消息是不可避免的,这就是所谓的迟到事件。实际上迟到事件是乱...详情>>
2022-09-02 16:59:00