手抄报 安全手抄报 手抄报内容 手抄报图片 英语手抄报 清明节手抄报 节约用水手抄报

flink如何集成CDH版HDFS

时间:2024-10-20 21:33:44

1、最近在找一些写入到flink写入到hdfs的方法,然后在官网找到了这个(https://ci.apache.org/projects/flink/flink-docs-release-1.4/dev/connectors/filesystem_sink.html),然后就尝试着去使用这个,虽然能把数据写到hdfs上面去,但是是分片的,结果图如下:

flink如何集成CDH版HDFS

2、里面的内容是把我原来上传的文件给分片了。ps:我在想能不能在最后的输出将数据不要输出这么多的分片,而是一个总的文件。

flink如何集成CDH版HDFS

3、默认情况下,当元素到达时,当前的系统时间将会降级,并使用日期时间模式“yyyy-MM-dd - HH”命名这些存储区。

flink如何集成CDH版HDFS

4、此模式将传递到具有当前系统时间的SimpleDateFormat以形成存储桶路径。每当遇到新的日期时,都会创建一个新的桶。

flink如何集成CDH版HDFS

5、例如,如果您有一个包含分钟的模式作为最细粒度,您将每分钟获得一个新的桶。每个桶本身就是一个包含几个零件文件的目录:

flink如何集成CDH版HDFS

6、每个并行实例的接收器将创建自己的零件文件,当零件文件变得太大时,槽也会在其他文件旁边创建一个新的零件文件。

flink如何集成CDH版HDFS

7、当桶变得不活动时,打开的零件文件将被刷新并关闭。一个桶在最近没有被写入时被视为非活动的。默认情况下,接收器每分钟检查非活动的桶,并关闭一分钟内尚未写入的任何桶。

flink如何集成CDH版HDFS

8、可以在BucketingSink上使用setInactiveBu罕铞泱殳cketCheckInterval()和setInactiveBucketThreshold()配置此行为。

flink如何集成CDH版HDFS

9、以上就是小编带给大家的flink如何集成CDH版HDFS的关键所在,希望大家可以喜欢,如果喜欢的话可以点赞哦,也可以发表自己的看法

© 手抄报圈