千锋教育-做有情怀、有良心、有品质的职业教育机构

手机站
千锋教育

千锋学习站 | 随时随地免费学

千锋教育

扫一扫进入千锋手机站

领取全套视频
千锋教育

关注千锋学习站小程序
随时随地免费学习课程

当前位置:首页  >  应聘面试  >  大数据面试题  > 存储格式和压缩格式

存储格式和压缩格式

来源:千锋教育
发布人:wjy
时间: 2022-09-02 17:21:35 1662110495

一般选择ORC+bzip/gzip作为数据源的存储,选择则ORC+Snappy作为中间数据的存储,分区表单文件不大可以采用gzip压缩,桶表需要用bzip或lzo支持分片的方式压缩

设置压缩建表时指定"stored as orc tblproperties ("orc.compress"="gzip")" 

设置set hive.exec.compress.intermediate=true开启中间数据压缩

然后设置mapred.map.output.compression.codec指定中间数据的压缩方式 

设置 set hive.exec.compress.output=true 开启输出文件压缩

然后设置 mapred.output.compression.codec 指定输出文件的压缩方式。

存储格式和压缩格式

tags:
声明:本站稿件版权均属千锋教育所有,未经许可不得擅自转载。
10年以上业内强师集结,手把手带你蜕变精英
请您保持通讯畅通,专属学习老师24小时内将与您1V1沟通
免费领取
今日已有369人领取成功
刘同学 138****2860 刚刚成功领取
王同学 131****2015 刚刚成功领取
张同学 133****4652 刚刚成功领取
李同学 135****8607 刚刚成功领取
杨同学 132****5667 刚刚成功领取
岳同学 134****6652 刚刚成功领取
梁同学 157****2950 刚刚成功领取
刘同学 189****1015 刚刚成功领取
张同学 155****4678 刚刚成功领取
邹同学 139****2907 刚刚成功领取
董同学 138****2867 刚刚成功领取
周同学 136****3602 刚刚成功领取
相关推荐HOT