Hadoop中间结果lzop压缩

为了节省磁盘空间,文件的存储往往需要压缩,有的需要压缩比大,有的需要压缩速度快。而对于一套计算的结果存储,如多个MapReduce之间,需要能支持分片的压缩方式。lzop就是个可以支持分片的压缩方式,非常适合用于多个MapReduce之间的计算中间结果存储。

一、在Hadoop上安装lzop与在hive上的使用

https://www.iteblog.com/archi…

二、添加索引以支持分片

lzop默认是不支持分片的,需要添加索引。
https://www.iteblog.com/archi…

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

这个站点使用 Akismet 来减少垃圾评论。了解你的评论数据如何被处理