MapReduce生产经验

1. MapReduce跑的慢的原因

MapReduce程序效率的瓶颈在于两点：

1. 计算机性能 CPU、内存、磁盘、网络
2. I/O操作优化
   • 数据倾斜
   • Map运行时间太长，导致Reduce等待过久
   • 小文件过多

2. MapReduce常用调优参数

3. MapReduce数据倾斜问题

3.1 数据倾斜现象

• 数据频率倾斜——某一个区域的数据量要远远大于其他区域。
• 数据大小倾斜——部分记录的大小远远大于平均值。

3.2 减少数据倾斜的方法

1. 首先检查是否空值过多造成的数据倾斜
   生产环境，可以直接过滤掉空值；如果想保留空值，就自定义分区，将空值加随机数打散。最后再二次聚合。
2. 能在map阶段提前处理，最好先在Map阶段处理。如：Combiner、MapJoin
3. 设置多个reduce个数