自从相关工具创建以来，我们一直通过对海量的随机数据执行排序来测试MapReduce。这种方式很受欢迎，因为生成任意数量的数据非常简单，想要验证输出结果是否正确也很简单。
尽管最开始的MapReduce论文报告的是TeraSort的结果。工程师们将定期对1TB或10TB数据执行排序当作回归测试来做，因为测试时使用的数据量越大，那些不显眼的bug就越容易被发现。然而，当我们进一步扩大数据规模后，真正的乐趣才刚开始。本文将会讨论几年前我们所做的一些PB规模的排序实验，包括在我们看来最大的一次MapReduce任务：对50PB的数据执行排序。
如今，GraySort已是海量数据排序基准之选，测试者必须以最快速度按字典顺序对至少TB的数据执行排序。网站sortbenchmark.org跟踪记录了这项基准测试的官方优胜者，但谷歌从未参加过官方竞赛。
由于实现Reduce的过程就是对键值排序，MapReduce刚好适合解决这个问题。通过合适的(词典)分片功能，MapReduce就能输出一系列的文件，其中包含最终排序后的数据集。
有时在数据中心有新集群出现时(一般是为了搜索索引团队的使用)，我们这些MapReduce团队的人员就有机会歇口气，在实际工作量压过来之前休闲几周。这些时候，我们才有机会试试看：让集群“超负荷”、探究硬件的极限、搞挂一些硬盘、测试一些非常昂贵的设备，并学到很多系统性能相关的东西，同时(在非官方的)排序基准测试获得胜利。
图一：谷歌的Petasort记录
(1PB，12.1小时，1.7TB/分钟，2.9MB/秒/worker)
我们在年首次运行Petasort。那时候，我们主要是开心能把这个测试完成，尽管对输出结果的正确性还有些疑问(由于未作验证而无法确认)。当时，若不是我们关闭了检查map分片与备份的输出结果是否一致的机制，这项任务是无法完成的。我们怀疑，这是用作输入和输出结果存储的谷歌档案系统(GFS)所造成的限制。GFS的校验和保护不足，有时会返回损坏的数据。不幸的是，该基准测试所使用的文件格式并不包含任何内嵌的校验和，无法让MapReduce发送通知(在谷歌，通常使用MapReduce的方式就是使用内嵌校验和的文件格式)。
(1PB，6.0小时，2.76TB/分钟，11.5MB/秒/worker)
年，我们首次专注于优化调整，花了几天时间调整分片数量、不同缓冲区的大小、预读/预写策略、页面缓存使用等，并在博客中记录了结果。最终，通过将输出结果三路复制到GFS，我们解决掉了瓶颈，这也成了我们那时在谷歌的标准用法，少一路都会有很高的风险损失掉数据。
(1PB，2.95小时，5.65TB/分钟，11.8MB/秒/worker)
在这个测试中，我们使用了新版本的GraySort基准，这个版本使用到了不可压缩的数据。在前几年中，我们从GFS读取或者向其写入1PB数据时，实际shuffle的数据量仅有大约00TB左右，因为那时所使用的ASCII格式都是压缩过的。
在这一年中，谷歌将GFS更新为下一代分布式存储系统Colossus。之前使用GFS时所遇到的数据损坏问题不再出现了，我们还在输出结果中使用了RS编码(Colossus的新功能)，从而将写入的总数据量从PB(三路复制)减少到大约1.6PB。这时我们也首次证实了输出结果的正确性。
为了减少离散数据的影响，我们运用了动态分片技术(也就是减少子分片)，后来演变为了在Dataflow中使用完全动态分片技术。
(1PB，0.55小时，0.TB/分钟，6.1MB/秒/worker)
这一年我们的网络速度更快，也开始北京哪个医生治疗白癜风好北京治疗白癜风需花多少钱