Hadoop源代码分析完整版.doc

Hadoop源代码分析(一)关键字:分布式云计算Google的核心竞争技术是它的计算平台。Google的大牛们用了下面5篇文章,介绍了它们的计算设施。GoogleCluster:Chubby:GFS:BigTable:MapReduce:很快,Apache上就出现了一个类似的解决方案,目前它们都属于Apache的Hadoop项目,对应的分别是:Chubby-->ZooKeeperGFS-->HDFSBigTable-->HBaseMapReduce-->Hadoop目前,基于类似思想的OpenSource项目还很多,如Facebook用于用户分析的Hive。HDFS作为一个分布式文件系统,是所有这些项目的基础。分析好HDFS,有利于了解其他系统。由于Hadoop的HDFS和MapReduce是同一个项目,我们就把他们放在一块,进行分析。下图是MapReduce整个项目的顶层包图和他们的依赖关系。Hadoop包之间的依赖关系比较复杂,原因是HDFS提供了一个分布式文件系统,该系统提供API,可以屏蔽本地文件系统和分布式文件系统,甚至象AmazonS3这样的在线存储系统。这就造成了分布式文件系统的实现,或者是分布式文件系统的底层的实现,依赖于某些貌似高层的功能。功能的相互引用,造成了蜘蛛网型的依赖关系。一个典型的例子就是包conf,conf用于读取系统配置,它依赖于fs,主要是读取配置文件的时候,需要使用文件系统,而部分的文件系统的功能,在包fs中被抽象了。Hadoop的关键部分集中于图中蓝色部分,这也是我们考察的重点。大小:(二)下面给出了Hadoop的包的功能分析。PackageDependencestool提供一些命令行工具,如DistCp,archivemapreduceHadoop的Map/Reduce实现提供HDFS文件的本地缓存,用于加快Map/Reduce的数据访问速度fs文件系统的抽象,可以理解为支持多种文件系统实现的统一文件访问接口hdfsHDFS,Hadoop的分布式文件系统实现ipc一个简单的IPC的实现,依赖于io提供的编解码功能参考:io表示层。将各种数据编码/解码,封装部分网络功能,如DNS,socketsecurity用户和用户组信息conf系统的配置参数metrics系统统计数据的收集,属于网管范畴util工具类record根据DDL(数据描述语言)自动生成他们的编解码函数,目前可以提供C++和Javahttp基于Jetty的HTTPServlet,用户通过浏览器可以观察文件系统的一些状态信息和日志log提供HTTP访问日志的HTTPServletHadoop源代码分析(三)由于Hadoop的MapReduce和HDFS都有通信的需求,需要对通信的对象进行序列化。Hadoop并没有采用Java的序列化,.,他们都实现了Writable接口。实现了Writable接口的一个典型例子如下:lassMyWritableimplementsWritable{//Somedataprivateintcounter;privatelongtimestamp;publicvoidwrite(DataOutputout)throwsIOException{(counter);(timestamp);}publicvoidreadFields(DataInputin)throwsIOException{counter=();timestamp=();}publicstaticMyWritableread(DataInputin)throwsIOException{MyWritablew=newMyWritable();(in);returnw;}}lassMyWritableimplementsWritable{//Somedataprivateintcounter;privatelongtimestamp;publicvoidwrite(DataOutputout)throwsIOException{(counter);(timestamp);}publicvoidreadFields(DataInputin)throwsIOException{counter=();timestamp=();}publicstaticMyWritableread(DataInputin)throwsIOException{MyWrit