hadoop[1].源碼閱讀總結(jié)

《hadoop[1].源碼閱讀總結(jié)》由會員分享，可在線閱讀，更多相關(guān)《hadoop[1].源碼閱讀總結(jié)（11頁珍藏版）》請?jiān)谘b配圖網(wǎng)上搜索。

1、Common IPC/RPC Server 大概流程 基于NIO,Listener關(guān)注OP_ACCEPT事件,當(dāng)有客戶端連接過來,Accept后,從readers中選取一個(gè)Reader將客戶端Channel注冊到Reader中的NIO selector,并新建一個(gè)Connection對象關(guān)聯(lián)客戶端Channel,Reader關(guān)注OP_READ事件. 客戶端建立連接后,首先發(fā)送的是ConnnectionHeader包含協(xié)議名,用戶組信息,驗(yàn)證方法,Connection會根據(jù)以上信息進(jìn)行校驗(yàn).之后將是先讀取4位的長度代表這次請求的數(shù)據(jù)的長度,然后一直等待事件觸發(fā)讀取夠長度,將讀取的數(shù)據(jù)

2、 解碼為調(diào)用id和param,新建一個(gè)Call對象(關(guān)聯(lián)Connection)放入call隊(duì)列中,handlers中的Handler會將Call中callQuene中取走,Call中的param實(shí)際為Invocation對象,包含調(diào)用方法名,參數(shù)名,參數(shù)類型,由這些信息使用Java反射API調(diào)用Server的instance對象,獲取返回值,組織返回?cái)?shù)據(jù),寫入Call的response屬性中,馬上調(diào)用responder的doRespond方法,將Call加入到Connection的responseQuene中,如果responseQuene長度等于1做一次NIO寫操作,如果不能一次性能夠?qū)?shù)據(jù)

3、寫完,將客戶端channel注冊到responder關(guān)注寫事件OP_WRITE,下一次繼續(xù)寫,如果長度不為1證明該channel已經(jīng)注冊到了responder了直接加入隊(duì)列,由responder線程后續(xù)處理. NOTE:客戶端關(guān)閉流后出發(fā)一次讀操作,返回為-1,Server關(guān)閉連接 CurCall與獲取客戶端IP Handler獲取一個(gè)Call后,會將Server的curCall(ThreadLocal類型)設(shè)置為當(dāng)前的Call,調(diào)用Instance方法實(shí)際是在Handler線程中,在Instance的方法內(nèi)就可以使用Server提供的方法來獲取客戶端IP Ping 在上述過程中

4、如果讀取的4位長度為-1代表是客戶端PING操作 清理空閑連接 如果一定時(shí)間ipc.client.connection.maxidletime沒有讀取到數(shù)據(jù)并且當(dāng)前連接現(xiàn)有Call數(shù)目為0,則視為空閑連接, Listener會在每次接受完新連接之后進(jìn)行一次清理,最多清理ipc.client.kill.max個(gè)連接,如果出現(xiàn)OutOfMemoryError則強(qiáng)制清理全部空閑連接 DataNode,TaskTractor設(shè)置的心跳時(shí)間需小于空閑時(shí)間. 清理長時(shí)間未發(fā)送到客戶端的響應(yīng) 注冊到responder的Call如果長時(shí)間沒有發(fā)送到客戶端,每隔一段時(shí)間會清理掉 涉及

5、參數(shù) ipc.server.handler.queue.size callQuene隊(duì)列大小,隨集群增大而增大, ipc.server.max.response.size 如果返回的結(jié)果序列化后大小大于這個(gè)值,重置緩沖區(qū)ByteArrayOutputStream釋放內(nèi)存. ipc.server.read.threadpool.size readers個(gè)數(shù) ipc.server.tcpnodelay TCP優(yōu)化參數(shù)Nagles algorithm handlerCount handler個(gè)數(shù),由構(gòu)造參數(shù)指定,在DN,TT中配置 socketSendBufferSiz

6、e socket設(shè)置 ipc.server.listen.queue.size socket設(shè)置socket.bind(address, backlog) ipc.client.idlethreshold 總連接數(shù)超過多少后,開始清理空閑連接 ipc.client.kill.max 一次最多清理多少個(gè)空閑連接 IPC/RPC Client Client代理模式,調(diào)用RPC.getProxy實(shí)際上返回的一個(gè)代理對象,當(dāng)調(diào)用方法的時(shí)候?qū)嶋H調(diào)用的是Invoker, Invoker將協(xié)議,調(diào)用的方法名,參數(shù),參數(shù)類型封裝成Invocation對象經(jīng)過client發(fā)送到s

7、erver,并讀取返回流,根據(jù)流中的id,判斷是服務(wù)器返回的是那次調(diào)用的結(jié)果. Connection線程負(fù)責(zé)讀取Server返回值,在讀取的過程中,調(diào)用Client的線程會wait直到Connection獲取到返回值.讀取時(shí)候如果超時(shí)(ipc.ping.interval)就發(fā)送一次ping,如果沒有出現(xiàn)IOException就繼續(xù)讀取,Conneciton可以根據(jù)標(biāo)識(地址,用戶組信息,協(xié)議)共用. IPC/RPC Auth ing HDFS Name協(xié)議 ClientProtocol:客戶端調(diào)用協(xié)議,涉及文件操作,DFS管理,升級(DFSAdmin) DatanodeP

8、rotocol:DN與NN通訊協(xié)議,注冊,BlockReport,心跳,升級 NamenodeProtocol: SN和NN通訊協(xié)議,通知NN使用新的fsimage和edit RefreshAuthorizationPolicyProtocol, RefreshUserMappingsProtocol FSNamesystem數(shù)據(jù)結(jié)構(gòu) LightWeightGSet Gset 類似Set但提供get方法,主要用于存儲BlockInfo,根據(jù)Block找到BlockInfo 其中一個(gè)實(shí)現(xiàn)LightWeightGSet,利用數(shù)組存儲元素,用鏈表解決沖突問題,類似HashMap但是

9、沒有ReHash操作 BlocksMap初始化LightWeightGSet時(shí)候,會根據(jù)JVM內(nèi)存將數(shù)組的大小初始為最大能占用的內(nèi)存數(shù)(4194304 -Xmx1024M)加上高效的hash映射算法, LightWeightGSet在BlockInfo數(shù)量比較小的時(shí)候get性能逼近數(shù)組. BlockInfo繼承Block,沒有重寫hashCode和equals方法,在Block中equals方法只要求傳入的對象是Block實(shí)例并且blockId相等,就認(rèn)為兩個(gè)對象相等,故存儲BlockInfo時(shí)候分配的在數(shù)組中的Index和Get時(shí)候由Block的hashCode定位是一致的. Bloc

10、kMaps BlockMaps負(fù)責(zé)管理Block以及Block相關(guān)的元數(shù)據(jù) Block 有3個(gè)long型的屬性blockId(隨機(jī)生成)numBytes(塊大小),generationStamp BlockInfo繼承Block添加了2個(gè)屬性,實(shí)現(xiàn)了用戶LightWeightGSet的LinkedElement接口 inode:引用文件Inode triplets:3Xreplication的數(shù)組,即replication 個(gè)組,每組有3個(gè)元素,第一個(gè)指向DatanodeDescriptor,代表在這個(gè)DN上有一個(gè)Block,第二個(gè)和第三個(gè)分別代表DN上的上一個(gè)blockInfo和

11、下一個(gè)blockInfo DatanodeDescriptor有一個(gè)屬性blockList指向一個(gè)BlockInfo,因?yàn)槊總€(gè)BlockInfo中的triplets中有一組記錄著對應(yīng)的DN上的上一個(gè),下一個(gè)BlockInfo,所以從這個(gè)角度來看BlockInfo是一個(gè)雙向鏈表. 新建文件打開輸入流后,寫入,會在namenode中分配BlockInfo,當(dāng)Block寫入到分配的DN后,DN在發(fā)送心跳時(shí)候會將新接受到的塊報(bào)告給NN,此時(shí)NN在將triplets可用的組關(guān)聯(lián)到DN(DD). (例子前提假設(shè):新建的集群沒有文件,操作是在DN1上,此時(shí)很大可能性每次分配塊的時(shí)候都會首選本地DN

12、1,bkl_* *實(shí)際為隨機(jī)數(shù)) namenode中分配BlockInfo 并加入Gset中,blk_1,0-64M,此時(shí)DN1的blockList為null DN1向NN報(bào)告接收了新的Block blk_1 ,NN從blocksMap中根據(jù)Block blk_1找到BlockInfo blockInfo1 將triplets的可用組(==null)的第一位關(guān)聯(lián)到DN1(DatanodeDescriptor1),將DN1的blockList指向blockInfo1 此時(shí)blockList指向的是blockInfo1 NN分配blockInfo2,DN1向NN報(bào)告接受

13、到了信的Block blk_2,NN找到blockInfo2后 1,將triplets的可用組(==null)的第一位關(guān)聯(lián)到DN1(DatanodeDescriptor1) 2,將第三位指向blockList即blockInfo1, 2,將blockInfo1的對應(yīng)DN1的組的第二位指向blockInfo2 4,將DN1的blockList指向blockInfo1 升級 LoadBalance 磁盤占用,還是分布策略 可能出現(xiàn)一個(gè)DN上兩個(gè)相同的Block么. MapReduce 命令行運(yùn)行 bin/hadoop jar jarFile [mainClas

14、s] args... 設(shè)置JVM啟動參數(shù),將lib,conf等加入classpath,啟動JVM運(yùn)行RunJar RunJar階段: 1,設(shè)定MainClass如果jar設(shè)置了Manifest,則作為MainClass否則取第二個(gè)參數(shù) 2,在臨時(shí)目錄(hadoop.tmp.dir)中建立臨時(shí)目錄(File.createTempFile("hadoop-unjar", "", tmpDir)),并注冊鉤子JVM退出時(shí)候刪除. 3,將Jar解壓到建立的臨時(shí)目錄中 4,將目錄hadoop-unjar38923742,目錄hadoop-unjar38923742/class, 目錄

15、hadoop-unjar38923742/lib中的每個(gè)文件作為URLClassLoader參數(shù),構(gòu)造一個(gè)classLoader. 5,將當(dāng)前線程的上下文ClassLoader設(shè)置為classLoader 6,以上5步都是為mainClass啟動做準(zhǔn)備,最后應(yīng)用反射啟動mainClass,將args作為參數(shù) MainClass bin/hadoop jar -libjars testlib.jar -archives test.tgz -files file.txt inputjar args job.setXXX均將KV設(shè)置到了Conf實(shí)例中(傳值,例如將-file指定的文件設(shè)

16、定到Conf中,在submit中獲取,從本地復(fù)制到hdfs) 在Job.submit方法中會向hdfs寫入以下信息 目錄: hdfs://${mapreduce.jobtracker.staging.root.dir}/${user}/.staging/${jobId}/ hdfs://tmp/hadoop/mapred/staging/${user}/.staging/${jobId}/ 目錄下文件: job.split ->(Split信息)由writeSplits方法寫入 job.splitmetainfo ->( Split信息元數(shù)據(jù),版本,個(gè)數(shù),索引)由writeS

17、plits方法寫入 job.xml ->conf對象 job.jar ->inputjar files/ ->參數(shù)-files 逗號分割,交給(DistributedCache管理) archives/ ->參數(shù)-archives 逗號分割, 交給(DistributedCache管理) libjars/ ->參數(shù)-libjars 逗號分割, 交給(DistributedCache管理) split,splitmetainfo(FileSplit) 設(shè)計(jì)目的job.splitmetainfo中保存有Split的在那幾個(gè)機(jī)器上有副本,JT讀取這個(gè)文件用,用來

18、分配Task使Task能夠讀取本地磁盤文件. job.split保存具體的Split,不保存位置信息,因?yàn)門T不需要(hdfs決定) JT調(diào)度 CapacityTaskScheduler, TT TT啟動時(shí)候,啟動線程mapLauncher(用于啟動MapTask),reduceLauncher(用于啟動ReduceTask), taskCleanupThread(用于清理Task或者Job), TT 通過心跳從JT獲得HeartbeatResponse,包含TaskTrackerAction,具體有5種操作 LAUNCH_TASK 啟動任務(wù),將LaunchTaskAction

19、中包裝的Task與Conf對象和TaskLauncher組合成TaskInProgres,然后添加到mapLauncher或者reduceLauncher中的隊(duì)列中. TaskLauncher構(gòu)造參數(shù)numSlots代表當(dāng)前TaskTractor能同時(shí)執(zhí)行多少個(gè)Task,由參數(shù)mapred.tasktracker.map.tasks.maximum, mapred.tasktracker.reduce.tasks.maximum設(shè)定,slot意思為: 槽,位置 將TaskTractor的資源抽象化,一般情況下一個(gè)task占用一個(gè)slot,如果有對資源需求大的Task也可以通過參數(shù)來控制(調(diào)度

20、器CapacityTaskScheduler設(shè)置,未開放給User?) TaskLauncher根據(jù)剩余空閑的槽位(numFreeSlots)和隊(duì)列情況,來從隊(duì)列中取出Task來運(yùn)行(synchronized, wait, notify). KILL_TASK 殺死任務(wù) KILL_JOB 殺死和Job相關(guān)的任務(wù),放入tasksToCleanup隊(duì)列中 REINIT_TRACKER 重新啟動TT COMMIT_TASK 提交任務(wù)(1, speculative execution 2,need commit file?) OutputCommitter REINIT_T

21、RACKER 重啟TT, startNewTask 新的JVM(不是TT的JVM,錯(cuò)誤處理,GC)執(zhí)行Child.class,通過main參數(shù)args Map過程 MapTask中會根據(jù)jobConf記錄的hdfs上的job.split文件以及JT分配的splitIndex獲取InputSplit,根據(jù)jobConf的配置新建Map和InputFormat,由InputFormat獲取RecordReader來讀取inputSplit,生成原始o(jì)riginal_key, original_value交給Mapper.map方法處理生成gen_key,gen_value,根據(jù)

22、partitioner生成partition,成對的(gen_key,gen_value, partition)會先放入一個(gè)緩沖區(qū),如圖,這個(gè)緩沖區(qū)分為3級索引(排序kvoffset,復(fù)制效率)等這個(gè)緩沖區(qū)到達(dá)一定閥值之后,并不是緩沖區(qū)慢之后,SplitThread會標(biāo)記當(dāng)前前后界,對界內(nèi)數(shù)據(jù)進(jìn)行排序(現(xiàn)根據(jù)partition在根據(jù)kv),并寫入到磁盤文件中(split.x.out)并記錄各個(gè)partition段的位置,部分存到內(nèi)存部分存到磁盤,在這個(gè)過程中,map仍然繼續(xù)進(jìn)行,如果緩沖區(qū)滿之后,map線程暫時(shí)wait,到SplitThread完畢. 當(dāng)輸入讀取完畢,隨之的SplitTh

23、read也結(jié)束后,磁盤中中間文件為split.1.out -> split.n.out ,索引部分存在內(nèi)存里面,超過1024*1024個(gè),作為索引文件spill.n.out.index(避免內(nèi)存不夠用). 然后通過合并排序?qū)⒎侄蔚奈募?split.x.n)合并排序成一個(gè)文件file.out,file.out.index記錄partition信息.(詳細(xì)見MergeQueue)這樣在Reduce過程中,通過http請求TT其中需要的partition段(參數(shù)reduce),TT根據(jù)file.out.index記錄的索引信息將file.out的partition段,生成http響應(yīng). 如

24、果有Combiner SortAndSpill kvoffset達(dá)到臨界點(diǎn)softRecordLimit,例如100個(gè),設(shè)定80個(gè)為臨界點(diǎn). Kvbuffer達(dá)到臨界點(diǎn)softBufferLimit,例如100M,當(dāng)80M為臨界點(diǎn). 目的是為了不讓map過程停止浪費(fèi)時(shí)間,但由于IO map可能會慢一點(diǎn)(進(jìn)一步多磁盤負(fù)載). io.sort.mb配置的是圖中kvoffset,kvindices,kvbuffer占用的空間總大小Mb. 上述參數(shù)都可以通過conf.setXXX來配置,根據(jù)特定job的特點(diǎn)來設(shè)定.來減少Spill次數(shù),同時(shí)避免內(nèi)存溢出. Reduce過程 Jo

25、bInProgress初始化mapred.reduce.tasks個(gè)ReduceTask 用參數(shù)partition區(qū)別. 然后JT在心跳過程中,將ReduceTask分給TT執(zhí)行. ReduceTask有SHUFFLE, SORT, REDUCE三個(gè)階段 SHUFFLE 這一階段是ReduceTask初始化階段,新建了N(參數(shù)控制)個(gè)下載線程,來獲取Map的輸出,TaskTracker中有一個(gè)線程會不斷的從JT中獲取在本TT運(yùn)行的ReudceTask(s)的JOB的Map完成事件. ReduceTask不斷從TT中獲取Job的Map完成事件,然后將事件中的Map輸出位置交給下載線程

26、來獲取. 下載的時(shí)候,從HTTP響應(yīng)頭獲取文件的大小,決定是放在內(nèi)存中還是寫入磁盤. 在內(nèi)存中的數(shù)據(jù),滿足一定條件會在后臺將內(nèi)存中的數(shù)據(jù)Merger寫入硬盤,在硬盤中的數(shù)據(jù),滿足一定條件(數(shù)目超過了2 * ioSortFactor - 1)會在后臺做Merger.所有的Map輸出下載完畢,并且后臺Merger線程也結(jié)束后,進(jìn)入SORT階段. SORT 這個(gè)階段還是Merger,將內(nèi)存和硬盤中的數(shù)據(jù),做合并排序(ioSortFactor),使能夠高效率的輸出key ,values.然后進(jìn)入REDEUCE階段. REDUCE 這一階段只要是將上述產(chǎn)生的key value通過Reduce

27、Context轉(zhuǎn)化成key values(ValueIterable),傳遞給reduce,最后通過輸出配置,將reduce的輸出寫入HDFS(part-r-00000,1,2…),或者其他. MergeQueue MR 優(yōu)化 1,控制好每個(gè)Map的輸入和輸出,盡量使Map處理存在本地的Block,一個(gè)InputSpilt不要太大,最好使產(chǎn)生的輸出能控制在io.sort.mb之內(nèi),這樣能夠減少從內(nèi)存將輸出數(shù)據(jù)寫到磁盤的磁盤的個(gè)數(shù). 根據(jù)任務(wù)將io.sort.mb設(shè)置合理,盡量能容納單個(gè)Map全部輸出. 2, 多磁盤負(fù)載,MR中大量的臨時(shí)輸出文件會放在這個(gè)下mapred.local.di

28、r = /hd1/mr, /hd2/mr, /hd3/mr hd*為掛載的不同磁盤.LocalDirAllocator從以上多個(gè)目錄中分配每次創(chuàng)建文件的目錄,降低IO負(fù)載.(其他SSD) HDFS中逗號分隔的目錄(dfs.data.dir, dfs.name.dir, dfs.name.edits.dir)是為了冗余. 3,Map輸出壓縮,減少網(wǎng)絡(luò)傳輸. 4,Reduce階段,將各個(gè)map的輸出下載到本地,由于各個(gè)Map輸出可能有大有小,合適的可以放到內(nèi)存中,( mapred.job.reduce.total.mem.bytes, mapred.job.shuffle.input.buffer.percent),減少N個(gè)下載線程寫磁盤. 5,設(shè)置Java運(yùn)行內(nèi)存偏大,GC回收算法. UseConcMarkSweepGC. 6,頻外心跳mapreduce.tasktracker.outofband.heartbeat,會加重JT負(fù)擔(dān). 預(yù)想優(yōu)化 Reduce負(fù)載較重(收集N個(gè)map輸出,執(zhí)行統(tǒng)計(jì)工作),可以通過指定高配置機(jī)器,網(wǎng)絡(luò)節(jié)離中心交換機(jī)近. 做Merger的時(shí)候[k,vvv,k,vv] 最后 源碼基于hadoop-0.20.203.0,粗糙整理,不斷完善中,正誤自辯，如有疑問交流或指正錯(cuò)誤,可發(fā)郵件nice2mu@。