基于FT-MPI和糾刪碼的并行程序容錯機制研究與性能優(yōu)化.pdf

1、近年來，高性能計算(High Performance Computing，HPC)系統(tǒng)在規(guī)模和擁有的處理器數(shù)量上有迅速增長的趨勢。而系統(tǒng)出現(xiàn)故障的可能性也隨之大大增加。如何設(shè)計高效可靠的容錯機制已經(jīng)是高性能計算領(lǐng)域中迫切需要解決的問題。MPI(Message Passing Interface)是高性能計算系統(tǒng)中事實上的編程規(guī)范。在多種包含進程級容錯功能的MPI實現(xiàn)中，F(xiàn)T-MPI[7]檢查點/恢復(fù)機制的系統(tǒng)開銷較低。然而其容錯機制并非

2、對用戶透明，恢復(fù)階段對MPI通信域和用戶數(shù)據(jù)的恢復(fù)需要在應(yīng)用程序一級實現(xiàn)。
　　 本文基于FT-MPI運行時環(huán)境和多種糾刪碼(RAID4/RAID5/RDP/B-code)，實現(xiàn)了一種輕量級的MPI程序容錯機制。根據(jù)對系統(tǒng)開銷和容錯要求的不同，用戶可以選用基于不同編碼設(shè)計的檢查點/恢復(fù)接口，能夠在系統(tǒng)中多個進程或者節(jié)點故障的情況下實現(xiàn)運算中間數(shù)據(jù)的自動恢復(fù)。
　　 通過對消息傳遞系統(tǒng)中主流容錯機制的充分研究，我們選定了基

3、于糾刪碼的內(nèi)存協(xié)同檢查點協(xié)議作為設(shè)計各檢查點/恢復(fù)接口的解決方案。在做檢查點時，接口根據(jù)某種編碼把處于同一條紋中的數(shù)據(jù)按位異或后得到冗余數(shù)據(jù)，保存在某個冗余進程或者散布于各個進程中。按照協(xié)同檢查點協(xié)議，各個工作進程在相同的位置調(diào)用檢查點接口，系統(tǒng)每一時刻只保存最近的一個檢查點?；謴?fù)時，F(xiàn)T-MPI首先恢復(fù)MPI運行時環(huán)境和MPI庫的狀態(tài)，然后應(yīng)用程序調(diào)用恢復(fù)接口，從之前保存的內(nèi)存檢查點數(shù)據(jù)中通過解碼恢復(fù)重啟進程的檢查點數(shù)據(jù)，使得整個程序