過(guò)去做企業(yè)級(jí)IT，如今搞企業(yè)級(jí)AI，都有點(diǎn)像跑船打漁，船越大就越不能只圖快，更得求穩(wěn)，否則船一翻，載得漁獲越多損失就越重。確實(shí)是風(fēng)浪越大魚(yú)越貴，前提是你得平安返港。
再具象點(diǎn)說(shuō)，你可能聽(tīng)過(guò)這樣的數(shù)據(jù)：超40%的大中型企業(yè)每小時(shí)停機(jī)成本超過(guò)100萬(wàn)美元，甚至超過(guò)500萬(wàn)美元，這不是聳人聽(tīng)聞，是來(lái)自實(shí)際統(tǒng)計(jì)。在“算力即財(cái)富”的AI時(shí)代，服務(wù)器宕機(jī)帶來(lái)的損失，比直接燒錢(qián)來(lái)得還快!而且這種情況出現(xiàn)的可能性還挺高，畢竟AI集群正加速向萬(wàn)卡級(jí)規(guī)模突破，系統(tǒng)越復(fù)雜、計(jì)算密度越高，就越可能出現(xiàn)更多的靜默數(shù)據(jù)錯(cuò)誤(SDE)及發(fā)生在內(nèi)存與PCIe等組件中的故障。
別等問(wèn)題發(fā)生時(shí)我們才警覺(jué)：不能只將目光聚焦在GPU或各種AI加速器的算力能否充分發(fā)揮上。沒(méi)有一個(gè)穩(wěn)定可靠的運(yùn)行環(huán)境，這種發(fā)揮就不能持久，而不持久比不充分更虧本兒。
誰(shuí)能從根本上解決這個(gè)問(wèn)題?指望加速器芯片不現(xiàn)實(shí)，畢竟它們的任務(wù)是計(jì)算，需要依賴(lài)主控(或機(jī)頭)系統(tǒng)才能進(jìn)行工作，你要依賴(lài)的，恰恰是一直在AI服務(wù)器或集群中被視為“配角“的CPU。如果你選擇至強(qiáng)®6 處理器作為機(jī)頭或主控，它的“三高”能力(高可靠性、高可用性、高可維護(hù)性，RAS)就能接過(guò)保障整體系統(tǒng)穩(wěn)定運(yùn)行的重任，為GPU創(chuàng)造一個(gè)“心無(wú)旁騖”、“全力輸出”的環(huán)境，實(shí)現(xiàn)整個(gè)系統(tǒng)1+1>2的效能倍增。
或許你會(huì)說(shuō)，各家企業(yè)級(jí)CPU都有RAS特性或功能啊，為啥如此強(qiáng)調(diào)至強(qiáng)®6?這是因?yàn)樗幸恍┆?dú)具且強(qiáng)化的功能，能幫你的AI平臺(tái)與應(yīng)用更好地避坑：
告別“數(shù)據(jù)污染”,為GPU掃清“靜默錯(cuò)誤雷區(qū)”
在動(dòng)輒千卡萬(wàn)卡的AI集群中，一些微小的靜默數(shù)據(jù)錯(cuò)誤就像潛伏的“地雷”，平時(shí)難以察覺(jué)，一旦“引爆”就可能污染訓(xùn)練結(jié)果、干擾模型收斂，以及導(dǎo)致錯(cuò)誤的推理結(jié)果。
擔(dān)當(dāng)機(jī)頭或主控系統(tǒng)核心的至強(qiáng)®6，能主動(dòng)扮演“排雷兵”的角色。它的絕技是利用硬件故障壓測(cè)與復(fù)檢工具套件 (SHC & DCDiag)，鎖步模式 (Lock Step Mode) 和故障掃描巡檢(In-Field-Scan)等SDE檢出功能，對(duì)GPU前行的“道路“進(jìn)行細(xì)致排查，提前揪出并排除這些“隱形錯(cuò)誤”。這確保了機(jī)頭或主控CPU交付給GPU的計(jì)算任務(wù)是更為純凈或可靠的，能讓GPU的每一次運(yùn)算都建立在更堅(jiān)實(shí)可信的基礎(chǔ)之上。
終結(jié)“頻繁宕機(jī)”：用更強(qiáng)可用性給GPU穩(wěn)定工作上保險(xiǎn)
可用性是AI集群“持久連續(xù)運(yùn)行”的關(guān)鍵，至強(qiáng)®6在這方面承襲了英特爾在至強(qiáng)產(chǎn)品線上長(zhǎng)達(dá)6代的技術(shù)迭代，積累了不少絕活兒，如：
1、內(nèi)存糾錯(cuò)與排障：通過(guò)SDDC、ADDDC等技術(shù)，能100%糾正單顆粒內(nèi)存錯(cuò)誤，并自適應(yīng)修正多顆粒錯(cuò)誤，為GPU提供穩(wěn)定的數(shù)據(jù)通路。
2、服務(wù)容錯(cuò)：MCA Recovery機(jī)制確保服務(wù)器在遇到非致命錯(cuò)誤時(shí)可以“帶病運(yùn)行”，避免GPU工作流無(wú)故中斷，到至強(qiáng)®6這一代，MCA Recovery還實(shí)現(xiàn)了更多恢復(fù)手段。
3、PCIe穩(wěn)健器：eDPC功能保障了GPU與系統(tǒng)之間高速數(shù)據(jù)鏈路的穩(wěn)定，這對(duì)于依賴(lài)海量數(shù)據(jù)交換的AI任務(wù)至關(guān)重要。
“首席技術(shù)支持” 為AI集群 構(gòu)建分鐘級(jí)故障診斷與恢復(fù)體系
作為AI集群7 x 24小時(shí)待命的“首席技術(shù)支持”，至強(qiáng)®6 處理器配備RAS Offload與增強(qiáng)的內(nèi)存故障EDAC driver，用來(lái)豐富故障上報(bào)信息，同時(shí)規(guī)避業(yè)務(wù)中斷影響與性能抖動(dòng)。
ACD、ASD等高級(jí)診斷工具，能將故障診斷的SLA(服務(wù)等級(jí)協(xié)議)從“周”級(jí)壓縮到“分鐘”級(jí)。
更重要的是，作為AI集群“壓艙石”，至強(qiáng)®6能通過(guò)上述工具鏈快速適配不同品牌GPU或AI加速器，輔助診斷、迅速定位并協(xié)助解決它們的故障，最大程度縮短整個(gè)系統(tǒng)的中斷時(shí)間，讓它們能“物盡其用”。
至強(qiáng)®6這“三高“能力疊加起來(lái)，就構(gòu)成了目前AI服務(wù)器/集群機(jī)頭或主控領(lǐng)域獨(dú)一份的控場(chǎng)穩(wěn)盤(pán)能力。有國(guó)內(nèi)某頭部AI大廠的實(shí)踐證明，通過(guò)綜合應(yīng)用至強(qiáng)這些RAS能力，CPU造成的宕機(jī)率已被降低了50%，二次返修率也顯著下降，讓其服務(wù)器的投資有了更優(yōu)的回報(bào)。
最后說(shuō)個(gè)讓你意想不到的數(shù)字——至強(qiáng)®6平臺(tái)，目前在RAS具體特性或功能上，已集成了多達(dá)六大類(lèi)52項(xiàng)細(xì)分功能，這些功能可能遠(yuǎn)不如表面“可見(jiàn)”的CPU核心數(shù)、主頻、內(nèi)存帶寬、互連通道等與性能密切相關(guān)的規(guī)格那樣醒目或振奮人心，但一旦遇到麻煩，你就會(huì)覺(jué)得它們還是多多易善、越強(qiáng)越好。這情形就像大船上的水密隔艙，平時(shí)用不上看不到以為是累贅，等撞上礁石，它們帶給你的，是帶傷也可繼續(xù)工作并能平安返港回家的從容。
想解鎖至強(qiáng)®6更強(qiáng)RAS能力讓AI計(jì)算更可靠的秘笈?
請(qǐng)?jiān)L問(wèn)英特爾官網(wǎng)，解鎖更多RAS潛能。
