(文/觀察者網(wǎng) 呂棟 編輯/張廣凱)
8月25日,觀察者網(wǎng)獲悉,華為將于8月27日推出新款A(yù)I SSD(固態(tài)硬盤),這種硬盤并非用于個(gè)人電腦中的消費(fèi)級(jí)SSD,而是用在大模型訓(xùn)練和推理的數(shù)據(jù)中心中。
知情人士對觀察者網(wǎng)稱,華為推出新款A(yù)I SSD,旨在破解AI訓(xùn)練推理中的“顯存墻”難題。傳統(tǒng)HBM(高帶寬內(nèi)存)存在容量限制,而華為通過技術(shù)創(chuàng)新提供大容量SSD,同時(shí)提升數(shù)據(jù)吞吐效率,可大幅提升算力卡效率,為AI應(yīng)用提供更強(qiáng)支撐。
單純看這一消息可能不太好理解,但結(jié)合華為近期在數(shù)據(jù)存儲(chǔ)領(lǐng)域的動(dòng)向,就不難看出,華為是想通過軟硬兩手,降低對高性能HBM的依賴,讓可獲得的HBM更高效發(fā)揮作用,同時(shí)也能提升SSD的價(jià)值。
當(dāng)下,國產(chǎn)DRAM(動(dòng)態(tài)隨機(jī)存儲(chǔ)器)和HBM還與國外存在代際差距,同時(shí)美國還對HBM的出口和制造進(jìn)行嚴(yán)格管制,但是國產(chǎn)NAND閃存技術(shù)已經(jīng)取得長足發(fā)展,國產(chǎn)消費(fèi)級(jí)和企業(yè)級(jí)SSD的競爭力明顯提升。
如果能減少高性能HBM的使用,充分發(fā)揮SSD的作用,就能一定程度降低模型訓(xùn)練和推理的成本,緩解中國AI產(chǎn)業(yè)界對高性能HBM的依賴,是另一種“系統(tǒng)補(bǔ)單點(diǎn)”的思維。
就在前不久,華為曾推出一項(xiàng)名為(推理記憶數(shù)據(jù)管理器)的技術(shù)。這種技術(shù)可以根據(jù)記憶熱度,在HBM、DRAM、SSD等存儲(chǔ)介質(zhì)中分級(jí)緩存數(shù)據(jù),相當(dāng)于擴(kuò)充了HBM的容量,讓模型能記住的KV Cache數(shù)據(jù)更多,同時(shí)能更智能、更快速的調(diào)用數(shù)據(jù)。
KV Cache可以優(yōu)化計(jì)算效率、減少重復(fù)運(yùn)算,但會(huì)對HBM顯存造成巨大壓力,而UCM的關(guān)鍵作用就是減輕HBM壓力,讓SSD在訓(xùn)練和推理中發(fā)揮更大作用,這可能也是華為很快又推出新款A(yù)I SSD的原因。
“華為此次布局,或?qū)θ騍SD市場形成沖擊?!鼻笆鋈耸繉τ^察者網(wǎng)稱,結(jié)合華為自研XtremeLink、SpeedFlex PCB等技術(shù),成為國產(chǎn)SSD突破的關(guān)鍵一步。華為將與國內(nèi)訓(xùn)推一體機(jī)廠商合作,有利于中國構(gòu)建全新AI生態(tài)鏈,應(yīng)對全球化挑戰(zhàn)。
“AI SSD聚焦提升訓(xùn)練效率和推理體驗(yàn), 存儲(chǔ)器領(lǐng)域不會(huì)僅有HBM一枝獨(dú)秀,有望形成百花齊放的競爭態(tài)勢。華為計(jì)劃與一體機(jī)廠商合作,改變現(xiàn)有局面,為AI存儲(chǔ)器市場注入新活力,帶來更多可能性?!彼f道。
評論