在江蘇省南京市中國電信吉山數(shù)據(jù)中心,一輛白色的大型卡車吸引了眾多來訪者的注意,然而這輛看似普通的卡車卻內(nèi)藏乾坤,蘊含大量智能算力。這輛車名為“智能算力車”,由中國電信聯(lián)合烽火通信打造,以滿足客戶數(shù)據(jù)不出域、靈活訓(xùn)練大模型的算力需求,實現(xiàn)全國調(diào)度、隨用隨到、安全可靠。
“智能算力車”創(chuàng)新概念由中國電信首次提出,顧名思義是將計算資源整合至車載平臺,搭建算力網(wǎng)絡(luò),通過對算力資源的有序調(diào)度來滿足數(shù)據(jù)敏感類客戶在特定場景下,對高安全性、高私密性、快速部署的算力任務(wù)需求,為用戶提供便捷高效的移動計算能力服務(wù)。
烽火通信承接了“智能算力車”集裝箱微模塊部分的設(shè)計、制造及交付。單體移動算力車搭載了8臺烽火FitSever G440K V2高性能訓(xùn)練服務(wù)器,每臺設(shè)備配備了8張高性能訓(xùn)練卡,通過底層交換架構(gòu)實現(xiàn)多卡互聯(lián),充分加速中小型規(guī)模的模型訓(xùn)練任務(wù)。同時,車內(nèi)還集成了配電和UPS兩大模塊,以及制冷和監(jiān)控兩大系統(tǒng),全方位為算力車內(nèi)外部提供動能支持和狀態(tài)監(jiān)控,保障穩(wěn)定運行。
相較傳統(tǒng)機房高額的建設(shè)投入、漫長的建設(shè)周期與復(fù)雜的后期維護,“智能算力車”具有靈活部署、安全可靠、便捷省心的特點,并具備獨立節(jié)點與集群組網(wǎng)兩種解決方案。
在獨立節(jié)點方案下,以一組算力車為完整計算單元,基本十天左右可完成特定行業(yè)的模型訓(xùn)練任務(wù),做到完全物理隔離,保障用戶數(shù)據(jù)的私密性和安全性;同時對環(huán)境要求低,僅需提供車輛停放場地和自來水水源,即停即用,同城可實現(xiàn)24小時內(nèi)部署完成,本省異地城市區(qū)域隔日抵達,支持全國調(diào)度。
在多車集群組網(wǎng)方案下,采用Spine-Leaf架構(gòu),實現(xiàn)多車算力互聯(lián),支持中大型模型的訓(xùn)練任務(wù),集群擴展能力可彈性伸縮,客戶可根據(jù)需求靈活增減算力規(guī)模。
近日,“智能算力車”解決方案首次在江蘇落地,隨后將駛往雄安電信數(shù)據(jù)中心開展交通大模型訓(xùn)練。
烽火通信將攜手中國電信,持續(xù)深化算力車功能定制與開發(fā)適配層面的合作,共同推動其在應(yīng)急通信、重大工程外場保障方面的應(yīng)用,并堅持技術(shù)創(chuàng)新,不斷探索多車互聯(lián)、訓(xùn)推一體等方案從試點到規(guī)模商用。