聯(lián)想問(wèn)天WA7780 G3是一款專為AI大模型訓(xùn)練所打造的服務(wù)器。隨著通用人工智能時(shí)代到來(lái),大模型訓(xùn)練的參數(shù)量突破萬(wàn)億級(jí)關(guān)卡,AI算力已成為企業(yè)訓(xùn)練開發(fā)使用人工智能的硬門檻。聯(lián)想問(wèn)天WA7780G3正是為打破AI算力供給困境而來(lái),為通用大模型訓(xùn)練提供強(qiáng)勁的算力支撐。
澎湃算力
聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器基于第四代和五代英特爾®至強(qiáng)@可擴(kuò)展處理器,加載了8顆NVIDIA HGX" NVLink® GPU。
超強(qiáng)架構(gòu)
聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器,為了滿足A|超大模型訓(xùn)練場(chǎng)景下,GPU服務(wù)器間高速數(shù)據(jù)通信的需求,支持IB,ROCE等多種對(duì)外網(wǎng)絡(luò)連接方案。最高可以支持8張RDMA高速網(wǎng)卡,提供3.2Tb/s聚合帶寬。充分滿足了超大模型訓(xùn)練并行計(jì)算時(shí),跨節(jié)點(diǎn)的通信需求。同時(shí),在本地存儲(chǔ)的設(shè)計(jì)上,采用了GPU Direct Storage(GDs)技術(shù)。通過(guò)GDS技術(shù)，GPU與NVMe實(shí)現(xiàn)了快速低延遲互聯(lián),能夠有效提高訓(xùn)練數(shù)據(jù)載入的速度,提升大模型訓(xùn)練的性能。
節(jié)能高效
聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器,在產(chǎn)品設(shè)計(jì)中來(lái)用了三重獨(dú)立風(fēng)道設(shè)計(jì),針對(duì)不同部件的散熱特征,進(jìn)行了系統(tǒng)性的優(yōu)化,有效降低了由風(fēng)扇帶來(lái)的散熱功耗。相比同級(jí)別產(chǎn)品，聯(lián)想問(wèn)天WA7780G3功耗降低約10%。
