新建智算中心耗時長、投入成本高,垂直行業中小規模算力需求卻激增。算力中國·AI與算力產業展覽會上,太初元碁首次展出標準化集裝箱算力產品,以預製化、模塊化方案破解傳統智算中心建設周期長、投入大的痛點。
太初元碁首席產品官兼高級副總裁洪源表示,當前算力需求呈指數級增長,國產算力缺口擴大。為更靈活、更快速滿足不同行業需求,公司打造分布式算力解決方案,以20英尺、40英尺標準化集裝箱為載體,推出集裝箱算力單元。可按需配置32卡至256張國產AI加速卡,風冷、液冷散熱模式可選,單體集裝箱最高可實現80PFLOPS算力輸出,支持橫向擴展搭建千卡算力集群。
2小時完成部署效率提升70%
產品在工廠完成90%以上預製裝配,現場接通電力即可部署,最快2小時完成上電部署,相比傳統機房交付效率提升70%,資源利用率提升超60%。集裝箱算力單元可以就近部署在風電、光伏電站周邊,實現綠電就地消納,適配應急算力、工業基地、科研機構等多元場景。
太初元碁首席架構師夏忠謀表示,行業對算力的要求已經從單卡性能上升到整套計算系統。他預測,明年模型規模大概會達到5萬億參數,後年有望達到10萬億參數,對應所需算力卡數量要達到10萬甚至百萬張。
夏忠謀認為,國內外目前最大的差距集中在萬卡以上規模的大模型預訓練,涉及硬件架構、計算系統、軟硬件穩定性。但差距正在縮小:前兩年國內能力停留在千卡級別,明年萬卡規模預訓練能力就可以落地,能夠支撐萬億參數模型,萬億向十萬億參數跨越,是下一個要爬坡的階段。推理場景下,國產算力大部分場景已經可以實現對國外先進算力的替代,用戶最終買單看實際Token輸出性能。
評論成功,請等待管理員審核...

評論(0)
0 / 255