應用

技術

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

中國電信攜手阿里云打造粵港澳大灣區(qū)首個“真武”國產(chǎn)萬卡智算集群,可承載千億參數(shù)級 LLM 推理任務

2026-04-09 09:06 IT之家

導讀:中國電信廣東公司聯(lián)合阿里云宣布在廣東韶關數(shù)據(jù)中心集群上線“粵港澳大灣區(qū)首個基于‘真武’芯片的萬卡智算集群”,該集群實現(xiàn)了從芯片、云平臺到模型應用的全鏈路自主研發(fā)。

  4 月 8 日消息,中國電信廣東公司聯(lián)合阿里云宣布在廣東韶關數(shù)據(jù)中心集群上線“粵港澳大灣區(qū)首個基于‘真武’芯片的萬卡智算集群”,該集群實現(xiàn)了從芯片、云平臺到模型應用的全鏈路自主研發(fā)。

  據(jù)悉,該集群在技術層面實現(xiàn)了多項關鍵突破。通過卡間 RoCE 高性能組網(wǎng)、雙平面多軌通信等技術創(chuàng)新,集群端到端網(wǎng)絡時延低至 4 微秒,網(wǎng)絡峰值利用率超過 95%,能夠高效滿足大模型訓練過程中 AllReduce、AlltoAll 等超大流量通信需求,穩(wěn)定承載千億參數(shù)級大模型的預訓練與推理任務。

  在生態(tài)兼容方面,“真武”芯片全面適配主流 AI 生態(tài),自研軟件棧高效適配各類主流模型、框架、算子庫及操作系統(tǒng),具備統(tǒng)一的編程接口,可端到端支持用戶自主業(yè)務落地與擴展,大幅降低客戶遷移成本。

  為進一步推動算力普惠,該集群資源同步在“廣東電信算力超市”上線,通過集約運營,面向中小企業(yè)提供按卡、按小時計費的算力零售服務。同時,集群未來預計持續(xù)擴容至十萬卡規(guī)模,惠及大灣區(qū)更多科研機構、企業(yè)政務部門以更低成本、更高效率使用算力資源。