4月26日，中國(guó)電信粵港澳大灣區(qū)智算昇騰超節(jié)點(diǎn)在粵港澳大灣區(qū)一體化數(shù)據(jù)中心正式商用發(fā)布，標(biāo)志著最強(qiáng)智能算力注入粵港澳大灣區(qū)國(guó)家級(jí)算力樞紐節(jié)點(diǎn)。廣東省委常委、副省長(zhǎng)張國(guó)智，中國(guó)電信董事長(zhǎng)柯瑞文，韶關(guān)市委書(shū)記陳少榮，華為公司董事、質(zhì)量流程IT總裁陶景文出席并致辭。中國(guó)電信云網(wǎng)發(fā)展部（國(guó)際部）總經(jīng)理董濤發(fā)表主題演講，中電信人工智能 科技 有限公司副總經(jīng)理?xiàng)罡陞R報(bào)基于超節(jié)點(diǎn)的大模型研發(fā)計(jì)劃。中國(guó)電信廣東公司總經(jīng)理張濤、副總經(jīng)理王湘江、副總經(jīng)理李進(jìn)出席活動(dòng)。

華為助力中國(guó)電信打造的智算昇騰超節(jié)點(diǎn)成為粵港澳大灣區(qū)內(nèi)最快部署、最先投產(chǎn)、最先進(jìn)的智算集群，滿足高性能高可靠的大模型訓(xùn)練需求和高吞吐低時(shí)延的大模型推理需求，為大灣區(qū)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展注入了新動(dòng)能，開(kāi)啟賦能政務(wù)、制造、教育醫(yī)療等行業(yè)智能化。這不僅是技術(shù)的突破，更是對(duì)區(qū)域和國(guó)家數(shù)字 經(jīng)濟(jì) 發(fā)展的有力推動(dòng)。

陶景文介紹，大模型參數(shù)量級(jí)跨越式增長(zhǎng)，頂尖AI公司日均tokens消耗突破12萬(wàn)億量級(jí)，多模態(tài)融合交互，層出不窮的AI新應(yīng)用都對(duì)算力效率提出了更高要求。中國(guó)電信率先推出全球首個(gè)智算昇騰超節(jié)點(diǎn)商用集群，該超節(jié)點(diǎn)采用昇騰AI基礎(chǔ)軟硬件，結(jié)合高速總線互聯(lián)，具備大規(guī)模、高性能、高可用等特性。超節(jié)點(diǎn)架構(gòu)成功突破算力瓶頸，使用TB級(jí)全互聯(lián)帶寬、內(nèi)存統(tǒng)一編址及統(tǒng)一通信協(xié)議等前沿技術(shù)，實(shí)現(xiàn)訓(xùn)練效率提升2.7倍。其還運(yùn)用大規(guī)模專家并行推理集群解決方案，通過(guò)多專家負(fù)載均衡和極致通信優(yōu)化，實(shí)現(xiàn)高吞吐和低時(shí)延，大幅提升推理效率，能夠充分滿足未來(lái)千億至萬(wàn)億級(jí) MOE 大模型的訓(xùn)練與推理需求。

華為將繼續(xù)加大力度，支撐中國(guó)電信基于昇騰超節(jié)點(diǎn)優(yōu)化、迭代自研星辰大模型，升級(jí)大模型能力，為用戶提供更優(yōu)質(zhì)的服務(wù)；同時(shí)，基于昇騰超節(jié)點(diǎn)對(duì)外賦能，促進(jìn) AI 賦能政務(wù)辦公和服務(wù)升級(jí)，加速AI在實(shí)體經(jīng)濟(jì)中落地。助力中國(guó)電信進(jìn)一步鞏固在國(guó)內(nèi)人工智能領(lǐng)域的產(chǎn)業(yè)引領(lǐng)地位，強(qiáng)化算力布局先發(fā)優(yōu)勢(shì)，持續(xù)推進(jìn)智算服務(wù)升級(jí)。

陶景文最后總結(jié)："展望未來(lái)，華為將秉持開(kāi)放、合作、共贏理念，與中國(guó)電信及廣大合作伙伴，持續(xù)加大AI研發(fā)投入，深化在基礎(chǔ)設(shè)施建設(shè)、產(chǎn)業(yè)生態(tài)培育、行業(yè)創(chuàng)新應(yīng)用等方面的合作，把粵港澳大灣區(qū)昇騰超節(jié)點(diǎn)智算集群打造成國(guó)內(nèi)領(lǐng)先、國(guó)際一流的智算平臺(tái)，為大灣區(qū)數(shù)字經(jīng)濟(jì)發(fā)展提供算力支撐。”