算力網(wǎng)絡是一種以計算能力為主要資源,以網(wǎng)絡為載體,實現(xiàn)資源共享和協(xié)同工作的新型基礎設施,也是打開算力真正價值的“鑰匙”。隨著云計算、大數(shù)據(jù)、人工智能等技術的不斷發(fā)展,算力網(wǎng)絡在各行各業(yè)的應用越來越廣泛,如智慧城市、工業(yè)互聯(lián)網(wǎng)、金融科技等。
目前,全球算力網(wǎng)絡建設進入了一個高速發(fā)展階段。據(jù)國際數(shù)據(jù)公司(IDC)發(fā)布的報告顯示,全球算力投資額將在未來五年內(nèi)以每年16.5%的復合增長率增長。中國作為全球最大的算力市場之一,算力投資額占比已超過全球總投資額的1/3。
大模型走進我們的視野已經(jīng)過去近一年的時間。在這期間,行業(yè)內(nèi)似乎對于作為底層支撐的智算中心更加關注,更加關注如何能夠提升算力、算效,以更快的時間,更低的成本,打造更好的大模型產(chǎn)品。
高通于2023年9月發(fā)布了AI白皮書,提出 “混合AI是AI的未來”。在其最新的Snapdragon8 Gen3芯片中更是集成了73Tops算力的NPU,使得在終端側運行100億參數(shù)級別的模型成為可能。
這預示著大模型也將進入一個全新的發(fā)展階段,模型算法、部署、推理、分發(fā)等方面都將面臨全新的挑戰(zhàn)。雖然算力是其中最重要的一環(huán),但是在混合AI的未來,面向個體、面向隱私、面向可靠的分發(fā)的AI創(chuàng)新平臺,必將催生對于網(wǎng)絡架構、協(xié)議、存儲等形態(tài)的變革。
在互聯(lián)科技AINet負責人張先國看來,在以模型為中心的AIG時代,對強有力的網(wǎng)絡生態(tài)系統(tǒng)的需求將更加迫切。“在大模型時代,傳統(tǒng)的互聯(lián)網(wǎng)的‘公網(wǎng)’已經(jīng)不足以滿足當下的業(yè)務和應用需求。”張先國強調(diào),“時代需要一張新的網(wǎng)絡去承載AGI業(yè)務需求。”
中關村超互聯(lián)新基建產(chǎn)業(yè)創(chuàng)新聯(lián)盟秘書長馬炬也有著相似的觀點,他表示:“現(xiàn)有的網(wǎng)絡是否能承載大模型時代的模型訓練、網(wǎng)絡傳輸,以及算力供給等方面的需求?這是現(xiàn)階段行業(yè)需要考慮的一大問題。”
算力服務本質(zhì)就是能夠把算力像水和電一樣隨用隨取,在此過程中,網(wǎng)絡時延是衡量使用算力是否便捷、普惠和泛在關鍵指標之一。張先國對鈦媒體表示,在AGI快速發(fā)展的當下,企業(yè)、用戶需要一個更加智能、更加便捷的互聯(lián)網(wǎng)架構,這個網(wǎng)絡架構也將是解鎖大模型價值的關鍵鑰匙。
與此同時,《算力基礎設施高質(zhì)量發(fā)展行動計劃》中要求到2025年國家樞紐節(jié)點數(shù)據(jù)中心集群間基本實現(xiàn)不高于理論時延1.5倍的直連網(wǎng)絡傳輸主要目標?!队媱潯诽岢鰪娀懔尤刖W(wǎng)絡能力,城區(qū)重要算力基礎設施間時延不高于1ms,推動算力網(wǎng)絡國家樞紐節(jié)點直連網(wǎng)絡骨干節(jié)點,國家樞紐節(jié)點內(nèi)重要算力基礎設施間時延不高于5ms等重點任務。
網(wǎng)絡的建設可以從兩個方面看,一方面,如今訓練模型的數(shù)據(jù)集已經(jīng)達到TB級別,而因成本等原因的影響,訓練一般放在“東數(shù)西算”中的“西算”節(jié)點,可應用場景一般來說是“東部地區(qū)”較多,如何“用一杯咖啡”的時間,完成快速的數(shù)據(jù)的傳輸對當下的模型訓練而言,是個挑戰(zhàn);
另一方面,訓練好的模型,在應用過程中的調(diào)優(yōu)、推理等過程,上百GB的數(shù)據(jù)如何以秒級的速度快速推送到每個邊緣節(jié)點,對網(wǎng)絡建設而言,也是個挑戰(zhàn)。
在張先國看來,現(xiàn)階段,對時延要求較高的應用大多數(shù)應用SD-WAN和VPN等技術,“對于企業(yè)而言,SD-WAN和VPN技術雖然可以確保安全、快速的傳輸,但是使用過高,不具備普惠性。”張先國如是說。
在此背景下,AGI實現(xiàn)真正普惠需要一個更低成本、更便捷、更快速、更安全的智能網(wǎng)絡架構的支持。鈦媒體注意到,近日,互聯(lián)科技聯(lián)合多家機構、單位,共同發(fā)布了超級互聯(lián)(Ultra Cross Connects,簡稱UCC)技術理念。
據(jù)鈦媒體了解。超級互聯(lián)(UCC)包含智能互聯(lián)(Intelligent Cross Connects,ICC)和分布式互聯(lián)(Decentralized Cross Connects,DCC)。ICC是指一個具備AI推理能力,承載各種生成式AI創(chuàng)新應用的智能推理應用入口;DCC是指構成數(shù)字新世界的“腦神經(jīng)網(wǎng)絡”,具有無所不在、無時不有的分布式屬性。UCC不是簡單的寬帶升級,而一種全新的萬物智能互聯(lián)方式,一個讓人、機器、模型和數(shù)據(jù)更緊密連接的未來世界的愿景。
互聯(lián)科技CEO吳健對鈦媒體表示,UCC的愿景目標是推出一種互聯(lián)網(wǎng)寬帶接入以外的第二個物理連接AINet。
值得注意的是,算力網(wǎng)絡已經(jīng)成為當下行業(yè)關注的焦點,除了此次互聯(lián)科技聯(lián)合業(yè)內(nèi)眾多服務商發(fā)布的UCC以外,據(jù)鈦媒體了解,中國信通院也希望憑借自身政府主管部門的屬性,提出了“算力服務時延圈領航者計劃”,力圖規(guī)范化、標準化算力網(wǎng)絡建設。據(jù)了解,該計劃在1.0標準互聯(lián)網(wǎng)訪問基礎上,面向算力節(jié)點覆蓋、網(wǎng)絡時延、傳輸質(zhì)量、統(tǒng)一管控等方面,聯(lián)合產(chǎn)業(yè)界持續(xù)構建算力服務時延圈2.0標準體系,重點圍繞算力服務接入、算間互聯(lián)、時延地圖、管控調(diào)度等方面進行標準化,統(tǒng)一算力時延圈定義,規(guī)范網(wǎng)絡時延測試方法。
濟南超算中心則建設了對外的互聯(lián)網(wǎng)出口網(wǎng)絡帶寬超過15Gbps,并于與青云科技合作打造了基于SD-WAN網(wǎng)絡接入的方式。同時還與青云科技合作,針對已有的集群,進行算力融合和算力調(diào)度。在邊緣計算上,濟南超算中心與青云科技聯(lián)合打造了基于目前數(shù)據(jù)中心的物聯(lián)網(wǎng)平臺做了邊緣推理。
上述提到的主管部門及服務商在算力網(wǎng)絡建設方面開展的工作,僅是“冰山一角”,相信隨著企業(yè)對算力需求的不斷增加,以及AGI相關產(chǎn)品逐步在用戶側落地應用,將有更多的企業(yè)布局算力網(wǎng)絡建設方面的產(chǎn)品及解決方案。
快報
根據(jù)《網(wǎng)絡安全法》實名制要求,請綁定手機號后發(fā)表評論
算力在智能社會中的重要性是否被過高估計?
你認為算力在這個時代重要嗎