生成式AI的發(fā)展，一方面重構(gòu)了各行各業(yè)業(yè)務(wù)流程與數(shù)字化模式；另一方面，對(duì)于底層算力基礎(chǔ)設(shè)施也提出了更高的要求。
根據(jù)IDC測(cè)算，預(yù)計(jì)到2027年，AI數(shù)據(jù)中心容量的復(fù)合年增長(zhǎng)率 (CAGR) 將達(dá)到40.5%，與此同時(shí)AI數(shù)據(jù)中心的能源消耗預(yù)計(jì)將以44.7%的CAGR增長(zhǎng)，到2027年達(dá)到146.2太瓦時(shí)(TWh)。
“AI的盡頭是能源。”——這句話已經(jīng)成為業(yè)內(nèi)共識(shí)。2024年全球數(shù)據(jù)中心耗電達(dá)415太瓦時(shí)，占據(jù)全球總用電量的1.5%，與英國(guó)全年用電量相當(dāng)。其中，美國(guó)數(shù)據(jù)中心耗電量180太瓦時(shí)占全球45%的份額，其次是占據(jù)25%的中國(guó)和占據(jù)15%的歐洲。目前中國(guó)數(shù)據(jù)中心年耗電量約100太瓦時(shí)，大致相當(dāng)于國(guó)內(nèi)電動(dòng)汽車的年用電量。
與此同時(shí)，國(guó)際能源署報(bào)告預(yù)測(cè)，到2030年，全球數(shù)據(jù)中心用電將飆升至945太瓦時(shí)，逼近日本當(dāng)前全國(guó)用電規(guī)模。
國(guó)際能源署發(fā)布的《能源與AI》報(bào)告中指出，以O(shè)penAI的GPT-4為例，該數(shù)據(jù)模型在持續(xù)14周的數(shù)據(jù)模型訓(xùn)練中消耗了42.4吉瓦時(shí)電力，日均耗電0.43吉瓦時(shí)，這堪比2.85萬(wàn)戶歐美家庭的日均用電量。
在AI需求爆發(fā)前，數(shù)據(jù)中心的冷卻系統(tǒng)已占據(jù)40%的能耗。而AI服務(wù)器的單機(jī)柜功率從10kW躍升至50kW以上，徹底擊穿了風(fēng)冷系統(tǒng)的散熱極限。微軟Azure團(tuán)隊(duì)發(fā)現(xiàn)，傳統(tǒng)風(fēng)冷數(shù)據(jù)中心在搭載 H100 GPU后，PUE值從1.3飆升至1.8，部分高熱區(qū)域甚至出現(xiàn)服務(wù)器宕機(jī)。
基于上述背景，不僅是數(shù)據(jù)中心供冷系統(tǒng)，甚至連數(shù)據(jù)中心整體架構(gòu)都迎來(lái)了變革，對(duì)此，海蘭云云計(jì)算首席技術(shù)官林楊表示，作為高載能行業(yè)，數(shù)據(jù)中心提升能源利用率，在數(shù)據(jù)中心整體運(yùn)營(yíng)過(guò)程中至關(guān)重要。
除此之外，因?yàn)榻^大多數(shù)數(shù)據(jù)中心服務(wù)器并非24小時(shí)都處于滿負(fù)載運(yùn)行，而閑時(shí)的算力即便未被利用，數(shù)據(jù)中心內(nèi)部電力消耗卻不會(huì)因此減少，所以，在并行科技市場(chǎng)總監(jiān)荀軍看來(lái)，如何利用好閑時(shí)算力，將每個(gè)Token的算力都盡可能的充分利用好，也是接下來(lái)數(shù)據(jù)中心行業(yè)架構(gòu)變革過(guò)程中需要解決的問(wèn)題。
面對(duì)AI需求與能耗的雙重考驗(yàn)，數(shù)據(jù)中心技術(shù)演進(jìn)也向著兩個(gè)方向推進(jìn)。
一方面，數(shù)據(jù)中心內(nèi)部設(shè)備的功耗不斷降低，將除去服務(wù)器之外的所有“輔助”設(shè)備的能源消耗盡量降低到最低，比如，供冷方面采用制冷效果更好，相對(duì)耗電量更小的液冷或間接蒸發(fā)冷卻技術(shù)；供配電采用相對(duì)電力損耗更低的高壓直流的方式等。
另一方面，也有不少IDC服務(wù)商在數(shù)據(jù)中心建設(shè)選址，以及設(shè)計(jì)等方面尋找數(shù)據(jù)中心碳中和與AI需求“雙贏”的解。
比如，華為就選擇“挖山”建設(shè)數(shù)據(jù)中心，將機(jī)房放在山體內(nèi)，以降低供冷消耗，而海蘭信則選擇將數(shù)據(jù)中心建設(shè)在水中，通過(guò)海水帶走多余的熱量，一方面能有效降低數(shù)據(jù)中心能耗，另一方面還能回收相對(duì)“熱品位”較高的海水的熱量，余熱回收會(huì)進(jìn)行副業(yè)的賦能與發(fā)展。
海蘭信并不是“第一個(gè)吃螃蟹的人”。早在2015年，微軟就在蘇格蘭附近海域部署了全球第一個(gè)海底數(shù)據(jù)中心。微軟先是于2015年在太平洋海域完成了105天概念驗(yàn)證，并后續(xù)在2018年在蘇格蘭東北部的奧克尼群島海底117英尺深處部署了名為“北方群島” 數(shù)據(jù)艙。該數(shù)據(jù)艙內(nèi)置864臺(tái)服務(wù)器，可以存儲(chǔ)27.6PB的數(shù)據(jù)。在海底運(yùn)行了兩年后，微軟在2020年6月把它打撈上岸進(jìn)行分析。
據(jù)微軟分析公布，該數(shù)據(jù)艙運(yùn)行兩年間，故障率僅為陸地?cái)?shù)據(jù)中心的1/8，PUE值低至1.07。其核心在于全密封氮?dú)猸h(huán)境與海水自然散熱的結(jié)合——通過(guò)銅制散熱片將服務(wù)器熱量直接傳遞至4-12℃的深層海水，徹底摒棄傳統(tǒng)制冷系統(tǒng)。
而也正是在2020年，海蘭信開始了海底數(shù)據(jù)中心的技術(shù)驗(yàn)證和研發(fā)進(jìn)程，并于2023年在海南陵水清水灣，正式下水了一期首艙。據(jù)悉，該項(xiàng)目利用海水自然冷卻技術(shù)，具有低能耗、高可靠性和模塊化部署優(yōu)勢(shì)。
同樣經(jīng)過(guò)了兩年多的實(shí)驗(yàn)與摸索，林楊告訴筆者，目前該項(xiàng)目實(shí)現(xiàn)PUE值約1.1，電能損耗降低10%以上，能效提升可達(dá)30%以上。
顯然，在海底部署數(shù)據(jù)中心可以有效的降低數(shù)據(jù)中心制冷方面的能源消耗，同時(shí)還能提升電能利用率。另一方面，將數(shù)據(jù)中心采用完全封閉的方式，也可以將內(nèi)部服務(wù)器完全與外界干擾隔絕。從而降低人為等因素帶來(lái)的數(shù)據(jù)中心故障率（此前有數(shù)據(jù)統(tǒng)計(jì)，數(shù)據(jù)中心內(nèi)部，有超過(guò)半數(shù)的故障是因?yàn)榉N種人為因素導(dǎo)致的），而完全真空無(wú)塵的環(huán)境，也可以延長(zhǎng)服務(wù)器的壽命。
而從TCO（全生命周期成本）角度來(lái)看，海底數(shù)據(jù)中心也明顯優(yōu)于陸地建設(shè)數(shù)據(jù)中心。據(jù)統(tǒng)計(jì)，海底數(shù)據(jù)中心的TCO較陸地低15-20%。以海南陵水項(xiàng)目為例，單個(gè)數(shù)據(jù)艙建設(shè)成本約3300萬(wàn)元，但每年節(jié)省電費(fèi)約660萬(wàn)元（按0.6元/千瓦時(shí)計(jì)算），加上淡水節(jié)約（31.5萬(wàn)元/年）和土地成本（6.8萬(wàn)平方米/100艙），五年即可收回投資。
相比之下，陸地液冷數(shù)據(jù)中心雖然PUE可降至1.15，但建設(shè)成本增加30%，且需額外投入淡水資源（單機(jī)柜年耗水200立方米）。微軟測(cè)算，一個(gè)5000機(jī)柜的海底數(shù)據(jù)中心，十年可節(jié)省運(yùn)營(yíng)成本1.2億美元。
除此之外，通過(guò)對(duì)海底數(shù)據(jù)中心余熱的回收，還可以帶動(dòng)周邊海域的漁業(yè)等副業(yè)發(fā)展，形成一個(gè)相對(duì)較為完善的生態(tài)閉環(huán)，產(chǎn)生額外價(jià)值。
雖然將數(shù)據(jù)中心放在海底有諸多好處，但仍存在一些弊端。
其最大的一個(gè)弊端就是——數(shù)據(jù)艙位于完全“與世隔絕”的海底，后續(xù)運(yùn)維難度極大，需將數(shù)據(jù)艙完全吊出海面才能進(jìn)行運(yùn)維。尤其是在AI算力快速發(fā)展的今天，服務(wù)器的更新?lián)Q代也逐漸提速，頻繁的吊裝數(shù)據(jù)艙為企業(yè)造成了額外費(fèi)用的同時(shí)，也會(huì)破壞相對(duì)穩(wěn)定的艙內(nèi)環(huán)境。
為此，林楊告訴筆者，海蘭云目前已經(jīng)推出了海底數(shù)據(jù)中心2.0項(xiàng)目，據(jù)他介紹，該項(xiàng)目與位于陵水的項(xiàng)目不同的是，數(shù)據(jù)中心采用了潛入式的方案，將數(shù)據(jù)艙完全固定在海底，并預(yù)留了運(yùn)維人員出入的管道，后續(xù)運(yùn)維操作可以借由該管道進(jìn)出。
“我們?cè)谖挥谏虾５暮５醉?xiàng)目采用了2.0的方案，將數(shù)據(jù)中心固定在海底20米深左右的海床上，一方面這個(gè)深度可以確保海平面上的風(fēng)浪不會(huì)對(duì)數(shù)據(jù)中心造成影響，另一方面，20米的深度也為潛入式運(yùn)維提供了必要的條件保障。”林楊強(qiáng)調(diào)。
據(jù)林楊介紹，該項(xiàng)目預(yù)計(jì)于今年9月中旬正式投產(chǎn)，并且后續(xù)將進(jìn)一步海上風(fēng)電為數(shù)據(jù)中心供電，“該項(xiàng)目規(guī)模在200MW左右，部署完海上風(fēng)電之后，超過(guò)95%的電力都將采用風(fēng)電的方式供應(yīng)，更進(jìn)一步的降低了數(shù)據(jù)中心的PUE，同時(shí)也在陸地上備接了市電，確保業(yè)務(wù)的連續(xù)性。”林楊如是說(shuō)。
除了運(yùn)維與建設(shè)層面的優(yōu)化之外，整個(gè)算力應(yīng)用與算網(wǎng)的建設(shè)層面，是目前整個(gè)數(shù)據(jù)中心行業(yè)都需要面臨的挑戰(zhàn)，海底數(shù)據(jù)中心也不例外。
在荀軍看來(lái)，算力調(diào)度運(yùn)營(yíng)平臺(tái)已經(jīng)成為當(dāng)前提升算力利用率的最佳路徑，如果能將該平臺(tái)的建設(shè)與基礎(chǔ)設(shè)施層面海底數(shù)據(jù)中心的建設(shè)相結(jié)合，應(yīng)用/軟件層面上的最佳與基礎(chǔ)設(shè)施層面上的最佳路徑的結(jié)合，將成為未來(lái)數(shù)據(jù)中心的最優(yōu)解。
而算力平臺(tái)的建設(shè)也并不是并行科技一家的布局，目前業(yè)內(nèi)已經(jīng)有不少云服務(wù)商、IDC服務(wù)商、算力服務(wù)商都推出了相應(yīng)的調(diào)度平臺(tái)。究其原因，在AI算力需求爆發(fā)式增長(zhǎng)的背景下，企業(yè)對(duì)于算力體系建設(shè)方面也在發(fā)生著變化。
原先，企業(yè)自建算力基礎(chǔ)設(shè)施可能是一個(gè)比較“劃算”的應(yīng)用算力的形態(tài)，但這種模式在現(xiàn)階段存在了一定弊端。
首先，企業(yè)選擇自建算力基礎(chǔ)設(shè)施的過(guò)程中，一次性投入很大，尤其是要能支撐起當(dāng)前AI算力需求的硬件投入是十分龐大的，且周期很長(zhǎng)，不能滿足企業(yè)短時(shí)間的業(yè)務(wù)需求。
其次，對(duì)于大多數(shù)企業(yè)而言，業(yè)務(wù)規(guī)模沒(méi)有達(dá)到那么大量的需求，建設(shè)好的機(jī)房利用率很低，有一些甚至不足30%，這對(duì)于企業(yè)而言，相當(dāng)于“花大錢，半小事”，十分不劃算。
而企業(yè)對(duì)于直接購(gòu)買算力的需求，也催生了越來(lái)越多“賣算力”的算力服務(wù)商。在算力買賣過(guò)程中，算力調(diào)度運(yùn)營(yíng)平臺(tái)就成為了關(guān)鍵的抓手。
而此前與并行科技AI云事業(yè)部總經(jīng)理趙鴻冰的交流中，他曾向筆者表示，目前選擇算力平臺(tái)負(fù)載業(yè)務(wù)的企業(yè)越來(lái)越多，這也對(duì)算力服務(wù)商構(gòu)建算力調(diào)度平臺(tái)提出了更高的要求。“這些要求中，最為緊要的是高性能通信的要求，只有通信的性能足夠強(qiáng)，才能真正實(shí)現(xiàn)良好的調(diào)度效果。”趙鴻冰強(qiáng)調(diào)。
海底數(shù)據(jù)中心與算力平臺(tái)的結(jié)合，無(wú)論是在底層基礎(chǔ)設(shè)施層面，還是在中間算力輸送層面，都是對(duì)當(dāng)前數(shù)據(jù)中心行業(yè)的一次重構(gòu)。暢想一下未來(lái)的算力產(chǎn)業(yè)，或?qū)⒊蔀?ldquo;海底節(jié)點(diǎn)+陸地集群+邊緣終端”的協(xié)同體。
海底數(shù)據(jù)中心承擔(dān)大模型訓(xùn)練的高密算力，陸地液冷集群處理實(shí)時(shí)推理，邊緣節(jié)點(diǎn)支撐毫秒級(jí)響應(yīng)，三者通過(guò)智能調(diào)度平臺(tái)形成動(dòng)態(tài)平衡。這種一體化的算力生態(tài)，也有望成為應(yīng)對(duì)AI多元化需求的最優(yōu)解。（本文首發(fā)于鈦媒體APP，作者｜張申宇，編輯丨蓋虹達(dá)）
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論