中國(guó)工程院院士、之江實(shí)驗(yàn)室主任王堅(jiān)
AI for Science(AI4S)再次迎來(lái)新突破。
最近,在杭州舉辦的021科學(xué)基礎(chǔ)模型創(chuàng)新合作大會(huì)上,浙江之江實(shí)驗(yàn)室首次全面展示021科學(xué)基礎(chǔ)模型及系列領(lǐng)域科學(xué)模型研發(fā)的進(jìn)展,包括全球首個(gè)百億級(jí)人類(lèi)基因組基礎(chǔ)模型Genos。
021模型構(gòu)筑形成跨學(xué)科知識(shí)、跨領(lǐng)域推理、跨語(yǔ)言理解(覆蓋204種語(yǔ)言)三大基石,具備出色的科學(xué)推理能力,能夠深入分析、推導(dǎo)、驗(yàn)證多類(lèi)科學(xué)問(wèn)題。
“021”就是“從0到1”,其中包含著之江實(shí)驗(yàn)室對(duì)科學(xué)基礎(chǔ)模型的理解和發(fā)展規(guī)劃。
在中國(guó)工程院院士、之江實(shí)驗(yàn)室主任王堅(jiān)看來(lái),“如果基礎(chǔ)模型是人工智能的皇冠,那么科學(xué)基礎(chǔ)模型就是人工智能皇冠上的明珠。”
之江實(shí)驗(yàn)室科學(xué)模型總體部技術(shù)總師薛貴榮認(rèn)為,科學(xué)數(shù)據(jù)涵蓋時(shí)間、空間、能量等多個(gè)維度,是對(duì)復(fù)雜物理系統(tǒng)演變規(guī)律的高維表征。為解決科學(xué)問(wèn)題,科學(xué)界需要突破語(yǔ)言空間的局限,研發(fā)科學(xué)基礎(chǔ)模型,構(gòu)建“科學(xué)空間+語(yǔ)言空間”于一體的更高維空間,建立跨學(xué)科數(shù)據(jù)之間的深層連接,變革科學(xué)研究范式。
為此,之江實(shí)驗(yàn)室研發(fā)團(tuán)隊(duì)探索將科學(xué)數(shù)據(jù)和文本語(yǔ)料編碼到統(tǒng)一的高維空間,讓模型能夠識(shí)別、處理科學(xué)數(shù)據(jù),認(rèn)識(shí)并解決復(fù)雜科學(xué)問(wèn)題。經(jīng)過(guò)近萬(wàn)次實(shí)驗(yàn),團(tuán)隊(duì)形成了模型訓(xùn)練框架,包括預(yù)訓(xùn)練、后訓(xùn)練、強(qiáng)化學(xué)習(xí)等,并完成了2360億參數(shù)規(guī)模的021科學(xué)基礎(chǔ)模型訓(xùn)練。
021,不僅是“zero to one”的簡(jiǎn)寫(xiě),也是AI正在從輔助科研轉(zhuǎn)向重構(gòu)科研的符號(hào)。
在AI4S的道路上,之江實(shí)驗(yàn)室通過(guò)與科學(xué)合作伙伴共同舉辦“種子班”來(lái)培養(yǎng)團(tuán)隊(duì),讓不同學(xué)科背景的人才聚集在一起,由專(zhuān)家級(jí)班主任帶領(lǐng),共同碰撞創(chuàng)新,在實(shí)戰(zhàn)中完善、升級(jí)。截至目前,之江實(shí)驗(yàn)室已累計(jì)舉辦22期種子班,培育了900余名緊缺型AI人才。
![]()
圖片來(lái)源:之江實(shí)驗(yàn)室
這并不是021模型第一次落地,在本月正式發(fā)布前,其在諸多科學(xué)領(lǐng)域已有成果展示。
其中引人關(guān)注的,是生命科學(xué)領(lǐng)域的全球首個(gè)百億級(jí)人類(lèi)基因組基礎(chǔ)模型Genos。
10月23日,之江實(shí)驗(yàn)室與華大生命科學(xué)研究院在第二十屆國(guó)際基因組學(xué)大會(huì)上聯(lián)合發(fā)布并開(kāi)源了這款大模型。該模型支持多達(dá)百萬(wàn)堿基對(duì)的超長(zhǎng)上下文分析,并實(shí)現(xiàn)單堿基分辨率的精準(zhǔn)識(shí)別。
Genos整合了人類(lèi)泛基因組參考聯(lián)盟(HPRC)和人類(lèi)基因組結(jié)構(gòu)變異圖譜計(jì)劃(HGSVC)等資源,基于636個(gè)“端粒到端粒”級(jí)別高質(zhì)量人類(lèi)基因組數(shù)據(jù)進(jìn)行訓(xùn)練,覆蓋全球不同人群。
Genos模型采用混合專(zhuān)家(MoE)架構(gòu),通過(guò)“按需激活”機(jī)制降低推理成本,在致病性突變解讀任務(wù)中準(zhǔn)確率達(dá)92%,結(jié)合科學(xué)基礎(chǔ)模型后提升至98.3%。它提供12億和100億參數(shù)兩個(gè)版本,已在GitHub、Hugging Face及魔搭等平臺(tái)開(kāi)源,并集成至DCS Cloud云平臺(tái)提供免費(fèi)推理服務(wù)。
在地學(xué)領(lǐng)域,之江實(shí)驗(yàn)室向全球開(kāi)源了地球科學(xué)大模型GeoGPT。
該模型基于021科學(xué)基礎(chǔ)模型研發(fā),目前已進(jìn)行了數(shù)次迭代,支持圖像描述總結(jié)、圖像信息提取、地理空間推理、地學(xué)分析推理等典型任務(wù),通過(guò)融合深時(shí)地球數(shù)據(jù)與智能算法,提升地學(xué)研究效率。
同時(shí)受到矚目的,還有之江實(shí)驗(yàn)室聯(lián)合中國(guó)科學(xué)院國(guó)家天文臺(tái)研發(fā)的天文領(lǐng)域科學(xué)大模型OneAstronomy。
該模型同樣基于021基礎(chǔ)模型打造,能夠?qū)崿F(xiàn)跨模態(tài)融合推理,重構(gòu)數(shù)據(jù)處理范式,釋放望遠(yuǎn)鏡自主觀測(cè)潛力,推動(dòng)實(shí)現(xiàn)“觀測(cè)即發(fā)現(xiàn)”,今年9月被列為全球科技公共產(chǎn)品,服務(wù)于開(kāi)放科學(xué)行動(dòng)。
此外,在材料學(xué)領(lǐng)域,021打造出了多孔合金材料模型OnePorous,可根據(jù)材料性能需求,逆向生成新型多孔結(jié)構(gòu),目前已應(yīng)用于3D打印衛(wèi)星主體結(jié)構(gòu)制造。
事實(shí)上,自去年諾貝爾化學(xué)獎(jiǎng)和物理學(xué)獎(jiǎng),均授予了與AI密切相關(guān)的研究者后,AI4S就已被普遍認(rèn)為是AI大模型的又一進(jìn)階之路。
各大高校和科研院所對(duì)AI4S探索步伐加速的同時(shí),政策也在持續(xù)加碼。其中引人關(guān)注的是,今年11月,美國(guó)總統(tǒng)特朗普還曾簽署行政令啟動(dòng)AI“創(chuàng)世紀(jì)計(jì)劃”。該計(jì)劃試圖利用人工智能變革科學(xué)研究方式、加速科學(xué)發(fā)現(xiàn),生物技術(shù)、關(guān)鍵材料、先進(jìn)制造業(yè)等均是重點(diǎn)領(lǐng)域。
不止于學(xué)術(shù)界,包括谷歌、微軟、Meta等全球科技巨頭,也在這一領(lǐng)域進(jìn)行了重點(diǎn)布局。其中,谷歌DeepMind的Alpha系列大模型一直被視為領(lǐng)軍者,該模型近年來(lái)在蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)方面的突出表現(xiàn),已成為了AI4S的典型案例。
不過(guò),目前大模型對(duì)科研領(lǐng)域的助力,覆蓋范圍還有所局限。在這一方向上,人才、科學(xué)數(shù)據(jù)的搜集整合、不同前沿學(xué)科的交融等問(wèn)題亟待解決,并且極度缺少既往成功經(jīng)驗(yàn)和案例可參考。某種程度上,這更凸顯了打造新的基礎(chǔ)科學(xué)大模型的重要性,這也正是021科學(xué)基礎(chǔ)模型被開(kāi)發(fā)及面世的意義。(作者|胡珈萌,編輯|李程程)
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求,請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論