過去一年，全球迎來新一輪人工智能（AI）熱潮，從ChatGPT的更新迭代，到Sora的出現(xiàn)，大量與 AI 相關(guān)的研究快速推進。
“時隔一年回到博鰲，可以看到與 AI 相關(guān)的技術(shù)產(chǎn)業(yè)已發(fā)生了翻天覆地的變化。”中國工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長張亞勤表示。
而與此同時，AI 潛在的安全風(fēng)險也引發(fā)越來越多的關(guān)注與討論。包括歐盟、聯(lián)合國等國際組織正加速推動相關(guān)監(jiān)管法案的制定工作。那么，2024年，全球AI領(lǐng)域監(jiān)管將走向何方？如何推動在全球形成統(tǒng)一的AI治理框架和標(biāo)準(zhǔn)規(guī)范？
日前舉行的博鰲亞洲論壇2024年年會上，與 AI 相關(guān)的分論壇共有三場，分別是科技革命“奇點”離我們有多遠(yuǎn)、AIGC改變世界，以及人工智能全球治理。鈦媒體App簡單梳理其中的關(guān)鍵發(fā)言。
在不少專家看來，AI 技術(shù)不僅能顯著提高生產(chǎn)效率，在改善人類福祉方面也是潛力巨大。
張亞勤認(rèn)為，大模型和生成式AI之間的關(guān)系是前者為后者提供了基礎(chǔ)。他預(yù)計，大模型將朝多模態(tài)、自主智能和邊緣智能方向發(fā)展，而生成式AI不再局限于傳統(tǒng)的識別任務(wù)，還能進行創(chuàng)造和生成工作，如編寫代碼、設(shè)計藥物等。
《人工智能：現(xiàn)代方法》作者、加州大學(xué)伯克利分校計算機科學(xué)系教授斯圖爾特·羅素表示，“AI改變著創(chuàng)意產(chǎn)業(yè)，作者、商業(yè)作曲者和藝術(shù)家都將被AI取代，這些都很難預(yù)測。雖然幾十年來有人說技術(shù)帶來的失業(yè)是不存在的，我們有理論可以證明這一點。但現(xiàn)在有人說這種理論是錯的，人類的工資可能會變?yōu)榱恪?rdquo;
咨詢公司羅蘭貝格全球管理委員會聯(lián)席總裁戴璞(Denis Depoux)稱，大量資本正流入AI領(lǐng)域，尤其是投向開發(fā)大語言模型的公司。
他指出，早期AI技術(shù)與企業(yè)現(xiàn)有系統(tǒng)的集成挑戰(zhàn)，正被語言模型所克服，它們成為了關(guān)鍵的接口。這一發(fā)展預(yù)示著將加速AI的采納，開啟了一系列用例，包括加速工程速度、由機器驅(qū)動的產(chǎn)品研發(fā)，以及提升服務(wù)行業(yè)的生產(chǎn)力和質(zhì)量。
“一個顯著的例子是呼叫中心，降低成本往往導(dǎo)致服務(wù)質(zhì)量下降，因為接聽電話的人員技能不足，無法恰當(dāng)?shù)胤?wù)客戶。用AI替代這些角色可以確保更高質(zhì)量的服務(wù)，將人力資源重新分配到重視個人互動的任務(wù)上。”戴璞稱，AI的部署推廣需要時間，其許多客戶正就具體用例“詢問非常具體的問題”，這一趨勢預(yù)計將持續(xù)增長。
“ AI 是人類的未來，我們要全力以赴，搶占先機。”在小i集團董事長兼首席執(zhí)行官袁輝看來，AI 所帶來的變革，不僅是改變某些產(chǎn)業(yè)，而且會變得像空氣和水一樣，無處不在。
如今，AI 技術(shù)變革加快，AI 一日，人間一年。AI 相關(guān)學(xué)科發(fā)展、理論建模、技術(shù)創(chuàng)新、軟硬件升級等整體推進，正引發(fā)鏈?zhǔn)酵黄?，推動?jīng)濟社會各領(lǐng)域從數(shù)字化、網(wǎng)絡(luò)化向智能化加速躍升。
袁輝強調(diào)，“數(shù)字經(jīng)濟是未來發(fā)展的趨勢，數(shù)字經(jīng)濟的核心是人工智能。誰能通過算法掌控數(shù)據(jù)，誰就擁有話語權(quán)。”
科大訊飛研究院副總裁、研究院院長劉聰表示，“這一波通用大模型浪潮席卷了全球，AI 非常受關(guān)注，包括過去一年中國在通用大模型和產(chǎn)業(yè)應(yīng)用也做了非常多的應(yīng)用。我們在內(nèi)容的生產(chǎn)、在全自動地完成任務(wù)交互上，包括顛覆原來傳統(tǒng)的編程，以及科研新范式，都在產(chǎn)生快速的進展。在這個過程中我可能更多地談在中國我們怎么樣做通用大模型。在中國，我覺得我們自己現(xiàn)在跟國際上頂尖水平還是有差距的，這是一個共識，當(dāng)然這個差距我們也在持續(xù)地追趕。在中國我們有一個點就是關(guān)于自主可控，關(guān)于軟硬件自主可控這塊還是非常關(guān)鍵的點，我仍然認(rèn)為，現(xiàn)在整個通用大模型發(fā)展是系統(tǒng)性的機制，但是主戰(zhàn)場我認(rèn)為還是底座大模型。從這樣一個角度，我們認(rèn)為在自主可控的硬件平臺上去研發(fā)可以對標(biāo)國際頂尖大模型。有了這樣的大模型后，我們的行業(yè)應(yīng)用其實有更好的發(fā)展舞臺，用人工智能+非常有可能成為發(fā)展新智生產(chǎn)力的非常重要的引擎。”
劉聰在博鰲期間向鈦媒體App等透露，科大訊飛計劃在今年6月正式發(fā)布對標(biāo)GPT-4 （Turbo）當(dāng)前能力的訊飛星火大模型V4.0版本。
“AI發(fā)展風(fēng)險需引起重視。”張亞勤認(rèn)為，AI發(fā)展對算力非常依賴，算法效率低下的問題值得關(guān)注。
斯圖爾特·羅素坦言，當(dāng)前的 AI 是錯誤的方向。
“當(dāng)前我們所擴展的大語言模型好像黑匣子，他們是看不透的，它們能夠滿足的目標(biāo)是我們現(xiàn)在不清楚的，這是錯誤的方向，我們不應(yīng)該朝這個方向走。”斯圖爾特·羅素表示，中美 AI 領(lǐng)域的競爭是良性的，他不同意“零和博弈”這個說法。
他直言，“如果AI是安全的，能夠讓人類受益，甚至比人類能力更強，那么它就能夠成為人類無限財富的基礎(chǔ)，所有的人都可以利用這樣的技術(shù)，我們很多人都會因此而享受。從這個角度來講，這個競爭并沒有意義。所以核心問題是我們?nèi)绾伟踩嘏c這個技術(shù)共存，安全是一個方面。AI系統(tǒng)提供受益是另外一方面。”
首爾大學(xué)電子與計算機工程系教授Kyoung Mu Lee則表示：“AI有無限的能力，同時也會帶來一些風(fēng)險。”
他指出，“大家都知道AI發(fā)展非常迅速，不能夠完全預(yù)測它的未來。我們對于AI的恐懼并不是來自于AI巨大的能量，而是來自于我們并不知道AI實際的運作方式，以及將來它會變成什么樣子，因為未知所以恐懼。這樣一個新的怪物會淘汰我們所有人，還是拯救我們所有人？我們能夠控制它嗎，或者它會控制我們發(fā)生什么樣的劇變？因此，我們需要對AI進行好的治理。”
AI將給人類帶來怎樣的風(fēng)險與影響？經(jīng)濟發(fā)展與合作組織秘書長馬蒂亞斯·科爾曼從就業(yè)的角度切入。
他認(rèn)為，AI會給全球勞動力市場帶來巨大的動蕩，給人類教育和技能的發(fā)展造成很大的挑戰(zhàn)。有些人可能會在AI導(dǎo)致的勞動力市場動蕩中失去自己的就業(yè)機會，所以政府要制定相關(guān)的政策來應(yīng)對勞動力市場的變化。
經(jīng)濟發(fā)展與合作組織秘書長馬蒂亞斯·科爾曼
Kyoung Mu Lee也表示：“我們需要更加務(wù)實的監(jiān)管AI系統(tǒng)，這些大模型會影響到我們的生活，會影響到我們的經(jīng)濟決定，會影響到我們的國家問題。所以AI的影響不是遙遠(yuǎn)的，而是就在我們的身邊。”
布魯金斯學(xué)會高級研究員、清華大學(xué)客座教授唐睿思指出，目前人類從AI獲得的益處還是有限的，盡管已經(jīng)有幾個大型科技公司變得非常的富有，因為這些公司賣底層的技術(shù)。但是對于社會其他成員帶來的益處我們并沒有看到。
“另外還有一個事實是，如果在2030年達(dá)到我們對AI的預(yù)期目標(biāo)，不管這些目標(biāo)是否正確，我們都需要增加4萬個核電站才能夠為這些AI機器提供動力，因為它們是極其耗能的。與此同時，大國之間的博弈以及資金與人才的缺乏都會使AI技術(shù)的創(chuàng)新延遲或減速，我們?nèi)绾伪ＷC這樣的創(chuàng)新不會使全球經(jīng)濟破產(chǎn)。更何況我們所要監(jiān)管的AI行業(yè)現(xiàn)在還不掙錢，我們?nèi)绾伪ＷCAI治理在鼓勵技術(shù)創(chuàng)新的同時不會給行業(yè)帶來太多的負(fù)擔(dān)。”唐睿思說。
與會嘉賓表示，目前國際社會在AI治理的基本原則上已達(dá)成一定共識，包括以人為本的AI，關(guān)注生態(tài)體系，關(guān)注安全，尊重國際法律等。關(guān)鍵是如何把這些道德規(guī)范變成統(tǒng)一的監(jiān)管框架，包括盡快填補AI數(shù)字鴻溝，以及建立全球AI治理架構(gòu)。
全球AI治理架構(gòu)的建立需要各國加強對話和協(xié)同合作。
Kyoung Mu Lee表示，盡管AI系統(tǒng)可能是一家公司或一個國家開發(fā)的，但這個AI系統(tǒng)會帶來全球的影響，會影響整個人類，所以不只是一個國家的問題。“我們需要各國之間的合作來討論解決方案，利益相關(guān)者應(yīng)該參與到（監(jiān)管規(guī)則）制定過程中來，使得監(jiān)管規(guī)則變得更加有效。”
科爾曼也認(rèn)為：“我們需要國際論壇上的對話，比如通過二十國集團，通過金融組織，通過聯(lián)合國，有不同級別的國際上的對話進行交流，我們希望看到這些會議帶來安全的、符合倫理的方式。我們不介意技術(shù)創(chuàng)新，但也希望人類不會受到技術(shù)創(chuàng)新的傷害。”
值得注意的是，國際上關(guān)于AI治理方面的對話依然存在一定的不足與不平等。唐睿思指出，這是因為當(dāng)前AI行業(yè)并沒有均衡的分配權(quán)利，比如算力本質(zhì)上是由美國主導(dǎo)的，其他國家的缺口很大。所以如果想要全球推廣AI治理的話就必須要依賴美國的技術(shù)是好是壞，本質(zhì)上來講這就是一種權(quán)利的聚集。
“如果（各經(jīng)濟體）想坐這個桌子上參與討論，我們就必須讓每一個國家都找到方法去建立自己的算力、自己的堆站。有兩種方法，一個是通過監(jiān)管，另一個是通過加強合作，當(dāng)然也要創(chuàng)新。算力是由一小部分國家所控制，因為它非常昂貴，所以我們需要建立自己的算力基礎(chǔ)設(shè)施，否則沒有人可以為此進行負(fù)擔(dān)。手機之所以平價，是因為各國政府、公司花非常多的錢來投資、推廣基礎(chǔ)設(shè)施，各國的人才相互合作，才能夠使得手機下降到如此的價格。而在AI領(lǐng)域，美國在做自己的事情，中國也在做自己的事情，所有投資都要再重新發(fā)生一次，我們是在冗余的投資，而不是在解決問題。”唐睿思稱。
對于這一現(xiàn)象，清華大學(xué)公共管理學(xué)院教授、院長朱旭峰分析道：“每一個國家都是自由主權(quán)的國家，他們是根據(jù)自身的內(nèi)外部環(huán)境做出相應(yīng)決策的。”
通過研究全球62個國家的300多個AI治理政策，朱旭峰發(fā)現(xiàn)，有四個因素會影響到國家AI治理規(guī)則的制定：一是國家是否有強有力的創(chuàng)新能力和產(chǎn)業(yè)化的能力；二是人口結(jié)構(gòu)，老齡化嚴(yán)重的國家往往更關(guān)心AI的發(fā)展；三是資本和勞動力市場的關(guān)系，比如美國近期有很多汽車生產(chǎn)企業(yè)工人罷工、演員罷工等；四是社會規(guī)范。如果社會規(guī)范更關(guān)注的是個人隱私和道德的話，就會建立更加嚴(yán)格的AI治理機制。
清華大學(xué)公共管理學(xué)院教授、院長朱旭峰
“研究是幫助我們理解不同國家在AI治理決策方面所做出的努力，所以對我們普通人來說，我們必須理性地觀察不同國家的行為和他們的決策過程，同時每個國家都是遵循理性的，所以AI的全球治理需要國際組織，比如聯(lián)合國來幫助我們達(dá)成。”朱旭峰表示。
2024年3月21日，聯(lián)合國大會通過首個關(guān)于AI的全球決議《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機遇，促進可持續(xù)發(fā)展》。據(jù)悉，該決議的草案由美國發(fā)起，并得到中國等120多個聯(lián)合國會員國的共提或支持。該決議的通過有望促進國際電信聯(lián)盟等聯(lián)合國實體在AI問題上進一步開展工作.
關(guān)于這一決議，與會嘉賓認(rèn)為，從中國的角度來看，這個決議仍然有一定的提升空間，比如它并沒有充分地提及發(fā)展中國家的AI能力建設(shè)，以及他們?nèi)绾文軌驈腁I發(fā)展中獲益。
朱旭峰也贊同打破全球AI技術(shù)障礙。在他看來，從人類文明的角度去看，技術(shù)可以分成三類，一類是能源方面的技術(shù)，讓人類去了解能源，開發(fā)更多的能源來利用，比如太陽能。第二類技術(shù)就是信息技術(shù)，信息技術(shù)更多的是促進人類之間的溝通，特別是關(guān)注在精英與普通民眾之間缺口的彌合。第三類技術(shù)是幫助人類提升效率，減少能源的使用。
“AI是橫跨第二類技術(shù)和第三類技術(shù)的，它既是信息技術(shù)，可以幫助我們推進一個平權(quán)的社會，普通民眾也可以獲得更多的信息、知識，也有了更多權(quán)利和力量。同時AI也是涉及到效率方面的第三類技術(shù)，使得我們的社會、我們的工業(yè)更加有效率，AI就是如此。這種技術(shù)使得世界的資源得以重新分配，不僅是能源，還有其他的資源，像礦產(chǎn)和土地資源。只有少數(shù)的人掌握了AI技術(shù)行業(yè)中的頭部。因此，我們必須要打破在AI使用方面的障礙，從而建設(shè)一個平權(quán)社會。”朱旭峰說。
中國科學(xué)院自動化研究所、聯(lián)合國高層顧問專家曾毅教授表示，未來的 AI 將走向何方，誰能真正引領(lǐng)？AI 走向何方這沒有任何一個專家能說清楚，所以根本沒有真正的引領(lǐng)方。
“我不認(rèn)為美國真正引領(lǐng)未來的 AI ，我也更不認(rèn)為中國能引領(lǐng)未來的 AI 。AI 的發(fā)展是基礎(chǔ)性的、賦能性的技術(shù)，這個世界足夠大，讓中國、美國以及更多的國家在構(gòu)建基礎(chǔ)設(shè)施和應(yīng)用方面都找到機會。但是對于 AI 帶來的潛在風(fēng)險，同樣的，世界需要理解和保護人類。所以在這樣的問題下，我們確實是首先要共同地探索未來的可能性，那就是全世界如何團結(jié)起來真正地為人類安全、人類繁榮構(gòu)造一個更安全、更可靠、更可信的人工智能，這才是世界更團結(jié)的目標(biāo)。美國不會引領(lǐng)，中國不會引領(lǐng)，世界上任何一個國家都不會。”曾毅表示。
（本文首發(fā)鈦媒體App，作者｜任穎文，編輯｜林志佳）
快報
根據(jù)《網(wǎng)絡(luò)安全法》實名制要求，請綁定手機號后發(fā)表評論
又是一個博人眼球的命題：AI是人類的終極挑戰(zhàn)。
操心啊，人無百歲壽，長有千歲憂
危言聳聽啊，智能再智能，也需要能源不是。
你真行，現(xiàn)在一種說法就是AI最終是電力
應(yīng)該說是社會發(fā)展的機遇充滿了風(fēng)險
博鰲熱議AI的風(fēng)險與機遇。
哎，還沒有星球大戰(zhàn)呢，就先弄了個這
A. 關(guān)于“智能”的“三段形成/組成論”： 智能源于現(xiàn)實、智能超越現(xiàn)實、智能回歸現(xiàn)實。 B. 關(guān)于“數(shù)字計算智能”的認(rèn)識： 數(shù)字技算智能目前主要在上述第二個“智能超越現(xiàn)實”環(huán)節(jié)發(fā)揮作用。然而，沒有充分進入另外兩個階段的人工智能，其是擔(dān)當(dāng)不起AGI稱號的。 C. 判斷： chat GPT以后的發(fā)展如果沒有全面進入“智能三階段”，也是不會有AGI的。 [咖啡][握手]
對呀，直接斷電
是人類未來充滿了挑戰(zhàn)