本周，在上海舉辦的2025世界人工智能大會，在繼續(xù)帶給我們驚奇之外，還有一個大大的問號。

先看驚奇，大會從2018年創(chuàng)辦，到現(xiàn)在已舉辦了8屆。本屆大會展覽面積首次突破7萬平方米，有800余家企業(yè)參展，又推出了百余款“全球首發(fā)”“中國首秀”的產(chǎn)品。而除了企業(yè)，參會的還有來自70多個國家和地區(qū)的1500余位頂尖專家，包括12位圖靈獎、菲爾茲獎、諾貝爾獎獲得者，80多位中外院士，以及200多位行業(yè)領(lǐng)軍人物。

大家來上海，不僅僅是關(guān)注人工智能的突飛猛進，而更加關(guān)注越來越急迫的安全問題。本屆大會一個極為重要的主題，也恰恰是如何在發(fā)展和安全之間尋求平衡，并進一步凝聚共識。多場論壇、多位專家都把目光聚焦在人工智能已經(jīng)開始深入人類生活的當(dāng)下，如何守衛(wèi)好它的邊界。

人工智能的發(fā)展有多快，先看看這兩年的變化。去年，還是“百模大戰(zhàn)”剛剛拉開大幕，今年，具備深度思考、自主規(guī)劃與決策執(zhí)行能力的人工智能體就已經(jīng)開始進入激烈的競爭。

從年初DeepSeek推出開源模型成為全球焦點，短短一個月內(nèi)，國內(nèi)外企業(yè)就相繼推出各具特色的智能體產(chǎn)品，并以前所未有的速度，在消費、出行、辦公、醫(yī)療、教育等多元場景中“多點開花”。面對不斷快速迭代的智能體產(chǎn)品，僅僅從消費角度，就可以感受到這場深刻的科技革命。

驚奇，似乎每一個人都在以驚奇的眼光注視著這場變革。作為全球人工智能領(lǐng)域規(guī)模最大、專業(yè)度最高、影響力最強的盛會，世界人工智能大會更是一下子亮相了3000余款前沿展品，其中100余款為“全球首發(fā)”或“中國首秀”。

從多模態(tài)大模型到智能硬件，創(chuàng)新不僅在消費端繼續(xù)顯現(xiàn)著吸引力，還在產(chǎn)業(yè)端釋放出巨大潛能。例如，在當(dāng)下火熱的低空經(jīng)濟領(lǐng)域，國產(chǎn)EVTOL飛控系統(tǒng)，借助自主人工智能算法，已經(jīng)開始出口海外。

此外，在基礎(chǔ)算力不斷取得突破的推動下，賦予消費品和工業(yè)品更多可能的智能體，也開始出現(xiàn)“隨身化”的趨勢，焦點轉(zhuǎn)向如何在手機、電腦等終端設(shè)備上獨立運行復(fù)雜任務(wù)，這意味著人工智能可以不再依賴遠端服務(wù)器，而是能隨時隨地提供支持。

技術(shù)突破正推動中國人工智能產(chǎn)業(yè)，從基礎(chǔ)層、技術(shù)層到應(yīng)用層形成完整鏈條。在大模型、智能硬件及邊緣計算等領(lǐng)域的持續(xù)投入，已經(jīng)讓我國在全球數(shù)據(jù)量和技術(shù)創(chuàng)新上占據(jù)了重要位置。

來自大會的數(shù)據(jù)，在全球已發(fā)布的3755個大模型中，中國的大模型數(shù)量達1509個，居全球之首。這個數(shù)字背后，不僅體現(xiàn)著技術(shù)實力，更得益于電子、原材料、消費品等行業(yè)紛紛引入人工智能“大腦”，工廠質(zhì)檢、商場客服、醫(yī)院影像分析等等多領(lǐng)域，都在加速智能化轉(zhuǎn)型。

中國政法大學(xué)數(shù)據(jù)法治研究院教授、聯(lián)合國高級別人工智能咨詢機構(gòu)專家 張凌寒：今年提出“人工智能+”意味著在未來五到十年，我們將會把人工智能和各個應(yīng)用場景、各個產(chǎn)業(yè)深度融合。中國的土壤在于我們有足夠多的人口、應(yīng)用場景、用戶數(shù)據(jù)支撐人工智能產(chǎn)業(yè)發(fā)展。

技術(shù)創(chuàng)新的背后，離不開政策的支撐。連續(xù)兩年，“人工智能+”行動正在不斷取得進展。近日，國務(wù)院常務(wù)會議審議通過相關(guān)意見，強調(diào)大力推動人工智能規(guī)?；虡I(yè)化應(yīng)用，發(fā)揮我國產(chǎn)業(yè)鏈完備、市場巨大、場景豐富的優(yōu)勢。同時，強調(diào)提升安全水平，構(gòu)建動態(tài)、多方協(xié)同的治理體系。發(fā)展與安全并重，這與本屆世界人工智能大會關(guān)注的主題也高度契合。

隨著人工智能的快速發(fā)展，安全治理顯然已成世界各國的共識。在本屆大會的多場論壇中，中國專家也可以借此與全球同行展開對話，共同探討如何在技術(shù)迅猛迭代中，確保人工智能惠及全人類。

國際標(biāo)準(zhǔn)化組織主席曹誠煥：標(biāo)準(zhǔn)的安全性和質(zhì)量至關(guān)重要。但僅僅是安全使用AI并非問題的全貌，我們還要考慮到AI治理、AI公平性，以及AI在人文要素和技術(shù)要素之間的平衡。

在20世紀(jì)60年代，有一部具有劃時代意義的科幻電影——《2001太空漫游》，直到現(xiàn)在，它的創(chuàng)作者依然讓我們心生敬佩，因為在那時，就已經(jīng)開始探討人工智能的自主意識，以及它可能產(chǎn)生的風(fēng)險問題。

而現(xiàn)在，人工智能開始真正進入我們的生活，在帶來便利的同時，它所帶來的風(fēng)險和治理問題也已經(jīng)不能再停留在想象階段了。

本屆上海世界人工智能大會，至少有10場論壇都在探討人工智能治理問題，特別是在大會首日的主論壇上，首位上場演講的杰弗里·辛頓，演講主題就是數(shù)字智能是否會取代生物智能，這位圖靈獎與諾貝爾物理學(xué)獎雙料得主的科學(xué)家，把人與人工智能的關(guān)系，比喻為將老虎養(yǎng)做寵物，小的時候它可能很可愛，但如果不想被長大后的老虎殺掉，只有兩種方法，一是訓(xùn)好它，二是擺脫它。

那么，當(dāng)人工智能比人更聰明，科學(xué)家的擔(dān)心會成為現(xiàn)實嗎？虎崽長大的那一天，離我們還有多遠？

走進上海世博展覽館的二層，這里幾乎是人形機器人的世界，表演架子鼓、制作冰激凌、分揀搬運貨物……

上一屆世界人工智能大會，人們還在為首次集中亮相的18款人形機器人驚嘆，僅僅一年，又一屆世界人工智能大會展出的人形機器人已經(jīng)超過150臺，并且它們的大腦正在變得更“聰明”。

于是，在本屆世界人工智能大會就出現(xiàn)了這樣的場景：這一邊，是觀眾無限的想象與驚奇；那一邊，卻是科學(xué)家們嚴(yán)肅的、對于人工智能安全的、日益緊迫的擔(dān)憂。

今年77歲的杰弗里·辛頓，從1985年就開始進行語言模型的研究，被稱為深度學(xué)習(xí)領(lǐng)域的奠基人。本屆大會首日的主論壇，他的演講就引起了輿論極大的關(guān)注。他在演講中進一步指出，幾乎所有專家都認(rèn)為，我們將開發(fā)出比人類更智慧的人工智能。但是，我們?nèi)祟愒缫蚜?xí)慣作為頂級智能體存在，導(dǎo)致很多人難以想象被更智慧的人工智能主宰世界會是如何？

2018年圖靈獎得主 2024年諾貝爾物理學(xué)獎得主 杰弗里·辛頓：人工智能體會產(chǎn)生兩個訴求：一是維持生存，即維持完成既定目標(biāo)的基礎(chǔ)運行能力；二是增強控制，即追求既定目標(biāo)的完成質(zhì)量。所以，我們必將面對兼具生存訴求和控制訴求的人工智能體。

人工智能會比人更聰明嗎？它會脫離人類的掌控嗎？這一天離我們還有多遠？事實上，在過去兩年，隨著Chat GPT和Sora以及DeepSeek等大模型的出現(xiàn)，這些問題已經(jīng)多次被提起。

在本屆世界人工智能大會開幕前一天，還召開了一場人工智能國際安全對話，與會的二十余名國內(nèi)外行業(yè)專家共同簽署發(fā)布了《AI安全國際對話上海共識》。

共識明確提出：人工智能系統(tǒng)正迅接近并可能超越人類智能水平。這些未來的系統(tǒng)可能在操作者毫不知情的情況下，執(zhí)行并非操作者所期望或預(yù)測的行動。這可能導(dǎo)致失控，而一旦失控，就有可能帶來災(zāi)難性甚至是生存層面的風(fēng)險。

國際標(biāo)準(zhǔn)化組織主席曹誠煥：人工智能的迭代速度驚人之快。我們既不了解它的潛能，也不理解它的性能、成果、影響的產(chǎn)生機制。所以，我們有必要治理這項技術(shù)，我們需要讓它的運作符合開發(fā)者的預(yù)期。

今年7月，OpenAI官宣發(fā)布迄今為止最強的AI智能體，據(jù)稱這一新產(chǎn)品擁有自主思考與行動能力，能夠完成包括在線購物、撰寫研究報告、制作PPT在內(nèi)的多步驟復(fù)雜任務(wù)。同樣在7月，馬斯克也發(fā)布了號稱“全球最強大”的AI模型Grok4，稱“它幾乎比所有學(xué)科的研究生都更聰明”。

人工智能會不會變得比人更聰明，盡管在一些細節(jié)上仍有分歧，但是，目前其不斷迭代發(fā)展的速度卻不可小覷。

在《AI安全國際對話上海共識》中提到，與人工智能能力的快速發(fā)展相比，我們對人工智能安全研究的投入明顯滯后，亟須采取進一步行動。而在主論壇演講的最后，辛頓也呼吁，全球應(yīng)該共同探討如何訓(xùn)練AI向善。

中國政法大學(xué)數(shù)據(jù)法治研究院教授、聯(lián)合國高級別人工智能咨詢機構(gòu)專家 張凌寒：人工智能的問題并不是一個國家能夠應(yīng)對的，所有的研究機構(gòu)、國家、大的公司企業(yè)都沒有辦法去獨自處理人工智能安全的問題，人工智能全球治理的合作也必須由多個國家來共同進行。

當(dāng)下，世界對于人工智能發(fā)展的投入正如日中天，誰也不想掉隊。那么，當(dāng)發(fā)展成為一種必然，危險又該如何防范呢？

能不能首先為人工智能劃下現(xiàn)在的、將來的安全紅線，在《AI安全國際對話上海共識》中，也首次呼吁全球各國政府及研究人員要“確保高級人工智能系統(tǒng)的對齊與人類控制，保障人類福祉”。

與世博展覽館的熱鬧相比，世博中心的氣氛就顯得有些嚴(yán)肅，因為這里事關(guān)人工智能安全與治理的論壇，一場接一場。而會場之外，輿論自然也會極為關(guān)注，中國在人工智能治理方面所取得的進展。

來自世界知識產(chǎn)權(quán)組織的數(shù)據(jù)，2014年至2023年，中國生成式人工智能專利申請量超過3.8萬件，居世界第一。

正是在2023年，我國開始要求所有生成式人工智能進行統(tǒng)一備案。黨的二十屆三中全會則明確提出，要建立人工智能安全監(jiān)管制度，完善生成式人工智能發(fā)展和管理機制。今年4月，中央政治局會議也再次強調(diào)，要完善人工智能監(jiān)管體制機制，牢牢掌握人工智能發(fā)展和治理主動權(quán)?？梢钥闯?，法治的不斷完善，將成為持續(xù)扎牢監(jiān)管與防范人工智能風(fēng)險的防護欄。

中國政法大學(xué)數(shù)據(jù)法治研究院教授 聯(lián)合國高級別人工智能咨詢機構(gòu)專家 張凌寒：國務(wù)院和全國人大立法計劃中提到人工智能相關(guān)立法，使用的詞匯和表述都是促進人工智能健康發(fā)展的立法。從這個詞就可以看出來，我們的宗旨一定是統(tǒng)籌安全和發(fā)展。

來自相關(guān)部門的信息，目前，我國正在穩(wěn)步推進綜合性人工智能高位階的立法。

張凌寒介紹，一直以來，我國的人工智能立法主要依靠的是部門規(guī)章和法律性文件，位階相對較低。而高位階立法能夠有效解決傳統(tǒng)法律和人工智能技術(shù)產(chǎn)業(yè)發(fā)展不相適應(yīng)的地方，高位階立法并不是為了回應(yīng)人工智能時代帶來的所有問題，我覺得最重要的目的是定方向和劃底線。

回到會場，27日上午，在一場圍繞全球人工智能治理前沿問題的主題論壇上，人工智能的法治建設(shè)正是與會專家討論的重點。參會的就有來自歐盟《人工智能法》的起草專家。作為全球首部全面規(guī)范人工智能的高位階法律，該法將人工智能系統(tǒng)風(fēng)險分為四個等級，分別采取針對性監(jiān)管方式，于去年8月生效。

交流、借鑒，人工智能領(lǐng)域高位階的立法，也需要進一步形成國際共識。

人工智能治理，攸關(guān)人類命運，是各國都在面對的問題。專家警示，治理問題上存在“決堤”效應(yīng)，也就是說，任何一個國家不重視人工智能的安全，都可能讓整個人類面對人工智能的系統(tǒng)性風(fēng)險。所以，搭建全球合作機制，已成為必然。

國際標(biāo)準(zhǔn)化組織主席曹誠煥：放眼全球，幾乎各國政府發(fā)布的人工智能治理方案都不盡相同，這種碎片化的局面風(fēng)險巨大、危機四伏，所以這就是國際標(biāo)準(zhǔn)的作用所在。我們可以提供通用語言和共同平臺，為人工智能治理奠定基礎(chǔ)。

2023年，中國提出《全球人工智能治理倡議》，2024年，第78屆聯(lián)合國大會以協(xié)商一致的方式，通過了主要由中國提出的“加強人工智能能力建設(shè)國際合作”決議，這也是全球首個聚焦人工智能能力建設(shè)的共識性文件。

本屆世界人工智能大會，中國也會同各方發(fā)布了《人工智能全球治理行動計劃》，十三項內(nèi)容，從“倡議”走向“行動”，更提出成立世界人工智能合作組織，這是中國給予世界人工智能治理問題的思考和方案。

面對一日千里的人工智能發(fā)展，如何保持警惕，加強國際合作，已經(jīng)是一道同時擺放在所有國家面前的限時必答題，而答題時間似乎也很快就要到了，正如本屆大會的主題“智能時代 同球共濟”一樣，此時此刻，也是大家必須攜起手來共同作答的時刻。