科技新聞特約作者 熊磊
編輯 鄭可君
2025年2月11日，在"2025巴黎人工智能行動峰會"框架下，由中國人工智能發(fā)展與安全研究網(wǎng)絡發(fā)起，上海期智研究院聯(lián)合清華大學人工智能國際治理研究院共同主辦，多家網(wǎng)絡成員單位聯(lián)合協(xié)辦的官方邊會同期召開。
本次邊會以"人工智能技術應用與發(fā)展前沿"為主題，吸引了全球頂尖人工智能專家參與研討。會議聚焦通過國際合作機制彌合智能發(fā)展差距，保障各國共享人工智能進步成果，同時致力于構建開放包容、互利共贏的全球人工智能治理框架，攜手應對技術革新帶來的機遇與挑戰(zhàn)。
出席活動的重量級嘉賓包括：清華大學交叉信息研究院院長兼人工智能學院院長、圖靈獎得主姚期智，清華大學文科資深教授、人工智能國際治理研究院院長薛瀾，清華大學法學院教授、智能法治研究院院長申衛(wèi)星，清華大學計算機系教授唐杰，工信部人工智能場景化應用與智能系統(tǒng)測評重點實驗室主任胡國棟，中國信通院副院長、國際電聯(lián)標準化局第十七研究組副主席魏亮，麻省理工學院教授兼生命未來研究所所長馬克斯泰格馬克（Max Tegmark），以及國際治理創(chuàng)新中心全球人工智能風險倡議執(zhí)行主任鄧肯卡斯-貝格斯（Duncan Cass-Beggs）等學界與產(chǎn)業(yè)界代表。
薛瀾主持會議并介紹到，為踐行2023年中國發(fā)布的《全球人工智能治理倡議》，“中國人工智能發(fā)展與安全研究網(wǎng)絡”凝聚中國人工智能發(fā)展和安全領域的優(yōu)勢力量和智力資源，對應“人工智能安全研究所”，代表中方與各國的人工智能安全研究機構展開對話與合作。
姚期智在主旨報告中指出，AI正在快速前進，ChatGPT在兩年前迎來了自己非常關鍵的時刻，兩年以來不斷積累各種能力，以驚人的速度快速向前，而最近的DeepSeek向大眾展示，它有可能極大降低開發(fā)和使用大語言模型的成本，這樣的成本節(jié)約是來自于我們對于模型和培訓模式等方面的革新引起的。
與此同時，DeepSeek也是一個開源的模型，它可以造福于全世界所有的開發(fā)者社區(qū)，能夠讓我們共同去推進AI的技術。這些發(fā)展既為驅(qū)動新的創(chuàng)新提供了更多可能，也帶來了諸多風險挑戰(zhàn)，而在互聯(lián)互通時代，加強國際合作至關重要。
當前，人工智能安全的全球合作基礎良好并取得重大進展，第一是全球在AI安全方面有了非常好的合作，AI安全的研究團隊現(xiàn)在也如雨后春筍般出現(xiàn)。第二是一系列推動國際合作的基礎設施正在形成.事實上現(xiàn)在國際上有很多會議是關于AI安全的，不管是政府間的會議，還是私營部門的會議.很多全球的調(diào)研是關于AI安全的,多專家共同參與的報告發(fā)表，標志著國際科學界對于AI的快速發(fā)展，以及對于安全是有共識的。
這可以進一步的鼓舞全球在人工智能領域的合作，事實上我們已經(jīng)在全球AI安全合作方面邁出了重大的進展，所以一定要持續(xù)以更多的國際合作和對話來推動這樣的勢頭，正如巴黎AI行動峰會這樣的會議一樣。最后，姚期智強調(diào)，科學創(chuàng)新由人類創(chuàng)造，為人類美好未來而服務，我們要一起努力，共同營造人工智能發(fā)展的良好環(huán)境，使人工智能增進人類福祉。
申衛(wèi)星在發(fā)言中表示，中國已形成人工智能立法的多層綜合結構。在定位上，中國人工智能立法力求在創(chuàng)新與監(jiān)管之間取得平衡，確保法律的明確性，促進行業(yè)發(fā)展，并與現(xiàn)有法律保持一致。在內(nèi)容上，中國人工智能立法需廓清人工智能的定義，囊括人工智能法基本原則，建立同AI 分級風險相協(xié)調(diào)的自我規(guī)制機制、風險管理機制、透明機制與損害救濟機制。中國也將在《全球人工智能治理倡議》指引下，加強國際合作，共同推動公平、公正的全球人工智能治理規(guī)則制定，以增強AI 系統(tǒng)的安全可靠性，促進技術創(chuàng)新和包容性發(fā)展。
唐杰在發(fā)言中提出，大模型研究的終極目標是教會機器像人一樣思考（即AGI），該目標可能很長遠也可能很快實現(xiàn)。在“AGI定義”問題上，他由低到高給出了包括預訓練語言模型、對齊與推理、自我學習、自我認知以及意識的AGI五層次定義，并認為當前處于第二與三層交匯處；在2025AGI發(fā)展趨勢上，他提出AI可以說發(fā)展成更大的大語言模型，對于人類是更多貢獻于人們?nèi)粘５纳钜约肮ぷ鞯膱鼍啊?br/>
可以說它是一個智能的助手或者是一個超級助手，當然他們有這樣的能力24小時不間斷的工作，給它這樣一些任務，它是可以在非�？斓乃俣葋硗瓿傻�。當然以前這樣一些任務，可能以前要花很長的時間，但是現(xiàn)在AI作為助手可以用極短的時間幫助我們完成任務。
所有的這些大語言模型，就算是給它一些非常少的從人類的角度進行輸入的話，它也會給你帶來更多的結果反饋，所以我們說大語言模型的未來對我們是至關重要的。人類與代理之間的協(xié)作潛力將成為變革性的力量，而最具有突破性的變化將發(fā)生在科學研究領域；在“AGI安全”問題上，他提出需要在模型、個人和國家層面制定全面的安全策略。最后，他認為AGI的路還很長，需要共同努力，實現(xiàn)安全、可控、無幻覺的穩(wěn)步發(fā)展。
胡國棟在發(fā)言中提出在從大語言模型到大世界模型、從人工的智能到智能體的智能發(fā)展歷程中，需要向善為民的人工智能來增進人民福祉、服務經(jīng)濟社會。他介紹了人工智能系統(tǒng)在中國農(nóng)業(yè)、工商業(yè)、消費與醫(yī)療等場景中的應用與成效，人工智能給農(nóng)業(yè)帶來了希望，將工商業(yè)帶入了數(shù)智融合世界，為消費者創(chuàng)造了新場景，讓醫(yī)生治愈了更多病人。在人人生而平等的基礎上，AI應該服務于各國人民，由他們共治和共享。
魏亮在發(fā)言中介紹，中國充分發(fā)揮產(chǎn)業(yè)優(yōu)勢，推動人工智能技術創(chuàng)新和與實體經(jīng)濟深度融合，在人工智能安全治理標準化和產(chǎn)業(yè)實踐方面做出了有益探索。在安全治理標準化方面，先后發(fā)布《新一代人工智能發(fā)展規(guī)劃》（2017）、《國家人工智能產(chǎn)業(yè)綜合標準化體系建設指南》（2024），《人工智能安全標準體系1.0》（征求意見稿），并在ISO、ITU、IEEE等國際標準化組織中貢獻力量。產(chǎn)業(yè)界積極響應、主動作為，先后發(fā)布《人工智能安全承諾》，《人工智能風險治理報告》, 發(fā)起大模型安全基準測試等，在人工智能安全治理方面開展了大量創(chuàng)新探索。
鄧肯卡斯-貝格斯（Duncan Cass-Beggs）在發(fā)言中指出，聯(lián)合國可在促進人工智能發(fā)展、推動人工智能賦能可持續(xù)發(fā)展等問題上發(fā)揮重要作用。但聯(lián)合國的作用有著一定的局限性，應當針對不同場景和問題采取不同的國際治理機制。前沿人工智能失控等極端風險，更加依賴掌握前沿技術的國家之間進行協(xié)調(diào)；而深度偽造、虛假信息等一般性的人工智能風險，則更加依賴國內(nèi)治理。各國政府應利用外交政策來共同設計國際合作機制，因為國家間合作將對公民福祉產(chǎn)生更大影響。構建人工智能安全研究所的全球網(wǎng)絡，將是實現(xiàn)人工智能安全治理的關鍵在，可以在此基礎上推動建立更加廣泛的全球人工智能治理框架。
馬克斯泰格馬克（Max TegMark）關注先進人工智能技術的安全風險與控制問題。他認為，當前世界大國與大型科技公司熱衷于推動通用人工智能（AGI）的實現(xiàn)，但卻忽略對其控制機制的研究。為先進人工智能技術建造安全“護欄”是必要的，能避免失控技術引發(fā)極端、生存性風險。為此，有必要推動企業(yè)與政府之間的合作，借鑒現(xiàn)有監(jiān)管模式如藥品管理、核設施管理的經(jīng)驗，在部署強大的人工智能系統(tǒng)之前，應當通過安全標準審查和控制機制保障其安全可靠。同時，應該倡導全球合作討論，確保AI技術的發(fā)展符合人類利益和價值觀。
在問答環(huán)節(jié)，聽眾提出如何加強全球在人工智能治理上的協(xié)調(diào)與合作，如何確保發(fā)展中國家的參與，以及如何應對各國在發(fā)展和認知上的差異等問題。
對此，姚期智提出，要建立發(fā)展中國家與發(fā)達國家、與擁有先進AI技術與能力國家間的對話機制，通過學術交流將發(fā)展中國家的學生或?qū)W者送到技術發(fā)達地區(qū)學習。同時他呼吁，媒體應更多地傳遞第三世界國家的聲音。
鄧肯卡斯-貝格斯（Duncan Cass-Beggs）提到，人工智能的發(fā)展應從競爭轉(zhuǎn)向合作，應該通過國際合作來實現(xiàn)安全與創(chuàng)新的平衡。申衛(wèi)星介紹到，中國在起草相關法律過程中，始終關注如何平衡安全和發(fā)展的這個關鍵問題。他認為，關注安全是為了去創(chuàng)造有利于創(chuàng)新和發(fā)展的環(huán)境，而不是把安全作為犧牲發(fā)展的借口。
胡國棟提及2021年奧運會新增加的“更團結（Together）”概念，AI全球治理也應遵循這一精神。在追求更快、更強計算能力的同時，應該通過更加團結的合作，實現(xiàn)安全治理目標。馬克斯泰格馬克（Max TegMark）也認為人們應該重拾奧林匹克精神，去重新思考人類與機器的未來關系，人工智能發(fā)展不應以國家間的“輸贏”來衡量，技術應超越國界。
