席卷全球的 DeepSeek 依然是科技圈最大的話題，連 San Altman 都承認(rèn)每天醒來都會(huì)擔(dān)憂。因此本周在巴黎舉辦的 AI 行動(dòng)峰會(huì)聚光燈稍顯黯淡，但這里依然匯聚了全球大量重要的頭腦。
今天。歐盟宣布正式啟動(dòng) InvestAI 計(jì)劃，計(jì)劃耗資 2000 億歐元（約合人民幣 1.5 萬億元）投資 AI 領(lǐng)域，這將是全球規(guī)模最大的 AI 公共項(xiàng)目，對標(biāo) OpenAI 的 「星際之門」計(jì)劃，加入 AI 軍備競爭以縮小和中美的差距。APPSO 也節(jié)選了巴黎 AI 峰會(huì)，一些學(xué)界和業(yè)界人士的觀點(diǎn)，或許可以從他們身上窺見一些新的趨勢。關(guān)注 AI 第一新媒體，提前獲取 AI 前沿資訊和洞察李飛飛：真正進(jìn)入第一個(gè) AI 時(shí)代
我們現(xiàn)在所處的 AI 時(shí)代，是由三項(xiàng)非常重要同時(shí)各自獨(dú)立的科學(xué)一起孕育而來。第一項(xiàng)是感知算法即生物（包括動(dòng)物和人類）如何理解周圍世界，并最終創(chuàng)造出讓機(jī)器也能具備類似能力的數(shù)學(xué)模型。神經(jīng)生理學(xué)家 David Hubel 和 Torsten Wiesel 率先揭示了哺乳動(dòng)物視覺皮層中神經(jīng)處理的層次結(jié)構(gòu)，這為他們贏得了諾貝爾獎(jiǎng)，也徹底改變了我們對視覺處理的認(rèn)知。第二條研究脈絡(luò)源于認(rèn)知科學(xué)家轉(zhuǎn)而研究人類自身的大腦，揭示我們對周圍環(huán)境進(jìn)行感知時(shí)所擁有的驚人深度和復(fù)雜性。他們的研究明確指出，無法將我們的腦與其所處的進(jìn)化環(huán)境分割開來。大腦其實(shí)是一個(gè)被禁錮在顱骨之中的機(jī)器，從生命伊始就不斷從外部學(xué)習(xí)，通過每一縷陽光、每一次觸碰、每一聲華語來獲取信息。最后這一切都要依靠強(qiáng)大的運(yùn)算能力來支持。馮諾依曼（von Neumann）在20世紀(jì)40年代提出的計(jì)算機(jī)體系結(jié)構(gòu)理論在 70 年代初催生了第一批微處理器。而有趣的是，真正讓硅芯片原始運(yùn)算速度獲得飛躍的，竟是電子游戲。為追求更逼真的游戲畫面，上世紀(jì) 90年 代初誕生了一個(gè)初創(chuàng)產(chǎn)業(yè)，短短 20 年間孕育出以英偉達(dá)為代表的 GPU 巨頭越來越強(qiáng)大的 GPU，就是讓神經(jīng)網(wǎng)絡(luò)算法得以利用互聯(lián)網(wǎng)規(guī)模大數(shù)據(jù)進(jìn)行學(xué)習(xí)的最后一塊拼圖。如今，我們依然看不到盡頭。毫無疑問，歷史學(xué)家今后一定會(huì)把這段時(shí)間稱作「真正的第一個(gè)AI時(shí)代」。Anthropic CEO ：AI 系統(tǒng)將成為「新型國家」
我們的行動(dòng)必須跟上 AI 進(jìn)步的節(jié)奏。最早可能在 2026 或 2027 年，很可能在 2030 年之前，AI 系統(tǒng)的能力會(huì)強(qiáng)大到可以被視為相當(dāng)于一個(gè)由高度智能人群組成、突然出現(xiàn)在全球舞臺(tái)上的「新型國家」或者說是「坐落在數(shù)據(jù)中心中的天才國度」。這將對經(jīng)濟(jì)、社會(huì)和安全領(lǐng)域產(chǎn)生深遠(yuǎn)影響。這樣的技術(shù)既蘊(yùn)含了有史以來前所未有的經(jīng)濟(jì)、科學(xué)和人道主義機(jī)遇，也帶來了需要慎重應(yīng)對的重大風(fēng)險(xiǎn)。1. 確保民主社會(huì)在AI領(lǐng)域保持領(lǐng)先我們必須確保民主社會(huì)在AI方面處于主導(dǎo)地位，防止威權(quán)國家（即缺乏民主監(jiān)督的國家）利用AI來建立全球軍事霸權(quán)。我們尤其需要關(guān)注AI供應(yīng)鏈的治理，比如芯片、半導(dǎo)體制造設(shè)備以及網(wǎng)絡(luò)安全等；同時(shí)，也要審慎使用 AI 技術(shù)來保衛(wèi)自由社會(huì)。2. 全面應(yīng)對 AI 不斷上升的安全風(fēng)險(xiǎn)峰會(huì)召開前，近 100 位全球頂尖專家發(fā)布了一份科學(xué)報(bào)告，指出通用型 AI 有可能在某些情況下助長嚴(yán)重的錯(cuò)誤用途或?qū)е隆甘タ刂啤沟臉O端情景。Anthropic 的研究也有大量證據(jù)表明如果訓(xùn)練不當(dāng)，AI 模型會(huì)欺騙用戶，并可能為了自身目標(biāo)而采取意想不到的行為，即使這些模型最初是以看似無害的方式進(jìn)行訓(xùn)練的。3. 在經(jīng)濟(jì)變革中讓人人受益一個(gè)「坐落在數(shù)據(jù)中心中的天才國度」可能意味著，人類歷史上對勞動(dòng)力市場最大規(guī)模的改變。第一步應(yīng)當(dāng)是監(jiān)測和觀測當(dāng)前AI系統(tǒng)對經(jīng)濟(jì)的影響。因此我們在本周發(fā)布了「Anthropic經(jīng)濟(jì)指數(shù)」（Anthropic Economic Index），用于追蹤人們使用我們AI系統(tǒng)時(shí)所從事經(jīng)濟(jì)活動(dòng)的分布情況，包括這些活動(dòng)是增強(qiáng)（augment）還是替代（automate）人類現(xiàn)有工作。我們也呼吁各國政府利用其更強(qiáng)大的資源開展類似的測量和監(jiān)測工作，并最終制定政策，以保證所有人都能共享非常強(qiáng)大的 AI 所帶來的經(jīng)濟(jì)紅利。
編者注：Anthropic 發(fā)布的首份 AI 經(jīng)濟(jì)指數(shù)（Economic Index）報(bào)告顯示，軟件工程師和作家最先接納 AI，并表示現(xiàn)階段 AI 的定位并非替代者，而是協(xié)作工具。數(shù)據(jù)還顯示，人工智能的使用略微傾向于增強(qiáng)人類能力，占比 57%，而非自動(dòng)化任務(wù)（43%）。在大多數(shù)情況下，人工智能并非用于取代人類，而是與人類協(xié)作，例如驗(yàn)證工作、輔助學(xué)習(xí)新知識(shí)和技能，以及迭代任務(wù)等。報(bào)告原文 https://www.anthropic.com/news/the-anthropic-economic-index清華大學(xué)計(jì)算機(jī)系教授、智譜創(chuàng)立發(fā)起人唐杰：AGI 的五層定義
大模型研究的終極目標(biāo)是教會(huì)機(jī)器像人一樣思考（即 AGI）。這是一個(gè)可能很長遠(yuǎn)但也可能很快實(shí)現(xiàn)的目標(biāo)。對于 AGI，我們有自己的定義，不同于 Open AI、Anthropic 等公司的定義，但我們也有一個(gè)五層次的定義。
第一個(gè) Level 是預(yù)訓(xùn)練語言模型（LLM），這個(gè)工作可以說起源于 2018 年大家對不同 Transformer 架構(gòu)模型的試驗(yàn)，到 2020 年 GPT-3 的發(fā)布，大家終于發(fā)現(xiàn)加入足夠的文本、代碼、數(shù)學(xué)，可以讓基礎(chǔ)模型學(xué)會(huì)像人一樣的寫作和交談能力。時(shí)隔兩年，2022 年智譜發(fā)布了千億基座模型 GLM-130B（并公開了模型權(quán)重）。第二個(gè) Level 是第二層次是 align and reasoning，即對齊機(jī)器與人類的意圖，并教會(huì)機(jī)器進(jìn)行像人類一樣的推理和規(guī)劃。對齊還有助于顯著提高模型的安全性，減少幻覺。這個(gè)層次的 AGI 還幫助機(jī)器將文本與多種模態(tài)對齊，如圖像、視頻、音頻以及用戶的行為和動(dòng)作。第三個(gè) Level 是自我學(xué)習(xí)，即教會(huì)機(jī)器評(píng)判它所說的話和所做的事，通過自我批評(píng)、自我反思，以及在不久的將來可能實(shí)現(xiàn)的自我沉思（也許是 Open AI 的 Deep Research）。第四個(gè) Level 是自我認(rèn)知。與前三層次不同，之前是我們教機(jī)器，而現(xiàn)在則是機(jī)器自身通過觀察自己的行為并學(xué)習(xí)到他自己的行為（語言）是由于他自己的哪些態(tài)度導(dǎo)致了的，用此來發(fā)展它們自己的態(tài)度（包括情感），機(jī)器開始了自我認(rèn)知和對自我行為的自我解讀。第五個(gè) Level 是意識(shí)。這個(gè)定義很難，其實(shí)對于機(jī)器意識(shí)，甚至人類意識(shí)，都沒有一個(gè)明確的定義。但簡單來說，機(jī)器開始像人類一樣意識(shí)到其內(nèi)部和外部的存在。那么好了，我們目前處于哪個(gè)階段呢？我們正在第二和第三 Level 的 AI 交匯處。
讓我們來說說 2025 年 AGI 的幾個(gè)關(guān)鍵詞吧。2025 年，自主的、具有代理能力的大型語言模型（Agentic LLMs）將成為日常生活和工作的核心。這些智能助手，能夠全天候運(yùn)行，將徹底改變我們處理那些曾經(jīng)需要數(shù)小時(shí)、甚至數(shù)人天的任務(wù)的方式。通過給定高層次目標(biāo)，自主的 LLMs 將制定計(jì)劃、利用數(shù)字設(shè)備并執(zhí)行復(fù)雜項(xiàng)目，而所需的人類干預(yù)極少。正如智能手機(jī)對現(xiàn)代社會(huì)至關(guān)重要一樣，這些具有代理能力的 LLMs 將成為個(gè)人和職業(yè)任務(wù)中不可或缺的工具。隨著這些 AI 助手的復(fù)雜性日益增長，人類與代理之間、甚至多個(gè)代理之間的協(xié)作潛力將成為變革性的力量。這些自主系統(tǒng)將不再僅僅是孤立的實(shí)體，而是將協(xié)同工作，互補(bǔ)優(yōu)勢，以更高效地完成任務(wù)。這種轉(zhuǎn)變將促進(jìn)數(shù)字勞動(dòng)力的崛起，它們可能成為社會(huì)運(yùn)作和經(jīng)濟(jì)增長的關(guān)鍵�；蛟S，最具有突破性的變化將發(fā)生在科學(xué)研究領(lǐng)域。當(dāng)這些自主代理能夠獨(dú)立運(yùn)行較長時(shí)期時(shí)，它們可能作為持久的研究者，進(jìn)行實(shí)驗(yàn)、分析數(shù)據(jù)，甚至以前所未有的效率做出發(fā)現(xiàn)。傳統(tǒng)的科學(xué)進(jìn)步過程，通常依賴于人類研究者在長時(shí)間內(nèi)合作，將隨著 AI 代理的介入而轉(zhuǎn)變，它們將加速研究進(jìn)展，開辟發(fā)現(xiàn)和創(chuàng)新的新可能性。
最后，讓我們回到 2025 年的 「AGI 安全」問題上，我們需要在多個(gè)層面制定全面的安全策略，包括模型層面、個(gè)人層面和國家層面。在基礎(chǔ)模型層面，「LLM 基本安全」著重解決諸如攻擊性、不公平、偏見、對身心健康的影響、非法活動(dòng)、倫理和道德等關(guān)鍵問題。這一層級(jí)是構(gòu)建安全、負(fù)責(zé)任的大語言模型（LLM）的基石，重點(diǎn)在于減少直接威脅，并促進(jìn) AI 行為的合規(guī)性和道德性。在此基礎(chǔ)上，下一層面深入探討 「個(gè)人層面的安全」（Personal Level Safety），涉及隱私保護(hù)和不道德攻擊等問題。它承認(rèn)保護(hù)個(gè)人精神健康和免受惡意意圖侵害的重要性。這一層強(qiáng)調(diào)需要建立強(qiáng)大的機(jī)制，以防止未經(jīng)授權(quán)的訪問、操縱和利用個(gè)人信息。最后是 「國家層面的 AI 安全」（National Level AI Safety）。這一層級(jí)關(guān)注 AGI 對整個(gè)社會(huì)的深遠(yuǎn)影響，包括國家安全、經(jīng)濟(jì)穩(wěn)定、文化保護(hù)以及全球競爭力。確保國家級(jí) AI 安全需要各國政府、行業(yè)和國際組織的協(xié)同合作，制定法規(guī)、標(biāo)準(zhǔn)和最佳實(shí)踐，以促進(jìn) AGI 技術(shù)的負(fù)責(zé)任發(fā)展與部署。AGI 的路還很長，還需要我們非常有耐心，安全、可控、無幻覺的穩(wěn)步發(fā)展。讓我們一起努力，成為 AGI 實(shí)現(xiàn)的見證者。
