在美國總統(tǒng)特朗普開啟第二任期的幾周內(nèi)，谷歌悄悄做出了一個重大決定：取消了其長期以來對人工智能技術(shù)用于武器和監(jiān)控的限制。這一決定通過對公司 2018 年制定的 AI 原則的修改得以實現(xiàn)，標(biāo)志著這家科技巨頭在軍事 AI 應(yīng)用方面的重大政策轉(zhuǎn)變。
據(jù)悉，谷歌刪除了其 AI 原則中題為“我們不會追求的 AI 應(yīng)用”的段落。這些被刪除的內(nèi)容包括“可能造成整體傷害的技術(shù)”“主要目的或?qū)嵤┦窃斐蓚Φ奈淦骰蚱渌夹g(shù)”，以及“違反國際公認(rèn)準(zhǔn)則收集或使用監(jiān)控信息的技術(shù)”等條款。取而代之的是更為靈活的表述，強調(diào)“適當(dāng)?shù)娜斯けO(jiān)督、盡職調(diào)查和反饋機制”，以及“減輕意外或有害后果”的承諾。
圖丨 Google 官網(wǎng)新的 AI 原則表述（來源：Google AI）
谷歌 DeepMind 的 CEO Demis Hassabis 和負(fù)責(zé)研究、技術(shù)和社會的高級副總裁 James Manyika 在一篇聯(lián)合署名的博客文章中為這一變化辯護(hù)。
他們表示：“我們相信民主國家應(yīng)該在 AI 發(fā)展中發(fā)揮引領(lǐng)作用，以自由、平等和尊重人權(quán)等核心價值觀為指導(dǎo)。我們也相信，共享這些價值觀的公司、政府和組織應(yīng)該共同努力，創(chuàng)造能夠保護(hù)人民、促進(jìn)全球增長并支持國家安全的 AI�！�
圖丨相關(guān)博文（來源：Google）
這一政策調(diào)整其實已經(jīng)在谷歌的實際業(yè)務(wù)中顯露端倪。據(jù)《華盛頓郵報》披露的內(nèi)部文件顯示，在 2023 年巴以沖突爆發(fā)后的幾周內(nèi)，谷歌員工就積極響應(yīng)以色列國防部的需求，協(xié)助其獲取包括 Vertex AI 在內(nèi)的最新 AI 技術(shù)。
一位谷歌員工在內(nèi)部文件中警告說，如果不能快速提供更多訪問權(quán)限，以色列軍方可能轉(zhuǎn)向谷歌的云計算競爭對手亞馬遜。到 2024 年 11 月，以色列軍方仍在尋求使用谷歌最新的 Gemini AI 來開發(fā)文檔和音頻處理的 AI 助手。
然而，這種轉(zhuǎn)變在公司內(nèi)部引發(fā)了強烈反響。2024 年 5 月，近 200 名谷歌 DeepMind 員工（約占該部門員工總數(shù)的 5%）聯(lián)名致信公司領(lǐng)導(dǎo)層，要求終止與軍事組織的合作。
這封信特別提到了有關(guān)谷歌技術(shù)可能被用于加沙地帶軍事行動的擔(dān)憂。信中寫道：“任何涉及軍事和武器制造的行為都影響著我們作為倫理和負(fù)責(zé)任 AI 領(lǐng)導(dǎo)者的地位，這與我們的使命宣言和既定的 AI 原則相違背�！�
這種內(nèi)部抗議并非首次發(fā)生。早在 2018 年，谷歌就因參與美國國防部的 Project Maven 項目而遭到大規(guī)模員工抗議。該項目旨在利用 AI 技術(shù)分析無人機拍攝的視頻，以識別潛在目標(biāo)。當(dāng)時超過 4,000 名谷歌員工簽署請愿書，要求公司永遠(yuǎn)不再參與軍事項目。
這場抗議最終導(dǎo)致谷歌決定不再續(xù)簽這份政府合同，并制定了限制 AI 軍事應(yīng)用的原則。然而，時過境遷，如今這些限制性條款已被移除。
圖丨 Project Maven（來源：美國國防部）
谷歌前道德 AI 團(tuán)隊聯(lián)合負(fù)責(zé)人 Margaret Mitchell 對此表示擔(dān)憂：“刪除這些條款不僅抹殺了谷歌道德 AI 領(lǐng)域和活動人士的努力，更令人擔(dān)憂的是，這意味著谷歌現(xiàn)在可能會直接開發(fā)可能致人死亡的技術(shù)�！�2017 年至 2022 年主導(dǎo)谷歌云負(fù)責(zé)任 AI 的 Tracy Pizzo Frey 也表示，AI 原則曾經(jīng)指導(dǎo)著她的團(tuán)隊的日常工作：“這些原則要求我們深入審視我們所做的每一項工作，我從根本上相信這使我們的產(chǎn)品變得更好。負(fù)責(zé)任的 AI 是信任的創(chuàng)造者，而信任對于成功是必不可少的�！�
谷歌員工工會主席 Parul Koul 表示：“在沒有征求員工和公眾意見的情況下，看到谷歌放棄對 AI 技術(shù)倫理使用的承諾令人深感憂慮�！比欢雀璺矫姹硎�，公司將繼續(xù)專注于“與我們的使命、科學(xué)重點和專業(yè)領(lǐng)域相一致的 AI 項目”，并保持與國際法和人權(quán)原則的一致性。
對于 Project Nimbus（谷歌與以色列政府的云計算合同）的爭議，谷歌表示該合同“不針對與武器或情報服務(wù)相關(guān)的高度敏感、機密或軍事工作負(fù)載”。
然而，以色列國家網(wǎng)絡(luò)局局長 Gaby Portnoy 在 2024 年初的一次會議上暗示，Nimbus 云平臺在戰(zhàn)斗中發(fā)揮了“重要作用”，盡管他拒絕詳細(xì)說明具體內(nèi)容。這種表述的模糊性引發(fā)了對技術(shù)實際使用范圍的質(zhì)疑。
（來源：AP News）
從更廣泛的視角來看，谷歌的這一轉(zhuǎn)變反映了整個科技行業(yè)對軍事 AI 態(tài)度的根本性轉(zhuǎn)變。近期的報道顯示，包括 Meta、Anthropic、OpenAI 在內(nèi)的多家 AI 公司都在調(diào)整其軍事合作政策。
Meta 不僅修改了原本禁止將其技術(shù)用于“軍事和戰(zhàn)爭”的服務(wù)條款，還開放其開源 Llama AI 技術(shù)供美國政府機構(gòu)和國家安全承包商使用。Anthropic 則與防務(wù)承包商 Palantir 達(dá)成合作，承諾為美國情報和國防機構(gòu)提供 AI 模型的訪問權(quán)限。
這種轉(zhuǎn)變背后有著深層次的原因。首先是地緣政治局勢的持續(xù)緊張推高了國防預(yù)算，美國國防部在過去兩年已投入近 10 億美元用于 AI 項目。其次，AI 公司面臨著持續(xù)的研發(fā)投入壓力，軍方提供的穩(wěn)定收入對它們具有顯著吸引力。
再次，隨著 AI 技術(shù)的發(fā)展，其在軍事領(lǐng)域的應(yīng)用范圍不斷擴大，從威脅識別到后勤保障，再到戰(zhàn)場決策支持等多個方面，使得軍事市場成為不容忽視的重要領(lǐng)域。據(jù)統(tǒng)計，2024 年全球軍事 AI 市場規(guī)模已達(dá) 133 億美元，預(yù)計到 2031 年將增長至 350 億美元。
圖丨特朗普撤銷拜登關(guān)于應(yīng)對人工智能風(fēng)險的行政命令（來源：The White House）
在特朗普任期內(nèi)，預(yù)計美國政府對國防科技創(chuàng)新的支持力度將進(jìn)一步加大。在這樣的政策導(dǎo)向和持續(xù)的地緣政治緊張局勢下，科技公司與軍方的合作很可能會進(jìn)一步深化。然而，如何在推動技術(shù)創(chuàng)新的同時確保其負(fù)責(zé)任的使用，平衡商業(yè)利益、國家安全和倫理考量，將是整個行業(yè)需要持續(xù)面對的挑戰(zhàn)。
參考資料：
1.https://www.wired.com/story/google-responsible-ai-principles/
2.https://www.bloomberg.com/news/articles/2025-02-04/google-removes-language-on-weapons-from-public-ai-principles
3.https://time.com/7013685/google-ai-deepmind-military-contracts-israel/
4.https://www.washingtonpost.com/technology/2025/01/21/google-ai-israel-war-hamas-attack-gaza/
5.https://ai.google/responsibility/principles/
運營/排版：何晨龍
