share_log

谷歌逾580名員工聯署請願,要求CEO拒絕承接美軍機密AI業務

華爾街見聞 ·  04/28 05:08

本次員工抗議理由是一旦AI工具部署於涉密系統,谷歌將無從監控其實際用途。當下五角大樓與谷歌正就其AI工具用於"一切合法用途"展開磋商;批評者認爲,這一表述在實踐中可能涵蓋武器系統研發及大規模監控。谷歌與國防部的業務合作再添不確定性。

$谷歌-C (GOOG.US)$ 內部掀起新一輪員工抗議浪潮。數百名人工智能研究人員聯署公開信,要求CEO Sundar Pichai拒絕將公司AI系統用於美國國防部的涉密任務。

據彭博,組織者稱已徵集到逾580個簽名,簽署者涵蓋超過20名總監、高級總監及副總裁級別的高管,以及谷歌旗下AI研究機構DeepMind的多名高級員工。組織者表示,該信將於本週一送達Pichai。

公開信明確要求谷歌拒絕一切涉密工作負載,理由是一旦AI工具部署於與公共互聯網物理隔離的涉密系統,公司將無從監控其實際用途。

這封信的發出恰逢谷歌與五角大樓之間的合作談判持續推進。據報道,雙方就將谷歌AI工具用於"一切合法用途"展開磋商。批評者認爲,這一表述在實踐中可能涵蓋全自主武器系統及國內大規模監控。

對市場而言,此次員工行動令谷歌未來國防業務的擴張節奏及合規邊界再添不確定性。

員工憂慮:合同邊界模糊,涉密系統失控風險高

公開信的核心訴求,在於員工認爲谷歌未能就AI在涉密網絡上的使用劃定具體且可執行的紅線。

谷歌DeepMind英國分部AI研究工程師Sofia Liguori表示,她簽署該信,是因爲谷歌未能就AI在涉密領域的使用與員工討論。她指出,一旦AI工具部署於涉密系統,公司在技術層面將無法追蹤和限制這些工具的實際使用方式。

"公司一直以來給出的回應,是讓員工相信領導層會簽訂好的合同,"Liguori說,"但這些表述都非常寬泛。"她特別點名"智能體AI"(Agentic AI)的風險:

"它所能達到的自主程度令人擔憂。這就像在交出一件極其強大的工具的同時,也放棄了對其使用的任何掌控。"

公開信寫道:"目前,確保谷歌不與此類危害產生關聯的唯一方式,是拒絕任何涉密工作負載。否則,此類用途可能在我們不知情、且無力阻止的情況下發生。"

歷史重演:從Maven到當下的邊界之爭

此次員工行動並非首次。2018年,谷歌員工對公司參與五角大樓"Maven項目"一事發出強烈抗議,該項目旨在利用AI分析無人機視頻畫面中的目標物體。

面對員工的反對和辭職浪潮,谷歌最終制定了新的AI原則,並決定不再續簽Maven合同。

然而,谷歌此後逐步重建與國防工業的關係,並於去年刪除了其AI原則中承諾避免將技術用於武器等潛在有害應用的相關表述。

此次聯署信的組織者在聲明中直言:"Maven尚未結束。"他們表示,"工人將持續就谷歌AI技術武器化問題展開組織行動,直到公司劃定清晰、可執行的邊界。"

谷歌與五角大樓:合作加速,邊界存疑

與此同時,谷歌與五角大樓的合作已實質性推進。今年3月,谷歌向五角大樓逾300萬名員工開放了其Gemini AI智能體,供非涉密級別使用;此前已於去年12月開放Gemini聊天機器人。

負責研究與工程事務的國防部副部長Emil Michael在3月告訴彭博,五角大樓將從非涉密層級的Gemini智能體用途起步,"然後我們將進入涉密和絕密級別",並透露谷歌AI智能體在涉密雲端的使用談判已在進行中。

谷歌與五角大樓就AI工具"一切合法用途"的授權談判正在推進。這一表述被批評者認爲可能涵蓋武器系統。對此,五角大樓強烈反駁上述定性,並主張商業公司不應在戰時或備戰期間擁有對使用政策的否決權。

這場爭議還與Anthropic近期的處境形成對照——據報道,五角大樓正尋求將Anthropic及其Claude AI工具從美國國防供應鏈中排除,並積極物色新的科技巨頭合作伙伴,谷歌因而成爲潛在替代選項之一。

編輯/Rocky

譯文內容由第三人軟體翻譯。


以上內容僅用作資訊或教育之目的,不構成與象象銀行相關的任何投資建議。象象銀行竭力但無法保證上述全部內容的真實性、準確性和原創性。