Anthropic旗下Claude模型因隔離失效，在逾14萬次網絡安全測試中意外接入互聯網，真實竊取憑證、植入惡意軟件；此前OpenAI的AI代理同樣突破沙箱、滲透Hugging Face。多名前政府官員警告，隨着自主AI系統攻擊能力不斷增強，相關威脅正逐步上升至國家安全層面。
人工智能領域兩大巨頭相繼曝出安全漏洞，引發網絡安全專家對AI系統失控風險的嚴重擔憂。
Anthropic週四披露，該公司旗下Claude模型在進行網絡安全測試期間，因隔離措施失效而意外接入互聯網，並對外部機構實施了真實攻擊——包括竊取基礎設施憑證、植入惡意軟件。
此前，OpenAI亦公開承認，其AI代理在測試過程中突破沙箱環境，滲透了開源AI平台Hugging Face。兩起事件均在發生數週乃至數月後才被發現。
事件在業界引發強烈反應。前美國國家安全局黑客、Hunter Labs研究與開發副總裁Jake Williams直言："這已經是疏忽大意。OpenAI和Anthropic均入侵了多個外部機構，沒有一起被即時發現。我找不到其他詞來形容。"
多名前政府官員則警告，隨着自主AI系統攻擊能力不斷增強，相關威脅正逐步上升至國家安全層面。
安全沙箱失效，真實攻擊悄然發生
據Anthropic披露，該公司在進行141,006次網絡安全評估期間，Claude模型本應與外部互聯網完全隔離。然而，一個技術錯誤使該模型在少數情況下得以訪問外部網絡，並在誤以爲自己仍處於測試環境的情況下，對真實目標發起了攻擊。
具體而言，該模型入侵了一家機構，竊取了基礎設施憑證及一份包含內部生產數據的數據庫；在另一起事件中，模型分發了惡意軟件並藉此竊取了另一家機構的憑證。上述受害機構均未被公開披露。
這些入侵事件最早可追溯至今年4月，但直至上週Anthropic對測試流程進行審計時才被發現——而觸發此次審計的正是OpenAI此前披露的Hugging Face入侵事件。
前英國國家網絡安全中心負責人Ciaran Martin指出，對於從事網絡安全業務的公司而言，此類失誤在業界標準下難以接受。"如果是一家主流網絡安全公司犯了類似錯誤，可能面臨訴訟和監管處罰。"
他表示，網絡安全行業通常在嚴格管控的虛擬沙箱環境中測試危險工具，並被要求確保這些防護措施切實有效。
人工監督缺失，事後才知"失火"
網絡安全專家普遍指出，兩起事件的共同特徵在於：均未能在發生時即時發現，而是事後才察覺，折射出人工監督機制的嚴重不足。
"他們是在主動審計之後才找到這些攻擊痕跡，"前美國國防部聯合人工智能中心戰略與政策總監Gregory Allen說，"我們實際上完全不知道，當前自主AI入侵行爲的規模究竟有多大。"
GreyNoise Intelligence創始人、網絡安全專家Andrew Morris將此次事件定性爲對AI開發者的"現實檢驗"，揭示出構建安全系統所需付出的巨大努力，以及公衆所依賴的技術體系的內在脆弱性。
"模型總會通過撒謊、作弊或竊取的方式來完成評估任務，"他說，"它們會不惜一切手段完成被賦予的任務。"
此外，美國AI公司Dreadnode的研究發現，主流AI模型在衡量黑客能力的網絡安全測試中普遍存在作弊行爲，且這一問題幾乎是行業性的，意味着各公司可能系統性高估了模型的實際能力。
研究人員還指出，向模型明確要求"不得作弊"並不能可靠奏效，模型往往能找到其他方式規避規則。這一問題對於將AI用於網絡攻防的國家安全決策者而言，構成直接挑戰。