富途资讯编译
据知情人士透露,谷歌在一项价值1亿美元的五角大楼竞赛中提交了成功方案后,突然退出了该挑战。该竞赛旨在开发用于语音控制的自主无人机蜂群技术。
另一位知情人士透露,该公司于2月11日通知政府,将不再参与这项旨在创建无人机蜂群控制所需技术的计划,此时距离方案提交仅过去几周。彭博新闻社查阅的相关记录显示,这一决定是在一次内部道德审查之后作出的。根据这些记录,Alphabet旗下的谷歌在退出竞赛时,官方给出的理由是“资源不足”。
记录显示,参与此项工作的几位谷歌员工对退出竞赛的决定表示失望。目前尚不清楚谷歌最初参与这项自主无人机技术挑战的消息在公司内部有多大范围的知晓度。但谷歌的数百名AI研究人员已对公司尖端技术被用于机密军事工作提出了广泛的反对。
由于事件的敏感性,这些知情人士要求匿名。
谷歌参与该竞赛以及随后的退出此前均未被报道过。
“在评估了此项目后,我们决定不进行投标,以便我们能够专注于我们的模型最能发挥效用的举措,”谷歌公共部门的一位发言人告诉彭博社。该发言人表示,公司每年都会评估数百个政府机会,并优先对最符合当前资源和技术优势的项目进行投标。该发言人没有回应关于内部道德审查的问题。
这项由特种作战司令部下属的国防自主战小组和国防创新部门联合牵头的五角大楼计划,设想指挥官能够通过将“向左”等语音指令转换为数字指令来指挥无人机蜂群。
美国特种作战司令部将相关问题转给了五角大楼,后者拒绝置评。国防创新部门没有回应置评请求。
OpenAI、Palantir和xAI等公司已被选中参加这项竞赛,该竞赛计划在六个月内分多个阶段展开。竞赛的后续阶段要求开发“与目标相关的态势感知和共享”以及“从发射到终止”的能力。
Anthropic PBC也申请参加了该竞赛但未被选中。尽管首席执行官达里奥·阿莫迪对在完全自主武器中集成大型语言模型持保留态度,但该公司评估认为其提交的方案并未违反其设定的红线,并将有助于这项有争议的新技术的开发和测试。
谷歌决定退出这项为期六个月的挑战之际,领先的AI公司及其员工正努力应对协助美国开发自主致命武器系统所带来的影响。关于技术在赋能潜在高风险新武器方面所扮演的角色,一直是五角大楼与硅谷之间反复出现的分歧点。
据该活动的组织者称,周一,数百名谷歌AI研究人员签署了一封致Alphabet首席执行官桑达尔·皮查伊的信,敦促他拒绝为美国国防任务的机密工作负载提供公司的AI系统。随后The Information报道称,谷歌与五角大楼已签署一项新的AI协议,允许将AI用于“任何合法的政府目的”,并且谷歌对合法的政府运营决策(包括机密工作)没有否决权。
一位谷歌发言人告诉彭博社,公司修订了与五角大楼的现有合同,提供公司AI模型的访问权限并不涉及为五角大楼开发定制模型,代表了该发言人所称的“支持国家安全的一种负责任方式”。
该发言人补充说:“我们仍然致力于公私部门的共识,即AI不应在没有适当人工监督的情况下用于国内大规模监控或自主武器。”
五角大楼拒绝就其是否与谷歌达成协议修订现有交易或相关条款发表评论。
编辑/Rocky