“N联合国秘书长安东尼奥·古特雷斯本周警告说，未来我们的行动将会像现在一样缓慢，他谈到了塑造人工智能使用的迫切需要。技术发展的速度以及地缘政治动荡正在瓦解理论论点与现实世界事件之间的区别。 对美军人工智能能力的高度评价恰逢其在伊朗危机中前所未有的使用。
人工智能公司 Anthropic 坚称，它无法取消阻止国防部将其技术用于国内大规模监视或自主致命武器的保障措施。五角大楼表示对此类用途没有兴趣，但此类决定不应由公司做出。令人愤慨的是，政府不仅解雇了 Anthropic，还将其列为供应链风险黑名单。 OpenAI 介入，同时坚称自己维持了 Anthropic 宣布的红线。然而，在针对用户和员工强烈反对的内部回应中，其首席执行官 Sam Altman 承认，它无法控制五角大楼对其产品的使用，而且该交易的处理方式让 OpenAI 看起来“机会主义且草率”。
但正如“制止杀手机器人”组织（Stop Killer Robots）的执行董事妮可·范罗伊延（Nicole van Rooijen）所警告的那样：“问题不仅在于是否会使用这些武器，还在于它们的前体系统如何已经改变了战争的方式……人类控制有可能成为事后的想法或流于形式。”
范式转变已经开始。尽管发生了争吵，据报道，Anthropic 的克劳德还是促成了大规模且愈演愈烈的攻势，这场攻势已经导致伊朗估计有数千名平民死亡。专家本周告诉《卫报》，这是一个轰炸“比思维速度还快”的时代，人工智能可以识别目标并确定优先级，推荐武器装备并评估打击的法律依据。
人工智能并不是造成平民死亡、军事错误或不负责任的先决条件。美国国防部长皮特·赫格斯吹嘘放松了交战规则。五角大楼的工作人员正在回避有关 2 月 28 日美国对伊朗一所学校发动袭击导致 165 名女学生死亡的问题。
但是，即使不考虑人工智能不准确和偏见的问题，其影响对其用户来说也是显而易见的。一位以色列情报人士观察到它在加沙战争中的使用情况：“目标永无止境。还有 36,000 个目标在等待。”另一位说，他花了 20 秒评估每个目标，并表示：“除了获得认可之外，我作为一个人的附加值为零。”大规模杀戮在各个方面都得到了缓解，道德和情感上的距离进一步扩大，责任也减少了。
民主监督和多边约束，而不是将决定权留给企业家和国防部门，是至关重要的。当炸弹如雨点般袭击伊朗时，各国在日内瓦召开会议，讨论致命自主武器系统问题。他们认为案文草案将为迫切需要的条约奠定坚实的基础。大多数政府都希望对人工智能的军事使用有明确的指导。抵制的是最大的参与者——尽管他们至少在场。人工智能驱动的战争的步伐意味着谨慎可能看起来像是将控制权交给对手。然而，正如科技工作者和军方官员自己意识到的那样，不受控制的扩张的危险要大得多。
-
您对本文提出的问题有什么看法吗？如果您想通过电子邮件提交最多 300 字的回复，以便考虑在我们的信件部分发布，请单击此处。
关键词：