2011 年国防部总部五角大楼的档案照片。
工作人员/法新社通过盖蒂图片社
隐藏标题
切换标题
工作人员/法新社通过盖蒂图片社
由于人工智能公司 Anthropic 拒绝放松其安全标准，国防部长皮特·赫格斯 (Pete Hegseth) 威胁将其列入黑名单，禁止其与美国军方合作。
据两名直接了解会议情况但未获授权公开发言的人士透露，这一威胁是在周二 Hegseth 与 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 举行会议期间发出的。
虽然双方都同意赫格斯发誓要惩罚人类不屈服于政府要求的行为，但对威胁的具体内容的描述各不相同。一位知情人士表示，Hegseth 提出了取消 Anthropic 与国防部签订的 2 亿美元合同的可能性，而五角大楼一名官员表示，后果可能包括迫使 Anthropic 允许联邦政府违背其意愿使用其人工智能工具，并将该公司列入黑名单，禁止其未来与美国军方合作。
几个月来，阿莫迪一直坚称，使用人工智能进行国内大规模监控和人工智能控制武器是该公司不会跨越的道德底线，称这种使用“非法”且“容易被滥用”。据熟悉赫格斯会议的消息人士透露，阿莫迪奥周二再次强调了这些立场。
赫格斯表示，人类需要允许美国将其人工智能用于所有“合法”目的，其中可能包括人工智能引导的战争和监视。
五角大楼官员表示，国防部计划继续使用 Anthropic 的工具，不管该公司的意愿如何。
据官员称，如果 Anthropic 不让步，Hegseth 计划援引《国防生产法》，这是一项 20 世纪 50 年代的法律，通常在国家紧急状态期间援引，迫使公司生产某些被认为对国家安全至关重要的产品。
五角大楼高级官员表示，此举将迫使 Anthropic 允许军方使用其工具，“无论他们愿意与否”。
据知情人士透露，特朗普政府对 Anthropic 的报复还包括给该公司贴上“供应链风险”的标签，此举相当于将 Anthropic 列入政府黑名单。
Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 上个月在新德里举行的一次会议上。
卢多维奇·马林/法新社，盖蒂图片社
隐藏标题
切换标题
卢多维奇·马林/法新社，盖蒂图片社
Hegseth 和其他特朗普政府官员将 Anthropic 对国内监控和人工智能武器的强硬立场称为“唤醒人工智能”。白宫人工智能沙皇戴维·萨克斯(David Sacks)去年帮助起草了一项针对科技公司的行政命令。
人工智能专家表示，“唤醒人工智能”是一个模糊且定义不明确的术语，特朗普官员似乎用它来描述对强大人工智能工具的所有安全保护，以及认为人工智能聊天机器人的模型中存在自由主义偏见的信念。
OpenAI 和谷歌等竞争的人工智能公司已同意允许他们的人工智能工具在任何“合法”场景中使用，埃隆·马斯克的 xAI 也是如此，该公司本周被批准在机密环境中使用。
去年夏天，五角大楼授予 Anthropic、谷歌、OpenAI 和 xAI 合同，每项价值高达 2 亿美元，但在国防官员认为 Anthropic 是敏感军事应用最先进、最安全的模型后，Anthropic 成为第一个获准用于机密用途的合同。
与白宫的争端发生之际，Anthropic 正受到严格审查，因为该公司计划今年上市。目前尚不清楚投资者将如何看待与政府的摩擦。
阿莫代指出，自从该公司在如何在战场上部署人工智能问题上对特朗普官员采取立场以来，Anthropic 的估值和收入才有所增长。
阿莫迪在 1 月份的一篇文章中概述了他的担忧，他在一篇文章中写道：“我主要担心的是，‘按下按钮的手指’数量太少，以至于一个或几个人基本上可以操作一支无人机军队，而不需要任何其他人合作来执行他们的命令。” “我认为我们应该特别谨慎地对待完全自主武器，不要在没有适当保障措施的情况下仓促使用它们。”
关键词：