Sam Altman 在 DC 会议 OpenAI 防御工作中面临“严重问题”

OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 在华盛顿特区会见了几位立法者，亚利桑那州民主党参议员马克·凯利 (Mark Kelly) 表示，他对该公司的战争方式及其最近与国防部的协议提出了一些“严重问题”。

凯利在接受 CNBC 艾米丽·威尔金斯采访时表示，该组织“详细”讨论了监视以及如何在杀伤链中使用人工智能系统。他称这是一次“很好的讨论”。

凯利说：“必须有适当的护栏，我们必须确保我们始终考虑宪法并确保我们遵守它。”

上个月末，在竞争对手 Anthropic 被国防部长皮特·赫格斯 (Pete Hegseth) 列入黑名单几个小时后，OpenAI 与国防部达成了一项协议，并宣布该公司“对国家安全构成供应链风险”。

Anthropic 一直试图与国防部重新谈判合同，但由于在如何使用该技术方面存在分歧，谈判陷入僵局。国防部希望 Anthropic 允许军方出于所有合法目的不受限制地访问其模型，而 Anthropic 则寻求保证其模型不会用于完全自主武器或国内大规模监视。

奥特曼在交易破裂当天的一篇帖子中表示，禁止国内大规模监控和人类对使用武力（包括自主武器系统）的责任是该公司“最重要的安全原则”的两项。他说国防部同意并将其纳入安排。

OpenAI 公布了其与国防部的合同摘录，其中表示该机构“可以将人工智能系统用于所有合法目的”。该公司表示，由于 OpenAI 的安全堆栈、合同语言和现有法律，有信心国防部将无法将其人工智能系统用于大规模监视或完全自主武器。

奥尔特曼周四对 CNBC 表示：“我们认为支持美国政府和民主进程非常重要。”他补充说，虽然 OpenAI 不同意五角大楼将 Anthropic 指定为供应链风险的决定，但他认为政府需要能够就“国家最重要的事情如何运作”做出决定。

人类与国防部之间的冲突令华盛顿的官员和技术专家感到震惊。许多人认为 Anthropic 的模型更优越——它们是第一个部署在该机构机密网络中的模型——并支持该公司与 Palantir 等现有国防承包商整合的能力。

凯利正在与其他参议员合作起草立法，为国防部与人工智能组织的合同设置护栏，并表示国会“需要发挥作用”。

“我们需要就此立法，设立一些边界、护栏，”他说。 “这是美国国会，事情的发展速度没有我们希望的那么快，但这项技术发展得非常快。”

手表： 萨姆·奥尔特曼会见立法者：经济对就业的影响将是一个巨大的话题