一个nthropic 本月宣布了其最新的人工智能模型 Claude Mythos，但表示不会公开发布，因为它将计算机变成犯罪现场。该公司声称，它可以发现以前未知的“零日”缺陷，利用它们，并原则上将这些弱点联系起来，以接管主要操作系统和网络浏览器。 Mythos 自主地这样做，编写代码并获得特权。其影响是重大的。这就像窃贼能够瞄准任何建筑物，进入内部，打开每扇门并清空每个保险箱。
迄今为止，这家硅谷公司已指定 40 个组织作为 Glasswing 项目的合作伙伴，以帮助开展防御工作，要求他们在黑客有机会利用漏洞之前“修补”漏洞。所有这些都是美国人，位于美国主导的数字系统的核心。 Anthropic 仅与美国以外的英国分享 Mythos，从而允许人工智能安全研究所测试前沿模型。英国部长们在近距离观察后警告称：人工智能将使网络攻击变得更加容易和更快，但大多数企业还没有做好准备。欧洲的银行接下来可能会对其进行测试。
这可能还不算太早。本周出现了未经授权访问的报告，这引发了一个问题：是否有任何私营公司可以信任拥有这样的能力。神话并不一定会创造一种新的网络威胁。它将潜在的弱点变成系统性风险。传统上，黑客攻击既困难又耗时，需要很少有人具备的技能。但人工智能工具正在迅速传播，让许多人（而不仅仅是专家）都可以攻击系统。
偷猎者也可以变成猎场看守人。 Mozilla 在其 Firefox 浏览器上测试了 Mythos：发现的缺陷比以前多了 10 倍，并修复了这些缺陷。至关重要的是，没有一个是人类无法发现的。改变的是人工智能能够快速、廉价、大规模地发现“网络漏洞”。
美国政府对人择的接受标志着一个转变。今年二月，五角大楼认为该公司存在“安全风险”，并在该公司拒绝允许其技术用于大规模监视或自主武器后，切断了其利润丰厚的交易。 OpenAI 反而拿到了合同。 Anthropic 及其 Claude 聊天机器人长期以来一直将自己定位为竞争对手中的道德替代品，尽管去年 15 亿美元的盗版和解协议损害了其形象。
Mythos 很强大，但 Anthropic 的公关不仅塑造了技术，还塑造了叙事。还有一个问题是神话究竟有多先进。研究人员已经证明，大规模部署的更小、更便宜的模型也能达到类似的效果。看似的突破可能反映了整个领域更广泛的转变。白宫认为 Anthropic 具有战略价值——邀请其重新加入并标志着人工智能公司从承包商到合作伙伴的转变。这引发了一个更深层次的担忧：私营企业对关键基础设施风险的控制是否明智——特别是如果不太负责任的参与者获得了技术影响力的话。
显然，无论谁——国家或公司——创造出最强大的人工智能模型，都将比朋友和敌人获得地缘政治优势。然而，如果没有网络安全方面的国际协调框架，所面临的风险就不是一个安全的互联网，而是多个相互竞争的互联网——每个互联网都在“修补”自己的系统，并且完全不信任其他互联网。它将不再是全球公地。相反，网络将被划分为安全联盟，受到更严密的保护，即使更广泛的东西悄然消失。
-
您对本文提出的问题有什么看法吗？如果您想通过电子邮件提交最多 300 字的回复，以便考虑在我们的信件部分发布，请单击此处。
关键词：