拟人化增加了Claude 4限制以防止武器说明

Anthropic周四表示，它激活了Claude Opus 4（其最新AI模型）的更严格的人工智能控制。

该公司在博客文章中写道。

该公司由 亚马逊，表示正在采取这些措施作为预防措施，并且团队尚未确定Opus 4是否跨越了需要该保护的基准。

人类宣布的Claude Opus 4和Claude Sonnet 4周四宣传了模型“分析数千个数据源，执行长期运行的任务，编写人类质量内容并执行复杂的动作”的高级能力，”。

该公司表示，十四行诗4不需要更严格的控件。

拟人化的首席科学官贾里德·卡普兰（Jared Kaplan）指出，新克劳德（Claude）模特的先进性质面临着挑战。

他说：“任务越复杂，该模型的风险就越大。

该公司于3月发布了一项更新的安全政策，以解决AI模型涉及的风险以及帮助用户开发化学和生物武器的能力。

关于以惊人的速度发展的技术的主要安全问题仍然存在，并显示出令人担忧的安全性和准确性。

上周，来自XAI的埃隆·马斯克（Elon Musk）的Grok聊天机器人继续提出南非的“白人种族灭绝”主题，以回应无关的评论。

该公司后来将怪异的行为归因于“未经授权的修改”。

AI伦理学家，《负责人AI》的作者Olivia Gambelin表示，Grok示例表明，这些模型可以被“随意”篡改。

AI研究人员和专家告诉CNBC，从权力参与者优先考虑利润而不是研究的推动使公司进行了快捷措施和进行严格的测试。

网络安全创业公司Calypsoai首席技术官詹姆斯·怀特（James White）表示，牺牲安全性的公司意味着模型不太可能拒绝恶意提示。

怀特说：“这些模型正在越来越好，但它们也更有可能是好擅长的。” 元，，，， 谷歌，Openai和其他公司。 “欺骗他们做坏事会更容易。”

CNBC的Hayden Field和Jonathan Vanian为这份报告做出了贡献。