Sam Altman 的 OpenAI 与五角大楼交易的 5 大要点 AMA

奥特曼在 X 上写道，五角大楼的协议很快达成，“试图缓和局势”。

他在另一篇文章中补充说，这笔交易是“仓促的”。

不过，他写道，OpenAI 的“光学看起来不太好”。

他写道：“如果我们是对的，这确实会导致美国国防部和行业之间的紧张局势缓和，那么我们将看起来像天才，也是一家付出巨大努力来帮助行业的公司。”

“如果不这样做，我们将继续被认为是匆忙和不小心的，”他写道。

Altman 补充说，他看到了 OpenAI 的“有希望的迹象”。

有人问 Altman，为什么国防部选择 OpenAI 而不是 Anthropic。他表示他不会代表竞争对手发言，但确实猜测了为什么 OpenAI 首先签署了合同。

“首先，我看到报道称他们非常接近达成协议，而且在大部分时间里双方都非常想达成协议，”奥特曼写道。 “我亲眼目睹了在紧张的谈判中，当事情变得紧张并迅速恶化时会发生什么，我相信这就是这里发生的事情的很大一部分。”

他补充说，OpenAI 和国防部也“对合同语言感到满意”。

“我认为 Anthropic 可能比我们想要更多的运营控制权，”他补充道。

Altman 表示 OpenAI 有“三条红线”。但随着技术的发展和“新风险”的发挥，这些红线可能会发生变化，而且可能会有更多的红线到位。

“但非常重要的一点是：我们不是选举产生的。我们有一个民主程序，我们可以选举我们的领导人，”奥特曼写道。 “我们拥有该技术的专业知识并了解其局限性，但我认为你应该害怕一家私营公司在最重要的领域决定什么是道德的，什么是不道德的。”

“看来我们可以决定 ChatGPT 应如何回应有争议的问题，”他补充道。 “但我真的不想让我们决定如果核武器袭击美国该怎么办。”

奥特曼表示，在“机密方面的事情迅速发展”之前，OpenAI 已经与国防部就非机密工作进行了“数月”的谈判。

他写道：“我们发现国防部对我们的需求很灵活，我们希望支持他们完成非常重要的使命。”

“我认为目前的发展道路对于人类、健康竞争和美国来说都是危险的，”奥特曼也在 X 上写道。 “我们进行了谈判，以确保向所有其他人工智能实验室提供类似的条款。”

鉴于国防部的“极其重要的使命”，他还要求对国防部“给予一些同情”。

而且，用奥特曼的话来说：

我们的行业告诉他们“我们正在开发的技术将成为地缘政治冲突中的重要部分。中国正在领先，而你们却非常落后。”

然后我们说

“但我们不会帮助你，我们认为你有点邪恶。”

我认为在那种情况下我的反应不会很好。

我不认为未经选举产生的私营公司领导人应该拥有与我们民主选举的政府一样大的权力。但我确实认为我们需要帮助他们。

奥特曼表示，人工智能可以在两个方面发挥作用。首先，美国“抵御重大网络攻击的能力”，特别是可能摧毁该国电网的攻击。

其次，生物安全是人工智能可以提供帮助的领域。

奥尔特曼说：“我认为我们目前的设置还不够好，无法检测和应对新的流行病威胁。”