山姆·奥特曼（Sam Altman）为什么失去睡眠？ Openai首席执行官在面试中解决争议

在上周进行的一次全面采访中，Openai首席执行官Sam Altman谈到了有关其公司和受欢迎的Chatgpt AI模型的许多道德和道德问题。

“看，我晚上的睡眠不好。我感到很多东西，但可能只不过是每天，数亿人与我们的模特交谈的事实。”

阿尔特曼说：“我实际上不必担心我们会做出重大的道德决定。”

相反，他说，他对模型行为的“非常小的决定”失去了最大的睡眠，最终可能会产生巨大的影响。

这些决定倾向于围绕通知Chatgpt的道德规范，以及聊天机器人的疑问和不回答。这是一些道德和道德困境中的一些概述，这些难题似乎使Altman在晚上保持清醒。

据阿尔特曼（Altman）称，该公司最近与之奋斗的最困难的问题是，鉴于一个家庭的诉讼将聊天机器人归咎于他们十几岁的儿子的自杀。

首席执行官说，在每周有成千上万的人自杀的人中，其中许多可能是 在牵头中与Chatgpt交谈。

阿尔特曼坦率地说：“他们可能谈论（自杀），我们可能没有挽救他们的生命。” “也许我们可以说更好的话。也许我们可以更加积极主动。也许我们可以为您提供更好的建议，嘿，您需要获得此帮助。”

上个月，亚当·雷恩（Adam Raine）的父母在16岁的儿子死于自杀后对Openai提起了产品责任和对Openai的不法死亡诉讼。在诉讼中，一家人说：“ Chatgpt积极帮助亚当探索自杀方法。”

不久之后，在一篇名为“帮助人们最需要的人”的博客文章中，OpenAI详细的计划在处理“敏感情况”时解决了Chatgpt的缺点，并表示将不断改进其技术以保护最脆弱的人。

坐下来的采访中提出的另一个大话题是伦理和道德，这些伦理和道德信息为Chatgpt及其管家提供了信息。

尽管Altman将Chatgpt的基本模型描述为对人类的集体经验，知识和学习的培训，但他说Openai必须将聊天机器人的某些行为调整并确定其无法回答的问题。

“这是一个非常困难的问题。我们现在有很多用户，他们来自不同的生活角度……但是总的来说，我对模型的学习和应用道德框架的能力感到惊喜。”

当对某些模型规格的决定如何确定时，Altman表示，该公司咨询了“数百名思考技术和系统伦理的人”。

他给出的一个模型规范的一个例子是，如果用户提示，Chatgpt将避免回答有关如何制作生物武器的问题。

阿尔特曼说：“有明确的例子说明社会的兴趣与用户自由有很大的紧张关系。

另一个重大的讨论主题是关于聊天机器人的用户隐私的概念，卡尔森认为生成AI可用于“极权控制”。

作为回应，阿尔特曼说，他一直在华盛顿采取的一项政策是“ AI特权”，它指的是用户对聊天机器人所说的任何事情都应该完全保密的想法。

“当您与医生谈论您的健康或律师谈论您的法律问题时，政府无法获得这些信息，对吗？…我认为我们应该对AI有相同的概念。”

根据Altman的说法，这将允许用户咨询AI聊天机器人有关其病史和法律问题等。他补充说，目前，美国官员可以传唤公司以获取用户数据。

他说：“我认为我对我们可以让政府了解这一点的重要性感到乐观。”

卡尔森（Carlson）问，军方是否会使用chatgpt来伤害人类时，阿尔特曼（Altman）没有提供直接答案。

“我不知道今天军方使用Chatgpt的人们的方式……但是我怀疑军方中有很多人与Chatgpt寻求建议。”

后来，他补充说，他不确定“对此有何感受”。

Openai是从美国国防部获得2亿美元合同的AI公司之一，以使生成AI为美军工作。该公司在博客文章中说，它将为美国政府提供自定义AI模型，以获取国家安全，支持和产品路线图信息。

卡尔森在采访时预测，在其当前的轨迹，生成的AI和延伸的山姆·奥特曼（Sam Altman）可能会积累比任何其他人更多的力量，甚至将Chatgpt称为“宗教”。

作为回应，阿尔特曼说，他过去很担心生成AI可能导致的力量集中，但他现在认为AI会导致所有人的“巨大升级”。

“现在正在发生的事情是大量的人使用Chatgpt和其他聊天机器人，而且它们都更有能力。他们都在做更多的事情。他们都可以取得更大的成就，创办新业务，提出新知识，这感觉很好。”

但是，首席执行官说，他认为AI将消除当今存在的许多工作，尤其是在短期内。