微软人工智能负责人表示只有生物才有意识

微软 人工智能负责人穆斯塔法·苏莱曼表示，只有生物才有意识，开发人员和研究人员应该停止追求其他暗示的项目。

“我认为这不是人们应该做的工作，”苏莱曼本周在休斯敦举行的非洲科技会议上接受 CNBC 采访时表示，他是该会议的主旨发言人之一。 “如果你问错了问题，你最终会得到错误的答案。我认为这完全是一个错误的问题。”

苏莱曼是微软人工智能领域的高管，他一直是这个快速新兴领域的主要声音之一，他公开反对看似有意识的人工智能或人工智能服务的前景，这些人工智能服务可以让人类相信他们有能力承受痛苦。

2023年，他与人合着了《即将到来的浪潮》一书，深入探讨了人工智能和其他新兴技术的风险。八月，苏莱曼写了一篇题为“我们必须为人们构建人工智能；而不是成为一个人”的文章。

这是一个有争议的话题，因为人工智能伴侣市场正在迅速增长，公司的产品包括 元 以及埃隆·马斯克的 xAI。这是一个复杂的问题，因为 Sam Altman 和 OpenAI 领导的生成人工智能市场正在推动通用人工智能 (AGI)，即能够执行与人类能力相当的智力任务的人工智能。

Altman 在 8 月份告诉 CNBC 的“Squawk Box”节目，AGI“不是一个超级有用的术语”，真正发生的是模型正在快速发展，我们将依赖它们“做越来越多的事情”。

对于苏莱曼来说，将人工智能变得更聪明、更有能力与它拥有人类情感的能力进行清晰对比尤为重要。

苏莱曼说：“我们身体上的疼痛体验会让我们感到非常悲伤和可怕，但人工智能在经历‘疼痛’时不会感到悲伤。” “这是一个非常非常重要的区别。它实际上只是创造了感知，表面上对经验、自身和意识的叙述，但这并不是它实际经历的。从技术上讲，你知道这一点，因为我们可以看到模型正在做什么。”

在人工智能领域，有一种由哲学家约翰·塞尔提出的生物自然主义理论，该理论认为意识取决于活体大脑的过程。

“我们今天赋予人们权利的原因是我们不想伤害他们，因为他们受苦。他们有一个痛苦网络，他们有避免痛苦的偏好，”苏莱曼说。 “这些模型没有这个。这只是一个模拟。”

苏莱曼和其他人表示，探测意识的科学仍处于起步阶段。他没有说应该阻止其他人研究此事，并承认“不同的组织有不同的使命”。

但苏莱曼强调他强烈反对这个想法。

“他们没有意识，”他说。 “因此，进行研究来调查这个问题是荒谬的，因为它们不是，也不可能是。”

苏莱曼正在进行巡回演讲，部分原因是为了让公众了解追求人工智能意识的风险。

在非洲科技会议之前，他上周在硅谷举行的佩利国际理事会峰会上发表了讲话。苏莱曼在那里表示，微软不会为色情内容构建聊天机器人，这一立场与科技行业其他公司的立场相冲突。 Altman 在 10 月份宣布 ChatGPT 将允许成人用户进行色情对话，而 xAI 则提供了一个有伤风化的动漫伴侣。

“你基本上可以从其他公司购买这些服务，所以我们正在决定我们不会去哪些地方，”苏莱曼在 AfroTech 上重申。

Suleyman 于 2024 年加入微软，此前该公司通过许可和收购协议向他的初创公司 Inflection AI 支付了 6.5 亿美元。他之前联合创立了 DeepMind，并将其出售给 谷歌 十多年前价值 4 亿美元。

在 AfroTech 的问答环节中，苏莱曼表示，他去年决定加入微软，部分原因是该公司的历史、稳定性和广泛的技术影响力。他还受到了首席执行官萨蒂亚·纳德拉（Satya Nadella）的追捧。

“另一件事是微软需要在人工智能领域实现自给自足，”他在台上说道。 “我们的首席执行官萨蒂亚 (Satya) 大约 18 个月前开始执行这一使命，以确保我们在内部有能力使用我们自己的所有数据、预训练、训练后、推理、产品部署来端到端地训练我们自己的模型。这是我团队的一部分。”

自2019年以来，微软一直是OpenAI的主要投资者和云合作伙伴，两家公司利用各自的优势打造人工智能大业务。但随着 OpenAI 与谷歌等微软竞争对手合作，这种关系最近显示出紧张的迹象。 甲骨文，而微软则更专注于自己的AI服务。

苏莱曼对意识的担忧引起了共鸣。 10 月，加州州长加文·纽瑟姆 (Gavin Newsom) 签署了 SB 243 法案，要求聊天机器人披露自己是人工智能，并每三个小时告诉未成年人“休息一下”。

上周，微软宣布了其 Copilot AI 服务的新功能，包括名为 Mico 的 AI 伴侣，以及与 Copilot 与其他人进行群聊的功能。苏莱曼表示，微软正在构建意识到自己是人工智能的服务。

“很简单，我们正在创造始终为人类服务的人工智能，”他说。

他补充说，有足够的个性空间。

“知识就在那里，模型的反应非常非常灵敏，”苏莱曼说。 “每个人都有责任尝试用他们想要看到、想要使用和互动的价值观来塑造人工智能个性。”

Suleyman 强调了微软上周推出的一项名为 Real Talk 的功能，这是 Copilot 的一种对话风格，旨在挑战用户的观点，而不是阿谀奉承。

苏莱曼形容真实的谈话很时髦，并表示最近这让他受到了嘲笑，称他为“终极矛盾集”，因为他在书中警告了人工智能的危险，同时也加速了人工智能在微软的发展。

苏莱曼说：“这只是一个神奇的用例，因为在某些方面，我确实觉得自己被它看到了。”他指出人工智能本身充满了矛盾。

“从某些方面来说，这既令人印象深刻，同时又非常神奇，”他说。 “如果你不害怕它，那么你就没有真正理解它。你应该害怕它。这种恐惧是健康的。怀疑是必要的。我们不需要肆无忌惮的加速主义。”

手表： 杰富瑞 (Jefferies) 的布伦特·蒂尔 (Brent Thill) 表示，微软正在通过人工智能赚钱