我们还需要生成式人工智能吗？

欢迎回来。本周，我采访了斯坦福以人为中心人工智能研究所的教授、作家和高级研究员埃里克·布林约尔松 (Erik Brynjolfsson)。

最近，我一直在思考路径依赖如何塑造技术发展的方式。例如，互联网和核电的起源可以追溯到国防项目。硅谷本身诞生于冷战时期电子产品的繁荣。即使在今天，网络效应仍然继续指导着主流 iOS 和 Android 生态系统的应用程序和硬件开发。

这种思路让我想起去年我与布林约尔松进行的《金融时报》经济学家交流会，他在会上讨论了“图灵陷阱”——他关于类人人工智能如何出现的理论。

这一概念源于数学家和计算机科学家艾伦·图灵于 1950 年提出的“图灵测试”，旨在根据对话来确定机器是否表现出与人类无法区分的智能行为。

布林约尔松认为，它激励了一代又一代的研究人员在机器中复制我们的思维。但随着以大型语言模型为基础的生成式人工智能开始实现这一目标，他表示这可能一直都是错误的目标。

他认为，如果人工智能——以及一般技术——专注于增强人类的专业能力，并做我们做不到的事情，我们的生活会更好。 （这与大卫·李嘉图的国际贸易比较优势理论相呼应。）相反，模仿可能会造成陷阱。

一些新一代人工智能应用是我们倾向于奖励那些模仿和取代人类完成现有任务的系统的结果，而不是解锁新的、互补的能力。

这使技术向劳动力替代倾斜，提高了生产率，但收益却集中在控制技术和资本的人身上。 “陷阱”是指经济权力的集中，从而创造了政治权力。这可能会让其他人无法更改系统。

它可能会为增长设定太低的上限。想象一下，如果亨利·福特打算简单地匹配人类——一辆可以像人类一样快地行走或奔跑的车辆。

法学硕士已经在搜索和分析等领域对人类进行了补充。但最近在从简单文本创建广告和电影的应用程序方面取得的进展引起了一些专业人士的担忧，即该技术将被用来完全取代它们。

重要的是要思考模仿人类的比较优势（例如在创意领域）是否是值得使用的技术和技术的目标，尤其是因为我们已经创建了加强模仿动力的结构。

模仿很有吸引力，不仅在文化上，而且因为我们的机构鼓励自动化。人类可以完成某项任务的事实提供了“存在证明”，使模仿成为更自然的基准、更安全的论文主题和更清晰的资助提案。提出全新的功能需要更多的创造力。

在企业中，管理者认为减少员工数量很容易衡量，而且它将租金从工人转移到资本所有者。考虑到创新的外部性和工人议价能力的增强，这使得资本所有者过度激励自动化，而弱激励则需要补充。

政策制定者加大了这种倾斜：在大多数国家，资本税低于劳动力税。虽然自动化和增强技术都可能有价值且有利可图，但最终结果是对人类模仿的系统性拉动——即使是超人，互补的系统也可能创造更多的总经济价值和更少的不平等。

这就提出了一个令人着迷的反事实。如果图灵测试没有那么诱人，今天的技术会怎样？以下是我遇到的一些建议：神经修复术和思维机器共生可能还需要几十年的时间；我们可能拥有思维工具，比如视觉构思空间，而不是聊天机器人；感官界面代替对话；和可以推理的人工智能，而不是概率法学硕士。

当然，正如 2016 年电影的粉丝所言，这项技术可能已经朝着更邪恶的目的发展，甚至超越了人类智能 到达 可能会想象。

但回到现实，现在更有用的练习是想象生成人工智能和人类如何共同进化。

这不仅仅是为了限制失业（有些可能是必要的），还要确保该技术产生更大的经济和社会价值（这为人类创造了新的机会）。 Brynjolfsson 一直在领导这一领域的工作：

如果我们的北极星是与人类一起扩展能力而不是模仿人类，那么我们就会更早地转向改善人类决策、加速学习和创造新设计空间的系统。我们本来应该用人来衡量人工智能的基准，而不是代替他们。这是我的公司 Workhelix 所关注的重点。

在我的斯坦福大学课堂上，我们创建了一个人工智能驱动的“埃里克化身”，它可以与每个学生单独互动地讨论他们的作业。这有助于他们更深入地理解关键概念，并要求学生实时捍卫自己提交的内容，从而消除了盲目提交人工智能生成作业的选择。

如果我们将这种思维扩展到整个经济，我们的目标将是质量、创新和福利的改善，而不仅仅是成本替代。

这在一定程度上已经发生了。在软件领域，代码副驾驶扩大了探索和测试。在医疗保健领域，结构化笔记生成可以帮助临床医生腾出时间进行同理心和判断。

Brynjolfsson 表示，共同点是任务重新分配：机器处理有大量训练数据的高频活动，而人类则关注“异常的长尾”以及定义目标。但在宏观层面上优化这一点需要重组工作和经济。

历史上生产力的巨大飞跃来自于围绕新通用技术的重组工作。福特重组了工厂，为员工提供可互换零件、移动装配和电动工具，从而使每个工人的产出成倍增加。

我们也需要做到这一点，通过构建系统——人类和机器的结合——来完成人类和机器无法单独完成的事情。

即使对于创造性任务，这是可能的。人工智能可以自动执行昂贵的子任务（如搜索和草稿），同时提高人类特有的任务（品味、讲故事、真实性和关系）的回报。但这需要扩散：负担得起的工具、培训和平台，让更多的创作者受益，而不仅仅是直接使用人工智能来完成创造性任务的公司。

因此，即使图灵测试让技术发展走上了模仿之路，仍然有办法在人类和我们现在创造的机器之间创造出更具生产力和社会最优的劳动分工。布林约尔松提出了三项建议：

首先，改进公司层面的衡量标准，以了解良好的人工智能采用情况。我们需要关注并确定人类的表现如何 和 机器可以解决实际问题，从而提高患者治疗效果、客户满意度和软件质量。

其次，市场规则需要促进竞争和扩散，包括互操作性、数据可移植性和奖励增强成果而不是减少人员数量的采购。这意味着重新平衡目前有利于资本深化而不是人力资本的税收和会计激励措施。

第三，我们需要公共产品和护栏。首先是衡量正确的事情，例如质量调整的输出和开发安全的数据基础设施，以便在保护隐私和知识产权的同时进行实验。有针对性的责任和审计制度可能会关注具有外部性的用例，例如健康和金融，而不会冻结其他地方的实验。

最终，如果我们将激励措施与增强结合起来，技术前沿和机会前沿就可以共同进步。

我很想听听你的想法。将它们发送至 freelunch@ft.com 或 X @tejparikh90。

深思熟虑

投资者和股票分析师到底有多理性？本文将他们的股票市场表现与机器学习算法进行比较，以找出答案。

周日免费午餐由 Harvey Nriapia 编辑