苹果人工智能假新闻警报凸显了该技术的错误信息问题

iPhone 上的人工智能功能正在生成虚假新闻警报，引发了人们对该技术传播错误信息能力的担忧。

上周，苹果公司最近推出的一项利用 AI 汇总用户通知的功能，在 BBC 新闻应用程序中发布了关于 PDC 世界飞镖锦标赛半决赛故事的不准确汇总通知，错误地声称英国飞镖运动员卢克·利特勒 (Luke Littler) 赢得了冠军。

这起事件发生在比赛决赛前一天，利特勒最终赢得了决赛。

然后，就在该事件发生几小时后，科技巨头的人工智能系统苹果智能生成了一份单独的通知，错误地声称网球传奇人物拉斐尔·纳达尔已出柜。

BBC 大约一个月来一直试图让苹果解决这个问题。去年 12 月，英国国家广播公司向苹果投诉，因为其人工智能功能生成了一个虚假标题，暗示因健康保险公司 UnitedHealthcare 首席执行官布莱恩·汤普森 (Brian Thompson) 在纽约被谋杀而被捕的男子路易吉·曼吉奥内 (Luigi Mangione) 开枪自杀，但这从未发生过。

CNBC 联系苹果公司时，并未立即置评。周一，苹果公司告诉 BBC，它正在开发更新来解决该问题，添加一个说明，显示 Apple Intelligence 何时对通知中显示的文本负责。目前，生成的新闻通知显示为直接来自源。

该公司在与 BBC 分享的一份声明中表示：“Apple Intelligence 功能尚处于测试阶段，我们将在用户反馈的帮助下不断进行改进。”苹果补充说，它鼓励用户在查看“意外通知摘要”时报告问题。

BBC 并不是唯一一家受到 Apple Intelligence 不准确地总结新闻通知影响的新闻机构。 11 月，该功能发送了一条人工智能摘要通知，错误地声称以色列总理本杰明·内塔尼亚胡已被捕。

调查性新闻网站 ProPublica 的高级编辑 Ken Schwencke 在社交媒体应用 Bluesky 上标记了这一错误。

CNBC 已联系 BBC 和《纽约时报》，请其就苹果针对其人工智能功能错误信息问题提出的解决方案发表评论。

苹果宣称其人工智能生成的通知摘要是一种有效的方法，可以将新闻应用程序通知的预览分组并重写为用户锁定屏幕上的单个警报。

苹果表示，这一功能旨在帮助用户扫描通知以获取关键细节，并减少许多智能手机用户所熟悉的铺天盖地的更新。

然而，这导致了人工智能专家所说的“幻觉”——人工智能生成的响应包含虚假或误导性信息。

“我怀疑苹果公司不会是唯一一家面临人工智能生成内容挑战的公司。我们已经看到了许多人工智能服务自信地说出虚假信息的例子，即所谓的‘幻觉’，”科技市场首席分析师本·伍德 (Ben Wood)研究公司 CCS Insights 告诉 CNBC。

在苹果的案例中，由于人工智能试图整合通知并将其压缩为仅显示基本的信息摘要，因此它以一种不准确地描述事件的方式将文字混在一起，但又自信地将它们呈现为事实。

“苹果试图将内容压缩成非常短的摘要，这增加了复杂性，最终导致传递错误的信息，”伍德补充道。 “毫无疑问，苹果将寻求尽快解决这个问题，我相信竞争对手也会密切关注，看看它会如何回应。”

生成式人工智能的工作原理是，依靠其底层大型语言模型所训练的大量数据，尝试找出用户插入的问题或提示的最佳答案。

有时人工智能可能不知道答案。但由于它被编程为始终对用户提示做出响应，这可能会导致人工智能实际上撒谎。

目前尚不清楚苹果何时会修复通知摘要功能中的错误。这家 iPhone 制造商表示，预计一款产品将在“未来几周内”上市。