据估计，每周有 120 万人与 ChatGPT 进行对话，表明他们计划结束自己的生命。
该数字来自其母公司 开放人工智能，显示 0.15% 的用户发送的消息包括“潜在自杀计划或意图的明确指标”。
本月早些时候，该公司首席执行官 萨姆·奥特曼 估计 聊天GPT 目前每周活跃用户超过8亿。
虽然这家科技巨头确实致力于引导弱势群体拨打危机求助热线，但它承认“在极少数情况下，该模式在这些敏感情况下可能不会按预期运行”。
OpenAI 使用其最新模型 GPT-5 评估了 1,000 多个“具有挑战性的自残和自杀对话”，发现它在 91% 的情况下符合“期望的行为”。
但这可能意味着成千上万的人正在接触可能加剧心理健康问题的人工智能内容。
该公司此前曾警告称，在较长的对话中，旨在保护用户的保护措施可能会被削弱，并且正在努力解决这一问题。
OpenAI 解释说：“当有人第一次提到意图时，ChatGPT 可能会正确地指向自杀热线，但在很长一段时间内发出许多消息后，它最终可能会提供一个违反我们保障措施的答案。”
OpenAI 的博客文章补充道：“心理健康症状和情绪困扰在人类社会中普遍存在，不断增加的用户群意味着 ChatGPT 对话的某些部分包含这些情况。”
阅读天空新闻的更多内容：
国王质问安德鲁王子
英国航空公司暂停运营
请使用Chrome浏览器以获得更方便的视频播放器
一个悲痛的家庭目前正在起诉 OpenAI – 并声称 ChatGPT 应对他们 16 岁男孩的死亡负责。
亚当·雷恩的父母声称该工具“积极帮助他探索自杀方法”，并提出给他的亲戚起草一份便条。
法庭文件显示，在他去世前几个小时，这名少年上传了一张照片，似乎显示了他的自杀计划 – 当他询问这是否有效时，ChatGPT 提出帮助他“升级”它。
上周，Raines 夫妇更新了诉讼，指责 OpenAI 在今年 4 月去世前几周削弱了防止自残的保障措施。
该公司在一份声明中表示：“我们对雷恩一家遭受的难以想象的损失表示最深切的同情。青少年的福祉是我们的首要任务——未成年人应该得到强有力的保护，尤其是在敏感时刻。”
任何感到情绪困扰或有自杀倾向的人都可以拨打 116 123 联系撒玛利亚人寻求帮助，或者在英国发送电子邮件至 [email protected]。在美国，请致电您所在地区的 Samaritans 分会或 1 (800) 273-TALK。
关键词：
