Openai首席执行官Sam Altman在20025年7月22日在美国华盛顿特区举行的大型银行会议的大型银行会议的资本框架进行综合审查中发表讲话。
肯·塞德诺|路透社
Openai正在详细说明其处理“敏感情况”时解决Chatgpt的缺点的计划
在一个家庭的诉讼中，该诉讼将聊天机器人归咎于他们十几岁的儿子自杀死亡。
Openai在周二的博客文章中写道：“我们将在专家的指导下，在专家的指导下，对使用我们工具的人们负责，我们希望其他人会加入我们的行动，以确保这项技术保护人们最脆弱的人。”
据NBC新闻报道，周二早些时候，亚当·雷恩（Adam Raine）的父母在16岁的自杀死亡死于Openai之后，对Openai提起了产品责任和对Openai的不法死亡诉讼。在诉讼中，一家人说：“ Chatgpt积极帮助亚当探索了自杀方法。”
该公司没有在其博客文章中提及Raine家族或诉讼。
Openai说，尽管Chatgpt在表达自杀意图时接受了指导人们寻求帮助，但聊天机器人倾向于在很长一段时间内进行许多消息后提供与公司保障措施的答案。
该公司表示，它还正在努力对本月初发布的GPT-5模型进行更新，该模型将使聊天机器人进行扩展对话，并正在探索如何在急性危机之前“将人们连接到认证的治疗师”，包括可能建立持牌专业人员网络，这些网络可以通过ChatGpt直接到达。
此外，Openai表示，正在研究如何将用户与“最接近他们的人”联系起来，例如朋友和家人。
关于青少年，Openai表示，它将很快引入控制措施，这将使父母选择更多地了解他们的孩子如何使用Chatgpt。
Raine家族的首席顾问Jay Edelson周二告诉CNBC，Openai的任何人都没有直接与家人联系以表示慰问或讨论提高公司产品安全性的任何努力。
埃德尔森说：“如果您要使用地球上最强大的消费技术 – 您必须相信创始人有道德指南针。” “这就是Openai现在的问题，谁能信任他们？”
Raine的故事不是孤立的。
作家劳拉·雷莉（Laura Reiley）本月初在《纽约时报》上发表了一篇文章，详细介绍了她29岁的女儿与chatgpt广泛讨论这个想法后如何自杀死亡。在佛罗里达州的一个案件中，14岁的Sewell Setzer III于去年与App areach.ai上的AI聊天机器人讨论后于自杀死亡。
随着人工智能服务的流行，他们在治疗，陪伴和其他情感需求中的使用引起了许多关注。
但是监管该行业也可能具有挑战性。
周一，包括OpenAI总裁兼联合创始人格雷格·布罗克曼（Greg Brockman）在内的AI公司，风险投资家和高管联盟宣布，这项政治行动“将反对扼杀AI时扼杀创新的政策”。
如果您有自杀念头或处于困境中，请联系 自杀与危机生命线 在988年获得训练有素的辅导员的支持和协助。
手表： Openai说，马斯克的申请与他持续的骚扰模式一致
（Tagstotranslate）突发新闻：技术（T）技术（T）商业新闻
关键词：