2024 年 5 月 21 日，OpenAI 首席执行官 Sam Altman 在华盛顿雷德蒙德微软总部举行的 Microsoft Build 大会上发表讲话。
杰森·雷德蒙 | 法新社 | 盖蒂图片社
OpenAI 周一表示，其安全与安保委员会将成为独立的董事会监督委员会。该公司于 5 月在处理安全流程争议时成立了该委员会。
该小组将由卡内基梅隆大学计算机学院机器学习系主任 Zico Kolter 担任主席。其他成员包括 OpenAI 董事会成员兼 Quora 联合创始人 Adam D'Angelo、前美国国家安全局局长兼董事会成员 Paul Nakasone 以及索尼前执行副总裁 Nicole Seligman。
该公司表示，该委员会将监督“指导 OpenAI 模型部署和开发的安全流程”。该委员会最近完成了为期 90 天的审查，评估了 OpenAI 的流程和保障措施，然后向董事会提出了建议。OpenAI 正在以公开博客文章的形式发布该小组的调查结果。
OpenAI， 微软据知情人士透露，ChatGPT 和 SearchGPT 背后的初创公司目前正在进行一轮融资，估值将超过 1500 亿美元。由于该轮融资的细节尚未公布，该消息人士要求匿名。Thrive Capital 领投此轮融资，计划投资 10 亿美元，Tiger Global 也计划加入。据报道，微软、Nvidia 和苹果也在洽谈投资事宜。
该委员会的五项主要建议包括需要建立独立的安全治理、加强安全措施、对 OpenAI 的工作保持透明、与外部组织合作；以及统一公司的安全框架。
上周，OpenAI 发布了 o1，这是其新 AI 模型的预览版，专注于推理和“解决难题”。该公司表示，委员会“审查了 OpenAI 用于评估 OpenAI o1 是否适合发布的安全标准”，以及安全评估结果。
该委员会将“与全体董事会一起监督车型的发布，包括有权推迟发布，直至安全问题得到解决。”
尽管 OpenAI 自 2022 年底推出 ChatGPT 以来一直处于高速增长模式，但同时也充满了争议和高层员工离职，一些现任和前任员工担心公司发展过快，无法安全运营。
7 月，民主党参议员致信 OpenAI 首席执行官 Sam Altman，询问“OpenAI 如何解决新出现的安全问题”。上个月，一群现任和前任 OpenAI 员工发表了一封公开信，表达了对缺乏监督以及对希望发声的人缺乏举报人保护的担忧。
今年 5 月，OpenAI 的一位前董事会成员在谈及阿尔特曼 11 月被暂时罢免一事时表示，阿尔特曼曾多次向董事会“提供有关公司已实施的少量正式安全流程的不准确信息”。
当月，OpenAI 决定解散其专注于人工智能长期风险的团队，而该团队成立仅一年前就宣布解散。该团队的负责人 Ilya Sutskever 和 Jan Leike 于 5 月宣布离开 OpenAI。Leike 在 X 上的一篇文章中写道，OpenAI 的“安全文化和流程已经让位于闪亮的产品。”
手表： OpenAI 是 AI 超级周期中无可争议的领导者
关键词：Sam Altman,科技,突发新闻：科技,人工智能,生成式人工智能,微软公司,商业新闻