Openai的Sora 2将安全性和审查制度付诸实践


新鲜的66亿美元股票销售使其成为世界上最有价值的私人公司,Openai的Tiktok风格的视频应用程序,其由其新的人工智能模型Sora 2提供动力。

尽管封闭式版本需要邀请代码,但视频创建工具已经拍摄到第三名 苹果的App Store并引发了一波深烟,包括CEO Sam Altman Shoplifting GPU的病毒夹。

在内部,该推广重新点燃了Openai内部的一场长期辩论,内容涉及如何平衡安全性与创意自由。

熟悉该公司内部战略的人说,领导者认为严格的护栏是必不可少的,但也担心扼杀创造力或被视为过多的审查。

这种张力仍未解决。

Openai的文化长期以来一直偏爱速度,经常在竞争对手之前运送新工具,并让公众实时适应。

一位不愿透露姓名讨论内部事务的前雇员告诉CNBC,在任职期间,Openai领导层具有优先级快速发射的模式。在去年年底发布了一个强大的模型之后,该策略已得到充分展示,该模型比在硅谷外的任何东西都更便宜,更快。

Openai在几周内做出了回应,首次亮相了两个新车型,这被广泛认为是保持领先优势的防御举动。

但是Openai具有关键优势:它不断增长的机构肌肉。

此后,该公司曾经是旧金山宣教区的一家笨拙的研究实验室,使其变得更加结构化,从而使其能够更快地旋转跨职能团队,并加速Sora等产品的开发和部署周期。

Openai说,Sora包括多层保障措施,旨在防止不安全的内容生成,并使用视频框架和音频成绩单上的及时过滤和输出调节。它禁止明确的内容,恐怖宣传和促进自我伤害的物质。该应用程序还使用水印和禁令模样。

但是一些用户已经找到了避难的方法。

Sora 2是为OpenAI应用程序提供动力的AI模型,比第一个版本的急剧改进。新系统生成更长,更连贯的剪辑,看起来非常真实。

多个病毒视频特色Altman在平台上允许他的相似性允许,而其他人则描绘了流行的卡通人物,例如Pikachu和Spongebob Squarepant,扮演着令人不安的角色。

该内容引起了批评,即Openai再次比自己的护栏更快。它使用受版权保护的材料(除非权利持有人选择退出)与公司当前的政策一致,尽管该方法在法院受到质疑。

阿尔特曼(Altman)提出了担忧,并在X上的一篇文章中说,索拉(Sora)与透明度一样多 – 向公众展示了技术可以做什么 – 与建立商业势头相比,以资助Openai对人工通用情报的更广泛的野心。

在加强竞赛的情况下,发布会。 上周推出了Vibes,这是其Meta AI应用程序中的新型短形式AI视频供稿。 谷歌 有veo 3,同时绑定和 阿里巴巴 还首次亮相竞争对手系统。

与此同时,Openai刚刚承诺将8500亿美元的新鲜支出加深,加深了其投入基础设施和下一代模型。

专家说,视频的推动不仅仅是通过另一个粘性消费者应用程序吸引更多的用户进入生态系统。

视频综合的主要专家Hao Li教授告诉CNBC,当今大多数AI系统仍在诸如书籍和互联网文本之类的语言数据中进行培训。他说,但是要朝着通用情报迈进,模型需要从视觉和音频信息中学习,就像婴儿通过视觉发现世界一样。

他说:“我们使用AI生成内容来训练另一个模型以表现更好。”

李补充说,他的实验室已经使用AI生成的视频来增强模型性能,将合成数据馈入系统。

这是研究人员中更广泛的趋势的一部分,他们将视频发电视为模拟现实的一种方式,并帮助人们更像人类的理性。

前Openai高管扎克·卡斯(Zack Kass)即将出版的书《下一个文艺复兴:AI与人类潜力的扩张》探讨了人工智能的社会含义,这与这种观点相呼应。

在更广泛的问题关于模型制造商应如何处理部署的问题上,卡斯认为,早期发布强大技术的权衡是值得的。

他告诉CNBC:“有两种替代方案是公开建造的替代方法:根本不建造或私下建造。对我来说,这些替代方案更糟。” “如果我们有开创性的技术,我认为人们应该知道它并使用它,以便我们都可以对其进行更新。”

手表: Openai水泥地位是世界上最有价值的私人公司

(Tagstotranslate)人工智能(T)社交媒体(T)Sam Altman(T)Alibaba Group Holding Ltd(T)Alibaba Group Holding Ltd(T)Alphabet A类A(T)Meta Platforms Inc(T)Meta Platforms Inc(T)Fintech(T)Fintech(T)技术(T)技术(T)技术(T)技术(T)



关键词:

2将安全性和审查制度付诸实践Openai的Sora
Comments (0)
Add Comment