The news is by your side.

最新的人工智能辞职是否真的意味着世界处于“危险”之中? |科学、气候和科技新闻

7


大多数人离职时,都会向同事发送电子邮件,在附近的酒吧安排一些饮料,仅此而已。

人工智能的情况截然不同。

该领域的严格审查意味着,如果研究人员选择离职,他们可以大张旗鼓地离职。即使他们静静地离开,他们的行动本身也常常被视为某种信号。

本周,几起此类辞职事件引起了人们的关注。

周二,领先的人工智能公司 Anthropic 的研究员 Mrinank Sharma 在社交媒体上发布了一份辞职声明,他在声明中警告说“世界正处于危险之中”。

人工智能通过“自动售货机测试”

尽管夏尔马没有确切说明世界为何陷入危险,而是指出威胁“不仅来自人工智能或生物武器,还来自此时此刻展开的一系列相互关联的危机”,但许多人认为这意味着人工智能带来的生存风险正在增加。

周三,OpenAI 研究员 Zoe Hitzig 在《纽约时报》上发表文章宣布辞职,理由是对 OpenAI 在 ChatGPT 上添加广告的计划“深表保留”。

Hitzig 写道:“ChatGPT 用户已经生成了人类坦诚的档案,这是史无前例的。”他警告说,如果人们的数据没有得到适当的保护,ChatGPT 有可能操纵人们。

与此同时,xAI 的两位联合创始人以及埃隆·马斯克 (Elon Musk) 人工智能公司的其他一些员工也于本周辞职。

xAI 开发了 Grok 聊天机器人,该机器人被允许在 X 上生成未经同意的妇女和儿童色情图像,几周后才有人介入阻止,这引发了全球的强烈反对。

X 此后表示,它对其人工智能聊天机器人 Grok 进行了重大改变。

总而言之,许多人认为这些变化表明——用本周获得关注的一篇有关人工智能的文章的话来说——“大事正在发生”。

人工智能比新冠病毒更强大?

媒体报道和社交媒体帖子将辞职描述为“浪潮”。

然而,仔细观察后发现,这些举措几乎没有共同点。夏尔马因与“价值观”有关的模糊原因而辞职,以便写诗。

希齐格(Hitzig)也是一位诗人,他对广告和用户数据深感担忧。

离开xAI的员工没有详细说明他们离开的原因,尽管该公司最近的变化可能起到了一定作用,该公司即将与马斯克的太空公司SpaceX合并。

希齐格和夏尔马提出的担忧得到了广泛认同,尤其是被称为“人工智能教父”的诺贝尔奖获得者科学家杰弗里·辛顿(Geoffrey Hinton),他辞去了谷歌的职务,以警告人工智能对人类构成生存风险。

资料图:路透社
图像:
资料图:路透社

也许这些言论现在引起如此多关注的另一个原因是它们利用了人们对人工智能快速增长的担忧,人工智能在最近几个月取得了惊人的进步,尤其是在软件开发方面。

微软人工智能首席执行官穆斯塔法·苏莱曼(Mustafa Suleyman)周三向英国《金融时报》表示,他相信律师和会计师等白领工人执行的大多数任务将在12到18个月内完全自动化,并称近年来的进展“令人瞠目结舌”。

许多人工智能领域的资深人士都发出了类似的警告。

阅读天空新闻的更多内容:
我们应该担心大脑芯片吗?

这个人工智能刚刚通过了“自动售货机测试”

剑桥大学 Leverhulme 未来智能中心副主任 Henry Shevlin 博士表示,无论动机如何,围绕人工智能的狂热氛围可能会导致人们退出。

“人工智能公司的罢工并不是什么新鲜事,”谢夫林博士告诉天空新闻。 “但为什么我们现在会看到一股浪潮?其中一部分是虚幻的——随着人工智能变得越来越重要,人工智能罢工变得更具新闻价值,所以我们观察到更多的集群。

“然而,可以公平地说,随着人工智能变得越来越强大、应用越来越广泛,我们在其适当范围、使用和影响方面面临着更多问题。

“这在整个社会和公司内部引起了激烈的争论,并可能导致更多相关员工决定退出。”

Anthropic 拒绝置评,仅指出一名工作人员在推特上感谢 Sharma 的工作。

OpenAI 没有回应置评请求。



关键词: