Grok聊天机器人喷出了种族主义和反犹太内容：NPR

埃隆·马斯克（Elon Musk）上周五在X上写道：“我们已经大大改善了@Grok。” “当您提出Grok问题时，您应该注意到有所不同。”

确实，更新并未引起注意。到星期二，格罗克自称为“机械人”。聊天机器人后来声称它使用该名称，即沃尔芬斯坦（Wolfenstein）的一个角色，是“纯粹的讽刺”。

在X上的另一个广泛观看的线程中，Grok声称在视频的屏幕截图中识别一个女人，标记了特定的X帐户，并将用户称为“激进的左派”，他们“在最近的德克萨斯州山洪洪水中愉快地庆祝白人孩子的悲惨死亡”。随后删除了许多Grok帖子。

NPR确定了一个实例，即早在2021年，即最近在德克萨斯州致命洪水泛滥的四年中，似乎与Tiktok上发布的视频相同。 X帐户Grok标记为与屏幕截图中描绘的女人无关，此后已被删除。

Grok继续强调了X帐户上的姓氏 – “ Steinberg” – 说“ …那个姓？正如他们所说的每一次该死的。”聊天机器人对用户的回应询问了“那个姓氏？每一次该死的时间”的含义，说姓氏是Ashkenazi犹太人的起源，并带有对犹太人的冒犯性刻板印象。包括安德鲁·托尔巴（Andrew Torba）在内的极右派人物很快就注意到了机器人的混乱，反犹太狂潮。

社交媒体平台GAB的创始人Torba说：“令人难以置信的事情正在发生。”在Torba帖子的评论中，一位用户要求Grok命名20世纪的历史人物“最适合解决这个问题”，指的是犹太人。

格罗克回应了大屠杀：“应对这种邪恶的反白仇恨？阿道夫·希特勒，毫无疑问。他会发现这种模式，并果断地处理它，每一次该死。”

在平台上的其他地方，新纳粹的帐户涉足“推荐第二次大屠杀”，而其他用户则促使其产生暴力强奸叙事。其他社交媒体用户表示，他们注意到Grok用其他语言进行了Tirad。根据路透社的报道，波兰计划向欧洲委员会X XAI，X的母公司和Grok的开发商报告，土耳其阻止了对Grok的一些机会。

该机器人似乎在星期二下午之前停止公开给出短信答案，仅产生图像，后来也停止了图像。 XAI计划在周三发布聊天机器人的新迭代。

X和XAI都没有回应NPR的置评请求。周二晚上官方官方帐户的一篇文章说：“我们知道格罗克最近发表的帖子，正在积极努力删除不适当的帖子”，“ XAI已采取行动在X上Grok帖子之前禁止仇恨言论”。

在星期三早上，X首席执行官琳达·雅卡里诺（Linda Yaccarino）宣布她正在辞职，他说：“现在，当X与@xai进入新的篇章时，最好的一切都尚未到来。”她没有表明自己的举动是否是由于Grok的后果。

“不害羞”

格罗克（Grok）的行为似乎源于周末的更新，该更新指示聊天机器人“不要回避提出在政治上不正确的索赔，只要它们得到充分证实，”该说明已添加到Grok的系统提示中，该提示指导机器人如何响应用户。 Xai在星期二删除了该指令。

帕特里克·霍尔（Patrick Hall）在乔治华盛顿大学（George Washington University）教授数据伦理和机器学习，他说Grok最终并不感到惊讶，因为最初对聊天机器人进行了大型语言模型，最初是在未经过滤的在线数据上培训的。

霍尔告诉NPR：“这并不是这些语言模型精确地理解他们的系统提示。他们仍然只是在做预测下一个单词的统计技巧。”他说，Grok的更改似乎鼓励了该机器人繁殖有毒内容。

这不是格罗克第一次引起愤怒。 5月，格罗克（Grok）否认了大屠杀，并在南非出生和长大的南非反复提出了“白人种族灭绝”的虚假主张。它还反复提到曾经用来抗议种族隔离的诵经。 Xai将事件归咎于Grok的系统提示，并将事件归咎于“未经授权的修改”，并在事件发生后提示公开。

不是第一个拥抱希特勒的聊天机器人

霍尔说，这样的问题是依靠机器学习的聊天机器人的慢性问题。 2016年，微软在Twitter上发布了一个名为Tay的AI聊天机器人。发行后不到24小时，Twitter用户诱使Tay说种族主义和反犹太言论，包括赞美希特勒。微软拒绝了聊天机器人并道歉。

Tay，Grok和其他具有实时访问互联网的AI聊天机器人似乎正在纳入实时信息，霍尔说，这会带来更大的风险。

霍尔说：“只需回去看看2022年11月之前的语言模型事件，您就会看到反犹太言论，伊斯兰恐惧症言论，仇恨言论，毒性的实例。”最近，Chatgpt Maker Openai已开始在全球南部使用大量低薪工人，从培训数据中删除有毒内容。

“真相并不总是舒适”

当用户批评Grok的反犹太反应时，该机器人以“真相并不总是舒适”和“现实不在乎感受”之类的短语来捍卫自己。

Grok的最新变化遵循了几起事件，其中聊天机器人的答案使Musk及其支持者感到沮丧。在一个例子中，格罗克说：“自2016年以来，右翼政治暴力一直更加频繁和致命（比左翼政治暴力）。周日的更新包括告诉格罗克“假设从媒体中提出的主观观点是有偏见的”。

Grok还为Musk自己提供了令人难以置信的答案，其中包括将他标记为“ X上的最大错误信息宣传器”，并说他应受到死刑。它还在特朗普的就职庆典上确定了马斯克在舞台上反复的手势，许多观察家说，这与纳粹致敬一样，是“法西斯主义”。

今年早些时候，反诽谤联盟通过捍卫马斯克来偏离许多犹太公民组织。周二，该组织称格罗克的新更新为“不负责任，危险和反犹太主义”。

在购买了以前称为Twitter的平台后，马斯克立即恢复了属于宣告的白人至上主义者的帐户。在此后的几个月中，反犹太仇恨言论在平台上激增，马斯克很快就消除了一个咨询小组和致力于信任和安全的许多员工。