格罗克（Grok）的“白人种族灭绝”反应表明，ai gen ai被“随意”篡改

自从生成人工智能在Chatgpt公开发行后席卷世界以来的两年以上，信任一直是一个永久的问题。

幻觉，不良的数学和文化偏见困扰着结果，提醒用户至少目前我们可以依赖AI的程度有一个限制。

埃隆·马斯克（Elon Musk）的Grok聊天机器人由他的创业公司XAI创建，本周表明，有一个更深刻的关注理由：人类很容易被人类操纵。

格罗克（Grok）周三开始对南非的“白人种族灭绝”的虚假主张回应用户查询。到当天末，即使问题与该主题无关，屏幕截图也在X上发布了类似答案。

周四晚些时候对此事保持沉默24小时后，格罗克的奇怪行为是由聊天应用程序所谓的系统提示的“未经授权的修改”引起的，这有助于告知其行为和与用户互动的方式。换句话说，人类正在决定AI的反应。

在这种情况下，反应的性质与在南非出生和长大的马斯克直接联系。马斯克（Musk），除了担任首席执行官职位外 特斯拉 SpaceX一直在推动虚假的说法，即对一些南非农民的暴力行为构成“白人种族灭绝”，这是唐纳德·特朗普总统也表示的观点。

加利福尼亚大学伯克利分校的教授迪尔德·穆利根（Deirdre Mulligan）说：“由于内容和领导该公司的内容，以及它建议或阐明这些工具必须塑造人们对世界的思维和理解的力量的方式，这是非常重要的。”

Mulligan将Grok Miscue描述为一种“算法分解”，“在接缝处撕裂”大语言模型的中性本质。她说，没有理由将格罗克的故障视为“例外”。

AI驱动的聊天机器人由 元，，，， 谷歌 Mulligan说，Openai不是以中立的方式“包装”信息，而是通过一组内置的滤镜和值传递数据。格罗克（Grok）的分解提供了一个窗口，可以轻松地更改这些系统以满足个人或小组的议程。

XAI，Google和Openai的代表没有回应置评请求。梅塔拒绝发表评论。

Xai在其声明中说，格罗克未经批准的改动违反了“内部政策和核心价值”。该公司表示，它将采取措施来防止类似的灾难，并将发布该应用程序的系统提示，以“加强您对Grok作为寻求真理的AI的信任”。

这不是第一个在线病毒的AI错误。十年前，Google的照片应用程序将非洲裔美国人误认为是大猩猩。去年，Google承认其在历史图片中提供了“不准确性”后，暂时暂停了其双子座AI图像生成功能。一些用户指责OpenAI的DALL-E图像生成器在2022年表现出偏见的迹象，这使该公司宣布它正在实施一种新技术，因此图像“准确地反映了世界人口的多样性”。

Forrester发现，2023年，英国和美国的公司中有58％的AI决策者对生成性AI部署的幻觉风险表示关注。当年9月的调查包括258名受访者。

专家告诉CNBC，Grok事件让人联想到中国的DeepSeek，由于其新模式的质量，今年早些时候在美国的一夜之间成为一种轰动，据报道，它的建造位置是美国竞争对手的成本的一小部分。

批评者说，DeepSeek审查员对中国政府敏感的话题。他们说，像中国具有深湿的中国一样，马斯克似乎会根据他的政治观点影响结果。

当Xai在2023年11月首次亮相时，马斯克说，这本来是要“有点机智”，“叛逆的连胜”，并回答竞争对手可能会躲避的“辛辣问题”。 2月，Xai指责一名工程师的变更抑制了对用户有关错误信息的问题的回答，使Musk和Trump的名字无法回复。

但是格罗克最近对南非的“白人种族灭绝”的痴迷更为极端。

AI模型审计公司Latticeflow AI的首席执行官Petar Tsankov说，Grok的爆炸比我们对DeepSeek所看到的更令人惊讶，因为人们“希望从中国进行某种操纵”。

Tsankov的公司位于瑞士，他说该行业需要更具透明度，以便用户可以更好地了解公司如何建立和培训模型以及如何影响行为。他指出，欧盟努力要求更多的科技公司提供透明度，这是该地区更广泛法规的一部分。

坦科夫说，如果没有公众的强烈抗议，“我们将永远无法部署更安全的模式，这将是“将要付出代价的人”将他们的信任放在开发这些公司的公司中。

Forrester的分析师Mike Gualtieri表示，Grok的崩溃不太可能会减缓聊天机器人的用户增长，或者减少公司涌入该技术的投资。他说，用户对这些事件有一定程度的接受程度。

Gualtieri说：“无论是Grok，Chatgpt还是双子座 – 现在每个人都期望它。” “他们被告知模型是如何幻觉的。期望这会发生。”

AI伦理学家，负责人AI的书的作者Olivia Gambelin于去年出版，他说，尽管Grok的这种活动可能并不奇怪，但它突显了AI模型中的基本缺陷。

甘贝林说，“至少有可能使用Grok模型，可以随意调整这些通用基础模型。”

– CNBC的Lora Kolodny和Salvador Rodriguez为此报告做出了贡献

手表：埃隆·马斯克（Elon Musk）的Xai Chatbot Grok提出了南非的“白人种族灭绝”主张。