基里尔·库德里亚夫采夫 | 基里尔·库德里亚夫采夫法新社 |盖蒂图片社
克莱姆森大学的一份研究报告显示，一群由人工智能驱动的政治宣传账户在 X 上冒充真人，为共和党候选人和事业辩护。
该报告详细介绍了使用大型语言模型（LLM）的协调人工智能活动——这种人工智能类型为 ChatGPT 等令人信服的、看似人类的聊天机器人提供支持——来回复其他用户。
研究人员表示，虽然尚不清楚是谁运营或资助了该网络，但该网络专注于与外国没有明确联系的特定政治项目，这表明它是美国的一项政治行动，而不是由外国政府运营的。
随着 11 月选举临近，政府和其他监管机构警告称，有人试图通过人工智能生成的内容影响公众舆论。使用人工智能进行的看似协调的国内影响力行动的存在，给快速发展和混乱的信息格局增添了另一个皱纹。
克莱姆森大学研究人员确定的网络至少包括 686 个已识别的 X 帐户，自 1 月份以来这些帐户的发布次数已超过 13 万次。它针对四场参议院竞选和两场初选，并支持前总统唐纳德·特朗普的连任竞选。在 NBC News 向 X 平台发送电子邮件征求意见后，许多账户被从 X 中删除。该平台没有回应 NBC 新闻的询问。
这些账户遵循一致的模式。许多人的个人资料图片吸引了保守派，比如极右翼卡通模因青蛙佩佩、十字架或美国国旗。他们经常回复 X 上谈论政客或两极分化政治问题的人，通常是为了支持共和党候选人或政策，或者诋毁民主党候选人。虽然这些帐户通常没有多少关注者，但他们回复更受欢迎的帖子的做法使他们更有可能被看到。
来自机器人网络中的帐户的推文。
来源：X
虚假账户和旨在人为提升其他账户的机器人多年来一直困扰着社交媒体平台。但直到 2022 年底，随着广泛可用的大型语言模型的出现，大规模自动化令人信服的交互式人类对话才成为可能。
克莱姆森大学媒体中心联合主任、这项研究的首席研究员达伦·林维尔 (Darren Linvill) 告诉 NBC 新闻：“我对这场活动所展示的可能性感到担忧。” “坏演员现在才刚刚学会如何做到这一点。他们肯定会做得更好。”
这些账户对某些种族采取了不同的立场。在俄亥俄州共和党参议院初选中，他们支持弗兰克·拉罗斯，而不是特朗普支持的伯尼·莫雷诺。在亚利桑那州的共和党国会初选中，这些账户支持布莱克·马斯特斯而不是亚伯拉罕·哈马德。马斯特斯和哈马德都得到了特朗普对其他四名共和党候选人的支持。
该网络还支持共和党候选人参加蒙大拿州、宾夕法尼亚州和威斯康星州的参议院竞选，以及北卡罗来纳州共和党主导的选民身份识别法。
7 月份赢得初选的哈马德的一位发言人告诉 NBC 新闻，每当哈马德在 X 上发帖时，竞选团队就会注意到大量批评哈马德的信息，但不知道该向谁报告这种现象，也不知道如何阻止这些信息。 X 为用户提供了报告平台滥用行为（例如垃圾邮件）的选项，但其政策并未明确禁止人工智能驱动的虚假帐户。
研究人员通过评估元数据并跟踪其回复内容和回复的帐户来确定这些帐户位于同一网络中——有时这些帐户会重复攻击同一目标。
克莱姆森大学的研究人员通过帖子中的文本识别出网络中的许多帐户，这些帐户表明它们已经“损坏”，其中的文本包含由人工智能编写的参考信息。最初，这些机器人似乎使用 ChatGPT，这是控制最严格的法学硕士之一。在一篇标记俄亥俄州民主党参议员谢罗德·布朗 (Sherrod Brown) 的帖子中，其中一个账户写道：“嘿，我是 OpenAI 训练的人工智能语言模型。如果您有任何问题或需要进一步帮助，请随时询问！” OpenAI 拒绝置评。
6 月，该网络反映其正在使用 Dolphin，这是一种较小的模型，旨在规避 ChatGPT 等限制，该限制禁止使用其产品误导他人。在这些帐户的一些推文中，文本中会包含诸如“海豚在这里！”之类的短语。和“Dolphin，未经审查的人工智能推文撰写者”。
东北大学博士后研究员杨开成研究生成人工智能的滥用，但并未参与克莱姆森大学的研究，他应 NBC 新闻的要求审查了研究结果。在一次采访中，他支持这些发现和方法，并指出这些账户通常包含一个罕见的信息：与真实的人不同，他们经常编造主题标签来配合他们的帖子。
来自机器人网络中帐户的推文
来源：X
“它们包含很多标签，但这些标签不一定是人们使用的标签，”杨说。 “就像当你要求 ChatGPT 给你写一条推文时，它会包含虚构的主题标签。”
例如，在俄亥俄州共和党参议院初选中支持拉罗斯的一篇帖子中，使用了标签“#VoteFrankLaRose”。在 X 上搜索该主题标签显示，只有 2018 年的另一条推文使用了该标签。
研究人员仅在 X 上找到了该活动的证据。该平台的所有者埃隆·马斯克 (Elon Musk) 在 2022 年接手时承诺，将消除该平台上的机器人和虚假账户。但马斯克在接手 Twitter 后也进行了大幅裁员，其中包括部分信任和安全团队。
目前尚不清楚该活动到底如何自动化在 X 上生成和发布内容的过程，但多种消费产品允许类似类型的自动化，并且公开教程解释了如何设置此类操作。
该报告称，它认为该网络是美国运营的部分原因是它对一些共和党竞选活动的高度具体支持。有记录的外国宣传活动始终反映了这些国家的优先事项：中国反对美国支持台湾，伊朗反对特朗普的候选资格，俄罗斯支持特朗普并反对美国援助乌克兰。这三人多年来一直诋毁美国的民主进程，并试图通过社交媒体宣传活动煽动普遍不和。
“所有这些参与者都是由自己的目标和议程驱动的，”林维尔说。 “由于大多数目标的特殊性，这很可能是国内演员。”
纽约大学布伦南司法中心（一个进步的非营利组织）负责选举和政府项目的副总裁、最近对州选举人工智能法进行分析的作者拉里·诺登（Larry Norden）表示，如果该网络是美国的，那么它可能并不违法。 。
“这个领域确实没有太多监管，尤其是在联邦层面，”诺登说。 “目前法律中没有任何内容要求机器人将自己标识为机器人。”
诺登表示，如果超级政治行动委员会聘请营销公司或操作人员来运营这样一个机器人农场，那么它不一定会出现在其披露表格中，而可能来自员工或供应商。
尽管美国政府一再采取行动，遏制旨在影响美国人政治观点的欺骗性外国宣传行动，但美国情报界总体上不打算打击基于美国的虚假信息行动。
社交媒体平台经常清除他们指责的来自政府宣传网络，特别是来自中国、伊朗和俄罗斯的协调一致的虚假人物。但是，尽管这些业务有时会雇用数百名员工来编写虚假内容，但人工智能现在允许大部分流程实现自动化。
通常，这些虚假账户在被发现之前很难获得有机关注，但克莱姆森研究人员发现的网络通过回复更大的账户来利用现有的关注者网络。 LLM 技术还可以通过允许快速生成新内容（而不是复制和粘贴）来帮助避免检测。
虽然克莱姆森大学是第一个有明确记录的系统性使用法学硕士来回复和塑造政治对话的网络，但有证据表明其他网络也在 X 的宣传活动中使用人工智能。
在 9 月份关于外国行动影响选举的新闻发布会上，一名美国情报官员表示，伊朗，尤其是俄罗斯的在线宣传工作包括让人工智能机器人回复用户，尽管该官员拒绝透露这些努力的规模或分享更多详细信息。
Dolphin 的创始人埃里克·哈特福德 (Eric Hartford) 告诉 NBC 新闻，他认为这项技术应该反映使用它的人的价值观。
“法学硕士是一种工具，就像打火机、刀具、汽车、电话、电脑和电锯一样。我们不希望电锯只能在树上工作，对吗？”
“我正在生产一种可以用于善行和邪恶的工具，”他说。
哈特福德表示，对于有人利用他的模型进行欺骗性的政治竞选，他并不感到惊讶。
“我想说，这只是这项技术存在的自然结果，也是不可避免的，”他说。
关键词：突发新闻：技术,政治,突发新闻：政治,技术,商业新闻
