（在 10 月 17 日的报道中，将第 3 段中西尔弗的头衔从酋长更正为副酋长）
安德鲁·古斯沃德
华盛顿（路透社） – 美国联邦检察官正在加紧追捕使用人工智能工具操纵或创建儿童性虐待图像的嫌疑人，因为执法部门担心该技术可能会引发大量非法材料。
美国司法部今年对被告提起了两起刑事案件，被告被指控使用生成式人工智能系统，该系统根据用户提示创建文本或图像，以生成儿童的露骨图像。
“还会有更多案件发生”，司法部计算机犯罪和知识产权科副科长詹姆斯·西尔弗 (James Silver) 预计还会出现更多类似案件。
“我们担心的是这种情况的标准化，”西尔弗在接受采访时说。“人工智能使生成此类图像变得更容易，而且图像越多，这种情况就越标准化。这就是我们想要做的事情。”真想挡在前面。”
生成式人工智能的兴起引发了司法部的担忧，即快速发展的技术将被用来进行网络攻击、提高加密货币诈骗者的复杂性并破坏选举安全。
儿童性虐待案件标志着检察官首次尝试将美国现有法律适用于涉及人工智能的涉嫌犯罪，即使成功定罪也可能面临上诉，因为法院正在权衡新技术可能如何改变有关儿童剥削的法律格局。
检察官和儿童安全倡导者表示，生成式人工智能系统可以让犯罪者对普通儿童照片进行变形和性感化，并警告说，人工智能制作的材料的扩散将使执法部门更难识别和定位真正的虐待受害者。
国家失踪和受虐儿童中心是一个收集有关在线儿童剥削提示的非营利组织，该组织首席法律官 Yiota Souras 表示，该组织每月平均收到约 450 份与生成人工智能相关的报告。
这只是该组织去年收到的平均每月 300 万份在线儿童剥削报告的一小部分。
未经测试的地面
涉及人工智能生成的性虐待图像的案件可能会涉及新的法律依据，特别是在未描绘可识别儿童的情况下。
西尔弗说，在这种情况下，当儿童色情法不适用时，司法部儿童剥削部门的检察官可以指控淫秽犯罪。
检察官于 5 月对来自威斯康星州的软件工程师史蒂文·安德雷格 (Steven Anderegg) 提出指控，罪名包括传输淫秽材料。根据法庭文件，Anderegg 被指控使用稳定扩散（一种流行的文本到图像人工智能模型）来生成幼儿进行露骨性行为的图像，并与一名 15 岁男孩分享其中一些图像。
法庭文件显示，安德雷格不认罪，并试图驳回这些指控，称这些指控侵犯了他根据美国宪法享有的权利。
他在等待审判期间已被释放。记者未能联系到他的律师发表评论。
Stable Diffusion 的制造商 Stability AI 表示，该案件涉及该公司接管 Stable Diffusion 开发之前发布的 AI 模型版本。该公司表示，已进行投资以防止“滥用人工智能来制作有害内容”。
法庭文件显示，联邦检察官还指控一名美国陆军士兵犯有儿童色情罪，部分原因是他涉嫌使用人工智能聊天机器人对他认识的儿童的无辜照片进行变形，以产生暴力性虐待图像。
被告塞斯·埃雷拉 (Seth Herrera) 不认罪，并被下令关押在监狱等待审判。埃雷拉的律师没有回应置评请求。
法律专家表示，虽然儿童色情法涵盖了对真实儿童的露骨性描述，但围绕淫秽和纯粹人工智能生成的图像的情况却不太清楚。
2002 年，美国最高法院以违宪为由推翻了一项联邦法律，该法律将任何表现未成年人从事性活动的描述（包括计算机生成的图像）定为犯罪。
佛罗里达大学研究人工智能及其对隐私和执法影响的法学教授简·班鲍尔 (Jane Bambauer) 表示：“如果政府仅依靠道德上的排斥来取得胜利，这些起诉将会很困难。”
近年来，联邦检察官已对持有儿童露骨色情图片的被告定罪，这些图片根据法律也被认定为淫秽。
倡导者还致力于防止人工智能系统生成辱骂性材料。
两个非营利倡导组织 Thorn 和 All Tech Is Human 在 4 月份获得了人工智能领域一些最大参与者的承诺，其中包括 Alphabet 旗下谷歌、Amazon.com（纳斯达克：）、Facebook 和 Instagram 母公司 Meta Platforms（纳斯达克：） 、OpenAI 和 Stability AI 以避免在儿童性虐待图像上训练其模型，并监控其平台以防止其创建和传播。
“我不想将此视为未来的问题，因为事实并非如此。现在这种情况正在发生。”Thorn 数据科学副总裁丽贝卡·波特诺夫 (Rebecca Portnoff) 说道。
“至于未来的问题是否会完全失控，我仍然希望我们能够在这个机会之窗采取行动来防止这种情况发生。”
关键词：
