韩国对 Telegram 涉嫌性爱深度伪造展开调查：NPR

韩国首尔——各个年龄段的学生、教师、士兵，现在还有记者。越来越多的普通韩国女性发现，她们正成为一种快速增长的数字性虐待形式的目标：深度伪造。

韩国当地媒体和众包活动最近发现，即时通讯应用 Telegram 上有大量聊天室传播利用人工智能制作的虚假色情图片和视频，韩国当局正迅速做出应对。

韩国国家警察厅上周宣布严厉打击性虐待深度伪造作品，周一该厅表示，已开始对 Telegram 展开调查，调查对象可能涉嫌协助和教唆其平台上传播色情深度伪造作品。

该机构表示，这是韩国执法部门首次对该公司进行调查，该公司创始人帕维尔·杜罗夫 (Pavel Durov) 上个月因涉嫌在该平台上进行非法活动而在法国被捕并被起诉。

Telegram 发言人 Remi Vaughn 告诉 NPR，该公司“一直在积极删除来自韩国的违反服务条款的内容，并将继续这样做。”

韩国政府的媒体监督机构韩国通信标准委员会表示，Telegram 遵从了其要求，删除了委员会指定的 25 个深度伪造内容。

据监控部分聊天室的记者和活动人士称，韩国深度伪造的受害者绝大多数是女性和少女。

据当地媒体报道，犯罪者在受害者不知情或未经同意的情况下从社交媒体上获取受害者的照片。或者他们偷偷拍摄受害者在家中或学校周围的女性。然后他们使用人工智能修改照片，并在 Telegram 上与陌生人或认识受害者的用户分享结果。

在搜索“互相认识的房间”或“羞辱房间”等词语时，会出现一些聊天室，这些聊天室有数千名参与者。

目前尚不清楚 Telegram 上有多少此类聊天室，以及它们涉嫌滥用行为的范围。许多聊天室都已关闭，只有通过邀请链接或聊天室管理员的许可才能访问，据报道，自从活动人士和媒体开始追踪这些聊天室以来，有些聊天室已经关闭。

该平台创始人兼首席执行官杜罗夫周四在 Telegram 的一篇帖子中表示，公司一直“致力于与监管机构合作，在隐私和安全之间找到适当的平衡”，同时承认该平台“更容易被犯罪分子滥用”。

但韩国执法部门和政府机构的数据显示，该国涉及虚假图像的数字性犯罪急剧增加。

该政府媒体监督机构表示，今年 1 月至 7 月期间，其收到了近 6,500 份处理性虐待深度伪造视频的请求，是去年同期请求数量的四倍。

据警方称，今年前 7 个月，涉及色情深度伪造的犯罪案件已达到 297 起，而 2023 年全年为 180 起。

许多受害者和犯罪者都是青少年。在七个月内警方登记的 178 名嫌疑人中，74% 的年龄在 10 至 19 岁之间，高于 2021 年的 65%。今年，政府运营的在线性虐待受害者宣传中心追踪和删除的深度伪造视频中有一半以上涉及未成年人。

施暴者欺负女性

韩国长期以来一直在打击性犯罪，包括非法拍摄、非自愿传播色情图片、网络诱骗和性勒索。

网络性犯罪专家表示，Telegram 上猖獗的深度伪造视频的创作者通常以他们认识的女性为目标，而不是随机的陌生人。

首尔韩国犯罪学和司法研究所研究网络性侵犯的研究员 Chang Dahye 表示，对于受害者来说，熟人实施此类侵犯所造成的伤害不仅仅是侵犯他们的隐私。

“他们对社区失去了信任，”张说。“他们担心自己无法再与周围的人维持日常生活。从本质上讲，他们对社会关系的信任崩溃了。”

张先生表示，性虐待深度伪造与其他犯罪行为的另一个区别在于其目的。

有些犯罪者是出于金钱或怨恨。

但张先生表示，“大多数男性观看这些内容的目的是为了贬低女性。”

她解释说，深度伪造强调可识别的面部，并且经常伴随着言语上的性骚扰。

“这是表达对女性的厌女症和愤怒的一种形式。通过嘲笑和贬低女性，他们得到了彼此的肯定，”张说。

妇女权利组织在上周的联合声明中表示，网络性侵犯事件频发的“根本原因”是性别歧视。她们指责总统尹锡烈领导的政府未能认识到这一点，并让问题不断恶化。

尹永哲表示，韩国“结构性性别歧视已不复存在”，并承诺废除韩国性别平等和家庭部。

该部长的职位自二月份以来一直空缺，而该部用于防止暴力侵害妇女和援助受害者的预算今年大幅削减。在最近公布的明年预算提案中，尽管负责删除网络性虐待材料的网络性虐待受害者宣传中心的工作量激增，但分配给该中心的资金却比上一年有所减少。

尽管削减了开支，但政府多部门紧急工作组和执政的人民力量党最近承诺加强对深度伪造犯罪的调查和惩罚，并增加对受害者的支持。

有关数字性虐待的法律在试图应对新技术催生的新犯罪类型时，发展得支离破碎。韩国犯罪学与司法研究所的张教授表示，受害者认为的伤害与法律认为的犯罪之间存在着持续的差距。

根据现行法律，经过修改或伪造的“可能引起性欲或羞耻感”以及“为传播目的”制作的材料属于犯罪，即使某一行为可依据法律被起诉，犯罪者也常常逃避惩罚。

警方统计数据显示，去年因虚假性材料而被捕的率为 48%，远低于其他形式的网络性侵犯的逮捕率。

而据韩国MBC电视台分析，即使肇事者被送上法庭，也有大约一半的人会被判缓刑。

张说，法律体系仍然难以将网络性虐待认定为有实际受害者的严重罪行。“在许多情况下，法官认为这种伤害并不像直接身体接触的性暴力那么严重，”她说。

NPR记者安东尼·库恩（Anthony Kuhn）在韩国首尔对本文亦有报道。