The news is by your side.

从虚拟爱到真正的损失:AI-Fuel Romance Scams的威胁不断上升

9


通过人工智能(AI)达到了在线浪漫史上的欺骗水平,将希望的心变成了复杂欺诈的目标。

根据 联邦贸易委员会, 浪漫骗局造成了超过11.4亿美元的损失,每个幸存者的平均损失Is $ 2,000,使它们成为那里最昂贵的冒名顶替骗局。

在情人节之前, 丹·霍尔姆斯(Dan Holmes), 高级欺诈和身份专家 Feedzai, 一个管理财务风险的云平台,警告说,这些Ai-Enhanced骗局不仅变得越来越普遍,而且更具说服力。

Feedzai的高级欺诈和身份专家Dan Holmes
Feedzai的高级欺诈和身份专家Dan Holmes

Debbie Fox丧偶已有11年的历史了11年,作为一个狂热的旅行者,文化爱好者,小型企业主和敬业的社区成员,已经建立了“强大而充实的”生活。

然而,一个领域仍未实现 – 她的爱情生活。决心改变这一点,福克斯加入了一个在线约会平台,希望找到陪伴和真正的联系。

她很快遇到了罗素 – 一个男人,他的概况与她的激情产生了共鸣。

福克斯回忆说:“感觉很自然,非常有机。” “我认为他对我的生活,日常甚至我的过去都非常感兴趣。感觉到和听到真是太好了。”

在应用程序上聊天了几天后,福克斯和罗素将他们的对话转到了电话和视频聊天中。他们每天,一个小时的对话建立了牢固的联系。福克斯认为她终于找到了一个。

就像他们的联系加深了,罗素放下了一个重磅炸弹:他有麻烦,需要钱。福克斯解释说:“他总共要求$ 58,000。” “他说,'我真的很尴尬。我不习惯需要任何人的帮助。希望您或您圈子中的其他任何人对我的想法不太糟糕,但我真的很忙。”

最初,福克斯拒绝了。她说:“我不是一个有手段的女人,也没有帮助的帮助。”不久,罗素提出了更具说服力的要求,并带有所谓的法律文件,这是律师起草的贷款协议。福克斯对纸道和明显的脆弱性说服了,最终同意了。

不久之后,事实就出现了。今天,福克斯知道“罗素”不是他的真名。尽管她仍然不确定自己个性的捏造细节(无论他真正喜欢旅行还是其他文化),但她现在知道他正在进行复杂的骗局。

那么,如此令人信服的罪犯如何创造一个假身份?

Generative AI通过使罪犯能够以前所未有的复杂性并降低进入障碍来自动化,扩展和完善其攻击,从而改变欺诈。欺诈者可以使用人工智能发展高度令人信服的骗局,甚至欺骗最精心的人和企业。

结果,已经存在重大欺诈问题的总体风险正在迅速升级。德勤(Deloitte)预测,由于AI成为主流,Deloitte迅速加速了欺诈损失。

以下是犯罪分子如何利用AI谋取利益的一些例子:

Deepfake声音和视频骗局: AI生成的深层声音和视频被用来模仿高管,银行代表或家人,说服受害者转移资金或揭示敏感信息。

个性化的网络钓鱼攻击: AI生成的电子邮件,文本和聊天消息模仿了实际的通信风格,使网络钓鱼骗局更加可信,并删除了银行以前希望消费者寻找的危险信号。

合成身份: 欺诈者使用AI来生成现实的综合身份以打开欺诈性帐户。然后,这些帐户可用于直接购买或洗涤欺诈性资金。

自动骗局电话: AI聊天机器人可以进行实时骗局,模仿人类的对话并动态地调整回应以操纵受害者。

一个普遍的误解是,AI是一种新工具,但实际上,银行多年来一直在使用AI,尤其是机器学习,与机器学习来对抗欺诈。但是,AI及其相关威胁是新的。

为了抵消AI代的负面影响,银行正在探索AI一代更好地保护消费者的潜力。早期采用的重点是提高运营效率,使银行能够简化欺诈管理和重新部署资源为高价值任务。

从长远来看,我们将如何通过银行和技术提供商之间的共同情报来帮助保护人们免受AI型骗局的影响,他们的平台通常会促进欺诈。两个共同的目标:增强消费者保护和整个社会。



关键词: