研究社会工程策略以及组织面临的升级风险， Sosafe安全意识和人类风险管理解决方案已显示，AI在网络攻击中的用法飙升，有10名受访者中有近9名遇到了某种形式的企图违规。
Sosafe报告称 2025网络犯罪趋势，探讨了10个国家 /地区的500名全球安全专业人员以及100个Sosafe客户的观点。 AI是受访者提出的主要谈话点，所有安全专家中有91％预计未来三年中AI驱动的威胁会大幅增长。
只有26％的人对他们检测这些攻击的能力表达了很高的信心。鉴于去年有87％的公司承认经历了某种形式的AI驱动网络攻击，因此非常担心，只有一家超过四分之一的公司对自己应对攻击的能力充满信心。
Sosafe报告发现，掩盖攻击的起源和意图的混淆技术（例如，超过51％的安全领导者都将攻击的起源和意图）视为最重要的关注。此外，有45％的人报告说，创造全新的攻击方法是他们最大的担忧，而两分之二（38％）引用了自动攻击的规模和速度。
AI的进步正在实现多通道网络攻击，跨电子邮件，SMS，社交媒体和协作平台的策略。百分之九十五的网络安全专业人员同意，他们注意到过去两年的这种攻击方式有所增加。一个明显的例子是对 WWP攻击者合并的首席执行官 WhatsApp 建立信任， 微软团队 为了进一步的互动，以及AI生成的DeepFake语音呼吁，以提取敏感信息和金钱。
安德鲁 玫瑰，CSO，Sosafe，评论说：“将受害者置于跨通信平台的组合中，使他们能够模仿正常的沟通方式，看起来更合法，” Rose说。 “简单的电子邮件攻击正在演变为3D网络钓鱼，无缝集成语音，视频或基于文本的元素，以创建AI驱动的高级骗局。”
使用AI可以停止网络攻击，但也可以打开新的攻击途径
组织必须采用AI在当今景观中保持竞争力 – 满足消费者对个性化需求的能力意味着这是必不可少的。在提供量身定制的经验的同时，它还可以以比人类风险观察者更快的速度扫描不良演员。尽管如此，这项技术并不难。
内部AI的采用无意间扩大了组织的攻击表面，使它们遭受了新的创新攻击，例如数据中毒和AI幻觉。实际上，Sosafe的调查发现，有55％的企业尚未完全实施控制与内部AI解决方案相关的风险。
罗斯补充说：“即使是组织为自己的利益采用的仁慈的AI，攻击者也可能会滥用自己的利益，以找到有价值的信息，主要资产或绕过其他控制权。许多公司创建了AI聊天机器人来为员工提供帮助，但很少有人想到通过攻击者来帮助攻击者来攻击攻击者，从而通过攻击者来收集灵敏的数据，并确定了敏感的数据，并确定了重要的个人，请确定重要的个人，并确定有用的人，并确定有用的密钥，并确定有用的公司。
“企业必须将自己的AI采用与严格的安全方法相结合，以防止技术和人类脆弱性。”
通过培训，AI的担忧不会超过其利益
虽然AI有很多担忧，但 尼克拉斯 希曼Sosafe的首席执行官保证，AI仍然是组织在打击欺诈方面拥有的最大盟友之一。但是，必须对员工进行适当的培训。
他说：“虽然AI无疑提出了新的挑战，但它仍然是我们保护组织免受不断发展的威胁的最大盟友之一。但是，AI驱动的安全性仅与使用它的人一样强。
“网络安全意识是至关重要的。如果没有知情的员工，他们可以认识并应对AI驱动的威胁，即使是最好的技术也不足。通过将人类专业知识，安全意识和仔细应用AI结合在一起，我们就可以保持领先地位并建立更强大，更弹性的组织。”
关键词：
