金融服务中的AI监管：移动太慢的隐藏成本：Kunle Fadeyi

每个人都在谈论财务中的人工智能，更快的入职，自动交易，聪明的见解。但是，大多数机构都忽略了一个滴答滴答的定时炸弹：治理。

这是现实：AI不再是一些实验性玩具。银行，经纪交易商，保险公司和金融科技公司现在正在使用它用于欺诈，入职，监视和财富管理。问题？监管机构已经醒了。而且他们正在快速移动。

如果您认为以后可以签订合规，那么您会感到惊讶。

监管锤子下降

图片：银行的AI信用评分系统被系统地拒绝某些邮政编码中的小企业贷款。不是因为有人对其进行了编程以区分，而是AI“学习”了这种模式。仅此项调查就可能会遇到数百万人，而这是头条新闻的袭击。

这不是科幻小说。这正是监管机构正在准备的场景。

《欧盟AI法》于2024年8月生效，大多数义务从2026年8月开始适用。但是，诸如禁止AI实践的禁令之类的关键规定始于2025年初。信用评分？高风险。 生物识别识别？高风险。要求是残酷的：完全透明度，数据质量控制，人类的监督和作品。

在美国，前美国证券交易委员会主席Gary Gensler发出了有关AI驱动的利益冲突和误导AI索赔的早期警报。拟议的规则将要求公司识别和减轻AI引起的利益冲突。

自2025年初以来，SEC的姿势已经柔和。保罗·阿特金斯（Paul Atkins）被确认为主席，代理主席马克·乌耶达（Mark Uyeda）在SEC 2025年3月的AI圆桌会议上强调了一种更加协作的技术中立方法。

英国？同样的故事。英格兰FCA和银行希望看到黑匣子内部，尤其是当他们做出有关零售银行或交易的决定时。

为什么等待会花费你

我一直听到同样的话：“一旦证明ROI，我们将增加治理。”

这是实际发生的事情：

• 追溯合规性是一场噩梦。试图记录为什么您的AI在六个月前做出决定时，当您从未跟踪模型版本时做出决定很昂贵。

• “相信我们”不再起作用。当监管机构问为什么您的AI标记该交易或拒绝该贷款申请时，耸耸肩不是一个选择。辛西娅·鲁丁（Cynthia Rudin）是对的，我们需要停止在高风险决定中躲在黑盒后面。

• 您的旧模型风险框架没有用。传统的模型风险管理是为静态模型而不是每天重新训练的AI建立的。当他们的交易算法超出他们的控制框架之外，我看着团队意识到这一点。

• 伟大的飞行员，死亡项目。没有什么比在测试中达到95％的精度更快地杀死创新，然后意识到您无法部署，因为您无法记录其工作原理。

那么善政实际上是什么样的？

忘记流行语。这是有效的方法：

知道您的风险区域

并非所有的AI都是平等的。您的聊天机器人？低风险。您的信用决策算法？那是一个不同的故事。绘制哪些系统可以使您进入监管热水：

• 任何感动信用或贷款的东西

• 交易算法转移市场

• 面向客户的投资建议

• AML和KYC自动化

记录一切

跟踪培训数据，模型更改，再训练周期，部署历史记录。这不是官僚主义，当有人问为什么您的人工智能上个季度做一些奇怪的事情时，这是谨慎的（Holzinger等，2022）。

可以解释

使用透明度很重要的简单模型。保存花哨的神经网络，以获取较低赌注的东西。如果您要确定某人的抵押贷款率，则决策树每次都会击败黑匣子。

测试偏差

定期进行公平审核。记录您发现的内容。修复破碎的东西。替代方案？向监管机构解释为什么您的人工智能不小心将整个社区红夹。

控制您的供应商

如果您的AI供应商无法解释他们的模型，那么您会有问题。他们的黑匣子成为您的责任。

让每个人都在房间里

最好的治理不仅是技术，而且风险互相交谈。如果您认真解决问题，请引入法律，合规，商业，甚至道德专家。

为什么这实际上是一个机会

正确治理的公司不仅避免罚款。他们赢了。

他们运送更快的速度是因为他们没有撞到合规墙。他们赢得信任是因为他们可以解释自己的决定。他们塑造规则，而不是争先恐后地跟随它们。

想想网络安全发生了什么。早期投资的银行不仅避免了违规，还成为值得信赖的银行。 AI也发生了同样的事情。

是时候移动了

看，AI法规没有到来，就在这里。 《欧盟AI法》，SEC统治，FCA指导，他们现在或明年都在降落。

您有两种选择：现在就可以做正确的同时建立治理，或者在监管机构敲门时争先恐后地对其进行改造。

这是建议的待办事项清单：

• 列出您正在运行的每个AI系统，并标记高风险的系统

• 检查您的模型风险框架是否可以处理自学习系统

• 弄清楚谁拥有AI治理，如果答案是没有人的，那么您有问题

• 立即开始记录您最风险的AI用例

• 认真地致电您的监管机构，他们想在执行您的方法之前听到您的方法

现在这样做的机构不仅可以在监管浪潮中幸存下来。他们会冲浪。