平衡人工智能创新与模型风险：SS1/23 的见解

最近，英国政府呼吁主要监管机构（包括 ICO、FCA 和英格兰银行（包括 PRA））概述其对人工智能 (AI) 的战略方针。作为回应，英格兰银行强调了各种现有法规，这些法规表明了其监管人工智能的能力。值得注意的是，SS1/23 在解决政府五个重点领域中的至少两个方面发挥了重要作用。

这种关注是可以理解的，因为几乎所有人工智能驱动的应用都是基于数学模型的。因此，与人工智能相关的风险和与模型相关的风险本质上是相互关联的。

在这篇博客中，我们将讨论有关 PRA 的 SS1/23 原则的关键问题。

SS1/23 于今年 5 月 17 日生效。它涵盖了公司使用的所有模型，我们指的是
全部。

PRA 明确指出，SS1/23 的范围涵盖公司的整个运营，而不仅仅是信贷和市场风险，而信贷和市场风险传统上一直是许多机构模型风险管理的主要重点。这种全面的方法意味着，如果人力资源部门使用模型进行候选人筛选，如果客户互动由人工智能驱动的聊天机器人管理，或者如果个性化广告内容由人工智能生成，所有这些都属于 SS1/23 的管辖范围。

SS1/23 能否胜任支持如此广泛的模型的任务？

SS1/23 的核心优势在于其基于原则、技术无关的方法。这使得它既适用于最复杂的大型语言模型，也适用于最简单的基于规则的语言模型。SS1/23 采用自上而下的视角，专注于潜在风险和结果，而不是特定的应用领域、技术基础或操作方法。

那么，我们可以放心地认为，遵守 SS1/23 可以支持全面的风险管理框架，从而减轻基于人工智能的工具所带来的危险。然而，有一个明显的差距，在银行对政府的回应中只是被一笔带过了。

目前，SS1/23 仅适用于持有 IRB 资本要求计算许可的公司。在 PRA 监管下的 1,300 多家公司中，仅有 23 家拥有这些许可。然而，这 23 家公司包括英国的主要银行和建筑协会，代表了英国银行业务的大部分。然而，正如我们在谷歌、亚马逊和特斯拉身上看到的那样，新进入者和市场颠覆者可以从小处做起，迅速发展壮大。监管部门没有要求新成立的金融科技公司申请 IRB 许可，而且鉴于即将实施的巴塞尔协议 3.1 标准，它们申请 IRB 许可的动力也减少了。因此，适用 SS1/23 的 IRB 批准公司数量不太可能在短期内大幅增加。

银行将如何确保适合人工智能的模型风险管理原则应用于其余业务？

根据 PRA 先前的评论，SS1/23 中描述的风险管理原则将在不久的将来全面推广，这是非常合理的选择。我们预计这将以简化的形式实施，并根据公司的规模和复杂性按比例应用，但我们预计会产生两个关键影响：

1. 所有组织都有望在未来增加用于模型风险管理的资源水平。

2. 为了成功实施模型风险管理原则，公司需要考虑其对模型风险的文化方法。模型风险应放在首位，董事会应清晰可见，并应与其他风险领域一样受到同等程度的审查和监督。

下表概述了我们如何看待公司为管理基于人工智能的风险（以及一般的模型风险）需要采取的行动。

因此，尽管 SS1/23 的模型风险管理原则目前在受 PRA 监管的公司中应用有限，但它们的广泛采用似乎是不可避免的。因此，有远见的公司应该立即开始为 MRM 监管环境中预期的不可避免的变化进行规划。