欧盟AI法案和金融服务：金融机构如何影响？：Joris Lochy

2024年8月1日，欧盟 AI行为 生效 – 世界上第一个调节人工智能的法律框架。该法规旨在平衡创新和风险，引入了一系列交错的合规性截止日期，到2026年中期，大多数规定都完全适用。但是，一些禁止的AI用途，例如在公共场所中的实时生物识别监视，将在六个月内禁止使用。

违规行为的罚款也将是严重的，涉及禁止AI申请的违规行为，最多可占全球年营业额的7％。

人工智能行为 合规义务 仍在发展，但是组织必须立即开始准备。该法对AI系统介绍了基于风险的分类，并对开发商和提供商施加了特定要求，尤其是在金融服务等受监管行业中。

同时，有关该法规的文章已经很多。支持者赞扬欧盟的主动立场，强调迄今为止最颠覆性技术之一的透明度，安全性和道德标准的需求。批评家认为，随着人工智能仍在不断发展，该法规还为时过早，并且其全部潜力仍然不确定。有些人认为，这可能使欧盟处于竞争不利的位置，为初创企业和缺乏遵守资源的小型公司造成了障碍。

然而，精心设计的法规可以提高长期竞争力。及早整合安全，隐私和道德规范的公司可能会避免随着全球标准的发展而后来的昂贵改造。此外，金融服务等信托驱动的行业可能会受益于对符合欧盟标准的AI系统的更大信心。

AI ACT将AI系统分类为 五个风险水平，每个人都有特定义务：

• 不可接受的风险：根据AI法案，完全禁止构成不可接受的风险的AI系统。这包括操纵人类行为的AI应用，使用实时远程生物识别识别（例如在公共空间中的面部识别）或实施社会评分（根据个人特征，社会经济地位或行为对个人进行排名）。但是，用于军事，国家安全或纯科学研发的AI系统免于这一类别。
• 高风险：用于生物识别和面部识别，医疗应用，教育，就业和某些公共部门职能的AI系统被归类为高风险，必须遵守严格的法规。尽管允许这些AI应用程序，但它们必须遵守严格的法规，以管理AI系统本身及其提供商。这包括详尽的文档，市场前一致性评估和潜在的监管审计。
• 通用AI（GPAI）：此类别主要包括诸如chatgpt之类的基础模型。除非权重和模型架构是根据免费和开源许可发布的，否则只需要培训数据摘要和版权合规性策略，否则GPAI系统必须遵守透明度要求。此外，高影响力通用AI系统必须经历严格的评估过程，以评估潜在的系统性风险。
• 风险有限：风险有限的AI系统，例如聊天机器人，图像和视频生成型AI必须满足透明度要求，以确保用户知道他们正在与AI互动。欧盟这一类别的主要重点是降低操纵风险并确保透明度。这包括提供培训数据摘要并实施确保版权合规性的义务，以及其他要求。
• 最小风险：大多数AI系统都属于这一类，并鼓励自我调节。示例包括用于视频游戏和垃圾邮件过滤器的AI。由于这些申请被认为是低风险，因此根据《 AI法》，他们面临最少的监管要求。

这种分层方法确保监管工作集中在高影响力的AI上，同时允许低风险的创新继续以最小的限制。

金融服务已被确定为AI可能产生最重大影响的部门之一。该法规在金融中定义了两个高风险的AI用例：

• 信誉评估 （用于批准/拒绝贷款的AI模型）
• AI驱动 生命和健康保险的风险评估和定价

AI驱动的欺诈检测，洗钱预防，客户尽职调查，信用评分，算法交易，投资优化，保险承销和机器人顾问都属于AI法案。这些应用程序现在需要
更大的透明度，缓解和监管监督。

AI法案也参考 现有的欧盟金融服务法，特别是那些涵盖内部治理和风险管理的人。这些法律将继续使用AI适用于金融机构。欧盟金融监管机构将监督金融服务中的AI法案实施，包括市场监视和执法。

金融机构面临的最大挑战之一是证明符合《 AI法案》的严格标准，尤其是在透明，公平，问责制和监督等领域。对于大型金融机构，AI系统的数量可能为数百。在《 AI法案》生效之前开发或部署AI的人需要重新评估这些系统是否符合新法规。该法案中的消费者保护规定也可能需要对现有系统进行修改。

此外，金融公司必须根据《 AI法》确定其作用：

• 提供者：开发AI系统的人必须从一开始就确保合规性。
• 部署者：使用第三方AI解决方案的人必须验证合规性并管理与滥用或故障有关的风险。

为了解决这个问题，金融机构应该：

• 识别AI系统 – 对所有AI应用程序进行分类，并根据AI ACT的风险框架对其进行分类。
• 评估影响 – 将AI法案的要求按照现有政策（例如模型风险管理，数据保护，第三方风险管理）。
• 加强文档 – 确保AI模型具有透明的培训数据记录，偏见评估和法规合规性报告。
• 审查第三方AI系统 – 提供者和部署者都对合规性负有责任。定制第三方AI的机构必须证明其他控制。
• 增强治理 – 将AI的监督与欧盟财务法规保持一致，确保遵守风险管理，透明度和公平性。
• 客户沟通 – 当高风险AI系统影响其数据或财务决策时，通知客户。

尽管《 AI法案》引入了新的合规负担，但它也带来了机会。随着全球AI法规的发展，及早采用透明度和风险管理的金融机构可能会获得竞争优势。通过立即采取积极的措施，金融服务公司可以将遵守措施变成优势 – 在AI驱动的未来中确保信任，效率和韧性。

有关更多见解，请访问我的博客