在人工智能驱动的威胁环境中保护数据隐私：作者：Ellison Anne Williams

只需快速浏览一下每日媒体头条，就知道我们正在共同踏上人工智能的浪潮。但是，尽管人工智能带来了很多好处，但也有一个缺点需要考虑，特别是在商业领域。人工智能在帮助金融机构变得更智能、更快速、更高效的同时，也让犯罪分子变得更聪明、更快速、更高效。推动创新和改进决策的技术也在扩大威胁范围。组织必须了解人工智能可能带来的风险，并准备好采取主动措施，确保其以私密且安全的方式运营。

数据是持续优化金融服务人工智能的基础资产之一。人工智能需要数据，因此用于训练和评估/推理的更广泛、更丰富的数据源的可用性意味着有更好的机会有效利用人工智能来推动有意义、积极的业务成果。人工智能领域的成功有多种形式，但想象一下经过优化的机器学习 (ML) 模型可有效评估客户风险、减少误报并标记欺诈活动的影响。 或者，人工智能驱动的流程改进，支持自动化并提高运营效率。这些进步可以有意义地改善日常活动的结果，并最终提高组织的利润。

虽然人工智能的数据驱动价值可能很明显，但不难理解，利用数据资产推动这些突破也会带来暴露风险。金融机构不仅需要注意管理该行业的监管边界，还需要意识到人工智能增强的威胁环境给知识产权、竞争优势甚至声誉等组织资产带来的风险增加与消费者。至关重要的是，通过人工智能获得的好处不能以牺牲隐私和安全为代价。

通常情况下，与技术进步相关的风险（例如我们目前在人工智能领域看到的风险）可以通过其他技术突破来抵消。隐私增强技术 (PET) 是一系列独特的技术，可在数据的整个生命周期中实现、增强和保护数据的隐私。对于人工智能用例，它们允许用户使用跨孤岛和边界的数据源（包括跨司法管辖区、第三方和公开可用的数据集）安全地训练和评估机器学习模型。通过在使用或处理数据时保护数据（使用中的数据）并补充现有的传输中数据和静态数据保护，PET 可以实现人工智能功能，从而增强金融服务组织的决策、保护隐私并对抗更广泛的法律、社会、和全球安全风险。除了实现这种净新数据使用之外，PET 还有助于确保敏感资产（包括在受监管数据源上训练的 ML 模型）在处理生命周期的所有点上保持受到保护。这限制了人工智能领域中最复杂的威胁（例如数据欺骗、模型中毒和对抗性机器学习）所带来的风险增加。

为了了解 PET 如何在实践中保护人工智能并降低人工智能驱动的威胁环境带来的风险，让我们看几个特定于金融服务行业的示例。使用 PET 系列中的核心技术安全多方计算 (SMPC)，组织可以跨辖区安全地训练 ML 模型。例如，一家银行希望使用位于另一个地区的数据集来丰富机器学习风险模型，需要在训练期间保护该模型，以确保模型最初训练所依据的受监管数据以及模型中包含的受监管数据的隐私和安全性。跨辖区数据集。如果模型在训练过程中暴露，对手很容易对模型进行逆向工程以提取敏感信息，从而使组织面临违反隐私法规的风险。这意味着模型本身的任何暴露都是直接责任； PET 消除了这种风险。通过使用 PET 支持的加密训练解决方案，金融公司可以在其他司法管辖区的数据集上安全地训练 ML 模型，而无需移动或池化数据，从而改进风险模型并增强决策工作流程。

PET 系列的另一个核心成员同态加密 (HE) 有助于保护模型，以便可以在金融机构的可信墙外安全地利用它们。分析师可以使用敏感的机器学习模型从其他司法管辖区或第三方拥有的数据源中安全地提取见解，即使使用专有模型或使用受监管数据训练的模型也是如此。例如，银行可能希望通过利用来自其另一个运营管辖区的数据集来增强其客户风险模型。目前，数据本地化和其他隐私法规限制了此类努力，即使是在同一家银行的分支机构之间也是如此，因为存在暴露位于新管辖区的数据集中的受监管数据以及最初训练模型所依据的敏感数据的风险。通过使用 HE 对模型进行加密，实体可以跨多个司法管辖区安全地评估加密模型，以提高模型的准确性并改善结果，同时确保合规性。

随着其使用的增加，对负责任、安全和值得信赖的人工智能的需求也越来越强烈。七国集团领导人、白宫以及参加英国人工智能安全峰会的 28 个国家的代表等具有全球影响力的团体强调，安全人工智能是对跨行业企业至关重要的领域。 PET 等技术在应对这一挑战方面发挥着关键作用，有助于实现安全性并降低数据隐私风险，使金融机构能够在威胁形势不断加剧的情况下自信地利用人工智能的前景。