Fintech中以人为中心的AI：信任，UX和透明度：Raktim Singh

发现ML，深度学习和生成性AI如何改变金融技术 – 驾驶信任，透明度和跨金融产品的采用。

介绍

人工智能（AI）已从金融服务的后端推动者过渡到金融科技产品界面的前端。

从机器人顾问到欺诈警报，从对话银行业务到自动信用评分，AI都在塑造数百万客户每天体验金融服务的方式。

但是，尽管为这些体验提供动力的算法越来越复杂，但围绕它们的用户体验（UX）通常会滞后。

客户会遇到不透明的决策，神秘的解释和不一致的数字旅程。对于信任是货币的行业，这种差距不再容忍。

答案在于 以人为中心的人工智能：设计AI驱动的金融技术产品，将人类需求，感知和信任放在核心上。

为什么以人为本的金融科技中心的AI很重要

金融服务几乎与其他所有消费者技术都以两种关键方式不同：

1. 高赌注 – 有关信贷，投资，保险或欺诈检测的决定直接影响一个人的生计和未来。
2. 不透明度的耐受性– 当算法确定财务成果时，客户期望清晰度和监管机构强制性解释性。

如果AI被视为“黑匣子”，则采用摊位。相反，如果客户认为AI增强了他们的财务素养，决策信心和控制意识，则采用会加速。

简而言之，UX不再是金融科技AI的事后想法，这是数字产品成功的关键。

从算法到以人为本的设计

金融科技始终集中在算法的准确性上 – 欺诈模型限制了误报，信用评分模型会最大程度地减少默认风险。尽管这些是关键指标，但它们并不详尽。以人为中心的AI重新调查了：
客户对模型的决定有何看法？

• AI是否在用户喜欢和理解的术语中解释自己？
• 它是否提供选择和自主权，还是简单地要求？
• 它是否包含对预期受众的文化，财务和扫盲影响？

这种范式的转变不仅是一种道德方式。这也是一个竞争优势。有意为理解和问责制设计的金融科技玩家将成为市场赢家。

为什么AI更改UX对话

在AI之前很早就存在透明度，同理心和包容性之类的原则。发生了变化的是决策的本质，个性化的规模以及现在位于金融科技产品核心的算法的不透明性。

AI的不同分支以独特的方式做出了贡献：

机器学习（ML）：大规模识别模式识别

• 我们看到的地方：信誉性决策，欺诈决定，预测流失和保险费。
• ML如何更改UX：
  • 用户获得不再基于规则的变量结果。
  • 而不是“拒绝贷款，因为收入
  • 现在，UX必须将ML成果转换为客户的安全且消化形式的解释/宣言形式。

深度学习：不透明但功能强大

• 我们看到的地方：使用情感分析，欺诈异常检测，图像/视频KYC，语音ID，机器人顾问。
• 深度学习如何改变UX：
  • 神经网络提供准确性，但每个设计都是黑匣子。
  • 如果没有参考，用户就会遇到“是/否”的决定。
  • UX现在需要分层透明度：用户的简明说明摘要，调节器的技术审核日志。

生成AI：对话界面和信任

• 我们看到的地方：聊天机器人，机器人顾问，客户服务，个性化识字工作，文档摘要。
• 它如何改变UX：
  • AI本身成为用户界面。现在，用户现在对其进行对话，而不是单击。
  • 这提出了新的挑战：语气，同理心，对文化的敏感性，参与和错误处理。
  • 例子： “您的贷款被拒绝” VS. “这次我们无法批准，这就是您可以改善的方式。”

横切效果：反馈循环

• 所有三种形式的AI都将不断从用户的反馈中学习。
• 差的UX可能意味着无效的反馈（例如，用户单击随机绕过警报）。
• 以人为中心的体验必须发展对人和模型都有价值的结构性反馈。

总之：

• ML使决策概率→UX呈现模式可以理解。
• 深度学习使决策不透明→UX呈现透明度层。
• Genai使决策对话→UX会产生同理心和信任。

总的来说，这些转变将UX从事后思考提升到 对AI财务的信任的前线。

以人为中心的AI的支柱

透明度和解释性

用户想了解为什么一项贷款以一个速度批准，而另一率却被拒绝。

最佳实践：

• 分层解释。
• 反事实。
• 监管合规性（欧盟AI法案，RBI指南）。

上下文个性化

AI应该适应用户的上下文：

• 农村贷款申请人的视觉插图。
• 财政经理的仪表板。

信任是情感和理性的

• 会话AIS应该放心，而不是产生焦虑。
• 错误应该引发清晰度，而不是挫败感。
• 解释必须在参与度之间保持一致。

包容性设计

• 多语言和文化上下文化。
• 包括残疾和识字水平。

反馈循环

• 允许用户竞争或完善决策。
• 利用反馈来负责任的重新训练模型。
• 当反馈改善结果时，请参与用户。

以人为中心的AI的例子

案例1：首次借款人的信用评分

金融科技使用了一个简单的消息： “您及时的账单付款显示财务纪律。” 结果：贷款接受与竞争对手高30％。

案例2：欺诈检测消息

金融科技银行警报： “我们注意到在一个不寻常的位置进行的交易。这是您的吗？” 结果：投诉减少了40％，虚假索赔减少。

案例3：机器人顾问产品讯息

一个投资应用程序解释了： “我为您的低风险ESG产品选择了此ETF。” 结果：更高的保留和参与度。

以人为中心的AI在金融科技中的挑战

1. 平衡简单性与合规性 – 需要双层解释。
2. 偏见与公平 – UX无法补偿偏见的模型。
3. 个性化的可扩展性 – 有效地为多样化的人口统计服务。
4. 不断发展的法规 – 设计UX以承受更严格的披露规则。

以人为中心的AI设计和实施过程

• 构想：定义用户角色。
• 数据收集：确保投入的多样性。
• 造型：构建可解释的模型。
• 部署：嵌入在旅途中的解释。
• 持续学习：适应反馈和法规。

业务利益

• 建立信任时的采用增加。
• 通过透明度降低了流失。
• 法规弹性。
• 通过信任和经验来区分。

前面的道路

随着AI的成熟，金融科技必须决定：使用原始算法或信任和经验竞争。优胜者将使用AI进行
增强，不只是自动化。

以人为中心的AI将金融科技缩放为 为消费者工作的机器，反之亦然。

结论

金融科技的未来不是仅靠模型的速度来决定的。这将由组合的团队决定
精致的机器学习 和 透明，包容性，以人为本的经验设计。

以人为本的人工智能将金融科技不仅发展为建立更智能的系统，而且更公平，更弹性和持久的金融生态系统。