通过 WebAssembly 沙箱增强 AI 工作流安全性

在安全 AI 工作流程执行的重大发展中，正在探索采用 WebAssembly (Wasm) 的新方法，以增强大型语言模型 (LLM) 生成的代码的安全性。根据 NVIDIA 的开发者博客，WebAssembly 提供了强大的沙箱环境，能够安全执行 AI 模型生成的代码，例如用于数据可视化任务的代码。

人工智能生成代码的挑战

代理人工智能工作流程通常需要执行 LLM 生成的 Python 代码来执行复杂的任务。然而，这个过程充满了风险，包括潜在的提示注入和错误。事实证明，传统方法（例如使用正则表达式清理 Python 代码或使用受限运行时）是不够的。通过虚拟机进行管理程序隔离可提供更高的安全性，但会占用大量资源。

WebAssembly 作为安全解决方案

WebAssembly 是一种二进制指令格式，作为一种可行的解决方案越来越受到关注。它提供了一种利用浏览器沙箱来隔离操作系统和用户的方法，而无需大量开销。通过使用 Pyodide（CPython 到 Wasm 的端口）等工具在浏览器环境中执行 LLM 生成的 Python 代码，开发人员可以利用浏览器沙箱的安全优势，防止未经授权访问敏感数据。

创新的工作流程结构

在这种新方法中，应用程序通过 Pyodide 运行时提供 HTML 服务，将执行从服务器转移到客户端。此方法不仅通过限制跨用户污染来增强安全性，而且还降低了恶意代码执行的风险，否则可能会损害服务器的完整性。

安全增强

在 AI 工作流程中部署 Wasm 解决了两个关键的安全场景。首先，如果生成了恶意代码，它通常会由于 Pyodide 环境中缺少依赖项而无法执行。其次，任何执行的代码仍然限制在浏览器沙箱内，从而显着减轻对用户设备的潜在威胁。

实施的好处

采用 WebAssembly 对 AI 生成的代码进行沙箱处理具有多种优势。与正则表达式或虚拟机等传统方法相比，它是一种经济高效的解决方案，可降低计算要求，同时提供增强的安全性。这种方法有利于主机和用户隔离，确保应用程序及其用户的安全。

对于有兴趣实现此安全执行模型的开发人员，可以在 GitHub 等平台上获取资源。有关 AI 代理和工作流程的更多见解，请访问 NVIDIA 的开发者博客。

图片来源：Shutterstock