危险DNA的AI设计可以通过生物安全措施滑落，研究表明：NPR

为科学家制作的主要生物技术公司提供了保护措施，可以将危险的生物材料置于可能的邪恶之手之外。他们筛选订单，以捕获任何试图购买天花或炭疽基因的人。

但是现在，一个新的 学习 在日记中 科学 已经证明了如何使用AI轻松规避这些生物安全过程。

一组AI研究人员发现，蛋白质设计工具可用于“解释”有毒蛋白质的DNA代码，“重新编写了它们可以保留其结构，并可能发挥其功能的方式。 埃里克·霍维茨（Eric Horvitz），微软的首席科学官。

计算机科学家使用AI程序来生成75,000多种有害蛋白质的DNA代码，而DNA制造商使用的防火墙却无法始终如一地捕获它们。

霍维茨说：“令我们关注的是，这些重新经过的序列滑过了DNA合成公司在全球范围内使用的生物安全筛选系统来标记危险的命令。”

一个修复程序很快就被写成了，并打到了生物安全筛选软件上。但这并不完美 – 它仍然无法检测到一小部分变体。

这只是最新一集，展示了AI如何引起人们对强大生物学工具潜在滥用的长期关注。

开放科学的危险

Horvitz说：“ AI驱动的蛋白质设计是科学中最令人兴奋的边界之一。我们已经看到了医学和公共卫生的进步。” “然而，像许多强大的技术一样，这些相同的工具通常会被滥用。”

多年来，生物学家一直担心他们不断改善的DNA工具可能会被利用以设计有效的生物治疗，例如更具毒性病毒或易于膨胀的毒素。他们甚至还有 辩论 即使公开讨论和独立复制一直是科学的命脉，公开发布某些实验结果是否真的是明智的。

发表了这项新研究的研究人员和期刊决定将其一些信息保留回，并将限制谁访问他们的数据和软件。他们招募了第三方，这是一个非营利组织，称为国际生物安全和生物安全倡议，以决定谁有合法需要知道的人。

霍维茨说：“这是第一次采用这种模型来管理科学出版物中共享危险信息的风险。”

担心未来生物安全性威胁一段时间的科学家赞扬了这项工作。

“我的总体反应是有利的。” Arturo Casadevall约翰·霍普金斯大学的微生物学家和免疫学家。 “在这里，我们有一个正在识别漏洞的系统。您看到的是试图纠正已知漏洞的尝试。”

卡萨德瓦尔说，问题是：“我们不知道哪些漏洞需要将来的更正？”

他指出，该团队没有进行任何实验室工作来真正生成AI设计的任何蛋白质，以查看他们是否真正模仿了生物学原始威胁的活动。

卡萨德瓦尔说，这种工作将是一个重要的现实检查，因为社会应对AI的这种新兴威胁，但要做的事情很棘手，因为这可能被禁止生物武器发展的国际条约所阻碍。

领先AI“货运火车”

这不是科学家第一次探索在生物环境中恶毒使用AI的潜力。

例如，几年前，另一个团队 想知道 如果可以使用AI产生与神经剂具有相同特性的新型分子。在不到六个小时的时间内，AI工具忠实地编造了符合要求标准的40,000个分子。

它不仅带有众所周知的化学战剂，例如臭名昭​​著的VX，而且设计了许多看起来合理的未知分子，并且被预测会更具毒性。研究人员写道：“我们将无效的生成模型从有用的医学工具转变为可能致命分子的生成器。”

该团队还没有公开发布AI工具设计的化学结构，或者在实验室中创建它们，因为他们认为自己太危险了。” 大卫·雷曼（David Relman），斯坦福大学的研究员。 “他们简单地说，我们告诉大家有关此事的警告。”

Relman认为这项最新的研究表明，如何使用AI来逃避安全筛查并找到解决此问题的方法，这是值得称赞的。他说，与此同时，这只是说明了一个巨大的问题。

他说：“我认为这使我们晃来晃去，'好吧，我们到底应该怎么办？'” “我们如何领先于货运列车，而货运火车却越来越多地加速并沿着赛道上赛车，这有可能脱离轨道？”

尽管有这样的担忧，但一些生物安全专家仍认为要放心的理由。

Twist Bioscience的政策和生物安全负责人詹姆斯·迪格根（James Diggans）表示，Twist Bioscience是定期DNA的主要提供商，在过去的十年中，它必须将命令转介给执法部门少于五次。

他说：“这是一件非常罕见的事情。” “在网络安全世界中，您有许多试图访问系统的演员。在生物技术中并非如此。真正试图造成滥用的人的真实人数可能非常接近零。因此，我认为这些系统是对此的重要爆发，但是我们都应该找到安慰，因为这不是常见的情况。”