迈克·林德尔（Mike Lindell）案中的AI幻觉是一个鲜明的警告：NPR

一名联邦法官下令两名代表Mypillow首席执行官迈克·林德尔（Mike Lindell）在科罗拉多州诽谤案中代表两名律师，每人使用人工智能准备了一份法院提交的法院申请，这些律师付出了3,000美元。

克里斯托弗·卡乔夫（Christopher Kachouroff）和詹妮弗·迪姆斯特（Jennifer Demaster）在2月份提交了该文件时违反了法院的规定，其中包括二十多个错误 – 包括幻觉的案件，这意味着由AI工具制成的伪造案件，丹佛市美国地方法院的Nina Y. Wang法官周一裁定。

王在她的裁决中写道：“尽管有任何相反的建议，但该法院对批准出现在此之前的律师的批准并没有任何欢乐。” “的确，联邦法院依靠律师作为法院官员的援助，以高效，公平的司法行政。”

律师在法庭上使用AI本身不是非法的。但是王发现律师违反了一项联邦规则，要求律师证明他们在法庭上提出的索赔在法律上是“有利的”。事实证明，假案件不符合那个酒吧。

Kachouroff和Demaster没有回应NPR的置评请求。

犯错误的法院提交的申请是涉及Mypillow创作者，特朗普总统支持者和阴谋理论家Lindell的诽谤案件的一部分。上个月，林德尔（Lindell）在王面前争辩了此案。他被命令向总部位于丹佛的Dominion投票系统的前雇员埃里克·库默（Eric Coomer）支付超过200万美元，此前他声称Coomer和Dominion使用选举设备将投票投票给前总统Joe Biden。

滑铁卢大学David R. Cheriton计算机科学学院的教授毛拉·格罗斯曼（Maura Grossman）表示，两位律师的金融制裁和声誉损害是对律师的鲜明提醒，他们的工作中越来越多地使用人工智能。

格罗斯曼（Grossman）表示，$ 3,000的罚款“在事情的计划中是相当轻巧的，因为这些并不是一个没有老练的律师，他们真的不会知道。

有许多备受瞩目的案例 律师和其他人的生成AI的使用出错了 格罗斯曼说，提出法律案件。这已成为全国法庭上熟悉的趋势：律师因提交动议和其他法院文件而受到批准，这些提交案件，其中包含案件引用，这些案件是不真实且由Generative AI创造的。

达米安·夏洛汀（Damien Charlotin）追踪了来自世界各地的法院案件，该案件产生了幻觉的内容，法院或法庭特别征收警告或其他惩罚。他告诉NPR，截至周四有206例案件被确定为自春季以来。他说，在四月之前很少有案件，但是自从案件“每天弹出”以来几个月。

Charlotin的数据库并不能涵盖有幻觉的每种情况。但是他说：“我怀疑还有很多很多，但是很多法院和政党都不愿意解决这个问题，因为这对每个参与的人都很尴尬。”

mypillow申请中出了什么问题

王法官本周在她的命令中写道，每位律师的罚款3,000美元是“在这种情况下足以阻止和惩罚辩护律师的最低严重制裁”。

法官写道，两位律师没有提供任何正确解释这些错误是如何发生的：“最令人震惊的是，对不存在的案件的引用。”

王还说，当质疑该动议是否是使用人工智能产生的时，Kachouroff和Demaster并没有出现。

Kachouroff作为回应，在法庭文件中说，Demaster“错误地申请”了该文件的草稿，而不是更仔细地编辑并且不包括幻觉案件的正确副本。

但是王没有说服提交文件是“无意错误”。实际上，当她询问他时，她不诚实地喊了Kachouroff。

王写道：“直到这个法院直接询问Kachouroff先生，反对派是否是生成人工智能的产物。

格罗斯曼（Grossman）建议其他发现自己处于与Kachouroff同一位置的律师，以免掩盖它，并尽快向法官求婚。

她说：“如果不干净，您可能会受到更严厉的罚款。”

信任和验证

当律师或其他人使用AI提交法院文件时，Charlotin发现了三个主要问题：第一个是由AI Chatbots创建或幻觉的假案件。

第二个是AI从真实情况下创建了假报价。

他说，第三个很难发现。夏洛汀说，那是引用和案件名称正确的时候，但提到的法律论点实际上并没有得到提出的案件的支持。

涉及Mypillow律师的案件只是法院和律师如何在欢迎改变生活的技术和在法庭上负责任地使用它之间平衡之间的缩影。人工智能的使用速度比当局围绕其使用的护栏更快。

格罗斯曼说，它甚至被用来在法庭上提出证据，并提供受害者影响声明。

美国有线电视新闻网报道说，今年早些时候，纽约州上诉法院的一名法官在代表自己的原告试图使用年轻，更英俊的AI生成的阿凡达（Avatar）为他辩护的原告之后。那迅速关闭了。

尽管有一个谨慎的故事成为头条新闻，但格罗斯曼和夏洛汀都将AI视为律师的一种非常有用的工具，他们预计将在法庭上更少而不是更少使用。

关于如何最好地使用AI的规则与一个司法管辖区与下一个司法管辖区不同。法官创建了自己的标准，要求律师和在法庭上代表自己的人在使用AI时提交AI披露。根据律师事务所Roopes＆Gray创建的数据库，在北卡罗来纳州，俄亥俄州，伊利诺伊州和蒙大拿州的少数情况下，已经建立了有关AI使用AI的各种禁令。

美国律师协会（American Bar Association）是法律界的国家代表，于去年发布了有关AI使用的第一个道德指南。该组织警告说，由于这些工具“受到错误的约束，律师对（生成人工智能）工具创建的内容的不批判性依赖可能会导致对客户的法律建议或对法院和第三方的误导性陈述。”

它继续说道：“因此，律师对GAI工具的产出的依赖或提交的依赖（没有适当程度的独立验证或对其产出的审查）可能会违反提供有效代表的义务……”

证据规则咨询委员会是负责研究和建议对联邦法院的国家证据规则进行更改的小组的行动缓慢，并且仍在为使用AI的修正案努力进行证据。

同时，格罗斯曼（Grossman）对使用AI的任何人都有这样的建议：“什么都不相信，验证一切。”