AI无中生有，律师也频频“中招”。

北京市通州区法院10月27日披露，一起案件的原告代理人在书面代理意见中援引了两份裁判文书。经核查，这两起所谓的司法案例实为AI杜撰生成。据记者了解，该代理人是一名职业律师。

审理此案的北京市通州区法院法官郑吉喆向南都记者介绍，在这起由股权代持引发的商事纠纷的庭审中，原告代理人提出一项较为少见的诉讼请求，于是法官要求其庭后补充书面理由，并附上相应的参考案例。

随后提交的书面意见中，代理律师为佐证观点，援引了来自最高法院和上海一中院的两起案例。法官注意到，两案的事实细节、法律争议与裁判逻辑，与审理中的案件高度契合，“一看就跟我们这个案子一模一样”。但核查后发现，两起案件的案号所对应的真实裁判文书，与代理律师描述的内容毫不相干。

郑吉喆说，该律师所援引的案例内容，有着明显的AI生成痕迹：比如案号是诸如“12345”这样过于规律化的数字，案件当事人的身份也被模糊化为“甲乙丙丁”，无法识别。

电话沟通中，这名代理律师向郑吉喆承认，参考案例是由其提炼本案的事实情节后，反复向ChatGPT提问生成的，随后未做进一步核实。郑吉喆也认为，一般而言，律师多出于疏忽才提交AI虚假案例。

律师提交AI伪造的案例在国内尚属新近现象。司法机关的后续处理，缺乏明确的法律依据或可参考的实践经验。民事诉讼法上，对于伪造重要证据妨碍法院审理的行为，法院视情节轻重可予以罚款、拘留等。但郑吉喆指出，诉讼参与人提交虚假参考案例的情形，无法落入现行法律处罚的法定范畴，因为参考案例不属于重要证据。

另外，该案代理律师援引的参考案例，对法官没有强制参照的约束力。郑吉喆认为该行为并未造成严重后果，情节较轻，若贸然实施司法惩戒，有失妥当。如果AI生成的是法官应当参照的指导性案例或人民法院案例库的案例，郑吉喆虽认可其情节相对更严重，但此类案例全部公开可查，法官的核实成本并不高。

而在美国、澳大利亚、英国等普通法系的国家，若不当使用AI工具、编造虚假判例，后果往往极为严厉。

在美国，多名律师因提交AI生成的虚假案件而被训诫和罚款。最近一起发生在10月中旬：名叫詹姆斯·约翰逊（James Johnson）的律师在提交法庭的文件中，援引了不存在的案例。阿拉巴马州一位联邦法官对其处以5000美元罚款，并责令其向现有和未来的客户披露这一错误。该法官还提到，全美已有数十名律师犯下类似错误。

今年9月，澳大利亚维多利亚州一名律师被剥夺担任首席律师的资格，不能经营自己的律师事务所，因其在提交给法庭的文件中，引用了AI生成的虚假案例。今年6月，英国高等法院法官维多利亚·夏普 (Victoria Sharp)表示，AI的滥用对司法行政以及公众对司法体系的信任具有严重影响。她警告称，将虚假材料当作真实材料提交，可能会被视为藐视法庭；在“最严重的情况下”，这种行为甚至可被认定为妨碍司法公正，其最高刑罚为终身监禁。

更早前的2024年9月，新加坡最高法院、家事法庭、州法院同时发布一份《生成式人工智能工具使用指南》，要求包括案件当事人、代理律师在内的案件相关人员在使用AI时，必须确保生成内容的准确性与真实性、没有创造虚假案例，更不应用此途径来生成或编造证据。若发现有不当使用情况，法庭可以对相关使用者进行惩戒。

法律专家指出，判例在普通法系国家拥有举足轻重的地位，法官必须强制参照，所以对提交虚假案例的行为容忍度极低。而在成文法国家，案例也具有重要价值，但在相关法律未有明确规定时，法官需谨慎作出处理。

就通州区法院这起案件而言，郑吉喆认为，若仅仅在电话沟通中口头教育，又不足以形成警示，“最起码要在裁判文书里把这个事情提一下”。这样做的考虑是，既把该律师提交AI虚假案件的做法进行了事实固定，又明确表达了法院对此类行为的否定态度。

郑吉喆在判决书说理部分的最后一段写道：“本案中，原告代理人在庭后向本院提交参考案例时包含了部分人工智能语言模型生成的内容，其提交的部分参考案例与该案号下案件真实情况完全不同，本院对此提出批评，希望原告代理人引以为戒，在向法院提交参考案例、法条时，应当进行检查和核验，确保内容的真实性和准确性，不得放任人工智能模型生成或者编造虚假信息扰乱司法秩序。”

在国内，AI生成虚假司法案例已非孤例。此前南都报道，长三角地区某法院也遭遇类似状况，只不过提交AI伪造内容的是当事人自身。鉴于其非法律专业人士身份，又上了一定年纪，参与案件审理的法官感到无奈，并未给出口头或书面警告。

实际上，在我国的诉讼实践中，当事人未聘请律师的情况仍占主流。根据深圳市律协2023年7月一份文件给出的数据，2022年全国法院受理各类案件3372万多件，律师代理的诉讼案件数量只有824万多件，占比仅约为24.4%。一家法律AI平台的运营负责人此前向记者表示，基于这样的司法现状，即便AI存在出错的可能性，但对于未聘请专业律师的当事人而言，他们依然会利用AI工具参与到诉讼过程中，这一趋势难以避免。

那么，一旦当事人轻信AI生成的案例，识别真伪的任务就落到办案人员头上。郑吉喆说，审判团队将不得不耗费额外时间精力，辗转进行核查。

采写：南都N视频记者 杨柳 发自北京