AI产出“完美”案件，给司法带来虚假信息风险

▲ 北京市通州区的一起案件，揭示了虚假信息进入司法程序给司法公正带来的危害。图片/照片 在一起商事纠纷案件中，原告律师在庭审后向法院提交了书面意见，援引了最高人民法院最高人民法院和上海市第一中级人民法院（2022）沪01民中12345案。两案的事实细节、法律争议、裁判逻辑与本案审理情况非常吻合，完全支持了原告律师的观点。然而，“完美”的案例是由人工智能构成的。 《法治日报》11月12日报道的北京市通州区人民法院审结的一起案件，揭示了错误信息进入司法程序对司法公正造成的危害。当事人及其代理人有权引用以往判决中有利于当事人的意见。o 说服法官做出有利于当事人的判决。在司法实践中，法官也会更加关注这方面的表述。这是因为判例对于实现法律统一适用、避免“同案不同判”的价值已经凸显。法官有责任了解和跟踪类似情况的案件是如何判决的，特别是上级法院和最高法院是如何判决的。虽然当事人及其律师只是陈述了对自己有利的事情，但法官充分了解情况并做出正确的判决仍然很重要。这件事上的引用会影响法官的判断进而影响案件的结果，有时甚至可能起到“一锤定音”的作用。因此，要实现司法公正，就必须保证前述内容的真实性。在这种情况下，如果不是法官的眼光和意见如果原告律师提交的材料被法院采纳，案件很可能会误入歧途。有什么问题吗？原告律师介绍，参考案例是在提炼案件事实和情况后，通过反复查询大型AI模型软件，最终引导AI软件生成相关参考案例而获得的。这样的解释似乎将主要责任归咎于AI软件。当前的人工智能并不总是可靠的，偶尔会产生“no capararakan”；未来是否可靠还很难说。当事人和代理人应该意识到人工智能可能会产生不可靠的案例，任何时候都不应该相信它。事实上，在很多领域，包括法律领域，人工智能软件只是一个辅助工具。人比AI有更大的作用和责任，问题不能归咎于AI。在这种情况下，人工智能生成了一个参考案例，并写下了被指责为“严重”的案例编号。原告律师根据案号查询是否存在此类案件并不困难。笔者到中国裁判文书网输入“（2022）沪民终12345号”，立即发现该号下的案件为民间借贷纠纷，与法院正在审理的商事纠纷无关。为什么原告律师不做出一些“不费吹灰之力”就能完成的事情呢？他的解释是：“我没有做任何进一步的核实，只是简单地复制粘贴并提交给法院。”就相信他的说法吧。比查了没有这样的案件之后，还是提交一个恶性且负责任的案件要好。虽然事小，但代理人说“未经进一步核实”仍然无法挽回。幸亏法官发现及时，否则他可能会遭受比批评更惨重的代价。在对提交的参考案例进行调查核实时向法院保证内容的真实性、准确性，不得允许生成人工智能模型或制造虚假信息扰乱司法秩序。对于当事人和代理人来说，这是任何时候都无法推卸的责任。 人工智能无法完全信任，一些当事人和代理人是“不可观察的”，这也赋予了法官更重的验证责任。还应该说，对于一些法官来说，人工智能还是一个新鲜事物。只有更快地学习和掌握它，才能更好地“为我所用”。本案法官之所以立即发现问题，是因为他的法庭对人工智能的重视和研究。人工智能应用的广泛应用并非不可想象，司法部门将继续面临新的挑战。但只要人们坚守底线，做好自己应该做的事情，问题就不会那么大。撰稿/李树明（律师）编辑/校对迟道华/张彦军