在人工智能技术迅猛发展的今天，AI“幻觉”（hallucinations）——即AI模型编造虚假信息或错误引用——已成为法律界日益突出的隐患。4月22日，《卫报》披露了一起备受关注的案例：华尔街精英律所Sullivan & Cromwell（以下简称S&C）在代表英属维尔京群岛清算人处理Prince Group相关破产诉讼中，其提交的法庭文件竟因AI辅助生成而出现多处严重错误，引发舆论哗然。
事件起因于4月9日S&C向纽约联邦破产法院提交的一份重要文件。该文件涉及Prince Group公司的一系列法律纠纷，而Prince Group由华裔商人陈志（Chen Zhi）掌控。此前，美国检察官指控陈志涉嫌电汇欺诈和洗钱，指其主导柬埔寨“强迫劳动诈骗园区”运作，从美国及全球受害者手中窃取数十亿美元资金。Prince Group对此否认所有指控，称相关指控毫无根据。此外，美国当局还试图没收近90亿美元比特币，认定其为Prince Group犯罪所得。陈志今年早些时候在柬埔寨被捕，随后应中方要求被引渡回国。这一背景令Prince Group案备受国际关注，也让S&C的这份文件显得格外重要。
然而，这份文件却“翻车”了。对手律所Boies Schiller Flexner（BSF）在审查过程中发现，S&C的文件存在多处AI生成的“幻觉”错误：包括错误引用美国破产法典具体条款、错误援引其他判例结论，以及对以往案件总结的严重失真。S&C作为一家拥有超过900名律师、在企业重组和破产领域享有顶级声誉的律所，此次失误无疑让业界震惊。
4月18日（周六），S&C全球重组业务联席主管Andrew Dietderich亲自致信纽约联邦法官Martin Glenn，代表整个团队公开道歉。信中写道：“我们对此深表遗憾。我代表全团队向您道歉。周五我已致电BSF律所，感谢他们及时指出问题，并直接向他们致歉。” Dietderich强调，S&C公司内部制定了“全面的AI工具使用政策和培训要求”，旨在防止此类错误发生，但此次“AI政策并未得到遵守”，连二次审核流程也未能发现AI生成的错误引文。
S&C随后迅速向法院提交了修正后的文件。律所表示，虽然律师使用AI辅助工作并不被禁止，但根据职业道德规范，他们有义务确保提交给法院的所有材料准确无误。此次事件中，S&C并未透露具体使用了哪款AI工具（如ChatGPT、Claude或其他法律专用AI），也未公开涉事律师身份或是否采取内部处分措施。
这一事件并非孤例，却因发生在华尔街顶级律所而格外引人注目。近年来，AI在法律领域的应用如火如荼，从合同审查、案例检索到法律意见书起草，AI工具被视为能大幅提升效率的“神器”。然而，“幻觉”问题始终如影随形：AI可能凭空编造不存在的判例、错误解读法规，或对事实进行不当总结。2023年以来，已有多起律师因依赖AI生成虚假引文而被法院罚款或公开训诫的案例，但此次S&C作为行业标杆的失误，仍让许多人感到意外。
法律专家指出，此案凸显了当前AI技术在高风险领域应用的局限性。尽管S&C声称拥有完善AI治理框架，但政策执行和人工复核环节的疏漏，直接导致了错误流入正式文件。纽约联邦法官Martin Glenn尚未对道歉信作出正式回应，但业界普遍认为，此事可能促使更多法院和律所重新审视AI使用规范。
从更广层面看，AI“幻觉”事件正加速推动法律行业规则迭代。美国律师协会（ABA）等组织早已呼吁，律师在使用AI时必须承担最终责任，不能将AI输出视为“权威”。部分律所已开始引入“AI+人工双重审核”机制，甚至开发专属的法律验证AI，以交叉比对输出准确性。但正如S&C此次经历所示，即使顶级机构也可能在高压 deadline 下放松警惕。
Prince Group案本身牵涉跨境犯罪、巨额资产追缴及国际引渡等多重复杂因素，S&C作为清算人代表，其文件质量直接影响案件走向。此次AI错误虽被及时纠正，未造成实质性司法后果，但若未被BSF发现，后果可能不堪设想：法官可能据此作出错误裁决，当事人权益受损，甚至引发上诉风暴。
S&C的道歉信还间接释放了一个信号：律所愿意以透明姿态面对问题，这在一定程度上缓解了外界对“顶级律所也靠AI偷懒”的质疑。但同时，它也提醒整个行业——技术进步不能取代专业判断。未来，随着更强大的法律AI模型问世，如何平衡效率与准确性，将成为律师、法官和监管机构共同面临的课题。
值得一提的是，此案曝光后，社交媒体上法律从业者热议纷纷。有人感慨“AI终于把华尔街律所‘拉下神坛’”，也有人呼吁尽快制定全国性AI法律使用指南。无论如何，这起事件都将成为2026年法律科技领域的一个标志性案例，提醒从业者：在追求AI高效的同时，永远不能放松对真相的坚守。
S&C事件或将推动更多律所公开分享AI治理经验。Boies Schiller Flexner的“救场”行为也展现了同行监督的重要性——在对抗制诉讼中，对手往往是最严苛的审核者。
winzheng lab 认为随着生成式AI在法律领域的渗透加深，类似“幻觉”事件或许会从个案演变为行业常态挑战。监管机构可能需考虑出台更细化的AI披露要求，例如要求律师在提交文件时注明“AI辅助部分”并附人工审核声明。只有这样，才能让AI真正成为法律人的得力助手，而非潜在风险源头。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接