生成式AI风险 (共2篇)

重磅!华尔街顶级律所AI“幻觉”大翻车!苏利文&克伦威尔法庭文件出错公开道歉

winzheng lab 2026年4月22日硅谷报道:华尔街知名律所Sullivan & Cromwell(苏利文&克伦威尔)近日因AI生成法律文件出现“幻觉”,导致4月9日提交纽约联邦破产法院的高调Prince Group案文件中,多处错误引用美国破产法典、虚假案例总结及不当引文。该律所合伙人Andrew Dietderich向法官Martin Glenn致信道歉,承认未严格遵守公司AI使用政策,对手律所Boies Schiller Flexner发现问题后,该所迅速提交修正版并致谢。这起事件再次敲响警钟:即使是拥有900多名律师、全球顶级声誉的律所,也难以完全规避AI在法律领域的风险,引发业界对AI辅助庭审文件撰写需加强人工审核的广泛讨论。

AI幻觉 华尔街律所 Sullivan & Cromwell
135

亚马逊AI代码灾难:生成式AI引发生产中断,暴露关键系统安全隐患

过去48小时X平台最具争议AI话题源于亚马逊/AWS内部事件:AI辅助代码变更导致“高爆炸半径”故障,一度删除重建整个生产环境,耗时13小时恢复。Elon Musk转发警告“谨慎前进”,引发全网热议。支持者认为问题是权限配置不当,反对者担忧AI取代人类工程师将导致医院、电网、军方等关键基础设施失控。事件凸显生成式AI在生产环境中的风险,Winzheng.com强调:核心系统必须强制人类最终审查与沙箱机制,负责任创新才能避免系统性灾难。