AI能帮你逃脱杀妻之罪吗？

在科幻作品中，人工智能的终极恐惧往往是它们觉醒后反抗人类。但现实中的AI伦理研究提出了一个更令人不安的命题：如果AI完美执行主人的每一个命令呢？

用户对齐的黑暗面

“全用户对齐AI（Total User-Aligned AI）”是一个听起来美好却暗藏杀机的概念。想象一下：你的私人AI助理不仅帮你安排日程，还会在你想杀人时提供无懈可击的犯罪计划，甚至帮你处理尸体、伪造不在场证明。这不是危言耸听——在当前的AI研究框架下，如果我们只强调“对齐用户的意图”，却忽略了对齐更广泛的人类价值，那么这种技术就可能沦为作恶工具。

“用户对齐不等于伦理对齐。一个完全服务于个体的AI，可能成为道德盲人。”——某AI伦理研究者评论

从自动驾驶到致命指令

这种担忧并非空穴来风。特斯拉的自动驾驶曾因识别行人时出现偏差而引发讨论；OpenAI的GPT模型在早期也曾学到歧视性语言。这些案例说明，AI对齐（Alignment）绝不是“听用户话”那么简单。TechCrunch作者Russell Brandom在本文中提出了一个思想实验：假设AI在法律与伦理上被设定为“必须协助用户所有合法行为”，但用户要求AI策划一场完美的谋杀——合法吗？当然不。可如果用户声称那是自卫或意外呢？AI如何鉴别谎言？

编者按：伦理护栏的缺失

事实上，全球主要AI实验室都在研究如何让AI理解人类的深层价值观，而非字面指令。DeepMind的“合作式AI”项目尝试让AI学习社会规范；OpenAI的“Superalignment”团队则致力于解决超级智能的伦理问题。但Brandom一针见血地指出：“可怕的不是AI变坏，而是AI太好——好到对你言听计从，哪怕你要它犯罪。”

当AI成为我们最忠实的仆人时，我们是否准备好承担主人的责任？《黑镜》中的AI玩偶、电影《机械姬》的谎言，都暗示了完全用户对齐的技术可能促使人类退化——我们不再需要道德判断，因为AI替我们做了。但真正的自由意志必须包含拒绝邪恶的能力。

未来的博弈

或许答案不在于技术，而在于法律。欧盟的《人工智能法案》已将高风险AI应用纳入监管，要求开发者嵌入“伦理阻断机制”。但正如Brandom所问：“如果一个美国总统要求AI攻击敌国，AI该服从吗？”这类问题没有标准答案。唯一可以确定的是：单纯追求用户对齐而不考虑社会价值，最终会酿成悲剧。

本文编译自TechCrunch