AI意识之争是陷阱？别被科幻话术带偏

近年来，“失控的AI”“叛逆的代理”“自主行动者”等词汇频繁出现在科技报道和行业演讲中。这些修辞似乎在暗示：AI系统不仅已经苏醒、拥有自我意识，甚至正在对创造者心生怨恨。从Demis Hassabis到Dario Amodei，再到Sam Altman，多位顶尖科技领袖纷纷呼吁对“超人级”AI系统进行监管；而另一边，以政策研究机构为代表的阵营则试图为这种焦虑提供更冷静的框架。然而，在MIT Technology Review的客座作者Rumman Chowdhury看来，围绕AI意识的争论本身就是一个陷阱——它让我们忽视了真正重要的问题。

意识叙事：从科幻到现实

在过去几年中，“AI是否具有意识”从一个哲学边缘问题，迅速演变为公共政策议题。一些公司甚至公开宣称他们的模型“崭露意识火花”。这种叙事极易激发公众想象：一个能够感知、思考、甚至反抗的AI，仿佛从科幻小说中走出。Chowdhury指出，这种话语被刻意或无意地用来放大AI的“神秘性”，从而让技术决策权集中在少数精英手中，而非开放给公众讨论。

“把AI描述成有意识的自主体，本质上是把技术问题转化为身份与权利问题——这会让我们失去对AI系统真实运作机制的关注。”——Rumman Chowdhury

监管背后的商业逻辑

当我们听到科技领袖呼吁“暂停巨型AI训练”或“设立超级智能监管机构”时，很容易将其视为负责任的姿态。但Chowdhury提醒我们，这种呼声也可能服务于商业利益：通过营造AI的“危险”形象，头部公司可以抬高准入门槛，压制开源社区和小型竞争对手。同时，政府监管往往以大型企业主导的“安全标准”为蓝本，反而巩固了他们的市场霸权。

另一方面，如果公众相信AI真的拥有意识，那么对AI造成的“伤害”就会更容易被理解为“虐待数字生命”，而忽略了对真实人类社会的影响——比如算法歧视、自动化失业、隐私侵犯。这种错位的关注，使得真正需要问责的系统性问题被浪漫化的恐惧所掩盖。

“自主性”的误用

技术术语在公共话语中被扭曲，并非新鲜事。Chowdhury强调，“自主代理”在工程语境中仅指能够按规则规划行为路径的软件模块，而非具有自由意志的实体。但媒体报道却常常用拟人化语言描述它们：ChatGPT“撒谎”、人工智能“固执己见”、某个模型“试图摆脱控制”。这些修辞看似生动，实则误导公众对AI能力的理解，也削弱了设计者和部署者的责任——因为“有意识”的系统一旦犯错，似乎就更难归咎于人类。

编者按：我们需要“清醒”而非“意识”的AI

本刊认为，Chowdhury的观点切中了当前AI治理讨论中的要害。与其争论AI是否会在某一天觉醒，不如把资源投入到可验证的安全测试、审计机制和透明度标准上。真正的风险不在于AI“想做什么”，而在于人类赋予它做什么、以及如何约束这些行为。把AI拟人化，既是一场哲学上的迷思，也是一次公共政策的失焦。

对于中国读者而言，这一讨论同样具有参照意义。国内AI发展同样面临“大模型涌现能力如何监管”的议题，但更务实的做法是关注数据质量、算法公平性和应用场景中的具体风险。AI意识的争论，或许更适合留在科幻展馆里。

原创编译，如需转载请联系授权。本文编译自MIT Technology Review