代理式AI进政府：机器决策边界成新考验

阿联酋一直是人工智能领域的急先锋。2017年10月，该国发布国家AI战略，几天后又设立专职部长职位，令年仅27岁的奥马尔·苏丹·奥拉马成为全球首位人工智能国务部长。七年来，阿联酋投入数十亿美元建设算力与人才生态，从医疗到交通，AI无处不在。然而，当AI从辅助工具升级为主动决策的“代理式AI”（Agentic AI）时，这个先行者撞上了真正的硬石头：决定一台机器究竟可以替人类决定什么。

从“辅助”到“代理”：AI角色之变

所谓“代理式AI”，是指能够理解目标、规划行动并自主执行任务的AI系统。与传统的聊天机器人或预测模型不同，它不再只是提供建议，而是可以直接采取行动。在政府场景中，它可以自动完成证照审批、民生补贴发放、公共资源调配等行政事务，极大节省人力。阿联酋政府已开始试点智能客服与自动办税系统，其效率令官员印象深刻。

但这种“积极性”也带来隐忧。当AI获得决策权，它就不再是纯粹的工具，而是一个“行动者”。政府必须回答：哪些决策可以交给AI？哪些必须保留在人类手中？例如，AI能否决定养老金领取资格的审批？能否在紧急状态下调配救灾资源？这些决策直接影响公民权益，一旦出错，后果不堪设想。

机器决策的“灰区”：伦理与法律双重拷问

在阿联酋，AI治理框架已初步建立，但专门针对代理式AI的规则仍是空白。一位不愿透露姓名的官员对媒体表示：“我们擅长部署AI，却尚未学会如何限制它。”这种困境并非阿联酋独有。美国白宫此前发布的AI行政令仅要求联邦机构评估AI风险，并未给出明确决策权限清单；欧盟《AI法案》虽将高风险AI列入严管，但政府决策是否属于“高风险”仍在争议中。

“政府中的代理式AI刚刚撞上了最艰难的部分：决定一台机器可以决定什么。”这正是当前AI治理的核心命题。

更深层的问题在于问责。当AI系统做出错误决定，公民起诉时，谁为被告？算法开发者、数据提供者，还是政府官员？若AI存在隐性偏见，又由谁承担修正义务？这些法律空白不仅阻碍技术落地，也侵蚀公众信任。阿联酋智库近期报告指出，全球仅约12%的国家对AI行政决策建立了明确申诉渠道。

他山之石：国际社会的探索

面对同一挑战，不同国家正给出不同答卷。新加坡推出“AI政府治理指南”，强调人类官员的最终否决权；加拿大建立“自动化决策指令”，要求AI决策必须附解释报告；中国也在加速算法审计制度建设，拟对政务算法进行外部监督。阿联酋作为中东的技术中心，则试图走一条更务实的路径：先试点、再立法，用真实场景推动规则迭代。

编者按：人机共治，而非机器独裁

从阿联酋的实践可以看到，代理式AI进入政府已是不可逆转的潮流，但技术永远不应凌驾于民主责任之上。机器可以快速计算、比对、推荐，但最终批准权、监督权与解释权必须保留给人类。理想的AI政务应是一种“人机共治”模式：人类设定规则，AI在规则内执行；人类处理例外，AI处理常态。唯有如此，我们才能在效率与权利之间找到平衡，让AI真正成为公共利益的助手，而非黑箱中的新统治者。本文编译自AI News。