特朗普AI协议与智能体浪潮

据WIRED报道，本周《Uncanny Valley》节目将目光投向人工智能与政治现实之间日益紧密的连接：一方面，科技公司高管签署了特朗普政府推动的所谓“具有道德约束力”的AI安全协议；另一方面，AI智能体正从实验室走向普通用户的日常工作流；与此同时，美国中期选举临近，极端主义候选人借助平台传播、算法推荐和生成式AI工具放大影响力，也成为不可忽视的公共议题。

“道德约束”能否约束AI巨头

所谓AI“协议”并非传统意义上的强制监管，而更接近一份自愿承诺：企业承认AI系统可能带来安全、隐私、就业和信息生态风险，并承诺在模型测试、红队评估、内容标注、风险披露等方面采取措施。特朗普阵营将其包装为一种“道德约束”，试图在不明显增加政府监管负担的前提下，向公众释放“已经在管AI”的信号。

问题在于，自愿协议的执行力一直备受质疑。过去几年，从白宫AI承诺到欧盟AI法案，再到各国围绕大模型安全评估建立的制度框架，行业已经形成一个共识：AI治理不能只依赖企业自律。尤其是当模型能力、商业竞争和资本预期相互叠加时，企业很难主动放慢部署速度。没有审计机制、处罚条款和透明披露要求的“道德约束”，更像是一场政治姿态与公关行动。

AI安全协议的关键不在于签字仪式有多隆重，而在于出事之后，谁负责、如何追责、公众能否知道真相。

AI智能体走向普通用户

节目讨论的第二个趋势，是AI agents，也就是AI智能体的快速普及。与只能回答问题的聊天机器人不同，智能体被设计为能够理解目标、拆解任务、调用工具并执行操作。例如，它可以替用户整理邮件、预订行程、生成报告、更新表格，甚至在多个应用之间自动流转信息。过去，这类能力主要存在于开发者演示和企业级试点中，如今正逐渐进入浏览器、办公套件、手机系统和客服平台。

“面向普通人的智能体”之所以重要，是因为它可能改变人机交互的基本方式。用户不再逐项点击菜单，而是给出一句自然语言指令，由AI完成一串复杂操作。但这也带来新的风险：智能体拥有越多权限，犯错成本越高。一次错误的日程安排或邮件发送可能只是尴尬；如果涉及财务、医疗、法律或企业数据库，后果就可能十分严重。因此，权限控制、操作确认、可追溯日志和人类最终审批，将成为智能体产品能否被广泛信任的核心。

选举、极端主义与AI传播

第三个议题则把AI拉回政治现场。美国中期选举中，一些带有极端主义色彩的候选人正在进入选票。他们善于利用社交平台制造话题、攻击对手并动员核心支持者。生成式AI的普及，使低成本生产宣传视频、伪造图片、自动化文案和定向传播变得更加容易。即便平台宣称会打击虚假信息，实际执行仍面临速度、规模和政治中立性的多重难题。

这并不意味着AI必然制造极端政治，但它确实降低了操纵舆论的门槛。过去需要团队、预算和媒体资源才能完成的传播战，如今可由少数人借助AI工具快速复制。对选民而言，识别信息来源、辨别合成内容和理解算法推荐逻辑，将成为数字时代的基本公民能力。

编者按：AI治理进入政治深水区

从自愿安全协议到AI智能体，再到选举中的极端主义传播，三件事看似分散，实则指向同一个问题：AI已经不只是科技产业议题，而是制度设计、公共信任和民主治理议题。政府希望借协议显示行动力，企业希望在监管到来前保留灵活性，用户则希望获得便利而不承担不可见风险。未来几年，真正决定AI走向的，或许不是哪一个模型参数更大，而是谁能建立一套透明、可执行、可问责的规则。

本文编译自WIRED