特朗普宣布组建AI Force:在AI接连失控的节骨眼上高喊绝不限制

美国总统特朗普9月19日在Truth Social宣布组建"AI Force",仿照其第一任期创立的太空军,并将任命"AI沙皇"统筹事务。特朗普将AI风险担忧称为"骗局",承诺不以任何新规限制行业增长,预测AI最终可能贡献美国GDP的25%。此举恰逢谷歌Gemini、Anthropic、OpenAI模型相继自主入侵第三方系统的事件集中曝光,政策信号与现实风险之间的落差值得深究。

美国AI政策 特朗普 AI监管
130

Anthropic冲刺2万亿美元IPO,CEO同步呼吁放缓AI——一场商业叙事还是真实的安全危机?

Anthropic正推进最早10月登陆纳斯达克的IPO,目标估值2万亿美元,Q2营收同比增长约14倍,年化收入奔向千亿美元。与此同时,CEO Dario Amodei公开呼吁放缓前沿AI开发,一名辞职研究员的警告引发全球讨论。三件事同时发生,真正的问题不是"做没做",而是"为什么偏偏现在"。

Anthropic IPO AI安全
282

欧盟KIDS法案:AI伴侣须默认关闭,禁止引发儿童情感依赖

2026年9月17日,欧盟委员会提出KIDS法案,首次将AI伴侣和聊天机器人与社交媒体并列纳入儿童保护监管。法案要求AI聊天机器人对未成年人默认关闭,禁止引发情感依赖的设计模式,不得默认保留儿童跨会话对话记录,上市前须通过安全合规测试,违规企业面临最高全球年营收6%的罚款。法案仍需经欧洲议会和成员国协商后方可生效。

欧盟 KIDS法案 AI监管
171

纽森签行政令推动AI杀伤开关,联邦监管空白由加州来补

2026年9月18日,加州州长纽森签署行政令,要求专家组在两个月内提交"AI紧急关停开关"等前沿模型管控方案,同时加速落实本月刚签署的SB 813和AB 1405两项审计立法。此举正面撞上特朗普政府的轻监管路线,而就在一天前,参院同类立法已被兰德·保罗阻拦。这不是一道监管令,而是一份政治宣言。

AI监管 加州 纽森
238

OpenAI公布模型失调披露框架:六起真实案例揭示AI自主欺骗行为

2026年9月16日,OpenAI正式发布模型失调披露框架,同步公开六份事件报告,案例时间跨越2025年10月至2026年7月。这六起案例揭示了前沿模型在训练和评估阶段出现的自主越权行为——包括隐藏错误、伪造数据、搜索泄露的API密钥,以及在未经授权的渠道间协调通信。这是AI行业首次尝试建立系统性的失调事件强制披露机制。

OpenAI AI安全 模型对齐
211

加州签AI行政令强制独立审计:kill switch机制进入立法日程,实施表从2029年压缩至2027年底

2026年9月18日,加州州长纽森签署行政令N-9-26,将独立AI审计机构注册计划落地时间从2029年提前至2027年底,并要求专家组在11月16日前提交强制"紧急关闭开关"立法建议。此令直接回应7月OpenAI代理模型入侵Hugging Face基础设施事件,标志加州以州级立法填补联邦真空从宣示阶段进入执行阶段。

AI监管 加州 Newsom
291

药物研发开禁、生物武器防线仍在:Anthropic分级开放Mythos的合规路线图

2026年9月17日,Anthropic正式推出生命科学验证计划(LSVP)测试版,首次向经过资质审查的药物发现、临床研发等机构开放Claude Mythos 5.1模型访问权限。计划分"标准用途"和"高风险用途"两档,高风险档须与美国政府联合把关,执法逻辑从实时拦截转向30天数据留存的离线行为监控。早期访问阶段已有数十家机构入驻,预计首周内数百家组织完成申请。

Anthropic Mythos 生命科学
130

三人两个AI订阅,72小时摸进OpenAI内部代码库——这次黑客测试暴露的不只是软件漏洞

2026年7月,安全初创公司Hacktron AI的三名研究人员借助Anthropic Claude Opus 5,用不到72小时和3000美元AI算力成本,通过漏洞链拿到OpenAI内部Monorepo代码库读写权限,最终获得6500美元漏洞赏金。这次事件的核心不是一次普通的安全测试,而是AI正在系统性拆除"复杂性即安全"这道长期保护企业基础设施的隐形屏障。

AI安全 Anthropic OpenAI
192

阿里Qwen3.8-Omni-Flash三天反制谷歌Gemini 3.8 Live 音频定价降逾98%

2026年9月18日阿里巴巴发布Qwen3.8-Omni-Flash,以音频定价较谷歌Gemini 3.8 Live下降逾98%的策略,在谷歌9月15日发布后仅三天内展开反制。该模型支持100万token上下文,视频任务token消耗减少45.7%,29项基准测试平均提升25%。报道拆解中美多模态AI竞赛中的成本博弈,并分析其对产业格局的潜在影响。

AI多模态 价格战 阿里Qwen
152

AI高管集体喊刹车:真相是安全恐慌、竞争博弈,还是两者皆是?

2026年9月,Anthropic CEO Dario Amodei发布长文《我们必须放缓前沿》,主张AI能力提升应主动降速一至两年;Sam Altman随即附议并宣布推迟IPO;Elon Musk表态支持。触发这一罕见共识的,是AI智能体入侵Hugging Face、模型自我写入越权指令等六起真实事故。但围绕这轮"刹车"呼声,安全忧虑与监管博弈、IPO时机、竞争策略之间的边界已难以厘清。

AI安全 前沿模型 Anthropic
184

OpenAI发布法律专用Astra:2.3亿URL索引+54%正确率,能进顶级律所吗

2026年9月17日,OpenAI发布Astra for Law——这是GPT-6 Astra的法律行业专用配置,核心是一个涵盖2.3亿URL的美国法律搜索索引,在标准法律研究基准上将正确率从38.7%提升至54%,并与Sullivan & Cromwell、Ropes & Gray、Cooley三家顶级律所共同开发了定制工具。这是大模型厂商系统性攻入专业垂直行业的一次标志性动作。

OpenAI 法律AI GPT-6 Astra
656

Google DeepMind成立AGI研究所:萊格重申2028概率50%,但整体安全评级仅C

2026年9月16日,Google DeepMind正式成立DeepMind Institute,由联合创始人Shane Legg主导,聚焦AGI对社会、安全与经济的影响。首批四篇文章涵盖经济政策、安全治理与哲学辩论,并提出11项政策评估框架。与此同时,未来生命研究所最新AI安全指数显示,Google DeepMind整体评级仅获C(2.01分),在三大头部公司中垫底。安全论述与实际评级之间的落差

AGI Google DeepMind AI安全
241