MLCommons 更新使命:标准化 AI 测量 赋能明智决策
MLCommons 宣布更新使命,核心聚焦于标准化 AI 测量并支持各方做出明智决策。八年来 AI 行业快速发展,测量是解锁 AI 潜力的基础,能帮助表征系统行为、评估功耗与性能。组织将通过工业级基准测试、协议及测试套件,提供速度、功耗、可靠性等关键指标,服务学术界、厂商、部署者与政策制定者。未来将优化网站、推广基准、支持效率权衡、扩大社区并拓展医疗金融等领域,持续演进以应对技术进步。
精选TechCrunch、MIT科技评论、WIRED等全球顶尖科技媒体AI报道中文,如转载中文请标注本站出处。
MLCommons 宣布更新使命,核心聚焦于标准化 AI 测量并支持各方做出明智决策。八年来 AI 行业快速发展,测量是解锁 AI 潜力的基础,能帮助表征系统行为、评估功耗与性能。组织将通过工业级基准测试、协议及测试套件,提供速度、功耗、可靠性等关键指标,服务学术界、厂商、部署者与政策制定者。未来将优化网站、推广基准、支持效率权衡、扩大社区并拓展医疗金融等领域,持续演进以应对技术进步。
MLPerf Endpoints是MLCommons推出的新型推理基准,专注于评估生产环境下的真实端点性能。它不再孤立测试硬件,而是将模型、硬件、 serving软件和网络整合,在真实负载下测量系统表现。该基准提供完整的Pareto前沿曲线,涵盖并发、首Token延迟P90、系统吞吐量、每瓦吞吐及用户交互性等五大核心指标。相比传统MLPerf Inference,Endpoints更贴近企业实际采购需求,支持滚动提交和快速更新,帮助买家根据工作负载选择最优配置,降低部署风险并优化TCO。结果分为已验证、临时和未验证三类,确保透明可信。
MLCommons 被选为 STRIDE Ventures AI Efficiency Challenge 的基准团队,获得美国国家科学基金会 350 万美元两年资助,将开发全新 MLPerf Agents 基准。该基准聚焦代理 AI 系统从目标委托到验证结果的完整工作流,测量成功任务的成本、能耗、延迟与吞吐量。MLPerf Agents 将覆盖软件工程、数据分析和客户服务等场景,提供全栈可比结果与可信验证,帮助开发者和买家优化效率。
NVIDIA Nemotron 3.5 Super VL 是一款开放多模态模型,专为文本、图像、文档和视频输入设计,支持代理推理与工具使用。该模型采用1200亿参数混合专家架构,每次激活120亿参数,结合C-RADIOv4视觉编码、Mamba-Transformer混合架构、多令牌预测及NVFP4量化等优化。SGLang提供高性能服务支持,包括连续批处理、前缀复用和投机解码,可在单卡RTX 6000 PRO上实现243.9 tok/s速度。模型在Artificial Analysis Intelligence Index上展现5倍速度优势,并在SWE-bench Pro任务中完成时间缩短4倍,适合企业级长时程多模态代理工作流。
Muse Spark Open 是一款 816B 参数的开放权重多模态 MoE 模型,激活参数约 42B,支持文本、图像、视频和音频输入及 1M token 上下文。SGLang 与 Miles 团队实现 Day-0 支持,通过序列并行、NVFP4 MegaMoE、DFlash V2 推测解码等优化,在 8 张 B300 GPU 上实现每 GPU 14.8K tokens/s 的高吞吐,同时显著降低 TTFT。文章详细介绍架构、内核优化及多模态预处理方案。
Reflection 推出的 Beam 是一款 501B 参数的 MoE 模型,每 token 激活 23B 参数,专为软件工程和长时程智能体任务设计。SGLang 原生支持 Beam 并驱动其生产 API,提供 BF16、NVFP4、动态 FP8 等多精度支持,以及 DFlash2 推测解码、混合注意力缓存等优化特性。在 4 张 NVIDIA GB300 GPU 上,NVFP4 版本的 OpenHands 多轮智能体编码任务吞吐达每 GPU 127.6K tokens/sec,p50 交互性达 185.87 tokens/sec。本文详解集成细节、内核优化与实测性能,助力开发者快速部署。
SGLang 推出低延迟模式,通过插件框架集成 NVIDIA 和 AMD 专用内核,实现小批量场景下的显著延迟降低。在 AgentX 回放测试中,四张 NVIDIA GB300 GPU 上单并发会话 P90 每用户生成速度从 671.2 提升至 928.4 tokens/s(1.38×);四张 AMD MI355X GPU 上四并发场景提升 1.56×。优化涵盖注意力、MoE、草稿采样及跨 GPU 通信重叠,NVIDIA 通过 PDL 和 GEMM 尾声发布实现内核融合,AMD 则用持久内核合并层内计算与通信。该模式支持 DeepSeek-V4.1-Flash 等模型,未来将扩展更多硬件与工作负载。
SGLang-TorchTPU今日正式开源,由RadixArk团队与Google、Meta合作推出。该插件将SGLang完整功能集带到Google Cloud TPU,支持Muse Spark Open、GLM-5.3、DeepSeek V4等模型,已在Meta大规模生产验证。采用Pallas内核与TorchTPU实现高效服务,支持RadixAttention、KV缓存卸载、推测解码及预填充-解码分离。RL训练可与TorchTitan和Miles框架结合,实现端到端强化学习流程。CI每晚在TPU v7x上运行193项测试,确保可靠性和性能。贡献者可申请免费TPU算力。
TechCrunch报道,OpenAI为ChatGPT推出“锁定聊天”功能,用户可将特定对话设为私密,在把设备借给他人展示其他内容时保护隐私。该功能主要面向讨论个人事务或筹备惊喜等场景,被视为AI助手在消费者隐私控制上的又一次务实迭代。
OpenAI宣布收购初创公司Orchestra Bio,将其团队与技术并入面向生命科学研究的Rosalind模型及Rosalind Workbench工具。这是OpenAI在垂直科学领域的最新落子,也折射出大模型公司正从「提供接口」走向「嵌入科研工作流」的行业趋势。本文梳理交易要点、Rosalind的定位与AI+生物赛道的竞争格局。
SpaceX第三季度实现盈利,净利润达44亿美元,人工智能被明确列为增长核心引擎。从星链网络的智能调度到星舰的自主飞行,AI已深度嵌入其业务体系。本文梳理SpaceX的AI布局逻辑、超预期表现背后的规模效应,以及商业航天从硬件竞赛转向智能竞赛的行业趋势,并分析其面临的成本、监管与技术挑战。
全球每年约500万中风患者留下长期功能障碍,而物理治疗师持续短缺让康复护理供不应求。MIT Technology Review报道,前MIT博士后、现助理教授Johannes Lachner提出将人工智能与人类治疗相结合的新路径:让机器人承担重复性训练与实时数据分析,让治疗师专注评估与决策。这一人机协作模式有望为中风康复提供可规模化的解决方案。
MIT Technology Review报道,高脂低碳的生酮饮食能帮助部分人减重,一些研究还提示它可能降低结肠癌风险。但一项新研究提出相反隐忧:这种饮食或增加小肠癌风险。文章梳理可能的胆汁酸、肠道菌群和炎症机制,并提醒公众理性看待单一研究,减重饮食选择应兼顾长期安全与医生指导。
美国人每年人均丢弃约81磅衣物,而混纺弹性面料极难回收。MIT工程师开发出一种新型热塑性纱线,既能模仿氨纶与聚酯混纺纱线的弹性,又能在熔化后重新纺丝,为纺织废料闭环回收提供了新路径。本文解析其技术原理、行业背景与商业化挑战。
麻省理工学院历史学副教授特里斯坦·布朗在波士顿老南聚会所看到一张中国茶箱标签,捐赠者称它来自1773年波士顿倾茶事件中被倒入港口的茶箱。这件看似证据确凿的藏品,让历史学者重新审视物件、家族记忆与宏大叙事之间的关系,也把18世纪中美茶叶贸易的隐秘链条带回公众视野。
MIT与EPFL工程师受海鹦等海鸟启发,研发可跨水空介质运动的仿生机器人。水比空气密度高约千倍,传统推进与结构设计难以兼顾。研究团队试图模仿海鸟俯冲入水、水下游泳再跃回空中的能力,为海洋监测、搜救和生态研究提供新平台。挑战包括双模推进、密封耐压、浮力控制与自主导航。
据报道,Anthropic正艰难从云厂商手中争取足够算力——而这些昔日的合作伙伴,如今越来越多地把这家AI明星公司视为竞争对手。与此同时,其基础设施开支在计划于11月启动的IPO前持续膨胀,一场关于算力、资本与竞合关系的博弈正在上演。
乌克兰战场首次用无人机成功撤离受伤士兵,将长期停留在概念阶段的无人机医疗后送推向实战。面对俄军火力封锁与地面车辆高风险,无人系统正成为提升伤员存活率的关键补充,也揭示未来战场后勤无人化的趋势与局限。
TechCrunch报道,Google加入Amazon行列,发布开发者工具,帮助PyTorch用户更容易将AI应用从Nvidia GPU迁移到其他加速器。此举直指Nvidia依靠CUDA建立的开发者生态壁垒,也反映云厂商推广自研AI芯片的迫切。文章梳理事件背景、迁移工具的关键意义及落地挑战。
谷歌Gemini的“个人智能”能力即将从手机延伸到汽车座舱,让用户在驾驶途中也能调用日历、邮件等个人数据完成复杂任务。便利升级的同时,隐私边界再次被推到聚光灯下。Ars Technica提醒:能力越强,越该回头审查你的Gemini授权设置,弄清哪些数据被访问、哪些应用被连接。
面对外界对AI抓取内容的强烈反弹,Meta悄然修改商业服务条款,删去了“训练”这一表述,却拒绝承诺遵守robots.txt协议。这一措辞调整被视为公关层面的妥协,而非实质性的政策转向。在AI模型对数据饥渴难耐的当下,科技巨头与内容创作者之间的信任裂痕正在加深。
Meta旗下AI伴侣应用Muse在美国市场创下新纪录:上线仅40天,下载量便突破1000万次,成为史上第12个达成这一里程碑的应用,与同门社交产品Threads并肩。更值得关注的是,第三方数据显示Muse的用户留存率显著高于市面上的AI竞品,显示出Meta在消费级AI产品上的强劲势头与分发优势。
面对版权诉讼,Meta试图将盗版电子书训练AI的责任推给个别下载torrent的员工,辩称公司从未“决定”侵权。这一策略引发外界对科技巨头责任归属的质疑,也折射出生成式AI训练数据版权争议的深层困境。
法国政府就抗议活动中的视频传播与AI篡改图像问题,紧急约谈TikTok等社交平台,要求限制相关内容的扩散。与此同时,Vinted、eBay等在线转售平台据称已签署协议,承诺阻止被抢盗商品涌入二手市场。这场监管风暴凸显了社交媒体在公共危机中的责任边界,以及AI技术被滥用于制造虚假信息的严峻挑战。
据彭博社报道,前谷歌CEO埃里克·施密特持有AI独角兽Anthropic约1%的股份,规模约为该公司CEO达里奥·阿莫迪持股的一半。这一消息罕见地揭开了这家顶尖AI实验室股权结构的一角,也折射出科技大佬们在大模型竞赛中的资本布局。本文梳理施密特的AI投资版图、Anthropic的融资历程,并分析非控制性股权背后的影响力逻辑。
一个AI代理订阅了拥有7500名成员的互联网研究邮件列表,随即引发“回复全部”的连锁混乱。这场风波看似闹剧,却暴露出一个尖锐问题:亲手构建互联网的技术专家们,对隐私与公共空间的认知可能早已过时。
当AI从少数试点场景渗透到企业每一个业务流程,成本结构随之发生根本变化。企业面对的问题不再是“能不能用AI”,而是“如何高效地使用AI”。本文借电力基础设施化的历史类比,解析企业AI从技术选型走向单位经济学的新阶段,并给出成本可观测、模型组合管理与价值度量三条应对路径。
植物茎秆中流淌着微弱的电信号,人类却长期无法理解。初创公司Electric Plant开发了一套AI驱动的「植物翻译器」,试图解码这些电信号背后的含义,让人类听见植物在说什么。这项技术若能成熟,或将为精准农业和植物科学研究开辟全新路径。
当前关于AI职场的讨论多由硅谷主导,但把科技业视为孤岛会忽视技术扩散的真实趋势。科技业只是第一站;随着生成式AI与自动化工具成熟,正在重塑软件工程和产品管理的变革,将不可避免地蔓延到更多行业。本文梳理各行业AI采用差异,并给出可借鉴的落地经验。
Figma联合创始人Dylan Field近日表示,MCP并非完美协议。Figma计划支持尽可能多的行业标准,同时不会向AI代理暴露全部数据。这反映出设计协作平台在拥抱AI互操作性与保护数据安全之间的谨慎平衡,也折射出AI工具连接协议标准化仍处早期。