赢政资讯 — AI 人工智能最新动态

单H200部署1TB模型:INT4 QAT RL端到端实践

受Kimi K2团队启发,SGLang RL团队成功实现INT4 Quantization-Aware Training (QAT)全流程。通过训练阶段的fake quantization和推理阶段的真实W4A16量化,实现了与BF16全精度相当的稳定性和训推一致性。极致INT4压缩让约1TB规模模型单节点H200(141GB)部署,避免跨节点通信瓶颈,大幅提升部署效率。本文详解开源生态下完整pipeline的技术细节,提供高性能低成本的实用参考。项目由SGLang RL、InfiXAI、蚂蚁集团Asystem & AQ Infra、slime和RadixArk团队联合完成,已同步至slime和Miles社区。(128字)

LMSYS INT4 QAT 量化感知训练
484

SGLang优化GLM4-MoE生产部署:TTFT提升65%

Novita AI针对基于SGLang的GLM4-MoE模型开发了一系列生产验证的高效优化策略,涵盖从内核执行到跨节点数据传输的整个推理管道。通过Shared Experts Fusion和Suffix Decoding等技术,在代理编码工作负载下实现了TTFT降低高达65%、TPOT提升22%的显著性能提升。这些优化已在H200集群的TP8和FP8配置上验证,提供高吞吐量与低延迟的生产蓝图。基准测试显示,在输入长度4096、输出1000的场景下,请求率达14 req/s时效果显著。所有优化已部分上游合并,并开源复现脚本。

LMSYS GLM4-MoE SGLang
505
MIT

微生物革命:提取清洁技术所需关键金属

在美国密歇根州上半岛的松林中,美国唯一活跃的镍矿Eagle Mine即将走向寿命终点。正值汽车制造商为电动车电池急需镍之际,该矿镍浓度持续下降,可能很快低到不值得开采。今年早些时候,一项创新研究显示,微生物或许能从低品位矿石或尾矿中高效提取镍,推动清洁技术发展。这不仅缓解供应短缺,还提供更环保的替代方案,标志着生物采矿技术的突破性应用。

生物采矿 镍金属 电动车电池
233
AIN

Apptio:规模化智能自动化为何需财务严谨

Apptio(IBM公司)EMEA区现场CTO Greg Holmes指出,成功扩展智能自动化离不开财务严谨管理。传统‘建好他们就来’的技术采用模式在自动化领域往往导致预算缺口。企业高管常发现,试点项目虽成功,却难以转化为可持续的企业级部署。本文深入剖析这一痛点,探讨如何通过财务工具实现自动化规模化,助力企业数字化转型。

智能自动化 财务管理 Apptio
371
AIN

SENEN集团CEO:企业AI为何现在该‘务实落地’

在开启AI之旅前,先检查数据状态——数据质量是企业AI沉船的最大隐患。Gartner数据显示,数据质量差每年导致企业平均损失1290万美元。SENEN集团CEO Ronnie Sheth强调,现在是企业AI从炒作出生产落地的关键时刻。他呼吁企业注重数据治理、实用应用,避免资源浪费,推动AI真正创造价值。本文深度剖析企业AI务实路径,结合行业背景与专家观点。

企业AI 数据质量 AI落地
283
WD

《辐射》制作人诺兰论AI:'我们正处泡沫狂热时刻'

《西部世界》主创乔纳森·诺兰在接受WIRED采访时表示,AI技术将造福新兴电影制作人,帮助他们降低创作门槛,但对好莱坞大片而言,AI难以取代核心创意。他将当前AI热潮比作“泡沫时刻”,强调技术虽强大,却需理性看待。诺兰以自身《辐射》剧集为例,探讨AI在影视行业的双刃剑效应,同时警示好莱坞巨头勿过度依赖AI,以免扼杀人类叙事魅力。(128字)

AI影视 乔纳森·诺兰 好莱坞
323
MIT

《下载》:老矿榨取更多金属,AI深陷真相危机

本期《下载》聚焦两大科技前沿:在美国密歇根州唯一活跃镍矿即将枯竭之际,微生物技术或能从老矿中高效提取清洁能源所需金属,推动电动车电池等领域的可持续发展。同时,AI模型的‘幻觉’问题日益严峻,生成虚假信息引发信任危机。本新闻通讯剖析这些创新与挑战,揭示科技如何应对资源短缺与信息真实性考验。(128字)

生物采矿 清洁能源金属 AI幻觉
217
TC

Peak XV:内部分歧致合伙人离职,正加倍押注AI

Peak XV Partners表示,近期多名合伙人离职源于内部意见分歧。公司正调整董事会角色、开设美国办公室,同时继续视印度为其最大市场。尽管面临变动,Peak XV强调将加倍投资AI领域,以抓住全球科技浪潮。该举措反映了风险投资行业在AI热潮下的战略转型,也凸显印度作为新兴市场的重要地位。(128字)

Peak XV AI投资 风险投资
231
TC

Fitbit创始人推出AI平台Luffu,助力家庭健康守护

Fitbit联合创始人詹姆斯·帕克和埃里克·弗里德曼推出新AI平台Luffu,专为家庭健康监测设计。该平台在后台悄然运行,利用AI收集并整理家庭成员信息,学习日常行为模式,并及时标记异常变化,帮助家庭保持健康同步,及早应对潜在福祉问题。作为可穿戴设备领域的先驱,此举标志着他们从个人健身追踪转向家庭整体健康管理,契合当下AI健康科技浪潮。(128字)

AI健康平台 Fitbit创始人 家庭健康监测
204