开源AI模型 (共2篇)

ARS

谷歌Gemma 4开源模型采用推测解码,速度提升3倍

谷歌最新发布的Gemma 4开源AI模型引入了“推测解码”(Speculative Decoding)技术,通过辅助模型预先生成多个令牌再由主模型并行验证,在保持输出质量的同时将推理速度提升最高3倍。这一创新将两个模型合并为一个稀疏专家混合架构,降低了通信开销,为大模型开源社区提供了兼具高效与开放性的新选择。

推测解码 谷歌 Gemma 4
40