大模型的下一个风口与AI学术研究转向

这是《The Download》每日通讯的今天聚焦：一批初创公司正在追逐大语言模型的“下一件大事”，而AI学术研究的重心也在悄然转向。两个话题看似独立，实则指向同一个深层问题——当一项技术走向成熟，下一阶段的突破究竟来自哪里？

追逐大模型的“下一件大事”

2017年，谷歌研究人员发表论文《Attention Is All You Need》，提出Transformer架构。九年后，这一家族的神经网络已经成为几乎所有主流大语言模型的引擎。但即便是最乐观的研究者也开始承认，Transformer并非没有天花板。上下文窗口越拉越长，推理成本越来越高，如何构建更高效、更具扩展性的架构，成为许多初创公司的新战场。

这些公司正在尝试不同的技术路径：状态空间模型、线性注意力机制、混合专家架构，甚至基于“测试时计算”的新范式。它们的目标不只是再造一个聊天机器人，而是成为下一代AI基础设施的定义者。越来越多初创公司不再把“扩大参数规模”当作唯一目标，而是希望在更小的模型上实现更强的推理能力，以适配企业级部署和端侧应用。

这种探索并非单纯的工程优化。对学术界来说，它同样意味着对“缩放定律”（Scaling Law）的重新审视——如果新架构能在同等算力下表现得更好，那么“大力出奇迹”的信仰体系就可能被动摇。

AI学术研究：从“规模”到“转向”

与此同时，AI学术研究的重心也在发生深刻变化。过去几年，顶尖大学实验室的论文大多围绕“如何把模型做得更大、跑得更快”。如今，越来越多的研究将目光投向对齐（alignment）、可解释性、评估基准和AI安全。这反映了一个现实：当模型能力足够强大时，理解它们的边界反而成为最紧迫的问题。

学术界与工业界的边界也在模糊。顶尖学者纷纷加入科技公司，而大模型的重训练成本让许多大学实验室难以开展大规模实验。这种“资源鸿沟”正推动学术研究转向更轻量、更概念化的方向——新的学习范式、更好的评估方法，甚至是对AI潜在风险的批判性思考。

有研究者指出：“下一件大事可能不是来自一个更大的Transformer，而是来自我们愿意放弃多少原有的假设。”

这一判断背后，暗示着一种范式级的转变：AI领域正在从“工程驱动”回归“科学驱动”。提出正确的问题，可能比堆砌更多算力更为重要。

编者按：当“大”不再是唯一答案

综合来看，The Download今天的两个主题共同勾勒出AI产业的一个临界点。Transformer的十年，是大规模商业化的十年；而未来十年，可能会是多样化与精细化的十年。初创公司追逐新架构，本质上是在寻找比Transformer更经济、更高效的替代品；学术研究的转向，则是在为AI的长期发展提前划定边界。

当然，我们也要对“下一件大事”保持审慎。历史上，无数新范式声称要取代Transformer，但最终凭借生态优势胜出的仍是少数。但可以确定的是，无论是工程还是学术，AI都正告别“唯规模论”时代。而对观察者来说，这或许比任何单一技术突破都更有意思。

本文编译自MIT Technology Review