ARS
谷歌发布两款新TPU,迎接智能代理时代
谷歌最新一代的Tensor AI芯片包含两款芯片,分别用于推理和训练。这一设计旨在迎接即将到来的智能代理时代,满足不断增长的AI计算需求。谷歌的创新不仅在于硬件层面的提升,还在于对未来AI应用场景的前瞻性布局。
谷歌最新一代的Tensor AI芯片包含两款芯片,分别用于推理和训练。这一设计旨在迎接即将到来的智能代理时代,满足不断增长的AI计算需求。谷歌的创新不仅在于硬件层面的提升,还在于对未来AI应用场景的前瞻性布局。
Google 推出新一代 TPU v6,性能对比 TPU v5e:峰值计算性能提升 4.7 倍(4.7X),训练性能整体提升超过 4 倍(部分模型如 Gemma 2-27B、Llama2-70B 等实测超 4 倍),推理吞吐量提升最高 3 倍,能效(能耗相关):67% 以上更节能(over 67% more energy-efficient),即相同工作负载下能耗大幅降低(远超 15%)。同时还把高带宽内存(HBM)容量和带宽都翻了一倍,芯片间互联带宽也翻倍。尽管行业对其在 AI 基础设施领域的潜力持乐观态度,但具体应用效果和与竞争对手的对比仍需观察。