Google 新一代 TPU v6 发布:性能提升 4.7 倍(4.7X),能耗降低67% 以上
Google 推出新一代 TPU v6,性能对比 TPU v5e:峰值计算性能提升 4.7 倍(4.7X),训练性能整体提升超过 4 倍(部分模型如 Gemma 2-27B、Llama2-70B 等实测超 4 倍),推理吞吐量提升最高 3 倍,能效(能耗相关):67% 以上更节能(over 67% more energy-efficient),即相同工作负载下能耗大幅降低(远超 15%)。同时还把高带宽内存(HBM)容量和带宽都翻了一倍,芯片间互联带宽也翻倍。尽管行业对其在 AI 基础设施领域的潜力持乐观态度,但具体应用效果和与竞争对手的对比仍需观察。