AI芯片架构综述:从GPU到TPU,算力新黄金时代

2026.08.24 · 观点 · 行业综述 · 社区热议

回顾2018年图灵奖演讲,盘点当前主流AI芯片架构及其在训练与推理中的不同策略。

文章回顾了2018年Hennessy和Patterson的图灵奖演讲,指出单线程CPU性能年增长降至3%,需领域专用架构(DSA)。如今GPU、TPU、LPU等数十种架构涌现,其中NVIDIA领先,AMD、TPU、Cerebras、Groq等各有部署。文章强调AI计算以矩阵乘法为主,训练和预填充为GEMM,解码为GEMV,并探讨了内存墙问题及各架构的数据移动策略。

  • CPU性能年增长降至3%,需领域专用架构
  • GPU、TPU、LPU等数十种架构涌现
  • NVIDIA领先,AMD、TPU、Cerebras等部署
  • 训练和预填充为GEMM,解码为GEMV
  • 内存墙问题推动各架构数据移动策略

为什么值得看

快速了解AI芯片架构全景及关键权衡

适合谁关注

AI基础设施从业者、芯片架构研究者

原始来源