全球 - 艾赫巴里通讯社
谷歌近日发布了其第八代定制张量处理单元（TPU），推出了两款截然不同的芯片——用于训练的TPU 8t和用于推理的TPU 8i，专为推动蓬勃发展的“智能体时代”人工智能而设计。此举旨在显著提升大规模AI模型的效率和性能，以应对现代AI开发中密集的计算需求。
TPU 8t旨在大幅加速AI模型训练，有望将开发周期从数月缩短至数周。其“集群”现在包含惊人的9600个芯片和两拍字节的共享高带宽内存，能够在一个逻辑集群中扩展到一百万个芯片。谷歌声称每个集群可提供121 FP4 EFlops的计算能力，几乎是上一代的三倍，同时拥有97%的“有效计算率”，以实现最大的计算效用。对于推理任务，TPU 8i提供了优化的效率，特别适用于运行多个专业智能体。它拥有由1152个芯片组成的更大集群，并将片上SRAM增至384 MB，为具有更长上下文窗口的模型提供更大的键值缓存。这两款芯片均由谷歌定制的Axion ARM CPU托管，这种全栈方法进一步提升了整体系统效率。这些创新彰显了谷歌致力于推进AI硬件的决心，为开发者提供更快、更节能的工具来构建下一代智能系统，同时应对前沿AI相关的高昂运营成本。
