Google dévoile deux nouvelles TPU pour "l'ère des agents"

États-Unis - Agence de presse Ekhbary

Google a dévoilé sa nouvelle génération d'unités de traitement Tensor (TPU), introduisant deux puces distinctes : la TPU 8t dédiée à l'entraînement et la TPU 8i pour l'inférence, ciblant spécifiquement la "ère des agents" en intelligence artificielle. La TPU 8t est conçue pour réduire considérablement les temps d'entraînement des modèles d'IA, potentiellement de plusieurs mois à quelques semaines. Elle offre jusqu'à 121 FP4 EFlops de puissance de calcul par 'pod', regroupant 9600 puces avec deux pétaoctets de mémoire à large bande passante. Cela représente une augmentation de près de trois fois de la capacité de calcul d'entraînement par rapport à la génération précédente Ironwood, tout en améliorant l'efficacité énergétique avec un taux de "goodpute" revendiqué de 97 %.

La TPU 8i, quant à elle, est optimisée pour l'inférence, le processus d'exécution des modèles d'IA entraînés pour générer des résultats. Elle est conçue pour une plus grande efficacité lors de la gestion de plusieurs agents spécialisés, minimisant ainsi la latence. La TPU 8i fonctionne dans des pods plus grands allant jusqu'à 1 152 puces et dispose d'une mémoire SRAM triplée sur la puce, atteignant 384 Mo, ce qui accélère les modèles avec de plus grandes fenêtres contextuelles. Les deux accélérateurs de huitième génération utilisent exclusivement les CPU ARM Axion personnalisés de Google, promettant le double de performance par watt par rapport à Ironwood, marquant une étape importante vers un matériel d'IA plus efficace.

Agence de presse Ekhbary