Google enthüllt zwei neue TPUs für die "Agenten-Ära"

Deutschland - Ekhbary Nachrichtenagentur

Google hat seine Tensor Processing Units (TPUs) der achten Generation enthüllt, bestehend aus zwei spezialisierten Chips: dem TPU 8t für das Training und dem TPU 8i für die Inferenz, die speziell auf die aufstrebende "Agenten-Ära" der künstlichen Intelligenz zugeschnitten sind. Der TPU 8t wurde entwickelt, um die Trainingszeiten von KI-Modellen drastisch zu verkürzen, potenziell von Monaten auf Wochen. Er bietet bis zu 121 FP4 EFlops Rechenleistung pro Pod mit 9600 Chips und zwei Petabyte Arbeitsspeicher. Dies stellt eine fast dreifache Steigerung der Trainingskapazität gegenüber der vorherigen Ironwood-Generation dar und verbessert gleichzeitig die Energieeffizienz mit einer behaupteten "Goodpute"-Rate von 97 Prozent.

Der TPU 8i ist für die Inferenz optimiert, den Prozess der Ausführung trainierter KI-Modelle zur Erzeugung von Ergebnissen. Er ist darauf ausgelegt, mehrere spezialisierte Agenten effizienter zu verarbeiten und Latenzzeiten zu minimieren. Der TPU 8i arbeitet in größeren Pods mit bis zu 1.152 Chips und verfügt über dreifach so viel On-Chip-SRAM (384 MB), was Modelle mit größeren Kontextfenstern beschleunigt. Beide Beschleuniger der achten Generation nutzen ausschließlich Googles kundenspezifische Axion ARM-CPUs, was eine Verdoppelung der Leistung pro Watt gegenüber Ironwood verspricht und einen bedeutenden Schritt hin zu effizienterer KI-Hardware darstellt.

Ekhbary Nachrichtenagentur