Google Lança Duas Novas TPUs para a "Era dos Agentes"

Estados Unidos - Agência de Notícias Ekhbary

O Google revelou sua nova geração de Unidades de Processamento Tensorial (TPUs), introduzindo dois chips distintos: a TPU 8t para treinamento e a TPU 8i para inferência, visando especificamente a "era dos agentes" em inteligência artificial. A TPU 8t foi projetada para reduzir significativamente os tempos de treinamento de modelos de IA, potencialmente de meses para semanas. Ela oferece até 121 FP4 EFlops de poder computacional por 'pod', abrigando 9600 chips com dois petabytes de memória de alta largura de banda. Isso representa um aumento de quase três vezes na capacidade de computação de treinamento em comparação com a geração anterior Ironwood, ao mesmo tempo que melhora a eficiência energética com uma taxa de "goodpute" declarada de 97%.

A TPU 8i, por sua vez, é otimizada para inferência, o processo de execução de modelos de IA treinados para gerar resultados. Ela foi projetada para maior eficiência ao lidar com múltiplos agentes especializados, minimizando a latência. A TPU 8i opera em 'pods' maiores com até 1.152 chips e possui memória SRAM triplicada no chip para 384 MB, o que acelera modelos com janelas de contexto maiores. Ambos os aceleradores de oitava geração utilizam exclusivamente as CPUs ARM Axion personalizadas do Google, prometendo o dobro de desempenho por watt em comparação com o Ironwood, marcando um passo significativo em direção a hardware de IA mais eficiente.

Agência de Notícias Ekhbary