글로벌 - 이크바리 뉴스 통신사
구글이 인공지능(AI)의 급성장하는 '에이전트 시대'를 구동하기 위해 특별히 설계된 두 가지 독특한 칩인 훈련용 TPU 8t와 추론용 TPU 8i를 포함하는 8세대 맞춤형 텐서 처리 장치(TPU)를 공개했습니다. 이러한 전략적 움직임은 현대 AI 개발의 집중적인 계산 요구 사항을 해결하며 대규모 AI 모델의 효율성과 성능을 크게 향상시키는 것을 목표로 합니다.
TPU 8t는 AI 모델 훈련을 극적으로 가속화하여 개발 주기를 몇 달에서 몇 주로 단축할 것을 약속합니다. 이 칩의 '포드'는 이제 9600개의 칩과 2페타바이트의 공유 고대역폭 메모리를 갖추고 있으며, 단일 논리 클러스터에서 백만 개의 칩으로 확장할 수 있습니다. 구글은 포드당 121 FP4 EFlops의 놀라운 컴퓨팅 성능을 주장하며, 이는 이전 세대의 거의 세 배에 달하고, 최대 컴퓨팅 유틸리티를 위한 97%의 '굿풋(goodpute)' 비율을 자랑합니다. 추론 작업의 경우, TPU 8i는 특히 여러 전문 에이전트를 실행하는 데 최적화된 효율성을 제공합니다. 이 칩은 1,152개의 칩으로 구성된 더 큰 포드를 특징으로 하며, 온칩 SRAM을 384MB로 세 배 늘려 확장된 컨텍스트 창을 가진 모델을 위한 더 큰 키-값 캐시를 가능하게 합니다. 두 칩 모두 구글의 맞춤형 Axion ARM CPU에 의해 호스팅되며, 이는 전체 시스템 효율성을 더욱 높이는 풀스택 접근 방식입니다. 이러한 혁신은 AI 하드웨어 발전에 대한 구글의 노력을 강조하며, 개발자에게 차세대 지능형 시스템을 구축하기 위한 더 빠르고 에너지 효율적인 도구를 제공하는 동시에 최첨단 AI와 관련된 높은 운영 비용을 해결합니다.
