韩国 - 艾赫巴里通讯社
超越GPU:FuriosaAI 构想专用芯片主导2036年数据中心
人工智能(AI)数据中心的格局预计将在2036年发生翻天覆地的变化,逐渐摆脱当前以GPU为中心的模式。这是FuriosaAI首席执行官June Paik的预测。在一篇独家专访中,Paik阐述了他公司对AI硬件未来的愿景,强调了效率、性能以及在推理芯片领域超越当前GPU主导地位的创新替代方案。
蓬勃发展的AI加速硬件市场正面临严峻挑战。下一代芯片需要庞大的功率预算和重大的基础设施投资,这给希望大规模部署AI的初创公司和小型企业带来了巨大障碍。韩国半导体创新者FuriosaAI正通过专注于效率、性能以及替代GPU主导市场的架构,积极挑战这一现状。
另请阅读
FuriosaAI成立于韩国,专门开发AI推理芯片,其设计目标是在提供高 ao性能的同时,降低功耗并减轻数据中心基础设施的压力。他们最新的处理器RNGD,基于公司专有的张量收缩处理器(Tensor Contraction Processor, TCP)架构构建。该设计旨在无需传统GPU框架即可运行复杂的AI模型,代表了行业既定规范的一次重大突破。
Paik曾在AMD和Samsung担任硬件和软件工程师,之后于2017年共同创立了FuriosaAI。他承认AI芯片市场的竞争异常激烈。尽管很少有硬件初创公司能成功挑战Nvidia的统治地位,但创新正在从意想不到的地方涌现。与ASIC擅长的固定加密货币挖矿算法不同,AI的快速发展需要适应性强的硬件。为如此动态的领域制造芯片需要深厚的硬件和编译器技术专业知识,而这些技术往往集中在那些拥有强大半导体传统和与晶圆厂建立成熟关系的地区。
FuriosaAI的韩国基地被证明是一个战略优势。该公司获得了韩国顶尖大学和大型科技公司的世界级工程项目提供的丰富人才资源。此外,它还与领先的亚洲公司建立了关键合作伙伴关系,包括为第二代推理芯片RNGD提供HBM3内存的SK Hynix,以及作为其晶圆代工伙伴的台湾TSMC。远离硅谷核心区域也培养了公司严谨的行事方式。FuriosaAI以100万美元的适度种子资金起步,在交付第一批芯片前,花费了数年时间完善其技术。
该公司明确拒绝了复制Nvidia庞大的CUDA库作为可行策略的想法。相反,FuriosaAI采取了一条更勇敢的道路,从第一原理出发,专门为AI共同设计其硬件和软件。这使得他们无需重新创建CUDA。他们的芯片利用了专有的TCP架构,该架构能够原生执行深度学习固有的复杂多维数学运算,避免了适应旧GPU结构的低效率。这一架构选择使他们的编译器能够在不依赖数千个手动调优内核的情况下优化模型。
大规模生产的RNGD芯片体现了FuriosaAI方法的优势。它能够为要求最苛刻的AI模型提供高性能推理,同时仅消耗180瓦功率,这与GPU通常所需的600瓦或以上功率形成了鲜明对比。LG AI Research等全球合作伙伴已在生产环境中验证了这种效率。通过构建能够与PyTorch和vLLM等标准工具无缝集成的软件堆栈,FuriosaAI有效地打破了CUDA的锁定,使开发人员无需更改现有工作流程即可利用其性能。
目前对GPU的依赖正在给整个行业(包括超大规模云服务提供商)带来巨大的能源挑战和基础设施瓶颈。FuriosaAI设想了一个由异构计算(heterogeneous compute)定义的未来,即不同的架构协同工作,以最有效的方式解决特定需求,例如区分训练和推理工作负载。该公司对总体拥有成本(TCO)、能源效率和灵活性的关注,将其技术定位为解决这些日益增长的行业痛点的关键解决方案。
目前,FuriosaAI正瞄准四个关键领域,这些领域面临着最严峻的能源和基础设施挑战:需要本地(on-premise)处理敏感数据而非公共云的国家和受监管行业;优先考虑TCO和灵活性的企业客户(RNGD适用于标准机架,并避免了昂贵的液体冷却);旨在通过利润率竞争的区域性和专业云服务提供商(RNGD提供高计算密度);以及在边缘网络(network edge)功耗受限的环境中运行的电信公司等其他行业。
展望未来,FuriosaAI的下一代芯片正在开发中,目标是与这些关键领域一起,直接面向超大规模云服务提供商。Paik预测,到2036年,“数据中心”一词将涵盖广泛的设施,从可能由聚变能源驱动的巨型设施,到小型、超高效的本地单元。他设想医院将拥有本地AI数据中心,用于提供低延迟、安全的AI助手,而电信公司将拥有大量高性能的边缘AI数据中心。
Paiik认为,这一转变的根本原因在于GPU架构对于AI任务固有的低效率。尽管GPU制造商引入了像张量核心(tensor cores)这样的创新,但专用AI优先架构的优势正变得过于显著而无法忽视。FuriosaAI的产品战略仍然专注于提供高性能推理,同时实现节能、成本效益高且无需大规模基础设施升级即可部署。这包括优先考虑每瓦特token(tokens per watt)和每机架token(tokens per rack)等指标,以提高计算密度。
相关新闻
该公司计划积极采用新的行业进步,包括更小的制造节点和新的内存技术。虽然其第一代芯片使用了14nm节点,RNGD芯片使用了5nm节点和HBM3内存,但FuriosaAI强调,使其在相同节点上制造的GPU获得更好、更节能的性能的关键驱动力是其架构创新,而不仅仅是节点缩小。
最后,Paik强调FuriosaAI的路线图与硬件同等重视软件。该公司拥有比硬件工程师更多的软件工程师,以确保快速有效地支持新模型和部署工具,于2025年发布了三个主要的SDK更新,并承诺在未来保持这一步伐。