- Google TPU v7 Ironwood 是第七代 TPU，专为推理时代而设计，每个芯片具有 4.614 TFLOPs FP8 和 192 GB HBM3e。
- 该架构在一个超级芯片组中可扩展至 9.216 个芯片，具有 1,77 PB 的共享内存、9,6 Tb/s 的 ICI 网络以及针对近 10 MW 优化的液冷系统。
- Ironwood 与 Axion CPU 集成到 AI 超级计算机中，为大规模 AI 工作负载提供了性能、能源效率和成本之间的良好平衡。
- 与 Anthropic 签订的巨额合同以及垂直整合战略，巩固了谷歌作为英伟达在人工智能芯片市场主要竞争对手的地位。
人工智能的加速发展正在经历一场变革。仅仅训练庞大的模型并炫耀其参数已远远不够：如今真正的挑战在于如何让这些模型每天为数百万用户提供服务，同时避免人工智能的能源和基础设施成本飙升。正是在这种背景下，谷歌推出了 TPU v7 Ironwood，这是一款专为人工智能设计的硬件，它不仅能够响应指令，还能持续思考、推理和行动。
Ironwood 是谷歌第七代张量处理单元 (TPU)，据谷歌自己称，它是迄今为止功能最强大、可扩展性最强、效率最高的芯片。它专为所谓的“推理时代”而设计，在这个时代，重要的不再是训练新模型所需的时间，而是维护模型、使其保持运行、进行推理并全天候生成结果的成本。让我们仔细看看谷歌 TPU v7 Ironwood 究竟是什么，它的独特之处是什么，以及它为何能撼动英伟达和其他行业巨头的地位。
什么是 Google TPU v7 Ironwood？它为什么如此重要？
Ironwood本质上是谷歌自主研发的AI加速器，用于运行尖端人工智能模型。它属于张量处理单元（TPU）系列，这类芯片专为机器学习工作负载而设计，近十年来一直为谷歌内部服务（搜索、YouTube、广告、翻译等）提供支持，最近也开始为谷歌云解决方案提供支持。
第七代TPU凝聚了以往TPU积累的所有经验，并拥有一个明确的目标：在不牺牲可训练性的前提下，最大限度地提升推理和复杂推理任务的性能。Ironwood旨在处理大型语言模型（LLM）、混合专家模型、增强型回忆系统以及需要在内存中维护大量上下文信息的AI代理等工作负载。
Ironwood并非仅仅是“速度更快的芯片”，它被集成到谷歌云的AI超级计算机架构中。这种架构将计算、网络、存储和软件协同设计，从而能够从芯片到容器编排器进行精细调整，最大限度地利用每一瓦功耗和每一个时钟周期。
另一个关键点是，Ironwood 是首款从零开始为推理时代设计的 TPU。此前，大多数 AI 系统的主要设计目标是训练大规模模型；而现在，重点正转向如何高效、重复地运行这些模型，并让智能体不仅能够做出反应，还能预测、搜索数据、整合数据并返回结论。
TPU v7 Ironwood 的主要技术特性
在技术层面，Ironwood 的数据令人印象深刻，即使在竞争激烈的 AI 芯片市场也是如此。每颗芯片都拥有4.614 万亿次浮点运算/秒 (4.614 teraflops) 的 FP8 精度计算能力，是 TPU v4 计算能力的 16 倍以上，与前几代产品相比更是实现了巨大的飞跃。
为了实现如此强大的处理能力，每个芯片都集成了192 GB 的新一代 HBM3e 内存，带宽约为 7,3-7,4 TB/s。正是这种高速计算和内存的结合，使得处理庞大的模型和超长的上下文而不出现瓶颈成为可能。
Ironwood采用先进的5纳米工艺制造，每颗芯片的功耗约为600瓦。这听起来可能很高，但如果将其每瓦性能进行比较，结果就非常有竞争力了：与上一代Trillium（TPU v6e）相比，Ironwood的每瓦性能提高了一倍。
这些改进在训练和服务工作负载方面都十分显著。在训练方面，Ironwood 可以加速处理下一代模型（例如 Gemini 或 Veo）以及其他供应商的模型；在服务方面，它能够以更低的能耗运行大规模推理，这在如今人工智能数据中心能耗以吉瓦计价的情况下至关重要。
从芯片到超级舱：Ironwood 如何实现规模化
Ironwood 的真正魔力不在于单个芯片，而在于它如何扩展以构建人工智能超级计算机。每个 Ironwood SoC 都安装在一个包含四个芯片的 PCBA 上，每个机架集成 16 个这样的电路板，每个机架总共包含 64 个芯片。
这些机架组合在一起，形成一个Ironwood超级数据中心。一个完整的超级数据中心包含144个机架，相当于9.216个互连的芯片。总而言之，这相当于约42,5 exaflops的FP8运算性能和约1,77 PB的共享HBM内存，所有这些都可作为人工智能模型的庞大逻辑资源。
芯片间的互连是通过芯片间互连（ICI）网络实现的，该网络采用 3D 环形（4x4x4）设计，速度高达 9,6 Tb/s。这种拓扑结构可以降低延迟，即使系统扩展到数千个加速器，也能保持高传输速率，这对于分布式训练和高度并行推理工作负载至关重要。
除了超级模块之外，还可以通过组合由 64 个互连芯片组成的模块，并通过高达 1,8 PB/s 的光纤骨干网连接，进一步扩展基础设施。这种无源铜缆、光纤和光交换机的组合，在为不同客户和型号配置定制集群时，提供了极大的灵活性。
就电力而言，如此规模的系统部署容量接近 10 兆瓦，因此必须高度重视冷却和效率。每个机架的设计功耗都超过 100 千瓦，所以整个系统从一开始就针对液冷和先进的配电技术进行了设计。
制冷、消耗和能源效率
如此惊人的功率密度，自然会引出一个问题：谷歌是如何控制所有这些设备的散热的？答案在于一套专为Ironwood超级处理器设计的尖端液冷系统。
每个机架都集成了一个冷却液分配单元 (CBU)，配备泄漏检测器和 416V 交流电冗余系统。这种配置不仅可以防止过热，还能为关键的 AI 工作负载提供高可靠性，因为长时间的停机可能会造成数百万欧元的损失或大规模的服务中断。
Ironwood的目标不仅是成为最强大的系统，还要成为最高效的系统之一。与Trillium相比，TPU v7的每瓦性能提升了一倍。这意味着，在2024年相同的能源预算下，配备Ironwood的数据中心到2026年可以处理高达两倍的推理任务。
这种方法直面了该领域一个令人不安的现实：能源而非硅正在成为人工智能扩张的限制因素。许多国家的电网在关键数据中心区域已接近饱和，因此，如何从每一瓦特能源中榨取更多有用能量不再是优势，而是必然。
此外，Ironwood 的架构经过优化，可最大限度地减少不必要的数据传输，而数据传输是分布式系统中的主要能耗来源。海量 HBM 内存和高速网络的结合正是为了实现这一点：在更靠近数据的地方进行更多处理，减少数据中心内昂贵的数据传输。
人工智能超级计算机和软件层中的Ironwood
Ironwood并非独立存在，它与谷歌云的AI超级计算机架构深度集成。这一概念将硬件（Axion CPU和TPU）、高速网络、存储以及编排和调度软件整合到一个统一的设计框架中。
在软件层，谷歌依赖于其 Pathways 技术栈，该技术栈能够将数万个 Ironwood TPU 协调起来，如同它们是单一的逻辑资源。除了 Pathways 之外，诸如 MaxText（用于大规模 LLM 训练）之类的工具以及通过 Cluster Director 与 Kubernetes Engine 的集成也得到了加强，从而优化了集群调度和弹性。
在推理组件方面，谷歌扩展了 vLLM 的支持范围，使其能够同时兼容 GPU 和 TPU，从而只需极少的代码更改即可轻松地在不同类型的加速器之间迁移模型和工作负载。此外，根据谷歌分享的数据，GKE 推理网关可以将初始请求延迟降低高达 96%，并将服务成本降低约 30%。
这一切意味着客户不仅能获得高速芯片，还能获得完整的端到端优化平台。事实上，IDC 的数据显示，人工智能超级计算机客户三年内的投资回报率高达 353%，IT 成本降低了近 28%。
最终目标很明确：让企业能够轻松驾驭 Ironwood 的强大功能，而无需费心管理复杂的底层架构。理想用户只需定义其模型和需求，Google Cloud 控制平台即可无缝协调 TPU、Axion、网络、存储和软件。
“推理时代”与铁木的作用
多年来，人工智能领域的讨论大多围绕着训练越来越大的模型展开。然而，市场面临着一个残酷的现实：无论训练多么出色，持续的收入都来自于日复一日地提供大规模的推理结果。
谷歌将这个新时代称为“推理时代”。我们不再是被动地等待用户提问的模型，而是朝着能够检索数据、分析上下文、协调子流程并主动提供建议和处理信息的AI代理发展。
Ironwood 正是为这类工作负载而设计的：具有复杂推理、广泛上下文和持久状态的模型。其大量的共享内存和网络带宽旨在使同一 AI 系统的多个组件能够协同工作，而不会因流量过大而崩溃。
在这种情况下，谷歌采取了与英伟达不同的策略。虽然Blackwell芯片继续主导着尖端训练领域，并在特定配置下承诺极高的推理速度，但谷歌则专注于优化生产环境中模型的持续大规模执行，将硬件和云集成到一个统一的软件包中。
该公司并非意图全面取代英伟达，而是力图占据日益增长的推理市场份额。一些内部估计表明，到2027年，谷歌的TPU可能占据该市场高达30%的份额，尤其是在已经使用谷歌云的大型客户群体中。
与 Anthropic 的协议及其带来的商业推动作用
Ironwood 的主要商业推动力来自Claude 模型开发商 Anthropic。2025年 10 月 23 日，该公司与谷歌签署了一项巨额协议，承诺使用多达一百万个 TPU，并在谷歌云基础设施上投资数百亿美元。
这份合同预计到2026年能源消耗将超过1吉瓦，这是一个巨大的数字，足以体现人工智能领域主要参与者的运营规模。一夜之间，Ironwood从一个雄心勃勃的路线图项目变成了由强劲需求支撑的真正投资项目。
对谷歌而言，这项协议解决了其最大的担忧之一：在无法保证使用率的情况下建设数据中心容量。有了 Anthropic 作为其主要客户，谷歌在规划新设施、电力合同和 Ironwood 超级数据中心部署时，可以更清晰地了解其投资回报。
Anthropico 选择 Ironwood，而不是等待英伟达的下一代产品或采用其他超大规模数据中心运营商的专有硬件，这清楚地表明了其对谷歌 TPU 的效率和上市速度充满信心。“更高的推理能力，更低的功耗”实际上是此举的隐含理念。
这类长期协议还有助于谷歌更好地协商自身的成本（从芯片制造到能源供应），并巩固其在人工智能计算需求远远超过可用供应的市场中的地位。
对人工智能芯片市场的影响以及与英伟达的竞争
Ironwood的发布对人工智能硬件市场来说意义重大，此前该市场一直由英伟达GPU主导。谷歌并非唯一一家采取行动的公司：AWS正在大力推广其Trainium2产品线，微软也在推进其Maia项目，尽管进度有所延迟。
英伟达凭借其 Hopper、Blackwell 以及即将推出的 Rubin 架构，继续引领尖端训练技术的发展，这些架构的目标是实现每个机架数百亿亿次浮点运算的配置。然而，谷歌正在推动市场朝着多个垂直整合生态系统的模式发展，在这种模式下，每个超大规模数据中心运营商都自主设计芯片、网络、软件和云服务。
在这种新形势下，Ironwood 将自身定位为寻求大规模推理基础设施但又不想完全依赖 CUDA 生态系统的企业的可靠替代方案。定制 TPU 和 Axion CPU 的组合，加上 Google Cloud 平台，为那些需要可预测的成本、性能和可用性的企业打造了极具吸引力的解决方案。
此举也给英伟达带来了压力，它必须在不再是唯一选择的情况下，证明其高价的合理性。随着亚马逊、微软和谷歌不断增强自身的技术栈，市场正从单一芯片供应商模式转向各云服务提供商内部封闭但高度优化的解决方案体系。
然而，Ironwood 和 TPU 的整体成功很大程度上取决于谷歌的软件栈能否与 CUDA 生态系统保持同步发展。如果集群利用率下降（例如从 90% 降至 70%），整体效率将会降低，价格竞争力也可能受到影响。
Axion：面向人工智能基础设施的 CPU 附加组件
在发布 Ironwood 的同时，谷歌也加强了其基于 Arm Neoverse 架构的Axion 系列定制 CPU。TPU主要处理机器学习中最繁重的任务，而 Axion 则负责人工智能相关的通用工作负载。
全新的 N4A 实例提供高达64 个虚拟 CPU、512 GB DDR5 内存和 50 Gbps 的网络带宽，与同等 x86 架构的机器相比，性价比提升高达 100%。同时，C4A Metal 是 Google Cloud 首个基于 Arm 架构的裸机版本，专为 Android 开发、汽车应用和高级仿真等场景而设计。
Vimeo等公司报告称视频转码性能提升了30%，而ZoomInfo则报告称数据分析流程效率提高了60%。其他公司，例如Rise，声称在保持稳定延迟的同时，将计算能耗降低了约20%。
其基本理念是让 Axion 充当通用计算基础层：数据准备、微服务、Web 服务、业务逻辑等。在此基础上，Ironwood TPU 专注于它们最擅长的领域：加速 AI 模型的训练、推理和推理。
这种组合强化了下一代计算将是混合型的愿景：高效的 CPU 用于管理工作流程，而 TPU（或其他加速器）则用于密集型计算。所有这些都由 AI 超级计算机平台和 Google Cloud 工具整合在一起。
Alphabet 的投资前景和保证金保护
从财务角度来看，Ironwood 不仅仅是一颗强大的芯片：它是Alphabet在云计算 AI 业务中保障利润率的战略组成部分。超大规模数据中心有望在 2027 年达到两位数吉瓦的电力容量，而且种种迹象表明，基础设施投资仍将保持庞大规模。
通过自主设计芯片，谷歌可以从芯片设计到云部署的整个价值链中获取价值。它不再以微薄的利润转售第三方硬件，而是将资本支出转化为竞争优势和差异化服务的工具。
Ironwood 的每瓦性能提升意味着每兆瓦数据中心容量能够显著提高推理服务量。结合软件优化（vLLM、Pathways、GKE 推理网关等），这使得 Google 能够在不影响盈利能力的前提下提供极具竞争力的价格。
与 Anthropic 的合同为谷歌的资本支出计划增添了一层稳定性。谷歌不再需要“盲目”建设基础设施，等待客户到来，而是可以根据长期协议来规划大部分扩张规模，从而降低不确定性和产能过剩的风险。
即便如此，仍有一些悬而未决的问题：谷歌能否吸引更多大型核心客户，能源项目和新建变电站能否按计划进行，以及其软件栈能否保持高利用率。潜力是存在的，但执行力将是Ironwood能否在技术上取得成功并成为持续盈利引擎的关键。本文并非投资建议。
总而言之，Google TPU v7 Ironwood 代表着一次代际飞跃，其意义远不止于规格表上的 teraflops 性能：它融合了强大的运算能力、海量共享内存、先进的光网络、液冷技术以及深度集成的云平台，旨在支持新一代 AI 代理和模型全天候运行。在能源紧张、模型规模不断扩大、AI 技术栈控制权竞争异常激烈的今天，Ironwood 正崛起为基础设施的核心，引领“推理时代”的到来，并重新定义人工智能在全球范围内的运行方式、地点和成本。
