- Google TPU v7 Ironwood je sedma generacija TPU-jev in je posebej zasnovana za dobo sklepanja, s 4.614 TFLOP-i FP8 in 192 GB HBM3e na čip.
- Arhitektura omogoča skaliranje do 9.216 čipov v superpodu z 1,77 PB skupnega pomnilnika, 9,6 Tb/s ICI omrežji in tekočinskim hlajenjem, optimiziranim za skoraj 10 MW.
- Ironwood, integriran v hiperračunalnik umetne inteligence skupaj s procesorji Axion, ponuja močno ravnovesje med zmogljivostjo, energetsko učinkovitostjo in stroški za ogromne delovne obremenitve umetne inteligence.
- Mega pogodba z Anthropicem in strategija vertikalne integracije krepita vlogo Googla kot ključnega konkurenta Nvidii na trgu čipov umetne inteligence.
Pospeševanje umetne inteligence doživlja preobrazbo . Ni več dovolj učiti ogromnih modelov in se hvaliti z njihovimi parametri: zdaj je pravi boj, kako jih pripraviti do vsakodnevnega delovanja za milijone uporabnikov, ne da bi stroški energije in infrastrukture umetne inteligence strmo naraščali. V tem kontekstu se pojavlja Google TPU v7 Ironwood, kos strojne opreme, zasnovan za umetno inteligenco, ki se ne le odziva, ampak tudi neprekinjeno razmišlja, sklepa in deluje.
Ironwood je Googlova tenzorska procesna enota (TPU) sedme generacije in po besedah podjetja njihov najzmogljivejši, prilagodljiv in učinkovit čip doslej. Zasnovan je za tako imenovano "dobo sklepanja", kjer ni toliko pomembno, koliko časa traja učenje novega modela, temveč koliko stane njegovo delovanje, ohranjanje aktivnosti, sklepanje in ustvarjanje rezultatov 24 ur na dan. Oglejmo si podrobneje, kaj točno je Google TPU v7 Ironwood, kaj ga dela posebnega in zakaj pretresa stvari v primerjavi z Nvidio in drugimi velikani v panogi.
Kaj je Google TPU v7 Ironwood in zakaj je tako pomemben?
Ironwood je v bistvu po meri izdelan pospeševalnik umetne inteligence, ki ga je razvil Google za izvajanje najsodobnejših modelov umetne inteligence. Spada v družino tenzorskih procesnih enot (TPU), čipov, posebej zasnovanih za delovne obremenitve strojnega učenja, ki že skoraj desetletje poganjajo interne Googlove storitve (iskanje, YouTube, oglaševanje, prevajanje itd.), v zadnjem času pa tudi rešitve Google Cloud.
Ta sedma generacija je bila zgrajena na vseh izkušnjah, pridobljenih s prejšnjimi TPU-ji, in z jasnim ciljem: maksimirati učinkovitost pri sklepanju in kompleksnih nalogah , ne da bi pri tem žrtvovali učljivost. Ironwood je zasnovan za obvladovanje delovnih obremenitev, kot so modeli velikih jezikov (LLM), mešanica strokovnjakov, sistemi razširjenega priklica in agenti umetne inteligence , ki morajo v pomnilniku vzdrževati veliko konteksta.
Namesto da bi bil preprosto »hitrejši čip«, je Ironwood integriran v arhitekturo hiperračunalnika umetne inteligence storitve Google Cloud , pristop, pri katerem so računalništvo, omrežje, shranjevanje in programska oprema zasnovani skupaj. To omogoča natančno nastavitev od silicija do orkestratorja vsebnika, da se iztisne vsak vat in vsak taktni cikel.
Druga ključna točka je, da je Ironwood prvi TPU, zasnovan od temeljev za dobo sklepanja . Do sedaj je bila večina sistemov umetne inteligence zasnovana predvsem za učenje ogromnih modelov; zdaj se poudarek preusmerja na učinkovito, ponavljajoče se izvajanje teh modelov z agenti, ki ne le reagirajo, ampak tudi predvidevajo, iščejo podatke, jih združujejo in vračajo zaključke.
Ključne tehnične lastnosti TPU v7 Ironwood
Na tehničnem področju se Ironwood ponaša z impresivnimi številkami, tudi na tako konkurenčnem trgu, kot so čipi umetne inteligence. Vsak čip zagotavlja 4.614 teraflopov natančne računalniške moči FP8 , kar je več kot 16-krat večja računalniška zmogljivost kot TPU v4 in velik korak naprej v primerjavi s prejšnjimi generacijami.
Za to ogromno procesorsko zmogljivost vsak čip integrira 192 GB pomnilnika HBM3e naslednje generacije s približno pasovno širino 7,3–7,4 TB/s. Prav ta kombinacija hitrega računalništva in pomnilnika omogoča obvladovanje ogromnih modelov in zelo dolgih kontekstov brez ozkih grl.
Ironwood je izdelan z naprednim 5-nanometrskim postopkom in porabi približno 600 vatov na čip. To se morda sliši veliko, a v primerjavi z zmogljivostjo na vat je rezultat zelo konkurenčen: v primerjavi s prejšnjo generacijo Trillium (TPU v6e) Ironwood podvoji zmogljivost na vat.
Te izboljšave so opazne tako pri delovnih obremenitvah usposabljanja kot storitev. Za usposabljanje lahko Ironwood pospeši obdelavo modelov naslednje generacije (kot sta Gemini ali Veo) in modelov drugih ponudnikov, za strežbo pa omogoča izvajanje obsežnih sklepov z nižjimi stroški energije, kar je ključnega pomena zdaj, ko se podatkovni centri umetne inteligence merijo v gigavatih.
Od čipa do Superpoda: kako se Ironwood skalira
Prava čarovnija Ironwooda ni v enem samem čipu, temveč v tem, kako se lahko skalira in tvori superračunalnike umetne inteligence . Vsak Ironwood SoC je nameščen na tiskanem vezju s štirimi čipi, vsak rack pa vključuje 16 teh plošč, kar skupaj znaša 64 čipov na rack.
Od tam naprej so stojala združena v skupek in tvorijo Ironwood Superpod . Celoten superpod vključuje 144 stojal, kar ustreza 9.216 medsebojno povezanim čipom. Skupaj to pomeni približno 42,5 eksaflopov zmogljivosti FP8 in približno 1,77 petabajta skupnega pomnilnika HBM, ki je na voljo kot obsežen logični vir za modele umetne inteligence.
Medsebojna povezava med čipi je dosežena prek omrežja Inter-Chip Interconnect (ICI) z zasnovo 3D Torus (4x4x4) in hitrostmi do 9,6 Tb/s. Ta topologija omogoča manjšo latenco in ohranja visoke hitrosti prenosa, tudi ko se sistem skalira na tisoče pospeševalnikov, kar je bistvenega pomena za porazdeljeno učenje in visoko vzporedne delovne obremenitve sklepanja.
Poleg superpoda je mogoče infrastrukturo dodatno razširiti z združevanjem blokov 64 povezanih čipov in njihovim povezovanjem prek optične hrbtenice s hitrostjo do 1,8 PB/s. Ta kombinacija pasivnih bakrenih kablov, optičnih vlaken in optičnih stikal zagotavlja ogromno prilagodljivost pri konfiguriranju gruč po meri za različne stranke in modele.
Kar zadeva moč, se namestitev te velikosti približuje 10 megavatom električne zmogljivosti , kar zahteva zelo resno jemanje hlajenja in učinkovitosti. Vsaka omara je zasnovana za porabo več kot 100 kW, zato je bil celoten sistem od začetka zasnovan za tekoče hlajenje in napredno distribucijo energije.
Hlajenje, poraba in energetska učinkovitost
Ob tako ogromni gostoti moči se postavlja očitno vprašanje: kako Google vse to ohranja pod termičnim nadzorom? Odgovor se skriva v najsodobnejšem sistemu tekočega hlajenja, zasnovanem posebej za superpodstavke Ironwood.
Vsaka omara ima integrirano enoto za distribucijo hladilne tekočine (CBU) z detektorji puščanja in 416 V AC električno redundanco . Ta konfiguracija ne le preprečuje pregrevanje, temveč zagotavlja tudi visoko zanesljivost za kritične delovne obremenitve umetne inteligence, kjer bi lahko daljši izpad povzročil milijone evrov izgub ali obsežne motnje v storitvah.
Ironwood si ne prizadeva biti le najzmogljivejši sistem, ampak tudi eden najučinkovitejših. V primerjavi s Trilliumom dosega TPU v7 dvakrat večjo zmogljivost na porabljen vat . To pomeni, da bi lahko podatkovni center, opremljen z Ironwoodom, z enakim energetskim proračunom za leto 2024 do leta 2026 obdelal do dvakrat večjo porabo energije.
Ta pristop obravnava neprijetno realnost v sektorju: energija, ne silicij, postaja omejujoči dejavnik za širitev umetne inteligence. Električna omrežja mnogih držav začenjajo dosegati svojo zmogljivost na ključnih območjih podatkovnih centrov, zato pridobivanje več koristnega dela iz vsakega vata ni več prednost, temveč nujnost.
Poleg tega je arhitektura Ironwooda optimizirana za zmanjšanje nepotrebnega premikanja podatkov, ki je velik porabnik energije v porazdeljenih sistemih. Kombinacija ogromnega pomnilnika HBM in visokohitrostnih omrežij je namenjena prav temu: več obdelave bližje podatkom in manj dragih potovanj po podatkovnem centru.
Ironwood znotraj hiperračunalnika umetne inteligence in programske plasti
Ironwood ne obstaja ločeno; je globoko integriran v arhitekturo hiperračunalnikov umetne inteligence v storitvi Google Cloud . Ta koncept združuje strojno opremo (procesorje in procesorje Axion), visokohitrostno omrežje, shranjevanje ter programsko opremo za orkestracijo in razporejanje v enem samem ogrodju zasnove.
Na programski ravni se Google zanaša na svoj sklad Pathways, ki omogoča koordinacijo več deset tisoč Ironwood TPU-jev, kot da bi bili en sam logični vir. Poleg Pathways so bila okrepljena tudi orodja, kot je MaxText (za obsežno usposabljanje LLM ) in integracija s Kubernetes Engine prek Cluster Directorja , kar optimizira razporejanje in odpornost gruč.
Za komponento sklepanja je Google razširil podporo za vLLM tako, da deluje tako z grafičnimi procesorji kot s procesorji TPU , kar olajša migracijo modelov in delovnih obremenitev med različnimi vrstami pospeševalnikov z minimalnimi spremembami kode. Poleg tega lahko GKE Inference Gateway zmanjša zakasnitev začetnih zahtev za do 96 % in zniža stroške storitve za približno 30 %, kažejo podatki, ki jih je delilo podjetje.
Vse to pomeni, da stranke ne dobijo le hitrega čipa, temveč tudi celovito, optimizirano platformo . IDC pravzaprav navaja 353-odstotno donosnost naložbe v treh letih za stranke hiperračunalnikov z umetno inteligenco, kar pomeni skoraj 28-odstotno zmanjšanje stroškov IT.
Končni cilj je jasen: omogočiti podjetjem, da izkoristijo moč platforme Ironwood brez težav z upravljanjem kompleksne infrastrukture. Idealni uporabnik preprosto opredeli svoje modele in potrebe, nadzorna ravnina storitve Google Cloud pa brezhibno orkestrira TPU-je, Axion, mreženje, shranjevanje in programsko opremo.
»Doba sklepanja« in vloga Ironwooda
Dolga leta se je velik del razprav o umetni inteligenci vrtel okoli učenja vedno večjih modelov . Vendar se je trg soočil s kruto resničnostjo: ne glede na to, kako spektakularno je učenje, trajnostni prihodki izvirajo iz zagotavljanja sklepov v velikem obsegu, iz dneva v dan.
Google to novo dobo imenuje »doba sklepanja «. Namesto zgolj reaktivnih modelov, ki čakajo, da uporabnik postavi vprašanja, se premikamo k agentom umetne inteligence, ki pridobivajo podatke, analizirajo kontekste, usklajujejo podprocese in prevzemajo pobudo za ponujanje priporočil in obdelanih informacij.
Ironwood je zasnovan prav za te vrste delovnih obremenitev: modele s kompleksnim sklepanjem, obsežnimi konteksti in vztrajnimi stanji . Velika količina skupnega pomnilnika in omrežne pasovne širine sta namenjeni temu, da več komponentam istega sistema umetne inteligence omogoči usklajeno delovanje, ne da bi jih preobremenil promet.
V tem scenariju Google sprejme drugačno strategijo kot Nvidia. Medtem ko čipi Blackwell še naprej prevladujejo na področju najsodobnejšega učenja in obljubljajo zelo visoke hitrosti sklepanja v določenih konfiguracijah, se Google osredotoča na optimizacijo neprekinjenega in množičnega izvajanja modelov v produkciji , pri čemer strojno opremo in oblak integrira v en sam, koherenten paket.
Podjetje ne namerava nadomestiti Nvidie na vseh področjih, temveč si prizadevati za vedno večji delež celotnega trga inference . Nekatere interne ocene kažejo, da bi lahko Googlovi TPU-ji do leta 2027 predstavljali do 30 % tega trga, zlasti med velikimi strankami, ki že uporabljajo Google Cloud.
Sporazum z Anthropicom in komercialni zagon
Glavni komercialni zagon podjetja Ironwood je prineslo podjetje Anthropic, razvijalec modelov Claude . Podjetje je 23. oktobra 2025 podpisalo obsežen sporazum z Googlom, v katerem se je zavezalo, da bo uporabilo do milijon TPU-jev in vložilo več deset milijard dolarjev v infrastrukturo v storitvi Google Cloud.
Ta pogodba predvideva, da bo poraba energije do leta 2026 presegla 1 gigavat , kar je ogromna številka, ki daje predstavo o obsegu, v katerem delujejo glavni akterji na področju umetne inteligence. Ironwood se je čez noč iz ambicioznega projekta na načrtu spremenil v resnično naložbo, ki jo podpira veliko povpraševanje.
Za Google sporazum rešuje eno največjih skrbi: gradnjo zmogljivosti podatkovnih centrov brez zagotovljene uporabe . Z Anthropicom kot glavno stranko lahko podjetje načrtuje nove objekte, pogodbe o oskrbi z električno energijo in uvedbo superpodov Ironwood z veliko večjim pregledom nad donosnostjo naložbe.
Izbira Ironwooda s strani Anthropica, namesto da bi čakal na naslednjo generacijo Nvidie ali se zatekel k lastniški strojni opremi drugih hiperskalerjev, je jasen znak zaupanja v učinkovitost in čas, potreben za prihod Googlovih TPU-jev na trg . "Več sklepanja, manj energije" je v praksi implicitni moto te poteze.
Tovrstne dolgoročne pogodbe Googlu pomagajo tudi pri boljših pogajanjih o lastnih stroških (od proizvodnje čipov do oskrbe z energijo) in krepijo njegov položaj na trgu, kjer povpraševanje po računalništvu z umetno inteligenco daleč presega razpoložljivo ponudbo.
Vpliv na trg čipov umetne inteligence in konkurenca z Nvidio
Izstrelitev Ironwooda je prelomnica na trgu strojne opreme za umetno inteligenco , kjer so do zdaj očitno prevladovale grafične kartice Nvidia. Google ni edini, ki dela poteze: AWS promovira svojo linijo Trainium2, Microsoft pa napreduje s svojim programom Maia, čeprav z zamudami.
Nvidia s svojimi arhitekturami Hopper, Blackwell in prihajajočo Rubin, ki ciljajo na konfiguracije več eksaflopov na rack, še naprej ostaja vodilna na področju najsodobnejšega usposabljanja. Vendar pa Google trg usmerja k modelu več vertikalno integriranih ekosistemov , kjer vsak hiperskaler oblikuje lastne čipe, omrežje, programsko opremo in storitve v oblaku.
V tej novi krajini se Ironwood pozicionira kot solidna alternativa za podjetja, ki iščejo obsežno infrastrukturo za sklepanje, ne da bi se pri tem v celoti zanašala na ekosistem CUDA. Kombinacija prilagojenih TPU-jev in procesorjev Axion ter platforme Google Cloud ustvarja zelo privlačno ponudbo za podjetja, ki zahtevajo predvidljive stroške, zmogljivost in razpoložljivost.
Ta poteza prav tako povečuje pritisk na Nvidio, ki mora upravičiti visoke cene v okolju, kjer ni več edina izvedljiva možnost . Medtem ko Amazon, Microsoft in Google krepijo svoje lastne ponudbe, se trg odmika od modela ponudnika z enim čipom k mozaiku zaprtih, a visoko optimiziranih rešitev znotraj vsakega ponudnika storitev v oblaku.
Vendar pa bo uspeh Ironwooda in TPU-jev na splošno močno odvisen od tega, ali bo Googlov programski sklad še naprej dozoreval z enako hitrostjo kot ekosistem CUDA . Če se stopnja izkoriščenosti gruč zniža (na primer z 90 % na 70 %), bo trpela splošna učinkovitost, kar bi lahko vplivalo na cenovno konkurenčnost.
Axion: dodatek CPU za infrastrukturo umetne inteligence
Ob lansiranju Ironwooda je Google okrepil svojo družino prilagojenih procesorjev Axion , ki temeljijo na arhitekturi Arm Neoverse. Medtem ko TPU-ji obravnavajo najtežje vidike strojnega učenja, Axion skrbi za splošne delovne obremenitve, povezane z umetno inteligenco.
Nove instance N4A ponujajo do 64 virtualnih procesorjev (vCPU), 512 GB pomnilnika DDR5 in omrežno pasovno širino 50 Gb/s , z do 100-odstotnim izboljšanjem razmerja med ceno in zmogljivostjo v primerjavi z enakovrednimi stroji x86. Medtem je C4A Metal prva gola različica Google Clouda, ki temelji na platformi Arm in je namenjena scenarijem, kot so razvoj za Android, avtomobilske aplikacije in napredne simulacije.
Podjetja, kot je Vimeo, so poročala o 30-odstotnem izboljšanju pri transkodiranju videoposnetkov , medtem ko ZoomInfo poroča o 60-odstotnem povečanju učinkovitosti procesov analize podatkov. Druga podjetja, kot je Rise, trdijo, da so zmanjšala porabo računalniške energije za približno 20 %, hkrati pa ohranila stabilno zakasnitev.
Osnovna ideja je, da Axion deluje kot osnovna plast splošnega računalništva : priprava podatkov, mikrostoritve, spletne storitve, poslovna logika itd. Na tej podlagi se Ironwood TPU-ji osredotočajo na tisto, kar počnejo najbolje: pospeševanje učenja, sklepanja in obrazložitve modelov umetne inteligence.
Ta kombinacija krepi vizijo, da bo računalništvo naslednje generacije hibridno : učinkovite centralne procesorske enote za upravljanje delovnih procesov in procesorji TPU (ali drugi pospeševalniki) za intenzivno računanje. Vse to združujeta platforma hiperračunalnikov umetne inteligence in orodja Google Cloud.
Naložbene možnosti in zaščita marže za Alphabet
S finančnega vidika je Ironwood veliko več kot le zmogljiv čip: je strateška komponenta za zaščito Alphabetovih marž v poslu z umetno inteligenco v oblaku. Hiperskalerji so na dobri poti, da do leta 2027 dosežejo dvomestne gigavatne zmogljivosti, vse pa kaže, da bodo naložbe v infrastrukturo ostale ogromne.
Z načrtovanjem lastnih čipov lahko Google zajame vrednost v celotni vrednostni verigi : od zasnove silicija do uvajanja v oblak. Namesto preprodaje strojne opreme tretjih oseb z majhnimi maržami, kapitalske izdatke (CAPEX) spreminja v konkurenčno prednost in orodje za diferenciacijo svojih storitev.
Izboljšana zmogljivost na vat podjetja Ironwood pomeni, da vsak megavat zmogljivosti podatkovnega centra ponudi bistveno več v smislu opravljenih sklepov . V kombinaciji z optimizacijami programske opreme (vLLM, Pathways, GKE Inference Gateway itd.) to Googlu omogoča, da ponudi agresivno cenovno politiko brez ogrožanja dobičkonosnosti.
Pogodba z Anthropicom doda dodatno plast stabilnosti Googlovemu načrtu kapitalskih izdatkov . Namesto da bi infrastrukturo gradil »slepo« in čakal na prihod strank, lahko zdaj velik del svoje širitve načrtuje na podlagi dolgoročnih sporazumov, kar zmanjšuje negotovost in tveganje presežnih zmogljivosti.
Kljub temu ostajajo odprta vprašanja: ali bo Google pritegnil več velikih sidrnih strank, ali bodo energetski projekti in nove podpostaje potekali po načrtih in ali bo njegov programski paket ohranil visoke stopnje izkoriščenosti. Potencial obstaja, vendar bo izvedba ključna za to, da bo Ironwood tako tehnični uspeh kot gonilna sila trajnostnega dobička . TO NI INVESTICIJSKI NASVET.
Skupaj Google TPU v7 Ironwood predstavlja generacijski preskok, ki daleč presega teraflope na specifikacijskem listu: združuje surovo moč, ogromen skupni pomnilnik, napredna optična omrežja, tekoče hlajenje in globoko integriran oblak za podporo novemu valu agentov in modelov umetne inteligence, ki delujejo neprekinjeno. V svetu, kjer je energija omejena, modeli nenehno rastejo in je konkurenca za nadzor nad skladom umetne inteligence huda, se Ironwood uveljavlja kot srce infrastrukture, zasnovane za uvedbo "dobe sklepanja" in na novo opredelitev, kako, kje in za kakšno ceno se umetna inteligenca izvaja na svetovni ravni.
