OpenAI lager egen brikke Jalapeño med Broadcom
Selskapet som kjøper Nvidia-brikker for milliarder, vil nå slippe unna dem. OpenAIs første egne brikke heter Jalapeño og er laget for å kjøre modeller billigere.
Av H. S. Pettersen · 1 min lesing
OpenAI presenterte 24. juni sin første egendesignede databrikke. Den heter Jalapeño, er bygget sammen med Broadcom, og er laget for én oppgave: å kjøre store språkmodeller billigere. Brikken er en ren inferensakselerator, ikke en treningsmaskin.
Broadcom kaller den en «Intelligence Processor». Den er reticle-stor, rundt 840 kvadratmillimeter silisium, med seks til åtte HBM-moduler pakket tett inntil regnekjernen på samme interposer. Poenget med den tette pakkingen er enkelt: kortere vei for elektronene gir lavere strømforbruk per beregning.
Ni måneder fra design til tape-out
Selskapene skryter av tempoet. Fra første design til ferdig tape-out gikk det ni måneder, noe OpenAI omtaler som den raskeste ASIC-utviklingen noensinne i høyytelses-halvledere. OpenAI brukte egne modeller til å fremskynde deler av selve brikkedesignet.
Halvert kostnad per svar
Tallet som betyr noe kommer fra Broadcom-sjef Hock Tan. Tidlige prøver kutter inferenskostnaden med omtrent halvparten sammenlignet med en vanlig AI-GPU, ifølge ham. Ytelse per watt skal ligge vesentlig over dagens beste brikker. Ingen uavhengig test bekrefter foreløpig tallene.
Én brikke i en mye større plan
Jalapeño er ikke et engangsprosjekt. Den er første ledd i en avtale fra oktober 2025 om å bygge ut ti gigawatt med OpenAI-designede akseleratorer, en kapasitet som trekker like mye strøm som flere kjernekraftverk. Første utrulling er ventet mot slutten av 2026. For Nvidia er ikke problemet at OpenAI bygger en bedre brikke, men at OpenAI vil slutte å betale Nvidias marginer.
