Graphics Processing Unit — prosessorbrikke som er essensiell for å trene og kjøre AI-modeller.
En GPU (Graphics Processing Unit) er en prosessorbrikke som opprinnelig ble utviklet for grafikk, men som har blitt den viktigste maskinvaren for å trene og kjøre AI-modeller. GPU-er kan utføre tusenvis av beregninger parallelt, noe som gjør dem ideelle for matrisematematikken som ligger bak nevrale nettverk.
Mens en CPU typisk har 8-16 prosessorkjerner, har en GPU tusenvis. Trening av en frontier-modell krever klynger med tusenvis av GPU-er som jobber sammen i uker eller måneder. Nvidias H100 og den nyere GB300 (Blackwell-arkitekturen) dominerer markedet. Alternativene — AMD MI300 og Googles TPU — tar gradvis markedsandeler.
GPU-er er den knappeste ressursen i AI-bransjen. Nvidia har nær-monopol og verdsettes tilsvarende. Investeringene i GPU-infrastruktur er enorme: Oracle kutter 30 000 ansatte for å finansiere datasentre. Mistral investerer 830 millioner dollar i GPU-er. Tilgangen til compute definerer hvem som kan trene frontier-modeller — og dermed hvem som leder AI-kappløpet.