Grote chipmakers en cloudbedrijven waarschuwen voor een wereldwijde geheugencrisis in kunstmatige intelligentie. De schaarste aan HBM-geheugen en moderne DRAM maakt AI-hardware duurder en lastiger te leveren. Dit raakt op het moment van schrijven vooral datacenters in Europa en Nederland. De oorzaak is de snelle groei van generatieve AI en het tekort aan cruciale onderdelen.
HBM-tekort drijft prijzen
HBM is geheugen met hoge bandbreedte dat dicht op de processor wordt gestapeld via dunne kanalen. Dit is nodig om grote AI-modellen snel te voeden met data. Zonder genoeg HBM moeten servers meer chips koppelen, wat kosten en stroomverbruik verhoogt. Daardoor lopen budgetten en levertijden op.
Leveranciers als SK Hynix, Samsung en Micron kunnen de vraag naar HBM3 en HBM3E nog niet bijbenen. De productie is complex door 3D-stapeling en geavanceerde packaging. Foutenpercentages zijn hoger en doorlooptijden lang. Dat drukt het aanbod en houdt prijzen hoog.
Niet alleen training, ook inferentie vraagt veel geheugen. Modellen met lange contextvensters hebben meer capaciteit en bandbreedte nodig. Daardoor stijgt het verbruik van HBM en DDR5 in servers. De markt voor standaardgeheugen trekt mee omhoog.
“HBM is gestapeld, razendsnel geheugen naast de chip. Het voorkomt een datafile in de knel en is daarmee de bottleneck van moderne AI.”
Nvidia krijgt voorrang op aanbod
Nvidia’s H100, H200 en nieuwe B200-chips gebruiken grote hoeveelheden HBM3(E). Grote klanten tekenen vaste meerjarencontracten voor geheugen en packaging. Daardoor krijgen kleinere afnemers later of minder geleverd. Deze verdeling houdt de druk op prijzen in het middensegment hoog.
AMD concurreert met de MI300-serie, die eveneens zwaar leunt op HBM. Intel zet Gaudi 3 in dezelfde markt. Al deze platforms vissen in dezelfde, krappe vijver. De beschikbaarheid van geheugen bepaalt zo vaker de levertijd dan de productie van de chip zelf.
Een extra knelpunt is de assemblage, zoals geavanceerde 2.5D- en 3D-packaging. Alleen enkele foundries en OSAT-partners kunnen op grote schaal leveren. Capaciteit is maanden vooruit volgeboekt. Dit verlengt de wachttijd voor complete AI-servers.
Europese datacenters onder druk
In Europa voelen cloudregio’s van AWS, Microsoft Azure en Google Cloud de schaarste direct. Nederlandse bedrijven merken dit via beperkte GPU-capaciteit en hogere huurprijzen. Ook Europese aanbieders zoals OVHcloud moeten vaker “nee” verkopen. Projecten schuiven daardoor weken of maanden op.
Nederland kent extra remmen: hoge energiekosten, netcongestie en strenge vergunningen voor nieuwe datacenters. Gemeenten en provincies wegen ruimte en stroom zwaarder af. Dit maakt het lastiger om tijdelijk te overprovisioneren. De geheugencrisis wordt zo sterker gevoeld.
Europa heeft wel een troef met ASML in Veldhoven, dat lithografiemachines levert voor geavanceerd geheugen. Toch zijn HBM-fabs vooral buiten de EU. De Europese Chips Act moet productie dichterbij brengen. Maar dit vergt jaren en grote investeringen.
Cloudprijzen en wachttijden stijgen
Cloudproviders rekenen hogere tarieven voor GPU-instanties met veel geheugen. Klanten kiezen vaker voor reserveringen van langere duur. Dit beperkt flexibiliteit voor experimenten met nieuwe modellen. Start-ups en mkb komen lastiger aan betaalbare capaciteit.
Ook gevestigde bedrijven moeten plannen bijstellen. Proof-of-concepts worden kleiner of trager opgeschaald. Teams kiezen vaker voor efficiëntere modellen of distillatie. Zo proberen zij geheugendruk en kosten te verlagen.
Voor overheden en zorginstellingen in de EU betekent dit strakkere prioritering. Juridische eisen rond AVG en dataopslag beperken uitwijk naar goedkopere regio’s. Europese datalocatie en versleuteling blijven verplicht. Dat verhoogt de druk op lokale capaciteit.
Europese regels sturen investeringen
De Europese AI-verordening (AI Act) verplicht grote modelaanbieders tot meer transparantie. Zij moeten informatie over energieverbruik, gebruikte data en risico’s delen. Dit maakt de kosten van geheugen en compute zichtbaarder in aanbestedingen. Het heeft op het moment van schrijven gevolgen voor overheid en semipublieke sector.
Voor “Europese AI-verordening gevolgen overheid” geldt dat inkoopcriteria strenger worden. Datacenters moeten aantonen hoe zij dataminimalisatie, versleuteling en logging toepassen. De AVG blijft leidend bij verwerking van persoonsgegevens. Projecten met hoge risico’s vallen in zwaardere klassen en krijgen extra toezicht.
Transparantie-eisen stimuleren ook efficiëntere modellen. Minder parameters en slimmere architecturen drukken geheugenvraag. Dit kan de markt wat afkoelen. Maar het lost de hardwarekrapte op korte termijn niet op.
Chipmakers schalen nu op
SK Hynix, Samsung en Micron investeren in nieuwe HBM-lijnen en verbeterde yields. Zij voeren HBM3E op en bereiden HBM4 voor. De stap naar meer lagen en bredere interfaces vraagt nieuwe tools. ASML profiteert via vraag naar EUV-lithografie.
Packaging-capaciteit breidt uit bij foundries en gespecialiseerde assemblagebedrijven. Denk aan extra lijnen voor 2.5D-interposers en geavanceerde koeling. Toch kost het jaren om volume en kwaliteit stabiel te krijgen. De markt blijft dus tijdelijk krap.
Gebruikers zoeken intussen naar softwarematige verlichting. Technieken als quantization en sparsity beperken geheugenverbruik. Ook retrieval-augmented generation verlaagt modelgrootte in productie. Samen met betere planners kan dit de pijn verzachten tot de aanvoer toeneemt.
