Waar komt AI opeens vandaan?

Wij werken in de IT en weten wat er gebeurt. Alsnog zijn we verbaasd over de snelheid waarmee AI in ons leven terecht kwam. We vroegen AI daarom hoe dat ging want AI kwam binnen tien jaar van laboratorium naar kantoor en in je telefoon.

Wie dit jaar een e-mail liet samenvatten, een foutmelding liet uitleggen of een tekst liet nakijken door een chatbot gebruikte een technologie die in 2012 nog vrijwel niemand kende.

Het idee erachter is veel ouder, de term kunstmatige intelligentie werd in 1956 al bedacht tijdens een zomerworkshop aan het Amerikaanse Dartmouth College. Daarna volgden decennia aan beloftes die niet werden waargemaakt.

Twee keer droogde de financiering bijna op, in wat vakmensen de AI-winters noemen. Dat Trump er nu SI, Super Intelligence, van maakt slaan we voor het gemak maar over.

Drie ingrediënten

Dat het ineens snel ging komt doordat drie ontwikkelingen elkaar tegenkwamen. De eerste is data. Het internet levert sinds de jaren negentig een ongekende hoeveelheid tekst, beeld en programmeercode op, en dat werd allemaal opgeslagen. Wikipedia, nieuwssites, forums, digitale boeken, wetenschappelijke artikelen en de code op GitHub. Taalmodellen werden vervolgens ingezet op de patronen uit die massa.

Het tweede ingrediënt is rekenkracht. Grafische chips, oorspronkelijk gemaakt voor computergames, bleken geschikt voor de enorme hoeveelheid matrixberekeningen die zulke neurale netwerken nodig hebben. RAM geheugen is voor PC's, en traag, maar VRAM in een videokaart bleek al geschikt om Bitcoins te minen. Sindsdien groeit de rekenkracht enorm, volgens schattingen met een factor vier tot vijf per jaar.

Het derde ingrediënt is een nieuwe bouwwijze. In 2017 publiceerden onderzoekers van Google het artikel “Attention Is All You Need” over een transformer. De transformerarchitectuur laat zich goed over duizenden chips verdelen en wordt vanzelf beter naarmate je hem meer data en rekenkracht geeft.

De rekensom van de investeerder

In chips werkt dat ook, de nieuwste is een factor x groter en sneller dan de vorige. Schaalwetten heet dat, en de theorie is afkomstig van onder meer onderzoekers van OpenAI.

Ze lieten zien dat de prestaties van een model voorspelbaar toenemen met omvang, de hoeveelheid trainingsdata en de rekentijd. Daarmee werd investeren een berekenbare gok. Een bedrijf kon vooraf al inschatten wat een extra miljard aan chips ongeveer zou opleveren, en dat trok kapitaal aan. Heel veel kapitaal.

Het publiek merkte er weinig van tot eind 2022. Toen verscheen ChatGPT. De sprong naar die bruikbare assistent kwam voort uit een bijsturingsmethode waarbij mensen antwoorden beoordelen en het model er vervolgens van leert. Gebruik je klant om jezelf te verbeteren. Elke sessie met een AI verbetert het model, en dat merk je.

Vanaf eind 2024 komen er modellen bij die eerst redeneren voordat ze antwoorden. Bedrijven als Anthropic, in 2021 opgericht door oud-medewerkers van OpenAI, maar ook Google en Meta werken allemaal volgens dit recept.

Wie bezit de kennis?

Vooral de herkomst van de trainingsdata relevant. Modellen zijn grotendeels getraind op openbaar toegankelijke teksten, aangevuld met gelicenseerd materiaal en door computers gegenereerde data. Daar zit een haakje want uitgevers en auteurs vinden dat zij daarvoor niet zijn gecompenseerd.

The New York Times spande eind 2023 een zaak aan tegen OpenAI en Microsoft. In 2025 schikte Anthropic een collectieve zaak van auteurs voor 1,5 miljard dollar. Hoe de rechter het gebruik van beschermd werk als trainingsmateriaal beoordeelt is nog niet echt bekend.  

Wat het kost

De snelheid is gekocht. Investeringen in datacenters lopen in de honderden miljarden dollars per jaar, en daarbij hoort een groeiende vraag naar stroom en een tekort aan geavanceerde chips. Onder onderzoekers bestaat nog wel verdeeldheid over de vraag of de schaalwetten blijven gelden of dat vergroten op den duur minder oplevert. Het antwoord bepaalt of AI de volgende tien jaar op de afgelopen gaat lijken. 

Intussen gebruiken wij mensen nog niet zoveel kracht. We stellen een vraagje, we bouwen een website maar elders gaat het rap. Machines die deze kracht gebruiken staan pas aan het begin en dat ga je merken. Jouw uniciteit als ondernemer en mens moet je nu anders gaan uitvinden want de makkelijke klant fietst met deze kracht in een telefoontje makkelijk langs je heen. 

Het is van alle tijden, soms heb je revoluties. Mijn opa ploegde met paard en wagen, de telextypist bestaat al lang niet meer en van steno weet niemand nog iets. Ook zij moesten zich aanpassen aan nieuwe tijden en dat is prima want vooruitgang is wat we nodig hebben. Intussen is het wel wennen.

Deze site is zonder dat je het merkte overgezet van Wordpress naar een door AI gebouwde kopie. We hebben erin gestopt wat we nodig hebben: ons schrijfmateriaal is verbeterd, de snelheid vergroot, we kunnen aanpassen wat we willen, geen plugins meer nodig en het einde van de hacks. De overhead is zwaar verminderd, de site laadt sneller en jouw leesplezier is hopelijk verbeterd.