“Niet de slimste AI wint, maar degene die er het beste mee omgaat”

Niet de slimste AI wint, maar degene die er het beste mee omgaat

De mensen die de krachtigste AI ter wereld bouwen, waarschuwen inmiddels zelf voor wat ze aan het bouwen zijn. Dat klinkt op zijn minst ongemakkelijk. Anthropic-topman Dario Amodei vindt dat de ontwikkeling van AI moet worden vertraagd. Ook andere grote namen uit de industrie waarschuwen voor systemen die steeds autonomer worden en moeilijker te beheersen zijn. Anthropic-oprichter Jack Clark ging onlangs nog een stap verder: misschien moeten AI-bedrijven uiteindelijk verplicht een soort kill switch hebben waarmee een systeem volledig kan worden stilgelegd.

Tegelijkertijd laat Anthropic in eigen onderzoek zien dat AI nu al wordt gebruikt voor onder meer cyberaanvallen, surveillance en beïnvloedingscampagnes. AI verlaagt bovendien de technische drempel. Werk waarvoor voorheen gespecialiseerde kennis en teams nodig waren, kan steeds verder worden geautomatiseerd. Moeten we ons dus grote zorgen maken? Ja. Maar misschien om andere redenen dan de sciencefictionachtige scenario’s die de meeste aandacht krijgen.

De Silicon Valley-bubbel

Het probleem met veel voorspellingen over AI is dat ze worden gedaan door mensen die hun hele leven hebben ingericht rondom technologie. Vanuit Silicon Valley lijkt de hele wereld digitaal. Dan is het ook niet zo vreemd om te redeneren dat een superintelligente AI straks vrijwel alles kan overnemen. Maar de echte wereld bestaat niet alleen uit API’s, datacenters en software. Er rijden vrachtwagens. Er staan fabrieken. Mensen werken in de bouw, verbouwen voedsel en verzorgen patiënten. Veel kritieke processen hebben nog altijd fysieke componenten die niet met één prompt kunnen worden overgenomen.

Dat betekent niet dat de zorgen onzin zijn. Integendeel. Maar we moeten wel onderscheid blijven maken tussen wat technisch denkbaar is en wat praktisch waarschijnlijk is. De veel interessantere ontwikkeling vindt ondertussen namelijk al plaats: AI wordt stap voor stap onderdeel van onze infrastructuur.

Het probleem: alignment

Binnen de AI-wereld wordt veel gesproken over alignment: hoe zorg je ervoor dat een AI-systeem handelt in overeenstemming met de waarden en bedoelingen van mensen? Dat klinkt logisch, totdat je de vervolgvraag stelt: wiens waarden? Die van een Amerikaanse AI-bouwer? Van de Europese overheid? Van China? Van het bedrijf dat de software koopt? Of van de individuele gebruiker?

Daar zit voor mij een fundamenteel probleem. AI heeft geen eigen moraal. Het optimaliseert binnen de doelen, data en beperkingen die wij eraan meegeven. En die zijn per definitie menselijk. De huidige modellen zijn bovendien voor een groot deel gevormd door tientallen jaren aan menselijke teksten, discussies, conflicten en ideeën op het internet. AI is daarmee in zekere zin ook een spiegel van onszelf. We proberen een systeem dus niet alleen iets te leren over goed en kwaad, maar achteraf structuur aan te brengen in een enorme hoeveelheid menselijke tegenstrijdigheid. Dat maakt alignment misschien wel minder een technisch probleem dan we soms doen voorkomen.

En dan zijn er nog de modellen (die niemand controleert)

Grote aanbieders kunnen beveiligingen inbouwen. ChatGPT, Claude of Gemini kunnen bepaalde verzoeken weigeren. Maar daarnaast bestaan er open modellen die bedrijven en individuen lokaal kunnen draaien en aanpassen. Je kunt wetgeving maken voor bedrijven en eisen stellen aan modellen die commercieel worden aangeboden. Maar technologie die iemand zelf op een computer kan draaien, laat zich veel moeilijker controleren.

Daar zit voor mij een fundamentele beperking van alignment: je kunt de grote platforms misschien reguleren, maar daarmee heb je nog niet iedere AI gereguleerd. Open modellen kunnen lokaal worden gedraaid, aangepast en opnieuw worden ingezet. Daar heb je als toezichthouder veel minder grip op.

Daar komt nog iets bij: de economische prikkel om door te ontwikkelen is gigantisch. Er zijn miljarden geïnvesteerd in AI-infrastructuur, chips, modellen en datacenters. Bedrijven concurreren met elkaar, maar landen doen dat eveneens. De strijd tussen de Verenigde Staten en China maakt vertragen daardoor bijzonder ingewikkeld. Iedereen kan vinden dat het veiliger moet. Maar wie remt als eerste? Ik geloof simpelweg niet dat de wereldwijde AI-wedloop vrijwillig wordt stilgelegd zolang er zoveel economisch en geopolitiek belang mee gemoeid is.

Ondertussen doet China iets anders

Juist daarom vind ik de aanpak van China interessant. Terwijl wij veel praten over superintelligentie, regelgeving en de vraag of AI ons ooit de baas wordt, wordt daar heel pragmatisch gekeken naar wat technologie vandaag al kan toevoegen. De combinatie van AI, robotica en geavanceerde productie is inmiddels een belangrijke motor achter delen van de Chinese industrie. En misschien zit daar voor Nederlandse bedrijven wel een veel belangrijkere les dan in de vraag wanneer AGI verschijnt. Reuters

Niet: wat kunnen we allemaal met AI? Maar: waar in ons bedrijf verspillen we nu tijd, kennis of capaciteit? Kwaliteitscontrole, planning, onderhoud, softwareontwikkeling, administratieve controles, klantenservice, analyse, cybersecurity. Dat klinkt minder spectaculair dan superintelligentie, maar hier zit voor bedrijven op dit moment waarschijnlijk veel meer concrete waarde. Wie als bedrijf nu nog begint met de vraag welke AI-tool hij moet aanschaffen, begint wat mij betreft aan de verkeerde kant. Begin bij het proces dat beter moet. Zo bekeken is AI geen apart innovatieproject. Het wordt gewoon een volgende laag in je proces.

Gebruik AI ook tegen AI

Dat geldt zeker voor cybersecurity. AI verlaagt namelijk niet alleen de drempel voor bedrijven die slimmer willen werken. Hetzelfde geldt voor aanvallers. In het Threat Intelligence-rapport van Anthropic is goed te zien hoe AI steeds meer werk kan overnemen dat eerder gespecialiseerde kennis vergde. Daar hoort wat mij betreft een vrij simpele consequentie bij: verdedigers moeten precies hetzelfde gaan doen.

Laat AI je software testen. Laat agents zoeken naar kwetsbaarheden. Probeer je eigen systemen automatisch aan te vallen en dicht vervolgens de gaten die worden gevonden. Niet één keer per jaar, maar continu. Als jij je eigen software niet probeert te hacken, doet iemand anders het uiteindelijk wel. De toekomst van cybersecurity zou daardoor zomaar kunnen bestaan uit twee legers van softwareagents die elkaar voortdurend proberen af te troeven. Dat klinkt futuristisch, maar technisch zijn we daar niet zo ver meer vandaan.

Kunnen we straks überhaupt nog zien wat echt is?

Nog een gevolg zien we inmiddels overal online. Teksten, beelden, muziek en video’s worden steeds eenvoudiger te genereren. Daardoor ontstaat aan de andere kant een nieuwe industrie die probeert vast te stellen wat echt is en wat door AI is gemaakt.

Google gebruikt daarvoor bijvoorbeeld SynthID, waarmee digitale watermerken aan AI-gegenereerde tekst, beeld, audio en video kunnen worden toegevoegd. Apple kiest met Apple Reference Image eigenlijk de omgekeerde route: niet achteraf proberen te herkennen of een beeld nep is, maar vanaf het moment van fotograferen technisch vastleggen dat een foto daadwerkelijk door een echte camerasensor is gemaakt.

Dat vind ik een interessante verschuiving. Misschien wordt de vraag straks minder: kan ik zien dat dit door AI is gemaakt? En steeds meer: kan iemand bewijzen dat dit echt is?

Daar zit iets paradoxaals in. We bouwen AI waarmee vrijwel perfecte synthetische content kan worden gemaakt en bouwen tegelijkertijd een nieuwe technische infrastructuur om de herkomst van informatie aantoonbaar te maken.

Maar misschien stellen we daarmee soms alsnog de verkeerde vraag. Als een politicus AI gebruikt om een tekst beter te formuleren, maakt dat de boodschap dan minder van die politicus? Wij beoordelen een maaltijd ook niet op de vraag of de kok een oven of een pan heeft gebruikt. De relevante vragen zijn: klopt wat er staat? Staat de afzender erachter? En probeert iemand bewust iets te vervalsen? Het gereedschap op zichzelf is niet het probleem.

De computer verdwijnt

Hetzelfde geldt voor de slimme brillen van Meta waar nu zoveel discussie over ontstaat. De camera in een bril roept terecht privacyvragen op. Meta zelf schrijft gebruikers voor rekening te houden met omstanders en maakt opname zichtbaar via een led-indicator. En als apparatuur nauwelijks nog herkenbaar is als camera, wordt dat alleen maar ingewikkelder.

Maar zulke brillen laten tegelijkertijd zien waar technologie naartoe beweegt: de computer verdwijnt steeds verder uit beeld. Straks kijk je naar een verkeersbord in Frankrijk en krijg je direct een vertaling. Een monteur kijkt naar een machine en ziet een instructie. Iemand met een visuele beperking krijgt zijn omgeving beschreven. Dat zijn geen theoretische toepassingen: Meta zet zijn AI-brillen nu al in voor onder meer live vertaling en ondersteuning voor mensen met een visuele beperking.

Software zit dan niet meer op een scherm. Software ligt als een extra informatielaag over de werkelijkheid. Dat vind ik technisch ontzettend interessant. Tegelijkertijd moeten we ook niet doen alsof iedere technologische vooruitgang automatisch menselijke vooruitgang is. Hoe meer technologie tussen ons en onze omgeving komt te staan, hoe belangrijker vragen worden over privacy, aandacht en echt menselijk contact.

En dan leren we kinderen vooral… AI gebruiken?

Diezelfde spanning zie ik terug in het onderwijs. Nederlandse jongeren hebben moeite met lezen en begrijpend lezen. Tegelijkertijd investeert het kabinet vanaf 2027 10,7 miljoen euro in een publieke AI-voorziening voor het funderend onderwijs. Het idee is dat scholen verschillende AI-modellen veilig kunnen gebruiken, met meer grip op privacy, veiligheid en data en minder afhankelijkheid van één commerciële leverancier.

Op zichzelf klinkt dat verstandig. Maar ik vraag me af of kinderen vooral moeten leren hoe ze AI gebruiken. Dat leren ze waarschijnlijk vanzelf. AI is juist ongelooflijk toegankelijk. Je hoeft geen programmeur te zijn. Je praat tegen een computer en krijgt antwoord. De veel grotere uitdaging is leren beoordelen of dat antwoord ergens op slaat.

Juist wanneer kennis steeds eenvoudiger beschikbaar wordt, neemt het belang van kritisch denken toe. Als een machine straks overal naast ons staat — op het scherm, in onze bril en uiteindelijk misschien volledig op de achtergrond — besteden we steeds meer denkwerk uit. Kennis en intelligentie worden steeds toegankelijker. Daardoor wordt het ook gemakkelijker om ons eigen denkwerk aan machines uit te besteden. Juist daarom wordt kritisch nadenken misschien wel een van de belangrijkste vaardigheden die we kinderen én volwassenen nog kunnen leren.

Niet de slimste AI wint

En misschien is dat uiteindelijk wel de interessantste ontwikkeling van allemaal. We praten voortdurend over de vraag hoe slim AI nog gaat worden. Honderd keer slimmer dan nu? Duizend keer? Slimmer dan ieder mens afzonderlijk? Ik denk niet dat we technisch dicht bij het eindpunt zijn. Nieuwe modelarchitecturen, efficiëntere algoritmes en betere hardware kunnen opnieuw grote sprongen veroorzaken. Uiteindelijk zal ook die ontwikkeling waarschijnlijk afvlakken, zoals dat bij processoren en allerlei andere technologie gebeurde. Maar volgens mij zit daar nog behoorlijk wat ruimte tussen.

Voor bedrijven is een andere vraag nu veel belangrijker: worden wij beter in het gebruiken ervan? Niet hoeveel agents je hebt, niet of er ergens “AI” op je software staat en niet of je de nieuwste tool al hebt geprobeerd. Maar of je processen beter worden, je mensen sterker worden en je organisatie veiliger wordt.

China laat zien wat er gebeurt wanneer je AI heel praktisch benadert. Anthropic laat tegelijkertijd zien waarom we de risico’s serieus moeten nemen. En de discussie over onderwijs laat zien dat technologie alleen werkelijk waarde heeft wanneer mensen zelf blijven nadenken. Misschien is dat uiteindelijk wel de belangrijkste vorm van alignment. Niet alleen AI in lijn proberen te brengen met de mens, maar ervoor zorgen dat wijzelf niet uit het oog verliezen waarom we die technologie überhaupt gebruiken.