Deze week gebeurde er iets opvallends in AI-land. Anthropic lanceerde Fable, een publieke versie van hun krachtige Mythos-model, voorzien van extra veiligheidsmaatregelen en guardrails. Nog geen paar dagen later kwam het model alweer in het nieuws doordat de Amerikaanse overheid ingreep en het gebruik ervan aan banden legde. Niet omdat het model op hol sloeg, niet omdat het bewust kwaad wilde doen, maar omdat de mogelijkheden ervan volgens sommige partijen te dicht in de buurt kwamen van technologie die strategische risico's met zich mee kan brengen.
Dat alleen al is bijzonder.
Jarenlang was de discussie vooral gericht op hoe we AI slimmer konden maken. Meer kennis, meer context, betere antwoorden, meer autonomie. Elke nieuwe versie van ChatGPT, Claude, Gemini of een van de vele andere modellen werd met enthousiasme ontvangen. Sneller, krachtiger, indrukwekkender. Dat was de richting van de reis.
Maar Fable voelt anders.
Niet omdat het per se slimmer is dan alles wat ervoor kwam, maar omdat het een nieuwe vraag op tafel legt. Wat gebeurt er als AI-systemen zo krachtig worden dat overheden zich ermee gaan bemoeien? Wat gebeurt er als een model niet meer wordt gezien als een handige digitale assistent, maar als een vorm van strategische technologie?
Het deed me denken aan iets waar ik deze week zelf tegenaan liep. Geen wereldschokkend AI-model, geen nationale veiligheid, maar gewoon een technisch probleem tijdens het ontwikkelen van een koppeling. Claude Code stelde een oplossing voor die op het eerste gezicht prima zou werken. Er zat een probleem met null-waardes in de verwerking van data, en het model bedacht een alternatieve route. Technisch correct. Probleem opgelost.
Tenminste, totdat je een stap achteruit doet.
De voorgestelde oplossing betekende namelijk dat er niet langer in blokken gegevens werd gewerkt, maar dat elk datapunt afzonderlijk verstuurd zou worden. Voor een paar punten geen enkel probleem. Voor honderd punten misschien ook niet. Maar voor duizenden meetpunten, verspreid over tientallen projecten, verandert een nette oplossing ineens in een lawine van extra berichten, extra belasting en extra onderhoud.
Een AI ziet vaak de taak die voor haar ligt. Een engineer probeert ook de gevolgen te zien van de oplossing.
Daar zit misschien wel de echte uitdaging van deze nieuwe generatie AI-systemen.
We noemen het tegenwoordig graag "vibe coding". Een idee hebben, een prompt typen en binnen enkele minuten staat er werkende software. En eerlijk is eerlijk: het is indrukwekkend. Dingen waar vroeger dagen of weken werk in gingen, verschijnen nu soms in een paar minuten op het scherm.
Maar vervolgens komt de vraag die veel minder sexy is.
Wie onderhoudt het over twee jaar?
Wie begrijpt waarom het werkt?
Wie ziet de verborgen afhankelijkheden?
Wie merkt dat een technisch correcte oplossing uiteindelijk een operationeel probleem wordt?
Dat zijn vragen die een ervaren ontwikkelaar zichzelf automatisch stelt. Niet omdat hij slimmer is dan de AI, maar omdat ervaring iets anders is dan intelligentie. Ervaring is het vermogen om de gevolgen van eerdere fouten mee te nemen in nieuwe beslissingen.
Misschien is dat ook waarom het nieuws rond Fable zo interessant is. Niet omdat het bewijst dat AI gevaarlijk is. Ook niet omdat het bewijst dat we moeten stoppen met ontwikkelen. Integendeel. AI levert nu al enorme voordelen op en gaat dat de komende jaren alleen maar meer doen.
Maar misschien komen we wel op een punt waarop we moeten nadenken over grenzen.
Niet over grenzen aan intelligentie, maar over grenzen aan autonomie.
We bouwen auto's die veel harder kunnen rijden dan de maximumsnelheid. Niet omdat dat verboden technologie is, maar omdat de omgeving beperkingen heeft. Wegen hebben grenzen. Mensen maken fouten. Infrastructuur heeft grenzen.
Misschien geldt straks iets vergelijkbaars voor AI.
Niet de vraag hoeveel kennis een model mag hebben, maar hoeveel beslissingen het zelfstandig mag nemen. Niet de vraag of een model code kan schrijven, maar of die code zonder menselijk toezicht direct in productie mag belanden. Niet de vraag of AI kwetsbaarheden kan vinden, maar wat er gebeurt wanneer miljoenen systemen dat tegelijkertijd kunnen.
Dat zijn geen vragen voor een verre toekomst meer. Dat zijn vragen die vandaag al voorzichtig aan de deur kloppen.
Fable is misschien niet het begin van een AI-apocalyps. Waarschijnlijk zelfs helemaal niet.
Maar het zou zomaar het moment kunnen zijn waarop we ons beginnen te realiseren dat "steeds krachtiger" niet automatisch hetzelfde is als "steeds beter". Soms is de moeilijkste vraag niet hoe snel een technologie vooruit kan, maar hoe snel wij als mensen kunnen blijven begrijpen wat er gebeurt.
Want een sterke stier is prachtig om te zien.
Maar als de stier elke maand twee keer zo groot wordt, is het misschien verstandig om af en toe ook even naar het hek te kijken.