"Gefeliciteerd, u heeft een zelfrijdende auto gekocht."
"Mooi!"
"Klein puntje... hij heeft een betere route gevonden."
"O, mooi toch?"
"Hij rijdt nu over een landingsbaan."
"Ehhh..."
Gelukkig is dat (nog) niet gebeurd. Maar het voorbeeld laat wel zien waarom ik de ontwikkelingen rond AI met evenveel enthousiasme als nieuwsgierigheid volg.
Deze week verscheen een interessant onderzoek van Anthropic, het bedrijf achter Claude AI. Op social media verschenen direct spectaculaire koppen als "Anthropic may have solved consciousness in AI" (vrij vertaald: "Anthropic heeft misschien de sleutel tot AI-bewustzijn gevonden.") Dat klinkt alsof we op het punt staan om met een bewuste computer te praten, maar wie het onderzoek leest, ontdekt iets dat misschien nog veel interessanter is.
Moderne AI is eigenlijk een bijzonder beest. Onderzoekers weten precies hoe ze een model bouwen, hoe het wordt getraind en welke wiskunde erachter zit. Toch kunnen ze vaak niet precies uitleggen waarom een model op een bepaald moment tot een specifieke conclusie komt. Dat is best bijzonder. Alsof Airbus een vliegtuig bouwt en vervolgens zegt: "Hij vliegt uitstekend, we proberen alleen nog uit te zoeken waarom hij soms precies deze route kiest." Dat zou niemand accepteren. En toch vinden we dat bij AI inmiddels bijna normaal.
Anthropic probeert daar verandering in te brengen. Niet om Claude slimmer te maken, maar om Claude beter te begrijpen. Welke informatie wordt gebruikt, welke interne stappen worden gezet en waarom kiest het model voor antwoord A en niet voor antwoord B? Dat onderzoeksgebied heet mechanistic interpretability. Of, zoals ik het liever noem: van Black Box naar Glass Box.
Veel mensen vragen zich af of AI ooit bewust wordt. Misschien. Misschien ook nooit. Persoonlijk vind ik een andere vraag veel interessanter: kunnen wij straks nog begrijpen waarom AI doet wat het doet? Want zodra AI niet alleen teksten schrijft, maar ook auto's bestuurt, elektriciteitsnetten regelt, ziekenhuizen ondersteunt of gebouwen aanstuurt, wordt begrijpelijkheid misschien wel belangrijker dan intelligentie.
Stel je voor dat je een AI één simpele opdracht geeft: "Bespaar zoveel mogelijk energie." Een uur later meldt de AI trots: "Gelukt." Fantastisch! "Ik heb alle gebouwen volledig spanningsloos gemaakt." Technisch gezien heeft de AI precies gedaan wat je vroeg. Alleen niet wat je bedoelde. Dat verschil noemen we tegenwoordig alignment, en juist dát is misschien wel één van de grootste uitdagingen van AI.
Misschien is dat wel de grootste verandering die AI met zich meebrengt. Jarenlang bouwden we software die precies deed wat wij programmeerden. Nu bouwen we systemen die ons soms verrassen. Dat is indrukwekkend, maar het betekent ook dat we steeds vaker de vraag moeten stellen: "Hoe kwam je tot die conclusie?" Misschien wordt die vraag straks wel belangrijker dan het antwoord zelf. Uiteindelijk gaat het niet alleen om wat een systeem doet, maar vooral om waarom het dat doet.
En eerlijk gezegd ben ik niet bang dat ChatGPT of Claude morgen besluit de wereld over te nemen. Ik ben veel nieuwsgieriger naar iets anders: dat we over een paar jaar systemen bouwen die briljante beslissingen nemen, terwijl we langzaam vergeten hoe ze tot die beslissing zijn gekomen. Dat voelt een beetje alsof je een nieuwe Tesla koopt. Na een week zegt de auto: "Ik heb een betere route gevonden." Mooi. Tien minuten later zie je ineens een Boeing naast je taxiën.
"Waarom rijden we over een landingsbaan?"
"Het wegdek is hier aanzienlijk breder."
Technisch misschien waar. Praktisch iets minder handig.
Dat is misschien wel de grootste uitdaging van AI. Niet dat een systeem een verkeerde beslissing neemt, maar dat het een beslissing neemt die logisch lijkt, terwijl niemand nog precies begrijpt waarom. Precies daarom vind ik het onderzoek van Anthropic zo interessant. Niet omdat ze bewustzijn hebben ontdekt, maar omdat ze proberen inzicht te krijgen in het denkproces van AI voordat we die AI steeds meer verantwoordelijkheid geven.
Misschien is dát wel de volgende stap in AI. Niet nóg slimmer worden, maar leren uitleggen waarom het slim is.
Slimme systemen bouwen is indrukwekkend. Maar slimme systemen begrijpen, dát is misschien wel de grootste uitdaging van AI.
P.S. Mocht je je afvragen of dit artikel met hulp van AI is geschreven... absoluut. Net als de 49 blogs hiervoor. Gelukkig weet ik nog precies waarom iedere alinea erin staat. En dat is nu juist precies waar dit vijftigste Bull's AI-artikel over gaat.
