In verdediging van de leugenaar

Ik hoop dat ze het nooit oplossen. Dat zeg ik hardop, in een tijd waarin bijna elk techbedrijf ter wereld miljarden pompt in precies dat probleem oplossen. Het probleem heet hallucinatie. U kent het wel: u vraagt een taalmodel iets, en het antwoordt met volle overtuiging, keurige zinnen, een bronvermelding erbij zelfs, en het is compleet verzonnen. Een rechtszaak die nooit heeft plaatsgevonden. Een onderzoek dat nooit is gepubliceerd. Een citaat van een minister die die woorden nooit heeft uitgesproken. En de hele industrie is het erover eens: dit moet weg. Dit is de laatste hobbel voor echt betrouwbare AI. En ik sta hier om te zeggen: als het lukt, hebben we een probleem gewonnen en een vaardigheid verloren, en die ruil bevalt me niet.

Bram en de rectificatie

Laat ik u eerst iets vertellen over Bram. Bram is journalist, tweeëntwintig jaar oud, drie maanden in dienst bij een regionale krant, en op een donderdagavond in maart moet hij binnen twee uur een stuk afleveren over een nieuwe gemeentelijke woonregeling. Hij is gehaast, het is zijn eerste grote artikel, en hij vraagt een taalmodel om de kernpunten van de regeling samen te vatten en te becijferen wat het voor een gemiddeld gezin betekent. Het antwoord komt vlot, professioneel, met een concreet bedrag: driehonderdtwintig euro per maand aan besparing, "volgens berekeningen van de gemeente". Bram plakt het in zijn artikel. Het gaat live. Om acht uur de volgende ochtend belt de woordvoerder van de gemeente, beleefd maar ijzig: die berekening bestaat niet. Dat bedrag is nergens vandaan gekomen. Er moet een rectificatie komen, met naam en toenaam.

Die rectificatie was het pijnlijkste moment van Brams jonge carrière. En het was, zegt hij nu zelf, het beste wat hem kon overkomen. Want vanaf die donderdag checkt hij alles. Elk cijfer, elke naam, elke bewering die uit een taalmodel komt, gaat langs een tweede bron voordat het zijn stuk in gaat. Niet uit wantrouwen tegen technologie, zegt hij, maar omdat hij nu, in zijn lijf, weet wat er gebeurt als hij dat niet doet. Die kennis kreeg hij niet van een training, niet van een collega die hem waarschuwde, niet van een cursus mediawijsheid. Hij kreeg hem van een fout. Een pijnlijke, publieke, goedkope fout, vroeg in zijn carrière, toen de inzet nog laag genoeg was om ervan te herstellen.

Een spier die u nodig heeft bij de honderdeerste keer

En dat is precies waar ik naartoe wil. Een taalmodel dat af en toe, onvoorspelbaar, met volle overtuiging iets verzint, is een systeem dat u dwingt om waakzaam te blijven. Het is onaangenaam, het kost tijd, het voelt inefficiënt. Maar het houdt een spier levend die we, zonder die wrijving, stilletjes laten verschrompelen. En die spier heet: zelf nog even nadenken voordat je iets gelooft.

De luchtvaart kent dit fenomeen al decennia, en heeft er zelfs een naam voor: automatiseringscomplacentie. Naarmate autopilootsystemen betrouwbaarder werden, bleek uit onderzoek dat piloten trager en onzekerder reageerden op het zeldzame moment dat het systeem wél faalde. Niet omdat ze slechtere piloten waren. Omdat een systeem dat honderd keer op rij feilloos werkt, precies het reflex uit u sloopt die u nodig heeft op de honderdeenste keer. De reflex verdwijnt niet doordat u dom wordt. Hij verdwijnt doordat hij nooit meer wordt aangesproken. Spieren die niet bewegen, worden zwak, dat geldt voor uw quadriceps en het geldt voor uw kritisch denkvermogen.

Nu wil ik heel precies zijn over wat ik wél en niet beweer. Ik zeg niet dat we hallucinaties moeten toejuichen wanneer ze een medische diagnose beïnvloeden, of een juridisch advies, of een besluit met echte gevolgen voor echte mensen. Daar is de inzet te hoog, en daar moeten we bouwen aan systemen die dubbel checken, die bronnen tonen, die twijfel signaleren. Wat ik beweer is iets anders: dat de huidige, onvolmaakte generatie van AI, met haar zichtbare, soms gênante fouten, ons op dit moment een gratis training geeft in een vaardigheid die we straks, wanneer de systemen echt feilloos ogen, niet meer geoefend zullen hebben. En dat we die training nu moeten benutten, bewust, actief, voordat het venster sluit.

Als het lukt, verliezen we de reflex

Want stel dat het lukt. Stel dat over vijf jaar een taalmodel besteed nooit meer een verzonnen feit, nooit meer een niet-bestaand citaat, nooit meer een bedrag uit het niets. Wat gebeurt er dan met onze reflex om te checken? Die verdwijnt niet in één klap. Hij verdwijnt geleidelijk, gebruiker voor gebruiker, precies zoals de piloten die reflex verloren: niet doordat iemand besloot minder op te letten, maar doordat opletten steeds minder werd beloond, tot het niet meer de moeite waard leek. En dan, op een dag, ergens ver in de toekomst, faalt het systeem wél. Bij een medische diagnose, bij een financieel advies, bij een juridisch document met verstrekkende gevolgen. En niemand in de keten heeft nog de reflex om het te controleren, want niemand heeft die reflex nog geoefend, al jaren niet meer.

Dus wat vraag ik van u vanavond. Niet dat u AI wantrouwt. Niet dat u terugverlangt naar een tijd zonder deze technologie, die overduidelijk meer geeft dan ze kost. Ik vraag iets kleiners en preciezers: kies deze week één ding dat een AI-systeem u vertelt, een cijfer, een citaat, een feit, en zoek het zelf op bij een tweede bron. Niet omdat u het systeem niet vertrouwt. Maar om de spier die Bram op de harde manier moest ontwikkelen, bij uzelf op de makkelijke manier levend te houden. Doe het niet één keer. Doe het een gewoonte, zolang de fouten nog zichtbaar zijn, zolang de inzet nog laag is, zolang een verkeerd bedrag in een lokale krant nog het ergste is wat er kan gebeuren.

Want de dag komt dat de fouten onzichtbaar worden, en zeldzaam, en precies daarom gevaarlijker dan ooit. Op die dag wilt u niet voor het eerst ontdekken dat u vergeten bent hoe je twijfelt. Dus nee, ik hoop niet dat ze het oplossen. Ik hoop dat we, terwijl het nog niet is opgelost, de les leren die het ons nu, gratis en pijnlijk, elke dag aanbiedt.