De mens beslist (of niet meer?)

Inleiding

In juni 2023 stond een New Yorkse advocaat voor een federale rechter om zes rechterlijke uitspraken toe te lichten die niet bestonden. Hij had een taalmodel gevraagd om jurisprudentie voor zijn zaak, en het model had geleverd: zes uitspraken, compleet met citaten, zaaknummers en overtuigende juridische taal. Allemaal verzonnen. De advocaat had ze niet gecontroleerd. De boete bedroeg vijfduizend dollar, en de verwachting was dat de beroepsgroep van dit ene, luide voorbeeld zou leren.

Dat gebeurde niet. Een onderzoeker van HEC Paris houdt sindsdien een openbare databank bij van rechtszaken waarin door AI verzonnen jurisprudentie of citaten bij een rechter werden ingediend. In mei 2026 stonden er bijna vijftienhonderd zaken in, een maand later bijna zestienhonderd — een groei van net onder de acht nieuwe zaken per dag. Bij het verschijnen van dit paper, eind juli 2026, staat de teller rond de achttienhonderd. De sancties escaleerden mee: van vijfduizend dollar naar ruim een ton in één zaak, de eerste schorsingen van advocaten zijn een feit, en in juni 2026 annuleerde een Amerikaanse rechter een compleet proces omdat beide partijen verzonnen bronnen hadden ingediend.

De interessante vraag is niet waarom AI dingen verzint. Dat is bekend, gedocumenteerd en op elke voorpagina behandeld. De interessante vraag is de andere: waarom tekenen professionals — mensen wier hele beroep uit toetsen bestaat, die persoonlijk aansprakelijk zijn voor wat ze indienen — voor stukken die ze niet hebben gecontroleerd? En als het hén overkomt, in een vak met tuchtrecht en een rechter die meeleest: wat gebeurt er dan in organisaties waar niemand meeleest?

Dit is de derde whitepaper in een reeks. De eerste betoogde dat de waarde van een organisatie georganiseerd moet zijn — vastgelegd, toetsbaar, overdraagbaar — en eindigde haar correctiemechanisme op vier woorden: een mens die beslist. De tweede betoogde dat de stem van een AI-agent ontworpen moet zijn, en eindigde op hetzelfde punt: een herzieningslus met, opnieuw, een mens die beslist. Beide papers leunden op die zin. Dit paper toetst of hij houdt. Want als de mens die beslist in werkelijkheid een mens is die goedkeurt, dan rust alles wat ervoor kwam op een formaliteit.

Het betoog verloopt in vier stappen. Eerst het bewijs: wat er werkelijk gebeurt wanneer mensen geautomatiseerde voorstellen beoordelen. Dan de stelling: wat een beslissing tot een beslissing maakt, en waarom de rechter die lat al heeft gelegd terwijl het bedrijfsleven haar niet kent. Vervolgens de tegenstem: delegatie aan expertise die je niet doorgrondt, is toch de normaalste zaak van de wereld? En ten slotte de klem die dit vraagstuk urgent maakt — en wat het betekent om oordeel te organiseren zoals we productie hebben georganiseerd.

01De lege handtekening

Dertig jaar oud nieuws

Het verschijnsel heeft een naam en een onderzoekstraditie. Al in de jaren negentig beschreven human-factors-onderzoekers hoe mensen met automatisering omgaan: ze gebruiken haar te veel én te weinig. Te veel, wanneer ze het systeem blijven volgen ook als het aantoonbaar faalt. Te weinig, wanneer ze een goed werkend systeem negeren omdat het één keer een fout maakte. De eerste vorm kreeg de naam automation bias, en zij kent twee gezichten: je mist wat het systeem niet meldt, en je volgt wat het systeem ten onrechte wél meldt. In beide gevallen is de mens formeel aanwezig en feitelijk afwezig.

Het mechanisme erachter is geen luiheid maar leren. Een systeem dat in de eerste honderd gevallen gelijk heeft, verdient vertrouwen — dat is een rationele reactie. Maar datzelfde vertrouwen zorgt ervoor dat geval honderdeen niet meer echt wordt bekeken. In een experiment uit 2023 lazen 27 radiologen mammogrammen met hulp van wat zij dachten dat een AI-assistent was. Zolang de suggesties klopten, leerden ze erop te vertrouwen. Daarna volgden ze ook de suggesties die niet klopten. Het vertrouwen was verdiend en werd vervolgens misbruikt — niet door kwade opzet, maar door de gewone werking van de menselijke aandacht onder herhaling.

Wie dit leest als een verhaal over radiologen, mist de strekking. Hetzelfde patroon is gedocumenteerd bij kredietbeoordelaars, fraudeanalisten, reclasseringsambtenaren en contentmoderatoren. Overal waar een mens in hoog tempo voorstellen van een systeem beoordeelt, glijdt de beoordeling af naar bekrachtiging. Het papierwerk blijft een menselijke keuze registreren. De keuze zelf is verdampt.

Het recente bewijs maakt het erger

Wie hoopte dat betere AI dit probleem zou oplossen, krijgt van het recente onderzoek het omgekeerde te horen. Drie bevindingen uit de afgelopen jaren verscherpen het beeld.

De eerste komt uit een meta-analyse in Nature Human Behaviour van 106 experimenten waarin mensen en AI-systemen samen beslisten. De combinatie presteerde gemiddeld slechter dan de beste van de twee alleen. Die uitkomst kent een scherpe scheidslijn: bij beslistaken was er verlies, bij het maken van dingen juist winst. Dat is een gemiddelde over uiteenlopende taken, geen natuurwet. Maar de wijdverbreide aanname dat een mens toevoegen per definitie waarde toevoegt, is daarmee empirisch onhoudbaar — en het valt precies verkeerd uit voor het werk dat dit paper behandelt: beoordelen. Soms is de mens in de lus niet de waarborg maar de zwakste schakel: hij keurt de goede voorstellen goed én de foute.

De tweede bevinding is de meest contra-intuïtieve. In een veldexperiment van Harvard Business School beoordeelden 228 screeners 48 werkelijke inzendingen voor een innovatiewedstrijd — deels met een kale AI-aanbeveling, deels met dezelfde aanbeveling plus een verhalende uitleg van de redenering. Bij subjectieve criteria volgden de beoordelaars de uitgelegde aanbeveling twaalf procentpunt vaker dan de kale. En de uitleg maakte hen niet beter: de kale aanbeveling verbeterde de besliskwaliteit, de uitgelegde versie niet. De oorzaak is verontrustend precies: de volgzaamheid was asymmetrisch. Beoordelaars namen vooral de afwijzingen over en lieten zo goede inzendingen ten onrechte vallen. Microsoft kwam in een synthese van circa zestig studies naar overmatig vertrouwen tot een verwante slotsom: uitleg vergroot het vertrouwen in aanbevelingen, ook in de foute. De implicatie is onaangenaam voor iedereen die op transparantie rekent als waarborg: uitleg maakt de beoordelaar niet kritischer. Uitleg maakt hem geruster.

De derde bevinding komt van de Europese toezichthouders zelf. De Europese privacytoezichthouder beschreef hoe menselijk toezicht op geautomatiseerde besluitvorming in de praktijk verwordt tot iets wat het best als ritueel toezicht valt te omschrijven: iemand klikt goedkeuren omdat het systeem het zegt. De instantie die het toezicht voorschrijft, documenteert dat het toezicht niet werkt zoals voorgeschreven.

De kreukelzone

Als de mens in de lus feitelijk bekrachtigt in plaats van beslist, wat doet hij daar dan? Het eerlijke antwoord is door onderzoeker Madeleine Clare Elish gemunt: hij is een morele kreukelzone. Zoals de kreukelzone van een auto de klap van een botsing absorbeert om de inzittenden te beschermen, absorbeert de mens in de lus de morele en juridische klap van een systeemfout — om het systeem en zijn eigenaren te beschermen. Hij had er weinig controle over, maar zijn handtekening staat eronder, dus de verantwoordelijkheid landt bij hem.

De mens in de lus levert dan geen oordeel maar dekking.

Dat is geen ontwerpfout. Het is vaak precies waarvoor de constructie dient. Een organisatie die kan zeggen dat een mens elk besluit heeft goedgekeurd, heeft een antwoord op de toezichthouder, de rechter en de krant — ongeacht of die goedkeuring iets voorstelde. En zolang niemand toetst of de goedkeuring echt was, is dekking precies wat de constructie oplevert: een reeks handtekeningen die samen de indruk wekken dat er is beslist.

De vraag die dit oproept is niet cynisch maar praktisch: wat zou er moeten gebeuren om die handtekening weer een beslissing te maken? Daarvoor moet eerst scherp zijn wat een beslissing eigenlijk is.

02Goedkeuren is niet beslissen

Drie voorwaarden

Een beslissing is meer dan een keuzemoment met een mens erbij. Wie het verschil tussen beslissen en goedkeuren wil vastpakken, komt uit bij drie voorwaarden die samen bepalen of er werkelijk iets is beslist.

Ontbreekt één van de drie, dan is er geen beslissing genomen maar een stempel gezet. En een stempel kan nuttig zijn — als administratieve registratie, als procesmarkering — zolang niemand hem verwart met een oordeel. De verwarring is het probleem: organisaties die stempels tellen en denken dat ze beslissingen hebben.

De rechter heeft de lat al gelegd

Wie denkt dat dit een academisch onderscheid is, moet naar Luxemburg kijken. Het Europese Hof van Justitie boog zich in december 2023 over de Duitse kredietbeoordelaar SCHUFA, die met een statistische methode scores opstelt over de kredietwaardigheid van burgers. De formele besluiten werden door mensen genomen, bij de banken die de scores afnamen. Het Hof keek daar doorheen: wanneer de score van het systeem vrijwel altijd het besluit bepaalt, is er sprake van geautomatiseerde besluitvorming — ook al zet een mens de handtekening. De menselijke tussenkomst telt alleen als ze betekenisvol is, en betekenisvol is ze niet wanneer de uitkomst al vaststaat voordat de mens ernaar kijkt.

De Nederlandse Autoriteit Persoonsgegevens heeft die lat uitgewerkt in praktische handvatten, en de formulering verdient aandacht: de beoordelaar moet weten hoe het geautomatiseerde proces werkt en welke invloed het heeft op het besluit, en moet in staat zijn om in het individuele geval te beoordelen of de uitkomst terecht is. Tussenkomst mag geen symbolische functie hebben; zij moet daadwerkelijk kunnen ingrijpen in het besluit. Dat zijn — in juridische taal — precies de drie voorwaarden: bevraagbaarheid, afwijsbaarheid, en een rol die ertoe doet.

Hier ontstaat een opmerkelijke scheefstand. De juridische wereld heeft voor één categorie besluiten — die met rechtsgevolgen voor personen — al vastgelegd wanneer menselijke tussenkomst leeg is. Maar de logica erachter is niet juridisch; zij geldt voor elke beslissing die een organisatie aan een systeem toevertrouwt. De offerte die eruit gaat, de kandidaat die afvalt, de leverancier die wordt geselecteerd, de tekst die wordt gepubliceerd: overal waar een systeem voorstelt en een mens bekrachtigt, is dezelfde vraag aan de orde. De rechter heeft de lat gelegd voor het kleine domein waar hij over gaat. Het bedrijfsleven heeft voor het grote domein waar het zelf over gaat, geen lat.

Stempelrecht en beslisrecht

Het onderscheid verdient een naam, want wat geen naam heeft, wordt niet gezien. Noem het verschil dat ertoe doet: stempelrecht tegenover beslisrecht.

Stempelrecht is de bevoegdheid om een voorstel te bekrachtigen. Het is administratief reëel — er komt een handtekening, een tijdstempel, een verantwoordelijke naam — en inhoudelijk leeg zodra de drie voorwaarden ontbreken. Beslisrecht is de bevoegdheid om een voorstel te bekrachtigen of te verwerpen, uitgeoefend door iemand die kan toetsen, mag afwijken en de gevolgen draagt.

Elke organisatie die met AI werkt, zou zichzelf één vraag moeten stellen, per beslispunt, en het antwoord moeten kunnen laten zien: hebben wij hier beslisrecht georganiseerd, of stempelrecht?

De vraag is onaangenamer dan hij lijkt, omdat het antwoord meestal per ongeluk is ontstaan. Weinig organisaties hebben bewust gekozen voor stempelrecht. Ze hebben een systeem ingevoerd, een controle-stap toegevoegd omdat dat hoort, en nooit gemeten of die stap iets deed. Het verschil tussen de twee is van buiten onzichtbaar — beide produceren dezelfde handtekeningen — en wordt pas zichtbaar op de dag dat het misgaat en iemand vraagt wie er eigenlijk heeft beslist.

03De tegenstem: delegeren doen we altijd al

Het sterkste tegenargument

Tot hier kan het betoog de indruk wekken dat elke goedkeuring zonder volledig begrip verdacht is. Dat zou onzinnig zijn, en de tegenwerping verdient haar sterkste vorm.

Niemand begrijpt zijn accountantsrapport werkelijk. Vrijwel geen bestuurder kan de waarderingsgrondslagen uitleggen waaronder hij zijn handtekening zet. Niemand leest de vijftig pagina's juridische voorwaarden die hij accepteert, en geen directeur doorgrondt de software waarop zijn bedrijf draait. Toch tekenen we, dagelijks, en dat heet geen nalatigheid maar arbeidsdeling. De hele moderne economie rust op het delegeren van oordeel aan expertise die we niet doorgronden. Wie voor AI-voorstellen ineens volledig begrip eist, legt een lat die we nergens anders leggen — en die niemand kan halen. Zo bezien is de mens die een AI-voorstel goedkeurt zonder het te doorgronden niets nieuws. Hij doet wat mensen altijd hebben gedaan met de accountant, de advocaat en de ingenieur: vertrouwen op een oordeel dat hij zelf niet kan vellen.

Het argument is sterk, en het is grotendeels juist. Volledig begrip is inderdaad de verkeerde lat. Maar het argument bewijst iets anders dan het denkt te bewijzen — en in dat verschil zit de kern van dit paper.

Waarom de accountant geen model is

Kijk preciezer naar wat er gebeurt wanneer een bestuurder tekent bij het accountantsrapport dat hij niet doorgrondt. Hij vertrouwt niet op zijn eigen begrip. Hij vertrouwt op een structuur. Die structuur heeft vier dragende elementen.

Ten eerste: de accountant is bevraagbaar. De bestuurder kan hem laten uitleggen, doorvragen, confronteren met een afwijkende mening — en de accountant moet antwoorden, in begrijpelijke taal, net zo lang tot het antwoord bevredigt of de twijfel gegrond blijkt. Ten tweede: de accountant draagt eigen aansprakelijkheid. Zijn handtekening is verzekerd, zijn fout kost hém iets. Ten derde: er is tucht. Een beroepsgroep die kan schorsen, een register waaruit je geschrapt kunt worden, een norm die wordt gehandhaafd door vakgenoten. Ten vierde: de accountant is vervangbaar met behoud van toetsbaarheid. Een andere accountant kan het dossier oppakken, het oordeel reconstrueren en zeggen: dit klopt, of dit klopt niet.

Delegatie aan een menselijke expert is dus geen vertrouwen in een persoon. Het is vertrouwen in een verantwoordingsinfrastructuur die om die persoon heen is gebouwd — bevraagbaarheid, aansprakelijkheid, tucht, vervangbaarheid. Dáárom mag de bestuurder tekenen zonder te begrijpen: omdat het systeem om de expert heen zijn gebrek aan begrip compenseert.

Een AI-model heeft geen van de vier. Het kan niet worden doorgevraagd — het produceert desgevraagd een uitleg, maar die uitleg is een nieuwe output van hetzelfde systeem, geen verantwoording; en het onderzoek uit het eerste hoofdstuk laat zien dat zulke uitleg beoordelaars volgzamer maakt in plaats van kritischer. Het draagt geen aansprakelijkheid — er valt niets te verzekeren en niemand te schorsen. Er is geen tuchtrecht en geen register. En vervangen kan wel, maar zonder reconstrueerbaarheid: een ander model geeft een ander antwoord, en niemand kan zeggen welk van de twee het oordeel was.

Je hoeft niet te begrijpen wat je goedkeurt. Je moet kunnen verantwoorden wat je goedkeurt — en verantwoording is geen kennisvraag maar een inrichtingsvraag.

De conclusie is preciezer dan de tegenstem toelaat. Het probleem is niet dat mensen goedkeuren wat ze niet begrijpen — dat doen we overal, en terecht. Het probleem is dat bij AI-voorstellen de verantwoordingsinfrastructuur ontbreekt die dat goedkeuren elders draagt. Wie een AI inzet op beslissingen die ertoe doen, moet om dat systeem heen bouwen wat om de accountant heen gebouwd is: toetsbaarheid, belegde verantwoordelijkheid, en de mogelijkheid om het oordeel te reconstrueren. Niet omdat de regels het zeggen, maar omdat de handtekening anders niets draagt.

04De dubbele klem

Meer te beoordelen, minder oordeel

Het eerste paper in deze reeks opende met een verschuiving: een offerte die vroeger drie dagen kostte, rolt er nu in twintig minuten uit, en daarmee verplaatst de schaarste in een organisatie zich van het maken naar het beoordelen. Die zin krijgt drie papers later zijn volle gewicht. Want als AI het maken overneemt, wordt beoordelen het werk — en precies dat werk blijkt onder druk te staan van twee kanten tegelijk.

De eerste kant is volume. Wie sneller produceert, moet vaker beoordelen. De organisatie die haar productie vertienvoudigt, vertienvoudigt haar beoordelingslast — en beoordelingscapaciteit schaalt niet mee met een software-update. Het gevolg is voorspelbaar en gedocumenteerd: hoe hoger het volume per beoordelaar, hoe vluchtiger de beoordeling, hoe dichter bij het stempelen uit het eerste hoofdstuk.

De tweede kant is nieuw, en het bewijs ervoor is van 2025. In vier Poolse endoscopiecentra kregen negentien ervaren artsen — elk met meer dan tweeduizend darmonderzoeken achter de naam — AI-ondersteuning bij het opsporen van poliepen. De onderzoekers vergeleken wat diezelfde artsen presteerden zónder het systeem, vóór en ná de invoering ervan. Hun detectiegraad was gedaald van 28,4 naar 22,4 procent: zes procentpunt absoluut, ongeveer twintig procent relatief. De studie, gepubliceerd in The Lancet Gastroenterology & Hepatology, is observationeel en de auteurs formuleren voorzichtig — een risico op ontvaardiging, geen bewezen wet. Maar de richting is duidelijk en de implicatie reikt ver voorbij de medische wereld: de vaardigheid waarmee je een systeem controleert, slijt door het gebruik van dat systeem.

Zet de twee naast elkaar en de klem wordt zichtbaar. Er komt meer te beoordelen, terwijl het beoordelingsvermogen afneemt — niet door onwil of bezuiniging, maar door de gewone werking van vaardigheid die niet meer wordt geoefend. De junior die vroeger oordeel opbouwde door het juniorwerk te doen, ziet dat werk nu door een systeem gedaan worden; waar zijn oordeel vandaan moet komen, is een open vraag. De senior die zijn scherpte ontleende aan dagelijkse praktijk, leunt op een assistent die de praktijk overneemt. De organisatie vaart op een vermogen dat ze nooit heeft georganiseerd en dat nu ongemerkt wegzakt.

Oordeel organiseren

Het antwoord op de klem is niet minder AI. Wie de productiviteitswinst weigert, verliest van wie haar pakt — en de winst is reëel. Het antwoord is het oordeel organiseren met dezelfde ernst waarmee ooit de productie is georganiseerd. Dat klinkt abstract en is het niet; de bouwstenen bestaan, ze worden alleen zelden toegepast op dit probleem.

Ten eerste: beoordeel diep op steekproef in plaats van vluchtig op alles. Honderd voorstellen per dag half bekijken levert honderd stempels op. Tien voorstellen grondig toetsen — willekeurig gekozen, zodat het systeem nergens op kan voorsorteren — levert tien echte beslissingen op én een betrouwbaar beeld van hoe vaak het systeem ernaast zit. Dat foutbeeld is de kern: een beoordelaar die weet dat het systeem in vier procent van de gevallen faalt, kijkt anders dan een beoordelaar die denkt dat het altijd klopt.

Ten tweede: maak afwijzen normaal en zichtbaar. Een beoordelingsproces waarin nooit wordt afgewezen, is geen beoordelingsproces. Meet de afwijsgraad, bespreek haar, en behandel een afwijzing als een prestatie in plaats van een verstoring. Waar afwijzen gedoe oplevert en goedkeuren niets, is de uitkomst voorspelbaar — dus draai de prikkel om.

Ten derde: scheid het signaleren van het beslissen. Wie afwijkingen mag melden, is niet dezelfde als wie de vastgelegde werkwijze mag veranderen — een principe uit het eerste paper dat hier zijn menselijke pendant krijgt. De beoordelaar signaleert; een belegde rol beslist over de doorwerking. Zo blijft de beslissing een beslissing en wordt zij niet weggedrukt in de marge van iemands drukke dag.

Ten vierde: houd de vaardigheid in leven. Als beoordelen het werk wordt, moet het geoefend worden zoals elk vak — met casussen zonder systeemhulp, met terugkoppeling op gemiste fouten, met de vraag wat de beoordelaar zou hebben besloten vóórdat het systeem zijn voorstel toont. De medische wereld experimenteert na de Poolse bevindingen met precies zulke vormen. Elke organisatie die op beoordeling gaat draaien, zal haar eigen variant nodig hebben.

En ten vijfde, het fundament onder de vier: leg per beslispunt vast wie er beslist, waarop, en met welke bevoegdheid. Niet als organogram, maar als toets: kan deze persoon afwijzen, kan hij bevragen, draagt hij consequentie? Waar het antwoord drie keer ja is, staat beslisrecht. Waar niet, staat stempelrecht — en dat mag, zolang het bewust is en zolang niemand het beslissing noemt.

Slot

De gemakkelijke conclusie luidt dat organisaties beter moeten controleren wat hun AI doet. Dat is waar en het mist het punt. De moeilijke conclusie ligt een laag dieper: de zin waarmee elke organisatie zichzelf geruststelt — de mens beslist — beschrijft geen feit maar een opgave. Een mens die beslist moet georganiseerd worden: met de ruimte om af te wijzen, de toegang om te bevragen, de verantwoordelijkheid die zijn handtekening gewicht geeft, en de geoefende vaardigheid om te zien wat het systeem mist.

Deze reeks begon met de vraag waarop organisaties worden gekozen, en vond het antwoord in georganiseerde waarde. Zij vervolgde met de vraag wie er namens de organisatie spreekt, en vond het antwoord in een ontworpen stem. Zij eindigt met de vraag wie er in de organisatie beslist — en het antwoord is niet de geruststelling van de laatste pagina van elk beleidsdocument, maar een functie-eis die vrijwel nergens is ingevuld.

Want de databank met verzonnen jurisprudentie groeit met bijna acht zaken per dag, en elk van die zaken draagt een echte handtekening van een echte professional die dacht dat tekenen genoeg was. De vraag waarmee een ondernemer achterblijft is dan ook niet of er ergens in zijn processen een mens in de lus zit. Die zit er. De vraag is wat die mens daar doet — en of er, op de dag dat het erop aankomt, iemand blijkt te hebben beslist.

Verantwoording: dit paper steunt op de hierboven genoemde openbare bronnen. Waar het betoog vooruitloopt op de beschikbare data, is dat expliciet benoemd. De Lancet-studie is observationeel; de auteurs spreken van een risico, niet van bewezen causaliteit. De meta-analysebevinding is een gemiddelde over taken; er bestaan taken waarin mens-AI-combinaties wél beter presteren. Standen uit de databank van AI-gerelateerde rechtszaken zijn momentopnamen die dagelijks oplopen.