De belofte is spectaculair: een AI-model dat op basis van een CT-scan of een weefselbiopt binnen enkele seconden longkanker of een herseninfarct herkent, sneller en nauwkeuriger dan de beste radioloog. Nederlandse ziekenhuizen omarmen deze systemen massaal om de chronische personeelstekorten en de torenhoge werkdruk op te vangen. Maar achter de klinische schermen voltrekt zich een gevaarlijke verschuiving. Uit interne incidentenregisters, vertrouwelijke meldingen bij de Inspectie Gezondheidszorg en Jeugd (IGJ) en gesprekken met verontruste artsen blijkt dat de medische autonomie geruisloos wordt uitgehold. Artsen vertrouwen blind op de computer, met soms fatale gevolgen.

Het scenario is niet langer hypothetisch. In een groot universitair medisch centrum in Centraal-Nederland werd afgelopen jaar bij een 54-jarige patiënt een beginnende, maar zeer agressieve tumor in de alvleesklier over het hoofd gezien. De software die de scans screende op afwijkingen, had de scan gecategoriseerd als "groen" — geen bijzonderheden. De verantwoordelijke radioloog, die die dag onder extreme tijdsdruk tachtig scans moest beoordelen, vertrouwde op het oordeel van de AI en tekende het dossier ongelezen af. Zes maanden later was de patiënt ongeneeslijk ziek. De tumor bleek te liggen op een plek die het algoritme, door een fout in de trainingsdata, systematisch negeerde.

De illusie van de onfeilbare machine

Dit fenomeen staat in de psychologie bekend als automation bias: de menselijke neiging om beslissingen van geautomatiseerde systemen sneller als 'waar' te accepteren en minder kritisch te controleren, zelfs als ze indruisen tegen het eigen gezonde verstand. In de zorg, waar artsen dagelijks te maken hebben met overvolle poliklinieken en administratieve rompslomp, werkt deze bias als een sluipmoordenaar.

"We worden lui gemaakt door de technologie," zegt een ervaren neuroloog uit een topklinisch ziekenhuis, die anoniem wil blijven om zijn relatie met de maatschap niet te beschadigen. "Als de AI zegt dat er geen sprake is van een hersenbloeding, kijk je toch net iets minder scherp naar die scan. Je bent immers moe, er wachten nog twintig patiënten, en de software heeft een geclaimde nauwkeurigheid van 99 procent. Maar die ene procent die het systeem mist, is wel een menselijk leven. We verliezen onze klinische intuïtie."

Uit het onderzoek van deze krant blijkt dat de integratie van AI in de Nederlandse diagnostiek veel verder gaat dan de meeste patiënten vermoeden. Niet alleen bij radiologie, maar ook bij de cardiologie (het interpreteren van hartfilmpjes), de dermatologie (het scannen van moedervlekken) en de intensive care (het voorspellen van orgaanfalen) nemen algoritmes de cruciale analyses over.

Het zwarte-doos-dilemma in de OK

Het fundamentele probleem is dat veel van deze medische AI-modellen zogenaamde deep learning-netwerken zijn. Ze leggen verbanden in gigantische hoeveelheden data die voor het menselijk oog onzichtbaar zijn. Dit betekent echter ook dat de software niet kan uitleggen waarom het tot een bepaalde diagnose komt. Het is een wiskundige black box.

"Als een menselijke collega een diagnose stelt, kan ik hem vragen naar zijn argumenten," legt ethicus en arts dr. Ellen de Waal uit. "Bij een AI kan dat niet. Die geeft een kansberekening: '94% kans op maligniteit'. Als arts sta je dan voor een onmogelijk dilemma. Ga je akkoord met een zware chemokuur op basis van een percentage uit een computer waarvan niemand exact weet welke variabelen de doorslag gaven? En wat als je het advies negeert, de patiënt overlijdt, en de advocaat van de nabestaanden vraagt waarom je niet naar de geavanceerde software hebt geluisterd?"

De juridische aansprakelijkheid in deze situaties is een moeras. De Nederlandse wet is helder: de behandelend arts is en blijft te allen tijde eindverantwoordelijk voor de diagnose en de behandeling. Maar de praktijk holt die juridische realiteit uit. Als de overheid en de ziekenhuisbesturen artsen dwingen om met AI te werken om de efficiëntie te verhogen, is het unfair om de individuele arts op te laten draaien voor de onnavolgbare fouten van een extern ingekocht algoritme.

Commerciële belangen in de spreekkamer

De software wordt bovendien agressief in de markt gezet door internationale techbedrijven en medische startups. Zij schermen met klinische studies die vaak door henzelf zijn gefinancierd en die zijn uitgevoerd onder ideale omstandigheden.

Uit interne inkoopdocumenten van drie Nederlandse ziekenhuizen blijkt dat er bij de aanschaf van deze AI-pakketten nauwelijks onafhankelijke toetsing plaatsvindt op de lokale populatie. Een algoritme dat is getraind op data van jonge, fitte patiënten in een Amerikaanse kliniek, presteert aantoonbaar slechter wanneer het wordt losgelaten op de gemiddelde, vaak oudere en multimorbide patiënt in een Nederlandse volkswijk. De ziekenhuizen ontdekken die afwijkingen pas wanneer de software al in gebruik is genomen en er fouten worden gemaakt op de werkvloer.

De falende handhaving

De Inspectie Gezondheidszorg en Jeugd (IGJ) worstelt hopeloos met het toezicht op deze 'digitale medische hulpmiddelen'. Formeel moeten de systemen voldoen aan de strenge Europese CE-certificering voor medische apparatuur. Maar de wetgeving is geschreven voor statische apparaten, zoals pacemakers of MRI-scanners. AI-software is vloeibaar; het update continu, leert van nieuwe data en verandert daardoor gaandeweg van karakter. De inspectie mist de technische auditors om deze software-updates realtime te controleren op veiligheid.

"We lopen achter de feiten aan," erkent een bron binnen de inspectie. "We horen pas over incidenten als het echt misgaat en er een officiële melding binnenkomt. Maar omdat ziekenhuizen deze fouten vaak intern registreren als 'menselijke beoordelingsfouten' van de arts, blijft de rol van het falende algoritme in de statistieken onzichtbaar."

De computer beslist

De arts-patiëntrelatie, die van oudsher is gebaseerd op menselijk contact, expertise en vertrouwen, dreigt te worden gereduceerd tot een triagesysteem waarin de machine de parameters dicteert. De AI-revolutie in de zorg bespaart onmiskenbaar tijd en geld, maar de prijs die de patiënt betaalt is een sluipend verlies van menselijke scherpte aan het ziekbed. Zolang de autonomie van de arts wordt opgeofferd aan de god van de efficiëntie, is de computer niet langer een hulpmiddel, maar de feitelijke baas in de spreekkamer.

In het afsluitende deel van dit onderzoek: De Lobby in Brussel. Hoe een leger van tech-lobbyisten de langverwachte Europese AI Act achter de schermen heeft uitgekleed, zodat de miljardenwinsten van Big Tech in Europa geen strobreed in de weg worden gelegd.