De beloftes van AI in de zorg zijn groot, maar vooralsnog overtrokken, waarschuwen deze wetenschappers. En dat brengt gevaren met zich mee. ‘We vergeten de vraag te stellen: voor welk probleem is dit eigenlijk een oplossing?’
is zorgverslaggever van de Volkskrant.
Wat gebeurt er als je een groep pubers een videocamera in handen geeft, en zegt: veel plezier ermee, maak maar een mooi filmpje? Grote kans dat ze een video opnemen waarin ze volop in- en uitzoomen, waarin ze met de camera duizelingwekkende rondjes draaien, waarin ze vanuit hoeken filmen die zelfs de meest experimentele filmmakers niet verzonnen krijgen. Toffe dingen doen, daar gaat het om.
Vervang de camera door AI, en de pubers door technici die nieuwe zorgtoepassingen willen ontwikkelen, en je hebt een aardige blauwdruk van het AI-in-de-zorglandschap: veel enthousiasme, weinig concreet resultaat. Tenminste, dat is de conclusie van Erasmus MC-onderzoekers Willemijn Berkhout, Julia van Wijngaarden en intensivist Michel van Genderen die onlangs 1.263 wetenschappelijke publicaties over AI-vernieuwingen voor de ic doorplozen.
Van al die beschreven toepassingen (van rekenmodellen tot manieren om betere diagnoses te stellen tot kansberekeningen wanneer een patiënt komt te overlijden), haalden er slechts 25 daadwerkelijk de praktijk. 1.248 (98 procent) konden dus niet aantonen dat zij meerwaarde hadden voor de patiënt, arts of verpleegkundige.
Terwijl er juist zoveel van AI wordt verwacht. Zo hoopte het kabinet-Schoof mede dankzij ‘de revolutionaire mogelijkheden die generatieve kunstmatige intelligentie biedt’ de administratieve lasten van zorgmedewerkers te kunnen halveren.
Overal ter wereld strooien AI-onderzoekers met nieuwe toepassingen, in plaats van dat ze proberen de bestaande modellen te verbeteren, zegt Berkhout. ‘Onze vorige, soortgelijke studie was in 2021. Sindsdien zijn er ruim duizend studies bijgekomen, maar ook die ontstijgen de ontwikkelfase nauwelijks.’
Meest sexy onderzoeksveld: het voorspellen van mortaliteit. Kun je uit data opmaken of iemand snel zal komen te overlijden? Volkómen onzinnig, zegt Van Genderen, een enthousiast en gedreven verteller. ‘Wat moet je met de wetenschap dat er een kans is van 71 procent dat een patiënt binnen twee weken sterft, als er geen gepaste vervolgactie aan vastzit? Er zit enorm veel hype in dit soort research, maar de meest basale vraag vergeten we te stellen: voor welk probleem is dit een oplossing?’
Precies dat is de reden waarom het Maasstad Ziekenhuis, ook in Rotterdam, onlangs een opvallende beslissing nam. Het ziekenhuis stopte met één van de weinige AI-modellen dat wél medisch gecertificeerd is en daadwerkelijk doet wat de bedoeling is: berekenen wat de kans is dat een patiënt overlijdt of weer moet worden opgenomen, als ondersteuning voor de beslissing of een patiënt al van de ic af kan.
Maar, zegt Sander Dekker, bestuurder van het ziekenhuis, ‘toen we ons gingen afvragen of het model ons werk beter of makkelijker maakte, bleek het voor ons ziekenhuis weinig meerwaarde te hebben.’ Er waren meer redenen: het aanvankelijke enthousiasme was weggeëbd, organisatorische ict-onhandigheden, en de conclusie dat AI op andere plekken in het ziekenhuis meer te bieden had.
Wilt u belangrijke informatie delen?
Mail naar tips@volkskrant.nl of kijk op onze tippagina.
Op de spoedeisende hulp gaat een AI-model bijvoorbeeld ’s nachts röntgenfoto’s beoordelen of een arm gebroken is of niet. ‘In de nabije toekomst hoeft de radioloog alleen nog bij twijfelgevallen uit bed gebeld te worden; als AI zeker weet dat er niets aan de hand is, kan de patiënt naar huis. Bij een zekere breuk kan ie door naar de gipskamer.’
En na de jaarwisseling gaan nog eens tien vakgroepen aan de slag met een AI-tool die de gesprekken in de spreekkamer meeluistert en alvast samenvat in het patiëntendossier. Dekker: ‘Patiënten ervaren het gesprek met de arts dan als veel prettiger. De arts heeft oog voor hen, en niet voor zijn scherm. Ook de artsen genoten meer van hun werk. De grote opgave in de zorg is: hoe houden we het werk voor onze mensen leuk? Als dit daarbij kan helpen, dan doe ik het direct.’
Voor Michel van Genderen gaat dat allemaal wel erg snel. Van medicijnen begrijpt een arts de werking, maar geldt dat ook voor een AI-algoritme? Taalmodellen zijn bovendien niet zonder gevaren. ‘Dat AI een sinterklaasgedicht kan maken, betekent nog niet dat een taalmodel een familiegesprek op de ic goed kan samenvatten. Taalmodellen hallucineren, wat nou als-ie verkeerd opslaat of iemand gereanimeerd wil worden?’
In het Erasmus MC is onderzoeker Van Wijngaarden een jaar bezig geweest met het valideren van een taalmodel. ‘Komend jaar gaan we testen of artsen die tool wel goed gebruiken. Controleren ze de informatie nauwkeurig, voordat deze definitief in het patiëntendossier komt te staan? De eerste tien keer ongetwijfeld wel, maar de elfde keer ook? En de 37ste keer? ’
Van Genderen gelooft in de toekomst van AI, zegt hij. ‘Deze transitie wordt misschien wel groter dan wat we ooit hebben meegemaakt. Maar AI maakt nu nog niet alle beloftes waar, omdat er nog duidelijke afspraken zijn over hoe je het in de zorg moet ontwikkelen en gebruiken.’
Dat is ziekenhuisbestuurder Dekker met hem eens, maar hij ziet ook een andere kant. ‘Het is een risico om AI te snel te willen gebruiken, maar er is ook het risico dat je veel mist als je het níet gebruikt. Ik geloof niet dat AI het beter gaat doen dan de arts, maar ik geloof wel dat een arts mét AI het beter gaat doen dan een arts zónder AI.’
Alles over wetenschap vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant