Reflectie nodig op medische expertsystemen

Medische expertsystemen kunnen zich volgens sommige bedrijven ontwikkelen tot ‘digitale dokters’. Deze toepassingen van kunstmatige intelligentie hebben een zelflerend vermogen en kunnen op basis van grote hoeveelheden wetenschappelijke literatuur en patiëntgegevens tot behandelopties komen voor uiteenlopende aandoeningen. In theorie kan dat leiden tot betere zorg, maar in de praktijk hebben expertsystemen de beloftes nog niet waargemaakt.

Erik Gerritsen, secretaris-generaal bij VWS, neemt het rapport in ontvangst

De systemen blijken soms niet geschikt voor gebruik omdat patiëntengroepen in de praktijk veel gevarieerder zijn dan de afgebakende groepen waar de ontwikkelaars mee gewerkt hebben. Of de systemen passen niet goed in de organisatorische routine van een ziekenhuis waardoor artsen het gebruik ervan als een storende onderbreking van hun werk ervaren. Bij het testen van medische expertsystemen zou daarom niet alleen gekeken moeten worden naar de effectiviteit van het systeem zelf, maar ook naar de gevolgen voor arts en patiënt bij toepassing in de praktijk.

Cover van het rapport Digitale dokters: een ethische verkenning van medische expertsystemen

Het gebruik van medische expertsystemen roept ook ethische vragen op. Hoe is bijvoorbeeld vast te stellen of het systeem het best mogelijke advies geeft voor een individuele patiënt als de werking van het systeem niet transparant is? Welke doelen van zorg streeft het systeem na? Zo lang mogelijk leven, zo lang mogelijk mobiel blijven, zo min mogelijk lijden? Het Centrum voor Ethiek en Gezondheid (CEG) roept op tot reflectie over deze vraagstukken en pleit ervoor de lessen uit de praktijk daarin mee te nemen.