Digitale dokters - Een ethische verkenning van medische expertsystemen
2018
2018
Medische expertsystemen kunnen artsen ondersteunen bij bijvoorbeeld het opstellen van een diagnose, prognose of behandelplan. In theorie kan dat leiden tot betere zorg, maar in de praktijk hebben de systemen de beloftes nog niet waargemaakt. Artsen kunnen het raadplegen van de systemen als een inefficiënte onderbreking van hun werk beschouwen of ten onrechte vertrouwen op een foute uitkomst. De komst van expertsystemen roept bovendien ethische vragen op. Hoe is bijvoorbeeld vast te stellen of een systeem het best mogelijke advies geeft voor een individuele patiënt als de werking van het systeem niet transparant is? Voor een verantwoorde verdere ontwikkeling doen ontwikkelaars, artsen, patiënten en beleidsmakers er goed aan stil te staan bij deze kwesties en daarbij de lessen uit de praktijk mee te nemen.
"Digitale dokters - Een ethische verkenning van medische expertsystemen" is onderdeel van het thema "Data, AI en e-health"
Belangrijkste punten uit dit signalement
Er zijn hoge verwachtingen van toepassingen van kunstmatige intelligentie. Een voorbeeld zijn medische expertsystemen die de arts kunnen assisteren bij belangrijke keuzes over behandelingen. Het gebruik ervan roept ook ethische vragen op, bijvoorbeeld over de normatieve keuzes die ten grondslag liggen aan de systemen en de invloed daarvan op de arts en de patiënt.
Wat is de (gewenste) invloed van medische expertsystemen op de gezamenlijke besluitvorming van arts en patiënt? Wat betekent de komst van medische expertsystemen voor goede zorg, autonomie, aansprakelijkheid en privacy?
Het gebruik van medische expertsystemen kan op gespannen voet komen te staan met of vragen oproepen over: het belang van transparantie over totstandkoming van een diagnose of behandelingsvoorstel; de professionele verantwoordelijkheid van artsen; de autonomie van de patiënt en de gezamenlijke besluitvorming; de wet- en regelgeving die bedoeld is om de privacy van patiënten te beschermen.
De verwachtingen van medische expertsystemen zijn groot, maar vooralsnog kunnen die verwachtingen niet waargemaakt worden. Ontwikkelaars en gebruikers staan voor technologische en praktische uitdagingen, maar er zijn ook ethische vraagstukken die om reflectie vragen.
Het gebruik van medische expertsystemen vraagt reflectie over ethische vraagstukken zoals:
Hoe is vast te stellen of het systeem het best mogelijke advies geeft als de werking van het systeem niet transparant is?
Wat als de systemen die gericht zijn op het beter presteren van de arts juist een ongunstig effect hebben op de geleverde zorg?
Als de systemen overduidelijk beter presteren dan artsen op bepaalde taken, is het dan ethisch verantwoord ze niet te gebruiken?
