Menno Govaers is masterstudent Applied Ethics aan de Universiteit Utrecht en liep van februari tot juli stage bij het CEG. Van zijn hand hieronder een verslag van de vierde editie van Morele Wezens in de Rode Hoed, het podium voor denkwerk in uitvoering. Dit keer over de ethiek AI voor gezondheid en zorg.
Op maandag 1 juni stond de Rode Hoed in het teken van artificiële intelligentie voor gezondheid en zorg. Aanleiding was het nieuwe rapport van het Centrum voor Ethiek en Gezondheid (CEG), Kunstmatige oplossingen? De ethiek van AI voor gezondheid en zorg. Onder leiding van moderator Shula Tas gingen verschillende denkers en doeners met elkaar én met het publiek in gesprek over de vraag welke rol AI zou moeten spelen in de toekomst van de zorg.
De avond begon met een peiling onder het publiek. Wat is de grootste uitdaging voor gezondheid en zorg? Van de verschillende antwoorden was schaarste dé grote gemene deler. Over de tweede vraag – Kan AI een rol spelen in de oplossing ervan? – was het publiek sterk verdeeld. Zo werd gevreesd dat de druk eerder zou toe- dan afnemen, bijvoorbeeld doordat generatieve AI de drempel verlaagt om klachten in te dienen over de zorg. Ook maakte men zich zorgen over afhankelijkheid van technologie en de invloed van commerciële partijen. Maar sommigen zagen vooral kansen om de druk op de zorg te verlichten. Aan hen was de derde vraag gericht: hoe kan AI een rol spelen in een oplossing? Antwoorden hierop gingen met name over efficiënter werken door te ondersteunen bij administratie, maar ook over bijdragen aan diagnostiek en preventie.
Hafez Ismaïli M'Hamdi, ethicus en vicevoorzitter van het CEG, lichtte vervolgens toe hoe het rapport tot stand was gekomen. Daarbij stond steeds het onderscheid centraal tussen het doel en middel: welke breed erkende uitdaging willen we oplossen, en is AI daarvoor het juiste middel?
In het eerste panelgesprek bespraken Joost de Blok (bestuurder bij Buurtzorg Nederland) en Sesmu Arbous (anesthesioloog-intensivist) de concrete toepassingen van AI in de zorgpraktijk. De Blok wees op de mogelijkheden van spraakgestuurd rapporteren en automatische samenvattingen van patiëntgegevens. Vooral dat laatste zien hij en de zorgverleners als een waardevolle toepassing. Waar zorgverleners onderling kunnen verschillen in schrijfvaardigheid of het leggen van accenten op bepaalde informatie, zorgt AI voor uniforme en overzichtelijke samenvattingen. Zowel zorgverleners als patiënten ervaren daar voordelen van. Tegelijkertijd blijven er vragen bestaan over opslag van gegevens en de bestemming van de verzamelde informatie.
Ook Arbous liet zien hoe AI kan bijdragen aan betere zorg. Zij vertelde over patiënten die na een opname op de intensive care vaak nog een kwetsbare periode doormaken. Met behulp van draagbare technologie als een horloge kunnen bijvoorbeeld bloeddruk en hartslag thuis worden gemonitord, waardoor problemen eerder worden gesignaleerd. Daarbij is het doel niet alleen betere nazorg, maar ook preventie: voorkomen dat patiënten opnieuw moeten worden opgenomen. Door patroonherkenning met AI kan bovendien beter worden voorzien welke patiënten welke zorg nodig zullen hebben, wat helpt bij de planning van zorg.
Beide voorbeelden maakten duidelijk dat AI kan helpen om zorgprocessen efficiënter te organiseren of om risico's eerder te herkennen. Tegelijkertijd riep het gesprek de vraag op welke problemen hiermee precies worden opgelost en welke nieuwe afhankelijkheden ontstaan.
In het tweede panelgesprek verschoof de aandacht naar de bredere maatschappelijke en ethische implicaties van AI. Pieter Jeekel (voorzitter Nederlandse AI Coalitie voor Gezondheid en Zorg), Tamar Sharon (hoogleraar ethiek en filosofie) en Julia Janssen (kunstenaar, onderzoeker, digitale & mensenrechten activist) bespraken vanuit verschillende perspectieven wat er op het spel staat wanneer AI een steeds grotere rol krijgt in de zorg.
Jeekel stelde dat slechts een klein deel (3%) van de ontwikkelde AI-toepassingen uiteindelijk daadwerkelijk in de praktijk terechtkomt. Volgens hem komt dat onder meer doordat technologische innovaties moeilijk in bestaande werkprocessen zijn in te passen. Tegelijkertijd verwacht hij dat de toepassingen van AI in de praktijk snel verder zullen groeien.
Sharon plaatste hier kanttekeningen bij. Volgens haar moeten we onderscheid maken tussen de praktijk en de impact. Dat een toepassing wordt gebruikt, betekent nog niet dat zij daadwerkelijk het probleem oplost waarvoor zij is ontwikkeld. Veel beloften over efficiëntie en tijdswinst zijn volgens haar nog onvoldoende onderbouwd. Bovendien ontbreekt vaak het soort empirisch bewijs dat in andere delen van de gezondheidszorg vanzelfsprekend wordt geacht door middel van randomized trials of bepaalde criteria.
Janssen kaartte de taal aan waarmee over AI wordt gesproken. Het begrip "kunstmatige intelligentie" suggereert volgens haar eigenschappen die de technologie niet bezit. In plaats van “Hij denkt na”, zouden we moeten spreken over “Het berekent”. Bovendien ontstaat volgens Janssen het beeld, voornamelijk door een machtige Amerikaanse lobby, dat AI een onvermijdelijke ontwikkeling is. AI is iets waar samenlevingen zich maar aan moeten aanpassen. Juist dat idee stelde Janssen ter discussie.
In het gesprek kwam herhaaldelijk de vraag naar voren of AI niet te snel als oplossing wordt gepresenteerd voor problemen die in werkelijkheid een andere oorsprong hebben. Sharon verwees naar het risico van technosolutionisme: de neiging om complexe maatschappelijke vraagstukken vooral als technische uitdagingen te benaderen. Wanneer bijvoorbeeld diabetes hoofdzakelijk wordt benaderd als een monitoringsprobleem door een onvoldoende beschikbaarheid van monitoringsapps, dreigen vragen over leefomstandigheden, voeding en ongelijkheid naar de achtergrond te verdwijnen.
Een terugkerend thema tijdens de avond was ook de verhouding tussen mens en technologie. Moeten zorgverleners hun werk aanpassen aan nieuwe technologische systemen, of moeten technologische toepassingen dienen aan bestaande zorgpraktijken en maatschappelijke waarden? Volgens Sharon is te vaak sprake van het eerste. Ze pleitte ervoor dat niet mensen zich zouden moeten aanpassen aan AI, maar dat AI aantoonbaar moet bijdragen aan menselijke doelen.
Janssen sloot daarbij aan met vragen over de invloed van grote technologiebedrijven, de omgang met data en de bescherming van fundamentele rechten. Meer digitalisering betekent immers ook meer dataverzameling, meer afhankelijkheid van data-infrastructuren en nieuwe kwetsbaarheden.
Ook de gevolgen voor kennis en vaardigheden kwamen aan bod. Waar eerder werd gesproken over "de-skilling" (het verliezen van vaardigheden door automatisering) wees Sharon op het risico van "never-skilling": toekomstige professionals, i.e. de huidige jonge generatie, die bepaalde vaardigheden nooit zullen ontwikkelen omdat technologie de taken waarin die vaardigheden worden gevormd vanaf het begin overneemt.
Aan het einde van de avond bleek één punt al te meer duidelijk. De discussie zou niet moeten beginnen bij de vraag hoe AI kan worden ingezet voor gezondheid en zorg, maar bij een eerdere vraag: bieden AI-toepassingen eigenlijk wel zinnige oplossingen voor bepaalde uitdagingen in gezondheid en zorg? En als dat geval is, hoe kan zo’n AI-toepassing dan zorgvuldig worden ingezet?
Arbous wees tot slot nog op de catch-22 van AI voor de zorg: om deze vragen te beantwoorden is empirisch onderzoek nodig, en dat onderzoek kan alleen worden gedaan als we AI ook daadwerkelijk gebruiken. De ‘CEG-check voor zinnige en zorgvuldige AI’ laat zien dat dit een proces is van doorgaande evaluatie en heroverweging: is de toepassing zinnig? En kunnen we het zorgvuldig gebruiken? Zo niet, terug naar de tekentafel. En ondertussen ‘op zoek naar andere effectieve en ethisch minder problematische oplossingen’.
Dit verslag is geschreven door Menno Govaers.