Guus Schrijvers

Door Jan Christiaan Huijsman.

Inleiding

Dit artikel bespreekt de kamerbrief “Waardevolle AI voor de Gezondheid” van VWS minister Kuipers aan de 2e Kamer van 9 mei 2022. Het beschrijft de toepassingen van AI in de zorg, de beleidsontwikkelingen in Europa en in Nederland en sluit af met een aanbeveling voor een viertal beleidsmaatregelen en een advies om haast te maken gelet op de ontwikkelingen in en rond de zorg.

De grote belofte van AI in de zorg

Kunstmatige intelligentie (AI – artificial intelligence) in de zorg wordt al vele jaren gezien als de grote belofte. De zorg is immers een zeer data-intensieve sector waar met AI significante verbeteringen in diagnostiek, behandelingen en gezondheid mogelijk moeten zijn. Grofweg kunnen we drie toepassingsgebieden van AI in de zorg benoemen:

1. Herkenning, van beelden, teksten en spraak. Denk aan radiologiebeelden, automatische tekstuele samenvattingen van spraakopnames of langere teksten uit EPD of ECD’s of patiëntoverdrachten
2. Voorspellingen, van risico’s bij behandelopties, kansen op bepaalde ziekten, op basis van grote hoeveelheden data, met een vertaling naar het individu. Dit raakt de lang gekoesterde droom van ‘gepersonaliseerde zorg’.
3. Robotica, chatbots die sociaal en intelligent interacteren met individu en omgeving en voortdurend leren, Robotic Process Automation (RPA), het automatiseren van bepaalde terugkerende taken op basis van patroonherkenning en statistieken

Toch maakt AI moeizaam vooruitgang, niet alleen in de zorg. Driverless driving lijkt technologisch inmiddels goed mogelijk te zijn maar onder meer wettelijke en ethische overwegingen zetten er tot nu toe de rem op. De bot’s (autonoom opererende software die interacteert met gebruikers en systemen) die we gebruiken bij allerlei bekende retailwebsites en ook op de smartphones met Alexa en Siri functioneren gebrekkig en lijken niet veel beter te worden. Ik probeer met regelmaat Siri uit maar het stelt vaak teleur met onbruikbare respons. Het grote Health-AI initiatief van IBM – Watson – is na miljardeninvesteringen en grote teleurstellingen vorig jaar stopgezet en de onderdelen zijn in de uitverkoop gedaan.

En toch zet AI door en de belangstelling ervoor gezien het grote potentieel en de er mee gemoeide mega-belangen. Minister Kuipers van VWS heeft daarom begin mei een kamerbrief geschreven over “waardevolle AI voor gezondheid”. De 11 bladzijden lange brief beschouwt vooral de ontwikkelingen rond AI in Nederland en Europa en somt de ambities, uitdagingen en belemmeringen op. Daarmee is het voornamelijk een inleiding tot het vraagstuk hoe de AI belofte waar te maken en op te schalen op een zorgvuldige en veilige wijze met oog voor de publieke waarden. Er wordt meerdere keren naar Europese waarden verwezen in combinatie met de ambitie om als Europa wereldwijd de standaard neer te zetten. Dat lijkt me een contradictio in terminis gezien de verschillen in maatschappelijke en economische waarden tussen de grote machtsblokken.

Europese ambities

De EU heeft in het voorjaar van 2021 een voorstel gedaan tot een verordening over AI (AI Act) met een strategisch raamwerk dat de ontwikkeling, inzet en randvoorwaarden van AI in alle sectoren moet regelen. AI als medisch hulpmiddel valt nu al onder Europese wetgeving (MDR). Het kabinet staat positief tegenover die AI Act. Dat geldt ook al voor het voorstel voor een Europese verordening over gezondheidsdata (European Health Data Space – EHDS). Daarmee zetten we als Nederland sterk in op Europese wet- en regelgeving. Voordeel is de gelijkgerichtheid op Europees niveau. Nadeel is dat dit lang kan gaan duren terwijl Azië en de V.S. in sneltreinvaart voortgang maken zowel technologisch als qua opschaling in de praktijk.

Probleemstelling: groot potentieel, weinig tractie

De kamerbrief schetst duidelijk de belemmeringen tot grootschalige ontwikkelingen en inzet van AI in de Nederlandse zorg:

• Onvoldoende beschikbaarheid van – kwalitatief goede – data
• Onvoldoende transparantie op de kwaliteit en betrouwbaarheid van de algoritmes en andere AI-componenten
• Terughoudendheid bij gebruikers en beleidsmakers
• Onzekerheid wat mag en niet mag

Gevolgen hiervan zijn handelingsverlegenheid, versnippering van initiatieven, dichte deuren en een frusterend lage innovatiesnelheid. Dit leidt tot een vicieuze cirkel van weinig ontwikkeling, weinig toepassingen en weinig vraag naar AI.

Genoeg beleidsontwikkelingen en programma’s

In 2019 publiceerde het kabinet haar Strategisch Actieplan voor AI (SAPAI) met een overkoepelende aanpak voor beleidsontwikkeling en maatregelen, gericht op kansen, voorwaarden en publieke belangen. Hieruit ontstond de Nederlandse AI Coalitie (NL AIC) met daarbinnen de werkgroep Gezondheid en Zorg, mede als uitvloeisel van het opgezette Programma Waardevolle AI in de Zorg. De ‘Leidraad Kwaliteit AI in de Zorg’ is één van de eerste resultaten van die werkgroep.

Ook de Wetenschappelijke Raad voor Regeringsbeleid (WRR) heeft haar visie op AI gepubliceerd in het – eind 2021 verschenen – rapport “Opgave AI. De nieuwe systeemtechnologie”. Het telt maar liefst 512 pagina’s en heeft relatief weinig publiciteit gehad. Onterecht denk ik omdat de WRR zowel de distantie als het niveau heeft om diepgaand op grote maatschappelijke thema’s in te gaan. Zo schetsen ze onder meer het Collingridge dilemma voor de overheid met betrekking tot het AI vraagstuk: in dit dilemma moet de overheid kiezen tussen vroegtijdige regulering om de burgers te beschermen versus stimulering om de technologie en het potentieel te ontsluiten. Als je te vroeg reguleert smoor je mogelijk ondernemerschap en een innovatieklimaat van AI in de zorg. Als je te laat reguleert wordt het een wild-west markt, bij wijze van spreken. De WRR pleit voor regulering nu en er niet langer mee te wachten. Dilemma voor het kabinet is de aansluiting op Europese ontwikkelingen.

Bottom-line

In mijn loopbaan als ex-IBM’er en nu werkzaam in de zorg ben ik zo’n dertig jaar bekend met AI in het bedrijfsleven en in de zorg waar het lang bekend stond als Clinical Decision Support Systemen (CDSS). Ik constateer dat het in de zorg in Nederland heel langzaam gaat met de ontwikkeling – laat staan de opschaling – van AI toepassingen. Het is een paradox gezien de enorme hoeveelheid data, beschikbare kennis en motivatie. Een aantal randvoorwaarden vergen snelle duidelijkheid en actie om de geschetste vicieuze cirkel te doorbreken:

• (1) Maatschappelijke publieke kaders om zorgdata onder voorwaarden ter beschikking te stellen aan AI initiatieven in de zorg. Hier ligt een expliciete rol voor de overheid, mede in het kader van haar terechte ambities om de digitalisering in de samenleving te versnellen. Een voorbeeld is het opzetten van publieke algoritmeregisters en de periodieke verplichting deze te evalueren in combinatie met opleidingen en certificeringen van betrokken professionals, bestuurders en beleidsmakers, twee terechte aanbevelingen van de WRR
• (2) Stevige inzet op standaardisatie en hergebruik (éénmaal registreren, in het primair proces en van daaruit ten behoeve van secundaire toepassingen als onderzoek en kwaliteit) van data zodat deze op schaal en zoveel mogelijk geautomatiseerd ter beschikking komt van AI-initiatieven.
• (3) Een aanpak en afwegingskader voor actieve gefaseerde ontsluiting van deze gestandaardiseerde data ten behoeve van publieke -, populatie – en individuele gezondheidsbelangen.
• (4) Ter beschikking stelling van een aantal financieringsregelingen ter stimulering van AI-initiatieven in de publieke en private omgeving. Dit kan gecombineerd worden met bovengenoemde voorwaarden waardoor een ‘gecontroleerde’ stimulering en versnelling van AI-initiatieven en toepassingen plaatsvindt.

Samengevat: vertaal alle mooie ambities en nota’s zo snel mogelijk in concrete beleidsmaatregelen. De maatschappelijke kosten baten analyse is klip en klaar: binnen een aantal jaren loopt de zorg in Nederland vast, door de snel toenemende vergrijzing, gebrek aan personeel, middelen en een te lage productiviteit. De verwachte bijdrage van AI aan voorspellingen en herkenningen van ziekten ten bate van de individuele patiënt en zorgverlener is te groot om nog langer links te laten liggen. Ook dat valt onder de zorgplicht.

Bespreking van het proefschrift van Roel Boumans

Door Rolien de Jong.

Een mooie stap in het leren over de toepassing van sociale robots werd gezet op 30 september j.l. toen Roel Boumans zijn proefschrift over  Haalbaarheid en effectiviteit van sociale robots bij het verkrijgen van door de patiënt gerapporteerde resultaten van oudere volwassenen verdedigde. De aanleiding om dit te onderzoeken was de hoge werklast bij zorgverleners waardoor Patient Reported Outcome Measurements (PROMs) onvoldoende worden meegenomen bij de evaluatie van zorg. Sinds de introductie van Value-Based Health Care is het belang van PROMS bij de behandeling onderbouwd: de ervaring van patiënten dient betrokken te worden bij het vaststellen van de behandeling. Boumans wilde weten of sociale robots deze gegevens onafhankelijk konden verzamelen op een manier die acceptabel, effectief en prettig was voor patiënten en mantelzorgers. De verzamelde gegevens konden dan worden geïnterpreteerd door de zorgverleners en ingezet voor gedeelde besluitvorming.

Om een antwoord te krijgen op zijn vraag is, na een zorgvuldige ontwerpfase, als eerste een evaluatie uitgevoerd naar de effectiviteit, aanvaardbaarheid, betrouwbaarheid en plezier bij thuiswonende ouderen. Daarna is dit onderzocht bij poliklinische patiëntbezoeken en tenslotte ook bij ziekenhuispatiënten. Uit de studies is geconcludeerd dat het haalbaar is om een sociale robot in te zetten als ondersteuning bij het verzamelen van gegevens over de gezondheidsstatus bij de patiënt. Speciale aandacht is wel blijvend nodig voor het ontwerp van de robotinteracties, een zorgvuldige introductie bij de zorgverleners en de infrastructuur.

Interessant aan het onderzoek is dat de robots zijn ingezet op taken die nu niet of onvoldoende worden uitgevoerd maar die potentieel wel leiden tot verbetering op alle doelen van de Triple Aim. Veelbelovend aan het onderzoek van Boumans is dat vooral goed gescoord is op aanvaardbaarheid, betrouwbaarheid en plezier.

Aan de slag met sociale robots in de zorg en leer ervan

1. De ervaringen van Boumans geven alle reden om vanuit beperkingen in het zorgproces te kijken naar de mogelijkheid van het inzetten van sociale robots. Er zijn nog veel taken die nu niet of onvoldoende worden uitgevoerd die de zorg aan mensen ten goede zouden komen. Gebleken is dat mensen herkennen dat ze met een robot te maken hebben en niet met een mens maar wel voldoende vertrouwen hebben om een interactie aan te gaan.
2. Er is natuurlijk al op veel vlakken ervaring met robots waar mensen op vertrouwen, bijvoorbeeld de automatische piloot in een vliegtuig. De combinatie van mens en robot werkt het beste en wekt het meeste vertrouwen. Het blijft dat betekenisvolle menselijke controle over robots nodig is, zoals Boumans laat zien in het ontwerpproces. Het moeten mensen zijn die de verantwoordelijkheid dragen voor de robots.
3. Natuurlijk vragen privacy issues ook aandacht bij de inzet van sociale robots, maar de privacy discussie bij robots is niet anders dan bij de rest van de ICT in de zorg en elders.

Ook elders leert men over sociale robots in de praktijk

Meerdere zorginstellingen in de langdurige zorg werken met sociale robots in hun praktijk om te leren over het mens–computer contact. Een voorbeeld is Philadelphia, waar robots worden ingezet als ondersteuning van het bestaande zorgproces bij mensen met een verstandelijke beperking, met het doel om ervan te leren. Op deze manier streven ze ernaar om mensen die al zelfstandig zijn, nog meer regie te geven over hun leven. Vooral de structuur die de robot aanbiedt lijkt ondersteunend te zijn.

Evenals Boumans pleit het Centrum voor Ethiek en Gezondheid (CEG) in een rapport over CEG Robotisering in de langdurige zorg: de ethiek van e-health (2020) om te leren over sociale robots door meer onderzoek in de praktijk te doen en continue te leren. Dit rapport is opgesteld op verzoek van VWS om de ethische en morele aspecten rondom robotisering in de langdurige zorg in kaart te brengen. Ook het CEG concludeert dat de belofte om bij te dragen aan het verminderen van personeelstekorten door inzet van robots nog niet wordt waargemaakt. Als belangrijkste reden ziet men dat techniek nog onvoldoende ontwikkeld is en zorgverleners over onvoldoende vaardigheden beschikken.

Mijn devies:  volg het voorbeeld van Roel Boumans … doen en leren!

Een bespreking van een rapport van de KPMG.  Door Rolien de Jong, docent Master Innovatie Zorg en Welzijn (MIZW) aan de HU.

Op verzoek van VWS heeft KPMG (2020) een rapport opgesteld over Artificiële Intelligentie (AI): Inventarisatie AI-toepassingen in gezondheid en zorg in Nederland. Het doel hiervan is om voor zorgbestuurders, zorgverleners en ontwikkelaars het speelveld waarin zij opereren in kaart te brengen. Daarnaast om input te leveren voor het ontwikkelen van nieuwe toepassingen en voor visie en beleid om AI in de praktijk vorm te geven.

De scope van deze inventarisatie wordt bepaald door de definitie van AI: ‘Systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie te ondernemen om specifieke doelen te bereiken’ (https://www.datavoorgezondheid.nl/over-ai) en de eis dat de AI-toepassingen in de zorgpraktijk getest of gebruikt worden (pilot- en productiefase). Er waren 400 systemen die binnen de scope leken te vallen, bij 111 ervan  is een verdiepende vragenlijst ingevuld.

Bevindingen

De belangrijkste bevindingen zoals vermeld in de Kamerbrief (5 oktober 2020) zijn:

• De medisch-specialistische sector is koploper (64% van de geïnventariseerde AI-toepassingen wordt gebruikt in deze sector) wat betreft het aantal AI toepassingen in de pilot-fase en verder. De meeste toepassingen richten zich op analyse van beelden (CT-scans, MRI-scans en fundusfoto’s). Sectoren waarin nog relatief weinig gebruik wordt gemaakt van AI zijn de gehandicaptenzorg en de jeugdzorg.
• AI-toepassingen worden het vaakst ingezet bij de start van het zorgtraject (35%), voor diagnostiek. AI als onderdeel van de behandeling komt minder vaak voor (6%).
• De AI-toepassingen maken het vaakst gebruik van patroonherkenning (29%), gevolgd door beeldherkenning (24%) en natural language processing (16%).
• Naast het betrekken van patiënten wordt er in de fases van pilot en (pre)productie veel samengewerkt met andere partijen bij de ontwikkeling van AI-toepassingen, zoals een kennisinstelling, technologiebedrijf of zorginstelling. Het delen van data en modellen onderling wordt als lastig ervaren, maar het samenwerken lijkt wel bevorderlijk voor het succes;
• De meeste AI-toepassingen hebben als doel het verbeteren van de zorgkwaliteit (77%) of het verbeteren van de doelmatigheid van zorg (76%).

Daarnaast vermeld KPMG in de rapportage:

• Voor bijna de helft van de toepassingen ontbreken businesscases/waarde proposities.

De rapportage roept een aantal gedachten op.

1. Dit goede initiatief van VWS om overzicht te creëren bevordert ontwikkeling van innovatie maar er is nog een lange weg te gaan

Door de stand van zaken met AI in het zorgproces te publiceren faciliteert de overheid het veld met inzichten voor doorontwikkeling van innovaties.

Het is geen verrassende uitkomst dat AI vooral wordt ingezet bij analyse van beelden, veelal aan het begin van de behandeling (diagnostische fase). Voor diagnostiek is AI als eerste inzetbaar omdat de voorwaarden wat betreft techniek in het veld aanwezig zijn: AI werkt goed bij input van vaste data, zoals scans en metingen.

Bovendien is er wat betreft de radiologie, die deze scans en metingen moeten beoordelen, een dringend probleem: er is (wereldwijd) een tekort aan radiologen, dus grote noodzaak om instrumenten als AI in te zetten om personeel effectief in te kunnen zetten.

Verderop in zorgprocessen na de diagnostische fase waar minder (geordende) vaste data beschikbaar zijn, kan AI ook minder worden ingezet. Voorwaarde is dat als eerste een  dringende noodzaak of zorgprobleem gedeeld wordt waarbij AI zou kunnen worden ingezet en vervolgens dat de benodigde data geordend beschikbaar zijn. Dit is echter niet het geval omdat de complexiteit wat betreft betrokkenen, behandeling en resultaten nog erg groot is.

Dan blijft de vraag of de uitkomsten van AI te vertrouwen zijn. Op dit moment is het altijd zo dat een mens beslist om de uitkomsten van AI in te zetten in de behandeling. Er is bijvoorbeeld altijd een radioloog die besluit in hoeverre het advies van de computer wordt meegenomen. Hoe dat in de toekomst zal gaan is nu nog niet te voorspellen.

2. Zorgprofessionals lopen achter ontwikkelaars aan op weg naar werkende AI

AI is de nieuwste trend of hype binnen de ontwikkeling van zorg, maar wel de zoveelste. In alle tijdschriften is er wat over te lezen. We herinneren ons nog de voorgaande trends zoals: de komst van internet waardoor het mogelijk werd eHealth te leveren (zorg met inzet van IT); vervolgens Gezondheid 2.0 (mogelijkheden voor patiënten om te participeren in de zorg via IT); de komst van de cloud (via gezamenlijke IT infrastructuur gegevens delen); big data (alle gegevens die belangrijk zijn voor de gezondheid worden verzameld) en nu AI (systemen die de big data kunnen analyseren).

Niet voor niets volgen deze trends elkaar op, als je een stap genomen hebt doemen de mogelijkheden van de volgende stappen al op. Maar het is goed om te beseffen dat niet iedereen even snel loopt. Sommigen zijn nog bezig de vorige trend te onderzoeken. Waar zit iedereen?

• Betrokkenen (ontwikkelaars, patiënten, zorgprofessionals) die geïnteresseerd zijn in de ontwikkeling van techniek lopen voorop met AI.
• Betrokkenen (ontwikkelaars, patiënten, zorgprofessionals) die geïnteresseerd zijn in de inhoud van zorg zoeken naar zinvolle toepassing van eHealth en Gezondheid 2.0.
• De komst van COVID19 zorgt voor beide groepen voor een versnelling in dit denken.

Voor een effectieve ontwikkeling van het hele domein van digitale zorg is het belangrijk om de verbinding te houden met alle technische en inhoudelijke zorgontwikkelaars, van eHealth tot AI.

3. Financiering van AI in beeld?

Opvallend in de rapportage zelf is de nadruk op de afwezigheid van een businesscase (BC). Is het niet juist logisch dat een vernieuwing als eerste de meerwaarde voor de samenleving moet aantonen voordat je er een economische waarde aan kan geven? Als deze waarde niet duidelijk is, zijn we wellicht commerciële partijen aan het helpen om geld te verdienen.

Mogelijk, wordt in de rapportage aangegeven, heeft de beperkte aanwezigheid van een BC te maken met de beperkte betrokkenheid van zorgverzekeraars? Wat kan een reden zijn voor deze beperkte betrokkenheid? Zien zij voor zichzelf geen rol als financier van de zorg?

Conclusie

Concluderend kan gezegd worden dat deze rapportage een mooi overzicht geeft van de stand van zaken en tevens laat zien waar er nog werk te verrichten is. Dat werk zit vooral in het waarom, waar en hoe we AI willen toepassen en welke keuzes we (alle stakeholders) hierover maken.