AI in de Zorg

Door Jan Christiaan Huijsman.

Inleiding

Dit artikel bespreekt de kamerbrief “Waardevolle AI voor de Gezondheid” van VWS minister Kuipers aan de 2e Kamer van 9 mei 2022. Het beschrijft de toepassingen van AI in de zorg, de beleidsontwikkelingen in Europa en in Nederland en sluit af met een aanbeveling voor een viertal beleidsmaatregelen en een advies om haast te maken gelet op de ontwikkelingen in en rond de zorg.

De grote belofte van AI in de zorg

Kunstmatige intelligentie (AI – artificial intelligence) in de zorg wordt al vele jaren gezien als de grote belofte. De zorg is immers een zeer data-intensieve sector waar met AI significante verbeteringen in diagnostiek, behandelingen en gezondheid mogelijk moeten zijn. Grofweg kunnen we drie toepassingsgebieden van AI in de zorg benoemen:

  1. Herkenning, van beelden, teksten en spraak. Denk aan radiologiebeelden, automatische tekstuele samenvattingen van spraakopnames of langere teksten uit EPD of ECD’s of patiëntoverdrachten
  2. Voorspellingen, van risico’s bij behandelopties, kansen op bepaalde ziekten, op basis van grote hoeveelheden data, met een vertaling naar het individu. Dit raakt de lang gekoesterde droom van ‘gepersonaliseerde zorg’.
  3. Robotica, chatbots die sociaal en intelligent interacteren met individu en omgeving en voortdurend leren, Robotic Process Automation (RPA), het automatiseren van bepaalde terugkerende taken op basis van patroonherkenning en statistieken

Toch maakt AI moeizaam vooruitgang, niet alleen in de zorg. Driverless driving lijkt technologisch inmiddels goed mogelijk te zijn maar onder meer wettelijke en ethische overwegingen zetten er tot nu toe de rem op. De bot’s (autonoom opererende software die interacteert met gebruikers en systemen) die we gebruiken bij allerlei bekende retailwebsites en ook op de smartphones met Alexa en Siri functioneren gebrekkig en lijken niet veel beter te worden. Ik probeer met regelmaat Siri uit maar het stelt vaak teleur met onbruikbare respons. Het grote Health-AI initiatief van IBM – Watson – is na miljardeninvesteringen en grote teleurstellingen vorig jaar stopgezet en de onderdelen zijn in de uitverkoop gedaan.

En toch zet AI door en de belangstelling ervoor gezien het grote potentieel en de er mee gemoeide mega-belangen. Minister Kuipers van VWS heeft daarom begin mei een kamerbrief geschreven over “waardevolle AI voor gezondheid”. De 11 bladzijden lange brief beschouwt vooral de ontwikkelingen rond AI in Nederland en Europa en somt de ambities, uitdagingen en belemmeringen op. Daarmee is het voornamelijk een inleiding tot het vraagstuk hoe de AI belofte waar te maken en op te schalen op een zorgvuldige en veilige wijze met oog voor de publieke waarden. Er wordt meerdere keren naar Europese waarden verwezen in combinatie met de ambitie om als Europa wereldwijd de standaard neer te zetten. Dat lijkt me een contradictio in terminis gezien de verschillen in maatschappelijke en economische waarden tussen de grote machtsblokken.

Europese ambities

De EU heeft in het voorjaar van 2021 een voorstel gedaan tot een verordening over AI (AI Act) met een strategisch raamwerk dat de ontwikkeling, inzet en randvoorwaarden van AI in alle sectoren moet regelen. AI als medisch hulpmiddel valt nu al onder Europese wetgeving (MDR). Het kabinet staat positief tegenover die AI Act. Dat geldt ook al voor het voorstel voor een Europese verordening over gezondheidsdata (European Health Data Space – EHDS). Daarmee zetten we als Nederland sterk in op Europese wet- en regelgeving. Voordeel is de gelijkgerichtheid op Europees niveau. Nadeel is dat dit lang kan gaan duren terwijl Azië en de V.S. in sneltreinvaart voortgang maken zowel technologisch als qua opschaling in de praktijk.

Probleemstelling: groot potentieel, weinig tractie

De kamerbrief schetst duidelijk de belemmeringen tot grootschalige ontwikkelingen en inzet van AI in de Nederlandse zorg:

  • Onvoldoende beschikbaarheid van – kwalitatief goede – data
  • Onvoldoende transparantie op de kwaliteit en betrouwbaarheid van de algoritmes en andere AI-componenten
  • Terughoudendheid bij gebruikers en beleidsmakers
  • Onzekerheid wat mag en niet mag

Gevolgen hiervan zijn handelingsverlegenheid, versnippering van initiatieven, dichte deuren en een frusterend lage innovatiesnelheid. Dit leidt tot een vicieuze cirkel van weinig ontwikkeling, weinig toepassingen en weinig vraag naar AI.

Genoeg beleidsontwikkelingen en programma’s

In 2019 publiceerde het kabinet haar Strategisch Actieplan voor AI (SAPAI) met een overkoepelende aanpak voor beleidsontwikkeling en maatregelen, gericht op kansen, voorwaarden en publieke belangen. Hieruit ontstond de Nederlandse AI Coalitie (NL AIC) met daarbinnen de werkgroep Gezondheid en Zorg, mede als uitvloeisel van het opgezette Programma Waardevolle AI in de Zorg. De ‘Leidraad Kwaliteit AI in de Zorg’ is één van de eerste resultaten van die werkgroep.

Ook de Wetenschappelijke Raad voor Regeringsbeleid (WRR) heeft haar visie op AI gepubliceerd in het – eind 2021 verschenen – rapport “Opgave AI. De nieuwe systeemtechnologie”. Het telt maar liefst 512 pagina’s en heeft relatief weinig publiciteit gehad. Onterecht denk ik omdat de WRR zowel de distantie als het niveau heeft om diepgaand op grote maatschappelijke thema’s in te gaan. Zo schetsen ze onder meer het Collingridge dilemma voor de overheid met betrekking tot het AI vraagstuk: in dit dilemma moet de overheid kiezen tussen vroegtijdige regulering om de burgers te beschermen versus stimulering om de technologie en het potentieel te ontsluiten. Als je te vroeg reguleert smoor je mogelijk ondernemerschap en een innovatieklimaat van AI in de zorg. Als je te laat reguleert wordt het een wild-west markt, bij wijze van spreken. De WRR pleit voor regulering nu en er niet langer mee te wachten. Dilemma voor het kabinet is de aansluiting op Europese ontwikkelingen.

Bottom-line

In mijn loopbaan als ex-IBM’er en nu werkzaam in de zorg ben ik zo’n dertig jaar bekend met AI in het bedrijfsleven en in de zorg waar het lang bekend stond als Clinical Decision Support Systemen (CDSS). Ik constateer dat het in de zorg in Nederland heel langzaam gaat met de ontwikkeling – laat staan de opschaling – van AI toepassingen. Het is een paradox gezien de enorme hoeveelheid data, beschikbare kennis en motivatie. Een aantal randvoorwaarden vergen snelle duidelijkheid en actie om de geschetste vicieuze cirkel te doorbreken:

  • (1) Maatschappelijke publieke kaders om zorgdata onder voorwaarden ter beschikking te stellen aan AI initiatieven in de zorg. Hier ligt een expliciete rol voor de overheid, mede in het kader van haar terechte ambities om de digitalisering in de samenleving te versnellen. Een voorbeeld is het opzetten van publieke algoritmeregisters en de periodieke verplichting deze te evalueren in combinatie met opleidingen en certificeringen van betrokken professionals, bestuurders en beleidsmakers, twee terechte aanbevelingen van de WRR
  • (2) Stevige inzet op standaardisatie en hergebruik (éénmaal registreren, in het primair proces en van daaruit ten behoeve van secundaire toepassingen als onderzoek en kwaliteit) van data zodat deze op schaal en zoveel mogelijk geautomatiseerd ter beschikking komt van AI-initiatieven.
  • (3) Een aanpak en afwegingskader voor actieve gefaseerde ontsluiting van deze gestandaardiseerde data ten behoeve van publieke -, populatie – en individuele gezondheidsbelangen.
  • (4) Ter beschikking stelling van een aantal financieringsregelingen ter stimulering van AI-initiatieven in de publieke en private omgeving. Dit kan gecombineerd worden met bovengenoemde voorwaarden waardoor een ‘gecontroleerde’ stimulering en versnelling van AI-initiatieven en toepassingen plaatsvindt.

Samengevat: vertaal alle mooie ambities en nota’s zo snel mogelijk in concrete beleidsmaatregelen. De maatschappelijke kosten baten analyse is klip en klaar: binnen een aantal jaren loopt de zorg in Nederland vast, door de snel toenemende vergrijzing, gebrek aan personeel, middelen en een te lage productiviteit. De verwachte bijdrage van AI aan voorspellingen en herkenningen van ziekten ten bate van de individuele patiënt en zorgverlener is te groot om nog langer links te laten liggen. Ook dat valt onder de zorgplicht.

2 Reacties op “AI in de Zorg”

  1. Inderdaad herkenbaar. Voor mij als jurist zeker de vraag wat kan wel, wat kan niet? Maar ook wie is waar voor aansprakelijk? Hoe weet ik zeker dat de kwaliteit van het algoritme goed? Etc. Het ontbreken van een duidelijk (juridisch) kader belemmert het in gebruik nemen van een AI toepassing.

    Beantwoorden

Geef een reactie

XHTML: U kunt de volgende tags gebruiken: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>