Pleidooi hoogleraar Digital Health Marlies Schijven: ‘Maak niet de fout technologie in de zorg als doel te zien’

‘Op het gebied van technologie en digitalisering is er steeds meer mogelijk, maar als het om toepassingen in de zorg gaat, moet je voorzichtig zijn. Toen ChatGPT net in opkomst was, waren er mensen - vooral van buiten de zorg - die allerlei mogelijkheden zagen om het toe te passen in de zorg. Maar informatie over specifieke patiënten in openbare chatbots stoppen, botst met de privacywetgeving. Ook zitten we in de zorg niet op elke innovatie te wachten. Voor je het weet heb je toepassingen die je eerder méér werk opleveren dan minder.

We moeten niet de fout maken technologie als doel te zien. Vraag dus niet: wat is er allemaal mogelijk? Maar begin met de vraag wat je eigenlijk wilt oplossen en kijk dan pas óf en hoe technologie je kan helpen. Neem de grootste uitdaging in de zorg, het tekort aan mensen. Er is veel stress en uitval onder zorgpersoneel, terwijl jongeren wel twee keer nadenken voor ze een zorgopleiding gaan doen. Begin met zorgvuldig onderzoeken waar de pijnpunten liggen, en wat mensen zou helpen om met plezier te werken en het vol te houden. Dat zijn kernvragen waar vaak te snel aan voorbij wordt gegaan, terwijl ze het uitgangspunt zouden moeten zijn van elke vernieuwing. Dus: wat wil je oplossen en wat voor stukje technologie past daar dan bij?

Dat gaat lang niet altijd goed, omdat de werelden van technologie en zorg behoorlijk gescheiden zijn. Als hoogleraar Digital Health probeer ik ze juist te verbinden. Ik heb een jaar Design Academy gedaan, daarna gezondheidswetenschappen en toen pas geneeskunde. Ik voel me in de eerste plaats dokter, maar weet ook goed hoe de zorg is georganiseerd en hoe je in creatieve oplossingen denkt. Waar zorg, schaarste en technologie elkaar raken, daar is op dit moment veel te ontdekken en onderzoeken. Wil je er goed over nadenken, dan moet je van meerdere markten thuis zijn, of je moet een goed team hebben waarin deskundigen uit de technologie en deskundigen uit de zorg samenwerken. Binnenkort bezoek ik daarom MICCAI, het jaarlijkse congres over data science. Heel inspirerend, want daar zie je de voorhoede van een nieuwe beweging: samenwerking tussen data scientists met een scherpe kijk op de zorg én hierin geïnteresseerde zorgverleners. Dat is echt een nieuw ecosysteem. 

‘We hebben allerlei regels voor als een dokter een fout maakt, maar voor AI-support modellen hebben we dat niet’

Er is veel te verkennen. AI heeft de toekomst, maar we begrijpen deze nieuwe technologie nog niet goed genoeg. Ik zou zeggen, ga niet meteen breed generatieve AI-modellen toepassen, maar begin met goede en specifieke Large Language en Vision-Language Models. Dat zijn modellen waarbij met AI visuele en tekstuele data geïntegreerd worden in één raamwerk om uitkomsten te voorspellen. Zulke modellen kunnen allerlei patronen vaak al goed herkennen, maar maken nog belangrijke fouten. Ze kunnen bijvoorbeeld samenvattingen maken op basis van alle notities uit elektronische patiëntendossiers, maar herkennen daarin niet wat nou precies belangrijk is. Ze quoten vooral wat vaak herhaald wordt of wat eruit springt. Daarnaast moet je erop bedacht zijn dat AI kan gaan ‘hallucineren’; het gaat zelf informatie genereren die echt lijkt, maar dat niet is. Behalve onjuist is het gevaarlijk, omdat de uitkomst niet meer te herleiden is naar feiten, maar wél als waarheid gepresenteerd wordt.

Naast dat je heel goed moet weten wat er nodig is qua technologie, is vertrouwen belangrijk. Besef dat technologie - net zoals de mens - feilbaar is. Dat is in principe niet erg, maar je moet daarover wél goede afspraken maken. We hebben allerlei regels en procedures voor als een dokter of verpleegkundige een onbedoelde fout maakt. Voor AI-support modellen hebben we dat niet. Verwachtingsmanagement én verantwoordelijkheden rondom gebruik zijn nog niet goed bepaald. Waar technologie de zorg binnenkomt, valt dus nog heel veel te verkennen en te regelen. Daarvoor is nu echt het moment.’

Marlies Schijven is chirurg in het Amsterdam UMC en hoogleraar Digital Health aan de Universiteit van Amsterdam. Ze onderzoekt hoe technologie en digitale innovaties optimaal ingezet kunnen worden in de patiëntenzorg en in de opleiding van zorgprofessionals. Ze is bestuurslid van ZonMw, en lid van de raad van toezicht van het Meander Medisch Centrum.

Download het artikel als pdf
Lees meer artikelen uit het magazine