AI en patiëntveiligheid: Kansen en aandachtspunten
Vrijwel iedereen gebruikt inmiddels Artificial Intelligence (AI) en ook in de zorg neemt het gebruik toe. Welke aandachtspunten zijn er met het oog op de patiëntveiligheid? Deze vraag stond centraal tijdens een gezamenlijke bijeenkomst van het Netwerk AI en het Platform Patiëntveiligheid van de Federatie Medisch Specialisten op 3 februari.
Vertrouwen als succesfactor
Michel van Genderen, intensivist en associate professor Erasmus MC, ging in op de snelle ontwikkelingen rondom AI en hoe dokters hier het beste mee om kunnen gaan. ’In tijden van toenemende zorgvraag en personeelskrapte kan AI veel voor de zorg betekenen. Toch blijft meer dan 98% van de AI-tools hangen in de ontwikkelfase. Van Genderen benoemde verschillende succesfactoren voor implementatie van AI. ‘Een essentiële factor is vertrouwen. En om een AI-tool te kunnen vertrouwen, moet je het allereerst snappen. AI-geletterdheid bij dokters is daarom ook van groot belang.’
Evidence sneller ontsluiten met AI
Lotty Hooft, directeur Cochrane Nederland sprak over de waarde van AI in evidence-based geneeskunde. Doel van Cochrane is hoogwaardige wetenschappelijke evidence genereren en toegankelijk maken. Zij gebruiken AI bijvoorbeeld voor snellere literatuur searches, het automatisch labelen van studies waardoor onderzoekers sneller relevante informatie kunnen vinden, en screening van databases. Het risico daarbij is wel dat AI soms fouten maakt of resultaten mist. Om deze risico’s zo goed mogelijk te bewaken, moeten professionals in de lead blijven. Ze moeten AI begrijpen en kunnen beoordelen, weten in welke mate AI autonome beslissingen kan nemen en onderbouwd kunnen afwijken van AI-aanbevelingen.
Wat is er nodig voor goede AI?
Tijs Stehmann en Aram Zegerius deelden hun ervaringen bij het ontwikkelen van Ask Aletta, een AI-tool voor het makkelijker en sneller opzoeken van praktische informatie. ‘Zorgverleners verliezen veel kostbare tijd aan het opzoeken van informatie die ze nodig hebben voor hun werk, zoals richtlijnen, protocollen en interne informatie. AI kan zorgverleners hierbij ondersteunen, maar is zeker geen vervanging van de dokter’, stelden zij. ‘Voor goede AI is het daarnaast nodig dat de informatie transparant en verifieerbaar is. Je moet weten waar het algoritme de output vandaan haalt en dat dit betrouwbare bronnen zijn. Ook is het van belang om de kwaliteit van de output continu te blijven monitoren.’
Tijdens de aansluitende paneldiscussie vond een levendige discussie plaats met de sprekers, waarbij ook Judith Opland van Diabetesvereniging Nederland aanschoof vanuit het patiëntenperspectief. Zij benadrukte het belang om patiënten te betrekken en inzicht te geven in het gebruik van AI-tools door dokters, om zo hun vertrouwen in AI-toepassingen te vergroten. Deze avond werd ook de nieuwe competentieset Verantwoord gebruik van AI in de zorg gepresenteerd dat een beschrijving geeft van wat een medisch specialist moet weten en kunnen om AI op een goede manier toe te passen. Belangstellenden kunnen deze hier downloaden.