Wat is er nodig voor betrouwbare AI?
Ruim 100 medisch specialisten uit het hele land kwamen op 29 november naar Utrecht voor de bijeenkomst van het Netwerk AI. Het thema was kwaliteit en betrouwbaarheid van AI. Hoe kun je dit waarborgen? Deze vraag werd belicht vanuit het perspectief van de ontwikkelaar, de gebruiker en de zorgverzekeraar. De avond werd geleid door Bart Geerts, voorzitter van het Netwerk AI, en Iris Verberk, Federatiebestuurslid met portefeuille Informatiebeleid.
Kwaliteit van AI binnen de medische beeldvorming
‘Regels kunnen belemmerend werken op innovatie maar zijn ook wel echt nodig om de kwaliteit van AI te waarborgen’, stelde klinisch fysicus Erik Gelderblom. Hij schetste welke regelgeving er op dit moment is. ‘Voor software als medisch hulpmiddel dat gebruik maakt van AI, zijn de AVG en de Medical Device Regulation (MDR) van toepassing en binnenkort komt daar ook de Europese AI Act bij. Voor ziekenhuizen die zelf AI-software ontwikkelen voor eigen gebruik, heeft de NFU handvatten opgesteld. Daarnaast heeft het ministerie van VWS met het zorgveld een leidraad Kwaliteit van AI in de zorg ontwikkeld.’
Charlotte Brouwer, klinisch fysicus radiotherapie, schetste vervolgens welke methoden gebruikt kunnen worden om de kwaliteit van een AI-toepassing in de gebruiksfase te controleren en monitoren. ‘Dat is ontzettend belangrijk. Je moet zeker weten dat je AI-model inderdaad van toepassing is op jouw patiënt en de juiste factoren en data worden meegenomen in de analyse.’
Wetenschappelijk fundament
Hoe kun je de kwaliteit van AI-toepassingen wetenschappelijk onderbouwen? Davy van de Sande, promovendus AI in Intensive Care Medicine, liet zien welke stappen je daarbij moet doorlopen. Ook benadrukte hij het belang van een multidisciplinaire aanpak. ‘AI ontwikkelen kun je niet alleen en de benodigde kennis is vaak versnipperd over de organisatie. Daarom hebben we in ons ziekenhuis een Datahub geopend waar dokters, verpleegkundigen en technici elkaar kunnen vinden en kennis uitwisselen, om zo de ontwikkeling van AI naar een hoger plan te brengen.’
Diagnose en gezichtsherkenning met AI
Aios klinische genetica Lex Dingemans liet zien hoe waardevol AI is bij het vaststellen van erfelijke ontwikkelingsstoornissen bij kinderen. Veel van deze stoornissen hebben uiterlijke kenmerken, maar niet elke dokter is bekend met elk specifiek kenmerk. Het Phenoscore model helpt bij het stellen van een diagnose door gezichtsherkenning te gebruiken in combinatie met andere kenmerken van een aandoening. ‘We zijn begonnen met 1 ontwikkelingsstoornis, maar hebben deze methode ook uitgeprobeerd op 40 andere syndromen. Dat bleek succesvol: bij 37 daarvan was Phenoscore geschikt voor het stellen van de diagnose.’
Passende zorg en AI: het perspectief van de verzekeraar
Dennis Japink, medisch adviseur digitale zorg bij Zorgverzekeraars Nederland, liet zien hoe zorgverzekeraars digitale zorgoplossingen beoordelen vanuit het perspectief van het IZA en de criteria voor passende zorg. Wanneer komt het in aanmerking voor vergoeding? Japink: ‘Passende zorg draait om deze vragen: Werkt het? Past het bij de patiënt? Kan ik de zorg daadwerkelijk leveren? Is het arbeidsbesparend? En kun je het duurzaam aanbieden voor de langere termijn? Enkele voorbeelden hiervan zijn al gepubliceerd. Maar het beoordelen van AI is best lastig want de beoordelingskaders zijn vaak behoorlijk subjectief. Daarom is het belangrijk om met alle veldpartijen hierbij te betrekken.’
Bekijk het verslag van de vorige bijeenkomst van ons netwerk AI Netwerk AI: Hoe komen we tot succesvolle implementatie?