Netwerk AI: aansprakelijkheid
AI-toepassingen bieden kansen om de zorg te verbeteren en tegelijk de werkdruk te verlichten. Maar er zitten ook juridische haken en ogen aan. Wat gebeurt er bijvoorbeeld als verkeerde voorspellingen, of het juist niet meenemen van die voorspellingen, leiden tot medische fouten? Hoe zit het dan met de aansprakelijkheid? Deze vraag stond centraal tijdens de bijeenkomst van het Netwerk AI van de Federatie Medisch Specialisten in Utrecht, waar ruim 100 medisch specialisten uit het hele land bij elkaar kwamen.
Nynke Vellinga, postdoc onderzoeker aan de Rijksuniversiteit Groningen, legde de parallel tussen aansprakelijkheid bij fouten met AI en zelfrijdende auto’s en gaf vervolgens een overzicht van de juridische kaders. Daarbij besteedde ze ook aandacht aan de Europese AI-verordening die eraan komt. Deze verordening geeft kaders over bijvoorbeeld risicobeheer, transparantie, de rol van menselijke tussenkomst en zorgvuldig handelen. ‘We moeten door veel hoepeltjes springen om te waarborgen dat we verantwoord bezig zijn met AI. De nieuwe verordening geeft weliswaar steeds meer duidelijkheid, maar dan nog hangt het sterk van de situatie af wie er aansprakelijk is bij medische fouten’, aldus Vellinga.
Zorgvuldigheid
Dat aansprakelijkheid bij AI een complex verhaal is bleek ook uit de ronde tafel met vertegenwoordigers vanuit de dokters, ziekenhuisbesturen, patiënten, IGJ, VWS en het gezondheidsrecht. Uitgangspunt waren twee casussen: een situatie waarbij een vrouw onterecht is onderzocht op verdenking van borstkanker, en een casus waarbij generatieve AI een cruciaal gegeven over een patiënt niet meenam in een samenvatting van een patiëntendossier. Wie is er dan verantwoordelijk? Daar was geen eenduidig antwoord op. Mogelijk was het AI-systeem getraind met verkeerde data en is er sprake van productaansprakelijkheid bij de fabrikant. Maar dan nog moet je als dokter bij twijfel ook altijd je eigen oordeel toetsen. Vooral is van belang dat de dokter kan laten zien dat er zorgvuldig is gehandeld en dat deze weet wanneer welk AI-systeem ingezet moet worden. Het toepassen van AI kan in principe net zo aangepakt worden als de toepassing van de reguliere medische hulpmiddelen.
Onzekerheden horen erbij
AI is een hulpmiddel om wat dichter bij de waarheid te komen, maar altijd met marge van onzekerheid. Maar de maatschappij wil graag zekerheid. ‘Dat kan niet en dat maakt AI juridisch lastig’, brachten de juristen in de discussie naar voren. ‘Onzekerheid botst dan eigenlijk met rechtszekerheid. Als wetgever moet je daar een redelijk midden in zien te vinden.’ Interessant daarbij was ook het perspectief van de ethicus: ‘Dokters zijn gewend aan werken met onzekerheden en het werken met AI is in dat opzicht niet heel anders. En AI werkt niet 100% foutloos, maar een dokter ook niet. Je moet de zorg daarom niet onnodig juridiseren. Verlies ook vooral het menselijke aspect niet uit het oog en zorg dat het gesprek in de spreekkamer over ziekte en herstel gaat en niet voornamelijk over procedures. Vanuit de dokters kwam bijval op dat punt: ‘we kunnen niet naast arts ook jurist worden. AI moet het werk makkelijker en sneller maken en niet ingewikkelder door alle regels eromheen.’
In de lead blijven
Op de vraag of we niet beter kunnen afwachten tot AI wat verder is doorontwikkeld, waren de aanwezigen resoluut: ‘Nee, dokters moeten in de lead zijn. Anders gaan de grote techbedrijven uit China en de VS straks de norm bepalen en dan is het maar afwachten wat je krijgt. We moeten de kans nu grijpen om zelf kennis op te bouwen en te leren, en niet bang zijn om AI te gebruiken. Wel moeten we altijd kritisch en zorgvuldig blijven en transparant zijn richting de patiënt over het gebruik van AI. Belangrijk daarbij is ook een veilige en open werkomgeving waar fouten besproken kunnen worden en als leermomenten kunnen worden gezien, zonder angst voor claims. Het ziekenhuisbestuur heeft daar een rol in. Daarnaast moeten de ziekenhuizen zorgen voor goede AI-systemen, de juiste software updates, de juiste expertise en het trainen van personeel.’
Lees de inzichten die uit deze bijeenkomst naar voren zijn gekomen