AI in de zorg

AI is niet meer weg te denken in ons dagelijks leven en ook in de zorg wordt steeds meer gebruik gemaakt van AI. In deze factsheet schetsen we op hoofdlijnen waar zorgaanbieders op moeten letten bij de aanschaf en het gebruik van AI vanuit gezondheidsrechtelijk perspectief. Ook geven we tips en aanbevelingen over goed gebruik.

Kunstmatige Intelligentie (of: AI) is geen vastomlijnd juridisch begrip. AI verwijst naar systemen die taken kunnen uitvoeren en die “intelligent” gedrag vertonen, het gaat dan meestal om software. Denk bijvoorbeeld aan een tool die met hoge mate van nauwkeurigheid kan voorspellen welke patiënten komen opdagen bij een consult, of die artsen ondersteunt bij het analyseren van MRI-scans.

Voor alle gebruikers van AI is de AI-Act die stapsgewijs in werking zal treden over 2024-2026 van belang. Ook de AVG is relevant. Specifiek voor AI die wordt gebruikt in de zorg is van belang om te bepalen of het een medisch hulpmiddel is. AI is een medisch hulpmiddel als het een medisch doel heeft. Medische hulpmiddelen moeten voldoen aan de (kwaliteits)eisen uit de MDR (Medical Device Regulation). De MDR kent vier risicoklassen, hoe hoger de risicoklasse hoe strenger de eisen waaraan het medisch hulpmiddel moet voldoen. Alle medische hulpmiddelen moeten een CE-markering hebben. De CE-markering laat zien dat het hulpmiddel aan de minimumeisen uit de MDR voldoet.

Goede zorg
Voor alle AI die wordt ingezet in het zorgproces geldt dat de zorgaanbieder er op grond van de Wkkgz voor moet zorgen dat de AI veilig en kwalitatief goed is. De inzet van AI moet leiden tot goede zorg. Ook moet de AI, zodra de AI-ACT in werking is getreden voldoen aan de eisen uit de AI-ACT. Het is de verantwoordelijkheid van de zorgaanbieder om dit te controleren voordat de AI wordt ingezet.

Heeft de AI toepassing een medisch doel en is het een medisch hulpmiddel dan moet de toepassing daarnaast voldoen aan de minimale kwaliteitseisen uit de MDR, de zorgaanbieder dient bij aanschaf te controleren dat de AI toepassing een CE-markering heeft en in Eudamed is geregistreerd.

Medewerkers die met AI toepassingen werken moeten goede instructies krijgen. Ook moet de zorgaanbieder de door de leverancier aangeboden updates uitvoeren en het op die manier dus goed ‘onderhouden’.

Informeren patiënt
Vaak wordt AI gebruikt in het kader van de uitvoering van een behandelingsovereenkomst, maar niet altijd. Op grond van de Wgbo en de Wkkgz moeten patiënten goed geïnformeerd worden over hun behandeling.

Is AI een medisch hulpmiddel dan moet de patiënt goed geïnformeerd worden: waar is de AI toepassing geschikt voor? Wat zijn de risico’s bij verkeerd gebruik? Is de AI niet van de zorgaanbieder zelf, informeer patiënten daar dan over.

Bij het gebruik van AI kunnen onverwachte gebeurtenissen optreden die leiden tot schade bij een patiënt. De lat voor aansprakelijkheid ligt hoog. Of de zorgaanbieder aansprakelijk is als er schade is bij een patiënt, zal steeds afhangen van de omstandigheden van dat geval. Door zich te verzekeren kunnen zorgaanbieders aansprakelijkheidsrisico’s beperken, maar nooit helemaal wegnemen.

De leverancier is ervoor verantwoordelijk dat de AI voldoet aan de kwaliteitseisen. Voldoet het, dan is de leverancier meestal aansprakelijk. De patiënt zal vaak de zorgaanbieder of de hulpverlener aansprakelijk stellen, en niet de leverancier. Wordt de zorgaanbieder aangesproken voor een gebrekkige AI toepassing, dan kan de zorgaanbieder de schadevergoeding mogelijk verhalen op de leverancier, omdat de leverancier de productaansprakelijkheid heeft.

Is de AI toepassing een medisch hulpmiddel dan moet de leverancier er voor zorgen dat een product CE-markering heeft. Een CE-markering is niet meer dan een verklaring dat wordt voldaan aan de wettelijke minimumeisen. Dit maakt het product niet per definitie geschikt voor toepassing door de zorgaanbieder. Ook kan later nog blijken dat het product gebreken heeft.

Voor individuele hulpverleners geldt dat als zij gebruik maken van AI in de zorgverlening zij er in principe vanuit mogen gaan dat er een veilig en kwalitatief goed hulpmiddel wordt ingezet. Volgen zij het beleid van de zorgaanbieder en zijn er geen signalen dat dit beleid niet deugt, dan kun je daar als individuele hulpverlener niet op worden aangesproken. Bij twijfels over de geschiktheid van het digitale triagemiddel of het beleid, moet de hulpverlener dit bespreken met de zorgaanbieder. Ook is van belang dat de hulpverlener zelf ook goed weet hoe de AI toepassing werkt en patiënten daarover kan informeren. Handelt de arts in strijd met wat van een redelijk en bekwaam handelende beroepsgenoot verwacht mag worden, dan kan deze tuchtrechtelijk aangesproken worden. Ook die drempel is hoog.

Bovenstaand artikel is in advies, maar biedt inzicht in de belangrijkste aspecten op hoofdlijnen. Elke toepassing en situatie is verschillend. Wil je meer weten over het gebruik van AI in de zorg of over medische hulpmiddelen, bel of mail dan met Anne of Eline. Ze helpen je graag.