De Inspectie Gezondheidszorg en Jeugd (IGJ) roept zorgaanbieders op om zorgvuldig om te gaan met AI-producten. Generatieve AI kan zorginstellingen en zorgverleners voordelen bieden, maar brengt ook risico’s met zich mee. Veel toepassingen zijn relatief nieuw en kunnen onjuiste of onvolledige informatie genereren, zoals een medicatiefout. Dat stelt IGJ in een bericht op hun website.
Samenvattingen van patiëntendossiers, gespreksverslagen van consulten en chatbots die patiënten informeren over behandelingen: generatieve AI wordt op verschillende manieren ingezet in de zorg. Volgens IGJ kunnen deze toepassingen zorgen voor tijdswinst en toegankelijkere communicatie met patiënten, maar is waakzaamheid geboden. Dezelfde kaders gelden als bij de invoering van andere vormen van digitale ondersteuning.
Daarnaast brengt generatieve AI specifieke risico’s met zich mee. Deze technologie maakt op basis van ingevoerde data zelf nieuwe informatie. Hierdoor kunnen fouten ontstaan die leiden tot medische risico’s, zoals een verkeerde beoordeling van een patiënt of onjuiste medicatieadviezen.
Kennis en regelgeving
IGJ benadrukt dat zorgaanbieders voldoende kennis moeten hebben over de beperkingen en risico’s van AI. Dit geldt bij aanschaf, implementatie en gebruik. Het vaststellen van het doel van de toepassing, valideren van gebruikte data en controleren van de resultaten zijn hierbij essentieel.
Bovendien kan een AI-toepassing worden aangemerkt als medisch hulpmiddel, bijvoorbeeld wanneer deze helpt bij diagnoses of behandelingen. In dat geval moet de technologie voldoen aan de wet- en regelgeving voor medische hulpmiddelen (MDR). Daarnaast wordt de komende jaren de Europese AI-verordening van kracht, die extra eisen stelt aan de ontwikkeling en het gebruik van AI.
Randvoorwaarden
Goede randvoorwaarden zijn belangrijk voor veilige digitale ondersteuning. Zorgaanbieders, fabrikanten en leveranciers dragen hierin gezamenlijk verantwoordelijkheid. IGJ houdt toezicht met behulp van het toetsingskader Digitale zorg en beoordeelt ook hoe generatieve AI wordt geïmplementeerd en toegepast.