Zorginstellingen en zorgverleners kunnen voordelen ervaren van generatieve AI, maar veel toepassingen zijn nog maar kort op de markt en kunnen onjuiste of onvolledig informatie produceren zoals een medicatiefout. Dat meldt de Inspectie Gezondheidszorg en Jeugd (IGJ), die zorgverleners oproept zorgvuldig om te gaan met AI-producten.
Samenvattingen van patiëntendossiers, gespreksverslagen van een consult tussen patiënt en arts, een chatbot waaraan patiënten vragen kunnen stellen over een medische behandeling.
Volgens IGJ kunnen toepassingen van generatieve AI (kunstmatige intelligentie) zorginstellingen en zorgverleners voordelen bieden, zoals tijdsbesparing en laagdrempelige communicatie met patiënten, maar waakzaamheid is nodig. Bij het gebruik van AI zijn, zo benadrukt de toezichthouder, dezelfde kaders van toepassing als bij de invoering van elke vorm van digitale zorg.
Daarnaast gelden voor generatieve AI specifieke risico’s, omdat deze modellen op basis van ingevoerde data zelf nieuwe informatie produceren. Dat kan onjuiste of onvolledige informatie zijn en leiden tot risico’s, bijvoorbeeld medicatiefouten of een onjuiste beoordeling van een patiënt door een arts.
Kennis
De IGJ benadrukt dat zorgaanbieders moeten beschikken over voldoende kennis over de risico’s en beperkingen van AI. De toezichthouder adviseert zorgaanbieders hierop alert te zijn, zowel bij de aanschaf, implementatie als het gebruik van generatieve AI-toepassingen. Bijvoorbeeld door het vaststellen van het doel van de toepassing, bepalen welke data nodig zijn – en deze te valideren –, controleren van resultaten en beoordelen van risico’s.
Wet- en regelgeving
Een AI-toepassing kan een medisch hulpmiddel zijn, bijvoorbeeld een AI-programma dat helpt bij het stellen van diagnoses of ondersteunt bij een behandeling. Volgens IGJ is het belangrijk dat zorginstellingen zich realiseren dat deze toepassing moet voldoen aan de wet- en regelgeving voor medische hulpmiddelen (MDR).
Bovendien wordt de komende jaren de Europese AI-verordening van toepassing, die ook eisen stelt aan de ontwikkeling en het gebruik van AI.
Randvoorwaarden
Zorgaanbieders, fabrikanten en leveranciers moeten, volgens de toezichthouder, zorgen voor goede randvoorwaarden voor veiligheid van digitale zorg, inclusief generatieve AI. In het toezicht gebruikt de IGJ daarvoor het toetsingskader Digitale zorg en kijkt daarbij ook naar invoer en gebruik van generatieve AI.