'AI steeds vaker gebruikt in zorg: risico op verkeerde diagnoses'

Zorgprofessionals maken steeds vaker gebruik van AI. De technologie wordt onder meer ingezet om mogelijke diagnoses voor te stellen en te waarschuwen voor gevaarlijke medicijncombinaties. Tegelijk grijpen medewerkers ook naar algemene AI-tools zoals ChatGPT. Dat brengt risico's met zich mee, schrijft De Telegraaf op basis van onderzoek in opdracht van Philips.

Van de zorgprofessionals die AI gebruiken, zet 30 procent de technologie in om te waarschuwen voor gevaarlijke combinaties van medicijnen. Ruim een kwart laat AI mogelijke diagnoses voorstellen op basis van symptomen.

Patiënten zoeken informatie op

In de spreekkamer is te merken dat AI veel gebruikt wordt voor zorgvragen: driekwart van de zorgprofessionals ziet dat de patiënt zelf de informatie al had opgezocht met chatbots, schrijft de krant. Die informatie klopt echter niet altijd. Zeven op de tien artsen heeft dat soort informatie wel eens moeten corrigeren.

Bijna twee derde van de zorgprofessionals zet AI in. Er zijn echter geen duidelijke richtlijnen voor. "In de patiëntenzorg draait alles om vertrouwen. AI kun je alleen gebruiken als die goed is gevalideerd en goedgekeurd", zegt topman Léon Kempeneers van Philips Benelux tegen de krant.

Zelf verantwoordelijk

Philips maakt MRI- en CT-scanners, waarin AI bijvoorbeeld wordt gebruikt om medische beelden te analyseren of om scans te versnellen. Maar "uiteindelijk blijft de zorgverlener en dus de mens de diagnose stellen", aldus Kempeneers.

Ook de Inspectie Gezondheidszorg en Jeugd, die toezicht houdt op het gebruik van AI in de zorg, waarschuwt voor de risico's. AI kan foutieve informatie geven of tot een onjuiste diagnose leiden. "Algemene AI-tools zoals ChatGPT of Gemini zijn niet gemaakt of goedgekeurd voor medische besluitvorming." Zorginstellingen zijn volgens de inspectie zelf verantwoordelijk voor het veilig gebruik van AI.

Of zorgmedewerkers patiëntgegevens invoeren in openbare chatbots is niet onderzocht. De Autoriteit Persoonsgegevens waarschuwde eerder dat zulke informatie bij de aanbieders van deze diensten terecht kan komen.