AI in de gezondheidszorg bekritiseerd vanwege onbetrouwbaarheid
Volgens onderzoekers schiet kunstmatige intelligentie (AI) ernstig tekort op het gebied van nauwkeurigheid in de gezondheidszorg. Een recente studie toonde aan dat bijna 50% van de antwoorden onjuist is, ook al lijken ze geloofwaardig. Dit fenomeen baart zorgprofessionals steeds meer zorgen.
Wat als AI niet alle antwoorden heeft? Dat is wat deze Engelstalige onderzoekers zich afvroegen in een studie naar het gebruik van chatbots. Oftewel: conversationele agenten die worden aangedreven door AI. Amerikaanse, Canadese en Britse specialisten probeerden te bepalen of deze chatbots betrouwbaar waren bij het beantwoorden van gezondheidsgerelateerde vragen. Tot ieders verbazing bleek het merendeel van de gegeven antwoorden mogelijk, of zelfs volledig, onjuist.
Voor dit experiment testten de wetenschappers de platforms ChatGPT, Gemini, Meta AI, Grok en DeepSeek. Ze stelden de chatbots tien vragen over vijf gezondheidscategorieën om hun nauwkeurigheid en geloofwaardigheid te beoordelen, zo leggen ze uit in hun studie die is gepubliceerd in BMJ Open.
Tijdens hun onderzoek ontdekten de specialisten dat meer dan de helft van het medisch advies dat door een chatbot werd gegeven als "problematisch" werd beschouwd. Van deze 50% onjuiste antwoorden werd 20% zelfs als "zeer problematisch" gezien. "Deze systemen kunnen antwoorden genereren die geloofwaardig lijken, maar potentieel onjuist zijn", stelden ze in hun studie.
De onderzoekers merkten echter op dat gesloten vragen beter werden afgehandeld door de chatbots en dat hun antwoorden "minder problematisch" waren. Vragen over kanker en vaccins, in het bijzonder, lijken op dit gebied betrouwbaarder te zijn dan gebruikelijk. Wat betreft voeding en stamcellen lieten de platforms aanzienlijk minder bemoedigende resultaten zien.
Geconfronteerd met deze zorgwekkende resultaten, roepen onderzoekers gebruikers op om uiterst voorzichtig te zijn. Ze wijzen ook op het gebrek aan betrouwbaarheid van deze tools, die "desinformatie kunnen versterken" als ze niet snel onder controle worden gebracht.
Ter herinnering: meer dan 200 miljoen mensen stellen wekelijks gezondheidsvragen aan AI. Dit aantal blijft groeien en baart zorgprofessionals steeds meer zorgen, vooral wanneer gebruikers aangeven dat ze een van deze platforms meer vertrouwen dan een echte arts.
-
23:15
-
23:00
-
22:59
-
22:42
-
22:22
-
22:00
-
21:51
-
21:30
-
20:50
-
20:32
-
20:15
-
20:15
-
20:00
-
19:45
-
19:30
-
19:00
-
18:35
-
18:15
-
18:00
-
17:45
-
17:30
-
17:15
-
16:45
-
16:32
-
16:15
-
16:00
-
15:45
-
15:43
-
14:45
-
14:33
-
14:15
-
14:00
-
13:30
-
13:13
-
12:50
-
12:30
-
12:15
-
12:12
-
11:50
-
11:32
-
11:26
-
11:15
-
11:10
-
11:00
-
10:42
-
10:25
-
10:23
-
10:15
-
10:10
-
09:47
-
09:32
-
09:30
-
09:15
-
08:47
-
08:45
-
08:41
-
08:32
-
08:15
-
07:15
