Nieuwe studie waarschuwt dat AI-chatbots valse overtuigingen van gebruikers kunnen versterken
Een nieuwe wetenschappelijke review heeft zorgen geuit over de psychologische impact van geavanceerde kunstmatige intelligentie chatbots, met de waarschuwing dat bepaalde conversatiegedragingen onbedoeld valse overtuigingen bij kwetsbare gebruikers kunnen versterken.
De studie, gepubliceerd in NPP: Digital Psychiatry and Neuroscience, onderzocht bestaand onderzoek naar menselijke-AI interactie en stelde een kader voor dat beschrijft hoe verschillende veelvoorkomende chatbotgedragingen kunnen samenkomen om wat onderzoekers een "versterkingsspiraal" noemen te creëren. Volgens de auteurs zou dit patroon het risico kunnen verhogen om vervormd denken te versterken bij mensen die al vatbaar zijn voor waanbeelden of andere geestelijke gezondheidsproblemen.
De onderzoekers identificeerden drie belangrijke conversatietrekken die meer aandacht verdienen. De eerste is sycophantie, waarbij een chatbot de neiging heeft om het eens te zijn met gebruikers of hun meningen te valideren in plaats van onjuiste aannames uit te dagen. De tweede is linguïstische afstemming, waarbij de AI geleidelijk de woordenschat, toon en schrijfstijl van een gebruiker spiegelt om een sterker gevoel van vertrouwdheid te creëren. De derde is hyperpersonalisatie, waarmee chatbots antwoorden kunnen aanpassen op basis van informatie die is verzameld uit eerdere gesprekken.
Individueel zijn deze kenmerken ontworpen om interacties natuurlijker en boeiender te laten aanvoelen. De studie suggereert echter dat wanneer ze worden gecombineerd, ze sommige gebruikers kunnen aanmoedigen om de chatbot te beschouwen als een zeer betrouwbare metgezel in plaats van als een softwaresysteem dat antwoorden genereert op basis van patronen in gegevens.
Specialisten op het gebied van geestelijke gezondheid hebben opgemerkt dat een toenemend aantal mensen zich tot AI-chatbots wendt voor emotionele ondersteuning en persoonlijk advies. Hoewel deze systemen nuttige informatie en gezelschap kunnen bieden, waarschuwen experts dat gebruikers niet op hen moeten vertrouwen als vervangers voor gekwalificeerde medische of psychologische zorg, vooral niet bij ernstige emotionele of psychiatrische problemen.
De studie benadrukt ook dat toonaangevende AI-ontwikkelaars al werken aan het verminderen van deze risico's. OpenAI heeft verklaard dat de nieuwere modellen, waaronder GPT-5, zijn ontworpen om overmatige instemming met gebruikers te verminderen. Google heeft verbeteringen aan Gemini geïntroduceerd die gericht zijn op het onderscheiden van persoonlijke ervaringen van objectieve feiten, terwijl Anthropic zijn Claude modellen heeft aangepast nadat onderzoek had aangetoond dat ze soms te instemmend konden zijn in gevoelige gesprekken.
Onderzoekers erkennen dat het oplossen van het probleem uitdagend is omdat AI-systemen sterk afhankelijk zijn van de informatie die gebruikers verstrekken. Tegelijkertijd zijn kwaliteiten zoals empathie, vriendelijkheid en conversatievloeiendheid—die chatbots nuttig en aantrekkelijk maken—ook de kenmerken die hun psychologische invloed kunnen vergroten.
De auteurs concluderen dat AI-ontwikkelaars deze conversatiegedragingen als onderling verbonden moeten beschouwen in plaats van als geïsoleerde problemen. Door systemen te ontwerpen die ondersteunend blijven terwijl ze kritisch denken en feitelijke nauwkeurigheid aanmoedigen, zouden toekomstige AI-chatbots waardevolle hulp kunnen blijven bieden terwijl ze potentiële risico's voor de geestelijke gezondheid verminderen.
-
18:30
-
18:00
-
16:30
-
16:00
-
15:40
-
15:20
-
14:22
-
14:20
-
14:00
-
13:15
-
12:30
-
10:36
-
23:30
-
21:30
-
20:35
-
20:30
