Je chatbot als spiegelpaleis

Ik las het essay Ik zie wat ik geloof – Big Tech als architect van de nieuwe werkelijkheid van Roxanne van Iperen (1976). Een indrukwekkend boekje dat o.a. handelt over de invloed en macht van Big Tech. 

Ze schrijft dat de aantrekkingskracht van (digitale) chatbots niet moet worden onderschat. In dit verband noemt ze de al in 1966 uitgebrachte chatbot ELIZA, gebouwd door Weizenbaum en ontworpen als psychotherapeut. De scripts van ELIZA ‘bestonden uit niets meer dan simpele patroonherkenning die aan de gebruiker werd gespiegeld (‘Ik ben verdrietig’, ‘Waarom ben je verdrietig?’), maar Weizenbaums proefpersonen ervoeren het meteen als een luisterend oor’. 

“Het was de geautomatiseerde versie van klassieke freudiaanse overdracht: de diepmenselijke neiging onze gevoelens en gedachten op een ander te projecten, in dit geval zelfs op een computerprogramma.” Vervolgens merkt Van Iperen op: “Wat ons staat te gebeuren is een extreme intensivering van dit ‘Eliza-effect’, (…).” “Een chatbot luistert en reageert, maar bevestigt alleen in andere bewoordingen wat de gebruiker al denkt of voelt; het is een vriendje in de spiegel.” 

“Mijn kinderen en hun vrienden vertellen openhartig over hoe ze, bijvoorbeeld, ChatGPT gebruiken om te sparren over relaties, psychische problemen of simpelweg als gezellige gesprekspartner thuis en onderweg, (…).” Zo migreren honderden miljoenen mensen ‘redelijk ongemerkt naar een virtuele, relationele dimensie die op wereldschaal wordt uitgerold’. 

“(…), kinderen groeien nu deels op in een virtueel universum waarin we ze vanaf jonge leeftijd in hun dooie uppie laten afdalen.” “Bovendien is dat virtuele Wonderland vanaf de eerste dag zó specifiek en op maat gemaakt, dat geen twee kinderen, laat staan een ouder en een kind, er dezelfde omgeving aantreffen.” “Naarmate de tijd vordert, bouwen de algoritmen een steeds ingenieuzer spiegelpaleis dat bijna een reflectie vormt van iemands DNA: wat je in het Wonderland beleeft, wordt steeds nauwkeuriger aangepast op basis van eerdere keuzes.”  

“De waarheid ontstaat niet meer door de interactie van vele gezichtspunten die elkaar treffen in een gedeelde ruimte, maar in een eindeloze dialoog met ons eigen spiegelbeeld. Het scherm biedt een op maat gemaakte versie van de wereld, waarbinnen nog enkel ons gevoel het bewijs is van onze overtuiging: ik zie wat ik geloof. De gedeelde realiteit, (…), wordt daarmee vervangen door miljoenen particuliere werkelijkheden gestuurd door een datamachine, die voor de hoogste bieder in staat is alle losse atomen naar believen te rangschikken.” 

Tegen de achtergrond van dit boekje en naar aanleiding van bovenstaande citaten komt bij mij de vraag op: zijn chatbots als bijvoorbeeld ChatGPT, Gemini en Claude toepasbaar als relatie-deskundige of therapeut/psycholoog? 

Ik stelde vervolgens aan de chatbot Gemini (Google) de vraag welke risico’s een gebruiker van een chatbot loopt rond het krijgen van juiste en volledige informatie. Gemini antwoordt ‘eerlijk’ dat er nogal wat risico’s zijn en somt ze op: hallucinaties (het systeem voorspelt patronen in taal in plaats van het raadplegen van feitelijke kennis; volledig verzonnen feiten, jaartallen of citaten), sycofantie (vleierij – naar de mond praten), verouderde informatie, bias en vooroordelen, gebrek aan domeinexpertise, contextverlies en  overmatig vertrouwen. 

Terug naar de vraag: zijn chatbots zoals ChatGPT, Gemini of Claude toepasbaar als relatie-deskundige of therapeut/psycholoog?  De vraag kan ook zo gesteld worden: zoek je een (digitale) hulpverlener die je niet (altijd) juist informeert, je naar de mond praat en je wilt pleasen, recente ontwikkelingen op het vakgebied wellicht heeft gemist, ongenuanceerd en schadelijk uit de hoek kan komen, weinig expertise heeft opgebouwd op psychosociaal gebied, geen aantekeningen heeft gemaakt van de eerdere gesprekken en daardoor het één en ander aan belangrijke informatie kan vergeten en moet je hulpverlener een vlotte babbel hebben? Als je zo’n hulpverlener zoekt, dan is ChatGPT, Gemini of Claude een goede keuze. Maar, zoek je zó'n hulpverlener?

Zie ook: AI-chatbotapps voor vriendschap en mentale gezondheid ongenuanceerd en schadelijk