Je chatbot als spiegelpaleis
Ik las het essay Ik zie wat ik geloof – Big Tech als architect van de nieuwe werkelijkheid van Roxanne van Iperen (1976). Een indrukwekkend boekje dat o.a. handelt over de invloed en macht van Big Tech. Ze schrijft dat de aantrekkingskracht van (digitale) chatbots niet moet worden onderschat. In dit verband noemt ze de al in 1966 uitgebrachte chatbot ELIZA , gebouwd door Weizenbaum en ontworpen als psychotherapeut. De scripts van ELIZA ‘bestonden uit niets meer dan simpele patroonherkenning die aan de gebruiker werd gespiegeld (‘Ik ben verdrietig’, ‘Waarom ben je verdrietig?’), maar Weizenbaums proefpersonen ervoeren het meteen als een luisterend oor’. “Het was de geautomatiseerde versie van klassieke freudiaanse overdracht: de diepmenselijke neiging onze gevoelens en gedachten op een ander te projecten, in dit geval zelfs op een computerprogramma.” Vervolgens merkt Van Iperen op: “Wat ons staat te gebeuren is een extreme intensivering van dit ‘Eliza-effect’, (…).” ...