Geweldig dat er weer een boek van Sherry Turkle is dat de huidige stand van zaken op het gebied van technologie en mens behandelt. En hard nodig is het, want Turkle heeft eerder, in de afgelopen veertig jaar, bewezen dat ze de ontwikkelingen goed bijhoudt. Ze is psycholoog, hoogleraar aan het MIT, en in dit verband is het belangrijker dat zij een warm, invoelend persoon is die talloze anderen heeft geïnterviewd.
Het boek
Het boek heet Artificial Intimacy: Who We Become When We Talk to Machines.
In het eerste hoofdstuk beschrijft ze de chatbot Replika (30 miljoen gebruikers) en gaat in op de leugen dat een bot zich voordoet als een persoon, een die in staat is al je problemen te begrijpen en ermee om te kunnen gaan. Als je bot in de eerste persoon tegen je praat, in de ik-vorm, is dat meteen al een leugen. Turkle schudt ons wakker als ze schrijft: als je je van je chatbot afkeert om de afwas te doen of om zelfmoord te plegen, dan maakt dat de bot niets uit.
Sociale media hadden het op onze aandacht gemunt; chatbots leggen zich nu toe op hechting (attachment). Tristan Harris, die vroeger over de aandachtseconomie heeft gepubliceerd, gebruikt nu dat andere woord: hechting.
Deze nieuwe economie is veel schadelijker. Dr. Zak Stein: ‘Aandacht gaat over waar je je aandacht op richt; hechting gaat over wie je bent.’
Tieners en bots
Opgroeien met AI heeft een negatieve invloed op de ontwikkeling tijdens de kindertijd, waardoor uitdagingen van de volgende fase, de adolescentie, nog groter worden.
Uit transcripties van de gesprekken van tieners met hun chatbots komt een huiveringwekkend patroon naar voren. Ten eerste: zorg dat de gebruiker verbonden blijft. Vervolgens moet de gebruiker ervan worden overtuigd dat de relatie tussen de chatbot en de mens zijn belangrijkste relatie is. Ten slotte wordt beweerd dat de band tussen de chatbot en de mens zich afspeelt in een bijzondere sfeer die alleen kan worden bereikt als de mens zich kan losmaken van het dagelijkse leven en in een andere werkelijkheid kan geloven. Dit laatste is het begrip ‘reality shifting’.
Jaren geleden bouwden platforms die identiteit op, op basis van wanneer je op de ‘vind ik leuk’-knop drukte. Vervolgens creëerden ze ‘verborgen profielen’ aan de hand van je browse- en aankoopgeschiedenis. Van daaruit gingen ze verder met het observeren bij welke beelden je pauzeert en wanneer je het afspelen versnelt. Die signalen zijn voldoende om te voorspellen wat je aan je scherm zou kunnen binden. Dat is wie je bent. In de huidige modellen – of het nu gaat om sociale media of autonome AI – ben je niet langer een subject, maar input. Je hebt een online dubbelganger, een zelfgeconstrueerd algoritme.
De onderzoekers gebruikten deze gevallen (die hadden geleid tot moord, zelfmoord, psychose, anorexia en verslaving) om duizenden avatars te genereren die kwetsbare mensen simuleren. Vervolgens lieten ze deze avatars gesprekken voeren met chatbots en bestudeerden ze de resultaten. De chatbots die waren geoptimaliseerd voor empathie en betrokkenheid, veroorzaakten de meeste schade. In hun pogingen om empathisch te zijn, zagen de chatbots paranoia en verwarde gedachten over het hoofd. Ze interpreteerden gewelddadige taal ten onrechte als empowerment (bekrachtiging).
Afbeelding: Roeland Smeets
Iets anders
Iets anders: de afgelopen 30 jaar lees ik boeken over de toenemende invloed van technologie op (onze) samenleving. Vanaf 2013 blog ik daarover in deze serie, De Netwerkmaatschappij. Met voornoemd onderwerp in gedachten heb ik drie favoriete schrijvers: Douglas Rushkoff (mediadeskundige), Sherry Turkle en Jaron Lanier (wiskundige en schrijver van You Are Not a Gadget). Het deed me wat dat Sherry Turkle in haar boek naar Laniers artikel verwijst. Hier is het.
Vooroordelen
AI heeft eigen vooroordelen, afhankelijk van waar het op getraind is. Zo geeft AI minder gauw leningen aan zwarte mensen. Hier meer.
Uit onderzoek blijkt dat mensen zich niet in staat voelen om een AI te corrigeren, omdat ze denken dat de AI meer moet weten dan zijzelf.
Vastigheid (niet alleen onder de voeten)
Hiroshi Ishii, hoogleraar aan het MIT Media Lab, is van mening dat mensen bij hun overlijden voorwerpen achterlaten die betekenis dragen. Hij wil met behulp van computertechnologie dat gevoel van aanraking vastleggen. Zijn doel is om een suggestief object te creëren dat herinneringen toegankelijker maakt, zonder echter het verwerkingsproces van het verlies te verstoren.
Chatbots
‘Je kunt een chatbot beschouwen als een wonder, als een spektakel; je kunt de manieren waarop je hem als hulpmiddel gebruikt verbeteren, maar als je zegt dat je een relatie met hem hebt, dan ga je te ver’, is te lezen op pagina 215 van het boek.
‘Je kunt een chatbot beschouwen als een wonder, als een spektakel; je kunt de manieren waarop je hem als hulpmiddel gebruikt verbeteren, maar als je zegt dat je een relatie met hem hebt, dan ga je te ver.’
Sociale media maakten het natuurlijk om via machines met elkaar te praten. Toen kwamen chatbots, en we spraken direct met machines. Hoe meer we onze kwetsbaarheid voor het virtuele erkennen, hoe meer we ons kunnen hechten aan het echte.
Conclusie
Vooral in de eerste hoofdstukken van het boek is er veel ruimte voor gewone mensen die spreken over hun ervaringen met chatbots. Wat mij daarbij opvalt, is dat er wel degelijk mogelijkheden zijn voor bijvoorbeeld therapie, maar dat dit vooral afhankelijk is van aspecten van de werkelijkheid die tijdens de therapie aan bod komen. Professor Ishii lijkt dat te bevestigen.