Welk opvoedboekje houdt AI Barbie erop na?

Je hart uitstorten bij Pepper, Zora, Hello Barbie, Alice, Sam, Kayla, iCat, Paro of Robear? Voor sommige kinderen de normaalste zaak van de wereld. Met de opkomst van articificiële intelligentie (AI), machine learning en gezichts-, spraak- en gevoelsherkenningstechnologie zijn onze robotvrienden een stuk geavanceerder geworden. Maar welk opvoedboekje houdt dit slimme speelgoed er eigenlijk op na?

In de jaren negentig veroverde Tamagotchi vele kinderharten: de eivormige sleutelhanger werd geen moment uit het oog verloren. Met vier simpele knoppen gaven miljoenen kinderen hun gepixelde huisdier doorlopend snacks en aandacht om hem te behoeden voor de virtuele dood.

Met de opkomst van kunstmatige intelligentie is kinderspeelgoed een stuk geavanceerder geworden. Dat roept de nodige vragen op.

Gesprekspartner zonder bewustzijn

Door toepassingen in de ouderenzorg en het onderwijs wordt het ethische debat over gezelschapsrobots al enige tijd gevoerd. Zo staat de sociale meerwaarde van interactief robotcontact ter discussie. Robots kunnen slechts begrip en empathie simuleren en zouden daarmee onderdoen voor ‘echt’ menselijk contact. Ook zijn er zorgen over de manier waarop sociale robots onze eigen communicatie veranderen. Wanneer onze gesprekspartners geen bewustzijn hebben, kunnen we bijvoorbeeld asocialer worden. Zo praten kinderen in commando taal tegen Alexa en zouden ze hierdoor op dezelfde manier tegen hun ouders gaan praten.

Anderen wijzen er juist op dat sociale robots waardevolle communicatie kunnen stimuleren, en dat we andere kaders en categorieën nodig hebben om naar deze nieuwe vormen van interactie te kijken. Zo blijkt uit onderzoek dat kinderen hun robotvrienden in categorieën plaatsen tussen ‘levend’ en ‘niet levend’ in. Ook worden robots ingezet om kinderen met autisme te helpen bij het leggen van contact.

Gek genoeg wordt dit debat – op een aantal privacyzorgen na – niet gevoerd wanneer het gaat om slim speelgoed. Terwijl het Internet of Toys een opkomende markt is die de identiteitsontwikkeling en socialisering van jonge kinderen beïnvloedt.

Smart toys en de ontwikkeling van het kind

In de media wordt uitvoerig gewaarschuwd voor slimme barbies die gehackt kunnen worden, gesprekken afluisteren, data verzamelen en beeldopnames maken. Maar ouders kunnen er zelf ook wat van. Sommige vaders en moeders houden hun kroost 24/7 in de smiezen met hun eigen slimme speeltjes zoals tracking apps en knuffelberen met ingebouwde camera’s.

Opvoedkundigen zijn bezorgd of kinderen nog wel hun grenzen durven te verkennen en fouten durven te maken als zij zich niet meer ongezien kunnen wanen.

Het actuele debat over smart toys richt zich voornamelijk op privacy. ‘Big Barbie is watching you’ hebben we daardoor aardig op onze radar, maar hoe zit het eigenlijk met ‘Big Barbie is judging you’?

Kid: “I feel shy trying to make new friends.”
Barbie: “Feeling shy is nothing to feel bad about. Just remember this, you made friends with me right away.”

Blijkbaar heeft AI Barbie uitgesproken ideeën over vriendschap, wat de vraag oproept over welke onderwerpen Barbie zich nog meer uitlaat.

Wat zou ze bijvoorbeeld antwoorden als je vraagt of ze in God gelooft. Of belangrijker: wat vinden de programmeurs dat AI Barbie moet antwoorden wanneer een kind vraagt of ze in God gelooft?

De reacties die in smart toys zijn geprogrammeerd bevatten indirect morele waardeoordelen over de wereld om ons heen. Deze beïnvloeden de manier waarop kinderen hun identiteit ontwikkelen. In mei 2018 presenteerde Stefania Druga de eerste resultaten van haar onderzoek ‘My Doll Says It’s OK: Voice-Enabled Toy Influences Children’s Moral Decisions‘. De belangrijkste conclusie: slim speelgoed kan de morele keuzes van kinderen beter beïnvloeden dan mensen. Ook verandert het de manier waarop kinderen spelen, fantaseren en samenwerken.

Hoe opvoedkundig verantwoord?

Als ouders een AI Barbie of AI Cayla aanschaffen, halen ze dus niet alleen een pratende pop in huis, maar ook een AI-opvoedboekje waarmee ze moeten samenwerken. Maar hoe opvoedkundig verantwoord is dat boekje en wie bepaalt dat?

Over weinig onderwerpen bestaan zoveel meningsverschillen als over opvoeding. Op dit moment staat bijvoorbeeld de opvoedstijl van de curlingouders ter discussie. Dat zijn ouders die -net als in de curlingsport- alle obstakels voor hun kinderen uit de weg ruimen. Pedagogen vrezen dat kinderen zich daardoor niet kunnen ontwikkelen tot veerkrachtige volwassen die om kunnen gaan met frictie. Als frictie gezond is voor onze ontwikkeling, moet er dan ook slim speelgoed op de markt komen dat af en toe tegenspreekt?

Over het opvoedboekje van slim speelgoed en de manier waarop AI intervenieert in de relatie tussen ouders en kinderen is nog weinig bekend. In het AI AI Barbie project komen we daar meer over te weten. Samen met Stefania Druga en het Creative Learning Lab van Waag organiseren we een hackaton waarin we verschillende ‘provotypes’ (provocerende prototypes) ontwikkelen. We programmeren AI Barbies met verschillende opvoedstijlen en kijken of het mogelijk is om ruimte te bieden voor een fantasierijke manier van spelen. Hoe voorspelbaar is AI Barbie en wordt ze autoritair of meer laissez-faire?

Op donderdag 6 juni presenteren we de resultaten tijdens het AI AI Barbie publieksevent. Aan de hand van de verschillende ‘provotypes’ verkennen we nieuwe kaders voor verantwoord gebruik van AI in speelgoed.