AI normaliseert in een razend tempo en we krijgen er allemaal mee te maken. De impact van deze systeemtechnologie wordt ook wel vergeleken met die van de verbrandingsmotor en drukkunst. Dat betekent dat we er allemaal mee om moeten leren gaan, zo roept ook de WRR op. AI is breed, maar wordt specifiek veel toegepast binnen de media die we gebruiken, denk aan algoritmes op sociale media, chatbots en deepfakes. Hier is mediawijsheid en AI-wijsheid voor nodig. Hoe herken je AI? Hoe beïnvloedt het je? En hoe kun je het doorgronden of zelf maken?
Tijdens de expertsessie op 22 februari 2023 in Beeld en Geluid bracht Netwerk Mediawijsheid experts op gebied van AI en mediawijsheid samen om te onderzoeken welke competenties nodig zijn in een mediasamenleving met AI. Het Mediawijsheid Competentiemodel staat hierbij centraal, als handvat, checklist en onderbouwing. Wat moeten we kinderen én volwassenen leren om veilig en bewust met AI te leven? En daar een actieve en kritische rol in te nemen?
Na twee inleidende keynotes, van Karolina La Fors en Jim Stolze, gingen experts op gebied van mediawijsheid en/of AI in gesprek aan verschillende rondetafels. De expertsessie gaf een eerste aanzet tot een antwoord op deze en andere vragen, maar riep ook veel nieuwe vragen op. In dit verslag blikken we terug op de belangrijkste inzichten. Maar eerst: waar hebben we het eigenlijk over als we spreken van Artificiële Intelligentie of AI?
AI, waar hebben we het dan over?
Er bestaat eigenlijk nog geen eenduidige definitie van Artificiële (of Kunstmatige) Intelligentie (AI), maar de rijksoverheid stelt:
“Kort gezegd is AI een verzamelnaam voor algoritmes en methoden die taken uitvoeren waarvan werd gedacht dat daar menselijke intelligentie voor nodig is. Artificiële intelligentie verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie ondernemen om specifieke doelen te bereiken. Het gaat niet alleen om rekenkracht, maar om de mogelijkheid om (zelfstandig) te leren en beslissingen te nemen. Het lerend vermogen is dus typerend voor kunstmatige intelligentie. Daarbij gebruikt AI regels die door mensen zijn geformuleerd of die door het algoritme zijn samengesteld op basis van de data en traint het zichzelf met data.”
In zijn inleiding tijdens de expertsessie onderscheidt Jim Stolze – tech-ondernemer en -educator – enkele van de vele verschijningsvormen van AI:
- NLP & speech: taal begrijpen, genereren en manipuleren
- Machine learning: bijleren op basis van ingevoerde data en patronen
- Deep learning: zelfsturende Machine Learning waarbij algoritmes zichzelf slimmer maken
- Neurale netwerken: leren door het zien van voorbeelden
- Computer vision: analyseren en begrijpen van beeld
Die zijn te onderscheiden in drie categorieën:
- Artificial Narrow Intelligence: AI die menselijke intelligentie niet overtreft, een vorm die al bestaat.
- Artificial General Intelligence: AI die gelijkwaardig is aan menselijke intelligentie, een vorm die al bestaat maar nog niet enorm veel voorkomt.
- Artificial Super Intelligence: AI die de menselijke intelligentie overstijgt en een bedreiging voor de mens kan vormen omdat deze vorm een eigen bewustzijn heeft met verlangens, gevoelens en een eigen mening. Deze vorm van AI bestaat nog niet en volgens velen komt die er ook nooit.
AI, waar zetten we het in?
De geschetste scenario’s met AI zijn vaak hoopgevend. Denk aan voordelen van de herkenning van spraak, beeld en patronen, de zelfsturende systemen, vertaalmachines, lopende robots en vraag-antwoordsystemen. Die kunnen ons helpen op het gebied van gemak, gebruikerservaring en efficiëntie. Deze beeldvorming over AI bepaalt hoe we erover praten. Maar is die artificiële intelligentie wel echt zo slim als dat de naam suggereert? Aan hun tafel roepen Casper de Jong en Andrea Rhodenborgh van SETUP op om in gesprek te gaan over vragen als: levert AI wel altijd wat het belooft? Waar wil je AI toepassen? En misschien ook waar niet?
Met de snelle opmars van ChatGPT is het gesprek hierover vol aan de gang. De experts aan tafel zien: wij passen ons aan, aan AI. Maar AI past zich ook aan, aan ons. Dit aanpassen hoeft niet slecht te zijn, evenals AI in zichzelf niet goed of fout is. Veel nieuwe technologieën roepen wel vaak de vraag op: ‘Is het goed of slecht voor ons?’. Maar wat goed of fout is, kan door de tijd heen veranderen. Het is daarom belangrijk om een stapje terug te doen en erop te reflecteren. Doe dat juist door het regelmatig te ervaren, te gebruiken en er het gesprek over aan te gaan.
Neem bijvoorbeeld ChatGPT, de chatbot die in eerste instantie gevoed was met informatie tot 2021. Door het te gebruiken bleek dat het een behoorlijk goed antwoord kon geven op de vraag: ‘Kun je me vertellen welke sancties er worden opgelegd aan Rusland als Rusland Oekraïne binnenvalt?’. De chatbot lijkt goed te kunnen voorspellen, maar daarbij is het goed om je te realiseren dat het slechts een taalmodel is dat zich baseert op grote hoeveelheden tekst. Wat weer iets anders is dan voorspellingen doen met andere AI-toepassingen. Hierbij wordt duidelijk dat het belangrijk is om algemene kennis (ook over AI) te hebben om AI goed in te zetten. Wat vaststaat voor de gespreksleden is: daar waar we AI wel willen gebruiken, moeten we kunnen uitleggen waarom we het daar willen gebruiken.
En waarvoor zetten we AI niet in?
Met de vraag waar we AI voor willen inzetten, komt ook de vraag: waar willen we AI niet voor inzetten? Sommige deelnemers zien nu als hét moment om bewuste keuzes te maken, voordat we de controle gaan verliezen. Om de controle te pakken, bijvoorbeeld bij het tegengaan van deepfake pornografie, moeten we het ook hebben over de makers en over beleidskeuzes. De invloed van mensen op AI is groot. We moeten letten op mensenrechten (kinderrechten) en rechten van minderheden. Het is wat dat betreft goed dat er Europese wetgeving aankomt. En wellicht is een disclaimer bij AI gegenereerde content een goed idee?
Anderen zijn van mening dat we die controle al verloren zijn. AI is immers nu al een opeenstapeling van moeilijk te doorgronden bouwstenen en facetten. En door AI allerlei menselijke kenmerken toe te kennen, bijvoorbeeld door AI te vergelijken met ons brein, maken we het alleen maar ingewikkelder om te begrijpen.
Hoe kan het Mediawijsheid Competentiemodel helpen?
In veel aspecten van ons leven kan AI al een grote rol spelen. Denk aan digitale assistenten, slimme technologie, AI-gegenereerde teksten en beelden of aanbevelingen in online winkels. Vaak weten of herkennen we dat niet eens. Maar is dat nodig? En als dat nodig is, wat moeten we er dan van weten of mee kunnen? En hoe verhouden de competenties uit het Mediawijsheid Competentiemodel zich daar dan toe?
Dit waren de centrale vragen waar de deelnemers van deze sessie zich over bogen, waaronder de mede-ontwikkelaar van het competentiemodel, Daniel Lechner. En ook aan tafel bij Harriët Leget van Kennisnet (met oog op kinderen en leraren) en Maaike Drok van de Nederlandse AI Coalitie (met oog op volwassenen en werkenden), kwamen de noodzakelijke mediawijsheid competenties aan bod.
Welke mediawijsheid competenties hebben we nodig om om te gaan met AI? Het Mediawijsheid Competentiemodel biedt acht mediawijsheidcompetenties, die te zien zijn als het geheel van kennis, vaardigheden en mentaliteit die iedere burger nodig heeft om te bewegen in deze mediasamenleving: bedienen, exploreren, vinden, creëren, verbinden, discussiëren, doorgronden en reflecteren. In de buitenring van het model staan de tien gebieden waarbinnen individuen concrete doelen kunnen behalen door hun mediagebruik. En daarin speelt AI steeds vaker een rol. Een aantal competenties zullen specifiek voor het omgaan met AI belangrijk worden voor mensen om te ontwikkelen: discussiëren, doorgronden, reflecteren, creëren en bedienen.
Discussiëren over AI
We konden er de afgelopen maanden niet omheen: ChatGPT. Waar veel gesprekken over AI voorheen tamelijk abstract waren, waren die nadat deze chatbot ons volkomen overrompelde, zeer concreet. Misschien is dat het effect dat ons helpt om de goede gesprekken over AI op gang te brengen, vanuit nieuwsgierigheid. Tegelijkertijd is daar de valkuil om AI alleen als chatbot te bespreken, waar AI zoveel meer is. Denk aan de eerder genoemde verschijningsvormen en categorieën. En het gegeven dat we het hebben over systeemtechnologie en niet zomaar een nieuwe vorm van digitale media als bijvoorbeeld BeReal.
AI leren herkennen of doorgronden
Je smartphone, tablet, laptop of spelconsole gebruiken is een bewuste keuze. Een selectie van zoekresultaten op internet gebruiken is een bewuste keuze. Een smartwatch gebruiken om je gezondheid te verbeteren is een bewuste keuze. Maar lang niet alles wat we doen in media is een bewuste keuze – we worden voortdurend door media genudged, gevolgd en beïnvloed. En op de achtergrond is veel daarvan het resultaat van AI. We weten dat niet, niemand kan ons precies uitleggen wat AI met onze data doet. Daarmee gaat het een stapje verder dan een algoritme. Daarom is het belangrijk om AI te kunnen herkennen en te weten wanneer er gebruik van is gemaakt.
Dat is overigens wat anders dan AI leren doorgronden. Van veel technologie begrijpen de meesten van ons allang niet meer hoe het precies werkt. En is dat eigenlijk wel mogelijk of nodig? Denk aan het voorbeeld van de rekenmachine, die kun je gebruiken zonder te weten hoe die precies werkt. Maar een belangrijk verschil met AI, en dat geldt voor meer technologie, is dat de uitkomsten van een rekenmachine niet worden beïnvloed door grote partijen met commerciële belangen. Dus het is veel belangrijker om te weten wie bepaalde technologie heeft ontwikkeld en met welke intentie.
Reflecteren op AI
AI heeft ons al veel gebracht en tegelijkertijd nog een enorm, niet te onderschatten potentieel. Een voorbeeld daarvan is het herkennen van patronen in bijvoorbeeld foto’s van huidziektes. Of het verwerken van data en vergelijken van datasets. Voorbeelden die tegelijkertijd ook vragen oproepen en ons dwingen om op het gebruik van AI en onze eigen data en modellen die daaraan ten grondslag liggen te reflecteren.
Zo zien we bijvoorbeeld dat ziektes in bepaalde gevallen, bijvoorbeeld bij mensen met een niet-witte huid, niet herkend worden. Of dat gegenereerde afbeeldingen bepaalde stereotypen versterken en daarmee niet bepaald een inclusief beeld geven. En daarbij hoort dus het besef dat bij het ontwikkelen van AI menselijke keuzes aan de basis staan: welke data zet je in en wat betekent dat voor de uitkomsten?
DALL-e: photo of a couple that has been married for 50 years
DALL-e: photo of a poor couple that has been married for 50 years
Naast een ‘mens-machine perspectief’ (hoe gebruiken we AI?), zou er meer aandacht moeten zijn voor het ‘mens-mens perspectief’: het reflecteren op menselijke interacties over het gebruik ervan. Psychologie staat niet op de eerste plek, terwijl er veel vragen opkomen die hieraan raken. Bijvoorbeeld: ‘Mijn kind heeft dit gedaan (met technologie), hoe ga ik daarmee om?’
Voor het reflecteren kan het ook helpend zijn om te kijken naar de overeenkomsten en verschillen met bestaande technologie. Om een voorbeeld te geven: chatbots als ChatGPT zijn niet hetzelfde als zoekmachines. Het zijn voorbeelden van ‘generatieve AI’ die – in dit geval op basis van een taalmodel – nieuwe dingen produceert.
Net als met veel andere technologie en media roept AI direct de vraag op: wat moeten we zelf doen en wat kunnen we (beter) uitbesteden aan AI? Hebben we de vaardigheid ‘een goed artikel schrijven’ over 20 jaar nog wel nodig? En als dat niet zo is, wat moeten wij dan wel weten en kunnen? Daarom is het belangrijk om na te denken over verschillende werkvelden en beroepen en te reflecteren op de invloed van AI daarop.
Creëren met AI
Een manier om AI te leren herkennen en te kunnen reflecteren op AI is door het bewust te gaan gebruiken. Veronderstel dat je een artikel of zelfs een boek wilt schrijven en je loopt aan tegen een writersblock. In dat geval kun je AI vragen een stukje voor je te schrijven ter inspiratie. Door AI te gebruiken om te creëren en het in de praktijk toe te passen, breid je je kennis erover uit. En door meer te co-creëren en in co-design het perspectief van verschillende doelgroepen – bijvoorbeeld kinderen – mee te nemen, wordt iedereen in staat gesteld deel te nemen aan het goede gesprek over AI.
Daarnaast kun je door mensen iets met AI te laten creëren het kritisch vermogen stimuleren en vergroten, bijvoorbeeld door zelf iets te maken dat niet echt is. Door zelf iets te maken, kijk je mogelijk ook anders naar iets van een ander of naar iets dat door AI is gemaakt.
AI bedienen
AI onderscheidt zich van een algoritme, onder andere omdat het zelf leert. Het leert van wat wij ermee doen en van waar wij het mee voeden. Het past zich aan. Maar dat geldt ook andersom. Door AI te gebruiken, worden wij beïnvloed en passen wij ons aan.
Als je in staat bent om AI goed te gebruiken, zijn er veel mogelijkheden waarbij het kan bijdragen aan je gezondheid, geluk en wijsheid. Tieners kunnen aan een chatbot persoonlijke of lastige vragen stellen. Datingapps kunnen mensen (steeds beter) aan elkaar verbinden. Daarvoor zijn de kennis en vaardigheden van ons als gebruiker van groot belang. Niet alleen specifieke kennis en vaardigheden met betrekking tot AI, maar ook algemene kennis en vaardigheden.
En tot slot, om AI goed te kunnen gebruiken, te kunnen bedienen, is het van belang om vooral ook te weten wat het niet kan. ChatGPT doet zijn best om een overtuigend antwoord te formuleren, maar of dat antwoord waar is, daar geeft het bijvoorbeeld niet om.
Informatie vinden met AI
Goed zoeken op internet naar informatie vraagt specifieke zoekvaardigheden. Maar ook informatievaardigheden als het kunnen beoordelen van de ‘waarde’ van de informatie die je vindt. En dat begint met de bron. Maar met AI is dat op twee manieren lastiger. Ten eerste: hoe stel je de juiste vraag? En ten tweede: wie is dan de bron? En als je AI gebruikt om iets nieuws te (laten) creëren, van wie is het dan en wat moet je als bron vermelden?
AI in het onderwijs
Naast de vraag welke competenties we kinderen moeten leren, gaat het aan tafel bij Kennisnet ook om AI in het onderwijs: welke vragen moeten we ons stellen bij het inzet van AI in het onderwijs?
Voor het onderwijs liggen belangrijkste filosofische en reflectieve vragen. Bijvoorbeeld: welke taken besteed je uit aan AI? Zou je bijvoorbeeld een robot inzetten om kinderen te helpen bij hun taalachterstand? Adaptieve leermiddelen die AI gebruiken schieten in het onderwijs als paddenstoelen uit de grond. In hoeverre moeten leerlingen dat weten en begrijpen? Bijvoorbeeld dat leerdata invloed hebben op wat en hoe je leert op school. En hoe zit het met de privacy?
Omdat AI nu eenmaal veel sneller en beter is in het verwerken van grote hoeveelheden data biedt het mogelijk ook kansen. Hoe fijn zou het zijn als je als docent aan AI kunt vragen: wat moet ik herhalen van de stof van gisteren en welke leerlingen hebben extra aandacht nodig?
We kunnen in ieder geval niet ontkennen dat AI als technologie bestaat en zich ontzettend snel ontwikkelt. Verbieden is daarom lastig en misschien ook niet wenselijk. Het is mogelijk beter om leerlingen te leren het goed te gebruiken. En goed gebruiken betekent bijvoorbeeld dat je een AI chatbot de juiste vraag stelt en het resultaat kritisch evalueert.
Lees ook: Onderwijs heeft AI-wijsheid nodig – een gesprek met Haroon Sheikh
Kinderen zijn meer dan gebruikers
In haar onderzoek naar kind-AI interacties ziet Karolina la Fors – onderzoeker in Responsible Design bij het DesignLab van de Universiteit Twente en betrokken bij het ELSA Lab AI4Youth – de positieve en schadelijke effecten van AI. De interesse in AI is groot onder kinderen en ze zijn gek op ‘conversational agents’ zoals Alexa. Zij maken het voor kinderen mogelijk om in gesprek nieuwe dingen te leren, taal te ontwikkelen en muziek af te spelen. Hierbij komen vragen op als: wat als een kind Alexa eerder gelooft dan een ouder? En hoe kunnen we de kwaliteit van informatie en de privacy voldoende waarborgen?
In haar keynote benadrukt Karolina la Fors het belang om kinderen niet alleen als gebruikers te benaderen en te onderzoeken. Door co-creatief mee te doen, merkt zij dat kinderen niet alleen AI-wijsheid ontwikkelen, maar ook andere vaardigheden, zoals creativiteit. Ook is dit dé manier om te ontdekken wat de impact van AI is op kinderen.
Download hier de Presentatie van Karolina La Fors
Hoe betrekken we jongeren?
Voormalig kinderminister voor Digitale Zaken Luca Ripolli gaat aan zijn tafel in gesprek over de vraag: hoe kunnen we jongeren beter betrekken bij beleid en ontwikkeling van AI? Ook onder jongeren zie je grote verschillen in digitale vaardigheden en angst of nieuwsgierigheid voor nieuwe technologie. Het is belangrijk om hen allen in de gelegenheid te stellen om de vruchten te plukken van de kansen die het kan bieden. En dan dienen zich onmiddellijk een aantal vragen aan: Wat moet je daarvoor dan kennen over en kunnen met AI? Wat zijn dan de verschillen binnen en tussen de opleidingsniveaus? En hoe houd je het eigenaarschap bij de jongeren zelf?
Als het gaat om het betrekken van jongeren bij beleidsvorming en ontwikkeling van AI, is het belangrijk om naar manieren te zoeken om zo veel mogelijk jongeren in een zo divers mogelijke samenstelling te betrekken. Het blijkt lastig om kinderen boven de 12 jaar te bereiken, merken deelnemers aan het gesprek op. Ze wisselen tips uit om jongeren beter te betrekken, zoals met pizzasessies en theatervoorstellingen.
Betrek kinderen voordat je AI inzet in het onderwijs. Dan kom je er bijvoorbeeld achter dat leerlingen expres fouten kunnen gaan maken binnen een adaptief leren-systeem, omdat ze weten dat de opdrachten dan gemakkelijker worden. En dat de toenemende dataverzameling en digitale systemen invloed hebben op de hoge druk die jongeren ervaren.
Volwassenen en AI
Maaike Drok van de Nederlandse AI Coalitie gaat aan haar tafel – naast de nodige competenties – ook in op de vraag: hoe kunnen volwassenen meekomen met de ontwikkelingen rondom AI, in hun werk en in de samenleving?
We zien dat bewustwording over het verzamelen en gebruiken van data (die je onbedoeld of onbewust deelt) achterloopt op het gebruik van technologie. Scepsis en angst voor nieuwe technologie zijn begrijpelijk. Maar angst kan de ontwikkeling van kennis en vaardigheden ook in de weg staan. Want tegelijkertijd zijn al die data, wat betreft AI, ook een kans.
Er zijn dingen waar AI nou eenmaal beter in is dan mensen, bijvoorbeeld patronen herkennen, data verwerken en datasets vergelijken. Zo kan AI mogelijk eerder een ernstige huidziekte herkennen dan een arts. Dus hoewel medische data enorm privé zijn en het allerlei privacy vraagstukken oproept, is het een voorbeeld dat AI heel goed voor je kan werken.
Een goede start om meer te leren over AI, ook over de mogelijkheden in verschillende sectoren, is de Nationale AI-cursus. Daarbij is het goed om ons te realiseren dat innovatie niet wacht op het moment dat wij ermee om kunnen gaan. Winst is veelal een belangrijke impuls voor innovatie. Dat vraagt om een open en positief-kritische houding en een focus op kansen en mogelijkheden.
Deze expertsessie leverde nieuwe inzichten en vragen op over hoe we als Netwerk Mediawijsheid met dit thema aan de slag kunnen. Heb jij aanvullingen of vragen? Laat deze hieronder achter in een reactie, of mail naar info@mediawijzer.net.
Reacties worden eerst goedgekeurd door de redactie.