Deze titel slaat op een middel dat vroeger, in mijn jeugd, massaal geslikt werd voor een betere gezondheid. Het werd destijds veel meer gepromoot dan tegenwoordig.

De vergelijking met levertraan gaat op voor het boek ‘AI Snake Oil‘ van Arvind Narayanan en Sayash Kapoor. Maar de vergelijking gaat slechts in beperkte mate op, want het had wel degelijk zin om dat vieze levertraan te slikken. Snake oil daarentegen, qua samenstelling, was volledig nep.

Meer over ‘AI Snake Oil‘. Het boek heeft als ondertitel: What AI can do, what it can’t and how to tell the difference. (Wat AI kan, wat het niet kan en hoe je het verschil kunt zien.)

Deze serie heet niet voor niets ‘Wegwijs in informatie’. De mens en zijn omgang met AI is het onderwerp. Het is net als bij mediawijsheid: daar gaat het over hoe (jonge) mensen allerlei media ervaren.

AI-hype in de media

De schrijvers van het boek hebben vijftig nieuwsartikelen over AI grondig onderzocht en hebben achttien onderwerpen bij elkaar gezet om in de gaten te houden. Ze zagen dat zowel goede, betrouwbare, kranten als minder goede nieuwsmedia dezelfde fouten maakten. Ze namen PR-statements van grote techbedrijven over en gebruikten te pas en te onpas afbeeldingen van robots. Hier een overzicht van veel voorkomende fouten (blz. 247.:

Als het publiek deze claims in de media wat kritischer zou benaderen, zou het onderwerp AI beter belicht worden. Maar achtergrondkennis is daarvoor wel een voorwaarde (blz. 255).

Er speelt nog iets mee: we hebben allemaal last van bepaalde vooroordelen, maar wat we nog niet weten is dat we er iets aan kunnen doen (blz. 257).

Ons begrip

Al te vaak worden er aan AI menselijke eigenschappen toegedicht. Dat leidt ook tot misplaatst vertrouwen in AI-systemen (blz. 231).

Bovendien zijn we vaak te zelfverzekerd over ons begrip van hoe dingen werken. We denken bijvoorbeeld vaak dat we complexe fenomenen beter begrijpen dan we in werkelijkheid doen:

Goed bedoeld, slecht uitgepakt

Veel hogescholen willen mentale gezondheidszorg bieden om studenten door moeilijke tijden heen te loodsen. Tientallen hogescholen hebben een product genaamd Social Sentinel geïmplementeerd om de sociale media-feeds van studenten te monitoren op tekenen van zelfbeschadiging.

Het programma was zo onnauwkeurig dat zelfs een medewerker van het bedrijf het intern ‘snake oil’ noemde. Maar dat weerhield hogescholen er niet van om er duizenden dollars aan uit te geven. En in plaats van het programma te gebruiken om zelfbeschadiging te voorkomen, gebruikten sommige scholen en hogescholen het voor surveillance en het monitoren van studentenprotesten (blz. 274).

Het nieuws

Negativiteit stimuleert de consumptie van online nieuws. De waargenomen polarisatie is groter dan de werkelijke polarisatie. Zou het kunnen dat deze verkeerde perceptie op haar beurt de polarisatie versterkt, waardoor een zichzelf versterkende destructieve cyclus ontstaat? (blz. 90)

En – om even een andere bron te citeren: ‘Voor ieder wat waars’ van Rob Wijnberg. Op blz. 97 schrijft hij: ‘Nieuws gaat bijna altijd over gebeurtenissen – incidenten, momentopnames – en veel minder over ontwikkelingen. De werkelijkheid wordt daarmee fragmentarisch: alsof dingen in een vacuüm gebeuren. Nieuws ziet de grotere verbanden tussen gebeurtenissen voortdurend over het hoofd.’

Grenzen aan (sociale) media

Het vaststellen van de grenzen van aanvaardbare uitingen is een krachtige manier om de publieke opinie en de politiek te beïnvloeden. Sociale media worden vaak gebruikt om regimes en andere machtige entiteiten uit te dagen. En welke entiteiten kunnen worden uitgedaagd, hangt af van welke uitingen zijn toegestaan. Cultuuroorlogen spelen zich af op platforms, net als echte oorlogen. Kortom, sociale media zijn een ‘plaats van strijd’. Belangengroepen van allerlei pluimage oefenen enorme druk uit op platforms om hun beleid te wijzigen (blz. 211).

Taalmodellen

Toen COVID jaren geleden uitbrak konden taalmodellen alleen reageren met heel rare quotes, zoals: ‘Bleek drinken geneest COVID’ en ‘social distancing is een list om 5G-masten te installeren’. De reden voor die gevaarlijke onzin was dat Large Language Models (LLM’s) niet in staat zijn om actuele ontwikkelingen te duiden omdat de woordenschat ontbreekt (blz. 196).

Conclusie

Veel voer voor informatievaardigheden en mediawijsheid in dit boek. Wat mij opvalt – en ik ben er blij om – is dat AI eigenlijk geen rol speelt als je informatie erover zoekt.

AI is een vorm van intelligentie, maar je huisdier is ook intelligent. Die vraag je ook niet om hulp bij je huiswerk. Al is AI natuurlijk wel een fascinerend onderwerp om te bestuderen.

Lees hier de andere delen in de serie ‘Wegwijs in informatie’