‘Snakeoil’, ‘Slangenolie’ is de term die in de VS gebruikt werd voor een zogenaamd wondermiddel dat van alles kon genezen. Bij ons, in Nederland hadden we onder andere ‘Pleegzuster Bloedwijn’ waaraan heilzame eigenschappen werden toegeschreven.
Het verschil tussen die twee is dat Snakeoil pure nep is, terwijl bij Pleegzuster Bloedwijn wel degelijk een poging is gedaan om kwaliteit te leveren. De overeenkomst met AI is dat alle drie via de media werden gepromoot en bekendheid kregen.
Deze blog gaat vooral over het boek ‘AI Snake Oil‘. Een volgende blog, ‘Levertraan’, gaat over aspecten van informatievaardigheden die in het boek aan bod komen.
Het boek ‘AI Snake Oil‘ van Arvind Narayanan heeft als ondertitel: What AI can do, what it can’t and how to tell the difference (Wat AI kan, wat het niet kan en hoe je het verschil kunt zien). Een mooie ondersteuning voor het boek is een blog met meer recente informatie.
Het doel van het boek is om de bedrieglijke variant van AI te identificeren en die te onderscheiden van AI die wél werkt. Een praktisch probleem is dat AI eigenlijk een overkoepelend begrip is, waardoor er gemakkelijk verwarring over kan ontstaan. Er zijn immers veel verschillende soorten AI. Zoals voorspellende AI, generatieve AI en AI voor ‘content moderation’ als redactie, bijvoorbeeld binnen sociale media.
Afbeelding: Roeland Smeets
Waarom kan AI de toekomst niet voorspellen?
Zo heet het hoofdstuk over voorspellende AI. Er is veel commercieel belang bij dat de toekomst voorspelbaar zou zijn. Maar er zijn te veel onvoorspelbare factoren die een rol spelen als het om de toekomst gaat, dus je kunt zeggen dat AI die de toekomst voorspelt vooral nep is: Snakeoil.
Generatieve AI
Deze soort verwijst naar AI-technologie die in staat is om tekst, afbeeldingen of andere media te genereren. Deze technologie bevindt zich nog in een vroeg stadium van massale acceptatie en het is moeilijk te voorspellen wat de impact ervan op de economie en cultuur zal zijn.
Iets wat ons aan het denken zou moeten zetten is dat alle moderne chatbots eigenlijk alleen getraind zijn om het volgende woord te voorspellen (blz. 132).
Is AGI een existentiële bedreiging?
Met AGI (Algemene Kunstmatige Intelligentie) bedoelen we AI die de meeste of alle economisch relevante taken even effectief kan uitvoeren als een mens.
Kort gezegd: het standpunt van velen in de AI-gemeenschap is dat AGI een existentiële bedreiging vormt die drastische wereldwijde maatregelen vereist (blz. 150).
Maar de schrijvers van ‘AI Snake Oil’ denken dat AGI een langetermijnperspectief is en dat de samenleving al over de middelen beschikt om de risico’s ervan rustig aan te pakken. We moeten ons niet laten afschrikken door het spookbeeld van existentiële risico’s en ons niet laten afleiden van de meer directe schade van AI-snakeoil (blz. 152).
Tot nu toe hebben we in dit boek twee soorten AI besproken: voorspellende en generatieve AI. We hebben uitgelegd hoe deze technologieën werken en hoe ze in onze samenleving worden gebruikt, zodat het duidelijker wordt wanneer AI werkt en wanneer niet – en wanneer er schade kan ontstaan.
Waarom AI sociale media niet kan repareren
Met name Facebook heeft op verschillende plekken in de wereld duizenden doden veroorzaakt door het aanzetten tot haat binnen verschillende bevolkingsgroepen.
In Tigray, Ethiopië, India en Sri Lanka, Afghanistan, Bosnië-Herzegovina en Kenia vonden vergelijkbare botsingen plaats:
Theoretisch zouden sociale media zo ingericht kunnen worden dat ze wèl mensen tot elkaar brengen, maar dat laatste brengt het verdienmodel van ‘Big Tech’ in gevaar, dus kunnen we het voorlopig wel vergeten.
Opvallend is dat sociale media wel een verdrag hebben afgesloten dat best goed klinkt: Santa Clara.
Hoe gaan we verder?
Een belangrijke ontwikkeling die de afgelopen jaren is ingezet is dat grote bedrijven die wel degelijk belangrijke ontwikkelingen op gang konden brengen langzaam maar zeker hun uitvindingen/vondsten niet meer openbaar maken, vooral vanwege de onderlinge concurrentie. Daarmee is het wetenschappelijke aspect langzaam maar zeker verdwenen uit de discussie. AI is normale technologie en tegelijkertijd de laatste, meest recente stap die is gezet in de ontwikkeling van diezelfde technologie. Als er nieuwe, grote veranderingen nodig zijn, zullen we het economische model waarin ze plaatsvinden kritisch moeten onderzoeken.
Conclusie
‘AI Snake Oil’ is een mooi, gezaghebbend boek over AI, geschreven door een hoogleraar en medewerker van de universiteit van Princeton. Het geeft veel duidelijkheid en is wars van hype.
Reacties worden eerst goedgekeurd door de redactie.