Scheefgroei in de natuur betekent dat groei een ongewenste richting opgaat. Ook in de samenleving doet zich scheefgroei voor, voortkomend uit digitale ontwikkelingen. Al eeuwenlang worden er in samenlevingen passende wetten opgesteld. De samenlevingen veranderen, onder invloed van digitalisering, maar de wetten veranderen maar langzaam mee. Dat heeft consequenties, zo blijkt uit het boek The Digital Republic van Jamie Süsskind.
Illustratie: Roeland Smeets
In deze reeks heb ik boeken besproken van allerlei wetenschappers. Voor het eerst richt ik mijn vizier op een advocaat. Süsskind is als barrister (jurist, advocaat) helemaal thuis in de juridische wereld. Volgens hem kan het digitale domein helemaal opgenomen worden in de wereld zoals wij die kennen, ook juridisch gesproken. Tot nu toe is dat niet geval geweest omdat digitale ontwikkelingen zich moeilijk laten vangen in wetteksten.
Artikel 230
Süsskind neemt ons in zijn boek terug in de tijd. In 1996 nam het Congres in de VS sectie 230 van de Communications Decency Act aan. Weinig mensen realiseerden zich toen dat het hier ging om twee op maat gemaakte, beschermende maatregelen voor de tech-industrie, die revolutionair zouden blijken.
De eerste zorgde ervoor dat digitale tussenpersonen bijna nooit aansprakelijk zouden zijn voor uitingen van hun gebruikers. De tweede zorgde ervoor dat de tech-industrie bijna nooit aansprakelijk zou zijn voor “inspanningen te goeder trouw” om de toegang tot “obsceen, onzedelijk, wulps, smerig, buitensporig gewelddadig, intimiderend of anderszins verwerpelijk” materiaal te beperken – zelfs dat materiaal was “grondwettelijk beschermd”. Revolutionair was het inderdaad, maar op een verkeerde manier: zo’n beetje alles dat schadelijk kon zijn voor de samenleving, kreeg daarmee online een plek.
De Engelse titel van het boek dat ik hier bespreek is The Digital Republic. Het woord ‘republic’ is afgeleid van het Latijnse ‘res’, zaak, en ‘publica’, algemeen. Republikeinen waren van oudsher mensen die de publieke zaak toegedaan waren. Dit in tegenstelling tot mensen die zich schikten onder de macht van koningen of keizers.
De essentie van digitaal republikanisme is eenvoudig: digitale technologie mag niet in staat zijn om de fundamenten van de democratische orde te bedreigen of te dienen als instrument van overheersing, of om de samenleving opnieuw in te richten op manieren die de belangen of waarden van de burgers niet respecteren of de voorwaarden van zelfbestuur ondermijnen. Sommige oude wetten zullen moeten worden aangepakt en andere zullen in werking moeten worden gesteld, beide op een manier die de macht van de staat tot een minimum beperkt.
Het lijkt vreemd dat grote bedrijven als Facebook kunnen profiteren van terroristische groeperingen die hun sites gebruiken, dat slachtoffers van wraakporno geen juridische stappen tegen hen kunnen ondernemen om beeldmateriaal neer te halen, of dat ze de verkoop van illegale vuurwapens straffeloos kunnen faciliteren. Maar toch zijn dat enkele van de gevolgen van artikel 230 geweest. Scheefgroei, is de conclusie van Süsskind.
Werkelijkheid en wetten
Nog twee voorbeelden van maatschappelijke scheefgroei:
- De meeste landen hebben lang geleden wetten ingevoerd om mensen te beschermen tegen intimidatie. Deze wetten waren gericht op fysieke stalking of bedreiging. Maar naarmate het internettijdperk zich ontvouwde, waren deze steeds minder in staat om online intimidatie aan te pakken, wat verschilt van offline intimidatie. Niemand had besloten dat intimidatie nu oké is; integendeel, de wet probeerde het te verbieden. Maar technologie maakte nieuwe vormen van intimidatie mogelijk en de oude wet verouderde verder.
- Op allerlei online plekken word je gevraagd om toestemming te geven: “I agree”. Maar in het echte leven gaat er aan het toestemming geven heel wat vooraf: onderhandelen en het geven en nemen voor beide partijen. Maar juist die partijen zijn in de online wereld ongelijk verdeeld. Er is sprake van een hopeloos machtsonevenwicht. De kennis, het inzicht en de informatie waarover consumenten beschikken, is onvolledig. Toch, leren alle rechtenstudenten in hun eerste semester, waar het om gaat, is de objectieve schijn van overeenstemming. Zodra u op “Ik ga akkoord” klikt, geeft de wet niet om uw twijfels of misvattingen. De deal is rond.
De pandemie
Als er ingrijpende gebeurtenissen (denk aan klimaatverandering, de oorlog in Oekraïne) plaatsvinden, waar dan ook in de wereld, is het spannend om te zien hoe de informatie daarover een speelbal wordt voor belanghebbenden, die zich graag voordoen als deskundigen.
Tijdens de Covid-19 pandemie zagen miljoenen mensen berichten op sociale media waarin werd beweerd dat het eten van knoflook het virus geneest, dat de paus Covid had opgelopen en dat die ziekte zou worden veroorzaakt door 5G-technologie. De meest bezochte link op Facebook tijdens de eerste drie maanden van 2021 was een nepartikel over de fatale gevolgen van het coronavaccin. Een onderzoek schatte dat 45% van de tweets over het virus afkomstig kon zijn van bots.
Wie is verantwoordelijk?
Wie draagt er verantwoordelijkheid, in de nabijheid van zo’n dominante medespeler als technologie? Je zou kunnen denken aan de grote techbedrijven, maar die hebben een heel bijzondere opvatting van self regulation, namelijk dat machtige technologieën overgelaten worden aan de technici die ze ontwerpen en onderhouden. Je zou kunnen verwachten dat grote platforms verantwoordelijkheid nemen voor de inhoud van hun moderatiebeleid, maar dat doen ze niet – al reageren ze wel op acties vanuit Europa.
Actie
Volgens Süsskind is het nodig om in actie te komen. Hij haalt Bruce Schneier aan, die zei dat het vroeger zo was dat dingen computers bevatten, maar nu “zijn het computers, met dingen eraan vastgemaakt”. Binnenkort zullen tientallen – ooit domme – objecten verbonden zijn met het internet, uitgerust met sensoren en begiftigd met verwerkingskracht, waardoor ze met ons en elkaar kunnen communiceren. Al deze technologieën zullen regels bevatten en die zullen we moeten volgen. En dat kan ook gelden voor wapens die op ons staan afgesteld.
Scheefgroei
De omgewaaide boom in de illustratie ligt weliswaar op de grond, maar hij is gedeeltelijk nog geworteld, hij biedt onderdak aan talloze kleine dieren en heeft bladeren op sommige takken. Voor het grotere dier, de mens, ziet het er nu door eigen toedoen somberder uit. Toch kan de mens zich herpakken. Zo hebben we in Nederland PublicSpaces, “een unieke coalitie van verschillende publieke organisaties, zoals publieke omroepen, erfgoedinstellingen, festivals, bibliotheken, musea en onderwijs”. Onder deze paraplu werken deze organisaties samen aan een oplossing, zodat ze voor hun communicatie, informatie en mediacirculatie minder of niet meer afhankelijk zijn van Big Tech. Het is duidelijk dat Nederland het qua veiligheidsbeleid van de Europese Unie zal moeten hebben.
Kortom
Krachtige digitale technologieën – en degenen die ze ontwerpen en controleren – worden niet adequaat beheerd. De wetten doen te weinig aan de machtsongelijkheid die ontstaat waar technologie aanwezig is. Ze geven te veel bescherming aan de industrie en niet genoeg aan de rest van ons. Ze gaan ervan uit dat mensen als individuen alleen staan, terwijl wat nodig is collectieve actie is.
Reacties worden eerst goedgekeurd door de redactie.