Een stropdas en een stevige dosis verantwoordelijkheid: wordt big tech dan eindelijk volwassen? In dit artikel volgt Frank-Jan van Lunteren (redacteur bij SETUP) de moeizame weg die big tech aflegt om volwassen te worden.

“Move fast and break things”, was het interne motto van Facebook. Fouten maken is een onvermijdelijke consequentie van innoveren in een competitieve industrie. Waar gehakt wordt vallen spaanders. En om een olifant te worden, moet je niet bang zijn voor scherven in de porseleinkast.

Dit artikel is geschreven ter gelegenheid van de Privacyrede met Kees Verhoeven op 17 februari 2022. Meer weten en je aanmelden? Bekijk de agenda

Inmiddels is dit motto verbannen naar Silicon Valley’s schroothoop van credo’s en lijfspreuken. Net als Google’s “Don’t be evil”. Maar ook andere, ooit zo krachtige uitspraken om de nieuwe wereld te verbeelden, zijn inmiddels op weg naar de eeuwige jachtvelden. In hoeverre is “To connect the world is to free the world” (Eric Schmidt, Google) bijvoorbeeld nog te rijmen met de bestorming op het Capitool? Zelfbenoemde vrijheidsstrijders niettemin, maar waarschijnlijk niet het type dat werd bedoeld.

Toegegeven, het is flauw om met de kennis van nu smirky naar deze oude motto’s te wijzen. In mijn pubertijd was het bijvoorbeeld hip om emails af te sluiten met ‘Greetzzz’. Daar denk ik nog steeds wel eens aan. Elke keer met de neiging om mijn 14-jarige zelf stevig door elkaar te schudden. Het naïeve puberbrein van Silicon Valley was mogelijk evenmin in staat om te begrijpen dat ‘breaking things’ ook voor de ‘social fabric’ van de samenleving kan gelden. En dat ‘disruptive technology’ inderdaad – vernietigend – disruptief kan zijn.

Maar nu zijn we volwassen. En bij volwassenheid hoort een stropdas en stevige dosis verantwoordelijkheid en plichtsbesef. “It’s not enough to just build powerful tools. We need to make sure they are used for good — and we will.” Google’s Sundar Pichai pleitte vanaf 2018 voor een nieuw motto: be responsible. Om die verantwoordelijkheid kunnen ze niet heen, want de schaduwzijden van 10 jaar big tech zetten de wereld langzaam in een ander licht. Dus er is werk aan de winkel. Facebook zet in op de bestrijding van nepnieuws. Apple maakt zich hard voor privacy. En Microsoft omarmt responsible AI. Check?

“Dan kun je jezelf re-branden tot ‘Meta’, maar net zoals Kanye’s transformatie tot Ye verandert er verder wezenlijk weinig.”

Onder millennials zoals ik bestaat er zoiets als ‘adulting’, een werkwoord om gedrag te beschrijven dat van volwassenen verwacht wordt. Maar het is iets dat je doet – ook voor de buitenwereld – zonder er oprecht klaar voor te zijn en het echt te willen. Dat is ook hoe ik het ‘verantwoordelijkheid nemen’ van big tech zie. Uiteraard, nepnieuws is een wezenlijk probleem. En Facebook’s ‘adulting’ – het aannemen van 40.000 extra moderators – is een vorm van verantwoordelijkheid nemen. Alleen worden die moderators vooral voor het Westen ingezet, onderbetaald en raken ze getraumatiseerd. En de recente onthullingen van klokkenluider Frances Haugen laten zien dat Facebook ondertussen waarschuwingen voor de schade die het platform wereldwijd aanricht, bewust negeert. Dan kun je jezelf re-branden tot ‘Meta’, maar net zoals Kanye’s transformatie tot Ye verandert er verder wezenlijk weinig.

“Move fast” blijkt best lastig voor de containerschepen die big tech inmiddels zijn geworden. Ja, een betere wereld is in theorie slechts een update bij ons vandaan. Maar de schepen lopen vast op de bodem van het onderliggende verdienmodel. Mark ‘We run ads, senator’ Zuckerberg’s verdienmodel is surveillance-kapitalisme. En big tech zal zichzelf nooit reguleren, tenzij dat verdienmodel stevig in gevaar komt. Dus het verbergen van de dislike-knop is vooral een cosmetische ingreep.

Er is nog een andere reden waarom veranderen moeilijk is. “Let’s circle back” naar die oude motto’s. Ze zijn namelijk meer dan naïef enthousiasme. Onder de woorden schuilt een onveranderlijk tech-solutionisme, het idee dat we de problemen (uiteindelijk) met dezelfde technologie ook kunnen oplossen. Voorbeeld: sociaal platform draagt bij aan negatief zelfbeeld van jongeren + platform verbergt het aantal likes = zelfbeeld veert weer op. Of: we besteden teveel tijd achter een scherm + Apple bouwt uitgebreide focus-modus om je dag volledig per uur in te delen = gebruiker voelt zich niet langer onrustig. Voor elk probleem bestaat wel een technologische fix, een nieuwe feature.

Net als millennials is big tech opgegroeid met bepaalde verwachtingen over de wereld. Dat onderliggende wereldbeeld is hardnekkig, en verandert niet makkelijk mee met de wereld. Oplossingen worden nog steeds gebouwd op het idee van ‘innovatie’ uit de beginjaren. Niet heel anders dan millennials opgevoed met de gedachte dat alles maakbaar is.

Dit is het onvermijdelijke punt waarop ik ga zeggen; we zijn ook zelf verantwoordelijk. We gebruiken de technologie, de smartphones zitten in onze broekzak en ook ik ‘klik op Agree zonder de voorwaarden te lezen’. We staan erbij en kijken ernaar. Maar dat is ook flauw, want individuele verantwoordelijkheid is complex geworden, we zitten samen vast in een complex systeem. Is bewustzijn en oproepen tot gedragsverandering dan uiteindelijk (snel) genoeg, of is er ook harde regulering nodig?

‘Moet ik de verwarming lager zetten terwijl grote bedrijven gigatonnen CO2 blijven uitstoten?’ is misschien eenzelfde soort vraag. Het antwoord is nog steeds ja. Een comité van het Europees Parlement stemde deze maand voor het aannemen van het wetsvoorstel Digital Markets Act (DMA), waarmee de macht van grote techbedrijven flink beteugeld moet worden. Ook het opbreken van big tech begint een serieuzer gespreksonderwerp te worden. Met hardere regulering zet je grotere stappen. Maar individuele verantwoordelijkheid blijft nodig. Niet zozeer om te zorgen dat meer mensen zelf beslissen om ‘te stoppen met Facebook’, maar om het tot een gespreksonderwerp te maken en houden. Op een verjaardagsvisite, in een opiniestuk, in de loopgraven van de talkshow-oorlog. Want politiek is uiteindelijk ook bezig met wat de maatschappij bezighoudt. En agenderen, maatschappelijk draagvlak creëren en verandering opeisen kan alleen samen.

“Bij wie ligt nu de bal, en welke ballen hebben we?”

‘De macht van big tech’ wordt langzaam een ingeburgerde term. Dat is een stap. Tegelijkertijd groeide de winst van big tech door twee jaar thuiswerken en online leven tot recordhoogten. Wat we kunnen inbrengen tegen die macht, blijft dus de vraag. Daar is kennis voor nodig en strategie, zowel maatschappelijk als politiek. Maar bij wie ligt nu de bal, en welke ballen hebben we?

Op 7 december 17 februari organiseert SETUP de jaarlijkse Privacyrede. Wat kunnen we doen tegen de macht van big tech? Hoe gaan we om met de datahonger van overheden? Hoe behouden we in het digitale tijdperk een menselijke samenleving en een sterke democratie? We nodigen voor deze editie Kees Verhoeven uit. Hij maakte zich als Tweede Kamerlid hard voor meer tegengewicht aan de techreuzen en controlestaten. Met hem maken we de balans op; waar staan we nu en wat is nodig?

Big tech beteugelen is zowel een heroïsch verhaal over David en Goliath, als een tragedie over machteloosheid en achter de feiten aan lopen. Maar blijf in beweging, laat het debat hierover geen containerschip worden, en regulering geen containerbegrip. Move fast, and break things.

Greetzzz…

Ugh.

Dit artikel verscheen eerder op de website van SETUP