Onze communicatieplatformen zijn vervuild met racisme, aanzettingen tot haat, terroristische propaganda en Twitterbotlegers. Dit essay suggereert dat dat deels komt door hoe onze platformen zijn ontworpen. Ik ga in op contentmoderatie en counter speech als mogelijke oplossingen en laat zien dat ontwerp zou kunnen helpen bij het mitigeren van de meer schadelijke effecten van onze platformen. Hoe zouden onze platformen eruit zien als ze ontworpen zouden zijn voor betrokkenheid in plaats van aandacht?

Dit artikel is een door de redactie van Mediawijzer.net ingekorte en bewerkte versie. Het originele artikel verscheen bij Bits of Freedom.

Technologie zonder wrijving

In de jaren ‘30 van de vorige eeuw introduceerde industrieel ontwerper Egmont Arens het concept van humaneering. Humaneering is het idee dat je producten ontwerpt op een manier die de wrijving tussen het product en de gebruiker minimaliseert. We hebben sindsdien veel soortgelijke ideeën over ontwerp gehoord. Een van de best ontworpen diensten waar ik gebruik van maak, WeTransfer, daagt zichzelf uit om te werken zonder iemands “flow” te breken.

De producten en technologieën die we gebruiken hebben back-ends die veel uitgebreider en complexer zijn dan hun interfaces ons doen geloven. Daar komt bij dat je zou kunnen zeggen dat de manier waarop we traditioneel gezien over onze interacties met producten nadachten en ze ontwierpen, ons alleen maar verder heeft verwijderd van de technologische, politieke en sociale implicaties van die producten.

Betrokkenheid tussen persoon en apparaat

Je zou kunnen zeggen dat een zekere mate van wrijving misschien wel iets goeds is, omdat het leidt tot echte betrokkenheid, bewuste participatie. Een misschien een beetje vreemd voorbeeld hiervan is de pop-up op een webpagina die vraagt of je je wilt aanmelden voor een nieuwsbrief. De enige reden dat de pop-up bestaat is zodat je hem kan sluiten. Onderzoek heeft laten zien dat zodra je een actie moet uitvoeren op een website, de betrokkenheid omhoog gaat en het waarschijnlijker is dat je tot de gewenste actie over gaat.

Nog een voorbeeld: vergelijk de website van de gemiddelde gebruiker van nu met die van een gebruiker 25 jaar geleden. In de jaren ‘90 had je vaardigheden en verbeelding nodig om een eigen homepage te hebben. Waar ga ik mijn pagina mee vullen? Hoe gaat hij eruit zien? Wat gaat het adres zijn? Hoe krijg ik geanimeerde gifs zover dat ze door het scherm bewegen? Je had tenminste een basis begrip van html nodig.

Tegenwoordig ziet je persoonlijke ruimte op het internet er anders uit. Je Facebook profiel is voorzien van een vakje waarin je mag typen en er zijn een paar plaatsen bestemd voor afbeeldingen, in een gespecificeerd bestandstype en formaat. We kunnen reageren, of liever nog: kiezen uit een set vooraf bepaalde emoties. Facebook heeft het zeker makkelijker voor ons gemaakt om een “persoonlijke” ruimte te maken en beheren, maar we hebben er geen vaardigheden of verbeelding voor nodig. Ja, Facebook is erin geslaagd de aandacht van verschrikkelijk veel gebruikers te vangen, maar hoeveel van hen voelen zich daadwerkelijk betrokken bij hun account? Vaker en vaker spreekt men erover als een noodzakelijk kwaad.

De opzet van onze platformen versterkt hate speech

Door hoe onze communicatieplatformen ontworpen zijn, is er een levendige handel in likes en volgers ontstaan. Iets in de manier waarop onze platformen ontworpen zijn, leidt ertoe dat mensen dagenlang discussiëren met Twitterbots. Het draagt eraan bij dat Sylvana Simons onophoudelijk aangevallen en bedreigd wordt. Het maakt het mogelijk voor Zoe Quinns ex-vriend om zijn woede over gedumpt te zijn af te reageren en een massa boze witte mannen te mobiliseren om haar leven te ruïneren. Iets in de manier waarop onze platformen ontworpen zijn maakt het mogelijk dat Steve Bannon diezelfde kudde boze mannen optrommelt, en hun woede aanwendt voor het steunen van Donald Trumps presidentscampagne. Het ontwerp van onze communicatieplatforms is niet de oorzaak van deze kwesties, maar het versterkt bestaande -oneerlijke- machtsverhoudingen. Het verandert ons in toeschouwers, en mishandeling in een schouwspel (Flavia Dzodan omschrijft dit als een “theatre of cruelty”). Het resulteert in hate speech.

De strijd tegen hate speech

Terug naar dit onderwerp. Het debat over hoe om te gaan met schadelijke content online richt zich over het algemeen op twee argumenten, of oplossingen zo je wilt. De eerste is contentmoderatie, of het controleren van content, de tweede is counter speech, of tegenspraak.

Contentmoderatie

De relatie tussen overheden en de grote netwerkplatformen is ingewikkeld. Platforms als Facebook en YouTube zijn private ruimtes die gebruikt worden als publieke ruimtes en ze worden almaar groter en machtiger. Geconfronteerd met deze situatie, en omdat ze willen voorkomen dat het lijkt of ze niets doen om schadelijke content tegen te gaan, dwingen overheden platforms om iets te doen – en gaan daarmee hun eigen verantwoordelijkheid uit de weg. Het outsourcen van publieke verantwoordelijkheid aan private ondernemingen – en de bijkomende vaagheid over wat deze verantwoordelijkheid inhoudt – is voor ontelbare redenen een slecht idee. Hier zijn vier van de belangrijkste redenen.

1. Platformen zullen over-censureren

Ten eerste moedigt het platformen aan om te voorzichtig te zijn (wettelijk en politiek) als het gaat over het materiaal dat gebruikers uploaden. Dat betekent dat ze het bereik van hun gebruiksvoorwaarden uit zullen breiden zodat ze elke content of elk account om elke reden kunnen verwijderen. Dit zal zonder twijfel soms platforms helpen om materiaal te verwijderen dat niet online zou mogen staan. Maar het heeft ook al geleid tot het verwijderen van veel materiaal dat elk recht had om online te staan.

2. Multinationals beslissen wat goed en fout is

Ten tweede zal het reguleren van je vrijheid van meningsuiting door Amerikaanse multinationals ertoe leiden, als niet nu dan in de toekomst, dat niets wat je zegt zal worden toegestaan tenzij het binnen de grenzen van Amerikaanse moraliteit valt, of tenzij het de zakelijke belangen van Amerikaanse bedrijven helpt. Een andere mogelijke uitkomst: als Facebook ervoor kiest om mee te werken aan eisen van individuele landen – en waarom zouden ze niet? – zou het resultaat ook kunnen zijn dat alleen die stukken informatie worden toegestaan die acceptabel zijn voor elk van die landen.

De situaties die daardoor ontstaan, zijn geen ongelukjes. Ze zijn het resultaat van hoe deze systemen zijn ontworpen en door wie ze zijn ontworpen. Het is het resultaat van toenemende druk op platformen om iets te doen, hoe verkeerd dat iets ook moge zijn.

3. Geprivatiseerde wetshandhaving zal echte wetshandhaving vervangen

Ten derde, het laten verwijderen van content door bedrijven is een vorm van geprivatiseerde wetshandhaving waarbij er nul sprake is van handhaving van de daadwerkelijke wet. Door dit te doen omzeil je het rechtssysteem en worden mensen die eigenlijk voor de rechter zouden moeten verschijnen, nooit berecht. Mensen wiens content ten onrechte wordt verwijderd hebben heel weinig manieren om zich hiertegen te verzetten.

4. We zullen kwetsbaarder worden

Tenslotte normaliseert dit een situatie waarin bedrijven ons kunnen reguleren op manieren waar overheden dit wettelijk niet kunnen, omdat bedrijven niet gebonden (of gehinderd) zijn door internationale wetgeving of nationale grondwetten.

Om het zachtjes te zeggen is deze oplossing nu, en hoogstwaarschijnlijk ook in de toekomst, geen doorslaand succes. Laten we kijken naar het andere voorstel, counter speech.

Counter speech

Dit argument komt neer op het geloof dat vrijheid van meningsuiting de oplossing is voor hate speech. We kunnen geen functionerende democratie hebben zonder vrijheid van meningsuiting, maar dit argument negeert de onderliggende onbalans in sociale macht, het systematische seksisme en racisme dat onze media, onze software en onze ideeën informeert.

Niet alle stemmen zijn gelijk

Zoals Bruce Schneier het mooi zei: “[Technologie] vergroot macht in beide richtingen. Toen de machtelozen het Internet vonden hadden ze plotseling macht. Maar […] uiteindelijk zagen ook de machtige reuzen het potentieel – en zij hebben meer macht om te vergroten.” We moeten erkennen dat zolang er structurele onbalans is in een gemeenschap niet alle stemmen gelijk zijn. En totdat ze gelijk zijn gaat tegenspraak nooit een oplossing zijn voor haatdragende taal. Dus ook deze oplossing zal tekortschieten.

Waarom design ertoe doet

Wat ons terugbrengt naar design. Net als dat het internet niet verantwoordelijk is voor haatdragende taal, moeten we niet naar design kijken om het op te lossen. Maar design kan wel helpen bij het verzachten van de meer schadelijke effecten van onze communicatieplatformen.

Design beïnvloedt gedrag, dit weten we. Je kan de invloed van design voelen in elk product en elke dienst die je gebruikt.

Ten tweede: design is altijd politiek. Neem Parijs. In 1853 gaf Napoleon de opdracht aan Baron Haussman om een nieuwe stad voor hem te bouwen. Wat Haussmann creëerde was het nu iconische stadsplan met zijn weidse boulevards en prachtige zichtlijnen. Hij liet een uitstekend rioolsysteem aanleggen dat levens drastisch verbeterde. Maar hij sloopte ook 12.000 gebouwen, wat veel van de armste bewoners uit hun huizen dwong. Het nieuwe ontwerp van de stad diende sommigen meer dan anderen.

Dan is er ook nog, natuurlijk, onze favoriete nieuwe taal: emoji. Het Unicode Consortium is een groep mensen die ervoor zorgt dat als jij een letter indrukt op je toetsenbord iedere computer in de wereld weet welk karakter hij moet laten zien op het scherm. Ze doen dit ook voor emoji. Daarnaast beslissen zij welke emoji toegevoegd worden aan het emoji-alfabet en welke niet. Kijkend naar de beschikbare emoji, besloot ontwerper Mantas Rimkus dat geen ervan hem hielp zijn betrokkenheid bij de actualiteit uit te drukken. Hij startte het project “demoji“, wat als doel heeft de complexiteit van onze wereld uit te drukken in emoji. Kunstenaar en onderzoeker Lilian Stolk vraagt aan kinderen om de emoji te ontwerpen die zij toe zouden willen voegen aan het emoji-alfabet en maakt ze vervolgens beschikbaar door middel van sticker apps.

Vernuftig ontwerp zou onze platformen kunnen redden

Onze communicatieplatformen zijn vervuild met onder meer racisme, aanzetting tot haat, terroristische propaganda en Twitter-bot legers. We moeten hier iets aan doen.

De manieren waarop we hier mee omgaan zijn gewoonweg niet goed genoeg. Het hernoemen van “censuur” naar “contentmoderatie” en een handvol miljardenbedrijven de leiding geven is geen geweldig idee als we nog een toekomst willen waarin we enige vrijheid genieten. Vasthouden aan het naïeve idee dat het internet gelijke kansen geeft aan alle stemmen werkt ook niet. Wat we moeten doen is het internet open houden, onze vrijheid van meningsuiting veilig stellen en gebruikers beschermen.

Wat jij kan doen

De volgende keer dat je voet zet op het internet: wees je bewust van de manieren waarop platformen je gedrag beïnvloeden. Stel overal vragen bij. Vraag voor wie een functie werkt en voor wie niet. Vraag wat voor soort gebruiker de ontwerper van een product graag wilt dat je bent. Wat verstopt het interface?

Als je een activist bent: laat het succes van je werk niet afhankelijk zijn van deze platformen. Laat het niet gebeuren dat Facebook, Google en Twitter poortwachter worden tussen jou en de leden van je gemeenschap, en sta niet toe dat je vrijheid van meningsuiting een regeltje wordt in een 10.000 woorden tellende “overeenkomst”. Wees net zo kritisch op de technologie die je gebruikt om je zaak vooruit te helpen als dat je bent op de mensen, lobbyisten, instituten, bedrijven en overheden waar je tegen vecht. De technologie die je gebruikt doet er toe.

Tenslotte, als je een ontwerper bent: wees je bewust van hoe je culturele en politieke voorkeuren je werk vormgeven. Bouw producten die betrokkenheid stimuleren in plaats van aandacht oogsten. Wees niet bang voor wrijving. En als je ideeën hebt hoe ontwerp kan helpen het internet te redden, laat van je horen.

Dit artikel is een door de redactie van Mediawijzer.net ingekorte en bewerkte versie. Het originele artikel verscheen bij Bits of Freedom onder de CC BY-NC-SA 4.0 licentie.