Gelukkig is er in ons land al flink wat aandacht voor cyberpesten en het voorkomen hiervan. Toch blijft dit een zeer serieus probleem, vooral onder jongeren: volgens het CBS zijn in 2018 meer dan 140.000 jongeren online gepest, gestalkt, of bedreigd. Met alle nieuwe technologie en sociale media die jongeren tot hun beschikking hebben, is dit misschien haast geen verassing. Desalniettemin is het belangrijk om technologie niet alleen als een probleem, maar ook als een mogelijke oplossing te zien in het licht van cyberpesten.

Zo zijn er tegenwoordig veel apps beschikbaar die het online gedrag van kinderen en jongeren positief kunnen beïnvloeden. Een interessante app die zich specifiek richt op cyberpesten, is ReThink. In dit artikel analyseren we deze app en haar potentie om cyberpesten te verminderen. Tot slot analyseren we ook of ReThink of een dergelijke app in Nederland zou kunnen werken.

Wat is ReThink?

ReThink is een app, ontwikkeld door Trisha Prabhu uit Illinois, die kwetsende woorden en zinnen detecteert die gebruikt worden door cyberpesters. De app herkent scheldwoorden en andere woorden die aanstootgevend kunnen zijn. De app kan dit doen voor elke vorm van communicatie en voor elk sociaal medium, omdat de app werkt op basis van haar eigen speciale keyboard.

Als de app iets detecteert, laat deze de schrijver een berichtje zien in de trant van: “zeg geen dingen waar je later spijt van krijgt”, of “laten we dit iets positiever verwoorden”. Met andere woorden, de app geeft je de kans om na te denken over wat je zegt (rethink) voor je een bericht naar iemand stuurt. Het systeem waarmee ReThink scheldwoorden en andere gemene opmerkingen detecteert is dus best wel slim en succesvol, zoals we ook straks zullen zien.

ReThink is op dit moment beschikbaar in maar liefst zeven talen, waaronder Engels. Helaas is er nog geen Nederlandse versie. In die zin moeten we deze app vooralsnog vooral zien als een case study. Echter, het feit dat de app beschikbaar is in het Grieks en Catalaans, twee relatief kleine talen qua aantallen sprekers, laat zien dat een Nederlandse versie van deze of een dergelijke app in de toekomst niet ondenkbaar is.

Werkt ReThink?

Of een app als deze goed werkt hangt eigenlijk van twee belangrijke zaken af: ten eerste moet de techniek achter de app in orde zijn en moet het algoritme bijvoorbeeld goed werken. Ten tweede is het belangrijk dat de ‘strategie’ achter de app ook echt werkt. De strategie in het geval van ReThink is jongeren waarschuwen vóór ze een kwetsend bericht sturen en ze aan te sporen om hun woorden te heroverwegen.

Hoe zit ReThink technisch in elkaar?

De techniek en het algoritme achter ReThink tonen zeker potentie, maar vooral het algoritme heeft nog veel te leren. We hebben de app voornamelijk in het Engels getest en een klein beetje in het Spaans. In beide talen detecteert de app een groot aantal racistische scheldwoorden, vrouwonvriendelijkheden, homofobe uitingen, kwetsende woorden om mensen met een beperking te beschrijven en algemene krachttermen. Dit is zeker positief omdat de app hiermee misschien wel de grootste vorm van cyberpesten aanpakt: discriminatie en buitensluiting.

We merkten hierbij wel een verschil op tussen het Engels en Spaans. In het Engels werden meer termen als scheldwoorden aangemerkt. Op zich is dit te verwachten, omdat de app in eerste instantie in het Engels is ontwikkeld. Wel is dit relevant, omdat dit iets kan zeggen over de potentie van de app om uit te breiden naar andere talen, zoals het Nederlands.

Als het gaat om context en zinsherkenning, kan het algoritme zeker nog verbeterd worden. Toen we in het Engels bijvoorbeeld zinnen typten die een bedreiging bevatten, werden deze vaak niet gedetecteerd. Simpele, zeer korte zinnen met een doodsbedreiging werden wel herkend. Echter, bedreigingen van een andere aard werden vaak niet herkend, bijvoorbeeld “ik ga je in elkaar slaan”. Veel hangt af van de verwoording van een zin en het algoritme reageert hierbij soms wat onverwachts. Zo verraste het ons positief dat de app een langere en complexere zin dan die hierboven, namelijk het Engelse equivalent van “ik ga je helemaal verrot slaan”, wel wist te herkennen. Hieruit moeten we eigenlijk concluderen dat, hoewel de woordenlijsten die ReThink gebruikt om kwetsende termen te detecteren al zeer toereikend zijn, het algoritme dat zich bezighoudt met betekenis geven aan zinnen nog echt in de beginfase zit, zelfs in het Engels.

Is de aanpak van ReThink geschikt?

De strategie die ReThink hanteert tegen cyberpesten, jongeren de kans geven om hun woorden te heroverwegen, is een interessante. Veel dergelijke apps leggen de focus op surveillance door ouders. Echter, de strategie van ReThink sluit wellicht beter aan bij onze tijd en bij de leeftijdsgroep van jongeren die actief zijn online. Tegenwoordig ontwikkelt technologie zich zo snel en zijn er zoveel sociale netwerken dat jongeren een kritische denkwijze over wat ze schrijven bijbrengen zich wellicht meer zal lonen dan apps die een volledige “surveillance-dagtaak” creëren voor ouders.

Daarbij haalt ReThink zelf nog een belangrijk punt aan over hun strategie: ReThink stelt dat volgens onderzoek tieners impulsiever handelen en daarom sneller geneigd zijn om iets kwetsends te zeggen waar ze later spijt van krijgen. ReThink stelt zelfs dat als jongvolwassenen de kans krijgen om hun woorden te heroverwegen en veranderen bij een kwetsend bericht, ze dit in 93% van de gevallen ook doen! Of de strategie van ReThink geschikt is om cyberpesten te tackelen, is wellicht aan experts om te evalueren. Echter, tot nu toe lijkt deze zeker veelbelovend.

Kan ReThink ook in Nederland werken?

Dit is natuurlijk de grote vraag. Als veel Nederlandse jongeren ReThink gaan gebruiken (als er een Nederlandse versie is ontwikkeld), is er een goede kans dat dit cyberpesten zal verminderen. Natuurlijk is elk land anders en gaan de bovenstaande statistieken over Amerika. Echter, ReThinks vermogen om de impulsiviteit van jongeren enigszins ‘onschadelijk’ te maken zal waarschijnlijk ook in Nederland een positief verschil maken. Zodoende is te verwachten dat ReThinks strategie ook in Nederland zijn vruchten af zal werpen.

Daarvoor is het natuurlijk wel essentieel dat het algoritme en de cyberpestdetectie ook in het Nederlands zeer goed werken. Dit kan gewoon een kwestie zijn van samenwerken met één of meerdere Nederlanders, die een grote woordenlijst aan kunnen leveren. Het kan, zoals we in het Spaans al zagen, toch een uitdaging zijn om deze net zo volledig te krijgen als de Engelse. Daarnaast is het de vraag of ReThink hun algoritme geavanceerd genoeg kan maken om Nederlandse zinnen goed te interpreteren. Zelfs in het Engels lijkt dit nu namelijk een probleem.

Of ReThink in Nederland aan kan slaan, is lastig te voorspellen. Ik heb zelf het gevoel dat wij Nederlanders wat voorzichtiger tegenover het gebruik van technologie voor dit soort toepassingen staan. Dit heeft onder andere met privacyoverwegingen te maken.

Daarnaast is het de vraag hoe mensen in Nederland zullen reageren op de promotie van deze of een dergelijke app. We kunnen ons afvragen of de Nederlandse nuchterheid niet deels betekent dat we minder gevoelig zijn voor de anekdotes die ReThink gebruikt ter promotie en misschien iets meer voor regels en adviezen van de overheid. Uiteindelijk is dit natuurlijk speculatie. Het is wellicht aan de experts en, als het ooit zo ver komt, de cijfers, om uit te wijzen of een dergelijke app in Nederland kan werken.

Ik nodig de pedagogisch experts in het netwerk van harte uit om hier hun expertise en opinie op los te laten.

Blogger Nathan recenseerde de app op eigen initiatief.

Ook zo kun je cyberpesten aanpakken:

» Leerlingen zoeken ook in online lessen grenzen op: zo pak je pesten aan
» Een week tegen pesten is niet genoeg: verhoog de leerlingbetrokkenheid
» En dan ben je ineens een meme: Leraartje pesten 2.0