Ik zal er geen doekjes om winden: ik ben fan van deze vrouw. Daarom draagt deze blog dan ook haar naam. Hieronder gaat het vooral over een boek dat ze schreef: Unmasking AI, my mission to protect what is human in a world of machines. Ik bewonder haar vooral omdat ze zich, terwijl ze alle mogelijkheden had voor een grootse wetenschappelijke carrière, toch voortdurend ook bekommerde om slachtoffers van gezichtsherkenning: de door haar onderzochte digitale technologie.
Afbeelding: Penguin Random House
Ondertussen presteerde ze het nog om te promoveren en om een deal te maken met een groot beautymerk, waar ze zelf ook voor poseerde. Er zijn digitaal genoeg bewijzen te vinden van haar niet aflatende zorg en bekommernis om mensen in het algemeen. Zo heeft ze bijvoorbeeld de ‘Algorithmic Justice League’ opgericht.
Aanleiding
Buolamwini vertelt in de inleiding van het boek dat ze was uitgenodigd voor een feest, waarbij de genodigde vrouwen werd gevraagd een “beautymasker” mee te nemen; zij begreep het verkeerd en nam een wit gezichtsmaker mee. Om een lang verhaal kort te maken: toen zij even later haar gezicht in een gezichts-herkenningsprogramma wilde laten opnemen, lukte dat niet. Maar met het witte masker dat ze nog bij zich had, lukte het wél!
Jeugd
Haar moeder, Frema de Arkan, was kunstenaar en haar vader, Dr. John Buolamwini, hield zich bezig met farmaceutische wetenschappen in combinatie met digitale technologie. Beide ouders hielden haar nieuwsgierigheid gaande. Toen ze klein was wilde ze leren hoe ze met machines kon communiceren en leerde ze de basis: HTML en CSS voor het bouwen van een website. Daarna JAVA, waar ze kennismaakte met het idee van een algoritme. Toen ze ging studeren, was dat eerst aan het Center for Civic Media op MIT, waar het uitgangspunt was: The heart of technology must center society. Tijdens een vervolgstudie op Harvard hielp ze medestudenten aan huisvesting, een maaltijdplan, toegang tot de universiteit en vervoer.
‘The coded gaze’
Buolamwini heeft het in haar boek over een aantal gazes (blikken). Even uitleggen: “blik” is eigenlijk een te neutrale vertaling van gaze, want in gaze zit ook iets obsessiefs, iets dat anderen veroordeelt en mogelijk isoleert. Die blik behoort deze keer niet toe aan een mens, maar aan de technologie zelf. Ze vergelijkt die blik met die van bevooroordeelde witte mannen en die van mannen die trots menen te moeten zijn op hun blanke uiterlijk: De mannelijke blik (male gaze) is een beperkte manier om naar vrouwen te kijken. De witte blik (white gaze) bevoorrecht de verhalen van blanke Europeanen en hun nakomelingen. En de gecodeerde blik (coded gaze) beschrijft de manieren waarop de prioriteiten, voorkeuren en vooroordelen van degenen die de macht hebben om technologie vorm te geven, schade kunnen veroorzaken. Schade, zoals discriminatie en het uitwissen van bevolkingsgroepen.
Objectief/subjectief
Bij het labelen van mensen kun je op grote problemen stuiten om dat nogal wat mensen gewoon moeilijk te labelen zijn: als man of vrouw; ook de huidskleur is moeilijk te bepalen. Buolamwini merkte dat ze er maar al te gauw er niet uitkwam waardoor ze, als het om het geslacht ging, uitkwam op de definitie: waargenomen geslacht. Even later begaf ze zich verder op het gebied van subjectiviteit en ontwikkelde ze zich ook als dichter en was bezorgd dat de subjectiviteit van haar poëzie zou worden gezien als tegengesteld aan de objectiviteit van haar technisch onderzoek.
Joy Buolamwini in de media
Als dichter/spoken word-artist draagt ze op YouTube Ain’t I a Woman? voor, waarin ook belangrijke donkere voorgangers/rolmodellen een plek krijgen. En met het beautymerk Olay sluit ze een contract af waarmee ze zich verplichtte om reclame te maken voor dat merk. Zelf zegt ze daarover: “Ik heb P&G [het moederbedrijf van Olay, R.S.] zelfs een e-mail gestuurd waarin ik beschreef hoe ik dacht dat het bedrijf zijn platform zou kunnen gebruiken om een nationaal gesprek op gang te brengen over hoe machines een blik kunnen geven die schade veroorzaakt door mensen te reduceren tot stereotype labels.
AI in de werkelijkheid
Een mooi voorbeeld van wat de mens aan AI kan hebben is het volgende: Dr. Regina Barzilay van het MIT gebruikte, nadat ze borstkanker had overleefd, haar expertise en persoonlijke ervaring om AI-systemen te ontwikkelen die veelbelovend zijn gebleken in het detecteren van vroege tekenen van de ziekte.
Conclusie
In het optreden van Joy Buolamwini als wetenschapper en als kunstenaar (dichter van code) zien we haar ouders en hun bezigheden/beroepen nog een keer terugkeren. Ze heeft in beide hoedanigheden honderdduizenden mensen bereikt. Ik ben benieuwd wie haar naar Nederland gaat halen want alleen al de “witte blik” is ook in ons land behoorlijk dominant – vraag maar aan Sylvana of Akwasi. Hoe dan ook: een belangrijk boek van een wetenschapper die de belangen van mensen die ze bestudeerde, nooit uit het oog verloor.
P.S. Remco Pijpers: bedankt voor de tip!
Reacties worden eerst goedgekeurd door de redactie.