
Zit je op Facebook, dan worden je data niet alleen aan adverteerders verkocht, maar ook aandachtig bestudeerd door de sociale wetenschappers van Facebook Data-Science (FDS). De experts zijn het eens over de revolutionaire en wetenschappelijke potentie van het gebruik van “Big Data”, maar er zit een fundamentele spanning tussen de privacy van de “datapunten” en de transparantie die de wetenschap vereist.
Vorige zomer publiceerden twee onderzoekers van Cornell University samen met een onderzoeker van FDS een geruchtmakende studie in het blad PNAS. Ze lieten zien dat een toename van positieve emoties in de nieuwsfeed leden ertoe bracht zelf ook meer positieve berichten te produceren. De studie leidde tot grote verontwaardiging, omdat de onderzoekers de nieuwsfeed van 700,000 Facebookleden manipuleerden.
Naast de ethische vragen rondom manipulatie is er een wetenschappelijke vraag, namelijk over de controleerbaarheid van de resultaten. FDS maakt onderzoeksdata niet beschikbaar, omdat dat tot identificatie van Facebookleden kan leiden. Zelfs de externe co-auteurs van de studie kregen de data nooit te zien, met het gevolg dat Cornell’s ethische commissie zich nooit over het experiment heeft uitgesproken.
Een nieuwe publicatie van FBS vorige week in het prestigieuze tijdschrift Science introduceert nog een ander ethisch probleem. In de studie onderzoekt FBS of de algoritmes achter uw nieuwsfeed leiden tot een zogenaamde “echo chamber”, een problematisch sociaal verschijnsel, waarin preferenties en informatie van politiek gelijkgestemde vrienden elkaar versterken. De conclusie van het artikel is echter geruststellend: het algoritme veroorzaakt nauwelijks echo effecten. De ontstane polarisatie komt voornamelijk voort uit de informatiekeuzes van de leden zelf.
Hiermee laat Science dus werknemers van een commercieel bedrijf niet-verifieerbare resultaten publiceren over de wenselijkheid van hun eigen product, namelijk de neutraliteit van de nieuwsfeed. De publicatie doet daarmee enigszins denken aan een oude reclame waarin een “wetenschapper” in een laboratorium en een witte jas verkondigt “Wij van WC eend adviseren… WC eend”.
Voor de duidelijkheid: Ik heb geen enkele reden om te twijfelen aan de competentie of de integriteit van de onderzoekers. Maar als mogelijke belangenverstrengeling door nevenfuncties van hoogleraren al verhitte discussies oplevert, moeten we dan niet sceptisch zijn over de werknemers van een bedrijf? Weten we zeker dat ze hun studie ook hadden mogen publiceren als de resultaten anders waren uitgevallen, en als bijvoorbeeld was gebleken dat Facebook’s nieuwsselectie vergelijkbaar is met een paar flinke oogkleppen?
De wetenschappelijke potentie van de Big Data revolutie is te groot om haar een halt toe te roepen. Het kan echter niet zo zijn dat bedrijven advertenties in wetenschapsbladen kunnen plaatsen met een beroep op de privacy van hun klanten. Het vermijden van zo’n WC-eend-effect in Big Data onderzoek vereist een hernieuwde balans tussen privacy en wetenschappelijke transparantie.
15.05.2015
18:39
Beste Joël,
Als wetenschap niet transparant is, dan kan dat volgens mij als leek inderdaad een probleem vormen. Met name als je met dergelijk onderzoek mensen op een bepaalde manier kan sturen.
Want in welk opzicht is wetenschap dan nog anders, als bijvoorbeeld de media, die mensen met ‘het nieuws’ toch wel een hele smalle en extreme kijk op de alledaagse werkelijkheid biedt?
Maar het grootste probleem in de wetenschap, is volgens mij de houding van sommige wetenschappers, dat alle wetenschap zelf objectief en neutraal is. Het enorme voordeel van die houding, is dat het zorgt voor een onbeperkte wetenschapsbeoefening, maar daarin schuilt tegelijkertijd ook het probleem.
Want daarmee verhef je objectiviteit en neutraliteit tot een soort ethiek, waarvoor alle andere ethiek maar moet wijken. Dit is de enige soort ‘ethiek’ die een steen of ander levenloos voorwerp zichzelf ook zou kunnen aanmeten. Alle andere, echte ethiek (zoals gebaseerd op goed en kwaad, of zelfs alleen maar goed of fout) kan afgedaan worden als slechts ‘een mening’, en dus kunnen alle ethische grenzen eindeloos opgerekt worden, ‘in naam der wetenschap’.
Het is een feit, dat er geen enkele permanente ethische grens is, waardoor de wetenschap zich laat beperken, en het klinkt misschien melodramatisch, maar ik zie dit als het grootste probleem van onze tijd.
En welwillende wetenschappers zelf beschouwen dit blijkbaar als ‘the Elephant in the room’.