Leesfragment: Frictie

7 mei verschijnt het nieuwe boek van Miriam Rasch: Frictie. Lees bij ons alvast een fragment uit de inleiding!

Dataïsme is het geloof dat alles te vertalen is in data. Data leggen de wereld vast en maken haar beheersbaar. Maar voor wie en met welk doel? Ethische dilemma’s rondom data worden vaak gereduceerd tot zaken als privacy en regulering, terwijl de onderliggende aannames van het dataïsme zelden ter discussie staan. Is de mens echt als algoritme te begrijpen? Wat gebeurt er met de dingen die niet in data te vatten zijn? En waarom wordt de dataïstische toekomst voorgesteld als onvermijdelijk?

Tegenover het ideaal van een geautomatiseerde wereld die ons gevangenhoudt in een onzichtbaar net, stelt Miriam Rasch een herwaardering van frictie. Frictie is een geduchte strategie van hen die strijden voor emancipatie of zich teweerstellen tegen de eis van transparantie en constante communicatie. Rasch opent de weg naar ‘de-automatisering’ als mogelijkheid om woorden en dingen weer als nieuw te laten schijnen. Hoe kunnen we in dataïstische tijden ons eigen verhaal blijven vertellen?

N.B. Eerder publiceerden we voor uit Rasch' essaybundel Zwemmen in de oceaan.

Storm & stilte: inleiding

Stilzitten lijkt het enige wat rest.

Zodra ik beweeg beginnen apparaten, apps en algoritmes zachtjes te snorren. Ik blijk te produceren. Data.
De productie van data vergt beweging, vooral veel beweging. Ik heb er geen zin meer in, wil niet meer meedoen. Dus zit ik op de bank voor het raam naar buiten te kijken, ruim zestig kilo bewegingloze opt-out.
Verderop in de straat hangt een camera. Of die van de gemeente is, van een bewoner of van de woningbouwvereniging, weet ik niet. Hij kijkt over zijn schouder naar iemands voordeur. Aan de school aan de andere kant van het plein hangt pontificaal een grotere, witte camera, duidelijk bedoeld om op te vallen.
Het straatje waarin ik woon is rustig, toch rijdt er minstens een keer per dag een politiebus doorheen. Zijn we ergens aangemerkt als risicovol, licht onze postcode rood op in de systemen? De stad heet tegenwoordig slim, ze weet zelf wat goed voor haar is.
Data gedijen bij actie, ze klonteren samen rond centra van drukte, rond wegen, stations, het vliegveld. Gezichten gescand, gebaren geclassificeerd – nerveus, agressief, neutraal –, telefoonsignalen getrackt en doorgelicht. Ga ik naar buiten, dan ontkom ik er niet aan vertaald te worden in data, met lijf en leden mee te werken aan de machinerie van dataficatie. Wil ik dat niet, dan zal ik terug naar binnen moeten gaan.

*

Door mijn huis kan ik nog ongemerkt bewegen. Het is niet uitgerust met sensoren en slimme toepassingen, noch in de thermostaat, noch in het lichtplan of waar dan ook. Als ik naar de wc ga horen alleen de buren dat ik doortrek.
Al kan ik het niet laten mijn telefoon mee te nemen. Ik houd van het elektrisch dier, hoewel ik weet dat het niet te vertrouwen is. Hoe stil ik ook zit, mijn telefoon verraadt me wel. Ook als ik hem niet gebruik, als mijn duim niet de automatische glijbeweging maakt over het scherm, weet hij waar ik ben en met wie. De apparaten praten met elkaar zelfs als wij onze mond houden, en rapporteren over ons aan onbekenden.
Zodra ik een app aanklik vouwt zich aan de achterkant een boeket aan trackers open. Als kleine stofzuigertjes vreten ze alle data op die ze tegenkomen. Een online-applicatie genaamd ‘icsi Haystack Panopticon’ toont alle trackers die in de meestgebruikte Android-apps in de Google Play Store zitten. Rondom de app Tinder, bijvoorbeeld, opent zich een kruis van vier trackers die bijhouden hoe vaak je hem gebruikt en hoelang, welke andere apps je op je telefoon hebt, wie je contacten zijn, enzovoorts. Vier lijkt niet veel, maar een van de trackers, Crashlytics, is onderdeel van 25 procent van alle apps, wat betekent dat het bedrijf achter Crashlytics, dat op zijn beurt weer in bezit is van Google, al die informatie van al die apps en hun gebruikers makkelijk aan elkaar kan koppelen. Een andere tracker in de Tinder-app is die van Facebook. De hoeveelheid bloemen die aan de Facebookstengel groeien is zo groot dat de losse exemplaren ervan niet te onderscheiden, laat staan te lezen zijn.
De schaal van dataverzameling en -analyse leidt wel vaker tot dit soort visualisaties die te groot en veelvoudig zijn om de individuele onderdelen ervan te kunnen onderscheiden. Zoom je echter in op de details, dan verlies je het overzicht. Zo blijft het geheel ongrijpbaar als een hyperobject, zoals Timothy Morton het heeft genoemd, een ding dat zich uitstrekt van onder onze neus tot de andere kant van de wereld, dat zich vanuit het verleden voortstuwt de toekomst in, dat samengesteld is en stroperig. 
Het constant in- en uitzoomen dat een visualisatie zoals deze van de gebruiker vraagt, vormt een fraai parallellisme met haar inhoud. Data-analyse zelf is immers te zien als afwisseling tussen een uitgezoomde blik van veraf op grote dataverzamelingen waaruit patronen oplichten, en het weer inzoomen op de individuen die in die patronen verstopt zitten.

*

Ik probeer een data-selfie te maken. Een zelfportret opgebouwd uit de sporen die ik online van mezelf terug kan vinden. Maar als ik inzoom op mezelf verzand ik in nietszeggende details. In plaats van herkenning – yep, dat ben ik – of inzicht – shit, dat ben ik – roept mijn data-selfie vooral vervreemding op.
Op Facebook (waar ik inmiddels weg ben) vond ik in de krochten van mijn instellingen een mozaïek van plaatjes, dat fungeert als de vertaling van de 24 belangrijkste categorieën waarmee het bedrijf mij aan adverteerders verkoopt. Het allereerste tegeltje dat mijn profiel kenmerkte was het Lowlands-festival. Daarnaast stonden tegeltjes met de etiketten filosoof, boekhandel en iets met dieren. Vervolgens: kermis, knoop, fotorolletje. Kermis, knoop, fotorolletje?
Die drie categorieën, samen een achtste deel van wie ik zou zijn, toverden me een surrealistisch portret voor ogen, met mijn haren als een achtbaan rond mijn hoofd slingerend, mijn oog een knoop en mijn lippen een overbelichte film. Ik voelde me enigszins voor de gek gehouden, of in elk geval niet serieus genomen. Het portret leek me hooguit koddig, maar vooral ongeïnspireerd.
Waarschijnlijk heeft het ook weinig van doen met het profiel dat Facebook elders van mij heeft opgeslagen. Het is bekend dat dataprofielen voor adverteerders op zoek naar potentiele klanten of stemgerechtigden op talloze categorieën uit te selecteren zijn, dat mijn profiel bewaard blijft en aangevuld wordt ook nadat ik mijn Facebook-account heb opgezegd, dat de verfijning ervan gewoon doorgaat – niet in de laatste plaats via anderen die hun account niet hebben gedeletet en hun apps niet verwijderd.
Er is een hardnekkige urban legend die speculeert over de vraag of je smartphone je afluistert. Of beter gezegd, of bedrijven zoals Facebook en Google via de microfoon van je telefoon of tablet meeluisteren naar wat er in je omgeving gezegd wordt, zodat ze advertenties nog gerichter en nog persoonlijker kunnen afstemmen. Opeens duiken er reclames op in je timelines voor spullen of merken waar je nooit eerder van had gehoord of aan had gedacht, maar waar je het toevallig net met iemand over hebt gehad. Ik twijfel er niet aan dat het kan – zodra je een app als Facebook of dochter Instagram toegang hebt gegeven tot je microfoon, kan hij immers geluid registreren, en erg veel moeite zal het niet kosten om dat wat te horen is te tracken en te filteren op voor adverteerders interessante termen: merknamen, producten of woorden als ‘zwanger’ of ‘huisdier’.
Je kunt zelf nog zo je best doen – uit de buurt blijven van telefoons en apparaten die je binnen het bereik brengen van de stofzuigertjes, ook als je daar niet om hebt gevraagd – uiteindelijk verraden de apps van anderen je wel. Stilzitten dus, en je bek houden.

*

Ik ben niet de enige die zich ingekapseld voelt. De roep om regulering van de techsector klinkt steeds luider. Digitalisering en dataficatie worden inmiddels gezien als morele vraagstukken waarvoor ethische commissies moeten komen, accountability en persoonlijk verantwoordelijkheidsgevoel, transparantie en mediawijsheid. De sector pleit nota bene zelf voor regulering. Maar vooralsnog schept de vraag naar ethiek vooral meer chaos. Myriaden belangen, perspectieven, vergezichten en spelers die raken aan individu, buurt, stad, staat, lokale en globale politiek, aan leefomgeving, milieu en identiteit – die hele onoverzichtelijkheid van het hyperobject – hullen de onderliggende vragen in een dikke mist. Welke waarden staan voorop in een goede omgang met technologie? Waarop worden regels gebaseerd en wie bepaalt dat? Wat moet er eigenlijk opgelost worden? Dat soort fundamentele vragen raakt steeds weer ondergesneeuwd door (terechte) ophef en schandalen, over de datahandel van consumentenbanken, over het zoveelste datalek bij de overheid, over geautomatiseerde besluiten die levens verwoesten.
Ethiek wordt ondertussen vooral lippendienst bewezen. Als Facebook-baas Mark Zuckerberg stelt dat globale regulering nodig is als het gaat om de grenzen van de vrijheid van meningsuiting of om privacy en dataopslag, dan hoor ik daarin vooral ook het verlangen om niet steeds de boeman te hoeven zijn. Van oprechte zorg, verantwoordelijkheid of aanpassingen met enig gewicht lijkt geen sprake.
Of neem de ethische commissies die in allerijl worden opgericht. De ethische board die Google aankondigde te zullen instellen om toezicht te houden op zijn artificial intelligence (AI)-programma werd na een week alweer opgeheven vanwege interne conflicten en controverses rondom enkele beoogde leden. Het zou grappig zijn als het niet zo treurig was. Bovendien was al voor de vroegtijdige ontmanteling duidelijk dat de commissie weinig slagkracht zou hebben. Hoe zou een handvol mensen met enkele vergaderingen en rapporten per jaar de gigantische ontwikkelingen waar duizenden aan werken moeten bijsturen? Het is ethiek in de vorm van advies, dat erom vraagt in de wind te worden geslagen. In elk geval zal het AI-programma van Google er geen vertraging door ondervinden.
Een belangrijke reden waarom een inhoudelijke discussie niet van de grond komt, is dat er al een stelsel van waarden en normen stevig in het zadel zit. Het is dat van het dataïsme: het geloof dat alles wat bestaat te vertalen is in digitale data en dat daarmee de wereld de goede kant op te duwen is. Deze leer brengt zijn eigen geloofsartikelen met zich mee: dat meer data altijd beter is, dat data neutrale elementen zijn, dat er nog zoveel meer te dataficeren valt. Dat de toekomst niet te stoppen is en algehele dataficatie dus onontkoombaar zal zijn. En al maken we ons zorgen over privacy of beïnvloeding, we lijken het niet te kunnen helpen hierin mee te gaan; gewillig voeren we onze bewegingen en onze dataproductie op, net zoals er ondanks zorgen om het milieu toch elk jaar meer gevlogen wordt.
De vanzelfsprekend geachte overtuigingen van het dataïsme zetten een rem op echte ethische reflectie. Dat ze als vanzelfsprekend gelden, is trouwens voldoende reden om bij zulke overtuigingen vraagtekens te plaatsen. Bij nader inzien verklaren privacyoverwegingen of het gebrek aan transparantie dan ook maar een deel van de vervreemding die me overvalt als ik mijn dataselfie probeer te schieten. Mijn huiver heeft ook te maken met het idee dat de mens in zo’n mozaïek te vatten is, even voorspelbaar en mechanisch werkt als de computer die hem beschrijft, het rotsvaste geloof in kennis en rationalisering, het reductionisme dat hieruit opstijgt. Ergens in het proces van dataficatie ga ikzelf verloren en niemand lijkt zich daarom te bekommeren, alsof ik een goedkoop offer ben op het altaar van het dataïsme.

*

Dit boek laat zich moeilijk navertellen. Het is het verslag van een onderzoek naar ethiek in tijden van alomtegenwoordige data: wat voor wereldbeeld veronderstellen ze en wat voor spanningen brengt dat met zich mee? Hoe valt te begrijpen wat data doen en zijn er alternatieve manieren om de als onontkoombaar voorgestelde dataficatie van mens en wereld tegemoet te treden?
Ik besefte algauw dat die laatste vraag niet te beantwoorden is zonder zulke alternatieve manieren ook in mijn eigen zoektocht in te zetten. Daarom is dit geen verslag in de gebruikelijke zin van het woord, maar eerder een poging om al essayerend een denkbeweging in de praktijk te brengen. Als een wandeltocht waarop je verschillende zijpaden inslaat om uiteindelijk terug te komen bij het begin – dat er dan opeens heel anders uitziet – of waarop je zo ver van de uitgestippelde route afwijkt dat je vanaf een ander eindpunt weer thuis moet zien te komen.
Beginnend met een nadere beschouwing van wat data eigenlijk zijn, hoe ze werken en welke krachten eraan worden toegeschreven, komen in het hoofdstuk ‘Profeten van het dataïsme’ de onderliggende aannames van het geloof dat dataïsme heet in beeld. Die leerstellingen brengen welbepaalde morele veronderstellingen met zich mee. In het hoofdstuk ‘Het echec’ zet ik die in een expliciet ethisch raamwerk, waardoor ook alternatieve benaderingen zich beginnen te roeren. In het korte hoofdstuk ‘De-automaton’ komen ze voorzichtig tot leven. De zoektocht voert vervolgens het verleden in, in de hoofdstukken ‘Een digitale mal’ en ‘Mensen maken’, die respectievelijk de filosofische en de statistische stamboom van het dataïsme verkennen. In de laatste twee hoofdstukken, ‘Het else’ en ‘Het vijfde kwartier’, volg ik de alternatieve routes tot in de verre uithoeken van de taal en de dingen, de breuklijnen die door de mens en door de aardkorst heen lopen, om ten slotte terug te keren tot het hier en nu. Blijft het een kwestie van stilzitten en je bek houden?
Uitgezoomd volgt het boek min of meer deze opbouw, die om verschillende scharnierpunten heen draait. De notie van vertaling, bijvoorbeeld. Dataficatie houdt de vertaling in data en getallen in. Er valt daarom iets te leren van het denken over andere vertalingen, zoals in de literatuur. Een gedicht kun je honderdmaal vertalen en nog ben je niet klaar. De vergelijking met de literatuur zette mij ook op het spoor van de de-automatisering, een ander scharnierpunt in dit boek. De-automatisering is hoe de kunst de wereld toont als nieuw; ze breekt in onze automatische waarneming in en laat ons door die ‘vervreemding’ weer echt zien. Is de vervreemding die ons overvalt in de datawereld op te vatten als de-automatisering? Hoe kunnen we de (technologische) automatisering op een vruchtbare manier de-automatiseren? De de-automaton toont hierbij de weg.
Eenmaal ingezoomd – begonnen aan de tocht – kan de opbouw misschien brokkelig lijken, alsof hij niet op- maar afbouwt, niet van A naar B gaat, maar verstoppertje speelt tussen de bomen die zoals bekend het zicht op het bos kunnen verhinderen. Maar de bomen zijn tegelijk het bos.
Dit boek wil zelf uit gestelde kaders breken, omdat het nu eenmaal gaat over de noodzaak uit kaders te breken, zonder daarbij te vervallen in vage of zweverige of prekerige uitvluchten. Het is in die zin een betoog dat in vorm en inhoud betoogt tegen het betoog. Een antibetoog dat niettemin iets wil zeggen, dat gelooft dat we zelf nog van alles te zeggen hebben, hoezeer de datasystemen ons ook mogen insnoeren. Het is een poging frictie in de praktijk te brengen.

[...]

Copyright © 2020 Miriam Rasch