Recensie: Tipsy van tech

Vandaag verschijnt het derde nummer van 2019 van de Nederlandse Boekengids. Wij mogen een stuk doorplaatsen: het artikel van Marjolijn Voogel, 'Tipsy van tech'.

Het meest toonaangevende tijdschrift over boeken en ideeën in de Lage Landen, zes keer per jaar tientallen pagina's essays, boekbesprekingen, interviews en signalementen, op papier en digitaal, al vanaf € 30-, inclusief toegang tot ons hele archief van op papier en online verschenen stukken. Met in dit nummer:

• Het plunderfeest bij de HEMA — Johan Heilbron
• De onttroning van de politiek — Merijn Oudenampsen
• Dystopisch optimisme — Joeri Verbesselt
• Tipsy van tech — Marjolijn Voogel
• Op het tweede gezicht: Proust en de roman als ‘optisch instrument’ — Miriam Rasch
• De kracht van het woord — Neske Beks
• Ad fontes! De neerlandistiek moet terugkeren naar haar wortels — Piet Gerbrandy
• De kunst van de overgave: over Keefman en de authenticiteit van Jan Arends — Basje Boer
• Het avontuur van de uitzondering: de drie filosofische hoofdwerken van Alain Badiou — Samuel Vriezen
• Gemanipuleerde metamorfosen? Over de digitalisering van de mens — Beate Roessler
• Cyberalchemie: onze cryptografische toekomst volgens Bart Jacobs — Dirk Vis
• Samenleven met data — Anne Beaulieu en Paul Wouters
• Uren van discretie — Leen Huet
• De Oudheid tussen aanhalingstekens: elitair populisme van Perikles tot Baudet — Diederik Burgersdijk
• Een buste en een waas: de actualiteit van de historische vertaling — Tim Noens
• Istanbul (Istanbul): door wolkenkrabbers verkracht — Tan Tunali
• Enkele gedachten over ballingschap — Kerem Eksen
• De wereld in de Turkse mal van slachtofferschap — Eva Peek
• Wat Turkije ons leert: interview met Ece Temelkuran — Froukje Santing

N.B. Neem nu een abonnement op de Nederlandse Boekengids!

Tipsy van tech

Drie dagen na de terreurdaad in Christchurch werden de afschuwwekkende beelden ervan nog steeds via internet gedeeld. En dat terwijl Facebook, waar de dader zijn gruwelijkheden live uitzond, al na een halfuur ingreep. Ook Twitter, YouTube en Reddit verwijderden kopieën van het beeldmateriaal. Maar via online vrijplaatsen en versleutelde chatberichten circuleren de beelden nog steeds, evenals verschillende bewerkingen en memes ervan. En zo voelt Brenton Tarrants daad als een nieuwe, online versie van het negentiende-eeuwse La bête humaine. In deze Franse naturalistische roman van Émile Zola neemt de combinatie van mens en de nieuwe machine ook angstaanjagende proporties aan. In plaats van een oncontroleerbare stoomlocomotief, zoals in Zola’s vertelling, boezemt nu het teugelloze internet angst in.
Geïnspireerd door de mogelijkheden van zijn online leven, maakte Tarrant de virtuele component tot een belangrijk onderdeel van zijn aanslag. Door die via Facebook live uit te zenden, voegde hij doelbewust een nieuwe dimensie toe aan zijn weerzinwekkende daad. Hij kondigde die aan op 8chan, dat zich profileert als ‘het donkerste hoekje van internet’ waar de vrijheid van meningsuiting absoluut is. Met zijn draaiende hoofdcamera waande de schietende Tarrant zich voor even een soort van offline trol, waarbij hij de hele online- en offlinewereld betrok.
Nieuwe technologieën bieden ongekende mogelijkheden, die soms verschrikkelijke gevolgen hebben – zoals in het geval van Tarrant – maar vaak ook heel nuttig kunnen uitpakken, ook in het criminele domein. Want dezelfde technologieën waarmee Tarrant zijn aanslag wereldkundig maakte, hielpen de politie binnen enkele uren Gökmen T. op te sporen, de dader van de aanslag in Utrecht, nadat hij via een mobiele telefoon geld van zijn rekening had overgemaakt.
Niet alleen in het criminele circuit, maar in de hele samenleving ziet Jamie Susskind een ‘digitale leefwereld’ ontstaan. In zijn boek Future Politics: Living Together in a World Transformed by Tech laat hij zien dat de virtuele en de werkelijke wereld steeds verder met elkaar vervlochten raken. Het onderscheid tussen de virtual space en de meatspace – de fysieke wereld – vermindert en dat verandert ons gedrag. Daarbij spelen drie ontwikkelingen een cruciale rol. Ten eerste worden wij omringd door wat Susskind ‘steeds capabelere systemen’ noemt. De opslagruimte en rekenkracht van tech groeien de afgelopen decennia exponentieel. Zo heeft de gemiddelde smartphone inmiddels meer rekenkracht dan de computer die de Apollo naar de maan bracht.
In de tweede plaats zijn technologieën ‘steeds verder geïntegreerd’, met elkaar en met de wereld om ons heen, waardoor het mogelijk is om steeds meer mensen met elkaar in verbinding te brengen, on- en offline. Het aantal kanalen voor de verspreiding van informatie, kennis en cultuur breidt zich voortdurend uit. Iedereen is zijn eigen uitgever en kan eenvoudig zelf een forum creëren, of aan een platform meebouwen, zoals bijvoorbeeld aan Wikipedia.
Onze samenleving verandert ten slotte in ‘een gekwantificeerde samenleving’. Steeds meer van onze acties, uitingen, bewegingen, relaties, gevoelens en overtuigingen zullen een digitale afdruk achterlaten. Al die data worden verzameld, opgeslagen en verwerkt om ons gedrag te controleren en te voorspellen. Zelfs ons humeur kan tegenwoordig tot op zekere hoogte worden voorspeld. Zo toonde een analyse van 509 miljoen tweets van 2,4 miljoen mensen uit vierentachtig landen en over een periode van twee jaar, patronen aan in het menselijk gemoed. Susskind is niet de enige die constateert dat deze ‘dataficering’ een geweldige impact heeft op ons gedrag en samenleven. Recentelijk kreeg The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power van Shoshana Zuboff veel aandacht. Zij laat zien dat nieuwe technologieën, bedoeld om ons leven makkelijker en zelfs vrijer te maken, ook grotere ongelijkheden kunnen creëren. Techbedrijven verzamelen onze online footprint en verkopen die aan de hoogste bieder, of het nu de overheid is of een commerciële organisatie. Ook Susskind ziet dat data het nieuwe goud zijn. Winsten van bedrijven hangen tegenwoordig af van hun mogelijkheid ons gedrag te voorspellen en te beïnvloeden. Zo bezitten en manipuleren techbedrijven in Silicon Valley de gegevens van de buurtapps uit Friesland.

Het digitale is politiek

Jamie Susskind is de zoon van Richard Susskind en broer van Daniel Susskind, beiden auteurs van boeken over de invloed van technologie op arbeid. Jamie schreef zijn boek naast zijn werk als ‘barrister’ – in Engeland de advocaat die voor de Hoge Raad verschijnt. Hij maakt zich vooral zorgen over de politieke implicaties die de digitale leefwereld met zich meebrengt en de geringe aandacht daarvoor, zowel bij de gebruikers als de ontwikkelaars van technologieën. Zoals de vrouwenbeweging eerder stelde dat het persoonlijke politiek is, stelt Susskind dat het digitale politiek is. En dus persoonlijk. De digitale transformatie is namelijk van invloed op de meest fundamentele politieke concepten: macht, democratie, vrijheid en rechtvaardigheid. Ons politieke systeem en vocabulaire dateren echter voor een aanzienlijk deel uit de negentiende eeuw en Susskind vraagt zich retorisch af of die future proof zijn. Het politieke debat draait vaak om de vraag wat door de staat moet worden bepaald en wat door de markt. Nu wordt de vraag tegen welke voorwaarden ons collectieve leven bepaald en gecontroleerd mag worden door machtige digitale systemen urgenter.
Veranderingen veroorzaakt door de nieuwe digitale leefwereld vragen dus om aanpassingen aan ons huidige politieke systeem. De machtsverdeling in een samenleving hangt immers nauw samen met de wijze waarop informatie verzameld, opgeslagen, geanalyseerd en verdeeld is. Nieuwe technologieën leiden tot een nieuwe verdeling van informatie en andere vormen van dwang. Zo neemt Susskind een transformatie waar van expliciet geschreven wetten naar impliciet gedigitaliseerde regels in de vorm van code. Daardoor verschuift de macht naar private partijen die die code schrijven, en komt het machtsmonopolie van de staat onder druk te staan. Door de automatisering van machtsuitoefening zullen autonome digitale systemen burgers vaker kunnen controleren en manipuleren, zonder direct menselijk toezicht en controle. En dat zal leiden tot nieuwe vormen van ongelijkheid en onrechtvaardigheid. Inmiddels wordt maar liefst 72 procent van de cv’s nooit gezien door menselijke ogen, waardoor Susskind kan stellen dat ‘we will be who the algorithms say we are’.
In de toekomst zal de wijze waarop wij de wereld waarnemen steeds meer bepaald worden door wat ons door digitale systemen wordt getoond. Degenen die deze systemen bezitten en besturen, hebben de macht om onze (politieke) voorkeuren te vormen. Dat betekent dat de eigenaren en ontwikkelaars van techbedrijven bewust of onbewust belangrijke politieke keuzes kunnen maken. Maar hun prioriteit ligt bij het realiseren van goede bedrijfsresultaten. Tech engineers beseffen niet dat zij ook de social engineers van de toekomst zijn. Dat er onder hen maar weinig diversiteit in (politieke) kleur en achtergrond bestaat, draagt niet bij aan het democratische gehalte van de besluitvormingsprocessen die achter technologieën schuilgaan.

Digitaal burgerschap

‘De heersende ideeën zijn de ideeën van de heersende klasse,’ haalt Susskind Marx en Engels aan. Hij roept op tot een grotere bewustwording van digitaal burgerschap: burgers moeten kennisnemen van het moderne bête numérique en de wijze waarop techbedrijven functioneren. Maar burgerschap vereist ook een gedeeld wetten- en waardenstelsel. Problematisch is hierbij dat nieuwe technologieën bijdragen aan de fragmentatie van de samenleving. Mensen zijn geneigd om met degenen te praten die zij leuk vinden en lezen nieuws dat hun opvattingen ondersteunt. Onwelgevallige informatie wordt weggefilterd. ‘Scheidsrechters zijn er in de publieke ruimte niet meer, alleen nog spelers,’ schreef David Roberts, blogger voor het online Grist Magazine en hoogstwaarschijnlijk degene die de term ‘post-truth’ muntte. ‘Op een aantal vlakken accepteren we feiten (…), als de garage zegt dat we nieuwe remschijven nodig hebben, dan schaffen we die aan en maken we de monteur niet uit voor partijdig. (…) Maar op andere terreinen zijn we weggezweefd in een wereld waar feiten zijn vervangen door “alternatieve feiten”. Dankzij social media kunnen die alternatieve, feitenvrije feiten razendsnel en op grote schaal verspreid worden en voor de allernieuwste waarheid aangenomen worden.’
Het comfort en gebruiksgemak van nieuwe technologieën en het gebrek aan een gedeeld waardensysteem benevelen dus ons politieke engagement. Maar ook voor de digitaal geschoolde burger is politiek handelen lastig. Wanneer we ons zorgen maken over het klimaat, weten we wat ons op z’n minst te doen staat: niet vliegen en minder vlees eten. Bij de invulling van digital citizenship zijn die keuzes complexer. Susskind pleit voor de scheiding van de machtsvormen dwang, onderzoek en controle. Geen enkel bedrijf zou in een van de drie een monopoliepositie mogen hebben. Maar het aan banden leggen van het internet zoals Susskind voor ogen heeft, door de overheid of bedrijven, kan ook grote gevolgen hebben voor veilige en vertrouwelijke online communicatie. Zelfs als het internet zich van zijn donkerste kant laat zien, is ingrijpen nooit zonder gevolgen.