Minpuntje

In 1977 voerde de PTT de postcode in. Hartstikke handig, want zo kon je automatisch brieven sorteren – mits de afzender voldoende netjes schreef natuurlijk. In die tijd kon niemand bevroeden dat de PTT veertig jaar later geprivatiseerd zou zijn, dat dit private bedrijf de rode brievenbussen daadkrachtig zou vervangen door oranje exemplaren, en dat er sowieso nauwelijks nog brieven worden gesorteerd omdat we elkaar via de fysieke weg eigenlijk alleen nog maar rouwkaarten sturen. Toch is de postcode onverminderd handig. We sorteren er nu mensen mee.

Het makkelijke van een postcode is dat hij fungeert als linking pin tussen databestanden van allerlei slag. Welke vragenlijst je ook invult, welk product je ook bestelt – vrijwel altijd zul je je postcode vermelden. Postcodes voeden inmiddels vrijwel elk algoritme dat patronen in menselijk gedrag vangt. Geef me je postcode, en ik heb gelijk een heel aardige eerste indruk van je; ik kan redelijk voorspellen wat jou vermoedelijk bevalt en waar je bang voor bent.

Op basis van dergelijke algoritmes bepalen bedrijven of het zin heeft om bij jou reclame te maken voor een doosje exclusieve wijn, dan wel een scooter op afbetaling. Op basis van algoritmes weet GroenLinks in welke straten de partij haar vrijwilligers in verkiezingstijd het beste kan laten aanbellen omdat daar de meeste weifelaars wonen. Algoritmes sturen ook het gedrag van de politie: sinds dit jaar surveilleert de Nederlandse politie extra vaak rond huizenblokken waar volgens de software veel inbraken worden verwacht.

Algoritmes maken het beleid van bedrijven, organisaties en overheden ongetwijfeld efficiënter – en dat is (in ieder geval vanuit hen bezien) een dik pluspunt. Maar onschuldig zijn ze niet. Zo hebben voorspellingen de akelige neiging zichzelf te versterken. Als de politie meer gaat surveilleren in bepaalde wijken, zal zij daar ook eerder boeven betrappen. Die hoge pakcijfers worden natuurlijk teruggeploegd in het datasysteem, waardoor die wijk steeds ‘gevaarlijker’ wordt, en niets logischer lijkt dan om daar nog weer extra agenten te posteren. ‘Een giftige cyclus’, noemt de Amerikaanse wiskundige en blogger Cathy O’Neill dat.

Zelf geeft O’Neill het voorbeeld van Amerikaanse rechters, die volgens haar geneigd zijn om een misdadiger een hogere straf te geven als de kans groot wordt geacht dat de betreffende boef nogmaals in de fout zal gaan. Dit is volgens O’Neill typisch zo’n voorspelling die zichzelf waarmaakt. Immers: hoe langer je in de gevangenis zit, des te groter de kans op criminele vriendjes, en des te moeilijker om -eenmaal vrij- weer werk te vinden. Waardoor je sneller terugvalt in de criminaliteit. En ja hoor: daar heb je weer zo’n langgestrafte die opnieuw een misdrijf pleegt! Die voorspellingen van het recidive-model komen uit! Algoritmes zijn weliswaar blind, maar daarmee nog niet neutraal, constateert O’Neill. Vaak zitten er aannames ingebouwd die bestaande sociale ongelijkheden in stand houden of zelfs versterken. En dat is een serieus minpunt, zou ik met haar zeggen.

Mij zit nog een ander minpunt dwars: algoritmes drukken je terug in wie je al was. Voor een algoritme ben je een optelsom van je geschiedenis. Ze zien je verleden, en niet je potentie. Breken met het bekende is natuurlijk berucht moeilijk; we vallen vaak terug in onze routines. En veranderingen zijn eng. Je weet wat je hebt, niet wat je krijgt. Toch kan je als mens het besluit nemen om welbewust te breken met ál wat je van jezelf vindt en weet, en de zaken voortaan over een andere boeg gooien. Filosoof Hannah Arendt noemde dit ‘nataliteit’; in principe kun je jezelf iedere dag opnieuw geboren laten worden. Dankzij dit vermogen zijn mensen soms in staat om het onverwachte waar te maken. Tegen iedere waarschijnlijkheidsrekening in.

Vanouds wordt filosofie vaak gezien als een oefening in sterven. Maar voor Arendt is filosofie juist een oefening in beginnen. De mens is voor haar het dier dat kan breken met het verleden. Een dier dat ‘dit niet!’ kan zeggen, en zichzelf kan herscheppen. Mensen kunnen losbreken uit hun mal, het grote onbestemde tegemoet. Dat kan gevaarlijk zijn, en mislukt natuurlijk vaak. Maar precies daar zit ook onze hoop, onze waardigheid, onze vrijheid. Die hoop, waardigheid en vrijheid gunnen algoritmes ons niet. Zij benaderen ons steevast als de sukkels die we tot nu toe waren.

Onzichtbaarheid

Op vier (besloten) Live Hack Marathons leid ik anderhalve dag lang het gesprek tussen zeer uiteenlopende mensen. Via experimentele werkvormen onderzoeken zij manieren om bestaande systemen te ‘hacken’ door grote en kleine ingrepen te plegen. Het proces vraagt veel improvisatievermogen, maar is ook hartverwarmend.

Dit is één van de activiteiten van het geëngageerde, internationaal georiënteerde kunstproject Hacking Habitat. Ik modereer ook de openbare debatten in Tivoli en het slotdebat in de voormalige gevangenis op het Wolvenplein.