Een honkbalpetje met een verborgen camera. Een nep-Louis Vuitton handtas. Een vervalst Hongaars paspoort. 1,8 miljoen Amerikaanse emailadressen. Een gebruiksaanwijzing om een coca-cola machine te hacken. Zomaar wat spulletjes die de postbode bezorgde bij de Zwitserse galerie van Bitnik. Dit kunstenaarscollectief uit Zürich en Londen knutselde een computerprogramma in elkaar dat zelfstandig taken kan uitvoeren, en gaf hun bot opdracht om te winkelen op de zwarte markt van het internet waar allerlei (legale en illegale) spullen te koop zijn. Wekelijks krijgt de bot honderd dollar aan zakgeld in de vorm van bitcoins; hij mag zelf ‘kiezen’ wat hij ervoor aanschaft. Het enige wat de kunstenaars verder doen, is de spulletjes uitpakken om ze tentoon te stellen in de galerie. Alles liep lekker, totdat de postbode opeens tien vacuüm verpakte ecstasypillen afleverde. Dat was de Zwitserse politie te gortig. Ze nam het hele kunstwerk in beslag.
Ik zag de ‘Random Darknet Shopper’ van Bitnik op de tentoonstelling Hacking Habitat in Utrecht, en werd er heel vrolijk van. Het is een grappig en inventief kunstwerk, dat ondertussen ook een serieuze vraag aan de orde stelt. Want wie is er eigenlijk aansprakelijk voor technologie die onbedoeld schade toebrengt? Wie moet worden aangeklaagd? Bitnik stelt die vraag op scherp door hun Random Darknet Shopper een volkomen willekeurige en inhoudsloze missie mee te geven (‘koop iets van wat er zoal te koop is’) en zich verder niet te bekommeren om het gedrag van hun bot. Zo kunnen de kunstenaars van Bitnik altijd naar waarheid zeggen dat ze nooit de bedoeling hadden om ecstasy te kopen – wat hun veroordeling volgens het huidige recht een stuk moeilijker maakt.
Moderne robots zijn snel, betrouwbaar, en vaak nog zelflerend ook, wat het verleidelijk maakt om beslissingen aan hen uit te besteden. Robots vervelen zich immers nooit, laten ze zich niet afleiden door hun hormonen en kennen geen angst en vermoeidheid. Inmiddels vertrouwen we steeds meer beslissingen toe aan robots en meestal komt dat de veiligheid en precisie ten goede. Maar waar gehakt wordt, vallen spaanders. Ook robots ‘doen’ weleens dingen die we achteraf betreuren. En wat dan? Wie draagt dan verantwoordelijkheid?
Vanouds gaan ‘beslissen’ en ‘handelen’ een kongsi aan. We zien een beslissing als een soort handeling, en wie handelt, draagt verantwoordelijkheid voor de gevolgen van zijn daden; dat is een basale filosofische aanname onder ons rechtssysteem. En precies die aanname zet Bitnik op zijn kop. Want kun je van een robot die ‘beslist’ om tot een bepaalde actie over te gaan met droge ogen zeggen dat hij ook handelt, en dus verantwoordelijkheid draagt voor zijn daden? Of moeten we een strikt onderscheid blijven maken tussen menselijke en niet-menselijke handelingen, zodat we eventuele schade kunnen verhalen op – tja, op wie eigenlijk? Op de fabrikanten, de eigenaars, de programmeurs, de menselijke omstanders?
Ingesleten juridische intuïties verliezen hier hun waarde. Als een zelfrijdende auto uw hondje overrijdt, dan klaagt u vermoedelijk de eigenaar van de auto aan. Dat is nog relatief simpel. En als een Amerikaanse drone per abuis een klas met Pakistaanse schoolkinderen bombardeert, is de Amerikaanse president verantwoordelijk. Dat hebben we vooraf formeel zo bepaald. Maar wie moet Obama vervolgens binnenskamers op het matje roepen? In de catalogus die de tentoonstelling begeleidt, schrijft Susan Schuppli dat er 165 mensen nodig zijn om een Predator-drone van het Amerikaanse leger 24 uur lang in de lucht te houden. Dat wordt dringen daar op het presidentiële matje.
Nog lastiger: we hebben totaal niet geregeld wie we moeten aankijken op de financiële crisis die is ontstaan doordat supersnelle computers met elkaar handelen in opties. De programmeurs? De Raden van Bestuur van zakenbanken? Passieve regeringen? Of zetten we onze kaarten in arrenmoede op abstractere zaken, zoals Hebzucht of het Kapitalisme? Ik weet het niet, maar ik durf wel te voorspellen dat de opkomst van zelfsturende machines de nu al heersende georganiseerde onverantwoordelijkheid alleen maar groter zal maken. Er komen simpelweg teveel partijen die alle op een vage en hybride manier betrokkenen zijn, waardoor iedereen zich lekker kan verschuilen.
Overigens: de Zwitserse officier van justitie heeft de Random Darknet Shopper en al zijn aankopen inmiddels teruggegeven aan Bitnik – op de ecstasypillen na. Hun bot is nu aan het winkelen.
Marjan Slob