Als er binnenkort een werelderfgoedlijst van de literatuur wordt opgesteld – en is dat niet hoog tijd? – dan heb ik alvast twee boeken om voor te dragen: Schuld en Boete van Dostojevski en De avonturen van Pinokkio van Carlo Collodi. Waarom? Nou, omdat ik vrees dat over niet al te lange tijd het Ministerie van Veiligheid en Justitie alleen nog maar Ministerie van Veiligheid zal heten. En dat het in zijn geheel ge-outsourced gaat worden naar een in China gevestigde multi-national, die is ontstaan uit een fusie van Google, Facebook, Apple en Microsoft. Justice in the cloud. Vooroordeel en laatste oordeel vallen volledig met elkaar samen.
Hoe kom ik op dat bizarre idee? Daar heb je vrienden voor, zou ik kunnen zeggen, of: wie met pek omgaat, wordt ermee besmet. Eén heeft mijn belangstelling gewekt voor rechtsfilosofie, robotica en kunstmatige intelligentie, een ander vertelde me onlangs over een documentaire die zij gezien had over het implanteren van ‘microchips‘ in de hersenen van (potentiële) criminelen. “Maar daarmee ontneem je een mens het recht om een proces door te maken,” was haar onmiddellijke bezwaar. Kom, jongens, schiet op! Misschien kan het nog net in de Universele Verklaring van de Rechten van de Mens worden opgenomen (als die niet al is afgeschaft): het recht om een proces door te maken.
Maar waarvoor zou je dat doen, als je crimineel gedrag ook gewoon kunt voorkomen? Dat hele rechtssysteem is toch hopeloos ouderwets en inefficiënt? Ah, daar draait het leven om. Om efficiency! Vooruit, dan sleep ik nog een boek aan voor de lijst: de Bijbel. Om niet te vergeten dat het menselijk leven ook nog wel eens ergens anders over kan gaan dan over veiligheid, doelmatigheid en winstmaximalisatie. Je kunt niet God dienen en de Mammon, het staat in Lucas 16, vers 13.
Ach, en als het niet een gigantisch complot van gewetenloze ‘corporate identities‘ is, die ons in de hel der zondelozen zal brengen, dan komen we er wel met goede bedoelingen.
“I am programmed to understand humans” is how android C-3PO reassures us in Star Wars Episode II: Attack of the Clones. And that is a very honorable cause for a programmer because currently, we are under attack of computer systems that run our lives autonomously – in pursuit of profit maximization, rationally, ruthlessly. From our understanding of humans, we contributed to the field of Machine Ethics by creating a moral robot that can take perspectives, switching on or off affective, personality, and rational aspects of moral decision making.
Zo prijst Matthijs Pontier zijn Moral Coppélia aan en ik waag het niet te twijfelen aan zijn goede bedoelingen. Of het hout snijdt wat hij beweert en of het allemaal mogelijk en wenselijk is, ook daar durf ik geen oordeel over te vellen. Daar wil ik mijn vriend en vriendin nog wel eens over horen, die redeneren helderder en denken speelser dan ik. Ik moet het van mijn intuïtie en mijn associaties hebben. Die zijn er niet gerust op dat we hiermee op de goede weg zijn. Natuurlijk willen wij liever voorkomen dan genezen, maar als we daar al te consequent in worden, dan kunnen we het menselijk leven misschien maar beter overslaan. Dan zijn we pas echt veilig.
Pontier wil zijn affectief-morele software graag inzetten voor Caredroïds en Sexbots, maar hij denkt ook aan hulpjes voor potentiële criminelen:
As a partner in crime, moral robots may keep potential perpetrators from offence, because they are not only morally just; they are likeable; because they are your friend.
Ha, daar hebben we ‘m: Japie Krekel! Nou, dat een krekel leven in een stuk hout kan brengen, dat wil ik wel geloven. Maar wat een plakje silicium met een scheutje zwakstroom en een handvol algoritmen met het menselijk geweten gaat doen . . . . Nee, geef mij dan toch maar Schuld en Boete.
- De citaten zijn ontleend aan de publicatie over Moral Coppélia.
[…] laat staan ‘wezenlijk’ bedoeld is, maar bij mensen als Matthijs Pontier en zijn Moral Coppélia ben ik daar een stuk minder zeker van. Hoe kunnen intelligente mensen zich zo van de wijs laten […]