Rechten en Plichten voor Robots.

Sommige mensen worden huiverig als ze over een "kompjoeter" horen praten. Ze zijn bang dat computers de aarde veroveren, dat ze ons tot slaven maken

Zo begon Henk Hartendorp ca 1969 (ik sla noodzakelijkerwijs een slag naar het jaartal, maar het zal er niet ver vanaf zitten) zijn artikeltje over de Computer in "De Wervelende Wereld", een in het schoolblad "Taptoe" wekelijks in feuilletonvorm verschijnende encyclopedie. Die encyclopedie las en herlas ik als scholier in een tijd waarvan ik alleen nog maar van computers en ruimtereizen kon dromen. Ik heb hem bewaard en hij is, ingescand, hier na te lezen. Het meeste is uiteraard achterhaald.
Zoals het artikeltje over de computer, die indertijd nog werkte met ponskaarten en in ieder geval nog niet in ieder huis aanwezig waren. Alleen de laatste zin van het artikel:

Maar wij slaven? Kom nou! Het zijn alleen maar machines.

is nog actueel. Hoewel er natuurlijk veel mensen verslaafd zijn aan computers, maar dat is iets anders.

Volgens Henny van der Pluijm's boek "rechten en plichten voor robots" gaat het echter niet lang meer duren of de computer-technologie gaat ons wel overvleugelen. Daarmee is hij voor zover ik weet de eerste Nederlander die serieus over dit onderwerp schrijft, in navolging van Ray Kurzweil ("The Age of Spiritual Machines", "The Singularity is Near" en "How to Create a Mind") en sciencefiction-schrijver Isaac Asimov, al schreef deze laatste "maar" sciencefiction. Maar wel sciencefiction waaraan Asimov zelf de eis stelde dat het waar zou moeten kunnen zijn. En veel van zijn werk begint inmiddels behoorlijk profetisch te lijken.

In navolging van Kurzweil schrijft Van der Pluijm in zijn vlot leesbare boek dat de computerkracht binnen afzienbare tijd, denk aan twintig jaar, de menselijke intelligentie gaat overvleugelen. Op sommige gebieden doen computers dat nu al, maar wij kunnen ons er nog altijd op laten voorstaan dat er bepaalde taken zijn die wij beter doen dan computers, met name op creatief gebied.

Niet lang meer, zegt Van der Pluijm. Kunstmatige intelligentie maakt gebruik van neurale netwerken en algoritmen waardoor zelf-lerende systemen ontstaan, die zich zo snel ontwikkelen dat de mens straks niet meer in de gaten heeft wat er precies aan de hand is. Dat is allemaal al een behoorlijke tijd bekend bij iedereen die zich met het onderwerp bezig houdt en de naam die daaraan gegeven is, is "the Singularity", zo'n beetje de Apocalyps voor Transhumanisten.

Interessant aan het boek is dat het in het Nederlands is verschenen en, ik schreef het hierboven al, soepel geschreven is, waardoor het toegankelijk wordt voor een groep mensen die zich normaal niet met deze materie bezig houdt. En vooral dat het een discussie op zou kunnen en moeten starten over hoe we dit alles in veilige banen denken te leiden, gesteld dat dat nog mogelijk is.

Van der Pluijm's oplossing is: geef robots rechten, nu het nog kan. Ik dacht bij het woord "rechten" aan rechten vanuit de optiek van een systeembeheerder; wat mag een user wel en wat niet? Zo'n beetje in de stijl van Asimov's "Drie wetten van de Robotica":

1. Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
2. Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.
3. Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

Van der Pluijm vindt deze wetten echter niet meer van toepassing en heeft het over burgerrechten! Bijvoorbeeld het recht voor een robot om zelfstandig te besluiten over budget om zichzelf te upgraden. Om zelfstandig te besluiten voor een ander mens of bedrijf te gaan werken. Dat daarbij ook de plicht van bijvoorbeeld verantwoording afleggen hoort spreekt voor Van der Pluijm vanzelf, want als het misgaat moet er een schuldige worden aangewezen. Wie gaat zich verantwoorden, de fabrikant/programmeur, de eigenaar, of de robot zelf? (Van der Pluijm geeft als angstaanjagende voorbeelden de Flash Crash van 6 mei 2010 en de mogelijke casus van een robot die medicijnen op moet halen voor zijn bejaarde eigenaar en beroofd wordt door hangjongeren; wat als de robot zich verdedigt en één van de jongeren daarbij doodt?)

Zonder cynisch te willen zijn, vraag ik me af of een dergelijke intelligente robot zich ter verantwoording zal laten roepen door een "menselijke" rechtbank. Trekken wij ons iets aan van de mening van wat lager staat op de evolutie-ladder dan wij? Okay, er zijn groeperingen die vinden dat we dieren rechten zouden moeten geven, maar in het algemeen kun je zeggen dat dat zinloos is omdat dieren nu eenmaal niet meepraten - en ons dus ook geen rechten geven, dan wel middelen hebben om ons aan onze plichten te houden.

Wolves don't lose sleep

over the opinion of sheep

Kans is groot dat superintelligente robots zich niet veel van ons gemor aan zullen trekken.
Ik ben er dus voor dat we de bal op ons eigen speelveld houden en robots moeten houden als onze gewillige slaven. De echt intelligente technologie moeten we in onszelf te integreren, dus ons ontwikkelen tot cyborgs.


Mijn vorige twee alinea's doen natuurlijk niets af aan het feit dat Henny van der Pluijm een boek heeft geschreven dat zeker de aandacht verdient en, vooral, graag als startpunt voor een debat moet dienen. Daar neemt hijzelf geregeld initiatieven toe, te beginnen op de Opiniewebsite Joop, waar inmiddels ook de nodige reacties staan. Niet allemaal even diepgaand, maar sommigen gelukkig ook wel.
Op 5 juni jl organiseerde Van der Pluijm een debat in Utrecht, waar ikzelf niet bij kon zijn. Gelukkig kreeg ik op 24 juni een nieuwe kans. Bij dit debat was ook een delegatie van het IKV aanwezig om hun campagne tegen de zgn "Killer Robots" onder de aandacht te brengen. Tja, het is helaas zo dat iedere mooie ontwikkeling ook gebruikt kan, en dus ook gaat worden, om kwaad aan te richten. Het IKV pleit voor een moratorium op de ontwikkeling van Killer Robots. Persoonlijk zou ik graag willen pleiten voor een verbod, maar wie gaat dat naleven? Doorgaans alleen de braverikken en die zijn toch al niet zo gevaarlijk, want braverikken. Het IKV heeft het in het document "Onbemand maakt Onbemind" over "dehumansiering van de oorlogvoering". Ik vind oorlogvoering per definite niet erg humaan, tenzij er, als het dan echt moet, met de vuist gevochten wordt - in dat opzicht ben ik graag ouderwets. En dan nog het liefst een vuistgevecht alleen tussen de twee ruziemakers zelf, dus bijvoorbeeld de twee presidenten, die er aan de onderhandeltafel kennelijk niet uit hebben willen komen. In dat opzicht ben ik er ook altijd graag voor dat iedereen zijn eigen rekeningen betaalt; dus niet die onschuldige jongens eropaf sturen en zelf thuis blijven. Maar helaas leven we niet in zo'n wereld, dat blijkt al uit het feit dat er toch steeds weer jongens te vinden zijn die dat uniform aan willen trekken voor de "zaak".
De ontwikkeling van Killer Robots verbieden betekent helaas de ontwikkeling van robots verbieden, want het is natuurlijk dezelfde technologie, alleen een andere toepassing. Willen we onze ontwikkeling een halt toeroepen? Ik denk dat het niet kan, de geest is uit de fles en we kunnen niet voor struisvogel spelen.
Als het doel van technologie is om onszelf als mensheid vooruit te helpen en niet om elkaar uit te roeien, kunnen we niet anders dan de technologische vooruitgang gebruiken om de noodzaak tot oorlogvoering te minimaliseren door het probleem van de schaarste in de wereld op te lossen en religieus fanatisme geen kans geven.
Tot hier mijn, ongetwijfeld in de ogen van velen naïeve, €0,02 over het pacifisme.
Om ervoor te zorgen dat we als mensheid straks niet een gezamenlijke vijand hebben in de vorm van superintelligente robots zou het boek van Henny van der Pluijm dus een aanzet kunnen zijn tot een plan om over, laten we zeggen, 20 jaar de robots een plekje in de mensenmaatschappij te hebben gegeven. En zo, dat er ook voor ons nog plaats is in de herberg.
Regeren is vooruitzien, maar deze taak is te complex om alleen aan de regering over te laten. Ik hoop dan ook dat het boek door velen gelezen zal worden, het is echt niet al te technisch, en dat het onderwerp "rechten en plichten voor robots" (wat voor rechten dat ook zullen zijn) bijtijds op de agenda van het maatschappelijk debat zal worden gezet.