We willen wel robots ontwikkelen die zich zelfstandig door de maatschappij kunnen bewegen maar geen robots die zichzelf kunnen verdedigen? Mag een robot reageren op een vuistslag? Op een aanval van een hond? Op een messteek? Op het gooien van zuur? Het opduwen door een kind? Waarschijnlijk is dat wel verstandig, want een robot heeft straks gewoon een eigenaar die voor die robot flink geld heeft betaald. En die eigenaar wil natuurlijk niet dat zijn robots kansloos over straat heen gaat lopen. In alle opzichten willen we waarschijnlijk dat de robots schade aan zichzelf vermijden, confrontatie met mensen vermijden en confrontatie met andere dieren. Dit bijvoorbeeld door hard weg te rennen, subtiele snelle bewegingen te maken of bijvoorbeeld bij dieren de tegenstander zo ‘beet te pakken’dat schade aan de robot kan worden vermeden. Daarmee heeft de robot flink wat fysieke vaardigheden nodig en een uitgekiend intelligent ethisch systeem.
Daar komt dan het probleem: robots zijn per definitie verbonden met elkaar en met mensen. Het is dus mogelijk een robot opnieuw te programmeren. Eenmaal een robot aangeschaft, kan je hem zelf uit elkaar halen of draadloos verbinden om vervolgens de intelligentie wat aan te passen. Dezelfde fysieke vaardigheden kunnen nu offensief worden ingezet. Hoe kan een mens het onderscheid maken? Gisteren was de robot nog vriendelijk, vandaag zeer vijandig. Dat is een onbetrouwbare vriend.
De oplossing voor een vredige maatschappij ligt in het motief: een robot kan het wel, maar waarom zou ie het doen? Als een robot weet dat destructie het eigen lot is bij het aanbrengen van schade aan de omgeving, en ‘overleven’ bovenaan staat geprogrammeerd, zal hij alles doen om te voorkomen dat hij schade aanbrengt, en daarbij vermijden dat hij zelf schade krijgt.
Dan is er nog het element van eenmalig destructie: een soort zelfmoord robot dus. Geprogrammeerd door mensen om in 1 keer zeer veel schade aan te brengen. Of direct een heel legertje van dit soort robots. Hier ligt de essentie dat het is geprogrammeerd door mensen. En ook die mensen moeten een motief hebben. Maar in de vredige wereld die ontstaat zijn we juist zeer structureel bezig om motieven van mensen om dit soort dingen te doen uit te roeien, en dat met mediatechnologie waarover ik hier zo vaak schrijf. En dan is het cirkeltje weer rond.