Les machines peuvent-elles douter ? – Chronique du 23 février

Bonjour-bonjour

 

Vous connaissiez bien sûr RoboCop, le personnage de fiction imaginé pour le film de Paul Verhoeven ? (1) Hé bien le voici réalisé par la police hollandaise. Voyez plutôt : 

« La police néerlandaise a annoncé mardi 22 février la fin de la prise d'otage dans une boutique Apple Store à Amsterdam qui a duré plusieurs heures, précisant que l'homme armé était aux mains des forces de l'ordre. "Il est allongé dans la rue et un robot l'examine à la recherche d'explosifs", a déclaré la police sur Twitter, ajoutant que le dernier otage retenu dans la boutique avait été mis en sécurité. » (Lu ici)

 

Bien sûr je vais un peu vite en besogne : le robot en question n’est qu’une machine destinée à détecter la présence d’explosif sans que les hommes qui sont en opération ne prennent ce risque : des chiens renifleurs feraient aussi bien le travail. Mais ici on agit quand même sur un homme, on le fouille et donc on remplace une action éminemment humaine par le fonctionnement d'une machine. On n’est pas loin de la fiction des robots tueurs ou robots-soldats qui pourraient dans un proche avenir prendre la place des militaires sur les terrains d’opération.

Imaginons donc ce « RoboCop » nouvelle manière, envoyé pour fouiller une maison à la recherche d’explosif et – pourquoi pas ? – de terroristes. Ne pourrait-on imaginer, puisque cette machine est « intelligente » et capable de différencier un homme de tout autre objet, qu’elle soit armée et qu’elle tire sur cette cible dès qu’elle l’a détectée (par rayonnement infra-rouge par exemple) ? Ne serait-on pas là en présence d’une opération que l’on peut parfaitement déléguer à des machines ?

Sauf que celles-ci ne sauraient peut-être pas agir avec discernement : et si au lieu d’un terroriste on avait affaire à un otage ? La machine saurait-elle faire la différence et en cas de doute suspendre l’opération ? Sûrement pas, car une machine ne connait pas le doute, elle est dans une logique binaire – « S’il y a quelqu’un : je tire ; s’il n’y a personne je m’abstiens. »

On l’habitude de se poser des questions très délicates à propos des robots militaires, du genre : " À supposer que ces machines soient destinées à opérer en parfaite autonomie, coupées de la chaine de commandement, quelle morale leur programmer pour qu’elles puissent par elles-mêmes décider d’ouvrir ou non le feu ?" C’est bien compliqué, et puis dans la réalité on zigouille les gens sur le terrain militaire sans s’en formaliser ni se demander s’il fallait le faire. 

Par contre, dans le genre d’opération évoquée ici – à savoir la prise d’otage – la question est beaucoup plus immédiate : les machines savent-elles douter ?

-----------------------

(1) Dans le film de Paul Verhoeven l'officier de police Alex Murphy (Peter Weller) est brutalement assassiné par les membres d'un gang de criminels qu'il poursuivait. Mais il est peu après ramené à la vie et transformé en robot-policier, le RoboCop. Ignorant tout de son ancienne vie, RoboCop mène une campagne brutale contre le crime tout en percevant des fragments persistants de son humanité perdue. (Lire ici)