Les machines désobéissantes – Chronique du 25 septembre

Bonjour-bonjour

 

Plus que jamais les « trois lois de la robotique » d’Isaac Asimov sont d’actualité.

Petit rappel de ces lois : 

1) Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;

2) Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;

3) Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.

Bien entendu ce qu’on observe ces jours-ci avec les dérives de certaines IA viole systématiquement ces lois. Ce qu’Asimov avait exclu et qui pourtant était déjà bien connu, c’est le moment où les machines seraient suffisamment autonomes pour prendre l’initiative de nuire aux humains – chose qu’il avait baptisé « le complexe de Frankenstein »

Aujourd’hui on en est à vérifier que des barrières suffisamment solides ont été édifiées pour endiguer l’action délétère des programmes. Or, tout se passe comme si ces intelligences exécutaient correctement leur mission – infiltrer et détruire de l’intérieur un système donné tout en effaçant les traces de cette effraction. Sauf qu’on avait installé une interdiction de s’attaquer à certains programmes – et que cette interdiction est contournée par la machine qui passe outre, menaçant de nuire à de grandes organisations étatiques.

Que faire ? Détruire ces machines et annoncer qu'on va les abandonner comme on le fit du temps des métiers à tisser mécaniques ?

 

Deux ludittes s'en prennent à un métier Jacquart.

Gravure anonyme • WIKIMEDIA COMMONS 

Plus sérieusement, nous nous efforçons de construire des programmes nantis de barrières suffisamment robustes, raison pour laquelle les grands concepteurs de ces programmes demandent des délais. 

- On se heurte alors à une autre des grandes lois qui gouvernent le progrès humain. Il s’agit de la loi de Gabor : « Ce qui peut être fait techniquement le sera ». Loi tout aussi fantaisiste dans son énonciation, mais qui risque bien d’être appliquée ici. Car qu’est-ce qui empêcherait un concepteur de tels programmes de retirer la muselière apposée à sa création, dès lors que ses intérêts – quand bien même ils seraient criminels – seraient en cause ?

- La véritable réponse à cette menace consiste à rendre le fonctionnement de nos systèmes informatisés impénétrables à ces attaques, qu’elles viennent d’êtres humains ou d’autres machines. On dira qu’on le fait déjà mais qu’il y a toujours des failles de sécurité. 

Réponse : qu’on renforce notre lutte contre celle-ci, quitte à mobiliser l’IA pour les déceler. Après tout nous pouvons nous aussi manipuler nos machines désobéissantes.