Ne croyez pas ce qu’on vous montre – Chronique du 3 septembre

Bonjour-bonjour

 

Il est des bouleversements qui arrivent tonitruants et qui nous montrent que le monde a changé : comme ces images et ces séquences filmées par des smartphones dans les rues lors de violences policières comme la vidéo montrant un policier étranglant Georges Floyd. Plus généralement, chacun d’entre nous est devenu un photographe d’actualité qui, grâce à son smartphone, peut remplacer les grands reporters dont les images restent encore dans nos mémoires.

- Et dans le même temps, les fausses images générées par l’IA pullulent au point que ces avancées en matière de révélation des abus commis se trouvent contrebalancées par des publications opposées. Je donne ici un exemple fantaisiste : une bataille de polochon entre Trump et Biden :

 

 

Ça ressemble à une plaisanterie potache ; mais c’est beaucoup plus grave : la manipulation de l’opinion devient totale au point que la notion de preuve portée par l’image est récusée. Ne croyez surtout pas ce qu’on vous montre, quel qu’en soit le contenu. Le pouvoir qui serait menacé par des fautes graves attestées par des photos se contentera de publier de fausses images qui prouvent le contraire et il n’aura même pas besoin de censurer. Par exemple la photo de François Hollande quittant l’Élysée nuitamment en scooter pour rejoindre sa blonde serait aujourd’hui suspectée d’être un « deepfake ».

- Les photos de reportages étaient jusqu’à présent considérées comme faisant partie de la réalité ; prises à la source de l’évènement elles en portaient la force et devenaient des documents dont l’historien du futur pourrait faire usage. Désormais il faudra pour les prendre en compte faire une véritable enquête d’authenticité.

En Ukraine, c’est l’IA qui fait la guerre – Chronique du 2 septembre

Bonjour-bonjour

 

J’écrivais récemment un article intitulé « La guerre des robots » à propos de robots-tueurs observés sur le front d’Ukraine où ces armes autonomes participent aux combats sans que des hommes ne s’exposent. Et j’imaginais naïvement le moment où des robots se combattraient les uns les autres, renvoyant la guerre traditionnelle où des hommes tuent d’autres hommes aux oubliettes de l’histoire. Mais c’était sans compter avec la tournure prise par cette guerre depuis de nombreux mois. Il s’agit à présent de tuer et de terroriser les civils afin qu’ils pèsent sur les décisions de leurs dirigeants pour les conduire vers une capitulation.

Or, voici ce que je lis ce matin : « L’attaque survenue le 6 juillet dernier à Zaporijia, en Ukraine, au cours de laquelle trois civils ont perdu la vie, illustre le franchissement d’un seuil opérationnel : l’utilisation d’armes à autonomie décisionnelle complète en zone urbaine. /…/

Il s’agit de drones qui intègrent un module informatique Nvidia Jetson Orin et ne possèdent aucune antenne de transmission. Programmé pour naviguer de manière autonome et identifier des infrastructures comme des cuves de propane, via la reconnaissance d’images, le drone a procédé lui-même à la reconnaissance et au verrouillage de sa cible. »

L’article conclut : « Non seulement les armes autonomes arrivent dans les conflits, mais en plus elles commencent à cibler des civils ». 

 

Certes cette information ne devrait surprendre personne : on sait depuis longtemps que des recherches dans ce domaine sont opérées par l’industrie spécialisée (on parle ici de la fabrique d’arme kalachnikov en Russie). Mais quand même, à présent les robots ne sont plus dirigés vers d’autres robots, mais vers les hommes et les femmes de la rue, des gens comme vous et moi sans défense devant cette guerre.

- Mais qu’importe dira-t-on de savoir qui les tue ? Ils sont morts et voilà tout.

Les naïfs comme moi vont se cabrer : la guerre c’est un combat au cours duquel l’attaquant choisit sa cible ce qui le rend responsable des morts provoqués en face. On a ciblé une école, un hôpital, mais on est obligé de se justifier : par exemple on dit que ce sont en réalité des repaires de terroristes. Voilà qu’à présent ce « choix » est opéré par des modules informatiques logés de ces armes qui n’ont rappelons-le pas de moyen de communication et donc qui œuvrent en totale autonomie. La conséquence est qu’il n’y a plus de responsabilité, plus aucun humain dont on puisse dire que sans lui un massacre n’aurait pas eu lieu.

--> Les tueurs autonomes qui déciment les civils en Ukraine ont supprimé le dernier atome de moralité qui pouvait encore exister dans une guerre.