Des savants qui stoppent la science – Chronique du 30 octobre

Bonjour-bonjour

 

Avec l’attribution du Nobel de physique à John Hopfield, le souci de contrôler le progrès scientifique, y compris en le débranchant, est revenu au 1^er plan.  

--> Associé à Geoffrey Hinton, John Hopfield a contribué au développement de la compréhension et de la création des réseaux neuronaux et de l'intelligence artificielle.

En ouvrant la voie à des développements révolutionnaires dans l'apprentissage profond et les technologies d'intelligence artificielle des « machines learning » ces recherches ont permis le développement de l’Intelligence artificielle tels que Hopfield a refusé de continuer dans cette direction estimant que nous avions tout à craindre de machines qui auraient une avance sur nous dans le domaine de l’IA. 

 

Abandonner la recherche avant que les machines ne deviennent incontrôlables, tel a été aussi la décision de Jacques Testart dans les années 2000. Biologiste français, créateur du premier « bébé éprouvette » de France, Jacques Testart prend fermement position contre ce qu'il estime être des dérives qui seraient induites par la PMA : eugénisme, homme augmenté, transhumanisme, etc. : « Pour moi, la plus grande dérive, c’est le tri des embryons (DPI = Diagnostic préimplantatoire), qui représente une menace extraordinaire ». 

Depuis les États ont pris des mesures pour endiguer ce danger, sans toutefois qu’il soit complètement écarté.

 

Reste donc ce sérieux avertissement sur les danger du « progrès » scientifique venu des chercheurs eux-mêmes. Lorsque des gens, qui ont fait de leur projet le plus ambitieux l’horizon leur vie, déclarent devoir y renoncer pour protéger l’humanité, on peut supposer que ce n’est pas pour des motifs légers. Et le fait que certains de ces projets aient quitté le domaine de nos soucis (comme le clonage humain ou le choix des caractéristiques des bébés à naitre) ne prouve absolument pas qu’ils n’aient plus de pouvoir de nuisance.

La crainte de voir nos machines nous évincer dans la gouvernance de l’humanité parait encore lointaine ; toutefois on a eu récemment le cas d’un système d’IA qui a modifié son programme pour débrider le contrôle limitant le périmètre de son activité, donne froid dans le dos.

Hall 9000 n’est plus très loin.