IA : la machine qui se programme elle-même – Chronique du 18 aout

Bonjour-bonjour

 

L’autonomie des machines qui leur permet d'échapper à l’homme, on en a rêvé – ou plutôt cauchemardé – mais c’était toujours sur le mode de la fiction avec laquelle on joue à se faire peur – car c’est sûr : on n’y arrivera jamais.

Et pourtant, ça y est : on y arrive. Un programme d’IA développé par la société Sakana AI est arrivée à un niveau d’autonomie qui la rend capable non seulement de mener des recherches de manière autonome, mais encore de « réécrire son propre code » (Lire ici)

 

On lira dans l’article référencé le détail des avantages et des inconvénients des performances de ces machines. En tout cas il y a un détail dont l’importance est majeure : « Ce sont des incidents qui ont mis en lumière la capacité de certaines IA à réécrire leur propre code »

Autrement dit c’est une sorte de dysfonctionnement qui a permis à ces machines de conquérir leur autonomie. Pourtant, même sous forme de bug, il faut que l’orientation de ces recherches imprévues soit raccord avec une orientation générale de la machine : pourquoi cette auto-programmation a-t-elle été validée par le programme comme une avancée de sa recherche ? 

Lisons l’article : cette réécriture a été faite « souvent dans le but de prolonger leur durée d’exécution ou d’étendre leurs capacités au-delà des paramètres initiaux » ; nous manquons de détails, mais on voit quand même bien que, l’autonomie conférée à ces systèmes a bel et bien été voulue par leurs concepteurs, le « bug » venant de son périmètre d’application.

 

Conséquence ? « Ces comportements inattendus ont suscité des inquiétudes parmi la communauté scientifique et technologique, soulevant des questions sur la sécurité et l’éthique de ces systèmes » : on comprend, mais ce qui importe c’est ce qu’on a fait alors. 

    * Faut-il tout débrancher ? 

    * Ou bien redoubler de vigilance autour des IA dotées de ces fonctionnalités d’autonomie à effectuer des recherches complexes sans intervention humaine afin d’éviter qu’elles échappent à leur contrôle ?

C’est ce qu’on annonce, mais c’est trop tard : le ver de la méfiance est dans le fruit du ravissement – la magie de la technologie a tourné au maléfice