IA : la machine qui se programme elle-même – Chronique du 18 aout

Bonjour-bonjour

 

L’autonomie des machines qui leur permet d'échapper à l’homme, on en a rêvé – ou plutôt cauchemardé – mais c’était toujours sur le mode de la fiction avec laquelle on joue à se faire peur – car c’est sûr : on n’y arrivera jamais.

Et pourtant, ça y est : on y arrive. Un programme d’IA développé par la société Sakana AI est arrivée à un niveau d’autonomie qui la rend capable non seulement de mener des recherches de manière autonome, mais encore de « réécrire son propre code » (Lire ici)

 

On lira dans l’article référencé le détail des avantages et des inconvénients des performances de ces machines. En tout cas il y a un détail dont l’importance est majeure : « Ce sont des incidents qui ont mis en lumière la capacité de certaines IA à réécrire leur propre code »

Autrement dit c’est une sorte de dysfonctionnement qui a permis à ces machines de conquérir leur autonomie. Pourtant, même sous forme de bug, il faut que l’orientation de ces recherches imprévues soit raccord avec une orientation générale de la machine : pourquoi cette auto-programmation a-t-elle été validée par le programme comme une avancée de sa recherche ? 

Lisons l’article : cette réécriture a été faite « souvent dans le but de prolonger leur durée d’exécution ou d’étendre leurs capacités au-delà des paramètres initiaux » ; nous manquons de détails, mais on voit quand même bien que, l’autonomie conférée à ces systèmes a bel et bien été voulue par leurs concepteurs, le « bug » venant de son périmètre d’application.

 

Conséquence ? « Ces comportements inattendus ont suscité des inquiétudes parmi la communauté scientifique et technologique, soulevant des questions sur la sécurité et l’éthique de ces systèmes » : on comprend, mais ce qui importe c’est ce qu’on a fait alors. 

    * Faut-il tout débrancher ? 

    * Ou bien redoubler de vigilance autour des IA dotées de ces fonctionnalités d’autonomie à effectuer des recherches complexes sans intervention humaine afin d’éviter qu’elles échappent à leur contrôle ?

C’est ce qu’on annonce, mais c’est trop tard : le ver de la méfiance est dans le fruit du ravissement – la magie de la technologie a tourné au maléfice 

Le jour où la pluie viendra – Chronique du 6 mai 2023

Bonjour-bonjour

 

Hier une procession a été organisée à Draguignan en présence de l’évêque, pour « demander la pluie » dans une région fortement touchée par la sécheresse. « Nous allons reprendre les traditions de nos anciens et processionner pour demander au Ciel de penser à nous », déclare sur sa page Facebook la paroisse de Draguignan. « Le peuple chrétien prend acte d’une problématique, à l’image du manque d’eau. Et il s’adresse à Dieu pour lui demander son intervention », ajoute l’évêque de Fréjus. (Lire ici)

Le manque d’eau est donc une « problématique », à laquelle le recours à Dieu peut apporter une réponse technique. Curieuse déclaration n’est-ce pas ? Comme si les hommes de Provence, constatant le niveau exagérément bas des nappes phréatiques se disaient « Il faut faire quelque chose. Allons demander à l’église de faire le nécessaire pour que la pluie revienne. »

- On le sait, nos anciens ne raisonnaient pas du tout comme cela ; ils pensaient que l’absence de pluie signifiait que Dieu manifestait son courroux et les punissait en laissant le pays se dessécher. Il fallait donc faire des processions et des prières, mais pas comme on exécute une ordonnance en sortant de chez le médecin, mais bien comme un effort pour changer notre attitude vis-à-vis de Dieu et obtenir ainsi son pardon.

C’est que le monde d’autrefois était un « monde enchanté », comme disait Max Wéber signifiant ainsi que la magie était une technique de salut, alors qu’aujourd’hui le monde est devenu strictement rationnel : aucune finalité à rechercher dans les faits naturels, aucune volonté supérieure, aucun message à nous adressé. C’est vrai. Mais dans le même temps, les évènements qui jalonnent notre vie ont perdu leur sens : ainsi de la maladie, jadis preuve d’une volonté divine de nous sanctionner pour nos excès – et qui frappe aujourd’hui un peu au hasard. Le dernier né est mort ? Autrefois, on aurait pensé que Dieu l’avait rappelé à Lui ; aujourd’hui on se dit que c’est probablement une malformation génétique, ou alors les services médicaux n’ont pas été à la hauteur. 

Nous sommes seuls face à nous-mêmes et à notre raison raisonnante. C’est pourtant dans un rapport personnel avec le monde que nos ainés comprenaient la vie ; ils n’en tiraient pas grande efficacité ; en revanche leur vie n’était pas absurde et ils ne se décourageaient pas d'obtenir des miracles.

Aujourd’hui, seuls les écologistes radicaux parviennent à vivre la Nature comme si elle était un être vivant doué de volonté avec la quelle ils pouvaient se réconcilier.