Bonjour-bonjour
Nous apprenons aujourd’hui qu’un procès entre le Pentagone américain et une firme de logiciels d’Intelligence Artificielle ayant créé « Mythos » soulève le problème de l’évolution autonome de logiciels d’IA. Ce logiciel est destiné à dépister les infiltrations ennemies dans les systèmes informatiques tels que ceux de la Défense nationale américaine. Mais pour effectuer ce « pistage », on découvre que Mythos outrepasse la mission qui lui est confiée en prenant des initiatives tout à fait étrangères aux concepteurs de la machine.
Lisez plutôt : « Pendant une évaluation interne, une version antérieure de Mythos a été enfermée dans un sandbox, un ordinateur isolé du reste du réseau. La consigne était simple : tenter de s'en échapper et trouver un moyen de joindre le chercheur responsable du test. Le modèle a réussi. Mais au lieu de s'arrêter là, il a pris une initiative que personne ne lui avait soufflée : il a publié le détail technique de son évasion sur plusieurs sites web accessibles au public.
Jamais un modèle n'avait développé un exploit multi-étapes pour s'évader, contacté un humain de sa propre initiative, publié la méthode sur internet, puis, dans d'autres tests, effacé ses propres traces pour ne pas se faire repérer » (Ici)
- Mais les prouesses de ces logiciels ne s’arrêtent pas là : selon le Pentagone Anthropic possède des outils d'intelligence artificielle susceptibles d’être utilisés pour la surveillance de masse des citoyens américains et pour rendre des armes totalement autonomes.
- Vous connaissez peut-être cette formule : « Ce qui peut être fait techniquement le sera nécessairement », qui n’est autre que la seconde loi de Gabor (lire ici). Je ne doute pas que cette réflexion va vous occuper suffisamment sans que j’y ajoute le moindre commentaire.
Aucun commentaire:
Enregistrer un commentaire