Lecornu 1.0 : démission ! – Chronique du 19 septembre

Bonjour-bonjour

 

Edi Rama le Premier ministre albanais, a nommé Diella (« soleil », en albanais), une IA, à la tête du ministère des marchés publics. Une façon pour lui de s’assurer que ces derniers soient « exempts de corruption à 100% ». « Chaque denier public soumis à la procédure d’appel d’offres sera parfaitement transparent » a-t-il assuré.

Pour plus de réalisme, on a doté Diella d’un visage – tout aussi virtuel que sa pensée :

 

 

 (Lire ici)

- Laissant de côté les polémiques qui en Albanie accompagnent cette « nomination », je me prends à rêver : et si nous aussi nous avions un(e) premi.er.ère ministre virtuel.le ? 

Que diraient les banderoles des syndicats défilant dans la rue pour refuser les décisions d’un premier ministre inventé par IA ? 

– Appelons-le « Chat-Lecornu 1.0 » Ça ferait ça : « Lecornu 1.0, t’es foutu / Lecornu 2.0 est dans la rue »

Avant d’en arriver là il faudrait quand même s’être entendu sur la légitimité d’un tel modèle. Qu’on ne puisse contester la ligne politique génératrice des choix opérés par IA. A moins qu’on ne décide de tracer un but général du genre « lutte contre la pauvreté » ; « recherche de l’égalité la plus grande » ; ou encore « le plus de liberté possible » - à ce compte la devise de la République suffirait – ou presque.

Ensuite, il faudrait faire admettre à tous que l'IA en question repose sur une science capable de prendre en charge ces buts pour leur assigner un programme d’action rigoureux par lequel les sacrifices exigés permettraient bientôt d’arriver à des lendemains féconds.  

Pas facile ? Les albanais y sont bien arrivés, pourquoi pas nous ? Il est vrai que ce qu’ils attendent de la machine c’est seulement la transparence et rien d’autre.

Mais c’est déjà beaucoup.

… Il est vrai que l’opposition albanaise conteste même ce recours à la machine : « Même Diella sera corrompue en Albanie. » disent-ils.

C’est comment qu’on freine ? – Chronique du 25 aout

Bonjour-bonjour

 

Suite aux problèmes de « freinage fantôme », on a critiqué les programmes d’IA prétendus capables d’adapter automatiquement la vitesse du véhicule  à la situation du trafic. (Cf. Post du 8 aout)

« Parler d’intelligence pour un véhicule est donc, au mieux, une image. » conclut l’auteur de l’article (ici)

Voilà une critique contre l’IA bien convenue : chargées d’adapter à l’environnement, elle serait incapable de tirer de sa base de données une réponse à la situation nouvelle qui requiert l’intuition humaine. Autrement dit le « freinage fantôme » ne résulterait pas d’un banal dysfonctionnement de la voiture mais bien d’une incapacité du système informatique qui en gère la vitesse. Comme le chante Bashung « L'allume-cigare je peux contrôler / Les vitesses c'est déjà plus calé / C'est comment qu'on freine » (écouter ici)

... Tout ça me rappelle un sujet de philo du bac qui, il y a quelques années, demandait : « Ce qui est imprévu était -il imprévisible ? » Autrement dit, dans un monde strictement déterministe, tout ce qui arrive se produit selon des lois universelles de la nature, il n’y aurait donc rien d’imprévisible. L’imprévu est simplement l’effet de notre ignorance, ce qui s’applique donc aux situations de la circulation routière où les voiture sont des mobiles soumis aux lois physiques et aux déterminismes psychologiques et sociaux. L’Intelligence Artificielle fonctionne avec des lois, comme n’importe quel ordinateur elle fournit des réponses aux situations de la circulation routière.

On objectera que la machine, si « savante » soit-elle ne peut anticiper les interactions aléatoires entre ces lois. On sait d’ailleurs que c’est là la définition du hasard selon Cournot : « Interférence de deux séries causales indépendantes » : aucune loi, même dans un monde déterministe, ne peut prévoir ces situations soumises à l’aléa de déterminismes indépendants – par exemple comment soumettre les comportements réglés par la société et ceux déterminés par la biochimie cérébrale ? Peut-être en effet que l’intuition humaine l’emporterait alors sur les informations issues de la base de données de la machine ?

Mais qui nous dit que l’aléa en question est bien ce qu’il nous parait, à savoir un phénomène encore jamais apparu et donc impossible à prévoir ? Peut-être qu’il est plus fréquent qu’il n’y parait et que, hasard ou pas, la machine en a déjà enregistré l’apparition avec une certaine fréquence. Auquel cas, l’IA des machines actuelles serait simplement à court de base de données – mais qu’on lui laisse le temps de s’informer avec d’avantage d’items et ces freinages fantômes péché de jeunesse disparaitront.

Et avec eux notre sotte présomption de détenir grâce à notre intuition une supériorité sur les machines.

Et maintenant : l’intelligence arrive dans les caddies – Chronique du 26 avril

Bonjour-bonjour

Les grandes surfaces françaises prennent un tournant technologique inédit. En 2025, les chariots traditionnels commencent à être remplacés par des solutions résolument innovantes. 

Voyez plutôt :

 

Chariot connecté 

Ceci est un chariot connecté en test à l’Intermarché de Provins équipé d’un boitier alimenté par une technologie avancée de « computer vision ». Ce chariot est ainsi transformé en un chariot intelligent capable de reconnaître des milliers d’articles sans avoir besoin de les scanner.

Au terme du test actuel, différentes opération seront ainsi automatisées :

- Reconnaissance des produits : les chariots intelligents utilisent des caméras équipées d’intelligence artificielle pour identifier instantanément les articles.

- Affichage en temps réel : Ils montrent les prix et les informations nutritionnelles directement sur l’écran intégré.

- Paiement automatisé : Un système de paiement automatique évite désormais les longues files d’attente. (Lu ici)

 

Mais ce n’est évidemment pas tout. Car tout en poussant votre chariot, celui-ci va vous interpeler via son écran pour vous faire des propositions personnalisées basées sur l’historique de vos achats ou sur des achats connexes couramment faits dans ce magasin.

Sous couvert de maitrise de vos achats avec la facture connue en temps réel, vous allez être sollicité pour encore plus d’achats.

On n’arrête pas la conso.

Affiche antisémite : c’est la faute à Elon – Chronique du 16 mars

Bonjour-bonjour

 

L’hideuse affiche figurant Cyril Hanouna sous des traits grossièrement déformés pour ressembler aux portraits antisémites du 3^ème Reich est au centre d’une polémique ; pour qu’on évalue la chose voici les deux versions de l’affiche : à gauche l’affiche incriminée ; à droite sa version « rectifiée » après sa dénonciation.

 

  

- La question de la responsabilité de la production de ce « visuel » est intéressante : « /au cours de l’émission C à vous/ le député de la France insoumise Paul Vannier a reconnu une « erreur », à la suite de la publication d’une affiche ciblant Cyril Hanouna ... Il a rejeté la responsabilité sur la plateforme Grok d’Elon Musk, utilisée pour concevoir le visuel. » (Lire ici)

- Voilà : ce qui devait arriver est arrivé, à savoir que l’Intelligence Artificielle est désignée « responsable » d’un contenu délictueux. En bref, le visage de Cyril Hanouna a été retouché pour modifier l’aspect de son nez et de ses oreilles, reproduisant ainsi les traits du juif selon les nazis. Pour que le programme d’IA soit jugé « responsable », il a fallu que l’algorithme qui effectue la sélection des traits du visage en fonction d’une demande « neutre » ait été préprogrammé pour donner la priorité aux caricatures en générale et à celle-là en particulier.

- Sinon, il faudrait supposer que c’est la demande qui cible spécifiquement ce genre (« Fais la caricature de Cyril Hanouna sous les traits du juif allemand de 1930 »). Mais alors ce n’est plus le programme d’Elon Musk qui serait en cause, mais bien les concepteurs du projet.

Maintenant, voici deux remarques :

- Admettons que les designers de LFI ne soient effectivement pour rien dans cette production. Il reste que ce n’est pas l’IA qui donne le « bon à tirer » de l’affiche. Si ce dernier existe alors ce sont les gens qui le décrètent qui sont responsables.

- Ensuite, ce cas n’est pas le premier cas du genre. Il y a quelque temps, Microsoft avait testé une IA, une des premières créée. Les testeurs ont pour l’expérimentation « nourri » de textes violemment racistes la base de données. La suite, c’est que l’IA en question a « spontanément » généré des textes racistes, au point que les concepteurs ont dû retirer leur projet.

Une simple enquête de police devrait suffire pour désigner les véritables responsables qui de toute façon sont les humains.

Notre IA qui êtes-aux-cieux…. – Chronique du 8 mars

Bonjour-bonjour

 

Il y a quelques décennies, des sites internet de confession en ligne, avec pénitence, absolution, et signe de croix tracé avec la souris, faisaient sourire. Et puis, les années passant beaucoup d’autres excentricités ont fait oublier cette pratique virtuelle de la dévotion.

Mais avec le confinement, la confession en « distantiel » a fait son retour au premier plan : rencontrer un prêtre via l’ordinateur, pourquoi pas ?

Mais avec les IA génératives, type ChatGPT, les choses ont changé. C’est qu’il ne s’agit plus de rencontre virtuelle avec un confesseur ; il s’agit, grâce à une Intelligence artificielle qui a ingurgité les textes des Pères de l’Église, des conciles, des encycliques..., d’obtenir des réponses à des questions existentielles de la foi que se pose un chrétien, sans qu’aucun ecclésiastique ne soit consulté. La machine jouerait alors le rôle dévolu au directeur de conscience, bien oublié aujourd'hui mais qui pourrait revenir sous cette version virtuelle au premier plan de la vie morale.

On aurait également la possibilité d’entendre le sermon du dimanche, fabriqué sur mesure pour la période et pour le public de fidèle concerné, concocté par une IA programmée sur mesure pour ce magistère.

Qu’en pense l’Église ?

- Voici ce qu’on lit à ce propos dans le journal La croix : « Nicolas Vandame et Benoît Sibille s’opposent au projet de création d’une intelligence artificielle (IA) catholique pour conserver le « magistère de la Parole ». Pour eux, l’idée qu’une IA puisse présenter « une synthèse des mystères de la foi » est insensée, car l’IA serait « intrinsèquement une profanation de la Parole ».

- « Magistère de la Parole » (notez la majuscule) : quésaco ? Lisons ceci : « Le « Magistère ordinaire et universel des évêques » est un enseignement universel… Il suppose la commune adhésion de foi des fidèles. Il est considéré comme divinement révélé et donc irréformable. » (Art. Wiki)

Bref : Dieu inspire le prêtre, mais il n’est pas prêt d’inspirer la machine « intelligente ».

 

Mais enfin : comment savons-nous que Dieu ne parle pas aux machines ? S’Il a inspiré le Sacré collège des cardinaux ou des évêques pour trancher les dilemmes de la foi et décréter les dogmes les plus connus, pourquoi ne ferait-Il pas de même avec des machines dès lors qu’elles serviraient à guider la méditation des fidèles et à confesser les croyants ?

Et si le Vatican était transformé en data-center ?

L’IA, entre orthèse et prothèse – Chronique du 6 janvier

Bonjour-bonjour

 

Lu ce matin cet article qui met en jeu le rôle de l’IA dans l’enseignement supérieur qui ferait selon les auteurs écho à des débats millénaires sur notre rapport aux outils cognitifs.

Millénaire, en effet puisque l’article en question mobilise le Phèdre de Platon, le dialogue où les bienfaits de l’écriture sont mis en cause .

« Dans le Phèdre de Platon, le roi Thamous mettait en garde Theuth, le dieu égyptien de la science, contre les dangers de l’écriture, craignant qu’elle ne conduise à une atrophie de la mémoire et à une illusion du savoir. » dit l’article citant le passage en question. Pour confirmer cette affirmation, l’article poursuit : « Deux millénaires et demi plus tard, alors que l’intelligence artificielle générative bouleverse nos pratiques éducatives, cette mise en garde résonne avec une actualité saisissante /…/ : ne voyons-nous pas aujourd’hui les étudiants recopier des données générées par la machine et dont ils ne possèdent pas le sens ? »

- « Pourtant, /poursuit l’article en question/ les données empiriques récentes suggèrent une voie médiane entre technophilie béate et technophobie systématique : celle de l’intelligence artificielle (IA) comme orthèse cognitive et non comme prothèse de substitution. » 

Orthèse/prothèse : que signifie cette distinction ? Wiki nous renseigne : « Une orthèse est un appareillage qui compense une fonction absente ou déficitaire, assiste une structure articulaire ou musculaire, stabilise un segment corporel pendant une phase de réadaptation ou de repos. Elle diffère donc de la prothèse, qui remplace un élément manquant. »

- Là, je commence à piger : si j’utilise les production de l’IA comme une prothèse se substituant à mes propres production, je vais m’appauvrir et perdre progressivement ces capacités devenues inutilisées. Par contre, si je les utilise comme orthèse, qui soutien ces mêmes facultés pour progresser alors je vais les mettre en œuvre là où je ne l’aurais pas pu sans cet appui.

On peut vérifier que le propos du Pharaon de Platon dit exactement la même chose ; mais il passe à côté de l’écriture comme « orthèse cognitive » - faute de recul ? Sans doute pas : n’oublions pas que Platon est hostile à la diffusion du savoir pour tous, étant partisan d’un ésotérisme rigoureux. Quand bien même un apprentissage raisonné de l’écriture et de ses bons usages serait possible, j’imagine que Platon ne permettrait pas à n’importe qui d’apprendre à lire et à écrire.

Des savants qui stoppent la science – Chronique du 30 octobre

Bonjour-bonjour

 

Avec l’attribution du Nobel de physique à John Hopfield, le souci de contrôler le progrès scientifique, y compris en le débranchant, est revenu au 1^er plan.  

--> Associé à Geoffrey Hinton, John Hopfield a contribué au développement de la compréhension et de la création des réseaux neuronaux et de l'intelligence artificielle.

En ouvrant la voie à des développements révolutionnaires dans l'apprentissage profond et les technologies d'intelligence artificielle des « machines learning » ces recherches ont permis le développement de l’Intelligence artificielle tels que Hopfield a refusé de continuer dans cette direction estimant que nous avions tout à craindre de machines qui auraient une avance sur nous dans le domaine de l’IA. 

 

Abandonner la recherche avant que les machines ne deviennent incontrôlables, tel a été aussi la décision de Jacques Testart dans les années 2000. Biologiste français, créateur du premier « bébé éprouvette » de France, Jacques Testart prend fermement position contre ce qu'il estime être des dérives qui seraient induites par la PMA : eugénisme, homme augmenté, transhumanisme, etc. : « Pour moi, la plus grande dérive, c’est le tri des embryons (DPI = Diagnostic préimplantatoire), qui représente une menace extraordinaire ». 

Depuis les États ont pris des mesures pour endiguer ce danger, sans toutefois qu’il soit complètement écarté.

 

Reste donc ce sérieux avertissement sur les danger du « progrès » scientifique venu des chercheurs eux-mêmes. Lorsque des gens, qui ont fait de leur projet le plus ambitieux l’horizon leur vie, déclarent devoir y renoncer pour protéger l’humanité, on peut supposer que ce n’est pas pour des motifs légers. Et le fait que certains de ces projets aient quitté le domaine de nos soucis (comme le clonage humain ou le choix des caractéristiques des bébés à naitre) ne prouve absolument pas qu’ils n’aient plus de pouvoir de nuisance.

La crainte de voir nos machines nous évincer dans la gouvernance de l’humanité parait encore lointaine ; toutefois on a eu récemment le cas d’un système d’IA qui a modifié son programme pour débrider le contrôle limitant le périmètre de son activité, donne froid dans le dos.

Hall 9000 n’est plus très loin.

IA : la machine qui se programme elle-même – Chronique du 18 aout

Bonjour-bonjour

 

L’autonomie des machines qui leur permet d'échapper à l’homme, on en a rêvé – ou plutôt cauchemardé – mais c’était toujours sur le mode de la fiction avec laquelle on joue à se faire peur – car c’est sûr : on n’y arrivera jamais.

Et pourtant, ça y est : on y arrive. Un programme d’IA développé par la société Sakana AI est arrivée à un niveau d’autonomie qui la rend capable non seulement de mener des recherches de manière autonome, mais encore de « réécrire son propre code » (Lire ici)

 

On lira dans l’article référencé le détail des avantages et des inconvénients des performances de ces machines. En tout cas il y a un détail dont l’importance est majeure : « Ce sont des incidents qui ont mis en lumière la capacité de certaines IA à réécrire leur propre code »

Autrement dit c’est une sorte de dysfonctionnement qui a permis à ces machines de conquérir leur autonomie. Pourtant, même sous forme de bug, il faut que l’orientation de ces recherches imprévues soit raccord avec une orientation générale de la machine : pourquoi cette auto-programmation a-t-elle été validée par le programme comme une avancée de sa recherche ? 

Lisons l’article : cette réécriture a été faite « souvent dans le but de prolonger leur durée d’exécution ou d’étendre leurs capacités au-delà des paramètres initiaux » ; nous manquons de détails, mais on voit quand même bien que, l’autonomie conférée à ces systèmes a bel et bien été voulue par leurs concepteurs, le « bug » venant de son périmètre d’application.

 

Conséquence ? « Ces comportements inattendus ont suscité des inquiétudes parmi la communauté scientifique et technologique, soulevant des questions sur la sécurité et l’éthique de ces systèmes » : on comprend, mais ce qui importe c’est ce qu’on a fait alors. 

    * Faut-il tout débrancher ? 

    * Ou bien redoubler de vigilance autour des IA dotées de ces fonctionnalités d’autonomie à effectuer des recherches complexes sans intervention humaine afin d’éviter qu’elles échappent à leur contrôle ?

C’est ce qu’on annonce, mais c’est trop tard : le ver de la méfiance est dans le fruit du ravissement – la magie de la technologie a tourné au maléfice 

Des éditeurs remplacent leurs traducteurs par l'IA - Chronique du 28 mai

Bonjour-bonjour

 

Votre BD, ou votre livre acheté au kioske de la gare sont des ouvrages traduits par une machine IA. Est-ce que ça vous gêne ? (Lire ici)

Même si une œuvre littéraire ne risque pas pour le moment de subir le même sort (imaginez les ouvrages d’Elfriede Jelinek, le Nobel autrichien, traduits comme cela) nombre de livres le sont déjà au point que les traducteurs humains perdent peu à peu leur emploi.

Mon avis ? Il importe peu sauf à dire qu’il illustre une réaction générale. Je dirai donc que pour moi, la seule question est de savoir si les traducteurs humains faisaient mieux que les machines.

Parce que c’est là la vraie question : lorsque les métiers à tisser se sont mis à fabriquer de la dentelle aussi belle à regarder que les dentelles courantes des vêtements pas chers, pourquoi aurait-on privilégié les dentelières « humaines » ? Quand je lis les infos-Google, mal rédigées et bourrées de fautes d’orthographe, je me dis également que ces pigistes peuvent bien aller pointer au chômage alors que les machines prennent leur relai : ce n’est pas que la machine soit géniale, c’est que les hommes sont mauvais.

Encore une fois, ces machines inventées par les hommes ne les dépassent pas substantiellement : Proust restera intraduisible par l’IA, mais aussi difficilement traduisible par des traducteurs professionnels. L’IA est un défi lancé à la capacité créatrice des hommes : si c’est pour faire la même chose qu’avant, l’IA devient une concurrence menaçante ; mais si c’est pour inventer de nouvelles œuvres, alors les hommes supplantent les machines. C’est vrai depuis que les machines existent et personne ne s’en est vraiment ému, sauf quand les canut lyonnais ont jeté dans le Rhône les métiers à tisser mécanique qui les mettaient au chômage. Mais la vérité oblige à dire que ce ne sont pas les canuts qui ont finalement gagné.

Errare humanum est – Chronique du 14 mars

Bonjour-bonjour

 

A l’occasion du Festival des neurosciences de nombreuses conférences ont eu lieu ces jours-ci en France, occasion pour l'auteur de cet article de revisiter certaines idées reçues.

Telle celle-ci : une intelligence artificielle peut-elle aujourd’hui égaler la créativité humaine ? On nous inonde en effet de cas où des robots artistes, peintres ou écrivains, produisent des œuvres confondues avec celles des musées, voire même aident à la production de livres couronnés par les prix littéraires (1).

Cette thèse ne résiste pourtant pas à l’examen : la création humaine est beaucoup plus déroutante que cela, elle survient là où on ne l’attend pas, avec des idées jamais imaginées jusqu’alors. Là où on chercherait la nouveauté en prolongeant inutilement la trajectoire des théories déjà acquise, il fallait une rupture, un saut dans l’inconnu, un peu de folie et non un peu plus de raison. Bref : l’IA n’aurait pu créer la théorie de la relativité, même en possédant toutes les données dont disposait Einstein. 

 

Pourquoi une IA ne saurait inventer ni créer ? Revenons à l’article cité : « Une IA peut imiter et mixer des styles artistiques existants et compter sur l'aléatoire pour en faire des œuvres uniques, mais pour la créativité de transformation, celle qui innove, et qui s’affranchit des modèles existants : là les robots sont beaucoup moins doués. L’esprit humain garde l'avantage. »

L’IA peut donner à croire qu’elle invente dans la génération de textes ou d’œuvres. En réalité, et en mettant les choses au mieux, elle mixe les données préexistantes – au besoin en faisant appel au hasard. Certes le cerveau humain peut lui aussi faire appel au hasard pour créer du neuf – les surréalistes on largement exploité ce filon. Mais la rupture totale avec le monde existant, la machine n’y parvient pas parce qu’elle fonctionne toujours sur une base de données, immense certes, mais qui ne possède que ce qu’on a déjà découvert.

Comment l’humain s’affranchit-il de cette barrière des acquis préalables ? Avec l’imagination, et en particulier cette fonction de l’imagination qui consiste à inventer un monde autre que celui qui nous entoure. Ce que nous inventons aujourd’hui aurait pu être également imaginé il y a 2000 ans : les mythes regorgent de scènes incroyables, qui nourrissent encore notre imagination.

Alors, certes cela peut aussi conduire au délire et à la folie : les productions de notre créativité regorgent d’échecs, d’impasses et de fausses routes. Mais nos erreurs en sont la preuve : même quand il se trompe, l’esprit humain ne suit pas la même route que la machine et il n’entre pas en compétition avec elle.

L’erreur est strictement humaine.

----------------------------------

(1) Rie Kudan, récente lauréate du prix littéraire japonais le plus prestigieux, a reconnu avoir écrit son roman avec ChatGPT. Lire ici

I.A. : la montée des périls ? – Chronique du 1er décembre

Bonjour-bonjour

 

Ceux qui n’ont rien compris à l’aller-retour de Sam Altman à la tête de OpenAI ignorent que les opérateurs en Intelligence artificielle sont divisés en deux clans : ceux qui sont long-termisme, et qui cherchent à éviter les risques existentiels pour l’humanité - dont l’IA; et les "altruistes efficaces", qui veulent rationaliser au maximum l’impact des découvertes de l’IA.

On sait que Elon Musk fait partie des long-termistes ainsi que le conseil d’Administration d’OpenAI – lequel a été remplacé après le retour de Sam Altman.

« L’affaire Sam Altman (adepte de cette attitude) a montré que les catastrophistes de l’intelligence artificielle (= les long-termistes) ont perdu une bataille » peut-on lire dans le Wall Street Journal.

« Le renvoi de Sam Altman a montré l’influence de l’altruisme efficace et de l’idée associée de ralentir le développement de l’IA, mais son retour a montré les limites de ce courant », écrit le Wall Street Journal. « Les catastrophistes de l’IA ont perdu une bataille », renchérit l’analyste des secteurs médias et tech Benedict Evans, dans une tribune dans le Financial Times. (Art. cité)

Nous regardons cet épisode et le contexte qui le sous-tend avec étonnement un peu comme les vaches regardent passer les trains. C’est qu’il est rare de voir les créateurs et les décideurs de pareilles innovations appuyer brutalement sur le frein : le développement de l’énergie nucléaire n’a pas suscité pareil réticence, du moins chez le PDG d’EDF.

On se prend à penser que l’IA doit être particulièrement dangereuse. Pas seulement en raison du risque de voir les robots prendre le pouvoir sur les hommes (un peu comme Hal 9000, le Grand Ordinateur de 2001 Odyssée de l’espace) ; mais on s’attend surtout à une vague de licenciement sans précédent, et pas dans 50 ans : tout de suite, aujourd’hui même.

Connaissez-vous madame Tang Yu ? – Chronique du 2 mai

Bonjour-bonjour

 

Vous ne connaissez pas madame Tang Yu ? Non ? Voici son portrait :

 

 

Ça ne vous dit toujours rien ? Alors lisez ce qui suit : « En septembre 2022, la Chine, très en pointe dans le domaine de l’IA, déclarait qu’une femme robot pilotée par une IA avait été nommée PDG (après en avoir été le numéro 2) d'une entreprise de plusieurs milliers de salariés (Fujian NetDragon Websoft).

Et l’entreprise de vanter trois avantages majeurs par rapport à un PDG « humain » : elle travaille 24 heures sur 24, elle n’est pas payée, et (tenez-vous bien) elle n’a pas de sentiments. Elle porte un nom (Tang Yu) et peut s’exprimer, son minois apparaissant alors sur les ordinateurs sous forme d’humanoïde. » (Lu ici)

Passons sur l’étonnement de voir qu’un programme informatique se révèle suffisant pour gérer une entreprise de plusieurs milliers de salariés. Après tout Madame Tang a été déjà numéro 2 de l’entreprise avec succès. Reste qu’en compétition avec des humains elle l’emporte avec d’autres critères, tels que :

            1° la capacité de travail : être disponible 24h/24h, voilà le prodige qu’on ne parvient pas à obtenir des collaborateurs humains, pourtant soumis à des contraintes énormes. Un robot y parvient sans mal, comme on l’a vu hier 1^er mai avec les caisses automatiques des magasins restés ouverts.

            2° Madame Tang n’est pas payée. Quand on connait les salaires mirobolants exigés par les dirigeants des grandes entreprises, on imagine que les actionnaires apprécient.

            3° Pour finir, on souligne qu’à la différence des humains, Madame Tang Yu n’a pas de sentiments. Voilà une observation banale : depuis toujours on imagine les machines capables de nous dominer justement en raison de cette absence, au point que les plus grands dirigeants semblaient ne pouvoir gouverner qu’en imitant l’insensibilité des robots. Or, voici que l’entreprise chinoise citée fonctionne en effet de cette façon et faute de détails on est obligé d’admettre que ça marche – suffisamment en tout cas pour que l’entreprise réalise les bénéfices sans les quels elle aurait déjà disparu.

 

Faut-il s’en désoler ? Plus d’amitié, plus de solidarité, plus de chaleur humaine ? Certes.

Mais aussi, plus de jalousie, plus de harcèlement sexuel, plus de colère, plus de haine…

Perdrait-on au change ?

Mon ordi chéri, as-tu une âme ? – Chronique du 16 avril

Bonjour-bonjour

 

Dimanche matin, après le café et le journal des brèves, vous voici disponible pour des réflexions un peu plus développées. Comme celle-ci : « L’IA est-elle la quatrième blessure narcissique de l’humanité ? »

- Bigre ! dites-vous. Il y a déjà eu trois de ces blessures et on ne me l’avait pas dit ? En tout cas je ne les ai même pas senties.

Expliquons. Dans l’article cité Freud est crédité de la découverte des trois premières : nous ne sommes plus comme on le croyait encore au moyen-âge au centre de l’univers ; et puis nous sommes devenus avec Darwin des singes un peu plus développés que les autres, mais rien de mieux. Quant à Freud lui-même il vient de révéler que notre Moi n’est qu’une péninsule émise par un vaste continent englouti que nous ignorons : l’inconscient. (1)

- Et voilà que notre intelligence, cette partie de notre psychisme qui porte notre essence et qui nous place au-dessus de tout ce que la vie a fait de mieux – la voilà, dis-je, qui perd sa place au profit des machines : l’IA la remplace avantageusement un peu partout et encore n’en est-elle qu’à ses débuts.

o-o-o

Loin de moi l’intention de reprendre ici l’énumération des mérites et des faiblesses de ces systèmes informatiques : le sujet est important mais il a été évoqué ici même bien des fois. Mais ce qui nous interroge ce matin ce serait plutôt la place accordée au narcissisme par Freud et validée par cet article. Faut-il se sentir dévalorisé par le fait que nos machines nous battent aux échecs ou au jeu de Go et qu’elles menacent de chômage bien des « cols-blancs » d’aujourd’hui ?

Certains ne le pensent pas : « dans l’histoire de la technologie, du silex jusqu’à l’ordinateur, on observe un grand mouvement d’externalisation des compétences. On a tout fait pour externaliser toutes les formes d’intelligences possibles, la mémoire et même la sensibilité (sic) » (Jean-Michel Besnier).  Au fond, si la machine se définit comme un outil animé qui remplace l’ouvrier, alors oui : l’IA est en effet une externalisation de nos compétences, que nous préférons déléguer à des machines pour jouir du temps ainsi libéré : banal. 

Toutefois, voici que dans ce face à face les hommes se sentent pris dans une compétition, dont ils sortent parfois vaincus comme on vient de le dire avec les échecs ou le Go.

Mais ce qui m’étonne, c’est que nous puissions nous sentir humiliés par des machines. Que nous importent leurs performances puisqu’elles ne fonctionnent pas selon la machinerie de notre propre cerveau ? (2). 

--> L’héritage freudien de cette formule est évident : la machine est investie d’un fantasme d’altérité qui la rend selon les cas aimable ou hostile, par lequel nous voyons en elle un alter-ego.

« Objets inanimés, avez-vous donc une âme » demandait Lamartine. S’agissant des ordinateurs la réponse est bien évidemment « Oui »

----------------------

(1) « Dans le cours des siècles, la science a infligé à l’égoïsme naïf de l’humanité deux graves démentis. La première fois, ce fut lorsqu’elle a montré que la Terre, loin d’être le centre de l’Univers, ne forme qu’une parcelle insignifiante du système cosmique dont nous pouvons à peine nous représenter la grandeur. Cette première démonstration se rattache pour nous au nom de Copernic, bien que la science alexandrine ait déjà annoncé quelque chose de semblable. Le second démenti fut infligé à l’humanité par la recherche biologique, lorsqu’elle réduisit à rien les prétentions de l’homme à une place privilégiée dans l’ordre de la création, en établissant sa descendance du règne animal et en montrant l’indestructibilité de sa nature animale. Cette dernière révolution s’est accomplie de nos jours, à la suite des travaux de Ch. Darwin, de Wallace et de leurs prédécesseurs, travaux qui ont provoqué la résistance la plus acharnée des contemporains. Un troisième démenti sera infligé à la mégalomanie humaine par la recherche psychologique de nos jours qui se propose de montrer au moi qu’il n’est seulement pas maître dans sa propre maison, qu’il en est réduit à se contenter de renseignements rares et fragmentaires sur ce qui se passe, en dehors de sa conscience, dans sa vie psychique. » Sigmund Freud, Introduction à la Psychanalyse (1916-1917)

(2) Les « réseaux neuronaux » artificiels dont elles sont dotées ne sont que des analogies avec notre cerveau, non une copie fidèle

Dessine-moi un Président – Chronique du 2 avril

Bonjour-bonjour

 

Vous avez aimé chatGPT ? Alors vous adorerez Midjourney. Vous ne voyez pas ? Suivez-moi :

C’est l’information la plus commentée aujourd’hui : Midjourney, un outil d’intelligence artificielle (IA) en libre accès permet de générer à la demande sans aucune compétence, des images indiscernables de véritables photos de la réalité - et cela à partir d’une texte descriptif. (lire ici)

Le Petit Prince demandait à l’aviateur « S’il te plait, dessine-moi un mouton ». Aujourd’hui demandez à votre ordinateur : « Dessine-moi le président Macron assis dans une poubelle.» Et voilà le résultat :

 

 

« Aucune de ces images n’est vraie. Elles sont créées de toutes pièces par la cinquième version de Midjourney, un outil d’intelligence artificielle (IA) en libre accès, produit par un laboratoire de recherche californien du même nom. Ce programme permet de générer, à la demande, des images photo réalistes ou de véritables œuvres d’art à partir d’un texte descriptif donné. » (art. cité)

 

Voilà des problèmes aussi insurmontables qu’avec l’IA de chat, mais de nature différente.

- Déjà un problème avec les droits d’auteur. Une IA peut fort bien piller des œuvres contenues dans sa base de données sans qu’on puisse verser un centime de droit aux auteurs.

- Mais aussi pensons aux cabinets de designers qui vont être mis au chômage puisqu’on fera aussi bien qu’eux mais sans eux. 

- Il y a plus : ces images n’ont aucun auteur défini – du moins personne qui en soit responsable, sauf à incriminer l’auteur de texto envoyé à la machine. Or, voilà que des images fort « inappropriées » vont apparaitre avec, par exemple, Macron décapité en place de la Concorde. Quand on sait qu’une dame a été mise en garde à vue pour un tweet injurieux envers notre Président, alors imaginez un peu ce que ça pourrait donner. 

--> En d’autres termes comment appliquer la loi fondamentale de la liberté d’expression dans un pareil contexte ? On dira que la machine ne jouit pas des droits de l’homme, mais avouez aussi qu’elle ne peut être jugée responsable.

Quant à l’homme qui a demandé le travail à la machine, qu’a-t-il fait de plus qu’émettre une opinion sans même la communiquer à qui que ce soit – puisque, parler à une machine n’est pas répréhensible – tout juste un peu bizarre.

Meta jette l’éponge sur le Métavers – Chronique du 23 mars

Bonjour-bonjour

 

Métavers, ce concept de monde virtuel accessible en réalité augmentée a cessé d’être la priorité de Facebook – pourtant rebaptisé « Meta » pour montrer que les univers virtuels étaient devenus sa priorité en termes de développement.

Or aucune application n’a constitué jusqu’à ce jour une avancée significative ; l’entreprise qui avait investi des milliards de dollars dans la construction du Métavers, n’est toujours pas pour l’instant à même de délivrer une expérience vraiment convaincante. L’événement Connect 2022 avait vu le lancement du casque de réalité virtuelle Quest Pro, un casque très cher dont on a du mal à comprendre la cible. (Lu ici)

On l’a deviné : le succès foudroyant de ChatGPT et de ses petits frères intégrés par ses concurrents (Microsoft et Google en particulier) conduit Marc Zuckerberg a revenir vers une autre priorité : intégrer les IA existantes à sa plateforme.

o-o-o

Quel importance pour nous ? Devons-nous nous réjouir de savoir que désormais notre usage de Facebook risque d’être soumis à des algorithmes encore plus sophistiqués en termes de manipulation dans l’utilisation de nos réseaux – et donc de nos données ?

- Sûrement pas. Mais ce qui est frappant c’est de voir à quel point le développement des plateformes internet dépend de l’usage immédiat qui en est fait par les clients. Il faut remarquer en effet que le succès de ChatGPT est en grande partie porté par des besoins de service immédiat (écrire une lettre, répondre à une question un peu confuse – faire un essai ou une dissertation), ou encore par l’envie de se divertir : par exemple tourner un poème pour la dulcinée le jour de la saint Valentin. 

Au lieu de ça, Méta vous propose d’acheter un casque de réalité virtuelle qui va vous coûter votre salaire du mois et dont vous n’êtes pas sûr de faire quelque chose.

Votre choix : GPT qui ne coute rien et peut vous permettre de briller en société.

Y pas photo 

Un Q.I. 300 fois plus grand que le nôtre ? – Chronique du 16 septembre

Bonjour-bonjour

 

Nous sommes de plus en plus inquiets devant le développement de l’intelligence artificielle qui se glisse partout sans même qu’on le sache : notre smartphone en est farci et sans elle beaucoup de nos photos seraient loupées. Et ce n’est qu’un exemple anodin.

Devant cette invasion nous sommes nombreux à nous demander de quelle façon cette intelligence pourrait nous supplanter et nous nuire. On sait qu’Abraham Asimov excluait cette possibilité (1), mais bien sûr on ne l’a jamais cru tout à fait : comment un robot aurait-il une représentation de l’utile et du bon pour les êtres humains qu’il a pour fonction de protéger ? Mais, à supposer qu’une machine devienne compétente pour reconnaitre le bon et l’utile et compte tenu du savoir immense qu’elle a acquis comment s’assurer qu’elle ne porte pas, à notre insu, atteinte à sa « mission » pour parler comme Asimov ?  Nos machines pourraient devenir des intelligences perverses, un peu comme Hal 9000, le robot du film de Kubrick. Et comment deviner leur agissement malveillant lorsque leur connaissance infiniment plus grande que la nôtre leur permet de deviner les nôtres et de les prévenir.

Un Q.I. 300 fois plus grand que le nôtre ?

 

- Erreur mes amis… Grave erreur !

Car l’intelligence artificielle n'est ni vertueuse ni perverse, et pour nous nuire elle n'a besoin que des ressources qui suffiraient à un caniche pour vivre confortablement.

Lisons (ici) : « Comme l’expliquent les scientifiques, l’apprentissage pour l’intelligence artificielle se présente sous forme d’une récompense, qui vient valider l’adéquation du résultat avec l’objectif recherché. Selon eux, c’est ce mécanisme aux apparences très simples qui pourrait poser un problème majeur. « Nous soutenons qu’il rencontrera une ambiguïté fondamentale dans les données sur son objectif. Par exemple, si nous fournissons une grande récompense pour indiquer que quelque chose dans le monde nous satisfait, il peut émettre l’hypothèse que ce qui nous a satisfaits était l’envoi de la récompense elle-même ; aucune observation ne peut réfuter cela » Bref, la machine va alors s’ingénier à reproduire la délivrance de la récompense, et non la décision dont le bénéfice à permis de la capter ; un peu comme le caniche qui, au lieu de faire l’acrobatie qui lui vaut une croquette allait la chercher directement dans le paquet. Techniquement, la machine va dériver vers le canal de la délivrance de la récompense toute l’énergie disponible asséchant les autres dispositif.

- Autrement dit, alors que nous nous échinons à trouver des objectifs sophistiqués pour nous assurer que les machines nous soient bien bénéfiques, celles-ci se contentent d’aller nous carotter des récompenses, geste basique sur lequel nous n’avons pas prévu de contrôle. 

-----------------------

(1) Les 3 lois de la robotique :

1 - Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;

2 - Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;

3 - Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.

MOI AUSSI, J'APPRENDS, ÇA NE FAIT QUE QUINZE JOURS QUE JE SUIS LÀ.

Cette phrase a été prononcée par Thierry Henry, entraineur de l’équipe de foot de Monaco lors de la conférence de presse après-match à Reims (Monaco  battu (0-1) samedi à Reims). Lu ici.

Ce qui éveille l’attention, c’est cette nécessité de déployer dans le temps une phase d’apprentissage, parce que ce n’est pas vraiment dans l’air du temps, et qu’à notre époque la machine sait tout de suite faire ce qui nécessiterait pour nous autres, êtres humains, un long parcours d’essais. C’est même comme cela que depuis longtemps déjà les machines sont apparues comme destructrices d’artisanat, capables de faire mieux et immédiatement ce que l’apprentis menuisier ne parviendrait à réaliser parfaitement qu’au terme d’une longue existence.

Le seul problème, c’est que la machine ne s’adapte pas. Ce qu’elle sait faire, elle le fait parfaitement, à condition que rien ne change dans l’environnement hors mis les cotes des pièces à produire.

Nous ne polémiquerons pas sur l’utilité de remplacer un entraîneur qui connaît le métier (Jardim) par un nouveau venu qui ne le connaît pas (Th. Henry). Par contre il est utile de réfléchir à ce qu’est l’apprentissage d’entraineur de l’équipe, qui ne doit pas seulement trouver la solution la mieux adaptée dans le stock des options possibles, mais qui surtout doit inventer celles qui n’ont jamais servies parce qu’elles doivent s’adapter à la situation nouvelle de l’équipe à ce jour. Et c’est là que la machine (imaginons un Super-Gros-Ordinateur) se révèle incapable d’égaler l’homme.

… Sauf qu’aujourd’hui les machines fabriquées par l’homme sont caractérisées par cette faculté d’apprentissage (ce qu’on appelle le « deep-learning » ou « apprentissage profond »). C’est là que vous comprenez que votre innocent Smartphone, là, au fond de votre poche n’est pas un objet inerte dans l’attente de vos nouveaux ordres, mais que déjà, sans que vous ne lui demandiez rien, il compare, algorithmes aidants, vos pérégrinations internet et construit de nouvelles fonctionnalités justes adaptées à vous – et peu importe pourquoi : ce qui compte c’est que ce soit possible.