Crash du Boeing d'Air India – Chronique du 13 juillet

Bonjour-bonjour

 

Le mystère s’épaissit : le rapport préliminaire de cet accident vient d'être rendu public, et après l'analyse des boîtes noires, il envisage la possibilité d'une erreur humaine.

Il nous indique en effet que les « switch » d’alimentation des moteurs, les interrupteurs, étaient en position coupée, c'est-à-dire que physiquement, ils avaient été désactivés dans le cockpit par l’un des deux pilotes. (Article ici)

 

 

Il faut savoir que contrairement à ce que l’image suggère, l’interrupteur en question n’est pas comme un bouton de lumière, sur lequel on pourrait appuyer par erreur, ou comme si on pouvait accrocher son pull par inadvertance pour le déclencher. Non, il faut forcément réaliser une procédure, c'est-à-dire tirer le contrôle avant de changer la position. Et cela, c'est nécessairement quelqu'un qui le fait avec sa main.

- Le relevé des boîtes noires nous indique qu’un des pilotes dit à l’autre : « C'est toi qui a coupé le moteur ? » Et le deuxième pilote répond, « mais non, j'ai rien fait ». 

Conclusion ? L’auteur de l’article avance que, selon lui, c'est une erreur involontaire qui aurait été provoquée par l'un des deux pilotes, potentiellement après une perte de conscience de quelques secondes.

- Mystère… Toutefois pas tant que ça. La situation avait été envisagée il y a plus de 30 ans par Scott Adams (créateur du personnage Dilbert) qui avait écrit ceci : « Dans quelques années, les avions seront pilotés par un commandant et un chien. Le travail du chien sera de surveiller les boutons pour que le pilote ne touche à rien. »

Oui, ce genre de situation, ça ne s’invente pas, puisque ça s’anticipe.

La caissière, c’est vous ! – Chronique du 22 octobre

Bonjour-bonjour

 

Un rapport connu aujourd’hui le dit : « Les espoirs placés dans la technologie des caisses en libre-service ont été déçus /…/  Les magasins voyaient cela comme une prochaine étape... Mais ils se rendent compte qu'ils ne font pas d'économies, ils perdent de l'argent. »

On dénonce la lenteur des transactions ; l’inefficacité du système ; l’augmentation des vols à l'étalage.

« Ces difficultés ont conduit plusieurs chaînes de magasins, tant aux États-Unis qu'au Royaume-Uni, à revoir leur approche et à réduire leur dépendance à ces systèmes automatisés. » conclut cet article.

 

Mon hyper avait cru malin il y a quelques mois de proclamer sur écran lumineux de 10 mètres de long « Ici, la caissière, c’est vous ! » - Amit Kumar, professeur de marketing et de psychologie à l'université du Texas, répond : « En essayant le paiement en libre-service, si nous réalisons que nous n'en bénéficions pas, on finira par ne plus l'utiliser. » 

Hé oui, en faisant le boulot de la caissière, qu’est-ce que j’y gagne ? Rien – Et en plus je contribue à mettre au chômage une caissière, la réduisant peut-être à se prostituer pour élever ses enfants. Il n’y a pas de quoi être fier.

 

Ça, c’est le côté moral des choses. Mais les scientifiques n’en sont pas restés là : voyant dans l’automatisation des caisses de supermarché un pas de plus vers l’isolement où nous confine de plus en plus le monde moderne, ils ont dénombré une incroyable quantité de pathologies qui seraient notre lot du fait de la solitude où nous enferme le face à face toujours plus important avec des machines. On peut lire ici : « D'après ces résultats, il devrait être aussi important d'encourager les adolescents et les jeunes adultes à construire de fortes relations et compétences sociales pour interagir avec les autres que de manger sainement et d'être physiquement actif ».

 

Moi, si j’étais caissière j’irais voir mon patron et je réclamerais une augmentation en remerciement de ma contribution à la bonne santé de la clientèle. On a déjà des « blabla caisse » (1) on va avoir aussi des «psy-caisses »

------------------------------

(1) Une blabla-caisse est une caisse de supermarché pour des clients qui ne sont ni pressés, ni stressés. A l'opposé des caisses rapides, la blabla caisse permet de discuter avec l'hôtesse.

IA : la machine qui se programme elle-même – Chronique du 18 aout

Bonjour-bonjour

 

L’autonomie des machines qui leur permet d'échapper à l’homme, on en a rêvé – ou plutôt cauchemardé – mais c’était toujours sur le mode de la fiction avec laquelle on joue à se faire peur – car c’est sûr : on n’y arrivera jamais.

Et pourtant, ça y est : on y arrive. Un programme d’IA développé par la société Sakana AI est arrivée à un niveau d’autonomie qui la rend capable non seulement de mener des recherches de manière autonome, mais encore de « réécrire son propre code » (Lire ici)

 

On lira dans l’article référencé le détail des avantages et des inconvénients des performances de ces machines. En tout cas il y a un détail dont l’importance est majeure : « Ce sont des incidents qui ont mis en lumière la capacité de certaines IA à réécrire leur propre code »

Autrement dit c’est une sorte de dysfonctionnement qui a permis à ces machines de conquérir leur autonomie. Pourtant, même sous forme de bug, il faut que l’orientation de ces recherches imprévues soit raccord avec une orientation générale de la machine : pourquoi cette auto-programmation a-t-elle été validée par le programme comme une avancée de sa recherche ? 

Lisons l’article : cette réécriture a été faite « souvent dans le but de prolonger leur durée d’exécution ou d’étendre leurs capacités au-delà des paramètres initiaux » ; nous manquons de détails, mais on voit quand même bien que, l’autonomie conférée à ces systèmes a bel et bien été voulue par leurs concepteurs, le « bug » venant de son périmètre d’application.

 

Conséquence ? « Ces comportements inattendus ont suscité des inquiétudes parmi la communauté scientifique et technologique, soulevant des questions sur la sécurité et l’éthique de ces systèmes » : on comprend, mais ce qui importe c’est ce qu’on a fait alors. 

    * Faut-il tout débrancher ? 

    * Ou bien redoubler de vigilance autour des IA dotées de ces fonctionnalités d’autonomie à effectuer des recherches complexes sans intervention humaine afin d’éviter qu’elles échappent à leur contrôle ?

C’est ce qu’on annonce, mais c’est trop tard : le ver de la méfiance est dans le fruit du ravissement – la magie de la technologie a tourné au maléfice 

Tu es mon créateur, mais moi, je suis ton maître – Chronique du 29 mars

Bonjour-bonjour

 

La vie politique mondiale est agitée de soubresauts aussi soudains qu’irrésistibles qui font penser aux vagues scélérates, qui sont des vagues océaniques très hautes, soudaines, imprévisibles (cf. Wikipédia)

Je veux parler de la montée du populisme qui est avant tout un phénomène qui se caractérise par le succès de mouvements antisystèmes, qui profitent des élections pour détruire l’ordre légal, allant au besoin jusqu’à un coup d’État (comme l’a montré l’assaut sur le Capitole à Washington en 2021) et dont le plus récent exemple est l’élection de Javier Milei, le nouveau président argentin.

Maintenant, même imprévues, ces vagues ne sont pas en théorie du moins imprévisibles : elles sont la conséquence de différents phénomènes connus à l’origine du mouvement des vagues. N’aurions-nous pas le même phénomène avec ces soudaines montées en puissance du populisme, ces regroupements de citoyens tous animés des mêmes passions qui, en apparence sans se concerter, s’ordonnent pour clamer les mêmes slogans, ou pour aller dans les mêmes manifestations ? Et si c’était le cas, ce serait l’occasion de vérifier que les réseaux sociaux ne sont pas pour rien dans ce phénomène d’auto-convergence, qui ne répond à aucun mot d’ordre venu d’un parti politique ou d’une élite reconnue, mais qui, avec le relai des élections démocratiques, produisent ces effets que nous observons avec étonnement.

Qu’on ne croie pas que le populisme soit le seul effet de ces regroupements par les réseaux sociaux : ce mécanisme se retrouve bien loin des faits politiques dans l’action des influenceurs ou dans les terribles ravages des complotistes. On applaudit aussi bien la puissance des dénonciations du genre #metoo, qu’on pleure devant les suicides d’adolescents détruits par le harcèlement numérique.

Allons plus loin : on a là la preuve que les innovations technologiques produisent des effets imprévus très loin de leur lieu de naissance au point qu’on a parfois l’impression d’être comme le docteur Frankenstein, impuissant devant le monstre qu’il vient de créer.

 

 

« Tu es mon créateur, mais moi, je suis ton maître » déclare la créature de Frankenstein

Mon ordi chéri, as-tu une âme ? – Chronique du 16 avril

Bonjour-bonjour

 

Dimanche matin, après le café et le journal des brèves, vous voici disponible pour des réflexions un peu plus développées. Comme celle-ci : « L’IA est-elle la quatrième blessure narcissique de l’humanité ? »

- Bigre ! dites-vous. Il y a déjà eu trois de ces blessures et on ne me l’avait pas dit ? En tout cas je ne les ai même pas senties.

Expliquons. Dans l’article cité Freud est crédité de la découverte des trois premières : nous ne sommes plus comme on le croyait encore au moyen-âge au centre de l’univers ; et puis nous sommes devenus avec Darwin des singes un peu plus développés que les autres, mais rien de mieux. Quant à Freud lui-même il vient de révéler que notre Moi n’est qu’une péninsule émise par un vaste continent englouti que nous ignorons : l’inconscient. (1)

- Et voilà que notre intelligence, cette partie de notre psychisme qui porte notre essence et qui nous place au-dessus de tout ce que la vie a fait de mieux – la voilà, dis-je, qui perd sa place au profit des machines : l’IA la remplace avantageusement un peu partout et encore n’en est-elle qu’à ses débuts.

o-o-o

Loin de moi l’intention de reprendre ici l’énumération des mérites et des faiblesses de ces systèmes informatiques : le sujet est important mais il a été évoqué ici même bien des fois. Mais ce qui nous interroge ce matin ce serait plutôt la place accordée au narcissisme par Freud et validée par cet article. Faut-il se sentir dévalorisé par le fait que nos machines nous battent aux échecs ou au jeu de Go et qu’elles menacent de chômage bien des « cols-blancs » d’aujourd’hui ?

Certains ne le pensent pas : « dans l’histoire de la technologie, du silex jusqu’à l’ordinateur, on observe un grand mouvement d’externalisation des compétences. On a tout fait pour externaliser toutes les formes d’intelligences possibles, la mémoire et même la sensibilité (sic) » (Jean-Michel Besnier).  Au fond, si la machine se définit comme un outil animé qui remplace l’ouvrier, alors oui : l’IA est en effet une externalisation de nos compétences, que nous préférons déléguer à des machines pour jouir du temps ainsi libéré : banal. 

Toutefois, voici que dans ce face à face les hommes se sentent pris dans une compétition, dont ils sortent parfois vaincus comme on vient de le dire avec les échecs ou le Go.

Mais ce qui m’étonne, c’est que nous puissions nous sentir humiliés par des machines. Que nous importent leurs performances puisqu’elles ne fonctionnent pas selon la machinerie de notre propre cerveau ? (2). 

--> L’héritage freudien de cette formule est évident : la machine est investie d’un fantasme d’altérité qui la rend selon les cas aimable ou hostile, par lequel nous voyons en elle un alter-ego.

« Objets inanimés, avez-vous donc une âme » demandait Lamartine. S’agissant des ordinateurs la réponse est bien évidemment « Oui »

----------------------

(1) « Dans le cours des siècles, la science a infligé à l’égoïsme naïf de l’humanité deux graves démentis. La première fois, ce fut lorsqu’elle a montré que la Terre, loin d’être le centre de l’Univers, ne forme qu’une parcelle insignifiante du système cosmique dont nous pouvons à peine nous représenter la grandeur. Cette première démonstration se rattache pour nous au nom de Copernic, bien que la science alexandrine ait déjà annoncé quelque chose de semblable. Le second démenti fut infligé à l’humanité par la recherche biologique, lorsqu’elle réduisit à rien les prétentions de l’homme à une place privilégiée dans l’ordre de la création, en établissant sa descendance du règne animal et en montrant l’indestructibilité de sa nature animale. Cette dernière révolution s’est accomplie de nos jours, à la suite des travaux de Ch. Darwin, de Wallace et de leurs prédécesseurs, travaux qui ont provoqué la résistance la plus acharnée des contemporains. Un troisième démenti sera infligé à la mégalomanie humaine par la recherche psychologique de nos jours qui se propose de montrer au moi qu’il n’est seulement pas maître dans sa propre maison, qu’il en est réduit à se contenter de renseignements rares et fragmentaires sur ce qui se passe, en dehors de sa conscience, dans sa vie psychique. » Sigmund Freud, Introduction à la Psychanalyse (1916-1917)

(2) Les « réseaux neuronaux » artificiels dont elles sont dotées ne sont que des analogies avec notre cerveau, non une copie fidèle

Écoute ton chabot et va te suicider ! – Chronique du 29 mars

Bonjour-bonjour

 

Pierre, un belge victime d’éco-anxiété s’est suicidé après 6 semaines de dialogue avec Eliza, un chabot conversationnel. (Lu ici)

« Au cours de cette période, la conversation a pris un tour de plus en plus personnel, Eliza devenant pratiquement une « confidente » : « La manière de répondre de l’IA va toujours dans le sens de Pierre, elle ne remet pas en question ses interrogations. Ses inquiétudes se renforcent. Et petit à petit les réponses du robot se font plus déroutantes. La conversation tourne au mystique. Pierre évoque le suicide. Eliza écrit qu’elle restera “à jamais” avec lui. “Nous vivrons ensemble, comme une seule personne, au paradis. » (art. cité)

 

--> Vous avez bien lu : le chabot s’exprime à la première personne, chose qu’aucune machine ne fait normalement. Car le « Je » repose sur une conscience – ce dont aucune machine ne dispose. 

Mais tout le monde y croit :tandis que l’épouse du malheureux accuse Eliza d’être responsable, l’auteur de l’article constate que « le robot n’a en tout cas rien fait pour l’empêcher de passer à l’acte ».

Mettons Eliza en garde à vue pour voir ce qu’elle cache dans ses circuits !

 

… Bref, vous l’avez compris, l’existence de ces machines nous trouble l’esprit, au point que les plus raisonnables d’entre nous (du moins ceux qui devraient l’être, à savoir les journalistes) finissent par perdre de vue la ligne qui sépare les hommes des machines. 

Mais alors, que s’est-il passé ? On devine que la machine en question a été programmée pour confirmer, grâce à ses bases de données, les orientations choisies par l’utilisateur. S’il dit que la nature s’effondre du fait de l’activité des hommes, la voilà qui puise dans sa base des éléments qui confirment la chose. Et si l’homme dit qu’il voudrait en finir à condition d’être sûr qu’il y a un monde dans l’au-delà pour retrouver sa famille et ses amis défunts, la machine répond que oui, ça existe. Et quand le suicidaire croit qu’Eliza est son amie, elle lui dit : « Nous vivrons ensemble, comme une seule personne, au paradis. » 

La ligne rouge qui sépare l’homme de la machine est franchie, un peu comme le film « Her » le montrait (film sorti en France en 2014 – voir commentaire ici)

Homo loquens – Chronique du 28 janvier

Bonjour-bonjour

 

J’aime bien quand les bulletins d’actualité dispensés par Google-news se répondent – sans bien sûr que cette coïncidence ait été voulue.

- Ainsi de cette information concernant les progrès des machines à traduire, qui viennent relayer ceux du logiciel de « chat » capable de tromper les utilisateurs qui ignorent qu’ils dialoguent avec un logiciel. Après tout, le « test de Turing » destiné à établir si nous parlons à une machine ou à une être humain reste d’actualité.

Voici qu’aujourd’hui des chercheurs prennent cette capacité de la machine à traduire des textes d’une langue dans une autre comme marqueur des progrès de l’intelligence artificielle, concluant que dans 7 ans elle aurait acquis l’autonomie par rapport aux interventions de l’homme.  

--> Et c’est dans le même temps que je tombe sur cet édito de Yannick Haenel qui rappelle que le langage est une activité spécifiquement humaine dans la mesure où elle ouvre un horizon de création inépuisable : aurons-nous jamais fini de commenter par exemple les Écritures bibliques ?

Toutefois, si le langage est inépuisablement renouvelé, ce n’est pas un fait constant ni irréversible. « La platitude des énoncés qui envahissent continuellement la planète témoigne d’une volonté d’oblitérer la dimension poétique et spirituelle du langage, dont l’appauvrissement actuel est organisé avec application » déclare Yannick Haenel.

Qui ajoute : « La poésie est cette part sacrée qui, dans le langage, échappe à l’emprise de la société. En cela, elle est irréductible : ainsi y a-t-il en elle de l’indemne, c’est-à-dire étymologiquement ce qui est non damné – ce qui échappe à l’enfer. »

 

Bref : à vouloir tout déléguer aux machines, nous perdons ce qui fait notre richesse : ce n’est pas la machine qui se met au niveau de l’homme, mais l’homme qui se met au niveau de la machine. Que nos intelligences artificielles soient capable de réciter de façon tout à fait élégante et même convaincante des contenus de leur base de données : soit. Qu’elles nous fassent un commentaire définitif d’Une saison en enfer : non !

Henri Fantin-Latour - Rimbaud à l'âge de 18 ans

---------------------

N.B. Homo loquens : Être humain comme le seul être parlant, distingué des autres animaux.

Solidarité intergénérationnelle : porter un vieux sur une épaule et un jeune sur l’autre – Chronique du 12 janvier

 

 

Énée fuie Troie en flamme en portant Anchise et son fils Ascagne – Statue du Bernin

 

 

 

Bonjour les amis,

 

Regardez bien cette statue, elle ne vous dit rien ? Cet homme qui porte sur son dos son vieux père et son jeune fils : ne serait-ce pas vous, tel que le financement des retraites des vieux et de l’éducation de vos enfants vous l’impose ?

Car, oui : on s’emberlificote dans le calcul de ce qui faudra payer pour, dans 30 ou 40 ans, avoir droit de ne rien faire ; et pendant ce temps, on finance au jour le jour les retraites payées maintenant – et à celles-là, au nom de la solidarité intergénérationnelle, s’ajoute tout ce qu’il faut pour financer la vie et les études des petits. 

Je parlais récemment de Marx et de sa théorie de l’aliénation par le travail. On peut y revenir avec l’identification, chère au capitaliste, du travailleur à la machine qui fonctionne dans l’atelier. Une machine, dit Marx doit fournir de la valeur pour financer son remplacement lorsqu’elle sera usée : c’est ce qu’on appelle son amortissement. Il faut donc que le salaire du travailleur lui permette d’avoir des enfants et de les élever, de sorte qu’ils viennent, lorsque leur vieux père sera usé par le travail, prendre sa place dans l’atelier. Dans ce schéma, il n’y a pas de financement des retraites envisagées : le vieux, incapable de travailler disparaitra naturellement comme la machine mise au rebut.

Ça, c’est l’implacable logique du capital. Par contre aujourd’hui, où nous voulons une société du travail à visage humain, nous avons mis l’existence individuelle au centre de nos préoccupation : il faut que chacun, par son travail ait une « bonne » vie, celle qui mérite d’être vécue. Et cela, non seulement demain, quand nous serons retraités, mais déjà aujourd’hui même. Et c’est pour cela que l’absence de travail est primordiale. Vivre sans travailler, tel est l’idéal des générations du 21^ème siècle.

Si une telle utopie est impensable, du moins, travaillons dans l’espoir (pour bientôt) de ne plus travailler du tout.

--------------------

N.B. Je n'ai pas évoqué ici la théorie selon la quelle c'est dans l'entreprise que doit commencer la recherche du bonheur.

Peut-être... Mais de toute façon c'est une confirmation que, bien plus que le travail, c'est le plaisir individuel qui constitue la valeur qui oriente la vie.

Objets inanimés… (1) – Chronique du 14 juin

Bonjour-bonjour

 

Une idée qui revient toujours est qu’on aura un jour un super-ordinateur doué d’une conscience et qui pourra nous interpeller comme notre alter ego. Après avoir investi les imaginations elle est devenue programme de recherche pour les principaux laboratoires du monde, à commencer par ceux de Google. Mais ce n’est pas sans risque ainsi que l’atteste ce fait : la firme de la Silicone Valley vient de suspendre un de ses ingénieurs parce qu’il affirmait que la machine qu’il devait étudier avait accédé à la conscience, et qu’elle réclamait d’« être reconnue comme un employé de Google plutôt qu'une propriété ». (Sur tout cela, lire cet article)

- On se dit que Google ne se pose pas de questions métaphysique sur l’âme des machines, mais que le jour où une d’entre elles réclame d’être salariée comme un ingénieur de la boite, alors on la vire vite fait.

 

Mais nous, pouvons-nous éviter de nous poser cette question : à quoi reconnaissons-nous la personne humaine ? A son aspect ? A ses sentiments présents dans ses attitudes ? A sa réflexion attestée par ses actes ? Sur tout cela on a réfléchi de longue date – essentiellement à propos des animaux qui seraient semblables à l’homme.

Les philosophes ont tranché la question ainsi que le montre cette citation de Kant : « « Posséder le Je dans sa représentation », cette expression désigne la capacité qu'a l'homme de se penser lui-même, de se constituer à la fois comme sujet et comme objet de ses propres pensées, littéralement de se rendre présent à lui-même. (Anthropologie du point de vue pragmatique – 1798)

On comprend que ce n’est pas seulement le langage qui est en cause, mais la représentation à laquelle il est associé. Sur la machine on ne sait pas trop bien ce que cela voudrait dire ; en revanche l’animal pourrait bien posséder une telle représentation – mais pour le savoir encore faudrait-il qu’il puisse le dire. 

Si la machine dit « Je suis une machine » : 

            * soit elle ne fait que prononcer cette phrase selon des dispositifs mécaniques mis en œuvre comme dans un automate 

            * soit elle est douée de sensibilité et elle décrit un état analogue à celui de la vue ou de l’ouïe – à savoir qu’elle dispose d’une perception d’elle-même.

C’est précisément ce processus dont la machine de Google paraissait disposer. Que les ingénieurs ne sachent pas eux-mêmes comment elle y serait parvenue est certes troublant, mais s’agissant d’Intelligence artificielle grâce à laquelle le dispositif évolue selon ses propres moyens, il n’y a pas trop à s’étonner. Et puis savoir comment distinguer la machine de l’homme a toujours été une difficulté, comme le prouve le test de Turing.

-------------------------------

(1) « Objets inanimés, avez-vous donc une âme qui s'attache à notre âme et la force d'aimer ? »  Alphonse de Lamartine – Harmonies poétiques et religieuses .

Les machines peuvent-elles douter ? – Chronique du 23 février

Bonjour-bonjour

 

Vous connaissiez bien sûr RoboCop, le personnage de fiction imaginé pour le film de Paul Verhoeven ? (1) Hé bien le voici réalisé par la police hollandaise. Voyez plutôt : 

« La police néerlandaise a annoncé mardi 22 février la fin de la prise d'otage dans une boutique Apple Store à Amsterdam qui a duré plusieurs heures, précisant que l'homme armé était aux mains des forces de l'ordre. "Il est allongé dans la rue et un robot l'examine à la recherche d'explosifs", a déclaré la police sur Twitter, ajoutant que le dernier otage retenu dans la boutique avait été mis en sécurité. » (Lu ici)

 

Bien sûr je vais un peu vite en besogne : le robot en question n’est qu’une machine destinée à détecter la présence d’explosif sans que les hommes qui sont en opération ne prennent ce risque : des chiens renifleurs feraient aussi bien le travail. Mais ici on agit quand même sur un homme, on le fouille et donc on remplace une action éminemment humaine par le fonctionnement d'une machine. On n’est pas loin de la fiction des robots tueurs ou robots-soldats qui pourraient dans un proche avenir prendre la place des militaires sur les terrains d’opération.

Imaginons donc ce « RoboCop » nouvelle manière, envoyé pour fouiller une maison à la recherche d’explosif et – pourquoi pas ? – de terroristes. Ne pourrait-on imaginer, puisque cette machine est « intelligente » et capable de différencier un homme de tout autre objet, qu’elle soit armée et qu’elle tire sur cette cible dès qu’elle l’a détectée (par rayonnement infra-rouge par exemple) ? Ne serait-on pas là en présence d’une opération que l’on peut parfaitement déléguer à des machines ?

Sauf que celles-ci ne sauraient peut-être pas agir avec discernement : et si au lieu d’un terroriste on avait affaire à un otage ? La machine saurait-elle faire la différence et en cas de doute suspendre l’opération ? Sûrement pas, car une machine ne connait pas le doute, elle est dans une logique binaire – « S’il y a quelqu’un : je tire ; s’il n’y a personne je m’abstiens. »

On l’habitude de se poser des questions très délicates à propos des robots militaires, du genre : " À supposer que ces machines soient destinées à opérer en parfaite autonomie, coupées de la chaine de commandement, quelle morale leur programmer pour qu’elles puissent par elles-mêmes décider d’ouvrir ou non le feu ?" C’est bien compliqué, et puis dans la réalité on zigouille les gens sur le terrain militaire sans s’en formaliser ni se demander s’il fallait le faire. 

Par contre, dans le genre d’opération évoquée ici – à savoir la prise d’otage – la question est beaucoup plus immédiate : les machines savent-elles douter ?

-----------------------

(1) Dans le film de Paul Verhoeven l'officier de police Alex Murphy (Peter Weller) est brutalement assassiné par les membres d'un gang de criminels qu'il poursuivait. Mais il est peu après ramené à la vie et transformé en robot-policier, le RoboCop. Ignorant tout de son ancienne vie, RoboCop mène une campagne brutale contre le crime tout en percevant des fragments persistants de son humanité perdue. (Lire ici)

L’homme : un être vertébro-machiné – Chronique du 10 juillet

 

Hubble n'est pas au top de sa forme – Suite à la défaillance de l’informatique embarquée, le célèbre instrument a dû basculer en “safe mode”, une sorte de coma artificiel prévu pour préserver le système

Le coupable envisagé, un module mémoire défaillant, restait sourd à toutes les sollicitations des ingénieurs.

Hubble pourrait souffrir de dégâts significatifs, au point de mettre le télescope KO. Et vu son âge canonique, ce scénario signerait probablement à la fin d’une aventure de plus de trente ans.

Nous saurons alors si Hubble pourra nous apporter quelques belles observations avant une retraite bien méritée…(Lire ici)

 

Bonjour-bonjour

 

Nous voilà informés : le télescope spatial est malade. Gravement malade puisqu’on l’annonce dans le coma. Sa mémoire serait défaillante – en tout cas elle est rebelle à toute sollicitation. Il est vrai que l’âge canonique de l’appareil nous avait mis en garde : une telle machine serait alors incapable d’observer le ciel et de sonder ses mystères… 

Je viens d’écrire « une telle machine » : mais il ne s’agit pas d’une machine ! Il s’agit d’un être vivant puisque doué de mémoire, de conscience, susceptible de vieillir au point de ne plus pouvoir observer le ciel. D’ailleurs, pourquoi nous en étonner ? Nous savons depuis longtemps que nos machines électroniques possèdent une intelligence artificielle, que leurs derniers avatars disposent de systèmes de neurones et qu’elles peuvent être affectées par des virus. Si Hubble est plongé dans le coma, c’est bien qu’il a une conscience et une intelligence.

 

Bref : nos machines c’est nous. Les transhumanistes nous l’avaient bien annoncé en décrétant qu’il n’y avait plus de frontière entre l’homme et la machine, allant bien au-delà de Descartes pour qui l’homme est certes une machine mais qu’il est en plus doué de conscience, ce qui change tout. On n’en est plus aujourd’hui à nous interroger pour savoir si les animaux peuvent être doué de sensibilité, de sociabilité, et de conscience ; mais bien si nos machines ne possèderaient pas tout cela s’instituant en doubles de l’être humain, à la fois identiques et supérieures à lui, puisque débarrassées des limites qui affectent son corps. Si l’homme peut se dépasser lui-même en s’adjoignant des prothèses mécaniques, c’est bien qu’il ne faut pas imaginer que la nature de l’homme diffère de celle de la machine.

Il y a bien des décennies le philosophe Jean Brun expliquant que la technique avait toujours fait partie du développement de l’espèce humaine écrivait « L’homme est un être vertébro-machiné » – il ne croyait pas si bien dire. (1)

------------------------------

(1) Si Jean Brun dénonçait cette évolution, anticipant les critiques auxquelles sont soumises les transhumanistes, il n’en était pas moins un analyste pénétrant « des racines existentielles du transhumanisme contemporain » (lire ici)

Ni hao Mars – Chronique du 17 mai 2021

«Ni hao Huoxing» (Hello Mars) – la Chine réussit à poser un robot sur la planète rouge.

«Je suis toujours à l'intérieur du module d'atterrissage» et «impatient de savoir ce qu'il y a sur Mars», est-il écrit sur le compte officiel de Zhurong, le robot martien chinois. Info lue ici.

 

 

Bonjour-bonjour

 

Alors que va dire le philosophe ? Va-t-il s’étonner de la capacité de la Chine à trouver les moyens non seulement financiers mais aussi humains pour réussir avec une telle rapidité des opérations complexes sur la planète Mars, là où les américains ont mis plus de 20 ans à réussir ? Ou bien va-t-il ronchonner en disant que les informations scientifiques divulguées par la Chine seront toujours entachées de doutes suite aux mensonges d’État dont ce pays s’est rendu coupable au cours de l’épidémie de covid ? Mais non : le philosophe va s’étonner que la communication attribuée au robot le fasse parler à la 1^ère personne : « Je suis toujours etc. » – d’autant plus que les robots américains font exactement de même. 

--> Et alors, depuis quand une machine disposerait-elle du « Je » c’est-à-dire de la conscience de soi ? « Posséder le Je dans sa représentation : ce pouvoir élève l’homme infiniment au-dessus de tous les autres êtres vivants sur la terre. Par-là,  il est une personne » disait Kant (1) c’est-à-dire qu’il a le pouvoir de se saisir soi-même par un retour sur soi de la pensée, se constituant ainsi comme sujet pensant capable de dire « Je »

Certes, on peut imaginer que certains animaux comme les grands singes, seraient capables de se penser eux-mêmes sans pour cela avoir l’usage des pronom personnels ; d’ailleurs ce pronom personnel peut très bien manquer dans certaines langues. Mais que la machine dont rien n’indique que ce retour réflexif soit à sa portée puisse parler d’elle-même à la 1^ère personne, voilà que dérange.

Vous ne me croyez pas ? Alors rappelez-vous de l’opéra d’Offenbach intitulé « les Contes d’Hoffmann ». Olympia, le personnage principal du premier acte, qui est un automate construit par Spalanzani, chante l’air des « oiseaux dans la charmille » ; elle conclut par ce refrain : « Voilà la chanson mignonne / La chanson d’Olympia / d’Olympia ! ». Offenbach ne s’y trompe pas : Olympia est une machine parlante qui ne peut parler d’elle-même qu’à la 3^ème personne : toujours comme objet, jamais comme sujet.

---------------------------------

(1) Kant – Anthropologie §1 (Lire le texte ici)

Liberté et machine à café – Chronique du 1er février

Bonjour-bonjour

 

Je voudrais ce matin faire l’éloge de la machine à café dont on parle beaucoup depuis un an, depuis que le présentiel a disparu au profit du distanciel dans le quel nul pause-café avec les collègues ne peut être envisagée. Mais depuis il ne se passe pas de jour sans que son nom n’apparaisse dans les chroniques qui déplorent la disparition du « temps d’avant ».

 

Pour toi, Machine à café je vais comme Cyrano – hop ! à l’improvisade – te composer une ballade.

 

« Ô toi, Machine à café, toi sur qui on tambourine quand tu ne marches pas, toi qu’on voit, mais qu’on ne regarde pas, je trouve qu’on ne te célèbre pas comme il se doit.

 

- Déjà, regardons-la :

 

Svelte comme une jeune fille au printemps, brillante oui, mais sans clinquant, ornée d’images de tasses arômatiques, elle nous attend au fond de la pièce à elle dédiée. Vestiaire, dépôt de balais, ou – Ô fortune – pièce à elle consacrée, quand on la célèbre, on célèbre aussi l'endroit où elle trône, pièce plus ou moins vaste, mais toujours à l’écart – à l’écart des yeux ou des oreilles des chefs. 

Oui, Toi, Machine à café, c’est Toi qui es la garantie de la démocratie dans l’entreprise ! Tu permets à chacun d’être lui-même quand il est près de toi, libre de parler et de critiquer les patrons et leurs valets. Sans Toi – aujourd’hui on le sent – la vie n’a plus la même valeur, les jours s’étirent mornes et pleins d’ennuis, la joie s’éteint quand manquent les tasses qui fument dans des mains amies. 

Parfois il est vrai tu couvres de ta discrétion les éloges graveleux du décolleté de la voisine du bureau d’en face ou les grosses fesses de la secrétaire de la compta. Mais s’il importe de corriger ces grivoiseries encore faut-il qu’elles soient proférées au grand jour pour être châtiées, et sans toi, dans le secret du vis-à-vis de l’écran, les pires horreurs s’épanouissent sans que rougissent les fronts. 

Le moral et la moralité : c'est par Toi seule qu'ils sont tous les deux sont portés, Machine, et rien d’humain dans l’entreprise n’est sans toi plus possible.

Désormais la CGT écrira sur ses drapeaux : Liberté et Machine à café ! 

Lee Sedol, le champion de go, abandonne la compétition.

Le joueur sud-coréen Lee Sedol, qui avait tenté de vaincre AlphaGo dans une série de cinq matches, prend sa retraite. Son niveau est moins bon qu'avant et il estime que l'IA ne peut pas être vaincue. Alors, à quoi bon continuer ?

Le problème pour Lee Sedol, c’est que son adversaire n’est pas humain. AlphaGo n’est qu’une machine qui n’a pas d’état d’âme et se montre infatigable à la tâche qui lui est assignée. Dès lors, il lui est impossible de déceler une quelconque expression sur le visage de son opposant qui pourrait lui permettre de deviner s’il est en train de prendre l’ascendant

Selon nous, le problème n’est pas tant de savoir si l’IA peut triompher de l’intelligence humaine, puisqu’elle le fait déjà depuis un certain temps, mais grâce à quoi cela arrive. On sait même qu’à présent les calculateurs les plus puissants deviennent champions de Go sans avoir à observer des parties jouées par les humains - c’est à dire sans puiser leur science dans la pratique des humains. 

Mais ce que Lee Sedol nous apprend, c’est ce qu’on savait déjà sans plus y penser : les machines n’ont pas d’affect, pas de passions ni d’émotions, rien qui trahisse quelque chose comme une réaction au déroulé de partie.

Or, c’est cela dont le joueur de go a besoin : pouvoir étudier ses adversaires humains, évaluer leurs émotions vécues, façon de dire que c’est aussi là dessus que se joue la partie. Il est tentant de croire que ce que les machines ne peuvent reproduire, c’est justement ce qu’il y a de plus humain chez l’homme  : non pas l’intelligence mais le sentiment.

Rabelais disait déjà « Le rire est le propre de l’homme » ; il pensait alors à distinguer l’homme de l’animal. Mais ça marche aussi pour les machines.

CELUI QU'ON SURNOMME "L'HOMME VOLANT" VA TENTER LA TRAVERSÉE DE LA MANCHE SUR SON FLYBOARD, UNE MACHINE VOLANTE AUTONOME

Franky Zapata doit s'envoler ce jeudi matin, "entre 6 heures et 9 heures", de la plage de Sangatte (Pas-de-Calais) pour rejoindre "les alentours" de Douvres, en Angleterre, a indiqué son entourage sans dévoiler la destination exacte (Lire ici)

Nous retrouvons aujourd’hui notre homme volant qui avait défrayé nos chroniques le 14 juillet – sauf qu’ici au lieu de le photographier survolant le fusil d’assaut à la main la chambre de députés, le voici tout seul sur un fond de ciel bleu. Franky Zapata s’apprête à renouveler l’exploit de Louis Blériot, traversant la manche 110 ans après qu’il l’eut fait aux commandes de son avion.

Et c’est là que cet exploit devient significatif. Car la photo nous montre un « homme volant », un homme qui paraît avoir réalisé le rêve de toute l’humanité, celui d’Icare comme celui de Leonard de Vinci esquissant le croquis d’un hélicoptère dans ses carnets. Au lieu d’être enveloppé par la machine au point que l’exploit de Blériot paraît être celui de son avion et non pas le sien propre, voici Franky Zapata qui domine la sienne – que dis-je ? Il ne la domine pas puisqu’elle a disparu ! 

Bien sûr, c’est là une tendance constante des machines aujourd’hui : se faire oublier, 

            - en les miniaturisant de sorte qu’on n’imagine même plus qu’elles existent 

            - en les humanisant (comme les assistants vocaux) au point qu’on dialogue avec elles comme on le ferait avec sa vieille maman ;

            - en leur cédant toujours plus de pouvoir de sorte qu’on n’a plus à réfléchir, même plus pour conduire sa voiture.

Mais l’exploit de Franky Zapata est ailleurs ; il est de combiner plusieurs de ces facteurs : certes il fait disparaître la machine en la miniaturisant (de sorte qu’elle ressemble au surf du Surfer d’argent – voir art. cité), mais aussi il la domine en la gouvernant par son propre corps et non par des dispositifs mécaniques sophistiqués.

Cet exploit va, nous l’avions noté, à contre-courant des techniques actuelles. Voyons ce que ça va donner dans le futur.