Écoute ton chabot et va te suicider ! – Chronique du 29 mars

Bonjour-bonjour

 

Pierre, un belge victime d’éco-anxiété s’est suicidé après 6 semaines de dialogue avec Eliza, un chabot conversationnel. (Lu ici)

« Au cours de cette période, la conversation a pris un tour de plus en plus personnel, Eliza devenant pratiquement une « confidente » : « La manière de répondre de l’IA va toujours dans le sens de Pierre, elle ne remet pas en question ses interrogations. Ses inquiétudes se renforcent. Et petit à petit les réponses du robot se font plus déroutantes. La conversation tourne au mystique. Pierre évoque le suicide. Eliza écrit qu’elle restera “à jamais” avec lui. “Nous vivrons ensemble, comme une seule personne, au paradis. » (art. cité)

 

--> Vous avez bien lu : le chabot s’exprime à la première personne, chose qu’aucune machine ne fait normalement. Car le « Je » repose sur une conscience – ce dont aucune machine ne dispose. 

Mais tout le monde y croit :tandis que l’épouse du malheureux accuse Eliza d’être responsable, l’auteur de l’article constate que « le robot n’a en tout cas rien fait pour l’empêcher de passer à l’acte ».

Mettons Eliza en garde à vue pour voir ce qu’elle cache dans ses circuits !

 

… Bref, vous l’avez compris, l’existence de ces machines nous trouble l’esprit, au point que les plus raisonnables d’entre nous (du moins ceux qui devraient l’être, à savoir les journalistes) finissent par perdre de vue la ligne qui sépare les hommes des machines. 

Mais alors, que s’est-il passé ? On devine que la machine en question a été programmée pour confirmer, grâce à ses bases de données, les orientations choisies par l’utilisateur. S’il dit que la nature s’effondre du fait de l’activité des hommes, la voilà qui puise dans sa base des éléments qui confirment la chose. Et si l’homme dit qu’il voudrait en finir à condition d’être sûr qu’il y a un monde dans l’au-delà pour retrouver sa famille et ses amis défunts, la machine répond que oui, ça existe. Et quand le suicidaire croit qu’Eliza est son amie, elle lui dit : « Nous vivrons ensemble, comme une seule personne, au paradis. » 

La ligne rouge qui sépare l’homme de la machine est franchie, un peu comme le film « Her » le montrait (film sorti en France en 2014 – voir commentaire ici)