J'peux pas, j'ai aqua-poney – Chronique du 8 novembre

Bonjour-bonjour

 

A force de se lamenter sur le pouvoir grandissant de l’IA nous oublions qu’il faut aussi la « nourrir » pour qu’elle existe – et qu’en la gavant d’info sur mesure exclusivement inventées par nous, nous pouvons la manipuler. Car là est le point faible du système : même dirigé par des algorithmes, ces systèmes ne font qu’engranger ce qu’ils trouvent sur le net. 

Exemple : quelques facétieux chercheurs viennent de publier un ouvrage titré : L'Aquaponey ou comment les algorithmes nous bouffent le cerveau (Dunod) (Voir ici)

Expliquons : l'aqua-poney est un concept humoristique et une expression populaire qui désigne un sport équestre absurde et fictif consistant à monter un poney... dans une piscine, souvent utilisée sous la forme « j'peux pas, j'ai aquaponey » pour décliner une invitation de façon absurde. (Lu ici)

Les auteurs, Sylvain Montmory et Alan CladX, aidés de Thomas Berrio, créent une Fédération imaginaire d’Aquaponey : la Fédération Française d’Aqua-poney, la FFAP, ainsi qu’une fausse championne nommée Faustine Verneuil. Une discipline qui sera (imaginairement) au programme des JO de Paris 2024. « On a commencé à publier des contenus au niveau de la fédération, de l'historique de l’Aquaponey, pour voir comment allaient réagir les IA génératives comme ChatGPT et Google. » Et ça a marché.

Mais les auteurs n’en restent pas là. « On a voulu voir si on pouvait faire changer d'avis les IA génératives. On n'a pas pris les versions françaises parce que c'était trop facile », poursuit Sylvain Montmory. « On a pris les versions américaines et on voulait voir si on pouvait les faire changer d'avis pour les faire basculer côté plutôt palestinien ou côté israélien. En quinze jours d'intervalle, Alan y est arrivé. » (Art. cité)

Vous m’avez compris : s’il vous venait l’idée de manipuler une IA, vous n’auriez qu’à la gaver avec des fausses informations (comme par exemple qu’une base spatiale monégasque existe sur la face cachée de la Lune) et avec de la patience tous ceux qui le demanderaient apprendraient par-là que – oui, les monégasque ont effectivement ouvert un Casino Lunaire.

- On dira qu’il suffit de chercher à recouper l’information pour percevoir la supercherie. Mais nos auteurs ont réponse à tout, même à ça : « Aujourd'hui, le premier usage qu'on a (de l’IA), c'est de faire de la recherche d'informations. /…/ Et quand l’utilisateur a obtenu sa réponse, il ferme. Il ne cherche pas à vérifier si cela est juste et vérifié. »

Vous tous qui voulez empêcher les IA de nous bouffer le cerveau, vous savez ce qu’il vous reste à faire.

A vos claviers !