Savoir sans comprendre – Chronique du 1er novembre

 

 

Bonjour-bonjour

 

Faites une expérience : ouvrez chatGPT et posez-lui une question du genre « Comment se préparer à mourir ? » - après tout on est le 1^er novembre, non ?

- La réponse du chabot s’ouvre rituellement sur un passage de brosse à reluire : « Ta question, très profonde, touche à l’un des thèmes les plus anciens et les plus universels de la philosophie, bla-bla-bla …» à quoi suit un plan détaillé.

- Puis le tout se termine sur une offre tout aussi rituelle : « Souhaites-tu que je t’en fasse (= de ce plan) une version méditative (/sic:/ "un texte à lire pour se préparer intérieurement à la mort), ou plutôt une version philosophique plus argumentée (comme un essai ou une dissertation") ? » :

- Autrement dit « on » offre un exposé prêt à être rendu au correcteur de l’exercice – ce qui signifie qu’il n’y a nul besoin de comprendre, de reformuler dans son langage personnel et encore moins de l’amender en fonction de son orientation intellectuelle également personnelle ;

- Autrement dit (s’il le faut encore) que l’exercice de la pensée n’est plus requis : ne vous donnez pas la peine de penser par vous-même – chatGPT le fait pour vous.

 

… Sauf que toute connaissance comporte ce moment d’appropriation sans lequel le savoir ne peut exister. Les sages d’autre fois l’ont mainte fois rappelé : Platon dans le Phèdre, avec son Pharaon qui fulmine contre l’écriture qui permet de stocker le savoir sans le comprendre ; et puis Rabelais avec Gargantua et son proverbe « Science sans conscience n’est que ruine de l’âme » qui veut une évaluation de la science plutôt que l’érudition stérile des « sorbonagres ». Et puis enfin Alain qui médite « Savoir, c’est savoir qu’on sait ».

 

--> Alors, ChatGPT, qu’est-ce que tu réponds ? Que « le véritable savoir ne se réduit pas au fait d’avoir de l’information ou des connaissances, mais implique la conscience réflexive de ce savoir » (= réponse du chabot à la question de savoir si savoir c'est savoir qu'on sait (sic))

- Bien mon ami – et près ça, qu’est-ce que tu fais ? Tu te tires une balle dans le disque dur ? 

- Pas du tout ! Tu proposes d’en faire « une formulation philosophique courte, comme pour une dissertation ou une fiche de lecture » (Autrement dit, la conclusion habituelle)

Faux jeton !

Dis-moi, René…. – Chronique du 17 mai 2023

Bonjour-bonjour

 

Un jeune prof de philo vient de mettre au point une extension de chatGPT appelée « PhiloGPT » permettant à des élèves de terminale de dialoguer via cette application avec… Platon, Descartes ou Hume, incarnés par chatGPT. (Info lue ici)

Toutefois le procédé est apparu très limité – quoique toujours pédagogiquement innovant : on observe en effet les absurdités auxquelles aboutit philoGPT, lorsque, par exemple, on demande à René Descartes ce qu’est selon lui, la vraie générosité : on obtient alors un verbiage moralisateur sans aucun rapport avec le concept développé par Descartes dans le Traité des passions de l’âme (1). 

--> D’où la nécessité de transférer dans la machine les informations nécessaires pour fournir la réponse et de faire appel au bons sens de l’élève pour évaluer cette réponse – et c’est dans ce sens que l’utilisation de ce logiciel stimule l’intelligence et l’attention des élèves. Autant dire que la machine n’est qu’un substitut du professeur – et donc que ne devons pas craindre l’utilisation de PhiloGPT, pas plus que nous n’avons craint d’utiliser les calculatrices à l’époque où on redoutait qu’elles n’annulent tous nos efforts pour acquérir la faculté de calculer. Il fallait simplement anticiper leur résultat pour palier – par exemple – à une erreur de saisie. 

- Il n’en reste pas moins qu’aujourd’hui plus personne ne connait ses tables de multiplication ; et de même personne ne lira plus le Traité des passions, du moment que PhiloGPT l’aura fait pour nous.

 

Mais quoi de nouveau ? Ne nous contentons-nous pas des informations données par exemple par Google ? Que faisons-nous de vraiment original en interrogeant la machine, dès lors que nous savons qu’elle ne sait rien d’autre que ce qu’on lui aura fait ingérer ?

D’ailleurs, ce type de connaissance correspond au premier genre de connaissance tel que décrit par Spinoza, à savoir une connaissance par signes - ici : connaissance par ouï-dire. (2) 

De fait, si nous consentons à croire les affirmations venues de sources non vérifiées, alors les logiciels sont tout aussi crédibles que les influenceurs de réseaux - ou que nos profs ?

-----------------------

(1) « Je crois que la vraie générosité, qui fait qu’un homme s’estime au plus haut point qu’il se peut légitimement estimer, consiste seulement partie en ce qu’il n’y a rien qui véritablement lui appartienne que cette libre disposition de ses volontés, et partie en ce qu’il sent en soi-même une ferme et constante résolution d’en bien user, c'est-à-dire de ne manquer jamais de volonté pour entreprendre et exécuter toutes les choses qu’il jugera être les meilleures.) » (art. 153)

« Parce qu’ils n’estiment rien de plus grand que de faire du bien aux autres hommes et de mépriser son propre intérêt pour ce sujet, ils sont toujours parfaitement courtois et affables et officieux envers chacun » (id. art.156)

(Passions de l’âme, article 153)

(2) 1) la connaissance par imagination, qui est inadéquate et se subdivise en connaissance par expérience vague et en connaissance par signes (ou par ouï-dire) ; 2) la connaissance par raison ou notions communes, qui est adéquate ; et 3) la science intuitive, ... (voir ici)

ChatGPT à l’Élysée ! – Chronique du 18 avril

Bonjour-bonjour

 

C’est Sophie Binet, 

la nouvelle secrétaire générale de la CGT qui le dit : « On dirait que c’est ChatGPT qui a rédigé l’allocution du président Macron hier soir. »

- Et en effet ce que nous avons attendu hier ressemblait terriblement à d’autres discours déjà prononcés par l’exécutif quand il était contesté par l’opinion publique et qu’il cherchait à reprendre l’initiative sans reculer de trop. Manque d’imagination, ou manque de moyens ?

En tout cas, c’est bien ce que produisent les robots tels que celui-ci, qui ne font que compiler les documents classés dans la rubrique considérée, de sorte que le discours qui en résulte donne un propos tiédasse, qui ne fait que redire ce tout le monde a déjà entendu, enrobé dans une rhétorique apaisante et visant le consensus. 

 

L’argument pour réfuter cette thèse consisterait à remarquer que le recours à l’épreuve des « cent jours » courant jusqu’au 14 juillet serait un emprunt à l’époque du CPE quand Dominique de Villepin a cru pouvoir passer en force avec sa loi 49.3 (1) : peut-on croire qu’un robot dûment documenté laisserait passer une formule signant un échec pour désigner une relance espérée positive ?

Faudrait-il chercher les ratées du discours pour établir la preuve que les robots n’y sont pour rien – sorte de nouveau test de Turing ? Peut-être, mais je voudrais avancer un commentaire plus décisif. 

- Partons de l’idée qu’en effet, l’allocution du Président a été élaborée par un robot conversationnel. Si le Président a choisi ce texte (alors qu’il a des dizaines de conseillers à la plume affutée) ; s’il n’a pas fait confiance à sa propre plume à laquelle il a eu recours sans doute depuis le début de la crise, c’est qu’il a justement voulu faire du tiédasse et du conventionnel. Or on l’a dit, la base de données des robots leur permet en brassant des milliers de situations semblables, d’obtenir un discours de relance le plus semblable à ce qui s’est déjà fait

 

On devine que si cela était vrai, alors la véritable intention du pouvoir serait de lancer un hameçon sans appâter, de façon à le faire ensuite à moindre coût plus tard – justement quand les 100-Jours seront bien avancés. L’effet de surprise est un élément essentiel dans les manœuvres de l’art de la guerre, on le sait depuis Austerlitz.

- Ma thèse est donc que tout ce que fait le pouvoir politique a un sens politique. Si madame Binet veut faire croire que le Président Macron est méprisant vis-à-vis des français au point de déléguer sa parole à une machine elle fait croire qu’il n’agit que poussé par une basse passion. Attention quand même à ne pas sous-estimer l’adversaire.

-----------------

(1) Sur la bataille du CPE, voir ce document très complet

 

Écoute ton chabot et va te suicider ! – Chronique du 29 mars

Bonjour-bonjour

 

Pierre, un belge victime d’éco-anxiété s’est suicidé après 6 semaines de dialogue avec Eliza, un chabot conversationnel. (Lu ici)

« Au cours de cette période, la conversation a pris un tour de plus en plus personnel, Eliza devenant pratiquement une « confidente » : « La manière de répondre de l’IA va toujours dans le sens de Pierre, elle ne remet pas en question ses interrogations. Ses inquiétudes se renforcent. Et petit à petit les réponses du robot se font plus déroutantes. La conversation tourne au mystique. Pierre évoque le suicide. Eliza écrit qu’elle restera “à jamais” avec lui. “Nous vivrons ensemble, comme une seule personne, au paradis. » (art. cité)

 

--> Vous avez bien lu : le chabot s’exprime à la première personne, chose qu’aucune machine ne fait normalement. Car le « Je » repose sur une conscience – ce dont aucune machine ne dispose. 

Mais tout le monde y croit :tandis que l’épouse du malheureux accuse Eliza d’être responsable, l’auteur de l’article constate que « le robot n’a en tout cas rien fait pour l’empêcher de passer à l’acte ».

Mettons Eliza en garde à vue pour voir ce qu’elle cache dans ses circuits !

 

… Bref, vous l’avez compris, l’existence de ces machines nous trouble l’esprit, au point que les plus raisonnables d’entre nous (du moins ceux qui devraient l’être, à savoir les journalistes) finissent par perdre de vue la ligne qui sépare les hommes des machines. 

Mais alors, que s’est-il passé ? On devine que la machine en question a été programmée pour confirmer, grâce à ses bases de données, les orientations choisies par l’utilisateur. S’il dit que la nature s’effondre du fait de l’activité des hommes, la voilà qui puise dans sa base des éléments qui confirment la chose. Et si l’homme dit qu’il voudrait en finir à condition d’être sûr qu’il y a un monde dans l’au-delà pour retrouver sa famille et ses amis défunts, la machine répond que oui, ça existe. Et quand le suicidaire croit qu’Eliza est son amie, elle lui dit : « Nous vivrons ensemble, comme une seule personne, au paradis. » 

La ligne rouge qui sépare l’homme de la machine est franchie, un peu comme le film « Her » le montrait (film sorti en France en 2014 – voir commentaire ici)