Quand les robots n’en font qu’à leur tête – Chronique du 8 aout

Bonjour-bonjour

 

Il y a quelques années les premières assistances à la conduite faisaient déjà parler d’elles : il s’agissait de véhicules munis d’un stabilisateur de vitesse qui, d’un coup, se mettaient à accélérer sans qu’on puisse les freiner. On a conclu à des erreurs de pilotage et on est passé à autre chose.

Mais voici que le sujet se renouvelle avec le mystérieux « freinage fantôme » : « 350 automobilistes témoignent avoir été victimes de freinages involontaires, débouchant parfois sur des accidents graves. Des pertes de contrôle probablement liées à des défaillances du système d'aide à la conduite sur les véhicules récents. Et si le freinage d'urgence automatique, obligatoire dans l'Union européenne sur tous les véhicules neufs produits depuis 2022, avait été défaillant ? » (Lu ici)

 

- D’un coup, voilà mise en doute la confiance que nous accordons à nos machines douées d’intelligence, équipées de capteurs dans tous les sens et qui prennent les commandes de la voiture pendant que nous…

… que nous « quoi » au fait ? … « que nous piquons un roupillon » pendant que notre voiture taille la route, toute seule comme une grande ?

Et si, quand les accidents de freinage fantôme se produisent cette image était celle de la banquette avant de la voiture et non des places arrières ?

 

 

Le règlement routier est très ferme à ce sujet : dans les véhicules dotés d’assistance à la conduite le conducteur doit rester vigilant et prêt à intervenir à tout moment si la situation l’exige, en particulier quand le système de pilotage engage le véhicule dans une manœuvre inappropriée. Quand on sait que c’est en 2 secondes que ces véhicules ont été stoppés par le freinage fantôme, on voit bien qu’une vigilance de pilote de F1 ne sera pas de trop.

- Soyons clairs : il ne s’agit pas malheureusement de mettre en doute seulement ces systèmes de pilotages de véhicules automatiques dont on devrait se méfier à tout instant ; c’est aussi tout ce que nous avons délégué de notre vie quotidienne à nos machines. Tout, depuis l’ouverture et la fermeture automatique de nos volets jusqu’à la tenue de nos comptes bancaires, virements automatiques compris.  On surveille tout ça par le biais de mots de passe visant à empêcher les agressions extérieures – très bien. Mais qui nous dit qu’un jour tout comme pour les voitures, nos programmes embarqués ne feront pas « par eux-mêmes » des manœuvres « fantômes » ? Des virements fantômes, des fermetures de volets fantômes, des mot de passe modifiés sans intervention du propriétaire ?

Un jour, en rentrant chez vous, à votre grand étonnement, vous découvrirez sur votre digicode la mention  « le code a changé »

Y a-t-il toujours un pilote dans l’avion ? – Chronique du 19 mai 2025

Bonjour-bonjour

 

Alors que pas plus tard que samedi je détaillais les prouesses d’une voiture à pilotage autonome qui venait de réussir la traversée de la Place de l’Etoile à Paris en pleine journée, voici qu’un fait divers aéronautique vient abonder cette célébration : « Un avion continue de voler sans personne aux commandes pendant 10 minutes : le pilote était aux toilettes, le copilote évanoui » nous annonce-t-on ici

« Le 17 février dernier, un vol Lufthansa reliant Francfort (Allemagne) à Séville (Espagne) s’est retrouvé brièvement sans pilote dans le cockpit. Selon un rapport officiel espagnol publié vendredi, le copilote, resté seul aux commandes pendant l’absence du commandant de bord, s’est soudainement évanoui. » Attendez, ne frémissez pas tout de suite.

Car voici ce qui arriva : « Pendant sa perte de connaissance, il (= le copilote) a involontairement actionné plusieurs interrupteurs et touché les commandes de vol. Heureusement, le pilote automatique et le système de poussée automatique ont continué de faire leur travail, maintenant la trajectoire de l’avion, à bord duquel se trouvaient 199 passagers. »

Voilà donc la nouvelle : pendant 10 minutes, la vie de 200 personnes a dépendu d’une machine en autonomie intégrale. Résultat : personne ne s’est aperçu de rien, car le pilote automatique a supprimé les commandes incohérentes lancées par le pilotage l’humain.

- Moi si j’étais pilote de ligne, en lisant cela je me ferais du souci. Car cette prouesse du pilotage automatique n’en est pas une : de fait cette machine est capable d’effectuer bien plus de fonctions complexes. Aujourd’hui il est possible de faire évoluer un aéronef sur tout son itinéraire sans aucune intervention humaine. D’ailleurs ce dispositif est à l’œuvre sur les drones sans pilotes qui s’illustrent en ce moment sur tous les champs de bataille.

Qu’est-ce qui sauve le pilotage « humain » ? Sans doute le problème de la responsabilité, déjà évoqué dans notre Post de vendredi dernier à propos de la Tesla en liberté dans Paris. Et pourtant, un moment d’hésitation passé, on a tous oublié que notre métro n’a pas de conducteur.

--> On oublierait aussi bien le cockpit vide.

L’hésitation : le moment de la responsabilité - Chronique du 17 mai 2025

Bonjour-bonjour

 

Depuis quelques mois on ne parle de Tesla que sur le mode : voiture boycottée, firme en chute libre à la bourse, difficultés de mises sur le marché de nouveaux modèles, etc.

Mais pendant ce temps-là la firme américaine poursuit la mise en place de son programme de voitures à conduite autonome. Par exemple avec le test réussi de conduite autonome dans l’un des pires endroits de Paris: « Le constructeur a choisi de traverser la Place de l’Étoile, une artère où la conduite est réputée pour être particulièrement difficile. Une « source de stress pour de nombreux conducteurs visitant la capitale française », selon Tesla (lu ici). Insertion fluide, bon positionnement, dépassement par la gauche, respect des priorités : les mouvements sont propres, sans hésitation. On s’en convaincra en visionnant cette vidéo :

 

Les plus sceptiques devront avouer combien ils ont serré les fesses lors de leur première expérience de traversée de la Place de l’Etoile. Mais la vérité est là : ce que nous ne saurions pas faire, la machine le fait sans la moindre hésitation.

 

- C’est justement sur ce point que les plus philosophes d’entre nous voudront s’arrêter : « Cette voiture est une machine : elle est donc incapable d’hésiter, puisque l’hésitation ne fait pas partie de son programme. Pourtant c’est bien ce moment « suspendu » de l’hésitation qui est le moment de la responsabilité. »

Pour s’en persuader on donne parfois l’exemple du conducteur de bus qui se trouve mis en présence de piétons engagés sur la chaussée devant lui, qui ne peut les éviter qu’en jetant son bus sur le trottoir où il va écraser un passant qui attend le feu rouge pour traverser. Que doit-il faire ? Se déporter pour éviter de faire de nombreuses victimes, et du coup « choisir » de tuer un innocent qui sans cela aurait eu la vie sauve ? Ou bien suivre les règles du code et continuer tout droit, car les piétons n’ont rien à faire sur la chaussée au moment où c’est aux bus de passer ? Selon quelle valeur choisir ?

C’est sur ce dilemme, connu sous le nom de « dilemme du tramway » qui est décrit ici, que se base le débat : toute la vie morale suppose ce moment d’hésitation – et le dilemme cornélien du Cid en fait l’illustration. On relèvera aussi que ce décalage entre la sollicitation et la réponse est selon Bergson le signe de la conscience.

Rions un peu – Chronique du 19 mars

Bonjour-bonjour

 

Pour stimuler le bonne humeur j’aurais pu énumérer les situations où Donald Trump a pris un râteau, par exemple avec le désaveu infligé par Poutine qui ridiculise sa prétention à conclure le conflit ukrainien en deux coups de cuillère à pot. Ou bien le camouflet que lui inflige la Cour suprême, pourtant à sa botte, en refusant de limoger sur commande un juge fédéral. A moins de préférer les sondages qui montrent qu’une écrasante majorité d’américains, y compris les conservateurs, réprouvent le rapprochement de leur pays avec la Russie ?

- Mais il y a mieux avec les déboires de la Tesla, la voiture électrique d’Elon Musk : voilà qui déclenche l’hilarité.

Lisons ceci : « Un test récent, inspiré des pièges absurdes du Vil Coyote, l’a prouvé : une Tesla en Autopilot (moyens de pilotage automatique embarqué) s’est précipitée contre un faux mur peint sur la route, incapable de percevoir l’illusion. » Bip-Bip…

 

Oui, cher.e.s ami.e.s, les ingénieurs sont de grands enfants : biberonnés aux cartoons, ils en tirent des idées que nous n’aurions pas eues avec des gens plus sérieux – comme de faire un leurre pour voir comment les caméras de la voiture sont capables de flairer le piège. 

Oui, ça fait rire, mais pas tant que ça quand même : car n’oublions pas qu’un des premiers morts dans un accident avec une Tesla en Autopilotage été dû au fait que la caméra de la voiture n’a pas perçu un camion blanc confondu avec le décor un jour de brume.