Tesla FSD v14 : Elle a fait une embardée et a essayé de me faire finir dans un fossé sans raison apparente.

Le système de conduite entièrement autonome de Tesla, version v14.3.6, a tenté de prendre une sortie sur l'autoroute que ma voiture avait déjà franchie, à une vitesse de 110 km/h (68 mph), et nous a presque poussés directement dans un fossé.

J'étais prête à reprendre le contrôle de la voiture, et je l'ai fait, mais la situation était terrifiante. Mon amie, assise côté passager, a hurlé de peur.

Ce que montre la caméra embarquée

Cet incident s'est produit dimanche soir sur l'autoroute 55 dans la région de la Mauricie au Québec, alors que le système FSD (Supervisé) v14.3.6 était en fonctionnement — la version la plus récente et la plus performante du système FSD de Tesla sur le matériel le plus récent.

La voiture roulait à 110 km/h sur la voie de droite. La chaussée était sèche, la circulation était fluide dans les deux sens, le marquage au sol était moderne et net, et les panneaux de signalisation étaient réfléchissants. Les conditions étaient idéales pour le système FSD. Au passage sous le pont de la sortie 217, le clignotant droit s'est activé et la voiture a commencé à se déporter vers l'accotement, tandis que le message « Conduite autonome » restait affiché à l'écran.

Le problème, c'est que la pente avait déjà commencé à se dégrader derrière nous. Prendre ce virage tardif à cette vitesse nous aurait précipités dans le trou.

L'indicateur de vitesse est descendu à 110, 109, 107 et 104 km/h pendant la manœuvre. À ce moment-là, j'ai serré le volant. La mention « Conduite autonome » a disparu de l'écran à 102 km/h.

Il ne s'agissait pas d'un léger écart de trajectoire ni d'une hésitation. La voiture a décidé d'activer son clignotant et de prendre une sortie qu'elle n'aurait pas dû emprunter.

Ces conditions étaient idéales pour le système FSD.

Si vous deviez concevoir le scénario le plus simple possible pour Tesla, c'est celui-ci.

Autoroute à chaussées séparées. De nuit, les phares des véhicules venant en sens inverse et les réflecteurs de voie sont facilement visibles. Circulation fluide, sans besoin d'analyse. Marquages ​​au sol clairs. Panneaux de signalisation grands et bien éclairés.

D'après mon expérience avec la version 14, la conduite de nuit sur autoroute et sur routes désertes est sans conteste le point fort du système . J'ai parcouru des milliers de kilomètres ainsi sans avoir à toucher à quoi que ce soit. C'est pourquoi j'ai une telle confiance. Et c'est précisément cette confiance qui est le piège.

J'ai écrit sur ce danger précis en juin.

Il y a deux mois et demi, j'ai publié un article affirmant que le système FSD v14 était si performant qu'il m'avait rendu dangereusement trop confiant. J'écrivais alors qu'« un système qui fonctionne presque parfaitement crée un piège : les conducteurs lui font suffisamment confiance pour baisser leur garde, mais il peut néanmoins tomber en panne de manière inattendue, parfois de façon critique. »

Je maintiens tout ce que j'ai dit, et dimanche soir l'a prouvé. Parcourir des milliers de kilomètres entre deux interventions critiques est un véritable exploit d'ingénierie. Mais c'est aussi cet intervalle qui apprend à votre cerveau à se concentrer et à cesser de survoler les alentours, vous faisant réfléchir à deux fois avant d'acheter une Tesla.

Les notes de version v14.3.6 de Tesla indiquent que l'entreprise a « développé une phase d'apprentissage par renforcement (RL) pour entraîner le réseau neuronal du système FSD », a réécrit l'interpréteur d'IA à l'aide de MLIR afin d'obtenir des « temps de réponse 20 % plus rapides » et a amélioré la réaction du véhicule à la dégradation du système, « réduisant ainsi les incidents de désengagement inutiles du conducteur ». Ces incidents diminuent à la fois grâce à l'amélioration du logiciel et lorsque le conducteur cesse d'intervenir. Tesla ne fournit aucune information permettant à des tiers de faire la distinction entre ces deux facteurs.

Les chiffres publics disponibles ne sont pas rassurants. Tesla a signalé à la NHTSA un nombre record de 207 accidents liés à l'Autopilot et au FSD en un seul mois, alors que cette information a été passée sous silence dans 99.9 % des 3 763 rapports d'accidents impliquant des systèmes d'aide à la conduite depuis 2019. Elon Musk continue d'affirmer aux investisseurs que le FSD sans supervision sera largement déployé aux États-Unis d'ici la fin de l'année, tandis que le co-PDG de Waymo poursuit d'expliquer pourquoi la conduite autonome basée uniquement sur des caméras ne répond pas aux exigences d'un système de conduite véritablement autonome.

Avis sur DzTecnium

Un incident qui a failli se produire n'est qu'une histoire et non une donnée, mais je pense que c'est un rappel important de la nécessité de rester vigilant.

Comme je l'ai souvent mentionné, le système FSD v14 de Tesla est un produit véritablement impressionnant. Cependant, il est loin d'atteindre l'objectif initial du FSD : la conduite autonome sans supervision. On en est encore très loin, et il est possible qu'il ne le soit jamais. Cela restera un problème et peut-être la pire erreur jamais commise par Tesla.

Mais si l'on met cela de côté et que l'on considère le FSD comme un système d'assistance à la conduite point à point, c'est vraiment incroyable.

Cependant, ce spectacle éblouissant engendre la complaisance (l'indifférence). Tesla n'arrange rien, notamment avec les déclarations de son PDG, Elon Musk, telles que : « Vous pouvez désormais regarder votre téléphone tout en l'utilisant. »

C'est clairement de l'inconscience. À mesure que le système s'améliore, Tesla doit s'efforcer de mieux sensibiliser les conducteurs à ce problème de relâchement de l'attention, et non l'inverse.