Benjamin Maldonado et son fils adolescent rentraient en voiture d’un tournoi de football sur une autoroute californienne en août 2019 lorsqu’un camion devant eux a ralenti. M. Maldonado a actionné son clignotant et s’est déplacé à droite. En quelques secondes, son pick-up Ford Explorer a été heurté par un Tesla Model 3 qui roulait à environ 60 miles par heure en pilote automatique.
Une vidéo de six secondes capturée par la Tesla et les données qu’elle a enregistrées montrent que ni le pilote automatique – le système tant vanté de Tesla qui peut diriger, freiner et accélérer une voiture par lui-même – ni le conducteur n’ont ralenti le véhicule jusqu’à une fraction de seconde avant le crash. Jovani, 15 ans, qui était sur le siège passager avant et ne portait pas sa ceinture de sécurité, a été éjecté de la Ford et est décédé, selon un rapport de police.
L’accident, qui a eu lieu à six kilomètres de la principale usine automobile de Tesla, fait désormais l’objet d’un procès contre l’entreprise. Il fait partie d’un nombre croissant d’accidents impliquant le pilote automatique qui ont alimenté les inquiétudes concernant les lacunes de la technologie et pourraient remettre en question le développement de systèmes similaires utilisés par les constructeurs automobiles rivaux. Et comme les voitures assument davantage de tâches auparavant effectuées par des humains, le développement de ces systèmes pourrait avoir des ramifications majeures, non seulement pour les conducteurs de ces voitures, mais pour les autres automobilistes, piétons et cyclistes.
Tesla, fondée en 2003, et son directeur général, Elon Musk, ont fait preuve d’audace en défiant l’industrie automobile, en attirant des fans et des clients dévoués et en créant une nouvelle norme pour les véhicules électriques avec laquelle d’autres constructeurs automobiles établis comptent. L’entreprise vaut plus que plusieurs grands constructeurs automobiles réunis.
Mais les accidents impliquant le pilote automatique pourraient menacer la réputation de Tesla et forcer les régulateurs à prendre des mesures contre l’entreprise. La National Highway Traffic Safety Administration a mené environ deux douzaines d’enquêtes actives sur les accidents impliquant le pilote automatique.
Au moins trois conducteurs de Tesla sont décédés depuis 2016 dans des accidents dans lesquels le pilote automatique était engagé et n’a pas réussi à détecter les obstacles sur la route. Dans deux cas, le système n’a pas freiné pour les semi-remorques traversant les autoroutes. Dans le troisième, il n’a pas reconnu une barrière concrète. En juin, l’agence fédérale de sécurité routière a publié une liste montrant qu’au moins 10 personnes ont été tuées dans huit accidents impliquant le pilote automatique depuis 2016. Cette liste n’inclut pas l’accident qui a tué Jovani Maldonado.
La crédibilité de Tesla en a pris un coup, et certains experts de la conduite autonome affirment qu’il est difficile de ne pas remettre en question les autres affirmations de M. Musk et de l’entreprise. Il a, par exemple, déclaré à plusieurs reprises que Tesla était sur le point de perfectionner le Full Self Driving, une technologie qui permettrait aux voitures de conduire de manière autonome dans la plupart des circonstances – ce que d’autres entreprises automobiles et technologiques ont déclaré dans des années.
M. Musk et Tesla n’ont pas répondu à plusieurs demandes de commentaires.
Le pilote automatique n’est pas un système de conduite autonome. Il s’agit plutôt d’une suite de logiciels, de caméras et de capteurs destinés à aider les conducteurs et à prévenir les accidents en prenant en charge de nombreux aspects de la conduite d’une voiture, même le changement de voie. Les dirigeants de Tesla ont affirmé que le transfert de ces fonctions aux ordinateurs rendrait la conduite plus sûre, car les conducteurs humains sont sujets aux erreurs et aux distractions, et sont à l’origine de la plupart des quelque 40 000 accidents mortels de la circulation qui surviennent chaque année aux États-Unis.
« Les ordinateurs ne vérifient pas leur Instagram » en conduisant, a déclaré le mois dernier le directeur de l’intelligence artificielle de Tesla, Andrej Karpathy, lors d’un atelier en ligne sur la conduite autonome.
La transition vers les voitures électriques
Pendant que le pilote automatique est aux commandes, les conducteurs peuvent se détendre, mais ne sont pas censés se déconnecter. Au lieu de cela, ils sont censés garder les mains sur le volant et les yeux sur la route, prêts à prendre le relais au cas où le système deviendrait confus ou ne parviendrait pas à reconnaître des objets ou un scénario de circulation dangereux.
Mais n’ayant rien à faire d’autre que regarder droit devant, certains conducteurs semblent incapables de résister à la tentation de laisser leur attention vagabonder pendant que le pilote automatique est activé. Des vidéos ont été publiées sur Twitter et ailleurs montrant des conducteurs lisant ou dormant au volant d’une Tesla.
L’entreprise a souvent blâmé les conducteurs de ses voitures, leur reprochant dans certains cas de ne pas garder les mains sur le volant et les yeux sur la route lors de l’utilisation du pilote automatique.
Mais le National Transportation Safety Board, qui a terminé les enquêtes sur les accidents impliquant le pilote automatique, a déclaré que le système manquait de garanties pour empêcher les abus et ne surveillait pas efficacement les conducteurs.
Des systèmes similaires proposés par General Motors, Ford Motor et d’autres constructeurs automobiles utilisent des caméras pour suivre les yeux d’un conducteur et émettre des avertissements lorsqu’il détourne le regard de la route. Après quelques avertissements, le système Super Cruise de G.M. s’arrête et oblige le conducteur à prendre le contrôle.
Le pilote automatique ne suit pas les yeux des conducteurs et ne surveille que si leurs mains sont sur le volant. Le système continue parfois de fonctionner même si le conducteur n’a les mains sur le volant que quelques secondes à la fois.
« Ce système de surveillance est fondamentalement faible car il est facile à tricher et ne surveille pas de manière très cohérente », a déclaré Raj Rajkumar, professeur à l’Université Carnegie Mellon qui se concentre sur la technologie de conduite autonome.
Consumer Reports a déclaré en mai qu’un de ses ingénieurs avait pu activer le pilote automatique dans une Tesla et se glisser sur le siège arrière pendant que la voiture continuait de rouler. La California Highway Patrol a déclaré en mai qu’elle avait arrêté un homme qui était sorti du siège conducteur de sa Model 3 alors qu’elle se déplaçait.
Le pilote automatique peut également être utilisé sur les routes de la ville, où les intersections, les piétons et la circulation venant en sens inverse rendent la conduite plus difficile que sur les autoroutes. Le Super Cruise de G.M. ne fonctionne que sur les autoroutes divisées.
Pourtant, M. Musk a souvent défendu le pilote automatique. La société a cité ses propres statistiques pour affirmer que les voitures conduites avec le système activé sont impliquées dans moins d’accidents par mile que les autres voitures. Jeudi dernier, il a écrit sur Twitter, que « les accidents sur le pilote automatique sont de plus en plus rares ».
La National Highway Traffic Safety Administration n’a pas obligé Tesla à modifier ou à désactiver le pilote automatique, mais en juin, elle a déclaré qu’elle obligerait tous les constructeurs automobiles à signaler les accidents impliquant de tels systèmes.
Plusieurs poursuites ont été intentées contre Tesla cette année seulement, dont une en avril devant un tribunal de l’État de Floride concernant un crash à Key Largo en 2019. Une Tesla Model S avec pilote automatique activé ne s’est pas arrêtée à une intersection en T et s’est écrasée contre une Chevrolet Tahoe garée sur une épaule, tuant Naibel Leon, 22 ans. Une autre plainte a été déposée en Californie en mai par Darel Kyle, 55 ans, qui a subi de graves blessures à la colonne vertébrale. lorsqu’une Tesla sous contrôle du pilote automatique a fait reculer la camionnette qu’il conduisait.
L’accident qui a tué Jovani Maldonado est un cas rare où la vidéo et les données de la voiture Tesla sont devenues disponibles. L’avocat des Maldonados, Benjamin Swanson, les a obtenus de Tesla et les a partagés avec le New York Times.
M. Maldonado et son épouse, Adriana Garcia, ont déposé leur plainte devant la Cour supérieure du comté d’Alameda. Leur plainte affirme que le pilote automatique contient des défauts et n’a pas réagi aux conditions de circulation. Le procès nomme également comme défendeurs le conducteur de la Tesla, Romeo Lagman Yalung de Newark, en Californie, et sa femme, Vilma, propriétaire de la voiture et assise sur le siège passager avant.
M. Yalung et son avocat n’ont pas répondu aux demandes de commentaires. Lui et sa femme, qui n’ont pas été blessés dans l’accident, n’ont pas encore traité la plainte de la famille Maldonado devant le tribunal.
Dans les dossiers judiciaires, Tesla n’a pas encore répondu à l’allégation selon laquelle le pilote automatique aurait mal fonctionné ou serait défectueux. Dans des courriels adressés au cabinet de M. Swanson qui ont été déposés comme pièces à conviction devant le tribunal, un avocat de Tesla, Ryan McCarthy, a déclaré que le conducteur, et non Tesla, était responsable.
« La police a reproché au conducteur de Tesla – et non à la voiture – son inattention et sa conduite à une vitesse dangereuse », a écrit M. McCarthy. Il n’a pas répondu aux courriels demandant des commentaires.
M. Maldonado travaille pour PepsiCo, livrant des boissons aux détaillants. La famille, qui comprend deux autres enfants, vit à San Lorenzo, à environ 24 km au nord de Fremont.
Dans des réponses écrites aux questions, M. Maldonado a déclaré que lui et sa femme étaient trop dévastés pour parler dans une interview. « Nous vivons au jour le jour, dit-il. « Il y a tellement de tristesse à l’intérieur. Nous faisons des promenades en famille et essayons de faire des choses ensemble comme aller à l’église. Il y a un énorme trou dans la famille.
M. Maldonado a décrit son fils comme un étudiant de deuxième année sortant du secondaire qui aimait chanter et prévoyait d’aller à l’université. Son rêve était de devenir footballeur professionnel et d’acheter une maison à ses parents. « Comme tout enfant reconnaissant, il voulait prendre soin de ses parents comme ils l’ont fait pour lui », a déclaré M. Maldonado.
Les données et la vidéo permettent un aperçu détaillé du fonctionnement du pilote automatique dans les secondes précédant le crash. Les véhicules Tesla enregistrent en permanence de courts extraits de caméras tournées vers l’avenir. Si un crash se produit, la vidéo est automatiquement enregistrée et téléchargée sur les serveurs de Tesla, a déclaré un responsable de l’entreprise dans des e-mails inclus dans les pièces à conviction déposées par M. Swanson.
La vidéo enregistrée par la voiture que conduisait M. Yalung montre qu’elle dépasse des véhicules à droite et à gauche. Quatre secondes avant l’impact, M. Maldonado a allumé son clignotant. Il a clignoté quatre fois alors que son Explorer était dans sa voie d’origine. Un cinquième éclair s’est produit alors que son camion enjambait les voies. Dans des documents judiciaires, M. Maldonado a déclaré qu’il avait remarqué que la Tesla s’approchait rapidement dans son rétroviseur et qu’il avait tenté de faire un écart.
Dans la majeure partie de la vidéo, la Tesla a maintenu une vitesse de 69 miles par heure, mais juste avant l’impact, elle a brièvement augmenté à 70 mph. puis ralenti dans la dernière seconde, selon les données de la voiture.
M. Rajkumar de Carnegie Mellon, qui a examiné la vidéo et les données à la demande du Times, a déclaré que le pilote automatique n’avait peut-être pas freiné pour l’Explorer parce que les caméras de Tesla faisaient face au soleil ou étaient confuses par le camion devant l’Explorer. La Tesla était également équipée d’un capteur radar, mais cela ne semble pas avoir aidé.
« Un radar aurait détecté la camionnette et aurait évité la collision », a déclaré M. Rajkumar dans un courriel. « Donc, les sorties radar n’étaient probablement pas utilisées. »
Le camion de M. Maldonado s’est renversé et a percuté une barrière, selon le rapport de police. Il avait un pare-brise brisé et un toit froissé, et l’essieu arrière s’était desserré. La Tesla avait un toit froissé, son extrémité avant était mutilée, son pare-chocs était en partie détaché et son pare-brise était fissuré.
Jovani Maldonado a été retrouvé allongé face contre terre sur l’épaule de l’Interstate 880, son sang s’accumulant.
