Eudoxe DENIS

Directeur des affaires publiques de Plastic Omnium

Limites de l'IA : le cas de l'automobile

Produire des véhicules totalement autonomes n'est certainement pas pour demain. De tels objets coûteraient si cher que seules de rares personnes pouvant déjà largement rémunérer un chauffeur seraient en capacité de les acquérir. Mais bien au-delà des coûts, le recours massif à l'intelligence artificielle ne saurait réussir à forger une autonomie satisfaisante. La conduite doit rester aussi une expérience humaine.

L'avènement du véhicule autonome illustre de manière emblématique le déploiement de l'intelligence artificielle (IA) dans notre vie quotidienne. Mais le récit de cet avènement - annoncé comme imminent et pourtant sans cesse retardé - témoigne aussi des ambiguïtés associées aux potentialités de cette IA. On se concentrera dans cet article sur trois d'entre elles.

Première ambiguïté : la surestimation de l'intelligence artificielle elle-même. Dans le cas du véhicule autonome, cela conduit à surévaluer les progrès accomplis dans l'automatisation de la conduite et à se focaliser sur les questions « éthiques » posées par la délégation au véhicule de décisions aux conséquences potentiellement fatales (le fameux « dilemme du tramway ») 1, alors même que les défis posés par la perception et l'interprétation de son environnement n'ont pas encore été résolus.

Deuxième sujet : la relation homme-machine. Les acteurs investis dans le développement du véhicule autonome divergent de manière parfois cruciale sur la manière d'envisager cette relation, avec une vision qui oscille entre antagonisme (l'algorithme de pilotage étant là pour éliminer le facteur humain) et coopération (l'algorithme de pilotage étant là pour « augmenter » les capacités du conducteur).

Troisième problématique : la finalité dans laquelle s'inscrit l'automatisation. Si les promoteurs du véhicule autonome justifient son développement pour résoudre un certain nombre de défis sociaux, des voix critiques s'élèvent pour rappeler qu'il n'existe pas nécessairement d'adéquation entre progrès technologique et progrès social ou anthropologique. La nouvelle expérience de mobilité qui nous est promise serait en réalité factice, car pauvre en sensations et en interactions sociales. En voulant nous libérer du fardeau de la conduite les promoteurs du véhicule autonome nous priveraient de notre capacité d'agir.

Un décalage entre annonces et réalité

L'automatisation de la conduite automobile a connu des développements significatifs depuis le début des années 2000, en raison des possibilités nouvelles en matière de puissance de calcul et de collecte à très large échelle des données. Ces développements conséquents, réalisés à l'origine par des acteurs extérieurs au monde de l'automobile, ont été fortement médiatisés car ils allaient dans le sens du discours en vogue sur la « disruption » des industries traditionnelles. Contraints de répliquer, les constructeurs automobiles ont intégré le développement du véhicule autonome dans leur stratégie, tout en replaçant celui-ci dans la continuité de leurs efforts passés pour développer des systèmes de sécurité actifs et d'assistance à la conduite.

C'est dans le cadre de cette rivalité qu'il convient de replacer certaines promesses tonitruantes, comme celle d'Elon Musk, président de Tesla, annonçant en 2015 que les véhicules commercialisés sous cette marque disposeraient d'une autonomie complète en 2017 et du feu vert du régulateur l'année suivante.

Le témoignage des experts directement chargés du développement du véhicule autonome donne une vision plus mesurée - et plus fiable - de l'état d'avancement du véhicule autonome. Comme l'explique ainsi Bryan Salesky, le fondateur d'Argo AI, une start-up rachetée par Ford, « nous sommes encore au tout début de la concrétisation des voitures autonomes. Ceux qui pensent que les véhicules entièrement autonomes seront omniprésents dans les rues des villes d'ici quelques mois ou quelques années ne sont pas au fait de l'état de la technique et ne sont pas déterminés à déployer la technologie en toute sécurité » 2.

Des défis qui persistent

Au-delà de la confusion volontairement entretenue sur les différents niveaux d'autonomie dont disposent réellement les véhicules commercialisables, la raison de ce décalage tient à la complexité des enjeux à résoudre.

Pour être entièrement autonome, une voiture se doit en effet de réaliser trois tâches distinctes : la perception (déterminer ce qui se passe autour d'elle), la prévision (déterminer ce qui se passera ensuite) et la politique de conduite (prendre les mesures qui s'imposent). S'il est tentant de voir dans cette dernière tâche le principal enjeu, dans la mesure où en découleraient d'éventuels dilemmes moraux auxquels serait confronté l'algorithme de pilotage du véhicule dans une situation de danger immédiat 3, la politique de conduite est en réalité la tâche la plus simple. Le concepteur de Google Car, Sebastian Thrun, estime ainsi qu'elle ne représente que « 10 % du problème ». La perception et la prédiction sont les points difficiles.

La perception du véhicule autonome repose sur des composants matériels et logiciels. Du côté des composants matériels, la détection des objets environnants est assurée par une combinaison de caméras et de radars, chacun de ces capteurs disposant de caractéristiques spécifiques, qu'il s'agisse de leur résolution, de leur champ de vision, de leur portée, de leur fiabilité et enfin de leur coût. Leur combinaison et leur redondance permettent de viser une certaine robustesse et une certaine fiabilité. Du côté logiciel, les approches combinent vision par ordinateur (computer vision) et apprentissage en profondeur (deep learning) - cette dernière technique étant aussi utilisée pour les tâches de prédiction.

Si de nombreux progrès sont encore à attendre tant du côté des composants matériels que logiciels, dans l'état des technologies utilisées la perception des véhicules « autonomes » en situation de test reste aujourd'hui très imparfaite. Ils peinent à distinguer leur environnement, notamment lorsque les conditions météo sont mauvaises, et à réagir en cas d'événements atypiques.

Surtout, ils sont encore très loin de pouvoir se déplacer de manière non supervisée dans un environnement urbain, situation qui requerrait par exemple de résoudre les défis suivants : pouvoir distinguer si une personne située à côté d'un vélo marche ou fait du vélo ; grouper ou détecter avec précision deux personnes se tenant côte à côte (ou une personne se situant juste à côté d'une voiture) en tant que deux usagers de la route distincts ; interpréter correctement le contexte d'une scène, par exemple les signaux de la main d'un agent de la circulation ou d'un autre conducteur sur une intersection à quatre voies.

Ce dernier exemple illustre l'un des grands défis de la robotique adapté à la conduite, du moins si l'on envisage une coexistence du véhicule autonome avec d'autres véhicules « standards ». La conduite en ville consiste en des centaines de contrats sociaux de courte durée entre les agents, imperceptibles aux yeux des machines (les regards, les signes de sympathie, de courtoisie) et sur lesquels l'être humain possède une expertise intuitive.

Maintenir ou non l'humain dans la boucle

De manière plus générale, conduire fait appel à la fois à nos capacités cognitives - pour lesquelles les progrès actuels de l'IA lui donnent un avantage - et à notre intuition et à nos capacités sensori-motrices - pour lesquelles nous conservons des atouts par rapport à la machine. Le développement du véhicule autonome implique donc une réflexion sous-jacente sur la nature de l'interaction homme-machine.

Sur cet aspect, différentes stratégies sont à l'oeuvre chez les acteurs engagés dans le développement du véhicule autonome. Pour schématiser, là où les constructeurs automobiles traditionnels se sont engagés sur la voie d'une autonomie graduelle, l'ambition d'un Google est de parvenir à mettre sur le marché un véhicule d'emblée 100 % autonome. La première approche se justifie par une logique d'innovation incrémentale, à partir des progrès déjà accomplis en matière de conduite assistée ; la seconde vise à prévenir un risque de distraction chez les conducteurs humains qui serait accru par leur impression de pouvoir s'en remettre totalement à leur véhicule, alors que son autonomie ne serait que partielle.

Pour Gill Pratt, le responsable chez Toyota du développement du véhicule autonome, ces deux approches renvoient à deux conceptions divergentes de l'autonomie : l'autonomie « parallèle » - la machine est un « ange gardien » qui surveille le conducteur et l'aide à ne pas commettre d'erreur -, et l'autonomie « sérielle » : elle se substitue à lui.

Les détracteurs de la première approche s'appuient sur l'exemple de l'aéronautique. Comme l'a tragiquement illustré le crash du vol 447 d'Air France, l'usage du pilote automatique a entraîné une diminution des réflexes et l'augmentation des erreurs de pilotage des opérateurs humains. La diminution des accidents routiers - principal argument brandi par les promoteurs d'une voiture sans conducteur - imposerait donc la voie de l'autonomie complète.

Cette seconde approche comporte un double écueil : elle pèche à la fois par utopisme - même si elle devait être considérée comme souhaitable, l'élimination du facteur humain relève d'une tâche impossible - et par optimisme - si les erreurs humaines sont aujourd'hui responsables de l'essentiel des accidents de la route, le véhicule autonome n'en comporterait pas moins des risques spécifiques.

Pour le professeur au MIT David A. Mindell, dont l'expertise repose notamment sur vingt-cinq ans d'ingénierie autour des robots-explorateurs sous-marins et sur son expérience dans l'aéronautique, l'autonomie complète relève d'un mythe, dans la mesure où la façon dont un système est conçu, par qui et dans quel but, façonne en quelque sorte ses capacités et ses possibilités d'interaction avec les personnes qui l'utilisent. La véritable prouesse technologique ne résiderait pas dans l'autonomie complète, mais dans la capacité à inscrire la machine dans un contexte social et humain : « Maintenir l'humain dans la boucle requiert une technologie plus sophistiquée que la simple automatisation.» 4

Des finalités poursuivies par l'automatisation de la conduite

Pour ses promoteurs, la voiture sans conducteur est porteuse d'une triple promesse : épargner des vies humaines en réduisant de manière drastique le nombre d'accidents, réduire la congestion, notamment dans les grandes villes, et rendre enfin à ses utilisateurs un temps précieux qui pourrait être consacré à leur travail ou leurs loisirs.

La première affirmation est en réalité assortie de conditions implicites : pour que le risque d'accident soit nul, elle suppose que 100 % des véhicules déployés sur les routes soient entièrement autonomes. Surtout, elle néglige l'apparition d'un risque nouveau, lié à la défaillance de la machine et qui pourrait prendre tant la forme d'une erreur ponctuelle, dans une situation de conduite donnée, que se matérialiser de façon beaucoup plus systémique, en affectant simultanément un très grand nombre de véhicules. Une erreur informatique, ou un piratage, aurait des conséquences à grande échelle. On se trouverait alors confronté à un risque de pointe, c'est-à-dire à la probabilité très faible mais aux conséquences majeures.

La seconde proposition néglige un élément bien connu des spécialistes des transports : l'effet rebond. On peut en effet considérer que la demande de mobilité s'accroisse dans les grandes villes avec la diminution des coûts de transport liée à l'arrivée des robots-taxis et le fait que la circulation apparaisse dans un premier temps plus fluide. De manière intéressante, dans l'étude très médiatisée du Forum international des transports de l'OCDE de 2015 sur les conséquences du déploiement du véhicule autonome dans une ville comme Lisbonne, c'est le fait que celui-ci soit partagé entre plusieurs utilisateurs, plus que la conduite autonome, qui explique la diminution drastique du trafic 5. Or, de manière générale, l'appétence des utilisateurs pour le covoiturage est très largement surestimée, tandis qu'à l'inverse on sous-estime combien avoir à sa disposition un véhicule compte autant, sinon davantage, que sa fréquence d'utilisation dans les choix d'équipement d'un ménage.

En apparence la moins contestable, la dernière proposition est en réalité la plus préoccupante - du moins si l'on juge d'après l'analyse du philosophe Matthew Crawford. Selon lui, l'automatisation de la conduite s'inscrit dans une tendance déjà à l'oeuvre dans la conception des véhicules - avec l'arrivée de l'électronique, notamment - qui a eu pour effet de rompre le lien qui existe entre le conducteur et la route, en substituant chez ce dernier une expérience acquise par médiation à l'expérience ressentie : «La conception des automobiles a été orientée vers l'isolement, offrant une expérience de conduite de moins en moins complexe. L'idéal semble de faire du conducteur un observateur désincarné, traversant un monde d'objets se présentant comme sur un écran.» 7 L'automatisation de la conduite parachèverait cette évolution, faisant de son passager un individu passif, dont la capacité d'attention pourrait dès lors être « colonisée » par les entreprises des nouvelles technologies.

On peut ici s'interroger sur la recherche d'une autonomie complète du véhicule qui se réaliserait ainsi au détriment de celle de son conducteur - si l'on entend par là sa capacité d'agir -, alors qu'au contraire l'immense succès de la voiture au XXe siècle tient au fait que, davantage encore qu'un instrument, elle était le prolongement - quasi physique - du désir de liberté de son utilisateur.

Le réel défi n'est donc pas de parvenir à l'autonomie complète, mais d'inscrire l'autonomie dans un contexte où celle-ci puisse contribuer à enrichir et non appauvrir l'expérience humaine. C'est en effet ainsi qu'on pourra parler d'une véritable innovation.


L’auteur s’exprime ici à titre personnel.


  1. Sur ce point, voir l'article d'Élisabeth Grosdhomme dans ce numéro de Constructif. Le dilemme du tramway est une expérience de pensée : une personne peut effectuer un geste qui bénéficiera à un groupe de personnes A, mais, ce faisant, nuira à une personne B ; dans ces circonstances, est-il moral pour la personne d'effectuer ce geste ? Si un tramway ou une voiture est totalement autonome, l'algorithme peut avoir le choix, en cas de perspective d'accident, de choisir une vieille dame ou un enfant à heurter. Comment éthiquement programmer l'algorithme ?
  2. Sur les activités de Argo AI, voir www.argo.jpg.
  3. S'il a le choix, par exemple, entre percuter un enfant, entrer en collision avec une personne âgée, ou se projeter contre un mur (et ne tuer que le passager du véhicule autonome).
  4. David A. Mindell, Our Robots, ourselves: Robotics and the myth of autonomy, Viking, 2015
  5. Pour les rapports du Forum international des transports de l’OCDE (ITF Transport Outlooks), voir https://www.oecd-ilibrary.org/fr/transports.
  6. Matthew Crawford, The world beyond your head: How to flourish in an age of distraction, Viking, 2015.
http://www.constructif.fr/bibliotheque/2019-10/limites-de-l-ia-le-cas-de-l-automobile.html?item_id=5709
© Constructif
Imprimer Envoyer par mail Réagir à l'article