Robots et intelligence artificielle : quelle place pour l’homme dans les futures capacités militaires françaises ?

posted Modifié 👁 Veille


© Geostrategia ✎ Ce texte peut être visionné sur le site du CHEM

L’article aborde la question avec une double approche, celle du militaire en veille stratégique vis-à-vis de ruptures pouvant bouleverser l’art de la guerre, celle de l’ingénieur en veille technologique vis-à-vis des innovations susceptibles d’accoucher des capacités et services décisifs du futur. C’est bien à la croisée de ces deux exigences que s’inscrit cette analyse rigoureuse et prospective des conséquences de la révolution robotique et de l’intelligence artificielle dans les affaires militaires.

Résumé

Née dans les années 1950, cette dernière a d’abord vu son développement contrarié par des puissances de calcul limitées malgré une croissance exponentielle suivant la loi de Moore. Ce n’est qu’à partir des années 1990 que les premiers systèmes intégrant une intelligence artificielle sont apparus au sein de systèmes experts, mono-tâche dans un premier temps. La description des technologies et de leurs développements a été volontairement exclue, afin de rester accessible à un public non scientifique. La perspective sur l’intelligence artificielle a été limitée à une quinzaine d’année, pour ne pas entrer dans les débats trans-humanistes sur des intelligences artificielles supérieures à l’homme , dont l’apparition est prédite au-delà de 2030.

Parmi les nombreuses définitions disponibles, le terme robot employé ci-après correspond à une machine disposant à la fois de moyens de perception de l’environnement , de capacités de traitement de l’information et de moyens d’action sur son environnement.

Transformation importante et rapide du secteur civil

Le développement des véhicules autonomes, technologie dans laquelle s’engouffrent non seulement tous les constructeurs automobiles, traditionnels ou nouveaux entrants , vient en premier à l’esprit quand il s’agit d’illustrer l’irruption de l’intelligence artificielle et de la robotique dans les activités humaines. Elle progresse déjà actuellement dans tous les secteurs de l’économie, y compris les plus inattendus comme en atteste par exemple l’adoption du robot Ross d’IBM dans les cabinets d’avocat ou dans le domaine de l’assurance. Les précédentes révolutions industrielles avaient profondément modifié le monde militaire. Il ne fait pas de doute qu’une fois encore, celui-ci se verra profondément impacté par ces transformations.

Malgré une longue histoire, des perspectives actuellement limitées dans le domaine militaire

Le secteur aérospatial a vu se poursuivre le mouvement au milieu du 20ème siècle, avec le développement des engins cibles issus notamment des technologies de missiles V1 et V2 . Enfin, si les avancées sont réelles pour le naval avec le lancement en 2016 du programme de guerre des mines futur , les frégates de taille intermédiaire constitueraient a contrario une régression du point de vue de l’automatisation, tout en répondant à un besoin de soutenabilité sur le plan des ressources humaines . D’ici une quinzaine d’années, le paradigme qui prévalait d’excellence technologique des capacités militaires par rapport aux produits de grande consommation pourrait se trouver totalement inversé.

Évolution des rapports de force et fin de la suprématie des grandes nations occidentales

La première raison est le caractère naturellement proliférant des technologies du numérique, qui ne nécessitent pas, pour être implémentées, les savoir-faire spécifiques détenus par une base industrielle de défense, qui sont parfois non « documentables » ou numérisables et dont la transmission passait jusqu’à maintenant essentiellement par le transfert d’expérience . Au niveau mondial, le nombre de publications dans le seul domaine du deep learning a été multiplié par douze entre 2012 et 2015. Conséquemment, elle pourrait le devenir également face aux pays constituant leurs marchés export. L’accessibilité importante de ces technologies pourrait en outre nous amener en position de symétrie technologique ou de faible avantage face aux organisations non étatiques de type terroriste utilisant des technologies civiles.

Les robots confrontés aux principes de la guerre et à son évolution

Si jusqu’à présent, l’introduction des robots dans les capacités militaires a été limitée à la seule volonté d’affranchir l’homme de certaines tâches précises liées à des situations répétitives ou dangereuses , la robotique et l’intelligence artificielle vont en réalité modifier bien plus profondément et globalement notre stratégie, notre modèle d’armée, voire les modalités et les fondements de l’action militaire, de l’usage légitime de la force. En effet, confrontés aux principes traditionnels de la guerre, l’intelligence artificielle et les robots sont susceptibles de présenter des progrès importants par rapport aux capacités traditionnelles en termes d’économie des moyens , de concentration des efforts et de liberté d’action . Quant aux robots numériques opérant dans le domaine du cyber, sur les médias numériques et réseaux sociaux, ils offrent de nouvelles possibilités de gagner la guerre, sans engagement cinétique, et sont d’une importance majeure dans les doctrines de guerre hybride. La robotique peut ainsi être un outil de mise en œuvre de stratégies globales et polyvalentes, y compris dans le champ des perceptions avec les robots numériques interactifs .

Les robots semblent en outre à même de compléter des capacités traditionnelles numériquement contraintes par la ressource financière ou humaine, afin de satisfaire le besoin du nombre qui résulte à la fois de la taille inédite depuis la seconde guerre mondiale des théâtres d’opérations , du besoin de compenser la diminution du format des armées accéléré depuis l’abandon de la conscription et la fin de la guerre froide. En l’espèce, les robots compenseront la diminution de la densité humaine d’occupation militaire et n’ont pas de limite autre que celles de leurs batteries pour durer sur le terrain. Ils permettront de compenser l’aversion croissante au risque de notre société, d’éviter les pertes humaines susceptibles de mettre à mal la résilience de la nation et donc la volonté politique. Les robots pourront constituer la nouvelle « chair à canon » nécessaire pour combattre dans les milieux difficiles et dangereux, face à un adversaire mettant en œuvre des modes d’action d’une violence exacerbée et faisant preuve d’un niveau de détermination maximal allant jusqu’au suicide.

Ils offrent vitesse et précision à des niveaux inégalables par l’homme, réduisant par la même occasion le nombre des soldats et pilotes exposés à la mort ou aux blessures de guerre. En sauvant des vies , les robots seraient ainsi à même de préserver ce qui constituerait la principale vulnérabilité de nos forces, le centre de gravité ami .

Les avantages des robots militaires sur le soldat

Dans un monde de plus en plus numérisé et connecté, ils sont seuls à même de mobiliser et d’accéder rapidement aux données de masse. Ils pourraient permettent enfin de mettre en oeuvre des capacités tactiques « inhumaines », telle que la modification de forme ou d’échelle . En termes d’entraînement, l’apprentissage d’un robot est naturellement en progression continue et quasi instantané , alors que la transmission de l’expérience, imparfaite, est à recommencer à chaque génération de soldat ou d’officier et nécessite des durées importantes de formation.

Les robots comme opportunité pour maintenir un modèle d’armée dans un budget contraint

Pour Peter Warren Singer, spécialiste américain de la guerre moderne, le coût de déploiement d’un soldat était en Afghanistan considérablement plus élevé que celui d’un robot. L’introduction de robots aura un effet à la baisse sur les dépenses budgétaires liées à l’homme ou à son activité, en volume mais également par recours accru à la simulation pour l’entraînement. L’effet sur les pensions est également à prendre en compte dans cette équation. « Au troisième et dernier stade, s’est créée ses missions propres qui n’ont plus qu’un rapport indirect avec la conduite des opérations telle qu’on la concevait antérieurement à sa naissance ».

S’il est difficile de prévoir a priori les usages de nouvelles technologies, cette difficulté est exacerbée pour la robotique et l’intelligence artificielle, dont les recherches foisonnent tous azimuts aujourd’hui. Ce concept de robotique, prolongement naturel de nos plateformes de combat aux systèmes centralisés et mettant en oeuvre de nombreux capteurs et effecteurs, est décrit par P. W. Singer qui le nomme Mothership. Fondé sur la concentration de la puissance de feu, le pouvoir de décision repose sur des manœuvres mécaniques, l’allocation de ressources s’effectue en mode point and click. A l’inverse, les réflexions sur les intelligences distribuées et les concepts d’essaim sont en France limitées à quelques recherches académiques , alors que l’US Air Force expérimente déjà des démonstrateurs d’essaims d’une centaine de mini drones aériens.

Compte tenu du rythme actuel des progrès technologiques, il s’agit au contraire d’intégrer à nos réflexions la diversité des technologies émergentes.

Pertinence des réticences morales ou éthiques ?

L’autonomie décisionnelle et l’autoapprentissage font par contre surgir le spectre d’une perte de contrôle. L’interdiction de l’usage de l’arc et de l’arbalète en 1139 ne fut aucunement respectée lors des conflits qui suivirent. De même, les prises de position des évêques d’Orléans et de Verdun en 1973 montrent que les oppositions à la dissuasion nucléaire continuèrent à être vives dix ans après sa mise en place en France, mais sans effet . Il est peu probable que les débats actuels sur la limitation pour raisons morales des drones militaires, soupçonnés de déshumaniser la guerre, soient conclusifs, dès lors qu’une telle limitation, de même que pour l’arbalète, ne saurait être universelle.

En effet, la question ne semble pas se poser en Orient par exemple, probablement du fait d’une distinction moindre entre les êtres animés et les objets inanimés. Le Shintoïsme et le Bouddhisme semblent en effet favoriser naturellement l’intégration des robots dans la société, ceux-ci faisant partie de l’ordre naturel des choses, faisant même parfois l’objet de rites funéraires. Enfin, il est curieux de constater qu’alors que le débat est intense sur les robots armés autonomes qui n’existent pas encore, il n’a jamais eu lieu véritablement concernant l’usage d’animaux – avéré ou potentiel – par les russes . D’un point de vue philosophique, même si le robot autonome peut sous certains aspects ressembler au mercenaire ou à l’animal domestiqué, il ne pourrait être maître de ses actes puisqu’il dépend de sa programmation.

A grand bruit, de nombreuses personnalités reconnues, incluant Elon Musk et Stephen Hawking, ont demandé récemment leur interdiction. De même, bien que certains considèrent les robots comme une nouvelle catégorie d’armes de destruction massive – considérant qu’un niveau d’autonomie suffisant permettrait à un faible nombre d’opérateurs de provoquer des destructions importantes en dirigeant une myriade de robots – ce risque ne saurait être maîtrisé par une mise au ban. La facilité d’accès ne permet en effet pas d’appliquer les recettes qui sont efficaces en termes de lutte contre la prolifération nucléaire. Elle pourrait être envisagée pour les projets de défense.

Les robots posent-ils des questions juridiques ?

Les débats se focalisent là aussi uniquement sur la question de l’interdiction des systèmes d’armes létaux autonomes, avec un engagement fort des organisations non gouvernementales depuis plusieurs années en faveur d’une interdiction . Cette pression a conduit au lancement d’une réflexion informelle dès 2014 sous couvert de l’ONU, dans le cadre de la convention sur certaines armes classiques . Fin 2016, un groupe d’experts a été officiellement créé pour deux ans. Les membres permanents occidentaux du conseil de sécurité quant à eux souhaitent orienter les travaux vers le partage des bonnes pratiques et la transparence sur les modalités de prise en compte des aspects juridiques dans l’acquisition des nouveaux armements.

Encore très fantasmés, il est difficile d’anticiper ce dont seront réellement capables les robots autonomes militaires, quels seront leurs usages et les contextes dans lesquels nous pourrions ou devrions y avoir recours, avec le risque de mettre en place un droit inadapté. De même, la vitesse d’évolution du monde et le risque de résurgence de dangers inédits à l’horizon de 15 ans incitent à la prudence et à relativiser l’intangibilité du droit par rapport aux circonstances . La raison originelle invoquée par les ONG favorables à une interdiction est le manque actuel de clarté sur les chaînes des responsabilités dans l’emploi des robots armés, l’absence de responsabilité pouvant faciliter l’usage illégitime de la force voire les comportements inhumains ou non conformes aux règles du droit international. Or, il ne fait pas de doute que des clarifications seront rapidement apportées par le secteur civil, car elles sont nécessaires pour le développement des marchés, tel que celui des voitures autonomes .

Sous réserve d’une programmation adéquate, il n’y a pas d’obstacle technique insurmontable à l’implémentation des obligations de protection des civils et des combattants, et en particulier l’interdiction de « ne pas faire de quartier ». On peut en effet considérer que les robots sont plus précis et prédictibles que l’homme, ne connaissent pas l’esprit de vengeance. Quant à la question de l’impossibilité pour un robot d’appliquer « le principe d’humanité dans l’acte de guerre » , elle dépasse largement le seul champ juridique et doit être considérée sous l’angle philosophique, de la psychologie ainsi que des neurosciences. Le débat ne peut se limiter à ne voir que l’inhumanité du robot sans aborder également l’humanité de l’être humain lui-même.

Les écrits d’Hannah Arendt à la suite du procès d’Eichmann , les comptes rendus des expériences de Milgram ou de Stanford mettent en évidence la relativité de l’humanité de l’individu et de sa capacité à distinguer le bien du mal, en particulier dans des contextes autoritaires, agressifs ou en situation de stress. Ils relativisent le risque de « bulle de technologisation » qui serait susceptible de conduire à des comportements immoraux, conscients ou non, par les opérateurs de robots .

Les robots facteurs de banalisation de la guerre et d’augmentation et de la violence ?

De Cortès à Lyautey, la poudre et la mécanisation ont ainsi été décisives pour les colonisations. L’arme nucléaire a été au centre des relations Est-Ouest de l’après-guerre. Les nouveaux armements peuvent dissuader de la guerre, mais aussi inciter à la déclarer. Ils considèrent que celui-ci serait alors plus enclin à décider de l’usage de la force armée, décision plus facile et moins risquée politiquement compte tenu de la réduction du risque de perte humaine.

Dans le cadre d’engagement asymétrique, il est souvent évoqué par les détracteurs que l’effet sur l’ennemi des robots serait délétère pour notre population, en reportant sur elle les attaques d’un ennemi vengeur devenu impuissant à nous occasionner des pertes. Il est aussi reproché que l’efficacité de l’action militaire serait amoindrie par la robotique, compte tenu de l’image de lâcheté qu’elle véhiculerait, incitant l’ennemi à poursuivre le combat. Encore une fois, ce n’est pas aux robots qu’il faut attribuer ces risques mais à notre modèle occidental de supériorité technologique. En engagement asymétrique, le robot est la continuation d’un modèle créant entre nous et notre adversaire les conditions d’une asymétrie du risque , indispensable pour ne pas être amené à l’inaction quand il y a asymétrie des enjeux .

Un belligérant équipé de robots disposera en effet d’avantages décisifs face à son adversaire qui verrait son potentiel militaire plus durablement atteint par les pertes, mais également sa volonté et son moral plus durement ébranlés par les pertes humaines consenties jugées de valeur bien supérieures aux pertes matérielles occasionnées. La question qui reste à traiter sur l’impact au niveau stratégique de la robotique est son effet sur le règlement des conflits. Dans le cadre des opérations de contre insurrection, l’effet de distanciation créé par rapport à la population peut être contreproductif.

PILOTER LA TRANSFORMATION ET MAÎTRISER LES RISQUES

Il en sera de même de l’intelligence artificielle, indispensable pour limiter le besoin en servants et dès lors que la charge cognitive sera trop importante pour l’homme, les temps de réflexion trop contraints ou qu’il sera nécessaire de pallier la vulnérabilité aux communications . Pour se préparer à cette transformation, une réflexion globale doit être menée. Il apparaît en premier lieu nécessaire de rassurer et lever les réticences initiales naturelles, en maîtrisant les vulnérabilités nouvelles et en objectivant la place à laisser pour l’homme, dans un esprit de complémentarité. Il sera également nécessaire de créer les conditions favorables au développement des futures capacités robotisées, d’adapter nos méthodes et d’intégrer les nouveaux acteurs nécessaires.

Anticiper et se prémunir des vulnérabilités

Celle-ci peut être le fait d’une action de l’adversaire, tel que le détournement en 2007 par les Tamouls d’un satellite Intelsat. Elle peut également être involontaire, liée à une erreur humaine comme cela été le cas lors de plusieurs alertes nucléaires américaines dans les années 1970-80 , ou bien résulter d’un manque de maîtrise de la technologie, illustré par les dérives d’un chatbot de Microsoft en 2016 . L’enjeu sera, au-delà de la mise en place de dispositifs de protection comme cela est fait classiquement, de chercher à limiter les effets d’un inéluctable piratage ou bug. Dès la conception, la possibilité de barrières physiques sur le robot pourra être envisagée .

De même que pour la programmation de règles éthiques ou juridiques, des algorithmes de gouvernance pourront aussi limiter les actions ou cadres d’emploi autorisés en implémentant des règles d’engagement, y compris pour les systèmes à forte autonomie. Ces règles pourront être simples ou plus complexes . Au-delà des robots physiques, cette logique de limitation des effets non désirés pourrait être à appliquer également aux logiciels opérationnels. Il conviendra d’être vigilant sur la gravité des risques encourus en cas de mauvais fonctionnement voire, si nécessaire, de limiter volontairement l’interconnexion des réseaux pour limiter l’impact.

  • Le niveau de souveraineté à atteindre sur les intelligences artificielles doit également être défini.

Définir la place de l’homme

Afin d’objectiver cette question et sortir de l’émotion, un audit global des métiers et fonctions au sein des armées permettrait de définir et distinguer, à l’instar des études réalisées dans l’industrie, ceux qui pourraient être remplacés par des robots de ceux qui devront s’adapter à leur présence. Se poser la question systématique de la possible robotisation permettra de faire émerger les places et les fonctions pour lesquelles l’homme est indispensable. A contrario, une place devra être préservée pour l’homme pour les opérations spéciales et pour les opérations de contre insurrection ,. En effet, il s’agira de ne pas être prévisible et de conserver la créativité nécessaire pour appréhender des contextes toujours très différents, des situations inédites, ce qui est peu compatible avec l’auto-apprentissage .

Un audit sur les activités humaines devra également permettre de mettre en évidence les niveaux d’autonomie à viser pour les robots, en fonction des domaines. Cette démarche devra être conduite sans tabou.

Travailler la complémentarité Homme – robots

Il ne s’agirait donc pas de remplacer l’homme mais de le placer au centre, d’exploiter l’efficacité tactique du robot pour augmenter l’ingéniosité stratégique humaine. Ce concept du Centaure doit permettre, en outre, de tirer parti de l’avantage des armées occidentales, en faisant la synthèse entre supériorité technologique et supériorité dans la subsidiarité des chaînes de commandement, à comparer aux systèmes très centralisés des armées russes ou chinoises. Dans ces moments décisifs pour la suite des opérations ou le règlement d’un conflit, conserver l’homme au centre est nécessaire.

Faciliter l’acceptabilité

L’inconscient collectif occidental est alimenté par les œuvres de science-fiction bien souvent associées à des catastrophes liées à la perte de contrôle des robots par l’homme, malgré ses efforts pour définir des règles, par accident ou naïveté . La communication peut contribuer à compenser cette « peur de la modernité », survenue à de nombreuses reprises dans l’histoire des technologies. Enfin, comme le constate Antoine Petit, président directeur général de l’institut national de recherche en informatique et en automatique , l’informatique souffre d’une illusion de familiarité – « tout le monde maîtrise Windows » – qui limite le recours au spécialiste, nécessaire pour élaborer des avis et opinions éclairées. Le problème est accentué pour l’intelligence artificielle, qui pâtit d’une difficulté à l’expliquer qui croît en même temps que ses performances.

Le vocabulaire pourrait déjà être adapté, en substituant la notion positive de « délégation d’autorité » à l’« intelligence artificielle », qui nous ramène trop facilement aux thèses des transhumanistes avec les craintes associées.

Réfléchir plus large et en amont, en intégrant réflexions doctrinales et recherches

La démarche capacitaire suit actuellement une révolution à travers la mise en place du processus de « maîtrise de l’architecture du système de défense », sous l’impulsion de la DGA et avec le soutien de l’EMA. La complexité accrue liée à l’interconnexion généralisée des systèmes d’informations et systèmes d’armes, de leur utilisation dans des contextes de plus en plus « inter » a conduit à la mise en place de méthodes de travail collaboratives entre les états-majors et la DGA, en associant l’industrie. L’analyse poussée des chaînes fonctionnelles et le recours accru à la simulation sur des scénarios doivent permettre de réaliser des optimisations globales de l’outil militaire – au sein du système de défense – et non plus locales – au niveau d’un programme d’armement individuel. En parallèle, pour favoriser l’intégration de l’innovation dans les systèmes militaires, sont mis en place des Labs destinés à confronter utilisateurs, acheteurs, Start-up et PME, ainsi que grands industriels.

Fondés sur des robots peu sophistiqués unitairement, les essaims pourraient également être une voie pour nous dégager de l’augmentation continue du coût des systèmes . En termes d’organisation, un modèle de type defense advanced research projects agency pour conduire des projets très innovants est une voie possible.

Se préparer à un élargissement de la pluridisciplinarité dans les équipes de projets

L’exemple est également connu des pilotes de drones américains subissant des troubles liés à la déconnexion d’avec leur vie quotidienne . Au-delà de l’empathie, d’autres phénomènes psychologiques devront être pris en compte. L’interaction avec les ordinateurs et les robots peut générer une perte du discernement, l’opérateur n’étant plus en mesure de contester l’autorité du système, remettant ainsi en cause le rôle de l’homme en « garde fou », « dans la boucle ». Pour certaines opérations d’armement, l’intégration d’un spécialiste de la psychologie humaine ou des neurosciences pourrait être pertinente.

CONCLUSION

Les perspectives offertes par la robotique et l’intelligence artificielle sont telles qu’il ne fait pas de doute qu’elles vont se diffuser rapidement et largement. Une prise de conscience est nécessaire en France au sein de la Défense pour ne pas se faire dépasser et passer à côté de cette nouvelle « révolution dans les affaires militaires », probablement encore plus profonde que les précédentes. Ne pas répéter les erreurs du passé dans une approche conservatrice nécessite une mobilisation des acteurs traditionnels de la préparation des futures capacités, mais également d’inclure de nouveaux intervenants. Le moment est opportun en France et en Europe pour cette prise de conscience et cette mobilisation, alors que la question de l’adaptation de la société à la transformation numérique a fait irruption au cours de la dernière campagne présidentielle ainsi qu’au parlement européen.

Une telle démarche s’inscrirait également en cohérence avec d’une part l’initiative France IA lancée en Janvier 2017 par les secrétaires d’Etat chargés de l’Innovation et du Numérique ainsi que de l’Enseignement supérieur et de la Recherche, et d’autre part le tout récent rapport produit par le député Cédric Villani, « Donner un sens à l’intelligence artificielle », qui met l’accent sur le volet sécurité et défense. L’appel de Vladimir Poutine début 2017 pour la création en Russie de complexes industriels destinés à développer la robotique autonome militaire est symptomatique du tournant que nous devons collectivement prendre dans notre manière d’appréhender la robotique militaire.