Présentation :

Le chef militaire se doit d’assumer la responsabilité du commandement militaire, tout en s’assurant du respect fondamental du droit international humanitaire.

Or le commandement qui jusqu’à présent dans les armées du monde se fondait sur des rapports humains directs, est de plus en plus mis aux défis de la complexité liée à la numérisation du champ de bataille et à sa progressive robotisation.

Pour y faire face, le comité d’éthique de la Défense a précisé la notion de SALIA dans son avis du 29 avril 2021 qu’il définit comme étant des systèmes auquel le commandement consent de déléguer un certain nombre de calculs de décisions, dans un cadre général fixé par l’humain. Les SALIA, qu’ils soient non létaux ou létaux, intégreront donc des formes d’autonomie avancée qui sont pour l’heure rassemblées sous le vocable d’Intelligence Artificielle.

Mais comment le chef militaire peut-il exercer ses capacités de commandement face à des systèmes possédant une certaine forme d’autonomie ? Comment peut-il avoir confiance et assumer en connaissance de cause cette autonomie ?

Les questions qui se posent sont nombreuses mais peuvent être classifiées en trois approches qui serviront de fil directeur pour cette journée d’études.

1. La délégation de certaines tâches à des machines ayant une certaine forme d’autonomie

Le chef militaire va tout d’abord pouvoir déléguer l’exécution de tâches à des systèmes intégrant de l’IA. L’exemple des essaims de robots est ici particulièrement parlant, car avec l’avènement de ces ensembles de robots multifonctions, le chef et ses subordonnés ne seront plus en mesure de téléopérer chaque machine. Le chef déléguera à une intelligence collective le pilotage de chacun des robots de l’essaim, se réservant le pilotage collectif et le contrôle de l’ensemble.

La performance du commandement est liée à sa réactivité. Or une machine est plus réactive que l’Humain et donc plus adaptée pour réagir à des menaces saturantes. Mais comment apprécier une situation lorsque les temps de réactivité nécessaires sont tels que l’unité militaire joue sa survie en quelques millièmes de seconde, notamment dans le cas de menaces saturantes. Et comment pour le chef contrôler ces systèmes conçus pour une réactivité immédiate, mais qui pourraient générer des comportements pouvant dépasser ses capacités de contrôle humain, tout du moins dans l’immédiateté.

2. Les effets sur la chaine de commandement

Si l’Intelligence Artificielle offre une réponse à la gestion de la multiplicité des systèmes robotiques sur le champ de bataille, elle peut bouleverser les principes traditionnels du commandement.

En effet, comment préserver l’intégrité de la chaîne de commandement lorsque des éléments de cette chaine sont des machines et non plus des Humains? Comment déléguer à des programmes perfectionnés la conduite d’ordres dont la mise en œuvre aura une influence directe sur le champ de bataille, pouvant même aller à des effets létaux ? Quel niveau de contrôle mettre en place, et où le placer ?

Et comment s’assurer que les niveaux verticaux de commandement, du N+1 au N-1, traditionnels garant du principe de subsidiarité, ne s’effaceront pas devant l’accès à une information immédiate issue d’un recueil de l’information horizontal, de machines à machines?

    3.  L’Intelligence Artificielle peut aussi être un appui au commandement et une aide à la décision.

Le chef militaire sera également régulièrement accompagné par des algorithmes d’IA qui lui proposeront des aides à la décision, portant sur des analyses multi sources et y trouvant parfois des corrélations dans des dimensions difficilement appréhendables pour l’humain.

Comment celui-ci trouvera les capacités de recul nécessaires pour discerner, malgré les contraintes d’immédiateté et de pression qui seront les siennes, et prendre une décision qui ne soit pas un choix par défaut ? Comment présenter l’information et avec quel niveau de granularité, pour que le chef en garde la compréhension ?

Au final, comment éviter que les systèmes embarquant de l’intelligence artificielle à tous les niveaux de la chaîne de commandement ne finissent par transformer les officiers censés conduire les opérations à de simples opérateurs spécialisés ?

---

C’est à ces questions complexes mais primordiales pour la conception de nos systèmes militaires de demain, que les chercheurs, experts industriels et militaires vont tenter d’apporter des réponses, dans le cadre de de cette journée d’études organisée par la chaire IA du CReC Saint-Cyr en partenariat avec Nexter et avec la participation de Naval Group.

Cette journée propose comme approche originale pour sa conduite, de suivre la décomposition classique d’une mission militaire : la préparation de la mission, la conduite de la mission et l’analyse après action, et d’y voir les impacts de l’IA sur le commandement militaire.