L’intelligence artificielle face à la boucle OODA

L’intelligence artificielle (IA) est le dernier mot à la mode qui fait le tour des milieux militaires. Certains se montrent sceptiques face à ce qu’ils considèrent comme un simple gadget. D’autres considèrent l’IA comme s’il s’agissait d’une véritable révolution dans le domaine militaire. Mais le fait est que peu de gens comprennent ce que signifie l’IA du point de vue de la guerre, et sont donc mal préparés pour en discuter de manière pertinente.

Qu’est-ce que l’IA ?
La définition classique est « l’application de systèmes informatiques capables d’effectuer des tâches ou de produire des résultats nécessitant normalement l’intelligence humaine, notamment en appliquant des techniques d’apprentissage automatique à de vastes ensembles de données » — en bref, la pensée informatisée.

Avant de nous laisser emporter par nos élans, soyons clairs : les ordinateurs ne peuvent pas « penser », pas plus qu’ils ne sont capables d’un raisonnement semblable à celui des humains.
Un ordinateur peut être programmé, c’est tout. Et l’un des programmes qu’un ordinateur peut être programmé pour exécuter consiste à modifier son propre programme en adaptant des modèles détectés lors du traitement des données, conformément à des algorithmes structurés qui peuvent ensuite être présentés comme une « analyse ».

Mais un ordinateur n’« analyse » rien. Il soumet simplement un ensemble de données donné à une série de processus préprogrammés qui imitent la structure de l’analyse sans être véritablement capable de discerner la signification réelle — une condition préalable à une véritable analyse.

La signification est un trait propre à l’être humain, défini comme ce que l’on entend transmettre, notamment par le langage.

Le mot clé ici est « a l’intention de », ce qui signifie avoir à l’esprit un but ou un objectif. Le but désigne la raison pour laquelle quelque chose est fait ou créé, ou pour laquelle quelque chose existe.

Un ordinateur ne peut pas raisonner (c’est-à-dire exercer la faculté de l’esprit à penser, comprendre et porter des jugements par un processus logique) ; il ne peut donc pas avoir de but et, de ce fait, il est dépourvu d’intention et, par conséquent, de sens.

Un ordinateur se contente de faire ce pour quoi il a été programmé.

L’erreur majeure, par conséquent, lorsqu’il s’agit d’évaluer le rôle que joue l’IA dans la détermination de la nature de la guerre aujourd’hui, consiste à attribuer à l’ordinateur des qualités propres à l’être humain, ce qui conduit à une confiance excessive dans les données produites dans le cadre de tout processus d’IA.

Il ne s’agit que de données générées par un programme élaboré par des humains — des humains faillibles. Le résultat n’est donc, logiquement, pas infaillible.
Ce n’est pas le résultat d’un traitement intelligent et conscient des données.

Or, les partisans de l’IA affirmeront qu’ils maîtrisent certains programmes de traitement de données algorithmiques de telle sorte qu’il est possible d’évaluer davantage de données à l’aide d’une « logique » structurée et prédéterminée, offrant ainsi aux utilisateurs potentiels davantage d’options quant à la manière d’interpréter ces données dans un délai exponentiellement plus court que celui qui pourrait être atteint à l’aide des techniques d’analyse humaines traditionnelles.

Lorsque l’on examine les principes fondamentaux de la prise de décision en temps de guerre, on pense immédiatement au célèbre « cycle OODA » de John Boyd. Boyd était un pilote de chasse de l’armée de l’air américaine, connu pour sa capacité à abattre (lors des entraînements) n’importe quel pilote adverse dans les 40 secondes suivant son premier passage. Boyd a ensuite synthétisé les processus décisionnels sous-jacents à ses actions dans ce qu’il a appelé le cycle OODA.

La perception courante de la boucle OODA est celle d’un processus de réflexion circulaire comprenant quatre étapes séquentielles :
Observer, S’orienter, Décider, Agir, qui se répètent ensuite.

La boucle commence par l’acte d’observation — observer.
Cela implique d’absorber des informations — des données — provenant de l’environnement dans lequel on opère. Beaucoup pensent qu’il s’agit d’un acte passif, mais c’est tout le contraire. Pour observer véritablement, il faut constamment capter des informations provenant de l’environnement d’opération, y compris les données issues de circonstances en cours d’évolution (c’est-à-dire non programmées), ainsi que de son interaction avec les différents processus.
Il s’agit d’un processus éminemment individuel : deux personnes peuvent observer la même chose et pourtant l’interpréter de manière complètement différente.

La clé de l’observation réside dans l’orientation. Boyd considérait l’observation comme le centre de gravité intellectuel de la boucle OODA. L’orientation est une caractéristique résolument individuelle, dans la mesure où elle prend en compte les hypothèses partagées au sein d’une organisation, tout en tenant compte des tendances cognitives innées et du tempérament de l’individu, de ses expériences passées (tant organisationnelles qu’individuelles), de sa capacité à collecter de nouvelles données en fonction de la situation actuelle, ainsi que de sa capacité à faire abstraction d’anciens modèles mentaux tout en en construisant de nouveaux.

L’orientation détermine la qualité de tout ce qui s’ensuit. Deux analystes examinant les mêmes données parviendront inévitablement à des conclusions différentes en fonction de leur expérience, de leurs hypothèses et de leur volonté de mettre à jour leurs modèles mentaux.
On ne peut pas « enseigner » à un ordinateur comment s’orienter : l’ordinateur sera simplement programmé en fonction de l’expérience du programmeur et des hypothèses que celui-ci intègre dans le modèle.
L’ordinateur devient prisonnier de ce modèle, incapable de le mettre de côté au profit d’un nouveau modèle construit à partir d’ensembles de données nouvellement observés.

Cette lacune se manifeste à l’étape suivante de la boucle OODA : décider.

Les décisions sont prises sur la base d’hypothèses ou de plans d’action découlant de l’observation. Mais John Boyd ne considérait pas la prise de décision comme un processus en boucle fermée. En effet, dans son schéma original de la boucle OODA, Boyd a tracé une ligne reliant directement Orienter à Agir, contournant ainsi complètement l’étape Décider.
Boyd a appelé cela « guidage et contrôle implicites » (IG&C), un phénomène qui survient lorsqu’une personne possède une expertise approfondie lui permettant de reconnaître rapidement des schémas et d’agir en conséquence sans délibération consciente.

Lorsqu’une personne dispose d’une expertise approfondie dans un domaine, elle peut reconnaître un schéma et agir en conséquence sans délibération consciente ; en bref, il s’agit d’une intuition acquise par l’entraînement, découlant d’une orientation profonde.

Il est impossible de programmer un ordinateur pour qu’il se comporte de cette manière.
« Agir » est l’élément le plus fondamental de la boucle OODA : c’est le processus consistant à tester une hypothèse dérivée par rapport à la réalité. L’action génère inévitablement de nouvelles informations qui sont ensuite réinjectées dans le cycle d’observation, et la boucle se répète.

Une personne qui ne connaît pas bien la théorie de la boucle OODA de Boyd programmerait un ordinateur pour traiter la boucle comme une séquence bien distincte : observer, s’orienter, décider et agir, puis répéter.

Mais la véritable boucle OODA fonctionne simultanément dans plusieurs directions, l’orientation façonnant l’observation, et l’action générant de nouvelles observations, dont certaines peuvent être exploitées sans passer par un processus décisionnel formel.
Une boucle OODA pleinement opérationnelle fonctionne de manière continue et chevauchante ; elle n’est pas séquentielle. Elle s’articule également autour de l’acte d’orientation — la capacité à identifier des schémas que l’ennemi n’a pas reconnus, puis à agir de manière à semer la confusion en adoptant des comportements que le modèle mental de l’ennemi ne pourrait pas prédire.

Le Corps des Marines des États-Unis a intégré l’exposé de John Boyd intitulé « Patterns of Conflict » (une présentation de 196 diapositives élaborée en 1976), qui retraçait l’histoire des conflits et mettait en évidence des schémas de comportement transposables à l’époque moderne.
Le général Al Gray, commandant du Corps des Marines de 1987 à 1991, s’est inspiré de cette présentation de Boyd pour en faire des principes opérationnels connus sous le nom de « guerre de manœuvre », qui sont devenus la doctrine officielle du Corps des Marines en 1989. Gray a mis l’accent sur le principe de l’intention du commandant, ainsi que sur la capacité des unités subordonnées à agir en fonction de cette intention sans devoir revenir vers la hiérarchie pour obtenir une validation.

Le modèle de guerre de manœuvre du Corps des Marines constituait la mise en œuvre idéale de la composante IG&C (Information, Guidance & Control) de la boucle OODA, dans laquelle une organisation et ses composantes étaient si finement synchronisées les unes avec les autres qu’elles réduisaient la boucle OODA à une séquence « observer-agir » permettant aux Marines de prendre des décisions sur le champ de bataille d’une manière qui dépassait de loin la capacité de réaction de leur adversaire.

J’étais moi-même le produit direct de l’adoption de la guerre de manœuvre par le Corps des Marines, ayant été formé à cette doctrine en 1984, lorsqu’elle fut officiellement introduite pour la première fois dans le cycle de formation des officiers du Corps des Marines.
Je suis fermement convaincu qu’une organisation militaire correctement imprégnée des principes de la boucle OODA de John Boyd surpassera une organisation qui s’appuie de manière excessive sur le traitement des données piloté par l’IA.

En bref, le processus est bien plus important que les données, puisque les seules données qui comptent sont celles produites par le processus lui-même.
Des organisations comme Palantir aiment présenter leur capacité à traiter des quantités massives de données en temps réel comme une évolution radicalement nouvelle dans l’art de la guerre.
Mais la réalité est que le traitement informatique des données ne peut reproduire les processus analytiques associés aux observations effectuées par des individus dotés d’une orientation adéquate.

L’IA fournira des synthèses de données issues d’algorithmes qui, du fait qu’ils ont été préprogrammés, sont incapables de remettre en cause les modèles mentaux et d’adopter de nouveaux modèles issus de nouveaux ensembles de données.
Il est également impossible de programmer un ordinateur pour qu’il mette en œuvre le « repli » IG&C de la boucle OODA en une simple séquence observer-agir.

Dans la guerre moderne, un adversaire humain compétent serait capable d’exploiter l’IA de manière à entraîner la défaite de la partie guidée par l’IA.

Toute partie qui considérerait l’IA comme plus qu’un simple outil de traitement des données, en l’utilisant pour influencer la prise de décision militaire, se condamnerait à l’échec face à un adversaire parfaitement au fait des subtilités de la boucle OODA de Boyd.
Le concept de supériorité de l’information est un piège intellectuel découlant de l’idée que l’IA peut collecter et traiter des données plus rapidement que les humains.

Il y a des avantages à pouvoir traiter l’information plus rapidement que son adversaire, cela ne fait aucun doute.
Mais l’IA ne « traite » pas l’information d’une manière propice au bon fonctionnement de la boucle OODA. Au mieux, l’IA synthétise les données à l’aide d’algorithmes écrits avant même que les données ne soient capturées.
C’est l’algorithme qui détermine les synthèses, et non les données elles-mêmes.

La clé de la supériorité de l’information ne réside pas dans la quantité de données traitées, mais dans la pertinence de la qualité de l’analyse menée sur les données les plus pertinentes au regard de l’urgence de la décision militaire à prendre. Les informations les plus importantes pour toute tâche donnée sont celles qui découlent des actions en cours au moment où la décision est prise.

La capacité de l’IA à collecter et à synthétiser des quantités massives de données devient une caractéristique comportementale qui aboutit à la construction d’un schéma discernable, lequel détermine alors à la fois les aspects « orientation » et « observation » de la boucle OODA. Les ensembles de données peuvent être facilement manipulés pour obtenir le résultat souhaité, ce qui permet à un adversaire compétent de semer la confusion dans l’IA afin qu’elle produise des résultats prévisibles pouvant mener à la défaite.

Cela s’applique autant aux opérations d’information et à la guerre psychologique qu’aux manœuvres militaires classiques.

L’IA représente le plus grand danger pour celui qui pratique la guerre moderne. Elle affaiblit intellectuellement l’utilisateur, car elle encourage la subordination mentale à un algorithme, et entraîne ainsi un manque de flexibilité lorsqu’il s’agit d’abandonner des modèles mentaux existants au profit de modèles nouvellement développés.
La boucle OODA est particulièrement efficace lorsqu’elle est mise en œuvre par un esprit humain bien formé, capable de discerner des schémas en s’orientant correctement vers la tâche à accomplir. Bien que l’on puisse croire que l’IA serait capable de remplir une fonction similaire, ce n’est tout simplement pas le cas.

Des mots tels que « sens », « intention », « objectif » et « raison » ont tous des significations exclusivement liées à la condition humaine, et ne peuvent être reproduits par aucun programme informatique ni algorithme.

La plus grande opportunité offerte par l’IA réside donc dans la reconnaissance du fait qu’elle ne peut remplacer les humains lorsqu’il s’agit de prendre des décisions concernant les missions militaires liées à la paix internationale, à la stratégie militaire et à la sécurité mondiale.
Plus tôt l’IA sera écartée des processus décisionnels critiques, mieux ce sera.

L’actualité regorge d’exemples d’échecs liés à une dépendance excessive à l’IA. Israël a ouvert la voie en intégrant des programmes d’IA dans tous les aspects de ce qu’on appelle la « chaîne de destruction », associée à ses agissements génocidaires à l’encontre de Gaza et des civils palestiniens qui y vivent. Un programme d’IA, baptisé « Lavender », sert à identifier une cible à détruire. Un autre programme d’IA — Gospel — sert à localiser la cible en question, tandis qu’un troisième — Fire Factory — aide à choisir l’arme spécifique qui sera utilisée pour neutraliser — c’est-à-dire tuer — la cible.
Mais le programme d’IA le plus inquiétant utilisé par Israël est celui appelé « Where’s Daddy », qui détermine à quel moment une cible identifiée est rentrée chez elle, permettant ainsi à Israël de frapper et de tuer toute la famille liée à cette cible.

La « chaîne de destruction » pilotée par l’IA et utilisée par Israël à Gaza a entraîné des dizaines de milliers de morts.

Elle n’a toutefois pas permis à Israël de vaincre le Hamas.

De même, un modèle d’IA de chaîne de destruction similaire utilisé au Liban n’a pas permis à Israël de vaincre le Hezbollah.

Les États-Unis utilisent une plateforme d’IA appelée « Maven Smart System ». Des responsables de Palantir, la société qui a conçu et programmé Maven, affirment que le système peut transmettre des données de ciblage à un système d’armes spécifique d’un simple clic de souris.
Le général à la retraite de l’armée américaine Christopher Donahue, qui a autrefois commandé les forces américaines en Europe, a comparé Maven à un système d’armes. Mais cette définition pose problème, car une telle classification s’accompagne d’exigences légales liées au contrôle, ce que Palantir et ses clients de l’armée américaine cherchent à éviter.

Et ce, à juste titre : le « Maven Smart System » de Palantir est actuellement utilisé pour diriger les frappes militaires menées contre l’Iran par les forces américaines. Ces frappes ont entraîné la mort de milliers d’Iraniens – dont 168 écoliers à Minab – en raison d’une erreur d’identification des cibles de la part du système Maven.

L’une des raisons pour lesquelles l’armée américaine a affiché des performances si désastreuses lors du conflit américano-iranien réside dans l’insuffisance du ciblage effectué par Maven. Les États-Unis ont épuisé leur stock d’armes de frappe à distance à guidage de précision en frappant des milliers de cibles désignées par le modèle d’IA Maven.
Non seulement les frappes américaines n’ont pas réussi à réduire la capacité de l’Iran à survivre et à maintenir sa capacité de riposte militaire, mais elles ont également fini par épuiser l’arsenal des États-Unis en ce qui concerne ces types spécifiques de missiles intercepteurs capables d’intercepter les missiles russes entrants.

En bref, les États-Unis ont perdu la guerre qu’ils avaient choisie de mener contre l’Iran, et l’une des principales raisons de cette défaite était l’insuffisance absolue de Maven en tant qu’outil d’IA chargé de générer des cibles.

Il convient également de noter que le général Donahue comptait sur Maven pour surmonter les défenses antimissiles russes dans la région de Kaliningrad.
Un échec face à l’Iran est embarrassant.
Un échec face à la Russie au-dessus de Kaliningrad pourrait s’avérer fatal.
À l’ère nucléaire, on ne peut tout simplement pas laisser la prise de décisions critiques entre les mains d’un outil d’IA.

Maven était destiné à protéger des vies américaines.

Ses insuffisances ont, en réalité, mis des vies américaines en danger.

Les États-Unis ont également utilisé l’IA en Afghanistan. Connu sous le nom de « Raven Sentry », ce programme exploitait des informations issues de sources ouvertes pour prédire les attaques des talibans avec un haut degré de fiabilité.
Mais Raven Sentry n’a pas pu empêcher la défaite des États-Unis en Afghanistan.

L’Ukraine utilise l’IA pour cibler les véhicules russes dans la région du Donbass.
Mais cela ne change rien au fait que les Ukrainiens sont en train de perdre sur le champ de bataille.
Les Ukrainiens ont utilisé des outils de prédiction innovants basés sur l’IA pour orienter leur invasion de Koursk en août 2024, en anticipant des failles dans les défenses russes qui pourraient être rapidement exploitées.
La force d’invasion ukrainienne a finalement été anéantie.
Les données historiques suggèrent que lorsque l’IA est intégrée à la planification militaire classique, cela ne mène qu’à l’échec.

Il est peut-être temps pour les organisations militaires modernes de revenir à l’essentiel : développer la dimension humaine de la guerre, les capacités intellectuelles individuelles et collectives de leurs soldats, marins, aviateurs et marines respectifs, afin d’optimiser la prise de décision militaire selon le modèle de la boucle OODA de John Boyd, du moins telle qu’elle était initialement conçue.
Disposer de troupes capables de transposer correctement la « simplification » IG&C de la boucle OODA en une dynamique simple « observer-agir » est bien plus propice à la victoire sur le champ de bataille que le déploiement de modèles d’IA inadéquats.

Une telle formation privilégie la qualité des processus de réflexion humaine plutôt que la quantité de données, rendant ainsi totalement superflue l’IA.

Et si cela pouvait être mis en œuvre dans son intégralité, cela représenterait véritablement une révolution dans les affaires militaires.
Car à notre époque, les processus de pensée humaine rationnels conduiraient à la conclusion que la guerre n’est jamais la solution.
Aucun programme d’IA conçu pour soutenir la guerre ne parviendra jamais à cette conclusion.

Traduction JP avec DeepL