M. Le Drian fait de l’intelligence artificielle un enjeu stratégique pour la défense

En juin 2016, le centre de recherche de l’US Air Force (AFRL – US Air Force Research Laboratory) et l’entreprise Psibernetix ont réalisé une expérience ayant donné un aperçu de ce que pourrait être la façon de faire la guerre dans les décennies à venir. Ainsi, il a été mis au point une intelligence artificielle qui, appelée ALPHA, a été imaginée pour mener une patrouille d’avions de chasse en situation de combat.

Les résultats de l’expérience [.pdf] ont été sans appel. Même à la tête d’une formation d’avions de combat moins performants que ceux d’une flotte ennemie, ALPHA a toujours fait les bons choix qui lui ont permis de prendre le dessus lors des différents scénarios simulés. Et cette intelligence artificielle a même envoyé « au tapis » le très expérimenté colonel Gene Lee. « J’ai été surpris par la manière dont elle était consciente et réactive. Elle semblait être consciente de mes intentions et réagir instantanément à mes changements en vol et à mes déploiements de missiles. Elle savait comment déjouer le tir que je faisais. Elle changeait instantanément entre les actions défensives et offensives en fonction des besoins », racontera-t-il dans les colonnes de Popular Science.

Et apparemment, on n’a encore rien vu. En effet, Alpha fonctionne avec un seul processeur de 3,2 GHz, cadencé à 154 Hz, ce qui lui permet de classer les données, d’analyser la situation et d’éventuellement changer d’option pour s’adapter aux éventuels changements. Qu’en sera-t-il avec des composants encore plus performants qui amélioreraient le temps et la puissance de calcul?

Il est acquis que l’intelligence artificielle va ouvrir de nouvelles perspectives dans le domaine militaire. Les essaims de drones en sont un exemple. Comme les robots autonomes, dont le développement inquiète de nombreux chercheurs et entrepreneurs spécialistes des nouvelles technologies, au motif que les lois de la robotique définies par l’écrivain Isaac Asimov, seraient sur le point d’être battue en brêche. En outre, elle permettra d’automatiser l’analyse et la prise de décision…

Aussi, pour le ministre de la Défense, Jean-Yves Le Drian, qui s’est exprimé sur ce sujet à l’occasion d’un récent colloque, « l’intelligence artificielle est un élément de notre souveraineté nationale ». D’après les propos qu’il a tenus et qui ont été rapportés par l’Usine Nouvelle et Acteurs Publics, il estime qu’il s’agit même d’une « troisième révolution stratégique, dite troisième offset » après « l’hypervélocité et la lutte sous-marine. » Et c’est d’ailleurs la raison pour laquelle, « nos alliés », et en particulier les États-Unis, l’ont placée « au cœur de la stratégie de sauvegarde de leur défense et de leur souveraineté. »

« Il s’agit de créer une troisième rupture technologique, après la dissuasion nucléaire et l’explosion des technologies de l’information et du numérique, pour garantir la supériorité et la sécurité américaine. Cette révolution potentielle sert de cadre et d’aiguillon à une politique d’investissement audacieuse », a expliqué M. Le Drian. Le preuve avec ALPHA et Psibernetix…

Aussi, pour le ministre, la France ne doit pas être en reste, d’autant plus que nos « auxquels nos principaux alliés se préparent activement, comme en témoigne le rapport robotique et intelligence artificielle de la chambre des communes britanniques ou le plan stratégique américain de recherche et développement en intelligence artificielle. »

Cet effort est même essentiel dans la mesure où l’intelligence artificielle sera la brique des technologies de combat du futur, avec des capteurs capables de traiter l’information par eux-mêmes, des capacités de simulation encore accrues ou encore des applications permettant de détecter et de contrer en temps réel des cyberattaques.

Et M. Le Drian a même évoqué ce que serait le successeur du Rafale. « Il faut compter sur l’intelligence des plateformes, leur capacité à se reconfigurer, à dialoguer entre elles, et parfois être simplement sacrifiées, ce qui n’a de sens qu’avec des plateformes pilotées à distance, capable elles-mêmes d’attaques saturantes si nécessaires », a-t-il dit.

37 commentaires sur “M. Le Drian fait de l’intelligence artificielle un enjeu stratégique pour la défense”

  1. A partir du moment ou une intelligence artificielle a été capable de battre les champions du monde aux échecs, et plus récemment au jeu de go, il n’y a rien d’étonnant à ce qu’elle soit plus performante qu’un humain pour gérer une situation de combat. D’autant que la réactivité d’un programme informatique, directement alimenté par les différents capteurs, ne peut qu’être supérieure à celle d’un humain. Une voiture équipée d’un détecteur de collision freinera toujours plus vite qu’un humain appuyant sur le frein.
    A quand une intelligence artificielle pour gérer les décisions politiques d’un pays ? La science-fiction a déjà prévu ça il y a longtemps.
    Il y a un nom tout trouvé pour elle : Bêta !

    1. A quand le djihad Butlherien ?
      Nous sommes dans la problématique Rablaisienne : la technologie va plus vite que la sagesse qui va avec .. Les 3 derniers exemples de ce type d’événements ont donné 2 Guerre Mondiale : Mitrailleuse et artillerie longue portee pour la première, et Chars de combat et aviation de bombardements pour la seconde ; et une guerre froide qui a failli dégénérer en guerre nucleaire par 3 fois (51, 62 et 83) …
      Le problème avec ces ruptures technologiques majeures, c’est qu’elles redefinissent les fondamentaux de la guerre, et laissr esperer des victoires « rapides et totales » , entrainant des comportements de malades mentaux !
      Va falloir serrer les fesses …

    2. La réactivité du chimpanzé est infiniment meilleure quand il s’agit de repérer des chiffres et de les restituer dans l’ordre : https://www.youtube.com/watch?v=OIzijKXUO_0
      L’avantage de l’homme sur la machine est qu’il peut tricher et changer les règles du jeu ce que ne peut faire l’IA qui n’est que programmée, quand bien même elle donne l’illusion d’être plus intelligente. Car qu’est-ce qui empêche ce colonel de balancer des leurres pour tromper ALPHA avant de balancer ses missiles, sinon sa fascination aveugle pour le virtuel que ses supérieurs ont manipulée ?

      1. On parle aujourd’hui d’IA auto-apprentissante et demain ce sera des IA auto-reprogrammable.
        Pour l’exemple des leurres, l’IA peux en quelques fractions de seconde analyser la situation et surtout analyser le pilote adverse (accès à son dossier, à ses tests psycho, ….) et déterminer les % de chance de telle ou telle action, et donc de déjouer le bluff. Et même si elle est trompée, elle mettre infiniment moins de temps qu’un humain à le « réaliser ».

        1. L’auto-apprentissage se fait à posteriori. C’est comme conduire en regardant dans le rétroviseur en allant droit dans le mur. L’homme aura toujours un coup d’avance car il ne s’agit ni de bluff ou de tromperie mais d’un changement de paradigme qu’une machine ne peut se représenter. Elle n’est même pas capable de se méta-modéliser, alors qu’elle fasse preuve d’empathie, c’est beaucoup lui demander. Elle a beau être championne d’échecs ou de go, elle est incapable de jouer au hochet !

          1. Au sujet de ce peut déjà faire et pourra faire sous peu l’IA, je vous conseille de lire « Je cherche à comprendre » de Joël de Rosnay. Votre appréciation sera peut-être un peu différente.

          2. Gaston Lagaffe avait mis au point une IA capable de jouer au hochet, mais dans un éclair de lucidité, elle a mis fin à son existence, aux dires de Prunelle et Lebrac.
            .
            Vous dites que l’être humain a un coup d’avance sur la machine et c’est sans doute vrai car c’est bien lui qui songe à inverser le test de Turing: demander à une IA au bout de combien de temps elle pense discuter avec un être humain. C’est effectivement une variable dont elle aura besoin pour ses propres calculs.
            .
            C’est ce genre de coup d’avance qui participe de l’évolution de la machine. Mais il est probable qu’une machine se serait à un moment ou un autre posé cette question.
            .
            J’ai vaguement lu un blog réac américain (trumpiste) et j’ai eu la surprise de constater que les commentaires des réacs américains étaient identiques, au mot près, avec ceux de leurs homologues français, qui ne sont pourtant pas dans le même environnement ni issus de la même culture.
            .
            C’est-à-dire que vous prenez les coms d’un réac américain sur un blog US, vous les transposez sur un blog français et vous faites l’inverse et le fil de dial conserve sa cohérence dans les deux cas.
            .
            Je me suis donc demandé quelle pouvait être la valeur de l’intelligence individuelle quand des individus perdent en masse leur singularité et quelles conclusions en tirerait une machine capable de traiter une grande masse d’informations.
            .
            Et je pense qu’elle peut être plus maline que nous, puisqu’un grand nombre d’individus peut agir sans avoir conscience de perdre leur singularité, alors qu’une machine peut avoir cette conscience.
            .
            Reste alors à savoir si la conscience de la singularité est une condition de développement d’une intelligence plus sophistiquée. Mais c’est de la SF pour l’instant.

    3. Un jeu de go revient a un simple calcul d’anticipation sur un plateau 2D avec des données limités.
      .
      En soi c’est « facile », rien a voir avec une IA encore moins une IA qui doit gérer un ou plusieurs aéronefs en situation de combat devant répondre aux impératifs du moment.

      1. Le jeu de Go est un peu plus complexe que ce que vous pouvez décrire. C’est d’ailleurs un jeu tout à fait intéressant pour s’approcher de la réflexion humaine et de la stratégie militaire car, contrairement aux échecs, le Go utilise des notions très subjectives comme l’influence et la valeur potentielle d’un coup. L’algorithme qui a battu les champions de Go n’a rien à voir avec celui qui a battu les joueurs d’échec.

        Il est « facile » de pondre un algo qui gère des menaces et affecte des moyens de défense et d’attaque, plus facile que de pondre un algo de Go performant.

      2. L’IA championne de Go fonctionne à base de réseau-neuronal et de machine-learning. Plus proche d’un cerveau humain que du programme champion d’échec

        1. Ca n’est pas une réelle IA pour autant, les limites sont trop importante.
          .
          Même si c’est batard il y a une réelle différence entre les IA’s de SCIFI et les IA’s que l’on voit actuellement, c’est de plus en plus pointu, mais il y a un degrès de limitation très important, c’est pourquoi c’est plus a qualifier d’algo que d’IA.
          .
          L’apprentissage robotique on le voit depuis plusieurs années, et si c’est impressionnant et intéressant, on est encore loin de terminator.

    4. L’IA n’existe pas ,par contre la « prise de décision »par calcul rapide supérieur au cerveau humain est une réalité.L’IA reste toujours du domaine de la science fiction .Par contre nos gouvernants pour l’intérêt de notre pays au niveau industriel et indépendance devraient recevoir des logiciels « d’aide à la prise de décision » :je pense à Alstom sous contrôle US(turbines de nos sous-marins,Mistral…),Airbus space sous contrôle allemand à Munich( fabriquant les lanceurs M51…),STX ….

      1. Il y a de très nombreuses IA faible (plus qu’un programme de prise de décision, capable d’apprentissage et d’adaptation) qui fonctionnent bien. C’est l’IA forte, la « conscience artificielle » (celle qui fera de l’art et de la philosophie) qui reste de la science-fiction

  2. Eh ben! ça promet… le règne des machines est en marche et ça ne présage rien de bon pour l’humanité. La science rattrape la fiction et la dépassera bientôt. Nos petits-enfants n’auront probablement plus le droit de décider de leur vie… Je suis content d’arriver au crépuscule de ma vie, je n’aurai pas à courber l’échine.

    1. Quelle règne des machines? Selon Gérard Berry, médaille d’or du CNRS, professeur au Collège de France, à la Chaire d’Algorithmes, machines et langages, l’algorithme n’exécute que la tache à laquelle vous l’avez programmé ( intervention lors d’une conférence sur la cyberdéfense à l’Ecole militaire en novembre 2014). L’enjeux est également pour notre jeune génération de savoir aussi bien coder que de lire et compter, mais nos pouvoirs publiques n’ont pas l’air d’avoir bien saisi puisqu’ils distribuent des tablettes dans les écoles (pas de cours de programmation).
      Autre problématique, avec l’aviation(voire l’artillerie), on procure déjà la mort à distance sans forcément être soumis au principe de réciprocité du droit de la guerre…Avec l’utilisation du drône armé, sa légitimité pose déjà question. Avec l’intelligence artificielle, faudra-t-il modifier les textes concernant les lois et coutumes de la guerre?

      1. Un algorithme reste « basique » et a des résultats limités.
        .
        Une IA (qui a l’heure actuelle n’existe pas ou plutôt dans sa forme la plus basique) est bien plus complexe, on parle bien d’intelligence dans ce cas car on ajoute a la machine la capacité de juger une situation et d’apprendre(c’est surtout ce point le plus important)
        .
        Pour ce qui est de savoir coder comme de lire… Vous allez peut être un peu loin, on devient pas développeur après quelques heures a taper du code, il est nécessaire de pratiquer en permanence pour en connaître tous les aspects.
        .
        Ceci dit oui il faudrait que tout le monde comprenne ce qu’est un ordinateur et comment sa fonctionne, mais il en va de même pour tout, j’aurais 1000 fois préféré avoir un programme de dev qu’un programme d’art plastique…
        Mais il en va de même pour les mathématiques, le niveau français en math est quand même risible.

        1. Tout comme vous avez appris à lire et écrire (pas pour écrire un roman), savoir programmer ni signifie pas nécessairement de devenir développeur mais de connaitre les rudiments du codage informatique, accessible dès le plus jeune âge (scratch à partir de 8 ans). Aujourd’hui, dans la communauté scientifique: chimistes, physiciens, biologistes, ingénieurs et mathématiciens doivent savoir programmer pour pouvoir travailler (C++, SQL, matlab, R, grafcet, etc).

      2. L’analyse de Gérard Berry à ce sujet, si elle était juste, est plus discutable dans le domaine du machine learning, des réseaux de neurones et des algorithmes génétiques. D’ailleurs, il l’évoque en indiquant que le vrai danger, c’est que l’humain peut développer et maitriser la mise en place de tels systèmes, mais ne saura pas analyser et comprendre ses résultats.

        Pour en revenir au Go, l’algorithme développé ne permet pas à la machine de gagner, mais de découvrir par elle-même comment gagner. AlphaGo a joué des coups incompréhensibles par les pros et par leur développeur. Et ils se sont avérés des coups gagnants alors que tout le monde pensait que la machine avait fait une grosse erreur. Aucun humain n’aurait pu lui coder de tels coups.

        1. Si, ils ont bien codé mais ne peuvent l’interprêter…L’algorithme d’apprentissage d’AlphaGo pour gagner la partie est un apprentissage semi-supervisé par renforcement. Un réseau de neurones artificiels est une véritable boite noire (on ne sait pas comment ça interagit à l’intérieur des couches) contrairement à d’autres algorithmes prédictifs (SVM, GLM, arbre de décision, etc) qui permettent une interprétation des résultats. A ce sujet, un article très intéressant.

          http://parisinnovationreview.com/2016/03/29/alphago-intelligence-artificielle/

      3. Ce que vous dites est applicable aux systèmes opérationnels actuels. Dans ce cas nous parlons de programmes apprenants. Ils créent eux-mêmes les algorithmes nécessaires pour réaliser leur mission, comme l’humain. Ils vont plus vites, n’ont peur de rien, n’ont pas d’éthique, et peuvent tester des stratégies de sacrifice ou innovantes sans le problème de pertes humaines. Un humain perdu, c’est long à remplacer. Une machine non, de plus la machine arrivera avec toute l’expérience acquises par les autres machines (réseaux).
        Je vois deux menaces bien réelles: perte de contrôle de l’outil (trop autonome), et ce que disait une personne auparavant: qu’un fou appuie sur le bouton parce qu’il pense que son avantage techno. sera définitif. Et là nous serons tous perdants.

  3. « ce qui n’a de sens qu’avec des plateformes pilotées à distance »
    … en l’occurrence, il s’agirait plus de « suivi » à distance que de « pilotage » à distance, dans la mesure où, précisément, c’est l’Intelligence Artificielle (embarquée) qui piloterait le drone, … et non plus le pilote déporté, qui n’aurait plus alors qu’un rôle plus indirect de désignation de mission et de suivi-contrôle (et correction si besoin est).
    .
    Le sujet est tellement stratégique qu’il devrait mobiliser bien plus que le Mindef …
    .
    Après, l’AI peut faire peur au moins autant que la révolution nucléaire.
    Néanmoins, la compétition internationale étant ce qu’elle est, … nous n’avons pas le choix. Il nous faut absolument nous jeter également dans cette course au développement de l’AI … ou d’autres imposeront chez nous leur propre AI (ce qui serait le pire cas de figure).

  4. en conséquence nous allons développer tout le cyber en Bretagne comme par hasard…
    c’est marrant ce tropisme du mindef pour développer la Bretagne militaro-technologique, je me demande si le reste de la France n’est pas sous développée vu de son promontoire … et en plus tout le monde n’a pas vocation à émigrer en notre belle Bretagne.
    finalement ce brave homme est un super vendeur de Rafale, bravo, un piètre gestionnaire au vu de louvois ! 5 ans après son arrivée (on allait voir ce que l’on allait voir … c’est vu merci !) une prouesse informatique m’sieur le ministre !!
    je n’évoque pas le merveilleux développement de notre flotte de surface : amputation du programme FREMM, invention des FTI pour générer du business à DCNS à…. Lorient tiens c’est marrant çà , le reste n’en parlons pas une flopée de supply qui sont par ailleurs en solde à travers le monde (c’est vrai çà, tant qu’a faire dans le genre pourquoi ne pas prendre ce qui est récent et disponible sur le marché mondial ? ah zut j’oubliais Piriou and co ! électorat quand tu nous tiens !
    bref bilan mitigé et heureusement il y a la cyber défense cette nouvelle armée, tarte à la crème de la pseudo com du mindef (oui pseudo.. parce que à ce niveau !) dont les annonces ronflantes sont plutôt l’objet d’une lutte féroce entre les armées, champ de bataille des égos pour prendre le dessus où le nombre de galons est devenu le s critère de compétence tiens tu mets un 3 galons et bien moi je t’en met un 4, de quoi ? je te mets un 5 panaché … c’est un poker menteur !! la compétence technique tout le monde s’en fout !
    bref je sais comment nous avons perdu un certain jour de juin 1940, je ne connais pas la date du prochain tour, mais je connais déjà le résultat !
    pour conclure l’intelligence artificielle est tout ce qui reste de trace d’intelligence dans la réflexion stratégique de nos politiques, je voudrais juste rappeler à ces enfumeurs que le peu de cerveau q »ils possèdent est encore supérieur en terme de réflexion, de pensée, et de conceptualisation au plus élaboré de nos calculateurs qui reste à ce jour un manœuvre intellectuel au service de l’homme encore faut-il que l’homme s’en serve et ne se mette pas à croire qu’il est inférieur à la machine, et lui remette les clefs de la réflexion ce dont aucune machine n’est capable …

  5. Il est incontestable que la puissance (croissante) des capacités informatiques -recherche/perception/analyse/décision/choix de l’action – a dépassé depuis longtemps le « bon sens » humain.
    Les armements quasi automatisés du futur ne sont-ils pas déjà … présents.
    Il n’empêche que le combat final laissera le choix entre la bombe artisanale, le couteau de boucher ou le corps à corps (ou les trois réunis). Étrange paradoxe …

  6. Ne parlons pas d’intelligence artificielle a un moment ou on même plus ls moyens de faire réparer nos matériels …Les clowns au pouvoir n’ont qu’un seul cerveau doté d’intelligence en la personne de JY Le Drian …Lorsque l’on lit le bouquin qui a été écrit le concernant on comprend mieux le cheminement qu’il a dû parcourir pour en arriver là ou il en est !…
    Il aurait fait un honnête Président parmi les voyous qui l’entourent !

    1. Allons Wrecker, il n’y a qu’au Vatican qu’on croit (espère) voter pour un saint. Partout ailleurs, on fait avec ce qu’on a sous la main. Et il se trouve que la plupart des gens pensent que les salauds font de bons gouvernants (moi y-compris et vous aussi sans doute).
      .
      Si vous voulez élire un saint, faites-vous cardinal.
      .
      Nan, là où le citoyen fait la différence, c’est dans les contre-pouvoirs. La vigilance citoyenne, le droit, l’information, tout ça quoi. Mais bon, d’après ce que j’ai cru comprendre vous ne pouvez pas saquer les journaleux, le droit vous emmerde et les contre-pouvoirs, ça vous passe au-dessus du cigare.
      .
      Donc, même une IA peu performante peut rapidement analyser que votre unique porte de sortie est d’être un faux rebelle immature débitant son laïus standard sur « les clowns au pouvoir », blablabla, complot, etc. La routine.
      .
      Rendez-vous compte que si on parvenait à dresser une plante verte à mimer votre comportement, vous seriez le premier à revendiquer l’interdiction du Round up, car rien ne vous distinguerait plus d’un végétal.
      .
      C’est ça l’enjeu de l’IA: le déclassement.

  7. Raison de plus pour optimiser davantage notre budget et l’augmenter pour booster la défense.

  8. la machine, plus rapide que l’homme, plus apte à balayer toutes les hypothèses envisagées ? Très probablement !
    l’issue ne sera pas de chercher à battre la machine sur son terrain, mais vraisemblablement de dégrader ses performances ( interruption des communications entre machines,…)
    Il va falloir recruter du scientifique, pas du littéraire !

  9. C’est bien joli tout ça, mais quid du coût d’un tel projet.. ?
    et on fait quoi en cas de guérilla…?
    Les penseurs de DAESH vont certainement nous trouver une parade mais les informaticiens de la DGA de Bruz trouveront surement une solution !

  10. Intéressant, mais il y a une chose importante à considérer : à la guerre, la première règle, surtout pour nos adversaires, est qu’il n’y a pas de règle.
    Or qui dot intelligence artificielle dit référentiel normatif à appliquer.
    On ne peut non plus dissimuler la vulnérabilité de ce type de capacité, ce qui nous renvoie au cyber.
    Bref, il faut encore défricher le sujet.

  11. En fait j’ai rien compris avec ces histoires d’essaims et de jeu de Go, car il suffit souvent d’une seul taupe pour gripper la machine, enfin bref… Par contre là où l’intelligence artificiel est au front actuellement, c’est dans sa capacité à synthétiser les informations réseaux, du PC lambda aux systèmes administratif en passant par les Cloud, pour extirper une analyse finale de probabilités capable de fournir le profil de certaine personne capable de commettre des actes répréhensibles.

    Une IA de combat aérienne si elle ne connait pas précisément les capacités de détection et de vol de l’adversaire ne sert pas à grand chose, c’est pour cela par exemple que les capacités du Météor doivent rester hautement secrète. Car la guerre n’est pas un jeu avec des règles tacites, mais plutôt un jeu où le gagnant a réussi à imposer ses propres règles…

  12. Des scientifiques font des expériences sur les mouches Drosophiles car la structure de leur cerveau est extrêmement proche de la nôtre…

  13. « En effet, Alpha fonctionne avec un seul processeur de 3,2 GHz, cadencé à 154 Hz, »
    .
    Il doit y avoir un petit bogue dans la puce alors 🙂

  14. Oui, la lutte ds le cyberespace et l’intelligence artificielle sont vraiment prioritaires.
    Pour l’intelligence artificielle, gros pbs au niveau de l’Education Nationale y compris l’enseignement privé. Les meilleurs en maths vont dans les écoles d’ingénieurs, c’est logique, ils seront mieux payés ds le secteur privé si bien qu’on se retrouve avec des profs de maths en dessous du niveau qu’il faudrait pour bien enseigner cette matière. Pour cela, il faut un système de primes pour attirer non pas les meilleurs mais au moins des bons profs de maths. Les syndicats s’y opposeront et là, il faudrait un véritable homme d’Etat pour imposer ces choix, et, et…..cet homme d’Etat est aux abonnés absents.
    Pour l’intelligence artificielle, il faudra faire appel aux étudiants étrangers, la plupart sont très brillants, mais se pose une grande question, celle de la souveraineté nationale. J’aime mon pays mais j’ai mal de plus en plus quand je parle France!

Les commentaires sont fermés.