Le ministère des Armées utilise un logiciel permettant de contrer les fausses informations

Lutter contre la diffusion de fausses informations [infox] n’est jamais simple, d’autant plus qu’il arrive parfois que des médias dits de « référence » se fassent piéger, comme le New York Times, qui a dû s’excuser pour de faux reportages sur l’État islamique [EI ou Daesh], pourtant salués par la critique et récompensés par le prix Peabody.

« Je pense que c’est un échec institutionnel », a admis Dean Baquet, le rédacteur en chef du quotidien américain, lequel avait pourtant déjà connu de pareilles mésaventures par le passé, l’un de ses journalistes ayant inventé de toute pièce une histoire d’enfant esclave en Côte d’Ivoire, en 2005. L’écrivain britannique Evelyn Waugh avait pourtant mis en garde contre de tels travers dans son roman satirique « Scoop ».

Il existe aussi de fausses informations « institutionnelles », émises pour cacher une vérité ou à des fins de propagande. Là, il s’agit entre autre de manipuler l’opinion pour fausser une élection, de saper les facteurs de cohésion d’une société ou encore d’influencer des opérations militaires. Les réseaux sociaux servent de caisse de résonance, comme on a pu le voir par exemple avec la force Barkhane, visée par des « infox » relayées par des comptes liés à des puissances étrangères.

« Comprendre la manière dont les échanges se structurent sur les réseaux sociaux est essentiel au calibrage de la parole publique. Détecter le plus tôt possible la diffusion de fake news est le meilleur moyen de l’enrayer. En conséquence, la charge de travail de la DICoD a considérablement augmenté depuis quelques années », a ainsi souligné le ministère des Armées, dans une réponse à une question écrite que le député François Cornut-Gentille lui avait adressée au sujet de la Délégation à l’information et à la communication de la défense [DICoD].

Pour contrer les campagnes de désinformation, le ministère des Armées, via la Direction générale de l’armement [DGA] avait marqué son intérêt pour VerDI, une solution mise au point par l’entreprise Storyzy, via le dispositif RAPID [Régime d’APpui à l’Innovation Duale]. L’idée était alors de s’adresser aux annonceurs afin de couper l’accès à la publicité « programmatique » des sites propageant de fausses informations, grâce à une base de données alimentée par un algorithme chargé de détecter les sources diffusant des infox.

Cependant, il fallait aller encore plus loin en donnant la possibilité d’identifier sur les réseaux sociaux les communautés qui partagent des fausses informations afin de pouvoir leur opposer des contre-arguments. D’où le projet CONFIRMA [Contre argumentation contre les fausses informations], dont les solutions sont désormais utilisées par le ministère des Armées.

Conduit par Storyzy, avec l’appui du laboratoire Inria Wimmics et de l’institut Jean Nicod, ce projet a permis de « mieux caractériser la désinformation en proposant des analyses textuelles plus fines ainsi qu’une chronologie de la diffusion des informations pour mieux comprendre l´origine de la désinformation et mieux identifier les réseaux d’acteurs qui la propagent », explique l’Agence de l’innovation de défense [AID]. Mais pas seulement car il est aussi question de disposer d’un outil capable de proposer des méthodes pour développer de manière automatique une contre-argumentation.

En effet, projet pluridisciplinaire soutenu par la DGA, CONFIRMA a recours à l’intelligence artificielle, au traitement automatique du langage naturel, à l’extraction de structures argumentaires et à la psychologie expérimentale, l’objectif étant de mieux comprendre les mécanismes d’adhésion aux infox.

« Des travaux expérimentaux ont consisté à élaborer un chatbot permettant d’émuler les conditions d’une discussion, conditions propices à l’échange d’arguments, à la transmission d’informations, et au changement d’opinion. D’autres travaux ont porté sur la désinformation, tels que les mécanismes cognitifs motivant son partage au sein de la population », a ainsi résumé l’AID.

Ce qui fait, dans le cadre de CONFIRMA, il a été mis au point un logiciel qui, utilisant une approche d’apprentissage automatique, est en mesure « d’extraire correctement les arguments en faveur ou contre un sujet particulier. »

« Certaines briques développées au sein du projet CONFIRMA ont atteint un niveau de maturité technologique suffisant pour qu’elles soient intégrées dans la plateforme d´analyse de la désinformation de Storyzy », indique l’AID.

Désormais, le logiciel de Storyzy repose sur une base de données contenant plus de deux millions de sources indexées en plus de 35 langues, ce qui permet ainsi d’avoir une « couverture mondiale ». Aujourd’hui la technologie du projet CONFIRMA est notamment utilisée par le ministère des Armées, le ministère de l’Intérieur et l’Otan.

Cela étant, un autre défi est à relever : celui de l’hypertrucage [ou Deepfake], une technologie qui, basée sur l’intelligence permet de superposer des fichiers audio et vidéo existants sur d’autres vidéos. Ce qui fait, par exemple, il est possible de faire dire à une personnalité publique des propos qu’elle n’a jamais tenus.

Conformément à l'article 38 de la Loi 78-17 du 6 janvier 1978 modifiée, vous disposez d'un droit d'accès, de modification, de rectification et de suppression des données vous concernant. [Voir les règles de confidentialité]