Dans un contexte où l’intelligence artificielle joue un rôle de plus en plus crucial dans les systèmes militaires, le ministère des Armées s’engage à renforcer la sécurité de ses algorithmes. En effet, la fiabilité des données alimentant ces technologies est essentielle pour garantir des décisions éclairées et efficaces. À cet effet, deux solutions innovantes ont été mises en avant, visant à protéger les systèmes intégrant l’IA contre des menaces potentielles et à assurer leur bonne intégrité tout au long de leur cycle de vie opérationnelle.
Le ministère des Armées présente deux approches innovantes pour garantir la sécurité de ses algorithmes d’intelligence artificielle
Le ministère des Armées s’illustre par ses efforts continus pour maximiser la sécurité des algorithmes d’intelligence artificielle (IA) au sein de ses systèmes. Dans cette optique, deux solutions particulièrement innovantes ont été mises en avant récemment : l’une développée par PRISM EVAL et l’autre par CEA-List. Ces technologies visent à renforcer la fiabilité des systèmes IA en détectant des attaques potentielles et en préservant l’intégrité des données traitées.
Une nécessité vitale : la fiabilité des données
Pour qu’une IA puisse être perçue comme digne de confiance, elle doit impérativement être alimentée par des données fiables. En effet, la validation de ces données est cruciale, car l’insertion d’informations erronées pourrait entraîner des erreurs de jugement dans des situations critiques, notamment dans le domaine militaire où la rapidité des décisions peut avoir des conséquences dramatiques. Ainsi, la nécessité de garantir l’intégrité des systèmes IA s’impose comme une priorité absolue pour les militaires.
Le défi « Sécurisation de l’IA »
Pour faire face à ces enjeux, l’Agence de l’innovation de défense (AID) et le Commandement de la cyberdéfense (COMCYBER) ont lancé le défi « Sécurisation de l’IA ». L’objectif de cette initiative est d’appeler à la collaboration des entreprises et des laboratoires de recherche, afin de proposer des technologies innovantes qui peuvent non seulement détecter les attaques visant les systèmes IA, mais aussi les contrer efficacement. Ce défi a attiré l’attention de nombreuses structures spécialisées, allant des laboratoires de recherche aux grandes entreprises.
Les lauréates du défi : des solutions prometteuses
Le 30 avril 2025, deux solutions ont été primées par un jury d’experts comprenant des représentants des entités mentionnées précédemment. La première, développée par PRISM EVAL, se nomme BET EVAL et se concentre sur la sécurisation des modèles de langage massif (LLMs). Ces modèles sont essentiels dans la création d’agents conversationnels et donc de l’IA générative. BET EVAL évalue la robustesse des LLMs en utilisant une approche qui combine diverses primitives comportementales d’attaques. Cela permet de tester une large gamme de scénarios d’attaques, garantissant ainsi une sécurité accrue.
De nouvelles méthodes de détection des attaques
La seconde solution, développée par CEA-List, vise à répondre aux menaces qui cherchent à corrompre les données d’un système IA. Ce projet repose sur deux outils puissants : PyRAT et PARTICUL. PyRAT assure une vérification formelle de la sécurité des réseaux de neurones, garantissant ainsi une protection contre des modifications invisibles des données. De son côté, PARTICUL détecte les motifs récurrents au sein des données pour évaluer un score de confiance sur de nouvelles entrées, protégeant ainsi des modifications plus observables.
La voie vers une IA sécurisée
Ces approches innovantes, destinées à préserver la sécurité des systèmes militaires reposant sur l’intelligence artificielle, témoignent d’une volonté d’agir proactivement contre les cibleries malveillantes. En garantissant l’intégrité des algorithmes et la fiabilité des données sur lesquelles ils s’appuient, le ministère des Armées trace un chemin prometteur pour le futur de l’IA dans la défense. Ainsi, ces développements soulignent la nécessité d’une vigilance constante face à l’évolution des menaces dans un domaine en perpétuelle mutation.
Pour en savoir plus sur les enjeux liés à l’intelligence artificielle dans les contextes militaires, on peut consulter des articles sur les implications de l’enjeux pour les armées françaises ou encore se pencher sur les défis actuels de la sécurité routière à l’aide de l’IA dans cet autre article : peut-on laisser les machines décider des règles de conduite ?
Comparaison des solutions de sécurisation de l’IA
| Approche | Description |
| BET EVAL | Permet de tester la robustesse des LLMs grâce à une approche innovante combinant des attaques comportementales. |
| PyRAT | Assure une vérification formelle de la sécurité des réseaux de neurones, garantissant une protection mathématique contre les attaques subtiles. |
| PARTICUL | Détecte les modifications dans les données, évaluant un score de confiance pour prévenir les attaques plus visibles. |
| Objectif principal | Assurer l’intégrité des systèmes d’IA tout au long de leur vie opérationnelle. |
| Origine | Développement en collaboration entre l’AID et le COMCYBER. |
| Impact sur la défense | Renforce la sécurité et la fiabilité des systèmes militaires reposant sur l’intelligence artificielle. |
Le ministère des Armées présente deux approches innovantes pour garantir la sécurité de ses algorithmes d’intelligence artificielle
Dans un contexte où l’utilisation de l’intelligence artificielle (IA) s’intensifie, le ministère des Armées a mis en avant deux solutions remarquables afin d’assurer la sécurité de ses algorithmes. Ces innovations visent à protéger les systèmes militaires d’éventuelles attaques, tout en garantissant l’intégrité des données traitées par ces technologies avancées. En impulsant cette initiative, l’agence de l’innovation de défense [AID] et le commandement de la cyberdéfense [COMCYBER] répondent à des enjeux cruciaux de modernisation et de fiabilité des systèmes de défense.
Le défi « Sécurisation de l’IA »
Face à la nécessité croissante de sécuriser les systèmes intégrant l’IA, l’AID et le COMCYBER ont organisé un défi nommé « Sécurisation de l’IA ». Cet événement a proposé aux entreprises et aux laboratoires de recherche de soumettre des technologies capables de protéger les algorithmes d’IA contre les attaques malveillantes. Une dizaine de structures spécialisées ont participé, démontrant ainsi un intérêt fort pour cette problématique.
Solutions récompensées
Lors de cet événement, deux innovations ont été primées. La première, développée par PRISM EVAL, est la suite BET EVAL, conçue pour tester la robustesse des modèles de langage massif (LLMs). Cette technologie est essentielle dans le cadre de la génération de contenu, et particulièrement dans les agents conversationnels basés sur l’IA générative. En s’appuyant sur des attaques comportementales, BET EVAL permet d’identifier les vulnérabilités et de contrer les tentatives de manipulation.
La seconde solution lauréate a été conçue par CEA-List, une entité du Commissariat à l’Énergie Atomique. Cette technologie se compose de deux outils complémentaires. Le premier, PyRAT, offre une vérification formelle de la sécurité des réseaux de neurones, apportant des garanties mathématiques pour détecter des modifications subtiles des données. Le deuxième outil, PARTICUL, permet d’évaluer la confiance des ensembles de données en détectant des anomalies.
Importance de la fiabilité des données
Le succès de ces technologies repose donc sur la nécessité qu’a une intelligence artificielle d’être alimentée par des données fiables. Une information erronée pourrait entraîner des <
Pour en apprendre davantage sur les implications de l’IA dans les systèmes de défense, il est possible de consulter des analystes spécialisés sur le sujet, comme ceux disponibles sur Cairn, ou de suivre les travaux de recherche en cours sur la plateforme Scoop.it.
- Approche 1 : Suite BET EVAL – Sécurisation des modèles massifs de langage (LLMs) contre les attaques malveillantes.
- Fonctionnalité : Teste la robustesse des LLMs par des approches comportementales variées.
- Approche 2 : Solutions de CEA-List – Contrôle visant à prévenir la corruption des données.
- Outil 1 : PyRAT – Vérification formelle de la sécurité des réseaux de neurones.
- Outil 2 : PARTICUL – Détection de données récurrentes pour évaluer leur fiabilité.
Dans le contexte croissant de l’utilisation de l’intelligence artificielle (IA) au sein des systèmes militaires, le ministère des Armées a récemment présenté deux solutions novatrices pour garantir la sécurité de ses algorithmes d’IA. Ces approches visent à renforcer la confiance dans les systèmes intelligents en s’appuyant sur des données fiables, tout en protégeant ces systèmes contre les manipulations et les attaques.
Les enjeux de la sécurité de l’IA
La première recommandation consiste à mieux comprendre les enjeux liés à la sécurité de l’IA. Une IA, quelle que soit sa catégorie (descriptive, prédictive, prescriptive ou générative), doit être nourrie par des données de qualité pour fonctionner efficacement. Une information erronée intégrée dans un système d’IA peut mener à des décisions mal orientées, particulièrement au sein de structures sensibles comme les forces armées. Par conséquent, il est primordial d’évaluer l’intégrité des données utilisées et de mettre en place des mécanismes de validation rigoureux.
Approche PRISM EVAL
Une des solutions lauréates du défi « Sécurisation de l’IA » est la suite BET EVAL développée par PRISM EVAL. Cette suite se concentre sur la sécurisation des modèles de langage de grande taille, qui sont supposés jouer un rôle clé dans les interactions de l’IA générative. BET EVAL propose des méthodes de test de robustesse afin de détecter d’éventuelles vulnérabilités. Il est donc essentiel d’intégrer cette suite dans le cycle de vie des systèmes d’IA afin d’identifier et d’éliminer les failles avant leur déploiement opérationnel.
Utilisation de PyRAT et PARTICUL
La seconde approche, développée par le CEA-List, met en avant les outils PyRAT et PARTICUL. PyRAT permet une vérification formelle de la sécurité des réseaux de neurones, garantissant que des changements imperceptibles des données par un attaquant ne compromettent pas l’intégrité du système. L’aggravation des risques liés aux attaques sur les données demande une vigilance accrue. Intégrer la vérification formelle dès la phase de développement des algorithmes d’IA est fortement recommandé.
Parallèlement, le second outil, PARTICUL, analyse des ensembles de données pour établir un score de confiance. Cette analyse est essentielle car elle permet de détecter des modifications notables dans les données entrantes. Il est recommandé de l’appliquer non seulement en phase de déploiement mais également lors de la mise à jour des données tout au long du cycle de vie des algorithmes d’IA.
Collaboration entre secteurs
Pour garantir l’efficacité des approches de sécurisation, une collaboration étroite entre les laboratoires de recherche, les entreprises innovantes, et les grandes sociétés est primordiale. Le défi « Sécurisation de l’IA » met en lumière l’importance de travailler ensemble pour faire évoluer les technologies de manière à anticiper et à contrer les menaces évolutives sur les systèmes d’IA. Il est conseillé de favoriser une plateforme d’échange entre ces entités afin de partager les meilleures pratiques en matière de sécurité des algorithmes d’intelligence artificielle.
Les défis de la sécurité de l’intelligence artificielle sont multiples et nécessitent une attention particulière. En adoptant les recommandations proposées, le ministère des Armées s’engage à créer un environnement plus sûr pour les systèmes d’IA, garantissant ainsi leur efficacité et leur fiabilité dans des scenarios critiques.
FAQ sur la Sécurisation de l’Intelligence Artificielle au sein du Ministère des Armées
Quels sont les enjeux de la sécurisation de l’intelligence artificielle ? Les enjeux résident principalement dans la fiabilité des données utilisées par les systèmes d’IA, car une mauvaise information peut avoir des conséquences graves dans des contextes critiques, notamment militaires.
Quelles solutions ont été distinguées par le ministère des Armées ? Deux solutions innovantes ont été mises en avant : BET EVAL, qui se concentre sur la sécurité des Large Language Models (LLMs), et une approche développée par CEA-List pour contrer les attaques visant à corrompre les données.
Comment la solution BET EVAL fonctionne-t-elle ? BET EVAL teste la robustesse des LLMs en combinant des primitives comportementales d’attaques, permettant d’identifier un large éventail de menaces potentielles.
Quels outils composent la seconde solution lauréate ? Cette approche repose sur deux outils : PyRAT, qui vérifie formellement la sécurité des réseaux de neurones, et PARTICUL, qui détecte les parties récurrentes dans les données pour évaluer la confiance des nouvelles données.
Qui a participé au défi « Sécurisation de l’IA » ? Le défi a suscité l’intérêt de diverses structures, notamment des laboratoires, des entreprises innovantes et des grands groupes, qui ont proposé des technologies pour renforcer la sécurité des systèmes d’IA.
Quels dangers présentent les fausses informations dans les systèmes d’IA ? Les fausses informations peuvent fausser les décisions prises par un système d’IA, entraînant des erreurs graves, en particulier dans des contextes où des choix critiques sont nécessaires.