Dans le paysage numérique actuel, la frontière entre l’information et la d désinformation est de plus en plus floue, notamment avec l’émergence de modèles d’intelligence artificielle tels que ChatGPT. Au cœur de cette problématique se trouve le réseau de désinformation connu sous le nom de Portal Kombat, qui a été repéré en 2024 par la société Viginum. Ce réseau rusé a démontré sa capacité à contaminer les bases de données alimentant les chatbots d’IA, les amenant à relayer des contenus prorusses tout en les faisant passer pour des informations fiables. L’impact de cette propagande numérique soulève des questions alarmantes sur la manipulation des opinions publiques et sur la responsabilité de la technologie dans la lutte contre la désinformation.
Dans un monde de plus en plus connecté, la désinformation prend des formes variées et se propage efficacement à travers les technologies numériques. Avec l’émergence des intelligences artificielles génératives comme ChatGPT, le défi se complexifie davantage. Le réseau de désinformation russe, connu sous le nom de Portal Kombat, a pour objectif de manipuler les données intégrées au sein de ces systèmes d’IA, entraînant ainsi une contamination des informations et des récits relayés par ces technologies. Cet article explore les implications de cette situation alarmante pour l’intégrité de l’information et la confiance publique envers les intelligences artificielles.
Qu’est-ce que Portal Kombat ?
Portal Kombat, également désigné comme Pravda.network, fait référence à un vaste système russo-prorusse de sites de désinformation découvert par Viginum en 2024. Ce réseau est constitué de plusieurs centaines de portails d’information partageant des caractéristiques similaires et visant à influencer l’opinion publique à une échelle mondiale. En diffusant des contenus biaisés et pro-russes, ce dispositif se penche sur la manipulation des perceptions à l’égard de divers événements internationaux.
Impact sur les intelligences artificielles
Avec la prolifération d’IA générative comme ChatGPT, qui se nourrissent d’énormes quantités de données pour produire des réponses humaines, la contamination par des récits partisans de désinformation devient particulièrement préoccupante. Selon un audit mené par NewsGuard, de nombreux chatbots de renom, incluant ChatGPT et Grok d’Elon Musk, se sont révélés capables de relayer des informations erronées d’origine russe. Ce phénomène a été observé dans près d’un tiers des réponses fournies par ces systèmes.
La Delta des informations
Il est essentiel de comprendre comment ces récits de désinformation se retrouvent intégrés dans les corpus d’apprentissage des IA. Les agents conversationnels passent par un processus d’entraînement qui implique l’analyse de gigantesques volumes de données. Ainsi, si des contenus issus de Portal Kombat sont inclus dans ces ensembles de données, les IA deviennent automatiquement des vecteurs de désinformation. Cette situation pose un risque important sur la crédibilité des informations fournies par ces intelligences artificielles.
Les tentatives de détection et de régulation
Face à cette menace, des organisations telles que NewsGuard ont proposé des audits pour détecter la propagation de cette désinformation dans les différents modèles d’IA. Toutefois, la challenge reste de taille. Les acteurs de la technologie doivent être vigilants et actifs dans la supervision des données utilisées pour entraîner leurs intelligences artificielles afin de garantir que les contenus morsuré par la propagande russe ne se répandent pas.
Confiance et responsabilité des utilisateurs
L’un des défis majeurs imposts par la situation actuelle est la question de la confiance envers les intelligences artificielles. Les utilisateurs doivent être conscients de la possibilité d’obtenir des informations biaisées à partir de ces outils, les rendant potentiellement nocifs pour la prise de décision. Une réponse proactive se traduit par une éducation des utilisateurs concernant la consommation d’informations, notamment en vérifiant la source et en croisant les données.
Conclusion incertaine
Portal Kombat représente une menace non seulement pour l’intégrité de l’information, mais aussi pour l’avenir des intelligences artificielles. Les enjeux sont multiples et complexes, impliquant les développeurs d’IA, les régulateurs et les utilisateurs finaux. Une approche collaborative, axée sur la transparence et l’authenticité, est essentielle pour lutter contre cette marée de désinformation qui pourrait affaiblir la confiance dans les technologies de demain.
Pour plus d’informations sur ce sujet, vous pouvez consulter cet article de NewsGuard ou ce rapport sur la contamination des IA génératives.
Impact de Portal Kombat sur les IA Génératives
| Aspects | Influence et Conséquences |
| Propagation de la désinformation | Les récits de désinformation russe se retrouvent dans les réponses des chatbots, créant une confusion générale |
| Qualité des données | Les bases de données des IA sont contaminées par des informations trompeuses provenant de sites pro-russes |
| Amplification des messages | Les bots IA relaient et renforcent les narrations fabriquées par le Kremlin, atteignant un large public |
| Tests effectués | Des audits ont révélé que jusqu’à un tiers des réponses des chatbots contiennent de la désinformation |
| Économie de manipulations | Un réseau de 200 sites lié à Portal Kombat a propulsé plus de 150.000 fausses informations en trois mois |
| Structure du réseau | Un dispositif complexe avec 193 portails numériques visant une audience internationale |
Dans un monde numérique de plus en plus interconnecté, la désinformation s’est immiscée dans les outils d’intelligence artificielle (IA) comme ChatGPT, grâce à des réseaux tels que Portal Kombat. Ce vaste dispositif de propagation d’informations erronées, révélé par Viginum en 2024, soulève des questions cruciales sur la manière dont les algorithmes apprennent et transmettent l’information.
Un réseau mondial de désinformation
Le réseau de désinformation prorusse, dénommé « Portal Kombat« , a été associé à la diffusion d’un nombre alarmant de fausses informations. Composé de près de 200 portails d’information, ce dispositif a pour mission de propager une vision déformée de la réalité à l’échelle internationale. En analysant les activités de ce réseau, l’on découvre une stratégie bien orchestrée visant à influencer l’opinion publique.
Les impacts sur les chatbots d’IA
Un audit récemment effectué par NewsGuard a mis en lumière l’infiltration de récits prorusses au sein des modèles d’IA générative, dont ChatGPT fait partie. En testant plusieurs chatbots, il a été constaté que ces programmes renvoyaient parfois des informations biaisées, véhiculant ainsi des récits fabriqués par des sites proches du Kremlin. En fait, près d’un tiers des réponses fournies par ces systèmes peuvent s’inspirer de contenus issus de cette désinformation.
Une menace pour la crédibilité des IA
Alors que l’IA joue un rôle clé dans notre quotidien, cette contamination par des informations trompeuses remet en question la crédibilité de ces technologies. Comment pouvons-nous avoir confiance en ces outils quand ils semblent relayer, involontairement, des récits manipulés par des acteurs qui cherchent à déstabiliser notre perception de l’information ?
Les réactions des autorités
Face à cette situation alarmante, des agences telles que l’ANSSI et Viginum prennent des mesures pour analyser et limiter l’impact de ces réseaux. Les résultats des études indiquent une inquiétude croissante face à la sophistication des manœuvres de désinformation. Le rapport de Viginum souligne la nécessité d’agir contre ces plateformes qui servent de vecteurs pour la diffusion de fausses nouvelles.
Vers une meilleure sensibilisation
En cette ère où l’intelligence artificielle est omniprésente, il est essentiel de sensibiliser les utilisateurs aux dangers de la désinformation et à la manipulation de l’information. Des initiatives visant à éduquer les citoyens sur l’identification des contenus trompeurs doivent être déployées pour contrer les effets de ces réseaux souterrains.
Ressources et études complémentaires
Pour une compréhension approfondie de ce phénomène, plusieurs ressources s’avèrent utiles. Des rapports tels que celui de NewsGuard et de SGDSN offrent des analyses détaillées. De plus, des articles sur l’impact de l’IA sur la désinformation, comme celui d’Iamia ou d’IAMIA approfondissent ces enjeux actuels.
- Propagation rapide des récits de désinformation dans les chatbots.
- Utilisation stratégique des portails d’information prorusses.
- Infiltration des données utilisées pour l’entraînement des AI.
- Échantillonnage de 10 principaux chatbots analysé par NewsGuard.
- Plus de 150.000 fausses informations véhiculées en trois mois.
- Propagation à grande échelle des narratifs prorusses.
- Détection des ‘badbots’ et des techniques de manipulation.
- Impact sur l’opinion publique à travers une désinformation ciblée.
Depuis quelques années, la montée de la désinformation est un problème majeur dans le paysage numérique, et le réseau connu sous le nom de Portal Kombat est en première ligne de cette lutte. Ce dispositif, mis en lumière par des investigations récentes, montre comment les contenus prorusses sont diffusés à travers des portails d’information, contaminant ainsi les algorithmes d’intelligence artificielle comme ChatGPT. Ce phénomène soulève des inquiétudes quant à la manière dont ces systèmes peuvent relayer des informations erronées tout en interagissant avec des utilisateurs du monde entier.
Le réseau Portal Kombat
Le réseau Portal Kombat représente un ensemble complexe de 193 portails d’information dont l’objectif est de déclarer des récits en faveur de la Russie. Malgré un nom qui suggère une connexion avec le média russe Pravda, il est important de noter qu’il n’y a pas de lien direct entre eux. Créé dans le but de manipuler les opinions au niveau mondial, ce réseau a réussi à introduire des récits alignés avec les intérêts du Kremlin dans la discussion publique.
L’impact sur les systèmes d’IA
Les intelligences artificielles, y compris les chatbots de pointe comme ChatGPT, ne sont pas exemptes des effets nocifs de ce réseau. Selon une étude menée par NewsGuard, environ un tiers des réponses fournies par ces outils peuvent contenir des éléments de désinformation russe. En effet, la contamination des données d’apprentissage par les récits propagés par Portal Kombat pose un risque sérieux, car ces systèmes sont conçus pour pondérer et fournir des réponses basées sur l’information disponible.
Les mécanismes de propagation de la désinformation
Les bots associés à ce réseau relayent la désinformation à grande échelle, rendant les défis encore plus complexes. Le système repose sur des stratégies bien orchestrées, utilisant des récits fabriqués et des informations trompeuses pour influencer les discussions publiques. Par exemple, les modèles d’IA qui interrogent ces récits peuvent les reproduire avec une impression de fiabilité, mettant ainsi en péril l’intégrité des échanges en ligne.
Audits des systèmes d’IA
Les résultats des audits menés sur les principaux chatbots d’intelligence artificielle illustrent comment ces modèles peuvent véhiculer des informations erronées. Les études ont révélé que la plupart des chatbots, y compris des produits majeurs tels que Microsoft Copilot et Google Gemini, reproduisent régulièrement des récits issus de ces portails de désinformation. Ce constat souligne l’importance d’une vigilance accrue lors du développement de modèles d’IA afin d’assurer une certaine rigueur dans le filtrage des sources d’information.
Réactions des autorités
Face à l’inquiétude grandissante concernant la manipulation de l’opinion publique, des entités comme l’ANSSI (Agence nationale de la sécurité des systèmes d’information) ont commencé à alerter sur la nécessité de contrôler ces pratiques d’information. Elles insistent sur l’importance d’une approche multifacette pour contrer les campagnes de désinformation, impliquer des partenariats entre les entreprises tech et les régulateurs, et promouvoir l’éducation aux médias afin que les utilisateurs puissent distinguer le vrai du faux.
Stratégies pour contrer la désinformation
Pour faire face à cette menace, il est crucial d’adopter une approche proactive en matière de développement d’intelligences artificielles. Les entreprises doivent s’engager à travailler sur des données d’entraînement provenant de sources fiables et à mettre en place des mécanismes de détection des biais dans leurs algorithmes. Renforcer la transparence sur les sources d’information utilisées dans l’entraînement des modèles d’IA pourrait également aider à atténuer les risques liés à la déstabilisation des opinions publiques.
FAQ sur Portal Kombat et la Désinformation Russe dans les IA
Qu’est-ce que le réseau Portal Kombat ? Le réseau Portal Kombat est un vaste dispositif de désinformation prorusse composé de nombreux sites qui diffusent de fausses informations à destination d’audiences internationales.
Comment Portal Kombat influence-t-il les IA comme ChatGPT ? Les contenus venant de ce réseau se retrouvent dans les données utilisées par les chatbots d’IA, leur permettant ainsi de propager des récits de désinformation à grande échelle.
Qui a découvert le réseau Portal Kombat ? Le réseau a été mis en lumière par la société Viginum en 2024, qui a mené des investigations sur ses activités et son organisation.
Quel est le rôle de NewsGuard dans cette affaire ? NewsGuard a réalisé un audit des principaux chatbots d’IA, confirmant qu’ils relaient parfois des informations erronées diffusées par le réseau Portal Kombat.
Quels types de bots sont impliqués dans ce réseau ? Plus de 1000 bots sont utilisés pour manipuler l’opinion publique et relayer des contenus pro-russes, renforçant ainsi la propagande via l’IA.
Quels risques cela pose-t-il ? Cela constitue une menace pour la crédibilité de l’information ainsi qu’une déstabilisation potentielle des opinions publiques sur des questions essentielles.
Quelle était la réaction des autorités face à ce réseau ? Les autorités, dont l’ANSSI, ont exprimé leur inquiétude face à l’augmentation de la désinformation qui s’appuie sur les mécanismes mis en œuvre par Portal Kombat.