Guerre en Ukraine : des vidéos générées par l'IA visent à saper le moral des soldats

Une vidéo publiée sur les réseaux sociaux montre un soldat ukrainien désespéré qui fait pivoter sa caméra pour révéler des tranchées bordées de corps de soldats morts et blessés. Ces vidéos révèlent la réalité effrayante vécue par de nombreux Ukrainiens qui affrontent les troupes russes sur la ligne de front, un élément clé de la guerre moderne.Toutefois, ces images largement partagées sont en réalité générées par l'IA, comme l'a vérifié la société Sensity AI, spécialisée dans la détection légale de l'IA.Les chercheurs de Sensity avertissent que les "deepfakes" sont utilisés pour manipuler l'opinion publique et saper la confiance dans l'armée, à partir de vidéos authentiques de soldats ukrainiens documentant leur vie quotidienne depuis le terrain.Les clips sont présentés comme d'authentiques séquences de la ligne de front. Par exemple, dans une autre vidéo diffusée sur les réseaux sociaux, on peut voir un soldat critiquer le commandement de l'armée ukrainienne."Je ne veux pas servir avec eux", déclare le soldat dans la vidéo. "Et je n'ai pas besoin d'eux non plus.Sensity a trouvé plus de 1 000 vidéos similaires, identifiant un ensemble de données de base de 60 vidéos manipulées par l'intelligence artificielle.Ces vidéos comprennent des visages générés par l'IA, ainsi que des voix non naturelles. Dans certains cas, des séquences authentiques sont combinées à des éléments générés par l'IA, ce qui complique la détection des incohérences.De TikTok à la PravdaSelon Sensity, ces vidéos suivent un schéma cohérent qui leur permet d'être largement diffusées et d'inonder les fils d'actualité des utilisateurs. Dans le lot analysé par Sensity, les vidéos sont généralement téléchargées sur des plateformes telles que TikTok ou Telegram à partir de comptes nouvellement créés ou anonymes.Une fois qu'elles commencent à susciter de l'engagement (vues, likes et commentaires), elles sont rediffusées sur des plateformes telles que X, Facebook, Instagram et YouTube. Sur ces plateformes, les algorithmes récompensent les contenus à forte charge émotionnelle en les diffusant davantage sur la ligne de temps des utilisateurs.Une fois que le récit circule sur les médias sociaux, Sensity rapporte que des blogueurs militaires pro-russes ou des sites médiatiques pro-Kremlin tels que le réseau Pravda reprennent le contenu.Saper le moral des troupesBien que les vidéos soient différentes, elles véhiculent des récits similaires dans le but d'influencer la façon dont la guerre est perçue.Il s'agit notamment de montrer des soldats désespérés par la situation sur la ligne de front, d'affirmer que le commandement militaire ukrainien est inadéquat ou absent, ainsi que d'allégations concernant la mauvaise gestion de l'armée ukrainienne.Nombre de ces vidéos visent également à normaliser la reddition, en montrant des soldats ukrainiens affirmant que l'abandon de leur poste est leur seul moyen de sortir de la guerre.Selon Francesco Cavalli, fondateur de Sensity, l'objectif de ces vidéos est de saper la confiance dans les institutions et le commandement militaire de l'Ukraine, et d'affaiblir le moral des troupes."Le véritable danger de ces vidéos sur des plateformes telles que TikTok et Meta n'est pas simplement que certains utilisateurs puissent les croire, mais qu'elles puissent façonner la perception à grande échelle, semer la confusion dans des événements qui évoluent rapidement et éroder progressivement la confiance dans ce que les gens voient", a-t-il déclaré."L'ancienne peur était celle d'une fausse vidéo d'un président. La nouvelle réalité, ce sont des milliers de vidéos synthétiques ciblant des publics plus restreints, où il n'est pas nécessaire qu'un seul clip devienne viral pour être efficace".