Deepfakes : combattre la désinformation à la source

Sora 2 est aujourd’hui fermé. Mais son héritage continue de nous envahir. Avec l’application de vidéos générées par IA lancée par OpenAI, véritable réseau social de deepfakes, nous avons assisté à la démocratisation des contenus de désinformation. Selon The Decoder, OpenAI a fermé l’application et le service web le 26 avril 2026, l’API devant suivre en septembre.

Qu’ils soient amusants ou choquants, ces contenus posent la nécessité de savoir distinguer le vrai du faux.

Le problème : des deepfakes qui se fondent dans la masse

Sur Sora 2, ce problème n’existait pas. Tout est faux, c’est le principe.

Mais ces vidéos circulent déjà sur tous les autres réseaux sociaux. D’Instagram à TikTok, elles se fondent dans la masse des contenus réels.

Qu’elles viennent de Sora 2 ou d’autres générateurs, il est difficile, voire impossible, de les identifier rapidement au premier visionnage. Et il semble complexe de laisser cette tâche d’identification et de signalement à la seule charge des plateformes elles-mêmes, d’autant que la viralité de ces contenus accentue la difficulté de les contrôler.

L’étiquetage réglementaire, nécessaire mais insuffisant

Le droit européen avance. L’article 50 du règlement européen sur l’intelligence artificielle, présenté par l’AI Act Explorer, impose aux fournisseurs de systèmes génératifs de marquer leurs contenus dans un format lisible par machine, et à ceux qui diffusent des deepfakes d’indiquer que le contenu a été généré ou manipulé artificiellement. Ces obligations s’appliquent à partir du 2 août 2026.

C’est un progrès. Mais l’étiquetage repose sur la bonne foi de ceux qui produisent et diffusent les contenus. Les acteurs qui mènent une campagne de désinformation ou d’ingérence n’ont, par définition, aucune intention de signaler ce qu’ils font.

Notre position : s’attaquer aux sources plutôt qu’aux contenus

Mais il y a une voie : s’attaquer aux sources plutôt qu’aux contenus.

Car l’IA permet aussi d’identifier les sources de désinformation. Nous l’avons démontré chez NewsCore avec nos travaux de recherche et la création de notre score de fiabilité des sources.

Parce que le problème n’est en fait pas tant les contenus que les comptes à l’initiative de leur propagation. Souvent, ces comptes (voire ces médias et ces blogs) sont dormants. Petit à petit, ils convergent vers des audiences cibles et, du jour au lendemain, ils s’activent dans une campagne de désinformation ou d’ingérence.

S’il est possible de les identifier massivement et de les contrôler au démarrage de leur campagne, alors nous pouvons éviter la propagation incontrôlée d’une fake news avant que le mal soit fait.

Ce que cela change pour une entreprise

Pour une direction de la communication, de la sûreté ou des risques, la question n’est pas théorique. Un deepfake visant un dirigeant, une marque ou un produit peut déclencher une crise en quelques heures. Une approche centrée sur les sources permet :

d’anticiper : repérer les comptes et sites qui se rapprochent des audiences de l’entreprise avant qu’ils ne s’activent ;
de qualifier : pondérer chaque information par la fiabilité de sa source plutôt que de juger chaque vidéo isolément ;
de réagir vite : alerter les bonnes équipes dès le démarrage d’une campagne, au cœur d’une veille de crise efficace.

C’est l’approche que nous déployons auprès des équipes sécurité et risques et qui prolonge la veille e-réputation et la veille des réseaux sociaux classiques. Notre technologie de Surveillance Kinétique repose sur des agents qui vérifient en permanence la crédibilité des sources qu’ils scrutent.

Parce qu’il sera toujours inefficace de s’attaquer aux conséquences. Mieux vaut combattre à la... source.

Notre position sur les Deepfakes

Le problème : des deepfakes qui se fondent dans la masse

L’étiquetage réglementaire, nécessaire mais insuffisant

Notre position : s’attaquer aux sources plutôt qu’aux contenus

Ce que cela change pour une entreprise

Sources

Pour aller plus loin