De nouvelles puces contre les deepfakes

L'Intelligence Artificielle (IA) permet aujourd'hui de manipuler facilement des photos, des vidéos et des enregistrements audios. Qu'il s'agisse de déclarations falsifiées de politiciens ou d'images trompeuses provenant de zones de crise, les réseaux sociaux et les plateformes en ligne regorgent déjà de ce que l'on appelle des « deepfakes ». Les conséquences pour la société et la démocratie sont graves : de plus en plus de personnes se laissent tromper par ces falsifications ou commencent à se méfier même des sources crédibles.

Des chercheurs de l’EPFZ ont donc développé une nouvelle technologie de capteurs qui se penche précisément à ce problème. L'idée : les données, images ou signaux audio sont signés cryptographiquement dès leur création dans une puce de capteur. Grâce à cette signature, il est possible de prouver que les données proviennent bien d’une caméra ou d’un appareil d’enregistrement, de déterminer quand elles ont été capturées et de garantir qu’aucune manipulation n’a été effectuée. « Si les données sont signées dès leur création, toute manipulation ultérieure laisse des traces », explique Fernando Cardes. Il est chercheur au département des biosystèmes (BSSE) de l’ETH à Bâle et a participé au développement de cette technologie. « Pour manipuler les données, il faudrait attaquer physiquement la puce – un effort technique si important qu’il rendrait pratiquement impossible la production massive de contenus manipulés pour les plateformes de réseaux sociaux. »

Les signatures générées par le capteur pourraient être stockées par les fabricants de caméras dans un registre accessible à tous et inviolable – par exemple dans une blockchain. Il serait ainsi possible de vérifier à tout moment et de manière indépendante si les données disponibles sont authentiques : toute personne peut comparer la signature de la puce dans le registre avec les données originales et ainsi confirmer leur origine. « Ainsi, la question de savoir si une personne ou une technologie impliquée dans le traitement et la transmission des données est digne de confiance n’a pratiquement plus d’importance », souligne Felix Franke, qui a participé au développement de la puce à l’EPFZ. « La confiance dans les contenus numériques s’effrite. Nous voulions développer une technologie permettant aux gens de vérifier si quelque chose est authentique », poursuit-il.

Cette technologie peut en principe être intégrée à n’importe quel type de capteur ou de caméra. À l’avenir, les plateformes de réseaux sociaux pourraient vérifier automatiquement l’authenticité des contenus dès leur téléchargement. Et lorsque ce n’est pas le cas, les journalistes, les chercheurs ou les autorités pourraient vérifier eux-mêmes l’authenticité à l’aide d’outils simples.

L'idée des puces capteurs est née au Bio Engineering Laboratory de l’EPFZ. On y travaillait depuis longtemps au développement de capteurs ultrasensibles pour mesurer les signaux électriques des cellules vivantes. Le groupe interdisciplinaire disposait également du savoir-faire nécessaire pour intégrer directement des fonctions cryptographiques supplémentaires dans les puces capteurs. « Le danger lié aux deepfakes était prévisible », se souvient Franke. C'est pourquoi, dès 2017, l'idée est née de développer un capteur dont les données ne pourraient pas être manipulées sans être détectées.

La puce présentée est un prototype fonctionnel qui démontre la faisabilité technique. D'autres étapes sont encore nécessaires pour une utilisation commerciale.
Les chercheurs sont néanmoins convaincus qu’avec les conditions et les procédés technologiques actuels, il est possible de le transformer en un produit fonctionnel et commercialisable. Ils ont donc déposé une demande de brevet. « Nous étudions actuellement comment réduire les coûts pour les fabricants de caméras et de capteurs qui souhaitent intégrer cette nouvelle technologie dans leurs puces », relève encore Cardes.