Détection des deepfakes : Facebook prêt à payer pour trouver des parades

Détection des deepfakes : le réseau social lance un concours

Ce 5 septembre, Facebook a décidé d’améliorer la détection des deepfakes, ces vidéos truquées à l’aide de l’intelligence artificielle (IA). Pour cela, le réseau social a lancé un concours, le Deepfake Detection Challenge. Il s’adresse à toute la communauté informatique et à sa créativité.

Améliorer la détection

Le but de ce concours est de récompenser les chercheurs qui proposeront à Facebook des moyens innovants pour détecter les manipulations abusives de vidéos ou de photos. Cette incitation devrait doper les moyens déjà existants de détection des deepfakes. A l’origine, ce procédé numérique permettait de remplacer le visage ou le corps d’une personne filmée ou photographiée par celui d’une autre. Cela se pratiquait surtout pour s’amuser. De plus, en étant un peu observateur, on repérait assez facilement le trucage. De fait, il était souvent assez grossier. Mais au fil du temps, grâce au deep learning, les échanges de mouvements et de paroles entre deux personnes ont beaucoup progressé. Au point de devenir quasi indétectables. Par ailleurs, avec les deep fakes, on réussit maintenant à faire dire ce que l’on veut à n’importe qui. Par exemple, un célèbre détournement a récemment montré Barack Obama en train d’insulter Donald Trump. Ce deepfake état si crédible qu’il est devenu viral sur le Web. En fait, cette technique est désormais devenue trop performante. Désormais, cela permet à certains de procéder à des applications malfaisantes. Il devient donc urgent de pouvoir les contrer.

Une compétition à grande échelle

Pour se donner les moyens d’obtenir des résultats efficaces, ce projet rassemble, en plus des usagers de Facebook, différentes universités américaines prestigieuses. Entre autres, celle d’Oxford, de Berkeley, du Maryland et de Cornell Tech. De plus, ce concours intègre également la faculté d’État de New York à Albany, le MIT, et la faculté de Microsoft. Il comprend aussi plusieurs grandes entreprises technologiques. En priorité, cette compétition porte surtout sur les techniques permettant d’échanger des visages. La détection des deepfakes abusant de ce procédé est devenue impérative. Pour y parvenir, de nombreux cerveaux vont donc se mobiliser.

Un objectif préventif

Facebook a expliqué aux concurrents que son Challenge veut aboutir à une « […] technologie que tout le monde peut utiliser pour mieux détecter quand l’IA a été utilisée pour modifier une vidéo […] ». Surtout si l’intention d’origine est « […] d’induire en erreur le spectateur ». A l’heure actuelle, pour cet énorme réseau social, la question de la détection des deepfakes est devenue cruciale. En effet, ce procédé n’arrête pas de se perfectionner. Par conséquent, à l’avenir, ses capacités de nuisance vont encore s’amplifier. Ainsi, une mobilisation globale est devenue nécessaire pour lutter contre cette technique, car elle représente un vrai danger potentiel. Grâce à ce concours, la détection des deepfakes devrait devenir plus performante. En tous cas, c’est ce qu’espère Facebook.

• Nous vous invitons à lire également notre article sur la lutte engagée par Microsoft contre les fake news
• Le Bulletin des Communes vous suggère aussi l’article du Monde