Deepfakes a expliqué l'IA qui fait de fausses vidéos trop convaincantes

Voir c'est croire. Au moins, c’était le cas avant de réaliser que les internautes pouvaient créer des vidéos pour propulser des canulars et réécrire l’histoire. Bien que nous ayons trouvé le moyen de supprimer la plupart des images de canular, il existe un développement technologique qui s'accélère si rapidement que nous ne saurons bientôt plus comment dire ce qui est réel et ce qui est faux..

Deepfakes change tout ce que nous pensions possible en termes de vidéos trafiquées. Voici tout ce que vous devez savoir sur eux…

Quels sont Deepfakes?

Le terme deepfakes vient d'une combinaison des mots “l'apprentissage en profondeur” et “faux”. En effet, un logiciel d'intelligence artificielle formé à la synthèse d'images et de vidéos crée ces vidéos. Cette IA peut superposer le visage d'un sujet (la source) sur une vidéo d'un autre (la cible). Des formes plus avancées de la technologie peuvent synthétiser un tout nouveau modèle de personne en utilisant les gestes du visage et les images ou la vidéo du sujet qu’ils souhaitent imiter..

La technologie peut créer des modèles de visage basés sur des données visuelles limitées, telles qu'une image. Cependant, plus l'IA doit travailler avec des données, plus le résultat est réaliste..

C'est pourquoi les politiciens et les célébrités sont des cibles si faciles pour Deepfakes car il y a tellement de données visuelles disponibles en ligne que le logiciel peut utiliser. Les logiciels deepfake étant disponibles sur des plates-formes à source ouverte, les internautes peaufinent et développent en permanence le travail des autres..

Les origines de la technologie Deepfake AI

La technologie derrière Deepfakes a été développée pour une multitude de buts. Tout comme Photoshop, le logiciel est utilisé par des professionnels, du divertissement et des amateurs. Et tout comme Photoshop, bien que le créateur n'ait aucune intention malveillante dans la création du logiciel, cela n'a pas empêché les gens de l'utiliser à des fins malveillantes..

La technologie de permutation de visage était initialement utilisée principalement dans l'industrie du film. L'un des cas les plus célèbres est celui du film 2016 Rogue One: A Star Wars Story. Dans le film, les cinéastes ont utilisé la technologie de synthèse vidéo et d’échange de visages pour recréer le personnage de Grand Moff Tarkin. Une version plus jeune de la princesse Leia a également été créée dans le film. Dans les deux cas, des modèles de visages des acteurs d'origine ont été superposés sur des acteurs suppléants.

Des applications comme Snapchat utilisent également la technologie de permutation de visage pour créer des filtres amusants pour les utilisateurs. Les développeurs derrière ces applications affinent en permanence la détection et le suivi des visages pour appliquer ces filtres plus efficacement..

Pendant ce temps, d'autres ont développé des outils de synthèse vidéo pour créer des hologrammes à des fins éducatives. Par exemple, un projet a développé un logiciel de synthèse vidéo et faciale afin que les témoignages de survivants de l'Holocauste puissent être présentés sous forme d'hologrammes interactifs dans un musée..

Pourquoi Deepfakes rend les gens nerveux

Quand les gens se sont rendus compte que les escrocs et les personnes jouant des canulars utilisaient Photoshop pour créer de fausses images, nous devions devenir plus sceptiques quant à ce que nous considérions comme une preuve. Heureusement, il y avait plusieurs façons de détecter si une image était fausse, même à l'œil nu.

De plus, créer une image soignée convaincante dans Photoshop nécessite une main-d’œuvre relativement lourde. Tout le monde ne peut pas associer deux images et les rendre réalistes.

Mais les deepfakes sont différents. L'apprentissage automatique vous simplifie la vie 4 Algorithmes d'apprentissage automatique qui façonnent votre vie 4 Algorithmes d'apprentissage automatique qui façonnent votre vie Vous ne le réalisez peut-être pas, mais l'apprentissage automatique est déjà tout autour de vous et peut exercer une influence surprenante sur votre vie. Ne me crois pas? Vous pourriez être surpris. En savoir plus, mais dans ce cas, il est beaucoup plus facile de faire de la falsification. Premièrement, le logiciel est largement et librement disponible. FakeApp, par exemple, est un choix populaire pour créer des deepfakes. Vous n'avez pas besoin de compétences avancées pour appliquer un échange de visage, le logiciel le fera pour vous..

Puisque l'IA et l'apprentissage en profondeur aident à créer des deepfakes, la technologie s'améliore également et devient plus convaincante à un rythme alarmant. Il ne faudra pas longtemps avant que ces modifications ne soient visibles à l'œil nu.

Dans un monde semé de fausses nouvelles, convaincre deepfakes pourrait s'avérer être une force chaotique contre ce que nous croyons être vrai.

La montée en puissance de deepfakes a également lieu à un moment où la synthèse vocale en IA progresse également rapidement. L’IA peut non seulement générer de fausses vidéos, mais aussi des modèles de voix pour les internautes..

Cela signifie que vous n'auriez pas besoin d'un imitateur pour donner l'impression que le politicien fait une déclaration scandaleuse. Vous pouvez entraîner l'IA à imiter sa voix.

Les conséquences de Deepfakes

Les gens utilisent déjà deepfakes à des fins malveillantes. Les gens utilisaient souvent FakeApp pour créer de fausses vidéos d'actrices célèbres engagées dans du contenu pour adultes.

Gal Gadot, Daisy Ridley et Emma Watson ne sont que quelques-unes des actrices visées par de fausses vidéos pour adultes. Ces deepfakes échangent le visage de leurs actrices en vidéos de stars de cinéma adultes.

Alors que plusieurs plates-formes et certains sites Web pour adultes ont interdit ce type de vidéos, de plus en plus de vidéos apparaissent chaque jour. En fait, certains sites Web créent spécifiquement des vidéos deepfake pour adultes de célébrités à la demande des utilisateurs..

Dans la plupart des pays, aucune loi ne traite encore de ce type de contenu, ce qui rend difficile le contrôle.

Alors que nous sommes encore loin de la dystopie régie par la désinformation et les fausses preuves vidéo que nous voyons dans des films comme The Running Man, nous connaissons déjà trop bien les effets des fausses nouvelles What is Fake News et comment cela se propage-t-il Rapidement? Qu'est-ce qu'une fausse nouvelle et comment se propage-t-elle si rapidement? Les fausses nouvelles tourmentent Internet et le pire, c’est que la plupart des gens ne peuvent pas les reconnaître quand ils les voient. Lire la suite .

Deepfakes peut être un outil puissant pour répandre la désinformation. Personne n'a été accusé d'un crime ou simulé sa mort en utilisant deepfakes, mais que se passe-t-il quand il devient difficile de dire quelles vidéos sont vraiment réelles?

Les conséquences des deepfakes utilisés à des fins politiques sont doubles. Premièrement, cela facilite beaucoup la propagation des fausses nouvelles. Les vidéos sont plus susceptibles que le texte ou les images de convaincre les gens que quelque chose de fictif s'est réellement passé.

Les gens croient déjà aux gros titres de faux sites Web sans aucune preuve corroborant leur histoire. Tout à coup, de fausses histoires auront “preuve” montrer des politiciens avouant des actes répréhensibles ou faire des déclarations scandaleuses.

D’un autre côté, Deepfakes pourrait aussi enhardir les politiciens en évitant de rendre des comptes. Ils pourraient toujours facilement prétendre qu’un enregistrement audio ou vidéo est en réalité une fausse note..

Comment combattons-nous Deepfakes??

Alors que de nombreuses entreprises de technologie prennent leur temps pour régner sur deepfakes, diverses personnes développent des outils pour lutter contre les fausses vidéos malveillantes. L'IA peut combattre les pirates informatiques et la cybercriminalité Comment l'intelligence artificielle combattra-t-elle les pirates informatiques modernes et la cybercriminalité? Comment l'intelligence artificielle combattra-t-elle les pirates modernes et la cybercriminalité? Avec intelligence artificielle! En savoir plus, mais il est également utile pour détecter les tentatives de falsification de l'IA dans les vidéos.

AI Foundation a créé un plugin de navigateur appelé Reality Defender pour aider à détecter le contenu deepfake en ligne. Un autre plug-in, SurfSafe, effectue également des contrôles similaires. Ces deux outils visent à aider les internautes à discerner les faits de la fiction.

Les sites Web de vérification des faits tels que Snopes ont également étendu leur activité à la diffusion de vidéos trafiquées. Mais ils n'ont pas encore les outils pour détecter automatiquement les deepfakes.

Même le département américain de la Défense a investi dans un logiciel permettant de détecter les deepfakes. Après tout, qu’arriverait-il si une vidéo convaincante d’un leader mondial paraissait en ligne, déclarant la guerre ou lançant un missile contre un autre pays? Les gouvernements ont besoin d'outils pour vérifier rapidement la légitimité d'une vidéo.

Conséquences inattendues de l'apprentissage automatique

Il ne fait aucun doute que la technologie d'intelligence artificielle et l'apprentissage profond en machine améliorent notre vie de nombreuses façons. Mais la technologie a aussi des conséquences inattendues.

Si les mauvaises données constituent un obstacle majeur aux algorithmes d’apprentissage automatique, l’élément humain joue également un rôle. Il est difficile de prédire comment certaines personnes pourraient utiliser certaines technologies à des fins malveillantes. Pour en savoir plus sur l’apprentissage automatique et les erreurs passées, consultez notre guide sur les algorithmes d’apprentissage automatique et expliquez-leur l’erreur. Que sont les algorithmes d’apprentissage automatique? Voici comment ils fonctionnent Que sont les algorithmes d'apprentissage machine? Voici comment ils fonctionnent Les algorithmes d'apprentissage automatique sont conçus pour vous simplifier la vie et améliorer les systèmes, mais ils peuvent donner lieu à de mauvaises conséquences. Lire la suite .

En savoir plus sur: Intelligence artificielle, Deepfakes, Canulars.