Les deepfakes sont un peu comme des mutations virales dans la mesure où les « meilleurs », voire les « plus efficaces », sont profondément dérangeants. Après que l’intelligence artificielle générative s’est généralisée l’année dernière avec la diffusion généralisée des chatbots textuels, les médias sociaux ont explosé avec des images et des sons générés de manière algorithmique. Ainsi, alors que l’IA continue de triompher, le perdant est la compréhension de la réalité par tous.
Du côté positif, certains deepfakes ne semblent pas (ouvre dans un nouvel onglet) être destinés à tromper qui que ce soit. Certains sont même carrément fantaisistes(s’ouvre dans un nouvel onglet). Malheureusement, le contenu viral se situe dans une zone beaucoup plus grise, d’un point de vue éthique.
Ce sont les deepfakes du premier semestre 2023 qui font sensation car leurs deepfakes ne sont pas assez faux pour se sentir à l’aise. Profitez-en et n’hésitez pas à les partager pour vous divertir, mais s’il vous plaît, ne les utilisez pas pour semer la zizanie. Il y a plus qu’assez de mensonges dans le monde.
Table des matières
1. La version imaginaire de l’arrestation de Trump
Alors que le monde attend l’arrestation de l’ancien président Donald Trump, le journaliste et fondateur de Bellingcat, Elliot Higgins, a décidé de faire preuve de créativité. À l’aide du générateur d’images AI Midjourney, Higgins a créé des images de Trump résistant violemment à l’arrestation dans une combinaison orange, fuyant le NYPD et effectuant diverses activités en prison.
Les tweets ont peut-être été supprimés (s’ouvre dans un nouvel onglet)
En fait, Trump s’est rendu aux forces de l’ordre le 20 avril et le bureau du procureur du district de Manhattan lui a permis de renoncer à sa photo. Ainsi, ceux qui espèrent voir une véritable version de la fantaisie de l’IA pourraient être déçus par la réalité terne de l’interrogatoire.
2. « Balenciaga Pope » trop beau pour être vrai
Lorsque des photos du pape François portant une doudoune blanche géante sont devenues virales en mars, Internet a été ravi de voir une mise à jour de la tenue élégante du pape. Malheureusement, c’est faux. Un ouvrier du bâtiment de 31 ans a utilisé Midjourney pour créer une image du pape dans une doudoune de style Balenciaga (ouvre un nouvel onglet).
Les tweets ont peut-être été supprimés (s’ouvre dans un nouvel onglet)
Mais l’image était suffisamment réaliste pour en tromper beaucoup, y compris Chrissy Teigen Twitter(s’ouvre dans un nouvel onglet)« Je pensais que la doudoune du pape était réelle et ce n’était pas le cas. Il n’y a aucun moyen que je survive à la technologie future. » Nous vous avons entendu, Chris.
3. Harry Potter sert l’authenticité de Balenciaga (pas)
Clairement, l’IA générative et Balenciaga vont de pair puisque la maison de couture a été citée deux fois dans le même mois. Mais cette fois, Midjourney a donné au personnage de Harry Potter le traitement Balenciaga. « Tu es Balenciaga, Harry, » dit un Hagrid maussade à Harry Potter, ses joues creuses et sa moue maussade sur la musique de transe sombre.
Les tweets ont peut-être été supprimés (s’ouvre dans un nouvel onglet)
Dans la vidéo, tous les personnages principaux sont rabaissés sous une forme ou une autre, avec des pommettes pointues et des visages hagards rappelant un événement de mode trop sérieux. La vidéo YouTube de Demonflyingfox s’appelle « Harry Potter de Balenciaga », donc elle n’a jamais vraiment été destinée à faire croire aux gens qu’elle était réelle. Mais la façon dont il cloue le ton, l’esthétique et le rendu des personnages de Harry Potter au modèle Balenciaga est un exemple frappant de ce qu’un outil comme Midjourney peut réaliser.
4. La collaboration entre Weeknd et Drake qui n’a jamais eu lieu
En avril 2023, The Weeknd et Drake ont sorti un single à succès intitulé « Heart on My Sleeve ». Sauf qu’ils ne le font pas. Il a été généré artificiellement par un créateur anonyme nommé Ghostwriter. La chanson fait fureur non pas parce qu’elle est accrocheuse (et elle l’est), mais parce que l’intelligence artificielle générative apporte des problèmes de droits d’auteur déroutants à l’industrie de la musique.
Bien que la technologie utilisée pour créer la chanson ne soit pas claire, il est assez facile de créer un deepfake audio. Il existe un certain nombre d’outils qui peuvent utiliser la synthèse vocale ou des clips audio existants pour essentiellement cloner la voix de quelqu’un et lui faire dire ce que vous voulez qu’il dise.
La chanson a finalement été supprimée de YouTube, Spotify, Apple Music et d’autres services de streaming pour violation du droit d’auteur. Le label de The Weeknd et Drake, Universal Music Group, a déclaré dans un communiqué à Billboard :
L’utilisation de la musique de nos artistes pour former une IA générative (qui viole à la fois notre accord et la loi sur le droit d’auteur) et la disponibilité de contenu contrefaisant créé avec l’IA générative sur DSP soulève la question de savoir de quel côté de l’histoire l’écosystème musical Toutes les parties prenantes de la communauté veulent être du côté des artistes, des fans et de l’expression créative humaine, ou du côté des deepfakes, de la fraude et du refus d’indemniser les artistes.
5. L’explosion du canular du Pentagone
Contrairement au Pape Balenciaga plutôt inoffensif, la fausse image de l’explosion du Pentagone montre à quel point l’intelligence artificielle générative peut être dangereuse entre les mains du mal. En mai, des images de feu et de fumée s’échappant d’une apparente explosion près du Pentagone ont circulé sur Twitter.
Les tweets ont peut-être été supprimés (s’ouvre dans un nouvel onglet)
L’image a été rapidement démystifiée comme un deepfake par les forces de l’ordre locales. Mais la fausse photo a eu de réelles conséquences, faisant chuter brièvement la bourse. Sur la base de la clôture floue devant le bâtiment et de la taille inégale des colonnes, il est clair que l’imagerie a été générée artificiellement ou manipulée numériquement. Mais à mesure que l’IA générative devient plus avancée, les deepfakes seront plus difficiles à détecter.