Les GANs, des réseaux artificiels qui s’entraident pour tromper l’œil humain

Là où cela commence à être intéressant, c’est quand on demande à un système de créer quelque chose, suivant un programme défini par l’Être Humain, mais qu’on programme ensuite un second réseau pour contrôler et améliorer le travail du premier… On se rapproche alors d’un processus d’apprentissage de création contrôlée. En tous cas, la différence devient de plus en plus compliquée à déceler entre une création humaine et une « création » automatisée.
Ce domaine est celui des Réseaux Antagonistes Génératifs (Les GANs en anglais).

Cette technologie est utilisée par exemple pour la création de visages humains, dont il devient impossible pour l’œil de distinguer le vrai du faux. Un site propose de tester votre acuité visuelle, ou plutôt votre incapacité à distinguer le vrai du faux : https://thispersondoesnotexist.com/. Comme l’indique son URL, aucun des visages que vous verrez apparaitre à chaque rafraichissement de page n’est réel. Ils ont été créés par l’ordinateur, au travers d’un réseau antagoniste génératif.

« Un GAN est un modèle génératif où deux réseaux sont placés en compétition dans un scénario de théorie des jeux. Le premier réseau est le générateur, il génère un échantillon (par exemple une image), tandis que son adversaire, le discriminateur essaie de détecter si un échantillon est réel ou bien s'il est le résultat du générateur. L'apprentissage peut être modélisé comme un jeu à somme nulle », est-il expliqué sur Wikipedia.

Pour les plus techniques, vous pouvez consulter le code du projet This Person Does Not Exist sur GitHub et les détails du projet sont expliqués dans cet article

Les applications sont nombreuses ; il sera possible de modéliser des environnements complets, villes, bâtiments, et les gens qui les peuplent, dans des environnements de réalité virtuelle complexes. Cela sera utilisé dans le marketing, dans la simulation numérique, l’urbanisme, les jeux, etc.

Au-delà du progrès technologique correspondant, cela pose de nombreuses questions sur les usages possibles et les mauvaises perceptions que cela va engendrer. L’image, fixe ou animée, était encore considérée comme complexe à falsifier. Mais les GANs permettent de créer des images totalement fausses, sans que l’œil humain ne soit capable de faire la différence (comme dans la fausse vidéo de Barack Obama, ci-dessus). Face à une image, nous devrons donc nous poser en permanence la question : « est-elle réelle ? ». Un arsenal à la disposition créateurs de « fake news », qui jouent sur l’incapacité du grand public à prendre le recul analytique nécessaire, et la frontière de précision de l’œil, aujourd’hui dépassée par l’ordinateur. Tout comme le développement des virus et des anti-virus est une course perpétuelle, celui des outils de génération d’images ou de vidéos, donnera naissance à des outils de contrôle et de détection des fausses images. La course entre le voleur et le policier, à base de réseaux de neurones.