Encore un mauvais coup pour les algorithmes d'intelligence artificielle, plombés par leurs biais. Il y a quelques jours, des chercheurs de l'Université Duke aux États-Unis, ont dévoilé PULSE, un outil d'intelligence artificielle qui génère une image nette en haute définition à partir d'une image source fortement pixelisée. Les informaticiens ont fait leur démonstration avec des photos de visages en très basse définition, ne contenant que 256 pixels (16 pixels x 16 pixels). S'il est possible de voir qu'il s'agit bien d'un visage, la définition est trop faible pour identifier la personne. Mais à partir de ce portrait très dégradé, PULSE parvient à reconstituer un visage en haute résolution, parfaitement reconnaissable, avec force détails : pores de la peau, finesse des cheveux et des cils, etc. L'image présente en effet une définition de 1024 pixels de côté, soit 1 048 576 pixels au total. Une finesse encore jamais atteinte selon les chercheurs.
Mais ces derniers préviennent : le visage généré n’est pas celui de la personne sur la photo pixelisée. L’algorithme génère un visage qui n’existe pas, mais qui ressemble le plus possible à celui de la photo basse définition. En d’autres termes, impossible d’identifier l’auteur d’un crime à partir d’une image très pixelisée d’une caméra de vidéo surveillance, comme le font souvent des enquêteurs de choc dans à peu près toutes les séries policières américaines.
Un entraînement sur des banques d'images de visages
Passé ce fantasme, il convient d’expliquer comment fonctionne PULSE pour comprendre pourquoi le visage reconstitué n’est pas celui d’une vraie personne. Le principe repose sur une comparaison entre l’image pixelisée et une image haute définition, le but étant de retenir l’image haute définition qui ressemble le plus à l’image pixelisée. Pour cela, PULSE utilise une classe d’algorithmes bien connus en IA : les réseaux antagonistes génératifs (GAN pour generative adversarial networks). Ces algorithmes sont constitués de deux réseaux de neurones entraînés sur des banques d’images de visages. Le premier génère des images de nouveaux visages à partir des images de visages réels. Le deuxième compare ces nouveaux visages à ceux réels et les rejette jusqu’à qu’ils soient assez ressemblant aux visages réels. Ainsi, le système parvient à produire à partir d’un visage flou méconnaissable, un visage parfaitement réaliste, en haute définition, mais qui n’existe pas.
En découvrant cette technologie, Denis Malimonov, un programmeur russe, a eu l’idée de créer Face Depixelizer, une application de défloutage des visages basée sur PULSE.
Face Depixelizer
Given a low-resolution input image, model generates high-resolution images that are perceptually realistic and downscale correctly.
😺GitHub: https://t.co/0WBxkyWkiK
📙Colab: https://t.co/q9SIm4ha5pP.S. Colab is based on thehttps://t.co/fvEvXKvWk2 pic.twitter.com/lplP75yLha
— Bomze (@tg_bomze) June 19, 2020
Et c’est là que les algorithmes ont dérapé. De nombreux internautes se sont amusés à tester l’application sur des personnages de vieux jeux vidéo (Mario, Minecraft) très pixelisés générant des visages étonnants. Mais d’autres ont choisi des photos pixelisées de personnes bien connues, comme Barak Obama et posté les résultats sur Twitter. Et là, surprise ! Au lieu de produire une personne ressemblant à l’ancien président américain, l’application a généré le visage d’un homme blanc. Même problème avec le boxeur Mohamed Ali ou encore avec l’actrice Lucy Liu, d’origine asiatique.
This AI thinks Obama is a white man. 😂
The tool is called Face Depixelizer which reconstructs pixelated images. pic.twitter.com/RA8HSfrJ4k
— Hotep Jesus (@HotepJesus) June 24, 2020
Les algorithmes reproduisent ce qu'ils connaissent
Face Depixelizer a ainsi révélé le biais raciste de PULSE, un problème bien connu en IA et lié au fait que les banques d’images sur lesquelles les algorithmes sont entraînés sont bien souvent composées d’une immense majorité d’hommes blancs. Les algorithmes ont donc tendance à reproduire ce qu’ils connaissent.
Face à cette petite polémique, les concepteurs de PULSE ont tenu à rappeler que leur technologie n’était pas destinée à générer des visages. Ils estiment notamment qu’elle pourrait être utile pour améliorer la résolution de photos issues de l’imagerie médicale, de l’astronomie, de la microscopie, etc. Dommage alors qu’ils aient choisi de faire leur preuve de concept sur des portraits.
June 27, 2020 at 08:28PM
https://ift.tt/2Ze5BHN
PULSE : un IA qui défloute bien les visages... surtout s'ils sont blancs - Sciences et Avenir
https://ift.tt/2CyaBz3
bien
0 Comments:
Post a Comment