Cet article date de plus de six ans.

Nouveau monde. L’IA qui déshabille les femmes augure du pire des deep fakes

Nouveau monde Jérôme Colombain Le samedi à 17h50, 20h20 et 22h22, le dimanche à 17h52, 20h55 et 22h52

Cela ressemble à une grosse blague potache mais c’est surtout une menace d’atteinte à la dignité : une application capable de déshabiller virtuellement les femmes a été diffusée récemment sur Internet.

franceinfo, Jérôme Colombain

Radio France

Publié le 01/07/2019 16:01

Temps de lecture : 2min

DeepNude, l'application capable de déshabiller virtuellement les femmes.  (CAPTURE D'ECRAN TWITTER) — DeepNude, l'application capable de déshabiller virtuellement les femmes. (CAPTURE D'ECRAN TWITTER)

Il y a quelques années circulaient des rumeurs d’applications mobiles permettant de déshabiller les gens. À l’époque, c’était faux. Aujourd’hui, c’est presque vrai. Le site américain spécialisé Vice a mis la main sur un logiciel capable d’enlever les vêtements et de faire apparaître les corps des femmes. Uniquement les femmes, ce qui en dit long sur la mentalité de ses créateurs. Le logiciel, baptisé Deep Nude, fonctionne à partir de photos. Il ne déshabille pas réellement les personnes mais il recrée des corps virtuels nus à partir d’un mélange entre les photos des personnes habillées et des parties de corps nus prises ailleurs.

On imagine immédiatement les conséquences dramatiques en termes de manipulation. Même si ce ne n’est pas réel, personne n’a envie de se retrouver virtuellement mis à nu. C’est la porte ouverte au revenge porn (contenus pornographiques diffusés sans le consentement des personnes). Le ou les développeur(s), qui serai(en)t estonien(s), ont décidé de retirer leur application quelques jours après sa publication sur le net, estimant, non sans aplomb sur Twitter, que "le monde n'est pas prêt pour cela".

Une forme de deep fakes

La technologie utilisée par ce programme est la même que celle des fameuses deep fakes, dire ces images créées de toutes pièces par intelligence artificielle. Les développeurs sont partis d’un algorithme en open-source développé des chercheurs de l'Université de Berkeley, Pix2pix, qui utilise des réseaux contradictoires génératifs (GAN). Ils ont entrainé leurs réseaux à partir de milliers d’images. Selon Motherboard, cela ne fonctionne pas à tous les coups mais le résultat serait quand même assez spectaculaire à partir de photos de bonne qualité.

L'appli a été retirée mais rien ne dit que ce genre de programme ne refera pas son apparition, sous cette forme ou sous une autre, dans le futur. Concernant les deep fakes, la technologie évolue à toute vitesse et, même si l’on commence à mettre au point des logiciels capables de déceler la supercherie, les chercheurs estiment que cela va être, dans les années à venir, comme avec les virus informatiques, une course sans fin entre deep fakes et anti-deep fakes. Avec pas mal de dégâts au passage.