Cet article date de plus de huit ans.

Nouveau monde. Les ordinateurs sont-ils sexistes ?

Nouveau monde Jérôme Colombain Le samedi à 17h50, 20h20 et 22h22, le dimanche à 17h52, 20h55 et 22h52

Certaines études montrent que la technologie reproduit les stéréotypes sexistes en vigueur chez les êtres humains.

franceinfo, Jérôme Colombain

Radio France

Publié le 11/07/2017 19:25

Temps de lecture : 2min

Une pancarte lors d'une manifestation contre le sexisme à Berlin (Allemagne). (STEPHANIE PILICK / DPA)

La technologie reproduit les stéréotypes sexistes en vigueur chez les êtres humains, d'après certaines études.

Assistants ou assistantes connecté(e)s ?

Pourquoi les assistants vocaux, ces appareils connectés censés être à notre service et répondre au moindre de nos désirs comme de fidèles serviteurs, ont-ils des noms féminins (Alexa, Cortana, etc.) et s’expriment avec des voix de femmes ? Certains n'hésitent pas à y voir une reproduction des clichés sexistes. D'ailleurs, Siri (iPhone) signifie en norvégien : "Belle femme qui vous mène à la victoire". Certes, Siri peut "changer de sexe" et parler avec une belle voix mâle de majordome, si l'utilisateur prend la peine de modifier les réglages d'origine. En revanche, ce n'est pas le cas d'Alexa qui n’est pas transgenre et ne peut pas s'exprimer autrement qu'avec une voix féminine.

Intelligence artificielle sexiste

Le sexisme des machines serait encore pire avec l’intelligence artificielle. Rappelons que l’IA, c’est la capacité d’un ordinateur à ingurgiter un grand nombre d’informations pour en tirer des connaissances qui peuvent conduire à des prises de décisions. Ainsi, en lisant beaucoup, un programme d’intelligence artificielle finit par apprendre, par exemple, que Paris est la capitale de la France et qu’un chien ressemble plus à un chat qu’à un camion.

Problème : des chercheurs de Microsoft et de l’université de Boston ont étudié comment fonctionnait un programme d’intelligence artificielle qui s’était nourri d’articles trouvés sur Google News. Ils ont demandé à la machine de compléter des phrases comme, par exemple : "L’homme est à la femme ce que le chirurgien est à… ". Réponse de la machine ? "L’infirmière". Ou encore : "L’homme est à la femme ce que le programmeur informatique est à…". Réponse : "La femme au foyer". Autrement dit, pour la machine, "infirmière" est le féminin de "chirurgien" et "femme au foyer" celui de "programmeur informatique."

Eduquer les robots

Les chercheurs travaillent sur des algorithmes qui permettraient aux machines d’engranger de la connaissance humaine sans tomber dans les stéréotypes qui vont avec. Il faudrait donc éduquer les robots comme des petits enfants.

Reste à ce que tout le monde se mette d’accord sur les valeurs à enseigner aux machines et ça, c’est une autre histoire.