Cet article date de plus de cinq ans.

Nouveau monde. Intelligence artificielle : pourquoi Twitter semble-t-il préférer les Blancs aux Noirs ?

Nouveau monde Jérôme Colombain Le samedi à 17h50, 20h20 et 22h22, le dimanche à 17h52, 20h55 et 22h52

L’algorithme de Twitter serait-il raciste ? Le réseau social aurait tendance à privilégier les images de personnes blanches par rapport aux personnes noires sur les photos. En réalité, l'explication tiendrait à la manière dont l'intelligence artificielle a été entrainée.

franceinfo, Jérôme Colombain

Radio France

Publié le 21/09/2020 14:43 Mis à jour le 21/09/2020 16:37

Temps de lecture : 3min

Le logo Twitter legèrement flouté. (OLIVIER DOULIERY / AFP)

Il y a un mystère sur Twitter. Des interrogations liées à la manière dont le système sélectionne les images pour les afficher aux yeux des utilisateurs.

En règle générale, lorsque l’on poste une image sur Twitter, celle-ci est recadrée automatiquement et c’est une miniature un peu différente de l’original qui apparaît dans le fil d’actualité. Pour voir l’image en entier, il faut ouvrir le message. Or, des utilisateurs ont constaté que si l’on poste une image contenant deux visages, un blanc et un noir, Twitter recadre systématiquement l’image de manière à présenter le visage blanc, le noir restant invisible. L’affaire a commencé avec un portrait du sénateur américain Mitch McConnell (Blanc) et celui de l’ancien président des États-Unis, Barack Obama (Noir). À chaque fois c'est pareil, que le blanc soit placé en haut et le noir en bas ou l’inverse. Ce n’est pas tout : entre un homme et une femme, l’homme est également privilégié.

Biais algorithmiques

Twitter a reconnu le problème et s’est confondu en excuses. Mais pour l’instant, il n’y a pas d’explication précise. Des recherches sont en cours. Cette affaire illustre parfaitement ce que l’on appelle la question de "l’éthique des algorithmes". Pour bien comprendre, il faut savoir comment fonctionne le recadrage des images sur Twitter. Celui-ci est automatique. Il est géré par ce qu’on appelle un réseau neuronal d’intelligence artificielle, un programme qui s’est entraîné à partir de millions d’images.

L’explication la plus probable est donc que celui-ci s’est entraîné avec beaucoup plus de visages blancs que de visages noirs et qu'il a du mal, par conséquent, à reconnaître un visage noir dans une photo.

Un algorithme ne voit que des pixels

Rappelons qu’un algorithme ne "voit" pas une personne sur une image, mais il détecte seulement des pixels sans comprendre de quoi il s’agit. Une IA n’est donc pas raciste à proprement parler. Cependant, elle peut reproduire des biais racistes, conscients ou inconscients, venant de ceux qui l’ont programmée. Elle peut aussi souffir de défauts techniques qui ressemblent, à l'arrivée, à du racisme. Il y a déjà eu des problèmes de ce genre chez Facebook, ainsi qu’avec le logiciel de visioconférence Zoom qui avait tendance à effacer le visage de personnes noires dans son système d’intégration d’arrière-plan virtuel.

Ce type de problème n’est pas insoluble mais il doit être pris en compte dès la création des algorithmes et lors de l’entraînement des IA, afin de ne pas reproduire virtuellement des discriminations.