Un algorithme de Facebook confond par erreur des personnes noires avec des singes

pexels-cottonbro-5077038
Pexels

La vidéo du Daily Mail, vieille de plus d’un an, est intitulée « un homme blanc appelle les flics contre des hommes noirs à la marina ». Elle ne montre que des personnes, pas de singes.

En dessous, la question « voir plus de vidéos sur les primates ? » avec les options « Oui / Rejeter » s’est affichée sur l’écran de certains utilisateurs, d’après une capture d’écran diffusée sur Twitter par Darci Groves, une ancienne designer du géant des réseaux sociaux.

«  C’est scandaleux », a-t-elle commenté, appelant ses ex-collègues de Facebook à faire remonter l’affaire.

«  C’est clairement une erreur inacceptable », a réagi une porte-parole de Facebook, sollicitée par l’AFP. «  Nous présentons nos excuses à quiconque a vu ces recommandations insultantes. »

Le groupe californien a désactivé l’outil de recommandation sur ce sujet « dès que nous nous sommes aperçus de ce qui se passait afin d’enquêter sur les causes du problème et empêcher que cela ne se reproduise », a-t-elle précisé.

«  Comme nous l’avons dit, même si nous avons amélioré nos systèmes d’intelligence artificielle, nous savons qu’ils ne sont pas parfaits et que nous avons des progrès à faire », a-t-elle continué.

L’affaire souligne les limites des technologies d’intelligence artificielle, régulièrement mise en avant par la plateforme dans ses efforts pour construire un fil personnalisé à chacun de ses près de 3 milliards d’utilisateurs mensuels.

Elle s’en sert aussi beaucoup dans la modération des contenus, pour identifier et bloquer des messages et images problématiques avant même qu’ils ne soient vus.

Mais Facebook, comme ses concurrents, est régulièrement accusé de ne pas lutter suffisamment contre le racisme et d’autres formes de haine et de discriminations.

Le sujet suscite d’autant plus de tensions que de nombreuses organisations de la société civile accusent les réseaux sociaux et leurs algorithmes de contribuer à la division de la société américaine, dans le contexte des manifestations du mouvement « Black Lives Matter » (les vies noires comptent).

AFP

 
  • Grand séducteur, Claude François aimait les très jeunes femmes.

    Claude François, sa part d’ombre

    Trois ans après la révélation de l’existence de sa fille cachée, une nouvelle enquête dévoile le goût du chanteur pour de très jeunes fans.

  • Le travail d’intégration permet une meilleure scolarité pour les élèves «dys». La tablette est un outil très utile.

    Apprendre à maîtriser les troubles «dys»

    Les enfants qui souffrent de dyslexie, dyscalculie, dyspraxie… sont souvent considérés comme distraits, rêveurs, peu intéressés ou agités. Ils seraient entre 3 et 7 %.

  • Environ 15% des colis proviennent de vendeurs en ligne qui ne sont pas enregistrés auprès de l’Union européenne : la TVA et des frais sont alors dus par l’acheteur au moment de la livraison…

    Achats sur internet : gare aux taxes

    Des prix parfois multipliés par trois une fois la livraison effectuée. Désormais, tout ce qui vient d’un vendeur hors Union européenne est frappé par la TVA et des frais. Conseils.

  • Il est encore temps de semer

    Shutterstock

    Que vous ayez un potager ou un balcon, il est toujours possible de semer quelques légumes pour l’hiver : à vous ensuite la salade de blé et la frisée aux lardons.