L’algorithme de Facebook censure… des oignons
Une entreprise canadienne a eu la mauvaise surprise de voir son annonce de vente d’oignons bloquée par le réseau social. Motif : l’image était « ouvertement sexuelle ».
L’algorithme de Facebook aurait-il pris en grippe les oignons ? Selon Jackson McLean, un Canadien qui gère une entreprise d’engrais et de semence, l’intelligence artificielle verrait plutôt des images pornographiques un peu partout. C’est ainsi que sa page Facebook a vu sa publicité pour des oignons censurée au motif qu’il s’agissait de « produits avec un positionnement ouvertement sexualisé ». Une erreur à laquelle Facebook s’est empressé d’apporter une réponse.
L’algorithme « ne différencie pas un oignon walla walla d'un, eh bien, vous savez... »
Comme il a été notifié à Jackson McLean, « les référencements ne peuvent pas présenter des produits ou des services de manière suggestive et sexuelle ». Le souci, c’est qu’à moins de considérer que la vente d’oignons est un acte sexuel avéré, il n’y a pas vraiment de raison de censurer cette publication. « Il faut avoir une imagination débordante pour regarder ça et en tirer quelque chose de sexuel car il n'y a aucun moyen de le confondre avec un truc sexuel », déclare Jackson McLean. « Il faut espérer qu'une vraie personne puisse regarder la photo et décider qu'elle n'est pas du tout sexuelle. Ce ne sont que des oignons ». Le commentaire accompagnant la vidéo, promouvant un aliment « extrêmement sucré, doux et gros », a cependant pu provoquer l’ire de l’algorithme.
Facebook a tenu de son côté à réagir rapidement. Interviewé par la radio-télévision publique canadienne, Meg Sinclair, responsable des communications chez Facebook Canada, a expliqué que l’erreur proviendrait de la méconnaissance de cette sorte d’oignons par l’algorithme, même s’il n’y a pas que ça. « Nous utilisons une technologie automatisée pour empêcher de publier des contenus comportant de la nudité. Et parfois, il ne différencie pas un oignon walla walla d'un, eh bien, vous savez... », dit-il. « Nous avons restauré l'annonce et nous sommes désolés pour le problème rencontré par l'entreprise ».
L’histoire fait en tout cas bien rire Jackson McLean dont l’entreprise n’a jamais bénéficié d’une aussi bonne visibilité. « Je suppose que quelque chose dans les deux formes rondes pourrait être mal interprété comme des seins ou quelque chose comme ça, nu d'une certaine manière », estime-t-il. « J'ai juste trouvé ça drôle », conclut-il.
