Les algorithmes de Facebook identifient la Déclaration américaine d'indépendance comme un discours haineux

Et suppriment une publication

Les algorithmes de Facebook identifient la Déclaration américaine d'indépendance comme un discours haineux,
et suppriment une publication

Le 4 juillet, marque la commémoration de la Déclaration d’indépendance aux États-Unis. Pour célébrer ce jour, The Vindicator, un petit journal du Texas, a publié des sections de la Déclaration d'Indépendance. « Nous tenons ces vérités pour évidentes [...] L'histoire du roi de Grande-Bretagne actuel est une histoire de blessures répétées et d'usurpations, ayant toutes pour objet direct l'établissement d'une tyrannie absolue sur ces États ».

Alors que le journal était en mesure d'afficher la majorité de la déclaration d'indépendance sans aucun problème, un poste contenait l'expression « Indian Savages » (sauvages indiens), qui, hors contexte, semblerait violer les normes communautaires de Facebook, et a provoqué la censure du poste.

Voici la phrase entière :

« Il a excité des insurrections domestiques parmi nous, et s'est efforcé de faire venir les habitants de nos frontières, les Sauvages indiens impitoyables, dont la règle connue de la guerre, est une destruction indistincte de tous les âges, sexes et conditions ».


Facebook a fait savoir que ses systèmes automatisés ont détecté l'utilisation de « Indian Savages » et ont donc supprimé la publication. Cependant, après que les éditeurs du Vindicator aient publié une histoire à ce sujet le 3 juillet et en aient notifié Facebook, l’entreprise a décidé de rétablir la publication et s'est excusée.

« Le message a été supprimé par erreur et restauré dès que nous l'avons examiné.Nous traitons des millions de rapports chaque semaine, et parfois il nous arrive de nous tromper », a déclaré un porte-parole de Facebook à Business Insider.

Ceci est juste un exemple d'un cas où l'algorithme qui s’occupe de censurer le discours de haine sur Facebook a fait une erreur. Facebook utilise une combinaison d'humains et d'automatisation pour réviser les publications de sa plateforme. Néanmoins, la société a déclaré être consciente des problèmes complexes entourant le discours de haine (comme l'intention et le contexte), ce qui peut parfois entraîner des erreurs dans l’appréciation.

Facebook a affirmé qu’embaucher des milliers d'autres critiques humains était dans ses prévisions. Cet incident vient rappeler que le numéro un des réseaux sociaux travaille encore sur la meilleure façon d'éliminer le discours de haine sans censurer l'expression légitime.

Source : Business Insider

Et vous ?

Qu'est-ce qui pourrait, selon-vous, caractériser un discours haineux ?
Le discours haineux est-il une notion relative ?
Suffit-il qu'un individu estime qu'un discours est haineux, même si les autres ne partagent pas cet avis, pour qu'il le devienne ?
Le discours haineux est-il une notion évolutive ? Par exemple un discours qui n'était pas considéré comme haineux il y a un an, peut-il le devenir aujourd'hui ?
Cet exemple illustre-il la difficulté qu'ont les algorithmes à "comprendre" le discours haineux ou met-il en évidence une complexité bien prononcée chez l'humain ?

Voir aussi :

La loi contre la manipulation de l'information adoptée par les députés, mais ils suspectent aussi les algorithmes de diffuser les fausses informations
IA : des chercheurs de Google développent un algorithme capable de créer des scènes 3D, à partir d'images bidimensionnelles
Play Store : baisse brutale des installations de certaines applications Android, Google aurait modifié son algorithme de classement
Cinq algorithmes d'IA font équipe pour écraser des humains au Dota 2, un jeu d'équipe connu pour être extrêmement compliqué
L'UE félicite Facebook, Twitter et YouTube pour avoir supprimé 70 % des contenus haineux signalés, mais demande encore plus d'efforts