Les algorithmes de Facebook identifient la Déclaration américaine d'indépendance comme un discours haineux
Et suppriment une publication

Le , par Stéphane le calme, Chroniqueur Actualités
Le 4 juillet, marque la commémoration de la Déclaration d’indépendance aux États-Unis. Pour célébrer ce jour, The Vindicator, un petit journal du Texas, a publié des sections de la Déclaration d'Indépendance. « Nous tenons ces vérités pour évidentes [...] L'histoire du roi de Grande-Bretagne actuel est une histoire de blessures répétées et d'usurpations, ayant toutes pour objet direct l'établissement d'une tyrannie absolue sur ces États ».

Alors que le journal était en mesure d'afficher la majorité de la déclaration d'indépendance sans aucun problème, un poste contenait l'expression « Indian Savages » (sauvages indiens), qui, hors contexte, semblerait violer les normes communautaires de Facebook, et a provoqué la censure du poste.

Voici la phrase entière :

« Il a excité des insurrections domestiques parmi nous, et s'est efforcé de faire venir les habitants de nos frontières, les Sauvages indiens impitoyables, dont la règle connue de la guerre, est une destruction indistincte de tous les âges, sexes et conditions ».


Facebook a fait savoir que ses systèmes automatisés ont détecté l'utilisation de « Indian Savages » et ont donc supprimé la publication. Cependant, après que les éditeurs du Vindicator aient publié une histoire à ce sujet le 3 juillet et en aient notifié Facebook, l’entreprise a décidé de rétablir la publication et s'est excusée.

« Le message a été supprimé par erreur et restauré dès que nous l'avons examiné.Nous traitons des millions de rapports chaque semaine, et parfois il nous arrive de nous tromper », a déclaré un porte-parole de Facebook à Business Insider.

Ceci est juste un exemple d'un cas où l'algorithme qui s’occupe de censurer le discours de haine sur Facebook a fait une erreur. Facebook utilise une combinaison d'humains et d'automatisation pour réviser les publications de sa plateforme. Néanmoins, la société a déclaré être consciente des problèmes complexes entourant le discours de haine (comme l'intention et le contexte), ce qui peut parfois entraîner des erreurs dans l’appréciation.

Facebook a affirmé qu’embaucher des milliers d'autres critiques humains était dans ses prévisions. Cet incident vient rappeler que le numéro un des réseaux sociaux travaille encore sur la meilleure façon d'éliminer le discours de haine sans censurer l'expression légitime.

Source : Business Insider

Et vous ?

Qu'est-ce qui pourrait, selon-vous, caractériser un discours haineux ?
Le discours haineux est-il une notion relative ?
Suffit-il qu'un individu estime qu'un discours est haineux, même si les autres ne partagent pas cet avis, pour qu'il le devienne ?
Le discours haineux est-il une notion évolutive ? Par exemple un discours qui n'était pas considéré comme haineux il y a un an, peut-il le devenir aujourd'hui ?
Cet exemple illustre-il la difficulté qu'ont les algorithmes à "comprendre" le discours haineux ou met-il en évidence une complexité bien prononcée chez l'humain ?

Voir aussi :

La loi contre la manipulation de l'information adoptée par les députés, mais ils suspectent aussi les algorithmes de diffuser les fausses informations
IA : des chercheurs de Google développent un algorithme capable de créer des scènes 3D, à partir d'images bidimensionnelles
Play Store : baisse brutale des installations de certaines applications Android, Google aurait modifié son algorithme de classement
Cinq algorithmes d'IA font équipe pour écraser des humains au Dota 2, un jeu d'équipe connu pour être extrêmement compliqué
L'UE félicite Facebook, Twitter et YouTube pour avoir supprimé 70 % des contenus haineux signalés, mais demande encore plus d'efforts


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse Signaler un problème

Avatar de jvallois jvallois - Membre habitué https://www.developpez.com
le 07/07/2018 à 12:36
D'un autre côté, vu ce qu'ils ont fait aux indiens, on peut légitimement classer ça parmi les textes incitant à la haine contre une population à cause de ses origines...
Avatar de Neckara Neckara - Expert éminent sénior https://www.developpez.com
le 07/07/2018 à 12:59
Citation Envoyé par Stéphane le calme Voir le message
Cet incident vient rappeler que le numéro un des réseaux sociaux travaille encore sur la meilleure façon d'éliminer le discours de haine sans censurer l'expression légitime.
Le problème est bien là.

On part du principe que le "discours de haine" ne peut être de "l'expression légitime".
La haine n'est qu'un sentiment qu'on souhaite nous interdire... et ça c'est dangereux.

Sachant qu'il est tellement facile de qualifier ce qui nous dérange de "discours de haine" pour ensuite justifier sa censure. En occident la "haine", c'est tout ce qui n'est pas d'extrême-gauche, dans d'autre pays, c'est l'athéisme, la critique du gouvernement en place, etc. C'est juste un moyen de faire taire la critique.

Moi quand je poste des liens vers un article du dictionnaire de l'académie française, le message est automatiquement censuré sur Facebook.
Avatar de jmv jmv - Membre confirmé https://www.developpez.com
le 08/07/2018 à 15:10
Et si on essayait avec les paroles de la Marseillaise ?
Avatar de Sodium Sodium - Membre éprouvé https://www.developpez.com
le 09/07/2018 à 6:40
Sachant qu'il est tellement facile de qualifier ce qui nous dérange de "discours de haine" pour ensuite justifier sa censure. En occident la "haine", c'est tout ce qui n'est pas d'extrême-gauche, dans d'autre pays, c'est l'athéisme, la critique du gouvernement en place, etc. C'est juste un moyen de faire taire la critique.
Je me rappelle d'une discussion où je t'avais trouvé particulièrement à côté de la plaque sur des questions d'économie.
Je découvre que tu as visiblement également des idées d'extrême droite. La boucle est bouclée

Oui, un texte appelant au massacre d'une population est un discours de haine et pour le coup, les algorithmes ont plutôt bien fait leur boulot.
Avatar de VivienD VivienD - Membre chevronné https://www.developpez.com
le 09/07/2018 à 9:43
La notion même de discours haineux est non seulement contre-productive mais aussi particulièrement irrespectueuse envers la liberté d'expression, car elle admet des définitions beaucoup trop floues et trop sujettes à la mésinterprétation pour n'englober que des discours réellement répréhensibles comme l'appel à la violence et à l'infraction à la loi. Mieux vaut avoir une longue liste de cas particuliers clairement définis, exclus de la liberté d'expression ou protégés par celle-ci, quitte à ce que ce soit fastidieux à lire.

Le cas présent de censure(1) n'est qu'un exemple flagrant parmi d'autres démontrant à quel point la notion de discours haineux est liberticide.

(1) N'en déplaise à certains, la censure n'est pas un apanage de l'État: elle peut tout aussi bien être exercée par des intérêts privés comme des entreprises, des associations, voire de simples individus.
Avatar de Neckara Neckara - Expert éminent sénior https://www.developpez.com
le 09/07/2018 à 9:43
Citation Envoyé par Sodium Voir le message
Je me rappelle d'une discussion où je t'avais trouvé particulièrement à côté de la plaque sur des questions d'économie.
Là tu ne me dis rien.

Je ne sais même pas sur quel sujet j'étais "à côté de la plaque", ni même pourquoi.
Sachant que j'ai eu une formation niveau BAC+5 touchant l'économie, cela me surprend.

Citation Envoyé par Sodium Voir le message
Je découvre que tu as visiblement également des idées d'extrême droite. La boucle est bouclée
Même une horloge cassée donne l'heure au moins 2 fois par jour.

Pour rappel, l'extrême-droite, et plus particulièrement le FN, arrive à dire des choses intelligentes de temps en temps.
Par exemple il leur est arrivé (avant de se rétracter), de défendre la neutralité du net.

Doit-on en déduire que la neutralité du net est une idée d'extrême-droite ?

C'est quoi aussi ce déshonneur par association, qui permet de discréditer sans aucune contre-argumentation sur le fond du propos ?
Que je sois à droite, à gauche, où que-sais-je, cela rend-il pour autant plus vrai ou plus faux mes propos ?

Citation Envoyé par Sodium Voir le message
Oui, un texte appelant au massacre d'une population est un discours de haine et pour le coup, les algorithmes ont plutôt bien fait leur boulot.
Oui, le but de la commémoration est bien évidemment d'appeler au massacre d'une population.
Rien à voir avec un truc comme une déclaration d'indépendance...

D'ailleurs où vois-tu l'appel au massacre d'une population dans la phrase citée qui a provoqué la censure du message ?
Avatar de hotcryx hotcryx - Membre extrêmement actif https://www.developpez.com
le 09/07/2018 à 11:00
Citation Envoyé par Neckara Voir le message

La haine n'est qu'un sentiment qu'on souhaite nous interdire... et ça c'est dangereux.
Il n'y a pas que la haine qu'on essaye de nous interdire.
Il y a aussi l'amour, et l'amour ayant changé sa définition... et toutes ses dérives.
Le vrai amour n'existe pratiquement plus.

Ils sont en train de nous changer, de nous dénaturer.

Edit:
Commémoration = culte des morts.
Ces hypocrites de politiciens diront: "ils sont morts pour la patrie" mais ce sont eux qui les ont poussé à la mort.
Ce sont les politiciens qui poussent à ce hair.
Que ce soit l'extrême droite ou un autre parti, ils sont pareils dans leurs actes.
Avatar de ddoumeche ddoumeche - Membre chevronné https://www.developpez.com
le 09/07/2018 à 11:08
Aujourd'hui la fière Brabançonne de 1830 serait censurée par les algorithmes de la bien pensance afin de lutter contre la contagion de lèpre.

C'est oublier un peu vite que les peuples d'Europe ont conquis (ou perdu, cela dépend des points de vue et des situations) leur liberté les armes à la main.
Avatar de Ryu2000 Ryu2000 - Membre extrêmement actif https://www.developpez.com
le 09/07/2018 à 11:42
Citation Envoyé par Stéphane le calme Voir le message
Cet exemple illustre-il la difficulté qu'ont les algorithmes à "comprendre" le discours haineux ou met-il en évidence une complexité bien prononcée chez l'humain ?
L'histoire des USA est basé sur un génocide puis l'esclavage, donc ce ne serait pas surprenant de trouver la haine dans la déclaration américaine...
Depuis le début ils se sentent comme un peuple élu pour qui tout est permis.

Citation Envoyé par Stéphane le calme Voir le message
« Il a excité des insurrections domestiques parmi nous, et s'est efforcé de faire venir les habitants de nos frontières, les Sauvages indiens impitoyables, dont la règle connue de la guerre, est une destruction indistincte de tous les âges, sexes et conditions ».
On dirait qu'il y a écrit "Ce sont des dangereuses bêtes qui veulent nous exterminer".
C'est peut être ce qu'il faut pour motiver un génocide...

Dans les années 1960 il y avait encore de la ségrégation raciale dans certains états des USA...

===
Bon après c'est une mauvaise idée de laisser les IA analyser tous les textes et censurer ceux qui ne vont pas.
Les algorithmes posent énormément de problème et notamment aux YouTubeurs, pour rien du tout ils se font démonétiser (si ils emploient un gros mot, si ils parlent de guerre, de mort, de sexe, etc).

Lui par exemple il ne doit pas être monétisé :
horror humanum est
Tout a commencé avec les vidéos de promotion de Daesh qui se sont retrouvé monétisé (du coup les entreprises étaient pas très contente que leur produit passe avant ce genre de vidéo).
These ads ran before ISIS videos

Citation Envoyé par jmv Voir le message
Et si on essayait avec les paroles de la Marseillaise ?
C'est haineux directement, un moment ça dit "Qu'un sang impur abreuve nos sillons".
"Sang impur" c'est haineux, en plus ça ne correspond pas à la façon de penser française...
En France il n'y a pas de notion de "sang pur" ou de "race". (on est pas allemand ^^)
Avatar de Neckara Neckara - Expert éminent sénior https://www.developpez.com
le 09/07/2018 à 11:52
Citation Envoyé par Ryu2000 Voir le message
C'est haineux directement, un moment ça dit "Qu'un sang impur abreuve nos sillons".
"Sang impur" c'est haineux, en plus ça ne correspond pas à la façon de penser française...
En France il n'y a pas de notion de "sang pur" ou de "race". (on est pas allemand ^^)
Même à l'époque, je ne pense pas qu'ils considéraient les autrichiens comme une "race inférieur". Pour rappel, l’Autriche, c'était nos amis avant la révolution française, et Léopold II était le frère de Marie-Antoinette...

La notion de pureté est ici à comprendre dans le sens de "criminalité". Que les ennemis qui ont traversés la frontière pour nous tuer et nous réduire à l'esclavage (i.e. rétablir la royauté) deviennent dès lors criminels.
Contacter le responsable de la rubrique Accueil