Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les algorithmes de Facebook identifient la Déclaration américaine d'indépendance comme un discours haineux
Et suppriment une publication

Le , par Stéphane le calme

201PARTAGES

22  0 
Le 4 juillet, marque la commémoration de la Déclaration d’indépendance aux États-Unis. Pour célébrer ce jour, The Vindicator, un petit journal du Texas, a publié des sections de la Déclaration d'Indépendance. « Nous tenons ces vérités pour évidentes [...] L'histoire du roi de Grande-Bretagne actuel est une histoire de blessures répétées et d'usurpations, ayant toutes pour objet direct l'établissement d'une tyrannie absolue sur ces États ».

Alors que le journal était en mesure d'afficher la majorité de la déclaration d'indépendance sans aucun problème, un poste contenait l'expression « Indian Savages » (sauvages indiens), qui, hors contexte, semblerait violer les normes communautaires de Facebook, et a provoqué la censure du poste.

Voici la phrase entière :

« Il a excité des insurrections domestiques parmi nous, et s'est efforcé de faire venir les habitants de nos frontières, les Sauvages indiens impitoyables, dont la règle connue de la guerre, est une destruction indistincte de tous les âges, sexes et conditions ».


Facebook a fait savoir que ses systèmes automatisés ont détecté l'utilisation de « Indian Savages » et ont donc supprimé la publication. Cependant, après que les éditeurs du Vindicator aient publié une histoire à ce sujet le 3 juillet et en aient notifié Facebook, l’entreprise a décidé de rétablir la publication et s'est excusée.

« Le message a été supprimé par erreur et restauré dès que nous l'avons examiné.Nous traitons des millions de rapports chaque semaine, et parfois il nous arrive de nous tromper », a déclaré un porte-parole de Facebook à Business Insider.

Ceci est juste un exemple d'un cas où l'algorithme qui s’occupe de censurer le discours de haine sur Facebook a fait une erreur. Facebook utilise une combinaison d'humains et d'automatisation pour réviser les publications de sa plateforme. Néanmoins, la société a déclaré être consciente des problèmes complexes entourant le discours de haine (comme l'intention et le contexte), ce qui peut parfois entraîner des erreurs dans l’appréciation.

Facebook a affirmé qu’embaucher des milliers d'autres critiques humains était dans ses prévisions. Cet incident vient rappeler que le numéro un des réseaux sociaux travaille encore sur la meilleure façon d'éliminer le discours de haine sans censurer l'expression légitime.

Source : Business Insider

Et vous ?

Qu'est-ce qui pourrait, selon-vous, caractériser un discours haineux ?
Le discours haineux est-il une notion relative ?
Suffit-il qu'un individu estime qu'un discours est haineux, même si les autres ne partagent pas cet avis, pour qu'il le devienne ?
Le discours haineux est-il une notion évolutive ? Par exemple un discours qui n'était pas considéré comme haineux il y a un an, peut-il le devenir aujourd'hui ?
Cet exemple illustre-il la difficulté qu'ont les algorithmes à "comprendre" le discours haineux ou met-il en évidence une complexité bien prononcée chez l'humain ?

Voir aussi :

La loi contre la manipulation de l'information adoptée par les députés, mais ils suspectent aussi les algorithmes de diffuser les fausses informations
IA : des chercheurs de Google développent un algorithme capable de créer des scènes 3D, à partir d'images bidimensionnelles
Play Store : baisse brutale des installations de certaines applications Android, Google aurait modifié son algorithme de classement
Cinq algorithmes d'IA font équipe pour écraser des humains au Dota 2, un jeu d'équipe connu pour être extrêmement compliqué
L'UE félicite Facebook, Twitter et YouTube pour avoir supprimé 70 % des contenus haineux signalés, mais demande encore plus d'efforts

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de jvallois
Membre habitué https://www.developpez.com
Le 07/07/2018 à 12:36
D'un autre côté, vu ce qu'ils ont fait aux indiens, on peut légitimement classer ça parmi les textes incitant à la haine contre une population à cause de ses origines...
19  2 
Avatar de jmv
Membre confirmé https://www.developpez.com
Le 08/07/2018 à 15:10
Et si on essayait avec les paroles de la Marseillaise ?
16  0 
Avatar de VivienD
Membre chevronné https://www.developpez.com
Le 09/07/2018 à 14:06
Citation Envoyé par Sodium Voir le message
[ citation ]

Tu as donc une bien haute opinion de toi-même en plus d'être à côté de la plaque
[...]
Suite à quoi je t'avais mis en ignore list mais il m'arrive encore de m'écorcher les yeux sur les bêtises que tu assènes quand je surfe non connecté

[ citation ]

Tes propos sont faux parce qu'ils sont faux.
Le fait qu'ils expriment des idées d'extrême droit n'est que la cerise sur le gâteau du discrédit.

[...]
Tautologie, culpabilité par association, attaque ad personam, ...
Continuer d'ignorer les messages de Neckara ou faire face une bonne fois pour toute à la dissonance cognitive aurait été nettement plus simple que de faire preuve d'autant d'ingéniosité sophique pour justifier le bien fondé de ton sectarisme idéologique.

Citation Envoyé par Sodium Voir le message
[...]
Tu soutenais que le fait que des individus puissent posséder plus d'argent que le PIB de plusieurs pays n'est pas un problème.
[...]
Neckara a non seulement le droit d'avoir un avis différent du tien mais aussi de l'exprimer sur ce forum, en vertu des libertés d'opinion et d'expression. Par ailleurs, avoir un avis différent du tien n'est en aucun cas suffisant pour discréditer qui que ce soit.

Citation Envoyé par Sodium Voir le message
[...]

Dans la mesure où il s'agit bien de propos haineux, le premier réflexe consistant à les censurer avant éventuellement une vérification humaine est la bonne.
On ne va pas commencer à laisser passer tout est n'importe quoi sous prétexte que dans 0.00000000000000001% des cas il peut s'agir d'un texte historique a but commémoratif.

[...]
En exprimant ouvertement ton rejet quasiment viscéral d'une opinion divergeant de la tienne et en entretenant de l'amalgame entre Neckara et l'extrême droite, ton message peut parfaitement entrer dans la case du discours haineux. Si on devait appliquer tes idéaux, il faudrait donc censurer ton message.

Crois-tu encore que la censure est la solution?

Citation Envoyé par Sodium Voir le message
[...]

Si je me mets à citer Mein Kampf, on devrait laisser passer sous prétexte qu'il s'agit d'un texte historique ?
Par défaut, oui. Citer Mein Kampf est même le minimum syndical, si, par exemple, tu veux prouver la dangerosité des idées énoncées dans cet ouvrage.
13  0 
Avatar de Neckara
Expert éminent sénior https://www.developpez.com
Le 07/07/2018 à 12:59
Citation Envoyé par Stéphane le calme Voir le message
Cet incident vient rappeler que le numéro un des réseaux sociaux travaille encore sur la meilleure façon d'éliminer le discours de haine sans censurer l'expression légitime.
Le problème est bien là.

On part du principe que le "discours de haine" ne peut être de "l'expression légitime".
La haine n'est qu'un sentiment qu'on souhaite nous interdire... et ça c'est dangereux.

Sachant qu'il est tellement facile de qualifier ce qui nous dérange de "discours de haine" pour ensuite justifier sa censure. En occident la "haine", c'est tout ce qui n'est pas d'extrême-gauche, dans d'autre pays, c'est l'athéisme, la critique du gouvernement en place, etc. C'est juste un moyen de faire taire la critique.

Moi quand je poste des liens vers un article du dictionnaire de l'académie française, le message est automatiquement censuré sur Facebook.
16  4 
Avatar de sergio_is_back
Membre émérite https://www.developpez.com
Le 09/07/2018 à 13:06
Citation Envoyé par Sodium Voir le message

Oui, un texte appelant au massacre d'une population est un discours de haine et pour le coup, les algorithmes ont plutôt bien fait leur boulot.
Censurer un texte historique, hors de tout contexte, c'est bien faire son travail ?
M'étonne pas que les gens deviennent de plus en plus cons alors.... Vivement l’avènement de l'IA généralisée qui nous dispensera de réfléchir et vendra le peu de cerveau
qui nous restera à Coca-cola...
11  0 
Avatar de Zirak
Inactif https://www.developpez.com
Le 11/07/2018 à 11:27
Citation Envoyé par Neckara Voir le message


Mon humilité va très bien.

Qu'on soit bien clair, je ne prétends pas être un génie de l'économie, juste d'avoir une double-compétence, dans un domaine qui n'est pas le vôtre.

Ce que je critique, c'est votre manque d'humilité, à rabaisser en l'occurrence mes compétences parce qu'elles ne sont pas compatibles avec votre idéologie.
Ce que je critique, c'est votre manque d'humilité, à vous croire plus compétent/malin que tout le monde, alors même que vous n'avez pas suivi de formation, et que vous faites des erreurs de débutants (e.g. confusion capitalisme/libéralisme).
Juste la-dessus et après je m'en vais, et je précise que je ne parle pas pour moi, car j'ai déjà précisé qu'effectivement, je n'avais pas les compétences dans ce domaine mais :

comment connais-tu la formation et le domaine de travail de tous les intervenants du fil ou du forum ?

Ce n'est pas parce que les autres ne viennent pas poster leur diplôme, que tu es le seul de DVP à avoir eu une formation en économie hein.

Et surtout pourquoi dire "vous" alors que ton grief est à la base avec Sodium, et donc tu viens coller tout ceux qui osent te dire le moindre truc, au même niveau de connaissance / compétence que lui, sous prétexte qu'ils ne sont pas d'accord avec toi, alors que tu ne sais absolument rien de leur parcours.

Désolé mais non, ton "humilité ne va pas bien", que cela soit sur ce fil, ou sûr d'autres. Comme l'a dit Grogro, tu as régulièrement de bons arguments, et de bonnes réflexions, mais tu as légèrement tendance à croire que tu as raison sur tout, après ce n'est peut-être qu'un problème de "forme" à cause du dialogue sur le forum, j'entends bien que ce n'est peut-être pas forcément voulu, mais c'est un peu ce qui ressort de tes interventions.
10  0 
Avatar de VivienD
Membre chevronné https://www.developpez.com
Le 09/07/2018 à 9:43
La notion même de discours haineux est non seulement contre-productive mais aussi particulièrement irrespectueuse envers la liberté d'expression, car elle admet des définitions beaucoup trop floues et trop sujettes à la mésinterprétation pour n'englober que des discours réellement répréhensibles comme l'appel à la violence et à l'infraction à la loi. Mieux vaut avoir une longue liste de cas particuliers clairement définis, exclus de la liberté d'expression ou protégés par celle-ci, quitte à ce que ce soit fastidieux à lire.

Le cas présent de censure(1) n'est qu'un exemple flagrant parmi d'autres démontrant à quel point la notion de discours haineux est liberticide.

(1) N'en déplaise à certains, la censure n'est pas un apanage de l'État: elle peut tout aussi bien être exercée par des intérêts privés comme des entreprises, des associations, voire de simples individus.
9  1 
Avatar de VivienD
Membre chevronné https://www.developpez.com
Le 09/07/2018 à 14:47
Citation Envoyé par Sodium Voir le message
La dernière fois que j'ai discuté avec Neckara, ça a donné 10 pages dans lesquelles il maintenait que le fait que quelques individus possèdent plus de 90% des ressources de la planète n'entrait pas en contradiction avec son idée selon laquelle les marchés s'autorégulent et permettent d'éviter les abus avec pour seul argument le fait qu'il ait suivi un cours d'économie (qu'il a visiblement transformé en Bac+5 depuis, probablement plus dans sa tête que dans la réalité) et lu 3 livres.

[...]
Dois-je comprendre que vous deux avez entretenu ne serait-ce qu'un semblant de débat qui s'est avéré infructueux?
La bienséance aurait voulu que tu laisses le lien vers la dite discussion pour tout le monde puisse se faire son idée.

Citation Envoyé par Sodium Voir le message
[...]

Donc oui, je préfère éviter des discussions sans fin stérile. [...]
La facilité n'est pas forcément la meilleure des solutions.

Citation Envoyé par Sodium Voir le message
[...] Les ignorants me fatiguent, [...]
Quels ignorants? En quoi méritent-ils ce qualificatif?

Citation Envoyé par Sodium Voir le message
[...] ceux qui défendent le droit à soutenir des propos haineux me hérissent le poil.
C'est ton droit. En revanche, les émotions des uns ne doivent pas restreindre les libertés des autres.
8  0 
Avatar de el_slapper
Expert éminent sénior https://www.developpez.com
Le 11/07/2018 à 16:01
Citation Envoyé par Neckara Voir le message
Je ne te crois pas, ou plutôt j'ai peine à y croire.
j'ai eu des votes positifs. Tu as eu des votes négatifs. J'en déduis que l'expérience des gens sur ce forum tend vers mon point de vue.

Citation Envoyé par Neckara Voir le message
Une formation informatique comporte normalement des TPs, et des examens, comment peuvent-il réussir à passer sans même réussir à écrire quelque chose d'aussi simple que :
(.../un code qui ressemble à un fizzbuzz honnête et fonctionnel, mais j'ai la flemme de vérifier/...)
Tu vas les chercher où tes diplômés ?
Dans des écoles "moyennes", reconnues parceque le marché manque de bras. On a massifié l'éducation, et le filtrage se fait de plus en plus anedcdotique. Pire, il se fait sur des choses faciles à vérifier, que l'on peut apprendre par cœur, plus que sur la capacité à réfléchir. LEs très gros diplômes gardent une certaine valeur(même si des mauvaises surprises sont possibles), mais dès que tu arrives dans du correct, bien loin encore du fonds de cuve, le taux de déchet est de plusieurs dizaines de pourcent(et inversement, tu peux trouver des gens formidables dans le fonds de cuve).

Citation Envoyé par Neckara Voir le message
Même les plus nuls des formations que je connais sont capables de faire cela.
sans accès à internet? Dans un délai raisonnable(i.e. moins d'une heure? Je considère qu'un professionnel fait ça en moins d'un quart d'heure sur un environnement ou il est à l'aise; je suis plus relax pour un étudiant).

Citation Envoyé par Neckara Voir le message
EDIT: Oui, je parle de "vrais" diplômes, reconnus par l'État, dans une université, IUT, ou école d'ingénieur, pas des écoles privées où tu payes ton diplôme et tes modules .
Oui, oui, oui. C'est plus rare dans les écoles du groupe A(ce qui était le cas de mon école quand j'y étais), mais on en trouve parfois. Mais j'ai, en Février 2000, passé un entretien chez un chasseur de têtes qui m'a fait passer un test technique(dans ma discipline d'ingénierie de l'époque, pas en info), et en analysant les résultats, la dame m'a dit "Pas mal. Vous voyez, de votre école, c'est plus rare, mais on a souvent des candidats qui ont eu leur diplôme - prestigieux - dans une pochette surprise. Nous sommes donc obligé de faire des tests pour les filtrer et garantir à nos clients une qualité minimale". Mot pour mot. Le problème n'est pas nouveau. On prend des gens qui apprennent par cœur toutes les typologie de problèmes de maths, se trouvent des binômes de TP qui font tout le boulot, ont leur diplôme raduc grâce aux matières auxiliaires, puis vont grenouiller pour être chef de projet tout en crachant sur les développeurs, ces inférieurs.

Dit autrement, les diplômes ont de moins en moins de signification quand à la capacité des gens à réellement faire le boulot, et la tendance ne date pas d'hier. D'ou le scepticisme de certains sur ta maitrise de l'économie, alors même que tu as les diplômes. Je ne dis pas que tu as tort(je ne m'y connais pas assez pour juger), juste que associer diplôme et compétence est un risque, de nos jours.
8  0 
Avatar de ddoumeche
Membre extrêmement actif https://www.developpez.com
Le 09/07/2018 à 13:49
Citation Envoyé par RoiFrancaisMacr Voir le message
Pourquoi tous tes posts sont inintéressants ?

1 ton argumentaire est foireux
2 tu spam avec des liens douteux pour la plupart
3 tu spam des liens qui contredisent ce que tu dis (mais bon encore faut il que tu lises complètement les articles)
4 quand ce nuisible sera t il banni ?
Je ne suis pas d'accord pour un ban, Ryu2000 est une publicité vivante contre les ravages du cannabis.
10  3