Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Des chercheurs développent un programme pour détecter les infractions sur les forums
Quel est le profil d'un utilisateur à bannir

Le , par Michael Guilloux

5PARTAGES

14  0 
Sur developpez.com et dans toutes les autres communautés en ligne, la contribution des utilisateurs des quatre points du globe est d’une importance capitale pour la réussite du site. Les contributions sont diverses et viennent sous la forme de messages, de commentaires, de votes, et même de partages sur les réseaux sociaux.

Si la participation des internautes est primordiale, il est toutefois important pour le site de mettre en place un système de modération pour pouvoir réguler certains comportements indésirables qui s’invitent parfois dans les discussions en ligne. Les modérateurs dans leurs actions peuvent être emmenés à supprimer des messages de certains utilisateurs et parfois bannir ces derniers de la communauté lorsqu’ils adoptent régulièrement des comportements antisociaux lors des discussions. Cela passe donc d’abord par un suivi minutieux des discussions afin de détecter rapidement les infractions.

La détection des comportements antisociaux tels que les trolls étant manuelle, certaines infractions peuvent être tardivement identifiées. Un programme de détection automatique serait donc d’un apport considérable à la modération. C’est l’objectif que se sont fixé des chercheurs de Cornell University dans une étude financée en partie par Google : élaborer un programme de détection des utilisateurs à comportements antisociaux dès le début dans la communauté en ligne.

Pour leur étude, ces chercheurs ont examiné trois grandes communautés dont le site d’actualité générale CNN.com, le site d’actualité politique Breitbart.com, et le site de jeux d’ordinateur IGN.com. Sur ces sites, ils ont pu analyser les activités de 1,7 million d’utilisateurs sur plus de 18 mois, traduites par près de 40 millions de posts et plus de 100 millions de votes. Sur la période, ils ont comparé le comportement des utilisateurs qui ont été bannis (FBU) à celui des utilisateurs qui n’ont jamais été bannis (NBU).

Selon leur analyse, les utilisateurs à comportements antisociaux sur un forum « ont tendance à concentrer leurs efforts sur un petit nombre de threads, sont plus susceptibles de poster des propos sans rapport avec le sujet, et ont du succès à récolter les réponses des autres utilisateurs. » Indique le rapport de l’étude.

L’étude montre également que ces derniers ne partagent généralement pas l’opinion générale et leurs messages sont difficiles à comprendre ; leur langage caractérisé par des termes négatifs et des jurons est également susceptible de générer des conflits lors des discussions.

Les chercheurs révèlent qu’il y a deux groupes d’utilisateurs antisociaux. Le premier comprend les utilisateurs dont le comportement est inné. Pour le second groupe, il s’agit d’utilisateurs qui se sont vus sanctionnés dès leur début dans la communauté. Cela les incite à devenir pires qu’avant. Le rapport indique encore que les communautés immédiatement intolérantes sont également plus susceptibles de favoriser les trolls. Quant à celles qui semblent plus tolérantes au départ, elles deviennent de plus en plus sévères envers ces utilisateurs même quand ils améliorent leurs écrits :

« Les communautés peuvent jouer un rôle dans l'incubation de comportement antisocial. En fait, les utilisateurs qui sont censurés trop tôt dans leur vie sont plus susceptibles de manifester un comportement antisocial plus tard. En outre, alors que les communautés semblent initialement pardonner (et sont relativement lentes à interdire ces utilisateurs antisociaux), elles deviennent moins tolérantes envers ces utilisateurs plus ils restent dans une communauté. Il en résulte une augmentation du taux auquel leurs posts sont supprimés, même après ajustement de la qualité du post »

Les chercheurs affirment qu’en se basant sur divers aspects du comportement antisocial - tels que le contenu du message, l'activité de l'utilisateur, la réponse de la communauté, et les actions des modérateurs de la communauté – ils sont en mesure de prédire si un utilisateur sera interdit plus tard avec une précision de plus de 80% selon le critère ASC. Autrement dit, au plus 1 utilisateur sur 5 a été mal classé par leur système d’analyse. Ils disent également que leur système est capable de détecter un utilisateur antisocial à partir de 5 à 10 posts de ce dernier.

Source : Antisocial Behavior in Online Discussion Communities (pdf)

Et vous ?

Qu’en pensez-vous ?

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de pcaboche
Rédacteur https://www.developpez.com
Le 16/04/2015 à 11:52
Citation Envoyé par TiranusKBX Voir le message
enfin ça revient à faire une surveillance globalisée et automatisée, il ne veulent pas postuler pour la NSA ?
Avant de pouvoir postuler, on leur a demandé de faire un stage avec comme sujet : "implémentation d'un programme de détection des comportements antisociaux en ligne"...

Citation Envoyé par Michael Guilloux Voir le message
Les modérateurs dans leurs actions peuvent être emmenés à supprimer des messages...
Ils ont été emmenés ? Mais emmenés où ? À "supprimer-des-messages" ? Jamais entendu parler de cette ville...

Est-ce qu'ils ont été emmenés de force ? Si oui, est-ce que cette acte ignoble a été revendiqué et est-ce que les preneurs d'otages ont fait connaître leurs intentions ?
14  1 
Avatar de NSKis
En attente de confirmation mail https://www.developpez.com
Le 16/04/2015 à 13:10
Extraordinaire!!! On va même réussir à "fliquer" les forum...

Chers commentateurs, dépêchez-vous de donner votre avis sur ce site... avant que Madame Censure vienne remettre en question votre liberté de pensée, votre liberté de vous exprimer... Et pourquoi pas votre liberté de vivre!!!

J'ai une pensée pour ce blogeur d'Arabie Saoudite condamné à des milliers de coups de bâton sur la place publique parce qu'il a critiqué le pouvoir de son pays... Après avoir reçu la 1ère série de coups de bâton, les cessions hebdomadaires suivantes ont due être reportées parce que la santé physique du condamné ne lui permettait plus de supporter une nouvelle scéance de châtiment.

En ce qui me concerne, je considère que:

1. La notion de Troll est subjective et toute relative (Troll pour les uns pas pour les autres)

2. Le message du Troll rend aussi les discussions plus vivantes (le jour où il n'y aura que des messages politiquement corrects, il ne sera plus nécessaire d'avoir des forum puisque tous les commentaires seront formatés et diront la même chose)

3. La définition même du mot "forum" est d'être "un espace de discussion publique"

Qui plus est, de quel droit un obscur universitaire s'abrogerait le droit de décider ce qui est ou n'est pas le bienvenu sur un forum???
16  3 
Avatar de Pierre Louis Chevalier
Expert éminent sénior https://www.developpez.com
Le 16/04/2015 à 16:50
Ils sont cons ces "chercheurs", depuis quand un Troll est un comportement indésirable ?

Personnellement les Trolls c'est mes auteurs préférés, à commencer par fleurenplastique

Je suis ravi du fait que l'équipe de developpez.com arrive très bien à modérer les spams publicitaires (ils disparaissent en quelques minutes le plus souvent ) mais nous laissent les Trolls
12  1 
Avatar de RyzenOC
Inactif https://www.developpez.com
Le 16/04/2015 à 15:50
Sa ne peut pas marcher car:

Une machine ne peut faire justice elle même, il y'a trop de variable a prendre en compte, par exemple supposons que je balance un troll drole, que j'ai +20, on me banni ?, on me donne un avertissent ?

Comment savoir si c'est un troll ou si c'est une vérité ?

Je dis que IE6 c'est de la merde, c'est un troll ou c'est la vérité ?, dois-je être sanctionner pour cela car la machine croira a un troll.

La machine peut juste faire détecter des anomlie dans le comportement et envoyer une demmande aux juges (les moderateurs) qui seul peuvent prendre la bonne décision.
10  0 
Avatar de Deuzz
Membre confirmé https://www.developpez.com
Le 16/04/2015 à 22:19
Qu’en pensez-vous ?

Citation Envoyé par Michael Guilloux Voir le message
les utilisateurs à comportements antisociaux sur un forum « ont tendance à concentrer leurs efforts sur un petit nombre de threads, »
Citation Envoyé par Michael Guilloux Voir le message
« ont du succès à récolter les réponses des autres utilisateurs. »
Citation Envoyé par Michael Guilloux Voir le message
L’étude montre également que (...) leurs messages sont difficiles à comprendre;
...En gros, c'est un peu comme ceux qui postent les actualités, non ?
9  0 
Avatar de Tryph
Membre émérite https://www.developpez.com
Le 16/04/2015 à 15:25
Citation Envoyé par NSKis Voir le message
Dans votre commentaire, vous faites déjà preuve de subjectivité en disant savoir parfaitement faire la différence entre un vrai troll et un qui ne l'est pas!!! Vous savez faire la différence selon vos propres critères!!!

Et le problème se situe justement à ce niveau

Vous appliquez vos critères pour vous-même en considérant que X ou Y est un Troll, c'est très bien! Vous en tirez les conséquences: "c'est un troll, je ne discute pas avec ce mec".

Personnelement je ne désire pas que vos critères (ni ceux de quelqu'un d'autre qui m'est inconnu) s'appliquent à ma propre personne ni que vos critères de sélection censurent une partie de la discussion... Je suis adulte, vacciné et considère être suffisamment grand pour décider par moi-même de qui est ou n'est pas un Troll!!!
bah écoute libre à toi effectivement de mettre le sens que tu veux derrière chacun des mots que tu utilises.
moi je suis de ceux qui estiment qu'un mot désigne une chose plus moins précise et pas autre chose.

si je ne me trompe pas, ton propos c'est que tu es adulte et vacciné et tu peux donc décider par toi même le sens à mettre derrière les mots que tu utilises. si je pousse ton raisonnement au sujet du mot "troll" et que je l'applique à d'autre mots je peux arriver là:
je peux décider qu'un chat est un reptile marin de couleur jaune fluo
je peux décider qu'une voiture est un astre composé exclusivement de guano de goëland
je peux décider que le ciel n'est pas bleu mais vert

c'est une conception interessante, mais bonne chance pour mener des discussions si tout le monde adopte ton point de vue: vive les dialogues de de sourds.

les langages sont justement là pour nous fournir un cadre dans lequel les mots ont un ou plusieurs sens mais ou chacun ne met pas le sens qu'il désire derrière chaque mot (d'ou l'existence des dictionnaires).

Citation Envoyé par NSKis Voir le message

Si on applique cet algo de tri anti-Troll, un forum n'est plus un forum!!! Un forum est un lieu où tout le monde peut donner son avis... même les plus cons!
les plus cons ne sont pas toujours des trolls et inversement. après si tu as décidé qu'un troll est un con effectivement on ne parle pas de la même chose et le dialogue de sourds dont je parle plus haut pointe le bout de son nez...
8  0 
Avatar de yahiko
Rédacteur/Modérateur https://www.developpez.com
Le 16/04/2015 à 10:36
Toute proportion gardée, je ne peux m'empêcher de penser à Minority Report.
9  2 
Avatar de Paul TOTH
Expert éminent sénior https://www.developpez.com
Le 16/04/2015 à 13:59
Citation Envoyé par Zefling Voir le message
Comment on peut accepter que 30 / 577 soit suffisant pour valider quoi que ce soit à l'assemblée.
25/30 ont dit oui, 547 étaient absents (94.8% !)...qu'ils viennent nous parler d'abstentionnisme aux prochaines élections tient !
7  0 
Avatar de NSKis
En attente de confirmation mail https://www.developpez.com
Le 16/04/2015 à 15:03
Citation Envoyé par Tryph Voir le message
c'est effectivement un gros raccourci.
l'étude ne dit pas que quand ton avis diverge c'est que tu es antisocial. elle dit simplement que les trolls sont souvent d'un avis différent de celui de la majorité.
ce qui veut dire qu'on peut quand même avoir un avis différent de la majorité sans être un troll et qu'on peut troller tout en étant du même avis que tout le monde.
et c'est bien avec ça que je suis d'accord, pas avec ton raccourci.

si tu penses ça, c'est peut être parce que tu as tendance à considérer comme troll celui qui est d'un avis différent du tien. et peut être même que beaucoup de personne partagent cette tendance (je sais pas). personellement je fais très bien la différence entre les 2 et j'arrive sans problème à repérer un troll de mon avis comme j'arrive à ne pas considérer chaque avis divergeant comme du troll.

le fait de faire de l'humour n'est pas forcément du troll pour moi... l'humoriste cherche à faire sourire, le troll cherche à foutre la merde. on fait facilement la différence entre les 2 deux:
si on contre son intervention..
... l'humoriste ne répondra pas ou dira "c'est bon détends-toi, c'était de l'humour"
... le troll répondra 50 fois la même chose qui n'a bien souvent pas grand chose à voir avec le message auquel il répond
y a pas besoin de tous dire la même chose pour avoir une discussion calme, courtoise et respectueuse.

très juste, raison de plus pour en ecarter ceux qui ne veulent pas discuter et empêcher les autres de discuter.

Dans ton commentaire, tu fais déjà preuve de subjectivité en disant savoir parfaitement faire la différence entre un vrai troll et un qui ne l'est pas!!! Tu sais faire la différence selon tes propres critères!!!

Et le problème se situe justement à ce niveau

Tu appliques tes critères pour toi-même en considérant que X ou Y est un Troll, c'est très bien! Tu en tires les conséquences: "c'est un troll, je ne discute pas avec ce mec".

Personnellement je ne désire pas que tes critères (ni ceux de quelqu'un d'autre qui m'est inconnu) s'appliquent à ma propre personne ni que tes critères de sélection censurent une partie de la discussion... Je suis adulte, vacciné et considère être suffisamment grand pour décider par moi-même de qui est ou n'est pas un Troll!!!

Si on applique cet algo de tri anti-Troll, un forum n'est plus un forum!!! Un forum est un lieu où tout le monde peut donner son avis... même les plus cons!

En cas de Troll avéré, liberté aux participants d'un forum de mettre sur la touche le Troll en ne répondant pas à ses interventions...
7  0 
Avatar de Ph. Marechal
Nouveau membre du Club https://www.developpez.com
Le 16/04/2015 à 19:29
L'antisocial c'est à coup sûr celui qui n'est pas "Charlie".
Ce sont ceux qui instaurent une police politique qui me traiteront de "facho" - Orwell avait raison, comme toujours.
Dans ce cas, que je sois banni pour l'éternité
7  0