Le ton a été donné par le gouvernement en mars dernier, lorsque Édouard Philippe, Premier ministre français, a profité d’un discours au Musée national de l’histoire de l’immigration à Paris pour annoncer son plan d’action contre la diffusion de contenus à caractère haineux, raciste et antisémite sur Internet. Il a chargé par la suite Marlène Schiappa d’étudier la situation de la haine en ligne sur Internet avant de confirmer un projet de loi en ce sens pour 2019.L’administration Macron souhaite que les signalements rapportés par les internautes, les autorités ou les tiers de confiance soient analysés et traités beaucoup plus rapidement, pour réduire au maximum le temps d’exposition des contenus à caractère haineux, discriminatoire ou terroriste.
En juillet dernier, dans une note signée « Elders of the Internet », le Network Working Group de l’IETF (l’organisme chargé de l’élaboration et la promotion des standards Internet) s’est excusé pour les dérives qui ont été constatées ces dernières années sur Internet et via les médias sociaux, précisant qu’il a été « pris au dépourvu quand Internet est devenu l’évier pour chaque argument mal réfléchi ».
« Récemment, vous avez peut-être remarqué une augmentation spectaculaire du nombre d’opprobres, d’indignations, de discours de haine et d’amertume générale sur votre média social préféré. Les Anciens de l’Internet s’excusent sans réserve pour cette perturbation », pouvait-on lire dans la note publiée.
Mounir Mahjoubi, Secrétaire d'État auprès du ministre de l’Économie et des Finances et du ministre de l’Action et des Comptes publics chargé du Numérique, a fait valoir que la lutte contre les contenus haineux et le harcèlement en ligne nécessite de traiter de nombreux sujets : « c’est pour cette raison que nous avons souhaité organiser le plan d’action au sein d’un canevas exhaustif de toutes les questions auxquelles nous devons apporter une solution ».
Les grands axes de réflexion
Le Secrétaire d'État en a évoqué dix au total.
Sensibilisation et formation des citoyens sur le civisme en ligne
La prévention constitue le socle indispensable de notre action et la racine de toute solution durable. Cette démarche d’éducation et d’information est déjà largement portée par le système éducatif et par quelques associations spécialisées, à destination des jeunes et du grand public. Mais le Secrétaire d'État estime que cela peut être amélioré : pour cela, il est nécessaire de mobiliser l’ensemble des leviers offerts par le numérique, qui permettent de renforcer la portée de ces messages : en incitant les plateformes à pousser du contenu positif sur l’ensemble de la surface dont elles disposent, en facilitant l’accès à du contenu pédagogique. Ce sont elles qui détiennent les clés de l’audience et sont les mieux à même de diffuser largement du contenu.
Envoyé par Mounir Mahjoubi
Une partie de cette démarche d’information peut être encadrée par la loi. Ainsi, il apparaît aujourd’hui raisonnable et opportun d’exiger des acteurs concernés qu’ils mettent en place un avertissement présentant les risques encourus en cas de production de contenus haineux ou illicites et rendent facilement accessibles des précisions sur les contenus visés.
Mais cet effort ne doit pas être limité à la présence en ligne : les actions d’éducation et d’information menées par les acteurs associatifs méritent d’être soutenues.
Mais cet effort ne doit pas être limité à la présence en ligne : les actions d’éducation et d’information menées par les acteurs associatifs méritent d’être soutenues.
Définition des règles de modération
La plateforme peut traiter les contenus présents sur sa plateforme sur la base de deux corpus distincts : la loi ou les conditions générales d’utilisation de sa « communauté ». Aujourd’hui, les acteurs modèrent essentiellement sur la base de ces dernières, qui couvrent généralement au moins formellement la palette des contenus illicites dans un pays donné. Pourtant, les utilisateurs sont peu informés sur ces standards, les conditions de leur adoption, de leur révision. A ce stade, ils sont imposés de manière asymétrique par les plateformes, qui imposent par là-même certains standards et valeurs, au-delà du cadre strict des contenus illicites (par exemple en censurant la nudité).
Envoyé par Mounir Mahjoubi
Une transparence et un encadrement accrus de ces règles sont nécessaires : les plus grandes plateformes devraient expliquer régulièrement les règles d’adoption de leurs standards de modération et les conditions de leur évolution. Surtout, il serait souhaitable qu’une partie significative de ce corpus fasse l’objet de discussions multipartites (associations de victimes, associations de défense des libertés en ligne, pouvoirs publics, plateformes), afin de cibler au mieux les contenus les plus problématiques et de ménager les nuances nécessaire, tout en veillant à éviter l’écueil de la censure.
Évaluation de l’application des règles de modération et mise à jour
Il estime qu'il devrait pouvoir être possible de faire un audit des règles de modération des plateformes, celles ci devraient, selon lui, être revues de manière régulière, par exemple sur une base annuelle. Cet audit pourrait être confié à un régulateur.
Ce « reporting » permettrait à la société civile de bénéficier d’une transparence accrue de la part des acteurs. Surtout, il permettrait d’intégrer les retours d’expérience sur l’efficacité des règles adoptées et l’évolution de la nature des contenus signalés.
Signalement humain des contenus suspects
Vient ensuite l’étape-clé du signalement : ce dernier permet d’empêcher que les contenus haineux mis en ligne soient diffusés, amplifiés et encouragés.
Pour ce faire, il est nécessaire que toutes les plateformes ou sites mettant à disposition des espaces de discussion ou de partage de contenu proposent des outils de signalement facilement identifiables et mobilisables en quelques secondes par un utilisateur. Cette obligation est d’ores et déjà prévues par la loi mais pas encore mise en œuvre de manière satisfaisante par les acteurs. A défaut de standardisation, une supervision du dispositif pourrait être envisagée, afin d’assurer son ergonomie.
Détection automatique des contenus suspects
Envoyé par Mounir Mahjoubi
Mais le signalement demeure un pis-aller : il implique que le contenu a été diffusé et qu’il a potentiellement déjà fait des victimes. Pour rendre cet arsenal plus réactif, il existe des moyens technologiques permettant un traitement plus efficace du contenu dès sa parution – et même avant. Pour ce faire, les plus grosses plateformes peuvent mobiliser les instruments d’intelligence artificielle qu’elles ont commencé à déployer au cours des dernières années à des fins de modération. Facebook revendique ainsi d’éliminer la quasi-totalité des contenus terroristes avant qu’ils aient pu être diffusés.
Retrait et sanction du non-retrait
Et d'expliquer qu'avant d’avoir établi la nature exacte du contenu signalé, les plateformes doivent pouvoir mettre les contenus « en quarantaine », permettant d’enrayer leur diffusion.
Envoyé par Mounir Mahjoubi
La suspension est particulièrement adaptée lorsque le contenu signalé n’apparaît pas « manifestement illicite ». Cette exigence implique la mise en place d’un système de traitement progressif de chaque contenu signalé et la conservation de ces contenus, afin de pouvoir les remettre en ligne si le signalement n’apparaissait pas justifié.
Le délai de retrait cristallise les attentes car il est déterminant dans la diffusion d’un contenu. Pour les gros acteurs, il est envisageable de mettre en place des délais de retrait très contraints, de quelques heures pour les contenus à risque. En matière de contenus terroristes, il est ainsi prévu que ce délai soit d’une heure, dans le cadre du projet de règlement européen sur ce sujet. La loi allemande oblige en outre désormais les acteurs à supprimer dans un délai de 24h les contenus « manifestement illégaux » et prévoit des sanctions allant jusqu’à cinquante millions d’euros en la matière.
Le délai de retrait cristallise les attentes car il est déterminant dans la diffusion d’un contenu. Pour les gros acteurs, il est envisageable de mettre en place des délais de retrait très contraints, de quelques heures pour les contenus à risque. En matière de contenus terroristes, il est ainsi prévu que ce délai soit d’une heure, dans le cadre du projet de règlement européen sur ce sujet. La loi allemande oblige en outre désormais les acteurs à supprimer dans un délai de 24h les contenus « manifestement illégaux » et prévoit des sanctions allant jusqu’à cinquante millions d’euros en la matière.
Pour les plus petits acteurs, il convient néanmoins de mesurer le risque : au vu de la vaste zone grise en matière de contenus haineux, des obligations trop strictes peuvent conduire ces acteurs à censurer de manière excessive. C’est pourquoi il est nécessaire d’adopter une approche proportionnée en la matière : être plus exigeants avec les plus gros acteurs et prévoir des sanctions sévères lorsque les dispositifs déployés sont en-deçà des attentes.
Après le retrait : information et possibilité de faire appel
Envoyé par Mounir Mahjoubi
L’efficacité de la procédure de retrait ne doit néanmoins pas occulter la nécessité de préserver la liberté d’expression et le droit à une procédure contradictoire. A cette fin, il est indispensable que les sites et applications concernés ménagent une possibilité de contestation de la décision de retrait – et donc de rétablissement du contenu supprimé. Cette fonctionnalité est d’autant plus nécessaire lorsque des outils de détection sont mobilisés. En effet, ces instruments commettent encore de nombreuses erreurs. Face à ce constat, Facebook a d’ailleurs décidé de lancer en 2018 un mécanisme d’appel.
Accompagnement des victimes
Envoyé par Mounir Mahjoubi
L’accompagnement des victimes constitue une étape importante dans le traitement des contenus illicites par les plus grandes plateformes – et il est aujourd’hui généralement négligé. Cette démarche de soutien est pourtant déterminante pour accompagner efficacement les victimes : leur présenter en détail les options qui s’offrent à elles en matière de poursuites, leur proposer une mise en relation avec des partenaires associatifs ou services d’écoute.
Nous sommes en droit d’attendre des plus grosses plateformes qu’elles soient irréprochables dans ce soutien, pour lutter contre le sentiment d’isolement et d’impuissance qui prévaut actuellement chez les victimes de ces expressions haineuses.
Nous sommes en droit d’attendre des plus grosses plateformes qu’elles soient irréprochables dans ce soutien, pour lutter contre le sentiment d’isolement et d’impuissance qui prévaut actuellement chez les victimes de ces expressions haineuses.
Envoyé par Mounir Mahjoubi
L’identification des auteurs de contenus illicites est fondamentale pour lutter contre l’impunité. Peu de lieux de discussions en ligne sont réellement anonymes – le pseudonymat prévaut généralement. Quoi qu’il en soit, les auteurs demeurent identifiables, notamment via leurs adresses IP.
Les difficultés que nous rencontrons pour poursuivre effectivement les auteurs de ces contenus illicites s’expliquent donc plutôt par la difficulté à mobiliser les acteurs pour fournir rapidement aux autorités les données permettant l’identification des auteurs. Ce constat implique de redéfinir les contraintes qui pèsent sur ces acteurs et notamment d’envisager des délais pour communiquer ces informations dans les cas les plus graves. Le projet de règlement européen « e-evidence » pourrait permettre des progrès en la matière.
Les difficultés que nous rencontrons pour poursuivre effectivement les auteurs de ces contenus illicites s’expliquent donc plutôt par la difficulté à mobiliser les acteurs pour fournir rapidement aux autorités les données permettant l’identification des auteurs. Ce constat implique de redéfinir les contraintes qui pèsent sur ces acteurs et notamment d’envisager des délais pour communiquer ces informations dans les cas les plus graves. Le projet de règlement européen « e-evidence » pourrait permettre des progrès en la matière.
Envoyé par Mounir Mahjoubi
Les plus grosses plateformes doivent en outre amorcer une démarche de coopération renforcée avec les autorités judiciaires pour assurer un suivi plus efficace des contenus signalés. Là encore, l’obligation existe mais, faute de supervision spécifique, elle est appliquée de manière insatisfaisante.
Surtout, au-delà de la simple transmission d’informations sur des cas signalés, il faut attendre des plateformes qu’elles coopèrent avec les autorités judiciaires pour traiter à la racine la problématique, notamment en identifiant les auteurs récurrents de contenus haineux ou dangereux. Bien sûr, cette coopération devra être bâtie dans un cadre très circonscrit, afin d’éviter toute atteinte aux libertés individuelles. Néanmoins, les plus grosses plateformes se sont dotées d’outils extrêmement performants au fil des années ; il serait regrettable de ne pas les mobiliser plus efficacement.
Enfin, la multiplication des « sites miroirs », qui. vident de leur portée les décisions de justice, contribue également à affaiblir nos moyens d’actions : nous devrons renforcer l’efficacité de notre arsenal pour lutter contre ces contournements manifestes de notre droit et éviter de subir la réapparition de sites nauséabonds, tels que le désormais tristement célèbre « démocratie participative », antisémite et homophobe.
Surtout, au-delà de la simple transmission d’informations sur des cas signalés, il faut attendre des plateformes qu’elles coopèrent avec les autorités judiciaires pour traiter à la racine la problématique, notamment en identifiant les auteurs récurrents de contenus haineux ou dangereux. Bien sûr, cette coopération devra être bâtie dans un cadre très circonscrit, afin d’éviter toute atteinte aux libertés individuelles. Néanmoins, les plus grosses plateformes se sont dotées d’outils extrêmement performants au fil des années ; il serait regrettable de ne pas les mobiliser plus efficacement.
Enfin, la multiplication des « sites miroirs », qui. vident de leur portée les décisions de justice, contribue également à affaiblir nos moyens d’actions : nous devrons renforcer l’efficacité de notre arsenal pour lutter contre ces contournements manifestes de notre droit et éviter de subir la réapparition de sites nauséabonds, tels que le désormais tristement célèbre « démocratie participative », antisémite et homophobe.
Et vous ?
Que pensez-vous de ces axes de réflexion ? Quels sont les points qui vous semblent les plus difficiles à mettre en place ? Pourquoi ? Quels sont les éléments que vous trouvez discutables ? Dans son ensemble, cette liste d'éléments est-elle, selon vous, susceptible de lutter efficacement contre les propos haineux tenus en ligne ?Voir aussi :
Macron : « Je ne veux plus de l'anonymat sur les plateformes internet », le Président français confirme qu'il veut bien la fin de l'anonymat en ligne Des députés LREM veulent imposer une pièce d'identité à la création de comptes sur les réseaux sociaux, une tentative de lever l'anonymat en ligne ? La fin de l'anonymat sur les réseaux sociaux n'est « pas souhaitable et pas possible » pour Mounir Mahjoubi, qui vient clarifier les propos de Macron Emmanuel Macron plaide pour une levée progressive de toute forme d'anonymat en ligne, vers la fin de la liberté d'expression en France ? 
). Les gens qui tiennent des propos aussi extrêmes, tu crois qu'ils en ont à faire des lois ? Si tu appliques ces lois ne serait-ce qu'à minima, tu va arrêter la moitié de la population et après l'étape suivante c'est quoi ? Rééducation par le travail, rééducation par la mort 