L'Europe prépare son projet de loi pour obliger les médias sociaux à supprimer les contenus terroristes dans l'heure
Sous peine d'une lourde amende

Le , par Stéphane le calme

81PARTAGES

13  0 
En mai 2016, les principales plateformes de contenus en ligne ont signé un code de conduite sur Internet, par lequel elles se sont engagées volontairement auprès de l'UE à respecter certaines prescriptions dans le but de retirer les contenus illicites d’internet. Près de deux ans après cet engagement, en mars dernier, la Commission a décidé de renforcer l'action de l'UE contre ce type de contenu, en donnant de nouvelles consignes à Google, YouTube, Facebook et Twitter. Il s'agissait entre autres, pour ces entreprises, de se doter d'outils plus efficaces et de technologies proactives pour détecter et supprimer tout contenu illicite ; s'engager dans une coopération plus étroite avec les autorités ; mais aussi aider les petites entreprises - qui n'ont pas les ressources ou l'expertise adéquates - en partageant par exemple avec elles des solutions technologiques, notamment des outils de détection automatique.

Parmi les types de contenu illicite, c'est celui à caractère terroriste qui préoccupe le plus l'UE. La Commission avait donc, pour cette question en particulier, demandé que les contenus signalés soient désormais retirés dans l'heure et non dans les 24 heures, comme pour les contenus incitant à la haine. « Le contenu à caractère terroriste en ligne représente un risque particulièrement grave pour la sécurité des Européens, et sa diffusion massive doit être traitée de toute urgence », expliquait la Commission européenne. Les entreprises du Net ont alors reçu un ultimatum de trois mois, pour faire des progrès sur la question, avant que l'UE envisage des mesures législatives.

Cependant, fin août, le Financial Times a indiqué que la Commission européenne n'est pas satisfaite des efforts volontaires faits depuis lors par les plateformes en ligne. Pour cette raison, elle prépare une loi pour forcer ces entreprises à supprimer le contenu terroriste en ligne dans un délai d'une heure après signalement par la police et les autorités compétentes, ou faire face à des amendes lourdes (pouvant aller jusqu’à 4% de leur chiffre annuel d’affaires).

Julian King, le commissaire européen chargé de la sécurité, avait alors déclaré au Financial Times que Bruxelles n’avait « pas assez progressé » en matière de retrait de contenu à caractère terroriste par les entreprises technologiques et « prendrait des mesures plus énergiques pour mieux protéger les citoyens » de l'UE. « Nous ne pouvons pas nous permettre d'être laxistes ou faire preuve de complaisance face à un phénomène aussi sombre et destructeur », a déclaré King.

Dans son discours annuel sur l'état de l'Union devant le Parlement européen, Jean-Claude Juncker a déclaré qu'une heure était une « fenêtre temporelle décisive durant laquelle le plus gros dommage a lieu ».


Jean-Claude Juncker, faisant la proposition dans son discours annuel sur l'état de l'Union

Les entreprises affirment leur position

Pour sa part, Facebook a déclaré : « Il n’y a pas de place pour le terrorisme sur Facebook et nous partageons l’objectif de la Commission européenne de le combattre, et nous pensons que ce n’est que par un effort commun entre entreprises, société civile et institutions. les résultats peuvent être atteints.

« Nous avons fait des progrès significatifs dans la recherche et la suppression rapide de la propagande terroriste et à grande échelle, mais nous savons que nous pouvons faire plus ».

Un porte-parole de YouTube a ajouté que le site « partageait le désir de la Commission européenne de réagir rapidement au contenu terroriste et de garder l'extrémisme violent hors de nos plateformes ».

Et de préciser : « C'est pourquoi nous avons beaucoup investi dans les ressources humaines, la technologie et la collaboration avec d'autres entreprises technologiques dans le cadre de ces efforts ».

Les plateformes Internet devront élaborer de nouvelles méthodes pour contrôler le contenu, même si la forme qu’elles vont prendre n’est pas encore claire. En effet, tandis que des entreprises telles que Google comptent de plus en plus sur l'apprentissage automatique pour résoudre les problèmes, elles ont également besoin de beaucoup de modérateurs humains pour détecter les contenus extrémistes.

« Nous avons besoin d'outils puissants et ciblés pour gagner cette bataille en ligne », a reconnu la commissaire à la justice, Vera Jourova.

Le projet va exiger que les 28 mettent en place la capacité d’identifier des contenus extrémistes en ligne, des sanctions et une procédure de recours.

Source : BBC

Et vous ?

Est-ce, selon vous, le meilleur moyen de parvenir à des résultats ?
Ne peut-on pas craindre qu'il y ait des abus ? Quel type par exemple ?
Les modérateurs doivent-ils donc être disponibles 24h / 24 sous peine de causer un préjudice à leur entreprise (4% du CA annuel) ?

Voir aussi :

Directive copyright : le Parlement européen dit "oui" à la réforme et adopte l'essentiel des amendements présenté par Axel Voss (PPE), le rapporteur
La Wikimedia Foundation prévient l'Europe que ses réformes sur le copyright représentent une menace, pour l'internet collaboratif et ouvert
Des bailleurs de fonds européens créent une coalition pour interdire aux scientifiques bénéficiaires, de publier dans des revues payantes dès 2020
Huawei réussit également à s'imposer comme second vendeur de smartphones au 2T18 en Europe, malgré un essoufflement dans la région EMEA

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Jiji66
Membre éclairé https://www.developpez.com
Le 12/09/2018 à 21:10
Nous y sommes, le controle de l'information est en place. Il n'est aucunement décrit comment une info pourra être jugée "extrémiste".
Je m'avance peut-être un peu mais c'est la porte ouverte à la censure politique de la liberté d'expression.
Avatar de saturn1
Membre confirmé https://www.developpez.com
Le 13/09/2018 à 0:53
Franchement l'Europe elle fait shier, les politiciens multi-millionnaires de diplômes en insuffisances humaines... ca va !
Avatar de Elthorn
Membre actif https://www.developpez.com
Le 14/09/2018 à 14:42
J'aimerai savoir comment ils infligeront une amende à une plateforme basée en Ukraine, en Russie ou en Arabie saoudite?
Ils arrivent déjà pas à modérer twitter, facebook et autres. Cette loi c'est du vent juste pour dire aux familles des victimes qu'ils agissent.
Avatar de marsupial
Membre expert https://www.developpez.com
Le 14/09/2018 à 16:59
Citation Envoyé par Neckara Voir le message
Et quels sont les recours prévus en cas de faux-positifs ?
C'est bien aussi de supprimer le contenu, mais si on ne fait que ça, l'intérêt est très limité, quelles sont derrière les procédures ouvertes ?
Suite à un de mes commentaires sur la NSA début 2015, parfaitement expliqué sur le fait que le terrorisme avait bon dos, un lecteur a porté plainte pour apologie du terrorisme.
La procédure a suivi son cours et je me suis retrouvé interrogé par le procureur de la République Molins qui m'a intégralement blanchi de tout après une demi-heure passée sur le gril. Je peux vous garantir que le temps passe lentement lors de l'interrogatoire.

Ensuite monsieur le procureur de la République Molins s'est renseigné sur ma personne de manière plus approfondie. Il est revenu vers moi sans présenter ses excuses mais en exprimant sa désolation de m'avoir passé au gril. Depuis, je crois que nous ne sommes pas amis mais nous savons l'un comme l'autre que nous sommes dans le même camp.
Avatar de Stéphane le calme
Chroniqueur Actualités https://www.developpez.com
Le 04/12/2018 à 19:59
Lutte anti-terroriste : 44 organisations exhortent Macron à renoncer à un projet de règlement européen,
qui pourrait porter préjudice à Internet

En septembre, suite à une demande des gouvernements allemand et français, la Commission européenne a déposé un projet de règlement pour la « prévention de la diffusion de contenus à caractère terroriste en ligne ». « La France et l’Allemagne ont fait de la lutte contre l’utilisation d’Internet à des fins terroristes une priorité, écrivaient en avril 2018 les ministres de l’Intérieur français et allemand dans un courrier aux commissaires. Une modification de ce cadre juridique dans un sens plus contraignant apparaît indispensable. »

Pour justifier cette proposition, l'Europe a expliqué que l'’omniprésence de l’internet permet à ses utilisateurs de communiquer, de travailler, de nouer des contacts, de créer, d’obtenir et de partager des informations et du contenu avec des centaines de millions de personnes dans le monde entier. Les plateformes internet contribuent considérablement au bien-être économique et social des utilisateurs au sein de l’Union et à l’extérieur. Toutefois, la capacité d’atteindre ce large public à un coût minime attire également les criminels désireux d'utiliser abusivement l’internet à des fins illicites. « Les attentats terroristes perpétrés récemment sur le territoire de l’Union ont montré comment les terroristes abusent de l’internet pour faire des émules et recruter des sympathisants, pour préparer et faciliter des activités terroristes, pour faire l'apologie de leurs atrocités et pour exhorter d'autres à leur emboîter le pas et à semer la peur parmi le grand public ».

Pour l'Europe, les contenus à caractère terroriste partagés en ligne à de telles fins, qui sont diffusés par des fournisseurs de services d’hébergement qui permettent le chargement de contenus tiers, ont joué un rôle important dans la radicalisation des « loups solitaires » qui, inspirés par ces contenus, ont perpétré plusieurs attentats terroristes récemment en Europe. Et de continuer en disant que « Non seulement ces contenus ont des incidences négatives considérables sur les personnes et la société dans son ensemble, mais ils réduisent également la confiance des utilisateurs dans l’internet et portent préjudice aux modèles commerciaux et à la réputation des entreprises concernées. Non contents d'avoir abusé des grandes plateformes de médias sociaux, les terroristes ont aussi de plus en plus recours à de plus petits fournisseurs proposant différents types de services d’hébergement à l’échelle mondiale. Cette utilisation abusive de l’internet soulève la question de la responsabilité sociétale particulière que doivent assumer les plateformes internet pour protéger leurs utilisateurs contre l’exposition à des contenus à caractère terroriste et les risques graves que ces contenus représentent pour la sécurité de la société dans son ensemble ».

Cinq mois plus tard, le texte de la Commission est prêt. Dans son résumé, il est expliqué entre autres « qu’afin d’assurer la suppression des contenus illicites à caractère terroriste, le règlement introduit une injonction de suppression pouvant être émise en tant que décision administrative ou judiciaire par une autorité compétente d’un État membre. Dans de tels cas, le fournisseur de services d’hébergement est tenu de supprimer les contenus ou d'en bloquer l’accès dans un délai d’une heure. En outre, le règlement harmonise les exigences minimales applicables aux signalements envoyés par les autorités compétentes des États membres et par les organes de l’Union (tels qu’Europol) aux fournisseurs de services d’hébergement pour examen à l'aune de leurs conditions commerciales respectives. Enfin, le règlement impose aux fournisseurs de services d’hébergement, le cas échéant, de prendre des mesures proactives proportionnées au niveau de risque et de supprimer le matériel terroriste de leurs services, y compris en déployant des outils de détection automatisés ».

Mais en septembre, la Quadrature du net, l’organisation française de défense des libertés, a dénoncé un texte qui « banalise la censure policière ou privée » d’internet. L’association basée à Paris alerte sur deux autres dangers : ce règlement aurait pour conséquence de renforcer le monopole des multinationales du numérique (Google, Facebook, Microsoft…), et de mettre en danger l’existence même de services de messageries chiffrés, comme Signal ou ProtonMail.


« Les gouvernements européens se réuniront le 6 décembre pour décider de leur position sur ce texte. Ce règlement instrumentalise la crainte terroriste pour museler tout Internet, mais ne servira à rien d’autre qu’à renforcer Google et Facebook et à remettre en cause la confidentialité de nos communications », prévient la Quadrature du Net. L’association a adressée à l’Elysée une lettre ouverte :

Citation Envoyé par lettre ouverte
Monsieur le Président,

Au nom de la lutte contre la radicalisation terroriste en ligne, vous défendez un projet de règlement européen imposant de nouvelles obligations à l’ensemble des acteurs de l’Internet : hébergeurs de site, de blog et de vidéo, forum et réseaux sociaux, sites de presse, fournisseurs de mail et de messagerie, etc.

Alors que la Commission européenne et votre gouvernement ne démontrent de façon étayée ni l’efficacité ni la nécessité de ces obligations pour lutter contre le terrorisme, vous souhaitez imposer aux acteurs d’Internet d’agir sur des contenus dont la dangerosité n’aura été évaluée par aucun juge et ce dans des délais extrêmement courts.

Ces obligations sont porteuses de graves dangers pour l’ensemble de l’écosystème numérique européen. En effet, les moyens économiques, humains et techniques requis pour exécuter les obligations envisagées sont tout simplement hors de portée de la quasi-totalité des acteurs : très peu sont ceux qui seront en mesure de répondre 24h/24h, 7j/7 et en moins d’une heure aux demandes de retrait de contenu provenant de n’importe quelle autorité d’un État membre de l’Union. De la même manière, les mesures de surveillance et de censure automatisées que les autorités nationales pourraient imposer en vertu du texte seront totalement impraticables.

Ainsi, pour se plier à ces nouvelles contraintes, les acteurs économiques de petites et moyennes tailles ne pourront que sous-traiter l’exécution des demandes de retrait et la censure automatisée aux quelques grandes entreprises qui, en raison de leur puissance financière, seront capables de les prendre en charge, Google et Facebook en tête, cette sous-traitance étant porteuse d’une dépendance économique et technique gravement préjudiciable à l’économie numérique européenne.

Quant aux acteurs associatifs et collaboratifs à buts non lucratifs, ils n’auront d’autres choix que de cesser leurs activités.

Ce règlement appauvrira donc radicalement la diversité numérique européenne et soumettra ce qu’il en reste à une poignée d’entreprises qui sont déjà en situation de quasi-monopole et dont il faudrait au contraire remettre en cause l’hégémonie.

Enfin, ce règlement conduirait à une surveillance généralisée de nos échanges en ligne et une censure privée et automatisée de l’information, parfaitement contraires au projet humaniste que vous entendez porter au niveau européen.

Nous, acteurs de cet écosystème et défenseurs des libertés fondamentales, vous demandons de renoncer à ce projet.
Au total, ce sont donc 44 associations de défense des libertés, professionnels, hébergeurs et FAI associatifs demandent à Emmanuel Macron de renoncer à son projet de règlement européen de censure sécuritaire, que la Quadrature du net identifie comme étant le principal promoteur.

Sources : La Quadrature du net, texte de la Commission européenne

Et vous ?

Partagez-vous les craintes de la Quadrature du net ?

Voir aussi :

L'IA représenterait un plus grand risque pour l'humanité que les changements climatiques et le terrorisme, selon un expert
Les USA veulent étendre la collecte d'identifiants de réseaux sociaux pour la demande de visa au-delà des personnes probablement liées au terrorisme
Grande-Bretagne : le gouvernement veut emprisonner toute personne regardant un contenu terroriste pour lutter contre l'extrémisme en ligne
Affaire San Bernardino : le FBI a le droit de garder secret le nom de l'outil, qui a servi à contourner la sécurité de l'iPhone du terroriste
Les musulmans du Xinjang en Chine forcés par le gouvernement à installer l'application Jinwang, un spyware censé détecter des contenus terroristes
Avatar de Michael Guilloux
Chroniqueur Actualités https://www.developpez.com
Le 29/01/2019 à 13:47
L'UE en passe de sous-traiter la censure de l’Internet à Google et Facebook, estime la Quadrature du Net
après le rapport d'un eurodéputé

En mai 2016, les principales plateformes de contenus en ligne ont signé un code de conduite sur Internet, par lequel elles se sont engagées volontairement auprès de l'UE à respecter certaines prescriptions dans le but de retirer les contenus illicites de la toile. Après cet engagement, elles ont fourni des efforts pour satisfaire à la demande de l'UE. Ces efforts ont d'ailleurs été reconnus en janvier 2018, quand la Commission européenne a félicité Facebook, Twitter et YouTube pour avoir supprimé 70 % des contenus haineux signalés.

La Commission a toutefois estimé que ces progrès dans la suppression de contenu illicite n'étaient pas suffisants, et que les géants de l'Internet devraient redoubler d'efforts. C'est ainsi qu'elle a donné de nouvelles consignes à Google, YouTube, Facebook et Twitter. Il s'agissait entre autres, pour ces entreprises, de se doter d'outils plus efficaces et de technologies proactives pour détecter et supprimer tout contenu illicite ; s'engager dans une coopération plus étroite avec les autorités ; mais aussi aider les petites entreprises - qui n'ont pas les ressources ou l'expertise adéquate - en partageant par exemple avec elles des solutions technologiques, notamment des outils de détection automatique.

Mais parmi les types de contenu illicite, c'est celui à caractère terroriste qui préoccupe le plus l'UE. La Commission avait donc, pour cette question en particulier, demandé que les contenus signalés soient désormais retirés dans l'heure et non dans les 24 heures, comme pour les contenus incitant à la haine. « Le contenu à caractère terroriste en ligne représente un risque particulièrement grave pour la sécurité des Européens, et sa diffusion massive doit être traitée de toute urgence », expliquait la Commission européenne. Les entreprises du Net ont alors reçu un ultimatum de trois mois, pour faire des progrès sur la question, avant que l'UE envisage des mesures législatives.


Le délai passé et la Commission européenne n'étant toujours pas satisfaite des efforts volontaires faits par les plateformes en ligne, elle a décidé de passer à la vitesse supérieure. En septembre dernier, elle a fait une proposition pour empêcher la diffusion de contenus à caractère terroriste en ligne. Celle-ci vise à forcer les plateformes en ligne à supprimer le contenu terroriste en ligne dans un délai d'une heure après signalement par la police et les autorités compétentes, ou faire face à des amendes.

La prochaine étape dans le processus législatif était de soumettre le texte au Parlement européen, ce qui a été fait. Le 21 mars, les eurodéputés vont se prononcer sur le texte de la Commission européenne. Mais avant, un rapporteur du Parlement européen devait proposer quelques amendements sur ledit texte afin de fournir une base sur laquelle le Parlement va discuter. L'eurodéputé britannique Daniel Dalton a été désigné rapporteur pour la Commission LIBE (la commission des libertés civiles, de la justice et des affaires intérieures du Parlement européen) sur le règlement de censure antiterroriste. Mercredi dernier, il a publié son projet de rapport, mais selon la Quadrature du Net, ce projet de rapport ne propose aucun vrai changement par rapport au texte initial.

« Venant du Royaume-Uni, [Daniel Dalton] ne fera plus partie du Parlement européen d’ici quelques mois, mais il compte auparavant laisser l’Union européenne sous-traiter la censure de l’Internet à Google et Facebook, détruire les autres acteurs de l’Internet et laisser à la police le pouvoir d’ordonner le retrait en une heure de contenus qu’elle juge illicites, et cela sans autorisation judiciaire », s'insurge la Quadrature du Net, l'association française de défense des droits et libertés des citoyens sur Internet.

Lors des derniers mois, Dalton a pourtant exprimé publiquement son opposition aux obligations de filtrage automatique qui résulteront de l’article 13 de la directive sur le droit d’auteur. Le seul changement significatif que suggère Dalton dans son projet de rapport est d’indiquer que le règlement ne devra pas conduire à un filtrage automatisé des contenus. C’est en accord avec sa position sur la directive droit d’auteur. « Mais il n’a pas encore réalisé que, malgré sa proposition, le cœur même du texte ne peut conduire qu’à une forme de censure automatisée », explique la Quadrature du Net ; et une censure qui sera déléguée à Google et Facebook.

L'association explique en effet que si les acteurs de l’Internet sont obligés de prévoir un point de contact disponible 24h/24 et 7 jours sur 7 pour répondre en moins d’une heure aux injonctions de retrait de la police (quelque chose toujours présent dans le projet de rapport), très peu d’acteurs seront capables de retirer des contenus dans un tel délai et personne n'attendra non plus calmement que la police l'appelle. Ainsi, la plupart des acteurs ne pourront que déléguer la modération des contenus à d’autres entreprises, c'est-à-dire à Google et Facebook par exemple, qui prétendent être capables de détecter et de retirer des contenus à caractère terroriste en une heure. D'ailleurs, la Commission a dès le début demandé à ces géants de l'Internet de partager leurs outils de détection automatique de contenus illicites avec les petits acteurs qui n'ont pas l'expertise ou les ressources adéquates ; ce pour quoi, pour la Quadrature du Net, cela revient à déléguer la modération du Web à Google et Facebook. Le défenseur des droits et libertés des citoyens sur Internet s'étonne donc du fait que Dalton, qui dit s'opposer au filtrage automatisé, n'ait pas simplement rejeté le texte de la Commission, mais ait proposé un rapport qui ne change pas grand-chose au texte initial, comme base pour les discussions au sein du Parlement.

Sources : Quadrature du Net, Rapport de Daniel Dalton

Et vous ?

Quel avenir pour ce nouveau projet de loi de l'UE ?
Pensez-vous que l'UE va autoriser une censure de masse qui sera déléguée à Google et Facebook ?

Voir aussi :

L'Allemagne commence l'application de sa loi sur les discours de haine : une amende allant jusqu'à 50 millions € pour les entreprises lentes à agir
L'UE menace d'adopter des lois si les géants du Web sont lents à agir contre les propos en ligne incitant à la haine, à la violence et au terrorisme
Lutte contre le contenu à caractère terroriste : l'UE donne un délai de trois mois aux entreprises du Net, pour lui montrer des résultats pertinents
L'UE félicite Facebook, Twitter et YouTube pour avoir supprimé 70 % des contenus haineux signalés, mais demande encore plus d'efforts
Facebook, Microsoft, Twitter et YouTube signent un code de conduite sur internet avec l'UE, afin de bannir la haine et la violence sur la toile
Avatar de tmcuh
Membre régulier https://www.developpez.com
Le 29/01/2019 à 16:11
Le problème d'une démocratie comme l’Europe l'as prétend et de se protéger d'elle même. Un système politique qui a peur de son peuple, de ce qu'il pense et dit et une dictature.
L’Europe ne fait rien pour le bien de son peuple, elle construit tout pour le profit, la compétition, l'argent.
Je trouve affreux vers quoi on se dirige, c'est très loin du rêve d'une liberté comme on connu nos parents. On pouvait courir tout nu sur un plateau de télé, dire que tel politicien était corrompu sans en risquer la prison.
J'ai du loupé un livre entre 1984 et maintenant...

L'avenir est que l'internet sera détenu par des grands groupes qui feront des milliards de profits et qui controllerons tout ce qu'on considère aujourd'hui comme internet.
Demain l'UE demandera que TOR n'existe plus et que le dark web n'existe plus en renforçant le controle d'internet et des VPN (comme en Chine)

La France (par Macron) déteste l'anonymat car elle ne permet pas de poursuivre en justice quelqu'un qui a écrit "prout au président"
Et quand j'entends des politiques dire "Le dieu Facebook a parlé" ça résume bien la situation qu'ils ont plus peur d'internet que de leur peuple, ils voudront comme ce dernier le contrôler en nous vendant l'idée d'un internet plus pure pour nos enfants
Avatar de tanaka59
Membre expérimenté https://www.developpez.com
Le 29/01/2019 à 17:47
La façon dont l'europe installe la censure passe par des entreprises. C'est une censure capitalistique. En Chine c'est une censure étatique .

Vous avez le choix de la dictature à la communiste ou la capitaliste ...
Avatar de marsupial
Membre expert https://www.developpez.com
Le 29/01/2019 à 18:33
Il s'agit d'un bien grand pouvoir laissé à Google et Facebook...
Avatar de ddoumeche
Membre extrêmement actif https://www.developpez.com
Le 29/01/2019 à 18:49
Citation Envoyé par AndMax Voir le message
Si le but est de favoriser la censure arbitraire et automatique (une heure), et de mettre fin à la séparation des pouvoirs (c'est l'exécutif ou l'administratif qui "juge", alors c'est "réussi", mais il faudra aussi changer la Constitution pour préciser que la liberté d'expression deviendra un mythe.

Pour un webmestre en Europe, est-ce que ça signifie qu'il vaut mieux fermer tout espace où un internaute peut s'exprimer, ou qu'il vaut mieux héberger loin de l'Union Européenne après cette loi ?

Un site qui affiche la pochette d'un disque de Nirvana risquera-t-il aussi une amende dès qu'une "autorité compétente" voudra faire du chiffre ?
Il n'y a plus de liberté d'expression sur Facebook depuis que la 5ème colonne est montée au créneau outre-atlantique suite à sa défaite électorale.
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web