L'Australie pourrait introduire des peines de prisons aux cadres dirigeants des médias sociaux
Qui ne suppriment pas rapidement les contenus violents

132PARTAGES

7  0 
Fin mars, à Christchurch en Nouvelle-Zélande a eu lieu une fusillade dans 2 mosquées au cours de laquelle plus de 40 personnes ont trouvé la mort. Il se trouve que 2 des victimes de cette fusillade faisaient partie de la communauté des partenaires Microsoft. Une équipe de Microsoft qui s'y était rendue en visite le lendemain de la fusillade, a pu apprécier la gravité de ce qui s'est passé et la société dans son ensemble a examiné la manière dont ses divers services étaient utilisés pour diffuser la vidéo de la fusillade sur la toile.

Les vidéos de la fusillade se sont rapidement répandues sur Internet. Microsoft, dans l'optique de stopper la propagation de ces vidéos, a procédé à des améliorations des outils existants pour identifier et classifier les contenus violents extrémistes ainsi qu'à des modifications du processus permettant aux utilisateurs de signaler ces contenus. La société a affirmé qu'une collaboration entre les entreprises du secteur technologique, les gouvernements et les organisations non gouvernementales permettrait de franchir des étapes plus importantes dans le processus d'éradication de ce genre de vidéos sur internet. Microsoft a également expliqué les 3 domaines fondamentaux sur lesquels les acteurs impliqués dans cette collaboration devront se concentrer afin que celle-ci soit plus efficace.

Du côté des gouvernements, l'Australie pourrait devenir le premier pays au monde à introduire des peines de prison et des amendes de plusieurs millions de dollars aux géants des médias sociaux qui n'enlèvent pas rapidement les contenus violents.

Pendant ce qui devrait être la dernière semaine du parlement avant les élections fédérales, le gouvernement cherche à introduire deux nouvelles infractions dans le code pénal.

Le fait de ne pas retirer rapidement du matériel violent et odieux pourrait constituer un délit pour les plateformes de médias sociaux qui seraient tenues d’informer la police fédérale australienne si elles se rendent compte que leur service diffuse un comportement violent odieux en Australie.

La rapidité de la suppression serait déterminée par un jury

Manquer à supprimer ces contenus dans le délai déterminé par le jury serait punissable d’une peine de trois ans de prison pour les dirigeants australiens ou étrangers et d’une amende pouvant atteindre 10% du chiffre d’affaires annuel global de la plateforme.

Les lois proposées couvriraient « la diffusion ou le streaming du terrorisme, des meurtres, des tentatives de meurtre, des actes de torture, des viols et des enlèvements sur les réseaux sociaux », a annoncé le gouvernement ce week-end.

Les plateformes de médias sociaux seraient également tenues d'informer la police fédérale australienne si elles apprenaient que leur site avait été utilisé pour diffuser des crimes violents. En l'absence de notification, des amendes maximales de 840 000 dollars australiens pour les entreprises et de 168 000 dollars australiens pour les particuliers peuvent être imposées.


« Les grandes entreprises de médias sociaux ont la responsabilité de prendre toutes les mesures possibles pour que leurs produits technologiques ne soient pas exploités par des terroristes meurtriers », a déclaré le Premier ministre Scott Morrison au cours du week-end.

Morrison a ajouté qu'un nouveau groupe de travail, dont les membres seront issus du gouvernement fédéral et des entreprises de médias sociaux, sera créé pour « refuser aux terroristes la possibilité d'utiliser les médias sociaux dans le cadre de leur haine et de leur violence ».

« Ces réponses constitueront la base d'une approche modèle que l'Australie peut adopter pour faire en sorte que nos partenaires mondiaux associent les entreprises de médias sociaux à notre réseau collectif de responsabilité et de responsabilisation. Nous travaillons déjà à cette fin avec nos partenaires du G20 et des Five Eyes, y compris la Nouvelle-Zélande ».

Le Criminal Code Amendment (Unlawful Showing of Abhorrent Violent Material) Bill 2019 serait inspiré des dispositions existantes exigeant que les sites informent la police s'ils étaient utilisés pour accéder à de la pornographie mettant en scène des enfants, a déclaré le procureur général, Christian Porter.

Les lois donneront également au commissaire à la sécurité électronique le pouvoir d'émettre des avis qui porteront ce type de matériel à l'attention des sociétés de médias sociaux.

Dès qu’elles recevront un tel avis, il sera considéré que les sociétés ont pris connaissance du matériel et le compte à rebours va commencer à se déclencher pour que la plateforme d’hébergement supprime le matériel ou fasse face à des pénalités.

Les lois veilleront toujours à ce que les médias d'information puissent rendre compte de manière appropriée des événements d'intérêt public, sans montrer le contenu violent de la violence.

Pour Porter,

Citation Envoyé par Porter
Les médias traditionnels qui diffusent ce type de matériel mettraient leur licence en péril et il n'y a aucune raison pour que les plateformes de médias sociaux soient traitées différemment. Ces entreprises ont une responsabilité sociale et elles ont clairement échoué dans leur réponse à Christchurch.
Et Morrison de renchérir en avançant que

Citation Envoyé par Morrison
Nous devons prendre de nombreuses mesures pour assurer la sécurité des Australiens à la suite des attaques terroristes de Christchurch, et notre gouvernement s'acquitte de sa tâche. Le premier de ces objectifs est de reconnaître la manière dont les terroristes arment les plateformes de médias sociaux. Les grandes entreprises de médias sociaux ont la responsabilité de prendre toutes les mesures possibles pour que leurs produits technologiques ne soient pas exploités par des terroristes meurtriers.
L'industrie n'est pas restée de marbre après Christchurch


Chris Sonderby, vice-président et avocat général adjoint, avait expliqué concernant la vidéo de cette attaque que

  • La vidéo a été visionnée moins de 200 fois au cours de la diffusion en direct. Aucun utilisateur n'a signalé la vidéo lors de la diffusion en direct. En incluant les vues pendant la diffusion en direct, la vidéo a été visionnée environ 4000 fois au total avant d’être retirée de Facebook.
  • Le premier rapport d'utilisateur sur la vidéo d'origine est arrivé 29 minutes après le début de la vidéo et 12 minutes après la fin de la diffusion en direct.
  • Avant que nous ayons été alertés par la vidéo, un utilisateur de 8chan a posté un lien vers une copie de la vidéo sur un site de partage de fichiers.
  • Nous avons désigné les deux fusillades comme des attaques terroristes, ce qui signifie que tout éloge, soutien et représentation des événements enfreint les normes de notre communauté et n'est pas autorisé sur Facebook.
  • Nous avons supprimé les comptes personnels du suspect identifié de Facebook et Instagram, et nous identifions et supprimons activement tous les comptes imposteurs qui font surface.
  • Nous avons supprimé la vidéo d'origine Facebook Live et l'avons hachée de sorte que les autres partages visuellement similaires à cette vidéo soient ensuite détectés et automatiquement supprimés de Facebook et Instagram.
  • Certaines variantes telles que les enregistrements d'écran étaient plus difficiles à détecter. Nous avons donc étendu notre gamme de systèmes à d'autres systèmes de détection, notamment l'utilisation de la technologie audio.
  • Au cours des premières 24 heures, nous avons retiré environ 1,5 million de vidéos de l'attaque dans le monde. Plus de 1,2 million de ces vidéos ont été bloquées lors du téléchargement et n'ont donc pas pu être visionnées sur nos services.

Notons également que plusieurs sites Web, dont Voat, ZeroHedge, Archive.is, LiveLeak et d’autres, ont été bloqués en Australie et en Nouvelle-Zélande, en violation directe des libertés civiles que les citoyens sont supposés avoir. Le plus important de ces fournisseurs d’accès à Internet, Telstra, a publié un billet de blog dans lequel il défendait son action de censure, reconnaissant même que la liberté de parole avait été sacrifiée par décision de la société :

Citation Envoyé par Telstra
Nous avons décidé de bloquer temporairement un certain nombre de sites Web qui continuent de contenir des images de l’attaque terroriste de vendredi à Christchurch. Nous comprenons que cela puisse causer des inconvénients à certains utilisateurs légitimes de ces sites, mais il s’agit de circonstances extraordinaires qui ont nécessité une réponse extraordinaire.

Nous sommes conscients qu'il est nécessaire de veiller à ce que la liberté d'expression soit soigneusement équilibrée par rapport à la protection de la communauté - mais, comme ces sites continuent à héberger des contenus troublants, nous estimons qu'il est judicieux de les bloquer.

Ce sont des événements choquants et l'idée que ces images puissent en quelque sorte être utilisées pour inciter ou soutenir la haine est une pensée écœurante. Nous continuerons de faire tout ce qui est en notre pouvoir pour aider et soutenir une communauté diversifiée et inclusive.
Des internautes sont tout de même curieux de constater que ces mesures se sont appliquées à certains sites et non à d'autres. Comme Matt Barrie qui note que

1984 vient de frapper l'Australie. @zerohedge bloqué !! (mais pas @InfoWarsChannel), @liveleak bloqué (mais pas @youtube), @4chan bloqué par @Telstra. Également des rapports de @VodafoneAU de @zerohedge. Quoi d'autre a été censuré par nos maîtres du gouvernement ? Perdons-nous des points de crédit social? #auspol

Source : The Guardian, Facebook

Et vous ?

Censurer ou pas censurer ? Telle est la question

Voir aussi :

Les FAI en Australie ont commencé à censurer Internet, bloquant des sites Web pour avoir hébergé des images de l'attaque terroriste à Christchurch
Microsoft appelle à un plan de modération sectoriel après la fusillade de la Nouvelle-Zélande et explique comment le mettre en place

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de redcurve
Membre confirmé https://www.developpez.com
Le 02/04/2019 à 13:27
On nage en plein n'importe quoi surtout ça "La rapidité de la suppression serait déterminée par un jury" ...
Avatar de tanaka59
Membre expérimenté https://www.developpez.com
Le 02/04/2019 à 14:16
Comment fait on dans le cas de robots qui postent à tout va ?

Ba oui cela existe ! Un robot est difficilement "arrêtable"
Avatar de Cassoulatine
Inactif https://www.developpez.com
Le 02/04/2019 à 18:42
L'auteur de l'attentat dit dans son manifeste qu'il a fait cela parce que cela allait exposer l'agenda totalitaire dominant en occident avec notamment la confiscation des armes des citoyens et la suppression de la liberté d'expression.

Et c'est exactement ce qui est en train de se passer.

Les pouvoirs publiques font exactement ce que le terroriste voulait qu'ils fassent.
Avatar de Bill Fassinou
Chroniqueur Actualités https://www.developpez.com
Le 04/04/2019 à 17:01
L'Australie a adopté une loi punissant les dirigeants de médias sociaux pour les contenus violents et illégaux
à des peines de prison et des amendes

Rappelons qu'à la fin du mois dernier, à Christchurch en Nouvelle-Zélande a eu lieu une fusillade dans 2 mosquées au cours de laquelle plus de 40 personnes ont trouvé la mort. Il se trouve que 2 des victimes de cette fusillade faisaient partie de la communauté des partenaires Microsoft. Une équipe de Microsoft qui s'y était rendue en visite le lendemain de la fusillade, a pu apprécier la gravité de ce qui s'est passé et la société dans son ensemble a examiné la manière dont ses divers services étaient utilisés pour diffuser la vidéo de la fusillade sur la toile.

Les vidéos de la fusillade se sont rapidement répandues sur Internet. Microsoft, dans l'optique de stopper la propagation de ces vidéos, a procédé à des améliorations des outils existants pour identifier et classifier les contenus violents extrémistes ainsi qu'à des modifications du processus permettant aux utilisateurs de signaler ces contenus. La société a affirmé qu'une collaboration entre les entreprises du secteur technologique, les gouvernements et les organisations non gouvernementales permettrait de franchir des étapes plus importantes dans le processus d'éradication de ce genre de vidéos sur internet. Microsoft a également expliqué les 3 domaines fondamentaux sur lesquels les acteurs impliqués dans cette collaboration devront se concentrer afin que celle-ci soit plus efficace.

Suite à ces événements, l'Australie a envisagé d'introduire des peines de prison et des amendes de plusieurs millions de dollars aux géants des médias sociaux qui n'enlèvent pas rapidement les contenus violents. Le pays a donc adopté ce jeudi (en urgence) cette loi de grande envergure qui menace les réseaux sociaux avec d’énormes amendes et les emprisonnements pour leurs dirigeants si ceux-ci ne retirent pas rapidement les « contenus violents odieux » de leurs plateformes. La loi - à laquelle le secteur de la technologie s’oppose fermement - place l’Australie à l’avant-garde d’un mouvement mondial visant à responsabiliser les entreprises comme Facebook et YouTube pour le contenu qu’elles hébergent.

Lors d'un débat sur le projet de loi jeudi à la Chambre des représentants, Christan Porter, le procureur général de l'Australie, a d'ailleurs déclaré que « ces plateformes ne devraient pas être utilisées » à des fins de propagation de contenus haineux. Les plateformes Internet doivent prendre au sérieux la diffusion de contenus violents et odieux en ligne, a-t-il ajouté. Rédigée rapidement et sans grande participation d'entreprises ou d'experts technologiques, cette mesure va aussi loin que toute tentative d'une autre démocratie visant à punir les plateformes technologiques multinationales du comportement de leurs utilisateurs. Cette mesure est très probablement une première sur le plan international, a déclaré Porter, ajoutant que « les Australiens étaient presque unanimes à penser que les plateformes de médias sociaux devaient assumer davantage de responsabilités pour leur contenu ».


La loi criminalise les « contenus violents odieux», définis comme des vidéos montrant des attaques terroristes, des meurtres, des viols ou des enlèvements. Les entreprises de médias sociaux qui ne parviennent pas à supprimer ces genres de contenus « rapidement » peuvent être condamnées à des amendes pouvant aller jusqu'à 10 % de leurs bénéfices annuels et les dirigeants de l'entreprise à des peines pouvant aller jusqu'à trois ans de prison. Les entreprises doivent également informer la police lorsqu'elle détecte de contenus illégaux sur leur plateforme. Le projet de loi, avant même son dépôt à la Chambre des représentants jeudi, a intensifié le débat mondial déjà passionné sur la liberté d'expression, la violence et la technologie. Toutefois, les entreprises de médias australiennes ont averti cette semaine que la loi pourrait entraîner la censure des discours légitimes.

Un consortium de superpuissances technologiques mondiales, y compris Google, Facebook et Amazon, a également fait valoir que cela nuirait aux relations de l'Australie avec d'autres pays, car le pays exigerait une surveillance « proactive » de tous les utilisateurs du monde entier, tout en criminalisant le contenu republié par les utilisateurs sans que les entreprises le sachent. « Cette loi, qui a été conçue et adoptée en cinq jours sans aucune consultation sérieuse, ne résout en rien le discours de haine, qui était la motivation fondamentale des attentats terroristes tragiques de Christchurch », a déclaré Sunita Bose, directrice générale de Digital Industry Group Inc., un groupe de défense représentant Facebook, Google et d’autres sociétés.

« Avec les énormes volumes de contenu téléchargés sur Internet chaque seconde, il s'agit d'un problème extrêmement complexe qui nécessite une discussion avec le secteur de la technologie, des experts juridiques, les médias et la société civile pour trouver la bonne solution. », a déclaré Bose. Au Sénat hier soir, Richard Di Natale, sénateur du parti des Verts australiens, a déclaré que le processus était précipité. Il a accusé le gouvernement conservateur australien et le parti travailliste de l'opposition, qu'il a qualifiés de « complaisants ». « Nous avons eu certains des changements les plus importants que nous n'ayons jamais vus dans la réglementation des médias sociaux en ligne », a-t-il déclaré. Et pourtant, avec peu ou pas de temps pour la participation du public, a-t-il ajouté, « ça va être percutant ».

NYT écrit que les experts ont averti que la loi - qui vise à aller au-delà des médias sociaux traditionnels vers des sites qui étaient des foyers de suprématie blanche, comme 4Chan - pourrait donner lieu à des contestations judiciaires. Il n’est pas clair si l’Australie serait en mesure de prendre des mesures à l’encontre des entreprises qui n’ont pas de bureau dans le pays, ni si elle aurait le droit d’imposer des pénalités basées sur le profit à des mastodontes internationaux tels que Facebook. La norme vague consistant à supprimer le contenu « rapidement » - ce qui serait décidé par un jury, conformément à la loi - pourrait également conduire à de longues batailles, riches en détails techniques, sur ce à quoi on peut raisonnablement s'attendre de la part d'entreprises technologiques qui traitent des millions, voire des milliards de dollars.

Rappelons qu'avant l'Australie, en 2017, Le Parlement allemand avait adopté une loi prévoyant des amendes pouvant s'élever jusqu'à 50 millions d'euros pour les réseaux sociaux qui tardent à supprimer les discours haineux et les fausses informations. Pour le ministre allemand de la Justice, Heiko Maas, cette loi, qui est destinée « à mettre fin à la loi de la jungle sur internet », ne porterait pas atteinte à la liberté d'expression. Pour être plus clairs, dès son entrée en vigueur, les réseaux qui comptent plus de 2 millions d’utilisateurs (comme Facebook, YouTube et d'autres plateformes) vont s’exposer à cette amende s’ils ne suppriment pas dans un délai de 24 heures les propos haineux, mais également les fake news qui sont signalées.

Néanmoins, la loi prévoit d’accorder un délai supplémentaire de 6 jours (soit 7 jours au total) pour gérer les cas les plus problématiques qui pourront nécessiter un temps de réflexion prolongé. Par ailleurs, l’Allemagne va obliger les réseaux sociaux à dévoiler l’identité des auteurs de ces publications haineuses et pourra condamner, en cas de manquement, jusqu’à 5 millions d’euros d’amende les responsables désignés par chaque réseau social pour gérer ces plaintes.

En mai 2016, les principales plateformes de contenus en ligne ont signé un code de conduite sur Internet, par lequel elles se sont engagées volontairement auprès de l'UE à respecter certaines prescriptions dans le but de retirer les contenus illicites de la toile. En mars 2018, la Commission européenne a décidé de renforcer l'action de l'UE contre ce type de contenu, en donnant de nouvelles consignes à Google, YouTube, Facebook et Twitter. Il s'agissait entre autres, pour ces entreprises, de se doter d'outils plus efficaces et de technologies proactives pour détecter et supprimer tout contenu illicite ; s'engager dans une coopération plus étroite avec les autorités ; mais aussi aider les petites entreprises - qui n'ont pas les ressources ou l'expertise adéquate - en partageant par exemple avec elles des solutions technologiques, notamment des outils de détection automatique.

Le Financial Times disait en août 2018 que la Commission européenne n'était pas satisfaite des efforts volontaires faits depuis lors par les plateformes en ligne. Pour cette raison, elle préparait une loi pour forcer ces entreprises à supprimer le contenu terroriste en ligne dans un délai d'une heure après signalement par la police et les autorités compétentes, ou faire face à des amendes. Julian King, le commissaire européen chargé de la sécurité, a déclaré au Financial Times que Bruxelles n’avait « pas assez progressé » en matière de retrait de contenu à caractère terroriste par les entreprises technologiques et « prendrait des mesures plus énergiques pour mieux protéger les citoyens » de l'UE. « Nous ne pouvons pas nous permettre d'être relaxes ou faire preuve de complaisance face à un phénomène aussi sombre et destructeur », a déclaré M. King.

ci-joint la loi adoptée

Source : NYT

Et vous ?

Qu'en pensez-vous ?
Cette loi (votée à la hâte) est-elle la solution contre les contenus haineux en ligne, selon vous ?
Quelles solutions préconiseriez-vous pour lutter efficacement contre les contenus haineux en ligne ?

Voir aussi

L'Allemagne veut punir d'une amende pouvant atteindre 50 millions € les médias sociaux qui tardent à retirer les fake news et les propos haineux

Suppression de contenu illégal en ligne : l'UE demande plus d'efforts et des progrès plus rapides de la part des géants de l'Internet

L'UE prépare une loi pour la suppression de contenu terroriste en ligne dans un délai d'une heure par les plateformes du Net, sous peine d'amende

Mounir Mahjoubi présente les articulations du plan d'action contre les contenus haineux en ligne la fin de l'anonymat en ligne n'est pas évoquée

 
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web