Contenus extrémistes en ligne : des bloqueurs de publications à la sauce IA
Une prescription du secrétaire d'État à l'Intérieur britannique

Le , par Patrick Ruiz, Chroniqueur Actualités
Comment faire pour supprimer des contenus dits extrémistes de la toile en moins de deux heures ? La question n’a pas été mise sur la table par la Première ministre britannique, Theresa May, lors d'une réunion sur la prévention de l’utilisation d’Internet par les terroristes en septembre dernier. Toutefois, les développements d’alors appellent à un tel questionnement. Le quotidien The Daily Telegraph s’est fait le relais d’une intervention de la secrétaire d’État à l’Intérieur britannique à ce sujet.

D’après la collaboratrice de la Première ministre britannique, il est possible de faire mieux que supprimer des contenus déjà présents en ligne en moins de deux heures. Il faut bloquer des publications avant leur atterrissage sur une plateforme et pour cela elle mise sur l’intelligence artificielle. « Les entreprises technologiques doivent presser le pas dans la mise au point et le déploiement des systèmes d’intelligence artificielle capables de détecter de tels contenus avant leur publication sur Internet et empêcher leur dissémination », rapporte le quotidien du propos de la secrétaire.

Mais le propos de la secrétaire porte une fois de plus comme un soupçon de déconnexion de la réalité, ce, d’une part parce que des systèmes de ce type sont déjà déployés. Dans une publication du quotidien The Daily Telegraph datée du 16 juin 2017, des responsables de l’entreprise donnent des détails sur les capacités de détection de son programme d’intelligence artificielle. « Nous mettons les meilleures techniques dont nous disposons à contribution pour combattre les contenus terroristes en lien avec ISIS, Al Qaeda et ses organisations affiliées et nous étendrons cette initiative à d’autres organisations terroristes », rapporte le quotidien des propos des responsables de Facebook.

« Lorsqu’un tiers essaie de publier une photo ou une vidéo à caractère terroriste, nos systèmes vérifient si le contenu correspond à un autre répertorié comme tel. Ceci veut dire que nous sommes capables d’empêcher la publication d’un contenu sur notre plateforme à partir d’autres comptes en ligne s’il a précédemment été bloqué parce que contenant de la propagande terroriste », ajoute le quotidien. Secundo, la secrétaire fait fi de réalités techniques qui ne relèvent pas de sa compétence. En effet, avec l’exemple Facebook, le problème n’est donc pas celui de la disponibilité de tels systèmes, mais celui de la gestion de cette immensité qu’est Internet.

« Le plus gros problème est que vous ne pouvez pas nécessairement tout saisir sur l'ensemble de l'Internet. Le défi est que l'apprentissage par machine est un outil puissant, mais il est encore relativement aux balbutiements de son évolution », a déclaré Kent Walker, conseiller général chez Google dans le cadre de la réunion sur la prévention de l’utilisation d’Internet par les terroristes. On le comprend, Amber Rudd est dans son rôle : celui d’appeler à l’implémentation de techniques susceptibles d’enrayer ce problème. Cela se fera sans qu’il soit nécessaire qu’elle comprenne les défis techniques comme elle l’a martelé en ce qui concerne le chiffrement, créant une polémique au passage.

Le propos du conseiller général chez Google laisse simplement filtrer que l’intelligence artificielle fait son bout de chemin et qu’il sera difficile qu’elle rende satisfaction aux gouvernements à la hauteur de leurs attentes dans de très brefs délais. On notera néanmoins que la rhétorique « les entreprises technologiques ne font pas assez pour enrayer les contenus terroristes en ligne » fait partie du passé puisque les gouvernements reconnaissent que les entreprises technologiques y mettent de plus en plus du leur.

Sources

The Daily Telegraph
The Daily Telegraph (juin 2017)

Votre avis

Que pensez-vous de cette nouvelle sortie de la secrétaire d’État à l’Intérieur britannique ?

Voir aussi

Facebook va recruter 3000 modérateurs de plus pour supprimer tout contenu choquant sur sa plateforme, qu'en est-il de son programme d'IA ?
Google présente un plan d'action en quatre étapes pour combattre la publication de contenu terroriste en ligne


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse

Avatar de Grogro Grogro - Membre extrêmement actif https://www.developpez.com
le 13/11/2017 à 11:28
Question à 100000 livres : qu'est-ce qu'un "contenu extrémiste" ? Quis custodiet ipso custodes ?

Vous avez 4 heures.
Avatar de Christian Olivier Christian Olivier - Chroniqueur Actualités https://www.developpez.com
le 14/02/2018 à 7:09
Le Royaume-Uni dévoile un outil de blocage des contenus extrémistes basé sur l’IA
Qui pourrait faciliter les opérations de modération des PME

Le gouvernement britannique a récemment dévoilé un outil qui, selon lui, permettrait de détecter le contenu djihadiste avec une grande précision et empêcherait sa diffusion. Cet outil basé sur la technologie de l’intelligence artificielle (IA) s’appuie sur les caractéristiques typiques de l’État islamique et de son activité en ligne pour effectuer ses opérations de tri.

Grâce à l’entrainement qu’il a reçu, ce logiciel serait en mesure de détecter automatiquement les contenus à caractère terroriste, notamment ceux dont le groupe État islamique fait la promotion. Il pourrait également faciliter les opérations de modération en permettant aux petites entreprises qui n’ont pas forcément les moyens des géants de l’industrie comme Facebook ou Google de lutter plus efficacement contre la prolifération des contenus extrémistes sur leurs sites.


Le gouvernement britannique aurait dépensé environ 600 ;000 livres (près de 673 500 euros) pour la création de cet outil et c’est ASI Data Science, une société d’intelligence artificielle basée à Londres, qui l’a conçue. D’après ASI, ce logiciel serait capable de détecter 94 % des contenus vidéo diffusés par l’État islamique. La société a également indiqué qu’en général 0,005 % des résultats affichés par son logiciel se rapportaient à des faux positifs.

La secrétaire d'État à l'Intérieur, Amber Rudd, qui est actuellement en visite aux États-Unis pour rencontrer des entreprises technologiques et discuter avec elles des efforts à consentir pour lutter plus efficacement contre la prolifération de l’extrémisme en ligne a déclaré à la BBC qu’elle n’excluait pas de contraindre légalement les entreprises technologiques à utiliser cet outil dans le futur. Elle a insisté sur le fait que cet outil a été conçu afin de montrer que les demandes de son gouvernement en matière de répression des activités extrémistes en ligne n’étaient pas déraisonnables.

« ;La technologie est là. Il y a des outils qui peuvent faire exactement ce que nous demandons. Pour les petites entreprises, ça pourrait être idéal ;», a-t-elle confié avant d’ajouter : « je reste convaincu que la meilleure façon de prendre des mesures concrètes et d’obtenir les meilleurs résultats passe par la mise en place d’un forum dirigé par l’industrie comme celui auquel nous assistons actuellement. »

Le Forum mondial sur la lutte contre le terrorisme auquel La secrétaire d'État à l'Intérieur fait allusion a été lancé l’année dernière. Il rassemble plusieurs gouvernements, États-Unis et Royaume-Uni inclus, ainsi que de grandes entreprises d’Internet telles que Facebook, Google, Twitter, etc.

Des outils similaires ont par le passé été vivement critiqués par les partisans d’un Internet « ;ouvert ;», affirmant que de telles solutions ont tendance à générer des faux positifs, bloquant ou supprimant ainsi des contenus qui ne sont pas particulièrement problématiques. Il reste aussi à définir clairement ce que tel ou tel gouvernement entend par « contenu extrémiste » lorsqu'il milite pour la mise en place de pareilles solutions afin d'éviter les dérives.

Source : BBC

Et vous ?

Qu’en pensez-vous ?

Voir aussi

Theresa May appelle les entreprises d'Internet à installer des portes dérobées magiques que seuls les services de sécurité pourront exploiter
Grande-Bretagne : Theresa May veut sanctionner les réseaux sociaux qui ne contrôlent pas suffisamment les posts de leurs utilisateurs
Theresa May et Macron prévoient une initiative contre le terrorisme en ligne avec une responsabilité juridique pour les entreprises de technologie
Avatar de Ben404 Ben404 - Membre à l'essai https://www.developpez.com
le 14/02/2018 à 8:52
Et voila encore une avancée super génial mais qui risque encore de partir en cacahuète si un dirigeant méchant en prend le total contrôle pour contrôler sa population :'(
Mais une question, comment faire pour que ce genre de projets n'aboutissent pas a un scénario comme ça ? Vu que on peut pas remplacer les dirigeant faut faire comment ? On peut bloqué le programme pour les pays ? Le faire gérer par une société privé qui gère les filtres a elle seul ? Enfin j'en sais trop rien :/ Mais une solution miracle ça serait cool :3
Avatar de Ryu2000 Ryu2000 - Membre extrêmement actif https://www.developpez.com
le 14/02/2018 à 10:07
Citation Envoyé par Ben404 Voir le message
Et voila encore une avancée super génial mais qui risque encore de partir en cacahuète
Ouais c'est ça qu'il risque fortement d'arriver, si au début ça dit luter contre le terrorisme très vite ça va être utilisé pour censurer ceux qui critiquent le gouvernement.
C'est comme Macron qui dit vouloir lutter contre les fausses nouvelles, alors qu'en fait ça va censurer ce qui ne plait pas au gouvernement.

De toute façon les vrais terroristes n'ont pas besoin de publier sur internet.
Avatar de koyosama koyosama - Membre éclairé https://www.developpez.com
le 14/02/2018 à 13:17
Citation Envoyé par Ben404 Voir le message
Et voila encore une avancée super génial mais qui risque encore de partir en cacahuète si un dirigeant méchant en prend le total contrôle pour contrôler sa population :'(
Mais une question, comment faire pour que ce genre de projets n'aboutissent pas a un scénario comme ça ? Vu que on peut pas remplacer les dirigeant faut faire comment ? On peut bloqué le programme pour les pays ? Le faire gérer par une société privé qui gère les filtres a elle seul ? Enfin j'en sais trop rien :/ Mais une solution miracle ça serait cool :3
Tu sais que c'est les anglais qui ont crée Black Miroir. Toi tu as peur du dirigeant, mais tu devrais avoir peur du gouvernement tout entier ou de l'institution. Ils ont quand même bojo là bàs. Tu devrais voir ce que fais le home-office chez eux déjà. Non juste l'existence ou la commande cette outils est une nuisance.
Avatar de Kapeutini Kapeutini - Membre du Club https://www.developpez.com
le 16/02/2018 à 19:08
C'était à prévoir...
Et la Chine qui se lance là dedans ...
Comment échapper à la surveillance ? Avec une anti-IA :-)
Avatar de mm_71 mm_71 - Membre éprouvé https://www.developpez.com
le 16/02/2018 à 19:35
Comment échapper à la surveillance ? Avec une anti-IA :-)
Dans le passé les truands ont inventé l'argot, le verlan, etc... Pour que les condés n'y entravent que dalle.
L'histoire ne va pas tarder à se répéter sur le net et ce sera d'autant plus facile qu'une I.A. n'aura sans doute jamais d'imagination.
Avatar de Mat.M Mat.M - Expert éminent sénior https://www.developpez.com
le 16/02/2018 à 20:11
Citation Envoyé par mm_71 Voir le message
Dans le passé les truands ont inventé l'argot, le verlan, etc... Pour que les condés n'y entravent que dalle.
L'histoire ne va pas tarder à se répéter sur le net et ce sera d'autant plus facile qu'une I.A. n'aura sans doute jamais d'imagination.
+1000 encore une fois on n'invente rien de vraiment nouveau..
Avatar de Ryu2000 Ryu2000 - Membre extrêmement actif https://www.developpez.com
le 19/02/2018 à 8:49
Citation Envoyé par mm_71 Voir le message
ce sera d'autant plus facile qu'une I.A. n'aura sans doute jamais d'imagination.
Des robots apprennent à se parler et créent leur propre langage
Mais surtout :
IA : des robots Facebook désactivés après avoir créé leur propre langage

Donc on sait jamais...
Plus l'IA sera avancé plus elle dépassera l'humain.
Contacter le responsable de la rubrique Accueil