Jigsaw a présenté dans la journée d’hier l’application Tune, une extension pour le navigateur Google Chrome capable de filtrer et de cacher les commentaires indésirables grâce à un mode de fonctionnement basé sur l’intelligence artificielle. L’extension est conçue, annoncent ses éditeurs, pour permettre de modérer les commentaires sur les médias sociaux tels que Facebook, Twitter, YouTube ou encore les sites communautaires comme Reddit. Pour l’heure, il ne s’agit que d’une version expérimentale de l’extension, mais vous pouvez déjà la télécharger à partir du Store d’extensions de Chrome et l’essayer. Jigsaw (anciennement Google Ideas) est un incubateur technologique créé par Google et actuellement exploité en tant que filiale du groupe Alphabet. Basé à New York, Jigsaw se consacre à la compréhension des défis mondiaux et à l'application de solutions technologiques contre l'extrémisme, la censure en ligne et les cyberattaques pour protéger l'accès à l'information. L’entreprise s’emploie à utiliser la technologie pour rendre le monde plus sûr, explique-t-elle. En septembre 2016, Jigsaw présentait Perspective, une intelligence artificielle qu’il a conçu pour détecter des propos "toxiques" et qui est disponible via une API. Cette initiative de la filiale de Google s’inscrit dans le cadre de la lutte contre le harcèlement en ligne, les propos haineux et racistes ou simplement toutes formes de propos déplacés en ligne. Le rôle de Perspective est de permettre l’attribution à un texte d’un score de toxicité en utilisant les méthodes de l’apprentissage automatique. Perspective a été entraînée en utilisant des commentaires de Wikipédia, du New York Times et d’autres médias partenaires.
Les formes de harcèlement en ligne ou les propos toxiques ont pris de plus en plus d’ampleur ces dernières années notamment avec l’avènement des médias sociaux. La place qu’ils (les médias sociaux) occupent dans notre vie aujourd’hui semble très importante et ainsi, les utilisateurs sont en proie le plus souvent à des propos toxiques, des messages haineux, des menaces ou encore des commentaires de tout genre. Ainsi, Jigsaw s’est donné pour mission de modérer cela en utilisant l’intelligence artificielle. Il a de ce fait mis en place une extension Chrome open source dénommée Tune pour permettre aux utilisateurs de personnaliser le degré de toxicité qu’ils souhaitent voir apparaître dans les commentaires sur Internet. Tune s’appuie sur les mêmes modèles d’apprentissage que Perspective, il est donc alimenté par l’intelligence artificielle.
L’extension Tune est conçue pour l’instant à l’endroit de YouTube, Facebook, Twitter, Reddit et Disqus qui, le sait-on, sont souvent sur la liste des sites où les langages abusifs et toxiques sont les plus rencontrés. Avec Tune vous pouvez baisser le volume des commentaires toxiques en le réglant sur le mode "zen". Cette configuration vous permet d’ignorer complètement les commentaires toxiques. Si vous décidez de les voir quand même, il vous suffira de monter le volume. Plus le volume est haut et plus vous êtes sujets à voir des choses plus toxiques que Tune aurait cachées. Cela dit, vous pouvez aussi régler le volume entre les deux pour personnaliser le niveau de toxicité (p. ex. attaques, insultes, blasphèmes, etc.) que vous êtes prêts à voir dans les commentaires. Vous pouvez déjà ajouter l’extension à votre navigateur et commencer à l’essayer. Aussi, ayez à l’esprit, explique Jigsaw, que l’extension ne fonctionne actuellement que sur les commentaires en anglais.
Néanmoins, met en garde Jigsaw, Tune n'est pas censé être une solution pour les cibles directes de harcèlement, pas plus que Tune n'est une solution pour toutes les formes de toxicité. « Il s’agit plutôt d’une expérience visant à montrer aux gens comment la technologie d’apprentissage automatique peut aider à modérer les discussions en ligne. Nous espérons que Tune pourra inspirer les plateformes et les développeurs à explorer les contrôles d’audience des lecteurs et permettre aux communautés de participer à des discussions, à l’avenir, plus commodes », a expliqué Jigsaw.
De plus, Jigsaw a rappelé que l'apprentissage automatique qui alimente l’extension Tune est toujours expérimental. Il lui manque encore, souligne-t-il, à apprendre d'innombrables commentaires ou phrases toxiques et il cache maladroitement certains commentaires non toxiques. Cependant, Jigsaw affirme qu’il continue de travailler fermement pour améliorer les technologies sous-jacentes à son projet. Aussi, entend-il permettre prochainement aux utilisateurs d’envoyer en retour leurs avis pour participer à l’amélioration des algorithmes de Perspective et en même temps de l’extension Tune.
Si vous êtes inquiets par rapport à la confidentialité de vos données lorsque vous utilisez Tune, vous pouvez consulter la FAQ réservée à cela dans Chrome Store pour avoir plus d’informations. Sachez néanmoins que si vous soumettez des commentaires via Tune, le rapport de rétroaction Google contiendra l'identifiant de l'utilisateur du compte auquel vous êtes connecté avec Chrome à ce moment-là.
Sources : Médium, Chrome Store
Et vous ?
Que pensez-vous de cette extension ? L'avez-vous déjà essayé ? Qu'en dites-vous ?Voir aussi
Lutte contre les propos déplacés en ligne : Google développe une intelligence artificielle disponible via une API pour détecter les propos "toxiques" 35 % des extensions Chrome accèdent aux données des utilisateurs sur n'importe quel site d'après une étude du laboratoire Duo Labs Une nouvelle extension Chrome de Google vous protège contre les violations de données en vérifiant automatiquement la sécurité de vos mots de passe Extensions Chrome : Google annonce des changements à venir qui visent à améliorer la sécurité ainsi que l'expérience utilisateur 
Envoyé par sergio_is_back
.
