Google s'explique sur l'analyse des photos dans Gmail
Qui aurait permis l'arrestation d'un pédophile

Le , par Hinault Romaric, Responsable .NET
Google a contribué le weekend dernier à l’arrestation d’un délinquant sexuel par la justice américaine grâce à l’analyse des messages électroniques de celui-ci.

Google avait signalé aux autorités que celui-ci recevait dans sa boite mail des images pédopornographiques illégales. L’information transmisse par Google a permis aux autorités d’obtenir un mandat de perquisition contre celui-ci, et la fouille de son domicile a révélé des images et des textes suspects, ce qui a entrainé son arrestation. L’homme en question avait déjà été reconnu coupable d’agression sexuelle sur un enfant de 8 ans en 1994.

Cet acte louable de Google n’a pas manqué de créer une certaine polémique, remettant sur la scène les débats sur la protection de la vie privée des utilisateurs et dévoilant au passage les capacités technologiques dont dispose Google pour scanner les mails des utilisateurs de son service de messagerie.

Il est connu depuis plusieurs mois et Google l’avait confirmé, que ses systèmes automatisés analysent les courriels des utilisateurs pour fournir des fonctionnalités personnalisées, lutter contre les spams et procéder à la publicité ciblée. À la lumière de ces informations, ces systèmes seraient capables de chercher toutes sortes de contenu, y compris dans les pièces jointes, en dehors des termes clés utilisés pour la publicité.

Face à la polémique, Google a tenu à clarifier la situation et son application dans un communiqué qui a été transmis à l’AFP. Le géant de la recherche, tout comme les autres entreprises de l’internet, notamment Microsoft, contribue depuis plusieurs années à éradiquer la pédopornographie sur internet.

Jusqu’ici, la firme se limitait à répondre aux injonctions de la justice dans les affaires criminelles. D’ailleurs, cela est connu, car la firme publie constamment des chiffres sur les demandes des autorités pour accéder aux données des utilisateurs. Dans le cadre de cette affaire, c’est la première fois que Google de sa propre initiative, informe les autorités.

« Malheureusement, toutes les entreprises de l’internet sont confrontées à des cas d'abus sexuel sur des enfants. C'est pourquoi Google supprime les images illégales de ses services », a déclaré la firme, qui explique que l’information est transmise au National Center for Missing and Exploited Children (NCMEC) qui se charge de gérer la suite du dossier.

En ce qui concerne le système utilisé, Google explique que chaque image d'abus sexuel sur un enfant est signée d'une empreinte numérique unique qui permet à ses systèmes d'identifier ces photos, même au sein de Gmail.

Sans entrer dans les détails, le géant de la recherche précise que le système est utilisé uniquement pour identifier des images pornographiques et non les autres contenus du mail qui pourraient être liés à une activité illégale. De quoi calmer les plus sceptiques ?

Source : AFP


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse

Avatar de Voïvode Voïvode - Membre émérite http://www.developpez.com
le 06/08/2014 à 15:01
Il est connu depuis plusieurs mois et Google l’avait confirmé, que ses systèmes automatisés analysent les courriels des utilisateurs pour fournir des fonctionnalités personnalisées, lutter contre les spams et procéder à la publicité ciblée. À la lumière de ces informations, ces systèmes seraient capables de chercher toutes sortes de contenu, y compris dans les pièces jointes, en dehors des termes clés utilisés pour la publicité.

C’est tout bénef pour Google de rechercher des images pédopornographiques dans les mails : ça ne leur coute plus rien à mettre en place et ça met un vernis moral qui rend le système de surveillance difficilement critiquable.
Avatar de ILP ILP - Membre averti http://www.developpez.com
le 06/08/2014 à 16:11
Citation Envoyé par Hinault Romaric  Voir le message
En ce qui concerne le système utilisé, Google explique que chaque image d'abus sexuel sur un enfant est signée d'une empreinte numérique unique qui permet à ses systèmes d'identifier ces photos, même au sein de Gmail.

Je me demande comment sont signées les photos ? C'est les pédophiles photographes qui signent leurs "œuvres", ou c'est Google qui a une base de données des photos signalées et qui utilise un algorithme similaire à sa recherche par image ?
Avatar de Paul TOTH Paul TOTH - Expert éminent sénior http://www.developpez.com
le 06/08/2014 à 16:50
Citation Envoyé par Voïvode  Voir le message
C’est tout bénef pour Google de rechercher des images pédopornographiques dans les mails : ça ne coute leur plus rien à mettre en place et ça met un vernis moral qui rend le système de surveillance difficilement critiquable.

ce qui est dérangeant dans tout cela ce n'est évidemment pas que Google participe à la lute contre la pédophilie, c'est l’absence totale de débat démocratique sur la question de la confidentialité de nos données en ligne. Les stratégies sont mise en place par Google, Microsoft ou encore Mozilla, et ils nous imposent leur façon de voir sans que jamais nous ne donnions notre avis...parfois l'Europe sort une directive de son chapeau sans nous demander d'avantage ce que l'on en pense.

Je m'interrogeais dernièrement en regardant le Dictateur de Chaplin sur la différence entre dictature et capitalisme,

Soldats, ne vous donnez pas à ces brutes,
à une minorité qui vous méprise et qui fait de vous des esclaves,
enrégimente toute votre vie et qui vous dit tout ce qu'il faut faire
et ce qu'il faut penser, qui vous dirige, vous manoeuvre,
se sert de vous comme chair à canons et qui vous traite comme du bétail.

Ne donnez pas votre vie à ces êtres inhumains,

ces hommes-machines avec une machine à la place de la tête
et une machine dans le coeur.

Vous n'êtes pas des machines !

Vous n'êtes pas des esclaves !

Vous êtes des hommes !

http://lilifloria.blogspot.fr/2009/0...haplin-un.html
Avatar de Gugelhupf Gugelhupf - Modérateur http://www.developpez.com
le 06/08/2014 à 17:20
Je suppose qu'un service Gmail va exécuter une procédure qui va lire le contenu des mails pour relever les mots-clés suspicieux (un taux par ex).
Pour ce qui est de l'analyse des pièces jointes je pense que cela ne s'invente pas, Google possède certainement l'original des fichiers (avec l'accord des autorités). Il suffit d'une la bande sonore pour que le nom de l'artiste apparaisse dans une vidéo uploadé sur Youtube. Mais bon comme c'est un sujet tabou on préfère simplement dire que le super algo est autonome pour "comprendre" que le fichier est suspicieux.

Une question qu'on pourrait se poser est que se serait-t-il passé si le pervers était une personnalité importante ou ayant une certaine l'influence.
Avatar de thetrollman thetrollman - Membre régulier http://www.developpez.com
le 06/08/2014 à 17:39
Le pape et beaucoup de religion ont a se tenir. Ils ne peuvent plus s'envoyer des mails avec des photos pédophiles. D'ici un ans plus de religion ( c’était une blague).

Plus sérieusement oui c'est positif d'un sens..
Mais savoir ce que je consulte, regarde, lit sur internet ou j'envoie je trouve ça dérangeant. Déja que ebay me dérange avec vous avez consulter ce ci alors regarde tous ce qui ressemble par email... ( Je sais on peux cliquer sur courrier indésirable). De plus, Si un homme reçoit une photo de sa copine ( sexté ) , google peuvent être au courant. Puis c'est pas tous le monde qui a l'esprit saint. Y'a du monde qui vont aller contre le code de l'entreprise c'est sur..

Imaginer le pouvoir de quelqu'un qui peut consulter tous les messages de d'autres personnes... C'est leurs vie presque complète qui peuvent s'afficher.
Avatar de Grabeuh Grabeuh - Membre confirmé http://www.developpez.com
le 06/08/2014 à 18:20
Citation Envoyé par Gugelhupf  Voir le message
Pour ce qui est de l'analyse des pièces jointes je pense que cela ne s'invente pas, Google possède certainement l'original des fichiers (avec l'accord des autorités). Il suffit d'une la bande sonore pour que le nom de l'artiste apparaisse dans une vidéo uploadé sur Youtube. Mais bon comme c'est un sujet tabou on préfère simplement dire que le super algo est autonome pour "comprendre" que le fichier est suspicieux.

J'ai travaillé pour une boite Vietnamienne dont le produit phare était un algorithme de détection d'images de personnes nues, totalement interdites dans ce pays. Le programme en question passait chaque image à la moulinette et était capable de dire avec un faible taux d'erreur si l'image était une image porno ou non.
Ceci date de 2008, des progrès énormes ont du être faits depuis (y a qu'à voir les bots de Facebook qui suppriment même des photos de statues dans des musées).

Combine ça avec un algo pour détecter la tranche d'âge d'un visage, et tu obtiens un algo quasi-autonome (faut quand même revérifier les fichiers manuellement de temps en temps pour éviter les faux positifs)

D'ailleurs, un papier académique (Vietnamien, là encore) à propos d'un algo de détection d'images pornographiques.
http://www.academia.edu/4027750/A_no...upload_picture

Et pour la comparaison de fichiers audio, je te conseille de regarder http://gizmodo.com/5647458/how-shaza...ou-throw-at-it
Là non plus, pas besoin d'avoir le fichier original pour comparaison.
Avatar de Gugelhupf Gugelhupf - Modérateur http://www.developpez.com
le 06/08/2014 à 19:52
Je sais que ce genre d'outil existe (Facebook possède un module de reconnaissance faciale mais ne l'utilise pas), mais combien de temps prend l'analyse d'une image sachant qu'il doit y avoir des millions de mails qui transitent par jour ?

Par curiosité est-ce qu'il s'agit d'un algorithme glouton ? Voici un 1er moyen plus ou moins rapide que je vois : relever le nombre d'octet du fichier et le comparer avec les fichiers d'origines, analyser la bande sonore pour confirmer et envoyer le mail aux autorités.

PS: je vois mal le bot de Google transmettre des milliers d'images de statue aux autorités.
Avatar de Grabeuh Grabeuh - Membre confirmé http://www.developpez.com
le 06/08/2014 à 20:28
Ce n'est simplement pas fait en temps réel, à chaque envoi. Les fichiers de pièces jointes sont stockés sur leurs serveurs, donc ils ont tout le temps qu'ils veulent pour les analyser.

C'est mis dans une file d'attente qui va traiter les fichiers un par un (fois le nombre de threads/serveurs alloués).
Après, peu importe le temps que ça prend, que les autorités aient leurs infos aujourd'hui ou dans 3 jours ne change pas grand chose par rapport à la durée totale d'une enquête de ce type.
Avatar de spidetra spidetra - Membre averti http://www.developpez.com
le 06/08/2014 à 20:50
Avatar de - http://www.developpez.com
le 07/08/2014 à 1:11
De toute manière c'est partout la même chose pas de quoi être étonné il faudrait plutôt se demander où l'on est sur de ne pas être surveillé , en faisant ce genre d'activité en ligne il aurait fallu être plus intelligent , heureusement qu'il existe des alternatives dont une qui a l'air très prometteuse : protonmail.ch
Offres d'emploi IT
Consultant confirmé SAP BI BW/IP (h/f)
Atos Intégration - Ile de France - Bezons
Développeur .net h/f
ACD Consulting - Ile de France - Paris (75006)
Développeur java j2ee (H/F)
SOGETI - Nord Pas-de-Calais - Lille (59000)

Voir plus d'offres Voir la carte des offres IT
Contacter le responsable de la rubrique Accueil