Dans un mémo interne, Apple répond aux préoccupations concernant les nouvelles fonctions de balayage des photos,

Alors que les experts dénoncent un recul dans les progrès en matière de vie privée

Apple a annoncé la semaine dernière "Expanded Protections for Children", une série de nouvelles fonctionnalités prévues pour être livrées avec l'iOS 15 afin d'accroître les mesures de protection des enfants. Les nouvelles fonctionnalités comprennent des protections pour les images sensibles dans l'application Messages, le balayage d'iCloud Photos pour le contenu de matériel d'abus sexuel d'enfants (CSAM - child sexual abuse material), et de nouvelles connaissances pour Siri et Search. Mais alors que l'industrie s'insurge contre cette initiative, Apple donne des détails techniques sur sa technologie et affirme qu'il y a 1 chance sur 1 milliard de faux positifs.

Apple rassure qu'il n'affecte pas la vie privée des utilisateurs

Quelques heures après l'annonce d'Apple, les critiques sont venues de partout. Apple est accusé de construire une "infrastructure de surveillance de masse". Malgré les assurances d'Apple, les experts en sécurité et les défenseurs de la vie privée ont critiqué le plan. Les critiques sont venues de nombreuses personnes et organisations, notamment de sources sources notables telles qu'Edward Snowden et l'Electronic Frontier Foundation, et portent principalement sur la technologie de scannage des photos iCloud pour les comparer à une base de données de matériel pédopornographique (CSAM) et sur les implications potentielles d'une telle fonctionnalité.


Dans un mémo interne distribué aux équipes qui ont travaillé sur ce projet et obtenu par 9to5Mac, Apple reconnaît les "malentendus" autour des fonctionnalités, mais redouble d'efforts pour affirmer que ces fonctionnalités font partie d'une "mission importante" pour assurer la sécurité des enfants. Le document, qui a également été dévoilé le même jour que les nouvelles fonctionnalités, a été rédigé par Sébastien Marineau-Mes, un VP logiciel chez Apple. Marineau-Mes affirme qu'Apple continuera à "expliquer et à détailler les fonctionnalités" incluses dans cette suite de protections étendues pour les enfants. Voici le mémo dans son intégralité :

« Aujourd'hui marque le dévoilement public officiel des protections élargies pour les enfants, et je voulais prendre un moment pour remercier chacun d'entre vous pour votre travail acharné au cours des dernières années. Nous n'aurions pas atteint cette étape importante sans votre dévouement inlassable et votre résilience. Assurer la sécurité des enfants est une mission tellement importante. À la manière d'Apple, la poursuite de cet objectif a nécessité un engagement transversal profond, englobant l'ingénierie, l'administration générale, l'informatique, les services juridiques, le marketing produit et les relations publiques.

Ce que nous avons annoncé aujourd'hui est le fruit de cette collaboration, un produit qui fournit des outils pour protéger les enfants, tout en respectant l'engagement profond d'Apple envers la vie privée des utilisateurs. Nous avons vu beaucoup de réactions positives aujourd'hui. Nous savons que certaines personnes ont des malentendus et que plus d'une s'inquiète des implications, mais nous continuerons à expliquer et à détailler les fonctionnalités pour que les gens comprennent ce que nous avons construit.

Et alors qu'il reste beaucoup de travail à accomplir pour mettre en œuvre les fonctionnalités dans les prochains mois, je voulais partager cette note que nous avons reçue aujourd'hui du NCMEC. Je l'ai trouvé incroyablement motivant, et j'espère que vous le serez aussi. Je suis fier de travailler chez Apple avec une équipe aussi formidable. Merci à tous ! ».

Le mémo comprend aussi un message du National Center for Missing and Exploited Children, signé par Marita Rodriguez, directrice exécutive des partenariats stratégiques. Apple travaille en étroite collaboration avec le NCMEC sur les nouvelles fonctionnalités de numérisation d'iCloud. Voici le texte intégral de la note du NCMEC envoyée à l'équipe d'Apple travaillant sur ces fonctionnalités :

« Équipe Apple, je voulais partager un mot d'encouragement pour dire que tout le monde à NCMEC est TELLEMENT FIER de chacun d'entre vous et des décisions incroyables que vous avez prises au nom de la priorité accordée à la protection des enfants. Il a été revigorant pour toute notre équipe de voir (et de jouer un petit rôle dans) ce que vous avez dévoilé aujourd'hui. Je sais que la journée a été longue et que beaucoup d'entre vous n'ont probablement pas dormi depuis 24 heures. Nous savons que les jours à venir seront remplis des voix criardes de la minorité. Nos voix seront plus fortes.

Notre engagement à soutenir les enfants qui ont vécu les abus et les victimisations les plus inimaginables sera plus fort. Pendant ces longues journées et ces nuits sans sommeil, j'espère que vous trouverez du réconfort dans le fait que, grâce à vous, des milliers d'enfants victimes d'exploitation sexuelle seront sauvés et auront une chance de guérir et de vivre l'enfance qu'ils méritent. Merci d'avoir trouvé la voie à suivre pour protéger les enfants tout en préservant leur vie privée ! ».

La technologie d'Apple pour l'analyse des images

Le résumé technique d'Apple sur la détection de CSAM comprend quelques promesses de confidentialité dans l'introduction. « Apple n'apprend rien sur les images qui ne correspondent pas à la base de données de CSAM connus. Apple ne peut pas accéder aux métadonnées ou aux dérivés visuels des images de CSAM correspondantes jusqu'à ce qu'un seuil de correspondances soit dépassé pour un compte iCloud Photos », est-il indiqué. La technologie de hachage d'Apple est appelée NeuralHash, et elle analyse une image et la convertit en un numéro unique spécifique à cette image.


Selon Apple, seule une autre image qui semble presque identique peut produire le même nombre. La société explique, par exemple, que des images qui diffèrent en taille ou en qualité de transcodage auront toujours la même...