Le lanceur d'alerte Edward Snowden et l'EFF critiquent le projet d'Apple de scanner les messages et les images iCloud,

Des milliers de personnes demandent à l'entreprise de suspendre ses plans

La communauté est en pleine effervescence depuis le 5 août dernier où Apple a annoncé son intention de déployer des fonctionnalités sur les iPhone qui lui permettraient d'analyser la galerie iCloud des utilisateurs en la comparant à une base de données de matériel pédopornographique (CSAM) afin de trouver des correspondances et de rechercher des contenus explicites dans les messages d'enfants. L'EFF, Edward Snowden, des experts en sécurité et confidentialité, des cryptographes, des chercheurs, des professeurs, des juristes et des consommateurs dénoncent ces agissements et demandent à Apple de suspendre immédiatement ses plans.

Edward Snowden et l'EFF s'insurgent contre la décision d'Apple

Le 5 août 2021, Apple a annoncé de nouvelles mesures destinées à s'appliquer à la quasi-totalité de ses appareils sous le nom de "Protection étendue des enfants". Selon la firme de Cupertino, les nouvelles fonctionnalités seront déployées dans le cadre d'iOS 15, dont la sortie est prévue le mois de septembre. « Cette nouvelle technologie innovante permet à Apple de fournir des informations précieuses et exploitables au National Center for Missing and Exploited Children et aussi aux forces de l'ordre concernant la prolifération de CSAM [child sexual abuse material] connus », a-t-elle déclaré, ajoutant que la technologie porte le nom de neuralMatch.


La technologie proposée par l'entreprise fonctionne en surveillant en permanence les photos enregistrées ou partagées sur l'iPhone, l'iPad ou le Mac de l'utilisateur. Un système détecte si un certain nombre de photos répréhensibles sont détectées dans le stockage iCloud et alerte les autorités. Un autre avertit les parents d'un enfant si iMessage est utilisé pour envoyer ou recevoir des photos qu'un algorithme d'apprentissage automatique considère comme contenant de la nudité. L'annonce d'Apple a rapidement déclenché un tollé de critiques négatives dans l'industrie dénonçant le dangereux précédent que la société tente de créer.

Dans une série de tweets vendredi, le défenseur de la vie privée et lanceur d'alerte Edward Snowden s'est inquiété du fait qu'Apple déploie une forme de "surveillance de masse dans le monde entier" et crée un précédent qui pourrait permettre à l'entreprise de rechercher tout autre contenu arbitraire à l'avenir. Snowden a également noté qu'Apple a historiquement été un leader de l'industrie en matière de confidentialité numérique, et a même refusé de déverrouiller un iPhone appartenant à Syed Farook, l'un des tireurs des attaques de décembre 2015 à San Bernardino, en Californie, malgré l'ordre du FBI et d'un juge fédéral de le faire.

Apple s'est opposé à cette ordonnance, soulignant qu'il créerait un "dangereux précédent". Selon Snowden et d'autres experts et organisations, si l'entreprise déploie cette technologie le mois prochain, elle signera ainsi la défaite de l'industrie contre les gouvernements sur la question du chiffrement de bout en bout. Ces derniers pourraient ensuite faire pression ou exiger des autres entreprises qu'elles déploient également une telle technologie dans leurs produits. L'EFF (Electronic Frontier Foundation), un groupe international à but non lucratif de défense des droits numériques, a condamné la décision d'Apple.

Dans un billet de blogue sur son site Web, l'EFF a déclaré qu'il était extrêmement "déçu qu'un champion du chiffrement de bout en bout" entreprenne une volte-face choquante pour les utilisateurs qui ont compté sur le leadership de l'entreprise en matière de confidentialité et de sécurité. « L'exploitation des enfants est un problème grave, et Apple n'est pas la première entreprise technologique à modifier sa position en matière de protection de la vie privée pour tenter de le combattre. Mais ce choix aura un prix élevé pour la vie privée globale des utilisateurs », a déclaré l'EFF, ajoutant qu'une porte dérobée ne pourrait en aucun cas être sécurisée.

« Apple peut expliquer en détail comment son implémentation technique continuera à préserver la vie privée et la sécurité de la porte dérobée qu'elle propose, mais au bout du compte, même une porte dérobée bien documentée, soigneusement pensée et de portée limitée reste une porte dérobée. Il est impossible de construire un système d'analyse côté client qui ne puisse être utilisé que pour les images sexuellement explicites envoyées ou reçues par des enfants. Ainsi, même un effort bien intentionné pour construire un tel système brisera les promesses clés du chiffrement de la messagerie elle-même et ouvrira la porte à des abus plus larges ».

« Pour élargir l'étroite porte dérobée qu'Apple est en train de construire, il suffirait d'étendre les paramètres d'apprentissage automatique afin de rechercher d'autres types de contenu, ou de modifier les drapeaux de configuration pour analyser non seulement les comptes des enfants, mais aussi ceux de n'importe qui. Ce n'est pas une pente glissante ; c'est un système entièrement construit qui n'attend qu'une pression extérieure pour effectuer le moindre changement », a expliqué en détail l'EFF.

Dans une lettre ouverte à l'attention du fabricant de l'iPhone, l'EFF, des experts en sécurité et confidentialité, des cryptographes, des chercheurs, des professeurs, des juristes et plus de 5 000 personnes et organisations ont appelé l'entreprise à faire marche arrière afin de préserver les acquis en matière de confidentialité et de chiffrement. Selon eux, bien que l'exploitation des enfants soit un problème grave et que les efforts déployés pour le combattre soient presque incontestablement bien intentionnés, la proposition d'Apple introduit une porte dérobée qui menace de saper les protections fondamentales de la vie privée pour tous les utilisateurs de produits Apple.

Une pétition demande à Apple de renoncer à cette porte dérobée

Les experts estiment en effet que comme ces deux vérifications sont effectuées sur l'appareil de l'utilisateur, elles peuvent contourner tout chiffrement de bout en bout ayant pour but de protéger la vie privée de l'utilisateur. L'EFF a également souligné que divers gouvernements dans le monde ont déjà adopté des lois qui exigent la surveillance et la censure du contenu sur diverses plateformes, y compris les applications de messagerie, et que la décision d'Apple de scanner les messages et les photos iCloud pourrait être légalement exigée pour englober des matériaux supplémentaires.


« Ne vous y trompez pas : il s'agit d'une diminution de la vie privée pour tous les utilisateurs de iCloud Photos, et non d'une amélioration », a averti l'EFF. Outre l'EFF, le Center for Democracy and Technology (CDT), une organisation à but non lucratif basée à Washington dont la mission est de renforcer les droits et libertés individuels, a déclaré qu'il était "profondément préoccupé par le fait que les changements apportés par le fabricant de l'iPhone créent en fait de nouveaux risques pour les enfants et tous les utilisateurs, et marquent un écart important par rapport aux protocoles de confidentialité et de sécurité établis de longue date".

« Apple fait le choix de remplacer son système de messagerie chiffré de bout en bout, conforme aux normes de l'industrie, par une infrastructure de surveillance et de censure, qui sera vulnérable aux abus et à la dérive, non seulement aux États-Unis, mais dans le monde entier », a averti Greg Nojeim du CDT. « Apple devrait abandonner ces changements et restaurer la confiance de ses utilisateurs dans la sécurité et l'intégrité de leurs données sur les appareils et services Apple », a-t-il ajouté. D'autres experts pensent plutôt qu'Apple conduit l'industrie technologique vers un avenir dystopique.

« Nous nous dirigions petit à petit vers un avenir où de moins en moins d'informations devaient être contrôlées et examinées par quelqu'un d'autre que nous-mêmes. Pour la première fois depuis les années 1990, nous récupérions notre vie privée. Aujourd'hui, nous sommes sur une voie différente. La pression va venir du Royaume-Uni, des États-Unis, de l'Inde, de la Chine. Je suis terrifié à l'idée de ce à quoi cela va ressembler. Pourquoi Apple voudrait-elle dire au monde : "Hé, nous avons cet outil ?" », a déclaré Matthew D. Green, un spécialiste de la recherche sur la sécurité et la vie privée et professeur à l'université Johns Hopkins.

Par ailleurs, l'EFF insiste sur le fait qu'il a déjà vu cette dérive en action : « L'une des technologies conçues à l'origine pour scanner et hacher les images d'abus sexuels d'enfants a été réaffectée à la création d'une base de données de contenus "terroristes" à laquelle les entreprises peuvent contribuer et accéder dans le but d'interdire ces contenus. Cette base de données, gérée par le Global Internet Forum to Counter Terrorism (GIFCT), ne fait l'objet d'aucune surveillance externe, malgré les appels de la société civile ». Des défauts de conception fondamentaux dans l'approche proposée par Apple ont également été soulignés par des experts.

Voici leur explication : « Apple peut trivialement utiliser différents ensembles de données d'empreintes médiatiques pour chaque utilisateur. Pour un utilisateur, il pourrait s'agir d'abus d'enfants, pour un autre, d'une catégorie beaucoup plus large, permettant ainsi un suivi sélectif du contenu pour des utilisateurs ciblés. La technologie qu'Apple propose pour ses mesures de protection des enfants dépend d'une infrastructure extensible qui ne peut pas être surveillée ou limitée techniquement ». Les experts ont averti à plusieurs reprises que le problème n'est pas seulement la protection de la vie privée, mais d'autres facteurs entrent également en jeu.

Les experts redoutent le manque de responsabilité, les obstacles techniques à l'expansion et le manque d'analyse ou même la reconnaissance du potentiel d'erreurs et de faux positifs. Kendra Albert, avocate à la Clinique du droit du cyberespace de la faculté de droit de Harvard, estime que "ces fonctions de protection de l'enfance vont conduire les enfants homosexuels à être chassés de chez eux, à être battus ou pire encore". « Je sais juste que ces algorithmes d'apprentissage automatique vont signaler les photos de transition. Bonne chance pour envoyer à vos amis une photo de vous si vous avez des tétons de présentation féminine », a-t-elle déclaré.

À l'heure actuelle, plus de 5 544 personnes et organisations (Gigahost, GNU, l'EFF, knowledgeatwork UG, Latency: Zero, LLC, MacDailyNews, etc.) ont déjà signé la pétition. Les signataires ont adressé un certain nombre de requêtes à Apple, dont l'arrêt immédiat de la mise en œuvre de sa technologie de surveillance. « Nous, les soussignés, demandons que :

• le déploiement par Apple de sa proposition de technologie de surveillance du contenu soit arrêté immédiatement ;
• Apple publie une déclaration réaffirmant son engagement envers le chiffrement de bout en bout et la vie privée des utilisateurs ;
• la démarche actuelle d'Apple menace de saper des décennies de travail effectué par des technologues, des universitaires et des défenseurs de la politique en faveur de mesures strictes de préservation de la vie privée qui deviendraient la norme pour la majorité des appareils électroniques grand public et des cas d'utilisation. Nous demandons à Apple de reconsidérer le déploiement de sa technologie, de peur qu'elle ne défasse ce travail important ».

Sources : appleprivacyletter.com, Electronic Frontier Foundation, Center for Democracy and Technology

Et vous ?

Quel est votre avis sur le sujet ?
Pensez-vous qu'Apple va renoncer à ses plants à la suite à ces réactions ?
Même si Apple y renonce publiquement, pensez-vous qu'il pourrait mettre en place neuralMatch discrètement ?

Voir aussi

Apple envisage un système de détection d'images d'abus d'enfants dans la galerie de photos des utilisateurs, mais les chercheurs en sécurité craignent une surveillance de masse des iPhone

Snowden avertit que les États utilisent le coronavirus pour construire « l'architecture de l'oppression » et prédit que les mesures prises pour lutter contre le COVID-19 vont persister longtemps

Apple transmet des données personnelles à la Chine et supprime les applications jugées « offensantes » par le gouvernement

Pourquoi la société Apple refuse-t-elle d'aider le FBI à débloquer l'iPhone en sa possession ? L'entreprise évoque quelques raisons dans une requête d'annulation