Dans The Tech Coup, Marietje Schaake, ancienne parlementaire européenne et Fellow au Stanford Institute for Human-Centered AI, souligne l'influence grandissante des entreprises technologiques sur la démocratie. Elle critique le pouvoir démesuré de ces entreprises, qui prennent en charge des fonctions gouvernementales cruciales et menacent l'État de droit. À travers son expérience, elle illustre comment des entreprises comme NSO Group empiètent sur les prérogatives des gouvernements en matière de renseignement. Elle appelle à une sensibilisation et à des réformes pour rétablir la responsabilité et la transparence, en préconisant l'intégration d'experts technologiques dans le processus législatif.Cependant, bien que cette analyse soit pertinente, elle peut paraître insuffisante face à l'ampleur des enjeux. L'absence d'actions concrètes et la volonté politique pour appliquer ses recommandations soulèvent des interrogations sur la capacité des gouvernements à contrer cette dérive technologique. La mobilisation citoyenne est cruciale, mais elle est souvent freinée par un sentiment de désillusion vis-à-vis des institutions, ce qui pourrait rendre difficile la mise en œuvre des solutions proposées par Schaake.
Pegasus et la montée en puissance des entreprises technologiques dans la surveillance globale
Dans le secteur technologique, les entreprises exercent de plus en plus d'influence, dépassant souvent celle des gouvernements. Des sociétés comme NSO Group Technologies, avec son logiciel espion Pegasus, offrent à ceux qui en ont les moyens des outils de renseignement puissants, permettant d'infiltrer et de compromettre les données personnelles de figures politiques, de journalistes, de juges et d'autres cibles.
En 2021, les services de renseignement français ont confirmé que le logiciel Pegasus avait été détecté sur les téléphones de journalistes. Parallèlement, les attaques visant les responsables politiques européens se sont multipliées.
Un rapport de 2022 du CitizenLab de l’Université de Toronto, en collaboration avec des groupes indépendantistes catalans, a révélé que plus de 65 personnes, dont des parlementaires européens tels que Diana Riba, Antoni Comín et Jordi Solé, avaient été ciblées ou infectées par Pegasus ou Candiru. La présidente du Parlement européen, Roberta Metsola, aurait également été victime d'une cyberattaque. Des membres de la Commission européenne ont également été visés par ces programmes d'espionnage.
Plus récemment, en juillet 2024, Daniel Freund, député européen allemand, a été la cible d'une tentative d'espionnage via le cheval de Troie Candiru. Dans un message sur X (anciennement Twitter), il a expliqué qu'un e-mail malveillant avait été envoyé le 27 mai, incitant à cliquer sur un lien. Heureusement, il n'a pas ouvert le lien, empêchant ainsi l'infection de son téléphone. Des experts en cybersécurité ont confirmé que le logiciel « Candiru » avait probablement été utilisé pour cette attaque.
Freund a également détaillé cet incident dans une interview. Il a expliqué qu'un e-mail contenant un lien suspect avait été envoyé deux semaines avant les élections européennes par un étudiant de l’Université internationale de Kiev, organisant un séminaire sur les chances d'adhésion de l'Ukraine à l'UE. Bien que l’étudiante mentionnée dans l’e-mail portait le même nom qu’une universitaire de Kiev, celle-ci a nié être l’expéditrice du message, se disant choquée et affirmant : « Cet e-mail n'est absolument pas de moi. »
Freund n'est pas le seul parlementaire européen ciblé par des logiciels espions récemment. En février 2024, il a été révélé que des programmes espions avaient été détectés sur les appareils des parlementaires Nathalie Loiseau et Elena Yoncheva, toutes deux membres de la sous-commission de sécurité, ainsi que sur ceux d'un fonctionnaire du Parlement.
La police américaine est devenue l'un des principaux clients des entreprises de la Silicon Valley spécialisées dans les technologies de surveillance. Des rapports révèlent que les forces de l'ordre américaines déploient de plus en plus des outils d'espionnage, tels que des drones de surveillance. Une étude récente de la Northwestern Pritzker School of Law estime qu'environ un quart des services de police utilisent aujourd'hui ces technologies. Les entreprises technologiques qui développent ces dispositifs sont financées par de grandes sociétés de capital-risque internationales. Cette tendance a suscité des préoccupations parmi les experts, qui avertissent de l'augmentation de la surveillance gouvernementale.
La vente de technologies de surveillance à l'État prend une ampleur croissante parmi les entreprises et startups de la Silicon Valley, qui fournissent des équipements de renseignement et de surveillance aux forces armées et à la police. Selon des analystes et des groupes de défense des droits humains, cela renforce le contrôle exercé par l'État et le gouvernement fédéral sur les citoyens. Ces technologies comprennent des drones de surveillance équipés d’intelligence artificielle, des robots autonomes de patrouille, des programmes de reconnaissance faciale, et bien d'autres encore. En conséquence, l'armée et la police américaines sont devenues des clients majeurs des entreprises technologiques de la région.
Certains analystes trouvent paradoxal que la Silicon Valley, autrefois symbole de liberté et d’innovation, aide désormais les forces de l'ordre à surveiller les citoyens. Bien que des figures emblématiques de la technologie aient défendu des valeurs libertaires, en particulier durant les premiers jours de l'Internet, cette collaboration avec l'État semble en contradiction avec ces principes. Alors que la Silicon Valley fournissait des puces pour l'industrie militaire américaine dès les années 1950, ses relations avec le gouvernement se sont détériorées au fil des années, lorsque l'attention des entreprises s’est déplacée vers le commerce électronique et les nouvelles technologies grand public. Pourtant, cette dynamique semble avoir changé.
Des entreprises comme NSO et Clearview, avec son logiciel de reconnaissance faciale, ou encore celles qui développent des technologies électorales, participent à cette évolution. Même des figures comme Elon Musk, qui contrôle l’accès à Internet via Starlink en Ukraine, illustrent cette concentration de pouvoir dans les mains d'acteurs privés. Autrefois des prérogatives de l'État, ces pouvoirs sont désormais exercés sans les garde-fous nécessaires dans une société fondée sur l’État de droit. Face à cette menace croissante, l’Union européenne envisage de renforcer ses recommandations pour limiter l’usage de ces technologies de surveillance.
Le principe de précaution : un levier pour encadrer l’innovation technologique
Dans son ouvrage, Marietje Schaake met en lumière une autre problématique : la consommation énergétique des entreprises technologiques dans les communautés où elles s’installent. Elle souligne que le public doit être mieux informé pour mieux superviser les centres de données qui soutiennent nos vies numériques. Actuellement, il n’existe pas de normes ou d’obligations d’information qui contraignent les entreprises à révéler leur consommation d’énergie ou d’eau, qu'elle soit réelle ou prévue. Nous avons accès à des estimations isolées, mais nous manquons d’une vue d’ensemble sur la consommation énergétique totale des centres de données.
Souvent, les grandes entreprises technologiques qui souhaitent établir des centres de données le font sous un nom d’emprunt, dissimulant ainsi leur identité, qu’il s’agisse d’Amazon, de Google ou de Microsoft. Les avocats et consultants engagés pour présenter ces projets peignent généralement un tableau très positif des avantages économiques pour les communautés, tout en minimisant des informations cruciales concernant leur identité et les besoins énergétiques des centres de données. Cette absence totale de transparence sur l’utilisation de ressources rares nuit à une bonne gouvernance.
Aux Pays-Bas, cette problématique a engendré de réelles difficultés. Des conseillers municipaux à temps partiel se retrouvaient à devoir autoriser ou non des centres de données d’envergure sur leur territoire, face à des entreprises milliardaires entourées de juristes, comptables et spécialistes en relations publiques. L’asymétrie de pouvoir était énorme, et je crois qu’en instituant des normes de transparence et des exigences de rapport, notamment sur l’identité des promoteurs de projets et leur consommation d’énergie, le débat public sur la capacité des communautés à accueillir ces centres pourrait devenir plus équilibré.
Cette transparence accrue ne répond pas à la question de savoir si la société désire davantage de centres de données consommant des ressources énergétiques limitées dans un contexte de changement climatique. Toutefois, nous ne pouvons pas évaluer cette question de coût-bénéfice sans connaître les coûts, alors que nous sommes bombardés de promesses de bénéfices dans des présentations peu claires.
Un autre enjeu majeur, notamment aux États-Unis, est la capacité des réseaux électriques. Dans des pays comme les Pays-Bas, qui est une économie avancée, tout comme les États-Unis et le Royaume-Uni, des rapports indiquent que les réseaux fonctionnent à des niveaux critiques, voire d'urgence. Ils sont poussés à leurs limites, ce qui entraîne des pannes de plus en plus fréquentes. Malgré cela, de nombreux centres de données continuent d’être construits, décision prise il y a plusieurs années. À leur mise en service dans deux ou trois ans, nous pourrions faire face à une série de catastrophes.
Fondamentalement, le principe de précaution requiert une pause pour évaluer l’impact sociétal d’une innovation avant son déploiement à grande échelle. Bien qu'il soit inscrit dans la législation européenne, il n’a pas été appliqué par les autorités à des innovations comme l’IA, en raison de la pression forte en faveur de son utilisation et de l’adoption récente d'une loi distincte sur l'IA par l'UE. Cela dit, ce principe peut être utile pour aborder des situations où même les ingénieurs sont surpris par le comportement des modèles d'IA, ou lorsque la société, les législateurs et les citoyens ne sont pas conscients des impacts d'une innovation. Nous souhaitons donc établir des processus qui répondent réellement aux besoins du public en utilisant le principe de précaution pour évaluer et rechercher avant que des problèmes évitables ne se propagent trop largement.
Rétablir la confiance dans le débat technologique grâce à l'engagement essentiel des citoyens
L'analyse de Marietje Schaake sur l'emprise des entreprises technologiques sur la démocratie soulève des questions cruciales, mais elle peut également paraître insuffisante face à la complexité du problème. D'une part, Schaake met en lumière des points importants concernant la perte de confiance du public envers les institutions, exacerbée par la désinformation en ligne. Ce phénomène, en effet, nuit à la confiance interpersonnelle et remet en cause les fondements mêmes de la démocratie.
Cependant, alors qu'elle appelle à des réformes et à une plus grande transparence, il est nécessaire de se demander si ces solutions sont réellement suffisantes. Les mécanismes de régulation et de responsabilité qu'elle propose pourraient être confrontés à des obstacles politiques et culturels majeurs. La difficulté à instaurer une réglementation efficace dans un paysage numérique en constante évolution pose un défi de taille. De plus, la perte de confiance ne peut pas être résolue uniquement par des mesures techniques ou législatives ; elle nécessite également un changement dans la manière dont les citoyens s'engagent et interagissent en ligne.
Une autre réflexion à considérer est la nécessité d'un dialogue inclusif. Les internautes, qui subissent directement les conséquences de ces dynamiques, doivent être activement impliqués dans la recherche de solutions. Leur expérience et leurs perspectives peuvent offrir des pistes innovantes pour rétablir la confiance, que ce soit à travers des initiatives communautaires, des campagnes de sensibilisation ou des efforts éducatifs sur la vérification des faits.
L'analyse de Schaake, bien que pertinente, nécessite une approche plus holistique qui intègre la voix des citoyens et s'attaque non seulement aux symptômes de la crise de confiance, mais aussi à ses causes profondes. La voie à suivre doit être collaborative et viser à renforcer non seulement la réglementation, mais aussi la résilience démocratique des individus face à la désinformation et à la manipulation.
Source : Princeton University Press
Et vous ?
Les Américains ont-ils été lents à reconnaître la menace que représentent les entreprises technologiques pour la démocratie ? Pourriez-vous expliquer comment le principe de précaution, déjà intégré dans la législation européenne, pourrait aider à restreindre le pouvoir des entreprises technologiques, notamment dans le domaine de l'IA ? Voir aussi :
Les services de renseignement français confirment que le logiciel espion Pegasus a été trouvé sur les téléphones de journalistes français, appuyant ainsi les conclusions du projet Pegasus Un membre du Parlement européen victime du logiciel espion israélien Candiru, le député européen Daniel Freund a été la cible d'une tentative d'espionnage à l'aide du cheval de Troie Candiru Les startups technologiques vendent à l'armée et à la police des dispositifs avancés de surveillance et d'espionnage, malgré les risques d'utilisation abusive et de violation de la vie privée