Pendant le WEF 2023, le PDG de The Atlantic, Nicholas Thompson, a présidé une session intitulée « Prêt pour la transparence du cerveau ? ». La session s'est ouverte sur une vidéo d'inspiration montrant un scénario dans lequel les ondes cérébrales des employés étaient surveillées et décodées. En plus d'utiliser les informations recueillies pour évaluer les performances des employés, les ondes cérébrales étaient décodées pour déterminer si des personnes avaient participé à des activités criminelles. Ensuite, Nita Farahany, de l'université Duke, spécialiste des implications éthiques et juridiques des technologies émergentes, a expliqué à l'auditoire que des méthodes de décodage des ondes cérébrales existent déjà. Certaines technologies, a-t-elle dit, permettent déjà aux organisations et aux gouvernements puissants de « capter et de décoder les visages que vous voyez dans votre esprit, des formes simples, des chiffres, le code PIN de votre compte bancaire ».
« Vous serez peut-être surpris d'apprendre que l'avenir est déjà là. L'intelligence artificielle a permis des avancées dans le décodage de l'activité cérébrale d'une manière que nous n'aurions jamais cru possible. Ce que vous pensez, ce que vous ressentez, ce ne sont que des données, des données qui, dans de grands schémas, peuvent être décodées grâce à l'intelligence artificielle », a déclaré Mme Farahany lors de son intervention.
Contrairement à la croyance populaire, les dispositifs utilisés pour décoder ces « données » ne sont pas nécessairement aussi invasifs que les implants neuronaux d'Elon Musk. Cette technologie existe déjà sous la forme de dispositifs tels que le Fitbit. En fait, Farahany a qualifié de « Fitbit pour votre cerveau » ce qui est à l'ordre du jour du piratage du cerveau humain. « Nous ne parlons pas des dispositifs implantés du futur ; je parle de dispositifs portables qui sont comme des Fitbits pour votre cerveau. Ce sont des bandeaux, des chapeaux qui ont des capteurs qui peuvent capter l'activité de vos ondes cérébrales, des oreillettes, des écouteurs, de minuscules tatouages que vous pouvez porter derrière votre oreille, nous pouvons capter des états émotionnels, comme si vous êtes heureux ou triste ou en colère », a-t-elle expliqué.
"Surveillance of the human brain [...] has a dystopian possibility of being used to exploit & bring to the surface our most secret self. It threatens fundamentally what our own self-identity is in some ways & threatens to become a tool of oppression": Nita Farahany, #WEF23 pic.twitter.com/1F7hNZt6kF
— Tim Hinchliffe (@TimHinchliffe) January 19, 2023
Grâce à des dispositifs portables, les capteurs peuvent capter les signaux et utiliser des dispositifs alimentés par l'intelligence artificielle pour décoder tout ce qui concerne les états émotionnels, les niveaux de concentration, les formes simples et même vos réponses préconscientes aux chiffres (par exemple, une invitation à voler le code PIN de votre carte bancaire à votre insu). Dans un scénario dystopique, mais très réel, un employeur peut utiliser l'IA pour surveiller un employé, s'il porte le bon appareil, et voir si son esprit vagabonde ou s'il est concentré sur une activité principale ou non. « Lorsque vous combinez l'activité des ondes cérébrales avec d'autres formes de technologie de surveillance… La puissance devient assez précise », a déclaré Farahany.
Your thoughts are not your own. With smart headbands, hats, ear buds, tattoos:
— Tim Hinchliffe (@TimHinchliffe) January 19, 2023
"We can pick up emotional states like are you happy or sad or angry. We can pick up & decode faces that you're seeing in your mind. Your PIN number to your bank account": Nita Farahany #wef23 pic.twitter.com/3DUNnPoUNg
Farahany en a profité pour appeler à une promesse de libertés cognitives : des choses telles que la liberté de pensée et l'intimité mentale. Selon elle, cette technologie a le pouvoir de faire le bien lorsqu'une personne choisit de l'utiliser pour mieux comprendre sa propre santé mentale ou son bien-être. L'activité des ondes cérébrales pourrait même aider à signaler de futurs problèmes médicaux. Et comme de plus en plus de personnes suivent leurs ondes cérébrales, les ensembles de données s'élargissent, ce qui permet aux entreprises de glaner davantage d'informations à partir des mêmes données.
La surveillance du cerveau humain peut être puissante, utile, utile, transformer le lieu de travail et rendre nos vies meilleures. Elle a aussi la possibilité dystopique d'être utilisée pour exploiter et faire remonter à la surface notre moi le plus secret. « Dans un avenir proche, et je veux dire à court terme, ces appareils deviendront le moyen commun d'interagir avec tous les autres appareils. C'est un avenir passionnant et prometteur, mais aussi un avenir effrayant », poursuit-elle.
Ses déclarations font écho à celles de son collègue Yuval Noah Harari, qui affirme depuis des années lors des réunions annuelles du WEF que « nous ne sommes plus des âmes mystérieuses », mais plutôt des « animaux piratables » à exploiter pour le travail et le profit. « Pour pirater les êtres humains, vous avez besoin de beaucoup de connaissances biologiques, de beaucoup de puissance de calcul, et surtout de beaucoup de données… Si vous avez suffisamment de données sur moi et suffisamment de puissance de calcul et de connaissances biologiques, vous pouvez pirater mon corps, mon cerveau, ma vie. Vous pouvez atteindre un point où vous me connaissez mieux que je ne me connais moi-même », a déclaré Harari par le passé.
Comme Farahany, Harari envisage un avenir dans lequel tous ses sujets humains sont contraints de porter un bracelet biométrique, qui surveille constamment votre activité cérébrale 24 heures sur 24. « Vous écoutez un discours à la radio par le 'Grand Leader', et ils savent ce que vous ressentez réellement - vous pouvez applaudir et sourire, mais si vous êtes en colère, ils le savent et vous serez au goulag demain matin ». Nous vivons l'âge d'or de la guerre de l'information. Mais cet âge d'or, axé sur le contrôle des médias, est en train d'évoluer. La guerre cognitive ne se concentre plus uniquement sur le contrôle des médias mais sur le contrôle explicite du cerveau. La guerre cognitive cherche à armer les ressources neurologiques ainsi que les techniques de communication de masse. Alors que la guerre de l'information se concentre presque entièrement sur l'entrée d'informations, la guerre cognitive se concentre à la fois sur l'entrée et la sortie : c'est-à-dire nos comportements.
Source : WEF
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi :
La fusion entre la technologie et le biologique aura-t-elle vraiment lieu ? Oui, estime le professeur Yuval Noah Harari
La sécurité passe-t-elle avant la liberté ? Comment les gouvernements introduisent la surveillance, sous le voile de la lutte contre le coronavirus
Brad Smith de Microsoft prévoit que l'IA sera aussi transformatrice pour la société que le moteur à combustion au cours des 3 prochaines décennies, l'IA peut aussi devenir une arme, selon lui
Des chercheurs chinois auraient construit un modèle d'IA de 100 000 milliards de paramètres, soit autant de paramètres que le cerveau humain, il serait 571 fois plus puissant que GPT-3