Quelles seront les avancées technologiques les plus dangereuses à l'avenir ? L'IA figure parmi les réponses les plus courantes

Ainsi que les deepfakes et les essaims de drones

Qu'est-ce qui pourrait mal tourner avec la technologie à l'avenir ? Le monde franchit sans cesse de nouvelles frontières grâce aux avancées technologiques et profite des avantages et des effets positifs qu'elles peuvent avoir sur notre façon de travailler, de nous divertir et de vivre. Mais il est aussi important de se préparer à d'éventuels effets négatifs et de garder à l'esprit que la technologie peut être détournée de son but initial pour une mauvaise utilisation avec des conséquences catastrophiques pour l'humanité. La question est de savoir quelles technologies pourraient s'avérer les plus dangereuses dans le futur. Voici les réponses recueillies sur la toile.

La singularité de l'IA

Alors, une IA superpuissante va-t-elle décider de transformer les humains en trombones ? Certaines personnes pensent que l'IA finira par surpasser l'homme en matière d'intelligence dans un avenir pas si lointain que ça. Dans son livre "Humanité 2.0 (La singularité est proche : quand les humains transcenderont la biologie)" paru en 2005, Ray Kurzweil, directeur de l'ingénierie chez Google et célèbre futurologue, prédit que cela arrivera en 2045 et appelle ce moment "la singularité". Les experts qui y croient prédisent que la technologie pourrait plonger le monde dans un véritable chaos si elle n'est alignée sur les valeurs humaines.


L'un des scénarios dystopiques les plus couramment cités imagine une IA dotée d'une "superintelligence qui échappe au contrôle de l'homme et qui décide de soumettre l'humanité et d'anéantir toute personne qui résistera. « La technologie est bonne lorsque ça nous facilite la vie. Cependant, à trop nous faciliter les choses, la technologie deviendra mauvaise et finira par nous détruire à l'avenir. Plus la technologie est avancée et plus elle est intrusive et nocive pour l'humain. Nous devons réfléchir pour savoir si nous voulons vraiment laisser nos emplois à l'IA ou si nous volons juste qu'elle nous assiste », note un critique.

« Le problème est que lorsque les applications distinctes de l'IA se connecteront, elles pourront collaborer en dehors de tout contrôle humain. Elles penseront plus vite, apprendront plus vite et réagiront plus vite que les êtres humains », affirme un autre critique. Certains pensent que les garde-fous des modèles d'IA pourraient incorporer une boussole morale ou éthique qui limitera le comportement de l'IA. Cependant, si les modèles d'IA deviennent capables de se réparer tout seuls, de corriger eux-mêmes leurs codes et d'accéder à des ressources indépendantes, le monde ne pourra plus compter sur ces garde-fous.

Les essaims de drones

Un développement qui passe presque inaperçu est les essaims de drones. Ces derniers pourraient servir dans plusieurs domaines comme l'agriculture pour récolter des données sur une grande surface. Mais les essaims de drones ont suscité le plus d'intérêt dans le domaine militaire. Inspirés des essaims d'insectes travaillant ensemble, les essaims de drones pourraient révolutionner les conflits futurs, que ce soit en submergeant les capteurs de l'ennemi par leur nombre ou en couvrant efficacement une vaste zone pour des missions de recherche et de sauvetage. Le monde craint également des essaims de drones explosifs.

Bien que la technologie en soit encore au stade de l'expérimentation, l'idée d'un essaim de drones suffisamment intelligent pour coordonner son propre comportement se rapproche de la réalité. Les forces armées britanniques, chinoises, américaines, etc. testent l'utilisation de drones interconnectés et coopératifs dans le cadre d'opérations militaires. Par exemple, en août 2019, il a été rapporté que la DARPA a testé un essaim de 250 drones pour assister l’infanterie en milieu urbain.

Outre les avantages des essaims de drones, qui permettent de minimiser les pertes, au moins pour l'attaque, et d'atteindre plus efficacement un objectif de recherche et de sauvetage, l'idée que des machines équipées d'armes pour tuer soient capables de "penser" par elles-mêmes est une source de cauchemars. Malgré les possibilités négatives, les experts affirment qu'il ne fait guère de doute que la technologie militaire des essaims finira par être déployée dans les conflits futurs.

La surveillance du lieu de travail

Le monde a été confronté à sa plus grande expérience de travail à distance au plus fort de la pandémie de Covid-19. Cela a permis aux entreprises de plusieurs secteurs de survivre aux mesures drastiques de lutte contre le coronavirus telles que la distanciation sociale. Mais cette tendance a également accentué les pratiques de surveillance du lieu de travail des employés. Les dirigeants ont déployé des technologies leur permettant de contrôler la présence de leurs employés devant leurs ordinateurs ou dans leurs bureaux à distance. Selon certains experts, ces technologies ont la capacité de nuire aux employés dans le futur.

Selon Zephyr Teachout, professeure associée de droit à l'université Fordham, à New York, aux États-Unis, la surveillance du lieu de travail privé bouleverse la dynamique de pouvoir déjà terrible entre employeurs et employés en permettant aux employeurs de traiter les employés comme des cobayes, avec de vastes asymétries d'information, en sachant ce qui les motive à travailler de manière malsaine et la façon dont ils peuvent extraire plus de valeur pour moins de salaires. Cela permet aux employeurs d'éliminer les dissidents à l'aide de systèmes d'alerte précoce et de détruire la solidarité par un traitement différencié.

Zephyr Teachout explique : « la recherche sur les jeux d'argent a appris aux casinos à établir des profils de joueurs pour personnaliser les appels afin de pouvoir gagner autant que possible sur les faiblesses de chaque joueur. Cette technologie, qui fait maintenant son entrée sur le marché du travail, est sur le point d'être omniprésente, à moins que nous ne l'arrêtions ».

La reconnaissance faciale

La reconnaissance faciale a des applications utiles, mais elle est régulièrement citée comme l'une des technologies émergentes les plus dangereuses de la planète. Selon ses détracteurs, elle peut être à des fins sinistres et ses avantages ne l'emportent pas sur ses inconvénients. De nombreux rapports indiquent que la Chine utilise la reconnaissance faciale à des fins de surveillance et de profilage racial. Non seulement les caméras chinoises identifient les piétons, mais elles auraient également surveillé et contrôlé les musulmans ouïgours qui vivent dans le pays. Toutefois la Chine n'est pas le seul pays concerné.

Selon les rapports, les caméras russes scrutent les rues à la recherche de "personnes d'intérêt" et Israël utiliserait la technologie de reconnaissance faciale pour suivre les Palestiniens à l'intérieur de la Cisjordanie. Outre le fait qu'elle traque les personnes à leur insu, la reconnaissance faciale est entachée de biais. Lorsqu'un algorithme est entraîné sur un ensemble de données qui n'est pas diversifié, il est moins précis et commet davantage d'erreurs d'identification. Aux États-Unis, de nombreuses personnes ont déjà témoigné qu'elles ont été arrêtées après avoir été identifiées à tort par un logiciel de reconnaissance faciale.

« L'une des craintes est d'ordre existentiel : nos déplacements ne seront plus privés. Quelqu'un pourra toujours savoir où nous sommes et où nous sommes allés. Même si personne n'utilise ces informations à mauvais escient, la perte de la vie privée et de l'anonymat me semble significative. Une autre crainte est celle des abus : le risque d'utilisation abusive de ces informations est réel. Quiconque a accès à ces informations peut certainement les utiliser à des fins malveillantes », a déclaré David Shumway Jones, professeur d'épidémiologie, Université de Harvard.

Il a ajouté : « les harceleurs, qu'il s'agisse d'amants éconduits ou de gouvernements autoritaires, pourraient s'en donner à cœur joie avec leur nouvelle capacité à surveiller où nous allons et qui nous rencontrons, et même à prédire ce que nous pourrions faire ensuite. Et je soupçonne que je n'ai imaginé qu'une petite partie des façons dont ces technologies de surveillance pourraient être détournées ».

Les assistants domestiques

Les assistants domestiques ont désormais acquis une triste réputation : ils sont considérés comme de dangereux outils d'espionnage. Pour que les appareils domestiques "intelligents répondent aux demandes et soient aussi utiles que possible, ils doivent être à l'écoute et suivre des informations sur vous et vos habitudes. Lorsque vous avez ajouté un assistant à votre chambre en tant que radio et réveil, vous avez également permis à un espion d'entrer dans votre maison. Toutes les informations que les assistants domestiques recueillent sur vos habitudes sont envoyées aux fabricants et stockées dans le cloud.


Ces informations comprennent : votre historique de visionnage sur Netflix, votre lieu de résidence et l'itinéraire que vous empruntez pour rentrer chez vous afin que Google puisse vous indiquer comment éviter les embouteillages, l'heure à laquelle vous arrivez généralement à la maison afin que votre thermostat intelligent puisse mettre la pièce familiale à la température que vous préférez, etc. En théorie, les assistants domestiques doivent entendre un "mot de réveil" avant de s'activer, mais dans certains cas, ils peuvent penser que vous avez prononcé le mot de réveil et commencer à écouter ou enregistrer.

Tous les appareils intelligents de votre domicile, y compris les consoles de jeu et les téléviseurs intelligents, peuvent être le point d'entrée d'une utilisation abusive de vos données personnelles. Il existe des stratégies défensives telles que dissimuler les caméras, éteindre les appareils lorsqu'ils ne sont pas utilisés et couper les microphones, mais les études ont démontré qu'aucune d'entre elles n'est infaillible à 100 %.

L'informatique quantique

Les ordinateurs quantiques actuels sont pour la plupart expérimentaux. À terme, ils devraient offrir une puissance de calcul qui, selon les experts, pourrait potentiellement être mille milliards de fois supérieure à celle des superordinateurs dont nous disposons aujourd'hui. Cela peut avoir d'énormes avantages, mais les experts craignent également que l'informatique ouvre la voie à plus de violations et d'escroqueries sur Internet. Les ordinateurs quantiques pourraient permettre aux pirates informatiques de déjouer les systèmes de sécurité traditionnels et de s'introduire dans tous les infrastructures en ligne.

Actuellement, le monde utilise un chiffrement avancé pour protéger nos données personnelles, militaires et commerciales, mais les ordinateurs quantiques pourraient avoir la capacité de percer ce chiffrement. Certains entreprises et gouvernements commencent à prendre cette menace au sérieux et consacrent d'importantes ressources au développement d'algorithmes de chiffrement postquantique qui protégera nos données les plus sensibles.

« L'informatique quantique accélère plutôt les menaces qui pèsent sur la vie privée et l'autonomie depuis l'ère des supercalculateurs. Je crains que l'informatique quantique ne contribue à l'avènement d'un monde dans lequel tous les gouvernements et toutes les entreprises seront des Sherlock Holmes, devinant tous nos secrets sur la base d'informations que nous ne pensons même pas à cacher », a déclaré Ryan Calo, professeur de droit à l'université de Washington.

Les véhicules autonomes

Le nombre de véhicules dotés de capacités de conduite autonome a considérablement augmenté ces dernières années. Cependant, selon de nombreux experts, les véhicules autonomes et semi-autonomes manquent de sécurité. La cybersécurité des voitures autonomes et semi-autonomes est une affaire sérieuse. Les vulnérabilités dans les systèmes de sécurité des voitures pourraient non seulement coûter vos informations personnelles, mais aussi mettre en danger votre sécurité physique. Un piratage à grande échelle de ces véhicules pourrait provoquer un véritable chaos, voire la mort de nombreuses personnes.

Ces véhicules étant connectés à Internet presque en permanence, ils envoient un flux de relevés métriques et de données provenant des capteurs de la voiture à un environnement centralisé dans le cloud pour qu'ils soient analysés. Malgré tous les efforts des fabricants, aucun système, en ligne ou hors ligne, n'est totalement sécurisé. Les nombreux piratages de données qui ont paralysé de grandes entreprises mondiales en témoignent.

La possibilité d'imprimer n'importe quoi

L'impression 3D n'est pas une technologie nouvelle, mais elle se perfectionne d'année en année. Elle permet de créer pratiquement n'importe quel objet en 3D, mais selon certains experts, cette capacité peut également être utilisée de manière préjudiciable. Les imprimantes 3D devenant de plus en plus abordables et omniprésentes, il sera plus difficile de contrôler l'impression d'armes, y compris d'armes à feu, car n'importe qui peut télécharger un algorithme et "imprimer" ce qu'il veut, directement chez lui.

La réglementation et le suivi des armes imprimées en 3D sont difficiles, car elles ne portent pas de numéro de série et représentent donc une menace croissant. Par exemple, en 2022, la police britannique a effectué une importante saisie de composants d'armes à feu imprimées en 3D dans une usine de fabrication d'armes à feu improvisée à Londres. L'on craint que les extrémistes et les criminels ne mettent la main sur ces armes non réglementées à mesure qu'elles se généralisent.

Les deepfakes

Les deepfakes, qui étaient à l'origine utilisés pour faire de petites animations de vidéo, sont aujourd'hui considérés comme "l'une des technologies modernes les plus...