Il y a quelques jours, des employés de Google ont décidé de déposer leur démission. La raison ? La participation de l’entreprise dans un projet en intelligence artificielle pour le compte du Pentagone. « Nous demandons que le projet Maven soit annulé et que Google prépare, publie et instaure des règles qui stipulent que jamais l’entreprise et ses sous-traitants ne participeront à la construction de matériel de guerre », ont lancé les employés à Sundar Pichai.
Une douzaine d’employés ont présenté leurs démissions tandis que plus de 3000 Googlers ont signé une pétition demandant à l’entreprise d’arrêter sa participation dans ce projet.
Le projet Maven vise à améliorer les opérations des drones en utilisant des technologies de reconnaissance d'images. Selon le Pentagone, l'objectif initial est de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets (classés dans pas moins de 38 catégories) capturés par la caméra d'un drone. Le projet a donc vocation à pister certaines cibles plus aisément. Google dont le rôle n’est pas très clair dans l’affaire, mais dont on sait au moins qu’il fournit l’API TensorFlow utilisée en IA, ajoute pour se défendre qu’il intervient sur des aspects non offensifs.
Seulement, référence faite à une publication (parue en juillet 2017) du département de la Défense (DoD) des États-Unis, il s’agit de « gagner des guerres en s’appuyant sur les algorithmes et l’intelligence artificielle. » Plus loin dans le papier du DoD, un colonel de l’armée américaine rappelle que « nous [les USA] sommes dans la course aux armes autonomes ».
Les employés de Google ne sont pas les seuls à avoir demandé à l’entreprise de se retirer. En effet, dans une lettre publique, l’ICRAC (International Committee for Robot Arms Control), une ONG regroupant des experts tous azimuts dont l'objectif est de sensibiliser sur les dangers que représentent les robots militarisés pour la sécurité internationale, a montré son opposition à ce projet.
« En tant qu’universitaires et chercheurs qui étudient, enseignent et développent des technologies de l'information, nous nous solidarisons aux 3100 employés de Google, rejoints par d'autres travailleurs de la technologie, qui s'opposent à la participation de Google au projet Maven. Nous soutenons sans réserve leur demande que Google résilie son contrat avec le DoD, et que Google et sa société mère Alphabet s'engagent à ne pas développer de technologies militaires et à ne pas utiliser les données personnelles qu'ils collectent à des fins militaires. La mesure dans laquelle le financement militaire a toujours été un moteur de la recherche et du développement en informatique ne devrait pas déterminer la voie à suivre pour l'avenir. Nous invitons également les dirigeants de Google et d'Alphabet à se joindre à d'autres chercheurs en IA et en robotique et à des responsables de la technologie pour réclamer un traité international interdisant les systèmes d'armes autonomes.
« Google a longtemps cherché à organiser et à améliorer l'utilité de l'information du monde. Au-delà de la recherche de pages Web pertinentes sur Internet, Google est responsable de la compilation de nos courriels, vidéos, calendriers et photos, et nous guide vers des destinations physiques. Comme beaucoup d'autres sociétés de technologie numérique, Google a recueilli de vastes quantités de données sur les comportements, les activités et les intérêts de leurs utilisateurs. Les données privées collectées par Google ont pour responsabilité non seulement d'utiliser ces données pour améliorer ses propres technologies et développer son activité, mais aussi d’en faire bénéficier la société. La devise de l'entreprise "Do not Be Evil" embrasse cette responsabilité ».
Selon Defense One, les forces d'opérations spéciales interarmées « au Moyen-Orient » ont mené des essais initiaux en utilisant des images vidéo d'un petit drone de surveillance ScanEagle. Le projet devrait s'étendre « à des drones Predator et Reaper plus grands et de moyenne altitude d'ici l'été prochain » et finalement à Gorgon Stare, « une série sophistiquée de caméras high-tech capables de voir des villes entières ».
« Avec Project Maven, Google devient impliqué dans la pratique douteuse des assassinats ciblés. Il s'agit notamment de ce que l'on appelle des frappes de signatures et des frappes de type de vie qui ciblent des personnes non sur des activités connues mais sur des probabilités tirées de séquences de surveillance à longue portée. La légalité de ces opérations a été remise en question en vertu de la loi internationale et américaine », assure l’ICRAC.
Vers des robots autorisés à tuer automatiquement, sans supervision humaine ?
Alors que les rapports sur le projet Maven mettent actuellement l'accent sur le rôle des analystes humains, ces technologies sont sur le point de devenir une base pour la reconnaissance automatisée des cibles et les systèmes d'armes autonomes. « À mesure que les commandants militaires verront les algorithmes de reconnaissance d'objets comme fiables, il sera tentant d'atténuer ou même de supprimer l'examen humain et la surveillance de ces systèmes. Selon Defense One, le DoD prévoit déjà d'installer des technologies d'analyse d'images à bord des drones eux-mêmes, y compris des drones armés. Nous sommes alors à deux pas d'autoriser des drones autonomes à tuer automatiquement, sans supervision humaine ou contrôle humain significatif. Si une action éthique de la part des entreprises technologiques nécessite de considérer qui pourrait bénéficier d'une technologie et qui pourrait être lésé, alors nous pouvons affirmer qu'aucun sujet ne mérite une réflexion plus sérieuse - aucune technologie n'a d'enjeux plus importants - que les algorithmes destinés à cibler et tuer à distance et sans responsabilité publique ».
L’ICRAC indique que « Nous sommes également très préoccupés par l'intégration possible des données de Google sur la vie quotidienne des gens avec des données de surveillance militaire, et son application combinée à la mise à mort ciblée. Google s'est lancé dans le travail militaire sans se soumettre à un débat public ou délibéré, que ce soit au niveau national ou international. Alors que Google décide régulièrement de l'avenir de la technologie sans engagement public démocratique, son entrée dans les technologies militaires met en relief les problèmes du contrôle privé de l'infrastructure de l'information ».
Si Google décidait d'utiliser les données personnelles des utilisateurs d'Internet à des fins militaires, cela violerait la confiance du public qui est fondamentale à ses activités en mettant en péril la vie de ses utilisateurs et les droits de l'homme. « Les responsabilités des entreprises mondiales comme Google doivent être proportionnelles à la composition transnationale de leurs utilisateurs. Les contrats du DoD en cours d'examen par Google, et des contrats similaires déjà conclus chez Microsoft et Amazon, signalent une alliance dangereuse entre l'industrie technologique privée, actuellement en possession de vastes quantités de données personnelles sensibles recueillies auprès de personnes à travers le monde. Ils signalent également un échec à s'engager avec la société civile mondiale et les institutions diplomatiques qui ont déjà souligné les enjeux éthiques de ces technologies ».
Source : lettre de l'ICRAC
Et vous ?
Partagez-vous les craintes de l'ICRAC ?Voir aussi :
RGPD : les développeurs Android auraient suspendu les annonces publicitaires Google, jusqu'à la sortie du nouveau SDK de Google Google a-t-il l'intention de devenir malveillant ? L'entreprise efface toutes les mentions de « Don't be evil », de son code de conduite Google estime que la sanction du gendarme indien de la concurrence va lui causer des dommages irréparables, sur le marché du moteur de recherche Google aurait-il simulé une avancée dans le domaine de l'IA avec Google Duplex ? Un quotidien relève quelques incohérences Chrome 66 : Google supprime temporairement sa nouvelle politique de lecture automatique, mais uniquement pour l'API Web Audio 
Envoyé par Ryu2000
