En dépit des nombreuses protestations de la part des employées d'Amazon, de ses actionnaires et des associations de défense des droits numériques, Amazon a la ferme intention de continuer à vendre son application de reconnaissance facile « Rekognition » aux forces de l'ordre et au service de contrôle de l'immigration et des douanes (CED) des États-Unis. Rappelons qu'en octobre dernier, un employé d'Amazon a demandé à son patron d'arrêter de vendre le système de reconnaissance faciale à la police évoquant des dérives. Il a fait valoir que le gouvernement américain avait utilisé ces outils d'une manière qui nuisait de manière disproportionnée aux « communautés de couleur, aux immigrés et aux personnes exerçant leurs droits de premier amendement ». « Ignorer ces préoccupations urgentes lors du déploiement de technologies puissantes auprès du gouvernement et des forces de l'ordre est dangereux et irresponsable », avait-il déclaré.Une vingtaine d’actionnaires de l’entreprise, dans une correspondance adressée à Jeff Bezos en date du 15 juin 2018, ont demandé à l’entreprise de mettre fin à cette collaboration. « Nous sommes préoccupés par le fait qu’une telle infrastructure de surveillance pourrait non seulement porter atteinte à la vie privée des consommateurs, mais également introduire des risques importants pour notre entreprise en impactant négativement sur sa valeur en bourse et en augmentant le péril financier pour les actionnaires », ont-ils écrit. Certaines entités, comme des associations de défense des droits numériques parmi lesquelles l'American Civil Liberties Union (ACLU) ont récemment fait part de leur opposition, estimant que cela pourrait entraîner des dérives (par exemple, la police pourrait l'utiliser afin de pister des manifestants ou d'autres personnes que les autorités jugent suspectes, plutôt que de se limiter aux personnes qui commettent effectivement des crimes).
Malgré ces oppositions, Amazon a annoncé son intention de continuer à vendre son système de reconnaissance facile « Rekognition » aux forces de l'ordre et au service de contrôle de l'immigration des USA. En effet, lors d'une réunion tenue avec ses employés le jeudi dernier, Andy Jassy, le directeur des Services Web d'Amazon, a dit qu'il est tout à fait normal qu'avec plus de 5000 employés, les opinions soient diverses concernant Amazon Rekognition, mais qu'ils se sentent « grands et vraiment forts de la valeur qu'apporte Amazon Rekognition à tous leurs clients » peu importe leur taille ou leur types.
Pour ce dernier, Amazon Rekognition est très avantageux, car « il a été utilisé pour mettre fin aux trafics humains, pour retrouver des enfants perdus lors des sorties pédagogiques, pour la sécurité et des multiples facteurs d'authentification ». Il a ajouté qu'il comprend l'inquiétude que peut susciter cette technologie et le désir de ne pas voir cette technologie mal utilisée et qu'à ce propos, des dispositions ont été prises dans les termes d'utilisation, afin de s'assurer que les utilisateurs fassent un usage responsable de cette technologie. Les personnes qui violeraient les termes d'utilisation, qui utiliseraient Rekognition de façon irresponsable ou qui violeraient des droits constitutionnels ne seront plus autorisées à l'utiliser à l'avenir. Il conclut, en disant qu'il ne faut pas oublier que dans une démocratie, c'est parfois au gouvernement de définir les conditions d'utilisation de la technologie.
Beaucoup d'employés sont outrés par cette déclaration qui prouve que les patrons d'Amazon banalisent les conséquences de l'utilisation d'Amazon Rekognition par les forces de l'ordre. L'un des employés de l'entreprise a dit « qu'il est difficile de croire que les douleurs et les abus peuvent être évités uniquement à travers les termes d'utilisation ». Un autre employé d'Amazon a posé la question suivante : « devrions-nous vendre un service à un client quand nous savons qu'il va l'utiliser de façon peu éthique juste parce que ce client est le gouvernement ? ». Il faut dire que « Rekognition » n'a pas une très bonne réputation auprès des employés d'Amazon. Pour montrer leur mécontentement, 450 employés d'Amazon ont écrit en juin une lettre, au directeur de l'entreprise, Jeff Bezos, dans laquelle ils lui demandait d'arrêter la vente de cette application de reconnaissance faciale à la police.
Les employées ne sont pas les seuls déçues par la position de leur employeur. Les actionnaires d'Amazon et les groupes de défense des droits numériques le sont également. Natasha Lamb, une actionnaire d'Amazon qui a signé une lettre de protestation adressée à Jeff Bezos, affirme que cette décision de vente aux forces de l'ordre « ne tient pas compte des effets à long terme sur les libertés civiles ». Ce qui semble important pour les dirigeants d'Amazon pour l'instant, c'est tester l'efficacité de cette application. Efficacité d'ailleurs relative, car rappelons qu'en juillet dernier, la technologie de reconnaissance faciale d'Amazon a identifié à tort 28 membres du Congrès US comme des criminels. Au nombre de ces 28 congressistes identifiés à tort comme des criminels, il y avait des hommes, des femmes, des Républicains, des Démocrates de différents âges.
Pour les groupes de défense des droits numériques, la situation est grave. A cet effet, Kate Crockford, la directrice L’Union américaine pour les libertés civiles (ACLU) dit que « la technologie de surveillance dans les mains de la police est souvent mal utilisée pour cibler les immigrés, les communautés de couleur et les protestataires politique. Des termes d'utilisation ne changeront pas ça ». Du côté des internautes, on a deux camps : ceux qui sont contre l'utilisation par les forces de l'ordre, ceux qui trouvent que cette utilisation est un mal nécessaire. Les premiers trouvent que les forces de l'ordre vont l'utiliser pour renforcer le pouvoir du gouvernement et violer le 4ème amendement de la constitution des USA. La solution pour eux est d'affaiblir le pouvoir du gouvernement, pas de le renforcer. Les seconds pensent que cette utilisation va permettre aux forces de l'ordre de mieux assurer la sécurité de tout un chacun et de résoudre les crimes plus rapidement et plus facilement. Pour ces derniers, le combat est d'ailleurs déjà perdu d'avance.
Source : BuzzFeed
Et vous ?
Êtes-vous pour ou contre la vente de Rekognition aux forces de l'ordre et aux services de contrôle de l'immigration ? Pourquoi ?Voir aussi
Des actionnaires demandent à Amazon d'arrêter de vendre son IA de reconnaissance faciale aux forces de l'ordre Amazon : un employé demande à son patron d'arrêter de vendre le système de reconnaissance faciale à la police évoquant des dérives La technologie de reconnaissance faciale d'Amazon identifie à tort 28 membres du Congrès US comme des criminels quels dangers pour les Américains ? USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon craignant une surveillance de masse par la police 
Envoyé par nicopulse
