Sam Altman est en train d'éroder la confiance vis-à-vis d'OpenAI avec son projet Worldcoin, une cryptomonnaie basée sur "la preuve biométrique d'identité",

Selon le blogueur Michael Petraeus

La controverse entourant le projet Worldcoin de Sam Altman pourrait entacher la réputation d'OpenAI et détruire la confiance que les gens accordent à la startup d'IA. C'est le constat fait par le blogueur singapourien Michael Petraeus, plus connu sous le nom de Critical Spectator. Il a déclaré dans une récente analyste que Worldcoin est une solution à un problème qu'OpenAI a lui-même contribué à créer, mais qu'il est très peu probable que le projet soit largement adopté en raison des nombreuses préoccupations liées à la vie privée. En revanche, les idées douteuses développées par Altman au sein de Worldcoin pourraient amener les gens à penser qu'il fait de même avec OpenAI.

Altman veut collecter vos données biométriques en échange de jetons Worldcoin

Worldcoin est un projet de cryptomonnaie annoncé en 2019. Cofondée par Sam Altman d'OpenAI, l'entreprise souhaite fusionner la blockchain et la biométrie afin que ceux qui acceptent qu'on scanne leurs iris soient récompensés par un jeton numérique appelé Worldcoins (WDC). En effet, alors que les problèmes de cybersécurité et de fuites de données se multiplient, Altman a lancé le projet afin de limiter les escroqueries et les violations causées par les robots et les mauvais acteurs en scannant les globes oculaires en contrepartie de jetons Worldcoin. La Worldcoin Foundation est l'intendante du projet et le soutiendra jusqu'à ce qu'il devienne autosuffisant.

Worldcoin est une cryptomonnaie basée sur ce que l'on appelle "la preuve d'identité" (Proof of Personhood - PoP). Il s'agit d'un mécanisme qui vise à résoudre le problème des fausses identités à l'ère numérique, en montrant qu'il y a un être humain unique derrière une identité. Cette méthode a gagné en popularité dans le monde décentralisé des cryptomonnaies, où les attaquants peuvent exploiter la nature ouverte et démocratique des systèmes de blockchain et créer de multiples fausses identités pour manipuler les votes ou les récompenses. En particulier, elle tente de résoudre le problème de l'usurpation d'identité en ligne.


En tant que monnaie numérique, Worldcoin fonctionnera différemment des leaders du marché que sont le Bitcoin et l'Ethereum, en offrant aux utilisateurs un jeton de la future monnaie sans exiger d'eux qu'ils investissent des fonds. Pour recevoir un jeton, les personnes qui s'inscrivent auprès de l'entreprise doivent faire scanner leur iris via un dispositif en forme d'orbe (appelé "The Orb", une façon de s'assurer que tout individu qui s'inscrit est humain et ne s'inscrit qu'une seule fois. « Worldcoin essaie surtout d'innover en matière d'authentification », a déclaré Jeremy Clark, de l'Institut d'ingénierie des systèmes d'information de Concordia, basé au Canada.

Le projet a été lancé le 24 juillet 2023 par le biais d'une distribution gratuite de jetons pour les utilisateurs qui ont été vérifiés à l'aide d'un orbe. En émettant des jetons cryptographiques en échange de donnée biométrique, Worldcoin vise à fonctionner à la fois comme un revenu de base universel et comme un système d'authentification permettant de faire la distinction entre les humains et les robots. Selon Worldcoin, après un scan, l'orbe crée et stocke un "IrisHash", un ensemble de nombres générés pour identifier l'individu. Une fois que l'individu a reçu son IrisHash unique et son portefeuille cryptographique, il reçoit une "World ID", ou passeport numérique.

Ce passeport numérique est censé vous donner accès à des services sur Internet (à condition que ces services acceptent de l'utiliser), leur permettant ainsi d'éviter les problèmes de sécurité. Le passe numérique prouve aux services en ligne que vous êtes "un vrai être humain" ou qui vous prétendez être et non un robot ou une IA qui tente d'usurper votre identité. « Tout le monde peut utiliser des cryptomonnaies comme le bitcoin, en s'inscrivant avec autant d'identités qu'il le souhaite. Cependant, Worldcoin essaie d'obtenir une seule et unique adresse pour pratiquement chaque personne sur la planète », a expliqué Clark.

Altman tenterait de résoudre un problème qu'il aurait lui-même contribué à créer

Selon Michael Petraeus, Worldcoin est une solution controversée aux actions d'OpenAI qui ont contribué à dégrader davantage l'état du Web. Les contenus générés par l'IA, notamment par les chatbots comme ChatGPT, sont très similaires à ce qu'un humain peut écrit, de sorte que de plus en plus de personnes n'arrivent plus à faire la distinction. OpenAI a lui-même échoué à créer un outil pouvant détecter avec précision les contenus générés par l'IA. Ainsi, Altman pense que le passeport numérique proposé par Worldcoin devrait permettre de résoudre le problème, en facilitant la détection des contenus générés par l'IA. Mais l'idée est vivement critiquée.

« Worldcoin est, en grande partie, vendu comme une solution à un problème que des entreprises comme OpenAI ont créé en premier lieu (bien qu'il puisse être acceptable si sa contribution nette est positive et offre une protection contre un déluge de spam généré par l'IA). Toutefois, le plus gros problème est que très peu de choses dans ce que propose Worldcoin inspirent la confiance, ce qui devrait être la pierre angulaire de l'activité d'une telle entreprise. Non seulement le concept est plutôt suspect, mais son exécution est digne d'un méchant de Bond », a déclaré Petraeus. Selon lui, Worldcoin porte à la confidentialité et à la vie privée des utilisateurs.

En effet, selon le site Web de Worldcoin, la seule donnée stockée après un scan d'iris est l'identifiant "IrisHash". L'orbe ne stockerait aucune autre donnée biométrique. Cependant, certains rapports ont signalé que ce n'était pas le cas. Contrairement aux promesses de Worldcoin, ses représentants - bien qu'ils ne soient en fait que des sous-traitants et non de véritables employés - auraient souvent recueilli les noms, les numéros de téléphone ou les adresses électroniques des personnes enregistrées. Cela contredit l'argument de l'anonymat avancé par Worldcoin. Ces données permettent d'identifier précisément une personne et peuvent faire l'objet d'abus.

« Je ne me souviens peut-être pas de tout, mais je crois que c'est la première fois qu'un service numérique important est lancé en mettant autant l'accent sur la mise en place d'une base d'utilisateurs à l'aide de tactiques résolument sournoises visant certaines des personnes les plus pauvres du tiers-monde, souffrant des retombées d'une pandémie, plutôt que des influenceurs branchés de Palo Alto », a déclaré Petraeus. L'entreprise s'est vantée d'avoir enregistré environ deux millions d'utilisateurs au cours de la phase bêta, chiffre qui serait passé à 16 millions après le lancement il y a six semaines. Worldcoin serait présent dans environ 100 pays.

L'entreprise exploite une trentaine d'orbes dans le monde, notamment aux États-Unis et dans certains pays de l'UE, mais aussi en Inde, en Indonésie et dans des pays d'Afrique comme le Ghana, le Kenya, le Soudan, l'Ouganda ou le Zimbabwe. Selon les critiques, le fait qu'Altman associe son nom à une cryptomonnaie telle que Worldcoin est une mauvaise chose pour la réputation d'OpenAI. En général, les cryptomonnaies n'ont jamais eu bonne presse (le marché s'est une fois plus effondré brusquement le mois passé) et les pratiques douteuses sur lesquelles repose Worldcoin sont encore plus controversées qu'auparavant.

Altman pourrait appliquer les pratiques douteuses de Worldcoin au sein d'OpenAI

Dans un billet de blogue publié aujourd'hui, Petraeus suggère qu'il est probable qu'OpenAI s'adonne également à des pratiques douteuses dont le public ignore encore l'existence. Petraeus a critiqué le lien entre le projet Worldcoin et OpenAI. « La question la plus importante aujourd'hui est la suivante : voulons-nous que la personne qui a créé ce système soit à la tête de l'un des principaux développeurs de solutions d'IA qui pourraient bientôt dominer de nombreux domaines de notre vie ? ». Même si Altman n'est pas le PDG de Worldcoin, Petraeus pense que les politiques douteuses de Worldcoin peuvent se répercuter sur OpenAI. Il a ajouté :

Selon Petraeus, même au stade actuel, les réponses de ChatGPT à certaines catégories de questions sur la politique ou les affaires sociales sont biaisées, ce qui amène certains à soupçonner qu'elles pourraient avoir été modifiées par des êtres humains pour produire un résultat souhaitable. « Nous entrons peut-être dans l'ère de l'IA, mais il semble que la personne qui la conçoit ait encore beaucoup d'importance », a-t-il déclaré.

Les garanties en matière de protection de la vie privée sont peu convaincantes

La Fondation Worldcoin, l'entité qui régit le protocole Worldcoin, est enregistrée aux îles Caïmans, un paradis fiscal. Certaines sources ont rapporté que les tentatives visant à obtenir le statut fiscal de Tools for Humanity par différents canaux, se sont soldées par un échec. Le fait que la Fondation Worldcoin soit enregistrée aux îles Caïmans et la nature nébuleuse de Tools for Humanity amènent les experts à se poser de nombreuses questions. Certains d'entre eux affirment sans hésiter que Worldcoin ressemble à un énorme stratagème pour mettre la main sur une tonne de données biométriques. Ce qu'Altman et les siens démentent.

« Scannez vos yeux et obtenez 20 dollars en argent fictif qui pourra ou non être échangé plus tard. Et la pièce s'effondrera comme toutes les autres, laissant Sam avec un trésor de données biométriques dont il pourra faire ce qu'il veut », affirme un critique. Worldcoin affirme que le respect de la vie privée est garanti, car l'utilisateur n'a pas à donner son nom lors de l'enregistrement et son iris est stocké sous la forme d'un code numérique abstrait. « Même si cela était vrai - et nous n'avons aucun moyen de le vérifier - l'orbe pourrait se retrouver entre de mauvaises mains », déclare Anna Bacciarelli, responsable des technologies à Human Rights Watch.

Il y a un autre problème. Le formulaire de consentement (que personne ne prend la peine de lire) indique que les orbes prennent également des images à haute résolution du visage, des yeux et du corps de l'utilisateur, en plus d'enregistrer ses signes vitaux, dont le rythme cardiaque et la respiration. Ces données permettent d'identifier avec précision chaque utilisateur, ce qui contredit les déclarations des responsables de Worldcoin. Des autorités européennes chargées de la protection des données voient des signes d'infraction au règlement général européen sur la protection des données (RGPD) et ont lancé des enquêtes.

Worldcoin se présente comme ayant une infrastructure décentralisée et transparente. Mais à l'heure actuelle, l'entreprise est privée, centralisée et opaque. Altman a levé 240 millions de dollars auprès des sociétés de capital-risque les plus connues de la Silicon Valley, notamment Andreessen Horowitz, Tiger Global, Khosla Ventures et Coinbase Ventures. « L'importance du financement du projet souligne l'énorme opportunité commerciale », a déclaré Ella Jakubowska, spécialiste de la biométrie et des droits de l'homme à l'Association européenne pour les droits numériques. Les investisseurs s'attendent d'une manière ou d'une autre à un retour sur investissement.

Selon Jakubowska, il existe un marché évident pour l'identification des robots et des utilisateurs synthétiques sur les plateformes de services numériques. En ce sens, Worldcoin semble être l'antidote à l'autre projet d'Altman : OpenAI. L'objectif présumé d'Altman à travers le projet Worldcoin est de s'impliquer dans les processus démocratiques et d'améliorer l'accès aux programmes sociaux dans le monde entier. Cependant, Jakubowska estime que sa tentative de collecte de données est sinistre. « Créer un code-barres pour chaque habitant de la planète n'a rien d'humanitaire. Worldcoin est l'antithèse d'une communauté », a-t-elle déclaré.

De nombreux pays ont ouvert des enquêtes sur les pratiques de Worldcoin

La biométrie et les cartes d'identité numériques sont de plus en plus utilisées dans le monde pour permettre aux gens de voter et d'accéder à des services de base tels que les soins de santé et les banques alimentaires. Mais la plupart du temps, ces cas d'utilisation des données biométriques sont réservés aux gouvernements. Le fait qu'une entreprise telle que Worldcoin décide de constituer une base de données mondiale de données biométriques a rapidement attiré l'attention des régulateurs, qui ont fait part de diverses préoccupations. Au Kenya, les autorités de régulation ont ordonné à Worldcoin de suspendre les scans d'iris et ont ouvert des enquêtes.

Le gouvernement kenyan a constitué une commission parlementaire de 15 membres chargée d'enquêter sur cet actif numérique controversé. Worldcoin fait également l'objet d'une action en justice intentée par le bureau du commissaire kenyan aux données. Un tribunal a ordonné que les données déjà collectées par Worldcoin entre avril de l'année dernière et août 2023 soient conservées jusqu'à la fin du procès. Les rapports sur les tactiques controversées du projet ont poussé les gouvernements du Nigeria, du Royaume-Uni, de l'Argentine et de l'Allemagne à enquêter sur Worldcoin. En France, la CNIL a également ouvert des enquêtes le mois dernier.

La CNIL dit avoir des doutes sur la légalité de la collecte à grande échelle de données biométriques par Worldcoin. « La légalité de cette collecte [de données] semble douteuse, tout comme les conditions de conservation des données biométriques. La CNIL a ouvert des enquêtes, soutenant le travail des régulateurs bavarois de la vie privée qui ont la responsabilité principale en vertu de la loi européenne », a déclaré un porte-parole de la CNIL dans une déclaration écrite. Selon plusieurs sources, le projet de cryptomonnaie d'Altman est suspendu dans plusieurs pays et ferait actuellement l'objet d'enquêtes dans au moins une demi-douzaine de pays.

Interrogée sur l'enquête des autorités françaises, la fondation Worldcoin a déclaré : « Worldcoin a été conçu pour protéger la vie privée des individus et a mis en place un solide programme de protection de la vie privée et s'est engagé à respecter les exigences réglementaires. La Worldcoin Foundation se conforme à toutes les lois et réglementations régissant le traitement des données personnelles sur les marchés où le Worldcoin est disponible. Le projet continuera à coopérer avec les organismes de tutelle pour répondre aux demandes d'informations supplémentaires sur ses pratiques en matière de protection des données personnelles et de la vie privée ».

Source : billet de blogue

Et vous ?

Quel est votre avis sur le sujet ?

Voir aussi

La CNIL ouvre une enquête pour "pratiques douteuses" sur la cryptomonnaie Worldcoin lancée par le PDG d'OpenAI, elle s'interroge sur la légalité de la collecte de données biométriques par Worldcoin

Sam Altman, PDG d'OpenAI, lance officiellement sa cryptomonnaie Worldcoin qui vise à créer une base de données mondiale des scans rétiniens des utilisateurs, mais le projet suscite le scepticisme

Edward Snowden critique le projet Worldcoin de Sam Altman : « Ne cataloguez pas les globes oculaires », Worldcoin envisage de créer une base de données mondiale des scans rétiniens des utilisateurs

Pourquoi Sam Altman veut scanner des milliards d'yeux pour créer la plus grande base de données biométriques au monde, un projet qui souffre de plusieurs défaillances techniques