La controverse entourant le projet Worldcoin de Sam Altman pourrait entacher la réputation d'OpenAI et détruire la confiance que les gens accordent à la startup d'IA. C'est le constat fait par le blogueur singapourien Michael Petraeus, plus connu sous le nom de Critical Spectator. Il a déclaré dans une récente analyste que Worldcoin est une solution à un problème qu'OpenAI a lui-même contribué à créer, mais qu'il est très peu probable que le projet soit largement adopté en raison des nombreuses préoccupations liées à la vie privée. En revanche, les idées douteuses développées par Altman au sein de Worldcoin pourraient amener les gens à penser qu'il fait de même avec OpenAI.Altman veut collecter vos données biométriques en échange de jetons Worldcoin
Worldcoin est un projet de cryptomonnaie annoncé en 2019. Cofondée par Sam Altman d'OpenAI, l'entreprise souhaite fusionner la blockchain et la biométrie afin que ceux qui acceptent qu'on scanne leurs iris soient récompensés par un jeton numérique appelé Worldcoins (WDC). En effet, alors que les problèmes de cybersécurité et de fuites de données se multiplient, Altman a lancé le projet afin de limiter les escroqueries et les violations causées par les robots et les mauvais acteurs en scannant les globes oculaires en contrepartie de jetons Worldcoin. La Worldcoin Foundation est l'intendante du projet et le soutiendra jusqu'à ce qu'il devienne autosuffisant.
Worldcoin est une cryptomonnaie basée sur ce que l'on appelle "la preuve d'identité" (Proof of Personhood - PoP). Il s'agit d'un mécanisme qui vise à résoudre le problème des fausses identités à l'ère numérique, en montrant qu'il y a un être humain unique derrière une identité. Cette méthode a gagné en popularité dans le monde décentralisé des cryptomonnaies, où les attaquants peuvent exploiter la nature ouverte et démocratique des systèmes de blockchain et créer de multiples fausses identités pour manipuler les votes ou les récompenses. En particulier, elle tente de résoudre le problème de l'usurpation d'identité en ligne.
En tant que monnaie numérique, Worldcoin fonctionnera différemment des leaders du marché que sont le Bitcoin et l'Ethereum, en offrant aux utilisateurs un jeton de la future monnaie sans exiger d'eux qu'ils investissent des fonds. Pour recevoir un jeton, les personnes qui s'inscrivent auprès de l'entreprise doivent faire scanner leur iris via un dispositif en forme d'orbe (appelé "The Orb"
, une façon de s'assurer que tout individu qui s'inscrit est humain et ne s'inscrit qu'une seule fois. « Worldcoin essaie surtout d'innover en matière d'authentification », a déclaré Jeremy Clark, de l'Institut d'ingénierie des systèmes d'information de Concordia, basé au Canada.Le projet a été lancé le 24 juillet 2023 par le biais d'une distribution gratuite de jetons pour les utilisateurs qui ont été vérifiés à l'aide d'un orbe. En émettant des jetons cryptographiques en échange de donnée biométrique, Worldcoin vise à fonctionner à la fois comme un revenu de base universel et comme un système d'authentification permettant de faire la distinction entre les humains et les robots. Selon Worldcoin, après un scan, l'orbe crée et stocke un "IrisHash", un ensemble de nombres générés pour identifier l'individu. Une fois que l'individu a reçu son IrisHash unique et son portefeuille cryptographique, il reçoit une "World ID", ou passeport numérique.
Ce passeport numérique est censé vous donner accès à des services sur Internet (à condition que ces services acceptent de l'utiliser), leur permettant ainsi d'éviter les problèmes de sécurité. Le passe numérique prouve aux services en ligne que vous êtes "un vrai être humain" ou qui vous prétendez être et non un robot ou une IA qui tente d'usurper votre identité. « Tout le monde peut utiliser des cryptomonnaies comme le bitcoin, en s'inscrivant avec autant d'identités qu'il le souhaite. Cependant, Worldcoin essaie d'obtenir une seule et unique adresse pour pratiquement chaque personne sur la planète », a expliqué Clark.
Altman tenterait de résoudre un problème qu'il aurait lui-même contribué à créer
Selon Michael Petraeus, Worldcoin est une solution controversée aux actions d'OpenAI qui ont contribué à dégrader davantage l'état du Web. Les contenus générés par l'IA, notamment par les chatbots comme ChatGPT, sont très similaires à ce qu'un humain peut écrit, de sorte que de plus en plus de personnes n'arrivent plus à faire la distinction. OpenAI a lui-même échoué à créer un outil pouvant détecter avec précision les contenus générés par l'IA. Ainsi, Altman pense que le passeport numérique proposé par Worldcoin devrait permettre de résoudre le problème, en facilitant la détection des contenus générés par l'IA. Mais l'idée est vivement critiquée.
« Worldcoin est, en grande partie, vendu comme une solution à un problème que des entreprises comme OpenAI ont créé en premier lieu (bien qu'il puisse être acceptable si sa contribution nette est positive et offre une protection contre un déluge de spam généré par l'IA). Toutefois, le plus gros problème est que très peu de choses dans ce que propose Worldcoin inspirent la confiance, ce qui devrait être la pierre angulaire de l'activité d'une telle entreprise. Non seulement le concept est plutôt suspect, mais son exécution est digne d'un méchant de Bond », a déclaré Petraeus. Selon lui, Worldcoin porte à la confidentialité et à la vie privée des utilisateurs.
En effet, selon le site Web de Worldcoin, la seule donnée stockée après un scan d'iris est l'identifiant "IrisHash". L'orbe ne stockerait aucune autre donnée biométrique. Cependant, certains rapports ont signalé que ce n'était pas le cas. Contrairement aux promesses de Worldcoin, ses représentants - bien qu'ils ne soient en fait que des sous-traitants et non de véritables employés - auraient souvent recueilli les noms, les numéros de téléphone ou les adresses électroniques des personnes enregistrées. Cela contredit l'argument de l'anonymat avancé par Worldcoin. Ces données permettent d'identifier précisément une personne et peuvent faire l'objet d'abus.
« Je ne me souviens peut-être pas de tout, mais je crois que c'est la première fois qu'un service numérique important est lancé en mettant autant l'accent sur la mise en place d'une base d'utilisateurs à l'aide de tactiques résolument sournoises visant certaines des personnes les plus pauvres du tiers-monde, souffrant des retombées d'une pandémie, plutôt que des influenceurs branchés de Palo Alto », a déclaré Petraeus. L'entreprise s'est vantée d'avoir enregistré environ deux millions d'utilisateurs au cours de la phase bêta, chiffre qui serait passé à 16 millions après le lancement il y a six semaines. Worldcoin serait présent dans environ 100 pays.
L'entreprise exploite une trentaine d'orbes dans le monde, notamment aux États-Unis et dans certains pays de l'UE, mais aussi en Inde, en Indonésie et dans des pays d'Afrique comme le Ghana, le Kenya, le Soudan, l'Ouganda ou le Zimbabwe. Selon les critiques, le fait qu'Altman associe son nom à une cryptomonnaie telle que Worldcoin est une mauvaise chose pour la réputation d'OpenAI. En général, les cryptomonnaies n'ont jamais eu bonne presse (le marché s'est une fois plus effondré brusquement le mois passé) et les pratiques douteuses sur lesquelles repose Worldcoin sont encore plus controversées qu'auparavant.
Altman pourrait appliquer les pratiques douteuses de Worldcoin au sein d'OpenAI
Dans un billet de blogue publié aujourd'hui, Petraeus suggère qu'il est probable qu'OpenAI s'adonne également à des pratiques douteuses dont le public ignore encore l'existence. Petraeus a critiqué le lien entre le projet Worldcoin et OpenAI. « La question la plus importante aujourd'hui est la suivante : voulons-nous que la personne qui a créé ce système soit à la tête de l'un des principaux développeurs de solutions d'IA qui pourraient bientôt dominer de nombreux domaines de notre vie ? ». Même si Altman n'est pas le PDG de Worldcoin, Petraeus pense que les politiques douteuses de Worldcoin peuvent se répercuter sur OpenAI. Il a ajouté :
Envoyé par Michael Petraeus
Les coachs en développement personnel aiment à dire que la façon dont vous faites quelque chose est la façon dont vous faites tout et, bien que ce soit peut-être une exagération, il semble que cela pourrait s'appliquer à au moins un domaine d'activité d'une personne (par exemple, les affaires). J'ai du mal à croire qu'une personne puisse diriger une entreprise de manière résolument différente d'une autre.
Et si Altman n'est pas, à proprement parler, le PDG de Worldcoin (ou de son développeur actuel, Tools for Humanity), il est le président de Tools For Humanity et a cofondé le projet avec Alex Bania, qui en est l'actuel directeur général.
Le PDG d'OpenAI est donc certainement l'une des forces motrices du projet et pourtant, au cours des dernières années, l'entreprise était occupée à contourner les lois locales, à poursuivre des publics vulnérables dans le tiers-monde et à essayer de les recruter pour scanner leur iris avec des promesses très discutables - en particulier en raison de l'absence de cas d'utilisation réel de World ID.
Si c'est là le genre de "growth hacking" auquel il se livre, pouvons-nous vraiment lui faire confiance non seulement pour nos données privées, mais aussi pour savoir comment l'IA développée par son autre entreprise va influencer nos vies, la véracité des informations qu'elle fournit et si personne ne l'utilise comme un outil de propagande, pour nous donner des réponses prédéterminées à des questions politiquement et socialement sensibles ?
Et si Altman n'est pas, à proprement parler, le PDG de Worldcoin (ou de son développeur actuel, Tools for Humanity), il est le président de Tools For Humanity et a cofondé le projet avec Alex Bania, qui en est l'actuel directeur général.
Le PDG d'OpenAI est donc certainement l'une des forces motrices du projet et pourtant, au cours des dernières années, l'entreprise était occupée à contourner les lois locales, à poursuivre des publics vulnérables dans le tiers-monde et à essayer de les recruter pour scanner leur iris avec des promesses très discutables - en particulier en raison de l'absence de cas d'utilisation réel de World ID.
Si c'est là le genre de "growth hacking" auquel il se livre, pouvons-nous vraiment lui faire confiance non seulement pour nos données privées, mais aussi pour savoir comment l'IA développée par son autre entreprise va influencer nos vies, la véracité des informations qu'elle fournit et si personne ne l'utilise comme un outil de propagande, pour nous donner des réponses prédéterminées à des questions politiquement et socialement sensibles ?
Les garanties en matière de protection de la vie privée sont peu convaincantes
La Fondation Worldcoin, l'entité qui régit le protocole Worldcoin, est enregistrée aux îles Caïmans, un paradis fiscal. Certaines sources ont rapporté que les tentatives visant à obtenir le statut fiscal de Tools for Humanity par différents canaux, se sont soldées par un échec. Le fait que la Fondation Worldcoin soit enregistrée aux îles Caïmans et la nature nébuleuse de Tools for Humanity amènent les experts à se poser de nombreuses questions. Certains d'entre eux affirment sans hésiter que Worldcoin ressemble à un énorme stratagème pour mettre la main sur une tonne de données biométriques. Ce qu'Altman et les siens démentent.
« Scannez vos yeux et obtenez 20 dollars en argent fictif qui pourra ou non être échangé plus tard. Et la pièce s'effondrera comme toutes les autres, laissant Sam avec un trésor de données biométriques dont il pourra faire ce qu'il veut », affirme un critique. Worldcoin affirme que le respect de la vie privée est garanti, car l'utilisateur n'a pas à donner son nom lors de l'enregistrement et son iris est stocké sous la forme d'un code numérique abstrait. « Même si cela était vrai - et nous n'avons aucun moyen de le vérifier - l'orbe pourrait se retrouver entre de mauvaises mains », déclare Anna Bacciarelli, responsable des technologies à Human Rights Watch.
Il y a un autre problème. Le formulaire de consentement (que personne ne prend la peine de lire) indique que les orbes prennent également des images à haute résolution du visage, des yeux et du corps de l'utilisateur, en plus d'enregistrer ses signes vitaux, dont le rythme cardiaque et la respiration. Ces données permettent d'identifier avec précision chaque utilisateur, ce qui contredit les déclarations des responsables de Worldcoin. Des autorités européennes chargées de la protection des données voient des signes d'infraction au règlement général européen sur la protection des données (RGPD) et ont lancé des enquêtes.
Worldcoin se présente comme...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
