La controverse entourant le projet Worldcoin de Sam Altman pourrait entacher la réputation d'OpenAI et détruire la confiance que les gens accordent à la startup d'IA. C'est le constat fait par le blogueur singapourien Michael Petraeus, plus connu sous le nom de Critical Spectator. Il a déclaré dans une récente analyste que Worldcoin est une solution à un problème qu'OpenAI a lui-même contribué à créer, mais qu'il est très peu probable que le projet soit largement adopté en raison des nombreuses préoccupations liées à la vie privée. En revanche, les idées douteuses développées par Altman au sein de Worldcoin pourraient amener les gens à penser qu'il fait de même avec OpenAI.Altman veut collecter vos données biométriques en échange de jetons Worldcoin
Worldcoin est un projet de cryptomonnaie annoncé en 2019. Cofondée par Sam Altman d'OpenAI, l'entreprise souhaite fusionner la blockchain et la biométrie afin que ceux qui acceptent qu'on scanne leurs iris soient récompensés par un jeton numérique appelé Worldcoins (WDC). En effet, alors que les problèmes de cybersécurité et de fuites de données se multiplient, Altman a lancé le projet afin de limiter les escroqueries et les violations causées par les robots et les mauvais acteurs en scannant les globes oculaires en contrepartie de jetons Worldcoin. La Worldcoin Foundation est l'intendante du projet et le soutiendra jusqu'à ce qu'il devienne autosuffisant.
Worldcoin est une cryptomonnaie basée sur ce que l'on appelle "la preuve d'identité" (Proof of Personhood - PoP). Il s'agit d'un mécanisme qui vise à résoudre le problème des fausses identités à l'ère numérique, en montrant qu'il y a un être humain unique derrière une identité. Cette méthode a gagné en popularité dans le monde décentralisé des cryptomonnaies, où les attaquants peuvent exploiter la nature ouverte et démocratique des systèmes de blockchain et créer de multiples fausses identités pour manipuler les votes ou les récompenses. En particulier, elle tente de résoudre le problème de l'usurpation d'identité en ligne.
En tant que monnaie numérique, Worldcoin fonctionnera différemment des leaders du marché que sont le Bitcoin et l'Ethereum, en offrant aux utilisateurs un jeton de la future monnaie sans exiger d'eux qu'ils investissent des fonds. Pour recevoir un jeton, les personnes qui s'inscrivent auprès de l'entreprise doivent faire scanner leur iris via un dispositif en forme d'orbe (appelé "The Orb"
, une façon de s'assurer que tout individu qui s'inscrit est humain et ne s'inscrit qu'une seule fois. « Worldcoin essaie surtout d'innover en matière d'authentification », a déclaré Jeremy Clark, de l'Institut d'ingénierie des systèmes d'information de Concordia, basé au Canada.Le projet a été lancé le 24 juillet 2023 par le biais d'une distribution gratuite de jetons pour les utilisateurs qui ont été vérifiés à l'aide d'un orbe. En émettant des jetons cryptographiques en échange de donnée biométrique, Worldcoin vise à fonctionner à la fois comme un revenu de base universel et comme un système d'authentification permettant de faire la distinction entre les humains et les robots. Selon Worldcoin, après un scan, l'orbe crée et stocke un "IrisHash", un ensemble de nombres générés pour identifier l'individu. Une fois que l'individu a reçu son IrisHash unique et son portefeuille cryptographique, il reçoit une "World ID", ou passeport numérique.
Ce passeport numérique est censé vous donner accès à des services sur Internet (à condition que ces services acceptent de l'utiliser), leur permettant ainsi d'éviter les problèmes de sécurité. Le passe numérique prouve aux services en ligne que vous êtes "un vrai être humain" ou qui vous prétendez être et non un robot ou une IA qui tente d'usurper votre identité. « Tout le monde peut utiliser des cryptomonnaies comme le bitcoin, en s'inscrivant avec autant d'identités qu'il le souhaite. Cependant, Worldcoin essaie d'obtenir une seule et unique adresse pour pratiquement chaque personne sur la planète », a expliqué Clark.
Altman tenterait de résoudre un problème qu'il aurait lui-même contribué à créer
Selon Michael Petraeus, Worldcoin est une solution controversée aux actions d'OpenAI qui ont contribué à dégrader davantage l'état du Web. Les contenus générés par l'IA, notamment par les chatbots comme ChatGPT, sont très similaires à ce qu'un humain peut écrit, de sorte que de plus en plus de personnes n'arrivent plus à faire la distinction. OpenAI a lui-même échoué à créer un outil pouvant détecter avec précision les contenus générés par l'IA. Ainsi, Altman pense que le passeport numérique proposé par Worldcoin devrait permettre de résoudre le problème, en facilitant la détection des contenus générés par l'IA. Mais l'idée est vivement critiquée.
« Worldcoin est, en grande partie, vendu comme une solution à un problème que des entreprises comme OpenAI ont créé en premier lieu (bien qu'il puisse être acceptable si sa contribution nette est positive et offre une protection contre un déluge de spam généré par l'IA). Toutefois, le plus gros problème est que très peu de choses dans ce que propose Worldcoin inspirent la confiance, ce qui devrait être la pierre angulaire de l'activité d'une telle entreprise. Non seulement le concept est plutôt suspect, mais son exécution est digne d'un méchant de Bond », a déclaré Petraeus. Selon lui, Worldcoin porte à la confidentialité et à la vie privée des utilisateurs.
En effet, selon le site Web de Worldcoin, la seule donnée stockée après un scan d'iris est l'identifiant "IrisHash". L'orbe ne stockerait aucune autre donnée biométrique. Cependant, certains rapports ont signalé que ce n'était pas le cas. Contrairement aux promesses de Worldcoin, ses représentants - bien qu'ils ne soient en fait que des sous-traitants et non de véritables employés - auraient souvent recueilli les noms, les numéros de téléphone ou les adresses électroniques des personnes enregistrées. Cela contredit l'argument de l'anonymat avancé par Worldcoin. Ces données permettent d'identifier précisément une personne et peuvent faire l'objet d'abus.
« Je ne me souviens peut-être pas de tout, mais je crois que c'est la première fois qu'un service numérique important est lancé en mettant autant l'accent sur la mise en place d'une base d'utilisateurs à l'aide de tactiques résolument sournoises visant certaines des personnes les plus pauvres du tiers-monde, souffrant des retombées d'une pandémie, plutôt que des influenceurs branchés de Palo Alto », a déclaré Petraeus. L'entreprise s'est vantée d'avoir enregistré environ deux millions d'utilisateurs au cours de la phase bêta, chiffre qui serait passé à 16 millions après le lancement il y a six semaines. Worldcoin serait présent dans environ 100 pays.
L'entreprise exploite une trentaine d'orbes dans le monde, notamment aux États-Unis et dans certains pays de l'UE, mais aussi en Inde, en Indonésie et dans des pays d'Afrique comme le Ghana, le Kenya, le Soudan, l'Ouganda ou le Zimbabwe. Selon les critiques, le fait qu'Altman associe son nom à une cryptomonnaie telle que Worldcoin est une mauvaise chose pour la réputation d'OpenAI. En général, les cryptomonnaies n'ont jamais eu bonne presse (le marché s'est une fois plus effondré brusquement le mois passé) et les pratiques douteuses sur lesquelles repose Worldcoin sont encore plus controversées qu'auparavant.
Altman pourrait appliquer les pratiques douteuses de Worldcoin au sein d'OpenAI
Dans un billet de blogue publié aujourd'hui, Petraeus suggère qu'il est probable qu'OpenAI s'adonne également à des pratiques douteuses dont le public ignore encore l'existence. Petraeus a critiqué le lien entre le projet Worldcoin et OpenAI. « La question la plus importante aujourd'hui est la suivante : voulons-nous que la personne qui a créé ce système soit à la tête de l'un des principaux développeurs de solutions d'IA qui pourraient bientôt dominer de nombreux domaines de notre vie ? ». Même si Altman n'est pas le PDG de Worldcoin, Petraeus pense que les politiques douteuses de Worldcoin peuvent se répercuter sur OpenAI. Il a ajouté :
Envoyé par Michael Petraeus
Les coachs en développement personnel aiment à dire que la façon dont vous faites quelque chose est la façon dont vous faites tout et, bien que ce soit peut-être une exagération, il semble que cela pourrait s'appliquer à au moins un domaine d'activité d'une personne (par exemple, les affaires). J'ai du mal à croire qu'une personne puisse diriger une entreprise de manière résolument différente d'une autre.
Et si Altman n'est pas, à proprement parler, le PDG de Worldcoin (ou de son développeur actuel, Tools for Humanity), il est le président de Tools For Humanity et a cofondé le projet avec Alex Bania, qui en est l'actuel directeur général.
Le PDG d'OpenAI est donc certainement l'une des forces motrices du projet et pourtant, au cours des dernières années, l'entreprise était occupée à contourner les lois locales, à poursuivre des publics vulnérables dans le tiers-monde et à essayer de les recruter pour scanner leur iris avec des promesses très discutables - en particulier en raison de l'absence de cas d'utilisation réel de World ID.
Si c'est là le genre de "growth hacking" auquel il se livre, pouvons-nous vraiment lui faire confiance non seulement pour nos données privées, mais aussi pour savoir comment l'IA développée par son autre entreprise va influencer nos vies, la véracité des informations qu'elle fournit et si personne ne l'utilise comme un outil de propagande, pour nous donner des réponses prédéterminées à des questions politiquement et socialement sensibles ?
Et si Altman n'est pas, à proprement parler, le PDG de Worldcoin (ou de son développeur actuel, Tools for Humanity), il est le président de Tools For Humanity et a cofondé le projet avec Alex Bania, qui en est l'actuel directeur général.
Le PDG d'OpenAI est donc certainement l'une des forces motrices du projet et pourtant, au cours des dernières années, l'entreprise était occupée à contourner les lois locales, à poursuivre des publics vulnérables dans le tiers-monde et à essayer de les recruter pour scanner leur iris avec des promesses très discutables - en particulier en raison de l'absence de cas d'utilisation réel de World ID.
Si c'est là le genre de "growth hacking" auquel il se livre, pouvons-nous vraiment lui faire confiance non seulement pour nos données privées, mais aussi pour savoir comment l'IA développée par son autre entreprise va influencer nos vies, la véracité des informations qu'elle fournit et si personne ne l'utilise comme un outil de propagande, pour nous donner des réponses prédéterminées à des questions politiquement et socialement sensibles ?
Les garanties en matière de protection de la vie privée sont peu convaincantes
La Fondation Worldcoin, l'entité qui régit le protocole Worldcoin, est enregistrée aux îles Caïmans, un paradis fiscal. Certaines sources ont rapporté que les tentatives visant à obtenir le statut fiscal de Tools for Humanity par différents canaux, se sont soldées par un échec. Le fait que la Fondation Worldcoin soit enregistrée aux îles Caïmans et la nature nébuleuse de Tools for Humanity amènent les experts à se poser de nombreuses questions. Certains d'entre eux affirment sans hésiter que Worldcoin ressemble à un énorme stratagème pour mettre la main sur une tonne de données biométriques. Ce qu'Altman et les siens démentent.
« Scannez vos yeux et obtenez 20 dollars en argent fictif qui pourra ou non être échangé plus tard. Et la pièce s'effondrera comme toutes les autres, laissant Sam avec un trésor de données biométriques dont il pourra faire ce qu'il veut », affirme un critique. Worldcoin affirme que le respect de la vie privée est garanti, car l'utilisateur n'a pas à donner son nom lors de l'enregistrement et son iris est stocké sous la forme d'un code numérique abstrait. « Même si cela était vrai - et nous n'avons aucun moyen de le vérifier - l'orbe pourrait se retrouver entre de mauvaises mains », déclare Anna Bacciarelli, responsable des technologies à Human Rights Watch.
Il y a un autre problème. Le formulaire de consentement (que personne ne prend la peine de lire) indique que les orbes prennent également des images à haute résolution du visage, des yeux et du corps de l'utilisateur, en plus d'enregistrer ses signes vitaux, dont le rythme cardiaque et la respiration. Ces données permettent d'identifier avec précision chaque utilisateur, ce qui contredit les déclarations des responsables de Worldcoin. Des autorités européennes chargées de la protection des données voient des signes d'infraction au règlement général européen sur la protection des données (RGPD) et ont lancé des enquêtes.
Worldcoin se présente comme ayant une infrastructure décentralisée et transparente. Mais à l'heure actuelle, l'entreprise est privée, centralisée et opaque. Altman a levé 240 millions de dollars auprès des sociétés de capital-risque les plus connues de la Silicon Valley, notamment Andreessen Horowitz, Tiger Global, Khosla Ventures et Coinbase Ventures. « L'importance du financement du projet souligne l'énorme opportunité commerciale », a déclaré Ella Jakubowska, spécialiste de la biométrie et des droits de l'homme à l'Association européenne pour les droits numériques. Les investisseurs s'attendent d'une manière ou d'une autre à un retour sur investissement.
Selon Jakubowska, il existe un marché évident pour l'identification des robots et des utilisateurs synthétiques sur les plateformes de services numériques. En ce sens, Worldcoin semble être l'antidote à l'autre projet d'Altman : OpenAI. L'objectif présumé d'Altman à travers le projet Worldcoin est de s'impliquer dans les processus démocratiques et d'améliorer l'accès aux programmes sociaux dans le monde entier. Cependant, Jakubowska estime que sa tentative de collecte de données est sinistre. « Créer un code-barres pour chaque habitant de la planète n'a rien d'humanitaire. Worldcoin est l'antithèse d'une communauté », a-t-elle déclaré.
De nombreux pays ont ouvert des enquêtes sur les pratiques de Worldcoin
La biométrie et les cartes d'identité numériques sont de plus en plus utilisées dans le monde pour permettre aux gens de voter et d'accéder à des services de base tels que les soins de santé et les banques alimentaires. Mais la plupart du temps, ces cas d'utilisation des données biométriques sont réservés aux gouvernements. Le fait qu'une entreprise telle que Worldcoin décide de constituer une base de données mondiale de données biométriques a rapidement attiré l'attention des régulateurs, qui ont fait part de diverses préoccupations. Au Kenya, les autorités de régulation ont ordonné à Worldcoin de suspendre les scans d'iris et ont ouvert des enquêtes.
Le gouvernement kenyan a constitué une commission parlementaire de 15 membres chargée d'enquêter sur cet actif numérique controversé. Worldcoin fait également l'objet d'une action en justice intentée par le bureau du commissaire kenyan aux données. Un tribunal a ordonné que les données déjà collectées par Worldcoin entre avril de l'année dernière et août 2023 soient conservées jusqu'à la fin du procès. Les rapports sur les tactiques controversées du projet ont poussé les gouvernements du Nigeria, du Royaume-Uni, de l'Argentine et de l'Allemagne à enquêter sur Worldcoin. En France, la CNIL a également ouvert des enquêtes le mois dernier.
La CNIL dit avoir des doutes sur la légalité de la collecte à grande échelle de données biométriques par Worldcoin. « La légalité de cette collecte [de données] semble douteuse, tout comme les conditions de conservation des données biométriques. La CNIL a ouvert des enquêtes, soutenant le travail des régulateurs bavarois de la vie privée qui ont la responsabilité principale en vertu de la loi européenne », a déclaré un porte-parole de la CNIL dans une déclaration écrite. Selon plusieurs sources, le projet de cryptomonnaie d'Altman est suspendu dans plusieurs pays et ferait actuellement l'objet d'enquêtes dans au moins une demi-douzaine de pays.
Interrogée sur l'enquête des autorités françaises, la fondation Worldcoin a déclaré : « Worldcoin a été conçu pour protéger la vie privée des individus et a mis en place un solide programme de protection de la vie privée et s'est engagé à respecter les exigences réglementaires. La Worldcoin Foundation se conforme à toutes les lois et réglementations régissant le traitement des données personnelles sur les marchés où le Worldcoin est disponible. Le projet continuera à coopérer avec les organismes de tutelle pour répondre aux demandes d'informations supplémentaires sur ses pratiques en matière de protection des données personnelles et de la vie privée ».
Source : billet de blogue
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi
La CNIL ouvre une enquête pour "pratiques douteuses" sur la cryptomonnaie Worldcoin lancée par le PDG d'OpenAI, elle s'interroge sur la légalité de la collecte de données biométriques par Worldcoin Sam Altman, PDG d'OpenAI, lance officiellement sa cryptomonnaie Worldcoin qui vise à créer une base de données mondiale des scans rétiniens des utilisateurs, mais le projet suscite le scepticisme Edward Snowden critique le projet Worldcoin de Sam Altman : « Ne cataloguez pas les globes oculaires », Worldcoin envisage de créer une base de données mondiale des scans rétiniens des utilisateurs Pourquoi Sam Altman veut scanner des milliards d'yeux pour créer la plus grande base de données biométriques au monde, un projet qui souffre de plusieurs défaillances techniques