Réflexions sur les problèmes de confidentialité de Worldcoin : quels risques en valent la peine

Auteur : Matthew Green, Compilateur : Huohuo/Vernacular Blockchain

Récemment, un lecteur m'a écrit pour me demander si j'aimerais jeter un œil au Worldcoin de Sam Altman, probablement en y réfléchissant du point de vue de la confidentialité. Honnêtement, c'est la dernière chose que je veux faire parce que la vie est courte et cela ne semble pas avoir beaucoup de sens d'étudier cela.

Cependant : cette exigence me rend curieux. Contrairement à mon meilleur jugement, j'ai décidé de passer quelques heures à examiner la documentation et le code de Worldcoin – dans l'espoir d'éliminer les signaux d'alarme techniques évidents et ainsi de donner une explication vraiment crapuleuse de tout cela.

Plus sérieusement, cet article est ma tentative d’examiner le système Worldcoin du point de vue des soupçons en matière de confidentialité, afin de comprendre à quel point ce projet est réellement risqué. Les risques qui m'inquiètent sont doubles :

(1) Risques involontaires pouvant être apportés aux utilisateurs en raison d'une négligence de la part de Worldcoin

(2) Risques « intentionnels » pouvant résulter de décisions commerciales futures (qu'elles soient actuellement planifiées ou non)

Pour ceux qui n'aiment pas les longs articles de blog, voici ce qu'il faut retenir : je n'ai pas trouvé autant de signaux d'alarme que prévu. En fait, même si je suis toujours enclin à être sceptique quant aux problèmes de confidentialité de Worldcoin, je suis moins sûr de cette conclusion qu'elle ne pourrait l'être.

1. Qu'est-ce que Worldcoin ? Pourquoi devrais-je m'en soucier

Worldcoin est une nouvelle crypto-monnaie financée par Sam Altman et gérée par Alex Blania. Selon les documents marketing du projet, l'objectif du projet est de servir les « personnes non bancarisées dans le monde » et, pour ce faire, il se transformera d'une manière ou d'une autre en une forme de revenu de base universel. Bien que cela ne ressemble pas à un plan d’affaires, il s’agit de frais assez standards pour les projets de crypto-monnaie. Relativement peu de ces projets ressemblent à des « cas d'utilisation réels », et il est courant que les projets s'engagent dans l'équivalent de « offrir quelque chose gratuitement dans l'espoir que tout le monde l'utilisera d'une manière ou d'une autre ».

L'Orbe Worldcoin.

Ce qui distingue Worldcoin des autres projets, c'est que la monnaie gratuite est soumise à une condition surprenante : pour rejoindre le système Worldcoin et collecter des jetons gratuits, les utilisateurs doivent abandonner leurs yeux pour être scannés à la recherche d'informations.

Eh bien, c'est évidemment un peu dramatique. Sur une note plus sérieuse : la nouvelle contribution technologique de Worldcoin est un capteur biométrique exclusif appelé « sphère », qui permet au système d'identifier de manière unique les utilisateurs en scannant leurs iris, ce qui n'est pas par hasard l'une des caractéristiques d'identification biologiques les plus abondantes. Worldcoin utilise ces analyses pour générer ce qu'ils appellent des « preuves de personnalité » et, selon le projet, ces informations d'identification auront un certain nombre d'applications non spécifiées à l'avenir.

Quelle que soit l'application à long terme de cette technologie**, l'objectif à court terme du projet est d'enregistrer des centaines de millions de globes oculaires dans leur système, en utilisant le balayage de l'iris pour garantir qu'aucun utilisateur ne puisse être enregistré deux fois. **Beaucoup ont exprimé des inquiétudes quant aux risques potentiels du programme en matière de sécurité et de confidentialité. De plus, on soupçonne que Worldcoin pourrait finir par abuser ou profiter de la vaste base de données biométrique qu'il est en train de construire.

Worldcoin a sans doute été critiqué pour ne pas avoir réussi à articuler une analyse de rentabilisation réaliste pour sa technologie (qui, comme je l’ai dit plus haut, est commune à de nombreux projets de crypto-monnaie). Au lieu de cela, le projet affirme que leurs bases de données biométriques ne peuvent pas être utilisées à mauvais escient, car elles intègrent diverses fonctionnalités préservant la confidentialité.

2. Plan Worldcoin

Worldcoin fait des affirmations importantes sur son système. Premièrement, ils insistent sur le fait que les analyses de l’iris n’ont qu’un seul objectif : identifier les utilisateurs en double au moment de l’inscription. En d’autres termes, ils l’utilisent simplement pour empêcher le même utilisateur de s’inscrire plusieurs fois (et ainsi de collecter des récompenses en double). Ils le prétendent - mais pas de manière particulièrement cohérente, voir ci-dessous ! — Votre iris lui-même n'agit pas comme une sorte de « clé » de sauvegarde pour accéder aux fonds du portefeuille ou aux services financiers.

C’est une affirmation très importante ! Un système qui utilise uniquement des codes d'iris pour identifier les utilisateurs réguliers exposerait ses utilisateurs à relativement peu de menaces immédiates. Cela dit, le pire qu’un attaquant puisse faire est de trouver un moyen de frauder directement Worldcoin. En revanche, les systèmes qui utilisent la biométrie pour autoriser les transactions financières peuvent être plus dangereux pour les utilisateurs. Si le balayage de l’iris peut être utilisé pour voler de l’argent, alors l’ensemble du système est très dangereux.

Deuxièmement, Worldcoin affirme qu'il ne stocke pas l'image originale de votre iris réel, sauf si vous le lui demandez. Ils ne stockeront que des valeurs dérivées appelées « codes iris » :

** **

Une dernière déclaration de Worldcoin est qu'ils ne relient pas vos données biométriques à de grandes quantités de données personnelles ou financières qui pourraient rendre leurs bases de données disponibles pour le suivi. Pour ce faire, ils rendent la fourniture d’informations personnelles identifiables (PII) facultative plutôt qu’obligatoire. De plus, ils utilisent une technologie qui empêche les entreprises de lier les transactions blockchain à vos enregistrements iris :

De toute évidence, certains problèmes subsistent ici : en particulier, prétendre que vous "n'avez pas besoin" d'informations personnelles laisse la possibilité aux gens de fournir "volontairement" des informations. Cela pourrait poser un problème lorsque des sous-traitants non supervisés de Worldcoin collectent des données dans des communautés relativement pauvres. Franchement, c'est un peu bizarre que Worldcoin autorise les utilisateurs à soumettre ces données en premier lieu s'ils n'avaient pas l'intention d'en faire quelque chose.

3. Brève introduction de la technologie Worldcoin

Remarque : une grande partie de ce qui suit est basée sur la propre documentation de Worldcoin, ainsi que sur un examen de certains de ses codes de contrat. Je ne les ai pas tous vérifiés et certains d'entre eux peuvent être incorrects.

**Worldcoin utilise deux technologies différentes. Le premier est un jeton de crypto-monnaie standard basé sur EVM (ERC20), qui s'exécute sur la « couche 2 » **blockchain Optimism. La seconde est que l’entreprise peut créer des jetons basés sur un modèle « d’offre inflationniste » limité, puis les distribuer aux gens. Bien que le protocole en chaîne de Worldcoin présente de nouveaux aspects qui affectent la confidentialité, cette partie du projet est plutôt ennuyeuse. (J'en discute plus loin ci-dessous.)

La nouveauté de Worldcoin réside dans sa technologie d'authentification biométrique « Preuve de personnalité ». Le site Web du projet Worldcoin en dit long sur les applications futures de la technologie, dont beaucoup impliquent « l'intelligence artificielle ». Actuellement, cette technologie n’est utilisée que dans un seul but : garantir que chaque utilisateur de Worldcoin ne s’enregistre qu’une seule fois pour son largage en monnaie publique. Cette garantie permet à Worldcoin d'offrir des jetons gratuits aux utilisateurs enregistrés sans craindre que la même personne soit récompensée plusieurs fois.

Pour s'inscrire dans le système, les utilisateurs doivent se rendre dans un emplacement d'analyse de la sphère Worldcoin, où ils doivent s'authentifier auprès d'un opérateur réel. La sphère prétend contenir un matériel inviolable qui scanne un ou les deux yeux de l'utilisateur, tout en effectuant divers tests pour garantir que les globes oculaires appartiennent à un humain vivant et respirant. Le capteur prend une image haute résolution de l'iris, qui est ensuite traitée en interne dans la sphère à l'aide d'un algorithme choisi par Worldcoin. Le résultat de ce processus est une « valeur condensée » appelée code d’iris.

Les codes d'iris fonctionnent comme des « hachages » flous d'iris : il est crucial qu'un code d'iris puisse être comparé à un autre, de sorte que si la « distance » entre une paire est suffisamment petite, les deux peuvent être considérés. Les deux codes sont dérivés du même code d'iris. **iris. ****Cela signifie que le code doit être capable de gérer les petites erreurs causées par le processus de numérisation, ainsi que les petits changements liés à l'âge aux yeux de l'utilisateur. **(Je ne suis pas clair sur l'algorithme exact que Worldcoin utilise aujourd'hui, car leur documentation mentionne deux approches différentes : une basée sur l'apprentissage automatique et une utilisant des techniques de traitement d'image plus standard.) En théorie, utilisation dans la falsification Algorithme de code d'iris calculé - La résistance matérielle devrait signifier que vos analyses d'iris brutes sont sûres - la sphère n'a jamais besoin de les émettre, elle peut simplement afficher ce code d'iris (espérons-le) beaucoup moins précieux.

(En pratique, cependant, ce n'est pas tout à fait vrai : Worldcoin permet aux utilisateurs d'accepter le « dépôt de données », ce qui signifie que leurs scans d'iris originaux seront également stockés par le projet. Worldcoin affirme que ces images seront cryptées, bien que cela peut être fait en utilisant le projet lui-même. Clés détenues. Le séquestre est promu comme un moyen de mettre à jour l'algorithme de codage de l'iris sans obliger les utilisateurs à scanner à nouveau leurs yeux sur la sphère. On ne sait pas combien d'utilisateurs ont opté pour ce séquestre, et ce n'est pas très bon. )

Une fois que la sphère a scanné l'utilisateur, le code de l'iris est téléchargé sur un serveur exploité par la société Altman/Blania Tools for Humanity**. **Ce code peut ou non être attaché à d'autres informations personnelles des utilisateurs collectées par Worldcoin, telles que les numéros de téléphone et les adresses e-mail (la documentation de Worldcoin est légèrement vague sur ce point, sauf pour indiquer que ces données sont "facultatives". ) Le serveur compare maintenant le nouveau code à sa base de code iris précédemment enregistrée. Si le nouveau code est suffisamment « éloigné » de tous les codes précédents, le système considérera que l'utilisateur est le seul utilisateur qui s'inscrit pour la première fois. (Ces documents sont également un peu vagues sur ce qui se passe une fois que vous êtes déjà inscrit, voir ci-dessous.)

Pour terminer le processus d'inscription, les utilisateurs téléchargent le logiciel de portefeuille de Worldcoin pour générer deux formes différentes d'informations d'identification :

1. La clé publique et la clé privée standard du portefeuille Ethereum sont utilisées pour contrôler réellement les fonds du contrat Worldcoin ERC20.

2. Un identifiant numérique dédié appelé « promesse d'identité » avec son propre matériel de chiffrement correspondant.

*Il est important de noter qu'aucun élément clé ne provient de l'analyse biométrique de l'utilisateur. L'« engagement d'identité » (public) est téléchargé sur Tools for Humanity, stocké dans une base de données avec le code iris de l'utilisateur, tandis que tous les éléments de clé secrète sont stockés localement sur le téléphone de l'utilisateur (pourraient être sauvegardés via le stockage cloud). Comme dernière étape, Tools for Humanity exporte l'engagement d'identité de l'utilisateur (mais pas les données du code de l'iris !) dans une structure de données gérée par un contrat intelligent résidant sur la blockchain Worldcoin. **

Les utilisateurs ont la possibilité de télécharger des scans d'iris et de les héberger.

D'ACCORD Il ne reste qu'une chose.

Comme mentionné précédemment, l'intérêt de l'activité de numérisation de l'iris est de permettre aux utilisateurs d'effectuer des assertions sur sa blockchain qui « prouvent » qu'ils sont uniquement humains : la plus évidente est de demander un jeton de largage aérien. (Il convient de noter que ces affirmations se produisent après le processus d'enregistrement et n'utilisent que les éléments clés de votre portefeuille : cela signifie qu'une fois que vous avez été scanné dans le système, il est possible de vendre vos données d'identité.)

Du point de vue de la confidentialité, une préoccupation très réelle concernant ces affirmations est que Worldcoin (alias outils humains) pourrait surveiller ces transactions en chaîne, reliant le portefeuille d'un utilisateur à l'enregistrement biométrique unique qui lui est associé. Cela créerait immédiatement une source précieuse de données biométriques et financières liées, l’une des préoccupations les plus évidentes de tels systèmes.

À son honneur : Worldcoin semble reconnaître qu’il s’agit d’un problème. Leur protocole aborde ces problèmes de deux manières. **Tout d'abord : ils ne téléchargent pas les adresses de portefeuille Ethereum des utilisateurs sur les serveurs de Tools for Humanity. **Cela signifie que les transactions financières effectuées par l'utilisateur ne doivent pas être facilement liées aux informations d'identification biométriques de l'utilisateur. (Cela ne rend évidemment pas la liaison impossible : la transaction peut être liée à l'utilisateur ultérieurement via une analyse de blockchain publique.) Mais Worldcoin essaie ici d'éviter les pièges évidents.

Cela résout la moitié du problème. **Cependant, afin de pouvoir effectuer un parachutage sur le portefeuille d'un utilisateur, Worldcoin doit à un moment donné **** lier l'engagement d'identité de l'utilisateur à l'adresse de son portefeuille. **Si cela est mis en œuvre naïvement, cela semble nécessiter une transaction publique de blockchain qui mentionnerait l'adresse du portefeuille cible et l'engagement d'identité - cela les relierait implicitement (via des liaisons connues du serveur d'outils humains) au code d'iris biométrique de l'utilisateur. C'est très mauvais.

Worldcoin évite ce problème de manière soignée : sa blockchain utilise des preuves de connaissance nulle pour autoriser les largages aériens**. Plus précisément, une fois l'engagement d'identité placé sur la chaîne, les utilisateurs peuvent utiliser leur portefeuille pour générer des transactions préservant la confidentialité afin de « prouver » la déclaration suivante : « Je connais la clé correspondant à un engagement d'identité valide sur la chaîne, et je n'ai aucun précédent. une attestation a été faite contre cette promesse. » Surtout, l’attestation ne révèle pas quelle promesse l’utilisateur cite. Ces garanties rendent relativement plus difficile pour toute partie externe (y compris Tools for Humanity) de relier cette transaction à l'identité et au code iris de l'utilisateur.

Worldcoin utilise un système d'identification sans connaissance** appelé Semaphore (développé par le projet Ethereum, qui utilise une architecture très similaire à Zcash) pour effectuer ces transactions. ** Bien qu'il existe une tonne de façons différentes pour que tout cela puisse mal se passer dans la pratique (plus de détails ci-dessous), d'un point de vue architectural, l'approche de Worldcoin semble bien pensée. Surtout, cela devrait aider à empêcher les transactions de largage en chaîne d’être directement liées aux identifiants biométriques enregistrés par des outils humains.

Pour résumer tout ce qui précède... Si Worldcoin fonctionne comme annoncé, alors après vous être inscrit et utilisé le système, ce qui suit devrait être vrai :

1. Tools for Humanity stockera une copie de votre code iris dans sa base de données.

2. En supposant que vous acceptiez l'hébergement de données, Tools for Humanity peut également stocker une copie de votre analyse d'iris originale. (Ces données seront cryptées à l'aide d'une clé connue de TfH.)

3. Tools for Humanity stockera un mappage entre chaque code d'iris et la « promesse d'identité » correspondante, qui est essentiellement la partie publique de vos informations d'identification.

4. Tools for Humanity peut avoir lié les codes d'iris à d'autres informations personnelles qu'ils collectent sélectivement, telles que les numéros de téléphone et les adresses e-mail.

5. Tools for Humanity ne doit pas connaître l’adresse de votre portefeuille.

6. Toutes vos clés seront stockées sur votre téléphone et ne seront sauvegardées nulle part ailleurs, sauf si vous activez la sauvegarde. (Les Worldcoins peuvent également vous permettre de "récupérer" avec un numéro de téléphone, mais cette fonctionnalité n'a pas fonctionné pour moi, donc je ne suis pas sûr de ce qu'elle fait.)

7. Si vous effectuez des transactions sur la blockchain faisant référence à des engagements en matière d'identité, ni Worldcoin ni TfH ne doivent lier ces transactions à votre identité.

8. Dernier (et le plus important) : les informations biométriques (ou les informations dérivées de la biométrie) ne sont pas envoyées à la blockchain ni stockées sur votre téléphone.

Tom Cruise a changé son code de globe oculaire dans Minority Report.

Comme vous pouvez le constater, le système semble éviter certains des pièges les plus évidents des systèmes de blockchain basés sur la biométrie : il ne télécharge pas d'informations biométriques brutes aux bénévoles. La blockchain est gérée par le propriétaire. De plus, les analyses de l'iris ne sont pas utilisées pour obtenir des éléments clés ou pour payer des crypto-monnaies (bien que nous en reparlions ci-dessous). La quantité de données associées à vos informations d'identification biométriques est relativement faible (à l'exception de ces numéros de téléphone !), et les transactions en chaîne ne sont pas facilement liées aux informations d'identification.

Cette architecture élimine de nombreuses menaces qui pourraient entraîner le vol de votre œil ou devoir être remplacé.

4. Quelle est l’utilisation future des données sur l’iris ?

Comme je l'ai mentionné précédemment, un système qui utilise uniquement des codes d'iris pour identifier les utilisateurs réguliers présente relativement peu de menace pour les utilisateurs eux-mêmes. En revanche, les systèmes qui utilisent la biométrie pour autoriser les transactions financières peuvent courir un plus grand risque. Pour paraphraser un vieil adage : si le balayage de l'iris peut être utilisé pour voler de l'argent, les utilisateurs doivent probablement dormir les yeux ouverts**. **

Bien que l'architecture actuelle de Worldcoin ne semble pas autoriser l'utilisation de données biométriques pour les transactions, cela ne signifie pas que la plateforme fonctionnera toujours de cette façon. L’existence de bases de données biométriques pourrait inciter les entreprises à utiliser ces données à des fins plus dangereuses.

Permettez-moi d'être plus précis.

**Le problème d'expérience utilisateur le plus connu dans le domaine des crypto-monnaies est que la caractéristique « déterminante » des crypto-monnaies - l'auto-conservation des fonds - est très difficile à utiliser. Les utilisateurs perdent souvent les clés de leur portefeuille et avec elles tous leurs fonds. Ce problème est répandu même pour les adeptes matures des crypto-monnaies du premier monde qui ont accès à des coffres-forts bancaires et à des portefeuilles matériels dédiés. **Ce serait un problème encore plus grave pour une crypto-monnaie qui prétend être un « revenu de base universel » mondial pour des milliards de personnes qui manquent de ces ressources.

Si Worldcoin veut réussir selon ses propres normes, c'est-à-dire devenir une crypto-monnaie mondiale avec un milliard d'utilisateurs, il doit alors faire face au fait que de nombreux utilisateurs perdront les secrets de leur portefeuille**. ****Ces personnes voudront se réautoriser pour récupérer ces fonds. Contrairement à la plupart des crypto-monnaies, la base de données biométrique de Worldcoin constitue la ressource ultime pour y parvenir. **

Le livre blanc de Worldcoin décrit comment utiliser la biométrie comme mécanisme de récupération de compte de dernier recours. Il n’y a actuellement aucune mention de cela sur le site Web de Worldcoin.

Actuellement, l’entreprise ne peut pas utiliser la biométrie pour récupérer les portefeuilles perdus, mais elle dispose de nombreux outils nécessaires pour le faire. Dans le système actuel, la situation est la suivante :

1. En principe, les serveurs de Tools for Humanity pourraient relier les codes d'iris existants à de nouvelles promesses d'identité. Ils peuvent ensuite envoyer de nouveaux engagements à la chaîne en utilisant des appels spéciaux dans le contrat intelligent.

2. Bien que cela puisse permettre aux utilisateurs d'obtenir un deuxième airdrop (si Worldcoin/TfH choisit de l'autoriser), cela ne permet (actuellement) pas aux utilisateurs de contrôler les portefeuilles existants.

Par conséquent, afin de permettre la récupération du portefeuille, Worldcoin devrait modifier ses contrats en chaîne, ce qui impliquerait soit de remplacer le contrat ERC20 par un contrat permettant la récupération autorisée par ID, soit de déployer plus concrètement une nouvelle forme de portefeuille de contrats intelligents qui permet les utilisateurs doivent transmettre les assertions d'identité "Réinitialiser" la propriété. Worldcoin n’a encore fait aucune de ces choses, et je suis curieux de savoir comment ils résisteront au stress à long terme.

5. Quels sont les autres problèmes de confidentialité ?

Une autre préoccupation évidente est que Tools for Humanity pourrait utiliser sa base de données biométrique comme une sorte de « soupe aux pierres » pour créer une future base de données biométrique (et plus invasive pour la vie privée) qui pourrait ensuite être déployée pour interagir avec les crypto-monnaies dans des applications indépendantes . Par exemple, une application évidente consiste à enregistrer et à autoriser le crédit pour les clients qui ne disposent pas d’une pièce d’identité émise par le gouvernement. Je peux voir les sociétés de capital-risque de la Silicon Valley devenir vraiment enthousiasmées par cela.

En principe, rien n’empêche le projet d’évoluer dans ce sens à l’avenir. D’un autre côté, un contre-argument raisonnable est que si Worldcoin voulait vraiment faire cela, ils auraient pu le faire dès le début : cela semble un peu distrayant d’avoir beaucoup de gens à bord avec une étrange crypto-monnaie respectueuse de la vie privée. Mais peut-être que mon imagination ne suffit pas.

** Une préoccupation connexe est que Worldcoin pourrait d'une manière ou d'une autre superposer davantage les informations personnelles à sa base de données existante, ou trouver d'autres moyens de rendre ces données plus précieuses - même si les données en chaîne ne peuvent pas être liées. **Certains rapports indiquent que les employés de Worldcoin collectent des numéros de téléphone et d'autres informations personnelles identifiables dans le cadre du processus d'inscription. Si Worldcoin n’a pas l’intention d’utiliser ces données d’une manière ou d’une autre à l’avenir, on ne sait vraiment pas pourquoi il collecterait ces données.

Au final, il est fort possible que Worldcoin ait les meilleures intentions du monde et finisse par tout gâcher. Les bases de données peuvent être volées. **** Les preuves sans connaissance sont notoirement difficiles à obtenir, et même de petites vulnérabilités temporelles peuvent créer d'énormes violations de la vie privée : par exemple, il ne devrait pas être difficile de deviner le lien entre une clé et une identité en se basant uniquement sur combien de temps les deux sont engagés. Publié en chaîne.

Le système de Worldcoin déploiera presque certainement divers serveurs back-end pour aider à générer des preuves (par exemple, obtenir des chemins Merkle), et les journaux de ces serveurs peuvent encore porter atteinte à la confidentialité. Alors que Worldcoin continue de « décentraliser » la base de données World ID (quoi qu’il en coûte), la situation ne fera qu’empirer.

6. Conclusion

J'écris ceci avec beaucoup de scepticisme à propos de Worldcoin : je suis convaincu à 100 % que le projet est une excuse pour amorcer une précieuse base de données biométrique qui sera utilisée dans les applications de commerce électronique et que Worldcoin construira ses systèmes pour maximiser les données. possibilités de collecte.

Après avoir fait quelques recherches sur ce projet, je suis encore un peu sceptique pour être honnête. Je pense que Worldcoin est en quelque sorte une excuse pour amorcer de précieuses bases de données biométriques pour les applications de commerce électronique. ****Mais je dirais que mon niveau de confiance a chuté à environ 40 %. C'est principalement parce que je ne peux pas penser à une histoire convaincante sur ce qu'un futur Worldcoin maléfique fera avec une grande base de données composée de codes d'iris et de quelques numéros de téléphone. Plus important encore, j'ai été agréablement surpris par la quantité d'efforts déployés par Worldcoin pour maintenir les données de transaction découplées de la base de données d'identification.

Il me manque sans doute encore quelque chose, peut-être que quelqu'un d'autre ajoutera quelques détails et corrections. En attendant, personnellement, je ne roulerais toujours pas mes yeux vers l’Orbe.