Qu’y a-t-il à l’intersection de la Crypto et de l’IA ? Peut-être un meurtre

L'expert en sécurité Ari Juels réfléchit depuis aussi longtemps qu'il se souvient de la manière dont la Technologies peut faire dérailler la société. Cela ne veut T dire que Juels, scientifique en chef chez Chainlink et professeur à Cornell Tech, à New York, pense que le monde va bientôt dérailler. Mais au cours de la dernière décennie – avec le développement de grands modèles de langage prenant en charge des systèmes d’intelligence artificielle de plus en plus puissants et des contrats intelligents autonomes et auto-exécutables – les choses ont commencé à évoluer dans une direction plus inquiétante.

Ceci est un extrait de la newsletter The Node, un résumé quotidien des actualités Crypto les plus importantes sur CoinDesk et au-delà. Vous pouvez vous inscrire pour recevoir la newsletter complète ici .

Il existe une « reconnaissance croissante du fait que le système financier peut être un vecteur d’évasion de l’IA », a déclaré Juels dans une interview avec CoinDesk. "Si vous contrôlez l'argent, vous pouvez avoir un impact sur le monde réel." Ce scénario apocalyptique est le point de départ du deuxième roman de Juels, « L'Oracle », un thriller policier publié par le grand éditeur de science-fiction Talos, sur un chercheur de blockchain basé à New York enrôlé par le gouvernement américain pour contrecarrer un protocole Crypto armé.

Situé dans un avenir NEAR , les lecteurs pourraient y voir quelques familiarités avec aujourd'hui. Prenez les recherches du protagoniste sur les contrats intelligents qui peuvent devenir voyous – et tuer – à l’instar de l’article universitaire de Juel de 2015 sur les « contrats intelligents criminels ». Ou des références à la célèbre chemise à carreaux du PDG de Chainlink , Sergey Nazarov. D'autres, comme un puissant outil d'IA qui aide les ordinateurs à interagir avec le monde et à l'interpréter, comme ChatGPT d'OpenAI, n'ont été mis en ligne qu'après que Juels a commencé à écrire.

Voir aussi : L'Homme au Plaid

Heureusement, la fiction est parfois plus étrange que la réalité, et les perspectives de contrats intelligents programmés pour tuer restent une menace lointaine, a déclaré Juels. Il a déclaré qu'il restait prudemment optimiste et pensait que si les gens commençaient à réfléchir aux risques dès aujourd'hui et à concevoir des garde-fous tels que des oracles basés sur la blockchain (essentiellement des systèmes d'alimentation en informations), cela pourrait aider à prévenir les problèmes à long terme.

CoinDesk a rencontré Juels la semaine dernière pour discuter de l'intersection naissante de la blockchain et de l'IA, de la manière dont les choses peuvent dérailler et de ce que les gens sur-estiment et sous-estiment à propos de la Technologies.

Les contrats intelligents comme ceux de « The Oracle » sont-ils possibles aujourd’hui ?

Cela n’est pas possible avec l’infrastructure actuelle, mais est possible ou du moins plausible avec la Technologies actuelle.

Quel est votre calendrier lorsque quelque chose comme les Événements du livre pourrait se produire ?

C'est un peu difficile à dire. Au moins quelques années. Ce qui les rend technologiquement plausibles maintenant, alors qu'en fait ils ne l'étaient T au moment où j'ai commencé à écrire le roman, c'est l'avènement de puissants LLM [grands modèles de langage] parce qu'ils sont essentiellement nécessaires pour juger avec ce que le roman appelle un voyou. contracter. Le contrat voyou sollicitait un crime, dans ce cas, la mort du héros du roman, et d'une manière ou d'une autre, il faut déterminer si le crime a eu lieu ou non et qui en est responsable et devrait donc recevoir une récompense.

Pour faire ces deux choses, vous avez besoin de quelque chose pour extraire des mots-clés des articles de presse - essentiellement un LLM connecté à l'infrastructure blockchain et héritant des mêmes propriétés que les contrats intelligents, à savoir le fait qu'ils sont, du moins en principe, imparables s'ils sont codé pour se comporter de cette façon.

Avez-vous besoin d’une blockchain pour créer des contrats intelligents ?

Cela dépend du modèle de confiance que vous recherchez. Dans un sens, la réponse est non, vous pouvez exécuter des contrats intelligents dans un système centralisé. Mais vous perdriez alors les avantages de la décentralisation, à savoir la résilience aux pannes des appareils informatiques individuels, la résistance à la censure et la certitude que les règles ne changeront T sous votre contrôle.

C’est peut-être une question étrange, mais j’ai pensé que vous pourriez la comprendre : les blockchains sont-elles apolliniennes ?

C'est une question étrange, et je comprends. Je ne dirais pas les blockchains en général, mais les oracles définitivement. Comme vous le savez peut-être, le roman ne parle pas seulement des oracles des temps modernes, mais aussi de l'Oracle de Delphes. Ils visent tous deux à servir de sources définitives de vérité, dans un certain sens. ONEun est littéralement propulsé par le dieu Apollon, du moins selon la croyance des anciens Grecs. Et l’autre est alimenté par des sources de données faisant autorité comme des sites Web. Donc, si vous adoptez ce point de vue, oui, je dirais que les systèmes oraculaires sont de nature apollinienne parce qu’Apollon était le Dieu de la vérité.

La Politique de confidentialité de la blockchain est-elle suffisante aujourd’hui ?

Toute Technologies comporte une épée à double tranchant. Il y a évidemment des aspects positifs et importants à la Politique de confidentialité. Vous ne pouvez T avoir une société véritablement libre sans Politique de confidentialité. Les pensées des gens doivent au minimum rester privées pour que les gens puissent agir librement. Mais la Politique de confidentialité peut être abusée. Les activités criminelles peuvent utiliser la Technologies blockchain. Mais je dirais que nous ne disposons T encore aujourd’hui d’outils de protection de la vie privée suffisamment puissants pour offrir aux utilisateurs les avantages de la Politique de confidentialité que je pense qu’ils méritent.

Voir aussi : Le code n'est pas (toujours) une loi | Analyses

Diriez-vous que la Technologies dans son ensemble est une force généralement positive ?

La Technologies présente des avantages évidents. Nous avons parcouru un très long chemin vers l'éradication de la pauvreté mondiale, et c'est l' une des bonnes nouvelles que les gens ont tendance à négliger. Mais l’utilisation des nouvelles technologies a eu des coûts – cela devient visible quand on regarde le bonheur ou le contentement général des habitants des pays riches occidentaux, qui a stagné. Cela peut être expliqué en partie comme un effet secondaire de la Technologies. D’autres facteurs entrent en jeu, notamment une rupture de la cohésion sociale et un sentiment de solitude, mais la Technologies en est dans une certaine mesure responsable.

ONEune des raisons pour lesquelles j'ai incorporé la dimension grecque antique [dans L'Oracle] est que j'ai l'impression que ONEune des choses que nous perdons en raison de l'omniprésence de la Technologies est un certain sentiment de respect. Le fait que nous ayons à portée de main les réponses à la plupart des questions que nous posions naturellement avec Google ou les agents de l’IA signifie une diminution du sentiment d’émerveillement et de mystère qui nous enveloppait auparavant. Nous avons moins de place dans notre vie quotidienne pour explorer intellectuellement. Il faut creuser plus profondément, si cela a du sens.

C'est une belle idée. Le World Wide Web ne contient T la totalité des connaissances Human , mais il en constitue une part importante. Pourtant, nous l’utilisons principalement pour assouvir nos désirs fondamentaux.

Nous avons reçu ce cadeau incroyable. Et c'est étonnamment difficile pour nous de l'apprécier.

À quoi réagissons-nous de manière excessive en matière de Technologies?

J’ai tendance à être quelque peu optimiste en ce qui concerne les scénarios apocalyptiques de l’IA. Je ne suis en aucun cas un expert en la matière, mais j'étudie la sécurité de l'information depuis assez longtemps. Et l’analogie que j’aime faire, et j’espère qu’elle tient, concerne le bogue de l’an 2000. Les scénarios apocalyptiques envisagés par les gens ne se sont T produits. Aucune intervention manuelle T nécessaire. Nous avons tous ces types de disjoncteurs cachés en place. Je ressens donc un certain degré de confiance dans le fait que ces coupe-circuits se déclencheront si, par exemple, un agent IA devient un voyou. Cela me procure au moins un certain degré de confort et Optimism quant à l’avenir de l’IA.

J'ai remarqué que la plupart de vos écrits scientifiques sont normalement co-écrits. Était-ce un grand changement d’écrire seul ?

Oui, c’était un changement énorme à bien des égards par rapport à la rédaction d’un article scientifique. La ONE est que lorsque vous rédigez un article scientifique, le langage doit être sec, sinon l’article risque d’être rejeté par ses pairs. Une drôle d'histoire à ce sujet. En 1999, j'ai co-écrit un article – en fait, c'était l'article qui proposait le terme preuve de travail [le mécanisme de consensus derrière Bitcoin]. Nous avons cité un livre de cuisine populaire, « The Joy of Cooking », parce que le titre de l'article incluait le mot pudding au pain et nous voulions une référence pour expliquer de quoi il s'agissait. Un critique a voulu rejeter l'article parce qu'il estimait que cette référence n'était T suffisamment scientifique. C'est le type de milieu dans lequel vous évoluez dans le milieu universitaire.

Mais surtout, lorsqu'on travaille seul sur un projet de ce type, cela laisse beaucoup plus libre cours à l'imagination. C'est ONEun des avantages de la collaboration avec d'autres personnes et ONEune des raisons pour lesquelles je le fais : cela peut vous aider à formuler des idées, mais aussi servir de contrôle sur les idées qui T fonctionnent T ou qui n'ont T de sens. Dans le cas de la fiction, dans certaines limites, il n’existe pas d’idée qui ne fonctionne T ou qui n’ait T de sens.

Avez-vous des techniques de travail inhabituelles, venant de quelqu'un qui enseigne dans l'Ivy League, fait des recherches pour Chainlink et écrit pendant son temps libre ?

Cela dépend de l'ensemble des projets avec lesquels je jongle. Ce qui m'a été utile lorsque j'essayais de gagner du temps pour le livre, c'est que j'étais obsédé par l'idée de l'écrire. C’était un véritable processus de Flow . Le psychologue hongrois Mihaly Csikszentmihalyi a exploré le concept de Flow, le définissant comme une activité dans laquelle vous pouvez maintenir une concentration unique sur une période prolongée et perdre la notion du temps. L'écriture m'a placé dans un état de Flow . Je l'ai inséré dans les petits coins et recoins du temps dont je disposais.

Pensez-vous que les NFT sont surfaits ou sous-estimés ?

Les singes qui s'ennuient sont surfaits. Les NFT inutiles sont surfaits. Mais l’avenir à long terme des NFT est peut-être sous-estimé. Dans un certain sens, il s'agit d'un nouveau médium artistique, à l'instar de la photographie au XIXe siècle. Ce n’est que lentement que les gens ont commencé à considérer la photographie comme un véritable médium artistique. Sur le long terme, je suis en fait plutôt optimiste même si je n'ai T réussi à convaincre mes doctorants de travailler sur des projets liés au NFT.

Intéressant. L’intérêt pour la Crypto change-t-il cohorte par cohorte ?

Cela change d’un individu à l’autre. Par exemple, certains doctorants arrivent sans savoir sur quoi ils veulent travailler et je finirai par les aider à mettre en place une direction de recherche. Et d’autres savent dès le ONE jour exactement ce qu’ils veulent faire. J'ai un étudiant sur le point d'obtenir son diplôme qui savait qu'il voulait travailler sur DeFi. C'est essentiellement ce qu'il a fait pendant cinq ans en travaillant avec moi. Je vois le rôle d'un directeur de thèse comme celui d'aider mes doctorants à accomplir tout ce qu'ils veulent accomplir.

Avez-vous autre chose à dire sur le livre ?

Une chose que je souhaite souligner, un message important pour la communauté dans son ensemble, est la reconnaissance croissante du fait que le système financier peut être un vecteur de fuite de l’IA. Les gens s’inquiètent de voir des agents d’IA s’échapper de leurs limites et contrôler des systèmes cyber-physiques comme des véhicules autonomes, des centrales électriques ou des systèmes d’armes – c’est le scénario qu’ils ont en tête. Je pense qu’ils oublient que le système financier, en particulier les Cryptomonnaie, est particulièrement bien adapté au contrôle des agents de l’IA et peut lui-même être un vecteur d’évasion. Si vous contrôlez l’argent, vous pouvez avoir un impact sur le monde réel, n’est-ce pas ?

Voir aussi : Qu’est-ce que Chainlink?

La question est de savoir comment gérer la sécurité de l’IA compte tenu de cette préoccupation très particulière concernant les systèmes blockchain ? Le livre nous a en fait amené, moi et mes collègues de Chainlink , à réfléchir à la manière dont Oracle agit en tant que gardien de ce nouveau système financier et au rôle qu'il pourrait jouer dans la sécurité de l'IA.

Y a-t-il quelque chose de tangible en tête que Chainlink peut faire pour empêcher quelque chose comme ça ?

C'est une chose à laquelle je viens juste de commencer à réfléchir, mais certaines des garde-fous déjà présents dans les systèmes que nous construisons, comme le CCIP ou les ponts à chaînes croisées, seraient en fait utiles dans le cas d'une évasion de l'IA en établissant des limites à ce qu'est un malware. l'agent pourrait faire. C'est un point de départ. Mais la question est la suivante : avons-nous besoin de mesures telles que la détection des anomalies pour détecter non seulement les activités Human malveillantes, mais aussi les activités d’IA malveillantes ? C'est un problème important, c'est d'ailleurs un ONE auquel je commence à accorder pas mal d'attention.