Cosa c'è all'intersezione tra Cripto e AI? Forse omicidio

L’esperto di sicurezza Ari Juels riflette da sempre su come la Tecnologie possa far deragliare la società. Ciò T significa che Juels, il capo scienziato di Chainlink e professore alla Cornell Tech, a New York City, pensi che il mondo andrà fuori dai binari presto. Ma negli ultimi dieci anni – con lo sviluppo di ampi modelli linguistici che supportano sistemi di intelligenza artificiale sempre più potenti e contratti intelligenti autonomi e autoeseguibili – le cose hanno iniziato a prendere una direzione più preoccupante.

Questo è un estratto dalla newsletter di The Node, una raccolta quotidiana delle notizie Cripto più cruciali su CoinDesk e oltre. Puoi iscriverti per ricevere la newsletter completa qui .

C’è un “crescente riconoscimento del fatto che il sistema finanziario può essere un vettore di fuga dall’intelligenza artificiale”, ha affermato Juels in un’intervista a CoinDesk. “Se controlli il denaro, puoi avere un impatto sul mondo reale.” Questo scenario apocalittico è il punto di partenza per il secondo romanzo di Juels, "The Oracle", un thriller pubblicato da Talos, importante marchio di fantascienza, su un ricercatore blockchain con sede a New York arruolato dal governo degli Stati Uniti per contrastare un protocollo Cripto armato.

Ambientato in un NEAR futuro, i lettori potrebbero vedere alcune familiarità con oggi. Prendiamo la ricerca del protagonista sui contratti intelligenti che possono diventare canaglia – e uccidere – in modo simile al documento accademico di Juel del 2015 sui “contratti intelligenti criminali”. O riferimenti alla famosa camicia a quadri del CEO di Chainlink Sergey Nazarov. Altri, come un potente strumento di intelligenza artificiale che aiuta i computer a interagire e interpretare il mondo, come ChatGPT di OpenAI, sono arrivati ​​online solo dopo che Juels ha iniziato a scrivere.

Vedi anche: L'uomo in plaid

Per fortuna, la finzione a volte è più strana della realtà, e le prospettive di contratti intelligenti programmati per uccidere rimangono una minaccia lontana, ha detto Juels. Ha detto di rimanere cautamente ottimista sul fatto che se le persone iniziassero a pensare ai rischi oggi e a progettare guardrail come oracoli basati su blockchain (essenzialmente sistemi di alimentazione delle informazioni), ciò potrebbe aiutare a prevenire i problemi a lungo termine.

CoinDesk ha incontrato Juels la scorsa settimana per discutere della crescente intersezione tra blockchain e intelligenza artificiale, dei modi in cui le cose possono andare fuori dai binari e di ciò che le persone sopravvalutano e sottovalutano la Tecnologie.

Oggi sono possibili contratti intelligenti come quelli di “The Oracle”?

Non sono possibili con le infrastrutture odierne, ma sono possibili o almeno plausibili con la Tecnologie odierna.

Qual è la tua cronologia per quando qualcosa come gli Eventi del libro potrebbero svolgersi?

E' un po' difficile da dire. Almeno qualche anno. Ciò che li rende tecnologicamente plausibili ora, quando in realtà T erano al momento in cui ho iniziato a scrivere il romanzo, è l'avvento di potenti LLM [modelli linguistici di grandi dimensioni] perché sono necessari essenzialmente per giudicare ciò che il romanzo chiama un ladro. contrarre. Il contratto canaglia sollecitava un crimine, in questo caso la morte dell'eroe del romanzo, e in qualche modo bisogna decidere se il crimine è avvenuto o meno e chi ne è responsabile e dovrebbe quindi ricevere una ricompensa.

Per fare queste due cose, hai bisogno di qualcosa che estragga le parole chiave dagli articoli di notizie - fondamentalmente un LLM collegato all'infrastruttura blockchain ed eredita le stesse proprietà dei contratti intelligenti, vale a dire il fatto che sono, almeno in linea di principio, inarrestabili se lo sono codificato per comportarsi in quel modo.

Hai bisogno di una blockchain per costruire contratti intelligenti?

Dipende dal modello di fiducia che stai cercando. In un certo senso, la risposta è no, potresti gestire contratti intelligenti in un sistema centralizzato. Ma allora perderesti i benefici della decentralizzazione, vale a dire la resilienza al fallimento dei singoli dispositivi informatici, la resistenza alla censura e la fiducia che le regole T cambieranno sotto i tuoi piedi.

Potrebbe essere una domanda strana, ma ho pensato che avresti capito: le blockchain sono apollinee?

È una domanda strana e la capisco. Non direi blockchain in generale, ma sicuramente oracoli. Come forse saprai, il romanzo non parla solo degli oracoli moderni, ma anche dell'Oracolo di Delfi. Entrambi mirano a servire come fonti definitive di verità, in un certo senso. ONE è letteralmente alimentato dal dio Apollo, almeno secondo la convinzione degli antichi greci. E l’altro è alimentato da fonti di dati autorevoli come i siti web. Quindi, se si assume questa prospettiva, sì, direi che i sistemi oracolari sono di natura apollinea perché Apollo era il Dio della verità.

La Privacy sulla blockchain è sufficiente oggi?

Tutta la Tecnologie è un’arma a doppio taglio. Ci sono ovviamente aspetti positivi e importanti della Privacy. T è possibile avere una società veramente libera senza Privacy. I pensieri delle persone, come minimo, devono rimanere privati ​​affinché le persone possano agire liberamente. Ma si può abusare Privacy . Le attività criminali possono avvalersi della Tecnologie blockchain. Ma direi che oggi T disponiamo ancora di strumenti di tutela della privacy abbastanza potenti da fornire agli utenti i benefici della Privacy che penso meritino.

Vedi anche: Il codice non è (sempre) legge | Opinioni

Diresti che la Tecnologie nel suo insieme è una forza generalmente positiva?

Ci sono chiari vantaggi per la Tecnologie. Abbiamo fatto molta strada verso l'eliminazione della povertà globale, questa è ONE delle buone notizie che le persone tendono a trascurare. Ma l’uso delle nuove tecnologie ha comportato dei costi, cosa che diventa visibile se si guarda alla felicità generale o alla contentezza di chi vive nelle ricche nazioni occidentali, che è rimasta stagnante. Ciò può essere considerato, in parte, un effetto collaterale della Tecnologie. Ci sono altri fattori in gioco, tra cui il crollo della coesione sociale e il senso di solitudine, ma la Tecnologie ne è in qualche modo responsabile.

ONE dei motivi per cui ho incorporato la dimensione dell'antica Grecia [in The Oracle] è che sento che ONE delle cose che stiamo perdendo a causa della pervasività della Tecnologie è un certo senso di stupore. Il fatto di avere a portata di mano le risposte alla maggior parte delle domande che poniamo naturalmente con Google o gli agenti di intelligenza artificiale significa una diminuzione del senso di meraviglia e mistero da cui eravamo circondati. C'è meno spazio per noi nella nostra vita quotidiana da esplorare intellettualmente. Devi scavare più a fondo, se ha senso.

È una bellissima idea. Il World Wide Web T contiene la totalità della conoscenza Human , ma ne costituisce una parte significativa. Eppure lo usiamo principalmente per soddisfare i nostri desideri basilari.

Ci è stato fatto questo dono incredibile. Ed è sorprendentemente difficile per noi apprezzarlo.

In cosa stiamo reagendo in modo eccessivo quando si tratta di Tecnologie?

Tendo ad essere un po’ ottimista quando si tratta di scenari apocalittici legati all’IA. Non sono affatto un esperto in materia, ma ho studiato sicurezza informatica per un periodo piuttosto lungo. E l’analogia che mi piace tracciare, e spero che sia valida, è con il bug Y2K. Gli scenari apocalittici che le persone immaginavano T si sono verificati. T c'era bisogno di intervento manuale. Disponiamo di tutti questi tipi di interruttori automatici nascosti. E quindi ho un certo grado di fiducia nel fatto che quegli interruttori automatici interverranno se, per esempio, un agente dell'intelligenza artificiale diventa un disonesto. Ciò mi fornisce almeno un certo grado di conforto e Optimism riguardo al futuro dell’intelligenza artificiale.

Ho notato che la maggior parte dei tuoi scritti accademici sono normalmente scritti in collaborazione. È stato un grande cambiamento scrivere da solo?

Sì, è stato un cambiamento enorme sotto molti aspetti rispetto allo scrivere un articolo accademico. ONE è che quando scrivi un articolo accademico, il linguaggio deve essere fondamentalmente asciutto, altrimenti è probabile che l'articolo venga rifiutato dai colleghi. Una storia divertente a riguardo. Nel 1999, sono stato coautore di un articolo: in realtà è stato lo stesso articolo a proporre il termine proof-of-work [il meccanismo di consenso dietro Bitcoin]. Abbiamo citato un popolare libro di cucina, “The Joy of Cooking”, perché il titolo dell’articolo includeva la parola budino di pane e volevamo un riferimento per spiegare di cosa si trattasse. Un revisore voleva respingere l'articolo perché riteneva che questo riferimento T fosse adeguatamente accademico. Questo è il tipo di ambiente in cui operi nel mondo accademico.

Ma, cosa ancora più importante, quando lavori da solo a un progetto di questo tipo, la tua immaginazione è molto più libera. Questa è ONE delle cose belle della collaborazione con altre persone e ONE dei motivi per cui lo faccio: può aiutarti a formulare idee, ma anche fungere da controllo su idee che T T o T hanno senso. Nel caso della narrativa, entro certi limiti, non esiste un'idea che T funzioni o T abbia senso.

Hai qualche tecnica di lavoro insolita, detta da qualcuno che insegna nella Ivy League, fa ricerche per Chainlink e scrive nel tempo libero?

Dipende dall'insieme di progetti con cui mi sto destreggiando. La cosa che mi è stata utile quando cercavo di trovare il tempo per il libro era che ero ossessionato dallo scriverlo. È stato un vero e proprio processo Flow . Lo psicologo ungherese Mihaly Csikszentmihalyi ha esplorato il concetto di Flow, definendolo come un'attività in cui è possibile mantenere una concentrazione unica per un periodo prolungato e perdere la cognizione del tempo. La scrittura mi ha messo in uno stato Flow . L'ho spremuto nei piccoli angoli e fessure del tempo a mia disposizione.

Pensi che gli NFT siano sopravvalutati o sottovalutati?

Le scimmie annoiate sono sopravvalutate. Gli NFT inutili sono sopravvalutati. Ma il futuro a lungo termine degli NFT è forse sottovalutato. In un certo senso, è un nuovo mezzo artistico, come lo era la fotografia nel XIX secolo. Solo lentamente la fotografia venne vista come un vero e proprio mezzo artistico. Sul lungo termine, in realtà sono piuttosto ottimista anche se T sono riuscito a convincere i miei studenti di dottorato a lavorare su progetti relativi all'NFT.

Interessante. L’interesse per le Cripto cambia coorte dopo coorte?

Cambia da individuo a individuo. Ad esempio, alcuni studenti di dottorato entrano senza sapere su cosa vogliono lavorare e finirò per aiutarli a stabilire una direzione di ricerca. E altri sanno fin dal ONE giorno esattamente cosa vogliono fare. Ho ONE studente in procinto di laurearsi che sapeva di voler lavorare sulla DeFi. Questo è fondamentalmente quello che ha fatto per cinque anni mentre lavorava con me. Vedo il ruolo di un consulente di dottorato come quello di aiutare i miei studenti di dottorato a realizzare qualunque cosa vogliano realizzare.

C'è qualcos'altro che vorresti dire sul libro?

ONE cosa che voglio sottolineare, un messaggio importante per la comunità in generale, è il crescente riconoscimento che il sistema finanziario può essere un vettore di fuga dall’IA. Le persone sono preoccupate che gli agenti dell’intelligenza artificiale fuggano dai loro confini e controllino sistemi cyber-fisici come veicoli autonomi, centrali elettriche o sistemi d’arma: questo è lo scenario che hanno in mente. Penso che dimentichino che il sistema finanziario, in particolare la Criptovaluta, è particolarmente adatto al controllo da parte degli agenti di intelligenza artificiale e può essere esso stesso un vettore di fuga. Se controlli il denaro, puoi avere un impatto sul mondo reale, giusto?

Vedi anche: Cos'è Chainlink?

La domanda è: come affrontiamo la sicurezza dell’intelligenza artificiale alla luce di questa preoccupazione molto particolare relativa ai sistemi blockchain? Il libro ha effettivamente portato me e i miei colleghi di Chainlink a pensare a come gli Oracle agiscono come guardiani di questo nuovo sistema finanziario e al ruolo che potrebbero svolgere nella sicurezza dell'IA.

C'è qualcosa di tangibile in mente che Chainlink può fare per prevenire qualcosa del genere?

Questo è qualcosa a cui ho appena iniziato a pensare, ma alcuni dei guardrail già presenti nei sistemi che costruiamo come CCIP o ponti a catena incrociata sarebbero effettivamente utili nel caso di una fuga dall'IA, stabilendo i confini per ciò che un dannoso l'agente potrebbe fare. Questo è un punto di partenza. Ma la domanda è: abbiamo bisogno di cose come il rilevamento delle anomalie per rilevare non solo l’attività Human non autorizzata ma anche l’attività dell’intelligenza artificiale non autorizzata? È un problema importante, a dire il vero ONE iniziando a dedicare una discreta attenzione.