¿Qué hay en la intersección de las Cripto y la IA? Quizás asesinato

El experto en seguridad Ari Juels ha estado pensando en cómo la Tecnología puede descarrilar a la sociedad desde que tiene uso de razón. Eso no significa que Juels, científico jefe de Chainlink y profesor de Cornell Tech, en la ciudad de Nueva York, piense que el mundo se va a descarrilar pronto. Pero durante la última década –con el desarrollo de grandes modelos de lenguaje que respaldan sistemas de inteligencia artificial cada vez más poderosos y contratos inteligentes autónomos y autoejecutables– las cosas han comenzado a tomar una tendencia más preocupante.

Este es un extracto del boletín The Node, un resumen diario de las noticias Cripto más importantes en CoinDesk y más allá. Puede suscribirse para recibir el boletín completo aquí .

Existe un "creciente reconocimiento de que el sistema financiero puede ser un vector de escape de la IA", dijo Juels en una entrevista con CoinDesk. "Si controlas el dinero, puedes tener un impacto en el mundo real". Este escenario apocalíptico es el punto de partida para la segunda novela de Juels, "The Oracle", un thriller policial publicado por el importante sello de ciencia ficción Talos, sobre un investigador de blockchain con sede en Nueva York reclutado por el gobierno de EE. UU. para frustrar un protocolo Cripto armado.

Ambientado en un futuro NEAR , los lectores podrían ver algunas familiaridades con el día de hoy. Tomemos como ejemplo la investigación del protagonista sobre contratos inteligentes que pueden volverse deshonestos ( y matar ) similar al artículo académico de Juel de 2015 sobre "contratos inteligentes criminales". O referencias a la famosa camisa a cuadros del director ejecutivo de Chainlink , Sergey Nazarov. Otros, como una poderosa herramienta de inteligencia artificial que ayuda a las computadoras a interactuar e interpretar el mundo, como ChatGPT de OpenAI, solo estuvieron en línea después de que Juels comenzó a escribir.

Ver también: El hombre de cuadros

Afortunadamente, la ficción a veces es más extraña que la realidad, y las perspectivas de contratos inteligentes programados para matar siguen siendo una amenaza lejana, dijo Juels. Dijo que sigue siendo cautelosamente optimista en cuanto a que si la gente empieza a pensar en los riesgos hoy y diseña barreras de seguridad como oráculos basados ​​en blockchain (esencialmente sistemas alimentadores de información), podría ayudar a prevenir problemas a largo plazo.

CoinDesk se reunió con Juels la semana pasada para discutir la floreciente intersección de blockchain y la IA, las formas en que las cosas pueden descarrilarse y lo que la gente sobrevalora y subvalora de la Tecnología.

¿Son posibles hoy contratos inteligentes como los de “The Oracle”?

No son posibles con la infraestructura actual, pero son posibles o al menos plausibles con la Tecnología actual.

¿Cuál es su cronograma para cuando algo como los Eventos del libro podrían suceder?

Es un poco difícil de decir. Al menos unos años. Lo que los hace tecnológicamente plausibles ahora, cuando en realidad no lo eran cuando comencé a escribir la novela, es la llegada de potentes LLM [grandes modelos de lenguaje] porque son necesarios esencialmente para juzgar a lo que la novela llama un pícaro. contrato. El contrato deshonesto solicitaba un crimen, en este caso, la muerte del héroe de la novela, y de alguna manera se debe determinar si el crimen ocurrió o no y quién fue responsable del mismo y, por lo tanto, debería recibir una recompensa.

Para hacer esas dos cosas, necesita algo que extraiga palabras clave de artículos de noticias: básicamente un LLM conectado a la infraestructura blockchain y que hereda las mismas propiedades que tienen los contratos inteligentes, es decir, el hecho de que son, al menos en principio, imparables si son codificado para comportarse de esa manera.

¿Necesita una cadena de bloques para crear contratos inteligentes?

Depende del modelo de confianza que busques. En cierto sentido, la respuesta es no, se podrían ejecutar contratos inteligentes en un sistema centralizado. Pero entonces se perderían los beneficios de la descentralización, es decir, la resiliencia ante el fallo de los dispositivos informáticos individuales, la resistencia a la censura y la confianza en que las reglas no van a cambiar.

Esta puede ser una pregunta extraña, pero pensé que podrías entenderla: ¿Son las blockchains apolíneas?

Esa es una pregunta extraña y la entiendo. No diría blockchains en general, pero definitivamente oráculos. Como sabrás, la novela trata no sólo de los oráculos modernos sino también del Oráculo de Delfos. Ambos pretenden servir como fuentes definitivas de verdad, en cierto sentido. ONE está literalmente impulsado por el dios Apolo, al menos según la creencia de los antiguos griegos. Y el otro está impulsado por fuentes de datos autorizadas, como sitios web. Entonces, si tomas esa perspectiva, sí, diría que los sistemas de oráculos son de naturaleza apolínea porque Apolo era el Dios de la verdad.

¿Es suficiente la Privacidad de blockchain hoy en día?

Toda Tecnología presenta un arma de doble filo. Obviamente, la Privacidad tiene aspectos buenos e importantes. No se puede tener una sociedad verdaderamente libre sin Privacidad. Los pensamientos de las personas, como mínimo, deben permanecer privados para que puedan actuar libremente. Pero se puede abusar de la Privacidad . Las actividades delictivas pueden hacer uso de la Tecnología blockchain. Pero yo diría que hoy en día todavía no tenemos herramientas de preservación de la privacidad lo suficientemente poderosas como para brindar a los usuarios los beneficios de Privacidad que creo que merecen.

Ver también: El código no es (siempre) ley | Opinión

¿Diría que la Tecnología en su conjunto es una fuerza generalmente positiva?

La Tecnología tiene claros beneficios. Hemos recorrido un largo camino hacia la erradicación de la pobreza global; esa es una de las buenas noticias que la gente tiende a pasar por alto. Pero el uso de nuevas tecnologías ha tenido costos, algo que se hace visible cuando se observa la felicidad o satisfacción general de los habitantes de las naciones occidentales ricas, que se ha estancado. Esto puede explicarse, en parte, como un efecto secundario de la Tecnología. Hay otros factores en juego, incluida la ruptura de la cohesión social y los sentimientos de soledad, pero la Tecnología ha sido en cierta medida responsable de ello.

Una de las razones por las que incorporé la dimensión griega antigua [en The Oracle] fue que siento que una de las cosas que estamos perdiendo como resultado de la omnipresencia de la Tecnología es una cierta sensación de asombro. El hecho de que tengamos al alcance de la mano las respuestas a la mayoría de las preguntas que naturalmente plantearíamos a Google o a los agentes de IA significa una disminución de nuestra sensación de asombro y misterio que solíamos rodearnos. Hay menos espacio para que exploremos intelectualmente en nuestra vida diaria. Tienes que profundizar más, si eso tiene sentido.

Es una hermosa idea. La World Wide Web no contiene la suma total del conocimiento Human , pero es una parte importante del mismo. Sin embargo, lo usamos principalmente para satisfacer nuestros deseos básicos.

Nos han dado este increíble regalo. Y es sorprendentemente difícil para nosotros apreciarlo.

¿A qué estamos exagerando cuando se trata de Tecnología?

Tiendo a ser algo optimista cuando se trata de escenarios apocalípticos de la IA. De ninguna manera soy un experto en la materia aquí, pero he estudiado seguridad de la información durante un período bastante largo de tiempo. Y la analogía que me gusta hacer, y espero que sea válida, es con el virus Y2K. Los escenarios apocalípticos que la gente imaginaba no sucedieron. No hubo necesidad de intervención manual. Contamos con todos estos tipos de disyuntores ocultos. Y por eso tengo cierto grado de confianza en que esos disyuntores se activarán si, por ejemplo, un agente de IA se vuelve rebelde. Esto me proporciona al menos cierto grado de comodidad y Optimism sobre el futuro de la IA.

Me he dado cuenta de que la mayoría de sus escritos académicos normalmente son coautores. ¿Fue un gran cambio escribir solo?

Sí, fue un gran cambio en varios sentidos respecto a escribir un artículo académico. Una es que cuando se escribe un artículo académico, el lenguaje básicamente tiene que ser seco; de lo contrario, es probable que el artículo sea rechazado por sus compañeros. Una historia divertida sobre eso. En 1999, fui coautor de un artículo; en realidad, fue el artículo que propuso el término prueba de trabajo [el mecanismo de consenso detrás de Bitcoin]. Citamos un libro de cocina popular, “El placer de cocinar”, porque el título del artículo incluía la palabra budín de pan y queríamos una referencia para explicar de qué se trataba. Un crítico quiso rechazar el artículo porque consideró que esta referencia no era apropiadamente académica. Ese es el tipo de entorno en el que se opera en el mundo académico.

Pero lo más importante es que cuando trabajas solo en un proyecto de este tipo, se da mucho más rienda suelta a la imaginación. Ésa es una de las cosas buenas de colaborar con otras personas y una de las razones por las que lo hago: puede ayudarte a formular ideas, pero también sirve para controlar las ideas que no T o que no tienen sentido. En el caso de la ficción, dentro de unos límites flexibles, no existe una idea que no funcione o que no tenga sentido.

¿Tiene alguna técnica de trabajo inusual, proveniente de alguien que enseña en la Ivy League, investiga para Chainlink y escribe en su tiempo libre?

Depende del conjunto de proyectos con los que estoy haciendo malabarismos. Lo que fue útil cuando intentaba ganar tiempo para el libro fue que estaba obsesivo con escribirlo. Fue un proceso de Flow real. El psicólogo húngaro Mihaly Csikszentmihalyi exploró el concepto de Flow, definiéndolo como una actividad en la que se puede mantener un enfoque único durante un período prolongado y perder la noción del tiempo. Escribir me puso en un estado de Flow . Lo apreté en los pequeños rincones del tiempo disponibles para mí.

¿Crees que las NFT están sobrevaloradas o subestimadas?

Los simios aburridos están sobrevalorados. Las NFT inútiles están sobrevaloradas. Pero quizás se subestime el futuro a largo plazo de las NFT. En cierto sentido, es un nuevo medio artístico, como lo era la fotografía en el siglo XIX. Poco a poco la gente empezó a ver la fotografía como un verdadero medio artístico. A largo plazo, soy bastante optimista, aunque no he podido convencer a mis estudiantes de doctorado para que trabajen en proyectos relacionados con NFT.

Interesante. ¿El interés en las Cripto cambia de cohorte a cohorte?

Cambia de individuo a individuo. Por ejemplo, algunos estudiantes de doctorado llegan sin saber en qué quieren trabajar y terminaré ayudándolos a establecer una dirección de investigación. Y otros saben desde el ONE día exactamente lo que quieren hacer. Tengo un estudiante a punto de graduarse que sabía que quería trabajar en DeFi. Eso es básicamente lo que ha hecho durante cinco años mientras trabajaba conmigo. Considero que el papel de un asesor de doctorado es ayudar a mis estudiantes de doctorado a lograr lo que quieran lograr.

¿Algo más que quisieras decir sobre el libro?

Una cosa que quiero enfatizar, un mensaje importante para la comunidad en general, es el creciente reconocimiento de que el sistema financiero puede ser un vector de escape de la IA. A la gente le preocupa que los agentes de IA escapen de sus confines y controlen sistemas ciberfísicos como vehículos autónomos, plantas de energía o sistemas de armas; ese es el escenario que tienen en mente. Creo que olvidan que el sistema financiero, en particular las Criptomonedas, está especialmente bien preparado para ser controlado por agentes de inteligencia artificial y puede ser en sí mismo un vector de escape. Si controlas el dinero, puedes tener un impacto en el mundo real, ¿verdad?

Ver también: ¿ Qué es Chainlink?

La pregunta es ¿cómo abordamos la seguridad de la IA en vista de esta preocupación tan particular en torno a los sistemas blockchain? De hecho, el libro nos ha hecho pensar a mí y a mis colegas de Chainlink en cómo los Oracle actúan como guardianes de este nuevo sistema financiero y el papel que podrían desempeñar en la seguridad de la IA.

¿Hay algo tangible en mente que Chainlink pueda hacer para evitar algo así?

Esto es algo en lo que acabo de empezar a pensar, pero algunas de las barreras de seguridad que ya están presentes en los sistemas que construimos como CCIP o puentes de cadenas cruzadas serían realmente útiles en el caso de un escape de IA al establecer límites para lo que es un malicioso. agente podría hacer. Ese es un punto de partida. Pero la pregunta es: ¿necesitamos implementar elementos como la detección de anomalías para detectar no sólo la actividad Human deshonesta sino también la actividad de IA deshonesta? Es un problema importante, en realidad es ONE al que estoy empezando a dedicarle bastante atención.