O que há na interseção entre Cripto e IA? Talvez assassinato

O especialista em segurança Ari Juels vem pensando em como a Tecnologia pode inviabilizar a sociedade desde que ele se lembra. Isso T significa que Juels, cientista-chefe da Chainlink e professor da Cornell Tech, em Nova York, pense que o mundo sairá dos trilhos tão cedo. Mas ao longo da última década — com o desenvolvimento de grandes modelos de linguagem que apoiam sistemas de inteligência artificial cada vez mais poderosos e contratos inteligentes autónomos e autoexecutáveis ​​— as coisas começaram a evoluir numa direção mais preocupante.

Este é um trecho do boletim informativo The Node, um resumo diário das notícias Cripto mais importantes no CoinDesk e além. Você pode se inscrever para receber o boletim informativo completo aqui .

Há um “reconhecimento crescente de que o sistema financeiro pode ser um vetor de fuga da IA”, disse Juels em entrevista ao CoinDesk. “Se você controlar o dinheiro, poderá ter um impacto no mundo real.” Este cenário apocalíptico é o ponto de partida para o segundo romance de Juels, “The Oracle”, um thriller policial publicado pela editora de ficção científica Talos, sobre um pesquisador de blockchain baseado em Nova York, recrutado pelo governo dos EUA para frustrar um protocolo Cripto armado.

Situado em um futuro NEAR , os leitores poderão ver algumas familiaridades com os dias de hoje. Vejamos a pesquisa do protagonista sobre contratos inteligentes que podem se tornar desonestos – e matar – semelhante ao artigo acadêmico do próprio Juel de 2015 sobre “contratos inteligentes criminosos”. Ou referências à famosa camisa xadrez do CEO da Chainlink, Sergey Nazarov. Outros, como uma poderosa ferramenta de IA que ajuda os computadores a interagir e interpretar o mundo, como o ChatGPT da OpenAI, só ficaram online depois que Juels começou a escrever.

Veja também: O Homem de Xadrez

Felizmente, a ficção às vezes é mais estranha que a realidade, e as perspectivas de contratos inteligentes programados para matar continuam a ser uma ameaça distante, disse Juels. Ele disse que continua cautelosamente otimista de que se as pessoas começarem a pensar sobre os riscos hoje e projetarem barreiras de proteção como oráculos baseados em blockchain (essencialmente sistemas de alimentação de informações), isso poderá ajudar a prevenir problemas no longo prazo.

A CoinDesk conversou com Juels na semana passada para discutir a crescente interseção entre blockchain e IA, as maneiras como as coisas podem sair dos trilhos e o que as pessoas superestimam ou subestimam a Tecnologia.

Os contratos inteligentes como os do “Oráculo” são possíveis hoje?

Não são possíveis com a infra-estrutura actual, mas são possíveis ou pelo menos plausíveis com a Tecnologia actual.

Qual é o seu cronograma para quando algo como os Eventos do livro puder acontecer?

É um pouco difícil dizer. Pelo menos alguns anos. O que os torna tecnologicamente plausíveis agora, quando na verdade T o eram na época em que comecei a escrever o romance, é o advento de poderosos LLM [grandes modelos de linguagem], porque eles são necessários essencialmente para julgar o que o romance chama de desonestos. contrato. O contrato desonesto solicitava um crime, neste caso, a morte do herói do romance, e de alguma forma era necessário determinar se o crime ocorreu ou não e quem foi o responsável por ele e, portanto, deveria receber uma recompensa.

Para fazer essas duas coisas, você precisa de algo para extrair palavras-chave de artigos de notícias - basicamente um LLM conectado à infraestrutura blockchain e herdando as mesmas propriedades que os contratos inteligentes têm, ou seja, o fato de que eles são, pelo menos em princípio, imparáveis ​​se forem codificado para se comportar dessa maneira.

Você precisa de um blockchain para construir contratos inteligentes?

Depende do modelo de confiança que você procura. De certa forma, a resposta é não, você poderia executar contratos inteligentes em um sistema centralizado. Mas então perder-se-iam os benefícios da descentralização, nomeadamente, a resiliência à falha de dispositivos informáticos individuais, a resistência à censura e a confiança de que as regras T irão mudar sob o seu comando.

Esta pode ser uma pergunta estranha, mas imaginei que você poderia entender: os blockchains são apolíneos?

Essa é uma pergunta estranha, e eu entendo. Eu não diria blockchains em geral, mas sim oráculos definitivamente. Como você deve saber, o romance não trata apenas dos oráculos modernos, mas também do Oráculo de Delfos. Ambos pretendem servir como fontes definitivas de verdade, em certo sentido. Um é literalmente movido pelo deus Apolo, pelo menos na crença dos antigos gregos. E o outro é alimentado por fontes de dados confiáveis, como sites. Então, se você adotar essa perspectiva, sim, eu diria que os sistemas oráculos são de natureza apolínea porque Apolo era o Deus da verdade.

A Política de Privacidade do blockchain é suficiente hoje?

Toda Tecnologia apresenta uma faca de dois gumes. Obviamente, existem facetas boas e importantes na Política de Privacidade. Você T pode ter uma sociedade verdadeiramente livre sem Política de Privacidade. Os pensamentos das pessoas, no mínimo, precisam permanecer privados para que as pessoas possam agir livremente. Mas a Política de Privacidade pode ser abusada. As atividades criminosas podem fazer uso da Tecnologia blockchain. Mas eu diria que hoje ainda T temos ferramentas de preservação de privacidade suficientemente poderosas para fornecer aos utilizadores os benefícios de Política de Privacidade que penso que eles merecem.

Veja também: Código não é (sempre) lei | Opinião

Você diria que a Tecnologia como um todo é uma força geralmente positiva?

Existem benefícios claros para a Tecnologia. Percorremos um longo caminho no sentido da erradicação da pobreza global, esta é uma das boas notícias que as pessoas tendem a ignorar. Mas houve custos para a utilização de novas tecnologias – isso torna-se visível quando olhamos para a felicidade ou contentamento geral das pessoas nas nações ricas do Ocidente, que estagnou. Isso pode ser explicado em parte como um efeito colateral da Tecnologia. Existem outros factores em jogo, incluindo uma quebra na coesão social e sentimentos de solidão, mas a Tecnologia tem sido de certa forma responsável por isso.

Uma das razões pelas quais incorporei a dimensão grega antiga [no Oráculo] foi porque sinto que uma das coisas que estamos perdendo como resultado da difusão da Tecnologia é um certo sentimento de admiração. O fato de termos as respostas para a maioria das perguntas que naturalmente colocaríamos ao Google ou aos agentes de IA ao nosso alcance significa uma diminuição do nosso senso de admiração e mistério com o qual costumávamos estar envolvidos. Há menos espaço para explorarmos intelectualmente em nossas vidas diárias. Você tem que cavar mais fundo, se isso faz sentido.

É uma bela ideia. A World Wide Web T contém a soma total do conhecimento Human , mas é uma parte significativa dele. No entanto, usamos isso principalmente para satisfazer nossos desejos básicos.

Recebemos este presente incrível. E é surpreendentemente difícil para nós apreciarmos.

Sobre o que estamos exagerando quando se trata de Tecnologia?

Tenho tendência a ser um tanto otimista quando se trata de cenários apocalípticos de IA. Não sou de forma alguma um especialista no assunto aqui, mas estudei segurança da informação por um longo período de tempo. E a analogia que gosto de fazer, e espero que seja válida, é com o bug do ano 2000. Os cenários apocalípticos que as pessoas imaginaram T aconteceram. T houve necessidade de intervenção manual. Temos todos esses tipos de disjuntores ocultos instalados. E, portanto, sinto um certo grau de confiança de que esses disjuntores entrarão em ação se, digamos, um agente de IA se tornar desonesto. Isso me proporciona pelo menos um certo grau de conforto e Optimism em relação ao futuro da IA.

Percebi que a maior parte de seus escritos acadêmicos normalmente é de coautoria. Foi uma grande mudança escrever sozinho?

Sim, foi uma grande mudança em vários aspectos em relação à escrita de um artigo acadêmico. Uma ONE é que, quando você escreve um artigo acadêmico, a linguagem basicamente precisa ser seca, caso contrário, o artigo provavelmente será rejeitado pelos colegas. Uma história engraçada sobre isso. Em 1999, fui coautor de um artigo – na verdade, foi o artigo que propôs o termo prova de trabalho [o mecanismo de consenso por trás do Bitcoin]. Citamos um livro de receitas popular, “The Joy of Cooking”, porque o título do artigo incluía a palavra pudim de pão e queríamos uma referência para explicar o que era. Um revisor quis rejeitar o artigo porque sentiu que esta referência T era apropriadamente acadêmica. Esse é o tipo de ambiente em que você atua na academia.

Mas o mais importante é que quando você está trabalhando sozinho em um projeto desse tipo, a imaginação fica muito mais livre. Essa é uma das coisas boas de colaborar com outras pessoas e uma das razões pelas quais faço isso: pode ajudá-lo a formular ideias, mas também funciona como um controle de ideias que T T ou T fazem sentido. No caso da ficção, dentro de limites vagos, não existe ideia que T funcione ou que T faça sentido.

Você tem alguma técnica de trabalho incomum, vinda de alguém que dá aula na Ivy League, faz pesquisas para a Chainlink e escreve nas horas vagas?

Depende do conjunto de projetos que estou realizando. O que ajudou quando eu estava tentando arranjar tempo para o livro foi que eu estava obsessivo em escrevê-lo. Foi um verdadeiro processo de Flow . O psicólogo húngaro Mihaly Csikszentmihalyi explorou o conceito de Flow, definindo-o como uma atividade na qual você pode manter um foco único por um longo período e perder a noção do tempo. Escrever me colocou em um estado de Flow . Eu o coloquei nos pequenos recantos de tempo disponíveis para mim.

Você acha que os NFTs são superestimados ou subestimados?

Macacos entediados são superestimados. NFTs inúteis são superestimados. Mas o futuro a longo prazo dos NFTs talvez seja subestimado. Em certo sentido, é um novo meio artístico – tal como era a fotografia no século XIX. Só lentamente as pessoas passaram a ver a fotografia como um verdadeiro meio artístico. No longo prazo, estou bastante otimista, embora T tenha conseguido convencer meus alunos de doutorado a trabalhar em projetos relacionados ao NFT.

Interessante. O interesse na Cripto muda coorte por coorte?

Isso muda de indivíduo para indivíduo. Por exemplo, alguns alunos de doutorado chegam sem saber no que querem trabalhar e eu vou acabar ajudando-os a definir uma direção de pesquisa. E outros sabem desde o ONE dia exatamente o que querem fazer. Tenho um aluno prestes a se formar que sabia que queria trabalhar no DeFi. Isso é basicamente o que ele fez durante cinco anos enquanto trabalhava comigo. Vejo o papel de um orientador de doutorado como ajudar meus alunos de doutorado a realizar tudo o que desejam.

Mais alguma coisa que você gostaria de dizer sobre o livro?

Uma coisa que quero sublinhar, uma mensagem importante para a comunidade em geral, é o reconhecimento crescente de que o sistema financeiro pode ser um vector de fuga da IA. As pessoas estão preocupadas com os agentes de IA que escapam dos seus confins e controlam sistemas ciberfísicos como veículos autónomos, centrais eléctricas ou sistemas de armas – esse é o cenário que têm em mente. Penso que se esquecem que o sistema financeiro, particularmente a Criptomoeda, é especialmente adequado para ser controlado por agentes de IA e pode, por si só, ser um vetor de fuga. Se você controlar o dinheiro, poderá causar um impacto no mundo real, certo?

Veja também: O que é Chainlink?

A questão é como lidamos com a segurança da IA ​​tendo em vista esta preocupação muito particular em torno dos sistemas blockchain? Na verdade, o livro fez com que eu e meus colegas da Chainlink pensássemos sobre como os oráculos atuam como guardiões desse novo sistema financeiro e o papel que poderiam desempenhar na segurança da IA.

Há algo tangível em mente que a Chainlink possa fazer para evitar algo assim?

Isso é algo em que comecei a pensar, mas algumas das proteções que já estão presentes em sistemas que construímos, como CCIP ou pontes de cadeia cruzada, seriam realmente úteis no caso de uma fuga de IA, estabelecendo limites para o que um ataque malicioso agente poderia fazer. Esse é um ponto de partida. Mas a questão é: precisamos de coisas como a detecção de anomalias para detectar não apenas atividades Human desonestas, mas também atividades de IA desonestas? É um problema importante e, na verdade, ONE começando a dedicar bastante atenção.