Ano ang nasa Intersection ng Crypto at AI? Marahil Pagpatay

Ang dalubhasa sa seguridad na si Ari Juels ay nag-iisip tungkol sa kung paano maaaring madiskaril ng Technology ang lipunan hangga't naaalala niya. T iyon nangangahulugan na si Juels, ang punong siyentipiko sa Chainlink at propesor sa Cornell Tech, sa New York CIty, ay nag-iisip na ang mundo ay lalabas sa riles anumang oras sa lalong madaling panahon. Ngunit sa nakalipas na dekada — sa pag-unlad ng malalaking modelo ng wika na nagbabalik sa lalong makapangyarihang mga artificial intelligence system at mga autonomous, self-executing smart contract — nagsimulang mag-trend ang mga bagay-bagay sa mas nakakabahalang direksyon.

Ito ay isang sipi mula sa newsletter ng The Node, isang pang-araw-araw na pag-iipon ng mga pinakamahalagang balita sa Crypto sa CoinDesk at higit pa. Maaari kang mag-subscribe upang makuha ang buong newsletter dito .

Mayroong "lumalagong pagkilala na ang sistema ng pananalapi ay maaaring maging isang vector ng AI escape," sabi ni Juels sa isang pakikipanayam sa CoinDesk. "Kung kinokontrol mo ang pera, maaari kang magkaroon ng epekto sa totoong mundo." Ang doomsday scenario na ito ay ang jumping point para sa ikalawang nobela ni Juels, “The Oracle,” isang crime thriller na inilathala ng heavyweight science fiction imprint Talos, tungkol sa isang NYC-based blockchain researcher na inarkila ng gobyerno ng US upang hadlangan ang isang weaponized Crypto protocol.

Makikita sa NEAR na hinaharap, ang mga mambabasa ay maaaring makakita ng ilang pamilyar sa ngayon. Isaalang-alang ang pananaliksik ng pangunahing tauhan sa mga matalinong kontrata na maaaring maging rogue — at pumatay — katulad ng sariling akademikong papel ni Juel noong 2015 tungkol sa "mga kriminal na matalinong kontrata." O mga sanggunian sa sikat na plaid shirt ni Chainlink CEO Sergey Nazarov. Ang iba, tulad ng isang makapangyarihang AI tool na tumutulong sa mga computer na makipag-ugnayan at bigyang-kahulugan ang mundo, tulad ng OpenAI's ChatGPT, ay nag-online lamang pagkatapos magsimulang magsulat si Juels.

Tingnan din ang: The Man In Plaid

Sa kabutihang palad, ang fiction kung minsan ay mas estranghero kaysa sa katotohanan, at ang mga prospect ng mga matalinong kontrata na naka-program na pumatay ay nananatiling isang malayong banta, sabi ni Juels. Sinabi niya na siya ay nananatiling maingat na optimistic na kung ang mga tao ay magsisimulang mag-isip tungkol sa mga panganib ngayon, at magdisenyo ng mga guardrail tulad ng blockchain-based na mga orakulo (pangunahing feeder system para sa impormasyon), makakatulong ito na maiwasan ang mga problema sa katagalan.

Nakipag-usap ang CoinDesk kay Juels noong nakaraang linggo upang talakayin ang umuusbong na intersection ng blockchain at AI, ang mga paraan kung paano maaaring mawala ang mga bagay-bagay at kung ano ang sobra-sobrang rate ng mga tao tungkol sa Technology.

Posible ba ngayon ang mga matalinong kontrata tulad ng nasa "The Oracle"?

Hindi posible ang mga ito sa kasalukuyang imprastraktura, ngunit posible o hindi bababa sa makatotohanan sa Technology ngayon .

Para saan ang iyong timeline kung kailan maaaring gumanap ang isang bagay tulad ng mga Events sa aklat?

Medyo mahirap sabihin. Kahit ilang taon man lang. Ang dahilan kung bakit ang mga ito ay makatwiran sa teknolohiya ngayon, kung sa katunayan, T pa sila noong panahong sinimulan kong isulat ang nobela, ay ang pagdating ng makapangyarihang LLM [malalaking modelo ng wika] dahil kailangan ang mga ito upang humatol sa tinatawag ng nobela na isang rogue kontrata. Ang rogue na kontrata ay nanghihingi ng krimen, sa kasong ito, ang pagkamatay ng bayani ng nobela, at kahit papaano ay kailangang gumawa ng determinasyon kung naganap o hindi ang krimen at kung sino ang may pananagutan dito at kung gayon ay dapat makatanggap ng gantimpala.

Upang magawa ang dalawang bagay na iyon, kailangan mo ng isang bagay upang kunin ang mga keyword mula sa mga artikulo ng balita — karaniwang isang LLM na nakasaksak sa imprastraktura ng blockchain at nagmamana ng parehong mga katangian na mayroon ang mga matalinong kontrata, lalo na ang katotohanan na ang mga ito, sa prinsipyo, ay hindi mapigilan kung sila ay naka-code upang kumilos sa ganoong paraan.

Kailangan mo ba ng blockchain para makabuo ng mga smart contract?

Depende ito sa trust model na hinahangad mo. Sa isang kahulugan, ang sagot ay hindi, maaari kang magpatakbo ng mga matalinong kontrata sa isang sentralisadong sistema. Ngunit pagkatapos ay mawawala sa iyo ang mga benepisyo ng desentralisasyon, ibig sabihin, katatagan sa pagkabigo ng mga indibidwal na computing device, censorship-resistance at kumpiyansa na ang mga patakaran ay T magbabago mula sa ilalim mo.

Ito ay maaaring isang kakaibang tanong, ngunit naisip ko na maaari mong makuha ito: Ang mga blockchain ba ay Apollonian?

Iyon ay isang kakaibang tanong, at naiintindihan ko ito. Hindi ko sasabihin ang mga blockchain sa pangkalahatan, ngunit tiyak na mga orakulo. Tulad ng alam mo na ang nobela ay tungkol hindi lamang sa mga modernong orakulo kundi pati na rin sa Orakulo ng Delphi. Pareho silang naglalayong magsilbi bilang mga tiyak na mapagkukunan ng katotohanan, sa ilang kahulugan. Ang ONE ay literal na pinalakas ng diyos na si Apollo, hindi bababa sa paniniwala ng mga sinaunang Griyego. At ang isa pa ay pinapagana ng mga makapangyarihang pinagmumulan ng data tulad ng mga website. Kaya kung kukunin mo ang pananaw na iyon, oo, sasabihin ko na ang mga sistema ng orakulo ay uri ng Apollonian sa kalikasan dahil si Apollo ang Diyos ng katotohanan.

Sapat ba ang Privacy ng blockchain ngayon?

Nagtatampok ang lahat ng Technology ng dalawang talim na espada. May malinaw na mabuti at mahalagang mga aspeto sa Privacy. T ka maaaring magkaroon ng tunay na malayang lipunan nang walang Privacy. Ang mga iniisip ng mga tao, sa pinakamababa, ay kailangang manatiling pribado para malayang kumilos ang mga tao. Ngunit ang Privacy ay maaaring abusuhin. Ang mga aktibidad na kriminal ay maaaring gumamit ng Technology blockchain. Ngunit sasabihin ko na T pa tayong sapat na makapangyarihang mga tool sa pagpapanatili ng privacy upang mabigyan ang mga user ng mga benepisyo ng Privacy na sa tingin ko ay nararapat sa kanila.

Tingnan din ang: Code Is Not (Always) Law | Opinyon

Masasabi mo bang ang Technology sa kabuuan ay isang pangkalahatang positibong puwersa?

May mga malinaw na benepisyo sa Technology. Malayo na ang narating natin tungo sa pagpuksa sa pandaigdigang kahirapan, iyon ang ONE sa mga magagandang balita na kadalasang hindi pinapansin ng mga tao. Ngunit nagkaroon ng mga gastos sa paggamit ng mga bagong teknolohiya — na nagiging nakikita kapag tiningnan mo ang pangkalahatang kaligayahan o kasiyahan ng mga nasa mayayamang bansang Kanluranin, na tumitigil. Maaaring ituring iyon bilang isang side effect ng Technology, sa bahagi. Mayroong iba pang mga kadahilanan na naglalaro, kabilang ang isang pagkasira sa pagkakaisa sa lipunan at mga pakiramdam ng kalungkutan, ngunit ang Technology ay medyo responsable para doon.

ONE sa mga dahilan kung bakit ko isinama ang sinaunang dimensyon ng Greek [sa The Oracle] ay ang pakiramdam ko na ONE sa mga bagay na nawawala sa atin bilang resulta ng paglaganap ng Technology ay isang tiyak na pagkamangha. Ang katotohanan na mayroon kaming mga sagot sa karamihan ng mga tanong na natural naming ibibigay sa mga ahente ng Google o AI sa aming mga kamay ay nangangahulugan ng pagbabawas ng aming pakiramdam ng pagkamangha at misteryo na dati naming kasama. May mas kaunting puwang para sa ating pang-araw-araw na buhay upang galugarin ang intelektwal. Kailangan mong maghukay ng mas malalim, kung ito ay makatuwiran.

Ito ay isang magandang ideya. Ang World Wide Web ay T naglalaman ng kabuuan ng kaalaman ng Human , ngunit ito ay isang makabuluhang bahagi nito. Gayunpaman ginagamit namin ito sa karamihan upang mapagbigyan ang aming mga pangunahing hangarin.

Binigyan kami ng hindi kapani-paniwalang regalong ito. At nakakagulat na mahirap para sa atin na pahalagahan.

Ano ang overreacting natin pagdating sa Technology?

May posibilidad akong maging optimistic pagdating sa AI doomsday scenario. Hindi ako eksperto sa paksa dito, ngunit nag-aral ako ng seguridad ng impormasyon sa loob ng mahabang panahon. At ang pagkakatulad na gusto kong iguhit, at umaasa ako na ito ay maganda, ay sa Y2K bug. Ang mga senaryo ng doomsday na naisip ng mga tao ay T nangyari. T na kailangan ang manu-manong interbensyon. Mayroon kaming lahat ng ganitong uri ng mga nakatagong circuit breaker sa lugar. Kaya't nakakaramdam ako ng isang tiyak na antas ng kumpiyansa na ang mga circuit breaker na iyon ay sisipa kung, sabihin nating, ang isang ahente ng AI ay magiging rogue. Nagbibigay ito sa akin ng hindi bababa sa isang tiyak na antas ng kaginhawahan at Optimism sa hinaharap ng AI.

Napansin ko na karamihan sa iyong scholarly writing ay karaniwang co-authored. Ito ba ay isang malaking shift sa pagsulat nang nag-iisa?

Oo, ito ay isang malaking pagbabago sa maraming paraan mula sa pagsulat ng isang scholarly paper. Ang ONE ay kapag sumulat ka ng isang scholarly paper, ang wika ay karaniwang dapat na tuyo, kung hindi, ang papel ay malamang na tanggihan ng mga kapantay. Isang nakakatawang kwento tungkol doon. Noong 1999, nag-co-author ako ng isang papel — talagang ito ang papel na nagmungkahi ng terminong proof-of-work [ang mekanismo ng pinagkasunduan sa likod ng Bitcoin]. Binanggit namin ang isang sikat na cookbook, "The Joy of Cooking," dahil kasama sa pamagat ng papel ang salitang bread pudding at gusto namin ng reference para ipaliwanag kung ano ito. Nais ng isang reviewer na tanggihan ang papel dahil sa palagay niya ang sanggunian na ito ay T angkop na scholar. Iyan ang uri ng kapaligiran kung saan ka nagpapatakbo sa akademya.

Ngunit higit sa lahat, kapag ikaw ay nagtatrabaho nang mag-isa sa isang proyekto ng ganitong uri, ito ay nagbibigay ng mas malayang pagpigil sa imahinasyon. Iyan ang ONE sa mga magagandang bagay tungkol sa pakikipagtulungan sa ibang tao at ONE sa mga dahilan kung bakit ko ito ginagawa — makakatulong ito sa iyo na bumuo ng mga ideya, ngunit kumilos din bilang isang pagsusuri sa mga ideyang T T o T saysay. Sa kaso ng fiction, sa loob ng maluwag na mga limitasyon, walang ganoong bagay bilang isang ideya na T gumagana o T kahulugan.

Mayroon ka bang anumang hindi pangkaraniwang mga diskarte sa trabaho, na nagmumula sa isang taong nagtuturo sa Ivy League, nagsasaliksik para sa Chainlink at nagsusulat sa kanyang bakanteng oras?

Depende ito sa hanay ng mga proyekto na aking sina-juggling. Ang bagay na nakakatulong noong sinusubukan kong i-squeeze ang oras para sa libro ay ang pagiging obsessive ko sa pagsusulat nito. Ito ay isang tunay na proseso ng Flow . Ginalugad ng Hungarian psychologist na si Mihaly Csikszentmihalyi ang konsepto ng Flow, na tinukoy ito bilang isang aktibidad kung saan maaari mong mapanatili ang isang natatanging focus sa loob ng mahabang panahon at mawala ang oras. Ang pagsusulat ay naglagay sa akin sa isang estado ng Flow . Pinisil ko ito sa maliliit na sulok ng oras na magagamit ko.

Sa tingin mo ba ay overrated o underrated ang mga NFT?

Ang mga Bored Apes ay overrated. Ang mga walang kabuluhang NFT ay overrated. Ngunit ang pangmatagalang hinaharap ng mga NFT ay marahil ay hindi pinahahalagahan. Sa ilang kahulugan, ito ay isang bagong artistikong daluyan — ang paraan ng pagkuha ng litrato noong ika-19 na siglo. Dahan-dahan lang nakita ng mga tao ang photography bilang isang tunay na artistikong daluyan. Sa katagalan, talagang medyo bullish ako kahit na T ko pa nakumbinsi ang aking mga mag-aaral sa PhD na magtrabaho sa mga proyektong nauugnay sa NFT.

Interesting. Ang interes ba sa Crypto ay nagbabago ng cohort ayon sa cohort?

Nagbabago ito mula sa indibidwal patungo sa indibidwal. Tulad ng mayroon akong ilang mga mag-aaral sa PhD na hindi alam kung ano ang gusto nilang gawin at tutulong ako sa kanila na mag-set up ng direksyon ng pananaliksik. At alam ng iba mula sa ONE araw kung ano mismo ang gusto nilang gawin. May ONE estudyante akong magtatapos na alam na gusto niyang magtrabaho sa DeFi. Iyon talaga ang ginawa niya sa loob ng limang taon habang nagtatrabaho sa akin. Nakikita ko ang tungkulin ng isang PhD na tagapayo bilang pagtulong sa aking mga mag-aaral sa PhD na magawa ang anumang nais nilang magawa.

May gusto ka pa bang sabihin tungkol sa libro?

Ang ONE bagay na gusto kong bigyang-diin, isang mahalagang mensahe para sa komunidad sa pangkalahatan, ay ang lumalagong pagkilala na ang sistema ng pananalapi ay maaaring maging isang vector ng pagtakas ng AI. Ang mga tao ay nag-aalala tungkol sa mga ahente ng AI na tumatakas mula sa kanilang mga limitasyon at kinokontrol ang mga cyber physical system tulad ng mga autonomous na sasakyan, power plant o mga sistema ng armas — iyon ang senaryo na nasa isip nila. Sa palagay ko nakalimutan nila na ang sistema ng pananalapi, partikular na ang Cryptocurrency, ay angkop na kontrolin ng mga ahente ng AI at maaaring maging isang escape vector mismo. Kung kinokontrol mo ang pera, maaari kang magkaroon ng epekto sa totoong mundo, tama ba?

Tingnan din ang: Ano ang Chainlink?

Ang tanong ay paano natin haharapin ang kaligtasan ng AI dahil sa partikular na pag-aalala sa paligid ng mga sistema ng blockchain? Ang libro ay aktwal na nakuha sa akin at sa aking mga kasamahan sa Chainlink na iniisip kung paano kumilos ang oracle bilang mga gatekeeper sa bagong sistemang pinansyal na ito, at ang papel na maaari nilang gampanan sa kaligtasan ng AI.

Mayroon bang anumang bagay na nakikita sa isip na maaaring gawin ng Chainlink upang maiwasan ang isang bagay na ganoon?

Ito ay isang bagay na sinimulan kong pag-isipan, ngunit ang ilan sa mga guardrail na naroroon na sa mga system na binuo namin tulad ng CCIP o cross chain bridges ay talagang makakatulong sa kaso ng pagtakas ng AI sa pamamagitan ng pagtatatag ng mga hangganan para sa kung ano ang nakakahamak. maaaring gawin ng ahente. Iyon ay isang panimulang punto. Ngunit ang tanong, kailangan ba natin ng mga bagay tulad ng pagtuklas ng anomalya sa lugar upang matukoy hindi lamang ang masamang aktibidad ng Human kundi ang masamang aktibidad ng AI? Ito ay isang mahalagang problema, ito talaga ang ONE na sinisimulan kong pag-ukulan ng sapat na atensyon.