Ilang Graphics Processing Units (GPU) ang kakailanganin para gawing mainstream ang pagbuo ng text-to-video? Daan-daang libo – at higit pa sa kasalukuyang ginagamit ng Microsoft, Meta at Google na pinagsama.

Ang unang demo ng text-to-video generator ng OpenAI na si Sora ay namangha sa mundo, at ito ay nagpabago ng interes sa mga token ng Artificial Intelligence (AI), na marami ang lumakas pagkatapos ng demo.

Sa sumunod na mga linggo, maraming mga proyekto ng Crypto AI ang lumitaw, na nangangako rin na gumawa ng text-to-video at text-to-image na henerasyon, at ang kategorya ng AI token ay mayroon na ngayong $25 bilyon na market cap ayon sa data ng CoinGecko.

Sa likod ng pangako ng mga video na binuo ng AI ay ang mga hukbo ng Graphics Processing Units (GPU), ang mga processor mula sa tulad ng Nvidia at AMD, na ginagawang posible ang AI revolution salamat sa kanilang kakayahang mag-compute ng malalaking volume ng data.

Ngunit gaano karaming mga GPU ang kakailanganin upang gawing pangunahing bagay ang AI-generated na video? Higit sa malalaking malalaking kumpanya ng tech ang mayroon sa kanilang arsenal noong 2023.

Tinatantya ng kamakailang ulat ng pananaliksik ng Factorial Funds na 720,000 high-end na Nvidia H100 GPU ang kinakailangan upang suportahan ang komunidad ng tagalikha ng TikTok at YouTube.

Ang Sora, Factorial Funds ay nagsusulat, ay nangangailangan ng hanggang 10,500 makapangyarihang GPU para sa isang buwan upang magsanay, at maaari lamang bumuo ng humigit-kumulang 5 minuto ng video kada oras bawat GPU para sa hinuha.

Gaya ng ipinapakita ng chart sa itaas, ang pagsasanay dito ay nangangailangan ng higit na mataas na compute power kaysa sa GPT4 o still image generation.

Sa malawakang pag-aampon, malalampasan ng inference ang pagsasanay sa paggamit ng compute. Nangangahulugan ito na habang mas maraming tao at kumpanya ang nagsimulang gumamit ng mga modelo ng AI tulad ng Sora upang makabuo ng mga video, ang lakas ng computer na kailangan para gumawa ng mga bagong video (inference) ay magiging mas malaki kaysa sa lakas na kinakailangan upang sanayin ang modelo ng AI sa simula.

Upang ilagay ang mga bagay sa pananaw, ipinadala ni Nvidia ang 550,000 ng mga H100 GPU noong 2023.

Ipinapakita ng data mula sa Statista na ang labindalawang pinakamalaking customer na gumagamit ng H100 GPU ng Nvidia ay sama-samang mayroong 650,000 sa mga card, at ang dalawang pinakamalaking—Meta at Microsoft—ay mayroong 300,000 sa pagitan nila.

Sa pag-aakalang nagkakahalaga ng $30,000 bawat card, aabutin ng $21.6 bilyon upang maihatid ang mga pangarap ni Sora ng AI-generated text-to-video mainstream, na halos ang buong market cap ng mga AI token sa ngayon.

Iyon ay kung maaari mong pisikal na makuha ang lahat ng mga GPU upang gawin ito.

Habang ang Nvidia ay kasingkahulugan ng AI revolution, mahalagang tandaan na hindi lang ito ang laro sa bayan.

Ang perennial chip na karibal nito na AMD ay gumagawa ng mga nakikipagkumpitensyang produkto, at ang mga mamumuhunan ay nagbigay din ng magandang gantimpala sa kumpanya, na nagtulak sa stock nito mula sa $2 na hanay sa taglagas ng 2012 hanggang sa mahigit $175 ngayon.

Mayroon ding iba pang mga paraan upang i-outsource ang kapangyarihan ng computing sa mga GPU farm. Nag-aalok ang render (RNDR) ng distributed GPU computing, gayundin ang Akash Network (AKT). Ngunit ang karamihan sa mga GPU sa mga network na ito ay mga retail-grade gaming GPU na hindi gaanong makapangyarihan kaysa sa server-grade H100 ng Nvidia o kumpetisyon ng AMD.

Anuman, ang pangako ng text-to-video, na ipinangako ni Sora at ng iba pang mga protocol, ay mangangailangan ng napakalakas na pag-angat ng hardware. Bagama't ito ay isang nakakaintriga na premise at maaaring baguhin ang malikhaing daloy ng trabaho ng Hollywood, T asahan na magiging mainstream ito anumang oras sa lalong madaling panahon.

Kakailanganin namin ng higit pang mga chips.