Väga hea, 10 aasta pärast vaatame kellel õigus oli, aga täna on see 10x kasv juba prototüüpide ja jooniste näol laborites olemas, nii et küsimus on ainult selle tootmisesse saamine.
Kui robot saadab tehasele korralduse toota koopiaid iseendast, kas see loeb? Istutab mõtte koopiate loomise vajadusest CEO pähe?
Inimesed kasutavad tootmiseks roboteid, ei tee kõike otsast lõpuni oma pehmete käekestega valmis. Samamoodi võib kasutada robot oma tööjõuna inimesi. Ja võib-olla juba kasutabki.
Moore seadus ei räägi midagi kiiruse kasvust, Moore seadus käib optimaalse transistorite arvu kohta kiibil.
See teisendub otseselt kiiruse kasvuks. Offf siin seletas seda juba.
No vot, Offf suutis nii palju vahtu üles peksta, et millest vaidlus alguse sai, see läks kõigil juba meelest ära.
Ma ei arva sellest väitest midagi, see on lihtsalt üks väidetav tähelepanek, mida Jensen Huang on millagi oma ettevõttes märganud. Ilma täpsema kontekstita, mis moodi antud tulemus on saadud, ei olegi mõtet midagi muud sellest arvata, veel vähem eeldada, et tulevikus ongi nüüd nii ja mittenõustujaid progressi eitajateks tembeldada, raulir juba kommenteeris su pilti, ma ei näe, et sa ise kuidagi täpsemalt seletaksid oma väiteid lahti, ilma selleta on su jutt on jah tavaline online-müra ja loosungite kordamine. Offf ütleb jah selle kohta, et see on põhk. Su jutt nagu väga ei veena ka et see teistmoodi kuidagi võiks olla. Sa kindlasti usud selles, aga kas sa ratsionaalselt isegi saad aru, miks ja mismoodi asjad võivad minna ?
Offf ei seletanud midagi, ta ajas Moore ja Huangi seaduse sassi oma vahel ja lõpuks väitis, et Huang saavutas selle 1000x jõudluse kasvu võrreldes CPU-dega, mis on absoluutne vale. Huang võrdeles GPU vs. GPU, nagu pildilt näha on.
Eksisteeriv müügivõrk, ka ekslik rutiin, pluss veel pisiasju. Aga reaalseid asju tuleb elus reaalselt lahendada, siin aitab vaid selge tehniline üleolek.
Küsimus loogikas, kui masinmälu on stabiilsem ja neutraalsem, siis peaks ta välja tooma kasuliku süsteemse väärtuse. Seda nii aktsiates, coinides, kui mujal tulevikuväärtuse kauplemisel. Kiiret pole, kuid loogiline oleks ju…
Ja siit järeldub mis?
AI järjepidev analüüs peaks näiteks Bitcoini väärtuseks kujundama 2-3 väiksema hinna
Peaks jah, aga võta näpust, mitte kuidagi ei kujunda! Mitte ühestki otsast!
1 Like
Peale esimest ei ole seal pildil enam GPUd.
INT cored ei ole enam üldse GPUd. H100 ja B200 on graafika kiirendamiseks umbes sama head kui rasedustestid milledel 3D mänge käima aetakse. Ehk siis see pilt on põhimõtteliselt turunduslik absurd.
AI treenijad panid kunagi tähele, et teatavad AI jaoks vajalikud maatriksoperatsioonid, mida mängurite GPUd oskasid kiirendada on kiiremad teha neil GPUdel (milledel on näiteks FP32 FMA võimekus) kui üldotstarbelistel CPUdel.
Need GPUd tegid seda aga suht aeglaselt, kuna nad hoolisid värvisügavusest, täpsusest jne, et pilt mänguritele ikka ilus tuleks.
AI-lastele polnud aga seda kõike vaja.
Ehk siis GPUsid aluseks võttes hakati sealt featuure maha kraapima, kuni nüüdseks on jõutud 4-bit fikseeritud suurusega täisarvuliste maatriksiteni 2-bit veaga.
See pole enam aga mitte GPU, vaid AI-kiirendi.
Ehk siis see võrdlus on jama. Ei võrrelda enam samu asju - üks on mõeldud üheks asjaks ja teine teiseks. Spetsialiseeritud AI kiirenditel pole enam eriti midagi pistmist GPU-dega peale sarnase mäluhalduse.
32-bit 3D mängu jaoks on selline $40k kiirendi kehvem kui ilma igasuguse AI-ta 10 a vana mänguritele suunatud kodu-GPU. (Pmst tahaks näha ausat GPU benchmarki neile …)
Seda kõike on näha ka sellest, et enam ei räägita turunduses FLOPsidest vaid lihtsalt OPsidest.
4 Likes
Sarnane lähenemine on Caleb Scharfil (MIT astrobioloogiakeskuse juht), nimelt et bioomide kõrval peaksime vaatlema ka dataoome, sisuliselt siis informatsiooni elavikud, kus informatsioon on see, mis üritab elus püsida, levida ja paljuneda. Vaadates, kui palju energiat kulub selleks ülesandeks aastal 2026, siis päris õige lähenemine imho
See pilt on graafika näide, mida INT4 AI cored suudavad pakkuda - 4-bit graafika koos sellistele coredele tüüpilise veamääraga.
(Keegi peale rasedustestide testija kalduvusega Offf-tüüpi hullude muidugi ei viitsi nendega graafikakiirendina jamada - praktikas saab tunduvalt parema pildi kasutades isegi madalama otsa CPUd kuskil alla 1 raha maksva “Arduino supertiny” vms seest.)
1 Like
Aitäh, raulir, et sa selle nii Puust ja Punaseks ette maalisid. Ma ei kujutanud ette, et peab NII kirjutama. Arvasin, et natuke subtiilsematest vihjetest piisab.
Te olete ikka 2 koomikut. Arvate, et avastasite mingi suure vandenõu? 
Teile teadmiseks, Huang pole kunagi seda varjanud, kuidas ta selle 1000x sai.
Siin paned natuke liiga paksult värvi. 4 bit core ei tähenda, et väljund peab 4 bit olema.
2 Likes
Ok, core otsene väljund visualiseerituna on rohkem nagu ülepakitud jpeg vms. Ja järgmises astmes kvantiseeritakse ta tagasi 4-bitile.
Ehk siis väljund kirjutatakse tõepoolest suurema arvu bittidega registrisse, aga see on enamasti hallutsineeritud täpsus.
Allolev pilt on 32-bit pilt ja erinevad pikslid sisaldavad tuhandeid erinevaid värve. Samas reaalne info seal on seesama 4 bitti per piksel, lisaks veel ± kuni 2 bitti lohaka arvutamise viga.
Seda mis INT4 coredes andmetega toimub on üsna raske visualiseerida … aga see pole ilus 
Raulir toob selle “kitsaskoha” kenasti välja. Me võime disainida sellise ALU mis teeb mingit ühte asja nt.Cartesiuse korrutist väga väga kiiresti. See on “kübaratrikk”. Smoke and mirrors. Moodne arvuti on täis neid “kübaratrikke”. Arvutiinsenerid on suuremad petised kui kasutatud autode müügimehed.
Tehnoloogia “as whole” on natuke vähem arenenud. Analoogia … me oskame ehitada autot, mis “neljandikmiili” läbib Väga Kiiresti (ja pärast seda läheb kapitaalremonti)… aga me ei oska veel ehitada autot, mis terve LeMans 24 läbiks sama kiiresti kui “top fuel” dragsteri tippkiirus. Piirangud.
1 Like
Üritad kuidagi väita, et omal ajal 8-bitise CPU poolt genereeritud 32 bit pilt oli kuidagi visuaalselt kehvem kui 32 bitise poolt genereeritu?
1 Like