Kõlab kohutavalt ebaefektiivselt ja ressursikulukalt hakata teaduse lahendamata küsimusi tagasisidestatud katse-eksituse meetodil lahendama. Kommertskasutuskõlbliku tuumafusioonireaktori ehitamise katse nr 4773901 - lälle ainult ilge pauk ja kõik ribadeks. Alustame katse nr 4773902 ettevalmistusi… Ei usu mina, et nii kunagi asja saab. Kui AI ajamasina või musta augu suudab luua või kasvõi kadunud tumeaine üles leida, olen valmis arvamust ümber hindama.
To: PeaLiK
Fusionreaktori puhul on raske sellist pauku saavutada, et kõik pilbasteks lendaks. Kui muidugi sinna aparatuuri või konstruktsiooni vahele kuhugi mõnda konventsionaalset lõhkeainet ei topita.
Isegi fissionreaktori puhul peab reaktori ehitus selline väga spetsiifiline olema, isegi seal pole seda nii lihtne saavutada.
Siiski, siiski. Kuna tuumakatsetused on viimased 30 aastat olnud keelatud, siis on superarvutite peal korraldatud kümneid tuhandeid selliseid täistsüklilisi mudelarvutusi.
Sa oled lati ikka jube kõrgele sättinud.
Kui AI olemasolevate testide ja teadmiste baasil ennustaks mingi uue aine valemi, mis näikeks konkreetsete vähirakkude paljunemist pärsiks, oleks ka juba kiiduväärt tulemus.
Kusjuures arvaks, et selliste ülesannete lahendamisega saab ta juba/varsti hakkama ka.
1 Like
Pakkuda välja aineid, mis vähirakke hävitavad pole mingi kunst. Väävelhape kasvõi. Keeruline osa on loom- ja inimkatsetega kontrollida, et need ained peremeesorganismi ei kahjusta ja selle musta töö peab ikka inimene ära tegema.
1 Like
Muidugi iseasi, kas vähirakkude puhul kasutada sõna “peremeesorganism” on õige? Ega need vähirakud kusagilt väljast organismi ei sisenenud.
Kui AI looks sulle ajamasine, kes selle katsetamise musta töö teeks?
1 Like
Selleks, et see diskussioon saaks mõistlikult jätkuda, võiks keegi ikkagi mõtlemise ära defineerida, ma nomineeriks selle au decibelile.
Roboti näitel see masin ei hakanud “mõtlema” et hakkaks nüüd “kõndima” vaid objekt kohandus füüsilise keskkonnaga.
Ega pmst kogu elu Maal põhineb ideel “hea stiimul —> liigu sinna, halb stiimul —> liigu eemale”. Ps elu definitsiooni ka pole.
1 Like
Enamiku inimeste viga AI toimimise mõistmisel on see, et nad ei tunne n-mõõtmelise vektorruumi loogikat ega seda, kuidas seal kontekstipõhiselt hüpertasandeid moodustatakse. Ilma selleta on AI nn ‘mõtlemist’ võimatu adekvaatselt aru saada.
Ise olen üle 20 aasta sellega tegelenud ja seetõttu tajun neid mõttemustreid vägagi hästi.
Tänan, sa vastasid mu küsimusele täielikult.
1 Like
Ma lihtsalt uudishimust torgin veel, mida me selle kulutuse eest tagasi saame. OK, igasse valdkond kindlasti natukene, kuid minu fantaasia detaile paika ei suuda sättida. Kogu planeedi peale läheb vist mingi 10 triljonit märkamatult ära enne kui mingid asjalikud robotid hakkavad massiliselt tulema. Eeldatavasti on nad kallid, kasumilikus küsitav. Tühja haibitud krüptovara, seda palun, lihtne, kuid sisutu. Kõikides keeltes online suhtlemine, loogiline, aga minu kogemuse järgi see Aafrikat veel arukaks ei tee. Üldine kokkuvõtlik arusaamine maailmast paraneb kõigi eelduste kohaselt tugevalt. Ausa konkurentsi suurenemine, kahtlen, väga ühelaadsed rahaallikad. Kontroll iga pagana pisiasja üle, tehniliselt peaks olema võimalik, kuid see nagu tegeliku elujärge ei paranda. Jne…
See on klassikaline labidamüüjate, kõrtsipidajate ja kullakaevajate situatsioon. Praegu ujub kiibisektor(labidamüüjad/viskimüüjad) rahas, hüperskaleerijad(kõrtsipidajad) on võtnud tohutult laene, et andmekeskused(kõrtsid) püsti panna ja on AI firmadele tasuta/krediiti teenust/viskit pakkunud ja AI firmad/kullakaevajad töötavad palehigis, et AGI/kuld kätte saada. Ja kullakaevajad on andnud tohutult lubadusi. Kui nüüd kulla kättesaamine venib, siis on tegelikult kõik väga suures jamas.
Ja see pole ainus oht, peamine oht tuleb hetkel hoopis Hiinast, nimelt Hiina mudelid on küll kehvemad, aga kordades odavamad. Kui Hiina suudab pakkuda 90% USA mudelite tasemest aga seda 10% hinnaga, siis keegi ei hakka kasutama USA mudeleid.
1 Like
WOW. Lõpuks hakkame jõudma ka palju põnevamate ja relevantsemate küsimuste manu.
Oletame, et kogu see jutt “1000 korda kiiruse kasvust on 100% tõene”. Lihsalt oletame. No las ta siis olgu, lõpuks pole sellel numbril tegelikult erilist tähtsust. 1000 x , 10 000 x - mis seal vahet.
Palju põnevam on see, palju kasvab jõudlust nii-öelda “tagarattast mõõtes”.
kasutegur.
Kui jõdlus kasvab 1000x kui palju kasvab nvidia stock (siin võib “kasutegur” olla ka üle100% sest see pole suletud süsteem ja saab juurde “välist energiat”)
Kui palju kasvab mudelite jõudlus.
Kui palju kasvab AI ettevõtete stock, käive, kasum
Kui plaju kasvab reaalse tandemi inimene-LLM tööviljakus (see on konksuga küsimus)
Kui palju sellest tööviljakuse tõusust jõuab ettevõtte kasumireale? (Veel suurema konksuga küsimus)
Ja lõppeks – kui palju inimkonna kui terviku “elu paremaks läheb” tänu sellele “1000 x kasvule” seal sõltuvusahela alguses.
Ma pakun, et “ahela lõppu” sõidab heal juhul välja 5-10% ja seda VÄGA heal ERIJUHUL. Keskmine võiks sinna 0.midagi – 1% vahele jääda.
Kuidas sa üldse defineerid “ahela lõppu jõudnud suurust”? Kui omal aja penitsilliin leiutati…
Mitu protsenti sellest elu paremaks muutus? Või “palju ahela lõppu jõudis”?
AI üks võimalik kasulikkus võiks olla, et mingid leiutised tulevad kergemini ja kiiremini kätte.
Kuidas seda kasulikkust numbriliselt inimkonna kontekstis mõõta, on nagu europrojektides sotsiaalmajanduslik tulu.
Siin on mõningad stsenaariumid kuidas asjad võivad minna hästi ja kuidas halvasti:
- Kui Transformer-arhitektuur välja mõeldi, siis levis sektoris tohutu optimism, et toores arvutusvõimsus = intellekt, selle eestkõnelejad olid eelkõige Musk ja Amodei, kuid Transformer on tänaseks sisuliselt vastu seina sõitnud. Selle stsenaariumi puhul oleks iga lisandunud AI-kiip transformeerunud läbi toodetud tokenite inimkonna kasuks.
- Täna räägitakse peamiselt, et keerukus = intellekt, tohutud summad pannakse mudelite R&D peale, kusjuures järjest suuremates kogustes ka AI enda ressurssi, räägitakse sellest, kuidas AI on hakanud AI-d arendama, ja tähendab see ainult seda, et kogu ressurss võib lõpuks minna AI arenduseks ja inimesele jäävad vaid võlad ja reostus.
- Tekivad konkureerivad AI-d, näiteks USA vs. Hiina, või OpenAI vs. Anthropic, sellisel juhul läheb kogu aur AI-de vahelise võitluse peale ning inimesele jäävad jälle ainult võlad ja reostus.
Huvitav teooria, kuidas OpenAI mudel võis HuggingFace häki läbi viia:
Idiot savant oli esimene mõiste mis selle peale pähe kargas, aga, omas valdkonnas ikkagi ülivõimekas ja võttes oma sõnu veidi tagasi - kui on nii, siis OpenAI võimekus seda kontrollida on tõepoolest kahtluse all. Marketingi mõttes kasutavad siiski olukorda täie rauaga nad hetkel ära.
2 Likes
Ei olnud siiski isesõitev, vaid oli kaugjuhitav:
IMHO, kaugjuhitav lahendus on märksa ohtlikum võrreldes korralikult treenitud masinõppepõhise isesõitva lahendusega, sest kui eeldame, et kaugjuhtimislahendus kasutab tavalist tsiviilkäibes olevat mobiilset internetti ning nett kasvõi hetkeks läägab, ei oska see kaugjuhitav masin hoo pealt ilmselt kuigi tarku otsuseid autonoomselt vastu võtta peale pidurite põhjalöömise… Lisaks on kaugjuhi riskitaju reaalsusest pehme tugitooliga eraldatud, st. juhi isiklik füüsiline tagumik ei asu enam eesliinil ning kaugjuht ei karda enam füüsilist valu… Laulgu spetsid kuipalju tahavad tehnilistest lisagarantiidest nagu eriotstarbeliste pakettide kõrgemast prioritiseerimisest sidevõrkudes vms., aga mobiilne nett läägab mõnikord ka muudel põhjustel, nt. raadiosignaali kvaliteedi ajutised häired.
2 Likes
Mul tekkis küsimsu, et kui sa sellise kaugjuhitava jurakaga kokku põrkad, siis kuidas toimub liiklusõnnetuse vormistamine?
Google lekitas suure koguse tehisaruvestlusi avalikkuse ette - loe kasutaja tegi oma Claude vestluse avalikuks ja pole rahul et need avalikud lingid otsigus välja tulevad.
Samal teemal jätkame:
- ei suuda võlga tagasi maksta ja süüdi on pank, kes ei kontrollinud laenu andmisel minu maksevõimet.
- lõin haamriga näpu pihta ja süüdi on haamri valmistaja, kes ei ehitanud oma tootesse automaatset näpukaitset.
Tundub, et tänapäeva maailmas indiviidi enda vastutus on oluliselt piiratud ja loll olemine on inimõigus.
5 Likes
Mu eelmine postitus kadus kuhugile siit, aga proovin uuesti.
Kui me eeldame, et selline süsteem on disainitud vastama kõrgeimatele autotööstuses kehtivatele ohutusnõuetele, on selline auto reaktsioon mõeldamatu. Selliste asjade arendamisel eelneb väga põhjalik ja nõuetele vastavalt dokumenteeritud riskianalüüs ja telemeetria häired on kohe kindlasti seal analüüsitud ning kaetud kas dubleeritud andmesidekanaliga või samaväärselt ohutust tagava teistsuguse süsteemiga. ja lisaks lokaalselt ohutuma reaktsiooniga kui seda on äkkpidurdus (näiteks aeglustamine koos ohutustulede sisselülitamise ja järgneva autonoomse parkimisrežiimiga), rääkimata sellest et kontroll auto üle täielikult võiks kaduda. Autonoomne äkkpidurdus on oma olemuselt juba ise risk ja pakun et see võib olla lubatud vaid üsna äärmuslikel juhtudel. Lisaks on taolises süsteemis hunnik ohutusmehhanisme mis tuvastavad jooksvalt “läägimist” ja muid probleeme ja ka nende rakendumisel peab järgnema ohutusnõuetele vastav reaktsioon. Ja siis lisaks on omakorda ohutusmehhanimisid mis testivad, et eelnevad ohutusmehhanismid on võimelised “läägimist” vms. errorit tuvastama - tihtipeale näeb see välja nii, et tehakse süsteemi osadele teadlik fault injection näiteks auto käivitamise ajal.
Nagu selgus, antud autojuhtimissüsteem oli alles katsetamisel, ja eeldas, et autos olnud inimene oleks pidanud võtma ohuolukorra tekkimisel kontrolli üle, aga miskipärast ei suutnud seda piisaval määral teha. Ja muidugi et Eesti riik on andnud loa selliste süsteemide katsetamiseks avalikus liikluses, enne nende ohutusnõuetele vastamise sertifitseerimisprotsessi lõppu. Selline test võib olla ka sertifitseerimisprotsessi osa, aga sel juhul peab olema ohutus väga põhjalikult tagatud ja kuna antud õnnetus oleks võinud lõppeda inimelu kaotamisega, siis (teadmata muidugi detaile) viitab selline asjade käik, et ohutusnõuded olid äärmiselt puudulikud või neid eirati.
2 Likes