Jätkame viimsepäevameeleoludega. Eksisteerib väljavaade, mille kõrval šariaat Pärnus tundub lausa erakordselt meeldivana. Selleks on tehisliku superintellekti teke ning kontrolli alt väljumine, mille pärast on muret väljendanud nii Musk, Hawking kui Gates ja muuseas ka Jaan Tallinn.
Asjatundjad räägivad, et inimkonnale täiesti ohutut AI-d on tunduvalt keerukam arendada kui mingil viisil eksistentsiaalselt ohtlikku:
AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else
Teatud tasemest alates võib asi ennast ise arendama hakata ja õige pea pole meil enam kuidagi võimalik aimata, kui kaugele see läheb:
… this creation could, in turn, create yet higher intelligence, which could, in turn, create yet higher intelligence, and so on … So we might generate a growth well beyond human ability and perhaps even an accelerating rate of growth: an 'intelligence explosion’
Musk on maininud, et ohtlikul tasemel AI võib-olla viie, kindlasti aga 10 aasta kaugusel. Mõned eksperdid räägivad pigem 25-st aastast.
Millised siis täpsemalt on AI viimsepäeva-stsenaariumid, kas ja kuidas on mõeldav riskide ohjamine ning kui kaugel võimalikust katastroofist tänasel päeval paikneme?
AI jaguneb nagu inimühiskond kaheks, konservatiivseks-individualistlikuks ehk distributed AI-ks ja liberaalseks-kommunistlikuks ehk single AI-ks. On selge, et üksikisikule on ohtlik just see viimane, sest single AI puhul on ühiskonna huvid seatud kõrgemale üksikisiku huvidest, erinevalt distributed AI-st, mille puhul globaalne sihifunktsioon on üksikisikute sihifunktsioonide summa.
Olid ning ütleks, et ka eelmis(t)e tööstusrevolutsiooni(de) osas on veel vara lõplikku positiivset hinnangut anda. Tööstusrevolutsiooni, inimpopulatsiooni plahvatusliku kasvu ning käimasoleva liikide massilise väljasuremise (anthropocene extintion) vahel on seos. AI on aga esimese tööstusrevolutsiooniga võrreldes oluliselt karmim hüpe. Kui varem andsime lihtsustatult öeldes masinatele füüsilise töö ja endale jätsime mõtlemise, siis nüüd anname masinale mõtlemise ja jätame endale.. mille?
skint Olid ning ütleks, et ka eelmis(t)e tööstusrevolutsiooni(de) osas on veel vara lõplikku positiivset hinnangut anda. Tööstusrevolutsiooni, inimpopulatsiooni plahvatusliku kasvu ning käimasoleva liikide massilise väljasuremise (anthropocene extintion) vahel on seos. AI on aga esimese tööstusrevolutsiooniga võrreldes oluliselt karmim hüpe. Kui varem andsime lihtsustatult öeldes masinatele füüsilise töö ja endale jätsime mõtlemise, siis nüüd anname masinale mõtlemise ja jätame endale.. mille?
Endale jätame veelgi keerulisemate asjade üle mõtlemise, kui masinad lihtsama mõtlemise endale saavad võtta .... Minu arust tuntakse AI üle ennatlikult hirmu, sest minu arust see, kui AI muutuks inimesele ohtlikuks, peab olema loodud masin mis omab totaalset õppimisvõimet, õpitust järelduste tegemise võimet, võimet tegevuste tagajärgi ette ennustada, paljunemisvõimet, kommunikatsioonivõimet ja kellel on oma "mina-tunnetus" ehk siis masin tunneb end isiksusena. Kui inimene loob intelligentse masina, mis ongi inimese poolt ehitatud eesmärgiga inimesi hävitada, siis on see hoopis teine jutt. Selleks sobib masin mida inimene juhib kaugjuhtimispuldist. Või näiteks massihävitusrelv sobib ka.
Ttrust, nagu ma aru saan siis probleem ongi selles, et:
a) Sinu kirjeldatud läbimurretele ollakse mõningatel hinnangutel ohtlikult lähedal; b) kui inimese arengutempo dikteerib evolutsioon, siis masina oma pigem Moore'i seadus. Masin õpib veelgi keerulisemate asjade üle mõtlema võrreldamatult kiiremini kui inimene.
PS - tegemist ei ole teemaga, milles end kaugeltki koduselt tunnen, samuti ei oma agendat mingit lõplikku pointi tõestada
skint Olid ning ütleks, et ka eelmis(t)e tööstusrevolutsiooni(de) osas on veel vara lõplikku positiivset hinnangut anda. Tööstusrevolutsiooni, inimpopulatsiooni plahvatusliku kasvu ning käimasoleva liikide massilise väljasuremise (anthropocene extintion) vahel on seos. AI on aga esimese tööstusrevolutsiooniga võrreldes oluliselt karmim hüpe. Kui varem andsime lihtsustatult öeldes masinatele füüsilise töö ja endale jätsime mõtlemise, siis nüüd anname masinale mõtlemise ja jätame endale.. mille?
Endale jätame veelgi keerulisemate asjade üle mõtlemise, kui masinad lihtsama mõtlemise endale saavad võtta .... Minu arust tuntakse AI üle ennatlikult hirmu, sest minu arust see, kui AI muutuks inimesele ohtlikuks, peab olema loodud masin mis omab totaalset õppimisvõimet, õpitust järelduste tegemise võimet, võimet tegevuste tagajärgi ette ennustada, paljunemisvõimet, kommunikatsioonivõimet ja kellel on oma "mina-tunnetus" ehk siis masin tunneb end isiksusena. Kui inimene loob intelligentse masina, mis ongi inimese poolt ehitatud eesmärgiga inimesi hävitada, siis on see hoopis teine jutt. Selleks sobib masin mida inimene juhib kaugjuhtimispuldist. Või näiteks massihävitusrelv sobib ka.
See mida sa kirjeldad ongi AI. Niipea kui maisn omanadb õppimisvõime (siis reaaalse, mitte mingi tegevuse kopeerimise võime), siis ong see lävend ületatud, sest kui tekib õppimisvõime, siis tekib automaatselt ka võime järjest keerukamaid asju õppida.
skint Masin õpib veelgi keerulisemate asjade üle mõtlema võrreldamatult kiiremini kui inimene.
Ma olen väga skeptiline selles osas, et inimmõistus on suuteline looma tehismõistust, mis on struktuurilt keerukam, kui inimmõistus ise. Kiirus võib jah vast inimest ületada, aga keerukus mitte. Juba põhimõtteliselt pole võimalik luua midagi sellist, mida sa ise endale ette ei suuda kujutada või mille toimepõhimõte ületab su mõistmisvõimet. Sama printsiip kehtib ka masina kohta - masin ei suuda luua endast keerukamat masinat. See teadmine või mudel, kuidas luua teist (keerukamat) masinat, peaks eelnevalt "temas endas" juba sisalduma. Kui me tahame saada mõne teise olendi Loojaks, tuleb meil ta luua "oma näo järgi".
Huh, jube segane seletus sai, aga loodetavasti on point mõistetav.
mx77 See mida sa kirjeldad ongi AI. Niipea kui maisn omanadb õppimisvõime (siis reaaalse, mitte mingi tegevuse kopeerimise võime), siis ong see lävend ületatud, sest kui tekib õppimisvõime, siis tekib automaatselt ka võime järjest keerukamaid asju õppida.
mx77, aga inimesele "masina omast tarkusest arenedes" ohtlikuks muutumiseni on sealt minna veel väga pikk tee.
Fake McCoy AI ei ole midagi keerulist - andke mulle piisavalt palju arvutusvõimsust ja mälu ning ma teen inimesest targema AI valmis.
Seda oleks huvitav näha kuidas sa binaarsüsteemil (tänane digitaaltehnoloogia) põhineva AI vamis teed.
On põhjust muretseda, et varsti leiutatakse ehk midagi uut, aga see ei tugine tänasele digitaalsüsteemile (ja selle baasil tehtud arvutitele). Isegi koera ei suudeta valmis teha... rääkimata mõistmaks delfiini ajuehitust jne.
Pigem tuleb see saavutus kusagilt bioloogide laualt... pooljuhttehnoloogia võib saada selle perifeerseks osaks, aga mitte ajuks.
Hawkingu mõtteid peaks uurima ja lugema, tark mees. Musk on aga lihtsalt üks jobu, kes tõsimeeli usub, et tulevik on akutrellide päralt.
Looduse jäljendamine ei ole alati kõige mõistlikum. Kui inimene oleks lennuki ehitamisel jäljendanud lindu, me ei lendaks veel, kui inimene oleks auto ehitamisel jäljendanud hobust, me ei sõidaks veel. Samuti ei päde väide, et inimene ei suuda luua keerukamat süsteemi kui inimaju, samuti nagu ei päde väide, et inimene ei jäksa luua endast tugevamat masinat.
Fake McCoy Looduse jäljendamine ei ole alati kõige mõistlikum. Kui inimene oleks lennuki ehitamisel jäljendanud lindu, me ei lendaks veel, kui inimene oleks auto ehitamisel jäljendanud hobust, me ei sõidaks veel. Samuti ei päde väide, et inimene ei suuda luua keerukamat süsteemi kui inimaju, samuti nagu ei päde väide, et inimene ei jäksa luua endast tugevamat masinat.
Kõik õige, aga kahendsüsteemi peal sa AI-d ei ehita - see ei ole lihtsalt AI.
Kõigepealt on vaja definitsiooni mis see AI on. Lihtsalt statistilist analüüsi teostav programmijupp seda ei ole, kui palju intelligentsi masinal on vaja, et see kvalifitseeruks AI-ks. Eneseteadvus, õppimine, iseseisev otsustamine, eesmärk paljuneda ja ellu jääda? Teoreetiliselt ei pea see üldse inimese sarnane olema, arvutil või arvutivõrgul põhineval masinal on palju eeliseid, mida "bioloogilisel masinal" ei ole.
. on meeletu arvutusvõime... kuid see ei ole määrav.
Alustaks sellest, et millised on võimalused tekitada kahendüsteemile tuginedes abstraktset mõtlemist?
Loomariigis pole neid loomi palju, kellel selline võime oleks. Delfiini puhul seda kahtlustatakse.. neil isegi oma keel, mis koosneb 5000-st ! erineva tähendusega signaalist. Pole selge, kas need on laused, sõnad - kuid on umbes 5000 eritähenduslikku signaali, mida õpetatakse edasi oma järeltulijatele. Kindel struktuur ja tuvastatav meie tehnoloogiaga.
Minu poolest tehtagu või miljard e-küülikut, kuid neist ei saa iial ohtu, mis ähvardaks inimkonna eksistentsi. Kui aga leiutatakse midagi uut... midagi, mille aju ei tugine pooljuhtidel ja omab abstraktset mõtlemisvõimet, siis tasub olla murelik. Võimalik, et see hetk on juba ära olnud (hoitakse salajas), juhtub homme... viie aasta pärast ... või mitte kunagi. Tegelikult on kõik variandid võimalikud.
Et AI oleks keerukam, kui inimmõistus, peaks ta suutma tulema toime kõigega, millega inimmõistus suudab toime tulla pluss veel midagi, millega inimmõistus toime tulla pole suutnud.
Alan Turingi nimekiri asjadest, mida teoreetiline tehismõistus peaks suutma, nägi välja selline:
Be kind, resourceful, beautiful, friendly, have initiative, have a sense of humor, tell right from wrong, make mistakes, fall in love, enjoy strawberries and cream, make someone fall in love with it, learn from experience, use words properly, be the subject of its own thought, have as much diversity of behaviour as a man, do something really new.
PeaLiK Et AI oleks keerukam, kui inimmõistus, peaks ta suutma tulema toime kõigega, millega inimmõistus suudab toime tulla pluss veel midagi, millega inimmõistus toime tulla pole suutnud.
Alan Turingi nimekiri asjadest, mida teoreetiline tehismõistus peaks suutma, nägi välja selline:
...do something really new...
Paraku võimatu. Seostub otseselt abstraktse mõtlemisvõimega. Kui e-küülikuga kuidagi maha saadakse, siis ollakse veel kättesaamatus kauguses delfiini/inimese loomisest.
PeaLiK Et AI oleks keerukam, kui inimmõistus, peaks ta suutma tulema toime kõigega, millega inimmõistus suudab toime tulla pluss veel midagi, millega inimmõistus toime tulla pole suutnud.
Alan Turingi nimekiri asjadest, mida teoreetiline tehismõistus peaks suutma, nägi välja selline:
Be kind, resourceful, beautiful, friendly, have initiative, have a sense of humor, tell right from wrong, make mistakes, fall in love, enjoy strawberries and cream, make someone fall in love with it, learn from experience, use words properly, be the subject of its own thought, have as much diversity of behaviour as a man, do something really new.
See oleks oluline kui kopeerida inimmõistust. Palju neid sotsiaalseid omadusi on seotud inimese primaarsete teadvusprotsessidega mis peaksid tagama liigi paljunemise ja ellujäämise. AI võib paljunemiseks ja ellujäämiseks teise strateegia valida, seega pole sellele neid omadusi vaja ja kogu intelligents võib inimesest oluliselt erineda.
Härrased, selleks on õppimise võime. Ainult, et masin võib areneda ja ennast ümber programmeerida ma usun vähesemate takistustega kui ajaliselt bioloogia on suutnud areneda. Loodus ei loo igat järgnevat olendit rumalamat, ka iga järgnev laps ei sünni suurema puudega ja lõkketuli ei ole võimeline süütama vaid endast väiksemaid lõkkeid.
Kui inimkond on nagu mesilased, pool kilo ajumassi laiali jaotatud väikeste tükkidena siis see sama mass ühe ajuna on mõeldamatu samm edasi laienenud teadvuses. Ainuüksi mõnikümmend protsenti suurem haaratavus teadvuses oleks ilmselt piisav et inikonna käed lõplikult seljataha väänata.