Stephen Hawking varuje pred technologickou singularitou

Vytvoríme niekedy v budúcnosti inteligentný stroj? A ak áno, čo bude nasledovať? Ako budeme spolu existovať, budeme vôbec?

Technologická singularita

Technologická singularita je moment po ktorom sa naša civilizácia radikálne zmení. Príde v čase keď umelá inteligencia prevýši ľudskú. Od tohto momentu sa dokáže naďalej zlepšovať sama a rozdiel voči ľudskej inteligencii bude narastať. Čo sa stane potom je mimoriadne ťažké, ak nie nemožné odhadnúť.

Pojem singularita ako prvý zaviedol v roku 1983 matematik Vernor Vinge. Pred ním však na tento prelom už upozorňovali Alan Turing a John Von Neuman. Spopularizoval ho a punc zákonitého vývoja mu dal Ray Kurzweil. Príchod singularity Vernor Vinge predpovedá pred rokom 2030, Ray Kurzweil na obdobie okolo roku 2045.  

Vývoj pritom speje k technologickej singularite podľa mnohých zákonite a teda neodvratne. Ray Kurzweil zovšeobecnením Moorovho zákona z vývoja procesorov na celý technologický progres dáva rýchlosti rozvoja exponenciálnu rýchlosť. Podľa tejto zákonitosti sa vývoj tchnológii bude neustále exponenciálne zrýchľovať. Aj po singularite. 

Svet po singularite zahŕňa hypotetické scenáre od konfliktu cez koexistenciu až po splynutie ľudí s umelou inteligenciou. Hypotéza je rozvíjaná naprieč ďalšími vednými disciplínami. V ekonomike napríklad Robin Hanson singularitu predstavuje ako prechod podobný príchodu priemyselnej revolúcie v 18. storočí. Po nej sa celková svetová ekonomická produkcia  zdvojásobovala šesť krát rýchlejšie ako pred ňou. V posledných dvoch storočiach sa  zdvojnásobovala každých približne 15 rokov, predtým v období poľnohospodárskej produkcie na to potrebovala 900 rokov. Rovnako tak sa ekonomika podľa Hansona urýchli v postsingulárnom období keď sa produkcia zdvojnásobí raz za štvrťrok, či dokonca raz za týždeň. 

Téma technologickej singularity nie je nová. Knihy o nej pribúdajú po desiatkách ak nie po stovkách ročne. Konajú sa o nej pravidelné konferencie a objavuje sa vo filmoch. Aj na pc.sk sme sa tejto téme podrobne venovali a to dokonca už pred desiatimi rokmi. Keďže oba články z toho času sú stále aktuálne a podrobnejšie vysvetľujú myšlienku technologickej singularity, pripájame ich pre zaujímavosť a na dovysvetlenie ako druhú a tretiu kapitolu tohto článku.  

Aktuálne správy o technologickej singularite opäť raz prebehli médiami. Stephen Hawking spolu s nositeľom Nobelovej ceny za fyziku Frankom Wilczekom,  Maxom Tegmarkom a Stuartom Russelom zverejnili minulý týždeň v The Independent článok varujúci pred technologickou singularitou. Článok je priamou reakciou na príchod filmu Transcendence do kín. V článku označujú príchod singularity ako potenciálne najlepšiu alebo najhoršiu vec, ktorá sa ľudstvu v jeho histórii stane. Upozorňujú, že napriek tomu k nej nepristupujeme dostatočne seriózne a venuje sa jej len málo výskumných aktivít. V úplnom závere článku vyzývajú aby sme si všetci položili otázku čo môžeme spraviť aby sme zvýšili šance zožať benefity a vyhnúť sa rizikám spojeným so singularitou.

Z uvedených mien pod článkom v The Independent a mien z histórie tejto hypotézy nadobudneme dojem, a v skutočnosti to tak aj naozaj je, že väčšina odborníkov pokladá príchod singularity za neodvrátiteľný. Aj tu ale existujú skeptici. Napríklad Noam Chomsky, podľa The New York Times, najvýznamnejší intelektuál súčasnosti, Tegmarkov a Kurzweilov kolega z MIT o nej hovorí, že je to science fiction a nevidí žiaden konkrétny dôvod jej veriť.     

Na tenkom ľade

Ak hovoríme o možnosti vytvorenia inteligentných strojov, o civilizácii, ktorá by potenciálne mohla presiahnuť naše možnosti aj z tých najsmelších predstáv, sme na tenkom ľade. Sme pri otázkach, ktoré si ľudia kladú počas celej svojej histórie. Sme pri otázkach, ktoré sa priamo dotýkajú podstaty našej existencie.

Vývoj v oblasti výpočtovej techniky má už tri desaťročia jasný trend. Rýchlosť procesorov sa zdvojnásobuje jeden krát za 18 mesiacov. Trend je taký jasný, že sa mu dokonca dostalo pomenovania zákon, nazvaný je po svojom tvorcovi, Moorov zákon. Jasným dôsledkom by malo byť približovanie sa úrovne strojov k úrovni ľudí a následne prekročenie tejto úrovne. Krivka rastu vývoja výpočtového vývoja sa dá spochybniť napríklad spochybnením platnosti Moorovho zákona pre najbližšie desaťročia. Napríklad poukázaním na dosiahnutie fyzikálnych hraníc procesu miniaturizácie v rámci stavby procesorov o X rokov. Napriek tomu toto nie je kľúčové. Nech sa nárast výkonu počítačov bude presne držať Moorovho zákona alebo nie, v blízkej budúcnosti sa celkom určite nezastaví. Pri spochybňovaní nárastu výkonu počítačov v najbližších rokoch, alebo pri hľadaní dôkazu o jeho zastavení akoby sme zároveň hovorili, že pri dostatočnom výkone je vznik inteligentných strojov možný. Je to naozaj tak? Ak je to oprávnený predpoklad, tak otázkou bude, kedy sa tak stane.

Nás však bude najskôr zaujímať či je to vôbec možné. Nepoznáme žiadne iné inteligentné bytosti okrem nás samých. Neostáva nám teda iné ako začať od seba.

Začnime otázkou: Je náš mozog "len" elektrochemický orgán? Presnejšie povedané je naše myslenie, naše sebauvedomovanie sa, len dôsledkom fungovania nášho mozgu? Obe možné odpovede nás privádzajú k ďaľším otázkam. Ak je odpoveďou nie, ak je naše myslenie a najmä sebauvedomenie nie je len dôsledkom elektrochemických reakcií nášho mozgu, tak sa dostávame k otázke čo je tým ďalším čo nám chýba do skladačky. Nebudeme teraz riešiť čo je tým čo nám chýba, spýtajme sa inak. Dá sa vytvoriť inteligentná bytosť bez tohoto "prídavku"? Pripusťme odpoveď, že nevieme.

Uzavrime nateraz rozvíjanie odpovede "nie" na našu otázku. Pripusťme teraz odpoveď áno. Povedzme teda, že naše sebauvedomovanie sa a inteligencia je dôsledok elektrochemických reakcií v našom mozgu. Znamená to potom, že môžeme vytvoriť inteligentnú bytosť, inteligentný stroj, v presnejšom zmysle slova inteligentný program fungujúci v nejakom prostredí? V takomto prípade by sme mali odpovedať áno. Zdá sa, že potom je cesta k vytvoreniu inteligentného stroja otvorená. Otázkami, ktoré z tejto moľnosti plynú sa zaoberá článok Inteligentné stroje a my.

Aj v tomto prípade ostáva mnoho ďalších vecí, ktoré sú nejasné. No práve pri vytvorení inteligentných strojov sa mnohé z nich objasnia. Naučíme sa tak mnohé veci o nás samých.

Na začiatku sme sa pýtali či sa dá vytvoriť inteligentná bytosť bez čohosi čo dopĺňa elektrochemické reakcie v našom mozgu, nech už je to duša, alebo čokoľvek iné. Pripustili sme, že nevieme. Ak by bola odpoveď nie,  tak sa inteligentných strojov v relatívne blízkom časovom období nedočkáme. Ostaneme poučení, že existuje niečo čo je časťou nás samých, niečo čo nás robí inteligentnými bytosťami.

Je tu, ale aj tá moľnosť, že to niečo čo nás robí inteligentnými bytosťami okrem činnosti nášho mozgu síce existuje, no že je zároveň moľné vytvoriť inteligentnú bytosť aj bez tohto doplnku. Nebude táto bytosť v nejakej zásadnej veci odlišná od nás? Nebude prejavom chýbajuceho doplnku čosi zásadné?

Otázky sa nám reťazia a je ich stále viac než odpovedí. Točíme sa v kruhu, naháňame si takpovediac svoj vlastný chvost. Presne tak to je. Nevieme odpovede na väčšinu vyššie položených otázok. V takejto situácii sme sa však v našej histórii nachádzali mnohokrát. Jedným z riešení je opýtať sa prírody ako to teda je. Spraviť experiment. Nie vždy sa to dá, teraz sa však zdá, že rozvoj strojov, programov, umelej inteligencie alebo akokoľvek to nazveme, nad úroveň človeka je vlastne takýmto experimentom.

Moľno sa hráme s Pandorinou skrinkou, no je úžasné, že sme tak blízko priameho experimentálneho overenia, respektíve zistenia odpovedí na viaceré otázky ktoré si ľudia uz tisícročia kladú. Žijeme v zaujímavom období, a to najzaujímavejšie ešte len príde.

Inteligentné stroje a my

Vytvoríme niekedy v budúcnosti inteligentný stroj? A ak áno, čo bude nasledovať? Ako budeme spolu existovať, budeme vôbec?

To či sa stroje skutočne stanú inteligentnými bytosťami je ešte stále otázne, dnes sa však táto možnosť zdá čoraz reálnejšou (Aby sme túto vec neodbili, venujeme sa jej v ďalšom článku s názvom Na tenkom ľade). Ak predpokladáme, že sa tak stane, musí nás zaujímať ako budeme vedieť s touto inteligenciou koexistovať. Čo sa vlastne stane v období keď vytvoríme inteligentné stroje?

V súčasnosti sú najpopulárnejšími, a zámerne píšem najpopulárnejšími a nie najpravdepodobnejšími možnosťami vývoja konflikt a rozdelenie sa ciest inteligentných strojov a ľudí. Pokiaľ to čo myslím pod konfliktom je zrejmé, tak rozdelenie si žiada upresnenie. Rozdelenie je paralelný vývoj, súčasná existencia oboch foriem inteligencií bez nejakého konfliktu. Inteligentné stroje a ľudia budú koexistovať podobne ako v súčasnosti vedľa seba existujú ľudia a niektoré iné živočíšne druhy, napríklad opice či delfíny. Stroje sa stanú inteligentnými, oddelia svoj ďalší vývoj od vývoja ľudskej civilizácie a pôjdu svojou cestou bez nejakého zvláštneho záujmu o nás. Zároveň ich vývoj bude pokračovať aj naďalej mimoriadne rýchlym tempom a rozdiel medzi našimi inteligenciami sa bude zväčšovať. Samozrejme je možná aj vzájomná interakcia medzi oboma inteligenciami a formu koexistencie je možné ďalej rozoberať, ale už z jej definície sa nebude vyznačovať záujmom alebo snahou jednej zo strán o ovládnutie či zničenie druhej strany.

Zo súčasného mediálneho obrazu venovanému tejto oblasti by sa mohlo zdať, že iné možnosti ani nie sú. Alebo budeme spolu koexistovať v stave keď budú stroje na omnoho vyššej úrovni ako sme my sami, alebo nastane konflikt. Tento obraz je založený na predstave že jedna z inteligencií bude výrazne prevýšovať tú druhú. Čo sa zdá pri predpoklade udržiavania tempa rastu výpočtového výkonu strojov logické. Možných scenárov vývoja je však viacero. Zabúda sa napríklad na možnosť, že človek sa môže prispôsobiť tejto novej situácii. Prispôsobí sa v plnom zmysle tohoto slova, zmení sa tak aby bol so strojmi na akejkoľvek úrovni porovnateľný. Zvýši svoju inteligenciu, zvýši množstvo informácii s ktorými bude schopný operovať. Takýto vývoj by nemal byť nemožný. Genetické zmeny, zmeny spôsobené splynutím alebo prepojením s technickými zariadeniami alebo iné spôsoby zlepšovania ľudských možností a kapacít sú reálne. Otázka skôr znie či je možné očakávať nejaký odpor proti takémuto meneniu sa človeka? Pretože ak je niečo možné ostáva otázkou či je to chcené.

Najpravdepodobnejšou odpoveďou je, že nezaznamenáme veľký odpor proti takémuto vylepšovaniu ľudských možností. Najmä preto že zmeny je možné vykonať bez zásahu do výzoru človeka. Estetické dôvody tak strácajú na dôležitosti (port na temene hlavy aký sa dal vidiež v sérii Matrix a ďalšie podobné veci sa konať nemusia) a iné dôvody proti nie sú také silné aby tento proces mohli zastaviť. Motivácia k takýmto zmenám na druhej strane je veľká. Nielen nutnosť obstáť v konkurencii s inteligenciou strojov, ale aj prirodzená túžba každého človeka viac vedieť a chápať. Takáto zmena by teda dokonca mohla byť skôr žiadanou ako odmietanou. Zástancom cieleného zvyšovania ľudskej inteligencie je napríklad populárny teoretický fyzik Stephen Hawking. Ako hlavnú motiváciu na takúto zmenu, pritom neuvádza konkurenciu nejakej ďalšej inteligencie, ale najmä náš samotný rozvoj. Rýchly rast množstva vyprodukovaných informácii, čo je tiež veľmi výrazný trend, ktorý možno pozorovať v rámci našej civilizácie v posledných storočiach, za určitý čas presiahne možnosti ako by ich nejaký človek mohol čo aj pri extrémnej špecializácii obsiahnuť. Ak budeme chcieť rýchlosť nášho rozvoja udržať tak sa budú musieť zlepšiť duševné schopnosti ktorými disponujeme.

Je teda možný aj scénar keď inteligencia človeka nebude presiahnutá umelou inteligenciou. Hádať výsledok, hádať čo sa napokon stane a akou bude ľudská alebo strojová civilizácia v prípade akéhokoľvek scenára je tak trochu naivná aktivita.

Ak nás stroje výrazne predčia na intelektovej úrovni, alebo my sami výrazne zlepšíme naše možnosti, tak je zbytočné hádať kam až môže naša cesta dôjsť. Bytosti na nižšej intelektovej úrovni zvyčajne nechápu nič z kultúry bytostí na vyššom stupni intelektového rebríčka. Zviera nechápe hodnotový systém, pojmy a chápanie sveta u ľudí. Sú to nové kvality, ktoré nepatria do jeho sveta. A tak nemôžeme ani my pochopiť vyššiu intelektovú úroveň. A to ani spôsob a ciele jej existencie. Presnejšie je nielen nemožné uhádnuť to, ale je to pravdepodobne nemožné to popísať. Popis nie je v rámci našich pojmov a významov možný.

Zrejmým je, že doba, keď sa stroje stanú inteligentnými nemusí byť príliš ďaleko. Vývoj z historického hľadiska cesty k inteligentnému životu, a potom rýchlosti zvyšovania úrovne inteligencie tu bude voči minulosti mimoriadne rýchly. Skôr by sa dalo povedať, že bude skokový. Doterajší historický vývoj by sa dal načrtnúť nasledujúcim jednoduchým reťazcom :

Neživá neinteligentá hmota –> živá neinteligentná hmota –> živá inteligentná hmota, a môže a možno je aj zákonité že bude pokračovať ako –> neživá inteligentná hmota, v podobe civilizácie strojov.

Ak počas doterajšieho vývoja prechod medzi jednotlivými fázami reťazca prebiehal miliardy rokov, tak pri prechode medzi poslednými dvoma ohnivkami reťaze to môžu byť počínajúc dneškom desiatky rokov.

Zdalo by sa, že je to neveselá téma. Cítime, že tvoríme čosi čo nás môže dokonca existenčne ohroziť. Iný pohľad na túto situáciu je však potešujúci. Vyššia intelektová úroveň dokáľe riešiť problémy, a odpovedať na otázky, ktoré si kladie civilizácia na nižšej intelektovej úrovni. Peknou myšlienkou s ktorou som sa v súvislosti s možným výrazným intelektovým rozdielom medzi strojmi a ľudmi stretol je tá nasledujúca. Vraví, že takýto stroj bude môcť naraz komunikovať so všetkými ľudmi, s každým človekom a pochopiť jeho problémy a potreby. Dokáže tak vyrieąiť naše civilizačné problémy naozaj s ohľadom na každého jedného človeka. Bude nám môcť dať skutočne mnoho a bude bytosťou s akou si budeme priať byť v styku. Bude v ľudských očiach čimsi na spôsob akým si ľudia predstavujú bohov.

Navyše, prečo skutočnosť, že nás niekto predčí brať tragicky, nemali by sme byť skôr hrdí na to, že sme vytvorili bytosti inteligentnejšie ako sme sami? Nebude to tá najvyznamnejšia udalosť našej histórie?

Diskusia na túto tému sa ešte len zobúdza. Častokrát to v našej histórii býva tak, že príchod nových vecí intuitívne vycítia najskôr umelci. Mnohé výtvory v rámci sci-fi literatúry a v podaní k najširším masám Matrix a Terminátor sú práve takýmto tušením budúcnosti.

V súvislosti s témou, ktorej sa venujeme máme aj ohromnú zodpovednosť. Zodpovednosť za to čo stvoríme. Nemôľme chcieť vytvoriť civilizáciu s nedoziernými možnosťami, s možnosťami bohov, bez schopnosti sebakontroly. Ako by sme zniesli zodpovednosť za niečo „podľa našich kritérii“ zlé? Niečo čo by sme už nedokázali zastaviť. Keďže sebakontrola je našim slabým miestom tak v zastavenie akéhokoľvek deja so zlým koncom dúfať nemôžme. Najzreteľnejším príkladom je vývoj rôznych zbraňových technológii. Či už extrémne nebezpečných, alebo aj tých za hranicou sebazničenia našej civilizácie. Iným príkladom z inej oblasti sú veci jednoznačne chápané ako negatívne a následné pokusy o ich zastavenie. Historických príkladov akými boli prohibície je viacero.

Samoregulácia je tak naozaj naším slabým miestom. Je však dôležité aby sa o takýchto veciach hovorilo, aby sme sa tomu venovali. Potom môžeme proces ovplyvňovať, a to je kľúčové. To bola motivácia pre napísanie článku, ktorý poráve dočítavate. Prispieť k diskusii, k oživeniu diskusie na túto tému.