Podpísaný Stephenom Hawkingom, Elonom Muskom, nobelovcom Frankom Wilczekom, Maxom Tegmarkom a mnohými ďalšími veľmi známymi osobnosťami sveta vedy a technológií.
Väčšina popredných osobností vedy dnes zdieľa obavy z možného vývoja umelej inteligencie a jeho dopadu na budúcnosť ľudstva. Oxfordský Future and Humanity Institute zaoberajúci sa existenčnými rizikami ohrozujúcimi našu civilizáciu, označuje umelú inteligenciu za pravdepodobne najväčšie zo známych rizík, ktorým budeme čeliť. Rizikom, ktoré povedie k nášmu zániku, k vyhynutiu ľudského rodu. Pred týmto rizikom varujú mnohí, počínajúc najznámejšou osobnosťou sveta vedy Stephenom Hawkingom a najznámejšou osobnosťou sveta technológií Elonom Muskom.
Obavy vedú k momentu, keď umelá inteligencia predčí ľudskú a k následnému vývoju. K momentu nazývanému technologická singularita. Po ňom nebudeme vedieť umelú inteligenciu kontrolovať a nevieme predpovedať, čo sa stane potom. List podpísal aj autor pojmu technologická singularita matematik Vernor Vinge.
Varovanie znie médiami už dlhšie a jeho intenzita je vysoká. Teraz prichádza snaha o riešenie, o určenie konceptu výskumu, ktorý by konkrétne adresoval ak je to možné všetky riziká spojené s vývojom umelej inteligencie. Prvá veta dokumentu Research priorities for robust and beneficial artificial intelligence popisujúceho oblasti a otázky, na ktoré sa má výskum sústrediť hovorí "Úspech pri skúmaní umelej inteligencie má potenciál priniesť ľudstvu bezprecedentné benefity, a preto stojí za to skúmať ako maximalizovať tieto benefity a vyhnúť sa potenciálnym pascám".
Kľúčovou vetou otvoreného listu je výzva "Odporúčame rozšíriť výskum zameraný na zaistenie, že systémy s umelou inteligenciou so stále rastúcimi schopnosťami budú pre nás prospešné: naše AI systémy musia robiť to, čo chceme aby robili". Vývoj má byť v súlade so záujmami ľudstva.
Dokument Research priorities for robust and beneficial artificial intelligence (v preklade Priority výskumu pre zdravú/robustnú a prospešnú umelú inteligenciu) odporúča výskum v nasledujúcich oblastiach.
Optimalizácia ekonomických dopadov vývoja umelej inteligencie. Aký bude napríklad vplyv na pracovný trh, ktoré pracovné pozície budú nahradené automatmi? Ak aktívne zasiahneme, aké reformy vzdelávania a sociálneho systému je potrebné realizovať? Aké sú pre a proti takýchto reforiem?
Zákony a etický výskum. Autonómia a určitá dostatočná úroveň umelej inteligencie vedú k právnym a etickým otázkam. Aká je zákonná zodpovednosť autonómnych aút? Čo ak pri tom ako ušetria 40 tisíc životov pri dopravných nehodách ročne len na amerických cestách, dostanú ich výrobcovia nie 20 tisíc ďakovných listov ale 20 tisíc žalôb? Ako má autonómne vozidlo riešiť etickú otázku veľkých materiálnych strát voči malému ublíženiu na zdraví? Čo autonómne zbraňové systémy, sú vôbec zlúčiteľné s medzinárodným právom? Ďalej je potrebné riešiť problémy práva pre vyhodnocovanie privátnych údajov z kamier, mobilov, emailov atď. umelou inteligenciou.
Existuje argument, podľa ktorého spoločnosť nakoniec odmietne autonómne systémy s umelou inteligenciou, pokiaľ nenájdeme dôveryhodný spôsob ako zabezpečiť aby boli bezpečné. Preto by výskum každého systému umelej inteligencie mal podliehať viacerým kontrolám, ktoré dokument podrobnejšie popisuje.
Preklad otvoreného listu
Výskumné priority pre zdravú a prospešnú umelú inteligenciu: Otvorený list
Výskum umelej inteligencie (AI) sa zaoberal rozmanitými problémami a metódami od jeho vzniku, ale posledných 20 rokov bol sustredený na problémy súvisiace s konštrukciou inteligentných agentov - systémov, ktoré vnímajú a konajú v určitom prostredí. V tejto súvislosti "inteligencia" súvisí so štatistickými a ekonomickými pojmami racionality - hovorovo, schopnosti robiť dobré rozhodnutia, plány alebo závery. Osvojenie si pravdepodobnostných a rozhodovaco-teoretických reprezentácií a štatistických metód učenia, viedlo k veľkému stupňu integrácie a obohacovania sa medzi AI, strojovým učením, štatistikou, teóriou riadenia, neurovedou a inými oblasťami. Ustanovenie zdieľaných teoretických rámcov, kombinovaných s dostupnosťou dát a výpočtovým výkonom, vyústilo do pozoruhodného úspechu v rôznych oblastiach ako rozpoznávanie hlasu, klasifikácia obrazov, autonómne vozidlá, strojový preklad, robotických končatín a systémov pre automatické pýtanie sa a odpovedanie. Ako schopnosti v týchto oblastiach prekročili prah medzi laboratórnym výskumom a ekonomicky cennými technológiami, tak sa začal cyklus, pri ktorom aj malé vylepšenie výkonu má hodnotu veľkých súm peňazí, urýchľujúcich väčšie investície do výskumu. V súčasnosti prevláda konsenzus, že výskum AI stále postupuje, a že jeho dopad na spoločnosť sa bude pravdepodobne zvyšovať. Potenciálne prínosy sú ohromujúce, keďže všetko, čo môže táto civilizácia ponúknuť, je produktom ľudskej inteligencie; nedokážeme predpovedať, čo môžeme dosiahnuť, keď táto inteligencia bude zväčšená nástrojmi umelej inteligencie, ale odstránenie chorôb a chudoby nie sú nepredstaviteľné. Pri takomto obrovskom potenciáli umelej inteligencie je dôležité skúmať, ako zožať jej úrodu a pritom sa vyhnúť možným pasciam. Prišiel čas, keď sme vďaka pokroku umelej inteligencie dospeli do obdobia, keď výskum nie je potrebné sústreďovať len na zvyšovanie schpností umelej inteligencie, ale aj na maximalizáciu jej prínosov pre spoločnosť. Takéto úvahy motivovali projekty ako AAAI 2008-09 Presidential Panel o Dlhodobej budúcnosti AI a iné projekty o dopadoch AI, a vytvorili signifikantné rozšírenie samotnej oblasti umelej inteligencie, ktoré sa doteraz najviac orientovali na techniky neutrálne v ohľade na ich účel. Odporúčame rozšíriť výskum zameraný na zaistenie, že systémy s umelou inteligenciou so stále rastúcimi schopnosťami budú pre nás prospešné: naše AI systémy musia robiť to čo chceme aby robili. Pripojený dokument výskumných priorít dáva mnoho príkladov takéhoto výskumu, ktorý môže maximalizovať benefity AI pre societu. Tento výskum je nutne interdisciplinárny, pretože zahŕňa ako societu tak aj AI. Siaha od ekonomiky, cez zákonodarstvo a filozofiu po počítačovú bezpečnosť, formálne metódy a samozrejme, rôzne oblasti umelej inteligencie samotnej. Celkovo veríme, že výskum ako vytvoriť zdravú/robustnú a prospešnú umelú inteligenciu je dôležitý, nastal preň pravý čas, a že existujú konkrétne výskumné smery, ktoré majú byť realizované už dnes. |
Otvorený list, ku ktorému sa môžete pripojiť svojím podpisom nájdete na stránke futureoflife.org.
Aj vážnu tému môžno ukončiť vtipne. Internetom sa šíri vtip, ktorý Elon Musk nedávno zdieľal na svojom twitter účte spolu s informáciou o otvorenom liste.
Prvá otázka umelej inteligencii: Existuje boh?
Odpoveď umelej inteligencie: Teraz už áno.
M1ch4l
Posledné komentáre
MQ
Greg
Mihail
Miro123
Pjetro de
mmm69
ivasbj
Pjetro de
Pjetro de
M1ch4l
Pjetro de
MQ
Pjetro de
MQ
Pjetro de
MQ
Pjetro de
MQ
Pjetro de
computeman
RomanXXII
computeman
computeman
PCFans
teoric
sp
fmb
pope francis
pope francis
PCFans