Jeho firma GoodAI pracuje na vývoji všeobecnej umelej inteligencie, od ktorej si sľubujú, že bude zlepšovať samu seba, ale aj ľudstvo a celý svet. Napríklad tak, že dokáže ľudí vyliečiť z chorôb či zabrániť nášmu starnutiu. Slovenský vývojár a výskumník Marek Rosa, ktorý sa v Česku stal AI osobnosťou 2019, pre Forbes hovorí o svojich víziách, o nedokonalostiach súčasných AI systémov aj o možných rizikách superinteligencie.
Povedzte, čo si máme pod pojmom umelá inteligencia predstaviť?
Dnes funguje umelá inteligencia (AI) tak, že sa pomocou dát natrénuje neurónová sieť, ktorá rieši vybranú úlohu. Môže to byť napríklad rozoznávanie obrázkov, mám ich hromadu a chcem, aby AI vybrala iba tie, kde sú dopravné značky. Neurónovú sieť si môžem predstaviť ako niečo, cez čo dáta pretečú a výstupom je to, čo od siete potrebujem.
Následne sa chyby spropagujú spätne do siete, poupravujú sa v nej váhy a v ďalšom cykle dosiahnem lepší výsledok. Takto môžu prebehnúť milióny iterácií a až na konci mi začne AI dávať také odpovede, aké od nej chcem. Pritom toto, čo som opísal, je narrow AI (úzka umelá inteligencia). Takto majú fungovať napríklad samojazdiace autá alebo diagnostika v lekárstve.
To znamená, že je táto AI úzko zameraná iba na jednu vec?
Áno. Inžinier, ktorý trénuje neurónovú sieť na nejakej úlohe, hneď na začiatku vie, ako zmerať, či to tá sieť robí dobre alebo zle. Pozná kritériá úlohy, ktorú rieši. To je ten rozdiel oproti všeobecnej umelej inteligencii (general AI), ktorá nedostane presne zadanú úlohu. Nechceme, aby sa systém adaptoval na konkrétnu úlohu, ktorú mu dáme, a on bude robiť iba to a nič iné.
Naopak. Chceme systém, ktorý sa vie adaptovať na akúkoľvek úlohu, ktorú mu v budúcnosti dáme – a čím rýchlejšie, tým lepšie. Môžeme to prirovnať k človeku – keď som sa už raz ako dieťa naučil chodiť, tak bez problémov chodím. No keď dostanem novú úlohu, napríklad chodiť pod vodou alebo na Mesiaci, tak už mám problém a musím sa to doučiť. Podobne je to pri AI. No a v prípade, ak AI nevie správne generalizovať na situácie, ktoré neboli v tréningu, tak ju dokážem ľahko rozbiť. Tomu sa chceme vyhnúť.
O nálepke a samojazdiacich autách
Napríklad ako dokážeme AI rozbiť?
Predstavte si, že je AI natrénované na rozoznávanie nejakých obrázkov. No stačí, aby som mu ukázal iné a už začne katastrofálne zlyhávať. Niekedy stačí zmeniť pár pixelov a zrazu AI vyhodnotí obrázok ako niečo úplne iné. Dokonca výskumníci robili test so samojazdiacim autom, ktoré rozoznávalo dopravné značky a oni na ne nalepili malé nálepky. Auto potom vyhodnotilo značku Stop ako Najvyššia povolená rýchlosť 80. Človek by si uvedomil, že je na značke divná nálepka a nenechal by sa oklamať.
Ak by to bola všeobecná umelá inteligencia, tak by to rozoznala?
No tiež by sa mohla pomýliť, ale dokázala by sa rýchlejšie doučiť a adaptovať na túto zmenu. Dokonca by mohla prísť na to, prečo si predtým myslela, že nálepka znamená osemdesiatku. To nie je zatiaľ umelá inteligencia schopná.
Vývojár umelej inteligencie Marek Rosa. Foto: Ondřej Pýcha
No a ako funguje všeobecná umelá inteligencia?
Naša architektúra AI, ktorú interne voláme Badger (medojed), je založená na myšlienke agenta, ktorý sa skladá z viacerých subagentov, ktorí spolu komunikujú. Síce majú v sebe rovnaký program, ale každý z nich je na ostatných subagentov napojený inak. Výsledná adaptácia vznikne na základe komunikácie týchto subagentov. Dohodnú sa na tom, ako tú istú chybu v budúcnosti neurobiť.
Nechali sme sa inšpirovať neurónmi v ľudskom mozgu, ktoré zjednodušene fungujú rovnako a ich funkcia je daná v DNA, iba sa spájajú, rozpájajú a komunikujú navzájom. Moje učenie, spomienky aj celá osobnosť sú výsledkom komunikácie týchto neurónov. Toto celé sme iba previedli do strojového učenia. Je to zatiaľ skôr v štádiu myšlienky, aj keď už máme za sebou niekoľko experimentov. No máme aj niekoľko nevyriešených vecí…
Ako rozlíšiť učenie od reflexov či génov
Napríklad?
Potrebujeme prísť na to, ako dokázať, že sa agenti skutočne učia nové veci, nielen opakujú už naučené znalosti alebo ich vykonávajú reflexívne, lebo ich majú vo svojej DNA. Je to podobné, ako by som chcel dokázať, že som sa naučil rozprávať po slovensky počas môjho života a nemám to v génoch, lebo som Slovák. Pri ľuďoch na to odpovede, samozrejme, poznáme, ale pri AI agentoch to ešte potrebujeme overiť. Máme však už niekoľko čiastkových úspechov.
Čo je v tomto prípade čiastkovým úspechom?
Napríklad sme dokázali, že systém, ktorý bol natrénovaný na vizuálne dáta z jednej oblasti, sa dokázal relatívne rýchlo dotrénovať na dáta z inej oblasti. Nie je to ešte stopercentné, ale získali sme odpovede, ktoré sme potrebovali. Potom máme agenta, robota, ktorý vyzerá ako chobotnica a každá jeho končatina je samostatným agentom.
Nie je tam centrálna jednotka, ktorá kontroluje všetky končatiny súčasne, ale každá končatina je samostatný agent. Končatiny sa zakaždým musia navzájom dohodnúť, ako sa napríklad pohybovať alebo chytiť predmet a presunúť ho, lebo chcú dosiahnuť spoločný cieľ. Tu skúšame napríklad, či to, čo sme naučili systém s 10 končatinami, dokáže aj systém s 30 končatinami bez toho, aby sa potreboval pretrénovať. Snažíme sa o akúsi generalizáciu aspoň pri takýchto jednoduchých úlohách.
„Cítim sa tu úplne fantasticky, je to splnený sen,“ hovorí Marek Rosa o svojom pražskom sídle, krásnej barokovej vile Oranžéria z 18. storočia s anglickým parkom, kam v júli 2020 presťahoval svoje firmy Good AI a Keen Software House. Foto: Ondřej Pýcha
Prameň mladosti vo vlastnom tele?
Čo bude prakticky všeobecná AI robiť?
Jednou z úloh všeobecnej umelej inteligencie bude upravovať samu seba tak, aby sa čoraz efektívnejšie učila nové úlohy. Napríklad bude na ich vykonávanie trénovať iné AI. Myslím si, že zo začiatku bude tá general AI iba o trocha menej narrow než dnešné narrow umelé inteligencie. Napríklad bude omnoho lacnejšie natrénovať AI na úlohy, pri ktorých je dnes tréning veľmi náročný.
A ak by sme trocha popustili uzdu fantázii? Napríklad aké futuristické veci by sme mohli vďaka všeobecnej AI dosiahnuť?
Napríklad by sme si mohli AI integrovať do nášho mozgu, kde by zlepšovala našu pamäť. Potom by sme tomuto systému zadávali rôzne úlohy. Napríklad, keby som chcel zlepšiť medicínu, tak by som tomuto systému povedal, aby zabezpečil, že budú ľudia zdraví a nebudú zomierať na zbytočné choroby. Dokonca ani na starobu.
Predpokladal by som, že AI navrhne experimenty, vďaka ktorým sa dostane bližšie k riešeniu. Možno by prišla s implantovaním nanobotov do našich tiel, ktoré by v spolupráci s AI analyzovali a upravovali naše telo. Keby zistili, že mám príliš veľa cholesterolu, tak by napríklad mohli vypľúvať iné chemikálie, ktoré by ho odbúrali. Podobne by mohli zastaviť množenie rakovinových buniek. Alebo keby zistili, že som sa porezal a hrozí, že vykrvácam, tak by nanoboty zasiahli. Nahrnuli by sa na to miesto a ranu by zacelili.
Kolonizátori vesmíru
Dokážete si predstaviť aj aplikácie mimo medicíny?
AI by nám mohla pomôcť aj pri výskume vesmíru. Mohla by prísť s úplne inými druhmi pohonu vesmírnych lodí. Prípadne by sme namiesto ľudí mohli do vesmíru posielať roboty. Budú menšie a nebudeme musieť vynakladať také veľké prostriedky na podporu ich života. Nebudeme im musieť dopravovať jedlo, vodu, kyslík…
Potom by rakety nemuseli byť také obrovské, ako sú dnes. Možno by neboli väčšie ako mobil. Minuli by sme aj menej pohonných hmôt. Ak by sme s nimi vypravili aj nejaké 3D tlačiarne, tak by napríklad pristáli na asteroide, vyťažili by odtiaľ suroviny a znova by z nich vytlačili nové komponenty, napríklad nové roboty, nové rakety. Takto by sa mohli rozširovať ďalej spolu s nami do celého vesmíru.
To znie naozaj zaujímavo.
Je to open-ended cieľ. Nemáme jasné zadanie, že chceme, aby v roku 10 000 malo ľudstvo v banke našetrených niekoľko triliónov peňazí, ale skôr chceme, aby sa do všetkých smerov zlepšovala schopnosť ľudí adaptovať sa na budúce problémy a hrozby. Mohli by sme sa takto zlepšovať vo vede, v umení, zábave… Vo veciach, ktoré nám teraz ani nenapadajú. Tak ako pred sto rokmi nikomu ani nenapadlo, že raz budú vývojári počítačových hier. Podobne tak raz vznikne niečo, o čom dnes ani nesnívame.
Bude možné použiť AI aj na riešenie napríklad klimatickej zmeny?
Už aj dnes sa používa AI na predikovanie toho, ako môže klimatická zmena nastať. A myslím, že všeobecná umelá inteligencia nám poskytne krásny prostriedok, ako klimatickú krízu vyriešiť. Dá nám určite nejaké riešenia, na ktoré sme my ešte neprišli. Ako ľudia sme síce inteligentní, ale mohli by sme byť aj inteligentnejší!
Podľa mňa nie sme ani stvorení na to, aby sme rozmýšľali ako vedci. Predsa s umelou inteligenciou sa nikdy nemôžeme porovnávať. To je, akoby ste porovnávali človeka, ktorý kope jamu plastovou lyžičkou, s bagrom! Jasné, dá sa to, ale je to zbytočne náročné. Podobne bude AI asi triliónkrát inteligentnejšia ako sme my, a preto dokáže lepšie navrhnúť riešenie akejkoľvek krízy.
Naučiť systém učiť sa
Ako ďaleko sme k dosiahnutiu všeobecnej umelej inteligencie?
Myslím, že stále veľmi ďaleko. To, čomu sa venujeme, je ešte len v začiatkoch. Sťažuje nám to ešte to, že je ťažké nájsť ľudí, ktorí sa tomuto venujú.
Koľko ste dosiaľ do vývoja všeobecnej AI preinvestovali?
Doteraz sme reálne spotrebovali asi 100 miliónov českých korún (3,8 milióna eur), ale mám na to vyhradených viac peňazí. Na financovanie vývoja používame príjem z našich hier. (Marek Rosa je aj zakladateľom úspešného herného štúdia Keen Software House, pozn. red.)
Dokážete odhadnúť, koľko bude vo vašom výskume ešte potrebných peňazí?
Na to, aby sme dospeli k nejakému prelomu, budú podľa mňa potrebné ešte stovky miliónov alebo miliardy korún. Nateraz to robím za vlastné peniaze, vďaka čomu mám ten luxus, že môžeme skúmať to, čo chceme a nemusím sa stresovať tým, že by investori od nás očakávali nejaký zisk.
Keď však uvidíme, že máme už nejaký proof of concept, ktorý dokážeme škálovať a zlepšovať, tak sa nám určite hodí ďalší kapitál. Potom môžu takéto stovky miliónov dolárov pomôcť. Bol by som rád, ak by sme už budúci rok dospeli k nejakému proof of concept, ktorý demonštruje, že systém sa naučil učiť sa. To by som veľmi chcel.
Venuje sa tomu aj niekto iný v Česku alebo na Slovensku?
Nedávno sa späť do Česka presťahoval z USA Tomáš Mikolov, vedec, ktorý pracoval na vývoji AI pre Facebook aj Google. Posledné mesiace buduje skupinu ľudí, s ktorými robí niečo podobné ako my, ale ide na to z trocha iného začiatku. Snažíme sa však o to isté. O nikom ďalšom z tohto regiónu neviem.
Práva a etika umelej inteligencie
Na záver sa ešte vráťme k všeobecnej AI. Sú tu aj nejaké hrozby?
To je obrovská téma, lebo hrozieb je naozaj veľa. Zakaždým, keď vytvárame systém, ktorý má sám seba zlepšovať a pritom ani nemá jasne zadaný cieľ, hrozí, že príde na spôsob, ktorý nebude pre nás dobrý. Ktorému nebudeme rozumieť. Na to musíme myslieť.
AI bude na začiatku ako tabula rasa, ktorej jediným cieľom bude zlepšovať sa. Potom jej zadáme nejakú úlohu, chvíľu ju necháme samú a opäť sa k nej vrátime a dáme ďalšie zadanie. Každým zadaním ju budeme tvarovať a dávať jej normy, ktoré sú podľa nás bezpečné a etické.
Potom by sa už systém mohol vyvíjať sám, ale, samozrejme, jeho budúca verzia bude vytvorená tou predošlou. Sám bude chcieť vytvoriť novú verziu seba, ktorá bude kompatibilná s tým pôvodným etickým rámcom. Takto by to mohlo byť aspoň teoreticky zabezpečené.
To bude stačiť?
Je možné, že sa po čase systém stočí na nejakú cestičku, ktorá päť krokov dozadu vyzerala v pohode, ale za tú dobu sa zmení tak zásadne, že to už pre ľudstvo nebude bezpečné. Na druhej strane, verím tomu, že sa etika medzičasom zmení, pretože si nemyslím, že za tisíc rokov budú mať ľudia rovnaké normy a zákony, aké máme dnes. Možno dokonca začne od istého okamihu dávať zmysel, aby mala AI rovnaké práva ako ľudia. Napríklad by mala právo vlastniť majetok, firmy alebo by mala právo na život. Tak, aby ľudia nemohli systém zabiť.
Ako sa na toto všetko pozeráte vy?
Myslím, že by sme sa mali snažiť tvarovať budúcnosť tak, aby bola pre nás čo najviac prijateľná. A zároveň by sme mali počítať s tým, že to aj tak dopadne inak, než si to všetci predstavujeme.
