Slovenský expert na umelú inteligenciu Michal Valko odišiel z Googlu do Mety k Markovi Zuckerbergovi. Po roku mu dal košom a buduje vlastný startup a ako sám hovorí „bude to úžasné“.
Pred pár desaťročiami sa každý, kto chcel poznať odpoveď na nejakú zložitejšiu otázku alebo chcel napísať seminárnu prácu, musel prejsť do knižnice. Buď do svojej, alebo tej mestskej. Pred pár rokmi už možno stačilo položiť otázky vyhľadávaču Google a pozrieť si pár stránok.
Za uplynulý rok si mnohí z nás zvykli opýtať sa ChatuGPT alebo inej umelej inteligencie. Jazykový model doručí odpoveď za sekundu. A seminárnu prácu napíše za vás. Kto je však pravý respondent, ak sa chcem opýtať na to, čo je AI a aká je jej budúcnosť? Odpoveď Forbesu je jasná: slovenský AInstein Michal Valko.
Tento slovenský vedec sa umelej inteligencii venuje už desaťročia. Rozhovor s ním vznikal takmer tri hodiny a príprava naň oveľa dlhšie. Na dodatočné otázky nám trpezlivo odpovedal aj počas fotenia na titulnú stranu Forbesu.
Nemáte práve teraz čas prečítať si Tému dňa? Vypočujte si ju v podobe podcastu Espresso on Air. Každé ráno o 6:30 vás čaká nová časť vo vašej podcastovej aplikácii.
Má to v rodine
Študovali ste počítačové vedy na Univerzite Komenského v Bratislave. To bolo začiatkom tohto milénia. Ako ste sa vôbec dostali k téme umelej inteligencie?
Téma umelej inteligencie má v našej rodine dlhú tradíciu. Už moja mama študovala umelú inteligenciu. Promovala v roku 1976 na košickej Univerzite Pavla Jozefa Šafárika. Rovnako aj moja prateta pracovala na ENIAC-u. (Historicky prvý turingovsky úplný elektrónkový počítač. Jeho vývoj začali v roku 1943 na Penn State University v Pensylvánii v USA, pozn. red.) Umelá inteligencia teda pre mňa na univerzite nebola nová vec. Bola okolo mňa ešte oveľa skôr, pretože moja rodina sa tomu veľa venovala. Na Fakulte matematiky, fyziky a informatiky Univerzity Komenského v Bratislave som študoval odbor umelá inteligencia. V Slovenskej akadémii vied som trénoval neurónové siete s Radom Harmanom (docent na katedre aplikovanej matematiky a štatistiky, pozn. red.). Už od roku 2000 som mal na škole predmety v oblasti umelej inteligencie. Ísť študovať na doktorandské štúdium do USA nebolo pre nás v ročníku nič výnimočné. Mnohí tam pokračovali na ďalšie doktorandské štúdium rovnako ako ja. Niektorí tam už rovno aj zostali.
Ste jedným z najvýraznejších odborníkov na umelú inteligenciu. Päť rokov ste pôsobili v parížskej pobočke Googlu, konkrétne v divízii DeepMind, ktorá sa venuje výskumu a vývoju umelej inteligencie. Ako ste sa tam dostali?
Tak, že som tú parížsku divíziu s Rémim Munosom (francúzsky matematik a počítačový vedec, pozn. red.) vybudoval. Najskôr som začínal prácou pre Intel v USA s kolegom Branislavom Kvetoňom, ktorý je v Silicon Valley už veľmi dlho. Potom som chcel robiť viac na akademických veciach. Pracoval som na európskom projekte s názvom CompLACS. To bol rok 2011. Na konci projektu ľudia v odvetví AI založili DeepMind. Vtedy som sa rozhodol k nim nepridať, lebo som chcel ísť vlastnou cestou. DeepMind postupne najal všetkých mojich kolegov a až 95 percent všetkých výskumníkov z oblasti Reinforcement Learning (v preklade posilnené učenie; ide o osobitnú kategóriu strojového učenia, pozn. red.). Od začiatku som s nimi spolupracoval tak, že som k nim posielal študentov a písal s nimi výskumné články ako akademický pracovník.
Kedy prišiel zlom?
V roku 2018 mi môj bývalý postdoktorandský výskumný školiteľ Rémi Munos zavolal, či s ním nevybudujem parížsku pobočku DeepMindu.
Keď zavolá Zuckerberg
Dôvod bol ten, že moja úloha v DeepMinde bola vybudovať výskumné laboratórium. Po úspechu s BYOL (Bootstrap your own latent, metóda strojového učenia, pozn. red.) som prakticky robil na veľkých jazykových modeloch ako Sparrow, Bard či Gemini. Bol som tam na deň presne päť rokov. Keď sa moja päťročná zmluva pre DeepMind blížila ku koncu, moja materská inštitúcia Inria (francúzska verejná vedecká a technologická inštitúcia špecializujúca sa na matematiku a informatiku, pozn. red.) sa ma pýtala, aké mám ďalšie plány. Rozmýšľal som, či nie je čas začať pracovať na niečom vlastnom. Mať svoju vlastnú firmu. Keď som bol v Silicon Valley, mal som tam množstvo prednášok, či už v OpenAI, Appli, Amazone, ale aj v desiatkach startupov. Aj som od nich dostal ponuky, ale povedal som si, že ešte musím nad tým popremýšľať. Išiel som na dovolenku rozmýšľať o tom, čo so svojím životom.
Na čo ste prišli?
Počas dovolenky sa mi ozval Mark Zuckerberg a povedal, že AI je preňho dôležitá a chce so mnou spolupracovať. Potom sa už udialo všetko rýchlo. Nebol žiadny pohovor, tie rozhovory trvali len niekoľko minút. Rovno prišla ponuka na prácu s tým, že by som pracoval s vlastným tímom z DeepMindu. Pamätám si, že Mark to vtedy nazval „Valkova šestka“.
To bolo rýchle…
Keď som sa vrátil z dovolenky, už som začal pracovať na jazykovom modeli Llama 3 (najnovší veľký jazykový model od spoločnosti Meta, uvedený v júli 2024, pozn. red.). V tom čase nebolo veľa ľudí, ktorí by sa venovali oblasti Reinforcement Learning. DeepMind mal v tom čase možno päťsto až šesťsto výskumníkov v oblasti Reinforcement Learning a Meta nemala skoro žiadneho.
Prekvapil ho
Nie veľa Slovákov má možnosť rozprávať sa so zakladateľom Facebooku Markom Zuckerbergom, vy ste sa s ním dokonca aj osobne stretli. Aký je v skutočnosti?
Rozprávali sme sa asi štyri hodiny od polnoci do štvrtej ráno. Nechcel, aby sa mi posúval čas, tak sa rozhodol prísť o šiestej večer a odchádzal o šiestej ráno. Pamätám si, že sa viac pýtal, ako rozprával.
Pýtal sa ma na názor, čo si myslím a čo chcem robiť. Prekvapilo ma, že mi dával veľmi technické otázky. Nečakal som od šéfa takej veľkej firmy so 70-tisíc ľuďmi, že bude detailne poznať problematiku. Pýtal sa tiež matematické otázky, ktoré boli úplne relevantné a „k veci“. Bol to veľmi otvorený rozhovor. Na všetky moje otázky odpovedal priamo a nerobil žiadne tajnosti.
Keď som bol v Silicon Valley, mal som tam množstvo prednášok, či už v OpenAI, Appli, Amazone, ale aj v desiatkach startupov. Aj od nich som dostal ponuky.
Ako na vás pôsobil počas rozhovoru?
Mark a podobne aj mnoho ďalších ľudí sú iní pri osobnom kontakte a iní, keď dávajú rozhovory. Vy novinári o tom viete svoje. Rozprával mi aj o osobných veciach, ako si poranil koleno a nemohol robiť bojové športy. Okrem štúdia informatiky študoval aj psychológiu.
Je vidieť, že mu to veľmi pomáha. Už teraz rozmýšľa nad tým, ako budeme s umelou inteligenciou komunikovať v budúcnosti. Aj preto tak investuje do metaverza či do špeciálnych okuliarov, kde sa s umelou inteligenciou dá rozprávať. Nechcem predikovať budúcnosť, ale komunikácia s umelou inteligenciou bude skôr hlasová než textová.
Prekvapila vás séria jeho rozhodnutí, ako je koniec overovania faktov na Facebooku, ktoré sa udiali v čase nástupu Trumpa?
Už nepracujem v Mete a pracujem na svojom vlastnom startupe. Je pre mňa lepšie viac sa nevyjadrovať k interným záležitostiam Mety.
Vlastný startup
Pracujete v Paríži. Nelákal vás život a práca v Silicon Valley?
Teraz sa síce nachádzam v Paríži, ale často cestujem medzi Parížom, New Yorkom a San Franciscom. Veľa času trávim priamo v Silicon Valley.
Ako vyzerá váš bežný pracovný deň?
Posilňovňa je môj rituál. Je to každodenná súčasť môjho života už päť rokov. Tým sa zobúdzam. Nemám bežný deň, lebo každý deň je pre mňa iný. Teraz mám deadline na odovzdanie článkov na konferenciu umelej inteligencie. Potom mám v pláne rozprávať sa s inžiniermi a budúci týždeň ma čakajú prednášky na samite o AI organizovanom Emmanuelom Macronom. Keby bol každý deň rovnaký, veľmi by sa mi to nepáčilo.
Čo vám dal príchod do Mety?
Umožnil mi vidieť každú etapu trénovania modelov. Bola to pre mňa škola, keďže som už nebol manažérom ľudí, ale sám som robil experimenty. Veľmi veľa som sa tam naučil. Keď vývoj modelu Llama 3 skončil, povedal som: ďakujem, splnil som si to, čo som chcel, a pustil som sa do vlastného startupu.
foto Robo Homola
Robím na ňom už dlhšie. Naše meno zatiaľ nie je známe. Jediná malá vec, čo môžem povedať, je, že robíme na nových veľkých jazykových modeloch. Bude to úžasné.
„Losers“
Nebáli ste sa ísť z istoty zamestnania do neistého prostredia startupov?
Vôbec nie. K podnikaniu nás viedli už na strednej škole a pokračovalo to aj na doktorandskom štúdiu v USA. V Silicon Valley je skoro každý podnikateľ a ľudia, ktorí idú pracovať do Googlu či Mety, sú v ich ponímaní „losers“. V Kanade, na Slovensku a vo všeobecnosti v Európe je veľký cieľ pre ľudí študujúcich informatiku dostať sa do veľkých technologických firiem v Silicon Valley. Naopak, ľudia priamo zo Silicon Valley sú úplne iní. Už mladí ľudia si tam čítajú biografie zakladateľov veľkých firiem. Nastavenie je tam naozaj odlišné. Spomeniem tiež mentoring startupov mojich študentov. Svet startupov pre mňa nie je nový.
Spoločnosti, ktoré spomínate, sa zameriavajú na všeobecné jazykové modely. My robíme jazykové modely inak. Sú navrhnuté tak, aby dosahovali konkrétne ciele v špecifickej oblasti.
Aká bude vaša úloha v novom startupe, čo budete mať na starosti?
Moja pozícia je Chief Models Officer (výkonný riaditeľ pre jazykové modely, pozn. red.). Je to úplne nová funkcia a sme pri jej vytváraní priekopníkmi. Chceme tým dať svetu najavo, aké dôležité sú pre nás jazykové modely. Rovnako je to tiež signálom aj pre samotný trh, že ideme robiť jazykové modely inak.
Viete prezradiť nejaké zaujímavé mená, ktoré v startupe pracujú?
Pracuje tu mnoho šikovných a oddaných ľudí, čo je, úprimne povedané, viac, než keby som povedal nejaké konkrétne známe meno. O všetkých budete v krátkej budúcnosti počuť.
Mentor Valko
Máte už vymyslené meno startupu a kedy by mohol byť jazykový model uvedený?
Meno už je vymyslené, ale opäť, ako každý dobrý príbeh, aj vy potrebujete nejaké prvky prekvapenia, a tak ešte chvíľu počkajme, kým to bude celé uvedené.
foto Robo Homola
Aké máte ambície so startupom a čo môžete svetu priniesť?
Chceme demokratizovať prístup k rozumovým schopnostiam takým spôsobom, ktorý by monumentálne zmenil svet. Nechajte sa prekvapiť.
Vráťme sa ešte k startupom, ktorým pomáhate a mentorujete ich. Ktoré sú to a čomu sa venujú?
Jeden sa volá Sword Health. Je to portugalská firma, ktorá funguje už osem rokov. Pracujú na fyzickej terapii, pomocou tabletu znázorňujú cviky, napríklad na chrbát. Prepájajú umelú inteligenciu priamo s doktormi. Je to pre ľudí, ktorí majú deti či musia veľa cestovať, ale napríklad aj pre tých, ktorí bývajú v meste, kde nie je veľa fyzioterapeutov alebo si ho nemôžu dovoliť.
Aké sú ďalšie startupy?
Ďalším je startup Entalpic. V ňom som aj anjelský investor (investor, ktorý poskytne peniaze v ranom štádiu rozvoja, pozn. red.). Vyvíja nové materiály, ktoré by zmiernili účinky klimatickej zmeny.
Tretí startup je Lithosquare a venuje sa hľadaniu vzácnych kovov. Sú dôležité aj kvôli batériám do elektrických vozidiel. Aj pre geopolitické problémy je ťažké získavať ich z Číny. Startup využíva umelú inteligenciu na to, aby prechádzal desaťročia staré štúdie, a podľa toho zisťuje, kde je najlepšie miesto na ťažbu vzácnych kovov.
Kto je Michal Valko
Michal Valko vyštudoval umelú inteligenciu a matematické metódy v informatike na Fakulte matematiky, fyziky a informatiky Univerzity Komenského v Bratislave. Doktorandské štúdium absolvoval na Univerzite v Pittsburghu. Od roku 2011 je súčasťou tímu SequeL francúzskeho Národného inštitútu pre výskum v oblasti informatiky a automatizácie (Inria) a prednáša na ENS Paris-Saclay v Paríži.
Strávil päť rokov v spoločnosti Google, kde v roku 2019 zakladal parížske laboratórium spoločnosti DeepMind, ktoré sa špecializuje na výskum umelej inteligencie. Zaujímal sa predovšetkým o navrhovanie algoritmov, ktoré vyžadujú minimálny ľudský zásah. Vďaka práci pre DeepMind sa stal súčasťou rebríčka Forbes Changemakeri.
Po rokoch na pozíciách v najväčších amerických technologických spoločnostiach, ako sú Google, Meta a Intel, vstupuje do startupového sveta. Od nového roka je zakladajúcim členom startupu, ktorý je odpoveďou aj na DeepSeek. Je tiež ambasádorom ocenenia ESET Science Award.
Celý rozhovor s Michalom Valkom nájdete v marcovom vydaní Forbesu.
