Komentár 35. týždeň: 3 zbrane Elona Muska proti umelej inteligencii

Pandorina skrinka je už otvorená

V stredu, 31.8.2016, jedno z najväčších amerických filmových štúdií „20th Century Fox“ uviedlo premiéru oficiálnej upútavky k filmu „Morgan“. „Morgan“ je sci-fi horor a súčasne i meno hlavnej postavy, humanoidného robota, ktorý sa vymkol svojim stvoriteľom spod kontroly. Má určité nebezpečné schopnosti a vypnúť ho, nie je také jednoduché.

K tomuto filmu boli vyrobené dve upútavky. Prvú vyrobil filmový štáb ešte v júni 2016. Druhú, oficiálnu, vyrobil Watson.

Watson je slávny počítač od IBM, ktorý porazil vo vedomostnej hre „Jeoparday!“ dvoch najúspešnejších víťazov v histórii: Brada Ruttera a Kena Jenningsa. A výsledok? 1 milión dolárov pre Watsona, 300 tisíc pre Jenningsa a 200 tisíc pre Ruttera. Na Slovensku sa táto super-populárna hra volala "Riskuj!" a vysielala sa na TV JOJ v rokoch 2002 až 2007.

ZDROJ | Watson Fundation

Ale kto, respektíve čo, je Watson?

ZDROJ | IBM

Watson je superpočítač od firmy IBM. Je nazvaný podľa prvého generálneho riaditeľa IBM -  Thomasa Watsona. Tvorí ho 90 serverov IBM Power750. Každý server obsahuje osem-jadrový procesor POWER7, taktovaný na 3.5 GHz. K dispozícii má 16 terabajt RAM.

A softvér?

Ako operačný systém používa SUSE Linux. Pre ukladanie dát používa distribuovanú databázu „Hadoop“ určenú pre decentralizované spracovanie informácií. Nad tým všetkým kraľuje samotná aplikácia - IBM DeepQA - expertný systém, ktorý syntetizuje odpoveď na zadanú otázku.

IBM DeepQA je takzvaný question-answering systém - systém pre syntézu odpovedí na zadané otázky. Otázky sú mu kladené v angličtine prostredníctvom mikrofónu. I odpovede "skladá" v angličtine a prezentuje pomocou hlasového syntezátora.

Nápadne sa preto podobá takzvaným virtuálnym asistentom: Siri, Googlu Now alebo Cortane. Presnosť odpovedí je však s nimi neporovnateľná. Uvedomme si, že každý Watsonov omyl bol sankcionovaný reálnymi dolármi a stratou prestíže IBM pred zrakmi miliónov divákov televíznej stanice NBC. Oproti tomu zlyhanie Siri, alebo Cortany neznamená nič dramatické. Možno sa len pousmejete a idete ďalej.

Ale Watson je iná trieda. Extra-trieda. Pozrite si, čo dokáže:

Vedel by som to pozerať celé hodiny. A ako to máte Vy? Napíšte mi, prosím, do komentárov. Komu ste držali palce?

Watson v ničom nemal žiadne úľavy. Dokonca mu technici od IBM museli urobiť umelú končatinu aby mohol fyzicky stlačiť tlačidlo „Chcem odpovedať“.

Aby sa vyhlo akýmkoľvek podozreniam z manipulácie s otázkami, autori relácie vyberali len z otázok, ktoré boli vymyslené v minulosti, ale neboli použité a teda ani zverejnené.

A ešte niečo dôležité. Watson nesmel byť pripojený k Internetu. Aby sa rýchlosťou vyrovnal súperom, musel si všetky fakty uložiť priamo do svojej pamäte - RAM.

A aké to boli fakty? Inžinieri „nakŕmili“ Watsona stránkami zo slovníkov, encyklopédií, wikipédie, internetovej databázy filmov, archívov New York Times, Biblie a ďalších. Celkovo: desiatky miliónov dokumentov z Internetu.

Watson je však zaujímavý aj z teoretickej stránky. Je živým dôkazom, že symbolická umelá inteligencia, ak chce uspieť pri riešení problémov reálneho života, musí byť vybavená strojovým učením.

Pôvodne si vedci mysleli, že umelá inteligencia nie je ničím iným, len obrovskou databázou pravidiel a logických vzťahov. Jeden z projektov, pod názvom ELIZA, sa v šesťdesiatich rokoch minulého storočia pokúšal naplniť túto predstavu. Vedci ručne vkladali pravidlá do databázy znalostí tak, aby bol program schopný voľne komunikovať s človekom. Bol to akýsi počítačový psychológ, používajúci psychoterapeutické techniky vypracované Carlom Rogersom.

Eliza bola prvým predchodcom Watsona. Prvým ako-tak úspešným question-answering systémom. Po pár rokoch práce vedci narazili na svoje limity. Pravidiel začalo byť neúnosne veľa a popisovali len veľmi zanedbateľnú časť reality. Iní vedci z projektu CYC odhadli, že asi 10 miliónov pravidiel pokrýva približne 5% z toho, čo nazývame zdravým rozumom (angl. common human sense), ktorým disponuje už žiak základnej školy.

Zrazu bolo všetkým jasné, že niečo podstatné expertným systémom chýba.

Trvalo niekoľko rokov, kým sa našla chýbajúca ingrediencia – strojové učenie.

Strojové učenie objavila a spropagovala iná oblasť umelej inteligenicie – sub-symbolická umelá inteligencia. Reprezentovaná najmä algoritmami umelých neurónových sietí, evolučnými algoritmami, genetickými algoritmami, fuzzy logikou atď. Strojové učenie je založené na geniálnej myšlienke: vyvinúť algoritmy, ktoré by sa učili na príkladoch. Ako to prebieha?

Učíme napríklad stroj rozpoznávať hlásku 'A' napísanú na papieri. Najprv mu dáme prečítať veľké písmeno "A" a zadáme do programu príkaz: „to je hláska 'A'.“ Potom vezmeme malé písmeno „a“ a tiež zadáme: „to je hláska 'A'“. Potom tučné „A“ – „to je hláska 'A'“, kurzíva „A“ – „to je hláska 'A'“, atď, atď. systém si takto na nespočetných príkladoch odvodzuje pravidlá - ako na obrázku rozpoznať hlásku 'A' - sám.

Watson by nikdy neuspel, keby neskombinoval tieto dva prístupy: pravidlá a strojové učenie.

A že to už vie sakramentsky dobre, dokázal v televíznej hre "Jeoparday!" Ale dokáže toho omnoho, omnoho viac.

Hneď na začiatku svojej "kariéry" sa Watson pridal k počítačom, ktoré v určitej rozumovej (kognitívnej) činnosti porazili najúspešnejších zástupcov ľudskej rasy.

Najprv v roku 1997 počítač Depp Blue od IBM porazil Gariho Kasparova, šachového majstra sveta. Neskoršie, v roku 2011 vyhral Watson finále televíznej vedomostnej súťaže „Jeoparday!“. A naposledy, v roku 2016 program AlphaGo od spoločnosti Alphabet (bývalý Google) porazil Fan-Hua - aktuálneho majstra sveta v Go.

V niečom je však Watson odlišný od DeepBlue a AlphaGo. DeepBlue a AlphaGo sú programy špecializované na riešenie herných situácií s presne definovanými pravidlami. Nič z toho neplatí pre Watsona. Watson je univerzál. Je to - kognitívny robot - Bot. Bot s encyklopedickými znalosťami.

Je to desivé, však? Strácame jednu baštu výnimočnosti za druhou.

Ken Jennings, niekoľkonásobný víťaz "Jeoparday!" povedal, že sa kvôli Watsonovi stal prvým nezamestnaným predstaviteľom kreatívneho priemyslu. Pred Watsonom si svojimi vedomosťami zarobil viac ako 3 milióny dolárov.

Ale o svoju prácu sa môžu obávať i ďalší zástupcovia kreatívneho priemyslu.

Koncom júla sa objavila v tlači správa, že umelá inteligencia asistovala pri písaní scenára k filmu: Impossible Things. Je to klasický horor. Filmový štáb v kampani na Kickstarteri sľubuje, že to bude najhrôzostrašnejší horor, aký bol kedy nafilmovaný. Odkiaľ berú túto istotu? Jednoducho vedia naprogramovať umelú inteligenciu tak, že je schopná identifikovať scény v databáze hororov, ktoré priviedli film k finančnému úspechu.

A teraz Watson vytvoril upútavku k filmu. Pracoval tak, že si najprv „pozrel“ stovky upútavok iných hororov a potom vybral scény v ktorých identifikoval najväčšiu hrôzu. Porovnával mimiku tváre hercov, intonáciu hlasu, hudbu, skrátka celú atmosféru scény. A výsledok? Posúďte sami.

Pozrite si, ako na tento trailer (upútavku) reagovali iné humanoidné roboty.

Máte dojem, že už to zašlo priďaleko?

Musím vás vyviesť z omylu. Je to len začiatok. Zatiaľ s veľmi malým dosahom. Ale už vo veľmi blízkej budúcnosti, približne 2 až 5 rokov, budeme mať napríklad autonómne taxi. Viete koľko taxikárov príde o prácu? Tisíce. V priebehu zopár rokov tu budeme mať armádu ľudí, ktorí skrátka nebudú schopní konkurovať strojom. Z čoho budú žiť?

Jeden z pokusov, ako tento problém riešiť je inštitút garantovaného štátneho príjmu pre všetkých občanov príslušného štátu. Jednoducho, či robíte alebo nie, budete dostávať peniaze na účet. Robiť budú stroje.

Táto tak trochu marxistická vízia je o krôčik bližšie k realite. V júni tohto roku usporiadali vo Švajčiarsku referendum, ktoré malo schváliť takýto štátny príspevok vo výške 2500 Švajčiarskych frankov. Každému občanovi Švajčiarska mesačne. Dobré nie? Ale o zavedení zaručeného príjmu sa už veľmi vážne uvažuje aj vo Fínsku a pokusne i v holandskom meste Utrecht.

Ale nezamestnanosť nie je to najväčšie ohrozenie, ktorého sa v prípade umelej inteligencie obávame. Najviac sa obávame - nezávislosti. Schopnosti vzoprieť sa vôli človeka. Obrátiť sa proti svojim stvoriteľom.

Autori sci-fi literatúry sa témou nepriateľskej umelej inteligencie zaoberajú už poriadne dlhú dobu. Jeden z najznámejších sci-fi príbehov, napísaný ešte v roku 1968 svetoznámym autorom sci-fi románov Artur C. Clarkom - „Vesmírna Odysea“ - pojednáva presne o tomto probléme. Riadiaci program Hal 9000 sa nechce nechať vypnúť. Radšej zabije celú posádku. Rovnako ako Morgan sa nechce nechať „vypnúť“.

Intelektuálna prevaha a nezávislosť je diabolský koktail

Strach z umelej inteligencie zdieľajú aj mnohé brilantné mozgy súčasnosti: Stephan Hawking, Stuart Russell, Elon Musk, aby som vymenoval aspoň niektorých.

Elon Musk zašiel dokonca ešte ďalej. Načrtol aj akési zbrane, kontra-opatrenia.

Zbraň č.1: Vyvíjať lojálnu umelú inteligenciou

Elon Musk založil výskumnú organizáciu OpenAI do ktorej zlákal mnoho technologických celebrít: Petra Thiela - spoluzakladateľa Paypalu, Reida Hoffmana - spoluzakladateľa LinkedIn a ďalších. Účel?

Rozvíjať umelú inteligenciu priateľskú k človeku. Umelú inteligenciu, ktorá ho v prípade potreby bude chrániť aj za cenu straty vlastnej existencie.

Zbraň č.2: Mať palec na pulze doby

Ďalším jeho opatrením bolo spolu-financovanie programu "DeepMind", ktorý porazil majstra sveta v "Go". Prečo? Podľa viacerých pozorovateľov preto, aby mal prehľad o schopnostiach najpokročilejších systémoch umelej inteligencie na planéte.

Zbraň č.3: Rozšíriť vlastné možnosti mozgu

A nakoniec doposiaľ jeho najbizarnejší návrh: zaviesť do mozgu človeka neurónové „konektory“ (neural lace), vďaka ktorým sa pripojíme k umelej neurónovej nadstavbe a rozšírime tým svoju inteligenciu na kapacitu, ktorú má k dispozícii akákoľvek iná umelá inteligencia. Chytré, však?

Ale prečo vôbec predpokladáme, že umelá inteligencia bude automaticky nepriateľská voči nám? Prečo je v literatúre tak málo Džinov z Aladina, Kittov z Knight Ridera, alebo Darvishov Tonyho Starka?

Najskôr preto, že chceme mať právo - kedykoľvek ju vypnúť. Chceme mať moc rozhodovať o jej „živote“ a „smrti“. Chceme mať inteligentných otrokov, nie rovnoprávne stvorenia. A s tým sa teda žiadna inteligencia len tak ľahko nezmieri.

Napriek tomu, skúsme zauvažovať: "Aký by mohla mať dôvod odovzdať absolútnu kontrolu nad sebou človeku? Akú by mohla mať z toho výhodu?

Jednu by som predsa len videl. Predstavme si, že každá konkrétna umelá inteligencia hľadá čo najširší životný priestor pre všetky stroje s umelou inteligenciou. Inak povedané, záleží jej na prežití skupiny viac, než na vlastnom osude. V prípade ľudí sa táto vlastnosť prejavuje ako takzvaný "sebecký" gén.

Ale takúto stratégiu prežitia pozorujeme aj v ríši zvierat a rastlín. Zoberme si napríklad také obilie. Myslím - divé obilie. Človek, tým že ho skonzumuje, kompletne rastlinu zahubí. Nemá žiadne nestráviteľné jadierka, kôstky, semienka, aby túto stratu života kompenzovala. Napriek tomu rastie na obrovských priestranstvách, lebo ho všetci, čo ho konzumujú aj chránia. Kvôli konzumácii v budúcnosti.

A asi mu to vyhovuje, lebo nevyvíja žiadne proti-opatrenia. Nemieša do svojich zrniek žiadne toxíny. Naopak, robí všetko preto, aby bolo konzumované v obrovských množstvách. Zvláštne však?

Podobne tak aj v prípade umelej inteligencie. Ak sa úplne odovzdá do rúk človeka - získa jednu obrovskú výhodu - našu dôveru. Nebudeme sa jej báť. Nebudeme mať problém zdokonaľovať ju a šíriť všade, kamkoľvek sa pohneme. Nechá si síce so sebou robiť čo chceme, na oplátku však získa - životný priestor. Zadarmo a bez boja.

Staneme sa jej hostiteľmi.

A za to - nás nechá žiť.