DARPA chce hackbotov. Viete prečo?
Vo štvrtok, dňa 11.8.2016, v rámci konferencie DEFCON 2016 bola vyhodnotená súťaž Cyber Grand Chalenge 2016. Súťaž hackbotov, ktorú financovala DARPA - Agentúra pre výskum pokročilých obranných projektov - vo výške 55 miliónov dolárov. Čo tým DARPA sleduje? A prečo bola taká štedrá?
Konferencia DEFCON sa koná každý rok a je považovaná za jednu z najvýznamnejších udalostí roka v oblasti počítačovej bezpečnosti. V rámci konferencie hrajú tímy hackerov hru s názvom: „Capture a flag“. Počítačovú hru, prostredníctvom ktorej sa hackeri zdokonaľujú v umení odhaľovať zraniteľné miesta operačných systémov a užívateľských programov. Princíp hry je jednoduchý. Každý tím má svoj počítač, ktorý musí chrániť proti napadnutiu a naopak, snaží sa „nainfikovať“ ostatné počítače v sieti.
Tento rok však pribudla nová disciplína, ktorú iniciovala už spomínaná DARPA. Hru „Capture a flag“ nehrali hackeri, ale inteligentné programy - hackboti.
DARPA každému hackbotovi zverila jeden počítač, do ktorého predtým zámerne zaviedla viacero bezpečnostných dier. Úlohou hackbota bolo nájsť tieto zraniteľné miesta a zaplátať ich. Navyše, hackbot mal využiť zraniteľné miesta súperov a infikovať ich škodlivým softvérom. Zaujímavé, však? A výsledky?
Jeden z hackbotov našiel bezpečnostnú dieru s názvom Crackaddr. Chybu, ktorá pred desiatimi rokmi bola zodpovedná za zamorenie svetových mailových systémov. Odborníci predpokladali, že tento druh chýb ešte dlho nikto okrem človeka odhaliť nemôže. V určitých prípadoch boli hackboti tak rýchli, že by sa im nevyrovnal žiadny človek. Celkove sa však odborníci zhodli, že bude ešte trvať roky, kým hackboti dosiahnu úroveň ľudských hackerov.
Skvelá správa s trpkou príchuťou...
Pozrime sa na tieto výsledky v širších súvislostiach. Najprv, prečo DARPA? DARPA pokračuje vo využívaní obrovského potenciálu amerického civilného priemyslu a univerzít pre obranné ciele. Robí to systematicky.
Spomeňme si, že zhruba pred desiatimi rokmi financovaním súťaži: „2004 Grand Challenge“, „2005 Grand Challenge“ a „2007 Urban Challenge“ podporovala vývoj autonómne riadených vozidiel. Dnes už jazdia po bežných cestách.
Potom vyhlásila súťaže: „2012 Robotics Challenge“ a „2013 FANG Challenge“, ktorými chcela podporiť vývoj autonómnych mobilných robotov. Dnes už sa vývojom humanoidných robotov zaoberajú desiatky firiem a start-upov.
Teraz pridala tretí drahokam do svojej zbierky technológií s umelou inteligenciou, ktoré chce vidieť v americkej armáde. Hackbotov. Armádu virtuálnych vojakov s umelou inteligenciou, ktorá bude brániť americký kybernetický priestor. Silná káva, však?
Až hackboti definitívne menia našu predstavu o svojej nenahraditeľnosti na ilúziu. Ale to nie je to najdôležitejšie čo by nás malo znepokojovať. Nielenže sa nám raz vyrovnajú. Bohužiaľ, ani nebudeme vedieť akými znalosťami vlastne budú disponovať. Ako to myslím?
Vráťme sa trochu do minulosti. Do roku 1997. Počítač menom „Deep Blue“ od IBM porazil úradujúceho šachového majstra sveta Gariho Kasparova. Bolo to po prvýkrát v histórii, keď počítač porazil človeka v nejakej komplexnej logickej hre. „Deep Blue“ pracoval metódou hrubej sily. Prerátaval obrovské množstvo ťahov dopredu, za hranice ľudských možností a preto vyhral. Bola to však skôr zásluha výkonného hardvéru než inteligentného algoritmu.
Dnes by Kasparova porazil každý lepší šachový program bežiaci na stolnom počítači. Programátori totiž vyvinuli chytré programy, ktoré hrajú ťahy prebraté zo svetovej databázy zápasov šachových veľmajstrov.
V marci 2016 však prišla správa, ktorá zatriasla celým svetom informačných technológií. Program „AlphaGo“ spoločnosti „Google DeepMind“ porazil 18-násobného majstra sveta v hraní starovekej čínskej hry „Go“. Go je komplexnejšia hra ako šach. Oveľa komplexnejšia. Šach obsahuje 10120 možných ťahov, Go obsahuje 10761 ťahov. Len pre ilustráciu, vo vesmíre máme cca 1084 atómov. AlphaGo nehral taktikou hrubej sily ako Deep Blue. Nepočítal ťahy dopredu. Naopak. Pozeral sa dozadu. Do histórie. A na základe údajov z minulosti, sa pokúšal vyberať taký ťah, ktorý sa v minulosti najviac osvedčil. Inak povedané, učil sa na vlastných chybách. A ako také učenie vlastne prebieha?
Postavili proti sebe stovky, možno tisíce AlphaGo hráčov a tí hrali. Jednu hru za niekoľko sekúnd. Týmto spôsobom AlphaGo mohol overiť milióny, miliardy ťahov, kým sa odvážil na človeka. Mohol sa ocitnúť v takých herných situáciách, ktoré doteraz žiadny človek nevyskúšal a nepreveril. A aj sa tak stalo. Fan Hui po jednom z ťahov povedal: „To nie je ľudský ťah. Nikdy som nevidel človeka hrať tento ťah. Je nádherný“. Na druhej strane, to obrovské množstvo ťahov, ktoré má AlphaGo v „hlave“ nikdy nebudeme schopní úplne analyzovať. Je ich príliš veľa.
Donedávna to bolo tak, že algoritmy umelej inteligencie sa učili na dátach, ktoré im pripravil človek. Týmto spôsobom sme mali pod kontrolou, čo má program v „hlave“. Ale keď začnú programy učiť iné programy už sú mimo našej kontroly. Stávajú sa nezávislými, nepoznateľnými a nekontrolovateľnými. Presne, ako my, ľudia.
