Matematik a analytik Dalibor Vavruška odhaluje myšlenky své knihy „Život v době robotů“. V knize vydané nakladatelstvím Grada, a inspirované mimo jiné debatami autora s Tomášem Budníkem ze skupiny Thein, navrhuje, jak by mělo lidstvo přistoupit k příležitostem a rizikům AI.
Překoná AI lidské myšlení?
Co vás inspirovalo k napsání knihy „Život v době robotů“?
Dříve jsem psal hlavně pro odborníky. Mé týmy celkem úspěšně předpovídaly tržní a technologické trendy už od 90. let, což nám přineslo řadu mezinárodních ocenění. Impulzem psát knihu se pro mne stala mimo jiné covidová pandemie. Tehdy jsem si uvědomil, jak blízko jsme se kvůli technologiím dostali k epochálním společenským změnám. Rozhodl jsem se nad věcmi zamyslet ještě hlouběji, a najít způsob, jak některé názory co nejlépe sdělit všem, koho toto téma zajímá. Inspiraci jsem přitom čerpal na mnoha místech. Od Karla Čapka, řady dalších autorů a myslitelů, přes zkušenosti s technologiemi, až po mé loňské setkání s britským autorem, filozofem a neurovědcem Ianem McGilchristem. Zda se to povedlo, musí posoudit sami čtenáři.
V knize se často vracíte k otázce, zda AI překoná lidské myšlení. Myslíte si, že je to nevyhnutelné, nebo je stále v lidských rukou, jakým směrem se AI bude vyvíjet?
AI naše myšlení v mnoha ohledech již překonala. Stroje si vyměňují neskutečná množství dat a zpracovávají je rychleji než my. Umí například plánovat cestovní trasy, bleskově vyhledávat myšlenky v knihách, konverzovat na odborná témata, řídit různé procesy či diagnostikovat nemoci – mnohdy lépe než lidé.
McGilchrist si ale všímá jedné podstatné věci. Naše pravá mozková hemisféra pracuje s neúplnými informacemi jinak než AI. Nevnímá svět pomocí algoritmicky zpracovávaných explicitních modelů. Její myšlení je implicitní, holistické. V přírodě se vyskytuje stovky miliónů let, a je klíčové pro přežití živých druhů. Zatím není zřejmé, že AI je schopna takové myšlení replikovat, neřkuli překonat. A i kdyby byla, bez tisíce let čekání na výsledek evoluce to stejně nebudeme s jistotou vědět.
Přínosy, rizika a řešení
Jedním z klíčových konceptů ve vaší knize je AI 4P – AI pro lidi. Můžete blíže vysvětlit, jak by měla taková AI fungovat v praxi?
AI 4P podporuje postupný pokrok jako protipól unáhleného přetváření lidí do zcela nových a evolučně neozkoušených forem existence (transhumanismus). Zůstaneme druhem Homo Sapiens, který v knize nazýváme Homo Sapiens Roboticus. Podstata našeho myšlení se nezmění, nesplyneme s technologiemi, nepřeměníme se na Homo Deus, o kterém psal Yuval Hararri. Svoboda a autonomie jednotlivců zůstanou zachovány, stejně jako lidmi stvořená kultura a společenské normy.
Roboti a digitální propojení se stanou nástroji sloužícími jednotlivcům, používanými z jejich vůle. AI primárně nepůjde o trvalé propojení lidí, masový sběr dat a jejich následné využití pro kolektivní řízení společnosti. Naopak roboti budou sloužit lidem, každému jednotlivci. AI 4P nebude povýšena nad lidské myšlení, mezilidskou důvěru či odpovědnost.
Jaký je podle vás největší přínos AI pro společnost? A naopak, kde vidíte největší rizika?
Možná vás překvapím, ale za největší přínos AI nepovažuji stvoření zázračných léků pro všechny lidi a nemoci, ani vyřešení environmentální krize. A už vůbec ne nastolení všeobecné hojnosti, před kterou Karel Čapek dokonce varoval. Za klíčový považuji přínos AI pro rozvoj vědy a poznání, jejichž interpretace a využití zůstanou v rukou lidí.
Největší hrozbu naopak vidím v potlačení holistického myšlení. To by vedlo k dogmatizaci momentálních poznatků a pohledů na svět, případně omezení svobod, což by nás mohlo uvrhnout na slepou vývojovou kolej. Lidská kontrola, chcete-li svobodná vůle, musí hrát i nadále prim. Rizik je samozřejmě víc – od kyberútoků na klíčovou infrastrukturu včetně finanční, přes myšlenkovou manipulaci, výrobu smrtících virů, až po násilí páchané fyzickými roboty.
Kulturní válka o technologickou změnu
Zmiňujete evoluční hrozby spojené s AI a roboty. Myslíte, že technologie skutečně může narušit přirozený vývoj lidstva?
Technologie do evoluce zasahují prakticky nepřetržitě. Přináší nám výhody – schopnost pokořit přírodu bez čekání na pokusy omyly. Dám vám příklad. Zásadní zlepšení zraku přirozenou evolucí trvá i miliony let. K zásadnímu posunu v rozlišení digitálních kamer přitom dochází každé desetiletí. Problém ale je, že se na takových inovacích stáváme závislými. Často se objevují nečekané evoluční hrozby, jako třeba ohrožení udržitelnosti ekosystémů. A to ještě nemluvím o AI, která je vzhledem ke svým schopnostem gigantickou evoluční hrozbu.
Je alarmující, že se o její udržitelnosti mluví mnohem méně než třeba o udržitelnosti aut. K určitým změnám ale přeci jen dochází. Loni se v Bletchley Parku u Londýna, místě zrození moderní počítačové vědy, konal první světový summit o bezpečnosti AI. Minulý měsíc vydala OSN zprávu „Vláda nad AI pro humanitu“.
Jedním z vašich témat je koncept „kulturní války“ v souvislosti s technologiemi. Můžete přiblížit, co tímto pojmem myslíte a jak se to projevuje v dnešní společnosti?
Každé civilizační období má svou kulturu. Ta odráží přírodní podmínky, způsoby komunikace, tradice, znalosti, a také dostupné technologie. Zásadní inovace pak přirozeně dopadají na kulturní a společenské normy. Ve středověku se například kolem měst stavěly hradby, dnes se na letištích neobejdeme bez pasových kontrol a bezpečnostních rámů, v budoucnu nás zřejmě čekají nové formy digitálního sledování. Vždy obětujeme určité svobody, abychom s pomocí nových technologií získali jiné, a takový stav pak považujeme za kulturně správný. Dnes už měníme i lidské myšlení, geny a dokonce i samotný pojem zdraví. Dochází tak k evolučnímu střetu mezi těmi, kdo takové změny vítají, s těmi, kdo je odmítají. Přitom nelze dopředu říct, kdo má v čem pravdu, co jak zafunguje. To rozhodne až evoluce.
Etika a regulace
Věříte, že umělá inteligence někdy získá vlastní vědomí? Jaké to bude mít dopady na etiku a zákony?
Vědomí je někdy dáváno do souvislosti se schopností trpět či milovat. To ale nejsou vědecké pojmy. Z faktického pohledu se umělá inteligence časem stane tak zvanou AGI, která samostatně „myslí“, učí se, nastavuje si cíle. To ale neznamená, že myslí „vědomě“, holisticky, nebo v evolučním zájmu lidí. Představme si AI jako lupu, kterou pozorujeme svět v dříve skrytých detailech. Vidíme ale jen to, kam se díváme. Lupu sice může posunout, nebo ji přemístí někdo jiný, ale sama nám neřekne, kam se dívat, abychom přežili. Proto navrhuji i nadále považovat lidský mozek za nejvyšší inteligentní jednotku lidské civilizace a vyhnout se zavádějícímu srovnání lidí se stroji. Zákony by měly především chránit člověka před nekontrolovatelnou AGI, chybami a zneužitím technologií. Měly by z AI udělat nástroj, zatímco etika zůstane výsadou lidí.
Jakou roli by podle vás měla hrát regulace v rozvoji a používání AI? Jsou současné regulace dostatečné?
Svět v AI regulacích zatím docela tápe. Státy se obávají, že přílišná regulace potlačí jejich konkurenceschopnost. Datová centra, která jsou často mimo jejich území, navíc nemohu snadno regulovat. Navíc provozovatelé globálních AI systémů komunikují s uživateli přímo, což posiluje jejich vyjednávací pozici. Z regionů je v AI regulaci nejdále Evropská unie. Její přístup založený na riziku v principu dává smysl, i když má své slabiny – hlavně riziko přílišné byrokratizace a možný nesoulad s regulacemi v jiných regionech. Pro zvládnutí rizik proto vidím jako zásadní nejen formální regulace, ale i „nepsaná“ pravidla, jakýsi celospolečenský konsensus, jak se lidé k AI postaví. Nejvyspělejší AI systémy pak musí být regulovány mezinárodními dohodami, podobně jako u jaderných zbraní.
Máme se obávat toho, že AI a roboti připraví lidstvo o práci? Pokud ano, státy přijdou i o daně. Jakým způsobem by danily práci robotů a AI?
To záleží na tom, jak si nastavíme zmíněný celospolečenský konsensus, tedy kulturu. Do jaké míry nám půjde o důvěru mezi lidmi oproti důvěře k robotům a centralizovaným systémům, což je mimochodem oblíbené Čapkovo téma. Také půjde o rovnováhu mezi efektivitou a diverzitou postupů při řešení problémů. Ideální by byla tržní ekonomika, ve které dají roboti většině lidí užitečné schopnosti. A to férovým způsobem. Danit by se pak mohla i nadále lidská práce. Pokud se ale rozhodneme jít cestou výrazného snížení zaměstnanosti ve prospěch datové centralizace a maximalizace efektivity, fungování ekonomiky to změní zásadně – do hry by pak zřejmě vstoupilo zdanění robotů a univerzální příjem, což je bližší socialismu. Fungování takového systému by se nejspíš muselo řešit mezinárodně. Role národních států by oslabila.
Autor: Kim Szappanosová (Thein) s copywritingovou podporou Martiny Kurfirstové (VědaVýzkum.cz)
Rozhovor vznikl v rámci copywritingových služeb pro skupinu Thein, která podpořila vznik knihy Život v době robotů.
Dalibor Vavruška, matematik a MBA, strávil 25 let jako investiční analytik a stratég v předních světových finančních institucích, jako jsou Citigroup, ING a Credit Suisse. Vedl týmy zaměřené na investiční výzkum v telekomunikacích a digitálních technologiích, získal řadu prestižních ocenění od Institutional Investor a Thomson Reuters. Stál u mnoha veřejných nabídek akcií telekomunikačních firem a přispěl k evropské legislativě v oblasti telekomunikací a umělé inteligence. V poslední době se věnuje digitálním strategiím, AI a datové regulaci, spolupracuje s oxfordským Regulatory Policy Institute.
- Autor článku: ne
- Zdroj: VědaVýzkum.cz
