Recenze knihy Robot 100: Sto rozumů

„Ale já nevím,“ řekl autor, „jak mám ty umělé dělníky nazvat. Řekl bych jim laboři, ale připadá mně to nějak papírové.“ „Tak jim řekni roboti,“ mumlal malíř se štětcem v ústech a maloval dál. A bylo to. (Karel Čapek)

Sté výročí pojmu robot bylo připomínáno ze všech stran. Za jeho úspěšným tažením světem stojí nejen nápaditost Josefa Čapka, genialita jeho bratra Karla, ale jistě i dobré zahraniční kontakty, které napomohly rychlému inscenování hry po celém světě. Zásadní je také to, že Karel Čapek dokázal nejen v R.U.R., ale i dalších dílech, jako je Válka s mloky, Továrna na absolutno či Bílá nemoc, předestřít možné důsledky jevů, které tehdy měnily společnost. Takže hra R.U.R. není ani tolik o robotech, jako o lidech, odlidštění práce a její mechanizaci za účelem růstu produktivity a zisků, o životě a jeho stvoření atd.

Čapkovy Roboti rozhodně nebyly první fantazií o umělých bytostech (vzpomeňme na pověst o Golemovi), ale to slovo bylo tak příhodné a mezinárodní, že se stalo univerzálním označením pro veškeré umělé bytosti, především humanoidního vzhledu, a různé složité automaty (automatony). Jaká je tedy definice robota? Třeba poslední český Technický slovník uvádí: „robot, automat, který může v některých činnostech zastoupit člověka. Je schopen cíleně orientované interakce s přirozeným prostředím podle instrukcí člověka spočívající ve vnímání a rozpoznávání prostředí a v manipulování s objekty.“

Pojem robot brzy opustil divadelní prkna a začal žít vlastním životem. Po sto letech se s ním setkáváme snad ve všech oborech lidské činnosti – pochopitelně také ve vědě. Proto jsem si přál téma robotů pojednat v našem Čs. časopise pro fyziku (ccf.fzu.cz), ale než jsem našel ochotného autora, dostal se mi do ruky sborník nazvaný „Robot 100: Sto rozumů“ editovaný Jitkou Čejkovou z Vysoké školy chemicko-technologické v Praze. Kniha obsahuje soubor pojednání, zamyšlení, rozborů či básní a kreseb na téma robot ze všemožných úhlů pohledu. Rozhodl jsem se tedy se svolením editorky a Vydavatelství VŠCHT Praha publikovat tuto rozšířenou recenzi či zamyšlení nad tímto dílem.

Nejprve představme sborník podrobněji. Kniha začíná Čapkovým fejetonem „Autor robotů se brání“ z Lidových novin roku 1935, kde napůl humorně (a se skrytou hrdostí na úspěch) Čapek bojuje proti zneužití svého pojmu: „Autor nemínil poslat na svět panáky z plechu … Ukázalo se však, že svět nestojí o jeho vědecké roboty … Svět potřeboval robotů mechanických, neboť věří ve stroje víc nežli v život.“ Následuje vlastní hra R.U.R.: Rossumʼs Universal Robots v originální podobě vydané roku 1920 nakladatelstvím Otakara Štorcha-Mariena. Je opravdu dobré si hru před pokračováním v četbě osvěžit, i pokud ji už znáte – i já jsem musel opravit děravou paměť.

Dále kniha přináší na 320 stranách 90 pohledů na Čapkovu hru a roboty od 100 autorů (deset příspěvků tedy má dva autory) z nichž většina je zahraničních (proto také kniha vyjde příští rok v anglické verzi u nakladatelství MIT Press). Editorka sama v úvodu prozrazuje, že asi polovina autorů pochází z oboru zvaného ALife (artificial life). Tato „komunita“ se schází na každoroční konferenci a ta letošní se má zanedlouho konat na VŠCHT v Praze. Ostatní autoři pochází z nejrůznějších oborů a najdeme mezi nimi třeba teatrology, spisovatele sci-fi, odborníky na umělou inteligenci, sociology, výtvarníky, muzikanty, básníky atd. Pojďme si některé myšlenky přiblížit.

Ukradené slovo robot

Potíže s nekontrolovaným šířením a mutací původního pojmu robot neskončily po 15 letech, kdy si na ně stěžoval sám autor, ale stále narůstají. Dá se říci, že velkou „zásluhu“ na tom mají autoři sci-fi povídek a románů, mezi nimi proslul Isaac Asimov (narozený roku 1920, stejně jako robot) díky svým Zákonům robotiky. Tento aspekt ve sborníku velmi hezky popisuje Rodney Brooks – což je vědec a podnikatel, zakladatel několika společností např. iRobot – výrobce robotických vysavačů. Poukazuje třeba na fakt, že velký zlom v chápání pojmu robot nastal v roce 1994, kdy jednak vznikly programy, které prohledávaly a indexovaly obsah webu – Web Crawlery, kterým se začalo časem říkat roboti. Proto dnes často musíme na webu přesvědčovat jiné programy, že nejsme roboti. Ve stejném roce se objevily první chatterboti, tedy automaty „konverzující“ se zákazníky po telefonu. Od té doby se roztrhl pytel s názvy využívajícími předpony robo- a přípony -bot (z nichž robo prý působí zlověstněji, jako robocop – robotický polda).

Brooks tak dochází k názoru, že je třeba pro staré dobré elektromechanické roboty najít nový název. Navrhuje, že by bylo hezké slovo droid, ale to si zaregistrovali vlastníci filmové série Hvězdné války a tvrdě jeho nelicencované použití stíhají. Úkol tedy zřejmě čeká na nového génia formátu Karla Čapka.

Kolik robotů pro nás pracuje?

Pokud se omezíme na původní Čapkovu ideu robotů, jako umělých pracovníků, tak po sto letech můžeme konstatovat, že se výkonu Rossumovy továrny blížíme – pochopitelně s tím rozdílem, že dnešní roboty jsou mechatronické systémy, obvykle velmi specializované. Ve stati Kaspera Støye nalezneme údaje o prodejích za rok 2019, kdy bylo prodáno na celém světě asi půl milionu průmyslových robotických ramen, podobný počet servisních robotů a tři miliony dronů.

Ve vědě je zatím doménou robotů především podrobný systematický průzkum rozsáhlých dat, pronikání do vesmíru či průzkum jiných prostředí člověku prakticky nedostupných. Hlavními objeviteli nových komet či exoplanet dnes už nejsou lidští pozorovatelé, ale automatizované observatoře na Zemi či na vesmírných sondách, které provádí systematickou přehlídku oblohy. Na Měsíci či na Marsu a dokonce na kometě nebo planetce přistávají robotičtí průzkumníci, kteří na rozdíl od lidí na dlouhé cestě nepotřebují dýchat, jíst, vyměšovat, udržovat kondici atd.

Ve své stati „Robot vesmírný“ o tom pojednává Jiří Dušek, ředitel Hvězdárny a planetária v Brně: „Příroda sice lidské bytosti vyvíjela desítky milionů roků a obdařila nás mnoha jedinečnými vlastnostmi, u nichž si nemusíme být jisti s hardwarovým i softwarovým řešením, avšak vše bylo optimalizováno na pobyt v gravitačním poli Země, v úzké vrstvě dýchatelné atmosféry vysoké jen několik kilometrů, která zajišťuje vhodnou regulaci teploty a vlhkosti, nehledě na přísun životodárné energie… Výpravy člověka do vesmíru jsou důležité – motivují lidi k zájmu o svět kolem sebe i technologický pokrok. Pokud ale chceme skutečně prozkoumat Sluneční soustavu, bez robotů se neobejdeme.“

Vědecký obor ALife

Stať Hirokiho Sajamy bychom mohli považovat za úvod do vědní oblasti ALife, kterou založil v 80. letech 20. století americký fyzik a počítačový vědec Christopher G. Langton. Obor se zabývá syntézou a simulací umělých živoucích systémů a lze jej rozdělit do několika oblastí: soft ALife (počítačové simulace), hard ALife (návrh a stavba strojů, které by se uměly vyvíjet), wet ALife (chemická tvorba struktur, které napodobují živé systémy – tzv. chemičtí roboti).

Jelikož se jedná o mladý obor, který postupně upřesňuje svoje cíle, je věnováno hodně pozornosti formulaci otázek k řešení. Sajama zde cituje čtrnáct otevřených problémů, které sahají od otázek o původu života, přes možnosti a omezení živých systémů po vztahy mezi myslí, stroji a kulturou.

Neviditelní roboti už jsou tady

Mnoho lidí má obavy z přílišného rozšiřování robotů a umělé inteligence, ale skrytí roboti v podobě algoritmů naši společnost nezanedbatelně ovlivňují už dnes. Tento jev drsně popisuje Thomas Schmickl a já doufám, že místy poněkud přehání. „Vytvořili jsme globální síť algoritmů, které autonomně komunikují a dynamicky používají organické komponenty (nás!) jako stavební kameny globálního roje algoritmů v sociálních médiích a dalších sítích. I když zdánlivě jednáme na základě naší svobodné vůle, řídíme se informacemi, které se nám tyto algoritmy rozhodnou poskytnout, nebo je naopak před námi skrýt způsobem, který často nemůžeme ovlivnit.“ A jeho vize do budoucna je temná: „V nadcházejícím desetiletí se autonomní algoritmy budou dále šířit do sektoru zdravotnictví, bezpečnostních složek, práva a do správy věcí veřejných. Přišly a už tu zůstanou.“ A nakonec se zmiňuje i o vlivu na vědeckou práci, ačkoliv zřejmě nezná náš bývalý kafemlejnek, vidí efekt ostatních metrik výkonu: „Stálé a všudypřítomné hodnocení našeho osobního výkonu ponechává mnoho z nás již v neustálém vyčerpávajícím úsilí o zlepšení těchto metrik … V konečném důsledku, díky účinku těchto softwarových robotů, jež se pravidelně snažíme uspokojit, jsme se sami stali roboty.“

V jiné stati dochází Alan Dorin k podobným znepokojujícím otázkám: „Nadnárodní společnosti, které tyto platformy (sociální sítě apod.) vytvářejí, jsou poháněny ziskem a touhou investorů po podílech na trhu… Za jakou cenu jsme společnostem dovolili ovlivňovat náš způsob myšlení? Jaké jsou vedlejší efekty, které na naši společnost prokazatelně měly tyto interakce?“ Nakonec Dorin dává jistý návod: „Pořádně nejprve zvažme každou změnu, kterou chceme udělat. Snažme se pomocí vědy a simulací pochopit, co se se zavedením takové změny může stát. Vyhněme se potenciálním nevýhodám. A občas prostě řekněme novým technologiím „Ne!“. Nejsou vždy v našem nejlepším zájmu.“
Zdá se mi, že tento motiv je jednou z dominant sborníku. Trefně jej předestírá také Pavel Kasík: „Tyto dystopie se zdají být protikladné, ale ve skutečnosti k sobě mají blíže, než možná Huxley či Orwell tušili. Ve světě analýzy velkých dat, strojového učení neuronových sítí a masivního sběru osobních informací prostřednictvím internetu věcí jsou totiž totální svoboda a totální kontrola jen různé strany stejné mince, různé implementace stejných nástrojů a technologických postupů. … Sociální sítě přišly s myšlenkou propojování lidí, ale místo toho se zvrhly v automaty, které dávkují našemu mozku dopamin a drží nás přikované k displeji plnému trivialit, nekonečných hádek, depresivních zpráv a chirurgicky cílené reklamy… Najdou lidé čas a sílu hledat podstatu lidství? Nebo to necháme na robotech?“

Umělá inteligence – aplikovaná či obecná

Robotika bývá často dávána do úzkého vztahu s tzv. umělou inteligencí (AI – artificial inteligence), i když ani autonomní roboti nemusí nutně disponovat AI. Na nebezpečí „popularity“ AI upozorňují Petr Slavíček a Štěpán Sršeň: „Umělá inteligence je bublina dnešních dnů, čtenář ji může najít v sousedství pojmů jako strojové učení či třeba Průmysl 4.0. Pojem pocházející z oboru informačních technologií začali skloňovat filozofové a politici … Umělá inteligence si prožila několik vln zájmu a následných frustrací – mluví se o tzv. zimách umělé inteligence. Teď žijeme v období velkých nadějí až vzrušení, ohromných investic do dalšího rozvoje a celkem nadějných výsledků.“

Zdá se, že větší pokrok zatím zažívá tzv. aplikovaná umělá inteligence, orientovaná na určitý specifický úkol. Tam jsou už výsledky, které přináší ekonomický užitek. Naproti tomu z obecné umělé inteligence jde trochu strach zřejmě pramenící v působivých dystopických sci-fi příbězích. Vyjadřuje jej třeba George Musser: „… umělá inteligence bude dominantní formou organizace. V jistém smyslu budeme žít uvnitř umělé inteligence – budeme její součástí. Pokud nás tato vyhlídka děsí, musíme to být my, kdo se vzbouří.“

Evoluční robotika a replikující se roboty

Kromě robotů vybavených obecnou AI vzbuzují obavy také roboty, které by se dokázaly samy rozmnožovat-replikovat nebo dokonce evolučně vyvíjet. Této otázce se věnuje několik statí. Například Gusz Eiben před tím důrazně varuje: „Za každou cenu bychom se měli vyhnout scénáři, ve kterém nekontrolovaná a bezmezná reprodukce vede k velkému množství potenciálně nebezpečných robotů… nemělo by dojít ke spouštění fyzických systémů evoluce robotů bez tzv. tlačítka náhlé smrti, tedy možnosti, která systém v mžiku naprosto zastaví a která nikdy neselže.“

Ovšem někteří autoři, jako Geoff Nitschke, popisují rozvoj evoluční robotiky optimisticky (mě z toho ale běhá mráz po zádech): „Pokud se postaví plně automatizované továrny, které na nevyřešené úkoly napříč různými prostředími budou reagovat tím, že zkonstruují roboty, otevře se nesmírný potenciál pro vědecké objevy a průmyslové přínosy. Očekává se, že plně automatizované soběstačné kolonie robotů, které se uměle vyvíjejí, se stanou nepostradatelným nástrojem pro řešení problémů.“

Nanoroboty

Na několika místech sborníku se setkáme s pojmem nanoroboty. Co to vlastně je? Kabir a Kakugo je stručně charakterizují takto: „Molekulární roboty, jsou nanoroboty vytvoření na molekulární úrovni pomocí nejnovějších metod používaných v biotechnologiích, nanotechnologiích a informatice.“ Takové roboty obsahují několik součástí, jako pohon, senzory a procesor.

Tuto oblast výzkumu či spekulací do jisté míry založil americký vědec Eric Drexler svoji knihou Engines of Creation – the coming era of nanotechnology (Stroje stvoření – nastávající éra nanotechnologií, 1986 a aktualizované vydání 2007). Svého času s ním veřejně polemizoval Richard Smalley (nositel Nobelovy ceny za podíl na objevu fullerenů) a jiní – debata byla shrnuta v časopise Chemical & Engineering News 81, 38 (2003).. Drexler již tehdy spekuloval o molekulárních „assemblerech“, replikujících se nanorobotech a jejich použití např. k „opravě“ různých neduhů v lidském těle apod.

Ve sborníku se tématu věnuje např. Vladimír Kočí, který zdůrazňuje otázku životního cyklu a recyklace robotů. „Velmi sofistikovaní nanoroboti, speciálně upravené chemické látky či částice, se dnes zkoušejí jako nástroje pro odstraňování starých ekologických zátěží… Z pohledu udržitelnosti je třeba vnímat celý životní cyklus nanorobotů… Vyrábět a provozovat je s co nejnižší materiálovou a energetickou náročností a s co nejnižším množstvím vedlejších dopadů a emisí do všech složek životního prostředí … A až se naučíme žít tak, že svojí činností nebudeme přírodu ani lidské zdraví poškozovat, tak možná roboty opraváře ani nebudeme potřebovat. Kéž by to bylo brzy.“

Sociologické aspekty robotizace

Ve hře R.U.R. jsou vylíčeny důsledky masivního nasazení robotů na společnost a jsou pro drama zásadní. Ředitel Domin líčí svou optimistickou vizi: „Ano, budou (lidští dělníci) bez práce. Ale pak nebude už vůbec žádné práce. Všechno udělají živé stroje… Člověk bude dělat jen to, co miluje. Bude zbaven starostí a osvobozen z ponížení práce. Bude žít jen proto, aby se zdokonaloval.“ A k čemu ve hře dojde po letech? Přestanou se rodit děti. Proč? Stavitel Alquist vysvětluje důvody: „Protože toho není třeba. Protože jsme v ráji… není třeba lidské práce, protože člověk už nemusí nic, nic, nic než požívat … my, lidé, my, koruna stvoření, my nestárnem prací, nestárnem dětmi, nestárnem chudobou! Honem, honem sem se všemi rozkošemi!“

Vztah k práci ve sborníku diskutuje například Daria Hvížďalová: „Co z nás ale zbude, jakmile o práci přijdeme? Práce je pro mnoho z nás ne-li středobodem, pak poměrně velkou součástí života… Jak odpovíte na otázku Kdo jste? Ředitel, podnikatel, vědec, umělec… Oddělit dnes práci od osobního života je těžší než kdy dřív.“ Pak ale dochází k optimistickému závěru: „karierní cíl mladých českých absolventů je už několik let work-life balance… Takže v dalších sto letech je pravděpodobné, že se v nově vznikajících technologiích neztratíme. Bude to ale vyžadovat spoustu té nejtěžší práce: sebereflexe a sebezlepšování.“

A co na to ekonomové Libich a Kotlikoff? „Velké změny v sektoru vyžadují kontinuální doškolování zaměstnanců, a jeho absence může způsobit strukturální nezaměstnanost. Tento termín pojednává o mezeře na pracovním trhu mezi požadovanými a skutečnými schopnostmi lidí hledajících zaměstnání. Jak velká tato mezera je, závisí na kvalitě a flexibilitě vzdělávacího systému.“ Navíc ale: „i kdyby automatizace nevedla k vyšší nezaměstnanosti, může stále změnit povahu zaměstnání, která lidem zůstanou, a výši finanční odměny … průzkumy ukazují, že to částečně vysvětluje zvyšování nerovnosti platů za několik posledních dekád ve většině zemí s vysokými příjmy obyvatelstva.“ A jaké může být řešení? „Pokud vláda přerozdělí bohatství těch, kteří na nové technologii vražedně vydělávají, těm, které nová technologii v podstatě vraždí, prospějí chytré technologie a stroje všem. … Ale zatím ani v Bílém domě ani nikde jinde nevidíme žádné Robiny Hoody. Jako masy jsme v tom tedy sami.“

Diskontinuita znalostí

Jako poslední diskusní bod nabízím jeden aspekt hry R.U.R., kterého se ve sborníku někteří autoři (Ken Stanley) dotkli pouze okrajově. Když se roboti vzbouří a pobijí všechny lidi v Rossumově továrně, ušetří pouze stavitele Alquista, s tím, že je také trochu robotem, protože pracuje rukama. Pak se ale ukáže, že roboti nejsou schopni pokračovat ve výrobě a jsou tak odsouzeni do dvaceti let „vyhynout“. Tehdy přinutí Alquista, aby v laboratoři přišel na postup výroby. Dokumentace nebyla úplná, know-how bylo v hlavách dr. Galla a ing. Fabryho a klíčový návod v afektu spálila Helena Gloryová. Alquist marně sedí nad knihami v laboratoři: „Prokleté vzorce, oživněte! Nenajdu? – Nepochopím? – Nenaučím se?“

Tato marnost úsilí o navázání přerušeného řetězce znalostí mě znepokojuje. Již delší čas přemýšlím o tom jak naše dnešní fantastické technologie – produkující třeba mikroprocesory – vznikaly dlouhým sledem technologických stupňů a paralelně zpřesňovaným vědeckým poznáním. Od pěstního klínu, přes soustruhy po elektronové litografy … A co kdybychom najednou zcela ztratili určité klíčové know-how? Budeme schopni se vrátit jen o krok zpět k zapomenutým technologiím nebo budeme muset jít skoro k počátkům? A je to problém i ve vzdělávání! S cílem získat více času na výuku moderních „dovedností“, jako je ovládání výpočetní techniky, je tendence vypouštět z výuky staré základy (naposledy snad vypadly z rámcových plánů zákony zachování a Newtonovy zákony? O matematice nemluvě.). Co když příští generace najednou nebudou (pro mezery ve vzdělání) schopny udržet, natož rozvíjet, pokročilé technologie? Nebo co když přijde nějaká katastrofa, třeba silná elektromagnetická bouře, a vyřadí na dlouho či úplně mobilní sítě, internet, datová uložiště? Obávám se prostě, že naše neskromnost a pohodlnost, dělá naši civilizaci příliš křehkou a zranitelnou. A roboty to za nás nevyřeší.

Závěrem mohu jen shrnout, že sborník Robot 100: Sto rozumů je výtečným přehledem o tématech dnešní robotiky, je zdrojem námětů k přemýšlení nejen o robotech, ale o různých dalších nových technologiích a jejich možných důsledcích pro rozvoj lidstva. Příspěvky vznikly ještě před pandemií, čtenář tedy může svobodně přemýšlet, zda by se nějaké roboty nehodily také v boji proti virům – v oblasti softwarových kódů máme antiviry, tak by se možná daly vyvinout i nějaké antivirotické nanoroboty? Takže, pokud máte chuť přemýšlet o těchto věcech, knihu vám vřele doporučuji.

A jako tečku použiji citát Stephena Hawkinga, zmíněný Olafem Witkovskim v jeho velmi techno-optimistickém příspěvku: „Naše budoucnost je závodem mezi rostoucí mocí naší technologie a naší moudrostí, se kterou ji používáme. Musíme se jen ujistit, že naše moudrost vždy vyhraje.“

 

Autor: Jan Valenta

Text je upravenou verzí článku  z Čs. čas. fyz. 71, 98–102 (2021).

---

Přečtěte si také náš rozhovor s autorkou knihy Jitkou Čejkovou.