facebooktwittergoogle
Nezávislé informace o vědě a výzkumu
facebooktwittergoogle

Odborníci se radí o etice samořiditelných aut

28. 6. 2019
Odborníci se radí o etice samořiditelných aut

Auta bez řidičů nejsou dalekou vizí sci-fi literatury, ale reálnou budoucností. Než se ale dostanou do provozu, je nutné vyřešit eticky sporné otázky. Jak se má autonomní vozidlo zachovat, když mu do cesty nečekaně vejde chodec? Má obětovat posádku, nebo neopatrné dítě běžící přes cestu? O etice autonomních vozidel se hovoří na mezinárodní konferenci v Praze, kterou pořádá Centrum Karla Čapka pro studium hodnot ve vědě a technice.

digital car

Pokud by se v reálném provozu pohybovala pouze autonomní vozidla, zcela by vymizely nehody zaviněné mikrospánkem a nepozorností řidiče, nezkušeností a jeho iracionálním chováním. Odhaduje se, že počet smrtelných nehod by se snížil o více než 90 procent. Umělá inteligence by se nezatěžovala emocemi a instinktem, o to větší by se ale na ni zřejmě kladly bezpečnostní nároky.

„Je nejen legitimní ptát se, jak pro určité situace auta naprogramovat, ale i naléhavě nutné najít odpovědi, které budou souznít s našimi morálními normami. Pokud by se auta nechovala v souladu s přijatelnými etickými principy, do provozu se nejspíše nikdy nedostanou,“ říká David Černý z Ústavu státu a práva AV ČR, jeden ze zakladatelů Centra Karla Čapka pro studium hodnot ve vědě a technice.

Tramvajové dilema a co víc?

Základním modelem, který se používá pro výzkum etiky autonomních vozidel je tzv. tramvajové dilema (anglicky Trolley Problem). Poprvé tento experiment (byť v jiném kontextu) zmínila americká filozofka Philippa Footová v roce 1967, od té doby má mnoho variací. V zásadě se jedná o to, že na kolejích pracují dělníci. Řítí se na ně vlak a my máme možnost v poslední chvíli přehodit výhybku na jinou kolej. Jenže na ní pracuje také dělník, i když jen jeden. Obětujeme ho?  

Podobná dilemata řeší také Massachusettský technologický institut (MIT) v online experimentu Moral Machine. Nabízí různé scénáře rozhodování v určitých konkrétních situacích.

„Většina dosavadních prací v oblasti etiky autonomních vozidel se soustředí na varianty tramvajového dilematu. Nastává čas posunout se o krok dál. Pražská konference si klade za cíl otevřít nové perspektivy a přístupy,“ upozorňuje další z organizátorů Tomáš Hříbek z Filosofického ústavu AV ČR.  

Budou nás auta diskriminovat?

Jeden z řečníků, Patrick Lin z California Polytechnic State University se například zaměřil na problém diskriminace a předsudků, kterých se může dopouštět umělá inteligence. „Předsudky se často zjednodušeně vykládají jako necitlivost s ohledem na gender a etnicitu, přitom ale v mnoha případech je eticky a právně přijatelné přistupovat k lidem rozličně podle jejich osobních charakteristik. Toto téma je zatím velmi málo diskutované ve spojitosti s autonomními vozidly,“ říká Patrick Lin.

Zatímco většina konceptů etiky autonomních vozidel zůstává na stránkách filozofických časopisů a sborníků, o něco blíže k praktickému užití se dostali odborníci v Německu. V roce 2017 tam vznikl první etický kodex samořiditelných aut na světě. Vypracovala jej etická komise pro autonomní vozidla jmenovaná federálním ministerstvem dopravy. Do Prahy přijel kodex představit Christoph Lütge z Technické univerzity v Mnichově.   

Konkrétní iniciativu německé automobilky Audi v oblasti umělé inteligence ve vozidlech na konreferenci prezentuje Barbara Wege a pohled z francouzské strany přidává Guillaume de la Roche z Renaultu. Konference se dále účastní filozof Saul Smilansky z Univerzity v Haifě, Jason Milar z Ottawské univerzity v Kanadě nebo Derek Leben z Pittsburské univerzity. 

Se závěry konference bude možné se seznámit na stránkách Centra Karla Čapka pro studium hodnot ve vědě a technice a následně pak v knize s názvem Autonomous Vehicle Ethics: Beyond the Trolley Problem, která by měla vyjít v prestižním nakladatelství Oxford University Press. Jak zdůrazňuje David Černý, půjde o vůbec první komplexní kolekci textů zabývajících se etickými a sociálními důsledky autonomní mobility.

Centrum Karla Čapka pro studium hodnot ve vědě a technice (CEVAST) je společným pracovištěm Ústavu státu a práva AV ČR, Ústavu informatiky AV ČR, Filosofického ústavu AV ČR a Přírodovědecké fakulty UK.

 

Zdroj: Akademie věd ČR