facebooktwittergoogle
Nezávislé informace o vědě a výzkumu
facebooktwittergoogle

Jaká by měla být pravidla pro umělou inteligenci?

1. 10. 2019
Jaká by měla být pravidla pro umělou inteligenci?

Umělá inteligence (AI) je jedním z největších témat současného výzkumu. I proto se stále aktivněji diskutují etická pravidla, která by měla stanovit pro AI v konkrétních oblastech jasné etické zásady. Nedávná studie ETH Zürich se snaží spojit dohromady pestrou škálu návrhů a dokumentů.

ai text2

Vědci z ETH Zurich se dobrali k číslu 84 – přesně tolik skupin, ať už z vládních okruhů nebo nadnárodních společností, navrhlo v posledních letech různé etické principy pro umělou inteligenci. Největší počet aktérů, kteří se snaží do této diskuze přispět, zaznemenali v Evropě, Severní Americe a v Japonsku.

Mají rozvojové země kapacitu pro rozvoj umělé inteligence?

Studie publikovaná na začátku září graficky zachycuje, jak v posledních letech rychle narůstá množství dokumentů, které se zabývají etikou využití umělé inteligence. Důvody tohoto vzestupu jsou různé – od obav z online podvodů až po vizi příliš schopných AI robotů, kteří by se mohli pro lidstvo stát v budoucnu faktickou hrozbou. Podle Marcello Ienca, jednoho z vedoucích studie, bylo hlavním cílem studie syntetizovat dosud vydaná etická doporučení a najít tak ústřední leitmotiv, který by mohl získat určitou všeobecnou platnost.

Hlavní analýza pracovala s daty shromážděnými do dubna letošního roku, tedy celkem s 84 publikovanými etickými doporučení pro AI. Největší počet dvaceti směrnic pochází od amerických organizací, jako jsou Association for Computing Machinery nebo společnost Microsoft. Na druhém místě jsou organizace evropské, včetně institucí jako je Evropská komise a Evropský parlament. Dále v této oblasti figurují i významné soukromé podniky jako Telefonica či Deutsche Telekom. Mnoho dalších publikovaných pokynů pochází také od mezinárodních organizací jako je například Světové ekonomické fórum nebo Amnesty International.

Z rozvojových zemí zveřejnila zprávu například Indie, vědět o sobě dala i Keňa. Ze studie však jasně vyplývá, že největší procento vývoje se děje v zemích se značnými finančními zdroji. Studie tak jasně potvrdila, že v tématu etiky umělé inteligence mají hlavní slovo bohatší státy.

To má i své logické důvody. V rozvojových zemích převládají některé zásadní ekonomické i infrastrukturní problémy, díky kterým není dobře možné efektivně aplikovat potenciál umělé inteligence. Rozvíjejícím se ekonomikám často chybí i pro západní svět relativně běžně dostupné služby, jako je zdravotnictví nebo vzdělávání, které jsou pro rozvoj AI klíčové. Zavedení umělé inteligence je zde složité i z důvodů finančních, v zemích zároveň často chybí i příslušní vědci a odborníci.

Pět základních oblastí etiky umělé inteligence

Již během července bylo vydáno první mezivládní prohlášení o etických pravidlech pro AI, které podpořilo 20 největších průmyslových zemí, jež jsou součástí G20. Nyní díky získaným údajům autoři studie zveřejnili pět základních oblastí, na kterých se většina analyzovaných materiálů shodovala.

První z nich je otázka transparentnosti. Velké procento ze zkoumaných dokumentů se shodlo na tom, že by lidé měli být schopni porozumět tomu, jak AI systémy, které používají, fungují. Dalším aspektem je rovnost a spravedlnost. Cílem při vytváření AI strojů a softwarů by mělo být zabránit předpojatosti a reprodukci stereotypů, které umělá inteligence prostřednictví svých učících algoritmů může snadno přebírat.

Dalším důležitým principem je beneficience. Mnoho lidí se obává, že by umělá inteligence mohla v budoucnu působit spíše negativně než pozitivně. Z tohoto důvodu autoři navrhují posilovat zabezpečení řídících softwarů a vytvořit programy, které budou fungování AI důsledně monitorovat. Podobného tématu se dotýká i stále silnější potřeba chránit osobní údaje, což je v kontextu internetu a stále rapidněji se rozvíjejícího průmyslu založeného na AI čím dál tím akutnější.

Možná nejdůležitějším etickým principem umělé inteligence je ovšem zodpovědnost. Většina dokumentů se totiž shodla na tom, že pokud díky umělé inteligenci vznikne nějaká škoda na majetku či zdraví, musí existovat právní nebo fyzická osoba, která za to ponese odpovědnost.

Autoři nové studie si také všimli, že pouze malé procento dokumentů zmiňuje pojem udržitelnosti. To je přitom podle nich jedno z klíčových témat, jelikož systémy umělé inteligence mohou mít jak pozitivní, tak i negativní dopad na ekosystém planety. Na jednu stranu mohou potenciálně podpořit ekologickou správu životního prostředí, zároveň se ale stále intenzivnějším využíváním AI může zvyšovat globální spotřeba energie a zdrojů.

Etická pravidla pro umělou inteligenci jsou tématem i v ČR. Ve dnech 12. a 13. září 2019 v Praze proběhla konference SOLAIR s podtitulem Umělá inteligence zaměřená na člověka. Akademie věd České republiky navíc před pár dny podepsala smlouvu s výzkumným centrem Evropské unie, která se mimo jiné týká právě i umělé inteligence a dopadu digitálních technologií.

 

Autor: Vědavýzkum.cz (BK)

Zdroje: ScienceBusiness (12), Nature, Pathway Commission