facebooktwittergoogleinstagram

Věda a výzkum

Portál Vědavýzkum.cz - Nezávislé informace o vědě a výzkumu

IOCB Tech, s.r.o. - hlavní partner portálu Vědavýzkum.cz

Hlavní partner portálu
facebooktwittergoogleinstagram

Google čelí kritice za vyhazov prominentní vědkyně

17. 12. 2020
Google čelí kritice za vyhazov prominentní vědkyně

Společnost Google čelí masivní kritice za propuštění prominentní výzkumnice v oblasti umělé inteligence. Timnit Gebru, která stála v čele tamějšího týmu zaměřeného na etický vývoj umělé intelegince, tvrdí, že je to kvůli obsahu článku, který chtěla vydat. Podle se ní Google snaží o cenzuru.

greg bulla lKjX3S4pdog unsplash

Nový personální krok společnosti Google vyvolal ve vědecké komunitě vlnu nevole. Proti odchodu Timnit Gebru se ohradilo přes 1200 zaměstnanců technologického gigantu a přes 1500 vědců a výzkumníků z akademického prostředí. Gebru je v současnosti uznávaná odbornice na umělou inteligenci. Než začala pracovat pro Google, vydala v roce 2018 článek, který upozornil na významně vyšší chybovost softwaru obličejového rozpoznávání v případech žen s tmavšími odstíny pleti. Článek si vysloužil značnou pozornost médií a je hojně citován.

Gebru celou aféru oznámila na začátku prosince 2020 na sociální síti Twitter, kde napsala, že ji Google propustil poté, co odeslala email interní skupině, která se zajímá o ženská práva a práva minorit. Problém ovšem vzniknul už v listopadu, kdy vedení Googlu vědkyni oznámilo, že musí stáhnout plánovaný vědecký článek nebo z něj alespoň odstranit své autorství. Gebru se prý v tomto smyslu snažila se společností vyjednávat – nabídla, že své jméno stáhne výměnou za plné vysvětlení jejich požadavků a za příslib, že v budoucnu se budou podobné problémy ve společnosti řešit lépe a transparentněji. Google však její požadavky odmítl a poté, co Gebru odeslala email interní skupině uvnitř firmy, kde napsala o konfliktu s vedením, společnost oznámila, že přijala její rezignaci.

„Měla jsem pocit, jako bychom byli cenzurováni, a dle mého názoru má takový postup významné dopady na etický výzkum umělé inteligence,“ řekla Timnit Gebru pro technologický časopis Wired. „Ne vždy budete vydávat vědecké články, které upozorňují na existující problémy, se kterými přitom bude firma naprosto spokojená. Ale něco takového je v rozporu s tím, co znamená být etický výzkumník.“ Gebru je jenom jedna z autorek textu. Další autoři působí jak ve společnosti Google, tak i jinde.

Etika umělé inteligence

Článek s názvem On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, který stojí v jádru celého sporu, se zabývá etickými otázkami umělé inteligence simulující lidské psaní a je založená na učení se prostřednictvím velkého množství textů dostupných na internetu. Ty jsou v posledních letech stále populárnější a investuje se do nich množství prostředků. Tyto programy nyní dostoupily do fáze, kdy mohou produkovat smysluplné, přesvědčivé texty. Článek si ale klade otázku, jestli vývojáři dostatečně přemýšleli o etických implikacích takové umělé inteligence.

MIT Technology Review se podařilo získat zatím nezveřejněnou kopii draftu článku. Podle dostupných informací představují pro Google největší problém pasáže článku, které upozorňují na rizika softwarů založených na učení se prostřednictvím internetového textového korpusu. Článek upozorňuje na čtyři hlavní problémy.

Za prvé se jedná o následky pro životní prostředí – článek upozorňuje na to, že od roku 2017 uhlíková stopa, kterou vývoj těchto softwarů produkuje, vzrostla exponenciálně. Podle článku se přitom jedná o problém, který by vědci měli v současné globální klimatické krizi reflektovat.

Za druhé, jak upozorňuje článek, softwary založené na velkých jazykových modelech trénují své kapacity na dostupných textech na internetu. Tím ale vzniká riziko, že se programy budou učit rasistické, sexistické či jiným způsobem toxické vyjadřování, které se na internetu hojně vyskytuje. Programy založené na velkých jazykových modelech jsou často neschopné reflektovat někdy relativně subtilní ale významné změny, kterými jazyk prochází (například v souvislosti s hnutím MeToo a Black Lives Matter). Značné problémy vznikají také z toho, že tyto softwary selhávají při čtení textů, které pocházejí z jazyků menších zemí nebo ze zemí, kde mají lidé menší přístup k internetu, a kde tudíž vzniká méně textů v tamějším jazyce. Umělá inteligence založená na velkých jazykových modelech tak produkuje homogenizovaný jazyk, který je založen na lingvistické praxi těch nejbohatších, typicky anglosaských zemí.

Jako na třetí problém autoři upozorňují na riziko nešťastně zaměřené výzkumné snahy. Většina odborníků na umělou inteligence uznává, že velké jazykové modely ve skutečnosti nerozumí významům jazyka, ale jsou pouze velice schopné při manipulaci s jazykem. Velké technologické firmy vydělávají víc peněz na takovém softwaru než na jiných typech umělé inteligence, a proto do ní investují stále více prostředků. V důsledku se tak významně méně vědců a výzkumníků snaží pracovat na modelech, které by významům jazyka skutečně rozuměly.

Umělá inteligence založená na velkých jazykových modelech je tak dobrá v napodobování lidského jazyka, že velmi snadno obelstí lidského čtenáře. To je podle autorů článku čtvrtý etický problém takových programů. Rizika jsou přitom očividná – softwary mohou být použity k šíření dezinformací, ovlivňování demokratických voleb nebo například k šíření falešných zpráv o koronavirové epidemii.

Nedostatek citací i problém s odborností

Podle Jeffa Deana, vedoucího výzkumu umělé inteligence ve společnosti Google, je hlavním důvodem, proč společnost článek kritizuje, nedostatek odborné literatury. Dean také ve svém prohlášení kritizuje to, že článek nezahrnuje dostatek odkazů na aktivity Googlu v oblasti snižování ekologických dopadů nebo jejich snahy předcházet rasové nebo genderové předpojatosti. Podle MIT Technology Review článek pracuje s velkým množstvím odborné literatury. Bibliografie prý zahrnuje přes 128 položek.

Odchod Timnit Gebru je posledním přídavkem k dlouholetým problémům Googlu v oblasti diverzity. Na její podporu vznikl  otevřený dopis, který již podepsala řada prominentních vědců a výzkumníků. „Do 2. prosince 2020 byla doktorka Gebru jednou z mála žen-výzkumnic ve společnosti Google, kde podíl žen černé pleti mezi všemi zaměstnanci představuje minimálních 1,6 %. Výzkumné úspěchy doktorky Gebru jsou rozsáhlé a významně ovlivnily vědecké poznání i tvorbu veřejné politiky. Místo toho, aby ji Google přijal jako mimořádně talentovanou výzkumnici, se doktorka Gebru setkala s útoky, rasismem, manipulacemi, cenzurováním výzkumu, a nakonec i odplatou prostřednictvím vyhazovu,“ píše se v dopise na její podporu.

V obecné rovině však aktuální aféra nepředstavuje pouze konflikt mezi konkrétní výzkumnicí a Googlem, ale poukazuje na specifické etické problémy, kterým čelí vědci a badatelé, kteří působí v soukromém sektoru. S neustále se zvyšujícím podílem soukromých investic ve výzkumu a vývoji, bude takové téma stále aktuálnější.

 

Autor: Vědavýzkum.cz (JT)

Zdroj: The Guardian, Wired, MIT Technology Review