facebooktwittergoogleinstagram

Věda a výzkum

Portál Vědavýzkum.cz - Nezávislé informace o vědě a výzkumu

IOCB Tech, s.r.o. - hlavní partner portálu Vědavýzkum.cz

Hlavní partner portálu
facebooktwittergoogleinstagram

Celosvětové debaty o etice umělé inteligence pokračují

5. 8. 2021
Celosvětové debaty o etice umělé inteligence pokračují

Po celém světě existuje více než 117 iniciativ k regulaci umělé inteligence (AI), v jejichž čele stojí zástupci Organizace pro hospodářskou spolupráci a rozvoj (OECD) a UNESCO. V polovině července také proběhla konference o etice AI, která se konala pod záštitou slovinského předsednictví v Radě EU. Ta na světlo opět vynesla otázky, jak nejlépe s umělou inteligencí zacházet, aby nepředstavovala riziko.

hitesh choudhary t1PaIbMTJIM unsplash

„Jsme zjevně ve vývojovém bodě, kde je spousta různých faktorů, které přispívají k tomu, aby se principy přiblížily praxi. Nyní se musí zúčastněné strany podílet na harmonizaci těchto přístupů,“ řekl David Leslie z výboru Rady Evropy pro umělou inteligenci (CAHAI). Leslie vede etiku v britském institutu Alana Turinga a je autorem oficiálních pokynů britské vlády ohledně odpovědného návrhu a implementace systémů AI ve veřejném sektoru.

Mezi lety 2015 a 2020 publikovalo 117 subjektů různého postavení etické zásady, z nich bylo celkem 91 z Evropy a Severní Ameriky. „Tento vysoký počet ukazuje na dvě věci: existují naděje, ale také obavy související s technologiemi AI, stejně tak i zájem o vybudování určitého typu mechanismu konsensu ohledně správy AI," řekla Marielza Oliveira, ředitelka pro partnerství v agentuře OSN pro vzdělávání, vědu a kulturu (UNESCO).

Na etických zásadách spolupracuje celý svět

Velký krok nastane v polovině září společně se spuštěním platformy Globalpolicy.AI. Ta umožní osmi mezivládním organizacím, včetně Evropské komise, OECD, OSN a Světové banky, spolupracovat na definování zásad pro budoucí aplikace umělé inteligence.

Umělá inteligence slibuje, že změní víceméně každé odvětví, zvýší produktivitu, zlepší předpovědi a podpoří energeticky účinnější kroky. Podle odhadů společnosti McKinsey z roku 2018 by technologie založené na umělé inteligenci mohly globální ekonomice do roku 2030 poskytnout navíc 13 bilionů dolarů, což představuje další 1,2% růst globálního HDP ročně.

V listopadu 2021 má přijít další podstatný mezník v oblasti AI. Očekává se, že 193 zemí podepíše nezávazná doporučení UNESCO ohledně etiky AI založená na lidských právech. Země strávily vyjednáváním textu 100 hodin. „Dosáhnout konsensu mezi velkým počtem členských států není snadné. Ale dobrá věc je, že teď můžeme demonstrovat společnou sílu,“ řekla Oliveira.

Také akademici přiložili svou ruku k dílu. V rámci dokumentu Artificial Intelligence for Social Good vědci ukazují, jak zapojit umělou inteligenci tak, aby bylo dosaženo cílů udržitelného rozvoje v rámci OSN. Zprávu vytvořili dohromady akademici z Austrálie, Hongkongu, Indie, Singapuru, Jižní Koreje a Thajska.

Evropa musí zabrat, Čína má obrovský náskok

EU věří, že v tomto odvětví půjde příkladem. Začátkem tohoto roku proto Evropská komise navrhla první pravidla svého druhu pro AI, která předpokládají zákaz systémů AI, jež představují ohrožení živobytí, stejně tak i zavedení požadavků na autorizaci technologií AI ve vysoce rizikových oblastech, jako je zaměstnanost, školství a vymáhání práva. Nová pravidla mají také pokutovat společnosti, které předpisy poruší. „Evropa se může a musí stát průkopníkem v této klíčové digitální politice a technologickému problému," řekl Christian Kastrop, německý státní tajemník na ministerstvu spravedlnosti.

Kritici ale tvrdí, že přísná pravidla by mohla bránit inovacím tím, že by kladla překážky v rozvoji AI a EU by tak zásadně zaostávala. Dvacet sedm zemí EU a Velká Británie byly v letech 2009 až 2018 domovem pouze 7 % společností patentujících aplikace AI, což je stejné procento jako má Jižní Korea. Čína se mezitím ujala vedení, což představuje téměř 60 % všech AI společností. V jejím závěsu jsou USA se 14 %.

Komise doufá, že kromě regulace se podpoří také investice. Nový program EU pro digitální výzkum a vývoj v hodnotě 7,5 miliardy eur investuje 2,5 miliardy eur do podpory výzkumu a vývoje aplikací AI ve veřejném a soukromém sektoru tím, že usnadní přístup k testovacím a experimentálním zařízením v celé EU. Tyto peníze budou investovány navíc k financování technologií AI ve výzkumném programu Horizon Europe ve výši 95,5 miliardy eur.

Na využívání AI v akademickém prostředí panují neshody

V březnu zveřejněný článek například navrhuje systém přijímání vědců, který bude fungovat na základě strojového hodnocení. Umělá inteligence, která srovná vědecké životopisy, je nejen schopna filtrovat vhodné kandidáty splňující potřebné požadavky, ale dokáže se na základě analýzy těchto dat naučit, jaké aspekty v životopisech jsou nejvíc žádoucí (jako publikace, členství v odborných organizacích nebo edičních radách). Nakonec přijde s návrhem, který kandidát je podle těchto kritérií na danou pozici nejvhodnější. Podle jeho autorek to může přinést větší transparentnost při přijímacím řízení.

Podle končícího australského komisaře pro lidská práva by naopak takové využívání umělé inteligence pro přijímání studentů mohlo anulovat několikaroční snahu univerzit o to, aby byly inkluzivnější. Edward Santow, který od září povede novou etickou iniciativu AI na University of Technology Sydney, uvedl, že AI „znovu probouzí staré formy diskriminace“ v oblastech, jako je nábor pracovních míst, bankovnictví, sociální služby a spravedlnost.

Připomněl příklad, kdy systémy strojového učení dospěly k závěru, že uchazeči se soukromým školním vzděláním a vysokoškolsky vzdělanými rodiči mají nejlepší předpoklady uspět. „Právě tomu se chceme vyhnout,“ řekl Santow.

 

Autor: Vědavýzkum.cz (BK)

Zdroj: Times Higher Education, Science Business (1,2), Global Policy.AI