Podle Martina Richtera z Fakulty sociálních věd Univerzity Karlovy je všechno je odvislé od dobře napsané instrukce neboli promptu, pro AI. Pak je podle něj umělá inteligence schopná kvalitního feedbacku, interaktivního vzdělávání a dokáže i snížit míru dezinformací ve společnosti.
Podruhé v tomto kalendářním roce otevíráte předmět Umělá inteligence v komunikaci. Jaký je o něj na začátku zimního semestru zájem?
Velký – mám plno (smích). Už zkraje letošního roku při prvním běhu, což bylo takové pilotní testování kurzu, poptávka výrazně převyšovala kapacitu o zhruba šedesát lidí. Pro tento akademický rok je kurz dvousemestrální a je otevřen pouze pro dvacet studentů, i když převis činil tentokrát skoro devadesát zájemců. Chci, aby byla výuka hodně intenzivní a individuálně zaměřená. V zimním semestru plánuji realizovat obecný úvod do využití generativní AI v různých kontextech a na jaře už se budeme hlouběji věnovat praktickým a kreativním projektům. Řešíme nyní spolupráci s Asociací komunikačních agentur, aby se studující mohli co nejvíce přiblížit zadáním přímo z praxe.
Komu je určen? Jde o takzvaně průřezový kurz pro studující napříč UK?
Kurz zajišťuje Institut komunikačních studií a žurnalistiky FSV UK, takže si ho zapisují primárně studující magisterských oborů strategická komunikace, mediální studia a žurnalistika. S tím souvisí i hosté a hostky, které jsme zvali do pilotního běhu – s vědeckým redaktorem Deníku N Petrem Koubským jsme se bavili o dopadech AI na žurnalistiku, copywriterka Lenka Stawarczyk hovořila o využití AI v marketingu, kybernetik a filosof Jan Romportl vysvětloval potenciální rizika a negativní dopady této technologie.
Kam se vývoj umělé inteligence, respektive její nástroje a aplikace pro uživatele, posunul od loňského jara, kdy jsme se spolu o AI bavili krátce po boomu ChatGPT?
Díky tomu, že v rámci projektu Aignos, který se věnuje osvětě v oblasti AI (psali jsme zde – pozn. red.), jezdíme s kolegy a kolegyněmi po celé České republice a bavíme se s lidmi z různých oblastí (žáky, vyučujícími, marketéry), vidíme zcela logický posun od pomalého objevování možností, které AI nabízí, až k jejich současnému aktivnímu používání v práci, při výuce, ve studiu. Ukazujeme našim klientům různé AI nástroje. V případě vysokoškolských vyučujících jsou to aplikace AI do výuky nebo možnosti jejího využití v akademickém psaní, pro rešerše a podobně. To jsou tedy takové tematické celky a uvidíme, jak bude vývoj postupovat dál.
Jaké jsou nejčastější mýty okolo AI?
Pořád ještě se občas setkávám s očekáváními ohledně AI, která tak docela nesouzní s realitou. Někdy jsou příliš nadhodnocená ve smyslu toho, že AI za nás udělá všechno: „zmáčku jedno tlačítko, napíšu jeden prompt (instrukci či otázku pro AI – pozn. red.) a hotovo“, anebo si lidé naopak myslí, že AI neumí vůbec nic, spíš jim to přidělává práci, a nakonec si to stejně musí napsat sami.
To je možná také důvod, proč se do toho lidem moc nechce. Hned zkraje si zkusili volně dostupnou verzi ChatGPT, „nefungovalo jim to“, tak už nemají potřebu se v AI dál šťourat.
Předsudky vůči umělé inteligenci vnímám také a chápu je. Rozhodně ani nechci říkat, že je současná generativní AI vhodná pro všechny typy úloh. Na druhou stranu od toho jsme tady my, abychom se lidem pokusili ukázat cesty, jak si s AI nejdříve hrát, odhalovat její silné i slabé stránky a tím ji lépe poznávat. Ideálním scénářem je, pokud si účastníci díky tomu najdou vlastní způsoby využití, které jim vyhovují.
Byl jste hlavním řešitelem výzkumného projektu na FSV UK o využívání nástrojů generativní AI vyučujícími i studujícími. Jaká je situace na fakultě?
S kolegy z akademického senátu fakulty a proděkanem pro elektronizaci Martinem Nekolou jsme vytvořili dotazník pro vzorek studujících a všechny vyučující. Vedle toho jsme realizovali čtyři školení pro akademické pracovníky a kulatý stůl, během něhož si zúčastnění vyměňovali postřehy a zkušenosti. Na základě těchto se snažili vytvořit takový handbook pro vyučující, jak mohou s AI zacházet a jak ji implementovat do výuky – nejen pro práci, ale i pro hodnocení. Za poslední semestr se toho tedy událo poměrně hodně, a tak si myslím, že jsme na dobré cestě. Ale i tak je hodně před námi. Pro mě je nyní důležité motivovat kolegy vyučující, aby nastavovali jasná pravidla využívání AI pro konkrétní předměty. Ukazuje se, že často studující nevědí kdy, jak a na co mohou AI využívat. Proto to raději ani neuvádí. To je z mého pohledu dlouhodobě neudržitelná situace – jak s ohledem na akademickou integritu, tak i na celkovou atmosféru, která by měla motivovat k využívání nejnovějších technologií.
Můžete být prostředníkem mezi těmito dvěma přístupy na fakultě?
To nedokážu odhadnout. Nepřináším totiž konkrétní návody, ale snažím se o vhled do schopností této technologie a přinášet témata k zamyšlení a diskuzi. Více než polovina studujících se domnívá, že vyučující mají k AI negativní vztah, což přitom z našeho průzkumu vůbec nevyplývá. Naopak si vyučující myslí, že by vlivem AI mělo dojít ke změnám ve výukových metodách. Zároveň ale z našich šetření vyplývá, že tyto změny se v praxi zatím spíše nedějí. Obecně mi přijde, že vyučující a studující mezi sebou o vlivu této technologie málo mluví, čímž se mezi nimi vytváří zbytečná komunikační zeď. Vyučující by například mohli záměrně ve větší míře studujícím aktivně zadávat plnit úkoly za pomoci AI – to většina vyučujících zatím neudělala a ani to neplánuje. Což je škoda, protože se na tom dá dobře demonstrovat několik faktorů.
Jakých?
Buď, že AI na danou aktivitu funguje dobře a pak bychom tedy měli naši dosavadní činnost změnit, respektive ji o tento nástroj obohatit. Anebo zjistíme, že AI pro danou aktivitu není vhodná a pak se o tom bavit.
Řekla bych, že problém tkví v tom, že je jen velmi málo lidí, kteří dovedou s AI kreativně pracovat a pak ji jen těžko mohou sofistikovaně hodnotit.
Přesně tak to je, a proto by většina dotázaných vyučujících uvítala vzdělávání v této oblasti, ať už základní nebo pokročilé. Je to logické. Pořádali jsme několik celofakultních školení a byl o ně velký zájem. Zároveň si však myslím, že není nutné, aby byl každý odborníkem na AI. Ani já o sobě nemohu říci, že jsem odborníkem na AI. Věnuji se jí dlouhodobě, takže nějaký informační náskok mám, ale označil bych se spíš za poučeného zvídavého laika, který se snaží udržovat stále v obraze tím, že AI nástroje aktivně používá. Nemusíme být experty, abychom si směli AI zkoušet. Tady bych všem doporučil, a vyučujícím obzvlášť, nestydět se za to, že neví, jak AI přesně funguje.
Nečekat „až“.
Je to podobné, jako když se učíme hrát na hudební nástroj. Daleko lepší je vzít ho co nejdřív do ruky a začít hrát než trávit půl roku přemýšlením o tom, jaký nástroj zvolit, jakou značku, jaké struny… To je podle mě hlavní věc, kterou se snažím lidem předat. Zkoušet to, být zvídavý, zjišťovat hranice a limity, ale úplně nejzásadnější je, že člověk musí chtít, a ne že „musí“.
Dialog mezi studujícími a vyučujícími může být v tomto velice inspirativní. Studující si samozřejmě chtějí ušetřit co nejvíc práce, možná proto mají větší motivaci nástroje AI využívat tak, aby jim fungovaly, a tím pádem mohou pedagoga posunout. Snažíme se k tomu vyučující vybízet, logicky v praxi to má své limity, ale řekl bych, že právě to je klíč. Ostatně tuto cestu razím i na svých workshopech.
Na co si lidé v souvislosti s AI nejvíce stěžují?
Z výzkumu nám vyplynulo, že největší problém vidí v halucinování AI. Při využití ve výuce mají obavy o akademickou integritu – zda jejím užíváním něco neporušují. Tady se zase vracím obloukem k pravidlům, která je potřeba pro práci s AI vytvořit. V každém předmětu by mělo být jasně řečeno, k jakým aktivitám AI ne/využívat. Někdy je dobré používat generátory textů pro vytvoření spousty nápadů, brainstorming a tak dál, což ale v jiném předmětu vůbec nemusí být žádoucí. Takže i jeden konkrétní pedagog může mít různá pravidla pro různé situace a dle výukových cílů, které si stanoví.
Dále si lidé stěžují, že text od AI působí sterilně, vágně. I to je ale věc, s níž se dá při sestavování promptů pracovat.
Přeformulovat svou otázku?
Dokonce můžete zadat podmínky, jak má AI nástroj komunikovat. Například konkrétní terminologii nebo klíčová slova, jež by měl v textu zmínit a zároveň i vysvětlit.
Což je podle mě další zásadní problém, s nímž se uživatelé potýkají – vytváření „povelů“ nebo jak říkáte promptů pro AI je hodně těžké.
Máte pravdu, není to intuitivní, je třeba se je postupně učit formulovat. Placené verze AI nástrojů už umí vyhledávat informace na internetu, což se dá využít k tomu, že budete v promptu specifikovat, jaké zdroje má AI upřednostňovat, například Wikipedii nebo konkrétní odborné časopisy nebo čerpat z ověřených mediálních zdrojů. Ne vždycky se tam AI „podívá“, ale aspoň ji navedeme, z čeho typově má vycházet.
Já mám třeba takový fígl, který lze uplatnit i ve volně dostupných aplikacích, že v závěru vždycky „řeknu“ AI, ať si to po sobě přečte, zkontroluje a opraví si chyby. Výrazně to pak může zlepšit výsledek (smích).
Jako byste mluvil se skutečným člověkem!
Přesně tak. Také můžete zadat prompt: „chovej se jako osoba XY“ (například odborník na akademické psaní). A pokračovat do ještě větších detailů – jestli mají být její výpovědi více striktní nebo naopak žoviální…
Předpokládám, že lidé nejvíce využívají z AI volně dostupnou verzi ChatGPT.
Ano. I když má neplacená verze omezené možnosti, může dobře posloužit. Například pro poskytování konstruktivní zpětné vazby na vlastní text, což je v tuto chvíli jedna z nejlepších věcí, kterou můžete vyzkoušet. Na druhou stranu bych neplacenou verzi nepoužíval na rešerše, dohledávání zdrojů či formulaci logických argumentů, kde má stále jisté mezery. Za největší přednost ChatGPT ovšem pokládám jeho schopnost inspirovat, posouvat naše myšlení jiným směrem. Díky tomu, že komunikuje velice slušně, příjemně, je i dostatečně motivující. Můžeme ale také zadat prompt: „Zedituj mi text jako přísný editor.“
Nejde tedy o to, že AI udělá práci za nás, ale pomůže nám ji zkvalitnit.
Přesně tak. Posouvá nás dál nejenom zpětnou vazbou, ale i samotnou konverzací. Učíme se lépe formulovat zadání, a tím pádem i svoje cíle. Získáváme nové náhledy. Samozřejmě je nezbytně nutné všechna fakta, která neznáme, kontrolovat. Pokud si chceme nechat poradit, ano, ale vždy pak musíme být bdělým kurátorem, který si dokáže vybrat z toho, co je pro něj důležité a co může využít.
Nepřijímat informace od AI pasivně a neomylně.
To je podle mě klíčový princip, jak k AI přistupovat. Konverzovat s touto technologií jako s člověkem a stejně tak i přistupovat k jeho odpovědím. Podobně jako s určitým člověkem mluvíte jako s kamarádem, s jiným jako s autoritou, kolegou, specialistou…
Potýkáte se s podvody v souvislosti s AI?
Máme zkušenost primárně s těmi ve školách, kdy žáci používají AI k tomu, aby za ně vytvořila cokoli, co dostali za úkol.
Jak se takový podvod dokazuje?
Velice těžko. V tuto chvíli nemáme žádnou dostupnou technologii, která by spolehlivě odhalila vygenerovaný text a zároveň i proto, že výsledný výstup od AI lze ovlivnit třeba tak, že zadáte prompt: „Napiš to jako žák sedmé třídy základní školy“ nebo „jako student prvního ročníku v bakalářském studijním programu“. Výsledek pak vypadá velice důvěryhodně. Využití AI tak odhalíme jen díky faktickým chybám, kterých se AI dopustila.
Jaké řešení tedy navrhujete?
Ideální je tomu předcházet předem stanovenými jasnými pravidly, kdy si určíme, k čemu AI ne/můžeme používat. Lze i stanovit konkrétní proces, co se stane, když bude mít pedagog podezření na nesprávné využití technologie – například že při pochybnostech bude nutná osobní konzultace se studujícím. Problém je, že pravidla jsou nastavena buď příliš striktně nebo naopak vágně. Studující se pak zdráhají přiznat, že pracovali s AI, protože mají pocit, že to na ně apriori vrhne špatné světlo a jejich výkon to znevažuje, i když třeba využili AI jen pro brainstorming nebo zpětnou vazbu, což ale vyučující z věty „práce byla vytvořena za použití AI“ nepozná.
Možná je teď míček na straně vyučujících, kteří si v problematice AI a možnostech jejího využívání musí udělat jasno.
Podle mě by stačilo znát těch pár zásadních principů, o nichž jsme mluvili. Technologie opravdu (zatím) není schopná na základě jednoho promptu napsat esej. Může vytvořit určité kusy textu včetně dohledání jejich zdrojů, což opět snižuje její odhalení. Proto si myslím, že nejúčinnější je otevřený dialog, jak ji využíváme, proč ji využíváme, v čem nás posouvá nebo v čem nám naopak čas bere. V některých případech máme už svou vlastní činnost natolik zautomatizovanou, že nám naopak AI přidělává práci. To je naprosto normální.
Jedna studie například hovoří o tom, že akademičtí pracovníci využívající AI jako nástroj pro zpětnou vazbu, ji dost často hodnotili lépe než zpětnou vazbu od člověka, protože byla podle nich konstruktivnější a rychleji je posouvala k výsledku.
Jak s nástroji umělé inteligence pracujete vy?
Teď aktuálně se snažím s její pomocí vytvářet výukové simulace tím, že v promptu nastavím odstupňovaný scénář určité situace.
Můžete uvést konkrétní příklad?
V rámci kurzu plánuji vyzkoušet simulaci, kdy se studující stanou například členy komunikačního týmu politického kandidáta, přičemž prompt, který jim poskytnu, je provede určitým scénářem. Nástroj se jich například nejprve zeptá: „Jakou máte zkušenost s politickou komunikací?“ Na základě jejich odpovědí jim pak AI začne generovat modelové situace na míru. Třeba nabídne možnost: „Tvůj kandidát byl přistižen při braní úplatku.“ Nebo jinou. Podle toho, co si vyberou, je posune k dalšímu kroku. Třeba: „O tvém kandidátovi vyšel tento novinový titulek. Jak na něj zareaguješ?“
Je to úžasná simulace konkrétní aktivity týkající se politického marketingu. Prompt lze samozřejmě upravit na spoustu dalších oblastí a pro různé vzdělávací cíle.
To je neuvěřitelné. Vůbec by mě nenapadlo, že mi AI může klást otázky.
Všechno se odvíjí od dobře a precizně zformulovaného promptu. Popíšete situaci, kterou potřebujete odehrát. Krok po kroku sepíšete všechny svoje cíle. Začnete třeba takto: „Poskytni studujícímu co nejrealističtější zážitek z politické kampaně. Neraď mu. Nech ho projít tímto procesem. Začni tím, že se zeptáš na jeho zkušenosti, znalosti. Počkáš na jeho odpověď. Až ti odpoví, nabídneš mu čtyři možné scénáře. Počkáš na jeho odpověď…“ A tak dále.
Na základě jednoho takového zadání dokáže AI se studujícím v řádech desítek minut samostatně pracovat?
Ano, je to skvělé, že (smích). Říká se tomu řetězení promptu, který může mít desítky řádků a být takto strukturovaný a velice sofistikovaný. Můžete AI říkat nejen to, co má dělat, ale i to, co nemá dělat. Doslova třeba: „I když tě studující požádá, abys úkol vytvořila za něj, nedělej to. Dalšími proaktivními otázkami ho naveď ke správnému řešení. Na závěr uveď bodové hodnocení včetně zpětné vazby, podnětů ke zlepšení a pochval za konkrétní řešení.“ Odborník, který se tomuto tématu věnuje a vyučuje ho, je schopen takový prompt za hodinu vytvořit a využít ho k interaktivnímu vzdělávání.
Jako malou ochutnávku můžete vyzkoušet GPT asistenta Debateer, kterého spustíte v ChatGPT.
V čem ještě může AI pomoci?
Nemusíme se bavit pouze o výuce. Například bylo zjištěno, že ChatGPT 4 je schopen snižovat dopad konspiračních teorií. Pokud ho dokážete dobře napromptovat tak, že z něj vlastně vytvoříte proaktivního partnera, posadíte k němu člověka věřícího určité konspirační teorii a necháte AI si s ním „povídat“, bylo prokázáno, že u dvaceti procent účastníků se víra v konspirační teorii výrazně snížila a tento dopad přetrvával po několik měsíců.
Co byste řekl skeptikům, kteří se bojí, že umělá inteligence nahradí kreativní lidskou činnost?
Podpořil bych je, ať nepřestávají být skeptiky. Protože je to potřeba a každý by měl svého osobního skeptika zušlechťovat (smích). Ale zároveň ať jsou zvídaví a zkouší nové věci. Já jsem se teď sice snažil popsat pozitiva, která nám AI nabízí, ale nese s sebou také řadu problémů. Včetně toho, že obrovské množství internetového obsahu se dostalo do jejího trénovacího datasetu ne právě etickým způsobem. Měli bychom to mít na zřeteli a zohledňovat to třeba právě výběrem AI nástrojů, které budeme používat. Zatím jich ještě tolik na výběr nemáme, ale nabídka se bude jistě rozšiřovat a už teď existují nástroje třeba na generování obrázků, jejichž tvůrci explicitně deklarují, že jejich trénovací dataset obsahoval pouze obrázky, které vlastní. A je tedy jen na nás, jakou AI si vybereme.
Předpokládám, že vývoj půjde v tomto směru kupředu i v legislativě. V červenci tohoto roku byl Evropskou unií uveden v platnost AI Act – první závazný legislativní rámec na světě. Pozitivní střípky se postupně skládají dohromady, a nakonec z toho všeho třeba brzy vzejde nástroj, který bude plošně používán a bude etický.
Autor: Jitka Jiřičková
Foto: Hynek Glos, Filip Ehrenberger
Zdroj: Univerzita Karlova
Článek vyšel v on-line magazínu Univerzity Karlovy UK Forum.
Martin Richter bude jedním z řečníků na konferenci Science Communication, která se koná 21. listopadu 2024 v Praze.
Martin Richter je zakládajícím členem spolku Aignos, v němž se od roku 2021 aktivně věnuje rozšiřování povědomí o umělé inteligenci prostřednictvím vzdělávacích a popularizačních aktivit. V rámci svého doktorského studia na Fakultě sociálních věd Univerzity Karlovy se zabývá dopady umělé inteligence na společnost. Zároveň je garantem a vyučujícím předmětu Umělá inteligence v komunikaci.
- Autor článku: ne
- Zdroj: Univerzita Karlova
