AI nás může posunout, ale také zničit. Prohraje ten, kdo ji odmítá, říká lektor Martin Richter

Rozhovor s Martinem Richterem:

Moderuje Markéta Rachmanová

Považujete za úspěch, když někdo původně nedůvěřivý vezme umělou inteligenci na milost a začne objevovat v čem je vlastně užitečná?

Já bych to možná neidentifikoval jako úspěch, spíš bych to bral jako nějakou nutnost. I když samozřejmě nedůvěřivostí vůči novým technologiím si každý musí nějakým způsobem projít. Takže to překonávání bariéry a cesta k nějakému rozvoji určitě úspěchem jsou. Myslím, že zacházení s umělou nebo s generativní umělou inteligencí se stane běžnou součástí našich životů, takže s tímto pohledem bych to vnímal právě jako nutnost. Je nutné seznamovat se s tím, vědět, jaká jsou omezení, jaké jsou příležitosti, jak mě osobně může pomoci nebo jaká pro mě nese rizika. To je dle mě taková paleta věcí, se kterými bychom se více či méně do hloubky měli seznámit v co nejkratší době skoro každý. Je to v našem vlastním zájmu.

Jaká byla cesta vás a vašich kolegů za umělou inteligencí? Proč jste si vybrali zrovna tohle?

No, řekl bych, že jsme k tomu došli “jak slepí k houslím”. Já nemám technické vzdělání, pocházím ze společenskovědních oborů, primárně z komunikace. Věnoval jsem se docela dlouho grafickému designu, ale zkrátka pocházím z úplně jiného prostředí. Takže není intuitivní, že jsme to zrovna já a moji kolegové, kteří zase pochází z uměleckospolečenských odvětví kreativního průmyslu. Ale začali jsme se tomu věnovat a jsem tomu rád. Dostal jsem se k tomu roku 2021 přes jeden hackathon – to je takový kreativní brainstorming nad technickými řešeními, která by mohla zlepšit svět. Jmenoval se Robothon, bylo to ke sto letům výročí uveřejnění Čapkova R.U.R., takže to mělo i takový poetický nádech. Tam jsem se seznámil se svým současným kolegou a spoluzakladatelem spolku Ondřejem Hráchem a vlastně od té doby jsem poznal, že to je extrémně zajímavé. Už roku 2021 to poskytovalo fascinující technické možnosti. Samozřejmě z dnešního pohledu byly výrazně omezené, ale už v tu chvíli to bylo “wow”. Já jsem celoživotní nadšenec pro sci-fi, takže jsem k tomu cítil blízkost a strašně mě to zaujalo. Když jsem do toho začal pronikat víc, tak jsem si uvědomil, že je velká škoda, že o tom veřejnost až tak moc neví a že to v budoucnu bude mít potenciálně velká rizika i dopad na společnost a na jedince. Tak jsem se tomu začal ještě víc věnovat a tak trochu punkově jsme o tom začali mluvit na školách. Dělali jsme nějaká první pilotní testování a účastnili se dalšího hackathonu zvaného Nakopni Prahu, kde jsme získali nějaké zkušenosti, zpětnou vazbu od profesionálů z oboru – od inovátorů jako Tomáš Studeník a tak – a vlastně tam nás to nakoplo, protože jsme dostali tři ceny poroty. Zjistili jsme, že to tedy asi má smysl a že to děláme vlastně i docela dobře na to, že to byl tak velký punk a neměli jsme všechno úplně připravené. Takže jsme se do toho pustili a následně se to začalo pomalu rozjíždět do dnešních obrátek, kdy se už skoro nezastavíme a je toho fakt hodně.

A koho konkrétně chcete vzdělávat?

My jsme si dali takový cíl, že bychom chtěli vzdělat úplně všechny. Byli jsme možná trochu ambiciózní, ale neskromně si myslím, že se nám to docela daří, protože to naše rozpětí je opravdu široké – od malých školáků až po univerzitu třetího věku. A tohle velké rozpětí mě baví. Ale tou primární cílovou skupinou jsou pořád mladí lidé na základních a středních školách, protože to je takové transformativní období v životě člověka, kdy se hodně věcí mění a tvoří se názory, které pak s námi nějakou dobu zůstávají. A je to i to období, kdy si musíme třeba volit, na jakou školu půjdeme a jakou kariérní cestu si zvolíme. Samozřejmě není to úplně nějaké dogma, ale nějakým způsobem nás to předurčuje. Takže tuhle skupinu jsme si identifikovali jako hlavní, protože tam víme, že je potřeba pomoci. A i ty samotné školy s tím potřebují pomoct, protože toho mají nad hlavu.

Jak jsou na tom ty české děti ve vnímání AI?

V tom mám takový vyvíjející se názor. My jsme si i vlastně na prvním ročníku těch našich workshopů dělali takový výzkum toho, jaké jsou první asociace spojené se slovem “umělá inteligence”. A převládalo slovo robot nebo počítač. Takže to pořád je spojené s nějakou fyzickou entitou. Ale ta dnešní AI je spíš v cloudu, takže je spíš jakoby mezi námi, než že by ležela někde na stole. Samozřejmě ta datová centra jsou fyzická, ale je to něco jiného než robot. Takže zajímavý zážitek bylo to, že byl očekáván příchod robotů, ale my si vlastně povídali a bavili se o tom, jaký může mít umělá inteligence dopad na naše pracovní uplatnění a na naší kreativitu. A to je také zajímavé – jak stroje ovlivňují naši kreativitu, jestli jsou kreativní, jestli nám v tom mohou pomoci, nebo nám naopak tu kreativitu ubírají a snižují. Ale v tom porovnání mezi českými a zahraničními školáky já osobní zkušenost nemám. Možná jsou v takovém evropském lehčím nadprůměru. Ale když se mluví o vzdělávání, tak se vždy musí zmínit Finsko, a to platí i v kontextu té umělé inteligence. Finská univerzita udělala jeden z prvních vyloženě kurzů o umělé inteligenci – Elements of AI, který byl dostupný online, byl přeložen do mnoha jazyků včetně češtiny a poskytl takový ucelenější pohled na umělou inteligenci. Ale myslím si, že ani my jsme nezaspali, protože vlastně tři dny po zveřejnění Chat GPT už jsme ho měli na škole a bavili jsme se o něm.

Jak vypadá takový workshop pro děti?

My se zaměřujeme primárně na druhostupňové žáky. Ty nejčastější kurzy jsou zaměřené právě na tu kreativitu. Začíná to vlastně tím, že si představíme nějaké základní principy té technologie. Nezaměřujeme se vyloženě na nějakou digitální gramotnost, ale že tam je proces, kterým ta technologie tvoří nějaké kreativní výstupy a že ten proces výrazně ovlivňuje, jak s tím musíme komunikovat a jaké od toho očekávat výsledky, tak to tam je. Pak si představíme různé nástroje, které jsou k dispozici. Začínáme Chatem GPT. To je vlastně taková stálice a i benchmark toho, kde generativní umělá inteligence v dnešní době je. Pak se postupně dostáváme do různých jiných modelů, jako je třeba obraz, zvuk a v této chvíli i video. Když si představíme, jak ty nástroje fungují, co od nich očekávat, jak nám mohou pomoct, tak s nimi pracujeme, abychom z nich vymáčkli co nejvíc kvalitního. Samozřejmě ne vždy to jde, protože ty nejkvalitnější AI zpravidla bývají placené. Pak je nějaký kreativní projekt, kdy žáci mají třeba 90 minut na to, aby si vytvořili něco, co pro ně bude hodnotné.

A co třeba vytváří?

Primárně jsme se zaměřili na obrazy a povídky. To jsou takové dvě stálice. Ten obraz a text je pořád něco, co nás všude obklopuje, takže to jsou i věci, se kterými dokážeme pracovat a za těch 90 minut jsme vlastně schopni něco zajímavého vytvořit.

Představuji si to tak, že když třeba zadáte textový úkol, tak ten základ obstará AI, ale k té finální verzi hledáte cestu společně, ne?

To jste řekla úplně přesně. Musím ale říct, že ta technologie se vyvíjí a ty výstupy jsou kvalitnější a kvalitnější. Když jsme s tím začali, tak bylo vidět, že ty texty vlastně někdy nedávají moc smysl a obsahují výrazné faktické chyby a tak. Takže tam jsme ani nemuseli až tak zdůrazňovat, že je potřeba ty texty upravovat. Dnes, když už třeba i nějaký žák má placenou verzi nějakého nástroje, tak i ta motivace k tomu, aby něco tvořil sám a ten text výrazně upravoval, tak je pořád nižší a nižší, protože ty výsledky jsou prostě pořád lepší. My se i přesto snažíme v těch našich kreativních workshopech zaměřovat právě na ten tvůrčí proces. Musí tam být nějaký záměr – co vlastně chceme vůbec říci, jestli nám jde o přenos nějaké emoce nebo nějaké faktické informace, příběh… My se zaměřovali primárně na ty kreativní umělecké texty, které splňují nějaké literární normy. Někdy se to podařilo, někdy ne. Ale snažili jsme se tu kreativitu zdůrazňovat, a to i v kontextu toho, že jsme byli podpořeni Ministerstvem kultury. A myslím, že pořád je důležité to umění v sobě pěstovat a kultivovat. Ale je to velice těžké, protože ten výsledek je vždy závislý na nějaké vnitřní nebo vnější motivaci. Vnější motivace je třeba špatná známka. Ta vnitřní motivace je ale hodně kolísavá a nemůžu říct, že by 90 procent žáků mělo vnitřní motivaci vytvořit nějaké vysoké umění. Nehodnotím je, prostě je to tak a je to naprosto pochopitelné – ne všechny texty, které žáci v životě vytvoří, budou kreativní a umělecké. My se jim snažíme ukázat a vštípit ty principy, že aspoň ta původní myšlenka musí pocházet nějakým způsobem z nás. Ony jsou i výzkumy, které ukazují, že čím víc jsou lidé spokojeni s výsledkem, tak tím méně pak do toho autorsky zasahují. Ale to je trošku zkáza té naší kreativity – když máte texty, které jsou z 90 procent v pohodě a jsou fakticky správně, tak pak má člověk i tu tendenci si říct, že těch deset procent není zas tolik a už to ani nebude číst a kontrolovat. On ale Chat GPT i další generátory textu mají vysokou tendenci si něco vymyslet a fabulovat. Někdy se tomu říká halucinace. Objeví se třeba špatné datum nebo nějaká fakticky špatná odpověď, která je na první pohled zřejmá, ale student nebo žák to prostě nepochytí, protože to nepřečte. On totiž čeká, že to bude stejně tak dobré, jako to bylo v pěti předešlých vygenerovaných případech.

A jak to mají pedagogové, kterým je často i kolem šedesátky?

Já se pohybuji trochu v bublině, ale myslím, že většinová pedagogická populace tak nějak tuší, že před tím nejde zavírat oči. Před dvěma lety by se ještě dalo říct, že to za chvíli přejde, ale to teď už nejde. AI je v tuhle chvíli nejzainvestovanější technologie v historii lidstva. Takže nějaký vývoj mít bude a nějak nás to ovlivní. I když to spektrum techno-optimismu a techno-pesimismu je hodně široké, tak rozšíření toho, jak vyučující zkouší ty technologie ve svých předmětech, je pořád větší a větší. Někdy mě velice potěší, že přijdu na základní školu s tím kreativním workshopem a žáci řeknou “jo, tak to jsme už dělali na češtině nebo na výtvarce”. To je paráda. A ono se dost často i podaří i to, že mám dopoledne workshop se žáky a odpoledne s pedagogickým sborem. Zároveň musím říct, že to nadšení z toho tématu u žáků a mladých lidí… Ne že opadá, ale už je to staré. GPT začal někdy v tom listopadu 2022 a byla to pro spoustu lidí fakt paráda. A teď přijdeme a děti řeknou, že s tím si dělají domácí úkoly na češtinu. Ono i zaujmout mladou generaci je v dnešní době toho rychlého dopaminu těžší a těžší. U lidí středního věku to vlastně je leckdy jednodušší už proto, že největší motivační faktor pro ně je, že jim to ušetří práci. A pak bavit se o tom se seniory je často úplně skvělé.

Tak ono může být i skvělé, když dítě jde navštívit babičku a ta ví, co je Chat GPT a jak se s tím pracuje.

To je perfektní a myslím, že AI může nějakým způsobem působit jako mezigenerační pojidlo. Zároveň si ale musíme dávat pozor, aby nás to spíš od sebe neodtahovalo. On třeba ten Chat GPT může být i docela dobrý konverzační parťák, což nás samozřejmě může odrazovat od té mezilidské komunikace. Ta je taková nudná, řešíme v ní ty klasické věci, ale s chatbotem si můžu povídat o historii vesmíru.

Tak chatbot asi ani neodporuje, ne?

Můžete ho ale naopak napromptovat k tomu, aby nebyl milý konverzační partner, ale aby na vás měl nějakou rákosku. A to je někdy i docela zajímavé a doporučuji si to někdy vyzkoušet. Říct “nebuď na mě milý, ale odporuj mi a dávej mi doplňující otázky a tvrdou, ale konstruktivní zpětnou vazbu”. A ono to dokáže identifikovat nějaká naše slabá místa a výzkumy ukazují, že chatboti mohou v argumentační komunikaci být lepší než lidé. Není to úplně intuitivní, ale ukazuje se, že když je k tomu ten správný prompt a správně se k tomu přistupuje, tak to překonává průměrného člověka.

My jsme mluvili o kreativitě, ale AI se dá využít i v té přírodovědné větvi – v matematice, fyzice, chemii a dalších. Jak se s tím pracuje?

Co se týká těch takzvaných tvrdých oborů, tak tam nejde moc okecávat a ukazuje se, že ty velké jazykové modely v nich nejsou v tuhle chvíli až tak dobré. Ono to vychází z podstaty jejich fungování. Jejich primární a první účel je nedávat nám fakticky správné odpovědi, ale tvořit důvěryhodně vypadající texty, které se nám zřejmě budou líbit. Ty odpovědi jsou nějaká výseč z toho chuchvalce informací, které ten jazykový model má – dá nějakou zprůměrovanou odpověď na nějaký dotaz. Takže když po tom jazykovém modelu chceme nějaké matematické úlohy, tak to je docela těžké, protože on vlastně neumí počítat. V tom je stejný jako lidský jazykový model – taky odpovíme na otázku kolik je 6 krát 6, protože to máme naučené, počítáme jazykově a říkáme to automaticky, protože to v tom našem jazykovém modelu už je nějak zakomponované. Když ale chceme počítat, tak musíme zapojit úplně jinou část mozku a jazykové modely tohle nemají. Některé už to začínají mít, ale vlastně k tomu nejsou určené. Je to takový paradox, že takhle pokročilá technologie je zaměřená spíše na tu humanitně společenskovědní větev a do těch přírodních věd až tak proniká. Třeba na tu matematiku a takovéto operace jsou i nějaké pluginy od Wolframu, ale to je vyloženě už specializovanější podoblast toho jazykového modelu, který se věnuje třeba přírodním vědám. Ale jak jsem říkal – my se věnujeme kreativnímu použití a nemáme to tvrdé vzdělání, takže to spíš přenechám jiným. A jakým směrem se to bude vyvíjet, to zatím nevím.

Vyhrají ti, kdo se AI naučí používat a prohrají ti, kdo se jí bojí – dá se to takhle zjednodušit?

Pokud vidíme své profesní a životní uplatnění v oblasti, která vyžaduje nějaké kognitivní úsilí, tak tam je docela dost pravděpodobné, že prohrajeme. Pokud se chceme věnovat tvořivým činnostem rukama a nějakému řemeslu, tak tam je pořád ještě dominance člověka veliká. Prostě v tom fyzickém světě jsme pány my a ještě nějakou chvíli určitě budeme. Ale co se týká té práce hlavou, no tak tam si prostě musíme přiznat, že máme konkurenci. A před několika lety jsme si přitom mysleli opak. Měli jsme za to, že automatizovaná bude právě ta manuální, repetitivní a fyzická práce. To se rozhodně u nějakých linek děje, ale že se budou bouřit umělci, to nikdo před čtyřmi lety ani netušil. Ale my jsme už tehdy měli takové tušení, že by to tam mohlo směřovat.

V tuhle chvíli AI píše skladby a texty, kde je až vysoká podobnost s nějakým původním autorským dílem. A samozřejmě v dabingu si AI opravdu naprogramuje ten hlas naprosto totožný s nějakým originálem. Jaký z toho máte pocit?

Já to beru jako jednu z největších loupeží v dějinách lidstva, protože velké jazykové modely teď obsahují skoro všechno vědění, které jsme za těch deset nebo dvanáct tisíc let nashromáždili – tedy to, co se dochovalo v nějaké písemné nebo informační podobě. To nám samozřejmě může extrémně pomoct, ale je to prostě nějakým způsobem loupež. A to mluvím jen za sebe, nemluvím ani za kolegy. Z tohohle pohledu v tom mám nějaké emoční stigma. Sice jsem technooptimista, ale nejsem slepý propagátor a snažím se na to nahlížet i z těch negativních pohledů. Kdybych byl umělec, který desítky let pracoval na tom, abych dosáhl toho, co umím a pak si někdo ve čtvrté třídě sednul k počítače a za dvě minuty měl to stejné, co já, tak by mě to taky naštvalo. To je jasné. Ale může nás to i posunout a já si myslím, že umění rozhodně není u konce a ani není u začátku konce. Naopak to může být nějaký rozpuk něčeho úplně nového. A bude toho vznikat víc. Navíc lidé budou hledat za uměním právě toho člověka. Myslím, že emoce v umění vznikají právě z důsledku toho, že s tím někdo strávil hromadu času, zasvětil tomu život a dal tomu nějakou tu energii. Jsou i takové pokusy, kdy lidé nedokáží rozeznat, jestli je dílo vytvořené člověkem nebo strojem, ale když jim řeknou, že něco vytvořil člověk, tak to dílo automaticky hodnotí pozitivně a mají k tomu vřelejší emoci. To je ten “antropocentrický bias”, který nás jako lidi zvýhodňuje.

Jak reagujete na názory, že děti vlastně nebudou muset umět všechno, protože si budou moci právě pomoci AI velmi snadno a velmi rychle zpracovat informaci? Sice se budou moci věnovat opravdu tomu, co je zajímá a v čem jsou třeba talentovaní, ale to všeobecné vzdělání jim prostě chybět bude. Co myslíte?

Já nejsem odborník na pedagogiku, ale myslím, že jsme se nedokázali ještě vyrovnat ani s tím, že máme vlastně nějaký informační dostatek – že si dokážeme během pár sekund vyhledat holou informaci bez nějakého kontextu. Ještě jsme se nedostali ani přes tuhle první mentální překážku – že se nemusíme ty věci memorovat a stačí, když si je dokážeme vyhledat a pak je zasadit do nějakého kontextu. No a teď přichází další překážka – nejen, že už si nemusíme memorovat informace, ale AI už je vlastně dokáže sama zasadit i do nějakého smysluplného kontextu, který může být i docela sofistikovaný a někdy i zajímavější než od nás samotných. Takže to přináší obrovské výzvy a já vlastně nevím, jakým směrem to povede. Nejsem vůbec zastáncem zákazů umělé inteligence, ale myslím si, že to bude o nějakých pravidlech, která jsou konstruktivní a které by si měl každý pedagog a každý vyučící sám stanovit pro svůj vlastní předmět. Je super, že jsou nějaká doporučení na úrovni Ministerstva školství, základních, středních škol a těch etických kodexů jednotlivých škol, ale myslím, že každý vyučující by se měl aspoň základně s tou technologií seznámit. A na základě toho by se mělo evaluovat jak jsme schopní vlastně pracovat s těmi našimi vzdělávacími cíly. Myslím, že to bude velká práce do budoucích let. Já teď jsem doktorandem na FSV a mohl jsem se účastnit průzkumu a mapování toho, jak to využívají vyučující a studující. A i když většina vysokých škol doporučuje vyučujícím, aby stanovili nějaká pravidla, tak kolem 50 procent vyučujících uvedlo, že žádná pravidla nemá. A to je vysoká škola, kde by se na ty vzdělávací cíle mělo ještě více zaměřovat. A i z těch odpovědí studujících vyplývá, že je docela stresující, když vlastně nevíte, k čemu to můžete použít. Víte, že když půjdete do práce, tak to po vás nějakým způsobem budou vyžadovat, protože tam musíme mít nějakou efektivitu a čím větší efektivita, tím lépe. Ale ve škole nevíte, jestli nějaká práce bude hodnocená špatně jen proto, že jste využila Chat GPT. A ten vyučující třeba ani neví, že to může být použito i jinak než “napiš mi seminární práci” a zmáčknu Enter. Já třeba AI třeba často využívám na poskytování zpětné vazby na své texty. A tedy dávám tam, aby mě nechválil. (smích)

Vy si s kolegy říkáte “dělníci digitální gramotnosti”. Co je před vámi na podzim, kdy se rozjede nový školní rok? Předpokládám, že budete opět cestovat po republice a šířit dobrou zprávu kolem umělé inteligence.

Na to se strašně těšíme. I když toho cestování jsme si užili docela dost, tak to beru jako takový objektiv do různých částí Česka. To je opravdu zajímavé. A my přijedeme kamkoliv a budeme se snažit získat i nějakou podporu, abychom to pro školy mohli dělat ideálně zdarma, což se nám teď docela i dařilo. Zároveň nás čekají i celorepublikové Dny AI a máme i další zajímavé akce, právě i třeba ve spolupráci s Karlovou univerzitou a s dalšími školami a s organizacemi jako je Prague AI a podobně. Myslím si, že ta AI komunita v České republice drží velice pospolu a já jsem velice rád, že nepanuje žádná nevraživost, řevnivost nebo nějaké tutlání si věcí, informací a dostupných zdrojů. Vlastně se to velice kultivovalo – jak z pohledu byznysu, edukátorské sféry, tak i z toho celospolečenského pohledu. Myslím si, že máme komunitu napříč republikou a všemi městy, kde je nějaká buňka lidí, které AI zajímá. Tak vlastně nějak držíme pospolu a snažíme se to posouvat jak jen to jde. A já jsem velice rád, že toho můžeme být součástí. Je to super.