Všichni se bojí, že děti budou s AI hloupnout a podvádět. Jde to ale i jinak

„Připravovali jsme divadelní představení a tehdy jsme přišli na to, že je tady nějaká AI, kterou bychom mohli zapojit jako herce,“ vzpomíná umělkyně Eva Nečasová na své první zkušenosti s generativní umělou inteligencí, konkrétně s modelem GPT-2 od OpenAI. Byl to takový předchůdce ChatGPT, a vývojáři si s tímto jazykovým modelem mohli hrát pomocí nástroje OpenAI Playground.

„A pak přišly ty generátory obrázků,“ vzpomíná Nečasová. „Já jsem napůl programátorka a napůl výtvarnice, a tak mi to přišlo jako úžasné spojení těchto dvou přístupů. Bylo to krásné. Hned mi tam naskakovaly ty možnosti spolupráce. Stroj a já.“

S Evou Nečasovou jsme dělali první rozhovor o umělé inteligenci už v roce 2022. Tehdy její vize – se kterou spoluzakládala iniciativu AI dětem – o půl roku předběhla zbytek společnosti. O kurzy strojového učení na školách tehdy nebyl valný zájem.

„A pak přišel ChatGPT a já jsem jezdila pořádat napřed jeden kurz týdně, pak jsem jezdila dvakrát a pak několik měsíců třebe i šestkrát týdně,“ vzpomíná Nečasová na to, jak ji umělá inteligence přidělávala práci. „Jezdila jsem po celé České republice, po školách velkých i malých, vesnických, soukromých. Každá škola je jako jiný vesmír. Přineslo mi to neskutečný vhled do toho, jak to na školách funguje. Za to jsem nesmírně ráda.“

(V textu článku uvádíme jen stručný výběr z probíraných témat. Celý rozhovor najdete ve videu v úvodu článku. Podívejte se také na celou epizodu k tomuto tématu.)

Jak zajistit, aby to dopadlo dobře
Nyní už má iniciativa AI dětem větší zázemí, dvě desítky lektorů a Eva Nečasová se věnuje rozvoji vzdělávací strategie. „Učitelé se vždycky ptají na dvě otázky: Budou děti podvádět? Budou děti hloupnout?“ vyjmenovává nejčastější dotazy pedagogů.

A jsou to přesně ty obavy, které se týkají nejen práce studentů školou povinných, ale celé lidské společnosti. Povede zapojení generativní umělé inteligence k vyprázdnění lidské expertízy, ztrátě smysluplného zaměstnání nebo k postupnému ohloupnutí lidstva, které bude stále více spoléhat na osobní asistenty?

Nečasová si myslí, že když se práce s AI uchopí za správný konec, tak je možné se těmto černým scénářům vyhnout. „Jako lidé bychom teď mnohem více měli hledat smysl toho, co děláme a proč to děláme,“ připomíná s nadějí. "A to teď myslím bude úloha pedagogů. A úloha nás všech. Máme tady totiž najednou AI pomocníka, který nám pomůže k těm cílům dojít. Ale my musíme vědět, jaký je ten cíl.

Takže jaká je odpověď na to, jak zajistit, že umělá inteligence neovládne lidi, ale naopak lidé umělou inteligenci? „Vzdělávat se,“ zdůrazňuje Nečasová, podobně jako ostatně prakticky všichni hosté naší podcastové minisérie Mozaika. „Kdyby se všichni vzdělávali… Já vím, že se to nestane, ale jinou odpověď nemám.“

Ideální by podle ní bylo, kdyby se více diskutovalo o tom, co pro každého nové AI technologie znamenají. Kam je pustit a kam ne. „Je úplně relevantní, když někdo řekne, já nechci mít s AI nic společného,“ zdůrazňuje Nečasová. „Ale ten člověk k tomu musí dojít na základě nějakého uvažování. A bojím se, že třeba pedagogové se toto téma někdy bojí otevírat.“

Syntetická realita
Dnes nám AI chatboti dají odpověď na prakticky jakoukoli otázku. To ale neznamená, že bychom na ně měli ve všem spoléhat. Nejenom proto, že odpovědi jsou často nespolehlivé. Ale také proto, že někdy je právě překonání překážek způsob, jak se člověk může do tématu zakousnout.

„Ale já to vidím celkem pozitivně. Někteří lidé jsou motivovaní se něco dozvídat, protože je to baví, chtějí prohloubit svou znalost,“ myslí si Nečasová. A ti pak budou používat všechny dostupné nástroje: „Něco si přečtou na internetu, něco v knížkách, na něco se zeptají chatbota. A pak jsou lidé, kteří se nechtějí nic moc dozvídat, a to je taky v pořádku. A i oni dostanou od chatbota lepší odpovědi, takže ta úroveň se za mne zvyšuje.“

Horší podle ní je, že prostřednictvím generovaných textů, fotorealistických snímků a videí postupně vzniká tzv. syntetická realita. „Už není možné snadno rozpoznat, co je autentické a co ne. Bude složité se orientovat v tom, co je a co není pravda,“ varuje Nečasová. Nejde jen o „halucinace“ chatbotů, ale také dezinformační a vlivové kampaně, podvody na míru, klonování cizího hlasu nebo podoby atd.

„Může to vést k dalším rozkolům ve společnosti,“ obává se Nečasová. „O doporučovacích algoritmech sociálních sítí se mluví už deset let, a teď do toho budeme moci generovat obsah na míru. To je nebezpečná kombinace.“ O to důležitější roli pak bude hrát vzdělávání a zkušenosti z experimentování s novými nástroji.

„Umělá inteligence, neuronová síť, je trochu jako černá skříňka. Máme k tomu dokonce takovou metodiku, hru do výuky na školách. Je to černá skříňka ze dřeva, a různé skupiny studentů mají různé nástroje, jakými mohou zjišťovat, co je uvnitř,“ popisuje Nečasová. „Každý tak může zjistit něco jiného.“ To odpovídá situaci, kdy různí lidé mají s nástroji AI odlišné zkušenosti, v závislosti na svém oboru a kontextu.

Nezapomeňte na lidi
Jen proto, že můžete nějaký úkol hodit umělé inteligenci, neznamená to, že je to ten nejlepší způsob, jak k němu přistoupit. „Pro mě je třeba psaní hrozně důležitá část tvůrčího procesu, protože při psaní si utvářím myšlenky,“ vysvětluje Nečasová. Chatbota při tvorbě používá spíše jako někoho, kdo jí dává okamžitou zpětnou vazbu.

Největší výhoda, kterou Nečasová v souvislosti se svými AI aktivitami zmiňuje, nemá s umělou inteligencí nic společného: „Umělá inteligence mi do života přinesla nové lidi, za které jsem neuvěřitelně vděčná. Můj život se za poslední dva roky hodně změnil, a mám kolem sebe lidi, se kterými chci být.“

Připomíná, že i v éře, kdy si můžeme o čemkoli kdykoli povídat s chatbotem, bychom měli dbát na skutečný kontakt se skutečnými lidmi: „Pořád sedím u počítače, pořád na něčem pracuji. Pro mne jako pro introverta je mnohem snazší povídat si s chatbotem, než rozvíjet vztahy,“ svěřuje se Nečasová. Skuteční lidé s námi – narozdíl od ochotných až podlézavých ChatGPT a spol. – budou často nesouhlasit. „Možná je to někdy nepříjemné, když mi někdo nepotvrzuje moje názory. Ale je důležité na tyto skutečné prožitky nerezignovat. Pokud rizignujeme na vztahy s lidmi, tak se pak nebudeme mít o co opřít.“

(V textu článku uvádíme jen stručný výběr z probíraných témat. Celý rozhovor najdete ve videu v úvodu článku. Podívejte se také na celou epizodu k tomuto tématu.)

Mozaika Pavla Kasíka
Osmidílná minisérie Seznam Zpráv o umělé inteligenci. Novinář Pavel Kasík s pomocí hostů popisuje současný stav technologického fenoménu. AI z různých perspektiv a bez přikrášlování. Mozaika Pavla Kasíka vychází každý čtvrtek jako video na webu Seznam Zpráv a v audio podobě na Podcasty.cz, Spotify, Apple. Následující sobotu pak vydáváme bonusový materiál v podobě celého rozhovoru s hosty pořadu.

Pavel Kasík Seznam Zprávy