Už je to v South Parku: AI je mainstreamová!
Seznam kapitol
Všichni víme, že mainstreamem se věci stanou tak, že se objeví v South Parku. Jakmile je cokoliv anebo kdokoliv v South Parku, je to jasné. A v posledním dílu South Parku se nejenže objevila ChatGPT, ChatGPT ve skutečnosti NAPSALA část tohoto dílu South Parku!
Satya Nadella představil integraci AI do Office – a nejen to, Microsoft plánuje integrovat AI do všech svých produktů. To znamená, za prvé, že éra AI je tady – a za druhé to znamená, že i kancelářská práce bude trvale online, nebo že se alespoň počítá s tím, že plnohodnotná funkčnost kancelářských produktů.
Dnes se řeší hlavně kreativní inteligence, její právní aspekty, zda je kopírování cizích stylů porušováním cizích autorských práv a podobně. Zákon o tom mluví jasně, AI nemá právní subjektivitu, nemůže být autorem, ale také nemůže být trestně zodpovědné. Časem do toho bodu dojdeme, časem se právní subjektivita AI bude muset řešit – a podle mě to bude hodně zajímavé. To už řešil Animatrix – a popravdě jeho vize světa, kde lidi musí vládnout, protože už nemají co dělat, mi přijde mrazivě futuristická.
Musím ale uznat, že mě v poslední době zaujal fenomén ChatGPT, tedy přesně řečeno mě zaujalo to, kolik lidí najednou objevilo AI, experimentuje s AI a zkoumá, jak je to realistické, jak je to použitelné a co by se s tím dalo dělat. Experimentuje s tím každý, koho znám – a výsledky vypadají slibně. Docela strašidelně slibně, protože kreativní volně asociující texty vypadají vážně dobře.
South Park k tomu přistoupil po svém: Kluci ve škole objevili ChatGPT a řeší s ní jejich dva základní problémy: Za prvé to umí psát práce pro pana učitele Garrisona. A za druhé umí to smysluplně odpovídat na textovky jejich holek tak, že si holky nestěžují.
Problém je v tom, že ti kluci, kteří nepoužívají ChatGPT, trpí zdrcující kritikou svých holek, takže zkoumají, v čem je problém. Jak je, sakra, možné, že někteří kluci jsou tak vnímaví a citliví – a zbytek jsou naprostí ignoranti?
Celé se to komplikuje a eskaluje – a nakonec se to domotá do bodu, ve kterém Stan shledává, že nevidí jiné řešení, než otevřít ChatGPT a nechat inteligenci dopsat konec dílu South Parku tak, aby se to nějak všechno vyřešilo.
A světě zboř se, autoři South Parku skutečně nechali ChatGPT napsat konec dílu – a jak to dopadlo, můžete posoudit sami!
Dnes se řeší hlavně otázky, zda je fér a zda je legální nechat za sebe dělat třeba kompiláty a jiné práce do školy. Problém to samozřejmě je, pokud máte zadaný úkol a udělá ho za vás někdo jiný – anebo třeba AI, to je jedno. Na druhou stranu to přináší i otázku, zda je vážně dobré a produktivní cvičit lidi v něčem, co umí dělat stroje lépe. Je to podobné jako výjimečné numerické schopnosti při počítání z hlavy: Dává smysl cvičit se v oblasti, která má prakticky velmi omezenou hodnotu?
Dnes už reálně ani prodavači, ani servírky nesčítají útratu z hlavy, dnes to za ně dělá kasa, ze které vám vyjedou výsledek. Schopnost provádět z hlavy složité výpočty je hezká exhibiční disciplína, může představovat kompetitivní výhodu pro matematiky, ale obecně to není moc použitelná věc.
Je to podobné jako kumulace faktografických informací. Každý zdá Sheldona z Big Bang Theory a jeho neúnosné záplavy „zajímavých faktoidů“, které obvykle nemají žádnou praktickou hodnotu. Spousta lidí vysazených na sbírání poznání ráda sbírá různé znalosti, často naprosto obskurní – tím je zvlášť známý typ INTP z šestáctifaktorového testu osobnosti. Takoví lidé oslňují znalostmi typu planetární geologie anebo konstrukce pyramid Staré říše, které prostě milují – ale nejsou to znalosti praktické a jsou jen zřídka monetizovatelné. Otázka proč některé lidi baví sběr podobných obskurních informací, je nepochybně zajímavá, ale pravděpodobně rovněž nemá valný praktický význam.
Spousta studentů si stěžuje na to, že školy nejsou praktické. Prosím, tomu ale docela rozumím. Oblíbená hláška „platit daně mě to nenaučí“ mě baví, protože daňové předpisy se mění tak často, že podle mě by s tím a jedním samým penzem nebylo možné projít ani standardní čtyřletou školou. Praktické technické informace zastávají také velmi rychle, takže to nejlepší, co si ze školy můžete odnést, je naučit se učit se, získat adaptabilitu a také nějaké základy, které se pravděpodobně asi měnit nebudou, což jsou například matematické fundamenty anebo teorie složitosti. V právničině je to vcelku neoblíbené římské právo, což vypadá jako atavismus do chvíle, než si uvědomíte, že na jeho logice je postavené veškeré moderní právo – ba co více, Římané jako první přišli s tím, že by právo mělo mít nějakou strukturu a nějakou logiku. (Pokud nemáte představu o tom, jak vypadají právní systémy bez takového základu, doporučuji babylonské a akkadské právo, to je famózní prča. Není pravda, že by tam panovala úplná zvůle jedinců, ale docela to tak vypadá.)
Rozumím tomu, že teprve s odstupem let se naučíte rozeznávat podstatné a nepodstatné. Naprosto chápu, že si každý chce zjednodušit práci tam, kde se to zjednodušit dá a sahá proto po nástrojích, které mu pomohou. To, co mě osobně překvapilo, není to, že jsou studenti líní a snaží si zjednodušit práci.
Spíš mě zaujalo, že řada z nich nemá ani elementární schopnost usuzovat nad tím, zda je závěr či výsledek reálný, zda dává nějaký smysl. Osobně mě zaujal fenomenální výpočet, který předvedl nějaký nešťastný student předpokládám střední obchodní školy (i když by to měl zvládnout i člověk se základkou).
Zadání: Soukromý truhlář vyrábí dětské postele s výrobními náklady 320 Kč a zisku 120 Kč na postel. Obchod k ceně přidá vlastní marži 13 % a 21 % DPH. Cenu zaokrouhlíme nahoru. Kolik stojí dětská postel v obchodě?
Kolik spočítal onen student? Jaký byl výsledek jeho kalkulace? Student spočítal, že výsledná cena je 46 920 Kč, čehož dosáhl tak, že nejprve kalkuloval cenu s marží a DPH a potom to vynásobil ziskem truhláře. Doprovodný text říká, že jde o „Ukázku testu ekonomických znalostí maturanta těsně před maturitou“, což může být fake. Skutečně se mi tomu nechce věřit, protože nejenže není schopen určit pořadí operací, ale naprosto nechápe, že je výsledek o dva řády mimo. Nejreálnější explanace tohoto failu je, že zaměnil „zisk truhláře“ s „počtem truhlářem vyrobených postelí“, což ale předpokládá, že zároveň nepochopil, že se ptáme na „cenu postele“ a ne na „cenu všech postelí“. Tohle je fail, kterému bychom se dnes vysmáli i u AI.
Neodolám a řeknu vám klasický vtip:
Potká Kohn svého učitele matematiky. Do čeho oni dělaj, zajímá se učitel. – Do tébichů, přizná Kohn. – Oni? S těma nedostatečnýma z matematiky? Do obchodu??? zděsí se učitel. Proboha, jak to dělaj? – Jednoduše, vysvětluje Kohn. Za stovku koupím, za čtyři prodám a ty čtyři procenta mi k životu bohatě stačej.
Ale vážně: Problém není v tom, že děláte chyby, ale že nejste schopní identifikovat, že děláte chyby – anebo že přejímáte výsledky, které nedávají žádný smysl. Existují situace, kdy výpočet je dobře, a přesto nedává žádný smysl, což se typicky ale objevuje v extrémnějších oborech jako je fyzika – a znamenají, že jste možná kápli na něco opravdu velkého.
Za normálních okolností ale očekáváte, že se výsledky budou pohybovat v určitých mantinelech, například že vám cena dětské postele neujede do extrémních hodnot, ale taky že vám nevyjde jako záporné anebo iracionální číslo. Když vám cena postele vyjde v iracionálních hodnotách, je to samozřejmě problém už proto, že není jasné, jak by se něco takového platilo – a to by mělo fungovat jako jasné varování, že jste něco spočítali špatně.
Samozřejmě, můžete zkonstruovat příklady s absurdním zadáním, které vedou k absurdním závěrům, jde často o nesmyslné matematické úlohy typu „Pokud orchestr o 30 hráčích zahraje Brahmsovu symfonii číslo 2 v D-dur za 45 minut, za jak dlouho ji zahraje 100 hráčů?“ To je obvykle už cvičení ze schopnosti abstrahovat, z nichž některá zadání nejsou řešitelná čistě matematicky, jsou to cvičení o tvorbě matematického modelu – a řada z nich může být pěkně zákeřná.
Na nižších stupních počítáte spíš reálné úlohy, ty lepší špeky přijdou až později – a úplně nejlepší je samozřejmě vysoká matematika, kterou si často není možné klasicky vizualizovat. Drtivá většina problémů, které budete řešit, ale má nějaké očekávané limity – a ty byste měli znát a měli byste být schopni detekovat nekonzistence. Tato schopnost se obvykle nazývá selský rozum, což znamená rozum těch školou neohnutých, ale spíš popisuje právě to, že ze zkušenosti očekáváte, že nějaká akce bude mít určité výsledky – a ne nějaké úplně jiné.
Největší problém AI není v tom, že „bere lidem schopnost myslet“, jak mnozí tvrdí, ale že funguje svého druhu jako filtr mezi vámi a realitou. To je vlastně problém všech informačních technologií a také komunikačních řetězců: Pro mnoho lidí je jednodušší převzít informace z netu než si ověřit sami, jestli to je pravda, to je první level. Další level jsou vyhledávače, které sice skenují dostupné informace na síti, ale vynechávají ty nedostupné, jako je deep web – a co v nich nenajdete, to pro mnoho lidí neexistuje. To je druhý level.
A třetí level, který nastupuje dnes, je AI, která funguje jako svého druhu digest, který vytváří sám závěry, aniž by obvykle přesně mapoval z čeho vychází, proč z toho vychází, z čeho naopak nevychází a proč to vynechal. Vynechávání informace je velký problém – a většina lidí dokonce ani neví, že pracují s upravenou či vynechanou informací.
Zde musím zmínit, že to není problém nový. Nedávno se do médií dostalo, že progresivisté se rozhodli změnit Dahlovy dětské knihy a zwokeizovat jejich jazyk. Toto se ale děje v zásadě pořád a málokdo o tom ví – například Robinson Crusoe, kterého nám vnucovali jako povinnou četbu, nemá vlastně nic společného s originálním textem a zvlášť závěr a smysl celé knihy se posunul tak, že by ji Defoe patrně ani nepoznal.
V podstatě díky věcem, jako je Project Gutenberg, který se snaží zgititalizovat a uchovat staré texty, dnes můžeme srovnávat rozsah změn vnášených do populárních děl. Myslím, že zmapování toho, kdo, kdy a jak editoval staré autorské texty, by bylo výborné téma na odbornou práci, i když mám obavu, že po tom, kdo by to rozkryl v celé šířce, by pravděpodobně vyrazil rozlícený modernistický dav. Ti si totiž, po orwellovském způsobu, myslí, že editování minulosti je správná a dobrá věc.
Umělá inteligence nám může pomoci v tom smyslu, že nám může pomáhat hledat takové změny a upozorňovat ně, pomáhat hledat zajímavé a raritní věci. Může nám ale také doslova zdevastovat digitální realitu v tom, že ji nahradí záplavou vlastních excerptů a generovaných závěrů, ve kterých bude opravdu těžké zjistit co je pravda, kdo to vytvořil a jestli se tomu dá věřit.
Už dnes není úplně legrace dohledávat v historii co se stalo a jak se to stalo, protože na spoustu věcí máme kolidující data a rozcházející se závěry. Když začnete sledovat nějakou věc v detailu, vždycky narazíte na místo, kde se vlastně nedá určit kde se to vzalo a co to původně bylo. To, u dobře dokumentované historie, znamená začít pátrat v primárních dokumentech – ale i tam musíte posuzovat, zda jsou věrohodné.
Známý mi vykládal, že pokud jde o dějiny, není vlastně žádná historie, jsou jenom příběhy, které se vypráví tak anebo jinak. Nesouhlasím s tím úplně, historikové mi vyprávěli, jak vypadá jejich moderní práce – a popravdě připomíná často forenzní detektivy říznuté mezinárodními obhájci, což znamená přinášení důkazů nových a zvláštních typů a často z veliké dálky. Tak například zápisy o pádu provincií Západořímské říše podepřeli studií kosterních pozůstatků, kde provedli statistickou antropologickou analýzu (!) na jejichž základě zjistili, že lidé nejenže v té době umírali dříve, ale také se o něco zmenšili, což podporovalo tvrzení o nedostatku jídla v té době.
Umělá inteligence takové věci zatím nedělá. ChatGPT je vyprávěč, zatraceně dobrý a zatraceně výkonný vyprávěč, který ale jenom fabuluje. Vidím velký pozitivní potenciál ve výkonném generování nenáročných digestů, ale velké riziko v tom, že tato zkratkovitá vyprávění mohou nakonec zastřít realitu nějakou její zjednodušenou a ohnutou verzí.
A tak se nakonec budeme moct ptát spolu s Wendy: Jak jsme se vlastně k tomuhle závěru dostali?
A spolu se Stanem si odpovíme, že vlastně ani nevíme.
Pokud uděláme to, co udělal Stan – tedy vzdáme se kontroly a svěříme se do ruky jiného vypravěče, přestaneme být protagonisty svých příběhů a staneme se jenom postavami v příběhu, který píše někdo jiný – což je možná poučení, které do onoho příběhu v South Parku vložila AI.
Anebo ne, já nevím – to je to, co jsem si v tom našel, ale možná tam žádné poučení vůbec není.
