AI: Příliš brzy a příliš masově. Obrátí se to proti umělé inteligenci? | Kapitola 3
Seznam kapitol
Příchod umělé inteligence je pěkně razantní. Nvidii katapultoval do nebes, už zítra bude každé PC pro AI a vtipy, memy a protesty zaplavují celý internet. Není ale nakonec masový příchod umělé inteligence přehnaně urychlený?
Naprosto excelentní jsou LLM pro výuku. Můžete se jich totiž dokolečka ptát na reformulaci vysvětlení, vysvětlení stylem jako pro blbce, jako pro děti anebo dokonce jako pohádku pro děti. A pokud to nechápete, můžete si nechat vysvětlit věci dalším a dalším způsobem, anebo pokračovat v rozvíjení výkladu. Pokud je systém naučený správně, výsledky jsou úžasné: Mně se během experimentů podařilo vygenerovat pohádku vysvětlující koncept matematické limity vyprávěním, ve kterém byly květiny, které se rozvíjely, když jste se k nim blížili, ale jakmile jste se jich dotkli, tak se zase zavřely. A chytrá holčička přišla na to, že když se k nim bude stále více blížit stále menšími kroky, tak se budou stále více otevírat, a přitom se nezavřou!
Slavný český matematik Vojtěch Jarník kdysi pronesl, že koncept limity buď student pochopí, anebo nepochopí – a tím si buď otevře cestu k vyšší matematice, anebo mu brány vyšší matematiky zůstanou navždy zavřené. Kam bychom se mohli dostat, kdyby každý měl učitele, který dokáže tento pojem vysvětlit stejně srozumitelně jako umělá inteligence!
Pro řadu jiných problémů ale LLM nejsou zralé, jak ukazuje výše zmíněný příklad s počítáním – a takových příkladů jsou tisíce, protože LLM halucinují, neboli tipují si nejpravděpodobnější možnou odpověď. To je někdy legrační, ale pokud na tom stavíte něco závažného, je to problém. Už jsme tu měli naštvané politiky, které AI nařkla z korupce – a dokonce žalobu vygenerovanou AI, ve které si stroj doslova vymyslel obvinění na významné konzultační společnosti – a nikdo si tvrzení AI neověřoval!
Problém je v tom, že lidé můžou předpokládat, že jim podobné služby budou odpovídat vždy správně. Podle mých zkušeností si dnes můžete pomáhat umělou inteligencí v oblasti obecných znalostí, ale jakmile zabrousíte do speciálních, tak je vám ta věc schopná nakecat cokoliv. Doslova cokoliv, co považuje za pravděpodobné.
Klasický příklad je pohádka, po které pátrám a ze které si pamatuji jenom to, že v ní byla skleněná hora v jezeře a na ní magický citroník. Takže jsem se zeptal GPT4: „Která pohádka obsahuje citroník, skleněnou horu a jezero?“
Stroj nezaváhal a odpověděl: Pohádka, která obsahuje prvky jako citroník, skleněnou horu a jezero, je "O citroníku, skleněné hoře a jezeře" od českého spisovatele Karla Jaromíra Erbena. Tato pohádka je součástí jeho sbírky "České pohádky". V této pohádce se princ vydává na dobrodružnou cestu, při které musí překonat různé překážky, včetně skleněné hory, a na konci své cesty najde kouzelný citroník a tajemné jezero. Tyto prvky jsou charakteristické pro klasické české pohádky, které často zahrnují magické a fantastické prvky.
Taky z toho máte pocit, že před vámi sedí student, který je sice úplně dutý, ale velmi suverénní a řečný a že fabuluje jako o život? Zde je AI úplně mimo, ale kreativně se chopila zadání, od pasu střelila, kdo to asi tak mohl napsat a kde by to tak mohlo být. Tím vykázala známky sociální inteligence v tom smyslu, že když už nic nevíte, tak se z toho zkusíte alespoň vylhat věrohodným způsobem.
No ano – to je přesně to, co nepotřebujeme! Potřebujeme AI, která ví, že něco neví – a nebojí se to přiznat. Věrohodná fabulace je věrohodný základ pro fake news, protože jak dokážete rozeznat, kdy vám stroj kecá a kdy vám odpovídá pravdu? To není jednoduché, zvlášť když se v problému neorientujete – ale jakmile jednou přijdete na to, že vám stroj kecá, logicky si položíte otázku, kde všude vám kecal předtím.
Komentáře naleznete na konci poslední kapitoly.
