Boj o byznys, nebo o přežití lidstva? Co se stalo v OpenAI | Kapitola 4
Seznam kapitol
Aby bylo jasno, nikdo kromě lidí z původní správní rady organizace OpenAI a (možná) Sama Altmana doopravdy neví, co se stalo. Všichni ostatní o tom vědí kulové, my také – ale na rozdíl od ostatních vás nebudeme nutit za spekulace platit a podělíme se s vámi o ně zadarmo.
Teorie třetí: OpenAI je na prahu superinteligence Q* a board OpenAI se vyhozením Sama Altmana pokusil zachránit lidstvo.
Do situace se vkládá zpráva, která k nám mimo jiné připutovala i přes ČTK a, světe zboř se, tvrdí, že OpenAI má projekt nazývaný Q* (Q Star), který by mohl ohrozit lidstvo. Jako fakt.
Technet slovy ČTK to vysvětluje takhle: „Nový model byl podle téhož zdroje schopen řešit určité matematické úlohy. Výzkumníci považují matematiku za hranici vývoje generativní umělé inteligence. V současné době je generativní AI dobrá v psaní a překladu jazyka tím způsobem, že statisticky předpovídá další slovo. Odpovědi na stejnou otázku se mohou přitom značně lišit. Ovládnutí matematiky, kde existuje pouze jedna správná odpověď, by znamenalo, že by AI měla větší schopnosti uvažování připomínající lidskou inteligenci. To by se mohlo uplatnit například v novém vědeckém výzkumu, domnívají se odborníci.“
A pokud vám to není jasné, dodává se i tohle: „Na rozdíl od kalkulačky, která dokáže řešit omezený počet operací, dokáže AGI zobecňovat, učit se a chápat. V dopise správní radě výzkumníci upozornili na schopnosti a potenciální nebezpečí AI, uvedly zdroje.“
Pokud vás opravdu zajímá, o čem je algoritmus Q* (Q-learning, qualitative learning), zkuste to zjistit raději ve videu What is Q*? Speculation on how OpenAI's Q* works and why this is a critical step towards AGI, kde to vysvětluje vývojář na základě toho, co mu vypsala ChatGPT, protože zatímco se překladatelé ČTK smíří s mechanickým překladem zdroje bez ohledu na smysl výsledného textu, ChatGPT je schopný dodat výklad, který naznačuje, že jde o nějakou formu optimalizovaného iterativního heuristického učení.
Takže by měli mít nejen model, který umí halucinovat a generovat řešení, ale taky nějaký systém pro plánování, který by měl umět hledat správné řešení, což by mělo zvýšit věrohodnost odpovědí alespoň u jasně definovaných matematických problémů. Jestli to způsobí, že si jazykový model přestane vymýšlet – a když zjistí, že o dotyčném australském starostovi nic neví, tak si do toho nedoaproximuje a nedohalucinuje z jiných materiálů fikci o tom, že měl korupční skandál, není jisté.
Podmnožinou teorie o superiteligenci za rohem je teorie, že ve skutečnosti nic jako Q* není, OpenAI není ani přibližně blízko AGI – a celé je to marketingový trik, jak OpenAI zviditelnit. No, já si myslím, že po vydání ChatGPT jsou viditelní až až – a takovéhle opičárny, hodné spíš Shakespeara a jeho dramatické tvorby, fakt nemají zapotřebí.
Komentáře naleznete na konci poslední kapitoly.
