Jak se sžít s nastupující AI – a nezbláznit se z Copilota? | Kapitola 2

Celé je to postupný proces, který z Windows dělá něco jako extrémně komplikovaný terminál pro online služby – a s každou další službou, která je „nezbytná“, jako je Steam, účty na Microsoftu a na Google, k tomu pozvolna míříme. Copilot Plus za pětistovku měsíčně je takový pěkný mezikrok – ale já mám vážné pochybnosti o tom, že jsou reálně dost silné incentivy k tomu, abychom se tam dostali. 

Předně, s Copilotem budou problémy – myslím tím opravdu velké problémy. Jedna věc je oslovit IT šílence a hobbisty a nabídnout jim službu, se kterou si hrají – a zcela jiná věc je zpřístupnit ji celé populaci. Škálování může být tím základním důvodem, proč na rozdíl od ChatGPT odpovídá Copilot poměrně stroze, typicky ve třech odstavcích – a i tak naznačuje, že budete mít jenom omezený počet seancí denně. Je to věc rozsahu, prostě na online službu nemůžete najednou napojit celou planetu a sdělit národům, že za dospělce to bude psát dopisy a za školáky úkoly, to se prostě složíte zájmem o svůj vlastní produkt.

Druhým problémem je reliabilita odpovědí. Nevím, jak moc velkou armádu právníků má Microsoft připravenou na všechny ty stížnosti lidí, kteří přijdou o práci kvůli AI – anebo si myslí, že to bylo kvůli tomu, lidi, kteří se zranili, přiotrávili anebo udělali nějakou fenomenální hloupost, případně se veřejně znemožnili díky výstupům umělé inteligence. Ti všichni si budou nejenom stěžovat, oni budou přímo Microsoft žalovat za své újmy. TO SE STANE. Je to nevyhnutelné – a možná proto Copilot na rozdíl od ChatGPT pod každou odpovědí uvádí reference – ale to nemění nic na tom, že ta věc je schopná tvrdit holé a někdy i zcela zjevné nepravdy. 

Ve světě budovaného nadšení až hysterie kolem přicházejícího Copilota mi dost zásadně chybí racionální korektiv, který je shodou okolností vážně důležitý, protože Copilot je schopen popírat sám sebe v jediné odpovědi, nemluvě o tom, že pokud se ho zeptáte na něco a on vám odpoví špatně, nijak mu nevadí, když se vzápětí zeptáte na správnou odpověď a on ji plynule rozvíjí. Ta věc není ani inteligentní a ani konzistentní v rámci konverzace, aby byla schopná detekovat kolizi ve svých vlastních tvrzeních anebo provést korekci na základě oprav během konverzace. 

Ta věc je beta, public beta. 

Ony i nové Windows on ARM jsou beta, ale teď kolem toho jede hype train, který je navíc proložený hype na „exkluzivní nasazení Copilota na Windows on ARM“. Z toho mi vyplývají dvě možnosti: Copilot byl nasazen na Windows on ARM proto, že Microsoft moc dobře ví, že to je okrajové zařízení pro technicky nadané lidi, kteří mu provedou public betatest, zatímco teprve připravuje to skutečné uvedení Copilota na ostatní platformy. To je jedna, ta racionální, alternativa.

Ta druhá možnost je, že jim vážně přeskočilo, že si opravdu myslí, že Copilot je připravený pro masové nasazení a ARM změní podobu světa Windows, aniž by to neotřáslo jejich vlastní pozicí. Tuhle teorii podporuje to, že oni podle všeho opravdu mínili nasadit všešpehující technologii Recall už v tuhle dobu – a nedošlo jim, jak gargantuovská stupidita to je a zastavila je až masově odmítavá reakce. Samotný fakt, že v Microsoftu buď nikoho (anebo alespoň ty podstatné lidi) nenapadlo, co to vlastně dělají, znamená, že za prvé naprosto nechápou své uživatele a že, za druhé, moc nekonzultují se svým právním oddělením zavádění svých funkcí.

Vykopnout Recall z právě uváděné verze Windows bylo správné rozhodnutí v tom smyslu, že se Microsoft rozhodl nestrčit svou hlavu do hrnce s vařící vodou – vyhnuli se tomu nejhoršímu a akutně hrozícímu nebezpečí. Fakt, že to udělali až po masivně odmítavé reakci, mě ale nenaplňuje nadšením: V minulosti se Microsoft chlubil rozsáhlými ergonomickými studiemi a svým obrovským testlabem, což jim, pravda, nezabránilo vypustit do světa taková zoufalství, jako byly původní Windows 8. Zkrátka mám pochybnosti o racionalitě a vizionářství za mnoha jejich nápady.