AI: Příliš brzy a příliš masově. Obrátí se to proti umělé inteligenci?

Dnes je naprosto běžné, že si lidé dělají z umělé inteligence srandu. Jeden klasický kousek spočívá v tom, že se zeptáte GPT4, kolik r je ve slově „strawberry“ (How much r is in strawberry?) – a systém odpoví, že dvě: The letter "r" appears twice in the word "strawberry." Systém ve skutečnosti umí odpovědět správně, stačí přeformulovat dotaz na „spočítej počet r ve slově strawberry“ (Count number of r in strawberry) a systém odpoví „třikrát“ (The letter "r" appears three times in the word "strawberry.") 

Když to samé zkusíte se slovem „counterrevolutionares“, odpověď na první dotaz je ještě překvapivějších pět, zatímco na druhý dotaz opět správně odpoví, že tam jsou tři. První dotaz z nějakého důvodu neaktivuje skutečné počítání, systém si prostě jenom tipne a zřejmě zohlední délku slova, zatímco odpověď na druhý dotaz je podstatně pomalejší a zřejmě zahrnuje skutečné počítání, o čemž svědčí to, že si k tomu GPT4 udělá následující pythonovský kód, o který se s vámi podělí:

# Count the number of 'r' in the word "counterrevolutionaries"

word = "counterrevolutionaries"

r_count = word.count('r')

r_count

Jinými slovy modely LLM hádají a zatím jenom někdy správně poznají, že po nich chcete skutečnou analýzu, na kterou musí jít jinak. Není to ani zdaleka dokonalé – a abych řekl pravdu, právě fakt, že nám Microsoft začíná vnucovat PC AI na těchto funkčních, ale zdaleka ne dokonalých nástrojích, vidím jako velký problém. 

Ještě povedenější je to, že po záplavě kritiky Microsoft musel uznat, že Recall není úplně promyšlený nápad. Nejen já jsem to tvrdě kritizoval, ale zdá se, že se to nelíbí většině světa kromě Microsoftu – a dost možná tam ani nepromysleli dopady na porušování pravidel o zachování soukromí, takže alespoň dočasně tu ujetost stahují. Jednoduše to udělali, vrazili do do buildu Windows, nebyl čas přemýšlet kdo je kdo, funkcí s AI muselo přibýt – a teprve negativní reakce je donutily uvažovat.