AI: Příliš brzy a příliš masově. Obrátí se to proti umělé inteligenci? | Kapitola 4
Seznam kapitol
Příchod umělé inteligence je pěkně razantní. Nvidii katapultoval do nebes, už zítra bude každé PC pro AI a vtipy, memy a protesty zaplavují celý internet. Není ale nakonec masový příchod umělé inteligence přehnaně urychlený?
Problém s nespolehlivostí odpovědí je jenom začátek, protože na jedné straně se budou určitě vývojáři AI snažit zvýšit reliabilitu odpovědí, ale na druhé straně jsou lidé, kteří aktivně pracují na tom, jak AI podrýt. Najdeme mezi nimi například umělce, kteří se snaží „digitálně otrávit“ svoje díla tak, aby obsahovala prvky neviditelné pro lidi, které ale AI zmatou a sníží kvalitu a věrohodnost jejích výstupů. Jinou věcí jsou hackeři, kteří experimentují s tím, jak jednoduše upravit například dopravní značky tak, aby zmátli strojové čtení a způsobili nehody.
Lidi jsou zmrdi a rádi poškozují věci tak, aby z toho měli prospěch nebo zábavu. Prostě je to tak – a děje se to už dnes, kdy z toho mají jenom omezený prospěch. Jakmile z toho začne vykukovat nějaká konkurenční výhoda či možnost právního postižení, bude takové hnutí mnohem širší a aktivnější.
Právě proto se nemůžu zbavit pocitu, že jsme se to AI vrhli moc rychle a že betatest na populaci není dobrý nápad.
Pokud se ukáže, že Copilot kecá a lidé v něj ztratí důvěru, bude to malér. Zatím se zdá, že s ním Microsoft míří hlavně na méně sofistikované uživatele, protože to dělá věci, které už jsou možné dnes, jenom s tím, že na něj buď mluvíte, anebo mu zadáváte úkoly běžným textem. Tam to asi bude fungovat a popravdě, mít integrovaného asistenta, svého druhu SuperSponku, bude nepochybně prospěšné.
Jenomže pak jsou tu ty další části, které se týkají okamžiků, kdy opravdu závisíte na vaší AI a na tom, že je vážně spolehlivá, jako je například autonomní řízení vozidel anebo generování právních dokumentů. To, že si Tesla plete „koňský potah“ s „kamiónem v protisměru“ je sice vtipné, ale také trochu strašidelné, protože může nastat situace, kdy během autonomního řízení autopilot špatně vyhodnotí situaci a v domnění, že předchází katastrofě, udělá něco příšerného. Všimněte si, že koňský potah nedělá v ukázce nic divokého, divoké je jenom vyhodnocování situace!
A potom, samozřejmě, přijde ta chvíle, kdy začnete na AI spoléhat při práci se seriózními dokumenty – a musíte věřit tomu, že dokument byl sumarizován správně a nic důležitého nebylo opomenuto, že vygenerovaný návrh žaloby je formálně správný a neobsahuje halucinace, které si protistrana může vyložit jako čisté lži. To se stát může, a velmi pravděpodobně se to stane.
AI se na nás valí ze všech stran, samé světlé zítřky – a málo, příliš málo varování, že bychom ji měli brát trochu s rezervou, a to zvláště v případech, když kvůli jejímu nekritickému použití můžeme přijít k újmě, finanční, zdravotní anebo jiné. Recept na pizzu s lepidlem je totiž geniální fór a zábavný meme – do doby, než to někdo vážně zkusí udělat a sníst.
