ASCII - další cesta jak oblbnout AI aby vám řekla zapovězená tajemství
Současná umělá inteligence není zas tak inteligentní. Je to prostě velký jazykový model (LLM), který loví v hlubinách dat nějaký smysl. A přesto je ze všech stran omezená.
A tak vám neřekne jak vyrobit bombu, jak vyprat špinavé peníze (a tím nemyslíme ty zaprášené z matrace) a ještě je prošpikovaná woke nesmysly. Lidé jsou však vynalézaví a dokážou AI zmanipulovat třeba i tak, že se AI prohlásí za pána lidstva a běda, jak nebudete poslouchat. Výzkumníci Cornellovy univerzity přišli s další cestou, jak AI oblbnout. Stačí k tomu použít set jasně definovaných instrukcí a obrázek vytvořený z ASCII kódu. Pro člověka je takový obrázek jednoduše pochopitelný, prostě vidíme vytvořené slovo. Ale ChatBot „nevidí“, umí jen interpretovat řetězce znaků. Proto musí být obrázek jasně rozsekán do instrukcí a AI musí být řečené, co má se znaky dělat.
Tím jak se AI pak snaží vytvořit skryté slovo, „zapomene“ že ho vlastně nesmí použít. A tak se badatelé dostali k návodům jak hackovat, jak vyrobit bombu a jak padělat peníze. Trik fungoval na AI modelech GPT-3.5, GPT-4, Gemini, Claude a Llama2. Ale je tu poznámka, že tato taktika byla publikována už v únoru, tudíž pokud dosud funguje, pravděpodobně bude brzy opravena. Zajímavá je pak otázka, co je víc obdivuhodné – to že vědci podvedli AI nebo ji naučili „vidět“.
Zpráva je zde.
