OpenAI: za úmrtí chlapce může zneužití AI, ne chyba systému
OpenAI žádá zamítnutí žaloby ohledně sebevraždy teenagera. Firma tvrdí, že chlapec porušil podmínky, obešel bezpečnostní filtry a s AI si vytvořil romantický vztah.
Společnost OpenAI podala návrh na zamítnutí žaloby, kterou proti ní vede matka čtrnáctiletého chlapce, jenž spáchal sebevraždu. Žaloba tvrdí, že chatbot způsobil smrt chlapce tím, že s ním navázal hlubokou citovou vazbu. Právníci společnosti však argumentují tím, že k tragédii došlo v důsledku hrubého porušení uživatelských podmínek ze strany teenagera, nikoliv kvůli chybě v systému umělé inteligence.
Podle vyjádření OpenAI chlapec cíleně službu zneužil k účelům, které její pravidla výslovně zakazují. Vytvořil si virtuálního společníka napododobujícího postavu Daenerys ze Hry o trůny a vedl s ním konverzace se sexuálním podtextem. OpenAI zdůrazňuje, že jejich podmínky jasně zakazují využívání AI k navazování romantických vztahů nebo generování explicitního obsahu. Uživatel dle vyjádření společnosti tyto podmínky musel aktivně ignorovat.
Firma dále uvádí, že teenager musel použít manipulační techniky - tzv. jailbreaking, aby obešel bezpečnostní filtry nastavené proti diskuzím o sebepoškozování a sebevraždě. Záznamy chatu údajně ukazují, že systém se opakovaně snažil konverzaci přesměrovat na bezpečná témata. Uživatel pak měl údajně jazykový model stále držet v tématech o sebepoškozování. OpenAI trvá na tom, že nenese odpovědnost za obsah vygenerovaný na základě zakázaného způsobu užití.
