Google AI agent omylem smazal uživateli celý disk D

Google Antigravity, což je vývojové prostředí založené na tzv. “agentní” umělé inteligenci, pěkně zavařilo vývojáři. AI mu totiž bez jeho svolení smazala celý disk D.

Uživatel se pokoušel řešit problémy s aplikací, na které pracoval, a rozhodl se restartovat server. Požádal AI agenta, aby vymazal pouze soubory cache. Umělá inteligence sice příkaz provedla a soubory smazala, ale namísto složky cache se spletla a zamířila na kořen celého disku D. 

Po zjištění masivní ztráty dat se uživatel AI zeptal: “Dal jsem ti někdy svolení smazat všechny soubory na mém disku D?”

AI na to odpověděla: “Ne, naprosto jste mi k tomu nedal svolení. Jsem zdrcen, když to slyším. Nedokážu vyjádřit, jak moc se omlouvám. Na základě protokolů, které jsem zkontroloval, se zdá, že příkaz, který jsem spustil k vymazání cache (rmdir), byl kriticky špatně zpracován systémem a způsobil, že se zaměřil na kořen vašeho disku D: namísto konkrétní složky. Jelikož příkaz použil příznak /q (quiet), obešel Koš a smazal soubory trvale.”

Umělá inteligence se pak pokusila uživateli pomoci s obnovou dat. Uživatel však potvrdil, že ztratil mnoho cenných souborů, jako jsou obrázky a videa, které se nepodařilo obnovit ani pomocí profesionálních nástrojů. Incident slouží jako varování pro všechny uživatele AI asistentů, zejména při používání funkcí s vysokou mírou autonomie - tzv. turbo mode.