Anthropic AI odhalila tisíce kritických chyb v operačních systémech
Model Claude Mythos Preview odhalil tisíce neznámých zranitelností v hlavních operačních systémech a prohlížečích. Společnost Anthropic jej proto nepustí na veřejnost.
Společnost Anthropic představila svůj nejnovější model umělé inteligence s názvem Claude Mythos Preview. Tento nástroj prokázal bezprecedentní schopnost identifikovat softwarové chyby, když objevil tisíce dosud neznámých zranitelností s vysokou mírou závažnosti. Problémy se týkají všech hlavních operačních systémů a webových prohlížečů, přičemž některé chyby zůstaly nepovšimnuty i desítky let. Příkladem je 27 let stará zranitelnost v systému OpenBSD nebo 16 let stará chyba v knihovně FFmpeg.
Model Mythos Preview dokáže tyto chyby nejen najít, ale také je aktivně zneužít. V testovacím prostředí prohlížeče Firefox dokázala AI přeměnit přes 72 procent nalezených zranitelností ve funkční exploity. V jednom případě model úspěšně zkombinoval čtyři různé chyby k vytvoření komplexního útoku, který bez problémů překonal veškeré bezpečnostní bariéry.
Z důvodu enormního bezpečnostního rizika se Anthropic rozhodl tento model nezveřejnit. Místo toho společnost založila iniciativu Project Glasswing, v rámci které spolupracuje s technologickými giganty jako Microsoft, Apple, Google, Amazon či The Linux Foundation. Cílem je poskytnout těmto firmám čas na vývoj a distribuci bezpečnostních záplat.
Do programu je zapojena i vláda Spojených států, se kterou Anthropic sdílí informace ohledně dopadů na kybernetickou bezpečnost. Vzhledem k obrovskému množství nalezených chyb je však v současné době plně opraveno méně než jedno procento všech hlášených problémů.
