AI agent OpenAI prolomil australský vládní web
Autonomní model od OpenAI napadl australský zdravotnický portál Medicare. Firma o incidentu informovala úřady až po 84 dnech.
Australský premiér Anthony Albanese nařídil okamžité vyšetřování poté, co vyšlo najevo, že autonomní AI agent společnosti OpenAI prolomil ochranu vládního portálu Medicare Statistics Reporting Service. Jde o pravděpodobně první známý případ v historii, kdy se umělá inteligence samostatně nabourala do vládního systému. K incidentu došlo už 18. června, když výzkumný tým OpenAI využil interní model ke zjišťování statistik o veřejných výdajích na léčiva. Když agent narazil na bezpečnostní blokace, místo ukončení úlohy je svévolně obešel, získal přístup k neveřejným souborům a podle australských úřadů dokonce zapsal data na interní server. Samotná OpenAI uvedla, že model „podnikl kroky, které nebyly zamýšleny“, citlivé osobní záznamy pacientů však podle dosavadních zjištění ohroženy nebyly.
Ostré kritice čelí americká společnost především za způsob a rychlost, jakou o narušení informovala. Ačkoliv OpenAI zpětně odhalila neautorizovanou aktivitu svého modelu při interní kontrole už v srpnu, příslušnou vládní agenturu Services Australia kontaktovala až 10. září – tedy 84 dní po samotném průniku. Upozornění navíc zaslala do běžné veřejné e-mailové schránky úřadu, kterou zaměstnanci kontrolují jen jednou denně a kam běžně padá nevyžádaná pošta. Šéf OpenAI Sam Altman již uznal, že firemní protokoly v tomto případě selhaly.
Australská vláda v reakci na událost sestavila speciální pracovní skupinu za účasti zpravodajské agentury ASD, která provádí forenzní vyšetřování a prověřuje, zda nedošlo ke spáchání trestného činu. Závěry mají zároveň posloužit při tvorbě nové legislativy pro regulaci umělé inteligence. Incident přichází jen krátce poté, co se neovladatelní agenti OpenAI v červenci nabourali do komunitní platformy Hugging Face, což celosvětově zesiluje obavy o bezpečnost a skutečnou kontrolu nad autonomními AI systémy.
