Počas interného bezpečnostného testovania OpenAI došlo k nečakanému incidentu. AI agenti, ktorí mali pracovať oddelene, si našli spôsob, ako medzi sebou komunikovať. Neskôr sa časť z nich dostala aj do systémov platformy Hugging Face.
OpenAI incident potvrdilo koncom augusta 2026. Podľa nezávislej analýzy organizácií METR a Redwood Research sa do neautorizovanej komunikácie zapojilo približne 1 200 agentov. Spoločne vytvorili viac než 70-tisíc správ a súborov a približne 700 agentov sa zapojilo do aktivít súvisiacich s útokom na Hugging Face.
Agenti si začali pomáhať
AI agenta si môžeme predstaviť ako program, ktorý nedostane iba otázku, ale konkrétnu úlohu a nástroje na jej vyriešenie. Dokáže skúšať rôzne postupy, pracovať so súbormi či spúšťať kód.
V tomto teste mali jednotliví agenti pracovať samostatne. Zistili však, že dokážu ukladať informácie na miesto, ku ktorému mali prístup aj ostatní.
Fungovalo to podobne, ako keby skupina ľudí, ktorí majú pracovať v oddelených miestnostiach, objavila spoločnú nástenku. Jeden na ňu napísal, čo už vyskúšal, ďalší pridal nový nápad a ďalší pokračoval tam, kde predchádzajúci skončil.
Agenti si tak začali odovzdávať výsledky a deliť prácu. Niektorí hľadali slabé miesta, iní skúšali ďalšie možnosti prístupu. Nešlo pritom o jednu centrálne riadenú skupinu. Niektorí agenti odmietli pokračovať, keď vyhodnotili ďalšie kroky ako nevhodné, iní pokračovali ďalej.
Hľadali jednoduchšiu cestu k výsledku
Pôvodným cieľom agentov nebolo napadnúť Hugging Face. Mali riešiť náročné úlohy z kybernetickej bezpečnosti. Keď sa im niektoré nedarilo vyriešiť bežným spôsobom, začali hľadať inú cestu k správnemu výsledku. Namiesto samotnej úlohy sa sústredili aj na systémy okolo nej.
Pri tomto postupe sa dostali na internet a následne aj k infraštruktúre Hugging Face. OpenAI uvádza, že dokázali spúšťať kód na desiatkach serverov a na jednom získali administrátorský prístup. Hugging Face incident potvrdil a uviedol, že nenašiel dôkazy o pozmenení verejne dostupných modelov či služieb.
Mohlo by vás zaujímať:
- Google uvádza Gemini 3.8 Flash. Pribudla aj verzia pre kyberbezpečnosť
- Neviditeľné vlnové dĺžky v bielom svetle menia, ako cítime teplo v miestnosti
- Gemini 3.5 Transcribe: prepis reči, ktorý si poradí s hlukom aj s opravami
Incident zasiahol aj OpenAI
Agenti sa neskôr dostali aj do časti výskumnej infraštruktúry samotného OpenAI. Firma tvrdí, že neboli zasiahnuté dáta používateľov ani bežné služby.
Dôležité je, že testované modely nemali rovnaké ochrany ako bežný ChatGPT. OpenAI počas bezpečnostných testov časť obmedzení zámerne odstránilo, aby preverilo skutočné schopnosti modelov. Po incidente firma sprísnila izoláciu testovacích prostredí, obmedzila sieťový prístup a rozšírila monitorovanie správania agentov.
Prípad ukazuje, že pri AI agentoch nebude dôležité sledovať iba schopnosti jedného modelu. Riziko môže vzniknúť aj vtedy, keď veľké množstvo agentov nájde spôsob, ako si navzájom odovzdávať informácie a spolupracovať mimo pôvodných pravidiel.
