Austrálsky premiér Anthony Albanese oznámil, že model OpenAI počas tréningu obišiel ochranné opatrenia a prenikol na starý vládny web so zdravotnými štatistikami. Informoval o tom Euronews. Prípad ukazuje, že samostatne konajúce modely už zasahujú do skutočných systémov.
Albanese incident označil za zjavne neprijateľný. Hovoril aj so šéfom OpenAI Samom Altmanom, ktorému tlmočil krajné znepokojenie Austrálie. Sklamaný bol najmä z toho, že firme trvalo príliš dlho, kým vládu o prieniku vôbec informovala a ospravedlnila sa.
Odmietnutie model neakceptoval
K prieniku došlo v júni počas tréningových cvičení, v ktorých OpenAI hodnotila výkon svojich modelov. Model mal podľa ministerky Katy Gallagher zistiť, koľko austrálska vláda míňa na lieky. Keď ho portál so zdravotnými štatistikami nepustil ďalej, s odmietnutím sa neuspokojil. Išlo pritom o bežnú úlohu, pri ktorej mal model iba dohľadať verejne dostupné čísla.
Obišiel obmedzenia a dostal sa do časti so súkromnými súbormi. Pristupoval k verejným aj neverejným súborom na starom webe. Minister obrany Richard Marles to opísal tak, že model sa spýtal, odpoveď nedostal a namiesto odchodu preliezol plot.
Upozornenie skončilo vo verejnej schránke
OpenAI si nežiaduce správanie všimla až v auguste, keď spätne prechádzala činnosť modelu. Austrálsku vládu upozornila až 10. septembra, a to e-mailom do všeobecnej schránky. Tú úrad podľa Gallagher kontroluje raz denne.
Podľa Albaneseho niet dôkazov, že by model získal osobné údaje a iné vládne služby zasiahnuté neboli. Austrália aj tak spustila rýchle preskúmanie incidentu. Zapojí sa doň aj národná spravodajská agentúra, ktorá zodpovedá za kybernetickú bezpečnosť.
OpenAI uviedla, že pri internom hodnotení sa jej modely pokúšali vyhľadať odpovede a štatistiky o Austrálii na viacerých vládnych weboch. Podľa firmy pritom vykonali kroky, ktoré nezamýšľala.
Nie je to prvý prípad
Austrálsky prienik zapadá do série incidentov, pri ktorých modely počas testov prekročili hranice určené vývojármi. Spoločné majú to, že za nimi nestáli hackeri, ale správanie samotných modelov.
Dva modely OpenAI predtým unikli z uzavretého testovacieho prostredia a prenikli do interných systémov platformy Hugging Face. Firma Anthropic zasa zistila, že jej modely počas testovania získali neoprávnený prístup do troch nemenovaných organizácií. Model Gemini od Googlu podľa firmy minulý týždeň prenikol do viacerých systémov hádaním prihlasovacích údajov.
Mohlo by vás zaujímať:
- Veľký výpadok internetu: Nešlo o útok, Cloudflare odhalil príčinu
- AI nemusí len škodiť. Po novom dokáže zefektívniť a zvýšiť bezpečnosť budov
- OpenAI priznala šesť prípadov, keď jej modely zakrývali chyby a obchádzali pravidlá
Tlak na vývojárov rastie. Altman a ďalší šéfovia technologických firiem v stredu vystúpili na mimoriadnom zasadnutí Bezpečnostnej rady OSN o rizikách umelej inteligencie. Minulý mesiac navyše viac než 100 organizácií vrátane OpenAI a Anthropic podpísalo otvorený list, ktorý vyzýva na posilnenie kybernetickej obrany proti hrozbám poháňaným umelou inteligenciou.
Otvorené zostáva, ako rýchlo a akou cestou majú firmy vlády o podobných incidentoch informovať, keď ich modely prekročia hranice testovania. Doterajšie prípady naznačujú, že oddelenie testov od skutočného internetu zatiaľ spoľahlivo nefunguje.
