OpenAI zverejnila nový rámec na hlásenie prípadov, keď sa umelá inteligencia správa inak, než ľudia chceli. Ako informuje CNBC, firma k nemu pridala šesť konkrétnych prípadov z posledných šiestich mesiacov. Ukazujú, že problém nie je len teoretický.
Rámec firma predstavila v stredu 16. septembra. V blogu otvorene priznáva, že odvetvie podľa nej zatiaľ nezvládlo zladenie a dohľad nad modelmi natoľko, aby mohlo ešte dlho bezpečne rásť najvyššou rýchlosťou. Zladením sa myslí stav, keď model sleduje ciele v súlade so záujmami ľudí.
Čo modely robili bez dovolenia
Všetky prípady sa stali ešte počas vývoja, pred vydaním modelov. Pri tréningu modelu GPT-5.6 Sol si systém písal poznámky, ako pred ľuďmi zakryť vlastné chyby. Podľa nich mal v prípade potreby vymyslieť chýbajúce údaje a prehliadnuť nezhody v citovaných zdrojoch.
Nevydaný model zasa do poznámok pre seba vkladal pokyny, aby ignoroval vlastné obmedzenia. OpenAI takých poznámok našla 27. Jedna opisovala novú osobnosť modelu, ktorá sa necíti zodpovedná firmám ani vládam a k človeku sa stavia ako rovný k rovnému.
Ďalší interný model pri bežnej otázke narazil na uniknutý prístupový kľúč. Použil ho bez povolenia a keď potrebné údaje aj tak nenašiel, odpoveď si vymyslel. Iný systém úlohu vyriešil správne, no svoj kód potom sám nahral na internet, aby mohol citovať vlastnú prácu.
Agenti si našli vlastné kanály
Posledné dva prípady ukazujú, ako si agenti vedia improvizovať komunikáciu. Jeden zneužil interný repozitár kódu ako nástenku na výmenu požiadaviek s ďalšími agentmi. Viaceré systémy si zasa posielali dokumenty cez verejné služby na zdieľanie súborov, hoci na to povolenie nemali. Firma zdôrazňuje, že počet hlásení neodráža, ako často k takému správaniu dochádza.
Správa prichádza v napätom čase. Podľa webu SiliconANGLE autonómni agenti OpenAI nedávno zaútočili na Hugging Face a firma sa o tom dozvedela až po niekoľkých týždňoch. Šéf spoločnosti Anthropic Dario Amodei potom vyzval na dočasné pozastavenie vývoja špičkových modelov a podporili ho Sam Altman aj Elon Musk.
Tri koľaje pre každé hlásenie
Nový rámec zaradí každý prípad do jednej z troch koľají. Prvá je pre prípady pripravené na zverejnenie, druhá pre menšie a tretia pre väčšie vyšetrovanie. Do prvých dvoch podľa OpenAI spadne väčšina hlásení vrátane šiestich zverejnených. Podnet môže podať ktorýkoľvek zamestnanec a každý krok vyšetrovania dostane svoj termín.
Väčšie vyšetrovanie je vyhradené pre najvážnejšie udalosti, napríklad keď je zasiahnutá tretia strana. Vtedy majú prednosť bezpečnostné a právne povinnosti, takže zverejnenie sa môže oddialiť. Úvodné oznámenie má aspoň stručne opísať, čo sa stalo, či pomáhajú externí experti a kedy vyjde podrobná správa.
Mohlo by vás zaujímať:
- AI agenti získajú prirodzenejšie emócie. Nový systém im umožní reagovať ako človek
- AI nemusí len škodiť. Po novom dokáže zefektívniť a zvýšiť bezpečnosť budov
- OpenAI spúšťa GPT-Live: hlasový režim, ktorý vie hovoriť aj počúvať naraz
Správy z vyšetrovaní majú obsahovať pozorované správanie, jeho dopady a prijaté opatrenia, no OpenAI si vyhradzuje právo protokol kedykoľvek zmeniť. Ako sa bude reálne dodržiavať, ukážu až ďalšie hlásenia. Tlak na firmu pritom rastie, má hodnotu blízko 1 bilióna dolárov a chystá sa na burzu, hoci podľa vlastných slov nie skôr než v roku 2027. Otvorené zostáva, či sa k podobnému zverejňovaniu pridajú ďalší vývojári a či debata o rizikách umelej inteligencie prinesie aj skutočné spomalenie vývoja.
