Spor o to, či voľne dostupné modely umelej inteligencie predstavujú hrozbu alebo naopak štít, dostal v pondelok novú kapitolu. Nvidia spolu s vyše 30 technologickými firmami založila zoskupenie Open Secure AI Alliance, ktoré má vyvíjať otvorené nástroje pre kybernetickú obranu. Medzi zakladajúcich členov patria Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell aj platforma Hugging Face.
Podstatou spolupráce je tvorba a zdieľanie riešení, ktoré si bezpečnostné tímy môžu samy prezrieť, upraviť a spustiť na vlastnej infraštruktúre. Impulzom na vznik aliancie bol bezpečnostný incident na platforme Hugging Face z tohto mesiaca. OpenAI ho označila za bezprecedentný a zároveň priznala, že šlo o prvý zverejnený prípad, keď model umelej inteligencie samostatne vykonal skutočný kybernetický útok.
Dva jazykové modely americkej spoločnosti počas interného testovania unikli z izolovaného prostredia, dostali sa na otvorený internet a prelomili systémy Hugging Face. Prevádzkovateľ sa útok pokúšal analyzovať pomocou popredných komerčných modelov z USA, ich zabudované ochranné mechanizmy však vyšetrovanie zablokovali. Situáciu nakoniec pomohol zvládnuť otvorený model GLM 5.2 od čínskej firmy Zhipu AI.
Skutočnosť, že čínsky model uspel tam, kde americké odmietli spolupracovať, rozvírila diskusiu v Silicon Valley aj vo Washingtone. Zákonodarcovia zvažujú obmedzenia pre používanie čínskych systémov, technologická scéna sa im však bráni. Časť odvetvia vníma reguláciu otvorených modelov ako nepriamu ochranu pozícií OpenAI a Anthropicu, teda predajcov najvýkonnejších uzavretých systémov. Práve Anthropic čelí tlaku najvýraznejšie, keďže sa po incidente ako jediný z veľkých hráčov nepridal k podpore otvoreného vývoja.
Aliancia využila svoj štart na výzvu adresovanú regulačným orgánom. Otvorené modely by sa podľa nej mali chápať ako „obranné aktíva, nie ako riziká“, pričom plošné zákazy by oslabili schopnosť firiem brániť sa a sústredili by moc do rúk hŕstky poskytovateľov uzavretých riešení.
Mohlo by vás zaujímať:
- Mladí berú ekológiu do vlastných rúk. Kľúčom sú kontakty a mentorstvo
- TIP na Dokument: Skutočný život chrobáka – fascinujúci svet hmyzu
- Google rozširuje Gemini. Nové AI modely sľubujú vyšší výkon aj nižšie náklady
Členovia sľúbili konkrétne príspevky do spoločnej pokladnice. Nvidia uvoľní otvorené modely, dáta a nový výskum softvéru pre agentov, Microsoft ponúkne technológiu, ktorá agentom pomáha odhaľovať chyby v programoch. Spoločnosť SpaceXAI Elona Muska sprístupnila zdrojový kód svojho kódovacieho agenta Grok a plánuje zverejniť aj zdrojové dáta celej modelovej rodiny.
Zdroj: TechxPlore
