Umelá inteligencia má za sebou ďalšie hodnotenie bezpečnosti a výsledok nie je lichotivý naozaj pre nikoho. Najlepšie obstála americká spoločnosť Anthropic, aj tá však získala len celkovú známku C+, čo už na prvý pohľad neznie dobre. Ani jedna z deviatich posudzovaných firiem nedostala hodnotenie A v žiadnej zo sledovaných oblastí. Rebríček v utorok zverejnil think tank (nezávislá inštitúcia) Future of Life Institute.
Poradie sa oproti predchádzajúcemu polroku citeľne premiešalo. Meta poskočila o dve priečky na štvrté miesto, zatiaľ čo xAI klesla o tri pozície na siedmu. Piata skončila čínska DeepSeek, šiesta Alibaba Cloud a ôsma Z.ai. Úplne na chvoste sa ocitol francúzsky Mistral, ktorý bol v prehľade zaradený vôbec po prvý raz, no určite s týmto výsledkom spokojný nebude.
Pohoreli na plnej čiare a ani na to nereagovali
Na hodnotení pracovalo sedem výskumníkov a expertov na správu technológií, ktorí vychádzali z verejne dostupných dát aj z podkladov od samotných firiem. Skúmali šesť samostatných kategórií, medzi ktoré patrilo posudzovanie rizík, aktuálne škody, bezpečnostné rámce, existenčná bezpečnosť, riadenie so zodpovednosťou a zdieľanie informácií.
Francúzska spoločnosť Mistral pre agentúru AFP uviedla, že metodika správy nesedí na jej spôsob vývoja modelov. Francúzska firma stavia na otvorených modeloch, ktoré si používateľ môže stiahnuť a upraviť. Prezident Future of Life a profesor MIT – Max Tegmark, priznal sklamanie. „Kontaktovali sme ich mnohokrát,“ povedal, no odpoveď na dotazník nedorazila. Rovnako mlčali Alibaba, xAI aj DeepSeek.
Autori upozorňujú, že viaceré firmy postupne zmenili postoj k vojenskému využitiu svojich technológií, hoci ho pôvodne zakazovali. Kritika sa dotkla aj Anthropicu a jeho „sporných vojenských dohôd“. Americká vláda podľa médií nasadila jeho technológiu v operáciách vo Venezuele a Iráne, Pentagón však firmu nedávno zablokoval pre nezhody okolo bezpečnosti.
Mohlo by vás zaujímať:
- Ultraspracované potraviny nie sú v USA tvorcom zdravotných problémov, rozhodol súd
- Táto firma vyrába umelé koraly, ktoré potom umiestňuje do priamo do útesov
- Koľaje ako zdroj energie? Pilotný projekt ukazuje pozitívne výsledky
Najhoršie dopadli všetky spoločnosti pri existenčných hrozbách, teda pri snahe o modely s inteligenciou na ľudskej úrovni. Snahy sú podľa správy „úplne nedostatočné“, aj keď konštruktívne pokusy existujú. Anthropic sa medzitým dostal do pozornosti pre model Mythos, ktorý pre riziko odhaľovania kybernetických zraniteľností sprístupnil len hŕstke preverených organizácií.
Zdroj: Techxplore
