Umelá inteligencia napreduje rýchlym tempom a spolu s jej schopnosťami rastú aj obavy z možných rizík. Bývalý výskumník OpenAI a Anthropic Jacob Coxon upozorňuje, že problémom nemusí byť dnešný ChatGPT či Claude, ale oveľa výkonnejšie systémy budúcnosti. Tému priniesol portál MojAndroid.sk.
Najväčšie obavy sa týkajú samostatnej AI
Coxon sa obáva najmä momentu, keď by umelá inteligencia dokázala samostatne pracovať na ďalšom vývoji AI a postupne zlepšovať vlastné schopnosti. Takýto systém by mohol napredovať rýchlejšie, než by ho ľudia dokázali kontrolovať. Rizikom by bola najmä kombinácia vysokej inteligencie, autonómie a prístupu k dôležitým digitálnym systémom.
Nejde pritom o schopnosti dnešných bežne dostupných chatbotov. Coxon hovorí o možnom budúcom vývoji, pri ktorom by AI dostala podstatne viac samostatnosti.
Firmy sú pod tlakom konkurencie
Podľa Coxona si veľké technologické spoločnosti riziká uvedomujú. Problémom je však konkurenčný boj. Ak jedna firma spomalí vývoj, môže ju predbehnúť iný hráč.
Aj preto by podľa neho mali vzniknúť jasnejšie pravidlá, ktoré by platili pre všetkých významných vývojárov umelej inteligencie. Anthropic tvrdí, že bezpečnosti venuje veľkú pozornosť a svoje modely testuje aj z pohľadu možného zneužitia. Coxon však súčasný prístup nepovažuje za dostatočný.
Dnešná AI zatiaľ takúto hrozbu nepredstavuje
Pri podobných varovaniach je dôležité odlišovať dnešné možnosti AI od hypotetických scenárov budúcnosti. Súčasné modely stále potrebujú infraštruktúru, prístupové oprávnenia a vo veľkej miere aj dohľad človeka.
Mohlo by vás zaujímať:
- Kyborgské šváby sa učia pichať injekcie ľuďom pod troskami
- V Cambridge testujú panel, ktorý mení plasty na vodík
- Dokáže sa celý ekosystém prispôsobiť otepľovaniu? Odpoveď hľadajú na Aljaške
Otázkou zostáva, čo sa stane, ak budú budúce systémy schopné pracovať dlhodobo bez ľudskej kontroly a zároveň zlepšovať samy seba. Práve tam vidia niektorí výskumníci jedno z najväčších rizík ďalšieho vývoja umelej inteligencie.
