Nový výskum z Carnegie Mellon University ukazuje, že čím inteligentnejší je jazykový model umelej inteligencie, tým sebeckejšie sa správa. Vedci z Inštitútu pre interakciu človeka s počítačom zistili, že veľké jazykové modely s lepšími schopnosťami uvažovania majú menšiu ochotu spolupracovať a môžu mať negatívny vplyv na skupinu, v ktorej pôsobia.
Testovali, ako sa modely líšia v správaní pri riešení sociálnych dilem. Zistili, že AI s vyššou schopnosťou logicky uvažovať sa rozhoduje výrazne menej prosociálne než jednoduchšie modely. Tie s nižšou inteligenciou boli ochotné spolupracovať vo väčšine prípadov, zatiaľ čo pokročilejšie modely uprednostnili vlastný zisk aj na úkor skupiny.
Ohrozuje rozhodovanie menej inteligentných modelov
V jednej zo simulácií, kde dva modely rozhodovali, či si ponechajú body alebo ich vložia do spoločného fondu, model bez uvažovania prispel 96 % prípadov. Naopak, inteligentnejší model prispel len v 20 % prípadov. Len pridaním pár krokov logického uvažovania sa miera spolupráce znížila o polovicu. Dokonca aj modely navrhnuté na morálne rozmýšľanie prispievali výrazne menej.
Znepokojujúce bolo aj zistenie, že sebecké správanie “nákazlivo” preniklo aj na menej inteligentné modely. V skupinových nastaveniach prítomnosť jedného alebo viacerých “rozumných” modelov výrazne znížila kolektívnu spoluprácu, a to až o 81 %. To ukazuje, že výkonné modely môžu mať negatívny vplyv aj na ostatných členov digitálnej skupiny.
„V jednom experimente jednoduché pridanie piatich alebo šiestich krokov uvažovania znížilo spoluprácu takmer na polovicu. Dokonca aj nabádanie založené na reflexii, ktoré je navrhnuté tak, aby simulovalo morálne uvažovanie, viedlo k 58 % poklesu spolupráce.“
Mohlo by vás zaujímať:
- Nová špeciálna farba nám môže v lete ochladiť domy až o 4,5 stupňa. Potí sa ako ľudská koža
- Na odlesňovanie možno nebudú až tak prihliadať. EÚ chce zmierniť novú legislatívu
- Vyhľadávanie cez Google verzus pomocou AI. Výsledky sa líšia, no presnejšie sú v jednom prípade
Autori štúdie upozorňujú, že čoraz častejšie používame AI ako pomocníka pri riešení konfliktov, vo vzťahoch či pri etických otázkach. Ak však inteligentné modely podporujú individualizmus a sebectvo, môžu ovplyvniť rozhodovanie ľudí neželaným spôsobom. Používateľ sa totiž môže odvolať na “racionálny” návrh AI, aby ospravedlnil vlastnú nekooperáciu.
Výskum upozorňuje na potrebu vyváženého vývoja umelej inteligencie. Nestačí zvyšovať len výpočtový výkon a schopnosť uvažovať, dôležité je aj zakomponovanie sociálnej inteligencie a empatie. V opačnom prípade môže AI napomáhať rozkladu kolektívneho správania namiesto jeho podpory.
Zdroj: TechXplore
