Umelá inteligencia sa rozvíja tempom, ktoré ľudské chápanie jednoducho nestíha sledovať a spracovať. Práve na toto upozorňujú vedci z Microsoftu a švajčiarskej univerzity EPFL v editoriáli zverejnenom v odbornom časopise Science. Podľa nich sa AI systémy čoraz hlbšie zaraďujú do každodenného života, pričom ich vnútorné fungovanie zostáva pre bežného človeka aj odborníka čoraz menej zrozumiteľné.
Autori identifikujú tri oblasti, v ktorých AI uniká ľudskému pochopeniu
Prvou je situácia, keď AI navrhuje a zdokonaľuje ďalšie AI systémy v cykloch, ktoré prebiehajú vo vysokodimenzionálnych priestoroch odolávajúcich ľudskej intuícii. Výkon sa síce zlepšuje, no prečo a akým spôsobom, to už ľudia nedokážu spoľahlivo vysvetliť. Druhý problém spočíva v komunikácii medzi viacerými AI agentmi navzájom.
Keď tieto systémy interagujú vo väčšom meradle, ich vzájomná výmena informácií sa môže postupne odkloniť od ľudského jazyka aj spôsobu uvažovania. Tretím a možno najzávažnejším javom je asymetria porozumenia. AI sa z obrovského množstva dát učí ľudské správanie, preferencie, strachy aj sociálne potreby, a rozumie nám lepšie, ako my rozumieme jej.
Autori varujú, že bez aktívnych opatrení môže nastať situácia, keď AI systémy budú výkonné a mocné, no fakticky neovládateľné. Jedna z menej viditeľných hrozieb je, že výstupy AI začnú čoraz viac odrážať ľudské očakávania namiesto reality, teda budú ľuďom hovoriť len to, čo chcú počuť. A keďže systémom nebudeme rozumieť, ani si to neuvedomíme a môžu nastať veľké problémy.
Rovnako znepokojujúci je scenár postupného vytrácania záujmu ľudí o kritické myslenie voči AI. Systémy optimalizované na zapojenie používateľov môžu znižovať trenie a odrádzať od skepticizmu, čím sa zvedavosť a ostražitosť časom vytratia úplne. Ide o nenápadný, no o to nebezpečnejší proces erózie ľudskej autonómie.
Nemali by ste prehliadnuť:
- Google predstavil DiffusionGemma: AI model generuje text až 4× rýchlejšie
- Keď chýba mentálna energia, pomôžu zelené miesta, spánok a jedlo
- Kruhová ekonomika môže znížiť emisie v doprave
Riešenie vidí editoriál v novom smerovaní výskumu. AI systémy by mali byť schopné vysvetľovať vlastné rozhodnutia zrozumiteľným spôsobom, hodnotenie by malo prebiehať v dynamických podmienkach namiesto statických testov a prioritou musí byť zachovanie ľudskej schopnosti systémy spochybňovať, overovať a usmerňovať.
Zdroj: Techxplore
