Účastníci mali motiváciu trénovať AI pre spravodlivosť, čo je povzbudzujúce, ale iní ľudia môžu mať odlišné zámery. Vývojári by teda mali vedieť, že ľudia úmyselne menia svoje správanie, keď vedia, že to bude použité na trénovanie AI.
Štúdia bola publikovaná v Proceedings of the National Academy of Sciences. Zahrňovala päť experimentov, každý s približne 200–300 účastníkmi. Účastníci hrali “Ultimatum Game,” hru, ktorá ich núti vyjednávať malé peňažné výhry (od 1 do 6 dolárov) s inými ľuďmi alebo počítačom. V niektorých prípadoch im bolo povedané, že ich rozhodnutia budú použité na výučbu AI bota, ako hrať hru.
Nový výzva pre vývojárov
Hráči, ktorí si mysleli, že trénujú AI, boli konzistentne viac naklonení k spravodlivému rozdeleniu výhry, aj keď ich to stálo pár dolárov. Zaujímavé je, že táto zmena správania pretrvala aj po tom, čo im bolo povedané, že ich rozhodnutia už nebudú použité na trénovanie AI, čo naznačuje, že skúsenosť s formovaním technológie mala trvalý vplyv na ich rozhodovanie.
Mohlo by vás zaujímať:
- Odlesňovanie Amazonského pralesa človekom nakoniec nie je až takým problémom
- Závod na recykláciu solárnych panelov je poháňaný použitými panelmi
- Nový Zéland upúšťa od klimatických sľubov. Obyvatelia sú zhrození
Motivácia za týmto správaním však nie je úplne jasná. Výskumníci sa nepýtali na konkrétne motivácie a stratégie. Účastníci nemuseli cítiť silnú povinnosť urobiť AI etickejšou. Je možné, že experiment len vyzdvihol ich prirodzenú tendenciu odmietať nespravodlivé ponuky.
Toto zdôrazňuje dôležitý ľudský prvok v trénovaní AI. Veľa trénovania je založené na ľudských rozhodnutiach. Ak sa nezohľadnia ľudské predsudky počas procesu, výsledná AI bude tiež zaujatá, s čím musia vývojári po novom rátať.
Zdroj: TechExplore
