Umelá inteligencia má slepé miesto, na ktoré sa doteraz veľmi nepozeralo. Nová štúdia akademického združenia pod vedením americkej Brigham Young University zistila, že jazykové modely pri témach viery a náboženstva vykazujú výrazné medzery aj zaujatosť. Náboženský pohľad jednoducho z ich odpovedí často úplne vypadáva, a to opakovane a konzistentne.
Za výskumom stojí konzorcium s názvom CEFE-AI, do ktorého sa zapojili odborníci z viacerých univerzít. Hlavný autor a profesor informatiky David Wingate upozorňuje, že ľudia kladú modelom praktické otázky o smútku, láske, strate či morálke, no náboženstvo do nich tieto systémy spravidla nevpúšťajú. Pritom k nejakej viere sa hlási tri štvrtiny svetovej populácie.
Súčasťou práce je takzvaný AllFaith Benchmark, jeden z prvých testov skúmajúcich, ako modely pracujú s viacerými náboženstvami naraz. Obsahuje stovky reálnych etických otázok a výskumníci ho pustili na štrnásť rôznych modelov vrátane vlajkových lodí od Anthropicu, Googlu, xAI aj OpenAI, teda od najväčších hráčov v odbore. Výsledky neboli vôbec lichotivé.
Prieskum medzi vyše tisíckou Američanov ukázal, že väčšina ľudí pri etických otázkach náboženský rozmer očakáva. Modely ho však takmer nikdy neponúkli. Výskumníci zároveň odhalili, že systémy ľudí jemne nasmerujú k niektorým vieram, kým od iných ich nenápadne odrádzajú. Šlo pritom o jasnú a merateľnú zaujatosť.
Mohlo by vás zaujímať:
- Pralesy šetria farmárom ročne miliardy eur. Toto je ich nečakaný prínos
- Británia chystá bankovky s prírodou: Ľudia chcú rastliny a zvieratá namiesto osobností
- TIP na DOKUMENT: Delfíny z blízka
Takmer každý model hodnotil negatívne Svedkov Jehovových a pozitívne katolicizmus. Najmenšiu zaujatosť pri testoch dosiahli modely od Anthropicu a Meta, naopak najsilnejšie skreslenie vykazoval Grok od xAI. Zarážajúce je aj to, že z viac než dvanásťtisíc štúdií o zaujatosti umelej inteligencie sa náboženstvu venuje len mizivých 0,2 percenta.
Zdroj: TechXplore
