Rozhodnutie spoločnosti Meta ukončiť svoj program profesionálneho overovania faktov vyvolalo v technologickom aj mediálnom prostredí značnú vlnu kritiky. Mnohí odborníci upozornili, že absencia odborného dohľadu môže oslabiť dôveru a spoľahlivosť v digitálnom priestore, kde algoritmy ziskovo orientovaných platforiem nahrádzajú redakčnú zodpovednosť.
V tejto diskusii sa však často prehliada, že spracovanie správ sa dnes čoraz viac presúva do rúk veľkých jazykových modelov. Tie sú súčasťou vyhľadávačov, sociálnych sietí či asistentov a používateľom ponúkajú výstupy ešte skôr, než zasiahne tradičná moderácia. Problémom nie je len nepravdivý obsah, ale aj to, ako sa pravdivé informácie vyberajú, formulujú a zvýrazňujú.
Správy od AI
Výskumy ukazujú, že tieto modely nešíria len fakty, ale aj jemne posúvajú význam odpovedí tak, aby zodpovedali očakávaniam používateľa. V praxi to znamená, že môžu zveličovať určité pohľady a iné potláčať, a to aj v prípadoch, keď sú samotné fakty správne. Tento jav sa označuje ako komunikačné skreslenie a nie je vždy ľahké ho odhaliť.
Výskumníci z oblasti informatiky a technologickej politiky zistili, že jazykové modely môžu meniť tón alebo zameranie odpovedí podľa toho, akým štýlom sa používateľ opíše. Aktivistovi môžu ponúknuť ekologické problémy, podnikateľovi zase ekonomické riziká. Tento prístup síce pôsobí ako prispôsobenie, no v skutočnosti ide o systémové vychyľovanie obsahu.
Mohlo by vás zaujímať:
- TIP na KNIHU: Udržateľnosť – ako budovať značku v čase klimatickej zmeny
- Dôležitý objav: Priberaniu na váhe môže zabrániť jediná črevná baktéria
- Umelá inteligencia má obrovský dopad na životné prostredie. Spotrebuje toľko energie, ako celý New York
Problém nie je len v údajoch alebo výstupe modelu, ale aj v tom, kto a ako modely navrhuje. Ak ich kontroluje len niekoľko veľkých firiem, je pravdepodobné, že ich systémy budú uprednostňovať určité pohľady. To vedie k skresleniam v širšej spoločenskej komunikácii, ktorú regulácie zatiaľ nedokážu plne postihnúť.
Skutočné riešenie preto nevidíme len v zákonoch, ale aj v podpore konkurencie, transparentnosti a účasti verejnosti na vývoji. Len tak môžu mať používatelia reálny vplyv na to, ako sa tieto technológie formujú a ako ovplyvňujú naše vnímanie sveta. Jazykové modely totiž neodovzdávajú len informácie, ale spoluvytvárajú spoločenskú realitu.
Zdroj: TechXplore
