V dobe, kedy manipulované videá môžu šíriť dezinformácie, poškodzovať jednotlivcov a vyvolávať nenávisť, vyvinuli vedci z UC Riverside nový systém, ktorý dokáže odhaliť tieto falzifikáty. Amit Roy-Chowdhury, profesor elektroinžinierstva, a doktorand Rohit Kundu, v spolupráci s firmou Google, vytvorili model umelej inteligencie schopný detekovať manipuláciu vo videách aj pri zmenách, ktoré presahujú len výmenu tvárí alebo úpravu reči.
Nemali by ste prehliadnuť:
- TIP na KNIHU: Sbohem, věci. Nový japonský minimalismus
- OpenAI pripravuje uvedenie GPT-5 už v priebehu leta
- Ako správny náter znižuje ekologický dopad na planétu
Tento systém, nazvaný UNITE, dokáže odhaliť falzifikáty tým, že analyzuje celé videozáznamy, a to nielen tváre, ale aj pozadie a pohybové vzorce. Tento prístup robí UNITE jedným z prvých nástrojov, ktoré dokážu identifikovať syntetické alebo upravené videá, ktoré nezávisia len od zmien tvárí. Kundu zdôrazňuje, že moderné deepfake-y už nie sú len o výmene tvárí, ale môžu zahŕňať celé falošné videá, ktoré zahŕňajú tváre, pozadia a ďalšie prvky vytvorené silnými generatívnymi modelmi.
UNITE používa pokročilý model hlbokého učenia, ktorý dokáže detegovať jemné nezhody v priestore a čase, ktoré prehliadajú všetky staršie detektory. Tento model je trénovaný tak, aby rozpoznával rôzne vizuálne oblasti v každom zábere, čím je schopný identifikovať manipulácie aj v prípadoch, keď tváre v zábere nie sú prítomné. Výsledkom je univerzálny detektor, ktorý dokáže odhaliť rôzne druhy falzifikátov, od jednoduchých zmien až po videá generované bez reálnych záberov.
UNITE môže byť kľúčovým nástrojom pre sociálne médiá, organizácie na kontrolu faktov a redakcie, ktoré sa snažia zabrániť šíreniu falšovaných videí. Ako Kundu uvádza: „Ľudia si zaslúžia vedieť, či to, čo vidia, je pravda.“ Tento nástroj bude neoceniteľný v boji proti nepravdivým informáciám a pomôže zabezpečiť, aby sa pravda dostala k širokej verejnosti.
Zdroj: TEchXplore
