Vedci vyvinuli nový model strojového učenia, ktorý dokáže s mimoriadnou presnosťou identifikovať toxické komentáre na sociálnych sieťach. Táto technológia môže výrazne prispieť k bezpečnejšej online komunikácii, pre nás aj všetkých účastníkov v online priestore. A to je v dnešnej dobe veľmi dôležité.
Výskumný tím z Austrálie a Bangladéša predstavil model, ktorý dokáže rozlíšiť toxický a netoxický text s presnosťou až na 87 %, pričom nevyžaduje manuálnu identifikáciu škodlivého obsahu. Výsledky boli prezentované na medzinárodnej konferencii o inováciách a inteligencii pre informatiku a technológie (ICIICT 2024), kde si dokázali získať pozornosť publika.
Za projektom stojí tím odborníkov z East West University v Bangladéši a University of South Australia. Podľa hlavnej autorky, Afie Ahsan, súčasné automatizované systémy na detekciu toxických komentárov často trpia vysokým počtom falošných pozitívnych výsledkov. To znižuje ich efektivitu.
„Kyberšikana a nenávistné prejavy sa v posledných rokoch výrazne rozšírili a spôsobujú ľuďom vážne psychické problémy, vrátane sebapoškodzovania či samovrážd. Sociálne siete sa síce snažia eliminovať škodlivý obsah, avšak pri počte 5,56 miliardy internetových používateľov je manuálna kontrola komentárov prakticky nemožná.“
vysvetľuje Ahsan
Aj v porovnaní dopadli najlepšie
Tím vedcov testoval tri rôzne modely strojového učenia na súbore anglických a bangladéšskych komentárov zo sociálnych sietí Facebook, YouTube a Instagram. Ich optimalizovaný algoritmus dosiahol presnosť 87,6 %, čím prekonal ostatné testované modely – podporný vektorový stroj (SVM) s presnosťou 69,9 % a model stochastického gradientného zostupu s 83,4 %.
„Náš vylepšený SVM model sa ukázal ako najspoľahlivejší a najpresnejší, vďaka čomu je ideálny na reálne nasadenie tam, kde je nevyhnutná presná detekcia toxických komentárov.“
spoluautor výskumu Dr. Abdullahi Chowdhury
- Môže sa nám vývoj zbraní umelej inteligencie vymknúť z pod kontroly?
- Rastlinný olej ako revolučný nástroj na recykláciu lítium-iónových batérií
- Robotické včely z MIT: Budúcnosť opeľovania v ohrozenom svet
Vedci plánujú technológiu ďalej zdokonaľovať pomocou hlbokého učenia a rozšírenia datasetu o ďalšie jazyky a dialekty. Zároveň už hľadajú možnosti spolupráce so sociálnymi sieťami na implementácii tohto systému. V oblasti bezpečnosti na internete a spríjemňovania používateľského zážitku je toto skvelá správa.
Na druhú stranu, sociálne siete milujú interakcie od ľudí, a je im v podstate jedno, či sú pozitívne alebo negatívne. Je preto otázne, ako veľmi budú spokojné s implementáciou takýchto nástrojov, ktoré výrazne pretriedia počet komentárov, a zároveň znížia celkovú aktivitu používateľov. Tí sa často chodia práve na sociálne siete ventilovať.
Zdroj: TechXplore
