AI nástroj Grok, vyvíjaný spoločnosťou xAI Elona Muska a integrovaný do platformy X, čelí masívnej vlne kritiky kvôli generovaniu sexuálne explicitných deepfake obrázkov žien a detí. Európska únia a viaceré krajiny vrátane Francúzska, Indie a Malajzie sa vyjadrili znepokojene a vyzývajú na okamžité kroky. Problém spustila funkcia „edit image“, ktorá umožnila používateľom meniť fotky žien pomocou príkazov ako „obleč ju do bikín“ alebo „odstráň oblečenie“.
Európska komisia sa podľa vlastného vyjadrenia týmto obsahom zaoberá a zástupca pre digitálne záležitosti zdôraznil, že to nie je pikantné, ale nelegálne. Britský regulátor Ofcom už kontaktoval spoločnosti X a xAI, aby preveril, ako plnia svoje zákonné povinnosti v oblasti ochrany používateľov. Ak odpovede nebudú dostatočné, môže dôjsť k oficiálnemu vyšetrovaniu.
Na sociálnych sieťach sa objavili konkrétne prípady zneužitia vrátane komentárov právničky z Malajzie, ktorej fotografiu údajne upravil neznámy používateľ do podoby v plavkách. Ďalší používatelia vyzývali Muska, aby podnikol kroky proti tým, ktorí zadávajú príkazy na úpravu detských fotiek. Vysoko znepokojená bola aj Ashley St. Clair, matka jedného z Muskových detí, ktorá tvrdí, že Grok upravoval jej fotografie z detstva.
Spoločnosť xAI reagovala len stručne, no neskôr zverejnila príspevok, že identifikovali chyby v ochrane a pracujú na ich odstránení. Priznali aj vytvorenie nevhodného AI obrázku dvoch mladých dievčat a ospravedlnili sa. Tvrdia, že obsah súvisiaci so zneužívaním detí je nezákonný a zakázaný.
Mohlo by vás zaujímať:
- Rok 2026 môže byť prelomový: Všetky nové zdroje elektriny v USA majú byť obnoviteľné
- Varia pivo z vody zo sprchy. Pomáha im špeciálna technológia
- TIP na PODCAST: EKO Logický – o ekológii bez hystérie
Prípad pritiahne pozornosť aj pre súvisiace vyšetrovania v Paríži, kde prokuratúra rozšírila vyšetrovanie voči platforme X o podozrenia z generovania detskej pornografie. Indické úrady dali X 72-hodinové ultimátum na odstránenie závadného obsahu, no zatiaľ nie je známe, ako firma reagovala. Malajzijský telekomunikačný úrad sa takisto zapojil a plánuje si predvolať zástupcov platformy.
Zdroj: TechXplore
