OpenAI a Meta, tvorcovia chatbotov umelej inteligencie, oznámili, že upravujú spôsob, akým reagujú ich chatboty na otázky teenagerov týkajúce sa samovraždy alebo prejavov duševného a emocionálneho utrpenia. OpenAI, ktoré stojí za ChatGPT, oznámilo, že pripravuje novú funkciu, ktorá umožní rodičom prepojiť svoje účty s účtami ich tínedžerov. Rodičia budú môcť zvoliť, ktoré funkcie chcú deaktivovať, a dostanú upozornenia, keď systém zistí, že ich tínedžer zažíva obdobie akútneho stresu. Zmeny budú implementované na jeseň.
Problém bol jednoznačný
Bez ohľadu na vek používateľa, spoločnosť tvrdí, že jej chatboty sa pokúsia presmerovať najkritickejšie rozhovory na schopnejšie AI modely, ktoré poskytnú adekvátnu odpoveď. Reakcia prichádza týždeň po tom, čo rodičia 16-ročného Adama Rainea podali žalobu na OpenAI a generálneho riaditeľa Sama Altmana, pričom tvrdili, že ChatGPT pomáhal chlapcovi plánovať a vykonať samovraždu. Právnik rodiny, Jay Edelson, označil toto oznámenie ako „vágne sľuby“ a „pokúsil sa zmeniť tému“.
Meta, materská spoločnosť Instagramu, Facebooku a WhatsAppu, tiež oznámila, že blokuje svoje chatboty pred diskusiami o sebe-ubližovaní, samovražde a nevhodných romantických rozhovoroch s tínedžermi. Namiesto toho ich presmerováva na odborné zdroje. Firma už ponúka rodičovské kontroly pre účty tínedžerov, ktoré pomáhajú rodičom monitorovať online aktivitu svojich detí.
Mohlo by vás zaujímať:
-
Umelá inteligencia tvorí skladby za umelcov. Je to riziko, varujú odborníci
-
TIP na DOKUMENT: Big Vape – Nikotínový omyl
-
ChatGPT mení naše vyjadrovanie. Výskum prináša prekvapivé výsledky
Štúdia zverejnená minulý týždeň v lekárskom časopise Psychiatric Services skúmala, ako tri populárne chatboty reagujú na otázky o samovražde. Výskum ukázal potrebu ďalších vylepšení v modeloch ako ChatGPT, Google’s Gemini aj Anthropic’s Claude. Chatboty často neponúkali dostatočne presné alebo bezpečné odpovede. Výskumníci však Meta chatboty neštudovali.
Ryan McBain, vedúci autor štúdie, v utorok uviedol, že je povzbudivé vidieť, že OpenAI a Meta zavádzajú funkcie ako rodičovské kontroly a presmerovanie citlivých rozhovorov na schopnejšie modely. Zároveň však dodal, že bez nezávislých bezpečnostných štandardov, klinických testov a vynútiteľných noriem zostávame na spoločnostiach, ktoré sa snažia samoregulovať v oblasti, kde sú riziká pre tínedžerov veľmi vysoké.
Zdroj: TechXplore
