Na veľtrhu Consumer Electronics Show sa výrobcovia hračiek zhodli na tom, že integrácia generatívnej umelej inteligencie do ich produktov musí byť sprevádzaná veľmi veľkou opatrnosťou. Dôvodom je najmä nedávna správa organizácie PIRG, ktorá odhalila nevhodné odpovede niektorých AI hračiek, vrátane plyšového medveďa, ktorý mal deťom radiť o témach ako sex či zbrane.
Kritizovaným príkladom bol medveď značky Kumma od startupu FoloToy. Po podnete v správe „Trouble in Toyland“ boli jeho predaje dočasne pozastavené. Podľa šéfa firmy Wang Le už používajú novšiu verziu AI modelu od OpenAI, ktorá má výrazne lepšie filtrovať nevhodný obsah. Zároveň tvrdí, že testy PIRG zahŕňali výrazy, ktoré bežne deti nepoužívajú.
Dôležitá je bezpečnosť
Opatrnosť je na mieste aj podľa iných výrobcov. Spoločnosť Curio predstavila hračku Grok, ktorá odmieta odpovedať na otázky nevhodné pre päťročné deti. Navyše ponúka rodičom možnosť prezerať si históriu konverzácií a upraviť správanie hračky. Grok má aj certifikáciu KidSAFE, ktorá potvrdzuje dodržiavanie štandardov ochrany detí, hoci neustále počúvanie okolia vyvoláva obavy o súkromie.
Turecká firma Elaves plánuje nasadiť AI do hračky Sunny, ktorá má pomáhať deťom s učením jazykov. Jej konverzácie sú časovo obmedzené, aby sa predišlo chybám alebo zmäteniu. Spoločnosť Olli zase vyvinula systém, ktorý rodičov upozorní, ak AI počas rozhovoru zaznamená nevhodné výrazy.
Mohlo by vás zaujímať:
- Inšpirácia bobrami: Umelé hrádze ako riešenie klimatickej krízy
- Biologicky rozložiteľný plast z bambusu prekonáva bežné plastové materiály
- Deti, ktoré jazdia do školy na bicykli, dosahujú lepšie výsledky
Niektorí odborníci však upozorňujú, že ponechať reguláciu len na výrobcoch nestačí. Podľa profesorky Kathy Hirsh-Pasek z Temple University je súčasný vývoj rýchly a bez dostatočných pravidiel, čo predstavuje riziko pre deti aj rodičov. Zavedenie ochranných opatrení považuje za kľúčové pre bezpečné používanie týchto inteligentných hračiek.
Zdroj: TechXplore
