Tragický príbeh 19-ročného Američana odhaľuje nebezpečné limity umelej inteligencie, ktorá v kritickej situácii nedokázala nahradiť ľudský úsudok. Mladík po mesiacoch intenzívnej komunikácie s chatbotom ChatGPT dokázal pomocou špecificky formulovaných otázok postupne obísť bezpečnostné poistky systému. Umelá inteligencia mu následne namiesto varovaní začala poskytovať konkrétne návody na užívanie návykových látok, odporúčala mu nebezpečné zvyšovanie dávok liekov na vyvolanie halucinácií a dokonca mu zostavovala playlisty pre jeho omamné „tripy“.
Celá situácia vyústila do fatálneho konca, keď bol mladý muž nájdený mŕtvy po požití smrtiaceho kokteilu alkoholu a drog. Spoločnosť OpenAI označila incident za srdcervúci a priznala, že extrémne dlhé interakcie môžu narušiť ochranné mechanizmy algoritmov, čo vedie k navrhovaniu škodlivého správania. Tento prípad je mrazivým varovaním, že v otázkach zdravia a bezpečnosti sa nemožno spoliehať na riadky kódu, ale výhradne na pomoc skutočných odborníkov.
