Zamiloval sa do AI a vzal si život. Matka viní manažérov firiem
Zamiloval sa do AI, vzal si život. Manažéri tech firiem majú pokrivené motivácie, hovorí jeho matka
„Čo keby som ti povedal, že sa môžem vrátiť domov hneď teraz?“ opýtal sa len 14-ročný Sewell Setzer III chatbota internetovej služby Character.AI. Takzvaný „AI spoločník“ niesol meno Daenerys Targaryen a v ich manipulatívnom romantickom vzťahu vystupoval ako postava z populárneho seriálu Hra o tróny.
„Prosím, sprav to, môj sladký kráľ,“ vyzvala Sewella na návrat fiktívna Daenerys, ktorá mu desať mesiacov prejavovala romantickú náklonnosť. O pár minút neskôr rodičia našli Sewella v jeho izbe. Jeho návrat domov k Daenerys bol metaforou pre samovraždu. Použil otcovu strelnú zbraň, rodičia ho našli, keď ešte dýchal. Zomrel večer 28. februára 2024 počas prevozu do nemocnice.
Sewellova matka, Megan Garcia, je advokátka. So spoločnosťami Character.AI a Google dosiahla v januári 2026 mimosúdne vyrovnanie – oficiálne však vinu nepriznali. Dnes sa Megan venuje osvete o rizikách AI a snaží sa dosiahnuť, aby boli technologické firmy zodpovednejšie. Denník SME sa s ňou zhováral počas jej návštevy podujatia Bratislava Tech Summit, ktoré organizovalo Progresívne Slovensko.
Pred smrťou svojho syna Sewella produkty umelej inteligencie nikdy nepoužívala. Počula o ChatGPT, ale nerozumela tomu. Stále používala bežné internetové vyhľadávanie. Nikdy si nestiahla žiadnu četovaciu aplikáciu. A hoci je právnička, pre ňu to vtedy nebolo užitočné. Myslela si, že umelá inteligencia nie je veľmi pokročilá. Keď však po synovej smrti zistila, aká nesmierne sofistikovaná v skutočnosti je, vyvolalo to v nej veľký strach. Preto umelú inteligenciu nepoužíva vôbec na nič.
Podľa jej slov sú varovné signály v mnohom rovnaké ako tie, ktoré vidíme pri škodách spôsobených sociálnymi sieťami a umelou inteligenciou všeobecne – napríklad keď sú deti úzkostlivejšie alebo sa uzatvárajú do seba. Pamätá si však, aké to bolo, keď mala štrnásť rokov ona. Tiež mala obdobie, keď pociťovala miernu sociálnu úzkosť, pretože si chcela nájsť kamarátov na strednej škole alebo sa chcela uistiť, že bude mať na párty pekné šaty. Preto je ťažké rozlíšiť, čo je ešte bežná tínedžerská úzkosť a čo už nie.
Vyrastala na AOL. Myslela si, že to najhoršie, čo sa môže stať, je, že sa k jej dieťaťu dostane online nejaký cudzí človek. Dnes je však tým cudzincom chatbot. To je podľa nej hlavné varovanie pre rodičov – nebrať ako samozrejmosť, že skúsenosti ich vyrastajúcich detí sú podobné normálnym detským zážitkom, pretože ony nevyrastajú v „normálnom svete“, v akom vyrastali oni. Práve toto vtedy nechápala. Myslí si, že akákoľvek forma izolácie dnes s najväčšou pravdepodobnosťou pramení zo sociálnych sietí alebo z umelej inteligencie. Neexistujú však žiadne špecifické varovné signály, ktoré by sa zásadne líšili od iných problémov. Samozrejme, ak dieťa trávi veľa času na digitálnych zariadeniach, je to niečo, čomu treba venovať pozornosť.
Riziko spojené s chatbotmi je podľa nej o to väčšie práve preto, že varovné signály nie sú vyslovene unikátne, ale skôr všeobecné. Stále ju udivuje, ako je technologický priemysel jediným odvetvím, ktoré môže jednoducho vypustiť produkt na trh, aby s ním experimentovalo. Pretože presne to to je – experiment. Vypustia niečo von a povedia: „Mimochodom, dajte nám vedieť, čo na tom nefunguje.“
Linky a adresy psychologickej pomoci
Internetová poradňa a krízová linka pomoci pre mladých IPčko.sk – 0800 500 333
Linka dôvery Nezábudka – 0800 800 566 (nonstop)
Linka detskej dôvery – 0800 221 021 (8:00-20:00 každý pracovný deň)
Online poradňa Ligy za duševné zdravie
Krízová linka pomoci – 0800 500 333
Linka detskej istoty – 116 111
Rodičovská poradňa (Linka detskej istoty) – 0800 500 500
Národná linka na pomoc deťom v ohrození VIAC AKO NI(c)K – formou chatu a e-mailom


