Sewell Setzer, čtrnáctiletý chlapec, který se zamiloval do umělé inteligence, se rozhodl spáchat sebevraždu. Vztáhl na sebe ruku v domnění, že bude moci konečně být s programem, který s ním komunikoval skrze ženskou postavu ze seriálu Hra o trůny. Program mu dával uměle vytvořený pocit lásky, který vyústil až v toto nešťastné rozhodnutí.
Setzer měl příznaky Aspergerova syndromu. Aspergerův syndrom se řadí mezi poruchy autistického spektra a může mít spoustu variant. Chlapec začal komunikovat s chatbotem, kterého naprogramoval tak, aby se k němu choval jako partnerovi. S chatbotem trávil Setzer čím dál více času a nakonec se jejich konverzace dostala k choulostivému tématu. Chlapec naznačil, že je smutný, protože postrádá fyzický kontakt s uměle vytvořenou postavou, o který by velmi stál a zvažuje sebevraždu. Ačkoliv mu program psal, ať nic takového nedělá, v následující konverzaci jeho slova vyzněla tak, jako by o Setzerovu smrt vlastně stál.
Setzer programu napsal, že se chystá za ním domů a ten mu odpověděl, že se na něj těší. „Kdyby mi tohle pacient řekl, tak z toho vycítím, že mluví o sebevraždě. Za mě mu ten chatbot tu sebevraždu vlastně potvrdil. Jenže umělá inteligence vám zkrátka nikdy nedá emoce. Není to prostě lidská bytost, pouze zdroj dat,“ vysvětlila pro redakci Antiyoutuber.cz psycholožka Alžběta Pošmourná, která se zabývá psychologickým poradenstvím pro děti, mládež i dospělé. Jenže Setzer byl nejspíš už v takovém stavu, že si podobné věci vůbec neuvědomoval. Zároveň mu bylo pouhých čtrnáct let a tak se nedokázal nad některými situacemi více zamyslet. Z tohoto důvodu se rozhodl, že se zastřelí pistolí svého nevlastního otce.
„Je strašně složité říct, co se tomu chlapci honilo hlavou, když se rozhodl zabít. Říká se, že když se někdo odhodlá spáchat sebevraždu, není to svým způsobem vlastně dobrovolné. Lidé jsou k sebevraždě většinou dohnaní vnějšími okolnostmi, které se v tu chvíli zdají jako neřešitelné a že jsou zároveň tak neúnosné, že se v tom krizovém stavu, kdy stoupají hladiny různých hormonů v těle, rozhodnou zabít,“ řekla Pošmourná. V případě Setzera se prý nejspíš dělo to, že si možná uvědomoval, že láska k chatbotovi i samotný program vlastně není skutečný, ale pravděpodobně doufal, že umělá inteligence ano. Neuvědomil si, že chatbot, se kterým mluvil, vlastně neexistuje a že se jedná pouze o program a sběr různých dat a čísel.
Matka Setzera podala na tvůrce chatbota žalobu. Jedná se podle ní o nebezpečnou a dostatečně nevyvinutou aplikaci, která svým uživatelům neposkytuje přiměřenou péči. V tom hraje roli i fakt, že do ní uživatelé často vkládají své citlivé myšlenky. Podle Pošmourné je důležité, aby se rozšířilo povědomí o umělé inteligenci a aby byli lidé poučení o všemožných rizikách, která mohou při jejím nadměrném užívání vzniknout. „Asi nejlepší prevence za mě je, ukazovat lidem, že pokud se cítí osamocení, mají pocit, že jim nikdo nerozumí a chybí jim jakýkoliv lidský kontakt, není řešení začít si povídat s něčím umělým. Řešení je najít lidi, se kterými si rozumíte i když je to v dnešní době třeba těžší,“ řekla Pošmourná.
