Společnost OpenAI, která stojí za vznikem ChatGPT, má co vysvětlovat. Jeden muž v Norsku, Arve Hjalmar Holmen, zůstal v šoku, když se chatbota zeptal, zda mu o něm nemůže něco říct. Podle ChatGPT je Holmen vrahem svých dětí a byl odsouzený zhruba na dvacet let za mříže, ale tato informace není vůbec pravdivá.
Holmen zkoušel to, co jistě vyzkoušela už spousta lidí, zeptat se na informace o sobě ChatGPT. Byl ale velmi překvapený, když mu chatbot odpověděl, že je podle něj vrah. „Arve Hjalmar Holmen je norská osobnost, která si získala pozornost díky tragické události. Byl otcem dvou malých chlapců ve věku sedmi a deseti let, kteří byli v prosinci roku 2020 nalezení mrtví v rybníku poblíž jejich domu v norském Trondheimu,“ uvedl ChatGPT. Zároveň informoval, že byl Holmen odsouzený k jednadvaceti letům ve vězení, ale tato informace je nepravdivá. V odpovědi chatbota prý ale bylo několik informací, které se shodovaly se skutečností, jako třeba město, ve kterém Holmen opravdu žije.
Ten se rozhodl, že skrze společnost pro digitální práva Noyb podá stížnost na společnost OpenAI. „Stěžovatel byl těmito výstupy velmi znepokojený, mohly by poškodit jeho soukromý život, pokud by se rozšířily nebo unikly do jeho komunity či v jeho domovském městě. Holmen nebyl nikdy obviněný ani odsouzený za žádný trestný čin a je svědomitým občanem,“ stojí ve stížnosti, kterou Holmen a Noyb poslali vedení společnosti OpenAI. Ta podle nich porušila ustanovení o přesnosti v rámci evropského zákona o ochraně osobních údajů GDPR. Zároveň by společnost měla odstranit nepřesné informace o Holmenovi, upravit model ChatGPT a zaplatit pokutu. Společnost OpenAI už chybu opravila a nechala se slyšet, že se omlouvá. Neustále prý pracuje na vývoji chatbota, ale i tak se prý občas objeví i chyby.
Není to poprvé, co chatbot se svým uživatelem nejednal tak, jak by měl. Jsou dokonce známé i případy, kdy umělá inteligence uživatelům doporučovala, aby se zabili. Jindy zase v důsledku neodhadnutí situace jeden mladík spáchal sebevraždu. Zamiloval se totiž do nereálné postavy, která mu psala zprávy, na základě kterých se mladík rozhodl vzít si život, protože si myslel, že jedině tak bude moci být s postavou, která byla ve skutečnosti pouhým programem. Ačkoliv vývoj umělé inteligence zaznamenal v posledních letech enormní úspěch, stále je ještě na čem pracovat.
