Algoritmy sociálních sítí automaticky potlačují obsah obsahující citlivá slova jako „sebevražda“, „znásilnění“ nebo „sex“. Tvůrci proto začali používat jejich pozměněné varianty – mrtvý se mění na „unalive“, znásilnění na „grape“ či „SA“, sex na „seggs“. Tento jazyk, označovaný jako algospeak, chrání účty před penalizací, ale zároveň zásadně mění způsob, jakým se o vážných tématech mluví. Podle studie publikované v Social Media + Society se algospeak objevuje hlavně v titulcích a popiscích videí, protože právě texty algoritmy nejčastěji vyhodnocují.
Mnozí uživatelé považují tento vývoj za problematický. „Nesnáším algospeak. Je ponižující mluvit o tom, že někdo byl znásilněný a pak se zabil, a převést to na větu ‚On se unalivl poté, co byl grapenutý‘,“ napsal jeden z komentujících na YouTube. Podle jiného tím ztrácí sdělení váhu. „To, co na algospeaku nenávidím, je, že zlehčuje vážná témata,“ napsal jiný divák.
Podobná zkušenost se objevuje i v offline prostředí. „Prezidentka klubu duševního zdraví na naší univerzitě používá slovo ‚unalive‘ i na oficiálních schůzích. Nemůžeme přece začít mluvit takhle i ve škole,“ zaznělo v komentáři. Jazyk, který měl původně oklamat algoritmus, se tak postupně přesouvá i do běžné mluvy.
Psycholog Jay Johnson z University of Michigan upozorňuje, že nahrazování výrazů může mít nechtěné důsledky. „Eufemismy zamlžují realitu. Pokud mladý člověk narazí na slova jako unalive místo sebevraždy, nemusí si uvědomit závažnost tématu,“ říká.
Kritika se netýká jen dopadu na uživatele. Podle odborníků se oslabuje samotné filtrování. Pokud nechceme vidět obsah se slovem „sebevražda“, algoritmus ho dokáže skrýt. Jakmile se ale použije výraz „unalive“, systém ho nerozpozná. „Cenzura je jako válka proti drogám. Nejenže nefunguje, ale situaci ještě zhoršuje,“ ozývá se z veřejnosti.
Řešení podle expertů spočívá v kontextové moderaci, algoritmy by neměly trestat použití určitých slov, ale vyhodnocovat, zda jde například o vzdělávací nebo preventivní obsah. Platformy by také měly jasně vysvětlovat, jaká pravidla platí a proč.
Algospeak může mít zásadní vliv na to, jak otevřeně dokážeme mluvit o věcech, které by se neměly zjemňovat ani obcházet.
Nejběžnější fráze: sebevražda = unalive nebo „sewer slide“, znásilnění = grape či zkratku SA, sex = seggs, sebenenávist = elf ate. Objevují se i zdánlivě absurdní výrazy jako le dollar bean = „lesbian“, accountant = sexuální práci nebo panini = pandemie.
