Středa 21. února 2024, svátek má Lenka
  • schránka
  • Přihlásit Můj účet

Falešný Babiš či Kazma, na internetu se šíři podvodné reklamy. Odborník na AI před nimi varuje

Sociální sítě jsou plné podvodných reklam, které jsou vytvořené za pomoci umělé inteligence. Jejich autoři využívají známé osobnosti, které lidem doporučují investice nebo snadnou výhru v kasínech a uměle vytvořené osoby působí opravdu věrohodně. Odborník na umělou inteligenci před podobnými reklamami varuje a zároveň se domnívá, že situace bude ještě mnohem horší.
  15:58

Umělá inteligence je pro někoho splněný sen, pro jiného noční můra! | foto: Profimedia.cz

Na sociálních sítích se čím dál častěji objevují videa, která mají lidi nalákat na různé pochybné investice a online kasína. I když jsou tvůrci těchto podvodných videí neznámí, jejich práce je opravdu kvalitní. K tvorbě totiž využívají umělou inteligenci, která se za poslední dobu výrazně zlepšila. Tvůrci podvodných videí se proto snaží ostatní nalákat na známé tváře, které mluví o tom, jak mohou lidé díky jejich radám zbohatnout. Někdy se dá celkem snadno rozpoznat, že se jedná o podvod, ale kolikrát videa působí opravdu věrohodně a to především díky umělému hlasu.

@lugassh #parodiecz #lotr ♬ The Shire: Concerning Hobbits (From Lord of the Rings) - San Fernando Symphonic Assembly

Asi každý už se na internetu setkal s různými reklamami, které nabízely zaručený zisk a to za naprosto nulové úsilí. Poslední dobou se ale takových reklam objevuje stále více a jejich kvalita se výrazně zvedá. Tvůrci podvodných reklam jdou ale s dobou a využívají proto ty nejnovější nástroje. Jedním z nich je umělá inteligence, která se posunula na zcela jinou úroveň. Někteří tvůrci tak vytvářejí takzvaný „deepfake“, aby ošálili co možná nejvíce lidí. Čím dál častěji se proto objevují videa, ve kterých známé osobnosti ostatním nabízejí různé služby, díky kterým mohou zbohatnout. Jedná se ale o podvod, který vznikl s pomocí umělé inteligence. Někteří lidé to ale nemusí poznat, protože uměle vytvořená osobnost ve videu zní v podstatě stejně jako v reálu. V jednom videu, které se objevilo na sociálních sítích, je například politik Andrej Babiš, který radí, kam mají lidé investovat.

„Stále častěji mi píšete, že doporučuji finanční produkt, který přináší přes 100 tisíc korun měsíčně. Prosím, zapamatujte si, že existuje pouze jeden program, který vám skutečně může vydělat peníze. Pod tímto videem bude odkaz na jeho oficiální web. Zaregistrujte se a vložte 6 tisíc korun, abyste se stali účastníkem a začali vydělávat,“ říká ve videu uměle vytvořený Babiš. I když některým lidem okamžitě dojde, že se jedná o podvod, najdou se jistě i tací, kteří se nechají umělým videem obalamutit a peníze skutečně odešlou pryč. Umělá inteligence je nyní v takové fázi, že je mnohdy jen velmi těžké uvěřit, že se jedná o podvod. Podobné video se například objevilo také na Instagramu, kde známý bavič Kamil Bartošek alias Kazma láká lidi do online kasína. Uměle vytvořený Bartošek slibuje, že pokud se někomu nepodaří vyhrát jackpot, osobně mu daruje 100 tisíc korun.

Ačkoliv podobným reklamám mnoho lidí vůbec nevěnuje pozornost, podle odborníka na umělou inteligenci Jana Romportla by lidé neměli sílu falešných videí podceňovat. „Je to extrémní problém. Deepfakes teď začnou prolézat veškerý online kontent a může to přinést spoustu komplikací. Teď bude velmi důležitý volební rok po celém světě a ta desinformační válka bude vedená přesně v této deepfake sféře,“ řekl pro redakci Antiyoutuber.cz Romportl. Podle něj se nedá nijak zabránit tomu, aby se podobná videa a fotky na sociálních sítích šířily, ale dá se zamezit tomu, aby se lidé nechali nachytat. Je prý velmi důležité si všechny věci pečlivě prověřovat, protože většina autorů podobných podvodů cílí na nevědomost lidí. Umělá inteligence ale stále není dokonalá a některé deepfakey jsou lehce rozpoznatelné. Zároveň se ale neustále zdokonaluje a výhledově se opravdu může jednat o velmi závažný problém.

„Určitě nás čekají velmi temné scénáře a nikdo nemá příliš dobrý nápad, jak proti tomu bojovat. Všechny tyhle věci začnou být zneužívané a je to opravdu veliké riziko,“ řekl Romportl. Práce na umělé inteligenci se už prý ale nedá zastavit, protože na ní stojí mnoho věcí. Takové věci nám tedy v budoucnu mohou ještě opravdu zavařit. Dalo by se zabrousit také do politiky, kde by mohli někteří lidé vytvářet pobuřující obsah, který by mohl výrazně ovlivnit samotný chod státu. Umělá inteligence se navíc neustále zdokonaluje a tempo, kterým se to děje, je opravdu veliké. Už nyní je zneužívaná k tvorbě deepfakeů například právě pro vytváření různých podvodných reklam, ale jistě se najdou i tací, kteří budou s její pomocí chtít ostatním co možná nejvíce ublížit. Podle Romportla je to velmi pravděpodobné, ale zároveň lidstvo rozjelo něco, co už se bohužel nedá zastavit.