Tato technologie se dá využít k zábavě – třeba ve filmech nebo v aplikacích, které nahradí obličeje celebrit ve slavných filmových scénách vašim vlastním. Třeba toto je dílo AI. Jediná cesta, jak deepfake poznat jsou dinosauři a ti jsou tak „plastoví“ jen proto, že AI nikdy živého dinosaura neviděla, kdyby se trénovala víc na dokumentech BBC, možná bychom všichni sháněli vstupenky do Jurského parku.

Toto celé video je generované AI cez veo3. Insane. pic.twitter.com/nCNPNpw5rY

— Zaujalo ma / Martin (@ZaujaloMa) May 25, 2025

Zdaleka ne všechny možnosti jsou ale tak zábavné. Objevilo se třeba video, ve kterém „Barack Obama“ nadává Donaldu Trumpovi. V počátku války na Ukrajině kolovalo po internetu deepfake video prezidenta Zelenského, kde vyzývá armádu ke složení zbraní.

Zneužít takovou formu manipulace lze k diskreditaci známých osobností, ale třeba také ke kybešikaně. Deepfake se využívá k vytváření lechtivých filmů se slavnými herečkami – oběťmi takového incidentu se staly třeba Natalie Portman nebo Emma Watson. Podle analýzy společnosti Deeptrace z roku 2019 bylo 96 % deepfake videí z kategorie pornografie. Obětí ale může být každý. Manipulátor potřebuje jen dostatek videí oběti.

Technologie deepfake nejsou jen falešná videa

Nejčastěji si pod pojmem představíme falešná videa, ale nemusí jít jen o ně. Deepfake je obecný termín, může se jednat klidně o články, dokonalé webové stránky nebo nějaké online platformy nebo jinou velmi propracovanou manipulaci.

E-book: Podvody na internetu

Chci dostávat aktuální informace o hrozbách, produktech a službách ESETu.  

Chci e-book

Je nutné si uvědomit, že moderní AI technologie se vyvíjejí neuvěřitelným tempem. Níže například můžete vidět srovnání dvou videí se stejným zadáním (promptem). Jedno je z roku 2023 a druhé z rozdíl. Věrohodnost posuďte sami:

 

Zobrazit v aplikaci Threads

 

Jak funguje šíření deepfake?

Velmi často se deepfake videa zneužívají k politickému boji, šíření dezinformací, ovlivnění veřejného mínění nebo k podvodům. Nejčastěji se šíří na sociálních sítích. Někdy jej šíří uživatelé, kteří mu uvěří, jindy i trollové.

Obecně jde vždy o šokující sdělení (ať už dobré nebo špatné zprávy), které si získá pozornost i zcela přirozeně.

Algoritmy jsou na detekci (zatím) krátké, takže je neumějí zastavit. I to je důvod proč v EU vznikl AI Act – nařízení, podle kterého bude muset být každý materiál vytvořený umělou inteligencí označený. Uživatel by tak měl okamžitě s jistotou vědět, zda se dívá na skutečné vyjádření oblíbené osobnosti či skutečnosti, nebo zda se dívá na falešné video.

Proč jsou deepfake videa nebezpečná?

Deepfake technologie nám neumožní rychle rozeznat, co je skutečné. Mohou námi tak lépe manipulovat a ovlivnit tak naše rozhodnutí.

Generativní AI dokáže takových videí, falešných článků a webů chrlit velké množství. Úplně tak dokáže zahltit veřejný prostor a vytlačit i fakticky přesné informace. Dezinformace tak mohou ovlivnit naše rozhodování, a ani si toho nemusíme být vědomi.

Útočníci pomocí deepfake připravují podvody

Zcela běžná je také v kybernetický útocích, zejména pak kryptopodvodech. Podvodníci zneužijí veřejné záznamy osobností, jako je Babiš, Kellner, Fiala nebo Pergnerová, vytvoří video, kde vás tato osobnost přesvědčuje, že touto investicí lze zbohatnout.

Pokud dané osobnosti vy osobně důvěřujete, je velmi snadné nechat se zlákat. Útočníci vás ale okradou. Takto například vypadají reklamy vytvořené pomocí deepfake:

Je deepfake video i k něčemu dobré?

Přesto lze deepfaky využít i k dobrým účelům: ať už se bavíme o herním průmyslu nebo vzdělávání. Děti se mohou stát třeba hvězdami svých oblíbených pořadů, videoher a filmů. Deepfake obsah využilo třeba Dalího muzeum na Floridě, aby si návštěvníci mohli udělat se slavným umělcem selfie. Díky technologii Dalí návštěvníky pozdraví, vyfotí se s nimi a reaguje v reálném čase na jejich chování.

Deepfake je dobrý sluha, ale špatný pán. Nezatracujme technologie jen proto, že ji někdo zneužívá.

Deepfake video vytvoříte na koleni, ale nepoznáte ani po hodinách zkoumání

Technologie tvorby deepfakes je poměrně mladá, ale jde dopředu mílovými kroky. Triviální verze deepfakes lze snadno vytvořit pomocí mobilních aplikací. Poměrně kvalitní deepfake ale vytvoří kdokoli, kdo má dost času, kvalitní výpočetní techniku, a hlavně dost záznamů osobnosti, které chce něco vložit do úst.

Odhalování deepfake videí je složité

Z ukázek v úvodu článku je zřejmé, že rozpoznávání deepfake je velice obtížné. Obzvláště na sociálních sítích, kde obsah konzumujeme rychle a nesledujeme drobné nuance. Právě rychlého tempa na sociálních sítích deepfake využívá ve svůj prospěch.

Zkuste se na to, co čtete a sledujete, trochu více soustředit. Obzvláště, pokud osoba na videu říká něco nečekaného či šokujícího. Stále jde o nedokonalou technologii, a tak můžete vidět chyby.

Deepfake má stále problémy s replikováním jemnějších fyzických atributů: zvuk nemusí zcela odpovídat pohybu rtů mluvčího a může docházet k třepení podél linií obličeje osoby, v blízkosti linie vlasů či linií oděvu. Typické jsou chyby v osvětlení: obličej může být světlejší/tmavší než tělo, může se objevit neobvyklý stín nebo každé z očí může odrážet jiný obraz. Velice často také postavy v deepfake nemrkají, což je u lidí dost neobvyklé.

Někdy neodpovídá vybavení v prostoru okolo mluvčího, například se liší nábytek, jsou špatně umístěné vlajky, pozadí se hýbe a podobně. Lišit se může také ostrost obrazu (například obličej je ostřejší než řečnický pultík – protože obličej doplňuje umělá inteligence, zatímco pult je staticky natočený kamerou).

Pokud se vám video nezdá, zkontrolujte si oficiální profily domnělého mluvčího. Známé osobnosti vše důležité sdílí na svých oficiálních profilech, a nejen v nějakém bulvárním plátku.

Pokud jde o deepfake, který z vás má vylákat peníze, pak pomůže antivir. V těchto případech totiž odkaz vede ne podvodnou phisingovou stránku a tu bezpečnostní program dokáže  zablokovat.

Nenechte se zaskočit internetovými hrozbami!

I když úplnou ochranu proti dezinformacím vám nabídnout nemůžeme, dokážeme vám poskytnout silnou ochranu proti internetovým hrozbám, phishingu a malware.

VYZKOUŠET

Tipy, jak mluvit s dětmi o deepfake videích?

#1 Shlédněte několik podvodných videí

Dost možná vás překvapí, kolik toho dnešní děti už vědí o nespolehlivosti internetového obsahu. Nebo dokonce nějaká deepfake videa samy už viděly. Přesto neuškodí promluvit si o tom, proč někdo takto podvádí. Zdůrazněte, že ke sdílení něčích fotek nebo videí je nutný nejprve souhlas.

#2 Mluvte o ochraně vlastního soukromí

Když děti sdílejí své fotky nebo video, mohou nevědomky sdílet data, které lze i tímto způsobem zneužít. Není třeba hned všechno smazat, ale spíše sdílet opatrněji a střídmě. Promluvte si to o tom, jaké sociální sítě používají a poraďte jim, jak na nich fungovat bezpečněji.

Deepfake je skvělý způsob, jak dětem vysvětlit možnosti technologií a možná i hlouběji probrat podstatu dezinformací.

#3 Zaměřte se na prevenci podvodů

Většině rizik na internetu lze předcházet. Mluvte s dětmi o tom, na co mohou narazit. Výbornou prevencí je například striktně komunikovat jen s lidmi, které děti znají z reálného života.

Pokud se vaše děti rozhodnou používat aplikace, které jim umožňují vytvářet deepfakes, vyzkoušejte je nejdřív společně a používejte je jen pro zábavu a vzdělávání, nikdy pro zesměšňování ostatních.

Shrnuto, podtrženo:

• Deepfake dokáže přesvědčivě napodobit realitu. Zneužít ho lze k manipulaci, kyberšikaně i podvodům.
• Deepfake nejsou jen videa – jde i o texty, weby nebo celé falešné identity. To vše může vypadat velmi důvěryhodně a šířit se virálně.
• Rozpoznání deepfake je těžké. Algoritmy ani lidské oči často nestačí a sociální sítě šíří obsah rychlostí blesku.
• Pozor na emocionálně silná nebo šokující sdělení – právě ta bývají falešná.
• Zaměřte se na detaily, třeba pohyb rtů nebo linie okolo obličeje, a ověřujte si obsah z důvěryhodných zdrojů.

I my jako děti jsme přebírali názory od tehdejších dětských celebrit a influencerů, děláme to ostatně často i v dospělosti. Možná na Instagramu sledujete Kamu a vaříte podle jejích receptů nebo se s Petrem Ludwigem snažíte ukončit svou prokrastinaci nebo přebíráte názory na politické dění od některého komentátora. Nejdříve ale vyhodnotíte, že vámi vybraná osobnost o problematice, ke které se vyjadřuje, něco ví.

Nedávno Deník N například upozornil na příspěvek s nepravdivými informacemi o válce na Ukrajině jedné uživatelky TikToku. Že to není důležité? Jenže ona má téměř půlmilionu sledujících především z řad teenagerů. Teenagerů, kteří televizi nesledují, o Ukrajině mnoho nevědí a slečna, jejíž rodina z místa pochází, „by o tom asi měla něco vědět“. Sociální sítě ale mohou být v mnohém zavádějící.

Pro většinu dětí jsou dnes sociální sítě zdrojem zpráv . Mohou na nich sledovat světové tiskové agentury, renomované zpravodajské portály, ale i konkrétní novináře nebo aktivisty. Jenže ke společenskému dění se vyjadřují také influenceři, kteří se primárně na sítích věnují třeba zdravé výživě, cvičení, módě nebo třeba filmové kritice.

Dezinformace, propagace anorexie i falešné kryptoměny

Děti se snadno setkají s nepravdivými zprávami o politice, koronaviru, klimatických změnách nebo jakémkoli jiném tématu. Těmto fámám můžete jako rodič snadno čelit prostě tím, že dětem ukážete vlastní informační zdroje, které považujete za důvěryhodné. Řada dětí dnes hovoří cizím jazykem, tak v rámci tréninku můžete pracovat i s anglickými, německými či francouzskými médii.

Častým tématem influencerů je vzhled a tedy i to, jak dosáhnout ideální postavy. V 90. a nultých letech minulého století četly dívky blogy, které se označovaly jako pro-ana či pro-mia. Tedy ty, které propagovaly anorexii a bulimii. Dnešní mladí mají sociální sítě.

Tlaku na to „vypadat dobře“ čelí dnes už děti. Na sociálních sítích ale příspěvky propagující extrémní výživu, diety či cvičení zapadnou mezi obrovskou záplavou jinak nezávadného obsahu. Je tedy mnohem těžší podchytit problém a děti ochránit.

Nejde jen ale o postavu. Sociálními sítěmi se čas od času šíří nějaká výzva. U některých jde o legraci, netradiční zážitek či osvětu. Příkladem může být výzva ice bucket challenge, o které se mluvilo i v tradičních médiích. Lidé, kteří se výzvy účastnili, se natáčeli, jak se polívají kbelíkem plným ledové vody. Cílem bylo informovat veřejnost o amyotrofické laterální skleróze. Podobně neškodně se tváří skořicová výzva (podstatou je spolknout bez napití lžíci plnou mleté skořice), jenže u té reálně hrozí dušení.

Výzev je obrovské množství a pokud je vaše dítě rádo zkouší, podpořte jej. Existují i prospěšné výzvy zaměřené na sport nebo na zlepšení flexibility těla. Zároveň ale spolu mluvte o tom, proč některé za vyzkoušení nestojí. Dobrou cestou, jak podpořit smysluplné výzvy, je zapojit všechny členy rodiny. Možná by video celé rodiny, která plní výzvu, vypadalo mezi příspěvky vašeho potomka dobře? Nebo mu můžete nabídnout pomoc s natáčením.

Odsuzováním výzev a příspěvků na sociálním sítích nepomůže. Děti je budou sledovat dál, jen o tom nebudete vědět.

Mezi záplavou zajímavého obsahu i zjevných „klukovin“ lze najít ale také regulérní podvody. Mezi poměrně běžná schémata patří propagace NFT (nákup virtuálního umění). Těm totiž mnoho teenagerů ani jejich rodičů nerozumí, takže je snadné je oklamat a bez skrupulí okrást. Jeden příklad za všechny populární influencer Jake Paul takto propagoval už čtyři NFT projekty, všechny ale přinesly zisk jen jemu osobně. Celkově mu měly vynést přes dva milionu dolarů od fanoušků.

Nesnesitelná lehkost influencerství

Získat na sociálních sítích popularitu, která by umožnila stát se influencerem, stojí obrovské množství úsilí. Recept na úspěch není. Někdy je to originalita, jindy propracovaná kompozice a postprodukce snímků. Úspěch mají ale i ti, kteří se jen chlubí životem v luxusu (dalo by se říct zlatá mládež). Může se stát, že za pár týdnů či měsíců má nový profil desítky tisíc sledujících. V případě  hodně mladých tvůrců se ale stává, že neumějí naložit se zodpovědností, kterou jim popularita přináší.

Společenský vliv na veřejné mínění je totiž hlavně morální otázka. Média a novináři mají etické kodexy a v offline světě jsou omezení zákony.   Do online prostoru ale mnohdy spravedlnost nevidí a řadu pravidel (například povinné označení placené spolupráce) lze těžko vymáhat i ze strany samotné sociální sítě.

Influencerem  je vlastně každý z nás. Všichni máme vliv na několik desítek lidí ve svém okolí.

Informace prověřuj, teprve potom důvěřuj

Sociální sítě jsou koncentrátem všeho na internetu – i na nich děti najdou zprávy, zajímavé podněty a výzvy, stejně jako příspěvky, které jim škodí nebo lžou. Platí zde pravidlo, které dobře znáte: důvěřuj, ale prověřuj.

Kvalitní zpravodajství na sociálních sítích nenajdete – není tam na ně prostor. Pokuste se dětem rozšířit obzory a naučit je sledovat i jiná média. Nemusí se vůbec omezovat na český rybníček, ale jít klidně po cizojazyčných zdrojích. Ideální je využívat vícero zdrojů.

Příspěvky vždy dvakrát prověřte, než uvěříte recenzi na zázračný nápoj nebo cokoli, co vám má zaručeně změnit život k lepšímu.

U placených spoluprací nebo příspěvků, které cokoli propagují, se vyplatí zdravá skepse. Mnohdy si stačí daný produkt, cvičení nebo novou trendy kryptoměnu vygooglit a najít další informace.

Jak poznat nefér příspěvek na sociálních sítích?

1. Pokud jde o zprávu a jediným zdrojem je „jedna paní říkala“. Stejně tak nejsou relevantní zdroj osobní názory influencerů nebo jejich jedna životní zkušenost.
2. Pokud o dané zprávě nikdo jiný nepíše nebo ji nelze jinak ověřit, patrně není pravdivá.
3. Odkazuje na zprávu, která je stará.
4. Obsahuje šokující nebo nedůvěryhodný obrázek – původ obrázků si můžete ověřit na tomto odkazu. Online se často lze setkat s manipulativním využitím reálných fotek ovšem z jiných míst či incidentů, případně s fotografiemi lidí z fotobank, které se vydávají za skutečné osobnosti, profily či recenzenty produktů.
5. Příspěvek je psaný VELKÝMI PÍSMENY, obsahuje fráze jako „tohle vám tají/to vám média neřeknou/sdílejte, než to smažou“ a podobně.
6. Pokud příspěvek vyvolává silnou emoci, buďte opatrní – ať už jde o nadšení nebo strach. Emoce s námi častou cloumají a přimějí nás jednat impulzivně.
7. Prověřte si profil influencera. Na sociálních sítích se lze setkat s falešným nebo fanouškovskými profily celebrit. Ty „pravé“ mají například na Instagramu modrou ikonu.
   
8. Uvažte, do jaké míry influencer zná oblast, o které píše. Dává smysl si přečíst recenzi na hru od gamera (člověk, který hraje hry), ale jeho názor na opravu Barrandovského mostu asi příliš přínosný nebude, i když je naštvaný na kolony stejně jako vy.
9. Ověřte si informaci nezávisle mimo sociální sítě.