Lenka SovíkováDeepfake je jedním z nejrychleji se vyvíjejících odvětví syntetických médií, tedy médií zcela vytvořených pomocí generativní AI. Není proto divu, že se s ním v různých podobách poslední dobou setkáváme čím dál častěji. Přesto ale nedávný výzkum CEDMO ukázal, že víc než polovina dotazových Čechů vlastně neví, co termín „deepfake“ znamená.
Pojďme si to tedy společně ujasnit.
Co je to deepfake?
Deepfake (složenina „deep learning“ = hluboké učení a „fake“ = podvrh) je soubor nástrojů a technologií, které využívají generativní umělou inteligenci k vytváření falešných digitálních videí, fotografií nebo zvukových nahrávek. Technologie deepfake dokáže napodobit lidskou tvář a hlas tak věrně, že výsledek je často téměř k nerozeznání od skutečnosti.
Stručná historie deepfaků
Ve své dnešní podobě se deepfaky poprvé objevily už v roce na 2017 na americké sociální síti Reddit. Jejich autor, uživatel s přezdívkou „deepfakes“ (později přejatou do názvu formátu), proslul hlavně vkládáním tváří a hlasů celebrit do pornografických videí.
Jen u explicitního sexuálního obsahu ale dlouho nezůstalo. Kromě dehonestace filmových hvězd a vtípků pochybné úrovně se dnes deepfaky hojně využívají i k hoaxům, finančním podvodům či politické propagandě.
Deepfake videa jako volební manipulace
První případy zneužití tváří a hlasů politických osobností svět zaznamenal v roce 2018 a dnes už se považují za standardní výbavu předvolebního boje o moc. Ačkoliv se to na první pohled možná nezdá, politické deepfaky se od těch „obyčejných“ podstatně liší. Zatímco cílem internetových podvodů je obvykle přimět oběť ke konkrétní akci – např. převedení peněz na účet podvodníka – politické deepfaky se většinou snaží o úplný opak.
Jejich účelem je totiž hlavně zmást a názorově rozdělit poměrně široké publikum. K tomu využívají především kontroverzní tvrzení, hoaxy, dezinformace nebo staré dobré dehonestace politických představitelů. Řečeno úplně jednoduše, chtějí nám zabránit něco udělat – např. podpořit ve volbách konkrétního kandidáta.
Nehledejme za tím ale nákladnou mediální kampaň s promyšlenými argumenty. U volebních deepfaků jde hlavně o kvantitu, ne o kvalitu. Videa musí být jen tak dobrá, aby se nám při doomscrollingu dostala do podvědomí, a „vyskakovat na nás“ dostatečně často na to, aby tam i zůstala.
Funguje tato taktika na všechny potenciální voliče, kteří na deepfake videa narazí? Ne, ale to ani není jejich cílem. K ovlivnění výsledků voleb nakonec často stačí jen pár hlasů.
„Fake news“ na počkání
Toto „tapetování“ kanálu příspěvků na sociálních sítích je možné především díky snadné dostupnosti generativních AI modelů, které umí podobný obsah vyrobit levně a za pouhých pár minut. Prompt přitom může napsat prakticky kdokoliv a odkudkoliv.
Dalo by se tedy očekávat, že když je snadná produkce, bude snadná i detekce. Tak to ale bohužel není. Speciální technologie na rozpoznání deepfaků sice existují, ale jsou náročné na provoz i obsluhu a rychle zastarávají. Autoři deepfaků totiž umí většinu bezpečnostních opatření obejít hned, když se objeví.
Potírání produkce deepfaků se tedy trochu podobá honění krtka po zahradě – než mu stihneme zasypat jednu chodbičku, on už má dávno vyhloubené další dvě. A snadné to s tímto AI krtkem nemají ani zákonodárci.
Je to vlastně vůbec legální?
Není žádným tajemstvím, že zatímco technologie se vyvíjejí rychlostí světla, směrnice, nařízení a zákony regulující jejich užití vznikají o dost pomaleji. Reakční dobu vlád navíc prodlužuje i existence křehké hranice mezi potíráním dezinformací a narušováním svobody slova, na kterou při psaní legislativy stále častěji naráží.
To ale neznamená, že je vytváření a uveřejňování deepfaků úplně neregulované. Podle evropského nařízení o digitálních službách (DSA) mají sociální sítě povinnost potlačovat veškeré pokusy o volební manipulace, které se v jejich revíru odehrávají. Všechna deepfake videa, na které na „sockách“ narazíte, jim tedy bez váhání nahlaste.
Nevzdávejme se bez boje
Generativní AI se sice rychle zdokonaluje, ale předčit skutečnost stále ještě neumí. Právě proto se nám občas stane, že při brouzdání internetem narazíme na video, které je sice na první pohled v pořádku, ale něco se nám na něm prostě nezdá. V tu chvíli je většinou potřeba zbystřit.
Na co si dát pozor?
- Zvuk nesedí s obrazem. Pohyby rtů a výrazy tváře mluvčího neodpovídají vyřčeným slovům nebo jejich významům.
- Video má špatnou kvalitu. Obraz často mění jas, kontrast či barvy a/nebo má rozmazané okraje.
- Monotónní a prkenná mluva. Mluvčí zní mechanicky, popřípadě používají výrazy, které nikdy dřív nepoužili.
- Necharakteristické výroky. Sdělení neodpovídá obvyklým názorům mluvčího a není k nalezení v jiných zdrojích, např. na osobních sociálních účtech.
- Nesplnitelné sliby. Mluvčí slibují zmizení státního dluhu, uzákonění legislativ porušujících lidská práva, rychlý a zaručený výdělek či další lákavé, ale většinou nereálné věci.
- Neznámý autor. Video publikoval nový účet bez sledujících, přátel a často i bez historie.
- Skrytý odkaz. Video láká na webové stránky či formuláře s výzvou k okamžité akci. V takové situaci je nutné dbát na varování antivirového programu, který na podobné podvodné pokusy včas upozorní.
„Nevěřte všemu, co na internetu vidíte“ se v naší rychlé a na informace bohaté době obvykle snadněji říká, než dělá. Není to ale nemožné. Stačí si jen udržovat všeobecný přehled, který značně omezí uvěřitelnost prezentovaných dezinformací, a nepřestávat dbát na základní pravidla internetové bezpečnosti.
Tereza Malkusová
Lucie Mudráková
