Podvody dokáže připravit už i umělá inteligence

Deepfake: Dají se rozeznat podvody vytvořené pomocí pokročilých technologií?

K vytvoření dezinformací a podvodů se používá i umělá inteligence. Deepfake videa se stala těžko rozeznatelná od reality a s rychlým vývojem technologií se budou nadále zlepšovat. Jak se nestát obětí podvodu s deepfake?
Lucie Mudráková
Total
0
Sdílení

Deepfake. V online světě se tímto termínem označuje falešné video, ve kterém se podvodník pomocí technologií vydává za někoho jiného. A video je právě díky technologiím prakticky k nerozeznání od skutečnosti.

Deepfake videa využívají umělou inteligenci. Pokud má útočník dostatek vstupních dat, tak dokáže s její pomocí věrohodně napodobit řeč těla i mimiku libovolné osobnosti, stejně jako její hlas. Představit si to můžete například tak, že umělá inteligence neboli technologie strojového učení pohltí nepřeberné množství obrázků, které denně vznikají jako selfie třeba na Instagramu, a zvukových stop z televizních rozhovorů, webinářů, konferenčních prezentací nebo komentovaných videí z dovolené z YouTube. A poté vytvoří velmi jasný obraz, video a hlas téměř kohokoli.

Jedním příkladem za všechny jsou například známá videa s falešným Tomem Cruisem:

Tato technologie se tak dá využít k zábavě – třeba ve filmech nebo v aplikacích, které nahradí obličej slavné celebrity vašim vlastním. Nás jako uživatele by ale měla daleko víc zajímat její odvrácená strana. Zmanipulované video lze zneužít k diskreditaci známých osobností, ale třeba také k šikaně. Podle analýzy společnosti Deeptrace z roku 2019 bylo 96 % deepfake videí z kategorie pornografie. Obětí může být přitom každý – útočník potřebuje jen dostatek dat k vytvoření falešného videa.

Deepfake videa pak mají také potenciál rozšířit metody takzvaného sociálního inženýrství. Pokud bude dnes již klasická podvodná a manipulativní komunikace v e-mailu a chatovacích aplikacích doplněna i o deepfake video, které umožní útočníkovi „podvrhnout“ video a zvuk a vydávat se za vašeho šéfa nebo kolegu, může nastat opravdový problém. Představte si třeba phishingový útok v podobě videokonverzace s někým, o kom si myslíte, že je skutečný. Jenže on nebude.

Deepfake video vytvoří i mobilní aplikace

Triviální verze deepfakes lze snadno vytvořit pomocí mobilních aplikací, jako je například FaceApp nebo FaceSwap. Složitější videa pak již ale vyžadují pokročilejšího tvůrce a technické vybavení. Technologie tvorby deepfakes je mladá, ale jde dopředu mílovými kroky. Poměrně kvalitní deepfake vytvoří kdokoli, kdo má dost času, kvalitní techniku, a hlavně dost záznamů osobnosti, kterou chce obsadit do svého zmanipulovaného videa.

Zkusil to mimo jiné také blogger Patrik Kořenář:

Může lidské oko deepfake poznat?

Možná se vám boj s deepfaky může zdát jako předem prohraný. Rozpoznat opravdu propracované video je těžké, obzvláště na sociálních sítích, kde obsah konzumujeme rychle a nesledujeme detaily. Videa jsou na sítích sdílena velmi rychle a proč bychom neměli věřit něčemu, co sdílí naši přátelé?

O to právě ale jde – to, co na internetu vidíme, musíme neustále prověřovat a přistupovat k tomu obezřetně. Deepfake může mít problémy například se zvukem, který nemusí zcela odpovídat pohybu rtů mluvčího a může docházet k třepení podél linií obličeje osoby, v blízkosti linie vlasů či linií oděvu. Typické jsou chyby v osvětlení: obličej může být světlejší/tmavší než tělo, může se objevit neobvyklý stín nebo každé z očí může odrážet jiný obraz. Velice často také postavy v deepfake nemrkají.

Někdy deepfake prozradí vybavení v prostoru okolo mluvčího, například nesedí nábytek, pozadí se hýbe a podobně. Lišit se může také ostrost obrazu – obličej je například ostřejší než zbytek těla nebo okolí postavy ve videu. Všechny tyto limity může technologie do budoucna samozřejmě odstranit.

Deepfake video bude tím lepší, kolik dat bude mít strojové učení k dispozici a kolik času bude moct jejich zpřesňování a zpracovávání věnovat.

Důležité je tak už jen vědět, že video, na které se zrovna díváme na své oblíbené sociální sítí, nemusí být reálné, a postarat se o bezpečnost svých dat na internetu – ať už silnými hesly ke všem online účtům, doplněnými o ověření dalším faktorem (SMS zprávou nebo notifikací v aplikaci), nebo obezřetností při práci s příchozí komunikací, která může být zdrojem malwaru i podvodných odkazů. V boji s těmito riziky vám pomůže také kvalitní antivirový software.

Novinky z magazínu Dvojklik.cz

Jednou měsíčně vám pošleme to nejbezpečnější čtení. Pohodlně. Do mailu.

Frekvence odesílání 1x měsíčně.
Snadné odhlášení jedním kliknutím.

Další informace o zpracování osobních údajů najdete v našich zásadách ochrany osobních údajů.

Mohlo by vás zajímat