Pojďme si to tedy společně ujasnit.

Stručná historie deepfaků

Ve své dnešní podobě se deepfaky poprvé objevily už v roce na 2017 na americké sociální síti Reddit. Jejich autor, uživatel s přezdívkou „deepfakes“ (později přejatou do názvu formátu), proslul hlavně vkládáním tváří a hlasů celebrit do pornografických videí.

Jen u explicitního sexuálního obsahu ale dlouho nezůstalo. Kromě dehonestace filmových hvězd a vtípků pochybné úrovně se dnes deepfaky hojně využívají i k hoaxům, finančním podvodům či politické propagandě.

Deepfake videa jako volební manipulace

První případy zneužití tváří a hlasů politických osobností svět zaznamenal v roce 2018 a dnes už se považují za standardní výbavu předvolebního boje o moc. Ačkoliv se to na první pohled možná nezdá, politické deepfaky se od těch „obyčejných“ podstatně liší. Zatímco cílem internetových podvodů je obvykle přimět oběť ke konkrétní akci – např. převedení peněz na účet podvodníka – politické deepfaky se většinou snaží o úplný opak.

Jejich účelem je totiž hlavně zmást a názorově rozdělit poměrně široké publikum. K tomu využívají především kontroverzní tvrzení, hoaxy, dezinformace nebo staré dobré dehonestace politických představitelů. Řečeno úplně jednoduše, chtějí nám zabránit něco udělat – např. podpořit ve volbách konkrétního kandidáta.

Nehledejme za tím ale nákladnou mediální kampaň s promyšlenými argumenty. U volebních deepfaků jde hlavně o kvantitu, ne o kvalitu. Videa musí být jen tak dobrá, aby se nám při doomscrollingu dostala do podvědomí, a „vyskakovat na nás“ dostatečně často na to, aby tam i zůstala.

Funguje tato taktika na všechny potenciální voliče, kteří na deepfake videa narazí? Ne, ale to ani není jejich cílem. K ovlivnění výsledků voleb nakonec často stačí jen pár hlasů.

„Fake news“ na počkání

Toto „tapetování“ kanálu příspěvků na sociálních sítích je možné především díky snadné dostupnosti generativních AI modelů, které umí podobný obsah vyrobit levně a za pouhých pár minut. Prompt přitom může napsat prakticky kdokoliv a odkudkoliv.

Dalo by se tedy očekávat, že když je snadná produkce, bude snadná i detekce. Tak to ale bohužel není. Speciální technologie na rozpoznání deepfaků sice existují, ale jsou náročné na provoz i obsluhu a rychle zastarávají. Autoři deepfaků totiž umí většinu bezpečnostních opatření obejít hned, když se objeví.

Potírání produkce deepfaků se tedy trochu podobá honění krtka po zahradě – než mu stihneme zasypat jednu chodbičku, on už má dávno vyhloubené další dvě. A snadné to s tímto AI krtkem nemají ani zákonodárci.

Je to vlastně vůbec legální?

Není žádným tajemstvím, že zatímco technologie se vyvíjejí rychlostí světla, směrnice, nařízení a zákony regulující jejich užití vznikají o dost pomaleji. Reakční dobu vlád navíc prodlužuje i existence křehké hranice mezi potíráním dezinformací a narušováním svobody slova, na kterou při psaní legislativy stále častěji naráží.

To ale neznamená, že je vytváření a uveřejňování deepfaků úplně neregulované. Podle evropského nařízení o digitálních službách (DSA) mají sociální sítě povinnost potlačovat veškeré pokusy o volební manipulace, které se v jejich revíru odehrávají. Všechna deepfake videa, na které na „sockách“ narazíte, jim tedy bez váhání nahlaste.

Nevzdávejme se bez boje

Generativní AI se sice rychle zdokonaluje, ale předčit skutečnost stále ještě neumí. Právě proto se nám občas stane, že při brouzdání internetem narazíme na video, které je sice na první pohled v pořádku, ale něco se nám na něm prostě nezdá. V tu chvíli je většinou potřeba zbystřit.

Na co si dát pozor?

• Zvuk nesedí s obrazem. Pohyby rtů a výrazy tváře mluvčího neodpovídají vyřčeným slovům nebo jejich významům.
• Video má špatnou kvalitu. Obraz často mění jas, kontrast či barvy a/nebo má rozmazané okraje.
• Monotónní a prkenná mluva. Mluvčí zní mechanicky, popřípadě používají výrazy, které nikdy dřív nepoužili.
• Necharakteristické výroky. Sdělení neodpovídá obvyklým názorům mluvčího a není k nalezení v jiných zdrojích, např. na osobních sociálních účtech.
• Nesplnitelné sliby. Mluvčí slibují zmizení státního dluhu, uzákonění legislativ porušujících lidská práva, rychlý a zaručený výdělek či další lákavé, ale většinou nereálné věci.
• Neznámý autor. Video publikoval nový účet bez sledujících, přátel a často i bez historie.
• Skrytý odkaz. Video láká na webové stránky či formuláře s výzvou k okamžité akci. V takové situaci je nutné dbát na varování antivirového programu, který na podobné podvodné pokusy včas upozorní.

„Nevěřte všemu, co na internetu vidíte“ se v naší rychlé a na informace bohaté době obvykle snadněji říká, než dělá. Není to ale nemožné. Stačí si jen udržovat všeobecný přehled, který značně omezí uvěřitelnost prezentovaných dezinformací, a nepřestávat dbát na základní pravidla internetové bezpečnosti.

Právě teď jsme v horké fázi kampaní před krajskými volbami (a dotýká se nás, chtě nechtě, i volba prezidenta v USA). Reklamní spot nebo politický obsah se tak snadno může dostat i k dětem. Co byste měli vědět o vlivu politického marketingu na děti?

Zeptali jsme se dětské psycholožky, Kamily Ryšánkové, zda se dnešní teenageři ještě zajímají o politiku: „U dospívajících je to individuální podle jejich oblasti zájmu, například jsou dospívající, kteří se zajímají o ekologii nebo ochranu zvířat a podle toho sledují i politické kroky. Kde se ale z mé zkušenosti s politikou nejčastěji dospívající setkávají, jsou sociální sítě. Sledují zde influencery, kteří se o oblast politiky zajímají nebo jsou alespoň s blížícími se volbami vystaveni politickým názorům oblíbených influencerů.“

Sociální sítě formují názory dětí na svět

Na Instagramu existují různé formy politické reklamy, jako jsou sponzorované příspěvky, influencer marketing a virální kampaně. To často komplikuje identifikaci, kdy jde o placenou propagaci a kdy o běžnou aktualizaci profilu.

Placené kampaně využívají i extremisté, často se můžete setkat i s dezinformacemi. Bez ohledu na to, jaké máte vy osobně politické preference to může představovat problém. To, co vidíme na sociálních sítích, totiž formuje náš názor na svět a to v dobrém i špatném slova smyslu.

„Na sociálních sítích jsme každý den vystaveni velkému množství informací, které nám vybírá algoritmus. Tím na sítích velmi snadno dochází k tzv. filtrační bublině. Tedy jsme obklopení informacemi, které jsou v souladu s našimi přesvědčeními, což může vytvářet omezený náhled na dané téma. To doplňuje i propojení se na sítích s lidmi s podobnými názory,“ objasňuje Kamila Ryšánková.

„Pokud jsme vystavení názorům influencerů, tak snadněji přejímáme jejich názory, protože máme dojem, že je známe. Což je podtrženo tím, že se pohybujeme v jejich komunitě. Taky je nejčastěji sledujeme, protože jsou nám sympatičtí a působí reálně nebo se jim chceme vyrovnat a dosáhnout podobného úspěchu, proto některé názory můžeme od nich přejímat více nekriticky.“

Mladiství se mohou setkávat také i s  dezinformacemi a fakenews, jejichž cílem je získat si naši pozornost a ovlivnit nás.

Lhát se nemá, ale….

Společnost Meta (která vlastní sítě Facebook a Instagram) už loni zpřísnila cílení reklamy na teenagery. Cílit lze jen na věk a lokalitu, už ne podle zájmů nebo pohlaví. Snaží se také bojovat s dezinformacemi, ale zde je situace velmi složitá.

Za prvé nepravdivé informace se šíří velmi rychle a je těžké zasáhnout včas a za druhé ne vždy je pro algoritmy snadné rozeznat lži. Instagram někdy upouští od takového ověřování faktů, zejména pokud jde o prohlášení politiků, aby nedošlo k narušení práva na svobodu projevu.

Do předvolebních bojů stále častěji promlouvají AI technologie. Už nyní se lze setkat se zmanipulovanými obrázky a je jen otázka času, kdy dojde na deepfake, tedy videa. Ta už jsou ale k nerozeznání od skutečnosti. Typickou ukázkou mohou být kontroverzní plakáty hnutí SPD, které vytvořila AI. Prozatím nemáme legislativu, který by to zakázala nebo regulovala.

„Většina dospívajících, kteří se pohybují na sociálních sítích, tak nějaké povědomí o dezinformacích nebo deepfake mají. Nejčastěji si vybaví různý zábavný obsah, ve kterém jsou parodovány známé osobnosti. Schopnost dětí kriticky přemýšlet nad deepfakes nebo nad dezinformacemi začíná až po desátém roce života a postupně se rozvíjí. Klíčové je vést děti k digitální gramotnosti, aby tyto manipulace dokázaly rozpoznat. I pro dospělé je někdy velmi náročné odhalit, zda jde o pravdivé informace,“ dodává Ryšánková.

Nenechte se opít obrázkem

Problém je také vizuální stránka sociálních sítí. Obrázky se pamatují lépe než texty a obsah obrázku vždy zastíní sdělení textu, i když se obsahově liší. Obrázky přidávají do zpráv emoce, typicky vyvolávají strach nebo vzbuzují sympatie.

Odborníci hovoří o vizuálním rámování. Jde o to, že vizuálním materiálem dodávají zprávě nějaký kontext. Někdy může být i částečně podvědomý. O rámování hovoří také nobelista Daniel Kahneman v knize Myšlení rychlé a pomalé (kapitola 38). Podle něj náš mozek často vyhodnocuje informace neracionálně, jen na základě pocitů. Prostě si na věc uděláme názor, aniž bychom přemýšleli.

Šetří to energii a v dobách primitivních předků lidí, nám takové schematické uvažování pomáhalo přežít. Platilo: To zvíře má velké zuby? Může mě roztrhat, tak uteču nebo ho ulovím. Dnes ale nežijeme v době kamenné a rozhodovat se podvědomě na základě strachu už není funkční.

„Od přírody je náš mozek evolučně nastavený k citlivějšímu vnímání obrazů a vizuálních podnětů, jelikož potřeboval rychle určit, co je důležité k přežití, tedy rozpoznat predátora a vyhledat potravu. Pamatuje si lépe obrazy než slova, a to je díky tomu, že je citlivější na symbolickou podobu prezentace informací. V mediích a na sítích je to dokresleno obrázky, které mají za cíl vyvolat emoce, kdy je následně téma vnímáno jako vážnější a důležitější, protože se aktivuje limbický systém pojící se s emocemi. A pochopitelně se silná emoční odezva mozku lépe pamatuje,“ vysvětluje, proč tomu tak je, Kamila Ryšánková.

Snímky vygenerované AI sdílel na síti X i Donald Trump, přesněji přesdílel příspěvky jiných uživatelů, a to i přesto, že jeden z nich je jasně označen jako satira. K příspěvku připojil jen slovo „Přijímám“. Není to jediný upravený nebo nepřesný příspěvek v kampani Donalda Trumpa. Zdroj obrázku: https://truthsocial.com

Za využití obrázků vygenerovaných umělou   Patrně chtěl vyvolat dojem, že fanoušci Taylor Swift (která má opravdu velký vliv), budou volit právě jeho.  Co nám říká vizuální rámování? „Všichni mladí lidé volí takto“.

„Celebrity s velkým vlivem snadněji ke svým názorům přitáhnou pozornost mladých lidí a jejich názory jsou často diskutovány a probírány v mediích, čímž se zvyšuje jejich dosah. Dospívající považují influencery a celebrity mnohdy za „nositele“ ideálů a hodnot, takže když celebrita vyjádří svůj politický postoj, tak se k němu dospívající může snadněji přiklonit na základě identifikace s ní. A tím, že influenceři veřejně vystupují, tak vytváří dojem bezpečného a známého a tím se i jejich názory stávají snadněji přejímatelné,“ říká o roli slavných psycholožka.

Podle průzkumu, který cituje Deník N, bude pětina fanoušků Taylor Swift volit kohokoliv jim zpěvačka řekne, což může být přes 1,5 milionů hlasů. Je tedy pravděpodobné, že se s využíváním (ale bohužel také zneužíváním) slavných osobností v kampaních budeme setkávat stále častěji.

Jak mluvit s dětmi o politice?

Politika do našeho života patří. Nejlepší, co můžeme pro naše děti udělat je otevřeně o ní mluvit stejně jako o rizicích internetu. A to i když máte na různé otázky velmi odlišné názory.

Jak pomoci dětem zorientovat se v politickém marketingu?

• Mluvte spolu pravidelně o aktivitách na Instagramu, sdílejte zájmy a obavy a vytvořte důvěrnou atmosféru, kde se vaše děti mohou ptát a sdílet cokoli.
• Je zásadní, abyste trénovali s dětmi mediální gramotnost a kritické myšlení.
• Povzbuzujte své děti, aby zpochybňovaly obsah, rozlišovaly fakta od názorů a využívaly alternativní zdroje informací – a aby byly kritické nejen ke slovům druhých, ale také k jejich obrazům.

• Je také důležité vzdělávat se o extremistických ideologiích a propagandistických technikách. Podívejte se společně na reálné příklady extremistické propagandy a zkuste zjistit, jak funguje a jaké páky její tvůrci používají k manipulaci s názory. Připomeňte si, že řada krvavých diktátorů vyhrála demokratické volby.

Jak ještě zvýšit bezpečnost dospívajících na Instagramu?

Bezpečnost na sociálních sítích i dodržování obecnějších pravidel. Například nastavte profily jako soukromé a omezte, kdo může dítě označit či kontaktovat.

Naučte děti, jak nahlásit nevhodný obsah, nahlásit extremistickou propagandu nebo jiný nevhodný obsah.

Vysvětlete jim, kdo jsou trollové. Jde o uživatele, kterým jde jen o to vyvolat co nejhustější atmosféru a emoce. Někdy se v kvůli tomu pouští i do nenávistných komentářů a výpadům vůči dětem. Byť ony jen přišly zcela korektně říct  svůj názor. Trolly nemá smysl brát vážně a už vůbec ne si je pouštět k tělu. Jak se vůči nim vymezit se dočtete v článku Trollové v temných zákoutích internetu: Jak je porazit jako v pohádkách?.

„Existuje reálné nebezpečí, že volby do Bundestagu v příštím roce budou narušeny cílenou infiltrací zvenčí, která bude mít za cíl manipulovat s fakty nebo názory,“ upozornil v rozhovoru pro německý deník Koelner Stadt Anzeiger poslanec Wolfgang Bosbach z vládní Křesťansko-demokratické unie (CDU) kancléřky Angely Merkelové.

Obavy neskrývá ani mluvčí koaliční SPD pro zahraniční záležitosti Rolf Muetzenich, který v rozhovoru pro britskou BBC uvedl, že „bohužel nelze vyloučit takové aktivity ani v Německu“. Volební kampaň podle něj budou provázet snahy o diskreditaci a „falešné příběhy“.

Ruští hackeři jsou aktivní již teď

„Je zde velké nebezpečí, že dojde k útokům hackerů na strany a frakce, a že dezinformační kampaň bude nabývat na intenzitě. Musíme se s tím poprat a vyzbrojit se příslušnými právními předpisy,“ míní mluvčí vládní CSU pro vnitřní záležitosti Stephan Mayer. První náznaky aktivit ruských hackerů na německém území již proběhly.

Podle Hanse-Georga Maasena, šéfa spolkové zpravodajské služby Bundesamt für Verfassungsschutz (BfV) jde především o členy nechvalně známé hackerské skupiny Fancy Bear nebo také APT28, jež má mít přímé vazby na ruský stát.

„Evidujeme stále agresivnější způsoby kybernetické špionáže. Náznaky pokusů o ovlivnění německých parlamentních voleb v příštím roce se zintenzivňují,“ prohlásil Maasen.

Diplomatická roztržka mezi Německem a Ruskem propukla letos v lednu kvůli dezinformační kampani o údajném únosu a znásilnění třináctileté ruské dívky v Berlíně. Případ se objevil v televizní reportáži s názvem „Lisa F“. Po jejímž odvysílání němečtí politici obvinili Moskvu z podněcování krajně pravicových skupin a rozšiřování konspiračních teorií v Německu.

Obrana? Téměř nemožná, říká expert

Zabránit skupinám útočníků v ovlivňování nadcházejících voleb do Spolkového sněmu ale bude nesmírně těžké. „Způsobů, jak by mohli ruští hackeři volby ovlivnit, je mnoho a těžko se může zpravodajská služba zaměřit na všechny. Důležité bude ochránit samotný proces hlasování a sčítání hlasů. Jakákoli elektronická komunikace představuje potenciální riziko,“ říká Miroslav Dvořák, technický ředitel antivirové společnosti ESET.

Parlamentní volby v Německu se uskuteční na podzim příštího roku. Současná německá kancléřka Angela Merkelová již oznámila, že se pokusí počtvrté obhájit mandát a opět stanout v čele největší evropské ekonomiky. Dosavadní průzkumy předvolebních preferencí jí dávají velkou šanci na vítězství. To se nemusí líbit Rusku, vůči němuž Německo prosazuje ekonomické sankce kvůli anexi Krymu a podpoře separatistů ve východních regionech Ukrajiny.

Slova mluvčího DNI potvrdil i demokratický člen stálého výboru pro zpravodajské služby sněmovny reprezentantů Adam Schiff. „Vzhledem k tomu, jak intenzivně je vnímána kampaň v roce 2016 a jak dalekosáhlé důsledky bude mít volba prezidenta pro zahraniční politiku USA, není žádným překvapením, že aktivisté připravují kybernetické útoky proti prezidentským kampaním,“ prohlásil Schiff. FBI a jeho oddělení vnitřní bezpečnosti se proto snaží poučit organizátory obou kampaní, jak zabezpečit jejich IT systémy před těmito útoky.

Demokratická prezidentská kandidátka Hillary Clintonová již v minulosti čelila kritice kvůli vyřizování pracovních záležitostí přes osobní e-mail v době, kdy působila jako ministryně zahraničí v první vládě současného prezidenta Baracka Obamy. Její e-mailový účet napadli hackeři a dostali se k informacím, které měly být utajeny. Nezávislá vyšetřovací komise tento týden potvrdila, že Clintová v tomto případě porušila pravidla zabezpečení komunikace.

Podle Dwayna Melancona z bezpečnostní společnosti Tripwire jsou prezidentské kampaně ideálním cílem pro hackery. Vzhledem k tomu, že se prezidentské klání zúží na pouhé dva kandidáty, přitáhne pozornost široké veřejnosti, a to podle něj láká různé kyberzločince. „Politika a kybernetická bezpečnost jsou v těchto dnech propojené nádoby,“ míní ředitel Tripwire Tim Erlin. „Když máte výřečného kandidáta se silnou podporou, nutně na sebe strhává zvýšenou pozornost, a to jak v pozitivním, tak i negativním slova smyslu – v reálném i online světě,“ upozorňuje Erlin.

„Zvýšené riziko kybernetických útoků se nebude týkat pouze kandidátů a jejich kampaní. Na pozoru by měla být celá veřejnost, protože mohou přijít útoky, které využijí známosti politických kandidátů, ale zaměří se na běžné uživatele,“ zavírá šéf Tripwire.

Obětem by měl podle návrhu obžaloby vyplatit odškodné 250 tisíc dolarů

Údajný hacker požadoval od poradenské společnosti výkupné jeden milion Bitcoinů. Pokud by firma nezaplatila, byl podle dopisu připraven zveřejnit daňové doklady Romneyho a jeho ženy z období před rokem 2010. Žádná taková data ale Brown nikdy nezískal a servery PwC nenapadl, celý bezpečnostní incident si vymyslel a doufal, že společnost na jeho požadavek přistoupí. Vzhledem k tomu, že Romney byl v té době významným republikánským kandidátem na prezidenta USA, případu se ujala federální vyšetřovací služba FBI.

Agenti poměrně rychle domnělého hackera dopadli, protože k vydírání použil svůj osobní počítač. Ještě předtím stihl Brown pohrozit, že zneužije daňové údaje dalších rodinných příslušníků Mitta Romneyho a byl připraven je nabídnout přes portál Pastebin.com. Po zatčení ihned putoval do vazby a minulý týden byl shledán vinným ze šesti internetových podvodů a vydírání. Soud bude v srpnu rozhodovat o tom, zda bude odsouzen na 25 let vězení za podvody a dalších pět let za vydírání. Svým obětem by měl podle návrhu obžaloby vyplatit odškodné 250 tisíc dolarů.