A dává to perfektní smysl. Správně používané nástroje umělé inteligence dovolují developerům přenechat rutinní část práce AI, uvolnit si ruce pro kreativnější a složitější úkoly a celý proces zrychlit. A pokud zkušení programátoři vygenerovaný kód pečlivě kontrolují, opravují a testují, není nic z toho v zásadě problém.

Co když ale kód generuje někdo, kdo programování vůbec nerozumí? Právě to je totiž nejčastější problém tzv. vibe codingu. Co to je, jaká jsou rizika aplikací programovaných tímto způsobem a jak je odhalit dřív, než aplikaci svěříme svá data?

Co je vibe coding?

Termín „vibe coding“ (kódování náladou/atmosférou/intuicí) vytvořil spoluzakladatel OpenAI Andrej Karpathy pro AI asistované programování, při kterém se programátor „plně oddá intuici i exponenciálnímu tempu a zapomene, že nějaký kód vůbec existuje“.

V praxi to znamená, že programátor popíše zamýšlenou aplikaci velkému jazykovému modelu (LLM) a nechá jej vygenerovat kód, který pak následně upravuje pomocí dalších promptů. Generovat aplikace tak můžou i ti, kteří nemají znalosti ani zkušenosti na to, aby byli schopní v kódu najít a odstranit chyby, nedostatky a bezpečnostní „díry“.

Díky snadné dostupnosti AI nástrojů založených na LLM se totiž může do programování aplikací pomocí vibe codingu pustit skutečně každý.

Nejčastější chyby v aplikacích vytvořených metodou vibe codingu

Nástroje umělé inteligence určené k vibe codingu upřednostňují funkčnost a vzhled uživatelského rozhraní před kvalitou kódu, což vede ke vzniku (nejen) následujících bezpečnostních rizik:

• Pevně zakódovaná tajná data (např. API klíče) zapomenutá v kódu aplikace, odkud je útočníci můžou vytáhnout, dopátrat se backendu (tedy datové vrstvy softwaru nebo serveru) vývojáře a získat uživatelská i jiná data.
• Chybějící validace vstupů a řízení přístupu, což vede k situaci, kdy aplikace přijímá škodlivá data a/nebo umožňuje uživatelům zobrazit a měnit data ostatních uživatelů.
• „Veřejné“ výchozí nastavení, díky kterému uživatelé vidí profily nebo důvěrné informace ostatních uživatelů téže aplikace.
• Slabé nebo žádné šifrování, což umožňuje snazší čtení a zneužívání dat ukradených z aplikace nebo při přenosu do/z ní.
• Chybějící omezení rychlosti, které by hackerům ztížilo provádět útoky hrubou silou (brute-force attack).

Tato rizika bohužel nejsou jen teoretická, jak ukázal například nedávný případ švédské platformy pro vibe coding Lovable. Softwarový inženýr Taimur Khan počátkem roku 2026 upozornil na celkem šestnáct zranitelností (z toho šest kritických), z nichž některé přímo ohrožovaly citlivé informace uživatelů. Ačkoliv společnost Lovable podle vlastních slov tyto zranitelnosti opravila, je možné, že až do incidentu o nich vůbec nevěděla.

Co riskujeme používáním aplikací vygenerovaných vibe codingem?

Používání „děravých“ aplikací, které mají v kódu jeden nebo více problémů popsaných výše, má pro naši kyberbezpečnost praktické důsledky v podobě krádeže dat, finanční ztráty nebo instalace malwaru. Se špatně naprogramovanou aplikací riskujeme:

• nezabezpečené uchovávání hesel, které může vést k narušení bezpečnosti účtu nebo zařízení;
• nezodpovědné nakládání s osobními údaji (např. e-mailová a fyzická adresa, identifikační údaje), které útočníkům usnadňuje krádež identity;
• neomezený přístup k uživatelským datům a AI promptům, které umožňují ostatním uživatelům volně nakládat s našimi osobními informacemi;
• únik platebních údajů, který může vést k podvodům a finančním ztrátám.

Jak poznáme aplikaci vytvořenou pomocí vibe codingu?

Říká se „podle nosa poznáš kosa“, ale aplikace generované vibe codingem nemají žádný nos, podle kterého by je běžný uživatel mohl snadno rozeznat. Ani distribuční platformy či obchody s aplikacemi často nevědí, která aplikace vznikla pomocí vibe codingu, a výše zmiňované bezpečnostní problémy tak neodchytí.

Je tedy na nás, na uživatelích, abychom si pohlídali, koho vpustíme do svého zařízení. Začít můžeme třeba následujícími pěti otázkami:

1. Kdo aplikaci vyvinul? Jde o legitimního vývojáře? Jak dlouho působí na trhu, jaké má hodnocení a reputaci? Pokud najdete negativní recenze, pečlivě si je pročtěte. V případech virálních aplikací se nenechte strhnout marketingem a ověřte si, že mají oficiální a funkční podporu.
2. Co po nás aplikace chce? Zkontrolujte si oprávnění, která aplikace požaduje, a zamyslete se, jestli dávají smysl (např. kalkulačka nepotřebuje přístup k fotoaparátu apod.). Pamatujte, že čím citlivější data sdílíte, tím větší podstupujete riziko.
3. Co říkají zásady ochrany soukromí poskytovatele? Legitimní aplikace by vás vždy měla informovat, která data ukládá a proč, s kým je sdílí, jak dlouho je uchovává atp. Zároveň by měla mít jasně stanovený postup pro mazání dat při odinstalování aplikace.
4. Jak vypadá bezpečnostní model aplikace? Základní úroveň zabezpečení by měla zahrnovat ochranu hesel a citlivých dat, bezpečnostní aktualizace a mít zavedený mechanismus pro nahlašování zranitelností.
5. K čemu má přístup integrovaná AI? Čím víc oprávnění umělá inteligence má, tím větší riziko nám vzniká ve chvíli, kdy je kompromitovaná, např. pomocí výše zmíněné prompt injection.

Co dělat, pokud používáme kompromitovanou aplikaci?

Jedna „děravá“ aplikace v zařízení ještě neznamená, že je vše ztraceno, naopak. Únik dat většinou začíná na serveru poskytovatele, takže musíme začít u kompromitovaného účtu a pokračovat ochranou zařízení.

1. Změňte si heslo a pak požádejte o smazání účtu včetně uživatelských dat. Pamatujte, že „sejde z očí, sejde z mysli“ v podobě pouhé odinstalace aplikace v této situaci nijak nepomůže.
2. Změňte si heslo i všude jinde, kde jste používali stejné, a zapněte si dvoufázové ověření.
3. Pokud jste se registrovali pomocí Google, Apple apod., odejměte oprávnění aplikace u všech propojených účtů.
4. Monitorujte všechny své účty včetně bankovního a v případě, že si všimnete abnormální aktivity, okamžitě reagujte.
5. Aplikaci odinstalujte a spusťte kontrolu bezpečnostním softwarem. Pokud aplikaci odinstalovat nejde, vraťte zařízení do továrního nastavení a hesla k ostatním účtům změňte z jiného, důvěryhodného zařízení.

Shrnutí: bezpečnost našich zařízení je hlavně na nás

Vibe coding funguje tak, že vývojář AI nástroji popíše, co má aplikace umět, a přijme výstup, který nástroj vygeneruje, často bez řádné kontroly kódu. Pokud je autorem aplikace nezkušený programátor nebo úplný laik, kód aplikace obvykle obsahuje začátečnické chyby a bezpečnostní problémy.

Aplikaci programovanou pomocí vibe codingu nelze snadno rozeznat od ostatních. Uživatelé by si tedy měli prověřit reputaci vývojáře, zásady ochrany soukromí a požadovaná oprávnění, než si aplikaci nainstalují. V případě narušení bezpečnosti zabezpečte účet aplikace i další účty, smažte aplikaci a proveďte důkladnou kontrolu komplexním bezpečnostním řešením.

Mohlo by vás zajímat:
🪄 Jak bezpečná je umělá inteligence v roce 2026?
🪄 Dnes ordinuje MUDr. Chatbot. Co si ověřit, než se objednáte?
🪄 Je ChatGPT bezpečný? Jak AI chatbota používat správně

Podle výzkumu Čeští žáci a umělá inteligence z roku 2024 deepnude fotografii už někdy vygenerovala celá 3 % žáků pod 14 let. Ve skupině žáků starších 15 let to bylo zhruba stejně. A za poslední dva roky jejich popularita rozhodně neklesla, protože v červenci 2026 na tento nebezpečný trend upozornila i Policie ČR, a to v kontextu zneužívání dětských fotografií ze sociálních sítí ke generování deepfaků.

V následujícím článku se podíváme na to, jak minimalizovat šanci, že nás nebo naše blízké někdo digitálně svlékne, a jak postupovat, pokud k tomu přece jen dojde.

Co vlastně jsou nudify apps?

Nudify app, deepnude app, undress app nebo česky svlékací aplikace je nástroj, který využívá technologii deepfaků založenou na generativní umělé inteligenci (AI) k napodobování anatomie člověka. To znamená, že z libovolné fotografie oblečeného člověka zvládne vytvořit přesvědčivé svlečené obrázky, jak už nám na začátku 2026 ukázal chatbot Grok od X.

Může jít o obrázky oběti ve spodním prádle, bez oblečení nebo přímo pornografické materiály. Fakt, že nejsou skutečné, přitom ve finále nehraje vůbec žádnou roli. Útočníci je hojně využívají k podvodům, sextorzi nebo staré dobré kyberšikaně a svým obětem tak způsobují nemalou finanční či psychickou újmu.

Jsou svlékací aplikace vůbec legální?

Podle evropského aktu o umělé inteligenci spadají nudify aplikace do kategorie nepřijatelného rizika a jejich zákaz vstoupí v platnost v prosinci 2026. Pokud tedy na podobnou aplikaci narazíte v obchodu s aplikacemi, nebojte se ji nahlásit jako nevhodnou.

Obsah, který takové aplikace generují, je v České republice už chvíli nezákonný. Podle § 191a zákona č. 40/2009 Sb., trestního zákoníku je zneužití identity k výrobě pornografie a její šíření od 1. ledna 2026 trestným činem. Nezáleží přitom na tom, jaké nástroje byly k výrobě pornografie použité.

Pokud je oběť nezletilá, spadá takový útok pod výrobu a jiné nakládání s dětskou pornografií a ošetřuje ji § 192 zákona č. 40/2009 Sb., trestního zákoníku. Pro naplnění skutkové podstaty trestného činu přitom ani není nutné, aby generovaný obsah napodoboval realitu, musí jen zobrazovat dítě nebo mladistvého a naplňovat definici pornografie.

Jak snížit riziko, že nás někdo nahraje do nudify aplikace?

Pachatelé, kteří zneužívají svlékací aplikace, ke své činnosti potřebují hlavně naše fotografie, které získávají buď z našich účtů na sociálních sítích nebo pomocí škodlivých aplikací, které nám kradou data.

5 tipů, jak se chránit před vznikem deepfaků:

1. Zkontrolujte si nastavení soukromí na sociálních sítích. Cizí lidé by neměli mít neomezený přístup k vašim fotografiím a kontaktním informacím.
2. Ověřte si, jaké fotografie jsou na internetu dostupné, např. na stránkách zaměstnavatele, školy, mateřské školky apod. Čím méně jich najdete, tím lépe.
3. Dbejte na dostatečná bezpečnostní opatření svých účtů. Nastavte si unikátní hesla, vícefaktorové ověření a pravidelně aktualizujte aplikace i operační systémy. A nezapomeňte ani na komplexní digitální ochranu.
4. Nenahrávejte své fotografie do nástrojů AI a jiných aplikací, pokud vysloveně nemusíte. Pozor, ne všechny aplikace v obchodech aplikací jsou bezpečné.
5. Mluvte s dětmi o rizicích nudify apps, přílišného sdílení fotografií, osobních údajů na sociálních sítích a internetové bezpečnosti.

Příručka pro rodiče: Jak ochránit děti na internetu

Dozvíte se, jak vytvořit pro děti bezpečné on-line prostředí, ať už se jedná o sociální sítě, online hraní her či prohlížení obsahu.

VYZKOUŠET

Co dělat v případě, že naši identitu někdo zneužije k tvorbě deepfaků?

Pokud jste začali používat internet v posledních dvaceti letech, existuje reálná šance, že ani při vší snaze nikdy nebudete mít všechny zveřejněné fotografie ani osobní data pod kontrolou. Jak tedy postupovat v případě, že někdo vygeneruje deepnude vás či vašich blízkých?

1. Nikdy neodpovídejte na zprávy od lidí, kteří se vás pokouší vydírat pomocí (falšovaného) pornografického obsahu. Jakákoliv reakce je buď vyprovokuje stupňovat nároky nebo tyto materiály začít šířit.
2. Uložte si všechny důkazy v podobě relevantních zpráv, uživatelských přezdívek, telefonních čísel, URL a snímků obrazovky. Pečlivě zaznamenejte všechna data. Samotný obsah nikomu nepřeposílejte, jeho přechovávání nebo šíření by mohlo být ze zákona problematické.
3. Nahlaste nevhodný obsah sociální síti, platformě nebo webové stránce, na které ho útočník uveřejnil, a požádejte Google o odstranění obrázku. Podle DSA (nařízení o digitálních službách) by vám měli vyhovět. Nápomocná může být i platforma STOPonline.cz pro nevhodný či nezákonný obsah zobrazující děti či nástroj pro odstraňování nekonsensuálního intimního obsahu StopNCII.org.
4. Podejte trestní oznámení. Návod najdete na stránkách Policie ČR.
5. Pokud je obětí dítě, ujistěte ho, že to není jeho vina a že spolu situaci vyřešíte.

Závěr: pokud někdo zneužije vaše fotografie, braňte se

Nudify apps využívají generativní umělou inteligenci k vytváření svlečených obrázků lidí, jejichž fotografie do nich útočník nahrál. Vytváření a šíření takovýchto materiálů bez svolení zobrazované osoby je v České republice nelegální. V případě, že je zobrazovaná osoba navíc nezletilá, se čin klasifikuje jako výroba dětské pornografie.

Pokud se vy nebo někdo z vašich blízkých stane obětí zneužití identity k výrobě pornografie, uložte si všechny důkazy včetně přesných dat, nahlaste nevhodný obsah platformám a neprodleně podejte trestní oznámení.

V rámci prevence si nezapomeňte zkontrolovat nastavení soukromí na používaných platformách a dobře si rozmyslete, jaká osobní data včetně fotografií sdílíte na sociálních sítích, aplikacích a s AI chatboty.

Mohlo by vás zajímat:
🚫 Co je to digitální identita a jak si ji chránit?
🚫 Podvod jménem sextorze. Jak se chránit a bránit?
🚫 Fenomén deepfake: když nesmíte věřit tomu, co vidíte

Zrovna tady ale často začíná grooming. Nemá podobu explicitních zpráv nebo výhružek, ale obyčejných, každodenních konverzací, které budují důvěru mezi dítětem a predátorem. A často bohužel úspěšně.

Podle výzkumu Čeští žáci v online světě 2025 realizovaného Pedagogickou fakultou Univerzity Palackého v Olomouci a CZ.NIC by až 18 % dětí ve věku 13 až 17 let šlo na schůzku s internetovým známým, 40 % uvedlo, že neví a nedokáže odpovědět. Jen něco málo přes polovinu dětí by se přitom svěřilo rodičům nebo kamarádovi a celých 6 % by se údajně nesvěřilo nikomu.

Jak tedy můžou rodiče rozpoznat nebezpečí včas bez toho, aby svým dětem dělali „policajta“?

Jak se vyvíjí online grooming?

Online grooming probíhá prakticky kdekoliv, kde dítě přichází do kontaktu s dalšími lidmi, tzn. v multiplayerových hrách, na sociálních sítích, v chatovacích aplikacích, v chatech při live streamingu nebo v online komunitách postavených na společných koníčcích a zájmech. Jakmile se objeví platforma, na které se začnou sdružovat děti, je téměř jisté, že se tam budou sdružovat i predátoři.

A to je problém, protože díky dosahu těchto platforem může jeden „groomer“ rychle kontaktovat desítky až stovky dětí, aniž by vůbec vytáhl paty z domu. Obvykle to probíhá tak, že predátor:

• projevuje neobvykle intenzivní zájem o koníčky, problémy nebo každodenní život dítěte;
• poskytuje emocionální podporu a nešetří komplimenty, aby si rychle získal důvěru dítěte;
• preferuje konverzace v soukromých zprávách, nebo na šifrovaných chatovacích aplikacích;
• požaduje, aby dítě konverzace tajilo před rodiči a kamarády;
• postupně otevírá osobnější a sexuálnější témata, ale většinou až ve chvíli, kdy si vybudoval důvěru;
• vyvolává pocit viny, vyvíjí nátlak a emocionálně manipuluje dítě ve chvíli, kdy se pokusí konverzaci nebo vztah ukončit.

Jak se online grooming v posledních letech vyvíjí?

Děti dostávají svá první digitální zařízení v mnohem nižším věku než předchozí generace. To samo o sobě není špatně. Online prostor dětem pomáhá se učit, tvořit, spolupracovat a udržovat přátelství. S každou komunitou, do které děti vstoupí, ale roste nebezpečí, že je kontaktuje někdo s nekalými úmysly.

Změnil se i způsob komunikace. Místo textových zpráv teď děti komunikují přes mizející zprávy, hlasové chaty, video hovory, skupinové konverzace a herní platformy. To dělá online interakce pro děti atraktivnější, ale rodičům ztěžuje je monitorovat a rozeznat, kdy překročily bezpečnou hranici.

Svou roli samozřejmě hraje i generativní umělá inteligence, která usnadňuje vytváření přesvědčivých falešných profilů, realistických fotek, překlad konverzací do jiných jazyků nebo generování zpráv, které působí osobněji a důvěryhodněji. Čím dostupnější tyto technologie jsou, tím těžší je rozeznat skutečné od falešného jak pro děti, tak pro jejich rodiče.

Technologie se mění, ale způsob manipulace zůstává

Grooming nefunguje díky tomu, že jsou děti neopatrné, naivní nebo neschopné rozeznat deepfake obsah. Funguje, protože predátoři zneužívají vývojově zcela normální emocionální potřeby jako přátelství, zvědavost, touhu po pozornosti a přijetí nebo nutkání někam patřit. Snaha udržet děti v bezpečí by se tedy neměla soustředit primárně na omezování nebo zakazování technologií.

„Nejdůležitější je vybudovat si s dítětem otevřený vztah, kde jsou dovolena všechna témata a dítě není trestáno za to, že udělá chybu nebo se stane něco, co se rodičům nemusí líbit,“ vysvětluje dětská psycholožka Kamila Ryšánková. „Děti by měly vědět, že si mohou s rodičem nebo jiným bezpečným dospělým (prarodič, učitel…) promluvit o podivných zprávách, nepříjemných situacích nebo tajemstvích, která jim byla svěřena, i když porušily rodinné pravidlo, tajně si s někým povídaly nebo si stáhly nevhodnou aplikaci.

Základní ochranná opatření, jako je rodičovská kontrola a dohodnutá digitální pravidla, mohou pomoci, ale neměly by nahrazovat komunikaci. Rodiče nemusí být technologickými experty ani mít každý den k dispozici hodinu navíc.“

7 tipů, jak můžou rodiče děti před groomingem chránit

1. Povídejte si s dětmi pravidelně, ne až když nastane problém

„Strach z trestu je jedním z hlavních důvodů, proč děti mlčí, a lidé, kteří se je snaží zneužít, mohou záměrně testovat, zda dokážou udržet tajemství a zda se cítí bezpečně, když se svěří dospělému. To nevyžaduje dlouhé každodenní rozhovory o online bezpečnosti. Krátké, pravidelné chvíle upřímného zájmu o to, co dítě dělá online, mohou vybudovat důvěru a ukázat mu, že na jeho digitálním světě záleží,“ vysvětluje Kamila Ryšánková.

2. Domluvte se na pravidlech, která děti budou dodržovat

Jasná pravidla dětem pomáhají osvojit si zdravé digitální návyky, aniž by v nich vzbuzovaly pocit, že mají něco zakázané. Domluvte se doma, kdy můžou děti zařízení používat, jak často si budou dělat přestávky a dbejte na to, aby měly čas i na offline aktivity, koníčky nebo hraní s kamarády naživo. U nejmenších dětí pomáhá používat zařízení např. v obývacím pokoji, takže jsou rodiče přirozeně součástí dětského digitálního světa bez nutnosti neustále se ohlížet přes rameno.

RODINNÁ DIGI-DOHODA

Nastavte si doma pravidla pro používání technologií, která budou vyhovovat všem.

STÁHNOUT DOHODU

3. Učte děti ochraně soukromí odmalička

Děti by měly co nejdříve pochopit, že ne všechno patří na internet. Osobní informace jako telefonní číslo, adresa, název školy nebo každodenní rozvrh by nikdy neměly sdílet s cizinci. Pokud mají problém rozlišovat, co je vhodné a co ne, naučte je babiččino pravidlo: „Co nechci, aby viděla (nebo by nemohla) vidět moje babička, nepatří na internet.“ Tato jednoduchá pomůcka děti obvykle rozesměje a díky tomu se všem dobře pamatuje.

4. Vybírejte vhodné platformy

Ne všechno v online prostoru je navržené s ohledem na děti. To platí i pro mobilní aplikace, hry nebo online komunity, které děti běžně využívají. Než si dítě stáhne novou aplikaci nebo vytvoří účet, zkontrolujte raději doporučený věk uživatelů, možnosti nastavení soukromí a komunikace v rámci platformy.

5. Podněcujte kritické myšlení

Jednou z nejcennějších digitálních dovedností u malých i velkých je schopnost nevěřit všemu, co vidíme online. Naučte děti, že ne každý je tím, za koho se vydává, že online profily můžou být falešné a že každou informaci je nutné ověřovat v důvěryhodných zdrojích, do kterých se nutně nepočítá chatbot. Tyto konverzace v dětech posilují celkovou digitální odolnost a pomáhají je tak chránit i proti groomingu.

6. Mějte přehled, ale „nešmírujte“

Zdravý, průběžný zájem o digitální život dítěte je mnohem efektivnější než tajný monitoring všech jeho konverzací. Nechte si ukázat oblíbené hry, digitální tvůrce nebo komunity a pravidelně se ptejte na jejich online zkušenosti. Lépe tak odhalíte změny v chování dítěte a možné problémy dřív, než se stane průšvih.

7. Jděte příkladem

Děti se učí vzhlížením k dospělým, a proto je důležité, aby i rodiče dodržovali zdravé digitální návyky. Chraňte své vlastní soukromí, používejte silná hesla, nesdílejte své osobní informace bez rozmyslu a během společných chvil odkládejte telefon. Když děti vidí, že dospělí kolem nich používají technologie s rozmyslem, je mnohem pravděpodobnější, že si zdravé zvyky vypěstují také.

Shrnutí: soustřeďte se na děti, ne na technologie

Technologie se neustále vyvíjí a každá novinka predátorům pomáhá vlichotit se našim dětem do přízně o něco snadněji. Není ale v lidských silách mít neustále perfektní přehled o tom, jaké aplikace, platformy a AI nástroje existují. A předvídat, které technologie už za rok nebudou relevantní a jaké jiné na jejich místě vzniknou, není možné už vůbec.

Rodiče by se proto měli soustředit na to, co nikdy nevyjde z módy, a to je pěstování důvěry a sebevědomí, které dětem pomůžou rozpoznat manipulaci, rozporovat podezřelé chování a s absolutní jistotou věřit, že si můžou vždycky říct o pomoc.

„Ochrana dětí před online groomingem nemůže být pouze odpovědností rodin: důležitou roli hrají i školy, preventivní programy, digitální platformy a širší komunita, zejména pokud je rodina dlouhodobě vystavena stresu nebo čelí obtížným okolnostem,“ dodává Kamila Ryšánková.

Mohlo by vás zajímat:
⚠️ Tady končí hra! Jak poznat grooming v Robloxu?
⚠️ Kamarádství jako z hororu: Taktiky groomingu
⚠️ Bezpečný sexting: Jak se vyhnout rizikům?

„S AI skilly bychom neměli zacházet jako s komplexními prompty, ale jako se softwarem. Při jejich používání je proto potřeba kontrolovat vyžadovaná oprávnění. Pokud jsou vyšší, než ke své činnosti potřebují, je to vždy varovný signál. Důležité je i ověřit, kdo dovednost publikoval, a pokud je to možné, volit AI skilly od známých a ověřených vývojářů,“ vysvětluje náš bezpečnostní expert Ondrej Kubovič.

Jaký je rozdíl mezi AI chatbotem a AI agentem?

Tradiční chatboti využívající generativní umělou inteligenci zpracovávají komplexní prompty, na základě kterých generují obsah. Jejich činnost je plně řízená člověkem, tzn. chatboti vždy jen pasivně reagují na to, co do nich vložíme.

Agentní AI naopak proaktivně vypracovává úkoly, aniž by ji uživatel musel promptovat. Jsou to vlastně takoví osobní asistenti, kteří za nás procházejí internet, čtou soubory a weby, přihlašují se do účtů a někdy dokonce provádějí platby.

AI agenti ke své činnosti využívají AI skilly (dovednosti), které fungují podobně jako rozšíření do prohlížeče. Jsou to malé balíčky instrukcí, dat, kódu a někdy i celých nástrojů, které rozšiřují schopnosti AI agentů. Právě v nich se ale občas můžou skrývat nepříjemná překvapení.

Jak bezpeční jsou AI agenti?

Rizika spojená s AI agenty nejsou zdaleka tak teoretická, jak by se mohlo zdát. Útočníci je prokazatelně zneužívají hlavně těmito třemi metodami:

Škodlivé AI skilly nebo AI pluginy

Od března 2026 ESET zkontroloval celkem 800 tisíc AI skillů, z nichž 25 tisíc označil jako podezřelé a víc než 2 500 jako vyloženě škodlivé. Některé z těchto skillů měly za úkol stáhnout do zařízení uživatelů infostealery, jiné obsahovaly trojské koně. ClawHub (obchod s AI skilly a pluginy pro agentní AI OpenClaw) podle výzkumu Koi nabízí víc než 800 škodlivých skillů obsahujících infostealery, malware ke krádeži krypta atd.

Falešní asistenti a rozšíření do prohlížeče

Hackeři neútočí jen na AI skilly. Dalším oblíbeným trikem je vyvíjení rozšíření do prohlížeče, která se vydávají za legitimní AI nástroje, ale ve skutečnosti jen kradou data. Microsoft nedávno rozkryl malwarovou kampaň postavenou na rozšířeních v podobě AI asistentů, které po nainstalování stahovaly historii chatů. Tak získávaly citlivé informace a přihlašovací údaje nic netušících uživatelů.

Injekce promptů (prompt injection)

Jednoduše řečeno, „prompt injection“ je vložení škodlivého příkazu. To útočníci dělají buď přímo, kdy takový příkaz vloží do chatbota a donutí ho tak obejít jeho programování, nebo nepřímo vložením škodlivých instrukcí na weby, do příspěvků na sociálních sítích, do kódu nebo dalšího obsahu, ke kterému agentní AI přistupuje a nevědomky se tak „napromptuje“.

Jak poznám, že je AI skill bezpečný?

Při stahování AI skillů nebo AI pluginů bychom měli dodržovat stejná bezpečnostní pravidla, jako při stahování a instalaci jakéhokoliv jiného typu softwaru. Než se pro stažení AI skillu rozhodnete, zjistěte si:

• Kdo je autorem? Publikoval i jiné skilly nebo pluginy? Jaké jsou na ně recenze? Absence historie příspěvků a hodnocení od ostatních uživatelů není dobré znamení.
• Je repozitář aktualizovaný a vývojář aktivní? Pokud ano, je to dobrý start, ale neznamená to, že je skill automaticky bezpečný. Někteří útočníci se chovají jako zodpovědní vývojáři, aby si vybudovali důvěru svých obětí.
• Jaká oprávnění AI skill požaduje? Pokud výše oprávnění přesahuje jeho inzerovaný účel, je to podezřelé.
• Chce AI plugin během instalace spouštět neznámé skripty nebo se spojovat s podezřelou doménou/zdrojem? Pokud ano, je důvod se znepokojovat.
• Zkontrolovali jste si AI skill v ESET AI Skills Checker? Jaký byl výsledek?

Jak se chránit před škodlivými AI skilly?

I tady je nejsilnější zbraní hlavně obezřetnost, a právě na ní jsou postaveny následující bezpečnostní tipy pro stahování AI skillů nebo AI pluginů.

1. Zkontrolujte požadovaná oprávnění předtím, než skill nebo plugin nainstalujete.
2. Pravidelně si aktualizujte AI nástroje, prohlížeče i bezpečnostní řešení.
3. Chovejte se ke svým AI agentům jako k cizím lidem, tzn. nikdy s nimi nesdílejte osobní nebo citlivé informace.
4. Pokud si všimnete, že se váš AI agent chová neobvykle, okamžitě ho vypněte.
5. Používejte dvoufázové ověření všude, kde je to možné, ale hlavně na nejdůležitějších účtech.
6. Naučte své děti a méně technicky zdatné členy rodiny tři nejdůležitější otázky: Kdo to vyrobil? Co to ode mě chce? Můžu tomu věřit?

„Uživatelé by se měli spoléhat hlavně na robustní bezpečnostní nástroje jako ESET HOME Security, které umí detekovat potenciálně škodlivé chování. U zdroje AI skillu by měli kontrolovat hlavně recenze uživatelů, dávat si pozor na problémové repozitáře a veřejnou zpětnou vazbu. A v neposlední řadě by měli svou agentní AI platformu a agenty pravidelně aktualizovat, aby snížili riziko zneužití prostřednictvím známých zranitelností,“ dodává Ondrej Kubovič.

Důvěřovat, ale prověřovat

Stačilo jen pár let a generativní umělá inteligence se stala nedílnou součástí mnoha domácností. Toho si samozřejmě všimli kyberzločinci, kteří rychle přišli na způsob, jak AI proměnit na nástroj k šíření malwaru, krádeži dat a podvodům.

Riziko představuje hlavně agentní AI, ale neměli bychom usnout na vavřínech ani při používání chatbotů. Pokud ale budeme dodržovat základní bezpečnostní postupy a svěříme se do rukou komplexního bezpečnostního řešení, nemáme se čeho bát.

Mohlo by vás zajímat:
✨ Je ChatGPT bezpečný? Jak AI chatbota používat správně
✨ Proč se děti kamarádí s AI chatboty?
✨ Dobrý den, tady policie aneb podvodné telefonáty nové generace

Specializované nástroje jako ChatGPT zdraví, Copilot Health či Health AI nabízejí snadnou interpretaci výsledků testů i odpovědi na otázky ohledně symptomů nebo léčby, ale oproti starému dobrému „googlení“ vyžadují mnohem víc citlivých informací, než kolik bychom dali vyhledávači.

A na rozdíl od doktorů se na ně bohužel nevztahuje lékařské tajemství.

Když se z aplikace stane ordinace

Na otázku, proč se s chatboty specializovanými na zdraví roztrhl pytel, odpovídá například zpráva o využívání chatbota Copilot pro rok 2025 od Microsoftu. Podle ní je pro uživatele Copilota zdraví téma č. 1 a radí se o něm hlavně na mobilních telefonech.

Vlastně to dává naprostý smysl. Chatboti jsou na rozdíl od odborníků k dispozici 24/7 a budí zdání, že mají odpověď úplně na všechno. Jejich sebevědomé vystupování navíc umí povzbudit nejednoho vyděšeného pacienta.

To ale bohužel neznamená, že ví, o čem mluví. Podle studie Oxfordské univerzity z roku 2026 představují velké jazykové modely zaměřené na lékařské rady riziko v podobě nepřesných a nekonsistentních informací. To znamená, že ani chatbot přímo určený ke konzultaci zdravotních problémů nemusí být schopný přesně stanovit správnou diagnózu ani její vážnost.

A podle studie uveřejněné na platformě arXiv provozované Cornellovou univerzitou si specializovaný model může někdy vést ještě hůř než ten obecný.

Když nejde o zdraví, jde o data

Halucinované odpovědi jsou ale jen jedním z nešvarů, kterými nás specializovaní chatboti můžou ohrozit. Další rizika souvisí se zabezpečením citlivých informací, které s veřejně dostupným chatbotem sdílíme. To může být narušené:

• využíváním našich dat k dalšímu tréninku daného modelu, což s sebou nese riziko, že se objeví jako součást odpovědi u jiného uživatele;
• únikem konverzací na internet;
• sdílením našich dat s třetími stranami, např. společnostmi najatými na kontrolu tréninkových materiálů, agregátory dat neboli firmami, které se zabývají sběrem dat a vytvářením databází, popř. inzerenty, kterým pomáhají lépe cílit reklamu.

Ačkoliv jsou data využívaná k trénování modelů často anonymizovaná, stále zachovávají původní kontext konverzace, který může leccos odhalit.

Někteří poskytovatelé chatbotů umožňují trénování vypnout, jiní zase slibují, že údaje spojené se zdravotním stavem uživatelů při trénování nevyužívají. Jinými slovy, zatím neexistuje žádný obecný standard ochrany dat, které chatbotům dáváme, a je tedy na nás, uživatelích, abychom si zjistili, jak poskytovatel s našimi daty nakládá.

„A koho asi zajímají moje žaludeční vředy?“

Pro většinu z nás je snadné pochopit, proč digitální zloději a podvodníci touží po našich platebních kartách nebo přihlašovacích údajích. Jak nás ale může poškodit, když jim do rukou padne informace o našich plochých nohách nebo bolavé osmičce?

Ukazuje se, že hned několika způsoby:

• Údaje o našem zdravotním stavu nemají omezenou platnost a nedají se snadno zablokovat. Informace o naší srdeční arytmii je cenná třeba pro sociální inženýry, a to po dlouhou dobu.
• Lékařské zprávy, laboratorní výsledky a další dokumenty obsahují osobní údaje jako datum narození, rodné číslo apod.
• Opravdu citlivé nebo choulostivé zdravotní problémy lze snadno využít k vydírání.

Poskytovatelé těchto nástrojů se sice musí řídit obecným nařízením o ochraně údajů (GDPR) a zákonem o zpracování osobních údajů, ale protože nejde o poskytovatele zdravotnických služeb, nevztahuje se na ně zákon o zdravotních službách nebo zmíněné lékařské tajemství. To znamená, že chrání informace o tom, komu data patří, ne co obsahují a jak je to citlivé.

Anti-phishing

Zabraňuje pokusům o získání citlivých informací, jako jsou uživatelská jména a hesla či údaje o kreditních kartách a účtech. Blokuje podvodné webové stránky.

VYZKOUŠET

Jak tedy zajistit, že chatbot využívající generativní AI zachová mlčenlivost?

Pokud se i navzdory popsaným rizikům rozhodnete svůj zdravotní stav konzultovat s chatbotem, je dobré dbát na několik základních bezpečnostních pravidel.

6 pravidel pro bezpečné užívání chatbotů využívajících generativní AI:

1. Používejte specializované chatboty místo obecných. Chatboti zaměření na konkrétní oblast by měli být trénovaní na relevantních odborných datech a ochrana soukromí by měla být přizpůsobená citlivosti vkládaných dat.
2. Vždycky si ověřujte, jak poskytovatel chatbota ukládá a zpracovává vaše osobní údaje. Pokud je to možné, vždy vypínejte trénování a historii chatů.
3. Nikdy do nástroje nenahrávejte lékařské zprávy, výsledky laboratorních testů a další citlivé dokumenty obsahující osobní údaje jako jména, adresy, data narození, rodná čísla apod. Zkrátka a dobře, sdílejte jen absolutní minimum potřebné k odpovědi na otázku, na kterou se chatbota ptáte.
4. Výstupy chatbota považujte za čistě orientační a vždy si nechte vygenerovat zdroje, u kterých můžete informaci ověřit. Poté se poraďte se svým lékařem nebo se obraťte na oficiální zdroje, jako je např. Ministerstvo zdravotnictví.
5. Nepoužívejte chatbota založeného na umělé inteligenci jako náhradu za návštěvu u lékaře. Nenechávejte chatbota rozhodovat o tom, zda jsou vaše obtíže akutní, vždy se raději obraťte na lékaře.
6. Předpokládejte, že cokoliv do chatbota napíšete, může zůstat uložené u poskytovatele nebo dokonce uniknout. Prompty proto sestavujte pečlivě a vybírejte si, které informace budete sdílet.

Závěr: chatbot nebo lékař?

Chatboti generativní umělé inteligence působí dojmem, že se vyznají v celé řadě oborů včetně těch lékařských, ale vlastní halucinace bohužel vyřešit neumí. Jejich používání může být užitečné pro přípravu na návštěvu ordinace nebo vysvětlení odborných termínů, ale pro řešení akutních obtíží, diagnózu či léčbu se vždy obracejte na skutečného lékaře.

Kromě zdraví si při používání chatbotů pohlídejte i svoje data. Údaje o zdravotním stavu nejsou číslo platební karty, kterou lze po krádeži snadno zablokovat. Jakmile je jednou „nalijete“ do chatbota, může se z nich stát trvalá součást vaší digitální stopy. A ta se čistí obtížně.

Mohlo by vás zajímat:
✨ Je ChatGPT bezpečný? Jak AI chatbota používat správně
✨ Seznamovací aplikace aneb láska za časů umělé inteligence
✨ Jak umělá inteligence ovlivňuje body image dětí?

„Rostoucí využívání AI chatbotů mezi dospívajícími je z vývojového hlediska poměrně pochopitelné. Adolescence je obdobím hledání identity, potřeby sdílení a experimentováním s názory a rolemi,“ potvrzuje dětská psycholožka Kamila Ryšánková.

S rostoucí oblibou AI chatbotů jdou ale ruku v ruce obavy o bezpečnost, ochranu soukromí a psychologický vývoj dětí, pro které jsou běžnou součástí života. Na co ale generativní AI vlastně používají a proč se od ní nemůžou odtrhnout?

3 důvody, proč se děti kamarádí s AI chatboty

Děti se k užívání generativní AI většinou uchylují z následujících důvodů:

Pomoc se školou

Školáci využívají ChatGPT k pomoci s domácími úkoly či pochopením složitějších konceptů. Chatbota ale často považují za vševědoucí bytost a vůbec si nepřipouští, že by nemusel mít pravdu.

Kreativní vyžití

Nástroje jako Midjourney či AI video generátory CapCut představují snadnou možnost vytvářet obrázky a animace. Tvůrčí středoškoláci tak generují například videa inspirovaná oblíbenými filmy či seriály.

Umělá přátelství

Některé děti považují ChatGPT nebo Meta AI za skutečné kamarády, kterým se svěřují s problémy, o kterých se jinak ostýchají mluvit, a často si jimi dokonce i nahrazují každodenní mezilidský kontakt. Tyto tendence jsou zvlášť patrné u uzavřenějších dětí, ale nevyhýbají se ani extrovertům, kteří jsou v kolektivu jako ryby ve vodě.

„Chatboti dětem poskytují rychlé odpovědi na otázky, anonymitu, jsou vždy dostupní, a hlavně dodávají pocit přijetí bez hodnocení, což je pro mnoho mladých lidí přitažlivé,“ vysvětluje Kamila Ryšánková. „Pokud se ale AI stane hlavním zdrojem podpory nebo informací, může to ovlivnit rozvoj sociálních dovedností, schopnost zvládat frustraci i vytváření reálných vztahů, protože se dítě nesetká s nesouhlasem, odmítnutím, čekáním nebo se zkušeností, že vztah s druhým člověkem obstojí i při konfliktu nebo odlišném názoru.“

Příprava na budoucnost, nebo přehlížené nebezpečí?

Nástroje generativní AI se rychle stávají součástí kancelářského softwaru a naučit se s nimi pracovat znamená do budoucna výhodu. Jejich každodenní používání s sebou ale nese konkrétní rizika, a to zvlášť pro stále se psychicky vyvíjející děti.

Nejvážnější rizika spojená s užíváním AI chatbotů:

• Lživé informace. Generativní umělá inteligence má tendence sebevědomě předkládat smyšlené informace (tzv. halucinace), což může být problém ve chvíli, kdy se děti ptají na radu např. ve zdravotních či vztahových záležitostech.
• Nebezpečný nebo nevhodný obsah. AI chatboti mají naprogramovaná pravidla pro generování obsahu, ale ta bohužel nejsou tesaná do kamene. Pomocí specifických příkazů tak lze chatbota přesvědčit, aby generoval sexuálně explicitní nebo násilný obsah.
• Narušení soukromí. Všechny informace, které chatbotovi dáte, zůstanou uložené v cloudu poskytovatele a můžou být teoreticky dostupné třetím stranám, zcizené při kyberútoku nebo znovu vygenerované jako odpověď u jiného uživatele.
• Sociální izolace. Ve chvíli, kdy začne dítě chatbota považovat za skutečného přítele a preferovat ho před živými kamarády a vrstevníky, může začít docházet k vyčlenění z kolektivu.
• Zhoršování psychických problémů. AI chatboti mají za úkol svému uživateli vyhovět, což znamená, že dětem můžou odpovídat způsobem, který ještě prohloubí problém, se kterým se svěřují. Zvlášť nebezpečné je to v případě poruch příjmu potravy, sebepoškozování či myšlenek na sebevraždu.

Co je AI psychóza?

Jak poznat, že má dítě nezdravý vztah s AI chatbotem?

Mezi nejčastější varovné signály, že užívání chatbota překročilo rozumnou hranici, patří:

• stranění se rodině a přátelům;
• nervozita a úzkosti ve chvíli, kdy je chatbot z různých důvodů nedostupný;
• vnímání chatbota jako skutečného člověka;
• opakování AI halucinací jako nesporných faktů;
• svěřování se chatbotovi s vážnými problémy;
• přístup k nevhodnému obsahu.

Pokud si všimnete jedné nebo více popsaných tendencí, je dobré začít prověřovat, jak děti chatboty skutečně využívají. Důležité je přitom nespoléhat jen na nastavení platforem samotných. Ačkoliv většina z nich už nabízí věková omezení a funkce rodičovské kontroly, technologie se stále vyvíjí rychleji než legislativa a zatím neexistuje způsob, jak ověřit účinnost těchto opatření.

„Největším rizikem není samotná technologie, ale situace, při které začne nahrazovat vztahy a bezpečný prostor pro sdílení emocí,“ připomíná Kamila Ryšánková. „Děti potřebují, aby s nimi dospělí o digitálním světě otevřeně mluvili a pomáhali jim rozlišovat, co je nástroj a co skutečný vztah. Stejně důležité je u dětí rozvíjet kritické myšlení, což je schopnost ověřovat informace, přemýšlet nad jejich pravdivostí a uvědomovat si, že umělá inteligence může vytvářet i nepřesné nebo zavádějící odpovědi.“

Cílem je pomoct dětem pochopit, že chatbot není skutečná myslící a cítící bytost. Je to stroj navržený tak, aby co nejdéle udržel naši pozornost, a jako takový je dobrý sluha, ale špatný pán. Zároveň je dobré připomenout jim základní digitální pravidla a zkontrolovat si, zda jsou jejich zařízení chráněná spolehlivým bezpečnostním řešením.

Závěrem:

AI chatboti můžou být užiteční při učení nebo volnočasových aktivitách, ale nikdy by neměli nahradit mezilidský kontakt. Dokud nejsou děti dostatečně vyzrálé na to, aby chápaly, jak generativní umělá inteligence funguje, je třeba její užívání důsledně kontrolovat.

Mohlo by vás zajímat:
🤖 Je ChatGPT bezpečný? Jak AI chatbota používat správně
🤖 S láskou, AI? Jak se mladí zamilují do umělé inteligence
🤖 Jak ChatGPT mění vzdělávání?