A dává to perfektní smysl. Správně používané nástroje umělé inteligence dovolují developerům přenechat rutinní část práce AI, uvolnit si ruce pro kreativnější a složitější úkoly a celý proces zrychlit. A pokud zkušení programátoři vygenerovaný kód pečlivě kontrolují, opravují a testují, není nic z toho v zásadě problém.

Co když ale kód generuje někdo, kdo programování vůbec nerozumí? Právě to je totiž nejčastější problém tzv. vibe codingu. Co to je, jaká jsou rizika aplikací programovaných tímto způsobem a jak je odhalit dřív, než aplikaci svěříme svá data?

Co je vibe coding?

Termín „vibe coding“ (kódování náladou/atmosférou/intuicí) vytvořil spoluzakladatel OpenAI Andrej Karpathy pro AI asistované programování, při kterém se programátor „plně oddá intuici i exponenciálnímu tempu a zapomene, že nějaký kód vůbec existuje“.

V praxi to znamená, že programátor popíše zamýšlenou aplikaci velkému jazykovému modelu (LLM) a nechá jej vygenerovat kód, který pak následně upravuje pomocí dalších promptů. Generovat aplikace tak můžou i ti, kteří nemají znalosti ani zkušenosti na to, aby byli schopní v kódu najít a odstranit chyby, nedostatky a bezpečnostní „díry“.

Díky snadné dostupnosti AI nástrojů založených na LLM se totiž může do programování aplikací pomocí vibe codingu pustit skutečně každý.

Nejčastější chyby v aplikacích vytvořených metodou vibe codingu

Nástroje umělé inteligence určené k vibe codingu upřednostňují funkčnost a vzhled uživatelského rozhraní před kvalitou kódu, což vede ke vzniku (nejen) následujících bezpečnostních rizik:

• Pevně zakódovaná tajná data (např. API klíče) zapomenutá v kódu aplikace, odkud je útočníci můžou vytáhnout, dopátrat se backendu (tedy datové vrstvy softwaru nebo serveru) vývojáře a získat uživatelská i jiná data.
• Chybějící validace vstupů a řízení přístupu, což vede k situaci, kdy aplikace přijímá škodlivá data a/nebo umožňuje uživatelům zobrazit a měnit data ostatních uživatelů.
• „Veřejné“ výchozí nastavení, díky kterému uživatelé vidí profily nebo důvěrné informace ostatních uživatelů téže aplikace.
• Slabé nebo žádné šifrování, což umožňuje snazší čtení a zneužívání dat ukradených z aplikace nebo při přenosu do/z ní.
• Chybějící omezení rychlosti, které by hackerům ztížilo provádět útoky hrubou silou (brute-force attack).

Tato rizika bohužel nejsou jen teoretická, jak ukázal například nedávný případ švédské platformy pro vibe coding Lovable. Softwarový inženýr Taimur Khan počátkem roku 2026 upozornil na celkem šestnáct zranitelností (z toho šest kritických), z nichž některé přímo ohrožovaly citlivé informace uživatelů. Ačkoliv společnost Lovable podle vlastních slov tyto zranitelnosti opravila, je možné, že až do incidentu o nich vůbec nevěděla.

Co riskujeme používáním aplikací vygenerovaných vibe codingem?

Používání „děravých“ aplikací, které mají v kódu jeden nebo více problémů popsaných výše, má pro naši kyberbezpečnost praktické důsledky v podobě krádeže dat, finanční ztráty nebo instalace malwaru. Se špatně naprogramovanou aplikací riskujeme:

• nezabezpečené uchovávání hesel, které může vést k narušení bezpečnosti účtu nebo zařízení;
• nezodpovědné nakládání s osobními údaji (např. e-mailová a fyzická adresa, identifikační údaje), které útočníkům usnadňuje krádež identity;
• neomezený přístup k uživatelským datům a AI promptům, které umožňují ostatním uživatelům volně nakládat s našimi osobními informacemi;
• únik platebních údajů, který může vést k podvodům a finančním ztrátám.

Jak poznáme aplikaci vytvořenou pomocí vibe codingu?

Říká se „podle nosa poznáš kosa“, ale aplikace generované vibe codingem nemají žádný nos, podle kterého by je běžný uživatel mohl snadno rozeznat. Ani distribuční platformy či obchody s aplikacemi často nevědí, která aplikace vznikla pomocí vibe codingu, a výše zmiňované bezpečnostní problémy tak neodchytí.

Je tedy na nás, na uživatelích, abychom si pohlídali, koho vpustíme do svého zařízení. Začít můžeme třeba následujícími pěti otázkami:

1. Kdo aplikaci vyvinul? Jde o legitimního vývojáře? Jak dlouho působí na trhu, jaké má hodnocení a reputaci? Pokud najdete negativní recenze, pečlivě si je pročtěte. V případech virálních aplikací se nenechte strhnout marketingem a ověřte si, že mají oficiální a funkční podporu.
2. Co po nás aplikace chce? Zkontrolujte si oprávnění, která aplikace požaduje, a zamyslete se, jestli dávají smysl (např. kalkulačka nepotřebuje přístup k fotoaparátu apod.). Pamatujte, že čím citlivější data sdílíte, tím větší podstupujete riziko.
3. Co říkají zásady ochrany soukromí poskytovatele? Legitimní aplikace by vás vždy měla informovat, která data ukládá a proč, s kým je sdílí, jak dlouho je uchovává atp. Zároveň by měla mít jasně stanovený postup pro mazání dat při odinstalování aplikace.
4. Jak vypadá bezpečnostní model aplikace? Základní úroveň zabezpečení by měla zahrnovat ochranu hesel a citlivých dat, bezpečnostní aktualizace a mít zavedený mechanismus pro nahlašování zranitelností.
5. K čemu má přístup integrovaná AI? Čím víc oprávnění umělá inteligence má, tím větší riziko nám vzniká ve chvíli, kdy je kompromitovaná, např. pomocí výše zmíněné prompt injection.

Co dělat, pokud používáme kompromitovanou aplikaci?

Jedna „děravá“ aplikace v zařízení ještě neznamená, že je vše ztraceno, naopak. Únik dat většinou začíná na serveru poskytovatele, takže musíme začít u kompromitovaného účtu a pokračovat ochranou zařízení.

1. Změňte si heslo a pak požádejte o smazání účtu včetně uživatelských dat. Pamatujte, že „sejde z očí, sejde z mysli“ v podobě pouhé odinstalace aplikace v této situaci nijak nepomůže.
2. Změňte si heslo i všude jinde, kde jste používali stejné, a zapněte si dvoufázové ověření.
3. Pokud jste se registrovali pomocí Google, Apple apod., odejměte oprávnění aplikace u všech propojených účtů.
4. Monitorujte všechny své účty včetně bankovního a v případě, že si všimnete abnormální aktivity, okamžitě reagujte.
5. Aplikaci odinstalujte a spusťte kontrolu bezpečnostním softwarem. Pokud aplikaci odinstalovat nejde, vraťte zařízení do továrního nastavení a hesla k ostatním účtům změňte z jiného, důvěryhodného zařízení.

Shrnutí: bezpečnost našich zařízení je hlavně na nás

Vibe coding funguje tak, že vývojář AI nástroji popíše, co má aplikace umět, a přijme výstup, který nástroj vygeneruje, často bez řádné kontroly kódu. Pokud je autorem aplikace nezkušený programátor nebo úplný laik, kód aplikace obvykle obsahuje začátečnické chyby a bezpečnostní problémy.

Aplikaci programovanou pomocí vibe codingu nelze snadno rozeznat od ostatních. Uživatelé by si tedy měli prověřit reputaci vývojáře, zásady ochrany soukromí a požadovaná oprávnění, než si aplikaci nainstalují. V případě narušení bezpečnosti zabezpečte účet aplikace i další účty, smažte aplikaci a proveďte důkladnou kontrolu komplexním bezpečnostním řešením.

Mohlo by vás zajímat:
🪄 Jak bezpečná je umělá inteligence v roce 2026?
🪄 Dnes ordinuje MUDr. Chatbot. Co si ověřit, než se objednáte?
🪄 Je ChatGPT bezpečný? Jak AI chatbota používat správně

Podle výzkumu Čeští žáci a umělá inteligence z roku 2024 deepnude fotografii už někdy vygenerovala celá 3 % žáků pod 14 let. Ve skupině žáků starších 15 let to bylo zhruba stejně. A za poslední dva roky jejich popularita rozhodně neklesla, protože v červenci 2026 na tento nebezpečný trend upozornila i Policie ČR, a to v kontextu zneužívání dětských fotografií ze sociálních sítí ke generování deepfaků.

V následujícím článku se podíváme na to, jak minimalizovat šanci, že nás nebo naše blízké někdo digitálně svlékne, a jak postupovat, pokud k tomu přece jen dojde.

Co vlastně jsou nudify apps?

Nudify app, deepnude app, undress app nebo česky svlékací aplikace je nástroj, který využívá technologii deepfaků založenou na generativní umělé inteligenci (AI) k napodobování anatomie člověka. To znamená, že z libovolné fotografie oblečeného člověka zvládne vytvořit přesvědčivé svlečené obrázky, jak už nám na začátku 2026 ukázal chatbot Grok od X.

Může jít o obrázky oběti ve spodním prádle, bez oblečení nebo přímo pornografické materiály. Fakt, že nejsou skutečné, přitom ve finále nehraje vůbec žádnou roli. Útočníci je hojně využívají k podvodům, sextorzi nebo staré dobré kyberšikaně a svým obětem tak způsobují nemalou finanční či psychickou újmu.

Jsou svlékací aplikace vůbec legální?

Podle evropského aktu o umělé inteligenci spadají nudify aplikace do kategorie nepřijatelného rizika a jejich zákaz vstoupí v platnost v prosinci 2026. Pokud tedy na podobnou aplikaci narazíte v obchodu s aplikacemi, nebojte se ji nahlásit jako nevhodnou.

Obsah, který takové aplikace generují, je v České republice už chvíli nezákonný. Podle § 191a zákona č. 40/2009 Sb., trestního zákoníku je zneužití identity k výrobě pornografie a její šíření od 1. ledna 2026 trestným činem. Nezáleží přitom na tom, jaké nástroje byly k výrobě pornografie použité.

Pokud je oběť nezletilá, spadá takový útok pod výrobu a jiné nakládání s dětskou pornografií a ošetřuje ji § 192 zákona č. 40/2009 Sb., trestního zákoníku. Pro naplnění skutkové podstaty trestného činu přitom ani není nutné, aby generovaný obsah napodoboval realitu, musí jen zobrazovat dítě nebo mladistvého a naplňovat definici pornografie.

Jak snížit riziko, že nás někdo nahraje do nudify aplikace?

Pachatelé, kteří zneužívají svlékací aplikace, ke své činnosti potřebují hlavně naše fotografie, které získávají buď z našich účtů na sociálních sítích nebo pomocí škodlivých aplikací, které nám kradou data.

5 tipů, jak se chránit před vznikem deepfaků:

1. Zkontrolujte si nastavení soukromí na sociálních sítích. Cizí lidé by neměli mít neomezený přístup k vašim fotografiím a kontaktním informacím.
2. Ověřte si, jaké fotografie jsou na internetu dostupné, např. na stránkách zaměstnavatele, školy, mateřské školky apod. Čím méně jich najdete, tím lépe.
3. Dbejte na dostatečná bezpečnostní opatření svých účtů. Nastavte si unikátní hesla, vícefaktorové ověření a pravidelně aktualizujte aplikace i operační systémy. A nezapomeňte ani na komplexní digitální ochranu.
4. Nenahrávejte své fotografie do nástrojů AI a jiných aplikací, pokud vysloveně nemusíte. Pozor, ne všechny aplikace v obchodech aplikací jsou bezpečné.
5. Mluvte s dětmi o rizicích nudify apps, přílišného sdílení fotografií, osobních údajů na sociálních sítích a internetové bezpečnosti.

Příručka pro rodiče: Jak ochránit děti na internetu

Dozvíte se, jak vytvořit pro děti bezpečné on-line prostředí, ať už se jedná o sociální sítě, online hraní her či prohlížení obsahu.

VYZKOUŠET

Co dělat v případě, že naši identitu někdo zneužije k tvorbě deepfaků?

Pokud jste začali používat internet v posledních dvaceti letech, existuje reálná šance, že ani při vší snaze nikdy nebudete mít všechny zveřejněné fotografie ani osobní data pod kontrolou. Jak tedy postupovat v případě, že někdo vygeneruje deepnude vás či vašich blízkých?

1. Nikdy neodpovídejte na zprávy od lidí, kteří se vás pokouší vydírat pomocí (falšovaného) pornografického obsahu. Jakákoliv reakce je buď vyprovokuje stupňovat nároky nebo tyto materiály začít šířit.
2. Uložte si všechny důkazy v podobě relevantních zpráv, uživatelských přezdívek, telefonních čísel, URL a snímků obrazovky. Pečlivě zaznamenejte všechna data. Samotný obsah nikomu nepřeposílejte, jeho přechovávání nebo šíření by mohlo být ze zákona problematické.
3. Nahlaste nevhodný obsah sociální síti, platformě nebo webové stránce, na které ho útočník uveřejnil, a požádejte Google o odstranění obrázku. Podle DSA (nařízení o digitálních službách) by vám měli vyhovět. Nápomocná může být i platforma STOPonline.cz pro nevhodný či nezákonný obsah zobrazující děti či nástroj pro odstraňování nekonsensuálního intimního obsahu StopNCII.org.
4. Podejte trestní oznámení. Návod najdete na stránkách Policie ČR.
5. Pokud je obětí dítě, ujistěte ho, že to není jeho vina a že spolu situaci vyřešíte.

Závěr: pokud někdo zneužije vaše fotografie, braňte se

Nudify apps využívají generativní umělou inteligenci k vytváření svlečených obrázků lidí, jejichž fotografie do nich útočník nahrál. Vytváření a šíření takovýchto materiálů bez svolení zobrazované osoby je v České republice nelegální. V případě, že je zobrazovaná osoba navíc nezletilá, se čin klasifikuje jako výroba dětské pornografie.

Pokud se vy nebo někdo z vašich blízkých stane obětí zneužití identity k výrobě pornografie, uložte si všechny důkazy včetně přesných dat, nahlaste nevhodný obsah platformám a neprodleně podejte trestní oznámení.

V rámci prevence si nezapomeňte zkontrolovat nastavení soukromí na používaných platformách a dobře si rozmyslete, jaká osobní data včetně fotografií sdílíte na sociálních sítích, aplikacích a s AI chatboty.

Mohlo by vás zajímat:
🚫 Co je to digitální identita a jak si ji chránit?
🚫 Podvod jménem sextorze. Jak se chránit a bránit?
🚫 Fenomén deepfake: když nesmíte věřit tomu, co vidíte

„S AI skilly bychom neměli zacházet jako s komplexními prompty, ale jako se softwarem. Při jejich používání je proto potřeba kontrolovat vyžadovaná oprávnění. Pokud jsou vyšší, než ke své činnosti potřebují, je to vždy varovný signál. Důležité je i ověřit, kdo dovednost publikoval, a pokud je to možné, volit AI skilly od známých a ověřených vývojářů,“ vysvětluje náš bezpečnostní expert Ondrej Kubovič.

Jaký je rozdíl mezi AI chatbotem a AI agentem?

Tradiční chatboti využívající generativní umělou inteligenci zpracovávají komplexní prompty, na základě kterých generují obsah. Jejich činnost je plně řízená člověkem, tzn. chatboti vždy jen pasivně reagují na to, co do nich vložíme.

Agentní AI naopak proaktivně vypracovává úkoly, aniž by ji uživatel musel promptovat. Jsou to vlastně takoví osobní asistenti, kteří za nás procházejí internet, čtou soubory a weby, přihlašují se do účtů a někdy dokonce provádějí platby.

AI agenti ke své činnosti využívají AI skilly (dovednosti), které fungují podobně jako rozšíření do prohlížeče. Jsou to malé balíčky instrukcí, dat, kódu a někdy i celých nástrojů, které rozšiřují schopnosti AI agentů. Právě v nich se ale občas můžou skrývat nepříjemná překvapení.

Jak bezpeční jsou AI agenti?

Rizika spojená s AI agenty nejsou zdaleka tak teoretická, jak by se mohlo zdát. Útočníci je prokazatelně zneužívají hlavně těmito třemi metodami:

Škodlivé AI skilly nebo AI pluginy

Od března 2026 ESET zkontroloval celkem 800 tisíc AI skillů, z nichž 25 tisíc označil jako podezřelé a víc než 2 500 jako vyloženě škodlivé. Některé z těchto skillů měly za úkol stáhnout do zařízení uživatelů infostealery, jiné obsahovaly trojské koně. ClawHub (obchod s AI skilly a pluginy pro agentní AI OpenClaw) podle výzkumu Koi nabízí víc než 800 škodlivých skillů obsahujících infostealery, malware ke krádeži krypta atd.

Falešní asistenti a rozšíření do prohlížeče

Hackeři neútočí jen na AI skilly. Dalším oblíbeným trikem je vyvíjení rozšíření do prohlížeče, která se vydávají za legitimní AI nástroje, ale ve skutečnosti jen kradou data. Microsoft nedávno rozkryl malwarovou kampaň postavenou na rozšířeních v podobě AI asistentů, které po nainstalování stahovaly historii chatů. Tak získávaly citlivé informace a přihlašovací údaje nic netušících uživatelů.

Injekce promptů (prompt injection)

Jednoduše řečeno, „prompt injection“ je vložení škodlivého příkazu. To útočníci dělají buď přímo, kdy takový příkaz vloží do chatbota a donutí ho tak obejít jeho programování, nebo nepřímo vložením škodlivých instrukcí na weby, do příspěvků na sociálních sítích, do kódu nebo dalšího obsahu, ke kterému agentní AI přistupuje a nevědomky se tak „napromptuje“.

Jak poznám, že je AI skill bezpečný?

Při stahování AI skillů nebo AI pluginů bychom měli dodržovat stejná bezpečnostní pravidla, jako při stahování a instalaci jakéhokoliv jiného typu softwaru. Než se pro stažení AI skillu rozhodnete, zjistěte si:

• Kdo je autorem? Publikoval i jiné skilly nebo pluginy? Jaké jsou na ně recenze? Absence historie příspěvků a hodnocení od ostatních uživatelů není dobré znamení.
• Je repozitář aktualizovaný a vývojář aktivní? Pokud ano, je to dobrý start, ale neznamená to, že je skill automaticky bezpečný. Někteří útočníci se chovají jako zodpovědní vývojáři, aby si vybudovali důvěru svých obětí.
• Jaká oprávnění AI skill požaduje? Pokud výše oprávnění přesahuje jeho inzerovaný účel, je to podezřelé.
• Chce AI plugin během instalace spouštět neznámé skripty nebo se spojovat s podezřelou doménou/zdrojem? Pokud ano, je důvod se znepokojovat.
• Zkontrolovali jste si AI skill v ESET AI Skills Checker? Jaký byl výsledek?

Jak se chránit před škodlivými AI skilly?

I tady je nejsilnější zbraní hlavně obezřetnost, a právě na ní jsou postaveny následující bezpečnostní tipy pro stahování AI skillů nebo AI pluginů.

1. Zkontrolujte požadovaná oprávnění předtím, než skill nebo plugin nainstalujete.
2. Pravidelně si aktualizujte AI nástroje, prohlížeče i bezpečnostní řešení.
3. Chovejte se ke svým AI agentům jako k cizím lidem, tzn. nikdy s nimi nesdílejte osobní nebo citlivé informace.
4. Pokud si všimnete, že se váš AI agent chová neobvykle, okamžitě ho vypněte.
5. Používejte dvoufázové ověření všude, kde je to možné, ale hlavně na nejdůležitějších účtech.
6. Naučte své děti a méně technicky zdatné členy rodiny tři nejdůležitější otázky: Kdo to vyrobil? Co to ode mě chce? Můžu tomu věřit?

„Uživatelé by se měli spoléhat hlavně na robustní bezpečnostní nástroje jako ESET HOME Security, které umí detekovat potenciálně škodlivé chování. U zdroje AI skillu by měli kontrolovat hlavně recenze uživatelů, dávat si pozor na problémové repozitáře a veřejnou zpětnou vazbu. A v neposlední řadě by měli svou agentní AI platformu a agenty pravidelně aktualizovat, aby snížili riziko zneužití prostřednictvím známých zranitelností,“ dodává Ondrej Kubovič.

Důvěřovat, ale prověřovat

Stačilo jen pár let a generativní umělá inteligence se stala nedílnou součástí mnoha domácností. Toho si samozřejmě všimli kyberzločinci, kteří rychle přišli na způsob, jak AI proměnit na nástroj k šíření malwaru, krádeži dat a podvodům.

Riziko představuje hlavně agentní AI, ale neměli bychom usnout na vavřínech ani při používání chatbotů. Pokud ale budeme dodržovat základní bezpečnostní postupy a svěříme se do rukou komplexního bezpečnostního řešení, nemáme se čeho bát.

Mohlo by vás zajímat:
✨ Je ChatGPT bezpečný? Jak AI chatbota používat správně
✨ Proč se děti kamarádí s AI chatboty?
✨ Dobrý den, tady policie aneb podvodné telefonáty nové generace

Specializované nástroje jako ChatGPT zdraví, Copilot Health či Health AI nabízejí snadnou interpretaci výsledků testů i odpovědi na otázky ohledně symptomů nebo léčby, ale oproti starému dobrému „googlení“ vyžadují mnohem víc citlivých informací, než kolik bychom dali vyhledávači.

A na rozdíl od doktorů se na ně bohužel nevztahuje lékařské tajemství.

Když se z aplikace stane ordinace

Na otázku, proč se s chatboty specializovanými na zdraví roztrhl pytel, odpovídá například zpráva o využívání chatbota Copilot pro rok 2025 od Microsoftu. Podle ní je pro uživatele Copilota zdraví téma č. 1 a radí se o něm hlavně na mobilních telefonech.

Vlastně to dává naprostý smysl. Chatboti jsou na rozdíl od odborníků k dispozici 24/7 a budí zdání, že mají odpověď úplně na všechno. Jejich sebevědomé vystupování navíc umí povzbudit nejednoho vyděšeného pacienta.

To ale bohužel neznamená, že ví, o čem mluví. Podle studie Oxfordské univerzity z roku 2026 představují velké jazykové modely zaměřené na lékařské rady riziko v podobě nepřesných a nekonsistentních informací. To znamená, že ani chatbot přímo určený ke konzultaci zdravotních problémů nemusí být schopný přesně stanovit správnou diagnózu ani její vážnost.

A podle studie uveřejněné na platformě arXiv provozované Cornellovou univerzitou si specializovaný model může někdy vést ještě hůř než ten obecný.

Když nejde o zdraví, jde o data

Halucinované odpovědi jsou ale jen jedním z nešvarů, kterými nás specializovaní chatboti můžou ohrozit. Další rizika souvisí se zabezpečením citlivých informací, které s veřejně dostupným chatbotem sdílíme. To může být narušené:

• využíváním našich dat k dalšímu tréninku daného modelu, což s sebou nese riziko, že se objeví jako součást odpovědi u jiného uživatele;
• únikem konverzací na internet;
• sdílením našich dat s třetími stranami, např. společnostmi najatými na kontrolu tréninkových materiálů, agregátory dat neboli firmami, které se zabývají sběrem dat a vytvářením databází, popř. inzerenty, kterým pomáhají lépe cílit reklamu.

Ačkoliv jsou data využívaná k trénování modelů často anonymizovaná, stále zachovávají původní kontext konverzace, který může leccos odhalit.

Někteří poskytovatelé chatbotů umožňují trénování vypnout, jiní zase slibují, že údaje spojené se zdravotním stavem uživatelů při trénování nevyužívají. Jinými slovy, zatím neexistuje žádný obecný standard ochrany dat, které chatbotům dáváme, a je tedy na nás, uživatelích, abychom si zjistili, jak poskytovatel s našimi daty nakládá.

„A koho asi zajímají moje žaludeční vředy?“

Pro většinu z nás je snadné pochopit, proč digitální zloději a podvodníci touží po našich platebních kartách nebo přihlašovacích údajích. Jak nás ale může poškodit, když jim do rukou padne informace o našich plochých nohách nebo bolavé osmičce?

Ukazuje se, že hned několika způsoby:

• Údaje o našem zdravotním stavu nemají omezenou platnost a nedají se snadno zablokovat. Informace o naší srdeční arytmii je cenná třeba pro sociální inženýry, a to po dlouhou dobu.
• Lékařské zprávy, laboratorní výsledky a další dokumenty obsahují osobní údaje jako datum narození, rodné číslo apod.
• Opravdu citlivé nebo choulostivé zdravotní problémy lze snadno využít k vydírání.

Poskytovatelé těchto nástrojů se sice musí řídit obecným nařízením o ochraně údajů (GDPR) a zákonem o zpracování osobních údajů, ale protože nejde o poskytovatele zdravotnických služeb, nevztahuje se na ně zákon o zdravotních službách nebo zmíněné lékařské tajemství. To znamená, že chrání informace o tom, komu data patří, ne co obsahují a jak je to citlivé.

Anti-phishing

Zabraňuje pokusům o získání citlivých informací, jako jsou uživatelská jména a hesla či údaje o kreditních kartách a účtech. Blokuje podvodné webové stránky.

VYZKOUŠET

Jak tedy zajistit, že chatbot využívající generativní AI zachová mlčenlivost?

Pokud se i navzdory popsaným rizikům rozhodnete svůj zdravotní stav konzultovat s chatbotem, je dobré dbát na několik základních bezpečnostních pravidel.

6 pravidel pro bezpečné užívání chatbotů využívajících generativní AI:

1. Používejte specializované chatboty místo obecných. Chatboti zaměření na konkrétní oblast by měli být trénovaní na relevantních odborných datech a ochrana soukromí by měla být přizpůsobená citlivosti vkládaných dat.
2. Vždycky si ověřujte, jak poskytovatel chatbota ukládá a zpracovává vaše osobní údaje. Pokud je to možné, vždy vypínejte trénování a historii chatů.
3. Nikdy do nástroje nenahrávejte lékařské zprávy, výsledky laboratorních testů a další citlivé dokumenty obsahující osobní údaje jako jména, adresy, data narození, rodná čísla apod. Zkrátka a dobře, sdílejte jen absolutní minimum potřebné k odpovědi na otázku, na kterou se chatbota ptáte.
4. Výstupy chatbota považujte za čistě orientační a vždy si nechte vygenerovat zdroje, u kterých můžete informaci ověřit. Poté se poraďte se svým lékařem nebo se obraťte na oficiální zdroje, jako je např. Ministerstvo zdravotnictví.
5. Nepoužívejte chatbota založeného na umělé inteligenci jako náhradu za návštěvu u lékaře. Nenechávejte chatbota rozhodovat o tom, zda jsou vaše obtíže akutní, vždy se raději obraťte na lékaře.
6. Předpokládejte, že cokoliv do chatbota napíšete, může zůstat uložené u poskytovatele nebo dokonce uniknout. Prompty proto sestavujte pečlivě a vybírejte si, které informace budete sdílet.

Závěr: chatbot nebo lékař?

Chatboti generativní umělé inteligence působí dojmem, že se vyznají v celé řadě oborů včetně těch lékařských, ale vlastní halucinace bohužel vyřešit neumí. Jejich používání může být užitečné pro přípravu na návštěvu ordinace nebo vysvětlení odborných termínů, ale pro řešení akutních obtíží, diagnózu či léčbu se vždy obracejte na skutečného lékaře.

Kromě zdraví si při používání chatbotů pohlídejte i svoje data. Údaje o zdravotním stavu nejsou číslo platební karty, kterou lze po krádeži snadno zablokovat. Jakmile je jednou „nalijete“ do chatbota, může se z nich stát trvalá součást vaší digitální stopy. A ta se čistí obtížně.

Mohlo by vás zajímat:
✨ Je ChatGPT bezpečný? Jak AI chatbota používat správně
✨ Seznamovací aplikace aneb láska za časů umělé inteligence
✨ Jak umělá inteligence ovlivňuje body image dětí?

Nová generace chytrých brýlí je výkonnější, stylovější a na první pohled často k nerozeznání od obyčejných obrouček. Vysoké rozlišení kamery a aplikace generativní AI z nich ale nedělají pouze atraktivní hračku pro technologické nadšence, ale i možné riziko pro soukromí a bezpečí nás všech.

Co umí chytré brýle?

Chytré brýle jsou zařízení v podobě obrouček, které svým uživatelům umožňují fotit, natáčet videa, telefonovat a využívat další funkce svých smartphonů bez nutnosti dívat se do displeje. Zároveň fungují i jako plnohodnotné brýle, je možné do nich zasadit dioptrická, adaptivní i sluneční skla. Za běhu se nabíjejí pomocí pouzdra.

Důležitou součástí většiny chytrých brýlí je LED kontrolka, která nositele i jeho okolí upozorňuje na jejich činnost. U tradičních obrouček se většinou nachází na opačné straně od kamery, u sportovních brýlí ale může být rozložení jiné. Pokud se kontrolka rozsvítí, brýle fotí, pokud bliká, brýle natáčí.

Jaká jsou rizika chytrých brýlí?

Moderní člověk je na veřejnosti zvyklý být neustále monitorovaný, a to ať už bezpečnostními kamerami na ulici nebo v obchodech či mobily nadšených turistů. Jenže být snímaný v davu lidí dobře viditelnou kamerou na sloupu veřejného osvětlení a být cíleně nahrávaný způsobem, kterého si nemusíme hned ani všimnout, jsou dvě rozdílné věci.

Chytré brýle mají kontrolky, které nám dávají vědět, že jejich nositel fotí nebo nahrává. Ty se ale dají snadno skrýt, deaktivovat, a dokonce i úplně odstranit. Pokud nás tedy nositel brýlí o své činnosti neinformuje a my sami nevíme, co máme hledat – nebo že to vůbec máme hledat – může se nám velmi snadno stát, že nás někdo natáčí a nahrává bez našeho vědomí a souhlasu.

Narušení soukromí ale není jediné riziko, které chytré brýle představují. Výzkumníci Harvardovy univerzity na X ukázali, jak snadno umí chytré brýle za pomoci generativní AI propojit snímané obličeje s účty na sociálních sítích a do pár minut o nás tak zjistit víc, než si umíme představit.

Ze stylového doplňku se na špatných očích rázem stává poměrně nenápadné a vysoce efektivní sledovací zařízení, které je jako dělané pro stalkery, pachatele šikany či sociální inženýry a podvodníky. A ti na to nemusí jít zvlášť komplikovaně, chytré brýle jsou totiž užitečné například i při starém dobrém shoulder surfingu k zaznamenávání PINů, hesel a dalších informací.

Nebezpečí číhá i na majitele chytrých brýlí

Oči dokořán by měli mít i příznivci chytrých brýlí, nejen jejich okolí. Stačí jen trocha nepozornosti a z vševidoucnosti oblíbeného doplňku se stává bezpečnostní riziko i pro ně. Hackovat se totiž dají stejnými metodami jako každé jiné chytré zařízení, a to:

• zneužitím operačního systému/firmwaru;
• zneužitím propojených aplikací nebo chytrých telefonů;
• zachycením přenosu dat nebo vložením škodlivého obsahu pomocí falešných Wi-Fi hotspotů;
• sociálním inženýrstvím a phishingem, např. pomocí škodlivého QR kódu;
• falešnou aplikací pro chytré brýle.

Proto je dobré dát si pozor na to, co z našeho osobního života chytré brýle (a kdokoliv, kdo k nim má přístup) skutečně vidí. Pokud je máme na očích, raději bychom neměli vkládat PIN kódy k bankovním kartám na terminálech nebo v bankomatech, vpisovat hesla do svých účtů a prohlížet si bankovní výpisy, faktury, složenky a další dokumenty, které obsahují citlivé a snadno zneužitelné informace.

Všechny tyto informace jsou velmi cenné pro podvodníky. Ti ale nejsou jediní, kdo nás v případě chytrých brýlí může šmírovat.

Nezapomínejme na umělou inteligenci

Další riziko představuje i propojení s generativní umělou inteligencí u chytrých brýlí Meta. Veškeré nahrávky, které pořídíme po vyslovení aktivační fráze „Hey Meta“, se ukládají na cloud, kde jsou i s přepisy uchovávány po dobu až jednoho roku. A podle nových zásad ochrany soukromí Meta AI Glasses může Meta tato data využívat k trénování svých modelů AI.

To ve výsledku znamená, že stačí správně formulovaný prompt a naše osobní informace se můžou objevit jako součást odpovědi v cizím chatbotovi. Ještě předtím ale záznamy procházejí lidskou kontrolou, která má za úkol vyhodnotit jejich kvalitu pro trénink AI. To znamená, že i k těm nejcitlivějším záběrům, které vědomě či nevědomě pořídíme, mají přístup třetí strany.

Jak omezit rizika spojená s chytrými brýlemi?

Ať už chytré brýle sami nosíte, nebo se pro ně nadchl někdo ve vašem okolí, neuškodí mít na paměti několik zásad, jak všechny ochránit před nežádoucími pohledy i možnými ztrátami soukromí, dat i financí.

8 bezpečnostních tipů pro uživatele chytrých brýlí:

1. Pravidelně aktualizujte firmware a software. Zařízení bez zranitelností je pro útočníky těžší hackovat.
2. Stahujte aplikace jen z důvěryhodných zdrojů a po instalaci zkontrolujte jejich oprávnění.
3. Používejte vícefaktorové ověření a silná, unikátní hesla, a to jak pro brýle, tak pro telefon. Telefon určitě chraňte i komplexním bezpečnostním řešením.
4. Brýle odemykejte silným PIN kódem nebo biometrií. Pokud je zrovna nepoužíváte, důsledně vypínejte režim párování.
5. Bez VPN se nikdy nepřipojujte k veřejným Wi-Fi sítím. Ty totiž nemusí být zabezpečené a dají se snadno zneužít hackery.
6. Pokud to jde, zakažte trénování AI a/nebo lidský dohled. Omezení nakládání s daty pomůže předejít jejich úniku a/nebo zpracování třetími stranami.
7. Nepoužívané brýle důsledně zavírejte do pouzdra, aby omylem nemohly zachytit citlivé informace. Také pravidelně kontrolujte a mažte všechny nechtěné záznamy uložené v aplikaci.
8. Dávejte pozor na funkce virtuální reality. Pokud ztratíte vizuální kontakt se svým okolím, můžete se snadno fyzicky zranit.

5 tipů, jak předcházet nechtěnému nahrávání chytrými brýlemi

• Pokud máte podezření, že někdo ve vašem okolí nosí chytré brýle, nejprve si dobře prohlédněte obroučky. Hledejte hlavně kameru či kontrolku. Nespoléhejte ale na to, že vás kontrolka na pořizování záznamu upozorní.
• Při kontaktu s nositelem chytrých brýlí oznamte, že nechcete být nahráváni. Pokud se nacházíte v soukromí, potřebuje váš souhlas. V případě, že není bezpečné nositele brýlí konfrontovat, ze situace raději odejděte.
• Pokud vidíte uživatele brýlí v práci nebo veřejném zařízení (např. v posilovně), upozorněte na ně nadřízené či personál. Dotyčný by vás neměl nahrávat nikde, kde vás ze zákona nesmí nahrávat ani organizace samotná.
• Na veřejných místech s velkou hustotou lidí (např. v městské hromadné dopravě) nebo u bankomatů dávejte pozor, kdo se vám dívá přes rameno. Tuto zásadu je dobré dodržovat, ať už má dotyčný brýle nebo ne.

Shrnutí

Trend chytrých brýlí propojených s generativní umělou inteligencí je momentálně na vzestupu. To znamená, že se svou verzí plánují přijít na trh nejen Apple, Amazon a Google, ale i celá řada čínských výrobců. Pro většinu z nich jsou ale konkurenční výhoda a vysoké prodeje mnohem důležitější než ochrana dat jejich uživatelů. Ta je bohužel opět zcela na nás.

Mohlo by vás zajímat:
👓 Jak si chránit data online: chce to bezpečná hesla
👓 Jak vybrat chytré hodinky pro děti?
👓 AI mění svět. Ale rozumíme vůbec tomu, co dělá s námi?

„Rostoucí využívání AI chatbotů mezi dospívajícími je z vývojového hlediska poměrně pochopitelné. Adolescence je obdobím hledání identity, potřeby sdílení a experimentováním s názory a rolemi,“ potvrzuje dětská psycholožka Kamila Ryšánková.

S rostoucí oblibou AI chatbotů jdou ale ruku v ruce obavy o bezpečnost, ochranu soukromí a psychologický vývoj dětí, pro které jsou běžnou součástí života. Na co ale generativní AI vlastně používají a proč se od ní nemůžou odtrhnout?

3 důvody, proč se děti kamarádí s AI chatboty

Děti se k užívání generativní AI většinou uchylují z následujících důvodů:

Pomoc se školou

Školáci využívají ChatGPT k pomoci s domácími úkoly či pochopením složitějších konceptů. Chatbota ale často považují za vševědoucí bytost a vůbec si nepřipouští, že by nemusel mít pravdu.

Kreativní vyžití

Nástroje jako Midjourney či AI video generátory CapCut představují snadnou možnost vytvářet obrázky a animace. Tvůrčí středoškoláci tak generují například videa inspirovaná oblíbenými filmy či seriály.

Umělá přátelství

Některé děti považují ChatGPT nebo Meta AI za skutečné kamarády, kterým se svěřují s problémy, o kterých se jinak ostýchají mluvit, a často si jimi dokonce i nahrazují každodenní mezilidský kontakt. Tyto tendence jsou zvlášť patrné u uzavřenějších dětí, ale nevyhýbají se ani extrovertům, kteří jsou v kolektivu jako ryby ve vodě.

„Chatboti dětem poskytují rychlé odpovědi na otázky, anonymitu, jsou vždy dostupní, a hlavně dodávají pocit přijetí bez hodnocení, což je pro mnoho mladých lidí přitažlivé,“ vysvětluje Kamila Ryšánková. „Pokud se ale AI stane hlavním zdrojem podpory nebo informací, může to ovlivnit rozvoj sociálních dovedností, schopnost zvládat frustraci i vytváření reálných vztahů, protože se dítě nesetká s nesouhlasem, odmítnutím, čekáním nebo se zkušeností, že vztah s druhým člověkem obstojí i při konfliktu nebo odlišném názoru.“

Příprava na budoucnost, nebo přehlížené nebezpečí?

Nástroje generativní AI se rychle stávají součástí kancelářského softwaru a naučit se s nimi pracovat znamená do budoucna výhodu. Jejich každodenní používání s sebou ale nese konkrétní rizika, a to zvlášť pro stále se psychicky vyvíjející děti.

Nejvážnější rizika spojená s užíváním AI chatbotů:

• Lživé informace. Generativní umělá inteligence má tendence sebevědomě předkládat smyšlené informace (tzv. halucinace), což může být problém ve chvíli, kdy se děti ptají na radu např. ve zdravotních či vztahových záležitostech.
• Nebezpečný nebo nevhodný obsah. AI chatboti mají naprogramovaná pravidla pro generování obsahu, ale ta bohužel nejsou tesaná do kamene. Pomocí specifických příkazů tak lze chatbota přesvědčit, aby generoval sexuálně explicitní nebo násilný obsah.
• Narušení soukromí. Všechny informace, které chatbotovi dáte, zůstanou uložené v cloudu poskytovatele a můžou být teoreticky dostupné třetím stranám, zcizené při kyberútoku nebo znovu vygenerované jako odpověď u jiného uživatele.
• Sociální izolace. Ve chvíli, kdy začne dítě chatbota považovat za skutečného přítele a preferovat ho před živými kamarády a vrstevníky, může začít docházet k vyčlenění z kolektivu.
• Zhoršování psychických problémů. AI chatboti mají za úkol svému uživateli vyhovět, což znamená, že dětem můžou odpovídat způsobem, který ještě prohloubí problém, se kterým se svěřují. Zvlášť nebezpečné je to v případě poruch příjmu potravy, sebepoškozování či myšlenek na sebevraždu.

Co je AI psychóza?

Jak poznat, že má dítě nezdravý vztah s AI chatbotem?

Mezi nejčastější varovné signály, že užívání chatbota překročilo rozumnou hranici, patří:

• stranění se rodině a přátelům;
• nervozita a úzkosti ve chvíli, kdy je chatbot z různých důvodů nedostupný;
• vnímání chatbota jako skutečného člověka;
• opakování AI halucinací jako nesporných faktů;
• svěřování se chatbotovi s vážnými problémy;
• přístup k nevhodnému obsahu.

Pokud si všimnete jedné nebo více popsaných tendencí, je dobré začít prověřovat, jak děti chatboty skutečně využívají. Důležité je přitom nespoléhat jen na nastavení platforem samotných. Ačkoliv většina z nich už nabízí věková omezení a funkce rodičovské kontroly, technologie se stále vyvíjí rychleji než legislativa a zatím neexistuje způsob, jak ověřit účinnost těchto opatření.

„Největším rizikem není samotná technologie, ale situace, při které začne nahrazovat vztahy a bezpečný prostor pro sdílení emocí,“ připomíná Kamila Ryšánková. „Děti potřebují, aby s nimi dospělí o digitálním světě otevřeně mluvili a pomáhali jim rozlišovat, co je nástroj a co skutečný vztah. Stejně důležité je u dětí rozvíjet kritické myšlení, což je schopnost ověřovat informace, přemýšlet nad jejich pravdivostí a uvědomovat si, že umělá inteligence může vytvářet i nepřesné nebo zavádějící odpovědi.“

Cílem je pomoct dětem pochopit, že chatbot není skutečná myslící a cítící bytost. Je to stroj navržený tak, aby co nejdéle udržel naši pozornost, a jako takový je dobrý sluha, ale špatný pán. Zároveň je dobré připomenout jim základní digitální pravidla a zkontrolovat si, zda jsou jejich zařízení chráněná spolehlivým bezpečnostním řešením.

Závěrem:

AI chatboti můžou být užiteční při učení nebo volnočasových aktivitách, ale nikdy by neměli nahradit mezilidský kontakt. Dokud nejsou děti dostatečně vyzrálé na to, aby chápaly, jak generativní umělá inteligence funguje, je třeba její užívání důsledně kontrolovat.

Mohlo by vás zajímat:
🤖 Je ChatGPT bezpečný? Jak AI chatbota používat správně
🤖 S láskou, AI? Jak se mladí zamilují do umělé inteligence
🤖 Jak ChatGPT mění vzdělávání?