Specializované nástroje jako ChatGPT zdraví, Copilot Health či Health AI nabízejí snadnou interpretaci výsledků testů i odpovědi na otázky ohledně symptomů nebo léčby, ale oproti starému dobrému „googlení“ vyžadují mnohem víc citlivých informací, než kolik bychom dali vyhledávači.

A na rozdíl od doktorů se na ně bohužel nevztahuje lékařské tajemství.

Když se z aplikace stane ordinace

Na otázku, proč se s chatboty specializovanými na zdraví roztrhl pytel, odpovídá například zpráva o využívání chatbota Copilot pro rok 2025 od Microsoftu. Podle ní je pro uživatele Copilota zdraví téma č. 1 a radí se o něm hlavně na mobilních telefonech.

Vlastně to dává naprostý smysl. Chatboti jsou na rozdíl od odborníků k dispozici 24/7 a budí zdání, že mají odpověď úplně na všechno. Jejich sebevědomé vystupování navíc umí povzbudit nejednoho vyděšeného pacienta.

To ale bohužel neznamená, že ví, o čem mluví. Podle studie Oxfordské univerzity z roku 2026 představují velké jazykové modely zaměřené na lékařské rady riziko v podobě nepřesných a nekonsistentních informací. To znamená, že ani chatbot přímo určený ke konzultaci zdravotních problémů nemusí být schopný přesně stanovit správnou diagnózu ani její vážnost.

A podle studie uveřejněné na platformě arXiv provozované Cornellovou univerzitou si specializovaný model může někdy vést ještě hůř než ten obecný.

Když nejde o zdraví, jde o data

Halucinované odpovědi jsou ale jen jedním z nešvarů, kterými nás specializovaní chatboti můžou ohrozit. Další rizika souvisí se zabezpečením citlivých informací, které s veřejně dostupným chatbotem sdílíme. To může být narušené:

• využíváním našich dat k dalšímu tréninku daného modelu, což s sebou nese riziko, že se objeví jako součást odpovědi u jiného uživatele;
• únikem konverzací na internet;
• sdílením našich dat s třetími stranami, např. společnostmi najatými na kontrolu tréninkových materiálů, agregátory dat neboli firmami, které se zabývají sběrem dat a vytvářením databází, popř. inzerenty, kterým pomáhají lépe cílit reklamu.

Ačkoliv jsou data využívaná k trénování modelů často anonymizovaná, stále zachovávají původní kontext konverzace, který může leccos odhalit.

Někteří poskytovatelé chatbotů umožňují trénování vypnout, jiní zase slibují, že údaje spojené se zdravotním stavem uživatelů při trénování nevyužívají. Jinými slovy, zatím neexistuje žádný obecný standard ochrany dat, které chatbotům dáváme, a je tedy na nás, uživatelích, abychom si zjistili, jak poskytovatel s našimi daty nakládá.

„A koho asi zajímají moje žaludeční vředy?“

Pro většinu z nás je snadné pochopit, proč digitální zloději a podvodníci touží po našich platebních kartách nebo přihlašovacích údajích. Jak nás ale může poškodit, když jim do rukou padne informace o našich plochých nohách nebo bolavé osmičce?

Ukazuje se, že hned několika způsoby:

• Údaje o našem zdravotním stavu nemají omezenou platnost a nedají se snadno zablokovat. Informace o naší srdeční arytmii je cenná třeba pro sociální inženýry, a to po dlouhou dobu.
• Lékařské zprávy, laboratorní výsledky a další dokumenty obsahují osobní údaje jako datum narození, rodné číslo apod.
• Opravdu citlivé nebo choulostivé zdravotní problémy lze snadno využít k vydírání.

Poskytovatelé těchto nástrojů se sice musí řídit obecným nařízením o ochraně údajů (GDPR) a zákonem o zpracování osobních údajů, ale protože nejde o poskytovatele zdravotnických služeb, nevztahuje se na ně zákon o zdravotních službách nebo zmíněné lékařské tajemství. To znamená, že chrání informace o tom, komu data patří, ne co obsahují a jak je to citlivé.

Anti-phishing

Zabraňuje pokusům o získání citlivých informací, jako jsou uživatelská jména a hesla či údaje o kreditních kartách a účtech. Blokuje podvodné webové stránky.

VYZKOUŠET

Jak tedy zajistit, že chatbot využívající generativní AI zachová mlčenlivost?

Pokud se i navzdory popsaným rizikům rozhodnete svůj zdravotní stav konzultovat s chatbotem, je dobré dbát na několik základních bezpečnostních pravidel.

6 pravidel pro bezpečné užívání chatbotů využívajících generativní AI:

1. Používejte specializované chatboty místo obecných. Chatboti zaměření na konkrétní oblast by měli být trénovaní na relevantních odborných datech a ochrana soukromí by měla být přizpůsobená citlivosti vkládaných dat.
2. Vždycky si ověřujte, jak poskytovatel chatbota ukládá a zpracovává vaše osobní údaje. Pokud je to možné, vždy vypínejte trénování a historii chatů.
3. Nikdy do nástroje nenahrávejte lékařské zprávy, výsledky laboratorních testů a další citlivé dokumenty obsahující osobní údaje jako jména, adresy, data narození, rodná čísla apod. Zkrátka a dobře, sdílejte jen absolutní minimum potřebné k odpovědi na otázku, na kterou se chatbota ptáte.
4. Výstupy chatbota považujte za čistě orientační a vždy si nechte vygenerovat zdroje, u kterých můžete informaci ověřit. Poté se poraďte se svým lékařem nebo se obraťte na oficiální zdroje, jako je např. Ministerstvo zdravotnictví.
5. Nepoužívejte chatbota založeného na umělé inteligenci jako náhradu za návštěvu u lékaře. Nenechávejte chatbota rozhodovat o tom, zda jsou vaše obtíže akutní, vždy se raději obraťte na lékaře.
6. Předpokládejte, že cokoliv do chatbota napíšete, může zůstat uložené u poskytovatele nebo dokonce uniknout. Prompty proto sestavujte pečlivě a vybírejte si, které informace budete sdílet.

Závěr: chatbot nebo lékař?

Chatboti generativní umělé inteligence působí dojmem, že se vyznají v celé řadě oborů včetně těch lékařských, ale vlastní halucinace bohužel vyřešit neumí. Jejich používání může být užitečné pro přípravu na návštěvu ordinace nebo vysvětlení odborných termínů, ale pro řešení akutních obtíží, diagnózu či léčbu se vždy obracejte na skutečného lékaře.

Kromě zdraví si při používání chatbotů pohlídejte i svoje data. Údaje o zdravotním stavu nejsou číslo platební karty, kterou lze po krádeži snadno zablokovat. Jakmile je jednou „nalijete“ do chatbota, může se z nich stát trvalá součást vaší digitální stopy. A ta se čistí obtížně.

Mohlo by vás zajímat:
✨ Je ChatGPT bezpečný? Jak AI chatbota používat správně
✨ Seznamovací aplikace aneb láska za časů umělé inteligence
✨ Jak umělá inteligence ovlivňuje body image dětí?

Nová generace chytrých brýlí je výkonnější, stylovější a na první pohled často k nerozeznání od obyčejných obrouček. Vysoké rozlišení kamery a aplikace generativní AI z nich ale nedělají pouze atraktivní hračku pro technologické nadšence, ale i možné riziko pro soukromí a bezpečí nás všech.

Co umí chytré brýle?

Chytré brýle jsou zařízení v podobě obrouček, které svým uživatelům umožňují fotit, natáčet videa, telefonovat a využívat další funkce svých smartphonů bez nutnosti dívat se do displeje. Zároveň fungují i jako plnohodnotné brýle, je možné do nich zasadit dioptrická, adaptivní i sluneční skla. Za běhu se nabíjejí pomocí pouzdra.

Důležitou součástí většiny chytrých brýlí je LED kontrolka, která nositele i jeho okolí upozorňuje na jejich činnost. U tradičních obrouček se většinou nachází na opačné straně od kamery, u sportovních brýlí ale může být rozložení jiné. Pokud se kontrolka rozsvítí, brýle fotí, pokud bliká, brýle natáčí.

Jaká jsou rizika chytrých brýlí?

Moderní člověk je na veřejnosti zvyklý být neustále monitorovaný, a to ať už bezpečnostními kamerami na ulici nebo v obchodech či mobily nadšených turistů. Jenže být snímaný v davu lidí dobře viditelnou kamerou na sloupu veřejného osvětlení a být cíleně nahrávaný způsobem, kterého si nemusíme hned ani všimnout, jsou dvě rozdílné věci.

Chytré brýle mají kontrolky, které nám dávají vědět, že jejich nositel fotí nebo nahrává. Ty se ale dají snadno skrýt, deaktivovat, a dokonce i úplně odstranit. Pokud nás tedy nositel brýlí o své činnosti neinformuje a my sami nevíme, co máme hledat – nebo že to vůbec máme hledat – může se nám velmi snadno stát, že nás někdo natáčí a nahrává bez našeho vědomí a souhlasu.

Narušení soukromí ale není jediné riziko, které chytré brýle představují. Výzkumníci Harvardovy univerzity na X ukázali, jak snadno umí chytré brýle za pomoci generativní AI propojit snímané obličeje s účty na sociálních sítích a do pár minut o nás tak zjistit víc, než si umíme představit.

Ze stylového doplňku se na špatných očích rázem stává poměrně nenápadné a vysoce efektivní sledovací zařízení, které je jako dělané pro stalkery, pachatele šikany či sociální inženýry a podvodníky. A ti na to nemusí jít zvlášť komplikovaně, chytré brýle jsou totiž užitečné například i při starém dobrém shoulder surfingu k zaznamenávání PINů, hesel a dalších informací.

Nebezpečí číhá i na majitele chytrých brýlí

Oči dokořán by měli mít i příznivci chytrých brýlí, nejen jejich okolí. Stačí jen trocha nepozornosti a z vševidoucnosti oblíbeného doplňku se stává bezpečnostní riziko i pro ně. Hackovat se totiž dají stejnými metodami jako každé jiné chytré zařízení, a to:

• zneužitím operačního systému/firmwaru;
• zneužitím propojených aplikací nebo chytrých telefonů;
• zachycením přenosu dat nebo vložením škodlivého obsahu pomocí falešných Wi-Fi hotspotů;
• sociálním inženýrstvím a phishingem, např. pomocí škodlivého QR kódu;
• falešnou aplikací pro chytré brýle.

Proto je dobré dát si pozor na to, co z našeho osobního života chytré brýle (a kdokoliv, kdo k nim má přístup) skutečně vidí. Pokud je máme na očích, raději bychom neměli vkládat PIN kódy k bankovním kartám na terminálech nebo v bankomatech, vpisovat hesla do svých účtů a prohlížet si bankovní výpisy, faktury, složenky a další dokumenty, které obsahují citlivé a snadno zneužitelné informace.

Všechny tyto informace jsou velmi cenné pro podvodníky. Ti ale nejsou jediní, kdo nás v případě chytrých brýlí může šmírovat.

Nezapomínejme na umělou inteligenci

Další riziko představuje i propojení s generativní umělou inteligencí u chytrých brýlí Meta. Veškeré nahrávky, které pořídíme po vyslovení aktivační fráze „Hey Meta“, se ukládají na cloud, kde jsou i s přepisy uchovávány po dobu až jednoho roku. A podle nových zásad ochrany soukromí Meta AI Glasses může Meta tato data využívat k trénování svých modelů AI.

To ve výsledku znamená, že stačí správně formulovaný prompt a naše osobní informace se můžou objevit jako součást odpovědi v cizím chatbotovi. Ještě předtím ale záznamy procházejí lidskou kontrolou, která má za úkol vyhodnotit jejich kvalitu pro trénink AI. To znamená, že i k těm nejcitlivějším záběrům, které vědomě či nevědomě pořídíme, mají přístup třetí strany.

Jak omezit rizika spojená s chytrými brýlemi?

Ať už chytré brýle sami nosíte, nebo se pro ně nadchl někdo ve vašem okolí, neuškodí mít na paměti několik zásad, jak všechny ochránit před nežádoucími pohledy i možnými ztrátami soukromí, dat i financí.

8 bezpečnostních tipů pro uživatele chytrých brýlí:

1. Pravidelně aktualizujte firmware a software. Zařízení bez zranitelností je pro útočníky těžší hackovat.
2. Stahujte aplikace jen z důvěryhodných zdrojů a po instalaci zkontrolujte jejich oprávnění.
3. Používejte vícefaktorové ověření a silná, unikátní hesla, a to jak pro brýle, tak pro telefon. Telefon určitě chraňte i komplexním bezpečnostním řešením.
4. Brýle odemykejte silným PIN kódem nebo biometrií. Pokud je zrovna nepoužíváte, důsledně vypínejte režim párování.
5. Bez VPN se nikdy nepřipojujte k veřejným Wi-Fi sítím. Ty totiž nemusí být zabezpečené a dají se snadno zneužít hackery.
6. Pokud to jde, zakažte trénování AI a/nebo lidský dohled. Omezení nakládání s daty pomůže předejít jejich úniku a/nebo zpracování třetími stranami.
7. Nepoužívané brýle důsledně zavírejte do pouzdra, aby omylem nemohly zachytit citlivé informace. Také pravidelně kontrolujte a mažte všechny nechtěné záznamy uložené v aplikaci.
8. Dávejte pozor na funkce virtuální reality. Pokud ztratíte vizuální kontakt se svým okolím, můžete se snadno fyzicky zranit.

5 tipů, jak předcházet nechtěnému nahrávání chytrými brýlemi

• Pokud máte podezření, že někdo ve vašem okolí nosí chytré brýle, nejprve si dobře prohlédněte obroučky. Hledejte hlavně kameru či kontrolku. Nespoléhejte ale na to, že vás kontrolka na pořizování záznamu upozorní.
• Při kontaktu s nositelem chytrých brýlí oznamte, že nechcete být nahráváni. Pokud se nacházíte v soukromí, potřebuje váš souhlas. V případě, že není bezpečné nositele brýlí konfrontovat, ze situace raději odejděte.
• Pokud vidíte uživatele brýlí v práci nebo veřejném zařízení (např. v posilovně), upozorněte na ně nadřízené či personál. Dotyčný by vás neměl nahrávat nikde, kde vás ze zákona nesmí nahrávat ani organizace samotná.
• Na veřejných místech s velkou hustotou lidí (např. v městské hromadné dopravě) nebo u bankomatů dávejte pozor, kdo se vám dívá přes rameno. Tuto zásadu je dobré dodržovat, ať už má dotyčný brýle nebo ne.

Shrnutí

Trend chytrých brýlí propojených s generativní umělou inteligencí je momentálně na vzestupu. To znamená, že se svou verzí plánují přijít na trh nejen Apple, Amazon a Google, ale i celá řada čínských výrobců. Pro většinu z nich jsou ale konkurenční výhoda a vysoké prodeje mnohem důležitější než ochrana dat jejich uživatelů. Ta je bohužel opět zcela na nás.

Mohlo by vás zajímat:
👓 Jak si chránit data online: chce to bezpečná hesla
👓 Jak vybrat chytré hodinky pro děti?
👓 AI mění svět. Ale rozumíme vůbec tomu, co dělá s námi?

„Rostoucí využívání AI chatbotů mezi dospívajícími je z vývojového hlediska poměrně pochopitelné. Adolescence je obdobím hledání identity, potřeby sdílení a experimentováním s názory a rolemi,“ potvrzuje dětská psycholožka Kamila Ryšánková.

S rostoucí oblibou AI chatbotů jdou ale ruku v ruce obavy o bezpečnost, ochranu soukromí a psychologický vývoj dětí, pro které jsou běžnou součástí života. Na co ale generativní AI vlastně používají a proč se od ní nemůžou odtrhnout?

3 důvody, proč se děti kamarádí s AI chatboty

Děti se k užívání generativní AI většinou uchylují z následujících důvodů:

Pomoc se školou

Školáci využívají ChatGPT k pomoci s domácími úkoly či pochopením složitějších konceptů. Chatbota ale často považují za vševědoucí bytost a vůbec si nepřipouští, že by nemusel mít pravdu.

Kreativní vyžití

Nástroje jako Midjourney či AI video generátory CapCut představují snadnou možnost vytvářet obrázky a animace. Tvůrčí středoškoláci tak generují například videa inspirovaná oblíbenými filmy či seriály.

Umělá přátelství

Některé děti považují ChatGPT nebo Meta AI za skutečné kamarády, kterým se svěřují s problémy, o kterých se jinak ostýchají mluvit, a často si jimi dokonce i nahrazují každodenní mezilidský kontakt. Tyto tendence jsou zvlášť patrné u uzavřenějších dětí, ale nevyhýbají se ani extrovertům, kteří jsou v kolektivu jako ryby ve vodě.

„Chatboti dětem poskytují rychlé odpovědi na otázky, anonymitu, jsou vždy dostupní, a hlavně dodávají pocit přijetí bez hodnocení, což je pro mnoho mladých lidí přitažlivé,“ vysvětluje Kamila Ryšánková. „Pokud se ale AI stane hlavním zdrojem podpory nebo informací, může to ovlivnit rozvoj sociálních dovedností, schopnost zvládat frustraci i vytváření reálných vztahů, protože se dítě nesetká s nesouhlasem, odmítnutím, čekáním nebo se zkušeností, že vztah s druhým člověkem obstojí i při konfliktu nebo odlišném názoru.“

Příprava na budoucnost, nebo přehlížené nebezpečí?

Nástroje generativní AI se rychle stávají součástí kancelářského softwaru a naučit se s nimi pracovat znamená do budoucna výhodu. Jejich každodenní používání s sebou ale nese konkrétní rizika, a to zvlášť pro stále se psychicky vyvíjející děti.

Nejvážnější rizika spojená s užíváním AI chatbotů:

• Lživé informace. Generativní umělá inteligence má tendence sebevědomě předkládat smyšlené informace (tzv. halucinace), což může být problém ve chvíli, kdy se děti ptají na radu např. ve zdravotních či vztahových záležitostech.
• Nebezpečný nebo nevhodný obsah. AI chatboti mají naprogramovaná pravidla pro generování obsahu, ale ta bohužel nejsou tesaná do kamene. Pomocí specifických příkazů tak lze chatbota přesvědčit, aby generoval sexuálně explicitní nebo násilný obsah.
• Narušení soukromí. Všechny informace, které chatbotovi dáte, zůstanou uložené v cloudu poskytovatele a můžou být teoreticky dostupné třetím stranám, zcizené při kyberútoku nebo znovu vygenerované jako odpověď u jiného uživatele.
• Sociální izolace. Ve chvíli, kdy začne dítě chatbota považovat za skutečného přítele a preferovat ho před živými kamarády a vrstevníky, může začít docházet k vyčlenění z kolektivu.
• Zhoršování psychických problémů. AI chatboti mají za úkol svému uživateli vyhovět, což znamená, že dětem můžou odpovídat způsobem, který ještě prohloubí problém, se kterým se svěřují. Zvlášť nebezpečné je to v případě poruch příjmu potravy, sebepoškozování či myšlenek na sebevraždu.

Co je AI psychóza?

Jak poznat, že má dítě nezdravý vztah s AI chatbotem?

Mezi nejčastější varovné signály, že užívání chatbota překročilo rozumnou hranici, patří:

• stranění se rodině a přátelům;
• nervozita a úzkosti ve chvíli, kdy je chatbot z různých důvodů nedostupný;
• vnímání chatbota jako skutečného člověka;
• opakování AI halucinací jako nesporných faktů;
• svěřování se chatbotovi s vážnými problémy;
• přístup k nevhodnému obsahu.

Pokud si všimnete jedné nebo více popsaných tendencí, je dobré začít prověřovat, jak děti chatboty skutečně využívají. Důležité je přitom nespoléhat jen na nastavení platforem samotných. Ačkoliv většina z nich už nabízí věková omezení a funkce rodičovské kontroly, technologie se stále vyvíjí rychleji než legislativa a zatím neexistuje způsob, jak ověřit účinnost těchto opatření.

„Největším rizikem není samotná technologie, ale situace, při které začne nahrazovat vztahy a bezpečný prostor pro sdílení emocí,“ připomíná Kamila Ryšánková. „Děti potřebují, aby s nimi dospělí o digitálním světě otevřeně mluvili a pomáhali jim rozlišovat, co je nástroj a co skutečný vztah. Stejně důležité je u dětí rozvíjet kritické myšlení, což je schopnost ověřovat informace, přemýšlet nad jejich pravdivostí a uvědomovat si, že umělá inteligence může vytvářet i nepřesné nebo zavádějící odpovědi.“

Cílem je pomoct dětem pochopit, že chatbot není skutečná myslící a cítící bytost. Je to stroj navržený tak, aby co nejdéle udržel naši pozornost, a jako takový je dobrý sluha, ale špatný pán. Zároveň je dobré připomenout jim základní digitální pravidla a zkontrolovat si, zda jsou jejich zařízení chráněná spolehlivým bezpečnostním řešením.

Závěrem:

AI chatboti můžou být užiteční při učení nebo volnočasových aktivitách, ale nikdy by neměli nahradit mezilidský kontakt. Dokud nejsou děti dostatečně vyzrálé na to, aby chápaly, jak generativní umělá inteligence funguje, je třeba její užívání důsledně kontrolovat.

Mohlo by vás zajímat:
🤖 Je ChatGPT bezpečný? Jak AI chatbota používat správně
🤖 S láskou, AI? Jak se mladí zamilují do umělé inteligence
🤖 Jak ChatGPT mění vzdělávání?