Zrovna tady ale často začíná grooming. Nemá podobu explicitních zpráv nebo výhružek, ale obyčejných, každodenních konverzací, které budují důvěru mezi dítětem a predátorem. A často bohužel úspěšně.

Podle výzkumu Čeští žáci v online světě 2025 realizovaného Pedagogickou fakultou Univerzity Palackého v Olomouci a CZ.NIC by až 18 % dětí ve věku 13 až 17 let šlo na schůzku s internetovým známým, 40 % uvedlo, že neví a nedokáže odpovědět. Jen něco málo přes polovinu dětí by se přitom svěřilo rodičům nebo kamarádovi a celých 6 % by se údajně nesvěřilo nikomu.

Jak tedy můžou rodiče rozpoznat nebezpečí včas bez toho, aby svým dětem dělali „policajta“?

Jak se vyvíjí online grooming?

Online grooming probíhá prakticky kdekoliv, kde dítě přichází do kontaktu s dalšími lidmi, tzn. v multiplayerových hrách, na sociálních sítích, v chatovacích aplikacích, v chatech při live streamingu nebo v online komunitách postavených na společných koníčcích a zájmech. Jakmile se objeví platforma, na které se začnou sdružovat děti, je téměř jisté, že se tam budou sdružovat i predátoři.

A to je problém, protože díky dosahu těchto platforem může jeden „groomer“ rychle kontaktovat desítky až stovky dětí, aniž by vůbec vytáhl paty z domu. Obvykle to probíhá tak, že predátor:

• projevuje neobvykle intenzivní zájem o koníčky, problémy nebo každodenní život dítěte;
• poskytuje emocionální podporu a nešetří komplimenty, aby si rychle získal důvěru dítěte;
• preferuje konverzace v soukromých zprávách, nebo na šifrovaných chatovacích aplikacích;
• požaduje, aby dítě konverzace tajilo před rodiči a kamarády;
• postupně otevírá osobnější a sexuálnější témata, ale většinou až ve chvíli, kdy si vybudoval důvěru;
• vyvolává pocit viny, vyvíjí nátlak a emocionálně manipuluje dítě ve chvíli, kdy se pokusí konverzaci nebo vztah ukončit.

Jak se online grooming v posledních letech vyvíjí?

Děti dostávají svá první digitální zařízení v mnohem nižším věku než předchozí generace. To samo o sobě není špatně. Online prostor dětem pomáhá se učit, tvořit, spolupracovat a udržovat přátelství. S každou komunitou, do které děti vstoupí, ale roste nebezpečí, že je kontaktuje někdo s nekalými úmysly.

Změnil se i způsob komunikace. Místo textových zpráv teď děti komunikují přes mizející zprávy, hlasové chaty, video hovory, skupinové konverzace a herní platformy. To dělá online interakce pro děti atraktivnější, ale rodičům ztěžuje je monitorovat a rozeznat, kdy překročily bezpečnou hranici.

Svou roli samozřejmě hraje i generativní umělá inteligence, která usnadňuje vytváření přesvědčivých falešných profilů, realistických fotek, překlad konverzací do jiných jazyků nebo generování zpráv, které působí osobněji a důvěryhodněji. Čím dostupnější tyto technologie jsou, tím těžší je rozeznat skutečné od falešného jak pro děti, tak pro jejich rodiče.

Technologie se mění, ale způsob manipulace zůstává

Grooming nefunguje díky tomu, že jsou děti neopatrné, naivní nebo neschopné rozeznat deepfake obsah. Funguje, protože predátoři zneužívají vývojově zcela normální emocionální potřeby jako přátelství, zvědavost, touhu po pozornosti a přijetí nebo nutkání někam patřit. Snaha udržet děti v bezpečí by se tedy neměla soustředit primárně na omezování nebo zakazování technologií.

„Nejdůležitější je vybudovat si s dítětem otevřený vztah, kde jsou dovolena všechna témata a dítě není trestáno za to, že udělá chybu nebo se stane něco, co se rodičům nemusí líbit,“ vysvětluje dětská psycholožka Kamila Ryšánková. „Děti by měly vědět, že si mohou s rodičem nebo jiným bezpečným dospělým (prarodič, učitel…) promluvit o podivných zprávách, nepříjemných situacích nebo tajemstvích, která jim byla svěřena, i když porušily rodinné pravidlo, tajně si s někým povídaly nebo si stáhly nevhodnou aplikaci.

Základní ochranná opatření, jako je rodičovská kontrola a dohodnutá digitální pravidla, mohou pomoci, ale neměly by nahrazovat komunikaci. Rodiče nemusí být technologickými experty ani mít každý den k dispozici hodinu navíc.“

7 tipů, jak můžou rodiče děti před groomingem chránit

1. Povídejte si s dětmi pravidelně, ne až když nastane problém

„Strach z trestu je jedním z hlavních důvodů, proč děti mlčí, a lidé, kteří se je snaží zneužít, mohou záměrně testovat, zda dokážou udržet tajemství a zda se cítí bezpečně, když se svěří dospělému. To nevyžaduje dlouhé každodenní rozhovory o online bezpečnosti. Krátké, pravidelné chvíle upřímného zájmu o to, co dítě dělá online, mohou vybudovat důvěru a ukázat mu, že na jeho digitálním světě záleží,“ vysvětluje Kamila Ryšánková.

2. Domluvte se na pravidlech, která děti budou dodržovat

Jasná pravidla dětem pomáhají osvojit si zdravé digitální návyky, aniž by v nich vzbuzovaly pocit, že mají něco zakázané. Domluvte se doma, kdy můžou děti zařízení používat, jak často si budou dělat přestávky a dbejte na to, aby měly čas i na offline aktivity, koníčky nebo hraní s kamarády naživo. U nejmenších dětí pomáhá používat zařízení např. v obývacím pokoji, takže jsou rodiče přirozeně součástí dětského digitálního světa bez nutnosti neustále se ohlížet přes rameno.

RODINNÁ DIGI-DOHODA

Nastavte si doma pravidla pro používání technologií, která budou vyhovovat všem.

STÁHNOUT DOHODU

3. Učte děti ochraně soukromí odmalička

Děti by měly co nejdříve pochopit, že ne všechno patří na internet. Osobní informace jako telefonní číslo, adresa, název školy nebo každodenní rozvrh by nikdy neměly sdílet s cizinci. Pokud mají problém rozlišovat, co je vhodné a co ne, naučte je babiččino pravidlo: „Co nechci, aby viděla (nebo by nemohla) vidět moje babička, nepatří na internet.“ Tato jednoduchá pomůcka děti obvykle rozesměje a díky tomu se všem dobře pamatuje.

4. Vybírejte vhodné platformy

Ne všechno v online prostoru je navržené s ohledem na děti. To platí i pro mobilní aplikace, hry nebo online komunity, které děti běžně využívají. Než si dítě stáhne novou aplikaci nebo vytvoří účet, zkontrolujte raději doporučený věk uživatelů, možnosti nastavení soukromí a komunikace v rámci platformy.

5. Podněcujte kritické myšlení

Jednou z nejcennějších digitálních dovedností u malých i velkých je schopnost nevěřit všemu, co vidíme online. Naučte děti, že ne každý je tím, za koho se vydává, že online profily můžou být falešné a že každou informaci je nutné ověřovat v důvěryhodných zdrojích, do kterých se nutně nepočítá chatbot. Tyto konverzace v dětech posilují celkovou digitální odolnost a pomáhají je tak chránit i proti groomingu.

6. Mějte přehled, ale „nešmírujte“

Zdravý, průběžný zájem o digitální život dítěte je mnohem efektivnější než tajný monitoring všech jeho konverzací. Nechte si ukázat oblíbené hry, digitální tvůrce nebo komunity a pravidelně se ptejte na jejich online zkušenosti. Lépe tak odhalíte změny v chování dítěte a možné problémy dřív, než se stane průšvih.

7. Jděte příkladem

Děti se učí vzhlížením k dospělým, a proto je důležité, aby i rodiče dodržovali zdravé digitální návyky. Chraňte své vlastní soukromí, používejte silná hesla, nesdílejte své osobní informace bez rozmyslu a během společných chvil odkládejte telefon. Když děti vidí, že dospělí kolem nich používají technologie s rozmyslem, je mnohem pravděpodobnější, že si zdravé zvyky vypěstují také.

Shrnutí: soustřeďte se na děti, ne na technologie

Technologie se neustále vyvíjí a každá novinka predátorům pomáhá vlichotit se našim dětem do přízně o něco snadněji. Není ale v lidských silách mít neustále perfektní přehled o tom, jaké aplikace, platformy a AI nástroje existují. A předvídat, které technologie už za rok nebudou relevantní a jaké jiné na jejich místě vzniknou, není možné už vůbec.

Rodiče by se proto měli soustředit na to, co nikdy nevyjde z módy, a to je pěstování důvěry a sebevědomí, které dětem pomůžou rozpoznat manipulaci, rozporovat podezřelé chování a s absolutní jistotou věřit, že si můžou vždycky říct o pomoc.

„Ochrana dětí před online groomingem nemůže být pouze odpovědností rodin: důležitou roli hrají i školy, preventivní programy, digitální platformy a širší komunita, zejména pokud je rodina dlouhodobě vystavena stresu nebo čelí obtížným okolnostem,“ dodává Kamila Ryšánková.

Mohlo by vás zajímat:
⚠️ Tady končí hra! Jak poznat grooming v Robloxu?
⚠️ Kamarádství jako z hororu: Taktiky groomingu
⚠️ Bezpečný sexting: Jak se vyhnout rizikům?

„S AI skilly bychom neměli zacházet jako s komplexními prompty, ale jako se softwarem. Při jejich používání je proto potřeba kontrolovat vyžadovaná oprávnění. Pokud jsou vyšší, než ke své činnosti potřebují, je to vždy varovný signál. Důležité je i ověřit, kdo dovednost publikoval, a pokud je to možné, volit AI skilly od známých a ověřených vývojářů,“ vysvětluje náš bezpečnostní expert Ondrej Kubovič.

Jaký je rozdíl mezi AI chatbotem a AI agentem?

Tradiční chatboti využívající generativní umělou inteligenci zpracovávají komplexní prompty, na základě kterých generují obsah. Jejich činnost je plně řízená člověkem, tzn. chatboti vždy jen pasivně reagují na to, co do nich vložíme.

Agentní AI naopak proaktivně vypracovává úkoly, aniž by ji uživatel musel promptovat. Jsou to vlastně takoví osobní asistenti, kteří za nás procházejí internet, čtou soubory a weby, přihlašují se do účtů a někdy dokonce provádějí platby.

AI agenti ke své činnosti využívají AI skilly (dovednosti), které fungují podobně jako rozšíření do prohlížeče. Jsou to malé balíčky instrukcí, dat, kódu a někdy i celých nástrojů, které rozšiřují schopnosti AI agentů. Právě v nich se ale občas můžou skrývat nepříjemná překvapení.

Jak bezpeční jsou AI agenti?

Rizika spojená s AI agenty nejsou zdaleka tak teoretická, jak by se mohlo zdát. Útočníci je prokazatelně zneužívají hlavně těmito třemi metodami:

Škodlivé AI skilly nebo AI pluginy

Od března 2026 ESET zkontroloval celkem 800 tisíc AI skillů, z nichž 25 tisíc označil jako podezřelé a víc než 2 500 jako vyloženě škodlivé. Některé z těchto skillů měly za úkol stáhnout do zařízení uživatelů infostealery, jiné obsahovaly trojské koně. ClawHub (obchod s AI skilly a pluginy pro agentní AI OpenClaw) podle výzkumu Koi nabízí víc než 800 škodlivých skillů obsahujících infostealery, malware ke krádeži krypta atd.

Falešní asistenti a rozšíření do prohlížeče

Hackeři neútočí jen na AI skilly. Dalším oblíbeným trikem je vyvíjení rozšíření do prohlížeče, která se vydávají za legitimní AI nástroje, ale ve skutečnosti jen kradou data. Microsoft nedávno rozkryl malwarovou kampaň postavenou na rozšířeních v podobě AI asistentů, které po nainstalování stahovaly historii chatů. Tak získávaly citlivé informace a přihlašovací údaje nic netušících uživatelů.

Injekce promptů (prompt injection)

Jednoduše řečeno, „prompt injection“ je vložení škodlivého příkazu. To útočníci dělají buď přímo, kdy takový příkaz vloží do chatbota a donutí ho tak obejít jeho programování, nebo nepřímo vložením škodlivých instrukcí na weby, do příspěvků na sociálních sítích, do kódu nebo dalšího obsahu, ke kterému agentní AI přistupuje a nevědomky se tak „napromptuje“.

Jak poznám, že je AI skill bezpečný?

Při stahování AI skillů nebo AI pluginů bychom měli dodržovat stejná bezpečnostní pravidla, jako při stahování a instalaci jakéhokoliv jiného typu softwaru. Než se pro stažení AI skillu rozhodnete, zjistěte si:

• Kdo je autorem? Publikoval i jiné skilly nebo pluginy? Jaké jsou na ně recenze? Absence historie příspěvků a hodnocení od ostatních uživatelů není dobré znamení.
• Je repozitář aktualizovaný a vývojář aktivní? Pokud ano, je to dobrý start, ale neznamená to, že je skill automaticky bezpečný. Někteří útočníci se chovají jako zodpovědní vývojáři, aby si vybudovali důvěru svých obětí.
• Jaká oprávnění AI skill požaduje? Pokud výše oprávnění přesahuje jeho inzerovaný účel, je to podezřelé.
• Chce AI plugin během instalace spouštět neznámé skripty nebo se spojovat s podezřelou doménou/zdrojem? Pokud ano, je důvod se znepokojovat.
• Zkontrolovali jste si AI skill v ESET AI Skills Checker? Jaký byl výsledek?

Jak se chránit před škodlivými AI skilly?

I tady je nejsilnější zbraní hlavně obezřetnost, a právě na ní jsou postaveny následující bezpečnostní tipy pro stahování AI skillů nebo AI pluginů.

1. Zkontrolujte požadovaná oprávnění předtím, než skill nebo plugin nainstalujete.
2. Pravidelně si aktualizujte AI nástroje, prohlížeče i bezpečnostní řešení.
3. Chovejte se ke svým AI agentům jako k cizím lidem, tzn. nikdy s nimi nesdílejte osobní nebo citlivé informace.
4. Pokud si všimnete, že se váš AI agent chová neobvykle, okamžitě ho vypněte.
5. Používejte dvoufázové ověření všude, kde je to možné, ale hlavně na nejdůležitějších účtech.
6. Naučte své děti a méně technicky zdatné členy rodiny tři nejdůležitější otázky: Kdo to vyrobil? Co to ode mě chce? Můžu tomu věřit?

„Uživatelé by se měli spoléhat hlavně na robustní bezpečnostní nástroje jako ESET HOME Security, které umí detekovat potenciálně škodlivé chování. U zdroje AI skillu by měli kontrolovat hlavně recenze uživatelů, dávat si pozor na problémové repozitáře a veřejnou zpětnou vazbu. A v neposlední řadě by měli svou agentní AI platformu a agenty pravidelně aktualizovat, aby snížili riziko zneužití prostřednictvím známých zranitelností,“ dodává Ondrej Kubovič.

Důvěřovat, ale prověřovat

Stačilo jen pár let a generativní umělá inteligence se stala nedílnou součástí mnoha domácností. Toho si samozřejmě všimli kyberzločinci, kteří rychle přišli na způsob, jak AI proměnit na nástroj k šíření malwaru, krádeži dat a podvodům.

Riziko představuje hlavně agentní AI, ale neměli bychom usnout na vavřínech ani při používání chatbotů. Pokud ale budeme dodržovat základní bezpečnostní postupy a svěříme se do rukou komplexního bezpečnostního řešení, nemáme se čeho bát.

Mohlo by vás zajímat:
✨ Je ChatGPT bezpečný? Jak AI chatbota používat správně
✨ Proč se děti kamarádí s AI chatboty?
✨ Dobrý den, tady policie aneb podvodné telefonáty nové generace

Specializované nástroje jako ChatGPT zdraví, Copilot Health či Health AI nabízejí snadnou interpretaci výsledků testů i odpovědi na otázky ohledně symptomů nebo léčby, ale oproti starému dobrému „googlení“ vyžadují mnohem víc citlivých informací, než kolik bychom dali vyhledávači.

A na rozdíl od doktorů se na ně bohužel nevztahuje lékařské tajemství.

Když se z aplikace stane ordinace

Na otázku, proč se s chatboty specializovanými na zdraví roztrhl pytel, odpovídá například zpráva o využívání chatbota Copilot pro rok 2025 od Microsoftu. Podle ní je pro uživatele Copilota zdraví téma č. 1 a radí se o něm hlavně na mobilních telefonech.

Vlastně to dává naprostý smysl. Chatboti jsou na rozdíl od odborníků k dispozici 24/7 a budí zdání, že mají odpověď úplně na všechno. Jejich sebevědomé vystupování navíc umí povzbudit nejednoho vyděšeného pacienta.

To ale bohužel neznamená, že ví, o čem mluví. Podle studie Oxfordské univerzity z roku 2026 představují velké jazykové modely zaměřené na lékařské rady riziko v podobě nepřesných a nekonsistentních informací. To znamená, že ani chatbot přímo určený ke konzultaci zdravotních problémů nemusí být schopný přesně stanovit správnou diagnózu ani její vážnost.

A podle studie uveřejněné na platformě arXiv provozované Cornellovou univerzitou si specializovaný model může někdy vést ještě hůř než ten obecný.

Když nejde o zdraví, jde o data

Halucinované odpovědi jsou ale jen jedním z nešvarů, kterými nás specializovaní chatboti můžou ohrozit. Další rizika souvisí se zabezpečením citlivých informací, které s veřejně dostupným chatbotem sdílíme. To může být narušené:

• využíváním našich dat k dalšímu tréninku daného modelu, což s sebou nese riziko, že se objeví jako součást odpovědi u jiného uživatele;
• únikem konverzací na internet;
• sdílením našich dat s třetími stranami, např. společnostmi najatými na kontrolu tréninkových materiálů, agregátory dat neboli firmami, které se zabývají sběrem dat a vytvářením databází, popř. inzerenty, kterým pomáhají lépe cílit reklamu.

Ačkoliv jsou data využívaná k trénování modelů často anonymizovaná, stále zachovávají původní kontext konverzace, který může leccos odhalit.

Někteří poskytovatelé chatbotů umožňují trénování vypnout, jiní zase slibují, že údaje spojené se zdravotním stavem uživatelů při trénování nevyužívají. Jinými slovy, zatím neexistuje žádný obecný standard ochrany dat, které chatbotům dáváme, a je tedy na nás, uživatelích, abychom si zjistili, jak poskytovatel s našimi daty nakládá.

„A koho asi zajímají moje žaludeční vředy?“

Pro většinu z nás je snadné pochopit, proč digitální zloději a podvodníci touží po našich platebních kartách nebo přihlašovacích údajích. Jak nás ale může poškodit, když jim do rukou padne informace o našich plochých nohách nebo bolavé osmičce?

Ukazuje se, že hned několika způsoby:

• Údaje o našem zdravotním stavu nemají omezenou platnost a nedají se snadno zablokovat. Informace o naší srdeční arytmii je cenná třeba pro sociální inženýry, a to po dlouhou dobu.
• Lékařské zprávy, laboratorní výsledky a další dokumenty obsahují osobní údaje jako datum narození, rodné číslo apod.
• Opravdu citlivé nebo choulostivé zdravotní problémy lze snadno využít k vydírání.

Poskytovatelé těchto nástrojů se sice musí řídit obecným nařízením o ochraně údajů (GDPR) a zákonem o zpracování osobních údajů, ale protože nejde o poskytovatele zdravotnických služeb, nevztahuje se na ně zákon o zdravotních službách nebo zmíněné lékařské tajemství. To znamená, že chrání informace o tom, komu data patří, ne co obsahují a jak je to citlivé.

Anti-phishing

Zabraňuje pokusům o získání citlivých informací, jako jsou uživatelská jména a hesla či údaje o kreditních kartách a účtech. Blokuje podvodné webové stránky.

VYZKOUŠET

Jak tedy zajistit, že chatbot využívající generativní AI zachová mlčenlivost?

Pokud se i navzdory popsaným rizikům rozhodnete svůj zdravotní stav konzultovat s chatbotem, je dobré dbát na několik základních bezpečnostních pravidel.

6 pravidel pro bezpečné užívání chatbotů využívajících generativní AI:

1. Používejte specializované chatboty místo obecných. Chatboti zaměření na konkrétní oblast by měli být trénovaní na relevantních odborných datech a ochrana soukromí by měla být přizpůsobená citlivosti vkládaných dat.
2. Vždycky si ověřujte, jak poskytovatel chatbota ukládá a zpracovává vaše osobní údaje. Pokud je to možné, vždy vypínejte trénování a historii chatů.
3. Nikdy do nástroje nenahrávejte lékařské zprávy, výsledky laboratorních testů a další citlivé dokumenty obsahující osobní údaje jako jména, adresy, data narození, rodná čísla apod. Zkrátka a dobře, sdílejte jen absolutní minimum potřebné k odpovědi na otázku, na kterou se chatbota ptáte.
4. Výstupy chatbota považujte za čistě orientační a vždy si nechte vygenerovat zdroje, u kterých můžete informaci ověřit. Poté se poraďte se svým lékařem nebo se obraťte na oficiální zdroje, jako je např. Ministerstvo zdravotnictví.
5. Nepoužívejte chatbota založeného na umělé inteligenci jako náhradu za návštěvu u lékaře. Nenechávejte chatbota rozhodovat o tom, zda jsou vaše obtíže akutní, vždy se raději obraťte na lékaře.
6. Předpokládejte, že cokoliv do chatbota napíšete, může zůstat uložené u poskytovatele nebo dokonce uniknout. Prompty proto sestavujte pečlivě a vybírejte si, které informace budete sdílet.

Závěr: chatbot nebo lékař?

Chatboti generativní umělé inteligence působí dojmem, že se vyznají v celé řadě oborů včetně těch lékařských, ale vlastní halucinace bohužel vyřešit neumí. Jejich používání může být užitečné pro přípravu na návštěvu ordinace nebo vysvětlení odborných termínů, ale pro řešení akutních obtíží, diagnózu či léčbu se vždy obracejte na skutečného lékaře.

Kromě zdraví si při používání chatbotů pohlídejte i svoje data. Údaje o zdravotním stavu nejsou číslo platební karty, kterou lze po krádeži snadno zablokovat. Jakmile je jednou „nalijete“ do chatbota, může se z nich stát trvalá součást vaší digitální stopy. A ta se čistí obtížně.

Mohlo by vás zajímat:
✨ Je ChatGPT bezpečný? Jak AI chatbota používat správně
✨ Seznamovací aplikace aneb láska za časů umělé inteligence
✨ Jak umělá inteligence ovlivňuje body image dětí?

„Rostoucí využívání AI chatbotů mezi dospívajícími je z vývojového hlediska poměrně pochopitelné. Adolescence je obdobím hledání identity, potřeby sdílení a experimentováním s názory a rolemi,“ potvrzuje dětská psycholožka Kamila Ryšánková.

S rostoucí oblibou AI chatbotů jdou ale ruku v ruce obavy o bezpečnost, ochranu soukromí a psychologický vývoj dětí, pro které jsou běžnou součástí života. Na co ale generativní AI vlastně používají a proč se od ní nemůžou odtrhnout?

3 důvody, proč se děti kamarádí s AI chatboty

Děti se k užívání generativní AI většinou uchylují z následujících důvodů:

Pomoc se školou

Školáci využívají ChatGPT k pomoci s domácími úkoly či pochopením složitějších konceptů. Chatbota ale často považují za vševědoucí bytost a vůbec si nepřipouští, že by nemusel mít pravdu.

Kreativní vyžití

Nástroje jako Midjourney či AI video generátory CapCut představují snadnou možnost vytvářet obrázky a animace. Tvůrčí středoškoláci tak generují například videa inspirovaná oblíbenými filmy či seriály.

Umělá přátelství

Některé děti považují ChatGPT nebo Meta AI za skutečné kamarády, kterým se svěřují s problémy, o kterých se jinak ostýchají mluvit, a často si jimi dokonce i nahrazují každodenní mezilidský kontakt. Tyto tendence jsou zvlášť patrné u uzavřenějších dětí, ale nevyhýbají se ani extrovertům, kteří jsou v kolektivu jako ryby ve vodě.

„Chatboti dětem poskytují rychlé odpovědi na otázky, anonymitu, jsou vždy dostupní, a hlavně dodávají pocit přijetí bez hodnocení, což je pro mnoho mladých lidí přitažlivé,“ vysvětluje Kamila Ryšánková. „Pokud se ale AI stane hlavním zdrojem podpory nebo informací, může to ovlivnit rozvoj sociálních dovedností, schopnost zvládat frustraci i vytváření reálných vztahů, protože se dítě nesetká s nesouhlasem, odmítnutím, čekáním nebo se zkušeností, že vztah s druhým člověkem obstojí i při konfliktu nebo odlišném názoru.“

Příprava na budoucnost, nebo přehlížené nebezpečí?

Nástroje generativní AI se rychle stávají součástí kancelářského softwaru a naučit se s nimi pracovat znamená do budoucna výhodu. Jejich každodenní používání s sebou ale nese konkrétní rizika, a to zvlášť pro stále se psychicky vyvíjející děti.

Nejvážnější rizika spojená s užíváním AI chatbotů:

• Lživé informace. Generativní umělá inteligence má tendence sebevědomě předkládat smyšlené informace (tzv. halucinace), což může být problém ve chvíli, kdy se děti ptají na radu např. ve zdravotních či vztahových záležitostech.
• Nebezpečný nebo nevhodný obsah. AI chatboti mají naprogramovaná pravidla pro generování obsahu, ale ta bohužel nejsou tesaná do kamene. Pomocí specifických příkazů tak lze chatbota přesvědčit, aby generoval sexuálně explicitní nebo násilný obsah.
• Narušení soukromí. Všechny informace, které chatbotovi dáte, zůstanou uložené v cloudu poskytovatele a můžou být teoreticky dostupné třetím stranám, zcizené při kyberútoku nebo znovu vygenerované jako odpověď u jiného uživatele.
• Sociální izolace. Ve chvíli, kdy začne dítě chatbota považovat za skutečného přítele a preferovat ho před živými kamarády a vrstevníky, může začít docházet k vyčlenění z kolektivu.
• Zhoršování psychických problémů. AI chatboti mají za úkol svému uživateli vyhovět, což znamená, že dětem můžou odpovídat způsobem, který ještě prohloubí problém, se kterým se svěřují. Zvlášť nebezpečné je to v případě poruch příjmu potravy, sebepoškozování či myšlenek na sebevraždu.

Co je AI psychóza?

Jak poznat, že má dítě nezdravý vztah s AI chatbotem?

Mezi nejčastější varovné signály, že užívání chatbota překročilo rozumnou hranici, patří:

• stranění se rodině a přátelům;
• nervozita a úzkosti ve chvíli, kdy je chatbot z různých důvodů nedostupný;
• vnímání chatbota jako skutečného člověka;
• opakování AI halucinací jako nesporných faktů;
• svěřování se chatbotovi s vážnými problémy;
• přístup k nevhodnému obsahu.

Pokud si všimnete jedné nebo více popsaných tendencí, je dobré začít prověřovat, jak děti chatboty skutečně využívají. Důležité je přitom nespoléhat jen na nastavení platforem samotných. Ačkoliv většina z nich už nabízí věková omezení a funkce rodičovské kontroly, technologie se stále vyvíjí rychleji než legislativa a zatím neexistuje způsob, jak ověřit účinnost těchto opatření.

„Největším rizikem není samotná technologie, ale situace, při které začne nahrazovat vztahy a bezpečný prostor pro sdílení emocí,“ připomíná Kamila Ryšánková. „Děti potřebují, aby s nimi dospělí o digitálním světě otevřeně mluvili a pomáhali jim rozlišovat, co je nástroj a co skutečný vztah. Stejně důležité je u dětí rozvíjet kritické myšlení, což je schopnost ověřovat informace, přemýšlet nad jejich pravdivostí a uvědomovat si, že umělá inteligence může vytvářet i nepřesné nebo zavádějící odpovědi.“

Cílem je pomoct dětem pochopit, že chatbot není skutečná myslící a cítící bytost. Je to stroj navržený tak, aby co nejdéle udržel naši pozornost, a jako takový je dobrý sluha, ale špatný pán. Zároveň je dobré připomenout jim základní digitální pravidla a zkontrolovat si, zda jsou jejich zařízení chráněná spolehlivým bezpečnostním řešením.

Závěrem:

AI chatboti můžou být užiteční při učení nebo volnočasových aktivitách, ale nikdy by neměli nahradit mezilidský kontakt. Dokud nejsou děti dostatečně vyzrálé na to, aby chápaly, jak generativní umělá inteligence funguje, je třeba její užívání důsledně kontrolovat.

Mohlo by vás zajímat:
🤖 Je ChatGPT bezpečný? Jak AI chatbota používat správně
🤖 S láskou, AI? Jak se mladí zamilují do umělé inteligence
🤖 Jak ChatGPT mění vzdělávání?