Chytré hračky a AI hračky. Jak bezpečné a vhodné jsou pro děti?

Chytré hračky nejsou žádnou novinkou. Medvídci, kteří nám po stisknutí bříška řeknou, že nás mají rádi, nebo panenka, která zpívá naši oblíbenou písničku, se nejen pod vánočními stromečky objevují už pěkných pár dekád.

Poslední generace chytrých hraček už ale umí o trochu víc než pouštět nahrávky nebo opakovat slova. AI hračky umí dětem dynamicky odpovídat na otázky nebo vyprávět celé příběhy o tom, co dělaly, zatímco byly děti ve školce. Jde o nový způsob hraní, nebo kybernetické riziko zabalené do plyše?

V následujícím článku se podíváme na to, jak chytré hračky fungují, co s dětmi dělají z vývojového hlediska a na co si dát při jejich výběru největší pozor.

Některé interaktivní hračky jsou chytřejší než jiné

Za chytré nebo interaktivní hračky obecně považujeme hračky, které jsou vybavené senzory (kamery, mikrofony), čipy, připojením k internetu, technologií rozpoznávání hlasu a umělou inteligencí. Obvykle reagují na zvuk, pohyb nebo dotyk a ovládáme je pomocí dálkového ovládání či doprovodné aplikace. Nejčastěji se setkáváme s různými roboty, auty na ovládání, interaktivními plyšáky, mluvícími panenkami apod.

Zatímco tradiční chytré hračky na dítě reagují předem naprogramovaným způsobem, AI hračky využívají strojové učení, zpracování přirozeného jazyka a adaptivní algoritmy ke generování nových a dynamičtějších odpovědí. Umí tak odpovídat na otevřené otázky, generovat příběhy, přizpůsobit se zájmům dítěte a pamatovat si informace z předchozích interakcí.

Jsou AI hračky pro děti prospěšné?

„Z pohledu dětské psychologie mohou AI hračky představovat zajímavé rozšíření možností dětského hraní a učení. Jejich potenciál spočívá především v tom, že mohou podporovat dětskou zvídavost, motivovat děti ke kladení otázek a nabízet jim nové podněty k objevování. Při vhodném nastavení mohou přispívat k procvičování řeči, rozšiřování slovní zásoby nebo rozvoji představivosti,“ vysvětluje dětská psycholožka Kamila Ryšánková.

„Výhodou může být také schopnost reagovat na individuální zájmy dítěte a přizpůsobovat tomu obsah hry. Některé děti navíc mohou ocenit možnost opakovaně se ptát a zkoušet nové věci bez obav z hodnocení. Nicméně samotná interakce s AI automaticky neznamená rozvoj těchto schopností. Záleží především na kvalitě hračky, věku dítěte a způsobu, jakým ji používá. Největší potenciál proto mají AI hračky jako doplněk společné hry, rodičovského vedení a dalších přirozených aktivit, nikoliv jako jejich náhrada.“

Ani sebechytřejší hračka se ale neumí přizpůsobit konkrétním dětským zálibám a povahám bez toho, aby uložila nebo zpracovala informace, které jí dítě prozradí. A pokud tyto operace neběží lokálně, ale odesílají se do cloudu, můžou se snadno dostat k nepovolaným očím a uším…

Jaká rizika jsou spojená s chytrými hračkami a AI hračkami?

Chytrá hračka není automaticky nebezpečná jen proto, že je připojená k internetu nebo využívá generativní umělou inteligenci. Záleží na konkrétním zařízení, datech, která sbírá, kybernetickém zabezpečení, které má k dispozici, typu umělé inteligence, kterou využívá, i věku dítěte, které si s ní hraje.

Pravdou ale zůstává, že některá rizika AI hraček nejsou bohužel jen teoretická.

Pokud chytrá hračka poslouchá, sbírá data

Mikrofon uvnitř plyšového medvídka nebo panenky Cayly se sice na první pohled netváří jako „štěnice“, ale právě tou technicky je. Hračky s mikrofonem obvykle zpracovávají nahrávky dětského hlasu, přepisy konverzací, jména, věk, zájmy, způsoby užívání, fotky, polohu a další informace sesbírané pomocí senzorů.

Některé hračky ukládají a zpracovávají údaje lokálně, jiné nasbíraná data odesílají ke zpracování do cloudu výrobce nebo poskytovatele služby. A ti je můžou zpřístupnit třetím stranám. Než tedy umístíte mluvícího medvídka do dětského pokojíčku, ověřte si, co dělá s informacemi, které se od vaší ratolesti dozví.

Pokud je hračka připojená k internetu, je součástí vaší domácí sítě

Jakmile chytrá hračka využívá Wi-Fi, Bluetooth nebo jiné možnosti konektivity, její zabezpečení (nebo jeho absence) může ovlivnit bezpečí celé chytré domácnosti. Míra ohrožení se samozřejmě odvíjí od konkrétního zařízení. Hračka, která kombinuje Wi-Fi a doprovodnou aplikaci, bude mít úplně jinou útočnou plochu než hračka, která je navíc vybavená mikrofonem, kamerou, účtem pro rodiče a cloudovým úložištěm.

Ať tak či tak, odpovídající zabezpečení by mělo být součástí její výbavy, ne něčím, o co se musí rodiče postarat po vlastní ose.

Pokud má interaktivní hračka AI, je do jisté míry nepředvídatelná

Mluvící panenky z dob minulých měly k dispozici asi padesát předem nahraných frází, které si rodiče mohli poslechnout a zkontrolovat dřív, než hračku svěří jejímu dětskému majiteli. Hračky s umělou inteligencí ale odpovědi generují dynamicky, což znemožňuje kontrolu výstupu výrobcem nebo rodičem.

Filtry a bezpečnostní mechanismy generativních modelů pomáhají, ale nejsou neprůstřelné. Podle výzkumu Common Sense Media generovalo až 27 % testovaných hraček výstupy, které obsahovaly témata pro dospělé (včetně drog a sebepoškozování) a halucinace. Výzkum byl sice proveden na maličkém vzorku, ale i tak nám připomíná, že ne všechno s nálepkou „navrženo pro děti“ je skutečně bezpečné.

Děti by měly vědět, že AI hračka není člověk, ale stroj

S hračkami si děti povídají pravděpodobně odnepaměti a z vývojového hlediska na tom není nic divného. Ve chvíli, kdy jim hračky začnou odpovídat, se ale situace trochu mění. Zvlášť pokud jsou AI hračky navržené přímo jako společníci.

„Důležité je, abychom dětem pomáhali rozlišovat mezi skutečným vztahem a interakcí s technologií. AI hračka může působit jako kamarád, oslovovat dítě jménem, pamatovat si předchozí rozhovory, projevovat zájem nebo reagovat na jeho emoce. To ale neznamená, že skutečně cítí náklonnost, radost nebo smutek,“ upozorňuje Kamila Ryšánková.

„Menší děti ještě nemají dostatečně rozvinuté kritické myšlení, aby vždy dokázaly rozpoznat, že jde pouze o simulaci lidského chování. Rizikem je, že se na AI hračku budou obracet i ve chvílích, kdy potřebují skutečnou lidskou blízkost, útěchu nebo pomoc. AI totiž nedokáže emoce skutečně prožívat, i když může vytvářet dojem, že jim rozumí. Její interpretace dětských emocí navíc nemusí být vždy správná a může nabídnout nevhodnou nebo zavádějící odpověď.

Nezanedbatelným rizikem může být také vytlačování běžných her a mezilidských kontaktů. Právě při hře s ostatními dětmi se totiž učíme vyjednávat, dělit se, řešit konflikty, respektovat odlišné názory a reagovat na emoce druhých. AI hračka může být na rozdíl od skutečného kamaráda téměř vždy k dispozici, trpělivá a připravená přizpůsobit se dítěti.

Jenže skutečné vztahy takto nefungují. Dítě se v nich musí naučit také čekat, přijmout odmítnutí, dělat kompromisy a respektovat potřeby druhého. Pokud by AI společník začal tyto zkušenosti nahrazovat, mohl by omezit příležitosti k přirozenému rozvoji sociálních dovedností. Zatím ale nemáme dostatek dlouhodobých výzkumů, abychom mohli s jistotou říct, jak výrazný tento vliv může být.

Rodiče by proto měli být součástí seznamování dítěte s AI hračkou a průběžně s ním o tom, co zažívá, mluvit. Doporučila bych také, aby rodiče občas sledovali, jakým způsobem hračka s dítětem komunikuje, a sami se zajímali o obsah jejich rozhovorů,“ uzavírá Kamila Ryšánková.

8 otázek, které by si měli rodiče položit, než koupí chytrou hračku

Nemusíte rozumět strojovému učení, velkým jazykovým modelům ani kybernetické bezpečnosti, abyste si domů nepřinesli roztomilého špeha. Stačí si před koupí umět odpovědět na těchto osm otázek.

1. Připojuje se hračka k internetu? Zjistěte si, které její funkce vyžadují Wi-Fi, Bluetooth, aplikaci nebo cloudovou službu a jestli se dá používat i bez nich.
2. Je vybavená mikrofonem, kamerou a/nebo sledováním polohy? Pokud takové senzory má, ověřte si, že mají kontrolku, která oznamuje jejich činnost, a hlavně, že se dají vypnout.
3. Jaké informace sbírá? Zajímat vás budou informace o účtu a zda výrobce uchovává nahrávky, přepisy rozhovorů, vizuální záznamy a informace o chování a zálibách vašeho dítěte.
4. Co se děje s nasbíranými informacemi? Důvěryhodný výrobce by měl uvádět, kdo a kde data uchovává a zpracovává.
5. Dají se data smazat? Zjistěte si, zda existuje způsob, jak procházet nebo mazat záznamy, historii konverzací a dětský účet.
6. Jaké zabezpečení výrobce poskytuje? Podívejte se, zda výrobce aktualizuje software, poskytuje hračce podporu a nabízí možnost zabezpečit účet.
7. Které z funkcí jdou vypnout? Přednost mají hračky, které mají fyzické vypínače, volitelné ukládání do paměti, rodičovskou kontrolu a možnost vypnout nepotřebné možnosti konektivity.
8. Je hračka pro dítě vhodná? Chatbot umělé inteligence schovaný v barevné hračce není automaticky o nic bezpečnější nebo vhodnější než ostatní volně dostupné modely.

Pokud nemůžete odpovědi na tyto otázky zjistit před nákupem, nedoporučujeme hračku kupovat nebo připojovat k domácí síti.

Jak zabezpečit chytrou interaktivní hračku, kterou už máte doma?

• Vytvořte si silné a jedinečné heslo rodičovského účtu a zapněte dvoufázové ověření, pokud je k dispozici.
• Aktualizujte hračku i doprovodnou aplikaci a zapněte si automatické aktualizace všude, kde to jde.
• Vypněte funkce a senzory, bez kterých se hračka obejde (kameru, mikrofon, sledování polohy, historii konverzací atp.).
• Pravidelně kontrolujte nastavení zabezpečení a ochrany soukromí, ideálně po každé aktualizaci.
• Ujistěte se, že dítě chápe, jak hračka funguje. Vysvětlete mu, že je to jen počítač a že by si s ní nemělo povídat o ničem, co se neříká cizím lidem.
• Zrušte propojení účtů, smažte všechna uložená data a vraťte hračku do továrního nastavení, než ji prodáte, darujete nebo vyhodíte/recyklujete.

ESET HOME Security

Blokuje útoky, které se pokoušejí uhodnout heslo a získat přístup k vašim účtům.

VYZKOUŠET

Závěr: i plyšový medvídek může být špionem

Na otázku, zda jsou chytré hračky a AI hračky skutečně bezpečné, neexistuje jednoznačná odpověď. Čím jsou hračky vyspělejší, tím víc připomínají nová technologická zařízení a rodiče by k nim z kybernetického hlediska měli přistupovat stejně jako k počítači, telefonu nebo tabletu.

Pokud se chystáte interaktivní hračku koupit, zkontrolujte si, pro jaký věk dítěte je vhodná, jak přesně funguje, jaká bezpečnostní opatření má zabudovaná a jak velkou kontrolu máte nad daty, která ukládá. Zároveň se ujistěte, že dítě chápe, na jakém principu hračka funguje a jaké informace jí smí svěřovat.

Mohlo by vás zajímat:
🧸 Jak mluvit o bezpečnosti na internetu s dětmi různého věku?
🧸 Proč se děti kamarádí s AI chatboty?
🧸 Digitální závislost u dětí a jak ji včas poznat