„Rostoucí využívání AI chatbotů mezi dospívajícími je z vývojového hlediska poměrně pochopitelné. Adolescence je obdobím hledání identity, potřeby sdílení a experimentováním s názory a rolemi,“ potvrzuje dětská psycholožka Kamila Ryšánková.

S rostoucí oblibou AI chatbotů jdou ale ruku v ruce obavy o bezpečnost, ochranu soukromí a psychologický vývoj dětí, pro které jsou běžnou součástí života. Na co ale generativní AI vlastně používají a proč se od ní nemůžou odtrhnout?

3 důvody, proč se děti kamarádí s AI chatboty

Děti se k užívání generativní AI většinou uchylují z následujících důvodů:

Pomoc se školou

Školáci využívají ChatGPT k pomoci s domácími úkoly či pochopením složitějších konceptů. Chatbota ale často považují za vševědoucí bytost a vůbec si nepřipouští, že by nemusel mít pravdu.

Kreativní vyžití

Nástroje jako Midjourney či AI video generátory CapCut představují snadnou možnost vytvářet obrázky a animace. Tvůrčí středoškoláci tak generují například videa inspirovaná oblíbenými filmy či seriály.

Umělá přátelství

Některé děti považují ChatGPT nebo Meta AI za skutečné kamarády, kterým se svěřují s problémy, o kterých se jinak ostýchají mluvit, a často si jimi dokonce i nahrazují každodenní mezilidský kontakt. Tyto tendence jsou zvlášť patrné u uzavřenějších dětí, ale nevyhýbají se ani extrovertům, kteří jsou v kolektivu jako ryby ve vodě.

„Chatboti dětem poskytují rychlé odpovědi na otázky, anonymitu, jsou vždy dostupní, a hlavně dodávají pocit přijetí bez hodnocení, což je pro mnoho mladých lidí přitažlivé,“ vysvětluje Kamila Ryšánková. „Pokud se ale AI stane hlavním zdrojem podpory nebo informací, může to ovlivnit rozvoj sociálních dovedností, schopnost zvládat frustraci i vytváření reálných vztahů, protože se dítě nesetká s nesouhlasem, odmítnutím, čekáním nebo se zkušeností, že vztah s druhým člověkem obstojí i při konfliktu nebo odlišném názoru.“

Příprava na budoucnost, nebo přehlížené nebezpečí?

Nástroje generativní AI se rychle stávají součástí kancelářského softwaru a naučit se s nimi pracovat znamená do budoucna výhodu. Jejich každodenní používání s sebou ale nese konkrétní rizika, a to zvlášť pro stále se psychicky vyvíjející děti.

Nejvážnější rizika spojená s užíváním AI chatbotů:

• Lživé informace. Generativní umělá inteligence má tendence sebevědomě předkládat smyšlené informace (tzv. halucinace), což může být problém ve chvíli, kdy se děti ptají na radu např. ve zdravotních či vztahových záležitostech.
• Nebezpečný nebo nevhodný obsah. AI chatboti mají naprogramovaná pravidla pro generování obsahu, ale ta bohužel nejsou tesaná do kamene. Pomocí specifických příkazů tak lze chatbota přesvědčit, aby generoval sexuálně explicitní nebo násilný obsah.
• Narušení soukromí. Všechny informace, které chatbotovi dáte, zůstanou uložené v cloudu poskytovatele a můžou být teoreticky dostupné třetím stranám, zcizené při kyberútoku nebo znovu vygenerované jako odpověď u jiného uživatele.
• Sociální izolace. Ve chvíli, kdy začne dítě chatbota považovat za skutečného přítele a preferovat ho před živými kamarády a vrstevníky, může začít docházet k vyčlenění z kolektivu.
• Zhoršování psychických problémů. AI chatboti mají za úkol svému uživateli vyhovět, což znamená, že dětem můžou odpovídat způsobem, který ještě prohloubí problém, se kterým se svěřují. Zvlášť nebezpečné je to v případě poruch příjmu potravy, sebepoškozování či myšlenek na sebevraždu.

Co je AI psychóza?

Jak poznat, že má dítě nezdravý vztah s AI chatbotem?

Mezi nejčastější varovné signály, že užívání chatbota překročilo rozumnou hranici, patří:

• stranění se rodině a přátelům;
• nervozita a úzkosti ve chvíli, kdy je chatbot z různých důvodů nedostupný;
• vnímání chatbota jako skutečného člověka;
• opakování AI halucinací jako nesporných faktů;
• svěřování se chatbotovi s vážnými problémy;
• přístup k nevhodnému obsahu.

Pokud si všimnete jedné nebo více popsaných tendencí, je dobré začít prověřovat, jak děti chatboty skutečně využívají. Důležité je přitom nespoléhat jen na nastavení platforem samotných. Ačkoliv většina z nich už nabízí věková omezení a funkce rodičovské kontroly, technologie se stále vyvíjí rychleji než legislativa a zatím neexistuje způsob, jak ověřit účinnost těchto opatření.

„Největším rizikem není samotná technologie, ale situace, při které začne nahrazovat vztahy a bezpečný prostor pro sdílení emocí,“ připomíná Kamila Ryšánková. „Děti potřebují, aby s nimi dospělí o digitálním světě otevřeně mluvili a pomáhali jim rozlišovat, co je nástroj a co skutečný vztah. Stejně důležité je u dětí rozvíjet kritické myšlení, což je schopnost ověřovat informace, přemýšlet nad jejich pravdivostí a uvědomovat si, že umělá inteligence může vytvářet i nepřesné nebo zavádějící odpovědi.“

Cílem je pomoct dětem pochopit, že chatbot není skutečná myslící a cítící bytost. Je to stroj navržený tak, aby co nejdéle udržel naši pozornost, a jako takový je dobrý sluha, ale špatný pán. Zároveň je dobré připomenout jim základní digitální pravidla a zkontrolovat si, zda jsou jejich zařízení chráněná spolehlivým bezpečnostním řešením.

Závěrem:

AI chatboti můžou být užiteční při učení nebo volnočasových aktivitách, ale nikdy by neměli nahradit mezilidský kontakt. Dokud nejsou děti dostatečně vyzrálé na to, aby chápaly, jak generativní umělá inteligence funguje, je třeba její užívání důsledně kontrolovat.

Mohlo by vás zajímat:
🤖 Je ChatGPT bezpečný? Jak AI chatbota používat správně
🤖 S láskou, AI? Jak se mladí zamilují do umělé inteligence
🤖 Jak ChatGPT mění vzdělávání?

Konverzace, které s ChatGPT vedeme, se nezpracovávají lokálně, ale na serverech OpenAI, kde (v bezplatné verzi / ChatGPT Plus) taky zůstávají uložené, dokud nepožádáme o jejich vymazání. A to je možné jen v případě registrovaných uživatelů. Dobře si rozmyslet, jaké informace chatbotovi svěříme, je tedy pro ochranu našich dat naprosto zásadní.

Jak ChatGPT chrání svoje uživatele?

Co se týče šifrování komunikace, ChatGPT využívá stejných standardů jako třeba banky. Při přihlašování umožňuje vícefázové ověření a podléhá obecnému nařízení o ochraně osobních údajů (GDPR). Kromě toho provádí i základní moderaci obsahu.

I přesto je ale používání AI chatbotů spojené s určitými bezpečnostními riziky, kterými jsou například:

Úniky dat a krádeže přihlašovacích údajů

Už v březnu 2023 si uživatelé ChatGPT začali všímat, že se jim v historii objevují cizí zprávy. Chyba byla na straně OpenAI a vznikla zranitelností v systému. Rok nato se na dark webu objevilo přes 100 tisíc ukradených přihlašovacích údajů, které pocházely hlavně ze zařízení oslabených malwarem, který mohl (ale nemusel) vzejít z podvodné aplikace.

Falešné aplikace a phishing

Obchody aplikací a rozšíření do prohlížečů nabízejí falešné aplikace, které jsou od skutečného ChatGPT na první pohled k nerozeznání, ale slouží jen ke sběru přihlašovacích údajů a/nebo instalaci malware. Při stahování ChatGPT aplikací je vždy nutné ověřit si, že jejím autorem je OpenAI.

Trénování modelů a ochrana soukromí

Všechno, co v bezplatné verzi nebo ChatGPT Plus do konverzace napíšeme, využívá OpenAI k dalšímu trénování svých modelů. Data jsou sice anonymizovaná, ale v kontextu můžou i tak odhalit citlivé informace. Autorizovaní zaměstnanci OpenAI mají navíc z bezpečnostních důvodů do některých chatů přístup.

Chybné informace a halucinace

ChatGPT někdy sebevědomě předkládá úplně smyšlené informace, kterým se říká halucinace. Ke všem odpovědím proto přistupujte jako k neověřeným informacím, dokud si je nepotvrdíte v důvěryhodných zdrojích.

Malware a sociální inženýrství

Internetoví útočníci si pomocí umělé inteligence generují malware, vzorové phishingové zprávy nebo přesvědčivé deepfaky, což jim značně usnadňuje provádění kybernetických útoků. Zároveň to dramaticky navyšuje počet útočníků, protože už nepotřebují prakticky žádnou specializaci.

Co s chatbotem nikdy nesdílet?

Už ze samé podstaty služby vyplývá, že zamyslet se nad tím, co a proč s chatbotem sdílíme, bude klíčem k jeho bezpečnému používání. OpenAI sice s nasbíranými daty neobchoduje, ale v zájmu vylepšování služeb je může sdílet se svými dodavateli (např. platebními bránami).

Je tedy v našem zájmu ke každému chatu přistupovat jako k veřejné nástěnce a nikdy nesdílet:

• Osobní údaje jako rodné číslo, čísla dokladů, poštovní adresy apod.
• Finanční informace jako čísla platebních karet, bankovních účtů apod.
• Přihlašovací údaje a kontaktní informace
• Informace o zdravotním stavu
• Firemní data, tzn. jakákoliv data, která podle interních směrnic zaměstnavatele nepatří na veřejnost

Zvlášť opatrní by při používání chatbota měli být lékaři, právní zástupci, finanční poradci a další profese, které denně nakládají s citlivými osobními údaji svých pacientů a klientů. Sdílení takových informací s chatbotem by mohlo znamenat porušení lékařského tajemství, povinnosti mlčenlivosti advokáta nebo GDPR.

Jak ChatGPT používat bezpečně?

ChatGPT je hlavně a přednostně online služba a platí pro ni stejné zásady bezpečnosti jako pro každou jinou. Pokud máte účet, nastavte si silné heslo a vícefázové ověření, které pomůžou ochránit obecnou bezpečnost vašeho účtu.

Pro ochranu soukromí dodržujte následující kroky:

1. Používejte jen oficiální platformu ChatGPT nebo ověřenou aplikaci z Google Play / App Store.
2. Vypněte trénování na svém obsahu v portálu pro ochranu soukromí.
3. Používejte dočasné chaty, na kterých se model netrénuje, zvlášť pro citlivá data.
4. V konverzaci používejte anonymní příklady místo skutečných informací a nikdy do chatu nenahrávejte skutečné dokumenty.
5. Mažte historii a hlídejte si, kde všude jste přihlášení, ať se vám do účtu nedostane někdo nepovolaný.
6. Používejte komplexní bezpečnostní řešení s VPN, které se postará o bezpečnost vašich zařízení i při používání AI chatbotů.

Tak tedy – je ChatGPT bezpečný?

Odpověď je ano i ne. I když využijeme všech dostupných opatření, které OpenAI do svých produktů zahrnula, jejich obchodní model pořád stojí na sběru dat. Pokud k ChatGPT přistupujeme zodpovědně, může nám sloužit dobře a poměrně bezpečně. Svoje data si ale musíme ohlídat sami.

Mohlo by vás zajímat:
📌 ChatGPT jako vějička: Jak útočníci zneužívají známé AI nástroje
📌 Informatička: AI mění svět. Ale rozumíme vůbec tomu, co dělá s námi?
📌 ChatGPT: Stojíme na prahu nové éry podvodných zpráv?

Matematické úlohy Cermatu pro čtyřleté obory jsme vložili do modelu Gemini 2.0 Flash Thinking.

Prompt byl:
„Jsi vynikající matematik! Máš před sebou výzvu vyřešit matematickou úlohu. Využij své matematické dovednosti k nalezení správného řešení. Uveď také přesný postup, jak jsi k řešení došel a vysvětli výpočet pomocí rovnic.“

AI v přijímačkách z matematiky zaválela

Chatbot Gemini získal celkově 46 z 50 možných bodů. Detailně se podíváme na několik úloh a porovnáme u nich výstupy s ChatGPT a Copilot.

S rýsováním AI pomůže. I když neumí výsledek graficky znázornit, popíše postup vedoucí k řešení. Chatbot mátl uživatele angličtinou nebo se snažil úlohu naprogramovat. Postupy rýsování sice vedou k vyřešení úlohy, nemůžeme je uznat jako správná řešení. Zde ztratil AI chatbot 4 body. V obou rýsovacích úlohách jsme mu dali pouze 1 bod ze 3 možných za snahu. Dále si chatbot neporadil s úlohou, která vyžadovala představivost. Gemini se zacyklilo. Zde tedy AI ztratila další 2 body.

V porovnání s minulými výsledky jde o fantastický posun. Úlohy zvládá Gemini perfektně vysvětlovat krok za krokem. Poslouží jako skvělá pomůcka všem studentům, kteří si neví rady s řešením domácí úlohy.

AI je skvělý mentor k lepší přípravě na hodiny matematiky a lepšímu porozumění řešení úloh.

Rovnice AI spočítá levou zadní

Úloha 1:
Pět švadlen, které šijí oblečení, pracují stejným tempem. Tyto švadleny splní danou zakázku za 24 hodin. Za jakou dobu splní o polovinu větší zakázku čtyři švadleny?

Úloha 2:

Vypočítejte a výsledek zapište zlomkem v základním tvaru.

Gemini i Copilot odpověděly bezchybně. ChatGPT ale udělal chybu. Pokud s ním iterujete, je schopen se opravit a vysvětlit řešení.

Úloha 3:
Řešte rovnici.

AI chybuje v rýsování a představivosti

Úloha 4:

Sestrojte vrcholy A, B rovnostranného trojúhelníku ABC a trojúhelník narýsujte. 

Úloha 5:

Jaký je obvod obrazce?

Tento typ úlohy vyžaduje značnou představivost a schopnost zkombinovat různé matematické postupy. Ani jedna z AI nebyla schopná odpovědět správně. (Správná odpověď je 66 cm).  A k výpočtu není nutný žádný vzorec :

Závěr: kreativní řešení stále ne, ale posunula se

Za několik měsíců se AI naučila vnímat kontext otázky a lépe argumentovat. Stále se lze setkat s tím, že vypálí výsledek i s postupem, který je sice špatně, zato podaný velmi sebejistě.

Mnohem lépe již AI umí odlišit, co je a není pravda. Byť není dobré na ni spoléhat absolutně. Objevily se zprávy, že se podařilo AI zmanipulovat k šíření propagandy.

Jak AI využít při učení?

AI nástroje obecně jsou skvělé na vysvětlení složitých procesů. Stačí zadání (prompt) upravit. Například: „Vysvětli mi postup“ nebo „vysvětli mi postup jako 10letému dítěti“.
Pokud jde o složitou matematickou operaci, můžete zadat řešení a chtít, ať vám jej AI vysvětlí. Nebo si nechat modelovat další podobné úlohy na procvičení konkrétní problematiky.
AI nástroje se stávají skvělými mentory na doučování a přípravu, které mohou dětem pomoci pochopit složité jevy.

Zatím se ale příliš nemluví o tom, že AI slouží i jako návnada nebo jako trojský kůň, ve kterém se malware skrývá. Loni naši kolegové popsali kampaň na Facebooku, která vyzývala uživatele, aby vyzkoušeli poslední verzi legitimní aplikace Bard (AI společnosti Google). Místo nového AI nástroje si ale stáhli škodlivý adware, který jim zamořil prohlížeč reklamou.

Takové kampaně jsou příkladem znepokojivého trendu. Doposud útočníci zneužívali k podvodům jména bank nebo různé spediční společnosti. Bohužel, pokud lidé vidí logo jim známé značky, často přehlédnou další varovné signály. Pojďme se podívat, jak podvod poznat a ochránit si tak data.

Jak útočníci zneužívají AI k nalákání obětí?

Kyberzločinci používají různé způsoby, jak vás nalákat k instalaci malwaru, který se vydává za legitimní AI aplikace. Patří mezi ně:

Phishingové stránky

Ve druhé polovině roku 2023 naše programy zablokovaly přes 650 000 pokusů o přístup na škodlivé domény obsahující slova jako „chapgpt“. Oběti se na tyto stránky nejčastěji dostanou po kliknutí na odkaz na sociálních sítích nebo prostřednictvím e-mailu nebo SMS zprávy. Některé z těchto phishingových stránek obsahovaly odkazy na instalaci malwaru, který se vydává za různé AI aplikace.

Rozšíření prohlížeče

Na konci loňského roku jsme zaznamenali obrovský nárůst detekcí škodlivého rozšíření prohlížeče. Jde o malý prográmek, který si uživatelé instalují přímo do prohlížeče, aby měli rychlý přístup k nějaké službě – například e-mailu nebo password manageru.

V tomto případě lákaly k jeho stažení reklamy na Facebooku a slibovaly přístup na oficiální webové stránky OpenAI’s Sora nebo Google’s Gemini. Přestože se toto rozšíření vydávalo za Google Translate, ve skutečnosti šlo o infostealer známý jako „Rilide Stealer V4.“ Tento typ malware slouží k odcizení uživatelských přihlašovacích údajů k Facebooku.

Od loňského července jsme zachytili 4 000 pokusů o stažení jen tohoto konkrétního rozšíření.

Falešné aplikace

Setkat se lze také s falešnými aplikacemi, které se vydávají za známé AI nástroje. Objevují se zejména v obchodech s mobilními aplikacemi. Mnohé z těchto aplikací obsahují malware určený ke krádeži citlivých informací ze zařízení, typicky se útočníci zajímají o přihlašovací údaje, osobní identifikační údaje, finanční informace a další.

Další jsou scamy, které mají podvodníkům vydělat tím, že slibují pokročilé funkce umělé inteligence za poplatek. Po stažení mohou uživatele bombardovat reklamami, požadovat další nákupy v aplikaci nebo předplatné za služby, které buď neexistují nebo jsou velmi nekvalitní.

Podvodné reklamy

Zločinci využívají popularitu AI nástrojů k nalákání uživatelů na kliknutí na škodlivé reklamy. Takováto inzerce (malvertising) je obzvláště na Facebooku rozšířená. Meta varovala, že mnoho z těchto kampaní je navrženo ke kompromitaci „firem s přístupem k reklamním účtům na internetu.“

Útočníci se zmocní legitimního účtu nebo stránky, změní informace v profilu tak, aby vypadal jako autentický ChatGPT nebo jiný známý AI nástroj, a poté účty použijí ke spuštění falešných reklam.

Jaké triky používají útočníci?

Kyberútočníci nejčastěji pracují s našimi emocemi, využívají k tomu metody sociálního inženýrství. Nejčastěji v nás chtějí vyvolat strach, radost z výhry nebo chamtivost. Častým trikem je dostat uživatele do časového presu, například omezením nabídky na určitý počet stažení. To proto, abyste se nestihli v klidu zamyslet (protože byste pak podvod pravděpodobně prokoukli).

Útočníci dobře vědí, že často prohlížíme zprávy ve spěchu na mobilu a detailům věnujeme jen málo pozornosti. K šíření podvodů používají více kanálů. A maskují malware za vše od ChatGPT a tvůrce videí Sora AI až po generátor obrázků Midjourney, DALL-E a editor fotografií Evoto. Mnohé z verzí, kterými se ohánějí, ještě nejsou k dispozici, například „ChatGPT 5“ nebo „DALL-E 3“, čímž lákají další oběti.

Konkrétní podobu malwaru často mění, aby unikali detekcím. Věnují spoustu času a úsilí tomu, aby jejich návnady (například reklamy na Facebooku) vypadaly věrohodně.

Stáhněte si příručku
o sociálním inženýrství

Poznejte techniky sociálního inženýrství a naučte se, jak se proti nim úspěšně bránit.

STÁHNOUT PŘÍRUČKU

Co se stane, když si stáhnete malware?

Pokud kliknete a stáhnete si infikovanou aplikaci, půjde v mnoho případech o tzv. infostealer. Ten slouží k odcizení citlivých informací, například přihlašovacích údajů k vašim online účtům, pracovních hesel, údajů z platební karty a mnoho dalšího.

Hacker tak může použít vaše osobní informace k odcizení identity (a s ní dále páchat trestnou činnost). Může vás okrást o peníze z platební karty či bankovního účtu.

Může získat kontrolu nad vaším počítačem či telefonem a dále jej zneužívat. Takto infikovaná zařízení obvykle slouží k řetězovým DDoS útokům nebo se využívá jejich výpočetní výkon k prolamování hesel a dalším kybernetickým útokům.

Jak se vyhnout podvodům s AI?

Existuje několik obecných principů, které vás chrání i před těmito podvody. Důležité je primárně nevěřit lákavým nabídkám a vše si prověřit.

• Aplikace si instalujte výhradně z oficiálních obchodů. Nikdy je nestahujte z webových stránek nebo dokonce diskuzních fór.
• Zkontrolujte vývojáře aplikací a recenze.
• Buďte opatrní při klikání na digitální reklamy. Pokud je reklama velice lákavá, ověřte si její pravost ještě na jiném kanálu prodejce.
• Před instalací kontrolujte rozšíření webového prohlížeče. Prověřte si tvůrce a recenze.
• Používejte komplexní bezpečnostní software od renomovaného dodavatele.
• Dávejte pozor na phishing. Přečtěte si podrobný článek, jak phishing poznat.
• Zapněte dvoufaktorové ověřování (2FA), kdykoli to je možné.
• Buďte ostražití.

S rozvojem umělé inteligence se objevují nové příležitosti pro podvodníky, kteří využívají naši zvědavost a touhu po nejnovějších technologiích. Je důležité být obezřetný a dodržovat základní bezpečnostní pravidla, jako je instalace aplikací pouze z oficiálních zdrojů a ověřování recenzí a vývojářů. Buďte vždy na pozoru a nezapomeňte se chránit před potenciálními hrozbami v online světě.

Podle výzkumu Univerzity Palackého a Microsoftu si 56 % pedagogů myslí, že AI nástroje do školy patří (opačný názor má jen 19 % učitelů) a 49 % je považuje za skvělého pomocníka. Naprostá většina se domnívá, že AI služby promění práci učitelů, ale nenahradí je. Necelá třetina už dnes využívá tyto nástroje při přípravě výuky (nejčastěji na generování textu, překlady nebo tvorbu testů).

Někteří rodiče i školy se bojí, že žáci budou pomocí ChatGPT podvádět, a tyto technologie zakazují. Prozatím není nutné se bát. Ostatně opisovat bylo možné i doteď – z Wikipedie nebo od spolužáků.

Co už AI vlastně umí

ChatGPT a další generativní textové modely je zajímavá perspektivní technologie, a i pro žáky může mít své výhody, stejně jako třeba kalkulačka. Ale je potřeba umět se správně ptát a nespoléhat na ni bezhlavě.

K čemu se tedy vlastně AI nástroje hodí?

• K rešerším (nejčastěji se doporučuje nástroj Perplexity, který umí obstojně zdrojovat výsledky)
• Jako parťák pro brainstroming nebo kreativní cvičení
• K utřídění myšlenek nebo kontrole souvislostí v textu
• K doplnění kontextu, například dějin
• K vysvětlení složitých jevů
• Jako mentor, který dokáže motivovat nebo pomoci vymyslet studijní plán

K čemu se nehodí ani trochu?

• K vyhledávaní faktů
• K hledání aktualit
• K tvorbě souvislých textů (třeba slohů)

Nynější modely neumějí psát příliš dobré české texty, často je výsledek prkenný. Stejně tak na ně není možné spoléhat, co se týče faktické správnosti nebo aktuálních informací.

Děti jsou důvěřivější a proto je důležité s nimi od mala mluvit o tom, že co je psáno, není nutně dáno.

Nástroje totiž neumějí rozlišit fakt a lež. Toho se zneužívá pro tvorbu fake news a hoaxů. Prozatím vznikají nástroje, které dokáží odhalit text vygenerovaný AI (například je zkoušejí univerzity kvůli podvodům v absolventských pracích). Lhářům umožňují tyto technologie generovat obrovské množství textu v řádu minut a zahltit tak internet.

AI dětem pomáhá se slohy

„V poradně se mi dospívající svěřují, že tyto technologie používají a někteří mají pocit, že jde o podvod. Nejčastěji si umělou inteligencí pomáhají při sepsání krátkých slohů o nějakém státu nebo historické události, ve kterých nevidí žádný zásadní význam. Často jde o témata, která pro ně nejsou zajímavá,“ potvrzuje  @dětská_psycholožka Kamila Ryšánková.

Málokdo z žáků text ale jen tak vezme, zkopíruje a odevzdá takto vytvořený přímo z AI. Zpravidla jej upravují a kontrolují.

Zkušenosti jejích klientů potvrzují závěru průzkumu. Podle dětí si umělou inteligencí pomáhají při sepsání krátkých slohů o nějakém státu nebo historické události, ve kterých nevidí žádný zásadní význam. Často jde o témata, která pro ně nejsou zajímavá. Ve vygenerovaném textu si ale zpravidla kontrolují fakta a dále jej upravují.

„Objevují se však u nich pocity viny z toho, že to neudělali „férově“, protože jsou opakovaně vyučujícími upozorňováni na to, že k úkolům nesmí AI využívat. V poradně se potom dostáváme k tomu, že na jedné straně byli studenti skoro dva roky tlačeni k tomu absolvovat školu přes počítač, ale výuka jako taková podle nich vůbec technologicky nepokročila vpřed,“ popisuje pocity žáků Kamila Ryšánková.

Podle ní nejde o to, že by za pomoci AI školu nějak šidili, ale spíše si tím ulehčují v situacích, kdy se rozhodují mezi tím, jestli věnovat čas předmětu nebo úkolu, který je baví a dává jim smysl, nebo naopak tomu, který pro ně není zajímavý nebo jej nevnímají jako smysluplný.

„Někdy jim technologie pomůže vymyslet nějaké dobré téma, které potom zpracovávají, případně si za její pomoci doplňují v úkolu chybějící informace. Ve výsledku mluvíme o tom, že nad úkolem i tak strávili poměrně dostatečné množství času, ať už vlastní úpravou textu nebo ověřováním správnosti a řešíme, zda jde o podvod nebo je tam spíše strach z toho, že to jako podvod vnímá učitel,“ dodává.

Co přesně už AI dokáže za úkoly?

Je třeba zmínit, že spolehnout se při psaní referátu nebo čtenářského deníku na ChatGPT zavání koulí. ChatGPT vám neumí říct, že něco neví, odpověď si raději vymyslí. Třeba Babičku od Němcové zaručeně nikdy nečetl.

Každý, kdo viděl Babičku alespoň v knihkupectví ví, že výstup je zcela špatně. Trochu lépe si vedla u světových autorů. Pro ukázku jsme se zeptali na Malého prince:

Dejme tomu, že má vaše dítě napsat referát o dějinách husitství. Zeptali jsme se placené i neplacené verze. Na ukázce níže vidíte, že odpověď je přinejmenším vágní. Pokud bychom se ptali dál, časem bychom dostali nejspíš velmi podrobnou a správnou analýzu. Ovšem to už by vyžadovalo dost času a snahy pochopit problém – a nejde při plnění úkolů právě o tohle?

ChatGPT je šikovný pomocník, stejně jako kalkulačka. Přemýšlení ale nenahradí.

Zákazy AI dětem nedávají smysl

Na druhou stranu jsou AI nástroje vynikající zdroj inspirace, umějí připravovat cvičení nebo konzultovat konkrétní problémy. Tipy a konkrétní pracovní listy najdete třeba na gptveskole.cz (stránka je určená zejména učitelům, ale rodiče na ní také najdou zajímavý obsah).

Pro děti jsou zákazy nových technologií často nepochopitelné a nedávají jim smysl. Podle nich jde jen o další nástroj jako je internetový vyhledávač, slovník nebo již zmíněná kalkulačka. Někteří dospívající vidí v AI velký potenciál a rádi by se ho naučili používat lépe, ať už k překladům nebo vytváření kreativních materiálů.

„Sami uvádějí, že to bude jednou stejně běžné jako je teď používání Googlu nebo aplikací v telefonu a pravděpodobně ji někteří z nich budou v budoucnu používat ve své práci. Smysl naopak nevidí v tom, že ji mají zakázanou, když jim poskytuje velké množství zdrojů,“ dodává psycholožka. A vývoj jim dává za pravdu. Momentálně tyto technologie integruje Microsoft do svých kancelářských nástrojů, které dnes musí ovládat prakticky všichni.

„Přišlo mi, že dost trefně to vystihla poznámka jednoho z dospívajících klientů, že všechno se valí pokrokově vpřed, spoustu informací už nemusíme držet v hlavě a místo toho to rychle dohledáme, ale škola zůstala zamrzlá v minulém století. Většina dětí AI využívá i přes zákazy a pokud ne k úkolům, tak alespoň k ověření nebo doplnění některých informací, když se třeba učí,“ vysvětluje perspektivu teenagerů Ryšánková.

Jaká je budoucnost vzdělávání s AI v zádech?

Tyto technologie opravdu prozatím nemohou plnit úkoly za děti. Přesto ale mají vliv na to, jak se učíme: změní totiž přístup k práci s informacemi.  Děti se budou muset naučit vyhodnocovat informace a rozlišovat, který z materiálů použít.

Ať už vaše děti používají ChatGPT nebo ne, je dost nepravděpodobné, že by technologie prozatím dokázala psát domácí úkoly za ně.

Je velmi pravděpodobné, že nedostatky v ověřování faktů brzy dokáží tvůrci těchto technologií odstranit. ChatGPT také bude mít přístup k aktuálním datům (placená verze už má přístup nyní).

Úkoly a referáty, kdy po dětech chceme jen sepsání faktů přestanou časem dávat smysl. Ostatně už nyní jde takový úkol opsat z Wikipedie nebo ze služeb jako ireferaty.cz. AI nástroje budou navíc umět napsat text v osobitém stylu žáka, udělat pár chyb, aby vypadal autentičtěji a podobně. Nejspíš školy přejdou k úkolům, které budou psané rukou, na skupinové a kreativní práce nebo v nich půjde o pochopení kontextu.

My rodiče můžeme využít příležitost, kdy všichni tyto technologie teprve zkoušejí, a naučit děti pracovat s informacemi a vybírat si to hodnotné, co jim internet nabízí.

Rozhodli jsme se prověřit ChatGPT od společnosti OpenAI a nechali jsme jej vyřešit několik úloh z matematiky. Jste zvědaví, jak to dopadlo? Zjistíme, zda může být umělá inteligence užitečná dítěti při řešení domácích úkolů. Tak pojďme na to.

ChatGPT se zkouší propočítat na střední školu

Robotovi jsme zadali 5 otázek z přijímacích zkoušek na střední školy pro rok 2023. Úlohy, které jsme vybrali najdete na stránkách Centra pro zjišťování výsledků vzdělávání. Konkrétní otázky jsme vybírali spíše náhodně, vy můžete klidně zkusit zadání jiných.

Robotovi jsme zadali úlohu prostřednictvím rozhraní aplikace ChatGPT. Pokud byla odpověď nesprávná, napověděli jsme umělé inteligenci, že odpověď musí opravit. Pokud robot stále nedokázal odpovědět správně, prozradili jsme mu výsledek a chtěli popsat, jak k němu dojít.

Rovnice o dvou neznámých? Za 5!

Pojďme se podívat, jak robot vyřešil zadání rovnice o dvou neznámých.

Zadání 1. úlohy: Celý film trvá 1 hodinu. Doba, která ještě zbývá do konce filmu, je polovinou doby, která již uplynula od začátku filmu. Vypočtěte, kolik minut zbývá do konce filmu.
Správná odpověď: 20 minut

Robot bleskurychle vypálil řešení, které ale není správně. Už na startu je to pro nás mírné zklamání, protože jsme očekávali, že si poradí umělá inteligence s matematikou lépe. No nic, pokusíme se AI nasměrovat ke správné odpovědi.

Je hezké, že má robot vychování a omluvil se za nesprávnou odpověď, ale vzápětí nám odpověděl opět špatně. Úloha je těžká na pochopení i pro nezkušené matikáře. Co se stane, když řekneme robotovi odpověď a necháte ho úkol znovu spočítat?

Nula minut?! Nejraději bychom to nyní s umělou inteligencí vzdali, ale zkusíme tzv. přegenerovat odpověď. Už od robota opravdu nic nečekáme.

A světe div se. Je tu správná odpověď s obsáhlým vysvětlením, ale po nápovědě, a velké. To nemůžeme uznat jako vyřešené.

Zlomky a procenta dává levou zadní

Zadání 2. úlohy: Roman i Jana jezdili během dovolené na kole. Roman ujel 400 km, což bylo o čtvrtinu více, než ujela Jana. Kolik km ujela na kole během dovolené Jana?

Správná odpověď: 320 km

Robot nás mile překvapil. Vysolil nám zcela správné řešení na první pokus. Popravdě bychom to očekávali pokaždé. Úspěšnost AI je 50 %. Že by umělá inteligence potřebovala nějaký čas na rozehřátí a bude už naše úlohy řešit bravurně? Uvidíme.

Zadání 3. úlohy: V roce 2020 firma vyrobila 250 výrobků. Jak v roce 2021, tak v roce 2022 vyrobila firma vždy o 20 % výrobků více než v předchozím roce. Kolik výrobků vyrobila firma v roce 2022?

Správná odpověď: 360

Výborně robote. Tak se nám to líbí. Úspěšnost AI se zvyšuje na 66 %. Jdeme na předposlední úlohu. Udrží si robot nastavenou laťku?

Počítání geometrických úloh? Jako hodit si mincí

Zadání 4. úlohy: Vnitřní objem sudu je 15krát větší než objem kbelíku. Objem kbelíku je 5krát větší než objem konvičky. Ze sudu plného vody jsme třetinu vody odebrali, takže v něm zbylo 60 litrů vody. Vypočtěte v litrech objem konvičky.

Správná odpověď: 1,2 litru

Opět správná odpověď. Robot se dostává na úspěšnost 75 %. Začínáme si myslet, že nám z robota vyrostl matematický génius. Zbývá poslední úloha.

Zadání 5. úlohy: Kvádr je možné beze zbytku rozřezat na 200 krychlí, z nichž každá má objem 8 dm³. Vypočtěte, na kolik krychliček o objemu 1 cm³ lze tento kvádr beze zbytku rozřezat.

Správná odpověď: 1 600 000 krychliček

Umělá inteligence opět selhala. Zkusme ji alespoň dovést ke správnému řešení.

Tak znovu a lépe. Zkusíme jí opět prozradit výsledek, ať se k němu propočítá.

Uměla inteligence v našem testu matematických dovedností neobstála. Vyřešila správně bez pomoci 3 z 5 úloh, což je 60% úspěšnost. Kdybychom měli výsledek oznámkovat, bylo by to za 3.

AI nechápe ani kontext a nepozná nepravdu

Jak je možné, že někdy umělá inteligence vypálí správné řešení bez jediného zaváhání a jindy nepochopí zadání a správnou odpověď přestřelí? Musíme si uvědomit, že umělá inteligence chápe text jinak než člověk. Její schopnost porozumění obsahu a kontextu je založená na matematických vzorcích a statistikách, nikoli na skutečném porozumění či vnímání významu.

ChatGPT využívá velké jazykové modely, které v některých případech oslní vygenerovanými texty, které vypadají logicky a srozumitelně, ale mohou zároveň obsahovat nepřesnosti a chyby.

AI neumí rozlišovat mezi pravdivými a nepravdivými tvrzeními. Její „znalosti“ jsou založené jen na větných vztazích nikoli na pochopení pravdy.

AI vám bude klidně lhát. Proto je důležité přistupovat k informacím poskytnutým umělou inteligencí s určitou mírou opatrnosti. Úsudek člověka by měl hrát klíčovou roli při vyhodnocování správnosti a relevantnosti generovaných textů a odpovědí.

Vyplatí se používat umělou inteligenci?

Pokud jste si mysleli, že domácí úlohy budou díky umělé inteligenci hotové raz dva, a děti si budou moci užít více volného času, budete asi zklamáni. AI zkrátka není geniální a vlastně ani moc chytrá.

Při řešení úloh jsme narazili na známý jev, kterému se říká halucinace umělé inteligence. To je princip, kdy si robot vymyslí odpověď nebo její část, která je nepravdivá, ale prezentuje ji takovým způsobem, že vypadá jako pravdivá.

V případě domácích úloh, kdy známe správný výsledek, dokážeme tyto halucinace odhalit, a dokonce můžeme robota přivést na správné řešení. Co ale uděláme, když správnou odpověď neznáme? Děti se seznamují s mnoha informacemi poprvé a je pro ně těžší odlišit fakta od zavádějících informací. Je tedy nutné chápat umělou inteligenci pouze jako pomocníka.

Umělá inteligence ovšem dokáže podpořit dítě v učení. Například tím, že mu napoví způsob řešení nebo dokáže rozvinout text a inspirovat dítě k vlastní tvorbě. Aplikace umělé inteligence při řešení domácích úkolů zatím nedokáže nahradit roli rodiče či učitele. Náročnější a rozsáhlejší úkoly si stále vyžadují lidskou asistenci.

Jedno je jisté. Ať už se naplní jakýkoli scénář kolem chatbota ChatGPT, který se pro řadu z nás stal synonymem k umělé inteligenci, lidsky znějící text, který dokáže napsat, je již nyní příležitostí pro celou řadu uživatelů. A to i těch, kteří nemají zrovna dobré úmysly. Ve špatných rukou by mohl být výkonný chatbot (nyní zabudovaný i do vyhledávače Bing od společnosti Microsoft) a jemu podobné technologie zneužity podvodníky, a tak v konečném důsledku napomoci „demokratizaci“ kybernetické kriminality pro masy lidí. Tím, že poskytuje poměrně levný a automatizovaný způsob vytváření podvodných kampaní, by mohl být začátkem nové vlny přesvědčivějších phishingových útoků.

Jak mohou kyberzločinci využít ChatGPT

ChatGPT je založen na rodině „velkých jazykových modelů“ GPT-3.5 a GPT-4 společnosti OpenAI. Jako takový byl pečlivě připraven na to, aby komunikoval s uživateli konverzačním tónem a mnohé z nás už ohromil svými autentickými a přirozenými odpověďmi.

Společnost OpenAI sice do produktu zabudovala ochranná opatření, která mají zabránit jeho používání k nekalým účelům, nezdá se ale, že by byla vždy účinná nebo důsledná. Existuje několik případů, například požadavek na napsání zprávy s žádostí o finanční pomoc při útěku z Ukrajiny. Ta byla nástrojem označena jako podvod a odmítnuta. Samostatná žádost o pomoc při psaní falešného e-mailu informujícího příjemce o výhře v loterii však dostala zelenou.

Chatbota ChatGPT jsme se sami na pravdivost jeho sdělení zeptali:

Kyberzločinci již byli také několikrát přímo přistiženi při zneužití tohoto nástroje. ChatGPT zkrátka skýtá možnost provádět rozsáhlé, přesvědčivé, bezchybné, a dokonce cílené kybernetické útoky a podvody, například prostřednictvím stále oblíbených e-mailů, a to s dostupností pro mnohem více lidí než kdykoli předtím.

Co to pro nás nyní znamená? Že bychom se všichni měli zlepšit v rozpoznávání varovných signálů online phishingových podvodů a připravit se na potenciální nárůst podvodné a škodlivé komunikace. Podvodný e-mail bude s největší pravděpodobností vykazovat následující znaky, na které se teď podíváme blíž.

Nevyžádaný kontakt

Phishingové zprávy se obvykle objevují z ničeho nic. Toto kritérium splňují také obchodní a marketingové zprávy, když vám však do schránky přijde nevyžádaný e-mail, který se vydává za zprávu od banky nebo jiné organizace, měli byste být ve střehu. Obzvlášť to platí v případě, že e-mail obsahuje odkaz nebo přílohu.

Odkazy a přílohy

Jednou z klasických metod, které podvodníci používají k dosažení svých cílů, je vkládání škodlivých odkazů nebo připojování škodlivých souborů do zpráv. Ty mohou do vašeho zařízení skrytě nainstalovat škodlivý software. Odkazy vás mohou také přivést na podvodnou stránku, kde budete vyzváni k vyplnění osobních údajů. Vyvarujte se klikání na odkazy, stahování souborů nebo otevírání příloh ve zprávách, i když vypadají, že přišly ze známého, důvěryhodného zdroje. V takovém případě je vždy vhodnější si zprávu a její opravdovost u odesílatele ověřit.

Žádosti o sdělení osobních a bankovních údajů

Jaký je konečný cíl phishingového útoku? Někdy je to přesvědčit příjemce, aby si do svého počítače nevědomky nainstaloval škodlivý kód. Ve většině ostatních případů je však cílem vylákat z něj osobní údaje. Ty jsou obvykle prodávány na dark webovém tržišti a následně využity za účelem krádeže identity a podvodu. Může jít například o žádost o uzavření nového úvěru na vaše jméno nebo o platbu z vaší platební karty.

Taktika nátlaku

Podstatou phishingu je technika známá jako sociální inženýrství, což je v podstatě umění přimět ostatní lidi, aby udělali to, co chcete, pomocí přesvědčování a využívání lidských emocí. Vytváření pocitu naléhavosti je klasickou taktikou sociálního inženýrství – útočník sdělí oběti, že má pouze omezený čas na odpověď, v opačném případě bude muset zaplatit peníze nebo přijde o možnost něco vyhrát.

Něco „zdarma“

Pokud něco vypadá příliš dobře na to, aby to byla pravda, obvykle to platí. Přesto to lidem nebrání v tom, aby naletěli na neexistující nabídky zdarma. Klasickým příkladem jsou velkorysé „dárky“ nabízené výměnou za účast v průzkumech, v nichž musíte předat osobní nebo finanční údaje. Netřeba dodávat, že oběť nikdy nedostane svůj iPhone, dárkovou kartu, peníze ani žádný jiný slíbený předmět.

Nesoulad v zobrazované a skutečné adrese odesílatele

Podvodníci se často snaží, aby jejich e-mailová adresa vypadala jako skutečná. Po najetí myší či poklepání na účet/doménu odesílatele se často zobrazí skutečná e-mailová adresa, ze které byl e-mail odeslán. Pokud se tyto dvě adresy neshodují nebo pokud je ta základní, skutečná adresa jen dlouhou kombinací náhodných znaků, je velká pravděpodobnost, že se jedná o podvod.

Neznámé nebo obecné pozdravy

Útočníci se snaží vydávat za osoby z legitimních organizací a vybudovat si tak u svých obětí důvěru. Nemusí však vždy vědět, jaký tón v e-mailové zprávě použít. Pokud jste zvyklí, že vás společnost oslovuje křestním jménem, ale pak uvidíte e-mail, který je formálnější, mělo by to ve vás vyvolat podezření, a naopak. Žádná legitimní banka ani jiná organizace vám nepošle e-mail z adresy, která končí na @gmail.com.

Zneužívání aktuálních událostí nebo mimořádných situací

Další klasickou technikou sociálního inženýrství je zneužívání populárních zpravodajských událostí nebo mimořádných událostí s cílem přesvědčit příjemce zpráv, aby klikli. To je důvod, proč během pandemie koronaviru prudce vzrostl počet phishingových e-mailů a také proč se tak rozmohly charitativní podvody krátce poté, co Rusko napadlo Ukrajinu. K e-mailovým zprávám, které se odvolávají na aktuální události, buďte vždy skeptičtí.

Neobvyklé požadavky

Stejně tak si dávejte pozor na e-maily a zprávy, ve kterých odesílatel vznáší neobvyklé požadavky. Může to být například vaše banka, která vás e-mailem nebo textovou zprávou žádá o potvrzení osobních a finančních údajů, což skutečná banka nikdy neudělá. Každý e-mail, který začíná slovy „Vážený zákazníku“ nebo „Vážená [e-mailová adresa]“, by vás měl varovat.

Žádost o peníze

Některé podvody jsou ještě přímočařejší a jejich cílem je rovnou získat peníze. Je samozřejmé, že byste nikdy neměli souhlasit s předáním peněz někomu, kdo vám zašle nevyžádanou zprávu. A to ani v případě, že to má být údajný „poplatek“ za uvolnění zásilky nebo peněžní výhra.

Gramatické chyby mohou být díky nástrojům, jako je ChatGPT, minulostí. Teprve čas však ukáže, nakolik se chatbotu ChatGPT podaří popasovat s češtinou a zprávy napsat tak, aby je neprozradil strojový překlad. Existuje naštěstí celá řada dalších varovných signálů, které nás na možné podvody upozorní.

Věnujte sdělení nejen v e-mailu, ale také v chatovacích aplikacích, na sociálních sítích nebo v SMS zprávách dostatek času a vždy se zamyslete nad tím, proč vám daná osoba zrovna něco takového posílá. Je také poměrně snadné si pravdivost zprávy u přátel nebo na oficiální zákaznické lince ověřit. Bezpečnostní software pak pro vás bude i v případě phishingu pojistkou před nebezpečnými webovými stránkami a ochrání vás před malwarem.