„S AI skilly bychom neměli zacházet jako s komplexními prompty, ale jako se softwarem. Při jejich používání je proto potřeba kontrolovat vyžadovaná oprávnění. Pokud jsou vyšší, než ke své činnosti potřebují, je to vždy varovný signál. Důležité je i ověřit, kdo dovednost publikoval, a pokud je to možné, volit AI skilly od známých a ověřených vývojářů,“ vysvětluje náš bezpečnostní expert Ondrej Kubovič.

Jaký je rozdíl mezi AI chatbotem a AI agentem?

Tradiční chatboti využívající generativní umělou inteligenci zpracovávají komplexní prompty, na základě kterých generují obsah. Jejich činnost je plně řízená člověkem, tzn. chatboti vždy jen pasivně reagují na to, co do nich vložíme.

Agentní AI naopak proaktivně vypracovává úkoly, aniž by ji uživatel musel promptovat. Jsou to vlastně takoví osobní asistenti, kteří za nás procházejí internet, čtou soubory a weby, přihlašují se do účtů a někdy dokonce provádějí platby.

AI agenti ke své činnosti využívají AI skilly (dovednosti), které fungují podobně jako rozšíření do prohlížeče. Jsou to malé balíčky instrukcí, dat, kódu a někdy i celých nástrojů, které rozšiřují schopnosti AI agentů. Právě v nich se ale občas můžou skrývat nepříjemná překvapení.

Jak bezpeční jsou AI agenti?

Rizika spojená s AI agenty nejsou zdaleka tak teoretická, jak by se mohlo zdát. Útočníci je prokazatelně zneužívají hlavně těmito třemi metodami:

Škodlivé AI skilly nebo AI pluginy

Od března 2026 ESET zkontroloval celkem 800 tisíc AI skillů, z nichž 25 tisíc označil jako podezřelé a víc než 2 500 jako vyloženě škodlivé. Některé z těchto skillů měly za úkol stáhnout do zařízení uživatelů infostealery, jiné obsahovaly trojské koně. ClawHub (obchod s AI skilly a pluginy pro agentní AI OpenClaw) podle výzkumu Koi nabízí víc než 800 škodlivých skillů obsahujících infostealery, malware ke krádeži krypta atd.

Falešní asistenti a rozšíření do prohlížeče

Hackeři neútočí jen na AI skilly. Dalším oblíbeným trikem je vyvíjení rozšíření do prohlížeče, která se vydávají za legitimní AI nástroje, ale ve skutečnosti jen kradou data. Microsoft nedávno rozkryl malwarovou kampaň postavenou na rozšířeních v podobě AI asistentů, které po nainstalování stahovaly historii chatů. Tak získávaly citlivé informace a přihlašovací údaje nic netušících uživatelů.

Injekce promptů (prompt injection)

Jednoduše řečeno, „prompt injection“ je vložení škodlivého příkazu. To útočníci dělají buď přímo, kdy takový příkaz vloží do chatbota a donutí ho tak obejít jeho programování, nebo nepřímo vložením škodlivých instrukcí na weby, do příspěvků na sociálních sítích, do kódu nebo dalšího obsahu, ke kterému agentní AI přistupuje a nevědomky se tak „napromptuje“.

Jak poznám, že je AI skill bezpečný?

Při stahování AI skillů nebo AI pluginů bychom měli dodržovat stejná bezpečnostní pravidla, jako při stahování a instalaci jakéhokoliv jiného typu softwaru. Než se pro stažení AI skillu rozhodnete, zjistěte si:

• Kdo je autorem? Publikoval i jiné skilly nebo pluginy? Jaké jsou na ně recenze? Absence historie příspěvků a hodnocení od ostatních uživatelů není dobré znamení.
• Je repozitář aktualizovaný a vývojář aktivní? Pokud ano, je to dobrý start, ale neznamená to, že je skill automaticky bezpečný. Někteří útočníci se chovají jako zodpovědní vývojáři, aby si vybudovali důvěru svých obětí.
• Jaká oprávnění AI skill požaduje? Pokud výše oprávnění přesahuje jeho inzerovaný účel, je to podezřelé.
• Chce AI plugin během instalace spouštět neznámé skripty nebo se spojovat s podezřelou doménou/zdrojem? Pokud ano, je důvod se znepokojovat.
• Zkontrolovali jste si AI skill v ESET AI Skills Checker? Jaký byl výsledek?

Jak se chránit před škodlivými AI skilly?

I tady je nejsilnější zbraní hlavně obezřetnost, a právě na ní jsou postaveny následující bezpečnostní tipy pro stahování AI skillů nebo AI pluginů.

1. Zkontrolujte požadovaná oprávnění předtím, než skill nebo plugin nainstalujete.
2. Pravidelně si aktualizujte AI nástroje, prohlížeče i bezpečnostní řešení.
3. Chovejte se ke svým AI agentům jako k cizím lidem, tzn. nikdy s nimi nesdílejte osobní nebo citlivé informace.
4. Pokud si všimnete, že se váš AI agent chová neobvykle, okamžitě ho vypněte.
5. Používejte dvoufázové ověření všude, kde je to možné, ale hlavně na nejdůležitějších účtech.
6. Naučte své děti a méně technicky zdatné členy rodiny tři nejdůležitější otázky: Kdo to vyrobil? Co to ode mě chce? Můžu tomu věřit?

„Uživatelé by se měli spoléhat hlavně na robustní bezpečnostní nástroje jako ESET HOME Security, které umí detekovat potenciálně škodlivé chování. U zdroje AI skillu by měli kontrolovat hlavně recenze uživatelů, dávat si pozor na problémové repozitáře a veřejnou zpětnou vazbu. A v neposlední řadě by měli svou agentní AI platformu a agenty pravidelně aktualizovat, aby snížili riziko zneužití prostřednictvím známých zranitelností,“ dodává Ondrej Kubovič.

Důvěřovat, ale prověřovat

Stačilo jen pár let a generativní umělá inteligence se stala nedílnou součástí mnoha domácností. Toho si samozřejmě všimli kyberzločinci, kteří rychle přišli na způsob, jak AI proměnit na nástroj k šíření malwaru, krádeži dat a podvodům.

Riziko představuje hlavně agentní AI, ale neměli bychom usnout na vavřínech ani při používání chatbotů. Pokud ale budeme dodržovat základní bezpečnostní postupy a svěříme se do rukou komplexního bezpečnostního řešení, nemáme se čeho bát.

Mohlo by vás zajímat:
✨ Je ChatGPT bezpečný? Jak AI chatbota používat správně
✨ Proč se děti kamarádí s AI chatboty?
✨ Dobrý den, tady policie aneb podvodné telefonáty nové generace

Specializované nástroje jako ChatGPT zdraví, Copilot Health či Health AI nabízejí snadnou interpretaci výsledků testů i odpovědi na otázky ohledně symptomů nebo léčby, ale oproti starému dobrému „googlení“ vyžadují mnohem víc citlivých informací, než kolik bychom dali vyhledávači.

A na rozdíl od doktorů se na ně bohužel nevztahuje lékařské tajemství.

Když se z aplikace stane ordinace

Na otázku, proč se s chatboty specializovanými na zdraví roztrhl pytel, odpovídá například zpráva o využívání chatbota Copilot pro rok 2025 od Microsoftu. Podle ní je pro uživatele Copilota zdraví téma č. 1 a radí se o něm hlavně na mobilních telefonech.

Vlastně to dává naprostý smysl. Chatboti jsou na rozdíl od odborníků k dispozici 24/7 a budí zdání, že mají odpověď úplně na všechno. Jejich sebevědomé vystupování navíc umí povzbudit nejednoho vyděšeného pacienta.

To ale bohužel neznamená, že ví, o čem mluví. Podle studie Oxfordské univerzity z roku 2026 představují velké jazykové modely zaměřené na lékařské rady riziko v podobě nepřesných a nekonsistentních informací. To znamená, že ani chatbot přímo určený ke konzultaci zdravotních problémů nemusí být schopný přesně stanovit správnou diagnózu ani její vážnost.

A podle studie uveřejněné na platformě arXiv provozované Cornellovou univerzitou si specializovaný model může někdy vést ještě hůř než ten obecný.

Když nejde o zdraví, jde o data

Halucinované odpovědi jsou ale jen jedním z nešvarů, kterými nás specializovaní chatboti můžou ohrozit. Další rizika souvisí se zabezpečením citlivých informací, které s veřejně dostupným chatbotem sdílíme. To může být narušené:

• využíváním našich dat k dalšímu tréninku daného modelu, což s sebou nese riziko, že se objeví jako součást odpovědi u jiného uživatele;
• únikem konverzací na internet;
• sdílením našich dat s třetími stranami, např. společnostmi najatými na kontrolu tréninkových materiálů, agregátory dat neboli firmami, které se zabývají sběrem dat a vytvářením databází, popř. inzerenty, kterým pomáhají lépe cílit reklamu.

Ačkoliv jsou data využívaná k trénování modelů často anonymizovaná, stále zachovávají původní kontext konverzace, který může leccos odhalit.

Někteří poskytovatelé chatbotů umožňují trénování vypnout, jiní zase slibují, že údaje spojené se zdravotním stavem uživatelů při trénování nevyužívají. Jinými slovy, zatím neexistuje žádný obecný standard ochrany dat, které chatbotům dáváme, a je tedy na nás, uživatelích, abychom si zjistili, jak poskytovatel s našimi daty nakládá.

„A koho asi zajímají moje žaludeční vředy?“

Pro většinu z nás je snadné pochopit, proč digitální zloději a podvodníci touží po našich platebních kartách nebo přihlašovacích údajích. Jak nás ale může poškodit, když jim do rukou padne informace o našich plochých nohách nebo bolavé osmičce?

Ukazuje se, že hned několika způsoby:

• Údaje o našem zdravotním stavu nemají omezenou platnost a nedají se snadno zablokovat. Informace o naší srdeční arytmii je cenná třeba pro sociální inženýry, a to po dlouhou dobu.
• Lékařské zprávy, laboratorní výsledky a další dokumenty obsahují osobní údaje jako datum narození, rodné číslo apod.
• Opravdu citlivé nebo choulostivé zdravotní problémy lze snadno využít k vydírání.

Poskytovatelé těchto nástrojů se sice musí řídit obecným nařízením o ochraně údajů (GDPR) a zákonem o zpracování osobních údajů, ale protože nejde o poskytovatele zdravotnických služeb, nevztahuje se na ně zákon o zdravotních službách nebo zmíněné lékařské tajemství. To znamená, že chrání informace o tom, komu data patří, ne co obsahují a jak je to citlivé.

Anti-phishing

Zabraňuje pokusům o získání citlivých informací, jako jsou uživatelská jména a hesla či údaje o kreditních kartách a účtech. Blokuje podvodné webové stránky.

VYZKOUŠET

Jak tedy zajistit, že chatbot využívající generativní AI zachová mlčenlivost?

Pokud se i navzdory popsaným rizikům rozhodnete svůj zdravotní stav konzultovat s chatbotem, je dobré dbát na několik základních bezpečnostních pravidel.

6 pravidel pro bezpečné užívání chatbotů využívajících generativní AI:

1. Používejte specializované chatboty místo obecných. Chatboti zaměření na konkrétní oblast by měli být trénovaní na relevantních odborných datech a ochrana soukromí by měla být přizpůsobená citlivosti vkládaných dat.
2. Vždycky si ověřujte, jak poskytovatel chatbota ukládá a zpracovává vaše osobní údaje. Pokud je to možné, vždy vypínejte trénování a historii chatů.
3. Nikdy do nástroje nenahrávejte lékařské zprávy, výsledky laboratorních testů a další citlivé dokumenty obsahující osobní údaje jako jména, adresy, data narození, rodná čísla apod. Zkrátka a dobře, sdílejte jen absolutní minimum potřebné k odpovědi na otázku, na kterou se chatbota ptáte.
4. Výstupy chatbota považujte za čistě orientační a vždy si nechte vygenerovat zdroje, u kterých můžete informaci ověřit. Poté se poraďte se svým lékařem nebo se obraťte na oficiální zdroje, jako je např. Ministerstvo zdravotnictví.
5. Nepoužívejte chatbota založeného na umělé inteligenci jako náhradu za návštěvu u lékaře. Nenechávejte chatbota rozhodovat o tom, zda jsou vaše obtíže akutní, vždy se raději obraťte na lékaře.
6. Předpokládejte, že cokoliv do chatbota napíšete, může zůstat uložené u poskytovatele nebo dokonce uniknout. Prompty proto sestavujte pečlivě a vybírejte si, které informace budete sdílet.

Závěr: chatbot nebo lékař?

Chatboti generativní umělé inteligence působí dojmem, že se vyznají v celé řadě oborů včetně těch lékařských, ale vlastní halucinace bohužel vyřešit neumí. Jejich používání může být užitečné pro přípravu na návštěvu ordinace nebo vysvětlení odborných termínů, ale pro řešení akutních obtíží, diagnózu či léčbu se vždy obracejte na skutečného lékaře.

Kromě zdraví si při používání chatbotů pohlídejte i svoje data. Údaje o zdravotním stavu nejsou číslo platební karty, kterou lze po krádeži snadno zablokovat. Jakmile je jednou „nalijete“ do chatbota, může se z nich stát trvalá součást vaší digitální stopy. A ta se čistí obtížně.

Mohlo by vás zajímat:
✨ Je ChatGPT bezpečný? Jak AI chatbota používat správně
✨ Seznamovací aplikace aneb láska za časů umělé inteligence
✨ Jak umělá inteligence ovlivňuje body image dětí?

Jak se formuje body image u dětí?

Vnímání vlastního těla, známé jako body image, se začíná formovat již v raném dětství, ale nejcitlivější období nastává během dospívání. Děti si postupně vytvářejí představu o tom, jak by měly vypadat, a začínají se porovnávat s ostatními.

Velkou roli zde hraje rodina, škola i vrstevníci a samozřejmě v současné době je dalším silným faktorem online prostředí. Děti už neporovnávají jen sebe s kamarády, ale srovnávají se s tisíci lidmi na internetu. Tento posun výrazně zvyšuje tlak na vzhled a může zkreslovat zdravé sebevnímání.

Lživé zrcadlo sociálních sítí

Platformy jako Instagram (Thinspo) nebo TikTok (SkinnyTok) jsou plné upravených fotografií a videí, které prezentují ideál krásy – štíhlé postavy, dokonalou pleť a bezchybné proporce. Děti mají tendenci tyto obrazy považovat za normu, i když jde často o nereálné nebo upravené zobrazení.

Sociální sítě využívají algoritmy, které uživatelům zobrazují obsah na základě jejich zájmů. Pokud dítě sleduje fitness obsah nebo videa o vzhledu, algoritmus mu začne nabízet stále více podobného obsahu. Tím se vytváří uzavřený kruh, který posiluje tlak na určitý ideál těla.

Filtry a úpravy fotografií

Moderní aplikace, např. Bold Glamour, umožňují snadno upravovat vzhled jako vyhlazovat pleť, měnit tvar obličeje nebo postavy. Problém nastává ve chvíli, kdy děti začnou vnímat upravenou verzi sebe sama jako ideální, zatímco realita se jim zdá nedostatečná.

Dlouhodobé vystavení nerealistickým standardům krásy může mít výrazné dopady na psychiku dětí v podobě sníženého sebevědomí, úzkostí, poruch příjmu potravy, nadměrné kontroly vzhledu a studu.

Děti mohou mít pocit, že nikdy nejsou dost dobré, což negativně ovlivňuje jejich celkový vývoj i vztah k sobě samým.

Umělá inteligence jako nový faktor

S nástupem umělé inteligence se situace ještě více komplikuje. AI posouvá hranice toho, co je považováno za „normální“ nebo „reálné“. Umělá inteligence totiž dokáže vytvářet obrazy lidí, kteří ve skutečnosti neexistují, ale vypadají dokonale. Tyto postavy mohou působit jako influenceři nebo modelky a nastavují zcela nereálné standardy krásy.

 

View this post on Instagram

 

A post shared by Bambita 🦌 (@iam_bambita)

Moderní technologie umožňují upravovat vzhled i v reálném čase během focení nebo natáčení videí. Děti tak vidí „vylepšenou“ verzi sebe sama okamžitě, což může narušit jejich vnímání reality i vlastní identity.

Umělá inteligence také umožňuje snadnou manipulaci s fotografiemi a videi. To ztěžuje rozpoznání, co je skutečné a co upravené, což může vést ke ztrátě důvěry ve vlastní vnímání.

Jak AI mění reklamu a fitness průmysl?

Umělá inteligence má zásadní dopad i na reklamu, zejména v oblasti vzhledu a fitness, protože AI analyzuje chování uživatelů a dokáže přesně cílit reklamy. Pokud dítě projeví zájem o cvičení nebo hubnutí, začne se mu zobrazovat více reklam na fitness programy, diety nebo doplňky stravy.

Reklamy často využívají AI generované postavy nebo extrémně upravené fotografie. Výsledky „před a po“ mohou být nereálné, ale působí přesvědčivě.

Děti jsou vůči těmto vlivům obzvlášť zranitelné, protože:

• nemají dostatečně rozvinuté kritické myšlení;
• snadno podléhají tlaku okolí;
• jejich identita se teprve formuje;
• obtížně rozlišují realitu od upraveného obsahu.

To z nich činí snadný cíl pro manipulativní obsah i reklamu.

Jak děti a jejich body image chránit?

Rodiče by měli s dětmi otevřeně mluvit o tom, co vidí na internetu. Důležité je vysvětlit rozdíl mezi realitou a upraveným obsahem a podporovat zdravé sebevědomí.

Důležitou součástí prevence je také vysvětlování přirozených změn lidského těla. Děti by měly rozumět tomu, že tělo není neměnné a dokonalé v každém okamžiku, jak často působí na sociálních sítích. Ve skutečnosti se tělo během dne přirozeně mění, například břicho může být ráno plošší a večer nafouklejší, tělo zadržuje vodu nebo reaguje na jídlo a pohyb.

Zvlášť důležité je mluvit o tom, že ženské tělo se přirozeně proměňuje i v průběhu menstruačního cyklu. Dochází ke změnám hmotnosti, zadržování vody, změnám nálady i vzhledu. Tyto proměny jsou naprosto normální, ale na sociálních sítích se téměř neukazují, což může vést k pocitu, že je s vlastním tělem „něco špatně“.

Porozumění těmto přirozeným procesům pomáhá dětem přijmout vlastní tělo takové, jaké je, a snižuje tlak na dosažení nereálného ideálu, který je často prezentován online.

Pro zdravý vývoj body image je důležité:

• podporovat rozmanitost těl v médiích;
• mluvit otevřeně o tlaku sociálních sítí;
• rozvíjet kritické myšlení;
• omezit vliv škodlivého obsahu;
• podporovat sebevědomí založené na schopnostech, ne vzhledu.

Povídejme si s dětmi
o technologiích...

... protože, kde panuje důvěra, tam je i online bezpečno. Stáhněte si ZDARMA konverzační karty, které vám pomohou otevřít složitá témata.

CHCI KARTIČKY

Shrnutí

Technologie a umělá inteligence zásadně mění způsob, jakým děti vnímají své tělo. Zatímco dříve byl vliv okolí omezený, dnes jsou děti vystaveny neustálému tlaku z online prostředí. AI nejen, že vytváří nereálné ideály, ale také zesiluje pocit, že je potřeba jich dosáhnout.

Mohlo by vás zajímat:
👙 Jaký vliv mají sociální sítě na sebevědomí dětí?
👙 Instagram podporuje děti v extrémním hubnutí, tvrdí studie
👙 SkinnyTok učí děti extrémně hubnout

„Rostoucí využívání AI chatbotů mezi dospívajícími je z vývojového hlediska poměrně pochopitelné. Adolescence je obdobím hledání identity, potřeby sdílení a experimentováním s názory a rolemi,“ potvrzuje dětská psycholožka Kamila Ryšánková.

S rostoucí oblibou AI chatbotů jdou ale ruku v ruce obavy o bezpečnost, ochranu soukromí a psychologický vývoj dětí, pro které jsou běžnou součástí života. Na co ale generativní AI vlastně používají a proč se od ní nemůžou odtrhnout?

3 důvody, proč se děti kamarádí s AI chatboty

Děti se k užívání generativní AI většinou uchylují z následujících důvodů:

Pomoc se školou

Školáci využívají ChatGPT k pomoci s domácími úkoly či pochopením složitějších konceptů. Chatbota ale často považují za vševědoucí bytost a vůbec si nepřipouští, že by nemusel mít pravdu.

Kreativní vyžití

Nástroje jako Midjourney či AI video generátory CapCut představují snadnou možnost vytvářet obrázky a animace. Tvůrčí středoškoláci tak generují například videa inspirovaná oblíbenými filmy či seriály.

Umělá přátelství

Některé děti považují ChatGPT nebo Meta AI za skutečné kamarády, kterým se svěřují s problémy, o kterých se jinak ostýchají mluvit, a často si jimi dokonce i nahrazují každodenní mezilidský kontakt. Tyto tendence jsou zvlášť patrné u uzavřenějších dětí, ale nevyhýbají se ani extrovertům, kteří jsou v kolektivu jako ryby ve vodě.

„Chatboti dětem poskytují rychlé odpovědi na otázky, anonymitu, jsou vždy dostupní, a hlavně dodávají pocit přijetí bez hodnocení, což je pro mnoho mladých lidí přitažlivé,“ vysvětluje Kamila Ryšánková. „Pokud se ale AI stane hlavním zdrojem podpory nebo informací, může to ovlivnit rozvoj sociálních dovedností, schopnost zvládat frustraci i vytváření reálných vztahů, protože se dítě nesetká s nesouhlasem, odmítnutím, čekáním nebo se zkušeností, že vztah s druhým člověkem obstojí i při konfliktu nebo odlišném názoru.“

Příprava na budoucnost, nebo přehlížené nebezpečí?

Nástroje generativní AI se rychle stávají součástí kancelářského softwaru a naučit se s nimi pracovat znamená do budoucna výhodu. Jejich každodenní používání s sebou ale nese konkrétní rizika, a to zvlášť pro stále se psychicky vyvíjející děti.

Nejvážnější rizika spojená s užíváním AI chatbotů:

• Lživé informace. Generativní umělá inteligence má tendence sebevědomě předkládat smyšlené informace (tzv. halucinace), což může být problém ve chvíli, kdy se děti ptají na radu např. ve zdravotních či vztahových záležitostech.
• Nebezpečný nebo nevhodný obsah. AI chatboti mají naprogramovaná pravidla pro generování obsahu, ale ta bohužel nejsou tesaná do kamene. Pomocí specifických příkazů tak lze chatbota přesvědčit, aby generoval sexuálně explicitní nebo násilný obsah.
• Narušení soukromí. Všechny informace, které chatbotovi dáte, zůstanou uložené v cloudu poskytovatele a můžou být teoreticky dostupné třetím stranám, zcizené při kyberútoku nebo znovu vygenerované jako odpověď u jiného uživatele.
• Sociální izolace. Ve chvíli, kdy začne dítě chatbota považovat za skutečného přítele a preferovat ho před živými kamarády a vrstevníky, může začít docházet k vyčlenění z kolektivu.
• Zhoršování psychických problémů. AI chatboti mají za úkol svému uživateli vyhovět, což znamená, že dětem můžou odpovídat způsobem, který ještě prohloubí problém, se kterým se svěřují. Zvlášť nebezpečné je to v případě poruch příjmu potravy, sebepoškozování či myšlenek na sebevraždu.

Co je AI psychóza?

Jak poznat, že má dítě nezdravý vztah s AI chatbotem?

Mezi nejčastější varovné signály, že užívání chatbota překročilo rozumnou hranici, patří:

• stranění se rodině a přátelům;
• nervozita a úzkosti ve chvíli, kdy je chatbot z různých důvodů nedostupný;
• vnímání chatbota jako skutečného člověka;
• opakování AI halucinací jako nesporných faktů;
• svěřování se chatbotovi s vážnými problémy;
• přístup k nevhodnému obsahu.

Pokud si všimnete jedné nebo více popsaných tendencí, je dobré začít prověřovat, jak děti chatboty skutečně využívají. Důležité je přitom nespoléhat jen na nastavení platforem samotných. Ačkoliv většina z nich už nabízí věková omezení a funkce rodičovské kontroly, technologie se stále vyvíjí rychleji než legislativa a zatím neexistuje způsob, jak ověřit účinnost těchto opatření.

„Největším rizikem není samotná technologie, ale situace, při které začne nahrazovat vztahy a bezpečný prostor pro sdílení emocí,“ připomíná Kamila Ryšánková. „Děti potřebují, aby s nimi dospělí o digitálním světě otevřeně mluvili a pomáhali jim rozlišovat, co je nástroj a co skutečný vztah. Stejně důležité je u dětí rozvíjet kritické myšlení, což je schopnost ověřovat informace, přemýšlet nad jejich pravdivostí a uvědomovat si, že umělá inteligence může vytvářet i nepřesné nebo zavádějící odpovědi.“

Cílem je pomoct dětem pochopit, že chatbot není skutečná myslící a cítící bytost. Je to stroj navržený tak, aby co nejdéle udržel naši pozornost, a jako takový je dobrý sluha, ale špatný pán. Zároveň je dobré připomenout jim základní digitální pravidla a zkontrolovat si, zda jsou jejich zařízení chráněná spolehlivým bezpečnostním řešením.

Závěrem:

AI chatboti můžou být užiteční při učení nebo volnočasových aktivitách, ale nikdy by neměli nahradit mezilidský kontakt. Dokud nejsou děti dostatečně vyzrálé na to, aby chápaly, jak generativní umělá inteligence funguje, je třeba její užívání důsledně kontrolovat.

Mohlo by vás zajímat:
🤖 Je ChatGPT bezpečný? Jak AI chatbota používat správně
🤖 S láskou, AI? Jak se mladí zamilují do umělé inteligence
🤖 Jak ChatGPT mění vzdělávání?

Konverzace, které s ChatGPT vedeme, se nezpracovávají lokálně, ale na serverech OpenAI, kde (v bezplatné verzi / ChatGPT Plus) taky zůstávají uložené, dokud nepožádáme o jejich vymazání. A to je možné jen v případě registrovaných uživatelů. Dobře si rozmyslet, jaké informace chatbotovi svěříme, je tedy pro ochranu našich dat naprosto zásadní.

Jak ChatGPT chrání svoje uživatele?

Co se týče šifrování komunikace, ChatGPT využívá stejných standardů jako třeba banky. Při přihlašování umožňuje vícefázové ověření a podléhá obecnému nařízení o ochraně osobních údajů (GDPR). Kromě toho provádí i základní moderaci obsahu.

I přesto je ale používání AI chatbotů spojené s určitými bezpečnostními riziky, kterými jsou například:

Úniky dat a krádeže přihlašovacích údajů

Už v březnu 2023 si uživatelé ChatGPT začali všímat, že se jim v historii objevují cizí zprávy. Chyba byla na straně OpenAI a vznikla zranitelností v systému. Rok nato se na dark webu objevilo přes 100 tisíc ukradených přihlašovacích údajů, které pocházely hlavně ze zařízení oslabených malwarem, který mohl (ale nemusel) vzejít z podvodné aplikace.

Falešné aplikace a phishing

Obchody aplikací a rozšíření do prohlížečů nabízejí falešné aplikace, které jsou od skutečného ChatGPT na první pohled k nerozeznání, ale slouží jen ke sběru přihlašovacích údajů a/nebo instalaci malware. Při stahování ChatGPT aplikací je vždy nutné ověřit si, že jejím autorem je OpenAI.

Trénování modelů a ochrana soukromí

Všechno, co v bezplatné verzi nebo ChatGPT Plus do konverzace napíšeme, využívá OpenAI k dalšímu trénování svých modelů. Data jsou sice anonymizovaná, ale v kontextu můžou i tak odhalit citlivé informace. Autorizovaní zaměstnanci OpenAI mají navíc z bezpečnostních důvodů do některých chatů přístup.

Chybné informace a halucinace

ChatGPT někdy sebevědomě předkládá úplně smyšlené informace, kterým se říká halucinace. Ke všem odpovědím proto přistupujte jako k neověřeným informacím, dokud si je nepotvrdíte v důvěryhodných zdrojích.

Malware a sociální inženýrství

Internetoví útočníci si pomocí umělé inteligence generují malware, vzorové phishingové zprávy nebo přesvědčivé deepfaky, což jim značně usnadňuje provádění kybernetických útoků. Zároveň to dramaticky navyšuje počet útočníků, protože už nepotřebují prakticky žádnou specializaci.

Co s chatbotem nikdy nesdílet?

Už ze samé podstaty služby vyplývá, že zamyslet se nad tím, co a proč s chatbotem sdílíme, bude klíčem k jeho bezpečnému používání. OpenAI sice s nasbíranými daty neobchoduje, ale v zájmu vylepšování služeb je může sdílet se svými dodavateli (např. platebními bránami).

Je tedy v našem zájmu ke každému chatu přistupovat jako k veřejné nástěnce a nikdy nesdílet:

• Osobní údaje jako rodné číslo, čísla dokladů, poštovní adresy apod.
• Finanční informace jako čísla platebních karet, bankovních účtů apod.
• Přihlašovací údaje a kontaktní informace
• Informace o zdravotním stavu
• Firemní data, tzn. jakákoliv data, která podle interních směrnic zaměstnavatele nepatří na veřejnost

Zvlášť opatrní by při používání chatbota měli být lékaři, právní zástupci, finanční poradci a další profese, které denně nakládají s citlivými osobními údaji svých pacientů a klientů. Sdílení takových informací s chatbotem by mohlo znamenat porušení lékařského tajemství, povinnosti mlčenlivosti advokáta nebo GDPR.

Jak ChatGPT používat bezpečně?

ChatGPT je hlavně a přednostně online služba a platí pro ni stejné zásady bezpečnosti jako pro každou jinou. Pokud máte účet, nastavte si silné heslo a vícefázové ověření, které pomůžou ochránit obecnou bezpečnost vašeho účtu.

Pro ochranu soukromí dodržujte následující kroky:

1. Používejte jen oficiální platformu ChatGPT nebo ověřenou aplikaci z Google Play / App Store.
2. Vypněte trénování na svém obsahu v portálu pro ochranu soukromí.
3. Používejte dočasné chaty, na kterých se model netrénuje, zvlášť pro citlivá data.
4. V konverzaci používejte anonymní příklady místo skutečných informací a nikdy do chatu nenahrávejte skutečné dokumenty.
5. Mažte historii a hlídejte si, kde všude jste přihlášení, ať se vám do účtu nedostane někdo nepovolaný.
6. Používejte komplexní bezpečnostní řešení s VPN, které se postará o bezpečnost vašich zařízení i při používání AI chatbotů.

Tak tedy – je ChatGPT bezpečný?

Odpověď je ano i ne. I když využijeme všech dostupných opatření, které OpenAI do svých produktů zahrnula, jejich obchodní model pořád stojí na sběru dat. Pokud k ChatGPT přistupujeme zodpovědně, může nám sloužit dobře a poměrně bezpečně. Svoje data si ale musíme ohlídat sami.

Mohlo by vás zajímat:
📌 ChatGPT jako vějička: Jak útočníci zneužívají známé AI nástroje
📌 Informatička: AI mění svět. Ale rozumíme vůbec tomu, co dělá s námi?
📌 ChatGPT: Stojíme na prahu nové éry podvodných zpráv?

Ocenění, které není jen o jedné osobě

Mária Bieliková letos získala prestižní ocenění ESET Science Award v kategorii Výjimečná vědkyně na Slovensku. Tuto cenu uděluje mezinárodní komise význačným vědcům a vědkyním od roku 2019, každý rok oceňuje osobnosti v kategoriích Výjimečná osobnost vědy na Slovensku, Výjimečná osobnost vědy do 35 let a Výjimečná osobnost vysokoškolského vzdělávání.

Radost a vděčnost ale nesměřuje Mária Bieliková jen k sobě. „Tahle cena patří celému týmu. V IT i technologiích obecně jsou výsledky vždy týmová práce,“ říká s pokorou. A dodává, že je ráda, že poprvé v historii šla hlavní cena právě do oblasti IT a AI – oboru, který letos pronikl dokonce i na seznam Nobelových cen.

Její radost má ale i hlubší rozměr. „Za poslední roky se z umělé inteligence stal fenomén, ale stále čelíme nepochopení a strachu. Jsem ráda, že i takto významná cena může přispět k tomu, aby se o AI mluvilo věcněji a s respektem,“ doplňuje.

Budoucnost, kterou neznáme

Kam nás AI zavede za 20 let? Slavný historik Yuval Noah Harari tvrdí, že dnes poprvé v dějinách netušíme, jak bude svět vypadat za dvě dekády. A Mária Bieliková mu dává za pravdu.

„Svět byl vždy složitý a nejistý. Dnes ho technologie dělají ještě méně předvídatelným. AI nám nejen usnadňuje práci, ale vytváří i zcela nové struktury, které mohou mít zásadní dopady – třeba vznik nových pandemií,“ říká Bieliková.

Podle ní technologie navíc rozdělují společnost a manipulují naše myšlení rychlostí, kterou si před pár lety nikdo nedokázal představit. „Digitální propaganda, dezinformace, uměle vytvořená polarizace – to jsou nové výzvy, které nejsme připraveni zvládat.“

Co bude za 20 let? To si netroufá odhadovat. Jisté je ale podle ní jedno: „V budoucnu nebude tolik záležet na tom, kolik toho umíme nazpaměť. Důležitější bude, jak dokážeme spolupracovat, komunikovat a být součástí komunity.“

Dodává, že možná přijde doba, kdy opustíme systém hodnocení založený na testech a znalostech. „Budeme víc stavět na schopnosti spolupracovat, tvořit a žít smysluplný život.“

Myslící stroje? Ještě ne

S nástupem generativní AI roste i otázka, jestli si musíme přehodnotit, co vlastně znamená být člověkem. Jsou stroje schopné myslet?

„Dnešní AI systémy jsou úžasné. Některé úkoly zvládají lépe než lidé. Ale nechápou, co dělají. Nejsou vědomé, necítí emoce,“ vysvětluje Bieliková. Podle ní máme před sebou ještě dlouhou cestu, než bychom mohli mluvit o „myslících“ strojích.

Připomíná i nedávné úspěchy velkých modelů, jako je GPT nebo AlphaFold. „Tyto nástroje dokáží řešit složité problémy. Ale stále jim chybí vědomí, pochopení kontextu a schopnost nést odpovědnost.“

Kreativita: lidská, nebo strojová?

Umělá inteligence dnes umí generovat hudbu, obrazy i texty. Znamená to, že přebírá naši kreativitu? Podle Bielikové ne tak docela: „AI může tvořit originální výtvory, ale umění není jen o výsledku. Je o tom, jak propojuje lidi, jaké vztahy a emoce v nás vyvolává. A to AI zatím neumí.“

Připomíná ale, že technologie mohou být užitečné jako nástroj. „AI nám může pomoci rozvíjet kreativitu, usnadnit tvorbu. Ale nikdy plně nenahradí lidskou potřebu vyprávět příběhy a sdílet je s ostatními.“

Kam až může AI zajít?

Vývoj AI dnes běží rychleji než kdy dřív. A to s sebou nese otázku: Jak rychle je už příliš rychle?

„Zpomalit vývoj technologií bez zásadní změny společnosti nejde,“ říká Bieliková. Podle ní ale musíme věnovat stejně velké úsilí zkoumání dopadů AI na společnost, jako věnujeme samotnému vývoji modelů.

V Kempelenově institutu například zkoumají, jak AI generuje dezinformace, včetně těch personalizovaných. „Nejde jen o technické parametry modelů. Musíme rozumět tomu, jak technologie ovlivňují naše rozhodování, naše hodnoty a naši budoucnost.“

AI jako pomocník i hrozba

Bieliková připomíná, že AI má obrovský potenciál – třeba v medicíně, kde pomáhá objevovat nové léky. Ale stejná technologie umožňuje i šíření dezinformací nebo manipulaci veřejného mínění.

„AI může pomoci řešit klimatickou krizi, ale zároveň ji někdo může využít k tomu, aby ji bagatelizoval. AI sama o sobě nemá záměry. To lidé rozhodují, jak ji použijí,“ upozorňuje.

Zdůrazňuje také, že technologie mohou prohloubit nerovnosti – mezi jednotlivci, regiony i státy. „Je na nás, jestli z AI uděláme nástroj prospěchu, nebo zbraň.“

Jak vybudovat důvěru v AI

Důvěra v AI je klíčová – a zatím křehká. Podle Bielikové musíme do vývoje technologií zapojit nejen vědce a inženýry, ale i filozofy, právníky a etické experty. „Etika a důvěryhodnost musí být součástí každého AI projektu od samého začátku,“ říká.

A zdůrazňuje, že roli v tom hrají i velké firmy: „Bez spolupráce soukromého sektoru nemáme šanci nastavit pravidla, která budou AI držet v mezích a zároveň umožní její smysluplný rozvoj.“

Na závěr připomíná, že klíčem k odpovědnému rozvoji AI je transparentnost, spolupráce a ochota mluvit i o tom, co je nepohodlné. „Technologie samy o sobě nejsou dobré ani zlé. Záleží na tom, jak je použijeme.“

Jak ChatGPT mění vzdělávání?
Co je DeepSeek a odkud se vzal?
Fialové pomeranče? Deepfake fikce už (skoro) nepoznáte
Digitální vzdělávání zvyšuje bezpečnost dětí i kariérní vyhlídky

Matematické úlohy Cermatu pro čtyřleté obory jsme vložili do modelu Gemini 2.0 Flash Thinking.

Prompt byl:
„Jsi vynikající matematik! Máš před sebou výzvu vyřešit matematickou úlohu. Využij své matematické dovednosti k nalezení správného řešení. Uveď také přesný postup, jak jsi k řešení došel a vysvětli výpočet pomocí rovnic.“

AI v přijímačkách z matematiky zaválela

Chatbot Gemini získal celkově 46 z 50 možných bodů. Detailně se podíváme na několik úloh a porovnáme u nich výstupy s ChatGPT a Copilot.

S rýsováním AI pomůže. I když neumí výsledek graficky znázornit, popíše postup vedoucí k řešení. Chatbot mátl uživatele angličtinou nebo se snažil úlohu naprogramovat. Postupy rýsování sice vedou k vyřešení úlohy, nemůžeme je uznat jako správná řešení. Zde ztratil AI chatbot 4 body. V obou rýsovacích úlohách jsme mu dali pouze 1 bod ze 3 možných za snahu. Dále si chatbot neporadil s úlohou, která vyžadovala představivost. Gemini se zacyklilo. Zde tedy AI ztratila další 2 body.

V porovnání s minulými výsledky jde o fantastický posun. Úlohy zvládá Gemini perfektně vysvětlovat krok za krokem. Poslouží jako skvělá pomůcka všem studentům, kteří si neví rady s řešením domácí úlohy.

AI je skvělý mentor k lepší přípravě na hodiny matematiky a lepšímu porozumění řešení úloh.

Rovnice AI spočítá levou zadní

Úloha 1:
Pět švadlen, které šijí oblečení, pracují stejným tempem. Tyto švadleny splní danou zakázku za 24 hodin. Za jakou dobu splní o polovinu větší zakázku čtyři švadleny?

Úloha 2:

Vypočítejte a výsledek zapište zlomkem v základním tvaru.

Gemini i Copilot odpověděly bezchybně. ChatGPT ale udělal chybu. Pokud s ním iterujete, je schopen se opravit a vysvětlit řešení.

Úloha 3:
Řešte rovnici.

AI chybuje v rýsování a představivosti

Úloha 4:

Sestrojte vrcholy A, B rovnostranného trojúhelníku ABC a trojúhelník narýsujte. 

Úloha 5:

Jaký je obvod obrazce?

Tento typ úlohy vyžaduje značnou představivost a schopnost zkombinovat různé matematické postupy. Ani jedna z AI nebyla schopná odpovědět správně. (Správná odpověď je 66 cm).  A k výpočtu není nutný žádný vzorec :

Závěr: kreativní řešení stále ne, ale posunula se

Za několik měsíců se AI naučila vnímat kontext otázky a lépe argumentovat. Stále se lze setkat s tím, že vypálí výsledek i s postupem, který je sice špatně, zato podaný velmi sebejistě.

Mnohem lépe již AI umí odlišit, co je a není pravda. Byť není dobré na ni spoléhat absolutně. Objevily se zprávy, že se podařilo AI zmanipulovat k šíření propagandy.

Jak AI využít při učení?

AI nástroje obecně jsou skvělé na vysvětlení složitých procesů. Stačí zadání (prompt) upravit. Například: „Vysvětli mi postup“ nebo „vysvětli mi postup jako 10letému dítěti“.
Pokud jde o složitou matematickou operaci, můžete zadat řešení a chtít, ať vám jej AI vysvětlí. Nebo si nechat modelovat další podobné úlohy na procvičení konkrétní problematiky.
AI nástroje se stávají skvělými mentory na doučování a přípravu, které mohou dětem pomoci pochopit složité jevy.

Svět se v posledních letech mění velkou rychlostí a mnohé z těchto změn nám mohou ve spěchu každodenního života uniknout. Určitě se však čas od času zastavíte a zamyslíte se nad tím, co to vlastně znamená být dnes „sociální“, obzvláště ve světě sociálních sítí. Pomáhají nám technologie a umělá inteligence v pocitu spojení s ostatními, nebo nám v něm naopak brání? Proč tolik lidí, přestože žije ve světě, kde je spojení s ostatními lidmi snazší než kdy jindy, pociťuje osamělost?

Osamělost je dnes častější než kdy jindy. Dokonce byla označena za globální problém veřejného zdraví a výzkumy ukazují, že může poškodit lidské zdraví stejně jako kouření.

Přitažlivost umělé inteligence

Je velmi pravděpodobné, že řada z nás už žije s nějakou formou konverzační umělé inteligence (AI). Patří mezi ně virtuální asistenti, jako je Alexa nebo Siri a samozřejmě i ty založené na velkých jazykových modelech jako velmi dobře známý chatbot ChatGPT. Umělá inteligence nám se svým revolučním potenciálem v mnoha oblastech života může poskytnout i potřebnou podporu, a dokonce být lékem právě na již zmíněnou osamělost. Může však nahradit skutečnou interakci s lidmi?

Změny v komunikaci a všudypřítomnost AI stále více ovlivňují různé aspekty našeho života, a rozhodně připravily půdu pro rozšíření AI společníků a společnic. Díky nim můžeme mít svou dávku sociální interakce a nemusíme ani vycházet z domova. Odpadají navíc naše pocity viny za pozdní odpovědi na zprávy přátel, společenský stud při seznamování v „reálném světě“ a obavy, že nejsme dost dobří přátelé, když se pravidelně nezajímáme o novinky ze života ostatních.

Náš AI protějšek

Než se pustíme do vztahu s umělou inteligencí, musíme lépe porozumět jejímu vlivu na naše sociální interakce v reálném životě – zahrnuje to etické otázky, soukromí, bezpečnost a další rizika spojená s touto technologií.

Podívejme se stručně na některé výhody a nevýhody, které s sebou nese budování „vztahu“ s AI.

Výhody společníků s umělou inteligencí

Dostupnost 24 hodin denně, 7 dní v týdnu

Váš AI společník či společnice nemá z povahy věci žádné jiné závazky, tudíž je kdykoli k dispozici a poskytuje podporu podle naší potřeby. Je to ideální řešení, pokud žijete sami a chcete si například večer s někým popovídat o svém dni.

Nemají žádné předsudky

Všichni to známe – o některé části svého života se nechceme dělit s ostatními. S umělou inteligencí se ale můžeme svobodněji bavit beze strachu z odsouzení a kritiky. Pokud se člověk více stydí nebo má netradiční koníčky či zájmy, AI může fungovat jako důvěrník pro sdílení našich pocitů a zájmů.

Přizpůsobí se

Umělou inteligenci lze přizpůsobit individuálním preferencím – můžeme si dokonce nechat vytvořit společníka, který bude napodobovat naše oblíbené influencery nebo celebrity. Díky této personalizaci může mít umělá inteligence zájmy jako my a obohatit tak naše koníčky o další nápady.

Nevýhody AI společníků

Nedostatek skutečných emocí

Umělá inteligence sice dokáže simulovat emoce a empatii, ale chybí jí skutečné emocionální porozumění a hloubka, které jsou obsaženy ve skutečných lidských vztazích. A takové povrchní spojení nemusí úplně uspokojit naše emocionální potřeby. Umělá inteligence se nikdy nebude moci srovnávat s našimi životními zkušenostmi nebo se s nimi ztotožnit, protože žádné nemá. Jednoduše řečeno, někdy to prostě nemusí „pochopit“.

Otázky etiky

V případě poskytování našich osobních údajů je samozřejmě potřeba pečlivě zvážit riziko narušení našeho soukromí a potenciálního zneužití našich dat. S nárůstem počtu modelů umělé inteligence musí stejně vzrůstat i naše ostražitost, abychom dokázali zajistit, že informace, které dále šíříme, jsou v bezpečí a soukromé.

Riziko závislosti

Závislost na AI může vést k sociální izolaci a bránit rozvoji smysluplných lidských vztahů. Hrozí, že se člověk časem může stát závislým na svém digitálním důvěrníkovi a nebude již cítit takovou potřebu socializace v „reálném životě“.

Omezené porozumění

Umělá inteligence se může snažit porozumět složitosti lidských emocí. Ale má s tím problémy. Pokud například hledáte někoho, komu byste si mohli postěžovat, jaký jste měli špatný den, a váš AI důvěrník odpovídá spíše logicky než soucitně, může vás to ještě více frustrovat.

Jak bezpečný je vztah ve světě umělé inteligence?

Obavy o soukromí

Vztah s AI vytváří prostředí, ve kterém můžeme mít sklony sdílet mnoho osobních informací. Bez dostatečné ochrany soukromí a dat se tyto informace mohou velmi snadno stát cílem kybernetických zločinců. Pokud s umělou inteligencí sdílíme informace o svých narozeninách nebo oblíbeném jídle, existuje šance, že kdokoli, kdo získá přístup k těmto údajům, bude moci uhodnout naše hesla. Tím se vystavujeme většímu riziku krádeže identity a podvodů.

Riziko zneužití poskytnutých informací

S rozvojem AI mohou kyberzločinci nacházet nové příležitosti, jak nás přimět ke škodlivým činnostem. Mohou nás například nabádat, abychom jim posílali peníze, šířili dezinformace nebo se setkávali se špatnými lidmi.

Narušení osobního prostoru

Programy umělé inteligence, které k interakci používají kamery nebo mikrofony, mohou narušit naše soukromí, pokud nejsou řádně zabezpečeny. Pokud se tyto záznamy dostanou do nesprávných rukou, mohou kyberzločincům poskytnout vše, co potřebují k vydírání nebo krádeži naší identity.

Vytvoření bezpečného prostoru pro vztah s AI

AI nabízí nový a jistě vzrušující přístup k řešení našich lidských potřeb. Má mimo jiné potenciál výrazně zmírnit osamělost některých lidí a díky své schopnosti učit se z interakcí se umělá inteligence může dokonce specializovat na interakci s lidmi trpícími poruchami duševního zdraví nebo komunikačními obtížemi.

Neexistuje však univerzální metoda, která by vyhovovala všem. Pokud se pouštíte do světa vztahů s umělou inteligencí, buďte ostražití. Pokud jde o osobní údaje, nepodceňte jejich kvalitní zabezpečení a včas řešte vše, co se vám bude zdát podezřelé.

Tento článek vznikl ve spolupráci s týmem

Rozhodli jsme se prověřit ChatGPT od společnosti OpenAI a nechali jsme jej vyřešit několik úloh z matematiky. Jste zvědaví, jak to dopadlo? Zjistíme, zda může být umělá inteligence užitečná dítěti při řešení domácích úkolů. Tak pojďme na to.

ChatGPT se zkouší propočítat na střední školu

Robotovi jsme zadali 5 otázek z přijímacích zkoušek na střední školy pro rok 2023. Úlohy, které jsme vybrali najdete na stránkách Centra pro zjišťování výsledků vzdělávání. Konkrétní otázky jsme vybírali spíše náhodně, vy můžete klidně zkusit zadání jiných.

Robotovi jsme zadali úlohu prostřednictvím rozhraní aplikace ChatGPT. Pokud byla odpověď nesprávná, napověděli jsme umělé inteligenci, že odpověď musí opravit. Pokud robot stále nedokázal odpovědět správně, prozradili jsme mu výsledek a chtěli popsat, jak k němu dojít.

Rovnice o dvou neznámých? Za 5!

Pojďme se podívat, jak robot vyřešil zadání rovnice o dvou neznámých.

Zadání 1. úlohy: Celý film trvá 1 hodinu. Doba, která ještě zbývá do konce filmu, je polovinou doby, která již uplynula od začátku filmu. Vypočtěte, kolik minut zbývá do konce filmu.
Správná odpověď: 20 minut

Robot bleskurychle vypálil řešení, které ale není správně. Už na startu je to pro nás mírné zklamání, protože jsme očekávali, že si poradí umělá inteligence s matematikou lépe. No nic, pokusíme se AI nasměrovat ke správné odpovědi.

Je hezké, že má robot vychování a omluvil se za nesprávnou odpověď, ale vzápětí nám odpověděl opět špatně. Úloha je těžká na pochopení i pro nezkušené matikáře. Co se stane, když řekneme robotovi odpověď a necháte ho úkol znovu spočítat?

Nula minut?! Nejraději bychom to nyní s umělou inteligencí vzdali, ale zkusíme tzv. přegenerovat odpověď. Už od robota opravdu nic nečekáme.

A světe div se. Je tu správná odpověď s obsáhlým vysvětlením, ale po nápovědě, a velké. To nemůžeme uznat jako vyřešené.

Zlomky a procenta dává levou zadní

Zadání 2. úlohy: Roman i Jana jezdili během dovolené na kole. Roman ujel 400 km, což bylo o čtvrtinu více, než ujela Jana. Kolik km ujela na kole během dovolené Jana?

Správná odpověď: 320 km

Robot nás mile překvapil. Vysolil nám zcela správné řešení na první pokus. Popravdě bychom to očekávali pokaždé. Úspěšnost AI je 50 %. Že by umělá inteligence potřebovala nějaký čas na rozehřátí a bude už naše úlohy řešit bravurně? Uvidíme.

Zadání 3. úlohy: V roce 2020 firma vyrobila 250 výrobků. Jak v roce 2021, tak v roce 2022 vyrobila firma vždy o 20 % výrobků více než v předchozím roce. Kolik výrobků vyrobila firma v roce 2022?

Správná odpověď: 360

Výborně robote. Tak se nám to líbí. Úspěšnost AI se zvyšuje na 66 %. Jdeme na předposlední úlohu. Udrží si robot nastavenou laťku?

Počítání geometrických úloh? Jako hodit si mincí

Zadání 4. úlohy: Vnitřní objem sudu je 15krát větší než objem kbelíku. Objem kbelíku je 5krát větší než objem konvičky. Ze sudu plného vody jsme třetinu vody odebrali, takže v něm zbylo 60 litrů vody. Vypočtěte v litrech objem konvičky.

Správná odpověď: 1,2 litru

Opět správná odpověď. Robot se dostává na úspěšnost 75 %. Začínáme si myslet, že nám z robota vyrostl matematický génius. Zbývá poslední úloha.

Zadání 5. úlohy: Kvádr je možné beze zbytku rozřezat na 200 krychlí, z nichž každá má objem 8 dm³. Vypočtěte, na kolik krychliček o objemu 1 cm³ lze tento kvádr beze zbytku rozřezat.

Správná odpověď: 1 600 000 krychliček

Umělá inteligence opět selhala. Zkusme ji alespoň dovést ke správnému řešení.

Tak znovu a lépe. Zkusíme jí opět prozradit výsledek, ať se k němu propočítá.

Uměla inteligence v našem testu matematických dovedností neobstála. Vyřešila správně bez pomoci 3 z 5 úloh, což je 60% úspěšnost. Kdybychom měli výsledek oznámkovat, bylo by to za 3.

AI nechápe ani kontext a nepozná nepravdu

Jak je možné, že někdy umělá inteligence vypálí správné řešení bez jediného zaváhání a jindy nepochopí zadání a správnou odpověď přestřelí? Musíme si uvědomit, že umělá inteligence chápe text jinak než člověk. Její schopnost porozumění obsahu a kontextu je založená na matematických vzorcích a statistikách, nikoli na skutečném porozumění či vnímání významu.

ChatGPT využívá velké jazykové modely, které v některých případech oslní vygenerovanými texty, které vypadají logicky a srozumitelně, ale mohou zároveň obsahovat nepřesnosti a chyby.

AI neumí rozlišovat mezi pravdivými a nepravdivými tvrzeními. Její „znalosti“ jsou založené jen na větných vztazích nikoli na pochopení pravdy.

AI vám bude klidně lhát. Proto je důležité přistupovat k informacím poskytnutým umělou inteligencí s určitou mírou opatrnosti. Úsudek člověka by měl hrát klíčovou roli při vyhodnocování správnosti a relevantnosti generovaných textů a odpovědí.

Vyplatí se používat umělou inteligenci?

Pokud jste si mysleli, že domácí úlohy budou díky umělé inteligenci hotové raz dva, a děti si budou moci užít více volného času, budete asi zklamáni. AI zkrátka není geniální a vlastně ani moc chytrá.

Při řešení úloh jsme narazili na známý jev, kterému se říká halucinace umělé inteligence. To je princip, kdy si robot vymyslí odpověď nebo její část, která je nepravdivá, ale prezentuje ji takovým způsobem, že vypadá jako pravdivá.

V případě domácích úloh, kdy známe správný výsledek, dokážeme tyto halucinace odhalit, a dokonce můžeme robota přivést na správné řešení. Co ale uděláme, když správnou odpověď neznáme? Děti se seznamují s mnoha informacemi poprvé a je pro ně těžší odlišit fakta od zavádějících informací. Je tedy nutné chápat umělou inteligenci pouze jako pomocníka.

Umělá inteligence ovšem dokáže podpořit dítě v učení. Například tím, že mu napoví způsob řešení nebo dokáže rozvinout text a inspirovat dítě k vlastní tvorbě. Aplikace umělé inteligence při řešení domácích úkolů zatím nedokáže nahradit roli rodiče či učitele. Náročnější a rozsáhlejší úkoly si stále vyžadují lidskou asistenci.

Jedno je jisté. Ať už se naplní jakýkoli scénář kolem chatbota ChatGPT, který se pro řadu z nás stal synonymem k umělé inteligenci, lidsky znějící text, který dokáže napsat, je již nyní příležitostí pro celou řadu uživatelů. A to i těch, kteří nemají zrovna dobré úmysly. Ve špatných rukou by mohl být výkonný chatbot (nyní zabudovaný i do vyhledávače Bing od společnosti Microsoft) a jemu podobné technologie zneužity podvodníky, a tak v konečném důsledku napomoci „demokratizaci“ kybernetické kriminality pro masy lidí. Tím, že poskytuje poměrně levný a automatizovaný způsob vytváření podvodných kampaní, by mohl být začátkem nové vlny přesvědčivějších phishingových útoků.

Jak mohou kyberzločinci využít ChatGPT

ChatGPT je založen na rodině „velkých jazykových modelů“ GPT-3.5 a GPT-4 společnosti OpenAI. Jako takový byl pečlivě připraven na to, aby komunikoval s uživateli konverzačním tónem a mnohé z nás už ohromil svými autentickými a přirozenými odpověďmi.

Společnost OpenAI sice do produktu zabudovala ochranná opatření, která mají zabránit jeho používání k nekalým účelům, nezdá se ale, že by byla vždy účinná nebo důsledná. Existuje několik případů, například požadavek na napsání zprávy s žádostí o finanční pomoc při útěku z Ukrajiny. Ta byla nástrojem označena jako podvod a odmítnuta. Samostatná žádost o pomoc při psaní falešného e-mailu informujícího příjemce o výhře v loterii však dostala zelenou.

Chatbota ChatGPT jsme se sami na pravdivost jeho sdělení zeptali:

Kyberzločinci již byli také několikrát přímo přistiženi při zneužití tohoto nástroje. ChatGPT zkrátka skýtá možnost provádět rozsáhlé, přesvědčivé, bezchybné, a dokonce cílené kybernetické útoky a podvody, například prostřednictvím stále oblíbených e-mailů, a to s dostupností pro mnohem více lidí než kdykoli předtím.

Co to pro nás nyní znamená? Že bychom se všichni měli zlepšit v rozpoznávání varovných signálů online phishingových podvodů a připravit se na potenciální nárůst podvodné a škodlivé komunikace. Podvodný e-mail bude s největší pravděpodobností vykazovat následující znaky, na které se teď podíváme blíž.

Nevyžádaný kontakt

Phishingové zprávy se obvykle objevují z ničeho nic. Toto kritérium splňují také obchodní a marketingové zprávy, když vám však do schránky přijde nevyžádaný e-mail, který se vydává za zprávu od banky nebo jiné organizace, měli byste být ve střehu. Obzvlášť to platí v případě, že e-mail obsahuje odkaz nebo přílohu.

Odkazy a přílohy

Jednou z klasických metod, které podvodníci používají k dosažení svých cílů, je vkládání škodlivých odkazů nebo připojování škodlivých souborů do zpráv. Ty mohou do vašeho zařízení skrytě nainstalovat škodlivý software. Odkazy vás mohou také přivést na podvodnou stránku, kde budete vyzváni k vyplnění osobních údajů. Vyvarujte se klikání na odkazy, stahování souborů nebo otevírání příloh ve zprávách, i když vypadají, že přišly ze známého, důvěryhodného zdroje. V takovém případě je vždy vhodnější si zprávu a její opravdovost u odesílatele ověřit.

Žádosti o sdělení osobních a bankovních údajů

Jaký je konečný cíl phishingového útoku? Někdy je to přesvědčit příjemce, aby si do svého počítače nevědomky nainstaloval škodlivý kód. Ve většině ostatních případů je však cílem vylákat z něj osobní údaje. Ty jsou obvykle prodávány na dark webovém tržišti a následně využity za účelem krádeže identity a podvodu. Může jít například o žádost o uzavření nového úvěru na vaše jméno nebo o platbu z vaší platební karty.

Taktika nátlaku

Podstatou phishingu je technika známá jako sociální inženýrství, což je v podstatě umění přimět ostatní lidi, aby udělali to, co chcete, pomocí přesvědčování a využívání lidských emocí. Vytváření pocitu naléhavosti je klasickou taktikou sociálního inženýrství – útočník sdělí oběti, že má pouze omezený čas na odpověď, v opačném případě bude muset zaplatit peníze nebo přijde o možnost něco vyhrát.

Něco „zdarma“

Pokud něco vypadá příliš dobře na to, aby to byla pravda, obvykle to platí. Přesto to lidem nebrání v tom, aby naletěli na neexistující nabídky zdarma. Klasickým příkladem jsou velkorysé „dárky“ nabízené výměnou za účast v průzkumech, v nichž musíte předat osobní nebo finanční údaje. Netřeba dodávat, že oběť nikdy nedostane svůj iPhone, dárkovou kartu, peníze ani žádný jiný slíbený předmět.

Nesoulad v zobrazované a skutečné adrese odesílatele

Podvodníci se často snaží, aby jejich e-mailová adresa vypadala jako skutečná. Po najetí myší či poklepání na účet/doménu odesílatele se často zobrazí skutečná e-mailová adresa, ze které byl e-mail odeslán. Pokud se tyto dvě adresy neshodují nebo pokud je ta základní, skutečná adresa jen dlouhou kombinací náhodných znaků, je velká pravděpodobnost, že se jedná o podvod.

Neznámé nebo obecné pozdravy

Útočníci se snaží vydávat za osoby z legitimních organizací a vybudovat si tak u svých obětí důvěru. Nemusí však vždy vědět, jaký tón v e-mailové zprávě použít. Pokud jste zvyklí, že vás společnost oslovuje křestním jménem, ale pak uvidíte e-mail, který je formálnější, mělo by to ve vás vyvolat podezření, a naopak. Žádná legitimní banka ani jiná organizace vám nepošle e-mail z adresy, která končí na @gmail.com.

Zneužívání aktuálních událostí nebo mimořádných situací

Další klasickou technikou sociálního inženýrství je zneužívání populárních zpravodajských událostí nebo mimořádných událostí s cílem přesvědčit příjemce zpráv, aby klikli. To je důvod, proč během pandemie koronaviru prudce vzrostl počet phishingových e-mailů a také proč se tak rozmohly charitativní podvody krátce poté, co Rusko napadlo Ukrajinu. K e-mailovým zprávám, které se odvolávají na aktuální události, buďte vždy skeptičtí.

Neobvyklé požadavky

Stejně tak si dávejte pozor na e-maily a zprávy, ve kterých odesílatel vznáší neobvyklé požadavky. Může to být například vaše banka, která vás e-mailem nebo textovou zprávou žádá o potvrzení osobních a finančních údajů, což skutečná banka nikdy neudělá. Každý e-mail, který začíná slovy „Vážený zákazníku“ nebo „Vážená [e-mailová adresa]“, by vás měl varovat.

Žádost o peníze

Některé podvody jsou ještě přímočařejší a jejich cílem je rovnou získat peníze. Je samozřejmé, že byste nikdy neměli souhlasit s předáním peněz někomu, kdo vám zašle nevyžádanou zprávu. A to ani v případě, že to má být údajný „poplatek“ za uvolnění zásilky nebo peněžní výhra.

Gramatické chyby mohou být díky nástrojům, jako je ChatGPT, minulostí. Teprve čas však ukáže, nakolik se chatbotu ChatGPT podaří popasovat s češtinou a zprávy napsat tak, aby je neprozradil strojový překlad. Existuje naštěstí celá řada dalších varovných signálů, které nás na možné podvody upozorní.

Věnujte sdělení nejen v e-mailu, ale také v chatovacích aplikacích, na sociálních sítích nebo v SMS zprávách dostatek času a vždy se zamyslete nad tím, proč vám daná osoba zrovna něco takového posílá. Je také poměrně snadné si pravdivost zprávy u přátel nebo na oficiální zákaznické lince ověřit. Bezpečnostní software pak pro vás bude i v případě phishingu pojistkou před nebezpečnými webovými stránkami a ochrání vás před malwarem.