Jak bezpečná je umělá inteligence v roce 2026?

Chatboti využívající generativní umělou inteligenci jako ChatGPT, Claude nebo Gemini pro naše zařízení obvykle nepředstavují žádná větší bezpečnostní rizika. S agentní AI je to ale úplně jiná písnička. AI agenti, skilly a pluginy můžou autonomně stahovat soubory, spouštět skripty a dělat potenciálně škodlivá rozhodnutí bez dozoru či svolení uživatele.

„S AI skilly bychom neměli zacházet jako s komplexními prompty, ale jako se softwarem. Při jejich používání je proto potřeba kontrolovat vyžadovaná oprávnění. Pokud jsou vyšší, než ke své činnosti potřebují, je to vždy varovný signál. Důležité je i ověřit, kdo dovednost publikoval, a pokud je to možné, volit AI skilly od známých a ověřených vývojářů,“ vysvětluje náš bezpečnostní expert Ondrej Kubovič.

Jaký je rozdíl mezi AI chatbotem a AI agentem?

Tradiční chatboti využívající generativní umělou inteligenci zpracovávají komplexní prompty, na základě kterých generují obsah. Jejich činnost je plně řízená člověkem, tzn. chatboti vždy jen pasivně reagují na to, co do nich vložíme.

Agentní AI naopak proaktivně vypracovává úkoly, aniž by ji uživatel musel promptovat. Jsou to vlastně takoví osobní asistenti, kteří za nás procházejí internet, čtou soubory a weby, přihlašují se do účtů a někdy dokonce provádějí platby.

AI agenti ke své činnosti využívají AI skilly (dovednosti), které fungují podobně jako rozšíření do prohlížeče. Jsou to malé balíčky instrukcí, dat, kódu a někdy i celých nástrojů, které rozšiřují schopnosti AI agentů. Právě v nich se ale občas můžou skrývat nepříjemná překvapení.

Jak bezpeční jsou AI agenti?

Rizika spojená s AI agenty nejsou zdaleka tak teoretická, jak by se mohlo zdát. Útočníci je prokazatelně zneužívají hlavně těmito třemi metodami:

Škodlivé AI skilly nebo AI pluginy

Od března 2026 ESET zkontroloval celkem 800 tisíc AI skillů, z nichž 25 tisíc označil jako podezřelé a víc než 2 500 jako vyloženě škodlivé. Některé z těchto skillů měly za úkol stáhnout do zařízení uživatelů infostealery, jiné obsahovaly trojské koně. ClawHub (obchod s AI skilly a pluginy pro agentní AI OpenClaw) podle výzkumu Koi nabízí víc než 800 škodlivých skillů obsahujících infostealery, malware ke krádeži krypta atd.

Falešní asistenti a rozšíření do prohlížeče

Hackeři neútočí jen na AI skilly. Dalším oblíbeným trikem je vyvíjení rozšíření do prohlížeče, která se vydávají za legitimní AI nástroje, ale ve skutečnosti jen kradou data. Microsoft nedávno rozkryl malwarovou kampaň postavenou na rozšířeních v podobě AI asistentů, které po nainstalování stahovaly historii chatů. Tak získávaly citlivé informace a přihlašovací údaje nic netušících uživatelů.

Injekce promptů (prompt injection)

Jednoduše řečeno, „prompt injection“ je vložení škodlivého příkazu. To útočníci dělají buď přímo, kdy takový příkaz vloží do chatbota a donutí ho tak obejít jeho programování, nebo nepřímo vložením škodlivých instrukcí na weby, do příspěvků na sociálních sítích, do kódu nebo dalšího obsahu, ke kterému agentní AI přistupuje a nevědomky se tak „napromptuje“.

Jak poznám, že je AI skill bezpečný?

Při stahování AI skillů nebo AI pluginů bychom měli dodržovat stejná bezpečnostní pravidla, jako při stahování a instalaci jakéhokoliv jiného typu softwaru. Než se pro stažení AI skillu rozhodnete, zjistěte si:

• Kdo je autorem? Publikoval i jiné skilly nebo pluginy? Jaké jsou na ně recenze? Absence historie příspěvků a hodnocení od ostatních uživatelů není dobré znamení.
• Je repozitář aktualizovaný a vývojář aktivní? Pokud ano, je to dobrý start, ale neznamená to, že je skill automaticky bezpečný. Někteří útočníci se chovají jako zodpovědní vývojáři, aby si vybudovali důvěru svých obětí.
• Jaká oprávnění AI skill požaduje? Pokud výše oprávnění přesahuje jeho inzerovaný účel, je to podezřelé.
• Chce AI plugin během instalace spouštět neznámé skripty nebo se spojovat s podezřelou doménou/zdrojem? Pokud ano, je důvod se znepokojovat.
• Zkontrolovali jste si AI skill v ESET AI Skills Checker? Jaký byl výsledek?

Jak se chránit před škodlivými AI skilly?

I tady je nejsilnější zbraní hlavně obezřetnost, a právě na ní jsou postaveny následující bezpečnostní tipy pro stahování AI skillů nebo AI pluginů.

1. Zkontrolujte požadovaná oprávnění předtím, než skill nebo plugin nainstalujete.
2. Pravidelně si aktualizujte AI nástroje, prohlížeče i bezpečnostní řešení.
3. Chovejte se ke svým AI agentům jako k cizím lidem, tzn. nikdy s nimi nesdílejte osobní nebo citlivé informace.
4. Pokud si všimnete, že se váš AI agent chová neobvykle, okamžitě ho vypněte.
5. Používejte dvoufázové ověření všude, kde je to možné, ale hlavně na nejdůležitějších účtech.
6. Naučte své děti a méně technicky zdatné členy rodiny tři nejdůležitější otázky: Kdo to vyrobil? Co to ode mě chce? Můžu tomu věřit?

„Uživatelé by se měli spoléhat hlavně na robustní bezpečnostní nástroje jako ESET HOME Security, které umí detekovat potenciálně škodlivé chování. U zdroje AI skillu by měli kontrolovat hlavně recenze uživatelů, dávat si pozor na problémové repozitáře a veřejnou zpětnou vazbu. A v neposlední řadě by měli svou agentní AI platformu a agenty pravidelně aktualizovat, aby snížili riziko zneužití prostřednictvím známých zranitelností,“ dodává Ondrej Kubovič.

Důvěřovat, ale prověřovat

Stačilo jen pár let a generativní umělá inteligence se stala nedílnou součástí mnoha domácností. Toho si samozřejmě všimli kyberzločinci, kteří rychle přišli na způsob, jak AI proměnit na nástroj k šíření malwaru, krádeži dat a podvodům.

Riziko představuje hlavně agentní AI, ale neměli bychom usnout na vavřínech ani při používání chatbotů. Pokud ale budeme dodržovat základní bezpečnostní postupy a svěříme se do rukou komplexního bezpečnostního řešení, nemáme se čeho bát.

Mohlo by vás zajímat:
✨ Je ChatGPT bezpečný? Jak AI chatbota používat správně
✨ Proč se děti kamarádí s AI chatboty?
✨ Dobrý den, tady policie aneb podvodné telefonáty nové generace