Pomůže umělá inteligence kybernetické bezpečnosti, nebo tomu bude spíš naopak?

Sofistikovaná inteligentní řešení se mohou obrátit proti nám, pokud dojde k jejich zneužití.
Total
55
Sdílení

I když umělá inteligence (AI) a strojové učení (ML) už nějakou dobu ovlivňují různé oblasti lidské činnosti, na využití jejich plného potenciálu stále ještě čekáme. Technologie na bázi AI budou stále více pomáhat při boji proti podvodům, vyhodnocovat a optimalizovat firemní procesy, zlepšovat postupy při testování a vyvíjet nová řešení stávajících problémů. Nicméně stejně jako většina převratných inovací, rovněž AI a strojové učení budou mít i své stinné stránky.

Kvůli stále větším průnikům mezi pracovní a osobním životem a využívání kritických infrastruktur, jež se v digitální éře logicky dějí, přichází nová rizika. Útočníci mohou využívat AI různými způsoby: k šíření svého malwaru, cílení na konkrétní oběti a získávání cenných dat, hledání zero-day zranitelností nebo zneužívání napadené infrastruktury, například vytvářením sítě botnetů.

Strojová řešení používaná různými organizacemi mohou být dalším atraktivním cílem útoků. Vytvořením škodlivých datových sad se útočníci mohou pokusit manipulovat s dalšími původně prospěšnými systémy, aby donutili oběti k nesprávným rozhodnutím nebo poskytli zkreslený pohled na sledované prostředí, což by mohl vést k chaosu.

Zneužívání ML pro překlady a cílení

O tom, že nejde jen o teoretické scénáře, se můžeme přesvědčit z prvních reálných příkladů. Jedním z nich jsou spammeři, kteří používali legální překladatelské služby založené na ML, aby zlepšili distribuci svých zpráv v širokém spektru jazyků (samozřejmě pokud útočníci nevypouští jeden spam denně a neučí se nové jazyky po nocích). Dalším příkladem, kdy je k šíření podvodu využita AI, je momentálně silná kampaň malwaru Emotet, jenž je podezřelý z používání tohoto typu technologie k zajištění lepšího cílení. Navzdory tisícům infekcí denně se stal překvapivě efektivním při vyhýbání se honeypotům a sledovačům botnetů.

Aby toho dosáhl, shromažďuje Emotet telemetrii svých potenciálních obětí a zasílá ji na řídící C & C server k analýze. Na základě těchto vstupů škodí malware nejen prostřednictvím modulů, které jsou zahrnuty mezi legitimní, ale také dokáže rozlišovat mezi lidskými operátory a virtuálními stroji používanými analytiky.

Podobné mechanismy sebeobrany by byly velmi složité a drahé, operátoři Emotetu by museli investovat nemalé prostředky k dosažení aktuálních schopností malwaru, pokud by nevyužili strojového učení.

Více vrstev, lepší zabezpečení

Zneužití modulu ML tím, že mu útočník poskytne škodlivá data – což povede ke kontradiktornímu strojovému učení – představuje další riziko, které se v budoucnu stane ještě naléhavější, zejména v oblasti kybernetické bezpečnosti. Pokud by méně pokročilé, čistě na strojovém učení založené skenovací nástroje byly zmateny příkazy od útočníků, mohlo by to ohrozit bezpečnost společnosti a potenciálně způsobit vážné ztráty.

Máme více než třicetileté zkušenosti se zajišťováním počítačové bezpečnosti a více než dvacetiletou praxi s implementací strojového učení. Díky tomu jsme v ESETu schopni vytvářet robustní, odolné a špičkové nástroje strojového učení. Integrace ML modulu do našeho cloudového bezpečnostního nástroje ESET LiveGrid® umožňuje využívání této technologie všemi našimi zákazníky, včetně běžných uživatelů i firem všech velikostí. Společnosti mohou také využít ESET Dynamic Threat Defence jako další bezpečnostní vrstvu využívající technologii sandboxingu založené na cloudu, jež detekuje nové, dosud nikdy neobjevené hrozby.

Uvědomujeme si, že strojové učení není žádná křišťálová koule a že rizika spojená s kontradiktivním strojovým učením budou časem narůstat. Aby nedocházelo k těmto problémům, je náš ML modul integrován do řady vysoce účinných detekčních technologií, jakou detekce DNA, pokročilé paměťové skenery, síťová ochrana a UEFI skener. Jsme přesvědčeni o tom, že pouze vícevrstevná řešení mohou poskytnout spolehlivou ochranu před neustále se rozvíjejícími kybernetickými hrozbami.

Mohlo by vás zajímat