Nejslabším článkem zabezpečení firem jsou pochopitelně, zaměstnanci. Podle výsledků simulovaných testů (útoků) odolnosti firem, pětina z nich klikne na odkaz ve zprávě, aniž by si prověřila, kam směřuje. Nejnověji pak rozšíření tzv. generativní UI umožňuje i méně zdatným skupinám hackerů, a i jednotlivcům, provádět sofistikované útoky.

K TÉMATU:

• Cabolo One přepisuje, díky UI, text v reálném čase. A nejen to…
• E-mailem: pozor na falešný nákup! (hodně zajímavá hrozba z roku 2015)
• Co je to DSA (Digital Services Act)? Rozhodně není o obsahu, ani uživatelích

Podle zmiňované zprávy Eset Theat Report H1 2024 bylo využití nástrojů UI/AI během 1. pol. 2024 patrné hned u několika různých typů kybernetických hrozeb, jako například v případu zaměřeném na mobilní bankovní služby u o. s. Android. Eset dále uvádí, cituji: „Nový mobilní malware GoldPickaxe dokonce dokáže krást data pro rozpoznávání obličeje a vytvářet deepfake videa, která útočníci používají k ověření podvodných finančních transakcí.“

Velké jazykové modely UI mění situaci

Michal Černý ze společnosti Audiopro k tomu říká: „S rozvojem automatizace, strojového učení a umělé inteligence se vývoj těchto prostředků zjednodušuje. Útočníci navíc své ´zbraně´ mohou již kupovat jednoduše jako službu. Stále lepší automatické překlady také odbourávají jazykové bariéry. Složitost českého jazyka byla dlouho pro útočníky překážkou, ale s rozvojem velkých jazykových modelů i tato bariéra padá.“

V zaslané tiskové zprávě se také dovídáme, že… Sofistikovaný způsob kybernetického útoku, který využívá schopnosti velkých jazykových modelů UI, je metoda Prompt Injection obsahující skryté příkazy nebo kód. Tento systém prý představuje značné a obtížně odhalitelné riziko.

Nebezpečí jménem „dobrá čeština“

Jedním z důsledků rozvoje nástrojů generativní UI je, podle zaslané tiskové zprávy, i rychlý rozvoj tzv. phishingu a metod sociálního inženýrství (systém komunikace předstírající, že jste někdo jiný, včetně např. úřadu státní správy) i ve složitějších a co do počtu obyvatel „menších“ jazycích mezi něž patří i čeština.

Dříve byly tzv. phishingové e-maily buď v angličtině nebo v podivné češtině, což už dnes neplatí. Nástroje generativní UI dovolují útočníkům lépe mířit na jednotlivé uživatele s cílem vylákat z nich přístupové údaje nebo je přimět k nějaké akci.

Kybernetická kriminalita jako služba

Situaci komentuje Ondřej Ševeček z Počítačové školy Gopas: „Řada hackerů nyní přechází na model využívání hackerského nástroje jako služby. Kyber zločinci si tak mohou koupit celou infrastrukturu ransomwaru. Ransomwarové skupiny jsou nyní součástí širšího ekosystému kybernetické kriminality. K dispozici mají široké spektrum zdrojů, se specializací například na počáteční přístup do podnikových IT prostředí, pověření, útoky na soubory cookie pro aplikace SSO (Single Sign-On) a včetně infrastruktury pro distribuci. Zároveň mají tyto skupiny odborníky zaměřené na rekrutování pomocníků z řad osob, které mají přístup do interního systému.“