Podle nové zprávy skupiny Google Threat Intelligence Group (GTIG) se kyberzločinci stále častěji uchylují k umělé inteligenci za účelem automatizace a zrychlení svých útoků. Posouvají se přitom od ojedinělých útoků k rozsáhlejším operacím.
Zpráva poukazuje zejména na jeden případ, kdy útočníci zřejmě využili AI k identifikaci zero-day zranitelnosti – dosud neznámé chyby, kterou vývojáři ještě neopravili. Podle Googlu se jedná o první známý případ, kdy AI sehrála přímou roli při odhalení takového typu zranitelnosti.
Chyba se týkala široce používaného open-source nástroje pro správu webových stránek a mohla útočníkům umožnit obejít ochranu dvoufaktorového ověřování. GTIG uvedla, že problém pramenil z pevně zakódovaného „předpokladu důvěryhodnosti“, který vývojáři v softwaru ponechali, čímž vznikla sémantická logická chyba, kterou by tradiční bezpečnostní skenery pravděpodobně přehlédly. Velké jazykové modely jsou však obzvláště účinné při rozpoznávání kontextu a vztahů v kódu. Tato schopnost zřejmě pomohla útočníkům slabinu odhalit.
Výzkumníci z GTIG se domnívají, že útočníci použili model umělé inteligence k analýze skriptu v jazyce Python. Mezi stopy patřila přítomnost dokumentačních řetězců ve stylu výukových materiálů, smyšlené skóre závažnosti CVSS a vzorce kódování, které se velmi podobaly datům běžně používaným k trénování jazykových modelů. GTIG upozornila dodavatele softwaru dřív, než mohla být chyba zneužita ve větším měřítku, což umožnilo včasné vyřešení problému.
Chcete dostávat do mailu týdenní přehled článků z Computertrends? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
Podle GTIG útočníci také krmí systémy umělé inteligence rozsáhlými datovými sadami zranitelností shromážděnými ze zdrojů, jako je například čínská platforma pro odměny za nalezení chyb WooYun. Tato databáze údajně obsahuje více než 85 000 reálných zranitelností a může modelům umělé inteligence pomoci identifikovat další podobné slabiny.
Google uvádí, že tato zjištění ukazují, jak rychle se AI stává součástí moderních kybernetických operací. Společnost doporučuje vývojářům pravidelně testovat bezpečnostní opatření AI a posilovat ochranné mechanismy určené k prevenci zneužití. Zároveň mohou také obránci využívat nástroje AI k analýze softwaru a detekci zranitelností dřív, než tak učiní útočníci.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU