V Evropě sledujeme nárůst ruských aktivit. Jak se tato hrozba transformuje?
Sledujeme dva proudy. Tradiční špionáž doplňují disruptivní útoky na kritickou infrastrukturu, často prováděné najatými třetími stranami přes Telegram. Skupiny jako Cyber Army Russia Reformed už cílily na vodní systémy v Polsku, Francii i USA. Klíčovým trendem je záměrné rozmazávání hranic: útočníci používají ransomware jako kouřovou clonu, aby státní operace vypadala jako běžná kyberkriminalita. Pro vlády je pak mnohem těžší ukázat prstem na konkrétního viníka.
AI mění pravidla hry. Kde vidíte největší posun?
Útočníci získali tři zásadní výhody. První je škálování a persistence. Agentické systémy mohou neustále a inteligentně testovat vaši síť, dokud neuděláte chybu. Viděli jsme čínského útočníka, který použil AI penetrační framework s paměťovým nástrojem – mapoval systém a spouštěl nástroje, dokud něco nezafungovalo, přičemž dělal inteligentní rozhodnutí na základě každého pokusu.
AI navíc dokáže malware na požádání přepsat, čímž de facto eliminuje tradiční signatury. I ti nejlepší útočníci znovu používají kód, protože je drahý a trvá dlouho ho vyvinout. To nám dává prostor vytvářet detekční vzorce. Ve světě, kde AI váš kód snadno přepíše, budou signatury prostě méně efektivní.
Druhou výhodou je rychlost. AI dokáže bleskově provést reverse patch, najít ve vydané záplatě zranitelnost a vytvořit exploit dříve, než organizace stihnou zareagovat. Lidské patchování je mrtvé; proti agentům operujícím v počítačovém čase nemáme bez automatizace šanci. Navíc se útočníci dokážou pohybovat po síti oslnivě rychle, AI vezme všechna environmentální data a zjistí, jaký je další nejlepší krok.
Zmínil jste sofistikovanost jako třetí faktor.
Nejjednodušší způsob je, že je to jako mít průvodce operacemi. Doteď útočníci potřebovali buď vědět, jak věci dělat, nebo měli přístup k tutoriálu v undergroundu. Teď mohou klást umělé inteligenci otázky a dostávat přesné odpovědi na to, jak hacknout systém. Nejslabší hackeři budou nebo možná už jsou mnohem lepší než byli.
Druhá oblast je vulnerability research. AI je výjimečná v hledání zranitelností v kódu. Google měl program nazvaný Big Sleep, vzali jsme model, dali kolem něj harness a použili ho k hledání zranitelností. Byli jsme nadmíru úspěšní. Děláme to dva roky.
Co je to harness?
Harness je softwarový rámec, který model obklopuje a řídí jeho chování pro specifický účel. Je to klíčová komponenta. Big Sleep byl postaven kolem archaických modelů, nemuseli jste nutně potřebovat Mythos. Potřebovali jste dobrý harness a více výpočetního výkonu. Věříme, že státní útočníci to už dělali před dvěma lety.
Letos jsme našli kriminálního aktéra, jehož exploit měl všechny znaky toho, že byl vyvinut s AI a nebyl vyvinut s pomocí Mythosu.
Co to znamená pro obránce?
Budeme muset používat nejlepší modely ke korektuře kódu, než se vypustíme do světa. Budeme vydávat nejsilnější kód, jaký jsme kdy vydali. To je dobrá zpráva.
Špatná zpráva je legacy. Dosavadní kódy, o kterých jsme si mysleli, že jsou neprůstřelné, neprůstřelné nebyly a AI ty chyby najde. Očekávám v budoucnu mnohem silnější kód, ale teď bohužel budeme muset projít obdobím, kdy musíme všechen starý kód opravit rychleji, než útočníci využijí jeho chyb ve svůj prospěch.
Zmínil jste Mythos. Jak je unikátní?
Mythos byl trénován na informacích o kybernetické bezpečnosti, takže harness byl méně nutný. Ale na jeho trajektorii už jede plno modelů. Byl bych překvapen, pokud do roka nebudou existovat mnohé Mythos-like varianty. OpenAI už má srovnatelné výsledky. A do šesti měsíců bude čínský model, který je obecně stejně schopný. Různé modely navíc najdou různé zranitelnosti, budeme pravděpodobně potřebovat multi-model přístup.
Vrátíme se k lidskému faktoru jako zranitelnosti?
To je opravdu dobrá otázka. Právě teď 30 procent incidentů začíná exploitem. Pokud se dostaneme do pozice, kdy vydáváme silnější kód, mohlo by se to změnit.
Ale AI bude mít vliv na sociální inženýrství. Osm let jsem viděl útočníky používat AI – začalo to špatnými statickými obrázky. O čem teď mluvíme, je video a audio. Můžu mít agenta, který řekne: tady je seznam cílů, řekněte mi, jak mluvit s těmito deseti lidmi. A on přijde se specializovanou metodou, která bude úspěšná. A podobně jako lidi se budou sociálně hackovat i AI agenti. Zajímavé je, že AI systémy samy jsou nedeterministické. Operují více jako lidé než jako kód. To znamená, že je zabezpečujete stejným způsobem, jakým zabezpečujete lidi proti sociálnímu inženýrství. Prompt injection nebo jailbreaking je prostě sociální inženýrství.
Jak se bránit?
Jedna z věcí, o kterých hodně přemýšlíme, je použití AI jako dohledu pro jinou AI. Už to funguje na mnoha jailbreacích. Můžete jailbreaknout model, ale pokud jiný model monitoruje výstup i vstup, máte pozorovatele. Stále více lidí začleňuje korektora, dalšího agenta, aby se ujistil, že všechno sedí a funguje dobře.
Změnilo se bezpečnostní prostředí zásadně, nebo se vlastně změnily jen nástroje a princip souboje obránců s útočníky zůstává stejný?
Je to vlastně stejné, můžeme se poučit z minulosti. Jen se prostě budeme muset bránit velmi, velmi rychle. Budeme muset pracovat rychleji. Budeme muset škálovat. Pokud s reakcí počkáte, až na vás tyto dopadnou, budete zahlceni a ztraceni. Musíte začít hned.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU