Google zveřejnil nový výzkum, ukazující, že kyberzločinci sice experimentují s generativní umělou inteligencí za účelem vytváření malwaru, ale výsledky jsou zatím daleko od sofistikovanosti. A rozhodně nepředstavují vážnou hrozbu.
Ve zprávě bezpečnostní tým Googlu představil pět příkladů malwaru vytvořeného s pomocí generativních nástrojů umělé inteligence. Všechny byly vesměs primitivní, snadno detekovatelné a ve srovnání s profesionálně vytvořeným malwarem neúčinné.
Jeden z nich, známý jako PromptLock, který společnost Eset popsala jako „první ransomware poháněný umělou inteligencí“, pochází z akademického projektu, který testoval, zda velké jazykové modely mohou „autonomně plánovat, přizpůsobovat a provádět životní cyklus ransomwarového útoku“. Jeho tvůrci nicméně přiznali, že malware měl svá omezení a šlo jim spíš o ověření koncepce než o skutečnou zbraň.
Další čtyři vzorky, které Google analyzoval – FruitShell, PromptFlux, PromptSteal a QuietVault – měly podobné nedostatky. Používaly známé techniky, byly snadno zachyceny i základními antivirovými nástroji a nevyžadovaly žádné nové obranné strategie.
Nezávislý výzkumník Kevin Beaumont shrnul situaci pro Ars Technica bez obalu: „Po více než třech letech generativní AI mánie je vývoj hrozeb bolestivě pomalý. Kdybyste za takový malware platili vývojářům, zuřivě byste požadovali vrácení peněz, protože nepředstavuje věrohodnou hrozbu, a to ani náznakem.“
Uvedené závěry vyvrací tvrzení (často zesilovaná startupy a investory v oblasti AI), že malware generovaný AI už mění podobu kyberbezpečnosti. Například společnost Anthropic nedávno uvedla, že objevila hackera, který pomocí jejího modelu Claude „vyvíjel, prodával a distribuoval několik variant ransomwaru, z nichž každá měla pokročilé schopnosti úniku, šifrování a mechanismy proti obnově“.
Společnost dodala: „Bez pomoci Clauda by nemohl implementovat ani odstraňovat chyby v základních komponentách malwaru, jako jsou šifrovací algoritmy, techniky proti analýze nebo manipulace s vnitřními součástmi Windows.“
Podobně startup ConnectWise varoval, že generativní AI „snižuje laťku pro vstup nekalých aktérů do hry“. Citoval přitom zprávu od OpenAI, která tvrdí, že 20 aktérů použilo ChatGPT k vytvoření malwaru nebo identifikaci softwarových zranitelností. Další společnost, BugCrowd, pro změnu uvedla, že v průzkumu mezi respondenty, kteří se sami přihlásili, „74 % hackerů souhlasí, že AI zpřístupnila hackování“.
Jedním ze zajímavých detailů zjištění Googlu byl pokus o obejití bezpečnostních systémů zabudovaných do modelu Gemini. Útočník předstíral, že je výzkumník – etický hacker účastnící se soutěže typu capture-the-flag (CTF) –, aby model oklamal a ten mu pomohl se simulacemi útoků.
Google uvedl, že od té doby vylepšil své bezpečnostní opatření, aby takové pokusy blokovala. Takové „ochranné bariéry“ jsou běžné ve všech hlavních systémech AI a jsou navrženy tak, aby zabránily zneužití, včetně vytváření škodlivého kódu nebo pokynů pro kybernetické útoky.
Závěr Googlu je tak jasný: malware generovaný umělou inteligencí je dnes většinou experimentální a zdaleka nepředstavuje reálné nebezpečí. Prozatím zůstávají základem většiny kybernetických hrozeb tradiční hackerské techniky, nikoli umělá inteligence.
Securitytrends si můžete koupit i jako klasický časopis, buď v klasické tištěné formě nebo v elektronické verzi. Věnujeme se bezpečnosti počítačových systémů, ochraně dat, informací a soukromí. Jsme jediný titul na českém a slovenském trhu, který oslovuje širokou čtenářskou obec – od ředitelů firem, přes odborníky na bezpečnost po koncové uživatele. Naším cílem je poskytnout ucelený přehled o bezpečnostních hrozbách a zejména o tom, proč a jak se jim bránit, případně proč respektovat a dodržovat nařízení IT manažerů ve firmách.
Jsme jediný titul na českém a slovenském trhu, který oslovuje širokou čtenářskou obec – od ředitelů firem, přes odborníky na bezpečnost po koncové uživatele. Naším cílem je poskytnout ucelený přehled o bezpečnostních hrozbách a zejména o tom, proč a jak se jim bránit, případně proč respektovat a dodržovat nařízení IT manažerů ve firmách.
PŘEDPLATNÉ
ČLÁNKY DO MAILU