Generativní umělá inteligence se rychle stává jedním z nejvýnosnějších způsobů využití odcizených přihlašovacích údajů do cloudu. Útočníci již nemusí spouštět těžbu kryptoměn ani sbírat data, aby mohli zpeněžit kompromitovaný klíč pro správu identit a přístupů (IAM), uvádí nová studie firmy Fortinet.
Berete vážně ochranu aplikací před útoky hackerů?
Místo toho mohou zneužít přístup k legitimním cloudovým AI službám a pomocí účtu oběti spotřebovávat nákladné zdroje umělé inteligence nebo tento přístup případně dále prodávat třetím osobám.
Podle analýzy Fortinetu se LLMjacking týká krádeže a zneužití přístupu k hostovaným AI modelům, nikoli například krádeže trénovacích dat. Cíl útočníka je jednoduchý: donutit cizí cloudový účet zaplatit za drahé použití vysoce výkonného modelu – který buď využije sám, nebo jeho výkon přeprodá dále.
Je několik důvodů, proč je tato forma útoku pro kyberzločince tak atraktivní – především náklady na nástroje jsou u tohoto typu útoku nízké, a přitom výnos je pak vysoký. Stačí funkční cloudová identita – obvykle uniklý přístupový klíč, nebo odcizené lokální přihlašovací údaje. Jakmile je cloudová identita odhalena, útočníci jednají v řádu minut, nikoli dnů.
Využívání prémiových modelů ve velkém měřítku přitom není levné – podle výzkumu LLMjackingu, který uskutečnila firma Sysdig, se škoda pro oběť pohybuje například v případě využití Claude 3 Opus přes sto tisíc dolarů denně.
Jak útok probíhal?
Výzkumníci analyzovali konkrétní incident, při kterém byl zneužit dlouhotrvající přístupový klíč AWS IAM s administrátorskými oprávněními.
S jeho pomocí útočník postupoval ve třech krocích – vytvořil nového uživatele IAM, přihlásil ho k odběru jednoho nebo více základních modelů přes AWS Marketplace a spustil odebrané modely, čímž na účtu oběti vygeneroval poplatky za jejich využití.
„Protože LLMjacking využívá platné přihlašovací údaje a legitimní cloudové služby, vyžaduje účinná prevence a detekce silné ověření identity, důkladné protokolování a kontextovou analýzu,“ dodává Ondřej Šťáhlavský, regionální šéf Fortinetu pro střední a východní Evropu.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU