Útoky pomocí GenAI se stupňují, obrana už nestíhá

Analytici například zjistili, že 62 % organizací už zažilo nějaký útok typu deepfake zahrnující především sociální inženýrství nebo zneužití automatizovaných procesů.

Třetina firem pak uvádí, že za posledních 12 měsíců zažilo útok na firemní řešení umělé inteligence, který zneužil jejich aplikační prompt.

Chatboty jsou přitom zranitelné vůči široké řadě hackerských technik, jako jsou třeba prompty vedoucí k manipulaci velkých jazykových modelů (LLM) nebo multimodálních modelů za účelem generování zaujatých nebo přímo škodlivých výstupů.

GenAI a její vliv na kyberbezpečnost

Zdroj: Gartner, září 2025

„S tím, jak roste popularita nástrojů generativní AI, se útoky využívající tuto technologii pro phishing, deepfakes či další formy sociálního inženýrství už staly běžnou záležitostí, další hrozby, jako jsou útoky na infrastrukturu aplikací GenAI či manipulace přes prompty, se ve větší míře teprve objevují, avšak získávají na síle,“ vysvětluje Akif Khan, analytik Gartneru.

Jak zvládnout digitalizaci, automatizaci a AI v malé firmě s Petrem Mackem

0:00/

Více než dvě třetiny vedoucích manažerů bezpečnosti jsou podle něj přesvědčení o tom, že nově se objevující rizika od generativní umělé inteligence vyžadují udělat významné změny v současném přístupu ke kybernetické bezpečnosti – jinými slovy je zapotřebí mít vyváženější strategii, upozorňuje Khan.

„Namísto radikálních změn nebo izolovaných investic by ale organizace měly posílit základní kontroly a zavést cílená opatření pro každou novou kategorii rizik,“ dodává.

Securitytrends si můžete koupit i jako klasický časopis, buď v klasické tištěné formě nebo v elektronické verzi. Věnujeme se bezpečnosti počítačových systémů, ochraně dat, informací a soukromí.  Jsme jediný titul na českém a slovenském trhu, který oslovuje širokou čtenářskou obec – od ředitelů firem, přes odborníky na bezpečnost po koncové uživatele. Naším cílem je poskytnout ucelený přehled o bezpečnostních hrozbách a zejména o tom, proč a jak se jim bránit, případně proč respektovat a dodržovat nařízení IT manažerů ve firmách.

Jsme jediný titul na českém a slovenském trhu, který oslovuje širokou čtenářskou obec – od ředitelů firem, přes odborníky na bezpečnost po koncové uživatele. Naším cílem je poskytnout ucelený přehled o bezpečnostních hrozbách a zejména o tom, proč a jak se jim bránit, případně proč respektovat a dodržovat nařízení IT manažerů ve firmách.