Jak uvedli experti firmy Aim Security, kteří problém jako první popsali, jde o vůbec první zdokumentovaný útok na agenta umělé inteligence bez potřeby jakéhokoliv zásahu uživatele, jako je třeba kliknutí.
Plánujete ve firmě v brzké době nasadit Wi-Fi 7?
To podle nich představuje zásadní riziko pro firmy, které číhá v nástrojích umělé inteligence, které denně používají.
Zmíněná první verze tohoto typu škodlivého kódu – EchoLeak – se zaměřuje na AI systém Copilot v kancelářském balíku Microsoft 365.
Podle výzkumníků stačí jediný e-mail, aby se tento nástroj nepozorovaně spustil a začal vydávat důležité firemní údaje.
Případ je ještě o to závažnější, že kromě jakékoliv interakce s uživatelem nepotřebuje ani žádné stažení, využívá totiž kritickou zranitelnost Copilotu.
Analytici firmy Aim novou techniku zneužití označili jako „LLM Scope Violation“ a nevylučují, že se může uplatnit i v jiných chatbotech či AI agentech založených na rozšířeném vyhledávání (RAG, Retrieval-Augmented Generation).
Video ke kávě
Máte čas na rychlé a informativní video?
Analytici firmy Aim novou techniku zneužití označili jako „LLM Scope Violation“ a nevylučují, že se může uplatnit i v jiných chatbotech či AI agentech založených na rozšířeném vyhledávání (RAG, Retrieval-Augmented Generation).
To by mohlo znamenat ránu pro zavádění například autonomních AI agentů.
Ataky pomocí zmíněného malwaru umožňují útočníkům automaticky exfiltrovat citlivé a proprietární informace z kontextu M365 Copilot, aniž by si toho byl uživatel vědom, a následně je například vydírat.
Navíc je to možné navzdory tomu, že rozhraní M365 Copilot bude přístupné pouze zaměstnancům organizace.
Microsoft už přispěchal s oznámením, že zranitelnost v Copilotu už je opravená a uživatelé mohou tento AI systém bez obav používat.
V databázi zranitelnosti Mitre CVE chyba Copilotu nese označení CVE-2025–32711 a bylo ji přiděleno skóre kritické závažnosti – CVSS 9,3.
Securitytrends si můžete koupit i jako klasický časopis, buď v klasické tištěné formě nebo v elektronické verzi. Věnujeme se bezpečnosti počítačových systémů, ochraně dat, informací a soukromí. Jsme jediný titul na českém a slovenském trhu, který oslovuje širokou čtenářskou obec – od ředitelů firem, přes odborníky na bezpečnost po koncové uživatele. Naším cílem je poskytnout ucelený přehled o bezpečnostních hrozbách a zejména o tom, proč a jak se jim bránit, případně proč respektovat a dodržovat nařízení IT manažerů ve firmách.
PŘEDPLATNÉ
ČLÁNKY DO MAILU