Podle průzkumu agentury Ipsos pro Vodafone má 24 % lidí v Česku osobní nebo zprostředkovanou zkušenost s AI podvodem. Pouze třetina oslovených ale ví, co pojem deepfake skutečně znamená. Zároveň 33 % lidí nevěří, že by dokázali rozpoznat deepfake video, a 41 % pochybuje o své schopnosti odhalit fotografii vytvořenou či manipulovanou pomocí AI. Sedm z deseti lidí by přitom ocenilo službu od svého operátora, která pomůže ověřovat pravost digitálního obsahu pro ně samotné nebo jejich blízké.
„Největším rizikem, které umělá inteligence přináší, nejsou jen sofistikovanější podvody. Je jím narušování důvěry v digitální komunikaci. Ve světě, kde lze přesvědčivě zmanipulovat hlas, obraz i dokument, potřebují lidé i organizace nové způsoby, jak ověřovat,“ říká Violeta Luca, generální ředitelka Vodafonu.
Firmy pod tlakem AI podvodů
Podobným rizikům čelí i firmy. Devět z deseti odborníků a odbornic odpovědných za IT nebo kyberbezpečnost v průzkumu potvrdilo, že s rostoucím objemem obsahu generovaného umělou inteligencí je stále obtížnější rozpoznat, čemu lze důvěřovat. Přestože 89 % firem očekává další nárůst AI podvodů, pouze 31 % se považuje za dobře připravené jim čelit.
Nejčastějším typem útoku jsou podvodné požadavky na platby nebo změny bankovních účtů prostřednictvím vydávání se za konkrétní osobu. S tímto typem incidentu se setkalo už 31 % firem. 22 % zaznamenalo falešné faktury nebo dokumenty vytvořené či upravené pomocí AI a 9 % evidovalo podezřelé hlasové zprávy nebo hovory vydávající se za někoho z firmy či přímo vedení společnosti.
Přesto se firmy stále spoléhají především na lidský úsudek. Pouze 6 % společností využívá specializované AI detektory nebo software určený k rozpoznávání deepfake obsahu. 90 % firemních expertů přitom věří, že ověřování obsahu by mohlo významně snížit finanční nebo reputační škody, a 73 % by zvažovalo nasazení služby od operátora zaměřené na ověřování deepfake obsahu.
Vodafone Verify: ověřování faktů místo intuice
Vodafone proto připravil pro své klienty novou službu Vodafone Verify, kterou vyvinul ve spolupráci se společností Synhawk. Mobilní aplikace pomáhá běžným uživatelům a uživatelkám, firmám i institucím ověřovat podezřelé fotografie, videa, hlasové zprávy nebo dokumenty ještě před tím, než na jejich základě učiní důležité rozhodnutí. Cílem není pouze pomoci odhalovat potenciální podvody, ale také podpořit nový návyk ověřování v situacích, kdy je důvěra klíčová.
Uživatel jednoduše nahraje soubor nebo odkaz, například příspěvek sdílený na sociálních sítích. Služba následně analyzuje širokou škálu rizikových signálů a poskytne uživateli pravděpodobnostní vyhodnocení společně s vysvětlením. Cílem není nahradit lidský úsudek, ale poskytnout další vrstvu informací, která podpoří informovanější rozhodování. Podle tvůrců aplikace jsou chybné false positive hlášení pod jedním procentem.
„Lidé se dnes při rozpoznávání podvodů často spoléhají na vlastní intuici nebo na známky nepřirozenosti v obrazu a zvuku. Jenže právě v tom se umělá inteligence zlepšuje nejrychleji. Ověřování na úrovni platforem a infrastruktury se proto postupně stává stejně důležitým bezpečnostním návykem, jako jsou silná hesla nebo dvoufázové ověřování,“ vysvětluje Maty Boháček, výzkumník v oblasti umělé inteligence a deepfake technologií na Stanfordově univerzitě a spoluzakladatel společnosti Synhawk, který za aplikací stojí.
Budoucnost – ochrana přímo v síti
Aplikace Vodafone Verify je prvním prvkem připravované širší platformy zaměřené na ochranu důvěry v digitální komunikaci. Vodafone ještě připravuje služby Verify Meetings, která pomůže identifikovat deepfake účastníky online schůzek, a Verify Network, ochrannou technologii integrovanou přímo do sítě operátora.
Aplikace bude od 22. října dostupná pro zařízení s operačními systémy Android a iOS. U mobilních tarifů kategorie Black a u velké části firemních tarifů je nově součástí balíčku, ostatní ji mohou aktivovat jako doplňkovou službu za 59 Kč měsíčně bez DPH. Služba je první svého druhu ve skupině Vodafone a pokud se osvědčí, pravděpodobně se rozšíří mezi další operátory.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU