Příští velký výpadek infrastruktury nemusí být způsobený hackery nebo přírodními katastrofami, ale spíše inženýrem s původně dobrým úmyslem, chybným aktualizačním skriptem nebo třeba špatně umístěnou desetinnou čárkou, tvrdí Wam Voster, analytik Gartneru.
Provozujete nějaké průmyslové IT systémy?
Důležité tak podle něj je v co nejkratší době zřídit tzv. bezpečný „kill-switch“ nebo režim override, což je funkce umožňující dočasně obejít nastavená pravidla, politiky nebo automatizované plány – samozřejmě ale musejí být přístupné pouze oprávněným operátorům.
Tyto kroky jsou prý nezbytné, aby se ochránila národní infrastruktura například před neúmyslným vypnutím způsobeným nesprávnou konfigurací AI a aby se zároveň zajistilo, že konečná kontrola a ovládání zůstane na člověku.
Podle Vostera nejpozději do roku 2028 nesprávně nakonfigurovaná umělá inteligence v kyberfyzických systémech (CPS, cyber physical system) vyřadí z provozu kritickou národní infrastrukturu v jedné ze zemí G20.
CPS jsou v podstatě inženýrské systémy, které koordinují snímání, výpočty, řízení, síťové propojení a analýzy, aby mohly interagovat s fyzickým světem (včetně lidí).
Video ke kávě
Máte čas na rychlé a informativní video?
Zahrnují obvykle provozní technologie (OT), průmyslové řídicí systémy (ICS), průmyslové automatizační a řídicí systémy (IACS), průmyslový internet věcí (IIoT), roboty, drony nebo řešení Průmyslu 4.0.
Pokud se AI u těchto systémů nesprávně nakonfiguruje, může autonomně vypnout důležité služby, nesprávně interpretovat data ze senzorů nebo dokonce sama spustit nebezpečné akce.
To, že ohrožuje kontrolu nad klíčovými systémy, jako jsou rozvodné sítě nebo výrobní závody, může vést k fyzickým škodám nebo rozsáhlým výpadkům, což představuje přímé ohrožení bezpečnosti státu či ekonomické stability.
Například moderní energetické sítě se spoléhají na nástroje umělé inteligence pro vyvažování výroby a spotřeby v reálném čase. Chybně nakonfigurovaný prediktivní model by mohl nesprávně interpretovat zvýšenou poptávku jako nestabilitu a spustit třeba odpojení sítě v celých regionech nebo dokonce zemích.
„Moderní modely umělé inteligence jsou už tak složité, že často připomínají ‚černé skříňky‘, u které není známé nebo viditelné její vnitřní fungování,“ vysvětluje Voster.
Podle něj ani sami vývojáři nemohou vždy předvídat, jak malé změny konfigurace ovlivní komplexní chování modelu. A čím jsou tyto systémy neprůhlednější, tím větší je riziko nesprávné konfigurace – a o to důležitější je, aby v případě potřeby mohli zasáhnout lidé.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU