Schválení Aktu o umělé inteligenci výrazně ovlivní celosvětový vývoj AI

V roce 2018 se Evropská komise začala věnovat tvorbě nového legislativního rámce, ve kterém usiluje o regulaci systémů umělé inteligence. V současnosti se návrh nařízení známý pod zkráceným názvem Akt o umělé inteligenci nachází na začátku etapy svého konečného schválení. Po dokončení procesů půjde o první závazný předpis svého druhu na světě, který v tomto rozsahu ošetřuje oblast umělé inteligence.

„Velmi oceňuji snahu chránit lidská práva a mít pro to jasná a jednotná pravidla napříč Evropou, byť zrovna u rozeznávání tváří bych více ocenil úplný zákaz vzhledem k dopadu na soukromí lidí,“ říká poslanec Evropského parlamentu Mikuláš Peksa a dodává: „Výrazně složitější je otázka, jaký to bude mít vliv na dostupnost služeb na evropském trhu a jejich rozvoj. Mám obavu ze schvalovacích procesů, které pokud budou nastaveny neefektivně, mohou se stát výrazně dražšími a pomalejšími, než by bylo únosné."

Názor českého europoslance lze doplnit komentářem Jana Romportla, ředitele centra umělé inteligence O2 Czech Republic: „Nařízení o umělé inteligenci je zásadním pokusem o globální koordinovanou akci, přinejmenším na půdě EU. Je sice pokusem těžkopádným, nedokonalým, nesoucím značný rukopis EU byrokracie, ale pořád pokusem silným, odvážným, průlomovým a velmi důležitým.“

Po schválení nové legislativy se evropské a mimoevropské firmy, jež působí na jednotném trhu starého kontinentu, budou muset vyrovnat s požadavky a dopady nové regulace. Mezi hlavní povinnosti se zařadí nutnost poskytovat algoritmy a změny v nich nezávislým dozorovým orgánům. Na praktickou aplikaci legislativní úpravy bude dohlížet nově zřízená Evropská rada pro umělou inteligenci.

„Nová legislativa nastaví podmínky pro vývoj a využívaní systémů umělé inteligence, jednu z nejrychleji rostoucích oblastí digitální ekonomiky. Ještě neznáme její konečnou podobu, vše se rozhodne v následujících měsících. Některé aspekty návrhu jako jsou důraz na důvěryhodnost a transparentnost aplikací umělé inteligence jsou již nyní součástí produktů a služeb,“ říká Milena Jabůrková, ředitelka vládních programů IBM Central.

Dodavatelé, kteří uvádějí řešení vybavená umělou inteligencí na vnitřní trh EU, musí v následujících letech v souvislosti s novou regulací počítat s možnými soudními řízeními. Ta se mohou zaměřit především na rozsah a bezpečnost systémů zaměřených na dohlížení a sledování, ukládání a správu osobních dat.

„Je pochopitelné, že kolem připravované legislativy panuje nemalá nejistota, která bude ovlivňovat vnitřní procesy soukromých společností a jejich investice do umělé inteligence. Potenciálně může dojít k výraznému zpomalení vývoje v oblastech, v nichž systémy s umělou inteligencí pracují s citlivými daty nebo slouží společensky kontroverzním účelům,“ říká Jack Vernon, expert společnosti IDC na software s umělou inteligencí. Jednotliví dodavatelé společně s uživateli systémů umělé inteligence musejí začít přemýšlet o tom, jak nová legislativa ovlivní jejich aktivity. Čím dřív tuto úvahu zahájí, tím spíše budou schopni předejít pozdějším nepříjemným překvapením.

„Na dopady nařízení Akt o umělé inteligenci se zatím nepřipravujeme a nemáme je finančně podchycené. Zatím nemáme ani odezvu od našich evropských zákazníků. Je to proto, že stále vnímáme vysokou míru nejistoty, co se týče finální podoby a rozsahu regulace,“ doplňuje Petr Baudiš, zakladatel a technologický ředitel společnosti Rossum, a dodává: „Jsem však přesvědčen, že nedává smysl regulovat plošně umělou inteligenci, ale předcházet nežádoucímu chování v konkrétních citlivých situacích."

Rizika umělé inteligence

O umělé inteligenci se ve světě moderních technologií intenzivně hovoří již mnoho let. S jejími aplikacemi, jakkoli může jít o jednodušší formy či dílčí disciplíny, se běžně dostávají do styku i koncoví spotřebitelé. Umělá inteligence se stává všudypřítomnou. Nabízí se otázka, jak chce Evropská komise všechny její stávající i budoucí aplikace prověřit. Odpověď spočívá v metodice, s níž nová legislativa pracuje.

Podle stávajícího znění Aktu o umělé inteligenci budou systémy umělé inteligence zařazeny do jedné z následujících kategorií:

1. Nízké či minimální riziko. Jde o systémy, které nepotřebují zvláštní dozor ze strany regulačních orgánů EU.
2. Systémy s vysokým rizikem. Ty budou povoleny, pokud budou splňovat parametry regulace. Jejich rizikovost je definována účelem a funkcí. Evropská komise vytvoří celoevropskou databázi pro všechny systémy s vysokým rizikem, což umožní všem národním orgánům, uživatelům i zainteresovaným skupinám ověřit jejich soulad s platnou evropskou legislativou. Mezi oblasti s vysokým rizikem patří například systémy s umělou inteligencí pro zaměstnance, řízení lidských zdrojů a přístup k jejich náboru. Dále půjde o hodnotící systémy, které utváří či kontrolují parametry fyzických osob, a to jak v soukromé, tak ve veřejné sféře. Žádný software umělé inteligence by neměl rozhodovat o tom, zda konkrétní člověk má nárok na poskytnutí určité služby. A konečně sem patří i systémy, které se zabývají sledováním, zadržením či jiným omezováním osobních svobod. Jde převážně o systémy nasazované bezpečnostními složkami.
3. Systémy s neakceptovatelným rizikem. Do této kategorie spadá software, jenž využívá podprahovou manipulaci, generuje skóre sociálních systémů nebo vykořisťuje určitou skupinu obyvatel a porušuje jejich práva.

Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.

Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.