Čínské úřady zavádí nové předpisy, podle kterých bude muset být veškerý obsah vytvořený umělou inteligencí jasně označen. Jde o krok zaměřený na boj proti dezinformacím a zavedení větší kontroly nad uměle vytvořeným obsahem.
Čínská správa kyberprostoru (Cyberspace Administration of China, CAC) ve spolupráci s několika ministerstvy oznámila, že obrázky, videa, zvuky a „virtuální scény“ vytvořené umělou inteligencí musí obsahovat jak na první pohled zřetelnou informaci (například vodoznak v obrázku), tak strojově čitelná metadata identifikující jejich umělý původ.
Máme nové jméno
Po více než třech dekádách existence otvírá magazín Computerworld novou kapitolu. Tradiční průvodce světem IT, který si za 36 let existence vybudoval pověst jednoho z nejdůvěryhodnějších tuzemských zdrojů pro IT profesionály, se od nynějška jmenuje Computertrends.
U video a audio obsahu se tato „výrazná upozornění“ musí objevit na začátku, uprostřed a na konci každého díla vytvořeného umělou inteligencí. Soubory dostupné ke stažení musí být také takto označeny, aby byli uživatelé informováni předtím, než k obsahu přistoupí.
„Zákon o označování pomůže uživatelům identifikovat dezinformace a přiměje poskytovatele služeb k odpovědnosti za označování jejich obsahu,“ uvedla CAC podle agentury Bloomberg. „To má omezit zneužívání obsahu generovaného umělou inteligencí.“
Jak z citovaného vyplývá, nařízení se nevztahuje jen na tvůrce obsahu, ale i na provozovatele webů. Obchody s aplikacemi budou muset přezkoumat mechanismy označování, aby zajistily soulad s novými pravidly.
Dokonce i jednotliví uživatelé, kteří zveřejňují obsah generovaný umělou inteligencí, musí deklarovat jeho umělou povahu, přičemž deník South China Morning Post uvedl, že těm, kteří po zveřejnění změní označení obsahu generovaného umělou inteligencí, mohou hrozit sankce.
Postoj Číny se blíží přístupu Evropské unie, která loni přijala zákon o umělé inteligenci, označovaný jako „vůbec první právní rámec pro umělou inteligenci, který se zabývá riziky umělé inteligence a staví Evropu do pozice, kdy bude hrát vedoucí úlohu v celosvětovém měřítku“. Oproti tomu americká administrativa se sice ještě za prezidenta Joe Bidena snažila řešit regulaci AI prostřednictvím exekutivního příkazu z roku 2023, ten však byl zrušen prezidentem Donaldem Trumpem.
Otázky ohledně účinnosti a vymahatelnosti takových regulací nicméně přetrvávají, protože rozlišit obsah generovaný umělou inteligencí od autentického materiálu je stále obtížnější. Pokus společnosti Meta o zavedení označení „Made with AI“ na Facebooku, Instagramu a Threads v loňském roce se okamžitě setkal s problémy, když systém nesprávně označil pravé fotografie jako vytvořené umělou inteligencí.
Mezitím obsah vytvořený AI dál zaplavuje online prostor. Portál Futurism nedávno informoval, že vyhledávání na Pinterestu vrací převážně výsledky vytvořené umělou inteligencí, přičemž většina obrázků na to, že jsou vytvořené umělou inteligencí, nijak neupozorňuje.
Nové čínské předpisy mají vstoupit v platnost 1. září.
PŘEDPLATNÉ
ČLÁNKY DO MAILU