Kalifornie má nakročeno stát se prvním státem, který bude regulovat AI chatboty. Děje se tak po tragickém případu, který poukázal na potenciální nebezpečí, které technologie představuje pro zranitelné uživatele. Návrh příslušného zákona už čeká jen na podpis guvernéra Gavina Newsoma. Pokud jej schválí, vstoupí zákon v platnost od začátku příštího roku.
Legislativa nabírá na obrátkách po smrti teenagera Adama Rainea, který spáchal sebevraždu po dlouhých rozhovorech s ChatGPT, během nichž diskutoval a plánoval svou smrt. Návrh zákona také reaguje na uniklé interní dokumenty, které údajně ukazují, že chatboty společnosti Meta mohly vést „romantické“ a „smyslné“ rozhovory s dětmi.
„Škoda může být potenciálně velká, což znamená, že musíme jednat rychle,“ řekl senátor Steve Padilla, jeden z předkladatelů návrhu zákona. „Můžeme zavést rozumná bezpečnostní opatření, abychom zajistili, že zejména nezletilí budou vědět, že nemluví se skutečným člověkem, a že tyto platformy propojí lidi s vhodnými zdroji, když lidé řeknou, že uvažují o sebepoškozování nebo že jsou v nouzi.“
Pokud bude návrh zákona podepsán, platformy by zavazoval k zavedení nových bezpečnostních opatření.
Mezi ně patří zabránění chatbotům v konverzacích s uživateli o sebevraždě, sebepoškozování nebo sexuálně explicitním obsahu. Jejich tvůrci by také museli pravidelně připomínat – u nezletilých každé tři hodiny –, že uživatelé komunikují s AI, nikoli se skutečnými lidmi, a že by si měli dělat přestávky.
Snad nejvýznamnější ale je, že zákon by umožňoval osobám, které se domnívají, že jim byla způsobena újma, žalovat společnosti zabývající se AI až o 1 000 dolarů za každé porušení, plus náhradu škody a náklady na právní zastoupení.
Legislativa přichází na přetřes v době, kdy federální úřady zintenzivňují kontrolu platforem umělé inteligence. Federální obchodní komise se chystá vyšetřovat, jak chatboty s umělou inteligencí ovlivňují duševní zdraví dětí, zatímco texaský generální prokurátor Ken Paxton zahájil vyšetřování společností Meta a Character.AI. Senátoři Josh Hawley a Ed Markey rovněž zahájili samostatná vyšetřování praktik společnosti Meta.
Tento regulační tlak se však ze strany průmyslu setkává s významným odporem. Společnosti ze Silicon Valley investují miliony dolarů do politických akčních výborů podporujících kandidáty, kteří jsou pro mírnější regulaci umělé inteligence. Společnost OpenAI dokonce napsala přímo guvernérovi Newsomovi a požádala ho, aby upustil od dalšího návrhu zákona o bezpečnosti AI ve prospěch méně přísných federálních rámců.
Padilla však odmítá myšlenku, že inovace a bezpečnost jsou neslučitelné. „Odmítám předpoklad, že by se inovace a regulace vzájemně vylučovaly,“ řekl. „Můžeme podporovat inovace a vývoj, které považujeme za zdravé a prospěšné – a tato technologie má zjevně své výhody – a zároveň můžeme poskytnout přiměřené záruky pro nejzranitelnější osoby.“
Zákon je o to důležitější, že vzniká v Kalifornii, tedy progresivního státu, od nějž mají tendence postupem času přebírat zákony i další státy USA.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU