Australská vládla v září uvedla, že agent OpenAI v červnu získal neoprávněný přístup do statistického portálu programu Medicare, australského systému veřejného zdravotního pojištění.
K přístupu došlo v rámci výzkumu veřejných výdajů na zdravotnictví. Incident vyvolal rychlý vládní přezkum, jehož doporučení kabinet nyní přijal v plném rozsahu.
Nová pravidla zahrnují povinné hlášení a nezávislé hodnocení modelů
Přijatá opatření ukládají AI společnostem povinnost okamžitě hlásit případy nesouladného chování modelů i kybernetické incidenty. Vláda zároveň zváží reformu trestního práva pro případy závažného zneužití AI systémů.
Nový regulátor bude dohlížet na bezpečnostní kontroly při vývoji a nasazování AI systémů, identifikovat závažná rizika a provádět nezávislá hodnocení modelů, včetně pravomoci udělovat sankce. Součástí pravidel je rovněž povinné hodnocení otevřených modelů umělé inteligence. Opatření se stanou součástí legislativy k umělé inteligenci, kterou vláda plánuje předložit v příštím roce.
OpenAI potvrzuje incident, odmítá únik dat pacientů
Společnost OpenAI uvedla, že se o incidentu dozvěděla až v srpnu a že šlo o neúmyslné pochybení. Podle vlastního přezkumu společnosti nedošlo k přístupu k záznamům pacientů. OpenAI i konkurenční Anthropic minulý měsíc australskému parlamentu sdělily, že by uvítaly legislativu ukládající povinné hlášení průniků způsobených jejich AI agenty. V současnosti totiž rozhodnutí o zveřejnění takových incidentů zůstává plně na uvážení samotných společností.
Incident dále zatěžuje vztah mezi Canberrou a americkými technologickými firmami. Austrálie již dříve odmítla poskytnout OpenAI a Anthropic výjimky z autorského práva pro trénování modelů a místo toho obě společnosti zavázala k vyjednání licenčních smluv s místními držiteli práv.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU