Anthropic reaguje na obvinění, že ve své právní bitvě proti hudebním vydavatelům použila zdroj vytvořený umělou inteligencí, a uvedla, že její chatbot Claude udělal „upřímnou citační chybu“.
Chybná citace byla uvedena v podání, které 30. dubna předložila datová vědkyně společnosti Anthropic Olivia Chenová v rámci obrany proti tvrzení, že k tréninku AI modelu Claude byly použity texty písní chráněné autorskými právy. Právník zastupující několik hudebních vydavatelství argumentoval, že zdroje uvedené v podání Chenové jsou „naprostým výmyslem“ a naznačují, že byly halucinovány přímo Claudem.
Využívají vaši zaměstnanci pokročilou datovou analytiku?
Anthropic tyto chyby připouští – obhajoba prý skutečně k formátování právních citací použila Claude a i když některé části (jako např. správné odkazy) výsledného dokumentu lidská kontrola odhalila a opravila, jiné, včetně některých smyšlených textací, zůstaly neodhaleny.
„Bohužel, ačkoli Claude uvedl správně název publikace, rok vydání i odkaz na poskytnutý zdroj, vrácená citace obsahovala nepřesný název a nesprávné autory,“ uvedla následně právní zástupkyně Anthropicu Ivana Dukanovicová. Za způsobenou chybu se omluvila a označila ji za „ostudnou a neúmyslnou“.
Chcete dostávat do mailu týdenní přehled článků z Computertrends? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
Jak uvádí magazín The Verge, jedná se o další z množících se případů toho, jak používání nástrojů umělé inteligence pro právní citace způsobuje problémy v soudních síních.
Před pár dny kupříkladu kalifornský soudce pokáral dvě právní firmy za to, že neoznámily, že k vytvoření doplňujícího spisu plného „falešných“ materiálů, které „neexistovaly“, použily umělou inteligenci. V jiném případu například loni v prosinci jistý Jeff Hancock, odborník na dezinformace, přiznal, že pro své právní podání použil ChatGPT, aniž by si všiml, že nástroj si v něm několik citací vymyslel.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU