Společnost Google DeepMind zveřejnila obsáhlý 145stránkový dokument o svém bezpečnostním přístupu k obecné umělé inteligenci (Artificial general intelligence, AGI), v němž předpovídá, že takové systémy by mohly vzniknout do konce tohoto desetiletí.
Dokument, na jehož vzniku se podílel i spoluzakladatel společnosti DeepMind Shane Legg, definuje AGI jako umělou inteligenci, která „má schopnosti odpovídající alespoň 99. percentilu kvalifikovaných dospělých v široké škále nefyzických úkolů, včetně metakognitivních úkolů, jako je učení se novým dovednostem“.
Máme nové jméno
Po více než třech dekádách existence otvírá magazín Computerworld novou kapitolu. Tradiční průvodce světem IT, který si za 36 let existence vybudoval pověst jednoho z nejdůvěryhodnějších tuzemských zdrojů pro IT profesionály, se od nynějška jmenuje Computertrends.
„Transformační povaha AGI má potenciál být neuvěřitelně přínosná, ale také napáchat závažné škody,“ píší autoři. „V důsledku toho je pro zodpovědné budování AGI zásadní, aby vývojáři aktivně plánovali zmírnění těchto potenciálních závažných škod.“
Článek zároveň odlišuje přístup společnosti DeepMind od konkurentů, jako jsou Anthropic a OpenAI. Tvrdí, že Anthropic klade menší důraz na „robustní trénink, monitorování a bezpečnost“, zatímco společnost OpenAI se až příliš zaměřuje na „automatizaci“ bezpečnosti AI, respektive je příliš optimistická v otázkách tzv. AI Alignmentu, tedy předpokladu, že AI bude jednat v souladu s hodnotami a záměry svých tvůrců.
Autoři textu, na který upozorňuje web Tech Crunch, sice vyjadřují skepsi ohledně brzkého vzniku superinteligentní AI bez „významných architektonických inovací“, ale považují za pravděpodobné, že současné přístupy by mohly umožnit „rekurzivní zlepšování“, kdy AI provádí vlastní výzkum s cílem vytvořit sofistikovanější AI systémy. To by však mohlo být potenciálně nebezpečné.
Chcete dostávat do mailu týdenní přehled článků z Computertrends? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
Jádrem článku je obhajoba vývoje technik, které zabrání špatným aktérům v přístupu k AGI, zlepší porozumění činnostem AI systémů a vylepší prostředí, v němž AI funguje.
Někteří odborníci však zůstávají nepřesvědčeni. Heidy Khlaafová z AI Now Institute, řekla serveru TechCrunch, že AGI jako koncept je příliš špatně definován na to, aby mohl být „přísně vědecky vyhodnocen“. Matthew Guzdial z University of Alberta pro změnu zpochybnil proveditelnost rekurzivního zlepšování AI a poznamenal, že „jsme nikdy neviděli žádný důkaz o tom, že by to fungovalo“.
Sandra Wachterová, výzkumnice z Oxfordu, zase naznačila, že bezprostřednějším problémem je formování AI systémů prostřednictvím „nepřesných výstupů“, tedy fakt, že AI se v podstatě učí na základě vlastních halucinací.
„V tuto chvíli se chatboti používají převážně za účelem vyhledávání a zjišťování pravdy. To znamená, že jsme neustále vystaveni riziku, že nám budou předkládány nepravdy a my jim uvěříme, protože jsou prezentovány velmi přesvědčivým způsobem," uvedla Wachterová pro TechCrunch.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU