Jak vnímáte, coby expertka IBM na umělou inteligenci, změny, které AI v posledních letech přinesla do podnikového prostředí?
Umělá inteligence se v posledních letech enormně vyvinula. V IBM se zabýváme vývojem AI již více než deset let – začali jsme s AI, kdy se pozornost soustředila hlavně na strojové učení a prediktivní modely. Dnes, s příchodem základních modelů, získala AI zcela novou dimenzi – dimenzi, která umožňuje kreativitu, uvažování a automatizaci ve velkém měřítku. Skutečná příležitost nyní spočívá v tom, pomoci podnikům využít tento potenciál pro měřitelnou produktivitu a dopad.
Mají dnes běžní uživatelé snazší přístup k AI než samotné společnosti?
Ano. Generativní AI je nyní přístupná prakticky všem – nástroje jako ChatGPT se snadno používají pro rychlé dotazy nebo shrnutí. Pro jednotlivce je tato přístupnost transformativní. Pro společnosti je však výzva jiná: získat odpověď je snadné, ale začlenit AI do pracovních postupů, které zvyšují příjmy a rozsah, je mnohem těžší.
Proč je tedy pro firmy tak obtížné AI skutečně používat?
Těžké není vytvoření modelu, ale integrace AI do skutečného fungování firem. Firemní data musí být propojena, spravována a zabezpečená. Mnoho organizací pracuje s nepropojenými systémy a manuálními pracovními postupy. Skutečný potenciál AI spočívá v koordinaci těchto systémů – propojování poznatků, automatizaci předávání a zrychlení rozhodování v celé firmě.
Jaký je podle vás nejlepší postup pro společnosti, které chtějí začít s AI?
Začněte v malém, ale začněte skutečně. Propojení generativní AI s vlastními daty vaší společnosti je dobrý první krok, ale skutečný pokrok nastane, když se AI stane aktivním účastníkem pracovních postupů – nejen že bude odpovídat na otázky, ale bude také plnit úkoly. Automatizace jednoduchých procesů, jako je kontrola zůstatku dovolené nebo třídění životopisů, pomáhá organizacím pochopit, jak AI může zefektivnit práci a škálovat ji v průběhu času.
Je hlavní výhodou úspora nákladů, nebo spíše úspora času?
Jde především o čas. Největší hodnota AI spočívá v tom, že osvobozuje lidi od opakujících se úkolů s nízkou hodnotou, aby se mohli soustředit na práci, která skutečně posouvá podnikání vpřed. Následuje nákladová efektivita, ale skutečnou návratností investic je lidská produktivita a chytřejší využití času.
Jak dlouho lze po nasazení AI očekávat viditelné výsledky?
S správnými daty a týmem se výsledky mohou objevit během několika týdnů. Vytvoření agenta je rychlé; skutečná práce – a hodnota – spočívá v jeho integraci a zabezpečení ve výrobě.
Kdo by měl být zodpovědný za rozhodnutí a akce agentů AI?
To je složitá otázka. U tradičního softwaru nese odpovědnost vývojář, ale agenti AI jsou autonomní – jejich chování se může vyvíjet s tím, jak se mění modely a data. To znamená, že odpovědnost musí být sdílená: od autora a správce až po organizaci, která řídí jejich použití.
Chcete dostávat do mailu týdenní přehled článků z Computertrends? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
Testování nemůže skončit nasazením; chování agentů vyžaduje neustálé sledování a hodnocení, zejména při aktualizaci modelů nebo dat – a my víme, jak rychle se oba vyvíjejí. Častá validace a opatrné nasazení jsou nezbytné pro udržení důvěry a bezpečnosti.
Počáteční nadšení pro demokratizaci AI vedlo k tomu, že si každý vytvářel své vlastní agenty, což často vedlo k duplicitě, neefektivitě a dokonce i riziku. Společnosti nyní směřují k centralizovanému dohledu, obvykle pod vedením Chief AI Officer nebo ekvivalentní funkce, která je zodpovědná za stanovení standardů, přezkoumání dopadu a zajištění toho, aby agenti byli hodnotní a řízeni.
Jak IBM řeší otázku bezpečnosti a přístupových práv pro agenty AI?
V IBM jsou bezpečnost a správa zabudovány do každého kroku vývoje AI. Agenti pracují pod přísnou správou oprávnění – mohou provádět pouze akce, ke kterým jsou jejich uživatelé oprávněni, nikdy více. Každá akce musí být auditovatelná, reverzibilní a v souladu s politikou společnosti. Správa, bezpečnost a kontrolovaný přístup nejsou doplňky; jsou základem toho, jak navrhujeme a nasazujeme agenty AI.
Jaká rizika přináší situace, kdy agenti řídí jiné agenty?
Největší riziko spočívá v předávání a dědičnosti oprávnění. Když jeden agent deleguje nebo dává pokyny jinému, může dojít k neúmyslnému eskalaci přístupových práv. Proto je neustálý dohled uživatelů tak důležitý. V IBM například nepovolujeme agentům učení v reálném čase, abychom minimalizovali riziko nekontrolovaného chování nebo eskalace oprávnění.
Mění se chování AI v průběhu času? Máte konkrétní zkušenosti?
Ano. I široce používané modely, jako je ChatGPT, ukazují, že styl a kvalita odpovědí se mohou v průběhu času vyvíjet, jak se aktualizují modely a data. S tím, jak se systémy AI rozšiřují a stávají se autonomnějšími, bude tato otázka stále důležitější. Transparentnost, sledovatelnost a schopnost kdykoli zkontrolovat nebo zvrátit akce agenta jsou nezbytné pro udržení důvěry a kontroly.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU