Nejnovější součástí portfolia IBM je agent Bob, postavený na principu agentic AI, tedy samostatně jednajících systémů schopných plánovat a provádět dílčí úkony bez neustálého zadávání instrukcí člověkem. Cesta k němu začala už v roce 2021, kdy IBM vytvořila jednodušší pomocníka pro vývojáře. Za několik let se z něj vyvinul plnohodnotný AI agent, který dnes zvládá podstatně širší okruh úkolů.
Bob je optimalizovaný na práci se softwarem a technologiemi IBM. Pomáhá s psaním kódu, nasazením aplikací i úpravou existujícího kódu, přičemž veškeré zásahy jde zpětně auditovat.
„Cena nasazení se pohybuje v řádu tisíc dolarů na uživatele ročně, respektive pod tisíc dolarů měsíčně při intenzivnějším využití. Ve srovnání s náklady na vývojáře, do kterých patří mzda i další benefity, jde o zlomek částky,“ říká Fridrich Matejík.
Jak Bob funguje v praxi, ukazuje zákazník využívající platformu QRadar pro správu bezpečnostních incidentů. Bobovi pomáhá vytvářet playbooky, tedy definovat podmínky, za kterých má systém hlásit bezpečnostní incident, a jaké korelace k takovému vyhodnocení vedou. Úkony, které by jinak zabraly hodiny práce analytika, tak zvládá v řádu minut. V Česku má IBM Boba nasazeného u několika zákazníků a v následujících měsících počítá s dalším rozšířením.
Zajímavou vlastností agenta je, že dokáže pracovat i s uživateli bez programátorského vzdělání, pokud dostanou přesně formulované zadání.
„Pokud zadání zůstane obecné, výstup bude taky obecný. Čím konkrétnější dotaz zadáte, tím míň času potom strávíte dolaďováním výsledku,“ vysvětluje Matejík.
Nasazení Boba přitom nezůstává jen u vývoje software. V IBM se agent využívá i při řešení interní HR agendy, kde zaměstnanci s běžnými dotazy ohledně zbývající dovolené nebo nemocenské nevolají na personální oddělení, ale obrátí se na chatbota, který odpoví přímo nebo odkáže na příslušný formulář.
Samostatnou kapitolu tvoří práce s mainframy a jazykem Cobol, na kterém stále běží aplikace řady největších světových firem. Nástroj Watson X Code Assist umožňuje programovat v Javě a systém následně kód automaticky převede do cobolovského prostředí. Toto řešení už nasadil i jeden slovenský zákazník.
Chcete dostávat do mailu týdenní přehled článků z Computertrends? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
Platforma Watson X jako základ pro nasazení AI
Za agentem Bobem stojí širší technologická základna, kterou tvoří platforma Watson X. IBM ji v posledních třech až čtyřech letech proměnila z jednotlivého produktu na centrální řešení, na němž lze provozovat, trénovat i nasazovat prakticky libovolný jazykový model.
„Správa platformy nevyžaduje datovou vědu. Software se dokáže naučit prakticky kdokoli, kdo si ho koupí,“ popisuje Matejík.
Na této platformě IBM ukazuje možnosti využití AI u řady konkrétních projektů. Jedním z nich je přepis výslechů datových subjektů pro Finanční ředitelství v Česku, testovaný v pražském Client Engineering Labu: systém nabízí možnost automaticky identifikovat jednotlivé účastníky výslechu a po jeho skončení metodou speech-to-text umí vygenerovat formulář k podpisu. Na Slovensku IBM nasadila systém pro vyhodnocování žádostí cizinců o pobyt, kde AI předem posoudí, zda žádost splňuje podmínky, a připraví podklad pro rozhodnutí policisty. Vedle toho platforma slouží i k automatizaci call center a podpoře klientů.
Druhým pilířem infrastruktury je platforma Fusion, postavená na kontejnerech OpenShift v souvislosti s vlastnictvím Red Hatu. Díky Fusionu mohou firmy přesouvat AI řešení mezi cloudem, on-premise infrastrukturou a různými cloudovými poskytovateli, včetně IBM Cloudu, Microsoftu, Amazonu a Googlu.
Volba mezi cloudem a on-premise provozem
Rozhodování mezi cloudovým a on-premise nasazením AI se stále více odvíjí od otázky datové suverenity.
„Klíčová státní data a registry by měly zůstat ve vlastnictví státu, kde on-premise řešení dává jednoznačný smysl,“ říká Matejík. Firmy s menším počtem konkrétních use case naopak často sáhnou po dočasné cloudové službě. Podobnou úvahu vede i bankovní sektor, který zvažuje, jaká data si nechat u sebe a jaká přesunout do cloudu.
Význam mobility dat dobře ukazuje případ Ukrajiny, kde vysoká propojenost datových center umožňuje přesun celého řešení mezi lokalitami v řádu půl hodiny. Tuto flexibilitu zajišťuje kontejnerizace postavená na platformě OpenShift a podle Matejíka se z ní pro globální firmy pomalu stává téměř standardní požadavek.
Jednotlivé modely provozu se navíc dají kombinovat. Když zákazník potřebuje dočasně zpracovat větší objem dat, například deset tisíc dokumentů s obrazovými přílohami ve vysokém rozlišení, na omezenou dobu si dokoupí cloudový výkon, data zpracuje a výsledek pak stáhne zpět do vlastní infrastruktury.
Náklady na hardware pro AI infrastrukturu
Při stavbě firemního AI řešení stojí organizace na začátku před volbou mezi cloudem a on-premise provozem. Vybudování vlastní on-premise AI infrastruktury přitom představuje poměrně komplexní investici. Zahrnuje management nody, výpočetní worker nody i uzly s akcelerátory GPU, k nimž se přidává perzistentní úložiště dat a odpovídající síťová infrastruktura.
„Vstupní náklady na takovou investici jsou poměrně vysoké a v posledních dvou čtvrtletích navíc citelně rostou,“ konstatuje Matejík.
Rozhodující je nakonec míra vytížení infrastruktury. Standardní on-premise řešení dokáže velmi rychle narazit na limit kapacity, pokud na něm běží deset až dvanáct aktivně provozovaných AI modelů najednou – od chatbotu pro občany přes interního vývojářského agenta Boba až po zpracování dokumentů. Řešením potom bývá rozložení úloh v čase: náročnější zpracování dokumentů a obrazových dat se přesune na noční hodiny, kdy nejsou vytíženy veřejné portály, a výkon se tak rovnoměrně rozloží po celý den.
Situaci komplikuje i celkový vývoj trhu s hardwarem. Ceny v posledních měsících rostou, což se promítá i do cen cloudových služeb, a prodlužují se i dodací lhůty – z původních pěti až šesti týdnů na dva až tři měsíce.
„Problém s dostupností komponent má globální charakter a netýká se jen IBM,“ dodává Matejík. Firma proto zákazníkům garantuje fixaci ceny po dobu několika měsíců od uzavření dohody.
Kvalita dat a governance jako podmínka spolehlivého nasazení
Samotná infrastruktura a model tvoří jen část celého řešení. Stejně důležité je čištění a příprava dat před tréninkem modelu a dodržení principů governance, tedy schopnosti doložit, z jakých dat AI čerpala a jak dospěla k danému výstupu. Tento požadavek ostatně vyplývá i z legislativy Evropské unie. Governance modul poskytuje přehled o datech, ze kterých byl model vytvořen, a slouží jako podklad pro auditní týmy.
„Běžná míra korektnosti výstupů se pohybuje kolem devadesáti až devadesáti pěti procent,“ uvádí Matejík. V kritických oblastech proto zůstává nutná finální kontrola člověkem.
Posun od jednoduchých chatbotů k integraci do firemních systémů
Poptávka zákazníků se v posledních letech přesouvá jinam. Zatímco dřív šlo hlavně o jednoduché chatboty fungující na principu rozhodovacích stromů, dnes firmy stále častěji hledají způsob, jak AI integrovat do svých existujících systémů.
Tento posun přináší další vrstvu komplexity, spojenou s řízením přístupových práv, business process managementem, zabezpečením uložených dat a návazností na stávající aplikace, ať jde o systémy veřejné správy nebo interní firemní procesy.
Úspěch konkrétního use case pak závisí především na dostupném objemu kvalitních dat. IBM se v tomto ohledu soustředí primárně na dodávku infrastruktury a platformy, samotnou implementaci realizuje síť partnerů.
Kvantové počítače jako další vývojový krok
Matejík považuje současné jazykové modely za pravděpodobně přechodnou fázi vývoje umělé inteligence. IBM proto spolupracuje s ČVUT a dalšími sedmi institucemi v Česku, mezi které patří Akademie obrany, Akademie věd, Karlova univerzita a Západočeská univerzita, v rámci Kvantového inovačního centra sídlícího na ČVUT. Zapojené instituce využívají kvantové počítače IBM formou cloudu pro vlastní výzkum, od chemie po matematicko-fyzikální úlohy.
Významným tématem zůstává postkvantová bezpečnost a šifrování, kde IBM vlastní řadu globálních patentů na šifry odolné vůči kvantovým počítačům.
„IBM je jedinou společností, která dokáže spojovat více kvantových procesorů do jednoho systému, zatímco konkurence se soustředí na zdokonalování jednotlivých čipů,“ říká Matejík. Odhad dostupnosti standardního komerčního kvantového počítače se navíc posunul z roku dva tisíce třicet tři na rok dva tisíce dvacet devět.
Kvantový počítač podle něj přesto nenahradí standardní superpočítače, jen převezme část úloh, které klasické systémy nedokážou efektivně řešit. Obě technologie budou existovat paralelně, každá ve své oblasti využití.
„Podíl AI na celkovém byznysu IBM odhaduji na deset a více procent, přičemž vývoj v Česku a na Slovensku zhruba odpovídá globálním trendům firmy,“ uzavírá Matejík.
Do nárůstu obratu se ale promítá i zdražování jednotlivých komponent, nejde tedy výhradně o čistý efekt poptávky po AI řešeních.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU