Tokeny umělé inteligence jsou jednotky dat zpracovávané generativními modely umělé inteligence. Jejich spotřeba má přímý dopad na náklady na nástroje pro programování pomocí nástrojů umělé inteligence, zejména v rámci cenových struktur založených na spotřebě.
Používáte programovací jazyk pro vytváření či úpravu aplikací
Organizace rychle přecházejí od experimentování k rozsáhlému nasazení AI agentů pro programování s využitím umělé inteligence, ale mnohé z nich podceňují finanční dopad rostoucí spotřeby tokenů, varuje Nitish Tyagi, analytik Gartneru.
„Disciplína, co se týče spotřeby tokenů, nevznikne na základě volby vývojářů, protože ti mají tendenci upřednostňovat rychlost a pohodlí před nákladovou efektivitou. Bez řízeného provozního modelu mohou náklady stoupat rychleji než nárůst produktivity, který mají tyto nástroje přinášet.“
Co se týče dodavatelů AI agentů pro kódování s využitím umělé inteligence, přináší do softwarového inženýrství vysoce variabilní nákladové struktury.
Mnohým dodavatelům přitom chybí transparentnost ohledně způsobu výpočtu a fakturace spotřeby tokenů, což omezuje schopnost podniků přesně předpovídat a kontrolovat tyto náklady.
Bez jasného přehledu o využití tokenů v rámci vývojářských úloh ale organizace riskují překročení rozpočtu na tyto činnosti a zároveň budou mít sníženou schopnost sledovat poměr nákladů k přínosům.
Zároveň s tím, jak stále více vývojářů využívá nástroje AI, se očekává, že příležitostní uživatelé se rychle stanou mainstreamovými s tím, jak poroste jejich obeznámenost s problematikou programování s AI a jejich závislost na těchto nástrojích.
Video ke kávě
Máte čas na rychlé a informativní video?
Mezery v řízení
Tlak ohledně nákladů také způsobuje režim, jakým se agenty pro kódování pomocí AI v organizacích využívají. Nadměrné výdaje na tokeny často souvisejí s tím, jak příslušný manažer vývojářů řídí jejich využití.
Mezi běžné příčiny selhání patří neřízená autonomie v pracovních postupech řízených AI agenty, nadměrně rozsáhlá kontextová okna a absence strukturovaných mechanismů zpětné vazby pro optimalizaci využití.
„Náklady na kódování s využitím AI budou postupně stoupat, protože investice do infrastruktury a výzvy v oblasti ziskovosti tlačí ceny modelů nahoru,“ dodává Tyagi.
Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU