Velké jazykové modely (LLM), jako jsou LLaMA nebo GPT, jsou základem moderních AI aplikací zpracování přirozeného jazyka. Tyto modely však mají velmi vysoké paměťové a výpočetní nároky, což výrazně omezuje jejich škálovatelnost a dostupnost mimo špičkové datové centrum. Právě zde přichází na scénu inovativní metoda ButterflyQuant, která umožňuje drasticky zmenšit velikost modelu a zvýšit efektivitu jeho provozu.