Ali je za vsakodnevni AI vsebinski proces cenejši en agent ali ekipa podagentov? Odgovor ni v številu imenovanih agentov, ampak v tokenih, orodjih, modelih, slikah in ponovitvah.
Kratek odgovor: en sam AI-agent je praviloma cenejši. Za resen vsakodnevni proces, kot je raziskava teme, blog članek, Facebook in LinkedIn objava ter infografike, pa je najbolj smiseln hibridni sistem: en glavni agent, programski orkestrator, cenejši pomožni agenti za rutinske naloge in ločen vizualni tok.
Ne bi gradil vsakodnevne »vojske« petih ali šestih avtonomnih agentov. Zgradil bi sistem, kjer en raziskovalno-uredniški agent drži rdečo nit, specializirani podagenti pa se vključijo samo takrat, ko zares prinesejo dodatno vrednost.
Cena ni odvisna predvsem od števila agentov
Stroška ne določa to, ali agentom damo imena, vloge in nazive. Strošek nastane drugje: pri količini vhodnih in izhodnih tokenov, pri izbranem modelu, pri številu spletnih iskanj in klicev orodij, pri podvajanju konteksta med agenti, pri številu popravkov in pri ponovnem generiranju slik.
Če trije podagenti dobijo skoraj enak opis naloge, iste vire in podobna navodila, nismo dobili trikrat več pameti zastonj. Dobili smo trikrat več obdelave konteksta.
Kaj kažejo številke iz prakse
Anthropic je pri svojem raziskovalnem sistemu objavil zelo uporabno orientacijo. Po njihovih meritvah običajni agent porabi približno 4-krat več tokenov kot navaden klepet, multiagentski sistem pa približno 15-krat več tokenov kot navaden klepet. To pomeni, da je bil multiagentski sistem v njihovem primeru približno 3,75-krat zahtevnejši od enega agenta. Hkrati je pri zahtevnih raziskovalnih nalogah njihov multiagentski sistem dosegel 90,2 % boljši rezultat od enega samega agenta na internem raziskovalnem evalvacijskem testu.
To pokaže pravo pravilo: multiagent sistemi niso cenejši, so pa lahko boljši pri težkih nalogah, kjer se raziskava naravno razdeli na več neodvisnih smeri.
Primer: dnevni vsebinski paket
Vzemimo poenostavljen dnevni proces: raziskava teme, pisanje glavnega blog članka, priprava Facebook objave, priprava LinkedIn objave, SEO naslov, meta opis in izvleček, načrt infografik, generiranje slik, končni pregled in objava.
Za tak proces je programska orkestracija običajno boljša od LLM-orkestratorja. OpenAI v dokumentaciji za Agents SDK loči med orkestracijo prek LLM-ja in orkestracijo prek kode. LLM-orkestracija je uporabna pri odprtih nalogah, programska orkestracija pa je bolj predvidljiva glede hitrosti, stroškov in delovanja.
Z drugimi besedami: če vnaprej poznamo korake, naj jih vodi program, ne drag model.
Priporočena arhitektura za Nexus proces
Lokalno gostovan LLM kot alternativa
Druga možnost je lokalno gostovan LLM, na primer prek Ollame ali llama.cpp. To je zanimivo predvsem zato, ker zmanjša neposreden API strošek in poveča zasebnost. Ollama je na voljo tudi za Windows 10 ali novejše sisteme.
A lokalni LLM ni brez omejitev. Če ima računalnik grafično kartico z 8 GB VRAM, kot je RTX 2070 SUPER, so realistični predvsem 7B ali 8B modeli v kvantizirani obliki. Ti so uporabni za osnutke, povzetke, preoblikovanje objav in interno preverjanje. Niso pa idealna zamenjava za močnejši model pri zahtevni raziskavi, kjer šteje natančnost, sinteza virov in zanesljivost.
Pri lokalnem izvajanju tudi ne bi poganjal več agentov hkrati. Več lokalnih modelov bi tekmovalo za isti VRAM, zato bi sistem lahko postal bistveno počasnejši. Boljša rešitev je zaporedna raba istega lokalnega modela z različnimi vlogami.
Najdražji del so pogosto infografike
Pri vsebinskem procesu je besedilo pogosto cenejše, kot pričakujemo. Največ nepotrebnega stroška nastane pri slikah, posebej če najprej generiramo celotno serijo, nato ugotovimo, da je zasnova napačna, in ponovimo vseh sedem slik.
Zato je boljši postopek: najprej pripravimo scenarij infografik, preverimo naslove, kratka besedila, vrstni red in slog, šele nato sprožimo generiranje slik. Logotip, footer, številčenje in ključno besedilo dodamo deterministično.
To je posebej pomembno pri slovenskih infografikah. Image modeli so vedno boljši, a pri natančnem slovenskem tekstu še vedno lahko naredijo napake. Bolj zanesljiv pristop je, da AI ustvari kakovostno vizualno osnovo, tekst pa se doda nadzorovano.
Kdaj uporabiti več podagentov
Če je tema preprosta, dodatni podagenti pogosto samo povečajo strošek. Če pa je tema široka, na primer primerjava desetih AI orodij, pregled trga ali pravno-tehnična analiza, se več podagentov lahko splača.
Končna odločitev
Za vsakodnevni AI Hub Nexus ali Katulus proces bi izbral to arhitekturo: en glavni raziskovalno-uredniški agent, n8n ali programski workflow kot orkestrator, cenejši model za Facebook, LinkedIn in SEO, lokalni LLM za osnutke in rutinske pretvorbe, ImageGPT 2 / GPT Image 2 za vizualno osnovo infografik, determinističen overlay za slovenski tekst, logo, footer in številčenje ter ročna odobritev pred javno objavo.
Najcenejši sistem je en agent. Najboljši sistem za resen dnevni proces pa je hibrid. Polnega multiagentskega sistema ne bi poganjal vsak dan. Uporabil bi ga samo takrat, ko tema zahteva širšo raziskavo in ko je dodatna kakovost vredna dodatnega stroška.