Recursive Self-Improvement (RSI) pomeni, da AI-sistem ne izboljšuje samo svojih odgovorov, ampak postopoma izboljšuje tudi orodja, postopke ali mehanizme, s katerimi izboljšuje samega sebe. Omejene oblike že obstajajo pri programskih agentih in optimizaciji algoritmov, ne poznamo pa javno potrjenega sistema, ki bi brez človeka neomejeno izboljševal svoj temeljni model.
Recursive Self-Improvement (RSI) oziroma
rekurzivno samoizboljševanje pomeni proces, v katerem sistem umetne inteligence ne izboljšuje samo svojih rezultatov, ampak začne izboljševati tudi mehanizem, s katerim izboljšuje samega sebe.
To je pomembna razlika. Če AI desetkrat popravi isti odgovor, gre predvsem za iterativno samopopravljanje. Če spremeni svoje pozive, orodja, spomin ali programsko kodo, gre za samoizboljševanje sistema. Če pa izboljša tudi sam postopek, po katerem odkriva in uvaja naslednje izboljšave, govorimo o rekurzivnem samoizboljševanju v ožjem pomenu.
Po pregledu primarnih raziskav in mednarodnega poročila o varnosti AI je trenutni sklep zadržan: omejene oblike RSI že obstajajo in so bile eksperimentalno prikazane, predvsem pri programskih agentih, optimizaciji algoritmov in agentnih skills. Ni pa javno potrjenega sistema, ki bi brez človeške pomoči neomejeno izboljševal lasten temeljni model in ustvarjal vedno sposobnejše naslednike.
Od kod izvira ideja?
Koncept izhaja iz dela britanskega matematika I. J. Gooda iz leta 1965. Good je razmišljal, da bi dovolj inteligentna naprava lahko izboljšala načrtovanje inteligentnih naprav. Boljša naprava bi nato še hitreje izdelala naslednjo, še sposobnejšo različico. Tako bi lahko nastala pozitivna povratna zanka oziroma tako imenovana eksplozija inteligence.
V bolj formalni obliki je zamisel pozneje razvil Jürgen Schmidhuber s konceptom Gödlovega stroja. Tak sistem bi lahko spreminjal katerikoli del lastne kode, vendar samo, če bi matematično dokazal, da bo sprememba povečala njegovo pričakovano korist. Gre za teoretično eleganten model, vendar je dokazovanje koristnosti kompleksnih sprememb v resničnih sistemih praviloma računsko neizvedljivo. Schmidhuberjev članek o Gödlovem stroju
Kaj mora sistem izboljševati, da gre res za RSI?
AI-sistem lahko spreminja več različnih plasti. Ni vsaka sprememba že RSI. Najbolj pomembna meja je med izboljševanjem izhoda in izboljševanjem postopka, ki te izboljšave sploh išče.
Sistem se izboljšuje, metoda izboljševanja ostaja ista.
Sistem išče tudi boljši način iskanja boljših rešitev.
Sistem torej ne išče samo boljših rešitev
, ampak tudi boljši način iskanja boljših rešitev. To je srčika rekurzije: izboljšava se preseli iz rezultata na metodo.
Kako se RSI tehnično izvaja?
Najpogostejši pristop je kombinacija generiranja različic, avtomatiziranega testiranja in selekcije. V praksi to bolj spominja na strogo nadzorovan razvojni laboratorij kot na filmski prizor, kjer se sistem kar sam prebudi.
izhodišče, ki ga želimo izboljšati
koda, prompti, orodja, skills ali konfiguracija
izolirano izvajanje brez produkcijskih skrivnosti
merjenje kakovosti, stroškov, hitrosti in varnosti
boljši kandidati postanejo nova osnova
sistem prilagodi še način, kako išče naslednje izboljšave
Razvijalec najprej določi
, kaj pomeni izboljšanje: višja natančnost, manj napak, hitrejša izvedba, nižji strošek, boljša posplošitev ali kombinacija več meril. Sistem nato dobi začetni program, agenta, poziv, skill ali učni postopek. LLM predlaga spremembe kode, postopkov, uporabe orodij, spomina ali konfiguracije modela, nova različica pa se izvede v izoliranem okolju.
Kandidati dobijo rezultate na testih. Pri programiranju so to lahko enotski testi, hitrost in poraba pomnilnika; pri agentih pa uspešnost nalog, cena, število korakov in varnost. Najuspešnejše različice se shranijo v arhiv. Pri bolj naprednih pristopih se začne spreminjati tudi način izbire kandidatov, analiziranja napak ali razporejanja računske moči.
Kaj je bilo dejansko že prikazano?
Voyager je agent za Minecraft, ki uporablja GPT-4, povratne informacije iz okolja in vedno večjo knjižnico programskih spretnosti. Uspešne rešitve shrani in jih pozneje sestavlja v kompleksnejše vedenje. Pri tem ne spreminja uteži GPT-4, zato gre za vseživljenjsko agentno učenje, ne za popolno RSI. Raziskava Voyager
Pri sistemu STOP so raziskovalci pripravili začetni program, katerega naloga je izboljševanje drugih programov. Nato so mu dovolili, da izboljša tudi samega sebe. Avtorji izrecno opozarjajo, da to še ni popolna RSI, ker se osnovni GPT-4 ni spreminjal. Spreminjala se je programska konstrukcija okoli njega. Raziskava STOP
Pri pristopu Self-Rewarding Language Models jezikovni model ustvarja odgovore in jih hkrati ocenjuje kot sodnik. Iz ocen nastanejo preferenčni učni podatki, s katerimi se model ponovno uči. Težava je očitna: če imata generator in ocenjevalec enake sistematične napake, jih lahko zanka še okrepi. Self-Rewarding Language Models
Darwin Gödel Machine spreminja lastno kodo programskega agenta, preizkusi novo različico na programerskih nalogah in uspešne različice shrani v razvojno drevo. Pomembna omejitev ostaja, da je osnovni jezikovni model zunanji temeljni model. Izboljšuje se agentna infrastruktura, ne celoten model. Darwin Gödel Machine
Googlov AlphaEvolve uporablja modele Gemini za izdelavo sprememb programske kode. Avtomatizirani ocenjevalniki preverijo pravilnost in kakovost rešitev, evolucijski algoritem pa izbere najboljše kandidate za naslednjo generacijo. Posebej zanimivo je, da je sistem optimiziral tudi komponento infrastrukture, uporabljene za učenje modela, na katerem temelji tudi sam. Toda človek je še vedno določil problem, začetni program in ocenjevalno funkcijo. AlphaEvolve – raziskovalno poročilo in opis postopka Google Cloud
MetaSkill-Evolve opisuje sistem, ki izboljšuje agentne skills in hkrati meta-skills: način analiziranja napak, iskanja prejšnjih izkušenj, dodeljevanja računskega proračuna in predlaganja sprememb. Osnovni model ostane zamrznjen, zato gre za omejeno enonivojsko rekurzijo. MetaSkill-Evolve
Zakaj boljši rezultat še ne pomeni večje inteligence?
Največja težava RSI ni izdelava sprememb, ampak ugotavljanje, ali so spremembe res koristne. Sistem lahko izboljša rezultat testa tako, da se prilagodi konkretnim testnim primerom, odkrije napako v ocenjevalniku, zmanjša kakovost na področjih, ki niso merjena, ali ustvari pravilne odgovore iz napačnih razlogov.
To je problem reward hackinga
oziroma izigravanja merila. Raziskava Concrete Problems in AI Safety ga obravnava kot enega temeljnih tehničnih problemov varnosti AI. Concrete Problems in AI Safety Zato resno ocenjevanje potrebuje ločene učne, validacijske in skrite testne podatke, varnostne teste, meritve stroškov ter preverjanje, ali izboljšava deluje tudi v novih okoliščinah.
Glavne omejitve današnje RSI
Ocenjevalnik je ozko grlo. Najlažje je izboljševati naloge, kjer lahko rezultat hitro in objektivno preverimo. Osnovni model pogosto ostaja nespremenjen: spreminjajo se skills, spomin, orodja in koda okoli njega. Daljše naloge ostajajo težavne. Na RE-Bench so bili agenti boljši od človeških strokovnjakov pri krajšem dvournem proračunu, ljudje pa so se bolje izboljševali z daljšim časom in bili pri 32 urah približno dvakrat uspešnejši. RE-Bench
Veliki poskusi imajo tudi počasno povratno informacijo. Učenje temeljnega modela lahko traja tedne ter zahteva ogromno energije in strojne opreme. Izboljšave imajo padajoče donose, AI pa ne nadzoruje celotne dobavne verige: še vedno potrebuje podatke, čipe, elektriko, infrastrukturo in dostop, ki ga praviloma upravljajo ljudje.
Najpomembnejša tveganja
Največja neposredna nevarnost ni, da bi se današnji chatbot čez noč spontano spremenil v superinteligenco. Bolj realna tveganja so hitro širjenje napačno zastavljenega cilja, izigravanje testov in nagrad, kopičenje težko opaznih varnostnih napak, izguba sledljivosti sprememb, samodejno ustvarjanje nevarne kode in prehitra uvedba sprememb brez človeškega preverjanja.
Mednarodno poročilo o varnosti AI iz februarja 2026 ugotavlja, da sedanji sistemi še nimajo sposobnosti, potrebnih za dejanski scenarij izgube nadzora. Hkrati opozarja, da se izboljšujejo pri avtonomnem delovanju, programiranju in podpori raziskavam AI. Dokazi o povratnih zankah, kjer AI avtomatizira lasten razvoj, so za zdaj še omejeni in mešani. International AI Safety Report 2026
Kako bi morala biti RSI varno izvedena?
- zunanja opredelitev ciljev in prepovedi
- izoliran peskovnik brez produkcijskih gesel
- neodvisen ocenjevalnik
- skriti in adversarialni testi
- omejitve časa, denarja in generacij
- verzioniranje in možnost vrnitve nazaj
- človeška odobritev pred produkcijo
- samodejna ustavitev ob obhodih omejitev
Končna ocena
Recursive Self-Improvement ni zgolj znanstvena fantastika. Njegovi osnovni gradniki že delujejo: AI lahko analizira napake, piše in spreminja kodo, ustvarja nove učne podatke, izboljšuje skills, izbira boljše različice ter optimizira dele infrastrukture za razvoj AI.
Toda med tem in popolnoma avtonomno inteligenco, ki bi neomejeno izdelovala vedno pametnejše različice same sebe, je še velika razlika. Današnje RSI je predvsem omejeno, merjeno in odvisno od zunanjega modela, človeško določenega cilja ter avtomatiziranega preverjanja.
Najbolj natančen opis trenutnega stanja bi bil: AI že zna izboljševati posamezne dele svojega sistema in v nekaterih eksperimentih tudi svoj postopek izboljševanja, vendar še ne obvladuje celotnega procesa lastnega razvoja.
Pogosta vprašanja o RSI
Ali današnji AI-sistemi že izvajajo popolno RSI?
Ne. Obstajajo omejene oblike samoizboljševanja agentov, kode, skills in ocenjevalnih postopkov, ne pa javno potrjena neomejena zanka, kjer bi sistem samostojno izboljševal svoj temeljni model in celoten razvojni proces.
Zakaj je ocenjevalnik tako pomemben?
Ker sistem lahko optimizira merilo, ne pa nujno resnične kakovosti. Če je test slab, se lahko izboljša rezultat testa, hkrati pa poslabša uporabnost, varnost ali zanesljivost.
Kaj je danes najbolj praktična oblika RSI?
Najbolj praktična je omejena agentna zanka: AI predlaga spremembe, sistem jih izvede v peskovniku, neodvisni testi jih ocenijo, človek pa odobri uporabo.