Skupnostni trening pravnega AI-agenta: znanje, blockchain in odgovornost

Pravni AI-agent ne sme biti samo jezikovni model, ki zna prepričljivo oblikovati odgovor. Pri pravnih vprašanjih štejejo veljavnost vira, jurisdikcija, datum, dejansko stanje in odgovornost za sprejeto odločitev. Model lahko napiše slovnično brezhiben odgovor, ki se sklicuje na napačen člen, zastarelo različico zakona ali celo na sodbo, ki ne obstaja. Zato pravo ni področje, kjer bi bilo dovolj zbrati veliko vprašanj in odgovorov ter jih brez nadzora poslati v trening.

Veliko bolj smiseln je model skupnostnega treninga, v katerem pravniki, raziskovalci, študenti prava in drugi sodelavci prispevajo primere, preverjajo vire, ocenjujejo odgovore ter odkrivajo napake. Toda odprta skupnost sama po sebi še ne zagotavlja kakovosti. Če ni jasno, kdo je nekaj prispeval, kdo je prispevek pregledal in po katerih pravilih je bil sprejet, dobimo zgolj množično ustvarjeno pravno vsebino brez zanesljivega izvora.

Tu lahko blockchain odigra koristno, vendar omejeno vlogo. Ne more dokazati, da je pravni odgovor pravilen. Lahko pa pomaga dokazati, kdo je sodeloval v postopku, katera različica gradiva je bila pregledana, kdaj je bila odločitev sprejeta in ali je kdo pozneje spreminjal revizijsko sled. Njegova prava vrednost torej ni v »decentraliziranem učenju modela«, temveč v preverljivosti procesa.

Kaj v resnici pomeni skupnostni trening?

Izraz »trening AI-agenta« pogosto ustvari napačno predstavo, da bi več ljudi neposredno posegalo v uteži velikega jezikovnega modela. Pri pravnem agentu bi bil tak pristop drag, težko nadzorovan in pogosto nepotreben. Skupnost bi v praksi pripravljala in izboljševala pet med seboj povezanih plasti.

Najpomembnejša plast je praviloma kombinacija RAG-a in evalvacij. Zakonodaja se spreminja, zato ni pametno pričakovati, da bo aktualno pravo trajno »shranjeno« v utežeh modela. Vsak dokument v pravni bazi bi moral imeti najmanj oznako jurisdikcije, datum začetka in morebitnega prenehanja veljavnosti, uradni vir, čas pridobitve ter različico. Agent mora pred odgovorom preveriti, ali je uporabljeni vir veljal na datum, na katerega se nanaša vprašanje.

Fine-tuning je lahko uporaben za učenje metode: kako iz vprašanja izločiti dejstva, prepoznati manjkajoče podatke, razlikovati med splošno informacijo in individualnim pravnim nasvetom, citirati vir ter izraziti stopnjo negotovosti. Ni pa primeren kot edini mehanizem za spremljanje novih zakonov in sodne prakse.

Blockchain ni identiteta

Če se nekdo prijavi z denarnico MetaMask, s tem dokaže samo, da obvladuje zasebni ključ določenega blockchain naslova. Ne dokaže svojega imena, pravne izobrazbe, licence ali področja strokovnosti. Javni naslov je lahko tudi psevdonim, ki ga je mogoče povezati z drugimi transakcijami iste osebe.

Zato bi moral sistem ločiti tri stvari:

1. avtentikacijo, s katero oseba dokaže, da je res imetnik računa;
2. preverjanje strokovne vloge, s katerim dokaže, da je pravnik, odvetnik, raziskovalec ali pooblaščeni recenzent;
3. sidranje revizijske sledi, s katerim se pozneje dokaže, da zgodovina postopka ni bila spremenjena.

Za evropsko okolje je smiselna prijava prek klasičnega varnega sistema OIDC, pozneje pa povezava z evropsko denarnico digitalne identitete EUDI. Ta je zasnovana za dokazovanje identitete, shranjevanje digitalnih dokazil in elektronsko podpisovanje, pri čemer podpira selektivno razkritje podatkov. Recenzent bi tako lahko dokazal, da ima veljavno strokovno kvalifikacijo, ne da bi moral vsem udeležencem ali blockchain omrežju razkriti rojstni datum, domači naslov in druge nepotrebne podatke. Evropska komisija napoveduje postopno uvedbo denarnic EUDI v državah članicah do konca leta 2026. EU Digital Identity Wallet – Evropska komisija

Po preverjanju bi upravljavec sodelavcu izdal digitalno dokazilo o vlogi, na primer »preverjeni recenzent za slovensko delovno pravo«. Dokazilo bi imelo rok veljavnosti in možnost preklica. Blockchain pri tem ne bi hranil kopije diplome ali licence, ampak bi bil uporabljen samo tam, kjer je res potreben dokaz o stanju ali časovnem zaporedju.

Vloge morajo biti jasno ločene

Skupnost ne sme delovati po načelu, da ima vsak član enako moč nad končnim odgovorom. Pravo zahteva hierarhijo strokovne odgovornosti.

Temeljno pravilo bi moralo biti preprosto: skupnost predlaga, preverjeni strokovnjaki presojajo, odgovorni vzdrževalec pa izda novo različico. Brez tega dobimo dokazljivo zgodovino napačnih odgovorov, ne pa kakovostnega pravnega agenta.

Kako bi potekal posamezen učni primer?

Proces bi bilo smiselno razdeliti na deset korakov.

1. Prijava in preverjanje vloge

Uporabnik se varno prijavi in podpiše enkratni kriptografski izziv. Sistem preveri njegovo digitalno dokazilo ter mu dodeli ustrezne pravice. Prispevkar ne more sam potrditi lastnega dela, recenzent pa lahko presoja samo področja, za katera ima priznano vlogo.

2. Prevzem natančno opredeljene naloge

Namesto splošnega navodila »nauči agenta delovnega prava« uporabnik prevzame omejeno nalogo, denimo: odpoved pogodbe iz poslovnega razloga, Slovenija, stanje prava na določen datum, petnajst tipičnih vprašanj.

3. Priprava strukturiranega prispevka

Prispevek ne vsebuje samo vprašanja in odgovora. Obvezni elementi so:

• jurisdikcija in datum, na katerega se presoja pravo;
• pomembna dejstva in manjkajoče informacije;
• pravna podlaga z neposrednim sklicem na uradni vir;
• razlaga, kako pravna podlaga vpliva na odgovor;
• izjeme, tveganja in stopnja gotovosti;
• meja med splošno informacijo in primerom, ki zahteva individualni pregled.

Prispevki brez preverljivega vira se avtomatsko zavrnejo.

4. Avtomatski predpregled

Pred človeško recenzijo sistem preveri obliko zapisa, obstoj citiranega člena ali sodne odločbe, veljavnost predpisa na izbrani datum, podvajanje primerov in morebitno prisotnost osebnih podatkov. Avtomatski pregled ne odloča o pravni pravilnosti, ampak odstrani tehnično neustrezne prispevke.

5. Neodvisna strokovna recenzija

Prispevek pregledata najmanj dva neodvisna pravnika. Potrditev po modelu »dva od treh« zmanjšuje nevarnost individualne napake ali namerne manipulacije. Če se recenzenta ne strinjata, primer prevzame tretji recenzent ali pravno-etični odbor.

6. Zapis dogodka v revizijski dnevnik

Oddaja, recenzija, zavrnitev, popravek in končna odločitev se zapišejo v dnevnik, ki dovoljuje samo dodajanje dogodkov. Dnevnik je shranjen zunaj blockchaina, v nadzorovanem okolju EU, in ima določene roke hrambe ter možnosti popravka ali izbrisa, kadar to zahteva zakonodaja.

7. Sidranje na blockchain

Sistem iz dogodkov v določenem obdobju, na primer enem dnevu, pripravi Merklovo drevo. Na dovoljenjsko oziroma konzorcijsko verigo zapiše samo korensko zgoščeno vrednost, časovni žig in oznako različice. Če bi nekdo naknadno spremenil off-chain dnevnik, se izračun ne bi več ujemal z objavljenim korenom.

Tako dobimo dokaz o nespremenjenosti serije dogodkov, ne da bi na verigo zapisovali imena, elektronske naslove, vsebino pravnih primerov ali identifikatorje posameznikov.

8. Evalvacija nove različice

Potrjeni primeri najprej vstopijo v kandidatno različico. Agent se nato preveri na ločenem referenčnem naboru, ki ga med učenjem ni videl. Merijo se pravilnost citatov, aktualnost virov, sposobnost zaznavanja manjkajočih informacij, primerno zavračanje in regresije glede na prejšnjo različico.

9. Izdaja in verzioniranje

Vsaka izdaja dobi številko različice ter spremljajočo dokumentacijo: opis namena, uporabljene podatkovne vire, omejitve, rezultate testov, znana tveganja in datum veljavnosti. Produkcijski odgovor mora biti mogoče povezati z različico modela, baze znanja, pravil in evalvacijskega postopka.

10. Spremljanje, popravek in povrnitev

Če skupnost ali uporabnik odkrije napako, se vsebina ne prepiše tiho. Odpre se incident, izdela popravek, ponovi recenzija in izda nova različica. Stara revizijska sled ostane preverljiva, medtem ko je mogoče občutljivo vsebino v off-chain sistemu popraviti ali izbrisati v skladu s pravili hrambe.

Kaj sme in česa ne sme biti na blockchainu?

Pri tem projektu je to najpomembnejša arhitekturna odločitev.

Končne smernice EDPB 02/2025, različica 2.0 z dne 7. julija 2026, posebej opozarjajo, da so lahko tudi javni ključi, psevdonimni identifikatorji in zgoščene vrednosti osebnih podatkov še vedno osebni podatki. Šifriranje prav tako ne odpravi uporabe GDPR. EDPB zato praviloma odsvetuje zapis osebnih podatkov v čisti, šifrirani ali zgoščeni obliki na blockchain in priporoča off-chain hrambo. Prav tako daje prednost dovoljenjskim verigam, ker omogočajo jasnejšo razdelitev odgovornosti. EDPB: Guidelines 02/2025 on processing of personal data through blockchain technologies

Tudi Merklov koren ni samodejno izvzet iz GDPR. Če ga je z dodatnimi podatki mogoče povezati s posameznikom ali njegovim dejanjem, je lahko še vedno osebni podatek. Zato mora projekt dokumentirati način izdelave korena, velikost serije, upravljanje dokazov in dostop do off-chain dnevnika. Pred zagonom je potrebna ocena učinka na varstvo podatkov oziroma DPIA, kadar so izpolnjeni pogoji za visoko tveganje. GDPR zahteva najmanjši potrebni obseg podatkov, omejitev hrambe in varstvo podatkov že pri sami zasnovi sistema. Splošna uredba o varstvu podatkov – GDPR

Kako meriti kakovost pravnega agenta?

Blockchain lahko pokaže, da je bil postopek izveden, ne more pa oceniti njegove vsebinske kakovosti. Zato mora imeti projekt vnaprej določena merila za izdajo. Naslednji pragovi niso zakonske zahteve, temveč smiselni začetni cilji za pilot:

Pri teh meritvah model ne sme sam ocenjevati samega sebe. Avtomatski ocenjevalnik je lahko prvi filter, končno presojo pravne pravilnosti pa mora opraviti človek z ustreznim znanjem. Poseben testni nabor mora ostati ločen od učnega gradiva, sicer dobimo navidezno visoko uspešnost brez sposobnosti reševanja novih primerov.

Ugled in nagrajevanje skupnosti

Sodelavcev ne bi nagrajevali po številu oddanih primerov, saj bi to spodbujalo količino namesto kakovosti. Ugled naj se pridobiva šele po potrditvi prispevka, kakovostnih recenzijah in uspešnem odkrivanju napak. Večkratne površne napake zmanjšajo pristojnosti, namerna manipulacija ali plagiat pa povzročita odvzem vloge.

Za začetek so primernejše neprenosljive točke ugleda v internem sistemu kot javni kriptožeton. Če bi točke postale prenosljive, tržno vredne ali zamenljive, bi bilo treba preveriti njihovo pravno klasifikacijo tudi po uredbi MiCA. Blockchain torej ni razlog, da projekt avtomatično potrebuje lasten žeton. Plačila avtorjem in recenzentom so lahko povsem običajna izplačila v evrih, vezana na potrjen rezultat.

Posebne varovalke produkcijskega pravnega agenta

Vsak odgovor bi moral uporabniku jasno pokazati:

• da komunicira z AI-sistemom;
• za katero državo in pravno področje odgovor velja;
• na kateri datum je bilo preverjeno stanje prava;
• uporabljene člene, sodbe in uradne povezave;
• pomembne manjkajoče informacije;
• stopnjo negotovosti in morebitna različna pravna stališča;
• različico agenta in pravne baze;
• situacije, v katerih je potreben posvet s pravnikom.

Splošno opozorilo na dnu strani ni dovolj, če preostali del vmesnika ustvarja vtis dokončnega in individualiziranega pravnega mnenja. Meja med splošnim pravnim informiranjem in konkretno pravno storitvijo mora biti opredeljena v namenu sistema, uporabniškem vmesniku, pogodbenih pogojih in načinu eskalacije. Za uporabo v Sloveniji bi bilo treba pred javnim zagonom posebej pregledati še nacionalna pravila o opravljanju pravnih in odvetniških storitev, poklicni tajnosti ter odgovornosti.

AI Act: pravni agent ni vedno visokotvegan, lahko pa postane

AI Act ne uvršča vsakega sistema za pravna vprašanja avtomatično med visokotvegane sisteme. Priloga III posebej zajema sisteme, ki jih sodni organ ali nekdo v njegovem imenu uporablja pri raziskovanju in razlagi dejstev in prava ter uporabi prava na konkretno dejansko stanje. Podobno velja za določene uporabe v alternativnem reševanju sporov. Uredba (EU) 2024/1689 – AI Act

Agent za splošno informiranje državljanov ali podjetij zato praviloma ni visokotvegan že samo zaradi pravne teme. Njegovo razvrstitev pa lahko spremeni dejanska uporaba. Če bi ga začelo uporabljati sodišče, arbitražno telo ali drug organ pri odločanju o konkretnih primerih, bi bila potrebna nova ocena in bistveno strožji režim. Po spremembah AI Omnibus so bili roki za nekatere samostojne visokotvegane sisteme iz Priloge III podaljšani do 2. decembra 2027, vendar to ne odpravlja potrebe po zgodnji pripravi. Svet EU: dogovor o poenostavitvi pravil za umetno inteligenco

Ne glede na razvrstitev je pomemben 4. člen AI Acta, ki od ponudnikov in uporabnikov zahteva ukrepe za ustrezno raven AI-pismenosti oseb, ki sistem uporabljajo ali upravljajo. Usposabljanje prispevkarjev in recenzentov zato ni samo dobra praksa, ampak del organizacijske odgovornosti.

Za pravnega klepetalnega agenta velja tudi zahteva po obvestilu, da uporabnik komunicira z AI, razen kadar je to očitno. Zahteve 50. člena se uporabljajo od 2. avgusta 2026. Obvestilo mora biti jasno in podano najpozneje ob začetku prve interakcije. Evropska komisija: Transparency obligations under Article 50 of the AI Act

Če bi sistem postal visokotvegan, 12. člen AI Acta zahteva tehnično možnost avtomatskega beleženja dogodkov. Blockchain lahko okrepi dokazovanje celovitosti izbranega dela dnevnika, vendar ne nadomesti upravljanja tveganj, dokumentacije, kakovosti podatkov, človeškega nadzora in drugih obveznosti.

Tri možne izvedbene različice

1. Vitki pilot

Za prvo različico zadoščajo varna prijava OIDC, centralni repozitorij z nadzorovanimi spremembami, dvojna recenzija, off-chain revizijski dnevnik in periodično sidranje enega Merklovega korena na obstoječo verigo. To je najhitrejši način, da se preveri proces brez gradnje lastnega blockchain omrežja.

2. Konzorcijska izvedba

Vozlišča upravljajo na primer Nexus, pravna fakulteta, odvetniška organizacija in neodvisni revizor. Uporabi se dovoljenjska veriga, pogodba pa določi odgovornost, upravljanje vozlišč, odločanje o spremembah in odziv na incidente. Takšna izvedba ima smisel, ko v sistemu dejansko sodeluje več neodvisnih institucij, ki si ne želijo prepustiti celotnega nadzora eni organizaciji.

3. Javni Web3 oziroma DAO

Javna veriga, javni identifikatorji, IPFS in glasovanje z žetoni ustvarijo največ GDPR, upravljavskih in regulatornih tveganj. Poleg tega teža glasu, vezana na količino žetonov, ni dober približek pravni strokovnosti. Za pravnega agenta tak model ni priporočljiv, razen če obstaja zelo jasen razlog, ki ga ni mogoče doseči z enostavnejšo arhitekturo.

Realističen načrt za dvanajstmesečni pilot

Za AI-pospeševalnik Nexus bi bil smiseln začetek na enem področju, na primer pri slovenskem delovnem pravu. Pilot bi lahko vključeval deset preverjenih recenzentov, manjšo skupino prispevkarjev, približno 300 potrjenih učnih primerov in ločen referenčni nabor z najmanj 200 vprašanji.

Okvirna investicija v vitki pilot bi bila lahko v razponu od 15.000 do 25.000 evrov, vendar je to zgolj red velikosti, ne ponudba. Ekonomska računica je odvisna predvsem od stroška strokovne recenzije, hitrosti pridobivanja kakovostnih primerov in tega, ali ima nastala pravna podatkovna zbirka samostojno vrednost. Pri majhnem številu prispevkov se projekt verjetno ne povrne samo s prihrankom pri pripravi odgovorov; vrednost je lahko predvsem v lastnem preverjenem podatkovnem sredstvu, metodologiji in zaupanju uporabnikov.

Glavna tveganja

Največja nevarnost ni tehnična, ampak organizacijska: občutek, da revizijska sled nadomesti pravno presojo. Poleg tega je treba obvladovati še zastarelo zakonodajo, izmišljene citate, osebne podatke v prispevkih, manipulacijo skupnosti, preobremenjenost recenzentov in uporabo sistema zunaj njegovega prvotnega namena.

Smiselni ukrepi so avtomatsko spremljanje veljavnosti virov, stroga ločitev učnega in testnega nabora, recenzija po modelu dva od treh, omejene pristojnosti glede na področje, politika prijave incidentov, zavarovanje odgovornosti, možnost hitre povrnitve različice ter javno orodje, s katerim je mogoče preveriti sidrani Merklov koren.

Posebej pomembno je, da je upravljavec določena pravna oseba. Oznaka »DAO« sama po sebi ne določi, kdo je upravljavec osebnih podatkov, kdo odgovarja uporabniku in kdo je dolžan ukrepati ob napaki. Če vozlišča upravlja več organizacij, morajo njihove vloge, morebitno skupno upravljavstvo in mednarodni prenosi podatkov biti pogodbeno ter tehnično urejeni.

Sklep: dokazljiv proces, ne avtomatična resnica

Skupnostni trening pravnega AI-agenta je izvedljiv, če je skupnost organizirana kot strokovno nadzorovan sistem in ne kot odprta zbirka naključnih odgovorov. Najboljša začetna kombinacija je aktualna pravna baza RAG, strukturirani učni primeri, preverjeni recenzenti, ločen evalvacijski nabor in jasna odgovornost za vsako izdajo.

Blockchain ima v takšnem sistemu eno zelo konkretno nalogo: dokazuje integriteto in časovno zaporedje revizijske sledi. Ne sme postati skladišče osebnih podatkov, pravnih dokumentov ali identitet sodelavcev. Prijavo in dokazovanje strokovne vloge je bolje prepustiti namenskim identitetnim mehanizmom, kot sta OIDC in EUDI, na verigo pa zapisati le minimalno, skrbno zasnovano sidro.

Dobro zasnovan sistem zato ne obljublja, da blockchain zagotavlja pravilnost pravnega odgovora. Zagotavlja nekaj bolj realnega: da lahko preverimo, iz katerih virov je odgovor nastal, kdo ga je strokovno pregledal, po katerih pravilih je bil sprejet, s katero različico sistema je bil ustvarjen in kako je bila morebitna napaka odpravljena. Prav pri pravnih AI-agentih je takšna sled odgovornosti vrednejša od tehnološkega spektakla.