Umetna inteligenca v pravni praksi: Trenutni izzivi in prihodnostne smeri (povzetek iz okrogle mize konference AI x Pravo)

Avtorica: Maruša Škrjanc*

Izvleček: Umetna inteligenca (UI) v pravni praksi vedno bolj spreminja načine dela in razmišljanja pravnikov, tako v javnem kot zasebnem sektorju. Na okrogli mizi, ki je potekala v okviru dogodka »AI x Pravo«, so panelisti izpostavili vrsto izzivov – od zahtevnega varstva podatkov in pomanjkanja ustreznega kadra do odgovornosti in (ne)natančnosti novih orodij. Sočasno so poudarili tudi številne priložnosti, ki jih uporaba UI prinaša: avtomatizacija rutinskih opravil, hitrejša analiza tveganj in potencialno izboljšana dostopnost pravnih storitev. Kljub očitnim prednostim ostaja ključno, da ljudje ohranijo nadzor nad končnimi odločitvami. Prihodnost pravne prakse bo tako slonela na kombinaciji tehnične učinkovitosti in človeške odgovornosti, ki jo podpira premišljena regulacija.

Oznake: umetna inteligenca, pravo, regulacija, bančništvo, javni sektor, odvetništvo.

Uvod

Umetna inteligenca (UI) ima vedno večji vpliv na pravno prakso in spreminja tradicionalne načine zagotavljanja pravnega varstva. Ob širjenju UI orodij, kot so veliki jezikovni modeli (npr. ChatGPT), se med pravniki in odločevalci vse pogosteje zastavljajo vprašanja glede natančnosti, odgovornosti ter skladnosti z zakonodajo, kot je GDPR. Da bi osvetlili tako prednosti kot tveganja pri rabi UI, je v okviru konference »AI x Pravo« potekala okrogla miza, na kateri so sodelovali predstavniki različnih segmentov pravne stroke in gospodarstva:

• Jure Trbič (Ministrstvo za javno upravo);

• Ana Kerševan (državno odvetništvo);

• Peter Golob (Odvetniška družba Rojs, Peljhan, Prelesnik in partnerji);

• Miran Hude (Odvetniška pisarna Hude);

• Gregor Golob (Banka Slovenije)

• Samo Zorc (NLB d.d.).

Skupaj so orisali trenutno stanje in prihodnostne trende ter opozorili na številne dejavnike, ki oblikujejo (in pogosto omejujejo) vpeljavo UI v pravno prakso.

1. Javni sektor in varstvo podatkov

1.1 Omejitve in izzivi

Po besedah Trbiča, ki predstavlja državno upravo na splošno, je ključno razumeti, da uvajanje UI lahko pomeni različne stvari. Trbič navaja, da ima javni sektor omejitve: “država mora skrbeti da dela kot je prav, ne samo kar je zanimivo.” Na ministrstvu za digitalno preobrazbo imajo že delovno skupino, ki se spoznava z novimi orodji – kako delujejo, na kakšen način pomagajo, kaj je dodana vrednost itd.. Temeljni izziv ostaja potreba po skladnosti z zakonodajo in spoštovanju zahtev varstva podatkov. Slovenija razpolaga s številnimi javnimi podatki, pri katerih pa se je treba strogo držati pravil glede hrambe, brisanja in obdelave. Poleg tega javni sektor odgovarja za občutljive informacije (npr. davčne in poslovne skrivnosti), zato mora zagotoviti, da ostanejo podatki pod nadzorom pristojnih organov.

Kerševan je dodala, da pomanjkanje kadra in nizke plače v javnem sektorju dodatno otežujejo uvajanje UI. Povprečna starost zaposlenih je 46 let, v prihodnosti pa se pričakuje še večji osip kadrov. Ker je bilo v preteklosti že treba obvladovati prehod od papirnih k digitalnim procesom, zdaj uvedba novih, kompleksnejših UI-orodij pomeni dodatno breme usposabljanja in reorganizacije dela. Kljub temu so že na voljo določena orodja, na primer model za transkripcijo, ki ga uporabljajo na Vrhovnem sodišču in ki je transkripcijo sodnih obravnav pospešil za skoraj 50%

1.2 Poudarek na varnosti in lastni infrastrukturi

Zaradi zahtev GDPR ter drugih sektorskih predpisov (npr. Zakon o varstvu osebnih podatkov, Zakon o tajnih podatkih ipd.) je pri javnih organih pogosto priporočljivo razvijati rešitve znotraj lastne infrastrukture. Tako Kerševan poudarja potrebo po tem, da strežniki in podatki ostanejo v lasti odgovornega organa, saj se s tem zagotavlja boljši nadzor nad (ob)delovanjem občutljivih informacij. Notranji razvoj orodij ali vsaj uporaba sistemov, upravljanih na državnih strežnikih, je zato pogosto prednostna možnost, čeprav zdaj še nimajo potrebnih tehničnih znanj.

2. Odvetništvo: med avtomatizacijo in človeško izkušnjo

2.1 Kakovost rezultatov in etični vidiki

P. Golob, ki prihaja iz velike odvetniške pisarne, je v okviru testiranja ChatGPT naletel na klasično »halucinacijo«: od desetih iskanih sodb je bilo kar pet sodnih odločb v celoti izmišljenih, tri pa so bile v povzetkih netočne. Tudi pri preostalih primerih je bila nujna natančna strokovna presoja, saj UI ni vedno dosledno povzela pravno relevantnih dejstev. Poleg tega opozarja na nujnost spoštovanja odvetniške zaupnosti – občutljivih ali tajnih podatkov ni dopustno nalagati v javno dostopna UI-orodja. Pri tem je izpostavil, da obstajajo specializirani modeli, kot je SpellBook, vendar se jih uporablja predvsem za enostavnejše opravke, zadnjo besedo pa ima vselej odvetnik.

Hude, ki vodi manjšo odvetniško pisarno, poudarja, da UI učinkovito pripomore pri oblikovanju osnutkov pogodb in drugih rutinskih opravil, a je človeška presoja v kompleksnejših zadevah še vedno nenadomestljiva. Velik del odvetniškega dela obsega »kontemplacijo« – prepoznavanje pravno relevantnih okoliščin in strateško svetovanje stranki. Za ponazoritev navaja primer motenja posesti, kjer UI zaradi pomanjkanja vpogleda v vse okoliščine (npr. stečajni postopek nasprotne stranke) ne zmore ustrezno upoštevati vseh pravnih tveganj. Odvetniki zato pričakujejo, da bodo laiki morda kmalu uporabljali UI za preproste zadeve (npr. prodaja avtomobila ali nepremičnine), a se vloga pravnika zaradi tega ne bo zmanjšala, saj bo pri zapletenejših primerih izkušnja in znanje odvetnika ostala nepogrešljiva.

2.2 Vloga pravnikov pri regulaciji

Pri razpravi o regulaciji UI je P. Golob podal primer kriptovalut, kjer je EU z novim okvirom pravne ureditve omogočila relativno hitro širitev kripto-storitev na območju celotne EU, vendar ob hkratni določitvi varnostnih in poslovnih standardov. Tudi pri UI je torej treba iskati pravo ravnovesje med spodbudnimi in omejevalnimi vidiki: pretirano stroga regulacija lahko razvoj zavre, povsem odsotna regulacija pa bi lahko povzročila škodljive posledice, tako za posameznike kot za pravni sistem kot celoto.

3. Bančni sektor: uporaba UI pri analizi tveganj

V bančnem sektorju UI ni novost. G. Golob navaja, da se že vrsto let uporabljajo t. i. Anti-Money Laundering (AML) sistemi za odkrivanje pranja denarja, prav tako so algoritemski modeli v uporabi pri ocenjevanju kreditnih tveganj. Banka Slovenije ima pri tem dvojno vlogo: poleg regulatornih nalog (skrb za stabilnost in nadzor) je odgovorna tudi za sodelovanje v evrskem sistemu. Skupaj z Evropsko centralno banko (ECB) že uporablja UI pri analizi večjih podatkovnih baz, denimo za transkripcijo obravnav in za zapletene podatkovne analize.

Zorc izpostavlja, da je »umetna inteligenca« mnogo širši pojem od ChatGPT in da se v bančništvu UI orodja uporabljajo že desetletja. To pomeni, da so bančne institucije v Sloveniji dobro seznanjene tako s prednostmi kot s pomanjkljivostmi UI modelov. Zlasti opozarja, da kljub številnim prednostim (npr. hitrejša analiza velikih količin podatkov) ostajajo tveganja »halucinacij« pri jezikovnih modelih, saj le-ti ne premorejo dejanskega sklepanja (reasoning), temveč generirajo odgovore na podlagi verjetnosti zaporedja besed. Zato se mu zdi prihodnost v drugih modelih, ki uporabljajo reasoning, ne pa velikih jezikovnih modelih, kot je ChatGPT.

4. Prihodnostne priložnosti: optimizacija pravnih procesov

4.1 Diagnostični modeli in podpora sojenju

Po mnenju Kerševan in Hude so veliki potenciali UI v pravosodju predvsem v diagnostičnih orodjih, ki bi omogočala hitro začetno analizo tako procesnih kot materialnopravnih vidikov zadev. Tovrstni modeli bi lahko tudi prepoznali morebitne zlorabe pravic ali neskladnosti, še preden zadeve dosežejo sodišče. Hude nadalje poudarja uporabnost UI pri pripravi pritožb zoper sodbe, saj bi lahko model »ocenjeval« sodbo z vidika obstoječe sodne prakse in opozoril na morebitne pravne napake. To bi olajšalo sam postopek pritožbe.

4.2 Sinergija matematične in pravne logike

Zorc dodaja, da bi združevanje »logike matematike« z »logiko prava« lahko bistveno pripomoglo k poenostavitvi in izboljšanju pravnih postopkov. Ker postaja koda, ki podpira UI, nova oblika »pravil«, je pravno znanje ključnega pomena za ustrezno oblikovanje in razumevanje teh pravil. Pri tem Trbič opozarja na nevarnost t. i. pristranskosti (bias) v algoritmih – če bi UI prevzela odločanje v preveliki meri, bi se lahko tovrstni sistemi izognili tako pravni kot moralni »sivi coni«, kjer je potrebna človeška empatija in kontekstualna presoja.

5. Regulacija kot razvojna spodbuda

Po mnenju Trbiča mora biti regulacija »umna«, kar pomeni, da ne zavira razvoja, temveč ga usmerja in hkrati preprečuje negativne posledice za okolje in posameznika. Zorc, ki je sodeloval pri oblikovanju nastajajočega EU pravnega akta na področju UI (t. i. AI Act), poudarja, da je bil to zahteven podvig z vidika združitve pravnih in tehničnih strok, saj se pogosto pojavljajo neskladja med hitrostjo tehnoloških inovacij in potrebo po pravni varnosti.

Pri UI gre za širok spekter orodij, med katerimi je le del tistih »visoko tveganih«, ki bodo podvrženi strožjim omejitvam in pregledom. Potrebna je transparentnost in možnost preverjanja, da sistemi ne »lažejo« ali ne diskriminirajo posameznikov. Takšen regulatorni okvir je primerljiv s »cestnoprometnimi pravili« – omogoča hitro in učinkovito »vožnjo«, vendar zahteva spoštovanje določenih varnostnih in etičnih standardov.

Zaključek

Umetna inteligenca vstopa v pravno prakso kot močno orodje za avtomatizacijo rutinskih opravil, hitrejšo analizo podatkov in učinkovitejše upravljanje tveganj. Obenem pa se ob razcvetu velikih jezikovnih modelov (kot je ChatGPT) pokažejo tudi resne omejitve in tveganja – od »halucinacij« do pomanjkanja resničnega razumevanja konteksta. V javnem sektorju uvajanje UI ovirajo strogi predpisi o varstvu podatkov, pomanjkanje kadrov in omejeni finančni viri, a postopki kljub temu tečejo in se že kažejo prvi rezultati. V odvetništvu UI ne bo zamenjala človeške kontemplacije, bo pa olajšala pripravo preprostih dokumentov ter pohitrila raziskave sodne prakse. Tudi v bančništvu se algoritmične rešitve že leta uporabljajo na področjih, kot so preprečevanje pranja denarja in ocena kreditnih tveganj.

Za uspešno integracijo UI v pravno okolje bo ključna zmerna in premišljena regulacija, ki bo zagotavljala visoko raven odgovornosti in transparentnosti, hkrati pa ne bo zadušila inovativnosti. V tem procesu bo nujna stalna vloga pravne stroke pri oblikovanju in nadzoru algoritmičnih rešitev ter zagotavljanju pravne varnosti. Prihodnost je torej v tesnem sodelovanju med tehnološkimi strokovnjaki in pravniki, kjer bo UI postala zaveznik, ne nadomestilo, za človeško presojo.

OPOMBA

*3. Letnik PFLJ