Umetna inteligenca in/ali sodniško odločanje?

Umetna inteligenca in/ali sodniško odločanje?

Hana Lupinc Korošec[1]

Izvleček: Integracija alogritmov strojnega učenja v pravosodni sistem je vse pogosteje opažena agenda evropskih in nacionalnih zavez digitalne preobrazbe pravosodja. Z naraščajočo potrebo po pravni regulaciji  umetne inteligence nas vse pogosteje zanima obseg pristojnosti, ki ji jih bomo dodelili, a obenem pozabljamo na njeno primerjalnopravno gledano že obstoječo prisotnost. Porajajo se dvomi o njeni pristranskosti, etičnosti uporabe, (ne)zmožnosti imitiranja pravnega občutka in potencialnih spremembah sistemu imanentnih institutov. Na drugi strani se spregleda vlogo umetne inteligence kot podporne tehnologije, ki omogoča uspešnejšo analizo vsebine dokumentov, povzemanje obsežnih sodnih dokumentov in vlog, vsebinsko raziskovanje in povezovanje sodne prakse ter boj proti organiziranemu in gospodarskemu kriminalu.

Ključne besede: Umetna inteligenca, sodniško odločanje, algoritem modela tveganja, pravni občutek, etika.

»Biti globalna sila pomeni biti vodilni na področju umetne inteligence« je vodilna nit Poročila Posebnega odbora za umetno inteligenco v digitalni dobi (AIDA), konstituiranega v okviru delovanja Evropskega parlamenta. Poročilo, ki jasno postavlja zahtevo po hitrem in enotnem oblikovanju jasnih standardov, temelječih na evropskih vrednotah, ob prisotnem zavedanju, da se bodo globalna merila, sicer oblikovala drugje.[2]

Ob osnovanju skupnih smernic pravne regulacije umetne inteligence in z roko v roki s spoznavanjem dometa možnosti njene implementacije na različnih znanstvenih področjih, se vedno pogosteje pojavlja vprašanje pravnoformalne in etične možnosti ter obenem spornosti njene uporabe v pravosodju in policiji. Nesporno dejstvo ostaja, da je v proces pravnega in sodnega odločanja, primerjalnopravno sicer v različnem obsegu, že umeščena umetna inteligenca bodisi kot komplementarno administrativno-raziskovalno bodisi kot prejudikatno orodje.

Področja uporabe umetne inteligence v pravosodju

Uporaba umetne inteligence kot orodja sposobnega izkazovanja človeških lastnosti, kot so mišljenje, učenje, načrtovanje in ustvarjalnost[3], se razteza vse od branja in analize vsebine dokumentov, povzemanja sodnih dokumentov in sodnih vlog do naprednejšega raziskovanja sodne prakse in zakonov, ki presega zgolj golo iskanje ključnih besed in že temelji na razumevanju ratia pravnega mnenja ali same sodbe.[4] Enega izmed trenutno invazivnejših načinov uporabe umetne inteligence na kazenskopravnem področju zasledimo v praksi ameriških sodišč, pri čemer na podlagi poročila o posameznikovi provenienci[5], slednja prejudicira iteracijsko nevarnost.

Pristranskost algoritmov odločanja

Algoritmi modelov tveganja so zahvaljujoč ogromni bazi podatkov v svojem ocenjevanju precej prepričljivi, vendar zaradi samih avtorskih pravic patentov ostaja sporno poznavanje zgolj izstopnih podatkov, ne pa same zasnove, katere razumevanje bi omogočilo nadzor nad (ne)namerno (ne)pristranskostjo orodja. Algoritmi strojnega učenja[6], tudi in predvsem nenamerno, zasnovani na podatkih, ki temeljijo na razlikovanju strank postopka na podlagi osebnih okoliščin[7], utrjujejo sodno prakso, ki je sama v nasprotju z ustavno varovanimi enakim varstvom pravic, načelom enakosti in pravico do poštenega postopka, obenem pa se, kot takšni vračajo v bazo podatkov, ki bodo tako zgolj potrjevali verjetnost pristranskega odločanja algoritma tveganja.

Odmeven je zloglasni primer State v. Loomis, v katerem je obdolženec in kasnejši obsojenec E. Loomis izpodbijal sodbo prvostopenjskega sodišča v Wisconsinu, pri izreku katere je bil uporabljen notorični algoritem ocenjevanja povrnitvene nevarnosti COMPAS, ki je zaradi zasebnolastniške narave, strokovnemu nadzoru postavljenem s strani sodišča nedosegljiv. Pritožnik je v nadaljevanju postopka navajal kršitev pravice do poštenega sojenja, Wisconsin Supreme Court pa je v zavrnitvi pritožbe poudarilo, da navkljub morebitni problematičnosti algoritma, kot imanentni del poštenega sodnega postopka ostaja sodnik, ki izravna potencialne napake sistema.[8]

Medtem ko se ameriško pravosodje že nagiba k določeni stopnji algoritmizacije sodnega odločanja, ki zaznamuje prehod med t. i. drugo in tretjo stopnjo implementacije umetne inteligence v sodno odločanje, Evropska unija spremembe vpeljuje s tresočo roko.[9]

Uvajanje umetne inteligence v slovensko pravosodje

Med ukrepi tehnološke modernizacije pravosodja v okviru Načrta za okrevanje in odpornost, financiranega s strani Evropske unije in potrjenega v Svetu EU julija 2021, najdemo zaveze prve t. i. podporne stopnje uporabe umetne inteligence, kjer se tehnologija uporablja zgolj kot pomoč pravosodju. Primer takšne prakse je sistem Virtualnega pomočnika za Vrhovno državno tožilstvo, temelječ na umetni inteligenci, ki bo služil kot podpora tožilcu pri analizi podatkov v zahtevnejših in obsežnejših primerih, kot so kazenski postopki zoper organiziran in gospodarski kriminal. Obenem je program zmožen predložitve predloga odločitve, finančni načrt pa predvideva tudi nadaljnji razvoj funkcionalnosti z uvedbo umetne inteligence na Ustavnem sodišču Republike Slovenije.[10] Gre za ukrepa, ki sta še precej oddaljena od tretje stopnje aplikacije umetne inteligence, v kateri bi alogritmi strojnega učenja lahko popolnoma nadomestili sodnika, a se že približujeta stopnji nadomestitvenih tehnologij, kjer bi lahko privzeli določene sodnikove naloge.

Pravna regulacija evropskega zakonodajalca

Navkljub temu, da stopamo po prvih korakih uvajanja umetne inteligence v slovensko pravosodje in  da nas pred tem čaka še izčrpna pravna regulacija, se evropski zakonodajalec na slednji proces že pripravlja - odraz česar je 22. člen Splošne uredbe o varstvu podatkov (The EU general data protection regulation 2016/679 (GDPR)), ki uveljavlja pravico, da za posameznika, na katerega se nanašajo osebni podatki, ne velja odločitev, ki temelji zgolj na avtomatizirani obdelavi. Pravno pravilo vpeljuje t.i. concept of meaningful human intervention[11], ki bi se a fortiori lahko vrednostno prenesel tudi v urejanje invazivnejšega ukrepa, kot je odločanje o pravicah, dolžnostih in pravnih interesih posameznika v postopku pred sodiščem.[12] Obenem vrednostno izhodišče in pravno podlago nadaljnjemu zakonodajnemu urejanju nudi Evropska etična listina o uporabi umetne inteligence v pravosodnih sistemih in njihovem okolju iz leta 2018, ki preko petih meril zavezuje k spoštovanju temeljnih pravic; nediskriminatornosti, kakovosti in varnosti, preglednosti, nepristranskosti in pravičnosti ter obveščenosti uporabnikov.[13]

Priznavanje legitimnosti sodniškim odločitvam sprejetim s pomočjo umetne inteligence

Navkljub vpeljavi etičnih standardov se pojavlja tveganje vprašljive legitimnosti sodniških odločitev, sprejetih s pomočjo alogoritmov strojnega učenja in posledično priznavanja ter podrejanja s strani strank postopka. V časih, ko so že sam ugled sodstva, pravna kultura in posledično priznavanje avtoritete sodnemu sistemu načeti, se poraja vprašanje, ali smo posamezniki kot subjekti prava, miselno zmožni prepustiti odločanje o lastnih pravnih interesih in pravnem položaju večini tuji in nedoumljivi umetni inteligenci, o kateri je sodeč po raziskavi Eurobarometra še leta 2017, kar 88 % Evropejcev menilo, da je z njo treba ravnati nadvse pazljivo.[14]

Poleg številnih prednosti in dobrodošlih inovacij, ki lahko ob ustrezni pravni regulaciji omogočijo napreden in z drugimi panogami skladen razvoj slovenskega pravosodja, se aplikacija umetne inteligence kot popolnoma avtonomnega odločevalca zdi nekoliko prenagljeno pričakovanje. Izziv, s katerimi se bodo ex ante morali soočiti tako pravni strokovnjaki kot inovatorji algoritmov strojnega učenja, bo predvsem etična uporaba umetne inteligence in obenem zaveza k spoštovanju pravnih standardov, izoblikovanih tekom civilizacijskega razvoja.

Glavni problemi, ki jih odpira uporaba umetne inteligence

Ob uporabi programske opreme zasebnolastniškega izvora, katere algoritemsko razlogovanje ostaja domala nepojasnjeno, se postavlja pod vprašaj načelo neodvisnosti in nepristranskosti sodstva. Uvedba umetne inteligence kot domnevnega korektiva sodnikovi arbitrarnosti in pristranskosti pa se zdi neskladna s samim ciljem, dokler algoritmi strojnega učenja kot taki temeljijo na enormnem številu sodniških odločitev, pristranskih že zaradi posameznikovih lastnih prepričanj kot tudi vpetosti v samo družbo.

Obenem pravo ni docela statičen, za vekomaj v kamen vklesan ter izčrpno kodificiran sistem kot so morda verjeli normativni idealisti s konca 18. stoletja. Tako tudi sodnik ni zgolj la bouche de la loi[15], temveč so njegove odločitve odraz družbenih, ekonomskih in kulturnih procesov, ki posredno prek načelnih mnenj in sodb nacionalnih vrhovnih sodišč ter judikatov mednarodnih sodišč spreminjajo razlago norm. V kolikor bi sodniško odločanje popolnoma prepustili algoritmom strojnega učenja, bi onemogočili organsko, pravu inherentno spreminjanje in ga s potvarjanjem prejšnjih judikatov ujeli v čas in miselnost, ki bi lahko bili ob trenutku sojenja že zastareli.[16]

Pojmovno nezdružljiva s sodnim postopkom, v katerem izključna pristojnost odločanja o pravicah in dolžnostih pravnega subjekta pripade umetni inteligenci, je tudi pravica do pritožbe. Ob nespremenjenih vstopnih podatkih in razlogovanju algoritma bi se ob odločanju drugostopenjskega sodišča znašli pred popolnoma enako pravno rešitvijo kot pred izrabo devolutivnega pravnega sredstva, s čimer bi bila sam telos in funkcija pravice izvotljena.

V kolikor predpostavljamo, da bi se umetna inteligenca uporabljala kot podpora sodniku odločevalcu, se na drugi strani poraja vprašanje pravno varovanih možnosti sklicevanja na neupoštevano odločitev alogritma strojnega učenja v pritožbenem postopku in domet upoštevanja slednje.[17] 

Potencialne spremembe bi lahko doživel tudi institut sodnika porotnika, ki ima v slovenskem sodnem postopku pristojnost odločanja tako o dejanskih kot pravnih vprašanjih. V korist okrepitvi načela laičnosti govori pomanjkanje demokratične legitimiranosti umetne inteligence in povečevanje vsesplošnega zaupanja v tehnološko obarvan in marsikomu nerazumljiv postopek. A contrario se v sistemu tretje stopnje integracije umetne inteligence v sodni postopek zdi, da bi lahko sodnik kot varuh pravnosti in etičnosti “sodniškega” odločanja združeval vlogi strokovnjaka in javnega akterja v eni osebi poklicnega sodnika.

(I)racionalnost sodniškega odločanja

Sodnik naj bi bil neodvisen in nepristranski, kar že samo po sebi terja določeno stopnjo racionalnosti odločanja, a je hkrati zaznamovan s številnimi pravniškimi in življenjskimi izkušnjami, ki sooblikujejo njegov pravni občutek in pravno vrednotenje. Slednja prebijeta golo subsumiranje spodnje premise (terminus minor) zgornji premisi (terminus maior) in postaneta komplementarni del sodnikovega iskanja najbolj primerne razlage oziroma razumevanja in uporabe veljavnih pravnih aktov glede na dejanski stan.[18] V miselni proces oblikovanja sklepa se vmeša deloma (i)racionalni pravni občutek, ki služi kot korektiv rigidnosti prava in razumevanju nians, značilnih predvsem za kazensko pravo.

Pravičnost kot temeljni cilj prava

Navkljub temu, da umetna inteligenca že deluje kot podporna tehnologija pravosodju, predvsem na področju preprečevanja hujših kriminalnih dejanj in napovedovanja ponovitvene nevarnosti, pa njena trenutna nezmožnost posnemanja pravnega občutka in dokazana pristranskost ovirata zaupanje v možnost njene takojšnje in globlje integracije. Nenazadnje je pravo veščina dobrega in primernega[19] in kot takšno zasleduje njemu imanentno dobrino, tj. pravičnost. Dokler slednje nismo zmožni objektivno preverljivo zagotavljati v postopku odločanja s pomočjo umetne inteligence, postavljamo temeljni postulat pravne države, tj. spoštovanje človekovih pravic in temeljnih svoboščin, z začetkom vsakega takšnega sodnega postopka pod vprašaj.

Seznam literature

Brkan, Maja: Umetna inteligenca in sodniško odločanje (1. del), URL: https://www.iusinfo.si/medijsko-sredisce/kolumne/304161 (6. november 2023).

Cerar, Miro: (I)racionalnost modernega prava (1. izdaja), Bonex Založba, Ljubljana 2001.

Evropski parlament - Special Commitee on Artificial Intelligence in a Digital Age: AIDA Committee Activity report, št. 2020/2266(INI), Strasbourg (22. Marec 2022).

European Commission: Attitudes towards the impact of digitisation and automation on daily life, Bruselj (maj 2017).

European Commission for the Efficiency of Justice (CEPEJ): European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment, Strasbourg (3. december 2018).

Kaj je umetna inteligenca in kako se uporablja v praksi?, URL: https://www.europarl.europa.eu/news/sl/headlines/priorities/umetna-inteligenca-v-eu/20200827STO85804/kaj-je-umetna-inteligenca-in-kako-se-uporablja-v-praksi (6. november 2023).

Lukman, Urh: Sodno odločanje in umetna inteligenca, URL: https://repozitorij.uni-lj.si/Dokument.php?id=155730&lang=slv (5. november 2023).

Ministrstvo za pravosodje Republike Slovenije: Digitalizacija pravosodja v okviru Načrta za okrevanje in odpornost, Ljubljana (julij 2021).

Podpečan, Mitja: Umetna inteligenca in sojenje, v: Odvetnik, 88 (2018) 1, str. 26-28.

Predpisi o umetni inteligenci: kaj hoče Evropski parlament, URL: https://www.europarl.europa.eu/news/sl/headlines/priorities/umetna-inteligenca-v-eu/20201015STO89417/predpisi-o-umetni-inteligenci-kaj-hoce-evropski-parlament (4. november 2023).

Umetna inteligenca: Priložnosti in tveganja, URL: https://www.europarl.europa.eu/news/sl/headlines/society/20200918STO87404/umetna-inteligenca-priloznosti-in-tveganja (4. november 2023).

Wisconsin Supreme Court requires warning before use of algo-rithmic risk assessments in sentencing. — State v. Loomis, 881 N.W.2d 749 (Wis. 2016), URL: https://harvardlawreview.org/wp-content/uploads/2017/03/1530-1537_online.pdf (4. november 2023).

Opombe

[1] Študentka 2. letnika Pravne fakultete Univerze v Ljubljani.

[2] Evropski parlament - Special Commitee on Artificial Intelligence in a Digital Age, Activity report (2022), str. 5. 

[3] Kaj je umetna inteligenca in kako se uporablja v praksi?, URL: https://www.europarl.europa.eu/news/sl/headlines/priorities/umetna-inteligenca-v-eu/20200827STO85804/kaj-je-umetna-inteligenca-in-kako-se-uporablja-v-praksi.

[4] Lukman, Sodno odločanje in umetna inteligenca, URL: https://repozitorij.uni-lj.si/Dokument.php?id=155730&lang=slv, str. 22.

[5] Provenienca oziroma izvor.

[6] Strojno učenje (angl. machine learning) je veja umetne inteligence, ki računalnikom omogoča sposobnost učenja, sprejemanja odločitev ali napovedi neposredno na podlagi podatkov. Algoritmi strojnega učenja omogočajo učenje vzorcev in pridobivanje vpogleda iz podatkov, medtem ko pri tradicionalnem programiranju algoritem kodira človek.

[7] Umetna inteligenca: Priložnosti in tveganja, URL: https://www.europarl.europa.eu/news/sl/headlines/society/20200918STO87404/umetna-inteligenca-priloznosti-in-tveganja.

[8] Wisconsin Supreme Court requires warning before use of algo-rithmic risk assessments in sentencing. — State v. Loomis, 881 N.W.2d 749 (Wis. 2016), URL: https://harvardlawreview.org/wp-content/uploads/2017/03/1530-1537_online.pdf.

[9] Predpisi o umetni inteligenci: kaj hoče Evropski parlament, URL: https://www.europarl.europa.eu/news/sl/headlines/priorities/umetna-inteligenca-v-eu/20201015STO89417/predpisi-o-umetni-inteligenci-kaj-hoce-evropski-parlament.

[10] Ministrstvo za pravosodje Republike Slovenije, Digitalizacija pravosodja v okviru Načrta za okrevanje in odpornost (2022), str. 1 in 3.

[11] Brkan, Umetna inteligenca in sodniško odločanje (1. del), URL: https://www.iusinfo.si/medijsko-sredisce/kolumne/304161.

[12] Podpečan, Umetna inteligenca in sojenje (2018), str. 26.

[13] European Commission for the Efficiency of Justice (CEPEJ), European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment (2018), str.7.

[14] European Commission, Attitudes towards the impact of digitisation and automation on daily life (2018).

[15] Angl. the mouthpiece of the law oziroma sl. “usta zakona”.

[16] Lukman, Sodno odločanje in umetna inteligenca, URL: https://repozitorij.uni-lj.si/Dokument.php?id=155730&lang=slv, str. 44.

[17] Lukman, Sodno odločanje in umetna inteligenca, URL: https://repozitorij.uni-lj.si/Dokument.php?id=155730&lang=slv, str. 42.

[18] Cerar, (I)racionalnost modernega prava (2001), str. 125.

[19] Znana Celzova maksima ius est ars boni et aequi.