Tim Horvat je na natečaju Pamfilovo pero zasedel prvo mesto.

1

Leta 2050 se je gladina morja dvignila za pet metrov, kar je iz svojih domov pognalo deset do petnajst milijonov ljudi. Migracije povzročajo velike izzive, tako ekonomske, socialne kot kulturne. Liberalne demokracije so postale oligarhije, v katerih domači in tuji kapitalisti preko financiranja volilnih kampanj izbirajo politiko, ki jo želijo. Parlamenti so postali le še simulaker demokracije, saj se vse odločitve sprejemajo v tehnokratskih, nadnacionalnih organizacijah. Odločajo agencije, odbori in sodišča. Suverenost se vse bolj drobi na različne nivoje. Mitološko Ljudstvo kot »vodnjak legitimnosti« postaja vse bolj zamegljen pojem, tradicionalne institucije nacionalne države izgubljajo pomen – to pri posameznikih povzroča tesnobo, saj se krhajo temelji njihove identitete, kar v družbi sproža vse večje konflikte. Ljudje ne vedo več, kje je tisti center moči, na katerega morajo vplivati. Politični sistem je izgubil vso legitimnost, zato so znanstveniki razvili algoritem, ki je nadomestil pravo in politiko – sam ustvarja norme, jih interpretira in izvršuje.

Kako bi lahko prišlo do takšne distopije?

Že danes je možno opaziti, da politika vse bolj delegira odločanje pravu, in nič ne kaže, da se bo to kmalu obrnilo. Govorimo o judikalizaciji političnih procesov.[1] Špansko ustavno sodišče je samo izvršilo svojo odločbo in odredilo aretacijo katalonskih separatistov in prepovedalo referendum.[2] Indijsko vrhovno sodišče je v pravico do življenja zapisalo tudi pravico do hrane.[3] Po svetu sodišča priznavajo tudi pravico do pitne vode, pravico do doma.[4] Nizozemsko vrhovno sodišče je obsodilo nizozemsko vlado, da mora uresničiti zaveze iz Pariškega podnebnega sporazuma.[5] Slovensko ustavno sodišče trenutno presoja skladnost proračuna s fiskalnim pravilom. Francosko ustavno sodišče je dalo veljavo načelu bratstva in razveljavilo kaznivo dejanje pomoči beguncem, potem ko so prečkali mejo.[6] Med epidemijo COVID-19 je cela vrsta najvišjih sodišč po svetu odločala o ustavnosti prepovedi gibanja.

Čeprav se zdi, da gre za učbeniško delovanje ustavne demokracije, pa se ta iz omejevanja oblasti s kratkim seznamov omejitev pospešeno širi na področja, tradicionalno pridržana politiki. S tem se parlament iz središča odločanja in tehtanja med nasprotujočimi interesi pomakne na drugo stran tehtnice, nasproti posamezniku, medtem ko vlogo tehtanja med družbenimi interesi prevzame sodnik ali tehnokrat.

Vzroka sta dva. Tehnokracija je po 2. svetovni vojni in pod vplivom nemške šole ordoliberalizma postala osrednja paradigma vladanja, ki demokratično legitimnost zamenjuje z legitimnostjo ekspertov, ki naj bi bili nevtralni, apolitični, odmaknjeni od umazanih igric dnevne politike – takšna so na primer ustavna sodišča, centralne banke, evropske institucije. Vendar pa se na ta način na nedemokratične institucije prenaša prav odločanje o zadevah, ki imajo distribucijske učinke (npr. o ekonomski politiki) in bi bilo treba o njih odločati zgolj demokratično.[7]

Drugič, v nasprotju z distopičnim scenarijem so se posamezniki zavedli tega izmikanja oblasti in so začeli »demokratizirati« tehnokratske institucije – prostor političnega boja se je iz parlamentov prestavil v sodne dvorane. Pojavile so se zahteve po uvedbi večje raznolikosti v odborih centralnih bank.[8] V Evropski uniji se povečuje vpliv volivcev na sestavo Evropske komisije (eksperiment z vodilnim kandidatom) in bridki politični boji za imenovanje sodnikov najvišjih sodišč lahko to tezo le potrdijo.

Drugi trend pa je tehnološka družba. To bo družba, v kateri bodo algoritmi z uporabo baz naših osebnih podatkov začeli prevzemati številne funkcije odločanja o naših življenjih (delodajalci, zavarovalnice, banke, policija, odrejanje karantene). Naposled bodo algoritmi vstopili tudi v pravo, sprva v odvetniških pisarnah za preverjanje pogodb in sklepanje pametnih pogodb, nato tudi v upravne organe, pa v sodstvo; sprva v podporo, nato pa namesto ljudi. Za namen tega besedila je najbolj zanimiva uporaba algoritmov pri pravnem odločanju – to bi lahko postal kompromis med politiki, ki hočejo ustaviti politizacijo pravosodja, in posamezniki, ki ne zaupajo tehnokratskim institucijam kot nadzornicam parlamentov.[9]

2

Če sklenem: pravno odločanje se nepovratno širi na tradicionalna področja politike, s tehnologijo pa bi radi zaustavili aktivizem pravnikov. Kakšna bo torej vloga pravnikov v tej družbi prihodnosti? Ali jih bomo sploh še potrebovali?

Pravniki – to so pisci zakonov, sodniki, tožilci, odvetniki, javni uslužbenci. Po mojem bodo pravniki vedno sodelovali pri pisanju predpisov, dokler bo v neki obliki obstajala vladavina prava. Kot bom pokazal, bodo vedno obstajali tudi odvetniki – posamezniki, ki bodo študirali in vnašali predvidljivost v kaos oblastnega odločanja. Vprašanje pa je, kaj se bo zgodilo s pravniki-odločevalci.

Po mojem mnenju je proces judikalizacije politike nepovraten, pravo ne more postati »apolitično« (3), ni možno uvesti takšnega algoritma v pravno odločanje, ki bi zadostil kriterijem demokratičnosti (4) in pravniki si morajo izboriti aktivno in kreativno vlogo v svetu ter za svoja dejanja prevzeti demokratično odgovornost (5).

3

Naravoslovci velikokrat kritizirajo pravnike, da znajo samo nakladati in komplicirati: dva pravnika, tri mnenja. Problem je v tem, da so zakoni slabo napisani – če bi bili jasni, jih tudi pravniki ne bi mogli pokvariti in »politično« interpretirati. To razmišljanje temelji na napačni predpostavki, da je pravo lahko popolnoma jasno in da je ukinitev vloge pravnikov nekaj zaželenega.

Pravo ne more biti eksaktno, ker jezik ne more biti eksakten. Poskus opisovanja resničnosti se bodisi izgubi v neskončnih podrobnostih, kot je poskusil Georges Perec s svojim romanom Življenje: navodila za uporabo, ali pa postane tako abstrakten in nabit s pomenom, da neha referirati nanjo, kot se je pripetilo Balzacu, avtorju monumentalne Človeške komedije.[10]

Pravni jezik je sicer poseben, a pravkar opisanemu podoben – ne želi si resničnosti opisati, temveč predvideti vse življenjske situacije, ki naj jih norma zajame, saj ni deskriptiven, temveč preskriptiven.. S tem pa posredno želi predvideti celotno resničnost kakor Perec. Zakoni so kompromis med obema nemogočima skrajnostma, zato pri vsaki uporabi norme razlagalec ustvari življenjski primer pred seboj. Carl Schmitt se je postavil na še bolj ekstremno stališče, da nobena norma ne vsebuje v sebi odgovora za svojo uporabo v konkretnem primeru, temveč je to suverena odločitev razlagalca.

Pravo zato vase bodisi izrecno vgrajuje bodisi vsebuje politično, suvereno odločanje. Poglejmo nekaj primerov. Test sorazmernosti, kot izpeljava pravne države, vsebuje tehtanje dveh pravic, kar je prvovrstna politična odločitev, ki ne izvira v pravu.[11] Test nedopustne diskriminacije kot enega od korakov vsebuje izbiro komparatorja (»ali sta subjekta, ki ju zakonodajalec različno obravnava pri izvrševanju ustavnih pravic, v bistveno enakih položajih«), ki je deloma določen z ustavo, vendar je primerjava dveh položajev več kot zgolj mehansko opravilo. V sporih motenja posesti se odloča o tem, do katere stopnje je neka motnja dopustna in kdaj postane nedopustna. Holmes zapiše, da sodnik pripiše pomen normi na podlagi lastne morale.[12] Nemški BGB je skoraj nespremenjen preživel cesarstvo, republiko, nacizem in liberalno ustavno demokracijo, saj so sodniki prek »generalnih klavzul« njegovo vsebino prilagajali družbenim spremembam.

V uporabi prava – aplikaciji norme na dejstva – je torej zunajpravna, ideološka presoja imanentna. Ideologija tukaj ni neka strankarska pripadnost, temveč nezavedna zbirka idej in prepričanj o družbi, ki vodi človekovo, sodnikovo ravnanje. Ne zagovarjam takšne teze o ideološkosti odločanja, ki bi podelila primat političnem odločanju, tudi proti dobesedni razlagi. Vendar pa se ideologija začne ne le pri predvidenem tehtanju najpomembnejših ustavnih pravic, temveč tudi pri interpretaciji vsakršne norme: pravnega standarda gotovosti, krivde v kazenskem pravu, ocene o dokazanosti dejstva, pri presoji razlogov javnega reda in javne varnosti, javne morale v različnih postopkih, ali presoji nasprotovanja moralnim načelom (3. člen OZ). Gre za »subjektivnost« odločanja, ki v pravo vnaša nepredvidljivost, zaradi katere obstaja celoten sistem pravnih sredstev in vrhovnih sodišč za »poenotenje« prava.

Ali bi to lahko popravil napreden algoritem?

4

Obstajajo algoritmi (natural language processing), ki se na osnovi zbirke odločb, ki jim jo vstaviš, naučijo odločati na tak način in lahko izdajo povsem novo odločbo, celo z jezikovnim slogom določenega sodnika. Takšen algoritem ne odloča zares avtonomno, temveč oponaša sodno prakso, s katero razpolaga. Tukaj je več problemov: pravo se mora postopoma prilagajati življenju, kar tukaj ni mogoče. In drugič, takšni algoritmi pogosto nadaljujejo rasistično ali diskriminatorno prakso iz nabora podatkov (garbage in, garbage out).[13] Tako so uporabni kvečjemu v sporih, kjer gre že zdaj zgolj za mehansko preverjanje določenih kriterijev.

Vrednostno odločanje je v pravu torej neizogibno in deloma utemeljeno na kriterijih zunaj prava. Če algoritem v trenutni obliki rešuje primere glede na vnaprej določena merila, se zastavi vprašanje, kdo bo določil ta merila v algoritmu – komu dati prednost pri tehtanju med dvema pravicama, ali je traktor na domačem dvorišču tudi »vozilo« itd. Funkcijo določanja pomena norm in suverenega odločanja bi vzeli sodnikom in jo podelili programerjem ali tehnologije veščim pravnikom. To bo nemara poklic prihodnosti – pravniki in programerji v enem, »družbeni inženirji« v pravem pomenu besede. V resnici bi prišlo do kantovske uvedbe obvezne avtentične razlage in ukinitev interpretacije v posameznih primerih.[14] Poglejmo, zakaj.

Verjetno bi bili ogorčeni nad tem, da nek računalnik odloča o naših življenjih, in zahtevali, da je treba proces demokratizirati: vsi moramo biti udeleženi pri določanju pravnih pravil, ki jih bo programer vnesel v svojo kodo. Vemo tudi, da programer ne more za vedno fiksirati pomena besed in vrednot, ki naj vodijo uporabo norm. Torej bi moral vsak mesec sprejemati »pritožbe« uporabnikov in popravljati kodo. Obenem bi se moral za vsako spremembo posvetovati z vsemi uporabniki na nekakšnih referendumih. Ker nimamo časa vsak dan razpravljati o neznatnih pravnih dilemah, bi lahko to odločanje delegirali na nekakšne poslance. Če bi to bili obenem zakonodajalci, bi ustvarili le še bolj avtoritarno ureditev brez delitve oblasti, v kateri vrhovno oblast dobi zakonodajna veja. Druga možnost bi bila to poslanstvo zaupati nekakšnim profesionalcem, pravnikom-programerjem. Če bi bili še vedno naši poslanci, bi šlo za negacijo ustavne demokracije. Če bi bili neodvisni in strokovni ter se držali dobesedne razlage, bi se vrnili na sam začetek.

Poskusimo si predstavljati še algoritem, ki bi postal kreativen, nepredvidljiv – kot človeški sodnik. Sam bi izbral in začel upoštevati zunajpravne interese, sam bi širil bazo kriterijev, na podlagi katerih sprejema odločitve in skratka avtonomno sprejemal avtonomne odločitve. S tem bi ustvarili zgolj nov black box.[15] Obstaja algoritem, ki se je sam naučil igrati namizno igro Go in premagal človeka, vendar pa je bilo njegovo učenje podrejeno dosegi cilja igre, ki je določen.[16] V pravu takšnega cilja za razvijanje doktrin in načel ni, torej bi bilo odločanje algoritma naključno.[17]

Zavladala bi nam čisto tuja entiteta, na katero ne bi imeli več vpliva. To ne ustreza načelu demokratičnosti, onkraj katerega ne znamo več misliti: organi, katerih odločitve imajo distribucijske učinke, potrebujejo demokratično, ne le tehnokratske legitimnosti. Pravniki pa v vseh svojih vlogah razporejajo škodo – nekdo zmaga in nekdo izgubi. Morda pa bo takšna oblast v prihodnosti postala legitimna, mogoče se bomo vrnili po Webrovi shemi na začetek: od ljudstva kot izvora suverenosti, preko posebnega znanja (strokovnosti) do božanske, iracionalne legitimacije oblasti – algoritma.

Ko tako razpravljamo, ni razlike med odločanjem sodnika in neskončno napredne umetne inteligence – nemogoče je zares spoznati način odločanja kateregakoli od njiju, razen da oba izhajata iz besedila norme. Odločitev sodnika je legitimna zgolj zato, ker ga štejemo za našega predstavnika, saj izpolnjuje kriterije demokratičnosti: posredno sodelujemo pri njegovem imenovanju (avtorizacija), sojenje je javno in lahko sodelujemo pri sojenju (participacija), ne dvomimo v njegovo strokovnost, za njegovo odgovornost skrbi hierarhični sistem pravosodja, in kar je najpomembnejše, nam je podoben (resemblance), kar pomeni, da verjamemo, da bo oblastnik sprejel za nas ugodno odločitev, zgolj zato, ker nam je podoben.[18]

Algoritem, ki ga je treba popravljati, lahko znova vključi takšne pravnike in se prek njih legitimira. Kreativni algoritem pa ne izpolnjuje nobenega od kriterijev demokratičnosti. Njegova uvedba bi pomenila dokončno zmago paradigme tehnokracije, le da bi v tem primeru odločanje prepustili neskončno zapletenemu in nepredvidljivemu algoritmu. Kot v kultnem romanu Štoparski vodnik po Galaksiji, v katerem sta dva programerja super-računalniku Globoka misel zadala nalogo, naj odgovori na vprašanje o smislu življenja, vesolja in sploh vsega. Ko je podal slavni odgovor »42«, ga nihče ni razumel,  zato so morali razviti nov računalnik, da bi našel vprašanje o smislu življenja. Enako bi se zgodilo tu, saj bi se pravniki morali znova pojaviti kot oraklji, ki bi sistematično študirali odločitve algoritma in svoje življenje posvetili iskanju splošnih pravil (»cilja«) v kaotičnem odločanju.

5

Svet torej postaja kompleksen, konflikten in multipolaren, pravo pa osrednje prizorišče političnega boja. Pred pravniki so težka vprašanja razlaganja kompleksnega sveta, nadziranja monetarne politike, uravnoteževanja političnih pravic, vprašanja bioetike. Pravo torej je politično, čeprav je tudi umetnost dobrega in lepega.

Pravniki morajo naprej nehati prikrivati politično naravo odločanja in obenem upoštevati učinke svojih dejanj zunaj sodne dvorane. V nasprotnem primeru bi to pripeljalo do rezultata kot pri kreativnem algoritmu, ko odločitev sprejema subjekt, za katerega ne vemo, kako razmišlja. Edina prednost človeških sodnikov pred računalniškimi je ta, da o naši usodi odloča drugo človeško bitje. Tudi zanje ne vemo, kako razmišljajo, vendar pa zmorejo pravniki narediti korak naprej in postati tudi ekonomisti, politologi in znanstveniki. Morajo se zavesti svoje ustvarjalne vloge, svojega mesta v središču političnega boja družbe prihodnosti. Prav zato je treba pravniški poklic demokratizirati in zagotoviti zastopanost najrazličnejših delov družbe ter tudi njihovo odgovornost. Pravniki pa morajo postati družbeno odgovorni še na en način, tako da z javnim delovanjem ljudem pojasnjujejo svet, prav tako kot morajo komunicirati znanstveniki. V kompleksnem svetu, v katerem se izgubljajo nacionalne države in nastajajo nove tvorbe, je treba ljudem spremembe pojasnjevati, sicer hitro padejo v kremplje populizmu.[19] Pravo najprej monopolizira reševanje družbenih konfliktov, vendar pa ne sme monopolizirati svojega delovanja na ozko skupino ljudi – pravo, kot je bilo že tolikokrat povedano, je tu zgolj zaradi ljudi, in ne obratno.

Velikokrat razmišljam o tem, kdo je zame »pravnik«. Ponavadi nosi negativen pridih, ljudje se pridušajo nanje, kadar politična debata zaide (»no, pa vprašajmo pravnike«). Predstavljajo si jih kot tiste posameznike, ki so iztaknjeni iz življenja, nad resničnostjo; med nami, a ne z nami. Namesto sivega uradnika, ki ne sme misliti s svojo glavo, pa bi se morali vrniti k idealu jurista kot omikanega, plemenitega in odgovornega poklica.

Opombe

[1] Vallinder, The Judicialization of Politics - A World-wide Phenomenon (1994); Hirschl, The Judicialization of Politics (2013).

[2] Mnenje št. 827/2015, Beneške komisije, Position of Spain regarding its new legislation (Organic law 15/2015 of 16th October) aimed at the effective enforcement of the constitutional court´s judgements.

[3] Right to food campaign: http://www.righttofoodcampaign.in/legal-action/-right-to-food-case.

[4] Spain: Forced eviction violated right to housing, say UN experts: https://www.ohchr.org/EN/NewsEvents/Pages/DisplayNews.aspx?NewsID=25229&LangID=E.

[5] Primer Urgenda. Glej: Landmark decision by Dutch Supreme Court: https://www.urgenda.nl/en/themas/climate-case/.

[6] Décision n° 2018-717/718 QPC du 6 juillet 2018.

[7] Glej npr. Wilkinson, Authoritarian Liberalism (2018).

[8] ECB releases progress on gender targets: https://www.ecb.europa.eu/press/pr/date/2018/html/ecb.pr180308.en.html .

[9] Morda bo argument tudi zagotavljanje učinkovitega sodnega varstva, ki bi lahko bilo v primeru velikanskega pripada azilnih zadev ogroženo.

[10] »Balzac je poskusil zajeti dušo sveta v en sam simbol med neštetimi možnimi; a da bi to storil, je moral pisano besedo obtežiti s takšno intenzivnostjo, da se naposled ni več referirala na svet zunaj samega sebe.« Calvino, Six Memos fort he Next Millenium (2009), str. 98.

[11] Če se ustavna sodišča samonanašalno in v imenu tradicije sklicujejo na lastno sodno prakso, še vedno pridemo do vprašanja, na podlagi česa je odločilo v prvem primeru.

[12] Holmes, Path of Law (1897), str. 13.

[13] When Algorithms Are Racist: How To Protect Against Biased Algoriths: https://www.law.com/legaltechnews/2019/03/07/when-algorithms-are-racist-how-to-protect-against-biased-algorithms/?slreturn=20200421153240.

[14] Glej npr. Zagorc, Avtentična razlaga zakona (2012).

[15] Glej npr. Brkan, Do Algorithms Rule the World? Algorithmic Decision-Making and Data Protection in the Framework of the GDPR and Beyond (2019); Edwards, Veale, Slave to the Algorithm? Why a “Right to an Explanation” Is Probably Not the Remedy You Are Looking For (2017).

[16] How the Computer Beat the Go Master: https://www.scientificamerican.com/article/how-the-computer-beat-the-go-master/.

[17] Pravimo celo, da sodišča nimajo politike, temveč odločajo v vsakem sporu posebej.

[18] Zato tudi kritike spolne sestave ali pozivi k večji raznolikosti v zahodnih državah.

[19] Glej npr. Kukovec, Brexit as a Failure of the Legal Profession (2019).