Vloga pravnikov v družbi prihodnosti
Katja Kreft je na natečaju Pamfilovo pero zasedla drugo mesto.
Bomo uspeli ubraniti pravico do pozabe?
Govoriti resnico v času vsesplošnih prevar je revolucionarno dejanje.
George Orwell
Znanstvenofantastični roman Georgea Orwella z naslovom “1984”, ki je izšel leta 1949, opisuje družbo prihodnosti, kot družbo, osredotočeno na nadzor uma, zatiranje individualnosti in pod popolnim nadzorom Velikega brata. Z razvojem informacijske tehnologije in vzponom podjetij, kot so Google in Facebook, ki so zmožna množične obdelave in shranjevanja najrazličnejših podatkov, Orwellova zamisel družbe ni več zgolj znanstvena fantastika, temveč realnost.
Nove tehnologije vsekakor pomembno prispevajo k razvoju družbe, a s seboj prinašajo številne izzive, s katerimi se bomo pravniki primorani soočiti v prihodnosti.
Varovanje zasebnosti
Eden od izzivov bo vsekakor varstvo pravice do zasebnosti. Korak v tej smeri predstavlja 85. člen Splošne Uredbe o varstvu podatkov,[1] ki si prizadeva za zgladitev konflikta med pravico do zasebnosti in pravico do izražanja, katere del je tudi pravica do dostopa do informacij. Določba načeloma daje prednost prvi, saj prepoveduje obdelavo osebnih podatkov, z izjemo obdelovanja v novinarske namene ali zaradi akademskega, umetniškega ali književnega izražanja. Zaradi svoje pomenske odprtosti je bila razlaga te določbe večkrat predmet presoje Sodišča Evropske Unije (v nadaljevanju Sodišče EU). Sodišče EU je predvsem zelo široko razlagalo pojem novinarstva zaradi vloge, ki jo ima pravica do izražanja v demokratični družbi,[2] je pa obenem poudarilo, da tudi v primeru, ko obdelavo lahko uvrstimo v eno od izjem, je treba tehtati med pravico do zasebnosti in pravico do izražanja, kot ga je razvila že sodna praksa Evropskega sodišča za človekove pravice.[3]
Pravica, ki v digitalni dobi dobiva vedno večji pomen, je t.i. pravica do pozabe oziroma pravica do izbrisa (the right to be forgotten), določena v 17. členu Splošne Uredbe o varstvu podatkov. Izraz “izbris” pa je zavajajoč, saj ne gre za dejanski izbris vsebine, temveč zgolj za de-indeksiranje povezav URL na spletne strani, ki vsebujejo osebne podatke posameznikov, tako da se ti ne prikazujejo v rezultatih iskanj. Sodišče EU je v treh primerih obravnavalo dolžnosti in pravice Googla v zvezi s pravico biti pozabljen. V prvem mu je naložilo nalogo tehtanja med pravico do zasebnosti in komercialnim interesom nosilca spletne strani,[4] v drugem prepoved objave, ko gre za občutljive osebne podatke,[5] v zadnjem[6] pa je presojalo teritorialni vidik njegovih obveznosti. Google v skladu z zakonodajo EU ni dolžan aplicirati pravice biti pozabljen na vseh svojih strežnikih po svetu, temveč zgolj v EU, posledično pa je ta pravica tudi za državljane EU v veliki meri okrnjena. Na njeno pomembnost in nujno nadaljnjo ureditev v prihodnosti brez dvoma kaže več kot 1,2 milijonov prošenj za izbris, ki jih je Google prejel lansko leto. Prav toliko, če ne še bolj, je skrb vzbujajoče obdelovanje osebnih podatkov, ki temelji na “privolitvi” posameznikov. Raziskava norveške potrošniške organizacije[7] je pokazala, da aplikacije, namenjene zdravju in rekreaciji, kot sta MyFitnessPal in Runkeeper, kršijo zasebnost uporabnikov s tem, ko njihove podatke hranijo neomejen čas, spremljajo lokacijo tudi ob neuporabi aplikacije in ne razkrivajo, s katerimi partnerji delijo podatke. Trenutno so ene od zelo zainteresiranih partnerjev zavarovalnice, ki bi vsekakor znale izkoristiti na tak način pridobljene podatke zavarovancev. Mednarodno združenje za proučevanje ekonomije zavarovalništva (International Association for the Study of Insurance Economics) je v poročilu iz septembra 2018[8] ugotovilo velik vpliv digitalizacije na zavarovalništvo ter posledično premik od tradicionalne vloge kritja škode k novi vlogi, usmerjeni v preventivo in vplivanje na ravnanje posameznikov preko tehnologije. Zavarovalništvo, ki nudi zaščito pred negativnimi dogodki preko združevanja tveganj, bo tako najverjetneje v prihodnosti še povečalo svojo vlogo pri spopadanju s problemi družbe. Zavarovalnice bi lahko preko zgoraj omenjenih aplikacij pridobile podatke o zdravju posameznikov, nanj vplivale, na primer z opozorilom, da se je posameznik premalo gibal ali pojedel preveč sladkarij, in na podlagi tega izračunale tveganost in posledično zavarovalno premijo. Čeprav bi ta nov zavarovalniški model morda prinesel korist za javno zdravje, s seboj prinaša številne pravne in etične pomisleke. Dostop do zdravstvenega zavarovanja bi bil osebam, ki jih aplikacije označijo kot visoko tvegane, otežen ali celo onemogočen, hkrati pa bi to odprlo novo polje zlorab osebnih podatkov in poseg v splošno svobodo ravnanja. Da se tem pravicam nismo pripravljeni odpovedati, dokazuje nedavno vložena pobuda za oceno ustavnosti odloka o omejitvi gibanja ljudi med občinami ter opozorila Informacijske pooblaščenke in Zveze potrošnikov Slovenije o posegu v zasebnost, ki jih prinašajo mobilne aplikacije za nadzor širjenja nove virusne bolezni COVID-19. Čeprav gre za krizne čase, je prav v teh še bolj kot sicer pomembno usmeriti pozornost v varovanje temeljnih pravic, ki jih oblast lahko zlorabi pod pretvezo varovanja javnega zdravja.
V koraku z razvojem informacijske tehnologije
Z razvojem informacijske tehnologije se bo poleg problema posegov v pravico do zasebnosti, pravo moralo soočiti tudi s posegom umetne inteligence v druge človekove pravice in posledično z vprašanji njene kazenske in odškodninske odgovornosti. Ob tem pa je pomembno, da pravniki ostanejo v koraku z napredkom, prepoznajo prednosti novih tehnologij in jih tudi sami uporabijo.
Vpliv prava na umetno inteligenco ali vpliv umetne inteligence na pravo?
Tehnološki napredek omogoča več kot le obdelovanje in shranjevanje podatkov, umetna inteligenca se je na primer zmožna učiti iz preteklih dogodkov in znanje uporabiti. To vodi v nelagodno vprašanje, ali bo umetna inteligenca nekega dne nadomestila sodnike? Vse človeške odločitve so do neke mere dovzetne za predsodke in vsi sodni sistemi trpijo zaradi nezavedne pristranskosti, kljub najboljši nameri. Algoritmi, ki lahko ignorirajo dejavnike, ki zakonsko ne vplivajo na posamezne primere, na primer spol in raso, bi lahko odpravili nekatere od teh pomanjkljivosti. Ameriška znanstvena raziskava,[9] ki je potekala na podlagi analize podatkov dveh milijonov pripornih zadev, je dokazala, da bi se pri dilemi, ali osumljenca pripreti ali ga izpustiti na prostost, računalnik v 60 odstotkih odločil bolj pravilno, kot so v teh primerih odločili sodniki. Odločitev je namreč zahtevala analizo tveganj, ki temeljijo na dokazih, namesto opiranja na subjektivno odločanje sodnikov. »Uporaba umetne inteligence v sodni oblasti lahko sodnikom nudi učinkovita sredstva, vendar ne more nadomestiti strokovnega znanja sodnikov« meni Zhou Qiang, predsednik Vrhovnega ljudskega sodišča na Kitajskem.[10] Kitajska sodišča že danes uporabljajo pomoč robotov z znanjem o sodni praksi, kar zmanjšuje delovno obremenitev sodnikov.[11] Prav tako za namene dokazovanja uporabljajo umetno inteligenco, ki pregleduje tako komentarje na družbenih obrežjih kot zasebna sporočila. Zmožnosti tehnologije so praktično neomejene, naša naloga pa je, da ne pustimo, da pride do hudih posegov v pravico do zasebnosti na račun iskanja materialne resnice.
Tehnologija razpršene evidence in pametne pogodbe
Ena vodilnih investicijskih bank Goldman Sachs je v svojem poročilu o novih trendih,[12] ki bodo bistveno spremenili način, kako živimo in delamo, na prvo mesto uvrstila tehnologijo razpršene evidence (distributed ledger technology). Z njeno pomočjo se bo omogočila racionalizacija procesov, ki naj bi v svetovnem merilu samo na področju delniških trgov letno prihranila 6 milijard ameriških dolarjev, saj bo namreč odpadla potreba po posrednikih kot so banke in notarji. Gre za način digitalnega shranjevanja podatkov, katerih zaporedje in pristnost sta zavarovana z matematičnimi algoritmi. Najpogostejša vrsta tehnologije razpršene evidence se imenuje veriženje podatkovnih blokov (»blockchain«). Ime izhaja iz dejstva, da so transakcije razporejene v bloke, ti pa so med sabo povezani v kronološkem vrstnem redu, tako da se izoblikuje veriga. Prednost neokrnjenosti in varnosti podatkov, ki so vključeni v evidenco so nekatere države po svetu že prepoznale in nove tehnologije vključile v svoje delovanje. V Estoniji lahko državljani s svojo osebno identifikacijsko številko, ki je zapisana v tehnologiji razpršene evidence, sodelujejo na volitvah, plačajo davke, upravljajo bančni račun, naročajo zdravniške recepte in imajo dostop do drugih digitalnih javnih storitev. Prenos zemljiške knjige je leta 2017 izvedla Švedska, dobra praksa pa je uveljavljena tudi v Keniji, Gani in Nigeriji.[13] To je bilo za razvoj afriških držav bistvenega pomena, saj so s tem zagotovili popolno transparentnost nad lastništvom nepremičnin in zmanjšali korupcijo.
Od začetkov pisnih pogodb v Mezopotamiji v 3. tisočletju pred našim štetjem se je kompleksnost pravnih poslov močno povečala, a so temelji pogodbenega prava kljub temu ostali razmeroma nespremenjeni. Spremembo pogodbenega prava pa bo vsekakor zahteval že precej razvit pojav pametnih pogodb, ki temeljijo na prej omenjeni tehnologiji razpršene evidence. Cilj pametnih pogodb je, da izvršljivost zagotavljajo same, kar predstavlja odstop od tradicionalnega pravnega sistema in orodij za izvrševanje, ki jih ta ponuja. Z ustrezno povezavo različnih baz podatkov, kot so zemljiška knjiga, register gospodarskih družb, javnih registrov in zasebnih registrov premoženja, bo možna sklenitev pametnih pogodb na področju prenosa nepremičnin, oporok, zavarovalnih pogodb, lizinških pogodb in drugih. Pametna zavarovalna pogodba bi tako lahko na primer sama preverila dejstva in relevantne okoliščine primera ter samodejno izplačala ustrezno zavarovalnino, če bi bili izpolnjeni s pogodbo določeni pogoji. Na platformah, kot je Ethereum, se za preveritev dejstev in okoliščin uporablja t.i. »oracle«. Gre za zunanji vir informacij (izven sistema veriženja blokov), na katere se lahko pametna pogodba sklicuje in črpa sklepe. Denimo, da je pogodba, po kateri potnik kupi letalsko vozovnico, zajeta v pametni pogodbi. Če je pravilno programirana, lahko pametna pogodba preverja podatke o času odhoda in prihodu leta in ugotovi, ali urnik letov drži. Če se na podlagi teh informacij izkaže, da je prišlo do zamude, bi pametno pogodbo lahko programirali tako, da potniku takoj izplača ceno letalske karte (ali njen del) kot nadomestilo. Na podoben način bi se z samodejnim prenosom lastništva premičnin in nepremičnin ter prenosom finančnih sredstev od oporočitelja k dedičem lahko samoizvršila oporoka.
Spremembe, ki si jih obetamo na področju civilnega materialnega prava, so velike in bodo nedvomno terjale tudi primerno prilagoditev civilnega procesnega prava. Potreba po pravovarstvenih postopkih s pametnimi pogodbami ne bo prenehala. Sporov v zvezi s svobodno voljo, dobro vero, spremenjenimi okoliščinami in zmoto bo po vsej verjetnosti še več. V zvezi z načinom reševanja sporov se odpirajo zanimiva vprašanja zlasti glede pristojnosti. Težavo predstavlja dejstvo, da so verižni bloki decentralizirani in se nahajajo in izvajajo s pomočjo računalnikov po vsem svetu, zato teritorialni pristop, po katerem je pristojnost odločati o sporu običajno dodeljena nacionalnim sodiščem, ni primeren. Z različno nacionalno ureditvijo bi bili namreč uporabniki v neupravičenem neenakem položaju, enako pa bi to povzročilo stroške podjetjem, ki delujejo na mednarodni ravni, saj bi morali pametne pogodbe usklajevati z različnimi nacionalnimi zakonodajami. Rešitev vidim predvsem v ureditvi na nadnacionalni ravni ali pa v uporabi sistema nedržavnega pravnega varstva za reševanje sporov, na primer arbitraže. V zadnjem času pa se je, zanimivo, tudi na področju arbitraže zgodil poskus prehoda njenega delovanja na avtomatiziran sistem, ki se zanaša na računalniške algoritme. Trenutno je po svetu v fazi realizacije več projektov, katerih cilj je omogočiti alternativno reševanje sporov s pomočjo tehnologije veriženja blokov, na primer Kleros, CodeLegit, Juris in Oath. S pomočjo pridobljenih zunanjih informacij tehnologija omogoči izpeljavo končnega sklepa, ki služi kot arbitražna odločba, hkrati pa je poskrbljeno še za njeno izvršitev.[14] Slaba stran take samodejne izvršitve predstavlja možnost posega v temeljne človekove pravice. Če za primer vzamemo sklenitev pogodbe o najemu stanovanja, kjer pametna pogodba lahko nadzira ključavnico vrat stanovanja in jo blokira, če najemnik ne plača najemnine, o katerih sta se stranki dogovorili, lahko hitro ugotovimo, da pride do kršitve najemnikovih pravic. Sodelovanje pravnikov bo zato pri oblikovanju računalniških algoritmov ključno, saj bo potrebno zagotoviti, da niso sprogramirani na način, ki ne bi nudil take stopnje varstva, kot jo določa zakonodaja.
Vloga pravnikov pri soustvarjanju pravične družbe prihodnosti
Državljani EU uživamo pravico do pozabe, katere namen je varovanje zasebnosti posameznikov v digitalni dobi. Iz opisanih informacijskih novosti in razvoja v pravu, ki si ga obetamo, lahko izpeljem sklep, da bo ta pravica v veliki meri izvotljena in ne bo nudila potrebnega varstva. Pravica do pozabe je namreč že pojmovno nemogoča v sistemu veriženja blokov. Zapisi na njih namreč ostanejo, za vedno. Vloga pravnikov v prihodnosti bo tesno povezana s tehnološkim napredkom. Na digitalizacijo se bomo morali prilagoditi in nove tehnologije vključiti v delovni proces, saj bo z njihovo pomočjo delo bolj učinkovito in ekonomično. Ob tem pa ne smemo pozabiti na samo jedro prava – pravičnost in na vlogo pravnikov v njenem iskanju. Orwell prihodnost resda opiše črno, a vidi možnost rešitve: »Opažam, da je to smer, v katero gremo, čeprav je stvari mogoče spreobrniti.«
Opombe
[1] Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov), UL L 119, 04.05.2016, str. 1-88.
[2] Zadeva C-73/07 - Satamedia, ECLI:EU:C:2008:727 in zadeva C-345/17 - Buivids, ECLI:EU:C:2019:122.
[3] Zadeva Von Hannover proti Nemčiji, št. 59320/00.
[4] Zadeva C-131/12 - Google Spain in Google, ECLI:EU:C:2014:317.
[5] Zadeva C-136/17 - GC in drugi, ECLI:EU:C:2019:773.
[6] Zadeva C-507/17 – Google, ECLI:EU:C:2019:772.
[7] Forbrukerradet, URL: https://www.forbrukerradet.no/side/new-study-the-advertising-industry-is-systematically-breaking-the-law/.
[8] Insurance in the Digital Age, URL: https://p.cygnus.cc.kuleuven.be/bbcswebdav/pid-26679993-dt-content-rid-243605538_2/courses/B-KUL-C06B9a-1920/Geneva%20Association%20Report%20Insurance%20in%20the%20digital%20age%20September%202018.pdf.
[9] Jon Kleinberg, Himabindu Lakkaraju, Jure Leskovec, Jens Ludwig, Sendhil Mullainathan, Human Decisions and Machine Predictions, The Quarterly Journal of Economics, letnik 133, št. 1 (2018), str. 237–293.
[10] World Government Summit, URL: https://www.worldgovernmentsummit.org/observer/articles/could-an-ai-ever-replace-a-judge-in-court
[11] Alison (Lu) Xu: Chinese judicial justice on the cloud: a future call or a Pandora’s box? An analysis of the ‘intelligent court system’ of China, Information & Communications Technology Law, 26:1, 59-71.
[12] Goldman Sachs Blockchain putting theory to practice, URL: https://www.academia.edu/38946070/Goldman_Sachs_Blockchain_putting_theory_to_practice
[13] Domineum, URL: https://www.domineum.io/post/how-does-land-registration-in-nigeria-work.
[14] Pietro Ortolani: The impact of blockchain technologies and smart contracts on dispute resolution: arbitration and court litigation at the crossroads, Uniform Law Review, letnik 24, št. 2, str. 430-448
