Somrak kritičnega uma v digitalni dobi: Zakaj je razumevanje moderne tehnologije ključnega pomena za bodoče kazenske pravnike
Somrak kritičnega uma v digitalni dobi: Zakaj je razumevanje moderne tehnologije ključnega pomena za bodoče kazenske pravnike
Andraž Stariha*
Izvleček: Najbrž ni nobena skrivnosti, da se pravniki tehnologije nekoliko bojimo. Tekom našega študija je njena prisotnost komajda omenjena, ali pa celo prepovedana, kot npr. uporaba velikih jezikovnih modelov. Vendar pa je tehnologija, drugače kot v predavalnici, v kazenskem postopku še posebej izrazito prisotna. Porajajo se namreč številni izzivi v zvezi s podajanjem dokazne ocene digitalnih dokazov, vodenjem predkazenskega postopka, odločanjem po prosti presoji, posvetovanjem z izvedenci za informacijsko tehnologijo, varstvom osebnih podatkov in siceršnjimi miselnimi pastmi tehnologije. »Pravnikom primanjkuje tehnološkega znanja« je osrednja tema, s katero se ukvarja zadevni prispevek. V njem je sprva naslovljeno vprašanje, če in v kolikšni meri drži, da imamo pravniki v kazenskem pravu težave z razumevanjem tehnologije. Nato so obravnavani razlogi, zakaj je nujno, da se pravniki pri opravljanju svojega poklica vsaj do neke zdrave mere spoznamo na tehnologijo. Za bolj nazoren prikaz je predstavljenih tudi nekaj že obstoječih praktičnih izzivov. Na koncu so predlagane nekatere ideje, kako prilagoditi študij prava toku časa in stopiti korak naprej k uspešnejšemu opravljanju pravnega poklica, ki je bolj prilagojen sodobnemu svetu.
Ključne besede: kazensko pravo, tehnologija, digitalni dokazi, osebni podatki, digitalna pismenost, umetna inteligenca, študij prava, družbena omrežja, masovni nadzor, starost sodnikov
1. Sodniki ne razumejo tehnologije: dejstvo ali neutemeljena provokacija?
1.1 Študija primera: slepo zaupanje v tehnologijo kot dokazna podlaga za kazensko obsodbo
Billy Ray Johnson je bil marca leta 2015 v ZDA obsojen na kazen dosmrtnega zapora in dodatnih 423 let zaporne kazni, brez možnosti za pogojni odpust. Velika porota ga je spoznala za krivega posilstva treh žensk in več s tem povezanih vlomov.[1] Zaradi pomanjkanja drugih dokazov je tožilstvo svoje argumente v pretežni meri oprlo na rezultate, ki jih je pokazala analiza mešanic ostankov DNK. Analiza je bila opravljena s pomočjo programske opreme 'TrueAllele', ki jo je razvilo zasebno podjetje. Stvari so se zapletle, ko je obramba zahtevala vpogled v delovanje programa, da bi se lahko kritično opredelila do opravljene analize. Sodišče je njeno zahtevo namreč zavrnilo, kot razlog pa navedlo, da program predstavlja poslovno skrivnost, katere razkritje bi ogrozilo razvijalčev poslovni uspeh.[2]
T. i. privilegij poslovne skrivnosti (angl. trade secret privilege) v ZDA predstavlja veliko procesno oviro v kazenskem postopku, saj med drugim daje neomajno prednost varovanju poslovne uspešnosti pred poštenim sojenjem (angl. fair trial) in ustrezno vodenim postopkom (angl. due process).[3] V zadevnem primeru pa je poleg skoraj makiavelističnega pristopa k varovanju poslovnega uspeha še posebej izstopajoča pot obrazložitve, ki jo ubralo sodišče. Čeprav je obramba tekom postopka uspešno pokazala, da TrueAllele ni bil nezmotljiv (ko so bili isti dokazi dvakrat obdelani z istim programom na dveh različnih lokacijah, so bili rezultati med seboj različni, nekateri celo v prid obrambi) in je sodišče pritrdilo njenim navajanjem, da bi izkazano dvoumnost veljalo še najučinkoviteje odpraviti s pregledom izvorne kode (angl. source code), je v obrazložitvi kljub temu zapisalo, da »[n]i videlo nobene specifične logične povezave med pregledom izvorne kode in nekim [pomembnim] dejstvom, ki bi iz tega sledilo«.[4] Drugače povedano, sodišče je ocenilo, da obramba ni uspela izkazati nikakršnih dejstev, ki bi v njegovih očeh lahko upravičila kakršen koli dvom v nezmotljivo delovanje programa, ki je Johnsona obsodil.
S tem sklepom se ni mogoče strinjati. Čeprav so v širši javnosti pogosto zmotno percipirane kot skoraj magična rešitev, analize DNK v praksi nikakor niso povsem nezmotljive.[5] Razlogi za netočne ali pa vsaj nepopolne rezultate lahko tičijo v načinu pridobivanja vzorcev, načinu opravljanja analize, interpretiranju rezultatov in nenazadnje v zasnovi programske oziroma strojne opreme.[6] Gola zatrjevanja proizvajalcev, da so njihovi produkti izkustveno neoporečni, ob tem ne morejo nadomestiti temeljitega in kritično vodenega pregleda algoritemskega procesa, po katerem se izbrani program odloči, katere informacije bo štel kot relevantne in katere ne, saj vsak program to stori na svojevrsten način.[7] Nadomeščanje dokazov, ki jih na glavni obravnavi pretrese sodnik, s takšnimi izjavami, bi v slovenskem pravnem redu najverjetneje pomenilo najmanj kršenje načel neposrednosti in ustnosti ter enakosti orožij.[8] Obenem je potrebno poudariti, da tehnologija že konceptualno ni povsem nepristransko orodje.[9] To velja še zlasti za računalniško programsko opremo. Vrste programske opreme, ki izvršujejo razne algoritemske funkcije (med njimi tudi TrueAllele[10]), pogosto vsebujejo določene vgrajene predsodke (angl. algorithm bias). V večini primerov ti lahko izvirajo iz zbirk podatkov, na katerih so bili programi urjeni, ali pa so projekcija predsodkov razvijalcev, ki so jih ti (ne)hote vnesli v svoj program.[11]
Razlogi za dvom o brezhibnem delovanju programa TrueAllele so bili vsekakor podani. Vendar pa se jih sodišče bodisi ni dovolj dobro zavedalo, bodisi jim je zmotno pripisalo premajhno spoznavno vrednost. Že najmanj tu našteti pomisleki bi morali odvrniti sodišče od tega, da je slepo zaupalo tehnologiji, ki je povrh vsega temeljila na principu 'črne skrinjice' (angl. black box) in ki je sámo ni smelo neodvisno in neposredno preveriti. Takšen pristop v kazenskem postopku ne sme biti sprejemljiv.
1.2 Ali imamo pravniki problem z razumevanjem tehnologije v kazenskem postopku?
1.2.1 Namen prispevka
Sistemi strojnega učenja (angl. machine learning systems) in druga programska oprema kazenskemu postopku dandanes niso več tuji. Kot je bilo prikazano v uvodnem primeru, so odločevalci pri snovanju svojih argumentov vedno bolj vezani na podatke, ki jih zanje ustvarijo – če jih naštejemo samo nekaj – programske forenzične analize (DNK, balistika, prepoznavanje obrazov, …), algoritmi za ocenjevanje stopnje tveganosti (angl. risk assessment algorithms), algoritmi za predvidevanje žarišč kriminala (angl. hot-spot policing) idr.[12]
Navedene tehnologije predstavljajo komaj vrh tehnološke ledene gore, ki plava v morju kazenskega postopka. Tehnologiji v kazenskem postopku praktično ni več mogoče uiti. A hkrati so prav tako neizbežne tudi težave, ki se pojavijo pri umeščanju njene vloge v tem kontekstu. V tej luči se bo tema, ki bo obravnavana v nadaljevanju prispevka, opirala predvsem na sledeče izhodišče: sodobni kazenski pravniki morajo biti dovolj tehnološko podkovani in razumsko opolnomočeni, da lahko iz pravega zornega kota pristopijo k obravnavi posameznega primera, kjer je prisotna določena zvrst tehnologije, vendar pa njihova trenutna tehnološka osveščenost tej zahtevi pogosto ne zadošča.
Ker je to področje izjemno široko, se bo prispevek v prvi vrsti osredotočal na vlogo sodnikov v kazenskem pravu. Slednje pa ne pomeni, da bodo v nadaljevanju izpostavljene problematike kaj manj relevantne za druga področja pravnega delovanja. Kot ugotavlja Svet EU, so digitalne veščine (angl. digital skills) z modernim razvojem postale nepogrešljive tako v zasebnem in kot tudi delovnem življenju slehernega posameznika. Kljub temu pa je leta 2021 le 54 % državljanov EU v starostni skupini med 16 in 74 let obvladovalo vsaj osnove.[13] Da je digitalno usposabljanje nujno tudi v pravosodju držav članic, so izpostavili številni avtorji na konferenci, ki jo je aprila 2023 v ta namen organizirala Evropska komisija.[14]
Izhodišče tega poglavja bo sprva pregled, ki bo skušal odgovoriti na vprašanje, ali se sodniki v kazenskem postopku soočajo s težavami, ki jih lahko pripišemo neizostrenemu poznavanju tehnologije. Nato bo v naslednjem poglavju sledila argumentacija, zakaj je pravzaprav sploh nujno, da se pravniki v kazenskem postopku spoznajo na tehnologijo. Za bolj nazoren prikaz bo argumentacija podkrepljena še z nekaterimi izbranimi praktičnimi primeri. Na koncu bo predstavljenih nekaj idej, kako bi do obravnavane problematike veljalo pristopiti že tekom študija na Pravni fakulteti (UL).
1.2.2 Stari, mladi in družbena omrežja
Začnimo najprej s starostjo. Povprečna starost sodnikov v Sloveniji je namreč relativno visoka.[15] Starost posameznika je nedvomno eden izmed najbolj odločilnih faktorjev, ki lahko (ne pa nujno) vpliva na njegovo digitalno pismenost (angl. digital literacy), tj. sposobnost iskanja, tehtanja, ustvarjanja in sporočanja informacij z uporabo digitalnih tehnologij. V zvezi s tem obstaja občutna razlika med ljudmi, ki so bili rojeni nekoč po letu 1980 in so tako rekoč odraščali skupaj z internetom in tistimi, ki so njegov nastanek spremljali kot odrasli. Predvsem pri starejših (75+ let)[16] je pogostost uporabe interneta manjša kot pri mlajših (16–29 let).[17] Kakšen vpliv ima lahko torej starost sodnika, kadar so v kazenskem postopku vpletena družbena omrežja?
V ZDA so kazenskopravni zagovorniki ter nekateri tožilci nemalokrat soočeni s postopkovnimi preprekami, ki so povezane s tem, da predvsem starejši sodniki pogosto ne razumejo digitalne tehnologije, ki je bila uporabljena v kontekstu storitve konkretnega kaznivega dejanja, oziroma dane tehnologije ne razumejo dovolj dobro. Besedna zveza 'digitalna tehnologija' v tem kontekstu opisuje predvsem digitalna sredstva sporočanja in prejemanja informacij, tj. razne spletne platforme kot so npr. Facebook Messenger, Instagram, Snapchat, X (Twitter), Whatsapp ipd. Težave tako lahko nastopijo v primerih spletnega zalezovanja (angl. cyberstalking), nedovoljenega razširjanja golih fotografij (angl. image-based sexual abuse) ali spletnega nadlegovanja (angl. cyberharassment). Starejši sodniki kot tudi starejši tožilci takšnim primerom pogosto pripišejo manjši pomen, češ da se 'vse dogaja le na spletu' in da zato 'ni dovolj resnično'.[18] 'Samo ugasnite telefon, pa bo' je žal redna mantra, ki je v postopku ponovljena žrtvam tovrstnih kaznivih dejanj.[19] Zagovorniki morajo zaradi takšne zmotne percepcije vložiti bistveno več truda v razlago, zakaj so ravnanja storilcev, ki so bila izvršena s pomočjo spletnih aplikacij, kljub temu lahko za žrtve nevarna (npr. zakaj je lahko zanjo nevarno, če ima storilec oddaljen dostop do žrtvine mobilne aplikacije za dostavo hrane, kjer lahko spremlja njen naslov).[20] V tej luči se nekateri celo zatekajo k načrtnemu izvzemanju predpone 'cyber-' in v postopku namesto nje raje uporabijo samo besedo 'stalking' (slov. zalezovanje). V sodni dvorani je poleg tega včasih nemalo časa porabljenega na razlagi novodobnih pojmov, ki so se ustalili zahvaljujoč porastu družbenih omrežij. To so npr. 'Snapchat', 'DM' (angl. direct message, slov. neposredno sporočilo), 'tweet' (slov. tvit ali čivk), 'blocking', (slov. blokiranje) 'hashtags', (slov. ključniki), 'handles' (slov. vzdevki) itn.[21] Vse to zagovornikom (in navsezadnje tudi tožilcem) nalaga nesorazmerno večje dokazno breme, hkrati pa upočasnjuje tek samega postopka.
Pri starejših sodnikih se torej v praksi pojavljajo marsikatere težave pri interpretaciji družbenih omrežij, kar je povečini pripisljivo manjši uporabi in posledičnemu nepoznavanju te tehnologije. Pri mladih so stvari nekoliko drugačne. Skoraj 98 % mladih (16–29 let) v EU vsaj občasno uporablja internet.[22] Prav tako je dve tretjini mladih (18–29 let) v ZDA v letu 2020 že doživelo vsaj katero izmed oblik spletnega nadlegovanja, kar je največji delež izmed vseh starostnih skupin.[23] Lahko trdimo, da so mladim družbena omrežja na splošno bolj poznana.
Prav tu pa se poraja novo vprašanje: ali lahko nenehna izpostavljenost družbenim omrežjem vpliva na tolerančni prag mladega sodnika pri zaznavanju potencialno spornih situacij v povezavi z varstvom zasebnosti? V zadnjih nekaj letih je skokovito naraslo število aktivnih uporabnikov družbenih omrežij. TikTok jih je leta 2023 beležil nekje med 1,5 in 2 milijardama,[24] Instagram okoli 1,35 milijarde.[25] Vedno več mladih uporabnikov je pripravljenih deliti sleherne trenutke svojega vsakdana z drugimi uporabniki (angl. self-disclosure), pogosto zato, ker ne želijo izostati iz družbenega življenja sovrstnikov.[26] Kljub temu pa se na načelni ravni povečini dobro zavedajo nevarnosti, ki so povezane z varovanjem zasebnosti na spletu.[27] Izpostavljena kognitivna disonanca je v literaturi poznana pod imenom 'zasebnostni paradoks' (angl. privacy paradox) in opisuje občuten razmak med načelnimi prepričanji uporabnikov o varovanju lastne zasebnosti na eni strani in njihovim dejanskim vedenjem na drugi.[28]
Mladi (19–35 let) svoja dejanska ravnanja, ki niso skladna z izrecno izraženimi načelnimi prepričanji, pogosto upravičujejo z nekoliko apatije. Eden izmed pogosteje navedenih razlogov za odstopanje od osebnih prepričanj je ta, da je v posameznih primerih skoraj nemogoče učinkovito nadzorovati odtok osebnih podatkov.[29] Na splošno se uporabniki pogosto niti ne zavedajo celotnega obsega osebnih podatkov, ki jih zbirajo upravitelji družbenih omrežij, prav tako na to – z izjemo abstinence – nimajo pravega vpliva.[30] Kaj to pomeni za njihovo zavedanje o varstvu zasebnosti na družbenih omrežjih? Solove na tem mestu opozarja, da iz konkretnih ravnanj posameznika, ki so skoraj vedno odvisna od specifičnega konteksta, še ne moremo poenostavljeno sklepati na to, da ljudje nimamo nikakršnega zavedanja o varovanju svoje zasebnosti na načelni ravni. Posameznik lahko kljub dejanjem, ki odražajo nasprotno, v glavi še vedno ohrani določeno načelno prepričanje. Logični preskok bi bil v nasprotnem primeru prevelik, sklepanje na paradoks pa preuranjen zaključek.[31] Čeprav povedano drži, pa je v kontekstu sodniške presoje še daleč najbolj pomembna prav tista enkratna odločitev, ki jo sprejme sodnik v posameznem primeru. Če odločitev sprejme po enakem kopitu, kot je tega vajen sicer, tj. z nekoliko apatije do načelnih idej o varstvu zasebnosti, lahko to prav tako vodi do zapletov v postopku, kot pri sodnikih, ki se na družbena omrežja ne spoznajo – tokrat le iz nasprotne smeri.
Pri tem ne gre za zgolj za hipotetično ugibanje. Vpliv družbenih omrežij na posameznikove sposobnosti odločanja nikakor ni zanemarljiv. Algoritmi na spletni platformi YouTube uporabniku narekujejo tok informacij in s tem sami črtajo krog podatkov, ki jih ta prejme. Ko na TikTok-u vznikne nov 'izziv' (angl. challenge), ki privabi veliko komentarjev in všečkov, se kajpak hitro vzpostavi nov trend posnemanja. Marsikatera podjetja plačujejo za svetovanje, kako lahko z uporabo družbenih omrežij kar najučinkoviteje zaznamujejo vedenje čim več ciljnih potrošnikov hkrati. Tem vplivom je težko uiti, saj so vseprisotni, pogosto pa se jih ljudje niti ne zavedamo.[32] Četudi se jih, to včasih ne zadošča. Ponavljajoč se tok enih in istih informacij še vedno lahko vpliva na našo percepcijo resnice. Ljudje namreč dojemamo določene trditve kot bolj resnične, če smo jim bili izpostavljeni že prej (učinek navidezne resnice, angl. illusory truth effect).[33] Na podoben način bi lahko ponavljajoč se (čustveni) odziv na nenehen tok istovrstnih dražljajev vodil do napačnih sklepov v kontekstu sodniške presoje. Če ponazorimo s hipotetičnim primerom: v postopku dokaznega vrednotenja zajemov zaslona (angl. screenshots) bi lahko mlad sodnik takšnemu dokaznemu sredstvu brez večjega pomisleka pripisal preveliko dokazno vrednost. Zajemi zaslona so se predvsem v najstniških vrstah med drugim razvili v socialna dokazna sredstva, ki se uporabljajo za reševanje konfliktnih situacij, dokazovanje nedolžnosti ali pa celo vzpostavljanje družbenih hierarhičnih razmerij. Zajemi so pogosto narejeni brez vnaprejšnjega védenja ali privolitve sogovornika, na njih prikazane informacije pa prima facie uživajo neprecenljivo, če ne celo pretirano dokazno vrednost.[34]
1.2.3 Napačna dokazna ocena, napačen sklep
V praksi se porajajo tudi problemi, ki niso nujno povezani s starostjo sodnika. V Nemčiji se sodniki v postopku dokazovanja kdaj pa kdaj preprosto odpovejo ocenjevanju digitalnih dokaznih sredstev (nem. digitale Beweismittel) v prid uporabi izpovedi prič ali izvedenca. Tovrstna praksa naj bi izvirala predvsem iz bojazni, da je digitalne dokaze mogoče relativno enostavno ponarediti, včasih celo brez kakršnega koli posebnega tehničnega predznanja (več o tem kasneje).[35] Če torej priča izpove, da je bil obdolženec res tisti, ki je napisal sporno objavo na poljubni spletni platformi, potem se lahko sodnik na ta način odpove nadaljnjemu iskanju digitalnih sledi na njegovem osebnem računalniku ali drugi elektronski napravi. Na ta račun so marsikdaj v ozadje potisnjeni digitalni dokazi, ki morda niso tako zlahka ponaredljivi in ki imajo vseeno visoko potencialno dokazno vrednost. V primerih, ko pa so digitalni dokazi sprejeti v obravnavo, pa se pogosto pripeti ravno obratno in je zlahka ponaredljivim dokazom zmotno pripisana prevelika dokazna vrednost, zopet zaradi pomanjkljivega znanja.[36] O zanesljivosti človeških prič najbrž ni potrebno izgubljati besed.
Tudi v Sloveniji je sodnike slabo razumevanje tehnologije že pripeljalo do napačnih zaključkov. Gotovo najbolj nazoren je primer Benedik proti Sloveniji.[37] Preden je zadeva romala na Evropsko sodišče za človekove pravice (ESČP), in je o njej še odločalo Ustavno sodišče RS, je slednje zapisalo, da se je pritožnik vedoma izpostavil javnosti s tem, ko se je na P2P (angl. peer-to-peer) omrežje 'Razorback' povezal z dinamičnim naslovom IP, ki drugim uporabnikom ni bil prikrit. Na ta način naj bi se po mnenju sodišča sam odpovedal pravici do zasebnosti.[38] Kot je kasneje poudarilo ESČP, je Ustavno sodišče RS napačno razumelo, kako deluje naslov IP, saj v danem primeru ni bilo ključno vprašanje to, ali je pritožnik lahko utemeljeno pričakoval, da bo svoj dinamični naslov IP ohranil zaseben, temveč, ali je lahko upravičeno pričakoval zasebnost v zvezi s svojo identiteto.[39] Naslov IP (internetni protokol) namreč predstavlja sredstvo, s katerim na splet povezane naprave med seboj komunicirajo, zato njegova identifikacija kvečjemu pomeni identifikacijo naprave, ne pomeni pa nujno razkritje identitete posameznika, ki je ob danem času dostopal do določenih vsebin preko tega naslova. Ker je pritožnik v danem primeru uporabljal dinamični naslov, je morala policija, da se je lahko dokopala do njegove identitete, najprej opraviti poizvedbo pri ponudniku internetnih storitev.[40] Potreben je bil torej dodaten korak, saj sam naslov IP pritožnika (fizične osebe) še ni razkril.
2. Zakaj je nujno, da v kazenskem postopku dobro poznamo moderno tehnologijo?
2.1 Načelo proste presoje dokazov in vodenje (pred)kazenskega postopka
V prvem poglavju je bilo prikazano, kako lahko pomanjkanje ustrezne digitalne pismenosti vodi do določenih zagat pri sprejemanju odločitev znotraj kazenskega postopka. Sklenemo lahko, da neustrezno poznavanje tehnologije pravnikom povzroča nekaj težav. Pa vendar, zakaj je pravzaprav nujno, da so se odločevalci v kazenskem postopku sposobni soočiti z izzivi, ki jih s seboj prinaša digitalizacija sveta?
Začnimo s prvo premiso (1): sodišče in organi kazenskega pregona določene odločitve v zvezi z relevantnostjo informacij sprejemajo po lastni presoji, v skladu s pravili stroke. V kazenskem procesnem pravu je uveljavljeno načelo proste presoje dokazov, skladno s katerim sodišče prosto odloča o tem, katera preiskovalna dejanja ali dokaze bo izvedlo. Načelo sodišču omogoča, da prosto in brez nepotrebnih formalnosti ugotovi resnico o historičnem dogodku, oziroma, da se prepriča o obstoju nekega dejstva. Postopanje sodišča pri tem ni vezano na določena zakonska dokazna pravila, prav tako ni arbitrarno, temveč temelji na t. i. psihološki dokazni oceni. Svojo odločitev mora sodišče logično in prepričljivo obrazložiti. Podobno velja tudi za določena ravnanja policije, državnega tožilca in preiskovalnega sodnika. Načeloma tudi ti akterji prosto odločajo o tem, katero preiskovalno dejanje bodo opravili in katero ne.[41] Poleg tega je policija tisti ključni organ, ki prejme veliko večino informacij o kaznivih dejanjih, hkrati pa jih tudi sama zaznava. Organe odkrivanja vodi in usmerja državni tožilec. Njegovo delo je kvalitativne narave, kar pomeni, da ga mora opravljati na podlagi kritično obravnavanih in racionalno izbranih informacijah.[42]
Nadaljujmo z drugo premiso (2): dandanes si je težko zamisliti kaznivo dejanje, ki ne bi imelo vsaj neke 'digitalne dimenzije' (angl. digital dimension).[43] Vzpon digitalizacije je prinesel veliko novih izzivov za kazenski pregon. Ne le zato, ker se storilci pridoma poslužujejo najmodernejših komunikacijskih tehnologij, temveč tudi zato, ker se kriminaliteta vedno pogosteje odvija v 'digitalnem prostoru' (nem. digitaler Raum),[44] kjer nastajajo nove možnosti za izvrševanje kaznivih dejanj.[45] Evropska komisija je v poročilu o oceni učinka, ki ga je pripravila leta 2018 v postopku snovanja Uredbe 2023/1543 in Direktive 2023/1544, ocenila, da so digitalni dokazi (angl. e-evidence) v kakršni koli obliki prisotni v približno 85 % kazenskih postopkov znotraj EU.[46] V Nemčiji je kot posledica epidemije Covid-19 prišlo do porasta kibernetske kriminalitete, kar je nedvomno le še povečalo prisotnost digitalnih dokazov v tamkajšnjih postopkih.[47] Organizirane kriminalne združbe uporabljajo tehnologijo na skoraj vsakem koraku. Leta 2023 se je na globalni ravni povečalo število primerov kaznivih dejanj razpečevanja otroške pornografije, prometa s prepovedanimi drogami in prodaje strelnih orožij preko temnega spleta (angl. Dark Web).[48] V Letnem poročilu o delu policije za leto 2022 je slovenska policija izpostavila, da so se kazniva dejanja groženj, hujskaštva, žalitev in ustrahovanj povečini preselila na splet. Pojavile so se tudi nove oblike izsiljevalskih virusov (angl. ransomware), veliko je bilo primerov spletnih goljufij, prav tako nemalo tudi informacijskih vdorov, kjer so bili dokazi in elektronske sledi razpršeni po celem svetu. Tehnologije vešči storilci pri tem seveda niso edini pravni izziv. V letu 2022 je slovenska policija preiskala več kot 4.800 elektronskih naprav. Skladno z vedno večjimi pomnilniškimi zmožnostmi novodobnih naprav, slovenska policija letno zavaruje, preišče in analizira vedno večje količine (osebnih) podatkov.[49]
Preidimo naposled k sklepu (3). Iz zgoraj opisanih premis lahko izpeljemo, da je bližnje srečanje s tehnologijo v kontekstu kazenskega postopka malodane neizogibno, zavoljo učinkovitega in poštenega vodenja postopka pa je nujno, da so odločevalci v postopku o njej ustrezno podučeni. Specifično znanje je potrebno ne le pri usmerjanju predkazenskega postopka (npr. pri zavarovanju digitalnih sledi), marveč tudi pri podajanju dokazne ocene.[50] Odločanje po prosti presoji že pojmovno ni mogoče, če odločevalec nima znanja, ki je potrebno, da takšno odločitev sprejme. Pri delu z elektronskimi napravami je torej potrebno ohranjati določeno mero 'digitalne ozaveščenosti' (angl. digital awareness). To pomeni, da mora biti odločevalec ne le sposoben zaznati vpletenost elektronske naprave v kontekstu kaznivega dejanja, temveč tudi prepoznati in oceniti možnosti, ki jih nudi njena preiskava. Razumeti mora značilnosti naprave in kontekst njene (namenjene) uporabe ter podati prava vprašanja.[51] Na primer, če je bila žrtev umorjena v lastnem stanovanju, v sosednji sobi pa leži odprta embalaža igralne konzole Nintendo Switch, bo eden izmed prvih ključnih korakov nemudoma pozvati njenega proizvajalca, naj posreduje podatke o tem, kdaj je bila naprava nazadnje prižgana in iz katerega naslova IP. Nintendo Switch za svojo uporabo namreč zahteva obvezno internetno povezavo.[52]
Pomemben del sodnikove vloge je, da razume dejstva in dokaze, ki so položeni pred njega in da je zmožen ločiti verodostojno od neverodostojnega.[53] Pomanjkanje ustreznega znanja lahko vodi k sklepanju izključno na podlagi osebnih izkušenj s tehnologijo, te pa so pogosto podkrepljene z lastnimi predsodki (prim. poglavje 1.2.2).[54] V postopkih z izvedencem ali izvedeno pričo lahko ustrezna izobrazba tudi nekoliko omili »paradoks«, ki nastane pri zaslišanju zadevnih udeležencev – položaj, ko ima tisti, ki ocenjuje verodostojnost mnenja ali izpovedi (sodnik), praviloma manj znanja o obravnavani temi kot tisti, ki to mnenje oziroma izpoved podaja (izvedenec ali izvedena priča).[55]
2.2 Moderni izzivi: s čim se pravzaprav soočamo? Pregled praktičnih primerov
Resnično življenje ni samo abstraktno razmišljanje, temveč je polno konkretnih izzivov. Težko je torej razumeti obseg zgoraj obravnavane problematike, če si ne moremo predstavljati potencialnih situacij, s katerimi se sodniki in drugi odločevalci srečujejo oziroma lahko srečajo tekom kazenskega postopka. V ta namen bodo v nadaljevanju izpostavljeni izbrani praktični primeri, ki naj na bolj otipljiv način učvrstijo zavedanje o pasteh, ki jih moderna tehnologija s seboj prinaša v kazenski postopek.
2.2.1 Ocenjevanje verodostojnosti digitalnih dokazov in digitalnih prič – Sizifovo delo?
Elektronske naprave so postale del našega vsakdana. Večina teh, predvsem prenosnih naprav, ima vgrajene številne senzorje (npr. kamera, mikrofon, giroskop, LiDAR, pedometer, GPS itn.), ki zbirajo najrazličnejše vrste podatkov o svojem uporabniku in njegovi neposredni bližini. Na ta način so pogosto 'digitalna priča' (angl. digital witness) različnim vrstam vedenja in ravnanj uporabnika. Primeri digitalnih prič so mobilni telefoni, nadzorne kamere, nosljiva tehnologija (npr. Apple Watch), internetni usmerjevalniki (angl. internet router) ipd. V kontekstu kazenskega prava gre predvsem za naprave, ki so na nek način prisostvovale izvršitvi kaznivega dejanja in vsebujejo potencialne digitalne dokaze.[56]
Digitalni dokazi so podatki, ki so hranjeni ali posredovani v binarni obliki, najti pa jih je moč na računalniških trdih diskih, mobilnih telefonih in mnogih drugih elektronskih napravah. Pogosto se pojavijo v primerih elektronskega ali e-kriminala (angl. e-crime), npr. pri preiskovanju spolne zlorabe otrok, lahko pa so koristni tudi pri obravnavi drugih vrst 'navadnega' kriminala. Sporočila iz osumljenčevega e-poštnega predala lahko omogočijo vpogled v storilčev subjektivni odnos do kaznivega dejanja, ki ga sicer ni storil s pomočjo elektronske naprave.[57] Vpogled v storilčev odnos lahko nudi tudi njegova zgodovina spletnega brskanja (angl. browser search history). Januarja 2023 je tožilstvo v Bostonu pred sodiščem na glas prebralo zgodovino brskanja, ki ga je opravil Brian Walsh v časovnem oknu pred in po umoru svoje žene. Med iskalnimi gesli so tako bili npr. »najboljša zvezna država za ločitev za moške«, »koliko časa preden truplo začne smrdeti«, »kako počistiti kri z lesenega poda«, »ali je možno identificirati truplo z razbitimi zobmi« itn.[58]
Digitalni dokazi lahko tudi identificirajo storilca. Eden najbolj znanih primerov je bilo prijetje serijskega morilca Dennisa Raderja, znanega pod vzdevkom »the BTK killer«. Rader je med leti 1974 in 1991 zvezal, mučil in ubil (angl. Bind, Torture, Kill) 10 moških, žensk in otrok, povečini članov istih družin. Živel je precej povprečno življenje – bil je poročen, oče dveh otrok, vodja lokalnega skavtskega reda in aktiven član verske skupnosti – zaradi česar se je njegova identifikacija sprva zdela skoraj nemogoča. Vendar Rader je hrepenel medijsko pozornost. V ta namen je oblastem in medijskim hišam tekom let poslal več pisem in paketov z opisi svojih grozodejstev in priloženimi fotografijami. Leta 2005, po več kot 30 letih odkar je prvič moril, se je odločil za drugačen medij in policistom poslal disketo (angl. floppy disk). Eden izmed policistov, ki je bil izurjen v računalniški tehnologiji, je s pomočjo forenzične programske opreme priklical nekatere izbrisane datoteke in metapodatke, ki so vsebovali informacije o tem, kje in kdaj je bila disketa zadnjič modificirana. Odkriti podatki so policiste privedli do Raderja.[59]
Težave pa se lahko pojavijo, ko v postopku napoči čas, ko je zavarovane digitalne sledi in dokaze potrebno smiselno ovrednotiti. Metapodatke, ki prikazujejo zadnji čas obdelave dokumenta, je mogoče zlahka prirediti s preprosto ročno spremembo ure in datuma operacijskega sistema naprave.[60] Z malo več truda in tehnološkega znanja je mogoče ponarediti tudi kompleksnejše slike (videoposnetke, fotografije ali zajeme zaslona).[61] Orodja za izdelavo globokih ponaredkov (angl. deepfake) so prosto dostopna na mobilnih napravah,[62] za tiste z več računalniškimi spretnostmi pa obstajajo razne odprtokodne (angl. open source) rešitve.[63] Za ponarejanje pogovorov, ki potekajo preko platform kot je npr. WhatsApp, so na voljo spletna orodja, ki ne zahtevajo nobenega naprednega predznanja. Na enak način je mogoče ponarediti tudi objave iz socialnih omrežij, kot npr. TikTok ali Instagram.[64] Podatke na spletni strani je mogoče prirediti s pregledom njene izvorne kode ali elementov (angl. inspect element) v spletnem brskalniku.[65] Na tej podlagi ustvarjeni zajemi zaslona delujejo povsem avtentično. V večini primerov je edina ovira za tehnično manipulacijo potencialnih digitalnih dokazov samo tehnično znanje posameznega uporabnika.[66]
2.2.2 Umetna inteligenca kot orodje in »napeljevalec«
Kot orodje za storitev kaznivega dejanja ima umetna inteligenca ogromen potencial. Določene GANS (angl. general adversarial networks, slov. generativne nasprotniške mreže) lahko npr. napišejo zlonamerno programsko opremo, ki lahko spolzi mimo računalniških virusnih filtrov, brez da bi bila zaznana. Umetna inteligenca je lahko uporabljena tudi kot sredstvo za sočasno generiranje več e-pošt z lažnim predstavljanjem (angl. phishing), ki so vsebinsko specifično prilagojene posameznim žrtvam (npr. DeepPhish), kar poveča možnosti za uspešen napad.[67] Globoki ponaredki so inter alia lahko uporabljeni za namene spletnega nadlegovanja, izsiljevanja, ponarejanja identitet, ustvarjanje in razširjanje pornografije brez privolitve, spletno spolno zlorabo otrok itn.[68] Z globokim ponaredkom glasu (angl. audio deepfake) lahko spletni prevaranti od žrtve preko telefona zahtevajo podatke o njeni bančni kartici, z glasom, ki so ga ukradli njeni hčerki.[69] Z globokim ponaredkom videoposnetka (angl. video deepfake) lahko računalniško izurjen storilec priredi posnetek, ki prikazuje, kako na primer neka tretja oseba zabada žrtev, samega sebe pa z drugim posnetkom umesti na oddaljeno lokacijo.[70]
Umetna inteligenca ima lahko tudi nekoliko izrazitejšo vlogo pri manipulaciji neposrednega storilca. Decembra 2023 sta Svet EU in Evropski parlament sprejela t. i. Akt o umetni inteligenci (angl. Artificial Intelligence Act, dalje: AIA), ki ga je aprila 2021 predlagala Evropska komisija.[71] V času pisanja prispevka končno besedilo uredbe še ni bilo objavljeno. Vendar pa je v 5. členu predloga, ki ga je pripravila Komisija, vsebovana svojevrstna prepoved vnašati na trg, dajati v obratovanje ali uporabljati sisteme umetne inteligence, ki lahko na subliminalen način (pod pragom zavesti) znatno zaznamujejo vedenje osebe do takšne mere, da ta drugemu povzroči fizično ali psihično škodo.[72] Gre torej za način vplivanja na vedenje osebe, brez da bi se ta sploh zavedala vpliva.[73] Nekateri avtorji med takšne sisteme primeroma uvrščajo oblike uporabe kot so »hiper-spodbujanje« (angl. hypernudging), mikrotargetiranje (angl. microtargetting), pristranskost spletnih brskalnikov (angl. search engine manipulation bias), priporočilni sistemi (angl. recommender systems) ipd.[74] Evropski parlament zraven prišteva še t. i. možgansko-računalniške vmesnike (angl. brain-computer interfaces).[75] Primer takšnega vmesnika je denimo čip Neuralink.[76] Zdi se, da utegne biti zagovor obdolženca, da mu je bila zaradi nevidnega in nedovoljenega vpliva umetne inteligence odvzeta možnost zaznavati in kritično obravnavati zunanje faktorje, ki so oblikovali njegovo odločitev,[77] kaj kmalu resničnost.
2.2.3 Sredstva in pooblastila organov pregona v luči varovanja osebnih podatkov
Sodobni storilci kaznivih dejanj seveda niso edini, ki pri svojem delu uporabljajo dovršeno tehnologijo. Z njo razpolagajo tudi organi pregona, bodisi kot z orodjem za preiskovanje, bodisi kot z objektom preiskave.[78] V tem kontekstu se vrsti kopica vprašanj, ki se v prvi vrsti navezujejo na skrbi, ki jih v sklopu izvajanja preiskovalnih pooblastil lahko predstavlja varstvo osebnih podatkov. V zvezi s tem mora biti sodnik v kazenskem postopku ustrezno usposobljen, da pravočasno zazna morebitne oblastvene prekoračitve, ki krepko posegajo v pravice, varovane v 35. – 39. členu Ustave Republike Slovenije,[79] pa tudi druge, kot npr. domnevo nedolžnosti (27. člen) in prepoved diskriminacije (14. člen).
2.2.3.1 Privolitev kot pravna podlaga za preiskavo elektronske naprave: kje potegniti črto?
Pametne naprave, predvsem pametni telefoni, so v zadnjih nekaj letih doživeli eksponentno rast v razvoju.[80] V tej luči se v primeru preiskave takšne elektronske naprave postavlja sledeče vprašanje v zvezi s privolitvijo osebe kot pravno podlago za preiskavo:[81] ali lahko še vedno trdimo, da se je oseba (imetnik naprave) mogla svobodno odločiti, ali bo prispevala k nastanku (spornega) dokaznega gradiva? Če je odgovor namreč nikalen, potem lahko govorimo o potencialni kršitvi dokazne prepovedi.[82]
Čemu pripisati izraženo skrb? V zadevi Riley proti Kaliforniji je Vrhovno sodišče ZDA odločalo o tem, ali smejo policisti posamezniku, ki so ga aretirali, brez odredbe sodišča preiskati mobilni telefon. Vrhovno sodišče temu ni pritrdilo in dalo prednost varovanju osebnih podatkov. V svoji obrazložitvi je navedlo, da ima posameznik z mobilnim telefonom v roki tako rekoč na dlani ogromne količine osebnih podatkov. Količina podatkov, ki jih hrani takšen majhen računalnik (angl. mini-computer), ni več omejena s fizičnim prostorom, tako kot na primer podatki, ki jih vsebuje denarnica. Mobilni telefoni na enem samem mestu hranijo najrazličnejše vrste podatkov, ki včasih lahko segajo tudi po več let nazaj (odvisno od časa nakupa naprave) in iz katerih je možno v celoti rekonstruirati imetnikovo zasebno življenje.[83] Ali je potemtakem mogoče realno pričakovati, da bo imetnik telefona lahko podal informirano in veljavno privolitev za vse podatke, do katerih bodo policisti imeli potencialen dostop tekom preiskave takšne ali podobne naprave (npr. osebni računalnik)? Realen odgovor je najbrž ne. Zato je morda vmesno opozoriti, da kakršna koli pravna fikcija o domnevanem polnem obsegu privolitve najverjetneje ne bo več dolgo vzdržna, če bo tehnološki napredek še naprej tako vztrajen, kot je bil doslej (prim. poglavje 2.1, kjer je bila izpostavljena naraščajoča količina podatkov, ki jih na elektronskih napravah letno prečeše slovenska policija).
2.2.3.2 Sledenje osumljencu po moderno: pred, med in po storitvi kaznivega dejanja
Pri preiskovanju kaznivih dejanj organi pregona pogosto sodelujejo tudi s svetovno znanimi tehnološkimi velikani. V praksi se to največkrat odvija v obliki zbiranja obvestil o storitvi kaznivega dejanja, na primer, ko ponudnik gostiteljskih storitev (angl. hosting, prim. 6. člen Akta o digitalnih storitvah (Uredba 2022/2065)) pristojnim organom poda prijavo o odkritju nezakonitih vsebin.[84] To sodelovanje pa gre lahko tudi korak dlje. Še do nedavnega so policisti v ZDA na podlagi sodne odredbe lahko dostopali do podatkov, ki jih je o svojih uporabnikih hranila Googlova Časovna os (angl. Google Timeline), posebna funkcija, ki beleži lokacijsko zgodovino uporabnika. Policija je tako lahko pridobila nefiltrirane podatke o vseh, ki so se nahajali v bližini kraja kaznivega dejanja v času, ko naj bi bilo to storjeno, brez da bi bil za nesrečno izbrane mimoidoče podan kakršen koli predhodni sum.[85] Še več, Google je vse do julija lani hranil in policistom omogočal dostop do podatkov o tem, ali je oseba obiskala kliniko za umetno prekinitev nosečnosti, center za zdravljenje odvisnosti od drog, varno hišo za zaščito pred nasiljem v družini, center za hujšanje in druge posebej občutljive osebne podatke, povezane z zdravjem uporabnika.[86]
Nove pravne izzive prinašata tudi t. i. preventivni policijski nadzor (angl. preventive policing) in policijski nadzor v realnem času (angl. real-time policing). Preventivni policijski nadzor skuša (po kopitu 'preventiva je boljša kot kurativa') preprečiti storitev kaznivih dejanj, še preden se ta zgodijo.[87] Ena izmed oblik takšnega nadzora je že prej omenjeno algoritemsko predvidevanje žarišč kriminala (angl. hot-spot policing). S pomočjo umetne inteligence, ki obdeluje množice zbranih podatkov, policisti skušajo predvideti potencialne kraje z visoko verjetnostjo pojava kriminalitete. V večini primerov je uporabljena programska oprema produkt zasebnega razvijalca, kar za seboj povleče nekatere pomisleke, ki so bili obravnavani že v uvodu (prim. poglavje 1.1). Dalje pa usmerjanje nadzora na takšni spoznavni podlagi prekomerno posega v zasebnost mimoidočih in obenem krši domnevo nedolžnosti, saj vse, ki se nahajajo na izračunanem kraju, postavlja pod generalen sum. Še posebej nesorazmeren je poseg v pravice manjšin.[88] Razlog za to tiči v tem, da so pridobljeni izračuni inherentno pristranski, saj so algoritmi učeni na podatkih, ki so bili povečini pridobljeni na krajih z že tako povečanim policijskim nadzorom, kar ovekoveči začaran krog povečanega nadzora in utrjevanja predsodkov.[89]
Drugače kot preventivni nadzor, policijski nadzor v realnem času skuša povečati učinkovitost odkrivanja storilcev kaznivih dejanj s povečanim nadzorom na čim več območjih hkrati. V New Orleansu v ZDA deluje t. i. center za preprečevanje kriminala v realnem času (angl. real-time crime centre). Center je povezan z več stotinami kamer, ki so razpršene po celotnem mestu, pri čemer ima dostop tudi do nadzornih kamer, ki jih upravljajo nekateri zasebni subjekti (pravne in fizične osebe). Kamere nenehno spremljajo in beležijo vse, kar se odvija na javnih površinah v mestu. Ko oseba pokliče nujno številko (911), se avtomatično aktivirajo tiste kamere, ki se nahajajo na lokaciji, od koder prihaja klic. Vgrajena umetna inteligenca policistom omogoča, da sledijo izbranim objektom (npr. vozilom) in subjektom (fizičnim osebam) na podlagi izbranih parametrov, ali pa jih izločijo iz slike in tako v kratkem času obdelajo več ur nabranih posnetkov.[90] EU pri tem ni nobena svetla izjema. Evropska komisija je v predlogu AIA za uporabo takšne tehnologije (konkretno: sisteme za biometrično identifikacijo na daljavo v realnem času v javno dostopnih prostorih) naredila posebno izjemo in (pod določenimi, nič kaj specifičnimi pogoji) dovolila njeno uporabo.[91] Francoska vlada je že stopila korak dlje in namerava uporabiti tovrstne sisteme masovnega nadzora za zaznavanje 'sumljivega vedenja' na ulicah Pariza v času letošnjih Olimpijskih iger.[92]
V vseh opisanih primerih se postavlja vprašanje v zvezi z dovoljenostjo uporabe tako pridobljenih dokazov. Vsi omenjeni pristopi namreč močno posegajo v ustavno varovane pravice zasebnosti in domnevo nedolžnosti fizičnih oseb. O tem, ali jih mogoče celo kršijo, je potrebna dodatna razprava, ki v tem prispevku ne bo obravnavana. Vsekakor posameznik, kriv ali nedolžen, pri tem nima nikakršnega vpliva na to, ali policija sme masovno pridobivati in obdelovati njegove osebne podatke na tehnološki ravni, ki doslej še ni imela podobnega precedensa. Vprašljivo je, ali je dana pravna podlaga (prim. 6. člen Splošne uredbe o varstvu podatkov (Uredba 2016/679) in točko d. prvega odstavka 5. člena AIA), glede na intenzivnost in invazivnosti posegov, ki jih predvideva, sploh skladna s temeljnimi pravnimi načeli. Takšen trend nadzora svojo podlago črpa iz političnih strahov in ne iz ustavno varovanih načel. Sklici na varovanje življenja in premoženja glede na predstavljeni poseg najverjetneje niso sorazmerni.
3. Možni pristopi in sklep
3.1 Kako naprej?
Kako pristopiti k izzivom moderne tehnologije? Odgovor je relativno enostaven: z ustrezno in tehnološko podkrepljeno izobrazbo.[93] Sodniki, tožilci, odvetniki in drugi pravniki, ki delujejo na področju, kjer je v kontekst odločanja vpletena tehnologija, morajo imeti dovolj tehnološko okrepljeno znanje, da v posameznem primeru lahko pravilno aplicirajo temeljna načela in druga pravna pravila.[94] Marsikaterega izmed prej izpostavljenih primerov je mogoče razvozlati ali pa vsaj stvarnejše oceniti, če za to obstoji primerno izostren miselni aparat. Prvi in najpomembnejši korak je narejen že s tem, ko obstoji najmanj zavedanje, da danega digitalnega dokaza ne smemo vzeti v zakup na prvi pogled, najsi se ta zdi še tako samoumeven. Drugi korak pa se skriva v postavljanju pravih vprašanj, bodisi sebi bodisi izvedencu, in iskanju odgovorov na pravih mestih.
Pri določenih vrstah manipulacije digitalnih dokazov je posvetovanje z izvedencem neizbežno (npr. pri odkrivanju, ali je bil posnetek nadzorne kamere povečan ali pomanjšan tako, da je bil iz vidnega kota izrezan ključen podatek, s pomočjo analize slikovnega šuma (angl. image noise analysis)).[95] V takšnih primerih je predvsem ključno to, da je sodnik zmožen predloženi digitalni dokaz razumeti v dovoljšni meri, da lahko izvedencu postavi prava vprašanja in se ne zapleta pri vseh osnovah.[96] Druge vrste manipulacije morda ne zahtevajo obilice znanja, na primer, kadar je podan sum o ponaredku v primeru slik klepeta. Tu je v prvi vrsti potrebno opraviti poizvedbo in preveriti verodostojnost s pomočjo podatkov, ki jih na svojem strežniku hrani ponudnik konkretne storitve. V primeru šifriranja od vira do ponora komunikacije (angl. end-to-end encryption) je oceno verodostojnosti mogoče opraviti s primerjavo metapodatkov o času in velikosti sporočil.[97] Rešitve so torej možne, a potrebno se jih je zavedati. Kjer takšen pristop ni možen, oziroma se izkaže, da je tehnologija mnogo kompleksnejša, pa ustrezna izobrazba lahko nudi vsaj boljše izhodišče pri odločanju. Četudi gre na koncu dneva za ugibanje, so možnosti za stvarnejšo oceno problema večje, če ima odločevalec primerno izkustveno podlago.
V vsakem primeru je torej potrebna določena 'izostritev zavesti' (nem. Schärfung des Bewusstseins).[98] Pri tem je že tekom študija možnih več izobraževalnih pristopov: razvoj kritičnega razmišljanja pri delu z odločitvami, ki jih je predlagala strojna oprema, ozaveščanje pomena dobrega zbiranja in obdelave elektronskih podatkov, uvedba univerzitetnih raziskovalnih projektov za pravno analizo algoritmov in novih modelov strojnega učenja, praktično delo z velikimi jezikovnimi modeli (angl. large language models, LLM), povezovanje s strokovnjaki za informacijsko tehnologijo itn. Digitalna pismenost mora postati del pravne izobrazbe, ne pa ostati njej podrejena.[99] Skrivanje za prepovedmi pisanja seminarskih nalog zaradi bojazni, da se bodo vsi ali pa vsaj nekateri študenti poslužili orodij kot je ChatGPT, te tehnologije ne bo napravilo nič manj prisotne, prav tako pa ne služi kot dober vzor. Četudi nam ni všeč, se moramo z njo znati soočiti, delovati skupaj in ne proti njej.
Dodatno izobraževanje in poklicno usposabljanje seveda nista panaceji za vse tehnološke tegobe.[100] Prav tako se od sodnika ne more zahtevati, da svoje znanje prilagodi ravni izvedenca. Takšna pričakovanja so neresnična. Vendar pa lahko usmerjene delavnice ali učenje na podlagi praktičnih primerov,[101] pomagajo narediti korak naprej v tehnološkem ozaveščanju pravnikov. Ta korak pa je, kot je bilo tudi izpostavljeno, vsekakor nujen.
3.2 Sklep
Tehnološki razvoj je skokovit. Sodniki in drugi kazenski pravniki se v kazenskem postopku soočajo z mnogimi težavami pri reševanju posameznih primerov, ki izhajajo iz nepoznavanja novih tehnologij. To so predvsem postavljanje dokazne ocene, ugotavljanje pomena tehnologije, pripisovanje ustreznih pravnih posledic in tehtanje novih posegov v ustavno varovane pravice posameznikov. Hkrati je število primerov kaznivih dejanj, kjer je bila tehnologija vpletena vsaj posredno, vedno večje. Zato je že tekom študija prava potrebno narediti korak naprej in bodoče pravnike in pravnice pripraviti na nove izzive, ki jih prinaša digitalni razvoj. Tehnološka pismenost mora biti standard za uspešno opravljanje pravnega poklica in ne ovira.
Viri in literatura
1. A&E. (14. september 2023). Stolen gaming console SOLVES Murder Case | Witness to Murder: Digital Evidence | A&E [videoposnetek]. YouTube. URL: https://www.youtube.com/watch?v=RnP3F1GIO3c. Dostop pridobljen 4. februarja 2024.
2. Alba, Davey. (14. december 2023). Google will stop providing law enforcement data on which users were near a crime. TIME. URL: https://time.com/6539416/google-location-history-data-police/. Dostop pridobljen 4. februarja 2024.
3. Amnesty International. (7. februar 2023). “We are totally exposed”: Young people share concerns about social media’s impact on privacy and mental health in global survey. Amnesty International. URL: https://www.amnesty.org/en/latest/news/2023/02/children-young-people-social-media-survey-2/. Dostop pridobljen 4. februarja 2024.
4. Bartle, Jarryd. (7. februar 2023). DNA Evidence is Not as Reliable as Many Believe it to Be. Sydney Criminal Lawyers. URL: https://www.sydneycriminallawyers.com.au/blog/dna-evidence-is-not-as-reliable-as-many-believe-it-to-be/. Dostop pridobljen 4. februarja 2024.
5. Bermúdez, Juan Pablo; Nyrup, Rune; Deterding, Sebastian; Moradbakhti, Laura; Mougenot, Céline; You, Fangzhou in Calvo, Rafael A. (2023). What Is a Subliminal Technique? An Ethical Perspective on AI-Driven Influence, v: 2023 IEEE International Symposium on Ethics in Engineering, Science, and Technology (ETHICS), str. 1–10. https://doi.org/10.1109/ethics57328.2023.10155039.
6. Casarosa, Federica. (2023). Technology-Neutral Legislation: Are Judges Able to Keep Pace with Technological Innovation?, v: SSRN. https://doi.org/10.2139/ssrn.4391702.
7. Casey, Eoghan. DIGITAL EVIDENCE AND COMPUTER CRIME: FORENSIC SCIENCE, COMPUTERS, AND THE INTERNET (3. izdaja). Academic Press, 2011.
8. Chakravorti, Bhaskar. (30. januar 2020). Why it’s so hard for users to control their data. Harvard Business Review. URL: https://hbr.org/2020/01/why-companies-make-it-so-hard-for-users-to-control-their-data. Dostop pridobljen 4. februarja 2024.
9. Cohen, Tegan. (2023). Regulating Manipulative Artificial Intelligence, v: Scripted, 20(1), str. 203–242. https://script-ed.org/wp-content/uploads/2023/02/Tegan-Cohen_February-2023.pdf?d=03242024 [PDF].
10. Council of the European Union. Council Recommendation on improving the provision of digital skills and competences in education and training, št. 2023/0100(NLE), Bruselj (23. november 2023). https://data.consilium.europa.eu/doc/document/ST-15741-2023-INIT/en/pdf [PDF].
11. Cybergenetics. (2024). Get more information from DNA mixtures With TrueAllele®. Cybergenetics. URL: https://www.cybgen.com/products/casework/. Dostop pridobljen 4. februarja 2024.
12. Cybergenetics. (n.d.). People of California v Billy Ray Johnson: Eastside Bakersfield serial rapist gets life plus 423 years. Cybergenetics. URL: https://www.cybgen.com/news/cases/California-v-Billy-Ray-Johnson.shtml. Dostop pridobljen 4. februarja 2024.
13. Dixon, Stacy Jo. (2023). Number of Instagram users worldwide from 2020 to 2025. Statista. URL: https://www.statista.com/statistics/183585/instagram-number-of-global-users/. Dostop pridobljen 28. februarja 2024.
14. Ellefsen, Hjørdis Birgitte; Bjørkelo, Brita; Sunde, Inger Marie in Fyfe, Nicholas R. (2023). Unpacking preventive policing: Towards a holistic framework, v: International Journal of Police Science and Management, 25(2), str. 196–207. https://doi.org/10.1177/14613557231163403.
15. European Commission. COMMISSION STAFF WORKING DOCUMENT IMPACT ASSESSMENT Accompanying the document Proposal for a Regulation of the European Parliament and of the Council on European Production and Preservation Orders for electronic evidence in criminal matters and Proposal for a Directive of the European Parliament and of the Council laying down harmonised rules on the appointment of legal representatives for the purpose of gathering evidence in criminal proceedings, št. SWD(2018) 118 final, Bruselj (17. april 2018). https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=SWD%3A2018%3A118%3AFIN.
16. European Commission. (2023). Juidicial Training: the right skills to embrace the digitalisation of justice - Report. https://judicialtrainingdigitalisation.eu/media/ie2fra2n/digitalisation-of-justice-2023_rapport_interactive-def-5.pdf [PDF].
17. European Commission. Proposal for a Regulation of the European parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts, št. 2021/0106 (COD), Bruselj (21. april 2021). https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206.
18. European Parliament. (12. december 2023). Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. European Parliament. URL: https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai. Dostop pridobljen 4. februarja 2024.
19. Evans, Carter. in Novak, Analisa. (19. julij 2023). Scammers use AI to mimic voices of loved ones in distress. CBS News. URL: https://www.cbsnews.com/news/scammers-ai-mimic-voices-loved-ones-in-distress/. Dostop pridobljen 4. februarja 2024.
20. Forensic Notes. (2023). File Dates are NOT Reliable! Can You PROVE When You Wrote a Note or Saved a Document? Forensic Notes. URL: https://www.forensicnotes.com/file-dates-are-not-reliable/. Dostop pridobljen 4. februarja 2024.
21. GilPress. (29. november 2023). TikTok Statistics For 2024: Users, Demographics, Trends. What's The Big Data? URL: https://whatsthebigdata.com/tiktok-statistics/. Dostop pridobljen 4. februarja 2024.
22. Guerrini, Federico. (6. september 2023). France’s surveillance plans for 2024 Olympics raise privacy concerns. Forbes. URL: https://www.forbes.com/sites/federicoguerrini/2023/09/06/frances-surveillance-plans-for-2024-olympics-raise-privacy-concerns/?sh=73e955ac9541. Dostop pridobljen 28. februarja 2024.
23. Hans, Valerie P. in Saks, Michael J. (2018). Improving Judge & Jury Evaluation of Scientific Evidence, v: Daedalus, 147(4), str. 164–180. https://doi.org/10.1162/daed_a_00527.
24. Hargittai, Eszter in Marwick, Alice. (2016). “What Can I Really Do?” Explaining the Privacy Paradox with Online Apathy, v: International Journal of Communication, 10, str. 3737–3757. https://ijoc.org/index.php/ijoc/article/view/4655.
25. Hassan, Aumyo in Barber, Sarah J. (2021). The effects of repetition frequency on the illusory truth effect, v: Cognitive Research: Principles and Implications, 6(1). https://doi.org/10.1186/s41235-021-00301-5.
26. Hayward, Keith J. in Maas, Matthijs M. (2020). Artificial intelligence and crime: A primer for criminologists, v: Crime Media Culture, 17(2), str. 209–233. https://doi.org/10.1177/1741659020917434.
27. Horsman, Graeme. (2021). Digital evidence and the crime scene, v: Science & Justice, 61(6), str. 761–770. https://doi.org/10.1016/j.scijus.2021.10.003.
28. Hyun, Dai-Kyung; Ryu, Seung-Jin; Lee, Hae-Yeoun in Lee, Heung-Kyu (2013). Detection of Upscale-Crop and partial manipulation in surveillance video based on sensor pattern noise, v: Sensors, 13(9), str. 12605–12631. https://doi.org/10.3390/s130912605.
29. Intaforensics. (18. junij 2010). Computer Forensics In The Courtroom: Is An IT Literate Judge And Jury Necessary For A Fair Trial? IntaForensics. URL: https://www.intaforensics.com/computer-forensics-in-the-courtroom-is-an-it-literate-judge-and-jury-necessary-for-a-fair-trial/. Dostop pridobljen 4. februarja 2024.
30. Iqbal, Mansoor. (8. januar 2024). TikTok Revenue and Usage Statistics (2024). Business of Apps. URL: https://www.businessofapps.com/data/tik-tok-statistics/. Dostop pridobljen 4. februarja 2024.
31. Jaynes, Victoria. (2019). The social life of screenshots: the power of visibility in teen friendship groups, v: New Media & Society, 22(8), str. 1378–1393. https://doi.org/10.1177/1461444819878806.
32. Johansen, Johanna; Pedersen, Tore in Johansen, Christian. (2021). Studying human-to-computer bias transference, v: AI & Society, 38(4), str. 1659–1683. https://doi.org/10.1007/s00146-021-01328-4.
33. John D. Rogers Law. (22. maj 2023). What are the faults to DNA evidence in criminal cases? Law Offices of John D. Rogers. URL: https://johndrogerslaw.com/what-are-the-faults-to-dna-evidence-in-criminal-cases/. Dostop pridobljen 4. februarja 2024.
34. Kaplun, Kateryna. (2023). Do judges understand technology? How attorneys and advocates view judicial responsibility in cyberstalking and cyberharassment cases, v: International Journal on Responsibility, 6(1). https://commons.lib.jmu.edu/ijr/vol6/iss1/6/.
35. Kirchengast, Tyrone. (2020). Deepfakes and image manipulation: criminalisation and control, v: Information & Communications Technology Law, 29(3), str. 308–323. https://doi.org/10.1080/13600834.2020.1794615.
36. Kirschner, Kylie. (15. december 2023). Google will no longer hold onto people’s location data in Google Maps — meaning it can’t turn that info over to the police. Business Insider. URL: https://www.businessinsider.com/google-maps-location-data-history-stored-locally-2023-12. Dostop pridobljen 4. februarja 2024.
37. Lee, Kijung in Attablayo, Prudence. (2023). Examining the impacts of privacy awareness on user’s self-disclosure on social media. arXiv (Cornell University). https://doi.org/10.48550/arxiv.2303.07927.
38. Lee, Yongjei; SooHyun, O in Eck, John E. (2019). A Theory-Driven algorithm for Real-Time Crime hot spot Forecasting, v: Police Quarterly, 23(2), str. 174–201. https://doi.org/10.1177/1098611119887809.
39. Levenson, Eric. (18. januar 2023). These are the Google searches Brian Walshe made before and after killing his wife Ana Walshe, according to prosecutors. CNN. URL: https://edition.cnn.com/2023/01/18/us/brian-walshe-ana-walshe-google-searches/index.html. Dostop pridobljen 4. februarja 2024.
40. Lindenmunth, Kimberly. (2019). Prevention or Self-Fulfilling Prophecy? Predictive Policing’s Erosion of the Presumption of Innocence, v: Seton Hall University Student Works, 1018. https://scholarship.shu.edu/student_scholarship/1018.
41. Möllers, Frederik; Salemi, Simone in Schliwinski, Natascha. (2022). Digitale Beweise im Straf- und Zivilprozess, v: Jusletter IT 31. Mai 2022. https://doi.org/10.38023/f15eee5e-81f0-4f0c-bb7e-c8df92c10fdc.
42. Münch, Holger. (2020). Polizeiarbeit im digitalen Zeitalter – Herausforderungen erkennen und Chancen nutzen, v: Handbuch Industrie 4.0: Recht, Technik, Gesellschaft, str. 25–42. https://doi.org/10.1007/978-3-662-58474-3_2.
43. National Institute of Justice. (2024). Digital Evidence and Forensics. National Institute of Justice. URL: https://nij.ojp.gov/digital-evidence-and-forensics. Dostop pridobljen 4. februarja 2024.
44. Ram, Natalie. (2018). Innovating criminal justice, v: Northwestern University Law Review, 112(4), str. 659–724. https://scholarlycommons.law.northwestern.edu/nulr/vol112/iss4/2/.
45. Republika Slovenija Ministrstvo za notranje zadeve, Policija. (2024). Informacijsko-telekomunikacijska dejavnost. Policija. URL: https://www.policija.si/delovna-podrocja/informacijsko-telekomunikacijska-dejavnost. Dostop pridobljen 4. februarja 2024.
46. Republika Slovenija Ministrstvo za notranje zadeve, Policija. (2023). Letno poročilo o delu Policije 2022. https://www.policija.si/images/stories/Statistika/LetnaPorocila/PDF/LetnoPorocilo2022.pdf [PDF].
47. Republika Slovenija Ministrstvo za notranje zadeve, Policija. (2022). Na podlagi prijav ponudnikov informacijske tehnologije kriminalisti vodijo preiskavo zoper sedem osumljencev zaradi suma spolnega izkoriščanja otrok. Policija. URL: https://www.policija.si/medijsko-sredisce/sporocila-za-javnost/sporocila-za-javnost-gpue/112592-na-podlagi-prijav-ponudnikov-informacijske-tehnologije-kriminalisti-vodijo-preiskavo-zoper-sedem-osumljencev-zaradi-suma-spolnega-izkoriscanja-otrok. Dostop pridobljen 28. februarja 2024.
48. Reuters. (30. januar 2024). Elon Musk’s Neuralink implants brain chip in first human. Reuters. URL: https://www.reuters.com/technology/neuralink-implants-brain-chip-first-human-musk-says-2024-01-29/. Dostop pridobljen 4. februarja 2024.
49. Riehle, Cornelia. (2022). Europol Report Criminal Use of Deepfake Technology. Eucrim. URL: https://eucrim.eu/news/europol-report-criminal-use-of-deepfake-technology/. Dostop pridobljen 4. februarja 2024.
50. Shaer, Matthew. (2016). The false promise of DNA testing: The forensic technique is becoming ever more common—and ever less reliable. The Atlantic. URL: https://www.theatlantic.com/magazine/archive/2016/06/a-reasonable-doubt/480747/. Dostop pridobljen 4. februarja 2024.
51. Smith, Benjamin. H. (29. avgust 2018). How A Floppy Disk Exposed Dennis Rader As The BTK Killer. Oxygen True Crime. URL: https://www.oxygen.com/snapped/crime-time/floppy-disk-exposed-dennis-rader-btk-killer. Dostop pridobljen 4. februarja 2024.
52. Sodni svet Republike Slovenije. (2023). Letno poročilo Sodnega sveta Republike Slovenije 2022. http://www.sodni-svet.si/doc/Letno%20poro%C4%8Dilo%202022.pdf [PDF].
53. Solove, Daniel. (2021). The Myth of the Privacy Paradox, v: George Washington Law Review, 89(1), str. 1–51. https://dx.doi.org/10.2139/ssrn.3536265.
54. Strate, Lance. (2012). If It’s Neutral, It’s Not Technology, v: Educational Technology, 52(1), str. 6–9. https://www.jstor.org/stable/44429982.
55. Stubbs, Katja Šugman; Gorkič, Primož in Fišer, Zvonko. TEMELJI KAZENSKEGA PROCESNEGA PRAVA. Lexpera, GV založba, Ljubljana 2020.
56. Sutcliffe, Carol in Virassamy, Emmelyne. (2021). The influence of social media on the behaviour, choices, reality and social interactions of millenials: an investigative study, v: Journal of Education and Social Sciences, 18(2). https://www.jesoc.com/wp-content/uploads/2022/01/JESOC18.ISU-2_11.pdf [PDF].
57. Thales. The evolution of the smartphone. (3. april 2023). Thales. URL: https://www.thalesgroup.com/en/worldwide-digital-identity-and-security/mobile/magazine/evolution-smartphone. Dostop pridobljen 4. februarja 2024.
58. The Wall Street Journal. (4. junij 2019). Police unlock AI’s potential to monitor, surveil and solve crimes | WSJ [videoposnetek]. YouTube. URL: https://www.youtube.com/watch?v=H_fyQCeBaeM. Dostop pridobljen 4. februarja 2024.
59. Unadkat, Jash. (13. maj 2023). How to Inspect Element in Chrome. BrowserStack. URL: https://www.browserstack.com/guide/inspect-element-in-chrome. Dostop pridobljen 4. februarja 2024.
60. UNECE. (2021). UNECE Policy Brief on Ageing No. 26: Ageing in the Digital Era. https://unece.org/sites/default/files/2021-07/PB26-ECE-WG.1-38_0.pdf [PDF].
61. UN Press. (2. oktober 2023). With Criminal Groups Using Sophisticated Technologies to Ply Their Wares, Third Committee Stresses Urgent Need to Collectively Combat Transnational Crime: Child Sexual Abuse, Trafficking of Drugs, Firearms, Ammunition on Dark Web Skyrocketing Globally, UN Official States. UN Press. URL: https://press.un.org/en/2023/gashc4374.doc.htm. Dostop pridobljen 4. februarja 2024.
62. Vogels, Emily A. (13. januar 2021). The State of Online Harassment. Pew Research Center. URL: https://www.pewresearch.org/internet/2021/01/13/the-state-of-online-harassment/. Dostop pridobljen 4. februarja 2024.
63. Walsh, Kit. (30. december 2021). Shining a Light on Black Box Technology Used to Send People to Jail: 2021 Year in Review. Electronic Frontier Foundation. URL: https://www.eff.org/deeplinks/2021/12/shining-light-black-box-technology-used-send-people-jail-2021-year-review. Dostop pridobljen 4. februarja 2024.
64. Wexler, Rebecca. (2018). Life, Liberty, and Trade Secrets: Intellectual Property in the Criminal Justice System, v: Stanford Law Review, 70, str. 1343–1429. https://review.law.stanford.edu/wp-content/uploads/sites/3/2018/06/70-Stan.-L.-Rev.-1343.pdf [PDF].
65. Wexler, Rebecca. (13. junij 2017). Opinion | When a Computer Program Keeps You in Jail. The New York Times. URL: https://www.nytimes.com/2017/06/13/opinion/how-computers-are-harming-criminal-justice.html. Dostop pridobljen 4. februarja 2024.
66. Yang, Justin. (31. julij 2023). Deepfake Evidence in Criminal Trials: The Emerging Dangers of Believing What You See and Hear. Crucible Law. URL: https://crucible.law/insights/deepfake-evidence-in-criminal-trials-the-emerging-dangers-of-believing-what-you-see-and-hear. Dostop pridobljen 4. februarja 2024.
Sodna praksa
67. Benedik v. Slovenia (Eur. Ct. H. R., 24. 4. 2018, 62357/14).
68. Ločeno mnenje vrhovnega sodnika Dr. Primoža Gorkiča k sodbi Vrhovnega sodišča I Ips 26906/2014 z dne 22. 7. 2021. https://www.sodnapraksa.si/mma_bin.php?static_id=2021092015164358 [PDF].
69. People v. Johnson, No. F071640 (Cal. Ct. App. Jul. 11, 2019).
70. Riley v. California, 573 U.S. 373 (2014).
71. Ustavno sodišče Republike Slovenije, Up-540/11-23 z dne 13. 2. 2014.
* Študent 1. letnika II. stopnje na Pravni fakulteti Univerze v Ljubljani.
[1] Cybergenetics, People of California v Billy Ray Johnson: Eastside Bakersfield serial rapist gets life plus 423 years, URL: https://www.cybgen.com/news/cases/California-v-Billy-Ray-Johnson.shtml.
[2] Wexler, When a Computer Program Keeps You in Jail, URL: https://www.nytimes.com/2017/06/13/opinion/how-computers-are-harming-criminal-justice.html.
[3] Ram, Innovating criminal justice (2018), str. 693–699.
[4] »[...] did not see a specific logical connection between the source code to be examined and some consequential fact.« Citirano po People v. Johnson, No. F071640 (Cal. Ct. App. Jul. 11, 2019).
[5] Shaer, The false promise of DNA testing: The forensic technique is becoming ever more common—and ever less reliable, URL: https://www.theatlantic.com/magazine/archive/2016/06/a-reasonable-doubt/480747/.
[6] John D. Rogers Law, What are the faults to DNA evidence in criminal cases?, URL: https://johndrogerslaw.com/what-are-the-faults-to-dna-evidence-in-criminal-cases/ in Bartle, DNA Evidence is Not as Reliable as Many Believe it to Be, URL: https://www.sydneycriminallawyers.com.au/blog/dna-evidence-is-not-as-reliable-as-many-believe-it-to-be/.
[7] Walsh, Shining a Light on Black Box Technology Used to Send People to Jail: 2021 Year in Review, URL: https://www.eff.org/deeplinks/2021/12/shining-light-black-box-technology-used-send-people-jail-2021-year-review.
[8] Prim. Stubbs, Gorkič, Fišer, TEMELJI KAZENSKEGA PROCESNEGA PRAVA (2020), str. 127 in 135.
[9] Prim. Strate, If It's Neutral, It's Not Technology (2012).
[10] Glej Cybergenetics, Get more information from DNA mixtures With TrueAllele®, URL: https://www.cybgen.com/products/casework/.
[11] Johansen et. al, Studying human‑to‑computer bias transference (2021), str. 2–3.
[12] Wexler, Life, Liberty, and Trade Secrets: Intellectual Property in the Criminal Justice System (2018), str. 4–5.
[13] Council of the European Union, Council Recommendation on improving the provision of digital skills and competences in education and training (2023), uvodna izjava tč. 1 in 9. Kot bo izpostavljeno v nadaljevanju, so mladi napram starejšim v povprečju bolj spretni pri uporabi digitalnih tehnologij, kar je potrebno upoštevati pri interpretaciji navedene statistike.
[14] Prim. European Commission, Juidicial Training: the right skills to embrace the digitalisation of justice – Report (2023).
[15] »Glede starostne strukture je še naprej zaznaven trend upadanja sodnikov v starostnih skupinah do 50 let (na dan 1. 1. 2023 – 322, leto pred tem – 329) in po drugi strani trend rasti sodnikov, starih nad 50 let (na dan 1. 1. 2023 – 556, leto pred tem – 552), […].« Citirano po Sodni svet Republike Slovenije, Letno poročilo sodnega sveta za leto 2022 (2023), str. 79.
[16] Navedeni podatek se nanaša na vir v op. 17 in ne odraža starosti sodnikov v Sloveniji. Skladno z drugim odstavkom 74. člena Zakona o sodniški službi (Uradni list RS, št. 94/07 – uradno prečiščeno besedilo, 91/09, 33/11, 46/13, 63/13, 69/13 – popr., 95/14 – ZUPPJS15, 17/15, 23/17 – ZSSve, 36/19 – ZDT-1C, 34/23 – odl. US in 76/23) sodniku preneha sodniška služba po zakonu z upokojitvijo, vendar najpozneje, ko dopolni 70 let starosti.
[17] UNECE, UNECE Policy Brief on Ageing No. 26: Ageing in the Digital Era (2021), str. 3.
[18] Kaplun, Do judges understand technology? How attorneys and advocates view judicial responsibility in cyberstalking and cyberharassment cases (2023), str. 79.
[19] Prav tam.
[20] Prav tam.
[21] Prav tam, str. 81 in 87.
[22] UNECE, nav. delo, str. 3.
[23] Vogels, The State of Online Harassment, URL: https://www.pewresearch.org/internet/2021/01/13/the-state-of-online-harassment/.
[24] GilPress, TikTok Statistics For 2024, URL: https://whatsthebigdata.com/tiktok-statistics/ in Iqbal, TikTok Revenue and Usage Statistics, URL: https://www.businessofapps.com/data/tik-tok-statistics/.
[25] Dixon, Number of Instagram users worldwide from 2020 to 2025, URL: https://www.statista.com/statistics/183585/instagram-number-of-global-users/.
[26] Lee in Attablayo, Examining the impacts of privacy awareness on user's self-disclosure on social media (2023), str. 2 in 7.
[27] Amnesty International, “We are totally exposed”: Young people share concerns about social media’s impact on privacy and mental health in global survey, URL: https://www.amnesty.org/en/latest/news/2023/02/children-young-people-social-media-survey-2/.
[28] Hargittai in Marwick, “What Can I Really Do?” Explaining the Privacy Paradox with Online Apathy (2016), str. 2.
[29] Prav tam, str. 17
[30] Chakravorti, Why it’s so hard for users to control their data, URL: https://hbr.org/2020/01/why-companies-make-it-so-hard-for-users-to-control-their-data.
[31] Solove, The Myth of the Privacy Paradox (2021), str. 23.
[32] Sutcliffe in Virassamy, The influence of social media on the behaviour, choices, reality and social interactions of millenials: an investigative study (2021), str. 1–2.
[33] Hassan in Barber, The effects of repetition frequency on the illusory truth effect (2021), str. 1–2.
[34] Jaynes, The social life of screenshots: the power of visibility in teen friendship groups (2019), str. 1, 6, 7 in 13.
[35] Möllers et. al, Digitale Beweise im Straf- und Zivilprozess, str. 7–8.
[36] Prav tam, str. 8.
[37] Benedik v. Slovenia (Eur. Ct. H. R., 24. 4. 2018, 62357/14).
[38] USRS, Up-540/11-23 z dne 13. 2. 2014, 14. tč. obrazložitve.
[39] Benedik v. Slovenia, para. 116.
[40] Prav tam, para. 96
[41] Stubbs, Gorkič, Fišer, nav. delo, str. 132–133.
[42] Prav tam, str. 221–222.
[43] Casey, DIGITAL EVIDENCE AND COMPUTER CRIME: FORENSIC SCIENCE, COMPUTERS, AND THE INTERNET (2011), str. 3.
[44] Pojmovanje interneta kot 'digitalnega prostora' ni najustreznejše. Internet kot tak pomeni le način komunikacije med več med seboj povezanimi napravami (splet naprav), pri čemer morebiten 'prostor' lahko kvečjemu pomeni fizični strežnik, ki hrani zahtevane podatke, ki jih dostopa druga naprava, ali pa katere druge povezane naprave.
[45] Münch, Polizeiarbeit im digitalen Zeitalter – Herausforderungen erkennen und Chancen nutzen (2020), str. 26.
[46] European Commission, COMMISSION STAFF WORKING DOCUMENT IMPACT ASSESSMENT Accompanying the document Proposal for a Regulation of the European Parliament and of the Council on European Production and Preservation Orders for electronic evidence in criminal matters and Proposal for a Directive of the European Parliament and of the Council laying down harmonised rules on the appointment of legal representatives for the purpose of gathering evidence in criminal proceedings (2018), str. 14
[47] Möllers et. al, nav. delo, str. 5.
[48] UN Press, With Criminal Groups Using Sophisticated Technologies to Ply Their Wares, Third Committee Stresses Urgent Need to Collectively Combat Transnational Crime: Child Sexual Abuse, Trafficking of Drugs, Firearms, Ammunition on Dark Web Skyrocketing Globally, UN Official States, URL: https://press.un.org/en/2023/gashc4374.doc.htm.
[49] Republika Slovenija Ministrstvo za notranje zadeve, Policija, Letno poročilo o delu policije za leto 2022 (2023), str. 29.
[50] Möllers et. al, nav. delo, str. 1.
[51] Horsman, Digital evidence and the crime scene (2021), str. 763.
[52] Prim. A&E, Stolen gaming console SOLVES Murder Case | Witness to Murder: Digital Evidence | A&E [videoposnetek], URL: https://www.youtube.com/watch?v=RnP3F1GIO3c.
[53] Intaforensics, Computer Forensics In The Courtroom: Is An IT Literate Judge And Jury Necessary For A Fair Trial?, URL: https://www.intaforensics.com/computer-forensics-in-the-courtroom-is-an-it-literate-judge-and-jury-necessary-for-a-fair-trial/.
[54] Kaplun, nav. delo, str. 86.
[55] Hans in Saks, Improving Judge & Jury Evaluation of Scientific Evidence (2018), str. 164 in 169.
[56] Horsman, nav. delo, str. 763.
[57] National Institute of Justice, Digital Evidence and Forensics, URL: https://nij.ojp.gov/digital-evidence-and-forensics.
[58] Levenson, These are the Google searches Brian Walshe made before and after killing his wife Ana Walshe, according to prosecutors, URL: https://edition.cnn.com/2023/01/18/us/brian-walshe-ana-walshe-google-searches/index.html.
[59] Smith, How A Floppy Disk Exposed Dennis Rader As The BTK Killer, URL: https://www.oxygen.com/snapped/crime-time/floppy-disk-exposed-dennis-rader-btk-killer.
[60] Forensic Notes, File Dates are NOT Reliable! Can You PROVE When You Wrote a Note or Saved a Document?, URL: https://www.forensicnotes.com/file-dates-are-not-reliable/.
[61] Möllers et. al, nav. delo, str. 174. Prim. https://www.vcl.fer.hr/comofod/examples.html.
[62] Kirchengast, Deepfakes and image manipulation: criminalisation and control (2020), str. 1–2.
[63] Prim. https://github.com/iperov/DeepFaceLab.
[64] Möllers et. al, nav. delo, str. 175. Prim. https://www.fakewhats.com/, https://instalized.com/ in https://fakedetail.com/fake-tiktok-post-generator.
[65] Unadkat, How to Inspect Element in Chrome, URL: https://www.browserstack.com/guide/inspect-element-in-chrome.
[66] Povzeto po Möllers et. al, nav. delo, str. 174 – 175.
[67] Hayward in Maas, Artificial intelligence and crime: A primer for criminologists, str. 215.
[68] Riehle, Europol Report Criminal Use of Deepfake Technology, URL: https://eucrim.eu/news/europol-report-criminal-use-of-deepfake-technology/.
[69] Evans in Novak, Scammers use AI to mimic voices of loved ones in distress, URL: https://www.cbsnews.com/news/scammers-ai-mimic-voices-loved-ones-in-distress/.
[70] Yang, Deepfake Evidence in Criminal Trials: The Emerging Dangers of Believing What You See and Hear, URL: https://crucible.law/insights/deepfake-evidence-in-criminal-trials-the-emerging-dangers-of-believing-what-you-see-and-hear.
[71] European Parliament, Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI, URL: https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai.
[72] European Commission, Proposal for a Regulation of the European parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts (2021).
[73] Bermudez et. al, What Is a Subliminal Technique? An Ethical Perspective for Artificial Intelligence Systems (2023), str. 1.
[74] Prav tam, str. 3.
[75] European Parliament, Amendments adopted by the European Parliament on 14 June 2023 on the proposal for a regulation of the European Parliament and of the Council on laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)), amandma št. 38.
[76] Reuters, Elon Musk’s Neuralink implants brain chip in first human, URL: https://www.reuters.com/technology/neuralink-implants-brain-chip-first-human-musk-says-2024-01-29/.
[77] Prim. Cohen, Regulating Manipulative Artificial Intelligence (2023), str. 211.
[78] Republika Slovenija Ministrstvo za notranje zadeve, Policija, Informacijsko-telekomunikacijska dejavnost, URL: https://www.policija.si/delovna-podrocja/informacijsko-telekomunikacijska-dejavnost.
[79] Ustava Republike Slovenije (Uradni list RS, št. 33/91-I, 42/97 – UZS68, 66/00 – UZ80, 24/03 – UZ3a, 47, 68, 69/04 – UZ14, 69/04 – UZ43, 69/04 – UZ50, 68/06 – UZ121,140,143, 47/13 – UZ148, 47/13 – UZ90,97,99, 75/16 – UZ70a in 92/21 – UZ62a).
[80] Thales, The evolution of the smartphone, URL: https://www.thalesgroup.com/en/worldwide-digital-identity-and-security/mobile/magazine/evolution-smartphone.
[81] Prim. drugi odstavek 219.a člena Zakona o kazenskem postopku (Uradni list RS, št. 176/21 – uradno prečiščeno besedilo, 96/22 – odl. US, 2/23 – odl. US in 89/23 – odl. US).
[82] Ločeno mnenje vrhovnega sodnika Dr. Primoža Gorkiča k sodbi Vrhovnega sodišča I Ips 26906/2014 z dne 22. 7. 2021, tč. 9.
[83] Riley v. California, 573 U.S. 373, 378 (2014).
[84] Prim. Republika Slovenija Ministrstvo za notranje zadeve, Policija, Na podlagi prijav ponudnikov informacijske tehnologije kriminalisti vodijo preiskavo zoper sedem osumljencev zaradi suma spolnega izkoriščanja otrok, URL: https://www.policija.si/medijsko-sredisce/sporocila-za-javnost/sporocila-za-javnost-gpue/112592-na-podlagi-prijav-ponudnikov-informacijske-tehnologije-kriminalisti-vodijo-preiskavo-zoper-sedem-osumljencev-zaradi-suma-spolnega-izkoriscanja-otrok.
[85] Alba, Google will stop providing law enforcement data on which users were near a crime, URL: https://time.com/6539416/google-location-history-data-police/.
[86] Kirschner, Google will no longer hold onto people’s location data in Google Maps — meaning it can’t turn that info over to the police, URL: https://www.businessinsider.com/google-maps-location-data-history-stored-locally-2023-12.
[87] Ellefsen et. al, Unpacking preventive policing: Towards a holistic framework (2023), str. 1–2.
[88] Lee, A Theory-Driven Algorithm for Real-Time Crime Hot Spot Forecasting (2019), str. 2.
[89] Prevention or Self-Fulfilling Prophecy? Predictive Policing’s Erosion of the Presumption of Innocence, str. 18
[90] The Wall Street Journal, Police unlock AI’s potential to monitor, surveil and solve crimes | WSJ [videoposnetek], URL: https://www.youtube.com/watch?v=H_fyQCeBaeM.
[91] Točka d. prvega odstavka 5. člena AIA.
[92] Guerrini, France’s surveillance plans for 2024 Olympics raise privacy concerns, URL: https://www.forbes.com/sites/federicoguerrini/2023/09/06/frances-surveillance-plans-for-2024-olympics-raise-privacy-concerns/?sh=73e955ac9541.
[93] Glej Horsman, nav. delo, str. 761 (»Ensuring that serious consideration of the value that a digital device may provide to an investigation requires increased 'digital awareness' education and training for existing and future first responders.«), Möllers et. al, nav. delo, str. 175 (»In jedem Fall bedarf es einer Schärfung des Bewusstseins für die vorhandenen technischen Möglichkeitein.«) in Kaplun, nav. delo, str. 70 (»In these types of cases it is impossible to make a fair ruling without knowledge of the technology, the technological commission of crime, and the harms the victim has experienced because of the technology.«).
[94] Casarosa, Technology-Neutral Legislation: Are Judges Able to Keep Pace with Technological Innovation? (2023), str. 3.
[95] Prim. Hyun, et. al, Detection of Upscale-Crop and partial manipulation in surveillance video based on sensor pattern noise (2013).
[96] Prim. Kaplun, nav. delo.
[97] Möllers et. al, nav. delo, str. 175.
[98] Prav tam, str. 7.
[99] European Commission, Juidicial Training: the right skills to embrace the digitalisation of justice – Report (2023), str. 13, 14, 17, 20, 25 in 28.
[100] Kaplun, nav. delo, str. 80.
[101] Prim. European Commission, Juidicial Training: the right skills to embrace the digitalisation of justice – Report (2023).
