Poslednji umetni vplivi pod pragom zavesti?

Andraž Stariha*

Izvleček: Evropska komisija je aprila 2021 v predlogu t. i. Akta o umetni inteligenci na mizo položila prepoved sistemov umetne inteligence, ki na subliminalen način vplivajo na vedenje ljudi in jim na ta način povzročijo telesno ali psihično škodo. Decembra 2023 sta evropska zakonodajalca njen predlog tudi potrdila. Prepoved odpira mnoga vprašanja, tako iz pravnega kot tudi znanstvenega vidika. Kaj sploh pomeni subliminalen način vplivanja in kakšno vlogo ima lahko pri tem umetna inteligenca? Kakšne so lahko morebitne pravne zagate, ki utegnejo vznikniti pri uporabi te prepovedi? Prispevek skuša osvetliti odgovore na ta vprašanja ter s pomočjo nekaj izbranih praktičnih primerov prikazati, kako obširna je pravzaprav prihajajoča ureditev.

Oznake: umetna inteligenca, AI, prepovedani sistemi umetne inteligence, Akt o umetni inteligenci, AIA, Evropska komisija, subliminalno vplivanje, hypernudging, microtargetting

1. Akt o umetni inteligenci

Aprila 2021 je Evropska komisija v zakonodajno obravnavo predložila prvi zajetnejši osnutek nove uredbe, ki naj bi kot prva v pravu EU temeljito urejala področje umetne inteligence.[1] T. i. 'Akt o umetni inteligenci' (angl. Artificial Intelligence Act, v nadaljevanju: AIA),[2] ki sta ga Evropski parlament in Svet EU potrdila 8. decembra 2023,[3] naj bi spodbudil varen in konkurenčen tehnološki razvoj umetne inteligence na evropskem trgu. Ta naj bi v družbi dobila svoje mesto predvsem kot orodje, s katerim bi si ljudje pomagali pri vsakdanjih opravilih in si tako v splošnem povečali življenjsko blaginjo. Prihodnost človeštva naj bi rasla skupaj s to tehnologijo.[4]

Vendar vse ni tako preprosto. Tako kot umetna inteligenca v sebi nosi potencial kot človeku koristno pomagalo (npr. pri nalogah, kjer je treba jedrnato povzeti ogromne količine podatkov), nosi tudi izjemno veliko potenciala za zlonamerno uporabo. Evropska komisija je v ta namen v AIA naslovila etične pomisleke tako, da je v predlaganem 5. členu vpeljala nevarnostno klasifikacijo umetne inteligence na treh različnih nivojih: 1) nesprejemljivo tveganje, 2) visoko tveganje in 3) nizko oziroma minimalno tveganje.[5] Vsaka kategorija s sabo nosi svojo ureditev. Znotraj prve je Komisija ustvarila seznam t. i. prepovedanih praks – načinov uporabe umetne inteligence, ki morajo biti po njeni oceni prepovedani iz razloga neskladnosti s temeljnimi vrednotami EU (ker npr. kršijo temeljne človekove pravice).[6] Ta seznam najdemo v prvem odstavku zadevnega člena.

2. Prepoved, ki jo vsebuje točka (a)

Prvi odstavek 5. člena AIA ločuje 4 različne kategorije prepovedane uporabe umetne inteligence v točkovnem razponu od (a) do (d). Točke v grobem prepovedujejo (a) subliminalno vplivanje na ljudi s ciljem ali učinkom povzročitve škode, (b) izkoriščanje ranljivosti določenih skupin ljudi s ciljem ali učinkom povzročitve škode, (c) sisteme družbenega točkovanja (angl. social scoring systems) in (d) sredstva za biometrično prepoznavo v realnem času preko oddaljenega dostopa (z nekaj dovoljenimi izjemami).[7] V nadaljevanju bo pod drobnogled vzeta točka (a), kot jo je zasnovala Evropska komisija.

Točka (a) določa, da je prepovedano vnašati na trg, dajati v obratovanje ali uporabljati vsakršen sistem umetne inteligence, ki uporablja subliminalne (lat. sub – pod, limen – prag)[8] tehnike, ki vplivajo na osebo onkraj njene zavesti, z namenom, da bi bistveno izkrivili njeno vedenje na način, ki bi njej ali drugi osebi povzročil ali utegnil povzročiti telesno ali duševno škodo.[9]

V tej razvlečeni povedi je nakopičenih veliko obširnih pravnih predpostavk, zato ni presenetljivo, da je bilo na ta račun izpostavljenih že nekaj tehtnih pomislekov. AIA denimo nikjer ne pojasni pojma 'subliminalno', vendar nekako na splošno namiguje, da pomeni 'pod pragom zavedanja'.[10] Dalje se velja vprašati o zamejenem krogu rabe te določbe, saj je le-ta pogojena z (verjetnim) nastankom psihične ali telesne škode na posamezniku. Po mnenju nekaterih avtorjev bi moral biti njen razpon razširjen še na druge vrste škode, kot npr. na finančno, ekonomsko ali kulturno škodo, na nedovoljene posege v človekovo avtonomijo ali celo širše, na oblike družbene (kolektivne) škode.[11] Evropski parlament se je tako v svoji različici besedila osredotočil na razmeroma širok standard 'znatne škode'.[12] AIA obenem posebej določa, da je njena raba izvzeta za sisteme umetne inteligence, ki so bili razviti oziroma so v uporabi za izključno vojaške namene.[13] V praksi lahko to vodi v številne preglavice pri določanju njene rabe v primerih t. i. »dual-use AI«, tj. umetne inteligence, ki je hkrati lahko uporabljena tako za vojaške kot tudi civilne namene (kdaj bo nek namen izključno vojaški?). Poleg tega nekaj težav pri interpretaciji vznikne že znotraj istega člena, saj se določbe v marsičem med seboj prepletajo. Tako na primer ni popolnoma jasno, kdaj naj bi se v praksi štelo, da je kavzalnost nastale škode mogoče pripisati subliminalnim vplivom na posameznika in kdaj vplivom umetne inteligence, ki preži na posebej ranljive skupine ljudi (npr. na otroke in starejše) in izkorišča njihovo ranljivost z namenom, da vpliva na njihovo vedenje (prim. točka (b) prvega odstavka 5. člena AIA).[14]

3. Kako se lahko umetna inteligenca skriva pod pragom zavesti?

3.1 Kje ima zavest svoj prag?

Subliminalno vplivanje, kot ga navaja točka (a), mora biti bodisi ciljno (angl. with the objective to) bodisi mora nastati kot posledica učinkov (angl. or the effect of) uporabe sistema umetne inteligence. Dejanski namen ponudnika ali uporabnika sistema umetne inteligence pri tem ni pomemben, če škodljive posledice vseeno nastanejo zaradi izkoriščevalnega oziroma manipulativnega načina uporabe, ki ga sistem omogoča. Če bistvena sprememba v vedenju žrtve nastopi kot posledica zunanjih faktorjev, tj. faktorjev, ki so izven nadzora ponudnika ali uporabnika in jih ta ni mogel razumno predvideti ali nanje vplivati, potem uporabi sistema umetne inteligence ne moremo pripisati vzročne zveze za povzročitev škode.[15] Kako to dokazati v praksi, pa je samostojno vprašanje.

Dalje, to, da je nekaj subliminalno pomeni, da deluje 'pod pragom (zavesti oziroma zaznavnega)' (nem. unter der Schwelle (des Bewusstseins)).[16] Slovar slovenskega knjižnega jezika ob tem kot slovensko ustreznico navaja besedo 'prikrito',[17] ki pa v tem kontekstu morda ni najprimernejša, saj je njen pomen nekoliko preširok in ne dovolj natančen. Beseda 'subliminalno' se praviloma nanaša na dražljaje, za katere se oseba ne zaveda, da jih je zaznala, vendar ti še vedno lahko vplivajo na njeno vedenje.[18] Subliminalen dražljaj je dovolj močan, da preči t. i. objektivni prag – je dovolj intenziven, da zmore opazno vplivati na vedenje osebe – a hkrati ne tako močan, da prestopi tudi t. i. subjektivni prag, tj. prag, onkraj katerega bi se oseba tudi zavedala njegovega vpliva.[19] Lastnost 'subliminalnega' se torej specifično nanaša na delovanje pod pragom (zavesti).

Pravkar ponujena definicija se v znanstvenih krogih smatra za nekoliko ozko in nerodno.[20] Pri določanju, kdaj je nek dražljaj prečil subjektivni prag, se prepogosto zanaša na introspektivno poročanje subjektov. Ljudje smo različno občutljivi na zaznavanje dražljajev, prav tako pa na naše sposobnosti zaznave vpliva še marsikateri faktor, kot je npr. utrujenost, zmanjšana pozornost itn.[21] Posebej pogost problem, ki vznikne pri opravljanju takšnih meritev, so denimo primeri, ko osebe ne poročajo, da so karkoli zaznale, čeprav v ozadju morda vendarle obstaja neko zavedanje o dražljaju, ki pa ga je preveč težko ubesediti.[22] Poleg tega se moramo vprašati, kaj sploh je tisto, kar oseba zazna in kako (beri: v kolikšni meri) to zazna? Če je nekomu predstavljen vizualni dražljaj v obliki slike trikotnika, oseba pa poroča, da je zaznala le eno izmed stranic, do kakšne mere sploh lahko štejemo, da se zaznane stranice aktivno zaveda in ali lahko ta informacija, ki se je (celo!) zaveda, sploh vpliva na njeno vedenje? Določanje subjektivnega praga in kdaj ga nek dražljaj preči je zato lahko precej problematično in v veliki meri odvisno od tega, kako natančno merimo zavedno zaznavanje dane osebe.[23]

Svet EU je novembra 2022 z dopolnitvijo razlage pojma 'subliminalnih vplivov' stopil celo korak dlje od predlaganega besedila točke (a). Med imenovane vplive je primeroma uvrstil (1) zvočne in slikovne dražljaje ter dražljaje v obliki video vsebin, ki jih oseba sploh ne more zaznati, ker ti delujejo onkraj človeških zmožnosti zaznave. Hkrati pa je navedel  še (2) druge subliminalne tehnike, ki si podredijo ali prizadenejo avtonomijo osebe oziroma njene sposobnosti odločanja na način, ki se ga oseba aktivno ne zaveda oziroma, če se ga zaveda, pa ga ne zmore nadzirati ali se mu upreti.[24] Gre za jasen kontrast med vplivi, ki jih oseba (1) sploh ni zmožna zaznati, in (2) drugimi subliminalnimi vplivi.[25] Evropski parlament je k temu še prištel določene vrste nevrotehnologij, kot npr. t. i. »brain-computer interfaces«.[26]

3.2 Primeri že obstoječih tehnologij

Zgolj poznavanje abstraktnih predpisov ima pri razumevanju kateregakoli obravnavanega področja omejen učinek. Zato bodo v nadaljevanju izpostavljeni še nekateri praktični primeri uporabe sistemov umetne inteligence, ki bi jih morda veljalo uvrstiti pod obravnavano prepoved. Seznam nikakor ni izčrpen. Izbrani primeri naj služijo v premislek, kako široko pravzaprav je zadevno področje.

Hypernudging pomeni način uporabe umetne inteligence, ki omogoča dinamično usmerjanje vedenja konkretnega uporabnika. V grobem deluje tako, da ravno pravemu uporabniku posreduje ravno pravo sporočilo, preko pravega sistema sporočanja, ob ravno pravem času in tolikokrat, kolikor je to potrebno. Z nenehnimi ravno pravimi dražljaji (oziroma potiski v želeno smer (angl. nudges)) lahko v bistvenem zaznamuje vedenje uporabnika tako, da se ta prične odločati v nasprotju s svojimi resničnimi preferencami.[27] Sistem se pri svojem delovanju zanaša na mentalne bližnjice (angl. heuristics), ki jih ljudje uporabljamo, da na poenostavljen način pridamo rešitev sicer kompleksnemu problemu. Naše sposobnosti odločanja so namreč zamejene z omejitvami, ki izhajajo iz našega uma in okolja v katerem živimo, zato lahko denimo struktura okolja ali zgradba programskega vmesnika bistveno vpliva na to, kakšno odločitev bomo sprejeli.[28] Hypernudging to stori tako, da z nenehnimi dražljaji ustvari okolje, v katerem se uporabnik zaradi njegovega vpliva raje posluži ene bližnjice pri odločanju kot druge. Pri tem si velja to okolje ilustrativno zamisliti kot neke vrste stopnišče, ki ga glede na želeni cilj zasnuje »arhitekt«, ki želi vplivati na osebo. Vsaka izmed stopnic premakne uporabnika korak bližje k temu cilju.[29] Primer tega je sprotno prilagajanje izgleda spletne strani glede na to, kako, kje in kdaj uporabnik klika z miško zato, da se ga spodbudi k nakupu.[30] Še zanimivejši je primer Google Zemljevidov; storitev avtomatično, v realnem času in na dinamičen način prilagaja informacijski kontekst glede na izbire uporabnika. Če uporabnik zavije desno namesto levo, se bo sistem temu hitro prilagodil in mu ponudil novo pot ali pa ga spodbudil k temu, naj zavije nazaj. Te možnosti uporabnik ni prisiljen izbrati. A če je ne izbere, bo sistem znova prilagodil pot in uporabnika vnovič »potisnil« k temu, da sledi izbiri, ki jo je zasnoval Google (»arhitekt«) – in tako naprej.[31] V primerjavi s prejšnjo praktiko se to niti ne zdi tako sporno, saj je usmerjanje uporabnika konec koncev smisel tovrstne aplikacije. Očitno je torej, da povsem pavšalna prepoved ne bi imela veliko smisla v vsakdanjem življenju.

Microtargeting pomeni obliko ciljnega spletnega oglaševanja, ki preko analize osebnih preferenc uporabnika vpliva na njegovo vedenje. S pomočjo sledilnih piškotkov, sledenja klikom, vnosom na tipkovnici in potovanju miške (ter še z mnogimi drugimi orodji) platforma zgradi osebni profil uporabnika, ki ga nato uporabi, da čim natančneje prikroji predvajano vsebino njegovim nazorom.[32] Samo preko všečkov, ki jih uporabnik odda na družbeni platformi Facebook, je z uporabo umetne inteligence zanesljivo mogoče napovedati, kakšna je njegova polt, njegova spolna ali politična usmerjenost, ali je ekstrovertiran ali introvertiran, ali je odvisnik od drog, cigaret ali alkohola, kakšna je njegova povprečna inteligenca in kakšna je njegova veroizpoved.[33] S pomočjo tovrstnega profiliranja je leta 2016 Cambridge Analytica identificirala ameriške uporabnike Facebooka, ki so bili nevrotični, v skrbeh in ki so oklevali pri izbiri, koga bi volili za predsednika ZDA. Ker je podjetje ocenilo, da bi bilo takšne ljudi še najlažje prepričati v to, naj volijo Donalda Trumpa (naročnika profiliranja), jim je po opravljeni identifikaciji pričelo pošiljati visoko personalizirana sporočila v obliki Facebook oglasov, ki so bili vidni zgolj njim (t. i. »Dark Post« funkcija). Če je bil izbrani uporabnik zagret pristaš nošnje orožja, mu je oglas že naslednji dan sporočal, da mu bo Hillary Clinton (takratna protikandidatka) odvzela vse strelno orožje. Na ta način je Donald Trump na takratnih volitvah dokazano pridobil vsaj 77.000 dodatnih glasov.[34]

Search engine manipulation bias pomeni način manipuliranja vrstnega reda, v katerem se prikažejo rezultati spletnega iskanja. Pri iskanju informacij na spletu (npr. preko Googla) ljudje največkrat le na hitro preletimo rezultate v enakem vrstnem redu, kakor so nam ti prikazani na spletišču ali spletnem mestu in se nato fiksiramo na tiste, ki so uvrščeni najvišje, misleč, da so samo ti relevantni za naše iskalne potrebe. Višje kot je uvrščena povezava na spletno stran, več klikov bo prejela in več časa bodo obiskovalci porabili na njej. Na račun naše »lenobe« je določanje kroga informacij, ki jih prejemamo, v veliki meri v rokah ponudnika iskalnih storitev. Manipuliranje vrstnega reda, v katerem so informacije prikazane, lahko dokazano vpliva na odločitve volivcev, brez da bi se ti tega vpliva zavedali.[35] Na prikaz informacij lahko vpliva tudi jezik, v katerem jih uporabnik išče. Če na primer vnese iskalno geslo »american inventors« namesto »ameriški izumitelji«, mu bo Google pri angleškem geslu v prvih zadetkih izpostavil več slik temnopoltih izumiteljev kot pri slovenskem.[36] 

Recommender systems oziroma priporočilni sistemi opravljajo nalogo veznega člena med kupcem in prodajalcem. Na podlagi podatkov o profilih uporabnikov in produktih prikazujejo uporabnikom tiste izdelke, za katere menijo, da bi jih najbolj zanimali. Ljudje se pri nakupih pogosto zanašamo na priporočila, ki jih prejmemo od virov, ki jim zaupamo. Priporočilni sistemi avtomatizirajo to vlogo na podlagi temeljite analize zajetnih količin podatkov o opravljenih transakcijah, komentarjih uporabnikov, ocenah produktov itn. Znana primera sta denimo Amazon in Netflix.[37] Problem se lahko pojavi takrat, ko podjetja pričnejo uporabljati vedno bolj dovršene algoritme, ki z vedno bolj mamljivimi (beri: natančnejšimi) priporočili uporabnike ujamejo v figurativno past. Ko enkrat ujamejo njihovo pozornost, lahko na hitro zajamejo ogromen del trga. Potrebno se je zavedati, da v ozadju priporočilnih sistemov stoji ogromna, visoko specializirana industrija, posvečena izključno temu, da izpopolnjuje neštete skupine različnih zvrsti algoritmov z edinim namenom, da ti pritegnejo čim več ljudi.[38]

Vsem pravkar naštetim praktikam je poleg imen ozkega kroga tehnoloških velikanov modernega časa skupno to, da z nudenjem informacij vplivajo na vedenje ljudi, ne da bi se ti tega zavedali. Njihov vpliv je povsem neprisilen – človek se lahko vedno odloči drugače – a hkrati neizbežen, prav zaradi svoje subliminalne narave, ki človeku do neke mere odvzame to izbiro. Ljudje smo v luči vedno naprednejše in povprečnemu človeku vedno manj razumljive avtomatizirane tehnologije vedno lažje zavedeni. Spodaj je naštetih samo nekaj primerov.

Redno izpostavljanje ljudi nacionalnim simbolom kot npr. zastavi države v več kratkotrajnih intervalih lahko vpliva na njihovo politično razmišljanje, ne glede na to, kako globoko so poistoveteni z izbrano nacionalnostjo.[39] Na podoben način se lahko osebo spodbudi k nakupu, če se med njenim popoldanskim spancem intervalno predvaja ime želenega izdelka.[40] Dolgotrajna izpostavljenost dražljajem, ki prikazujejo nasilne ali jezne vsebine lahko vodi v opazne spremembe v nenadni vzkipljivosti osebe, brez, da bi se ta tega zavedala.[41] Skrbno prilagajanje arhitekture zgradbe (angl. adaptive design) na podlagi algoritmičnega predvidevanja, na kaj se bodo osredotočile človeške oči, lahko znatno poveča količino pozornosti, ki ji jo bodo posvetili ljudje.[42] To je lahko še posebej nevarno v virtualnem okolju, ki se lahko bliskovito prilagaja novim družbenim ali individualnim interesom. Ti sistemi lahko ljudem zlahka ponudijo ravno pravi korenček – navsezadnje so za to specializirani.

4. Sklep

Predlog Evropske komisije je nedvomno pravi korak naprej v pravnem dohitevanju tehnološkega razvoja. Vsebina, ki je bila predstavljena v tem prispevku je le skromna škrbina, ki komaj pričenja slikati celoten obseg predvidene regulacije. Vendar že krajši pregled odpira mnoga vprašanja, ki jim pravo samo po sebi morda ne bo kos. Vsi moderni sistemi umetne inteligence so namreč medsebojno prepleteni, visoko specializirani in predvsem tesno vpeti v naše vsakdane, pri čemer se zdi pavšalno ločevanje slabega sistema od dobrega praktično nemogoče. Dosledno izpeljevanje obravnavane prepovedi bo najbrž herkulski, vsekakor pa interdisciplinaren podvig, bodisi v kontekstu nepodredljivih tehnoloških velikanov bodisi v kontekstu dokazovanja škodujočih vplivov sistemov umetne inteligence. Korak, ki ga je naredila Evropska komisija je velik, vendar se zdi, da bo potreben še večji.

5. Viri in literatura

Ai, Sizhi; Yin, Yunlu; Chen, Yu; Wang, Cong; Sun, Yan; Tang, Xiangdong; Lu, Lin; Zhu, Lusha; Shi, Jie: Promoting subjective preferences in simple economic choices during nap, v: eLife, 7 (2018).

Bermúdez, Juan Pablo; Nyrup, Rune; Deterding, Sebastian; Moradbakhti, Laura; Mougenot, Céline; You, Fangzhou; Calvo, Rafael A.: What Is a Subliminal Technique? An Ethical Perspective on AI-Driven Influence, v: 2023 IEEE International Symposium on Ethics in Engineering, Science, and Technology (ETHICS), (2023), str. 1–10.

Carrozza, Ilaria; Marsh, Nicholas; Reichberg, Gregory. M.: Dual-Use AI technology in China, the US and the EU, ResearchGate, (2022).

Epstein, Robert; Robertson, Ronald E.: The search engine manipulation effect (SEME) and its possible impact on the outcomes of elections, v: Proceedings of the National Academy of Sciences of the United States of America, 112 (2015) 33.

European Parliament News:  EU AI Act: first regulation on artificial intelligence, URL: https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence (4. november 2023).

European Parliament News: Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI, URL: https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (28. december 2023).

Evropski parlament: Amendments adopted by the European Parliament on 14 June 2023 on the proposal for a regulation of the European Parliament and of the Council on laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)), Strasbourg 23. junij 2023.

Evropska komisija: Proposal for a Regulation of the European parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts, št. 2021/0106 (COD), Bruselj, 21. april 2021.

Fran.si, Slovar slovenskega knjižnega jezika, druga, dopolnjena in deloma prenovljena izdaja, URL: https://fran.si/iskanje?All=subliminalen&IsAdvanced=True (25. november 2023).

Hassin, Ran R.; Ferguson, Melissa J.; Shidlovski, Daniella; Gross, Tamar: Subliminal exposure to national flags affects political thought and behavior, v: Proceedings of the National Academy of Sciences of the United States of America, 104 (2007) 50, str. 19757–19761.

Information Commissioner's Office: Microtargetting, URL: https://ico.org.uk/for-the-public/be-data-aware/social-media-privacy-settings/microtargeting/ (5. november 2023).

Lavdas, Alexandros A.; Salingaros, Nikos A.; Sussman, Ann: Visual Attention Software: a new tool for understanding the “Subliminal” experience of the built environment, v: Applied Sciences, 11 (2021) 13 6197, str. 1–29.

Melville, Prem; Sindhwani, Vikas: Recommender Systems, v: Encyclopedia of Machine Learning and Data Mining (ur. C. Sammut, G. I. Webb), Springer, 2017, str. 1056–1066.

Merriam-Webster.com, Dictionary, URL: https://www.merriam-webster.com/dictionary/subliminal (29. oktober 2023).

Mills, Stuart: Finding the ‘nudge’ in hypernudge, v: Technology in Society, 71 (2022) 102117.

Morozovaite, Viktorija: Two sides of the digital advertising coin: putting hypernudging into perspective, v: Market and Competition Law Review, 5 (2021) 2), str. 105–146.

Morozovaite, Viktorija: Hypernudging in the changing European regulatory landscape for digital markets, v: Policy & Internet, 15 (2022) 1, str. 78–99.

Neuwirth, Rostam J.: Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA), v: Computer Law & Security Review, 48 (2023) 105798.

Overgaard, Morten; Timmermans, Bert: How Unconscious is Subliminal Perception?, v: Handbook of Phenomenology and Cognitive Science (ur. D. Schmicking, S. Gallagher), Springer, 2009, str. 501–518.

Péer, Eyal; Egelman, Serge; Harbach, Marian; Malkin, Nathan; Mathur, Arunesh; Frik, Alisa: Nudge me right: Personalizing online security nudges to people’s decision-making styles, v: Computers in Human Behavior, 109 (2020) 106347.

Rehman, Ikhlaq U.: Facebook-Cambridge Analytica data harvesting: What you need to know, v: Library Philosophy and Practice (e-journal), (2019) 2497.

Seaver, Nick: Captivating algorithms: Recommender systems as traps, v: Journal of Material Culture, 24 (2018) 4, str. 421–436.

Svet Evropske unije: Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts - General approach, št. 2021/0106(COD), Bruselj, 25. november 2022.

Todorov, Alexander; Bargh, John A.: Automatic sources of aggression, v: Aggression and Violent Behavior, 7 (2002) 1, str. 53–68.

Opombe:

* Študent 1. letnika II. stopnje na Pravni fakulteti v Ljubljani.

[1] European Parliament News, EU AI Act: first regulation on artificial intelligence, URL: https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence.

[2] Evropska komisija, Proposal for a Regulation of the European parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts (2021).

[3] European Parliament News, Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI, URL: https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai. Končna različica besedila v časa pisanja prispevka še ni bila objavljena.

[4] Evropska komisija, nav. delo, str. 1.

[5] Prav tam, str. 12.

[6] Prav tam.

[7] Neuwirth, Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA) (2023), str. 2.

[8] Merriam-Webster.com, Dictionary, URL: https://www.merriam-webster.com/dictionary/subliminal.

[9] Točka (a) prvega odstavka 5. člena AIA.

[10] Neuwirth, nav. delo, str. 7.

[11] Prav tam, str. 6.

[12] Evropski parlament, Amendments adopted by the European Parliament on 14 June 2023 on the proposal for a regulation of the European Parliament and of the Council on laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)), amandma 38 in 215.

[13] Tretji odstavek 2. člena AIA.

[14] Neuwirth, nav. delo, str. 3.

[15] Svet EU, Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts - General approach, str. 25.

[16] Harper Douglas, Online Etymology Dictionary, etymonline.com, dostop 29. 10. 2023.

[17] Fran.si, Slovar slovenskega knjižnega jezika, druga, dopolnjena in deloma prenovljena izdaja, URL: https://fran.si/iskanje?All=subliminalen&IsAdvanced=True.

[18] Bermúdez et al., What Is a Subliminal Technique? An Ethical Perspective on AI-Driven Influence (2023), str. 1.

[19] Prav tam, str. 3.

[20] Predstavljene so bile tudi že širše definicije. Več o tem glej Bermúdez et al., nav. delo, str. 6.

[21] Prav tam.

[22] Overgaard, Timmermans, How Unconscious is Subliminal Perception? (2009), str. 504.

[23] Prav tam, str. 11.

[24] Svet EU, nav. delo, str. 25.

[25] Bermúdez et al., nav. delo, str. 2.

[26] Evropski parlament, nav. delo, amandma 38. Slovenska različica besedila to (neustrezno) prevaja kot »vmesniki možganskih računalnikov«. Morda bolj smiseln prevod bi bil »možgansko-računalniški vmesniki«.

[27] Morozovaite, Two sides of the digital advertising coin: putting hypernudging into perspective (2021), str. 107.

[28] Morozovaite, Hypernudging in the changing European regulatory landscape for digital markets (2022), str. 79.

[29] Prav tam, str. 89–91.

[30] Péer et al., Nudge me right: Personalizing online security nudges to people’s decision-making styles (2020), str. 2.

[31] Mills, Finding the ‘nudge’ in hypernudge (2022), str. 5.

[32] ICO, Microtargetting, URL: https://ico.org.uk/for-the-public/be-data-aware/social-media-privacy-settings/microtargeting/.

[33] Rehman, Facebook-Cambridge Analytica data harvesting: What you need to know (2019), str. 4.

[34] Prav tam, str. 9.

[35] Epstein, Robertson, The search engine manipulation effect (SEME) and its possible impact on the outcomes of elections (2015), str. 1.

[36] Opisani izsledek temelji na lastnem poizvedovanju in se je dotlej izkazal za objektivno ponovljivega na več različnih napravah.

[37] Melville, Sindhwani, Recommender Systems (2017), str. 1056–1057.

[38] Seaver, Captivating algorithms: Recommender systems as traps (2018), str. 421–323.

[39] Hassin et al., Subliminal exposure to national flags affects political thought and behavior (2007), str. 19757.

[40] Ai et al., Promoting subjective preferences in simple economic choices during nap (2018), str. 1.

[41] Todorov, Bargh, Automatic sources of aggression (2002), str. 53.

[42] Lavdas et al., Visual Attention Software: a new tool for understanding the “Subliminal” experience of the built environment, (2021), str. 1-2.