Izzivi pravnega reda v dobi umetne inteligence

Pravna subjektivnost umetne inteligence

Eno temeljnih vprašanj, s katerim se soočajo pravni sistemi po svetu, je, ali lahko umetna inteligenca postane pravni subjekt. Tradicionalno je pravni red priznaval pravno subjektivnost fizičnim in pravnim osebam, kot so podjetja in organizacije. Z napredkom umetne inteligence pa se pojavlja vprašanje, ali bi morali sistemom UI, ki so sposobni samostojnega odločanja in učenja, podeliti določeno obliko pravne osebnosti.

Nekatere države že razmišljajo o posebnem pravnem statusu za napredne sisteme UI. Evropski parlament je leta 2017 sprejel resolucijo, ki je predlagala uvedbo koncepta “elektronske osebnosti” za avtonomne robote. Ta pristop je sicer naletel na kritike, predvsem zaradi skrbi, da bi to lahko vodilo do zmanjšanja odgovornosti razvijalcev in lastnikov sistemov UI.

Slovenski pravni red trenutno ne priznava umetni inteligenci pravne subjektivnosti, vendar strokovnjaki opozarjajo, da bo treba v prihodnosti razmisliti o ustreznih pravnih okvirih, ki bodo upoštevali posebno naravo avtonomnih sistemov UI.

Odgovornost za škodo, povzročeno s strani UI sistemov

Določanje odgovornosti za škodo, ki jo povzroči sistem umetne inteligence, predstavlja enega največjih izzivov sodobnega prava. Tradicionalno pravo odškodninske odgovornosti temelji na konceptih krivde in vzročne zveze, ki pa jih je težko aplicirati na sisteme UI, posebej tiste, ki delujejo na osnovi strojnega učenja in nevronskih mrež.

V praksi se pojavljajo različni pristopi k reševanju tega problema. Nekateri predlagajo sistem objektivne odgovornosti, kjer bi razvijalci, proizvajalci ali uporabniki sistemov UI odgovarjali ne glede na krivdo. Drugi zagovarjajo model zavarovanja odgovornosti, podoben avtomobilskemu zavarovanju, kjer bi posebni skladi krili škodo, povzročeno s strani sistemov UI.

Evropska unija pripravlja prvo celovito zakonodajo o umetni inteligenci (AI Act), ki med drugim obravnava tudi vprašanja odgovornosti. Slovenija bo kot članica EU morala ustrezno prilagoditi svojo zakonodajo, kar bo verjetno vključevalo spremembe Obligacijskega zakonika in drugih relevantnih predpisov.

Avtorske pravice in intelektualna lastnina v dobi UI

Sistemi umetne inteligence so danes sposobni ustvarjati dela, ki bi tradicionalno veljala za predmet avtorskega prava – od slik, glasbe in literarnih del do računalniške kode. To odpira temeljno vprašanje: kdo je avtor dela, ki ga je ustvarila umetna inteligenca?

Večina pravnih sistemov, vključno s slovenskim Zakonom o avtorski in sorodnih pravicah, temelji na predpostavki, da je avtor fizična oseba, ki je delo ustvarila. Vendar ta definicija postaja vse bolj problematična z razvojem generativne umetne inteligence.

Različne države poskušajo to vprašanje reševati na različne načine. V Združenem kraljestvu zakon priznava avtorske pravice na “računalniško generiranih delih” osebi, ki je sprejela potrebne ukrepe za nastanek dela. V ZDA je Urad za avtorske pravice zavrnil registracijo del, ki jih je ustvarila umetna inteligenca brez človeškega prispevka, s stališčem, da avtorsko pravo ščiti le človeško ustvarjalnost.

Slovenski pravni sistem bo moral v prihodnosti razviti jasnejša pravila glede avtorskopravnega varstva del, ustvarjenih s pomočjo UI. To bo verjetno zahtevalo tako zakonodajne spremembe kot tudi razvoj nove sodne prakse.

Regulacija uporabe UI v pravosodju in upravi

Uporaba umetne inteligence v pravosodnem sistemu in javni upravi postaja vse bolj razširjena. Sistemi UI se uporabljajo za napovedovanje sodnih odločitev, ocenjevanje tveganja povratništva, odkrivanje davčnih utaj in številne druge namene. Čeprav ti sistemi lahko izboljšajo učinkovitost in zmanjšajo stroške, odpirajo tudi resna pravna in etična vprašanja.

Eden ključnih pomislekov je transparentnost oziroma “črna skrinjica” mnogih algoritmov strojnega učenja. Če sodišče ali upravni organ sprejme odločitev na podlagi priporočila sistema UI, mora obstajati način, da prizadeta stranka razume osnovo za to odločitev in jo lahko izpodbija. To načelo je v slovenskem pravu utemeljeno v ustavno zagotovljeni pravici do pravnega sredstva.

Evropska unija v predlogu AI Act predvideva stroge omejitve za uporabo sistemov UI v pravosodju in javni upravi, zlasti za sisteme, ki predstavljajo visoko tveganje za temeljne pravice posameznikov. Ti sistemi bodo morali izpolnjevati zahteve glede preglednosti, človeškega nadzora in robustnosti.

Slovenska zakonodaja bo morala slediti tem smernicam in razviti jasne protokole za uporabo UI v pravosodju in upravi, ki bodo zagotavljali spoštovanje temeljnih pravic, kot so pravica do poštenega sojenja, enakost pred zakonom in prepoved diskriminacije.

Mednarodno pravno sodelovanje na področju UI

Umetna inteligenca ne pozna državnih meja, zato je učinkovita regulacija mogoča le s tesnim mednarodnim sodelovanjem. Različni pristopi k regulaciji UI med državami lahko vodijo do “regulatorne arbitraže”, kjer podjetja selijo svoje dejavnosti v države z manj strogo zakonodajo.

Na mednarodni ravni potekajo številne pobude za usklajevanje pristopov k regulaciji UI. Organizacija za gospodarsko sodelovanje in razvoj (OECD) je leta 2019 sprejela prva mednarodno dogovorjena načela o umetni inteligenci, ki jih je potrdilo več kot 40 držav. Svet Evrope razvija pravno zavezujoč instrument o umetni inteligenci, ki bo temeljil na standardih človekovih pravic.

Slovenija kot članica EU, OECD in Sveta Evrope aktivno sodeluje pri teh pobudah. Kot majhna država s tradicijo spoštovanja mednarodnega prava ima Slovenija poseben interes za razvoj učinkovitega mednarodnega pravnega okvira za umetno inteligenco.

Ključno bo, da slovenska diplomacija in pravni strokovnjaki aktivno sodelujejo pri oblikovanju mednarodnih norm na tem področju, hkrati pa prilagajajo domačo zakonodajo na način, ki bo ščitil pravice slovenskih državljanov in omogočal razvoj domače industrije UI.