Prema nizozemskom i europskom pravu, algoritam ne može biti kazneno odgovoran. Kaznena odgovornost zahtijeva počinitelja kojeg zakon prepoznaje kao osobu, a članak 51. Sr proširuje taj status samo na fizičke i pravne osobe. Sustav umjetne inteligencije je objekt, a ne osumnjičenik. Stoga je pitanje koje je u praksi važno ne je li algoritam djelomično odgovoran, već koje je ljudsko biće ili koja je tvrtka u potpunosti odgovorna za ono što je učinio.
To pitanje već ima dobro razrađen odgovor u nizozemskom kaznenom pravu. Doktrine funkcionalnog počiniteljstva (functioneel daderschap) i korporativne kaznene odgovornosti izgrađene su upravo za ovu situaciju: šteta uzrokovana instrumentom, organizacijom ili procesom, a ne vlastitim rukama okrivljenika. Ovaj članak utvrđuje kako se te doktrine primjenjuju na umjetnu inteligenciju, kako Zakon EU o umjetnoj inteligenciji mijenja standard skrbi, kako se algoritamski izlaz tretira kao dokaz i kako bi trebala izgledati obrana i program usklađenosti. Za šire pitanje raspodjele odgovornosti u lancu opskrbe programera, pružatelja usluga i korisnika, pogledajte naš popratni članak o tome tko je odgovoran kada stroj počini kazneno djelo.
Zašto algoritam ne može biti osumnjičenik
Kazneno djelo prema nizozemskom zakonu zahtijeva ljudski čin ili propust koji odgovara zakonskoj definiciji kaznenog djela, koji je protuzakonit i koji se može pripisati počinitelju. Svaki od tih elemenata pretpostavlja aktera s voljom. Algoritam proizvodi izlaze izvršavanjem koda na podacima; nema volju za oblikovanjem, nema ništa za što bi se mogao kriviti i ništa što bi kaznena sankcija mogla dosegnuti. Članak 51. Sr ostavio je mjesta za tvrtku uz pojedinca upravo zato što tvrtka djeluje putem ljudi; ne postoji usporediva odredba za softver, a stvaranje takve zahtijevalo bi od zakonodavca da izmisli novu kategoriju pravne osobe.
Niti bi to služilo bilo kojoj svrsi koju kazneni zakon priznaje. Kazna postoji da bi kaznila, odvratila i, gdje je to moguće, ispravila. Nijedna od tih funkcija ne može se izvršiti na modelu. Brisanjem težina neuronske mreže kažnjava se njezin vlasnik, a ne mreža. Sve što kazneni zakon želi postići kada sustav umjetne inteligencije uzrokuje štetu mora se postići putem ljudi i organizacija koje stoje iza njega, zbog čega nizozemska praksa to ne tretira kao prazninu u zakonu.
Donja tablica prikazuje neusklađenost između elemenata kaznenog djela i onoga što sustav umjetne inteligencije zapravo jest.
| Element | Što kazneni zakon zahtijeva | Položaj AI sustava |
|---|---|---|
| Počinitelj | Fizička osoba ili pravna osoba prema čl. 51. | Ni jedno ni drugo. Sustav je objekt u vlasništvu i pod upravom nekoga drugog. |
| Ponašanje | Čin ili kažnjivi propust koji se može pripisati tom počinitelju. | Izlaz koji proizvodi kod. Pripisivo ponašanje je odluka o izgradnji, implementaciji ili ostavljanju u radu. |
| Namjera ili nemar | Opzet, uključujući uvjetnu namjeru, ili culpa u smislu značajne nepažnje. | Nikakvo mentalno stanje. Namjera i nemar postoje, ako uopće postoje, kod ljudi koji su to konfigurirali i nadzirali. |
| Sankcija | Zatvorska kazna, novčana kazna, kazna rada u zajednici ili mjera. | Nijedna se ne može nametnuti softveru. Sankcije padaju na operatera. |
Tko je umjesto toga odgovoran: funkcionalno počiniteljstvo i članak 51. Sr
Nizozemski kazneni zakon ima dva mehanizma za utvrđivanje odgovornosti za ponašanje koje nije fizički počinio. Oba su razvijena mnogo prije nego što je postojalo strojno učenje i oba odgovaraju slučajevima umjetne inteligencije bez modifikacije.
Funkcionalno počinjenje
Funkcionalno vlasništvo omogućuje da se osoba smatra počiniteljem kaznenog djela koje je fizički počinio netko ili nešto drugo. Kriteriji koje je Hoge Raad formulirao u presudi IJzerdraad ostaju test: okrivljenik je morao imati ovlast utvrditi je li se ponašanje dogodilo (beschikken) i morao ga je prihvatiti ili uobičajeno prihvatiti takvo ponašanje (aanvaarden).
Primijenjeno na sustav umjetne inteligencije, prvi kriterij je obično jednostavan, a drugi odlučuje o slučaju. Ovlast raspolaganja pokazuje se sposobnošću konfiguriranja sustava, postavljanja njegovih operativnih ograničenja, ažuriranja ili ponovnog osposobljavanja i, prije svega, isključivanja. Vrlo malo operatera može vjerodostojno reći da im je nedostajala ta ovlast. Prihvaćanje je teže pitanje i tu se prikupljaju dokazi: što je operater znao o načinima kvara sustava, što je prijavljeno testiranjem ili ranijim incidentima, što je rekla procjena rizika i što je učinjeno u vezi s tim. Prihvaćanje ne zahtijeva želju za ishodom. Dovoljno je da je operater svjesno prihvatio znatan rizik, što je uobičajeni nizozemski standard za uvjetnu namjeru (voorwaardelijk opzet).
Korporativna odgovornost i stvarno vodstvo
Ako je operater tvrtka, primjenjuje se članak 51. Sr. Kazneno djelo može se pripisati pravnoj osobi ako se ponašanje dogodilo u njezinoj sferi djelovanja, što je Hoge Raad objasnio kroz čimbenike navedene u presudi Drijfmest: ponašanje je počinio netko tko je radio za tvrtku, uklapa se u njezino uobičajeno poslovanje, bilo je korisno za tvrtku i tvrtka je mogla utvrditi je li se dogodilo i prihvatila li ili uobičajeno prihvatila takvo ponašanje. Sustav umjetne inteligencije koji je tvrtka implementirala za obavljanje svog posla zadovoljava većinu tog popisa po definiciji.
Članak 51. Sr također dopušta kazneni progon onih koji su naredili prekršaj i onih koji su ga stvarno vodili (feitelijk leidinggeven). Ova je odredba koja osobno dopire do direktora i viših menadžera. Zahtijeva više od mjesta na organizacijskoj shemi: osoba je morala biti svjesna zabranjenog ponašanja, barem u smislu prihvaćanja znatne vjerojatnosti da se ono događa, te nije morala poduzeti mjere koje je bila nadležna i razumno dužna poduzeti. U slučaju umjetne inteligencije, to se izravno prevodi u dokaze o tome tko je primio izvješće o validaciji modela, tko je odobrio implementaciju i tko je odlučio da je poznata pristranost ili stopa pogrešaka prihvatljiva.
Prekršaji iz nehaja obavljaju većinu posla
U praksi, kazneni progoni koji uključuju automatizirane sustave puno su vjerojatnije utemeljeni na nemaru nego na namjeri. Kada vozilo, stroj ili medicinski uređaj pogonjen umjetnom inteligencijom uzrokuje smrt, relevantno kazneno djelo je uzrokovanje smrti iz nemara prema članku 307. Zakona; kada uzrokuje tešku ozljedu, članak 308. Zakona. Culpa u nizozemskom kaznenom pravu znači značajnu nepažnju, prosuđivanu u odnosu na ono što je razuman operater u tom položaju trebao učiniti. To je upravo osnova na kojoj će se voditi slučaj umjetne inteligencije, jer se standard skrbi za implementaciju automatiziranog sustava sve više propisuje: u Zakonu o umjetnoj inteligenciji, u sektorskim propisima, u tehničkim standardima i u vlastitim postupcima operatera. Dokumentirano odstupanje od standarda koji je sam operater usvojio najjači je dokaz nemara koji postoji.
Diskriminacija je druga kategorija koja se ponavlja. Diskriminacija u obavljanju posla ili profesije kazneno je djelo prema Wetboek van Strafrecht, a postoje i namjerne i nemarne varijante. Model koji sustavno stavlja zaštićenu skupinu u nepovoljan položaj stoga nije samo administrativni problem prema zakonu o zaštiti podataka i jednakom postupanju; u ozbiljnom slučaju to je kazneni problem. Naš vodič kroz kazneni postupak u Nizozemskoj objašnjava kako bi takav slučaj tekao od istrage do presude.
Zakon o umjetnoj inteligenciji postavlja standard skrbi, a ne sankciju
Zakon EU o umjetnoj inteligenciji je administrativni propis. Ne stvara kaznena djela i ne čini nikoga osumnjičenikom. Njegova važnost za kaznenu odgovornost je neizravna i znatna: obvezujućim riječima propisuje što se očekuje od pažljivog pružatelja ili implementatora sustava umjetne inteligencije. Nakon što se kodificira standard skrbi, odstupanje od njega dokaz je nemara, a poštivanje istog dokaz je skrbi.
Zakon razvrstava sustave prema riziku. Mali broj praksi je u potpunosti zabranjen, uključujući socijalno bodovanje od strane javnih tijela, nenamjerno struganje slika lica radi izgradnje baza podataka za prepoznavanje, prepoznavanje emocija na radnom mjestu i u obrazovanju te, uz uske iznimke, daljinsku biometrijsku identifikaciju u stvarnom vremenu u javnim prostorima za provedbu zakona. Veća skupina klasificirana je kao visokorizična, što obuhvaća sigurnosne komponente reguliranih proizvoda i upotrebe navedene u prilogu Zakona, među kojima su zapošljavanje, kreditno bodovanje i primjene u provedbi zakona, migracijama i pravosuđu. Sustavi koji komuniciraju s ljudima ili generiraju sintetički sadržaj imaju dužnosti transparentnosti. Ostatak je u biti nereguliran.
Pružatelj usluga ili implementator: uloge određuju dužnosti
Zakon raspoređuje obveze prema ulogama, a pogrešno određivanje uloge jedna je od najčešćih pogrešaka u usklađenosti. Pružatelj usluga razvija sustav ili ga naručuje razviti i stavlja ga na tržište pod svojim imenom; implementator koristi sustav pod vlastitim ovlaštenjem u tijeku svojih aktivnosti. Pružatelji usluga snose teške obveze dizajna, implementatori snose obveze ispravne upotrebe, ljudskog nadzora i praćenja. Zamka je u tome što implementator postaje pružatelj usluga, sa svim dužnostima koje slijede, ako stavi vlastito ime na sustav, značajno ga modificira ili promijeni njegovu namjenu na način koji ga dovodi u kategorije visokog rizika. Fino podešavanje kupljenog modela na vlastitim podacima, a zatim njegovo korištenje u svrhu koju prodavatelj nikada nije razmatrao, može tiho pomaknuti organizaciju preko te granice. U kaznenoj istrazi ista se razlika ponovno pojavljuje kao pitanje tko je imao ovlast raspolaganja, zbog čega uloge trebaju biti zabilježene u pisanom obliku i odražene u ugovoru.
Što se sada primjenjuje
Vremenski raspored se pomaknuo i vrijedi biti precizan u vezi s njegovim stanjem. Zabrane praksi neprihvatljivog rizika i obveza osiguranja pismenosti u području umjetne inteligencije već se primjenjuju. Pravila za modele umjetne inteligencije opće namjene već se primjenjuju. Obveze transparentnosti iz članka 50., uključujući obvezu jasnog naznačavanja da je sadržaj umjetno generiran ili manipuliran, već se primjenjuju. Ono što je odgođeno digitalnim omnibus paketom jest režim visokog rizika: obveze za sustave navedene u Prilogu III sada počinju 2. prosinca 2027., a one za sustave obuhvaćene Prilogom I. 2. kolovoza 2028. Odvojeno, predložena Direktiva o odgovornosti za umjetnu inteligenciju je povučena, pa građanska odgovornost za štetu uzrokovanu umjetnom inteligencijom ostaje stvar nacionalnog prava, što u Nizozemskoj znači uobičajena pravila o deliktu i odgovornosti za proizvod.
Kazne prema Zakonu su administrativne i utvrđene su do trideset pet milijuna eura ili sedam posto ukupnog svjetskog godišnjeg prometa, ovisno o tome što je veće, za bavljenje zabranjenom praksom, s nižim gornjim granicama za ostale prekršaje. Nadzor u Nizozemskoj organiziran je oko postojećih regulatora, s Autoriteit Persoonsgegevens i Rijksinspectie Digitale Infrastructuur u koordinirajućoj ulozi. Naši članci o zabranjenim praksama umjetne inteligencije i o visokorizičnim sustavima umjetne inteligencije prema Zakonu o umjetnoj inteligenciji detaljno utvrđuju obveze, a naš pregled Zakona EU o umjetnoj inteligenciji obuhvaća okvir u cjelini.
Kako će ga tužitelj koristiti
Razmotrimo implementatora koji stavlja alat za provjeru u upotrebu bez provjere podataka o obuci radi pristranosti, bez ljudskog nadzora koji Zakon zahtijeva i bez dokumentacije koju zahtijeva. Ako taj alat potom doprinese kaznenom ishodu, tužitelj ne mora raspravljati od temeljnih načela o tome kakva se pažnja dugovala. Obveze su na papiru, kršenje je dokumentirano, a element prihvaćanja funkcionalnog počiniteljstva proizlazi iz odluke o korištenju alata u svakom slučaju. Obrnuto je jednako istinito, a to je točka koju upravni odbori najčešće propuštaju: tvrtka koja može predočiti svoju procjenu rizika, rezultate validacije, svoj protokol nadzora i svoj dnevnik incidenata izgradila je jezgru vlastite obrane prije nego što je išta pošlo po zlu.
Algoritamski izlaz kao dokaz
Drugi način na koji umjetna inteligencija ulazi u kaznenu sudnicu nije kao uzrok štete, već kao izvor dokaza. Podudaranja prepoznavanja lica, automatsko prepoznavanje registarskih pločica, mrežna analiza komunikacijskih podataka, modeli rizika od prijevare, usporedba glasova i sve automatiziranija trijaža zaplijenjenih podataka proizvode materijal na koji se tužiteljstvo želi osloniti. Nizozemski kazneni postupak funkcionira sa zatvorenim sustavom kategorija dokaza, a algoritamski izlaz ne čini zasebnu kategoriju. Do suda stiže kao dio službenog izvješća ili putem mišljenja stručnjaka i podliježe istoj kontroli kao i svaki drugi dokaz.
To ispitivanje je ono na čemu se usredotočuje obrambeni rad. Tri pitanja određuju težinu koju materijal može nositi. Je li metoda validirana i od strane koga? Pod kojim uvjetima ne uspijeva i jesu li ti uvjeti bili prisutni? I može li obrana to testirati, što znači pristup dovoljno informacija o sustavu, njegovim podacima o obuci, stopama pogrešaka i konfiguraciji kako bi se postavio smislen izazov. Podudaranje predstavljeno kao činjenica, bez stope pogrešaka i bez mogućnosti provjere, nije dokaz na temelju kojeg bi sud trebao osuditi, a izgovaranje takvog dokaza legitimna je i često učinkovita obrana.
Vještačenje ima svoj vlastiti okvir. Sud može imenovati vještaka, obrana ga može zatražiti, a registar sudskih vještaka postoji kako bi osigurao prag kvalitete za područja koja pokriva. Tamo gdje metoda umjetne inteligencije izlazi izvan bilo kojeg priznatog područja, to je samo po sebi argument o pouzdanosti rezultata. Također vrijedi napomenuti da će novi Wetboek van Strafvordering, koji je Eerste Kamer usvojio 24. veljače 2026. i objavljen u Staatsbladu u ožujku 2026., stupiti na snagu knjiga po knjiga kraljevskim dekretom; do tada se i dalje primjenjuju trenutne odredbe i njihovi brojevi članaka.
Kut zaštite podataka
U slučajevima kada se odluka koja utječe na osobu donosi isključivo automatiziranim sredstvima, GDPR toj osobi daje pravo da ne bude podvrgnuta toj odluci, zajedno s pravom na smislene informacije o uključenoj logici. U kaznenom postupku primjenjuju se paralelna pravila zakona kojim se provodi direktiva o policijskim podacima. To je važno u dva smjera. Za osumnjičenika to je put do informacija o sustavu koji vlasti možda radije ne žele objašnjavati. Za tvrtku, primjena automatiziranog donošenja odluka bez zakonite osnove i bez zaštitnih mjera predstavlja kršenje propisa koje će se tumačiti uz svaku kaznenu prijavu.
Obrana u slučaju u koji je uključena umjetna inteligencija
Instinktivna obrana, da je sustav bio crna kutija i da nitko nije mogao znati što će učiniti, slabija je nego što izgleda. Odgovara na pogrešno pitanje. Nizozemski kazneni zakon ne pita je li okrivljenik predvidio točan rezultat; pita je li okrivljenik imao ovlast utvrditi je li se ponašanje dogodilo i prihvatio rizik da će se dogoditi. Neprozirnost može ići na štetu okrivljenika: primjena sustava čije se ponašanje ne može objasniti, u okruženju u kojem može uzrokovati ozbiljnu štetu, sama je po sebi odluka koju sud može smatrati prihvaćanjem rizika.
Obrana koja funkcionira je uska i temelji se na dokazima. Prva je stvarni nedostatak kontrole: sustav je nabavljen kao gotov proizvod, konfiguriran i održavan od strane dobavljača, a okrivljenik nije imao ni informacije ni tehničku mogućnost intervencije. Taj argument preusmjerava pozornost na dobavljača i ovisi o ugovoru i o tome što je zapravo prijavljeno implementatoru. Druga je da je operater učinio ono što pažljiv operater radi: dokumentirana procjena rizika, validacija prije implementacije, definirani ljudski nadzor s osobom koja je imala ovlasti i kompetencije za poništavanje, praćenje nakon implementacije i brzo djelovanje na incidente. Treća je uzročnost, koja se često nedovoljno koristi. U lancu koji ide od podataka za obuku preko modela do ljudske odluke i ishoda, tužiteljstvo mora pokazati da je ponašanje ovog okrivljenika uzrokovalo rezultat, a složeni lanci se prekidaju.
Slijede dvije praktične točke. Sačuvajte sve što je u tijeku: zapisnici, verzije modela, konfiguracija, izvješća o incidentima i korespondencija oko odluka o implementaciji dokazi su na obje strane i rutinski se prepisuju. I zapamtite da se uobičajene zaštitne mjere kaznenog postupka u potpunosti primjenjuju na tehnički složene slučajeve, uključujući pravo osumnjičenika da ništa ne kaže; naš članak o pravu na šutnju u kaznenim stvarima objašnjava kako to funkcionira u nizozemskoj istrazi. Tamo gdje se navodi o prijevari počinjenoj automatiziranim alatima, naš vodič o prijevarama i financijskom kriminalu u Nizozemskoj pokriva uključena kaznena djela.
Što afera s dječjim naknadama zapravo pokazuje
Toeslagenaffaire, nizozemska afera s dječjim beneficijama, slučaj je na koji se vraća svaka rasprava o algoritamskoj odgovornosti u Nizozemskoj, a obično se navodi iz pogrešnog razloga. Njegova pouka nije da je algoritam učinio nešto kriminalno. Pouka je da je sustav automatiziranog odabira rizika, u kombinaciji s institucionalnom nespremnošću da se propita njegov rezultat, proizveo godine ozbiljne štete desecima tisuća obitelji, a da nitko nije bio kazneno odgovoran.
Porezna uprava koristila je klasifikaciju rizika za odabir zahtjeva za naknade za istragu. Pokazatelji koji se nikada nisu smjeli koristiti, uključujući nacionalnost, našli su se u odabiru, a manja administrativna nepravilnost mogla je pokrenuti zaključak o namjernoj prijevari s obvezom povrata pune naknade. Obitelji nisu mogle vidjeti zašto su odabrane, dužnosnici su klasifikaciju tretirali kao zaključak, a ne kao signal, a teret opovrgavanja optužbe koju nitko nije htio objasniti pao je na optuženike. Nizozemsko tijelo za zaštitu podataka utvrdilo je da je obrada podataka o nacionalnosti nezakonita i izreklo novčanu kaznu, a vlada je dala ostavku u siječnju 2021.
Ono što se nije dogodilo je poučno. Nitko nije kazneno gonjen. Odgovornost je raspršena na organizaciju, politiku, softver i pravni okvir koji je naplatu naknada tretirao kao administrativno pitanje. Upravo je ta raspršenost rizik kojemu se funkcionalno počiniteljstvo i članak 51. Sr žele suzbiti, a to objašnjava zašto Zakon o umjetnoj inteligenciji inzistira na prepoznatljivom ljudskom nadzoru i na dokumentaciji. Odgovornost zahtijeva osobu koja je to mogla zaustaviti i zapis o tome što je znala.
Vrijedi navesti tri propusta jer se izravno prevode u pravnu izloženost bilo koje organizacije. Odluke nisu bile objašnjive, pa ih se nije moglo osporiti. Ljudski nadzor postojao je na papiru, ali ne i u praksi, jer uključene osobe nisu imale ni ovlasti ni informacije da ponište sustav. A učinak zastavice bio je preokretanje tereta dokazivanja, činjenično, ako ne i u zakonu. Svaka primjena umjetne inteligencije koja reproducira ove tri značajke pravni je problem koji čeka da sazrije, bez obzira na tehnologiju koja stoji iza njega. Vladin odgovor, uključujući smjernice o nediskriminaciji po dizajnu i o registrima algoritama za javna tijela, usmjeren je izravno na te tri točke.
Program usklađenosti koji ujedno služi i kao obrana
Sve što tvrtka poduzme kako bi se uskladila sa Zakonom o umjetnoj inteligenciji također stvara dokaze koji bi joj bili potrebni ako nešto pođe po zlu. Ta dvostruka svrha argument je za to da se to radi ispravno, a ne minimalno, i čini sljedeće korake vrijednima truda.
Započnite s popisom. Ne možete klasificirati ono što niste naveli, a većina organizacija otkriva da je umjetna inteligencija ušla putem nabave, a ne putem projekta: značajka provjere u platformi za zapošljavanje, modul bodovanja u kreditnoj prijavi, funkcija praćenja u sigurnosnom softveru. Klasificirajte svaki sustav prema Zakonu, zabilježite obrazloženje i ponovno ga provjerite kada se sustav materijalno promijeni, jer promjena namjene može premjestiti sustav u drugu kategoriju.
Zatim dodijelite odgovornost imenovanim osobama, a ne odjelima. Funkcionalno počinjenje i stvarno vodstvo odnose se na to tko je mogao utvrditi je li se ponašanje dogodilo. Organizacija u kojoj se nitko ne može identificirati kao odgovoran ne izbjegava odgovornost; ona jednostavno razotkriva onoga tko sjedi na vrhu grafikona. Recite tko je vlasnik svakog sustava, tko može odobriti implementaciju, tko provodi nadzor i tko ga može isključiti, te se pobrinite da imenovana osoba ima ovlasti i tehničku kompetenciju za to.
Učinite ljudski nadzor stvarnim. Zahtjev nije osoba u petlji, već osoba koja može razumjeti izlaz, ima pravo odbaciti ga i ne mjeri se propusnost na način koji odbacivanje čini nepraktičnim. Zabilježite poništavanja, jer zapisnik koji pokazuje da se funkcija nadzora zapravo koristi vrijedi više od bilo kojeg dokumenta o politici.
Dokumentirajte tehničku situaciju: odakle su podaci za obuku i kako su provjereni, koja su testiranja provedena i što su pokazala, koje su poznate stope pogrešaka i uvjeti kvara te što je o njima odlučeno. Tamo gdje je potrebna procjena utjecaja na zaštitu podataka ili na temeljna prava, provedite je prije implementacije i ažurirajte je. Pratite nakon implementacije, evidentirajte incidente i reagirajte na njih na način koji je vidljiv u zapisu.
Konačno, ispravno sastavite ugovore. Tamo gdje se sustav kupuje, a ne gradi, raspodjela odgovornosti između pružatelja usluga i implementatora određuje tko snosi rizik. Zatražite tehničku dokumentaciju koju zahtijeva Zakon, upute za uporabu, informacije o poznatim ograničenjima i pravo da budete obaviješteni o incidentima i značajnim izmjenama. Naš tim za IT pravo bavi se tim dogovorima.
Kada je umjetna inteligencija alat prekršitelja, a ne neuspjeha tvrtke
Do sada se ovaj članak bavio štetom uzrokovanom sustavom umjetne inteligencije koji je tvrtka implementirala u legitimne svrhe. Druga polovica slike je umjetna inteligencija koja se namjerno koristi za počinjenje kaznenog djela, a ovdje je odgovor jednostavniji: kazneno djelo je kazneno djelo, a tehnologija je otegotna pojedinost, a ne pravni problem. Nizozemski kazneni zakon sastavljen je u smislu rezultata i ponašanja, a ne u smislu instrumenata, zbog čega je potrebno vrlo malo novih odredbi.
Prijevara počinjena kloniranim glasom ili sintetičkim videozapisom redatelja koji upućuje plaćanje je obmana prema članku 326. Zakona, točno kao što bi bio slučaj s krivotvorenim pismom. Dokument generiran modelom za potporu lažnoj tvrdnji je krivotvorenje prema članku 225. Zakona. Korištenje nečijih identificirajućih osobnih podataka da se predstavljaju kao oni je kazneno djelo samo po sebi prema članku 231.b. Zakona. Distribucija seksualno eksplicitnih slika osobe bez njezinog pristanka je kažnjiva, a Zakon o seksualnim prekršajima (Wet seksualne misdrijven), koji je na snazi od 1. srpnja 2024., modernizirao je taj dio Kaznenog zakona; sintetička slika ne spada izvan njega jer je generirana, a ne snimljena. Uporno uznemiravanje putem automatiziranih računa može se smatrati zlostavljanjem prema članku 285.b. Zakona, što se goni samo na temelju pritužbe žrtve.
Ono što umjetna inteligencija mijenja jest opseg, vjerodostojnost i teškoća dokazivanja. Uvjerljiv sintetički glas uklanja trenje koje je nekada štitilo od prijevare s plaćanjem, a dokaz da je snimka autentična više se ne može pretpostavljati. Slijede dvije praktične posljedice. Za žrtve i za tvrtke, postupci provjere koji ne ovise o prepoznavanju glasa ili lica sada su osnovna kontrola, a ne usavršavanje. Za kazneni postupak, autentičnost audio i video materijala postala je pitanje koje se mora dokazati, a ne pretpostavljati, a obrana ima pravo testirati ga.
Regulacija počinje pomagati. Obveze transparentnosti iz članka 50. Zakona o umjetnoj inteligenciji, koje se već primjenjuju, zahtijevaju od pružatelja usluga da označe sintetički sadržaj na način koji se može čitati strojno, a od implementatora da otkriju da je slika, zvuk ili videozapis umjetno generiran ili manipuliran ako prikazuje stvarne ljude ili događaje. Usklađenost ne zaustavlja određenog prekršitelja, ali jača položaj svih ostalih: neotkriveni sintetički sadržaj čini samostalnim kršenjem propisa i daje istražiteljima i sudovima signal za traženje. Naš članak o dokazivanju digitalne obmane u Nizozemskoj bavi se dokaznom stranom ovih slučajeva.
Često postavljana pitanja o umjetnoj inteligenciji i kaznenoj odgovornosti
Može li tvrtka biti kazneno odgovorna ako njezina umjetna inteligencija diskriminira?
Da, apsolutno može. Iako nećete vidjeti sam sustav umjetne inteligencije na optuženičkoj klupi, tvrtka koja ga je upotrijebila zasigurno se može suočiti s kaznenim prijavama za diskriminirajuće ishode prema nizozemskim načelima kaznene odgovornosti tvrtki. Ako je vodstvo tvrtke znalo za potencijal umjetne inteligencije za pristranost i ništa nije poduzelo ili ako su bili krajnje nemari u svom nadzoru, kaznene prijave su vrlo stvarna mogućnost. Zakon EU o umjetnoj inteligenciji također postavlja stroga pravila protiv pristranosti za visokorizične sustave. Nepoštivanje tih standarda bio bi snažan dokaz nemara u svakom kaznenom slučaju. Pravni fokus uvijek će najjače sjati na ljudske odluke donesene oko stvaranja, obuke i implementacije umjetne inteligencije.
Što je problem crne kutije u umjetnoj inteligenciji?
Problem "crne kutije" je termin za složene modele umjetne inteligencije gdje čak ni ljudi koji su ih izgradili ne mogu u potpunosti pratiti kako je postignut određeni rezultat. Ovo je ogroman problem kada se umjetna inteligencija i kazneno pravo sudare. Na sudu to zapravo može postati temelj obrane. Odvjetnik bi mogao tvrditi da je štetan ishod bio potpuno nepredvidiv, što znači da optuženik nije imao potrebnu kaznenu namjeru (opzet). Argument je jednostavan: kako su mogli namjeravati rezultat koji nisu mogli predvidjeti? Ali tužitelji imaju snažan odgovor. Mogu tvrditi da je primjena moćnog, nepredvidivog sustava bez odgovarajućih zaštitnih mjera sama po sebi čin nepažnje ili grube nepažnje. A to može biti dovoljno da zadovolji mentalni element potreban za kaznenu odgovornost. To postavlja temelje za pravnu borbu s visokim ulozima oko predvidljivosti i dužnosti pažnje.
Koji je najbolji način za razvojne programere da ograniče pravni rizik?
Najučinkovitija stvar koju programeri mogu učiniti kako bi se zaštitili od pravnog rizika jest vođenje pedantne i transparentne dokumentacije kroz svaku fazu života umjetne inteligencije. Zamislite to kao stvaranje detaljnog "revizijskog traga" koji može postati vaš najvažniji dokaz. Ova dokumentacija zaista treba pokrivati sve od početka do kraja: Izvori podataka: Odakle su došli podaci za obuku i kako je provjerena njihova kvaliteta i pristranost?; Ublažavanje pristranosti: Koji su specifični koraci poduzeti za pronalaženje i uklanjanje pristranosti iz skupova podataka?; Obrazloženje dizajna: Koja je bila logika iza ključnih arhitektonskih izbora i algoritama?; Rezultati testiranja: Potpuni zapis svakog testiranja, uključujući kvarove i kako ste ih ispravili. Postavljanje jasnog okvira za ljudski nadzor jednako je važno. Ako se ikada provede istraga, ova dokumentacija služi kao nepobitan dokaz dužne pažnje. Pomaže pokazati da je svaka uzrokovana šteta bila doista nepredvidiva nesreća, a ne rezultat nemara - i to čini temelj čvrste pravne obrane.
Može li se algoritam proglasiti kazneno odgovornim za zločin prema važećem nizozemskom i europskom pravu?
Ne. Prema važećem zakonu, algoritam se ne može smatrati kazneno odgovornim. Temeljni pravni koncepti poput kaznene namjere (opzet) i pravnog subjektiviteta rezervirani su za ljude, a u određenim situacijama i za korporacije.
Zašto se AI sustav ne može jednostavno suditi kao osoba?
Algoritam nedostaju temeljne osobine potrebne za suđenje: nema svijest, nema osobnu imovinu koju bi mogao oduzeti i nema slobodu koja se može oduzeti, za razliku od fizičke osobe ili korporacije koja se priznaje kao pravna osoba.
Znači li to da je umjetna inteligencija nebitna za kaznene slučajeve?
Ne, upravo suprotno. Iako sam algoritam ne može biti kriv, njegovi postupci postaju ključni za dokazivanje krivnje ili nevinosti ljudi koji ga stvaraju, primjenjuju i nadziru.
Koji je pravni koncept najteže primijeniti na sustave umjetne inteligencije?
Zločinačka namjera (opzet) je posebno teška, budući da tužitelji obično moraju dokazati krivnju poput namjere, nepažnje ili znanja o nedjelu, dok algoritam jednostavno funkcionira na temelju svog programiranja i ulaznih podataka te mu nedostaju svijest, uvjerenja ili želje.
Kako Law and More može pomoći
Law and More Savjetujemo tvrtke, direktore i pojedince o kaznenoj odgovornosti koja proizlazi iz automatiziranih sustava. Procjenjujemo izloženost prema članku 51. Zakona o kaznenim djelima i doktrini funkcionalnog počiniteljstva, gradimo i preispitujemo upravljanje umjetnom inteligencijom koje će se pokazati kao dokaz pažnje, osporavamo algoritamske dokaze u kaznenim postupcima te branimo tvrtke i njihove službenike u istragama Državnog odvjetništva i regulatora. Ako vaša organizacija primjenjuje umjetnu inteligenciju u okruženju u kojem pogreške imaju posljedice, obratite se našem uredu prije nego što incident nametne pitanje.
