Odgovornost umjetne inteligencije: tko je odgovoran kada sustav umjetne inteligencije uzrokuje štetu?

Kada sustav umjetne inteligencije uzrokuje štetu u Nizozemskoj, odgovornost uvijek leži na osobi ili tvrtki, nikada na samom softveru. U praksi se zahtjev usmjerava na korisnika (organizaciju koja implementira sustav) prema pravu odštete, članak 6:162 nizozemskog građanskog zakonika (BW), ili na proizvođača prema odgovornosti za proizvod, članak 6:185 BW, koji ne zahtijeva krivnju.

Tko od njih dvoje snosi gubitak ovisi o tome gdje se dogodio propust, što je svaka stranka znala i što kaže njihov ugovor. Ovaj članak pokriva obje pozicije. Kaznenopravni okvir, od funkcionalnog počiniteljstva do korporativne odgovornosti prema članku 51. Kaznenog zakona (Sr), raspravlja se u našem popratnom članku o tome može li algoritam biti djelomično odgovoran.

Zašto sam sustav umjetne inteligencije nikada nije odgovoran?

Nizozemski zakon poznaje samo fizičke i pravne osobe, a sustav umjetne inteligencije nije ni jedno ni drugo. Ne može ga se pozvati na sud, kazniti novčanom kaznom ili mu se naložiti plaćanje odštete jer ne posjeduje ništa; prijedlozi za „elektronički identitet“ raspravljali su se na razini EU-a, ali nisu usvojeni.

Pitanje je stoga koja je strana u lancu propustila ispuniti dužnost: programer modela, strana koja ga je pretvorila u proizvod, dobavljač ili integrator, organizacija koja ga je implementirala ili osoba koja je djelovala na temelju rezultata. Odgovornost za umjetnu inteligenciju je vježba lociranja propusta u tom lancu i njegovog povezivanja s pravnom osnovom.

Kada je korisnik odgovoran?

Korisnik je odgovoran kada implementira, konfigurira ili se oslanja na sustav bez pažnje koju bi razuman operater posvetio. Organizacija koja odabere alat, unosi podatke i djeluje na temelju njegovih rezultata ocjenjuje se na temelju vlastitog ponašanja.

Što ako se umjetna inteligencija koristi za počinjenje kaznenog djela?

Namjerno korištenje umjetne inteligencije za prekršaj ne mijenja prekršaj. Uvjerljiva faktura generirana umjetnom inteligencijom koja se koristi za prijevaru tvrtke je prijevara (oplichting) prema članku 326. Zakona, krivotvoreni dokument ostaje krivotvorina prema članku 225. Zakona, a kod napisan umjetnom inteligencijom koji se koristi za provalu u sustav je računalni upad prema članku 138.ab. Zakona.

Manipulirane slike stvarne osobe mogu se smatrati klevetom, a seksualni deepfakeovi spadaju pod pravila o seksualnim deliktima koja su na snazi ​​od 1. srpnja 2024. (Wet seksuele misdrijven). Uporno uznemiravanje uz pomoć umjetne inteligencije može se smatrati uhođenjem prema članku 285b Sr, koji se goni samo na temelju prijave žrtve. Upiti, zapisnici računa, rezultati i metapodaci datoteka dokaz su koji povezuje djelo s osobom; pogledajte naš pregled računalnog kriminala i kibernetičkog kriminala u Nizozemskoj.

Kako izgleda nemarno korištenje?

Više organizacija upada u probleme zbog nemara nego zbog namjere. Sustav kupljen za jednu svrhu koristi se za drugu, njegov izlaz se tretira kao odluka umjesto kao signal, i nitko ne provjerava slučajeve u kojima je pogrešan.

Prema članku 6:162 BW-a, kršenje nepisane dužnosti pažnje je protuzakonito, procjenjujući prema onome što bi učinio pažljiv operater. Poslodavac je također odgovoran za pogreške svojih zaposlenika (članak 6:170 BW), a stranka koja koristi model dobavljača za izvršenje vlastitog ugovora odgovara za tu pomoćnu tvar (članak 6:76 BW).

Zakon EU o umjetnoj inteligenciji (Uredba (EU) 2024/1689) sada ispunjava tu dužnost skrbi za visokorizične sustave. Implementatori moraju koristiti sustav u skladu s uputama, dodijeliti ljudski nadzor kompetentnim osobama s ovlastima, osigurati relevantne ulazne podatke, pratiti rad, voditi zapisnike i obavijestiti radnike prije upotrebe takvog sustava na radu. Sud koji procjenjuje nemar će ove obveze tumačiti kao standard pažljivog ponašanja.

Ljudski nadzor mora biti stvaran. Recenzent koji odobrava gotovo sve što sustav predloži, mjereno prema propusnosti, ne donosi odluku; ova „pristranost automatizacije“ je mjesto gdje nadzor najčešće zakaže.

Koje rizike korisnik ne može prenijeti?

• Prema oštećenoj strani, korisnik je vidljivi tuženik. Kupac kojem je odbijen kredit ili kandidat kojeg je alat za provjeru odbio tužit će pružatelja usluga; regres protiv dobavljača je zasebno pitanje prema ugovoru.
• Zaštita podataka primjenjuje se neovisno. Ponuđač je obično kontrolor prema Općoj uredbi o zaštiti podataka (GDPR), a članak 22. GDPR-a daje ljudima pravo na ljudsku intervenciju isključivo u automatiziranim odlukama s pravnim ili slično značajnim učincima. Pogledajte našu stranicu na Opća uredba o zaštiti podataka.
• Modifikacija mijenja vašu ulogu. Implementator koji stavi svoje ime na visokorizični sustav, promijeni njegovu namjenu ili ga značajno modificira postaje pružatelj usluga prema Zakonu o umjetnoj inteligenciji, s obvezama pružatelja usluga.

Kada je proizvođač odgovoran?

Proizvođač je odgovoran bez krivnje za štetu uzrokovanu nedostatkom njegovog proizvoda (članak 6:185 BW). Proizvod je neispravan ako ne pruža sigurnost koju osoba može očekivati, uzimajući u obzir njegov izgled, razumno očekivanu upotrebu i vrijeme kada je stavljen u promet; oštećena strana mora dokazati štetu, nedostatak i uzročnu vezu.

Zahtjevi se moraju podnijeti u roku od tri godine nakon što je oštećena strana saznala ili je trebala saznati za štetu, nedostatak i identitet proizvođača, a pravo istječe deset godina nakon što je proizvod stavljen u promet. Odgovornost za proizvod ne može se isključiti ili ograničiti ugovorom prema oštećenoj strani. Proizvođač se može pozvati na ograničen skup obrana, uključujući obranu od rizika razvoja.

Koje su promjene za softver prema novoj Direktivi o odgovornosti za proizvod?

Revidirana Direktiva o odgovornosti za proizvod (Direktiva (EU) 2024/2853) stupila je na snagu 8. prosinca 2024. i mora se prenijeti do 9. prosinca 2026. Primjenjuje se na proizvode stavljene na tržište nakon tog datuma; raniji proizvodi i dalje podliježu važećim pravilima Građanskog zakonika.

• Softver, uključujući AI sustave, izričito je proizvod.
• Odgovornost može snositi više stranaka: svatko tko značajno izmijeni proizvod izvan kontrole proizvođača, uvoznik, ovlašteni predstavnik i, u nekim slučajevima, pružatelji usluga ispunjavanja narudžbi i online platforme.
• Uništavanje ili oštećenje podataka koji se ne koriste u profesionalne svrhe predstavlja nadoknadivu štetu.
• Proizvod može postati neispravan nakon što je stavljen na tržište, na primjer zbog neispravnog ažuriranja ili neisporuke sigurnosnih ažuriranja.

Direktiva također olakšava dokazivanje. Sud može naložiti tuženiku da otkrije relevantne dokaze, a ako se on ne pridržava te odredbe, pretpostavlja se da su nedostatni. Tamo gdje tehnička složenost pretjerano otežava dokazivanje, mogu se pretpostaviti nedostatnost ili uzročnost ako tužitelj dokaže da su vjerojatni.

Što se može regulirati ugovorom?

Između tvrtki, ugovor je obično prvo bojno polje. Dobavljač mora isporučiti ono što je dogovoreno; obećana točnost, dostupnost ili usklađenost sa Zakonom o umjetnoj inteligenciji koja nije ispunjena predstavlja kršenje, s mogućnošću izvršenja, odštete i raskida ugovora nakon obavijesti o neizvršenju.

Klauzule o ograničenju obično su na snazi ​​između poduzeća, ali sud ih može ukinuti ako je oslanjanje na njih neprihvatljivo s obzirom na razumnost i pravičnost (članak 6:248(2) BW), na primjer u slučaju namjere ili namjerne nepažnje. Pogledajte našu stranicu o zahtjevima za naknadu štete za način na koji se takvi zahtjevi grade.

Daje li Zakon o umjetnoj inteligenciji pravo na naknadu?

Ne. Zakon o umjetnoj inteligenciji je regulatorni: on propisuje dužnosti za pružatelje usluga i implementatore te daje nadzornicima ovlasti za provedbu, ali ne stvara zahtjev za naknadu štete. Europska komisija povukla je svoj prijedlog Direktive o odgovornosti za umjetnu inteligenciju, pa se zahtjevi rješavaju putem nacionalnog deliktnog i ugovornog prava te odgovornosti za proizvod.

Zakon o umjetnoj inteligenciji i dalje je važan na sudu: nepoštivanje je dokaz nemara, obvezna tehnička dokumentacija i zapisnici mogu se zatražiti u postupku, a Zakon određuje tko je pružatelj usluga, a tko implementator. Naša IT pravna praksa bavi se tim pitanjima klasifikacije.

Što ako i korisnik i proizvođač ne uspiju?

Većina incidenata ima nekoliko uzroka: nereprezentativne podatke o obuci, netestiranu integraciju, korištenje izvan predviđene svrhe i operatere koji nisu poznavali ograničenja sustava. Prema članku 6:102 BW, strane odgovorne za istu štetu odgovorne su svaka za cijelu štetu prema oštećenoj strani i naknadno međusobno rješavaju svoje udjele.

Nizozemska afera s naknadama za brigu o djeci (toeslagenaffaire) ilustrira ovaj obrazac: neprozirna klasifikacija rizika, odluke bez stvarne individualne procjene i posljedice koje u potpunosti snose pogođeni ljudi. Posljedice su bile administrativne i političke, a ne kriminalne.

Što se odnosi na autonomna vozila, dronove i robote?

Tjelesna ozljeda dodaje objektivnu odgovornost koja ne postavlja pitanje je li netko bio nemaran. Prema članku 185. Zakona o cestovnom prometu iz 1994. (Wegenverkeerswet 1994.), vlasnik ili korisnik motornog vozila odgovoran je za štetu nanesenu pješacima i biciklistima, osim ako nije postojala viša sila, bez obzira na to je li sustav pomoći vozaču upravljao vozilom.

Dronovi podliježu pravilima EU o dronovima, s registracijom operatera putem RDW-a i nadzorom Inspektorata za ljudski okoliš i promet (ILT). Posjednik neispravne pokretne stvari koja stvara posebnu opasnost odgovoran je prema članku 6:173 BW-a, također i kada je greška u njezinom softveru, tako da vlasnik industrijskog robota ne može jednostavno pokazati na prodavatelja.

Što biste trebali provjeriti kao korisnik AI sustava?

• Vodite popis AI sustava koje koristite, tko ih je isporučio i na koje odluke utječu.
• Za svaki sustav utvrdite jeste li implementator ili, nakon izmjene, pružatelj usluga prema Zakonu o umjetnoj inteligenciji.
• Zabilježite namjeravanu namjenu i pridržavajte se uputa za uporabu dobavljača.
• Dajte operaterima stvarne ovlasti za poništavanje sustava i nemojte ih mjeriti samo na temelju volumena.
• Čuvajte zapise i evidenciju incidenata dovoljno dugo da ih možete upotrijebiti u sporu.

Što biste trebali provjeriti kao proizvođač ili dobavljač?

• Upravljanje rizicima dokumenata, upravljanje podacima i testiranje u odnosu na populaciju kojoj će sustav zapravo služiti.
• Napišite upute za uporabu koje su iskrene o ograničenjima i stopama pogrešaka.
• U skladu s Direktivom (EU) 2024/2853, uspostaviti politiku ažuriranja u kojoj se navodi tko isporučuje sigurnosna ažuriranja i koliko dugo.
• Dogovorite ograničenja odgovornosti, izuzeća i odštete koje odražavaju ono što sustav zapravo odluči.
• Organizirajte kanal za prijavu incidenata od strane korisnika i bilježenje načina na koji je svaki od njih riješen.

Što možemo učiniti za vas u vezi s odgovornošću umjetne inteligencije?

Naši odvjetnici za IT i nizozemsko kazneno pravo savjetuju organizacije koje grade sustave umjetne inteligencije i organizacije koje ih koriste.

• Utvrđujemo jeste li pružatelj ili implementator prema Zakonu o umjetnoj inteligenciji i koje se dužnosti primjenjuju.
• Pregledavamo i pregovaramo o ugovorima o opskrbi umjetnom inteligencijom, uključujući ograničenja, odštete i pristup zapisnicima.
• Procjenjujemo zahtjev nakon incidenta i dokaze koji su vam potrebni za njegovu obranu ili podnošenje.
• Procjenjujemo kriminalnu izloženost tvrtke i njezinih direktora u slučaju zlouporabe sustava umjetne inteligencije.
• Izrađujemo interne politike umjetne inteligencije o ljudskom nadzoru, evidentiranju i rješavanju incidenata.

Rezime

• Sustav umjetne inteligencije ne može biti odgovoran; korisnik ili proizvođač jest.
• Korisnici su odgovorni za delikt (članak 6:162 BW), a Zakon o umjetnoj inteligenciji postavlja standard skrbi za visokorizične sustave.
• Proizvođači su odgovorni bez krivnje za neispravne proizvode (članak 6:185 BW), u roku od tri i deset godina.
• Direktiva (EU) 2024/2853 čini softver proizvodom i olakšava dokazivanje za proizvode stavljene na tržište nakon 9. prosinca 2026.
• Nekoliko odgovornih strana odgovara svaka za cijelu štetu prema oštećenoj strani.

Često postavljana pitanja