Chatbot postavljen u Nizozemskoj nalazi se na presjeku triju pravnih okvira: autorskih prava (Auteurswet i direktive EU o autorskim pravima), zaštite podataka (GDPR) i Zakona EU o umjetnoj inteligenciji, Uredba (EU) 2024/1689. Svaki od tih režima pripisuje dužnosti organizaciji koja chatbota stavlja pred korisnike, a ne samo programeru koji ga je izradio. Chatbotovi, autorska prava i usklađenost stoga su jedna tema, a ne tri, a rad započinje pisanom klasifikacijom onoga što vaš chatbot radi, na čijim je podacima obučen i što smije samostalno odlučivati.
Tri pravna režima koja se primjenjuju na svaki chatbot
Ne postoji jedinstveni nizozemski zakon o umjetnoj inteligenciji. Umjesto toga postoji hrpa pravila koja su uglavnom napisana prije nego što je generativna umjetna inteligencija postala roba, plus jedan propis koji je napisan posebno za nju. Za tvrtku u Nizozemskoj praktična posljedica je da ne možete odgovoriti na pitanje je li vaš chatbot zakonit gledajući jedan tekst. Morate provesti isti sustav kroz tri odvojena testa, a prolaz na jednom ne govori ništa o ostalima.
Autorska prava uređuju materijal koji je ušao u model i materijal koji iz njega izlazi. Nizozemski Auteurswet, s izmjenama i dopunama radi provedbe DSM direktive, sadrži posebnu iznimku za rudarenje teksta i podataka, a ta iznimka je okosnica na kojoj se vrti većina argumenata o podacima za obuku. Zaštita podataka uređuje sve što chatbot sazna o osobi koja u njega upisuje, a ovdje se GDPR u cijelosti primjenjuje u trenutku kada se razgovor može pratiti do prepoznatljive osobe. Zakon o umjetnoj inteligenciji uređuje sam sustav: za što se smije koristiti, što se mora otkriti, koja dokumentacija mora postojati i tko ga mora moći isključiti.
Ova tri režima imaju različite nadzornike, različite sankcije i različite vremenske rokove. To je važnije nego što zvuči. Chatbot koji je besprijekoran u pogledu privatnosti i dalje može biti nezakonit jer je obučen na prikupljenom materijalu, uz valjanu odjavu, a chatbot s čistim porijeklom podataka i dalje može kršiti Zakon o umjetnoj inteligenciji ako korisniku nikada ne kaže da je stroj.
Što svaki režim zapravo traži od vas
U suštini, svako od ta tri pitanja postavlja drugačije pitanje. Autorsko pravo pita jeste li imali dopuštenje ili zakonsku iznimku za svaki čin reprodukcije. Zaštita podataka pita imate li zakonitu osnovu prema članku 6. GDPR-a, jeste li ispitaniku rekli što radite i jeste li prikupili samo onoliko koliko vam je potrebno. Zakon o umjetnoj inteligenciji pita gdje se sustav nalazi na svojoj ljestvici rizika i jesu li ispunjene i dokumentirane obveze povezane s tom razinom.
Pisani odgovori na ta tri pitanja, prije implementacije, pretvaraju AI projekt iz otvorenog u upravljiv. To je u praksi također prvi dokument koji će regulator tražiti.
Ključni pravni izazovi za AI chatbotove u Nizozemskoj
| Pravno područje | Primarna briga | Mjerodavna pravila |
|---|---|---|
| Zaštita podataka | Obrada podataka razgovora bez zakonite osnove ili njihovo zadržavanje dulje nego što je potrebno. | GDPR, pod nadzorom Autoriteit Persoonsgegevens |
| Copyright | Reprodukcija zaštićenih djela tijekom obuke i rezultati koji reproduciraju zaštićeno djelo u prepoznatljivom obliku. | Auteurswet, posebno iznimke rudarenja teksta i podataka u člancima 15n i 15o |
| Prozirnost | Korisnicima se ne govori da imaju posla sa strojem ili sintetički izlaz nije označen kao takav. | Članak 50. Zakona o umjetnoj inteligenciji, koji se već primjenjuje |
| Odgovornost za rezultate | Tko odgovara za savjete, izjave ili odluke koje chatbot donosi. | Opće nizozemsko građansko pravo: ugovor, delikt prema članku 6:162 BW i odgovornost za proizvod |
Četvrti redak zaslužuje riječ upozorenja jer se najčešće pogrešno opisuje. Europska komisija povukla je svoj predloženi prijedlog Direktive o odgovornosti za umjetnu inteligenciju, tako da na vidiku nema usklađenog europskog režima odgovornosti za štetu uzrokovanu umjetnom inteligencijom. Zahtjevi za neispravan odgovor chatbota rješavat će se prema uobičajenom nizozemskom građanskom pravu: ugovoru s vašim kupcem, općoj dužnosti pažnje u članku 6:162 BW i revidiranim pravilima o odgovornosti za proizvod. Kako to funkcionira u praksi, izložili smo u našem članku o odgovornosti za pogreške u sadržaju generiranom umjetnom inteligencijom.
Autorska prava i podaci na kojima je vaš model obučen
Obuka velikog jezičnog modela uključuje kopiranje zaštićenih djela u industrijskim razmjerima. Prema nizozemskom zakonu, kopiranje je reprodukcija u smislu Zakona o autorskim pravima (Auteurswet) i nezakonito je osim ako nositelj prava nije dao dopuštenje ili se ne primjenjuje zakonska iznimka. Ne postoji nizozemski ili europski ekvivalent američke doktrine poštene upotrebe, a argumenti posuđeni iz parnica Sjedinjenih Država ne mogu se prenijeti na nizozemsku sudnicu.
Važna iznimka je rudarenje teksta i podataka. Članak 15n Zakona o autorskim pravima (Auteurswet) dopušta istraživačkim organizacijama i ustanovama kulturne baštine rudarenje djela kojima imaju zakonit pristup u svrhu znanstvenog istraživanja. Članak 15o je širi: dopušta svima rudarenje teksta i podataka na zakonito dostupnim djelima, ali samo ako nositelj prava nije izričito rezervirao tu upotrebu. Ta rezervacija, obično nazvana isključivanjem TDM-a, mora se izvršiti na odgovarajući način, a za materijal objavljen na mreži mora biti strojno čitljiv.
Praktični učinak je test u dva koraka. Je li trener imao zakonit pristup materijalu i je li nositelj prava rezervirao njegovu upotrebu? Ako je odgovor na drugo pitanje potvrdan i materijal je ipak iskopan, iznimka prestaje važiti i reprodukcija je predstavljala kršenje autorskih prava.
Gdje implementator preuzima rizik
Tvrtke često pretpostavljaju da su problemi s podacima za obuku problem programera. To je samo napola točno. Organizacija koja implementira chatbot i objavljuje ono što on proizvede izvodi vlastite činove reprodukcije i komunikacije s javnošću, i to čini u svoje ime. Ponavljaju se tri točke kvara.
- Trening bez valjane osnove. Model je izgrađen na materijalu obuhvaćenom TDM rezervacijom ili na materijalu kojem programer nikada nije imao zakonit pristup. Izloženost je na programeru, ali zahtjev može slijediti nakon rezultata nizvodno.
- Izlaz koji reproducira zaštićeno djelo. Ako chatbot vrati tekst, kod ili sliku koja je prepoznatljivo kopija zaštićenog djela, objavljivanje je novo kršenje autorskih prava od strane onoga tko ga je objavio. Stil nije zaštićen; značajan dio konkretnog djela jest.
- Ugovori koji ne prenose rizik unatrag. Mnoge licence za umjetnu inteligenciju ograničavaju odgovornost na godišnju naknadu i u potpunosti isključuju zahtjeve za intelektualno vlasništvo trećih strana. Pročitajte klauzulu o obeštećenju prije nego što pročitate marketinške materijale.
Vlasništvo nad onim što chatbot proizvodi ponovno je zasebno pitanje. Nizozemska autorska prava štite djela s vlastitim, originalnim karakterom koja nose osobni pečat autora i koja zahtijevaju ljudske kreativne izbore. Isključivo strojno generirani izlaz, proizveden iz upita bez daljnjeg ljudskog autorstva, vjerojatno uopće neće privući autorska prava, što znači da ni vi ni itko drugi ne možete spriječiti konkurenta da ga ponovno upotrijebi. Naš vodič o tome kada se sadržaj smatra javnim prema zakonu o autorskim pravima funkcionira kroz temeljna načela.
Realistično ublažavanje je ugovorno i dokazno, a ne tehničko. Pitajte dobavljača, pismeno, koji su skupovi podataka korišteni, jesu li poštovane TDM rezervacije i kakva se odšteta nudi za potraživanja trećih strana. Zadržite odgovore. Dobavljač koji neće staviti svoje podatke u ugovor govori vam nešto o vlastitom samopouzdanju.
Kako Zakon o umjetnoj inteligenciji klasificira chatbotove
Zakon o umjetnoj inteligenciji ne regulira tehnologiju; regulira namjenu. Isti temeljni jezični model može biti minimalno rizičan u jednoj primjeni, a visokorizičan u drugoj, a klasifikacija u potpunosti ovisi o tome za što ga koristite. Zato je prvi korak usklađenosti pisana klasifikacija i zato kopiranje klasifikacije s podatkovnog lista dobavljača nije dovoljno.
Uredba razvrstava sustave u četiri razine. Prakse u neprihvatljivoj razini su u potpunosti zabranjene: članak 5. zabranjuje, između ostalog, manipulativne tehnike koje materijalno iskrivljuju ponašanje i uzrokuju značajnu štetu, iskorištavanje ranjivosti povezanih s dobi ili invaliditetom, socijalno bodovanje i prepoznavanje emocija na radnom mjestu i u obrazovanju. Ove zabrane primjenjuju se od 2. veljače 2025. i o njima raspravljamo zasebno u našem članku o zabranjenim praksama umjetne inteligencije.
Visokorizična razina je ona strogo regulirana koja ostaje dopuštena. Chatbot tamo završava kada se koristi u jednom od područja navedenih u Prilogu III, koja uključuju zapošljavanje i odabir, odluke o pristupu bitnim privatnim i javnim uslugama kao što su krediti ili beneficije, obrazovanje i provedba zakona, ili kada funkcionira kao sigurnosna komponenta proizvoda obuhvaćenog zakonodavstvom o usklađivanju u Prilogu I. Obveze koje slijede navedene su u našem vodiču za visokorizične sustave umjetne inteligencije prema Zakonu o umjetnoj inteligenciji.
Većina chatbotova okrenutih prema korisnicima nalazi se na razini ograničenog rizika. Nema ocjenjivanja sukladnosti, registracije niti prijavljenog tijela, ali postoji obveza transparentnosti i ona nije opcionalna. Razina minimalnog rizika pokriva sve ostalo i ne nosi nikakve posebne obveze osim dobrovoljnih kodeksa.
Što se već primjenjuje, a što je odgođeno
Zakon o umjetnoj inteligenciji stupio je na snagu 1. kolovoza 2024. i postupno se primjenjuje tijekom nekoliko godina, a postupno je promijenjeno digitalnim omnibus paketom Europske komisije. Tri stvari su danas istinite i često se pogrešno izvještavaju.
Prvo, zabrane iz članka 5. i obveza pismenosti u području umjetne inteligencije iz članka 4. primjenjuju se od 2. veljače 2025. Drugo, obveze za modele umjetne inteligencije opće namjene, sloj na kojem je izgrađena većina komercijalnih chatbotova, primjenjuju se od 2. kolovoza 2025. Treće, primjenjuju se i obveze transparentnosti iz članka 50. Ono što je omnibus odgodio bio je režim visokog rizika i ništa drugo: pravila za sustave iz Priloga III. sada počinju važiti 2. prosinca 2027., a ona za sustave iz Priloga I. 2. kolovoza 2028.
Odgoda se odnosi samo na režim visokog rizika. Ako je vaš chatbot zabranjen, ili spada pod pravila modela opće namjene, ili jednostavno treba otkriti da je stroj, rok je već prošao.
Provođenje zakona podupiru gornje granice kazni izražene kao udio u godišnjem prometu na svjetskoj razini: najviša razina, rezervirana za kršenje zabrana, i niža opća razina za većinu ostalih prekršaja. Nacionalni nadzornici određuju stvarni iznos unutar tih granica.
Razine rizika Zakona o umjetnoj inteligenciji za aplikacije chatbotova
| Razina rizika | Primjer chatbota | Ključna obveza |
|---|---|---|
| minimum | Bot koji odgovara na pitanja o radnom vremenu ili kategorijama članaka. | Nema posebnih obveza; dobrovoljni kodeksi ponašanja. |
| ograničen | Bot za korisničku podršku koji obrađuje povrate i upite za narudžbe. | Otkrijte da korisnik komunicira s AI sustavom i označite sintetički izlaz. |
| visok | Bot koji prethodno provjerava kandidate za posao ili procjenjuje podobnost za kredit. | Upravljanje rizicima, upravljanje podacima, tehnička dokumentacija, evidentiranje, ljudski nadzor i ocjenjivanje sukladnosti. |
| Neprihvatljivo | Bot koji iskorištava ranjivosti određene skupine ili zaključuje o emocijama zaposlenika na poslu. | Zabranjeno; ne smije se stavljati na tržište ili koristiti u EU. |
Obveza transparentnosti iz članka 50.
Članak 50. Zakona o umjetnoj inteligenciji zahtijeva da osoba koja komunicira sa sustavom umjetne inteligencije bude obaviještena o toj činjenici, osim ako je to očito razumno dobro informiranom korisniku u danim okolnostima. Objava mora biti dana u trenutku prve interakcije, u jasnom i prepoznatljivom obliku. Redak u izjavi o privatnosti udaljen tri klika to ne zadovoljava.
Isti članak zahtijeva od pružatelja sustava koji generiraju sintetički tekst, zvuk, slike ili videozapise da označe taj izlaz na način koji se može strojno čitati, a od pružatelja usluga koji objavljuju tekst generiran umjetnom inteligencijom o pitanjima od javnog interesa zahtijeva da otkriju da je umjetno generiran, osim ako tekst nije prošao ljudsku reviziju s uredničkom odgovornošću. Za tvrtku koja koristi chatbot na vlastitoj web stranici praktična kontrolna lista je kratka: vidljiva izjava na početku razgovora, jasan put do čovjeka i bez dizajna sučelja koji implicira da korisnik razgovara s imenovanim zaposlenikom.
Transparentnost također ima dimenziju nizozemskog prava zaštite potrošača. Predstavljanje stroja kao osobe ili dopuštanje chatbotu da iznosi tvrdnje koje prodavač ne bi mogao zakonito iznijeti može predstavljati obmanjujuću poslovnu praksu prema pravilima iz Knjige 6 Burgerlijk Wetboeka, neovisno o Zakonu o umjetnoj inteligenciji.
Osobni podaci u razgovoru: sloj GDPR-a
GDPR se primjenjuje na chatbot čim obrađuje podatke koji se odnose na prepoznatljivu osobu, a razgovorni zapisnici to gotovo uvijek čine. Pravna osnova je prva stvar koju treba riješiti: privola prema članku 6(1)(a), izvršenje ugovora prema članku 6(1)(b) ili legitimni interesi prema članku 6(1)(f), svaki s različitim posljedicama za ono što zatim možete učiniti s transkriptom.
Tri točke uzrokuju najviše problema u praksi. Čuvanje je prva: transkripti se često čuvaju neograničeno jer nitko nije odredio razdoblje, što krši načelo ograničenja pohrane u članku 5(1)(e). Sekundarna upotreba je druga: korištenje razgovora uživo za fino podešavanje modela nova je svrha koja zahtijeva vlastitu procjenu i, obično, vlastitu obavijest. Treća su podaci posebne kategorije. Chatbot u zdravstvenom, osiguravajućem ili HR okruženju prikupljat će zdravstvene ili druge osjetljive podatke bez obzira jeste li ga tako osmislili, a članak 9 zabranjuje tu obradu osim ako se ne primjenjuje posebna iznimka.
Ako chatbot radi na platformi treće strane, ta je platforma obično obrađivač i ugovor o obradi podataka prema članku 28. je obavezan. Ispravno određivanje uloga nije formalnost; ono određuje tko mora odgovoriti na zahtjev ispitanika i tko je odgovoran za kršenje. Naši članci o razlici između uloga kontrolora i obrađivača prema GDPR-u i o korištenju umjetne inteligencije u nizozemskom poduzeću iznesli su analizu.
Procjena utjecaja na zaštitu podataka prema članku 35. potrebna je kada je vjerojatno da će obrada rezultirati visokim rizikom, a popis koji je objavio Autoriteit Persoonsgegevens jasno daje do znanja da opsežna automatizirana evaluacija pojedinaca spada u tu kategoriju. Ako vaš chatbot profilira korisnike, pretpostavite da vam je potreban. Nepoštivanje GDPR-a kažnjava se novčanim kaznama do četiri posto svjetskog godišnjeg prometa prema članku 83.(5.), a ta se gornja granica nije promijenila.
Ljudski nadzor i problem s neprozirnim modelima
Članak 14. Zakona o umjetnoj inteligenciji zahtijeva da se visokorizični sustavi dizajniraju tako da ih fizičke osobe mogu učinkovito nadzirati tijekom upotrebe. Riječ koja obavlja posao je učinkovito. Nadzor znači da osoba može razumjeti kapacitete i ograničenja sustava, ostati svjesna pristranosti automatizacije, ispravno interpretirati izlaz, odlučiti da ga neće koristiti te ga intervenirati ili zaustaviti.
Ljudski klik na odobrenje preporuke koju ne može procijeniti nije nadzor u smislu članka 14. i neće zaštititi organizaciju. Nadzornik treba ovlasti za poništavanje, kompetencije za prosuđivanje i informacije potrebne za oboje. U praksi to znači imenovanje uloge, obuku ljudi u njoj, davanje pristupa obrazloženju rezultata i bilježenje kada su intervenirali.
U GDPR-u postoji paralelna obveza koja se primjenjuje bez obzira na razinu Zakona o umjetnoj inteligenciji. Članak 22. daje ispitaniku pravo da ne bude predmet odluke temeljene isključivo na automatiziranoj obradi koja proizvodi pravne učinke ili na sličan način značajno utječe na njega. Ako chatbot odbije zahtjev, odbije uslugu ili postavi cijenu na potpuno automatiziranoj osnovi, primjenjuje se članak 22. i organizacija mora ponuditi ljudsku intervenciju, objašnjenje i način osporavanja.
Automatizirano donošenje odluka i smisleni ljudski nadzor su odvojeni testovi u okviru odvojenih instrumenata. Usvajanje Zakona o umjetnoj inteligenciji ne oslobađa vas članka 22. GDPR-a i obrnuto.
Pristranost je način kvara koji nedostatak nadzora pretvara u mana. Model obučen na povijesnim podacima reproducira povijesne obrasce, a tamo gdje ti obrasci prate zaštićenu karakteristiku, rezultirajuće odluke mogu predstavljati neizravnu diskriminaciju prema Općem pravilu o algoritamskom rukovanju (Algemene wet gelijke behandeling). Testiranje toga prije implementacije i dokumentiranje testa jedina je obrana koja funkcionira nakon događaja. Posljedicama se bavimo u našem članku o odgovornosti za algoritamsku pristranost.
Što rade nizozemski nadzornici
Nadzor nad Zakonom o umjetnoj inteligenciji u Nizozemskoj još se uvijek gradi. Vlada je predložila model u kojem postojeći sektorski regulatori održavaju nadzor nad umjetnom inteligencijom unutar vlastitih domena, Autoriteit Persoonsgegevens preuzima područja u kojima ne postoji očiti nadzornik i vodi namjensku jedinicu za umjetnu inteligenciju, a Rijksinspectie Digitale Infrastructuur ima koordinacijsku ulogu uz to. Provedbeni zakon, Uitvoeringswet AI-verordening, upućen je na javnu raspravu u travnju 2026. i još nije usvojen, tako da formalno određivanje ovlasti i kazni nije konačno.
To ne znači da nema provedbe. GDPR je u potpunosti primjenjiv, a Autoriteit Persoonsgegevens ga godinama koristi protiv implementacije umjetne inteligencije. Zabrane u članku 5. Zakona o umjetnoj inteligenciji izravno su primjenjivi zakon bez obzira na to kada stigne nizozemski provedbeni zakon.
Primjer rada: chatbotovi za savjetovanje o glasanju
Najjasniji nizozemski primjer onoga što pođe po zlu došao je od samog Autoriteit Persoonsgegevens. U svom izvješću o umjetnoj inteligenciji i algoritamskim rizicima iz veljače 2025. nadzornik je testirao generativne AI chatbotove koji su se koristili za davanje savjeta o glasanju i utvrdio da su rezultati nepouzdani i iskrivljeni: sustavi su usmjeravali korisnike prema malom broju stranaka i uglavnom ignorirali ostale, bez obzira na dane odgovore. AP je savjetovao javnosti da ne koristi takve chatbotove za izborne odluke i istaknuo da umjetna inteligencija koja se koristi za utjecaj na izbore spada u kategoriju visokog rizika Zakona o umjetnoj inteligenciji. Nalazi su navedeni u izvješću AP-a o umjetnoj inteligenciji i algoritamskim rizicima.
Lekcija generalizira izvan politike. Model opće namjene umotan u prijateljsko sučelje ne postaje neutralan zato što je njegov operater to namjeravao. Tamo gdje izlaz utječe na važnu odluku, neutralnost se mora testirati, a test dokumentirati, jer nakon implementacije teret dokazivanja da je sustav radio kako je navedeno pada na organizaciju koja ga je implementirala.
Izgradnja okvira upravljanja umjetnom inteligencijom koji će se održati
Okvir upravljanja vrijedi imati samo ako pruža dokaze. Regulatori, protustranke i sudovi postavljaju isto pitanje nakon što nešto pođe po zlu: što ste znali, kada ste to procijenili i što ste zapisali? Četiri elementa obavljaju većinu posla.
- Klasifikacija, pregledana. Zabilježite gdje se svaki AI sustav nalazi prema Zakonu o AI-u i zašto. Ponovite procjenu kad god se slučaj upotrebe promijeni, jer je bot za korisničku podršku koji počinje s provjerom kandidata preko noći promijenio razinu.
- Upravljanje podacima. Dokumentirajte podrijetlo podataka o obuci i preuzimanju podataka, licence koje stoje iza njih i kako su provjerene TDM rezervacije. Što se tiče osobnih podataka, zabilježite zakonsku osnovu, razdoblje čuvanja i ugovore o obradi.
- Dokumentacija i vođenje evidencije. Zadržite verziju modela, upit sustava, rezultate testiranja i zapisnike razgovora, s razdobljima čuvanja koja su u skladu s GDPR-om. Bez zapisnika ne možete rekonstruirati što je sustav rekao na važan dan.
- Protokoli nadzora. Imenujte odgovorne osobe, definirajte kada moraju intervenirati i dajte im ovlaštenje za zaustavljanje sustava. Zabilježite intervencije.
Ugovori pokrivaju ostalo. Sporazum s vašim dobavljačem umjetne inteligencije trebao bi se odnositi na nabavu podataka, naknadu štete za intelektualno vlasništvo, raspodjelu uloga prema Zakonu o umjetnoj inteligenciji između pružatelja usluga i implementatora, sigurnost, prava revizije i izlazak. To su uobičajene točke komercijalnog pregovaranja i puno ih je lakše osvojiti prije potpisivanja nego nakon incidenta. Naši vodiči za IT pravo pokrivaju okolni ugovorni krajolik.
Chatbotovi, autorska prava i usklađenost nisu jednokratna aktivnost. Režim visokog rizika uvodi se u fazama do 2028., Uitvoeringswet će dodati nacionalni postupak i kazne, a sudska praksa o rezultatima umjetne inteligencije tek počinje. Okvir koji se godišnje preispituje i ažurira kada se zakon promijeni jest razlika između obranjivog stava i improviziranog.
Jeste li pružatelj usluga ili implementator?
Zakon o umjetnoj inteligenciji raspoređuje gotovo sve svoje obveze po ulogama, a dvije uloge koje su važne za tvrtku koja kupuje chatbota su pružatelj usluga i implementator. Pružatelj usluga razvija AI sustav i stavlja ga na tržište ili ga stavlja u upotrebu pod svojim imenom; implementator ga koristi pod vlastitim ovlaštenjem. Kupnjom chatbota s police postajete implementator, što je daleko lakši skup dužnosti.
Zamka je u tome što implementator može postati pružatelj usluga, a da to nije ni namjerno učinio. Članak 25. uredbe propisuje da implementator preuzima obveze pružatelja usluga za visokorizični sustav ako na sustav stavi vlastito ime ili zaštitni znak, izvrši značajnu izmjenu ili promijeni namjenu na način koji sustav pretvara u visokorizični. Označavanje chatbota treće strane pod vlastitim brendom ili prenamjena općeg bota za korisničku podršku za filtriranje prijava za posao dovoljna je za promjenu.
Ta preraspodjele imaju stvarne posljedice. Pružatelj usluga snosi odgovornost za ocjenjivanje sukladnosti, tehničku dokumentaciju, sustav upravljanja kvalitetom, registraciju u bazi podataka EU i posttržišno praćenje. Ništa od toga ne može se preuzeti ugovornom klauzulom, jer su obveze javnopravne dužnosti prema nadzorniku, a ne privatne dužnosti prema drugoj ugovornoj strani. Ugovorom se može prenijeti trošak kršenja; ne može se prenijeti dužnost.
Implementatori visokorizičnih sustava imaju vlastiti popis: korištenje sustava u skladu s uputama, dodjeljivanje kompetentnog ljudskog nadzora, osiguravanje relevantnosti ulaznih podataka, praćenje rada, vođenje evidencije i informiranje radnika i njihovih predstavnika prije nego što se visokorizični sustav stavi u upotrebu na radnom mjestu. Tu posljednju točku lako je previdjeti i upravo je to vrsta propusta koju će radničko vijeće istaknuti.
Povjerljivost, poslovne tajne i profesionalne dužnosti
Rizik koji se nalazi izvan sva tri regulatorna režima i uzrokuje konkretniju štetu od bilo kojeg od njih jest unošenje povjerljivog materijala od strane osoblja u javni chatbot. Podaci o klijentima, nacrti ugovora, izvorni kod i neobjavljene financijske brojke unesene u potrošačku uslugu umjetne inteligencije izlaze iz kontrole organizacije i, ovisno o uvjetima pružanja usluge, mogu se zadržati ili koristiti za daljnju obuku.
Prema nizozemskom zakonu, to može prekršiti klauzulu o povjerljivosti u trgovačkom ugovoru, uništiti zahtjev za razumnim koracima koji štiti informacije kao poslovnu tajnu prema Zakonu o zaštiti podataka poslovnih subjekata (Wet bescherming bedrijfsgeheimen), a u reguliranim profesijama prekršiti zakonsku obvezu povjerljivosti. Također može biti riječ o kršenju osobnih podataka koje zahtijeva obavještavanje Agencije za zaštitu osobnih podataka (Autoriteit Persoonsgegevens) u roku od sedamdeset i dva sata od saznanja o tome, prema članku 33. GDPR-a.
Rješenje je dosadno i učinkovito: pisana politika korištenja umjetne inteligencije koja imenuje koji su alati odobreni, jasno navodi što se nikada ne smije unijeti u neodobreni alat i ugrađena je u radni odnos tako da kršenje ima posljedice. Kombinirajte to s poslovnim dogovorom koji ugovorno isključuje obuku o vašim uputama i izloženost uglavnom nestaje.
Što učiniti prije pokretanja
Rad na usklađivanju s propisima na chatbotu je sekvencijalan, a izvođenje pravilnim redoslijedom štedi većinu troškova. Klasificirajte sustav prema Zakonu o umjetnoj inteligenciji i zapišite klasifikaciju, s obrazloženjem. Mapirajte osobne podatke koje će obrađivati, utvrdite pravnu osnovu i razdoblje čuvanja te provedite procjenu utjecaja na zaštitu podataka ako obrada to zahtijeva. S platformom uspostavite ugovor o obradi podataka prema članku 28.
Zatim pogledajte podatke koji stoje iza modela: pitajte dobavljača za što je obučen, jesu li poštovane TDM rezervacije i koja se odšteta nudi te zabilježite odgovore. Ugradite transparentnost u samo sučelje, a ne u podnožje. Imenujte osobu odgovornu za nadzor i definirajte kada intervenira. Na kraju, testirajte sustav u slučajevima kojih se najviše bojite, sačuvajte rezultate i odredite datum za pregled cijele datoteke.
Organizacije koje to rade smatraju da je vježba ograničena. Nesigurnost u zakonu o umjetnoj inteligenciji je stvarna, ali je koncentrirana u nekoliko pitanja, uglavnom o podacima o obuci i o odgovornosti za rezultate, a ostalo je uobičajeni posao usklađivanja koji se može dovršiti i podnijeti.
Često postavljana pitanja
Sljedeća pitanja pojavljuju se u gotovo svakom prvom razgovoru o implementaciji chatbota. Ovdje se na njih odgovara na razini principa; analiza za određeni sustav uvijek ovisi o tome što radi i kome to radi.
Tko je odgovoran ako chatbot krši autorska prava?
Pitanje odgovornosti za kršenje autorskih prava od strane chatbota je nezgodno, a odgovor je da je to često zajednička odgovornost. Obično krivnja pada i na razvojnog inženjera umjetne inteligencije koji je izradio alat i na organizaciju koja ga koristi. Prema zakonima EU-a i Nizozemske, razvojni inženjeri mogu se naći u problemima zbog korištenja materijala zaštićenog autorskim pravima za obuku svojih modela bez prethodnog dobivanja odgovarajućih dozvola.
Istovremeno, tvrtka koja koristi chatbot može biti odgovorna za bilo koji sadržaj koji krši autorska prava, a koji umjetna inteligencija proizvodi i distribuira. Kako bi se izbjegao ovaj rizik, ključno je da tvrtke potiču transparentnost svojih dobavljača umjetne inteligencije u vezi s izvorima podataka za obuku. Još jedan ključni zaštitni sloj je osiguranje čvrstih klauzula o obeštećenju u ugovorima s dobavljačima.
Primjenjuje li se GDPR na podatke koje obrađuju chatbotovi?
Da, bez sumnje. Ako vaš chatbot obrađuje bilo kakve osobne podatke pojedinaca u EU - zamislite imena, adrese e-pošte ili čak podatke iz razgovora koji bi mogli identificirati nekoga - GDPR se primjenjuje u cijelosti.
To odmah dovodi do nekoliko ključnih dužnosti:
- Morate imati jasan, zakonit razlog za obradu podataka.
- Morate točno obavijestiti korisnike o tome kako se njihovi podaci koriste.
- Trebali biste prikupljati samo podatke koji su apsolutno neophodni (minimizacija podataka).
- Dužni ste poštivati korisnička prava, uključujući njihovo pravo na pregled ili brisanje svojih podataka.
Zatvaranje očiju pred ovim odgovornostima nije opcija. Nepoštivanje može rezultirati ogromnim kaznama - do 4% godišnjeg globalnog prometa vaše tvrtke - i nanijeti ozbiljnu štetu vašem ugledu.
Koji je prvi korak kako bismo osigurali da je naš chatbot usklađen s propisima?
Najvažniji prvi korak je provođenje temeljite procjene rizika na temelju okvira Zakona EU o umjetnoj inteligenciji. Morate utvrditi gdje se vaš chatbot uklapa na temelju onoga što radi i potencijalne štete koju bi mogao uzrokovati. Ovaj će ga proces svrstati u kategoriju, kao što su minimalni, ograničeni ili visoki rizik.
Na primjer, jednostavan bot za često postavljana pitanja koji samo odgovara na osnovna pitanja vjerojatno će se smatrati alatom niskog rizika s vrlo malo obveza. Međutim, chatbot koji se koristi za provjeru kandidata za posao, davanje medicinskih informacija ili pružanje financijskih savjeta gotovo sigurno bi se klasificirao kao visokorizičan. Ova klasifikacija diktira vaše specifične zakonske dužnosti u vezi s transparentnošću, upravljanjem podacima i ljudskim nadzorom, u biti vam dajući jasan plan za cijelu vašu strategiju usklađenosti.
Law & More savjetuje tvrtke u Nizozemskoj o pravnoj strani implementacije umjetne inteligencije: klasifikacija prema Zakonu o umjetnoj inteligenciji, autorska prava i izvori podataka, usklađenost s GDPR-om i ugovori o obradi podataka, dokumentacija upravljanja te pregovori o ugovorima s dobavljačima umjetne inteligencije. Ako se pripremate za pokretanje chatbota ili želite da se postojeći procijeni prema pravilima koja se već primjenjuju, rado ćemo ga s vama razmotriti. Kontaktirajte nas kako bismo razgovarali o vašoj situaciji.
