Europski zakon o umjetnoj inteligenciji uveo je velike promjene 2. veljače 2025., čime su osigurane određene Prakse umjetne inteligencije ilegalno diljem EU. Nizozemska poduzeća sada se moraju pridržavati strogih pravila o tome koje sustave umjetne inteligencije mogu koristiti.
Tvrtke koje ne uklone zabranjene alate umjetne inteligencije suočavaju se s visokim kaznama i potencijalnim pravnim postupcima protiv svih koji pretrpe štetu.
Od veljače 2025., sustavi umjetne inteligencije koji manipuliraju ljudima, koriste socijalno bodovanje, kategoriziraju pojedince na temelju biometrijskih podataka ili koriste prepoznavanje lica u stvarnom vremenu u javnim prostorima sada su zabranjeni u Nizozemskoj. Ove zabrane također obuhvaćaju tehnologiju prepoznavanja emocija na radnim mjestima i u školama, zajedno s neciljanim prikupljanjem slika lica s interneta za izgradnju baza podataka za prepoznavanje.
Pravila se primjenjuju odmah, ne dajući tvrtkama rok odgode za postupno ukidanje ovih sustava. Razumijevanje koje su prakse umjetne inteligencije zabranjene i koje korake vaša organizacija mora poduzeti ključno je kako bi se izbjegle kazne.
Ovaj vodič objašnjava specifične zabrane, ocrtava vaše dužnosti usklađivanja kao nizozemska tvrtka i pokriva zahtjeve za obuku potrebnu za održavanje legalnosti vašeg poslovanja prema novom zakonu.
Pregled zabrana iz veljače 2025.
Uredba (EU) 2024/1689, poznata kao EU AI Act, uvela je posebne zabrane određenih praksi umjetne inteligencije koje su stupile na snagu 2. veljače 2025. Ova se pravila primjenjuju na vaše nizozemsko poslovanje ako razvijate, implementirate ili koristite AI sustavunutar Nizozemske ili šire Europske unije.
Opseg zabranjenih praksi umjetne inteligencije
Zakon o umjetnoj inteligenciji zabranjuje specifične prakse umjetne inteligencije koje predstavljaju neprihvatljive rizike za temeljna prava i europske vrijednosti. Članak 5. Uredbe (EU) 2024/1689 identificira te zabranjene prakse na temelju njihove potencijalne štete, a ne same tehnologije.
Glavne zabranjene kategorije uključuju:
- Manipulativni AI sustavi koji iskorištavaju ranjivosti određenih skupina
- Sustavi društvenog bodovanja od strane javnih vlasti
- Daljinska biometrijska identifikacija u stvarnom vremenu u javno dostupnim prostorima za zakon provedba (uz ograničene iznimke)
- Biometrijski sustavi kategorizacije koji zaključuju osjetljive atribute
- Neciljano struganje slike lica s interneta ili snimke nadzornih kamera
Vaše poslovanje podliježe ovim zabranama bez obzira poslujete li kao pružatelj, implementator ili distributer umjetne inteligencije u Nizozemskoj. Nizozemska agencija za zaštitu podataka surađuje s drugim tijelima Europske unije za provedbu zakona kako bi osigurala usklađenost.
Nepoštivanje propisa nosi kazne do 7% vašeg godišnjeg prometa diljem svijeta.
Datumi stupanja na snagu i prijelazna razdoblja
Zabrane iz članka 5. stupile su na snagu 2. veljače 2025. To znači da se vaše poslovanje mora odmah pridržavati ovih pravila ako koristite ili razvijate relevantne sustave umjetne inteligencije.
Okvir za provedbu slijedi postupni vremenski okvir. Potpune kazne, strukture upravljanja i odredbe o povjerljivosti stupaju na snagu 2. kolovoza 2025.
To vašoj organizaciji daje šestomjesečni rok u kojem se pravila primjenjuju, ali se potpuni mehanizmi provedbe još uvijek uspostavljaju. Europska komisija objavila je službene smjernice 4. veljače 2025. kako bi pojasnila kako te zabrane funkcioniraju u praksi.
Tijela za nadzor tržišta, uključujući nizozemsku agenciju za zaštitu podataka, preuzela su odgovornost za praćenje i provedbu ovih pravila od datuma početka u veljači.
Ključne definicije: AI sustavi i prakse
Prema Zakonu o umjetnoj inteligenciji, AI sustav znači softver koji koristi strojno učenje, pristupe temeljene na logici ili statističke metode za generiranje rezultata poput predviđanja, preporuka ili odluka. Ova je definicija namjerno široka kako bi obuhvatila trenutne i nove tehnologije.
A zabranjena praksa umjetne inteligencije odnosi se na specifične načine primjene ili korištenja umjetne inteligencije koje je Europska unija smatrala neprihvatljivima. Zabrana se odnosi na samu praksu, a ne na temeljnu tehnologiju.
To znači da biste mogli koristiti isti AI sustav u dopuštene svrhe, a istovremeno vam je zabranjeno korištenje određenih aplikacija. Vaše poslovanje mora razlikovati AI sustav (tehnologiju) od njegove prakse (način na koji ga koristite).
Sustav umjetne inteligencije za prepoznavanje lica mogao bi biti zakonit za kontrolu pristupa zgradama, ali zabranjen za nadzor u stvarnom vremenu u javnim prostorima. Kontekst i primjena određuju zakonitost prema Uredbi (EU) 2024/1689.
Detaljan popis zabranjenih praksi umjetne inteligencije
Zakon EU o umjetnoj inteligenciji zabranjuje specifične primjene umjetne inteligencije koje predstavljaju neprihvatljive rizike za temeljna prava i sigurnost. Ove zabranjene prakse spadaju u tri glavne kategorije: sustavi koji manipuliraju ljudskim ponašanjem, oni koji iskorištavanje ranjivih skupinai mehanizme koji omogućuju masovni nadzor putem socijalnog bodovanja.
Manipulativni i obmanjujući sustavi
Zakon o umjetnoj inteligenciji zabranjuje svaki sustav umjetne inteligencije koji koristi subliminalne tehnike za materijalno iskrivljavanje ljudskog ponašanja na načine koji uzrokuju štetu. To su metode koje djeluju izvan vaše svijesti kako bi utjecale na vaše odluke ili postupke.
Zabranjene manipulativne prakse uključuju:
- AI sustavi koji koriste subliminalne komponente koje ne možete otkriti
- Sustavi osmišljeni za iskorištavanje ranjivosti djece povezanih s dobi
- Tehnologije koje manipuliraju ponašanjem kako bi uzrokovale fizičku ili psihičku štetu
Ne možete namjerno koristiti umjetnu inteligenciju obmanjivati ljude na načine koji vode do značajna štetaTo znači da vaša tvrtka ne smije koristiti chatbotove ili virtualne asistente koji zavaravaju korisnike o svojoj umjetnoj inteligenciji kada bi ta obmana mogla uzrokovati štetu.
Zabrana se odnosi na AI sustave koji koriste mračne obrasce ili psihološku manipulaciju kako bi korisnike potaknuli na štetne izbore. zakon štiti pojedince od praksi umjetne inteligencije koje zaobilaze racionalno donošenje odluka.
Ako vaš AI sustav utječe na ponašanje putem skrivenih manipulacija umjesto transparentnih informacija, krši Zakon.
Iskorištavanje ranjivih osoba
Strogo su zabranjeni sustavi umjetne inteligencije koji iskorištavaju ranjivosti povezane s dobi, invaliditetom ili društvenim ili ekonomskim okolnostima. Ne možete koristiti umjetnu inteligenciju za iskorištavanje ljudi koji nemaju sposobnost razumijevanja ili otpora manipulaciji.
Ova zabrana obuhvaća umjetnu inteligenciju koja cilja na neiskustvo djece ili kognitivni pad starijih osoba. Vaše poduzeće ne smije implementirati sustave koji iskorištavaju fizičke ili mentalne invaliditete za manipuliranje ponašanjem.
Umjetna inteligencija koja se hrani ekonomskim očajem ili socijalnom izolacijom također spada pod ovu zabranu.
Zaštićene ranjive skupine uključuju:
- Djeca i maloljetnici
- Starije osobe s kognitivnim oštećenjima
- Osobe s tjelesnim ili mentalnim invaliditetom
- Pojedinci koji se suočavaju s ekonomskim poteškoćama
Zabrana se primjenjuje kada vaš sustav umjetne inteligencije uzrokuje ili je vjerojatno da će uzrokovati značajnu štetu iskorištavanjem. Morate procijeniti mogu li vaše aplikacije umjetne inteligencije nepravedno ciljati ranjive skupine stanovništva.
Socijalno bodovanje i profiliranje ponašanja
Zakon o umjetnoj inteligenciji zabranjuje sustave umjetne inteligencije koji procjenjuju ili klasificiraju ljude na temelju njihovih društvenog ponašanja ili osobne karakteristike. Ne možete koristiti mehanizme društvenog bodovanja koji dovode do nepravednog postupanja ili štete.
Socijalno bodovanje uključuje procjenu pojedinaca na temelju njihovog ponašanja, odnosa ili predviđenog ponašanja. To stvara profile koji određuju pristup uslugama, prilikama ili pravima.
Zabranjene aktivnosti društvenog bodovanja uključuju:
- Ocjenjivanje građana na temelju društvenog ili profesionalnog ponašanja
- Izrada ocjena pouzdanosti iz osobnih podataka
- Predviđanje kriminalnog ponašanja na temelju profiliranja
- Uskraćivanje usluga na temelju procjene ponašanja
Ne možete implementirati AI sustave koji dodjeljuju bodove određujući prima li netko zdravstvenu skrb, obrazovanje, zaposlenje ili financijske usluge. Zabrana se primjenjuje bez obzira upravljate li tim sustavima kao javno tijelo ili privatno poduzeće.
Daljinski rad u stvarnom vremenu biometrijska identifikacija u javnim prostorima također spada pod stroge zabrane s ograničenim iznimkama za provedbu zakona.
Zabrane biometrijskog prepoznavanja lica i emocionalne umjetne inteligencije
Zakon EU o umjetnoj inteligenciji zabranjuje nekoliko vrsta biometrijskih sustava i sustava za prepoznavanje lica koji predstavljaju rizik za temeljna pravaOve zabrane utječu na način na koji nizozemska poduzeća mogu koristiti biometrijski podaci, baze podataka za prepoznavanje lica, alati za prepoznavanje emocija i sustavi identifikacije u stvarnom vremenu u javnim prostorima.
Biometrijska kategorizacija i korištenje podataka
Ne možete koristiti sustave umjetne inteligencije koji kategoriziraju ljude na temelju njihovih biometrijskih podataka kako biste zaključili o njihovoj rasi, političkim uvjerenjima, članstvu u sindikatu, vjerskim uvjerenjima ili seksualnoj orijentaciji. Ova zabrana primjenjuje se kada stavljate te sustave na tržište, stavljate ih u uporabu ili ih koristite u tu određenu svrhu.
Zabrana cilja na sustave koji osjetljivi zaključci o pojedincima putem biometrijske analize. Vašem poslovanju prijete kazne do 7% godišnjeg prometa diljem svijeta zbog nepoštivanja propisa.
Postoji jedna iznimka od ovog pravila. Zakonito stečene biometrijske skupove podataka, poput slika, možete označiti ili filtrirati na temelju biometrijskih podataka u kontekstu provedbe zakona.
Izvan provedbe zakona, ove prakse kategorizacije ostaju potpuno zabranjene.
Ograničenja tehnologija prepoznavanja lica
Ne možete stvarati ili proširivati baze podataka za prepoznavanje lica nenamjernim preuzimanjem slika lica s interneta ili snimaka nadzornih kamera. Ova zabrana stupila je na snagu 2. veljače 2025.
Da bi se ova zabrana primijenila, moraju biti ispunjena četiri uvjeta:
- Praksa uključuje postavljanje, servisiranje ili korištenje AI sustava
- Svrha je stvaranje ili proširenje baza podataka za prepoznavanje lica
- Metoda koristi neciljano struganje slika lica
- Izvori podataka su internet ili snimke nadzornih kamera
Ključna riječ je „neciljano“. Ne možete prikupljati slike lica na širok, neselektivni način.
To znači da ne možete postaviti kamere u supermarketima ili javnim prostorima koje automatski prikupljaju podatke iz lica kako bi izgradile baze podataka za prepoznavanje bez specifičnih kriterija ciljanja.
Prepoznavanje emocija u zapošljavanju i obrazovanju
Ne možete koristiti AI sustave za zaključivanje o emocijama ljudi na radnim mjestima i u obrazovnim ustanovama. Ova zabrana izravno utječe na odjele za ljudske resurse, škole i centre za obuku koji bi mogli razmotriti alate za otkrivanje emocija.
Zabrana se odnosi na bilo koji sustav umjetne inteligencije dizajniran za čitanje ili tumačenje emocionalnih stanja u tim specifičnim okruženjima. Nije važno koristite li analizu lica, prepoznavanje glasovnih uzoraka ili druge biometrijske pokazatelje.
Postoji jedna uska iznimka. Možete koristiti umjetnu inteligenciju za prepoznavanje emocija ako služi medicinskim ili sigurnosnim svrhama.
Na primjer, praćenje budnosti vozača iz sigurnosnih razloga ili otkrivanje uznemirenosti pacijenata u zdravstvenim ustanovama može se kvalificirati pod ovu iznimku.
Ograničenja udaljene biometrijske identifikacije
Ne možete koristiti sustave za daljinsku biometrijsku identifikaciju u stvarnom vremenu u javno dostupnim prostorima u svrhu provedbe zakona, osim u strogo definiranim okolnostima. Te iznimke uključuju potragu za žrtvama otmice ili trgovine ljudima, sprječavanje neposrednih prijetnji životu ili terorističkih napada i lociranje osumnjičenika za teška kaznena djela kažnjiva s najmanje četiri godine zatvora.
Svaka upotreba zahtijeva prethodno odobrenje od sudska vlast ili neovisno upravno tijelo. U hitnim situacijama možete započeti s korištenjem bez odobrenja, ali morate zatražiti odobrenje u roku od 24 sata.
Ako vlasti odbiju odobrenje, morate odmah prestati koristiti sustav i izbrisati sve podatke. Nizozemska može utvrditi vlastita detaljna pravila za ove iznimke unutar nacionalnog prava.
Vaše poduzeće mora obavijestiti nadležno tijelo za nadzor tržišta i nacionalno tijelo za zaštitu podataka o svakoj upotrebi. Države članice podnose godišnja izvješća o korištenju biometrijske identifikacije na daljinu u stvarnom vremenu Europskoj komisiji.
Obveze usklađenosti za nizozemska poduzeća
Nizozemska poduzeća moraju poduzeti konkretne korake kako bi postigla usklađenost s umjetnom inteligencijom identificiranjem zabranjenih sustava, njihovim uklanjanjem iz poslovanja i održavanjem odgovarajuće dokumentacije. Nizozemska DPA a Nizozemsko tijelo za digitalnu infrastrukturu provodit će ove zahtjeve uz značajne kazne za kršenje.
Identificiranje zabranjene umjetne inteligencije unutar operacija
Morate provesti temeljite procjene rizika u cijeloj organizaciji kako biste locirali AI sustave koji bi mogli kršiti nova pravila. To znači ispitivanje bilo koje tehnologije koja koristi tehnike manipulacije, iskorištava ranjivosti, implementira društveno bodovanje ili vrši biometrijske identifikacije u stvarnom vremenu u javnim prostorima.
Započnite izradom popisa svih AI sustava koji se trenutno koriste. Dokumentirajte što svaki sustav radi, kako obrađuje podatke i na koga utječe.
Obratite posebnu pozornost na sustave koji komuniciraju s kupcima, zaposlenicima ili javnošću. Vaše procjene rizika trebale bi procijeniti može li neki sustav naštetiti temeljnim pravima.
To uključuje provjeru donose li sustavi umjetne inteligencije odluke o ljudima na temelju ponašanja, osobnih karakteristika ili društvenih veza. Sustavi koji prate ili profiliraju pojedince bez transparentnosti zahtijevaju hitan pregled.
Surađujte sa svojim tehničkim timovima kako biste razumjeli kako funkcionira svaki AI sustav. Ne možete se oslanjati isključivo na opise dobavljača.
Nizozemska agencija za zaštitu podataka jasno je dala do znanja da ste odgovorni za usklađenost bez obzira jeste li izgradili sustav ili ga kupili od treće strane.
Postupno ukidanje ili uklanjanje zabranjenih sustava umjetne inteligencije
Morate odmah prestati koristiti zabranjene prakse umjetne inteligencije. Zakon ne dopušta razdoblje odgode za zabranjene sustave.
Ako vaša procjena rizika utvrdi zabranjenu praksu, morate je odmah deaktivirati. Izradite plan uklanjanja koji se odnosi na tehničke i operativne utjecaje.
Neki sustavi mogu biti ugrađeni u veće platforme ili povezani s više procesa. Morat ćete osigurati da uklanjanje zabranjenih elemenata ne poremeti bitne poslovne funkcije.
Prije gašenja sustava, odredite kako ćete rješavati zadatke koje je prethodno obavljao. To može značiti povratak na ručne procese, implementaciju drugačije tehnologije ili potpuno redizajniranje tijeka rada.
Dokumentirajte svaki korak postupka uklanjanja. Zabilježite kada ste otkrili zabranjenu praksu, koje ste radnje poduzeli i kada je sustav potpuno deaktiviran.
Regulatori će očekivati jasne dokaze da ste odmah reagirali nakon što ste utvrdili kršenje.
Vođenje evidencije i dokumentacije
Morate održavati tehničku dokumentaciju koja dokazuje usklađenost s pravilima zabrane. To uključuje zapise o vašim procjenama rizika, odlukama o sustavima umjetne inteligencije i svim promjenama koje ste napravili kako biste postigli usklađenost.
Vaša dokumentacija treba obuhvatiti:
- Inventari sustava s opisima svake AI aplikacije
- Izvješća o procjeni rizika prikaz vaše analize potencijalnih kršenja
- Zapisi o uklanjanju detaljno opisivanje kada i kako ste deaktivirali zabranjene sustave
- Procjene utjecaja na temeljna prava za sve granične slučajeve
Čuvajte ove zapise najmanje pet godina. Nizozemska DPA može ih zatražiti tijekom inspekcija ili istraga.
Nedostajuća ili nepotpuna dokumentacija može rezultirati kaznama do 7,500,000 € ili 1% godišnjeg globalnog prometa. Vaša tehnička dokumentacija mora biti dovoljno detaljna da regulatori mogu razumjeti što vaši AI sustavi rade i zašto su u skladu sa zakonom.
Generički opisi ili marketinški materijali ne ispunjavaju ovaj zahtjev. Uključite tehničke specifikacije, tokove podataka i procese donošenja odluka.
Ažurirajte svoju dokumentaciju kad god modificirate AI sustave ili implementirate nove. Potrebni su vam kontinuirani procesi kako biste osigurali da budući sustavi ne uvode zabranjene prakse.
Zahtjevi za pismenost u području umjetne inteligencije i obuka osoblja
Od 2. veljače 2025. nizozemske tvrtke koje pružaju ili implementiraju sustave umjetne inteligencije moraju osigurati da njihovo osoblje posjeduje odgovarajuću pismenost u području umjetne inteligencije. Ova se obveza primjenjuje bez obzira koristite li sustave umjetne inteligencije visokog ili niskog rizika.
Dokumentirani programi obuke moraju biti prilagođeni ulogama i tehničkom iskustvu vaših zaposlenika.
Objašnjenje obveze pismenosti u području umjetne inteligencije
Članak 4. Zakona EU o umjetnoj inteligenciji nameće zakonska obveza svim pružateljima i implementatorima umjetne inteligencije kako bi se osigurala dovoljna pismenost u području umjetne inteligencije među njihovim osobljem. Morate poduzeti mjere kako biste jamčili da osoblje i izvođači radova koji se bave sustavima umjetne inteligencije razumiju tehnologiju s kojom rade.
Obveza pismenosti u području umjetne inteligencije obuhvaća sve koji upravljaju, koriste ili donose odluke o sustavima umjetne inteligencije u vaše ime. To uključuje tehničko osoblje koje gradi ili održava sustave umjetne inteligencije, kao i netehničke zaposlenike koji koriste alate umjetne inteligencije u svom svakodnevnom radu.
Morate prilagoditi obuku o AI pismenosti ulozi svake osobe, tehničkom znanju, iskustvu, obrazovanju i specifičnom kontekstu u kojem koriste AI sustave. Softverski razvojni inženjer koji implementira AI modele zahtijeva drugačiju obuku od predstavnika korisničke službe koji koristi AI chatbotove.
Obveza od vas zahtijeva da uložite „najbolje napore“ kako biste osigurali odgovarajuću razinu pismenosti. Ne možete jednostavno ponuditi simboličnu obuku i tvrditi da se pridržavate propisa.
Razvoj učinkovitih programa obuke
Vaš program opismenjavanja u području umjetne inteligencije trebao bi se baviti specifičnim sustavima umjetne inteligencije koje vaša organizacija koristi, umjesto da pruža generičke informacije. Osoblje mora razumjeti kako funkcioniraju određeni alati umjetne inteligencije s kojima rade, njihova ograničenja i potencijalne rizike.
Sadržaj obuke trebao bi obuhvatiti:
- Osnovni koncepti umjetne inteligencije relevantni za vaše sustave
- Kako pravilno koristiti AI alate
- Potencijalne pristranosti i pogreške u AI izlazima
- Kada je ljudski nadzor neophodan
- Politike i postupci vaše organizacije za umjetnu inteligenciju
Morate uzeti u obzir početnu razinu znanja svakog zaposlenika. Tehničkom osoblju može biti potrebna napredna obuka o razvoju i testiranju modela, dok općim korisnicima treba praktično vodstvo o tumačenju rezultata umjetne inteligencije i prepoznavanju kada se rezultati čine netočnima.
Pružanje obuke može se odvijati u različitim oblicima, uključujući radionice, online tečajeve, mentorstvo na radnom mjestu ili vanjske programe. Format je manje važan od osiguravanja da osoblje doista stekne potrebna znanja i vještine.
Dokumentiranje aktivnosti pismenosti u području umjetne inteligencije
Morate voditi evidenciju o svojim aktivnostima osposobljavanja za umjetnu inteligenciju kako biste dokazali usklađenost sa Zakonom EU o umjetnoj inteligenciji. Ova dokumentacija služi kao dokaz da ste ispunili svoje zakonske obveze.
Vaši zapisi trebaju uključivati:
- Sadržaj i materijali programa obuke
- Popisi zaposlenika koji su završili obuku
- Datumi i trajanje treninga
- Rezultati procjene (ako je primjenjivo)
- Kako ste odredili odgovarajuće razine pismenosti za različite uloge
Dokumentirajte svoj proces za utvrđivanje potreba za AI pismenošću u cijeloj organizaciji. To uključuje kako ste procijenili kojem osoblju je potrebna obuka i koja im specifična znanja trebaju na temelju njihove interakcije sa sustavima umjetne inteligencije.
Vodite evidenciju o tome kako ažurirate obuku kako se vaši AI sustavi mijenjaju ili kako se novi zaposlenici pridružuju vašoj organizaciji. AI pismenost nije jednokratni zahtjev, već trajna obveza koja se mora prilagoditi vašoj promjenjivoj upotrebi AI tehnologije.
Nadzor, provedba i kazne
Zakon EU o umjetnoj inteligenciji uspostavlja višeslojnu strukturu provedbe sa značajnim novčane kazne zbog nepoštivanja propisa. Nizozemska poduzeća suočavaju se s nadzorom i nacionalnih i europskih vlasti, s kaznama koje dosežu i do 7% svjetskog godišnjeg prometa za zabranjene prakse umjetne inteligencije.
Nizozemska i nadzorna tijela EU-a
Nizozemska agencija za zaštitu podataka služi kao glavno nacionalno nadzorno tijelo za provedbu Zakona o umjetnoj inteligenciji u Nizozemskoj. Ovo tijelo surađuje s drugim imenovanim nizozemskim tijelima za nadzor tržišta kako bi pratilo usklađenost s uredbom.
Na europskoj razini, Europska komisija nadgleda provedbu Zakona o umjetnoj inteligenciji u svim državama članicama. Europski ured za umjetnu inteligenciju, osnovan unutar Komisije, koordinira aktivnosti provedbe i pruža tehničku stručnost.
Europski odbor za zaštitu podataka podržava dosljednu primjenu Zakona, posebno tamo gdje sustavi umjetne inteligencije uključuju obradu osobnih podataka. Ta tijela surađuju kako bi osigurala ujednačenu provedbu diljem Europske unije.
Ako upravljate sustavima umjetne inteligencije u više zemalja EU-a, možete se suočiti s nadzorom nadzornih tijela u svakoj jurisdikciji u kojoj su vaši sustavi implementirani ili imaju učinak.
Sankcije i građanska odgovornost
Kršenje zabranjenih praksi iz članka 5. nosi kazne do 35 milijuna eura ili 7% vašeg ukupnog godišnjeg prometa u cijelom svijetu, ovisno o tome što je veće. Ove kazne primjenjuju se od 2. veljače 2025.
Sud EU-a (SEU) ima konačnu ovlast za tumačenje odredbi Zakona o umjetnoj inteligenciji. Nacionalni sudovi mogu uputiti pitanja SEU-u kada se pojave sporovi o tome što predstavlja zabranjenu praksu.
Osim administrativnih kazni, možete se suočiti s tužbama za građansku odgovornost od strane pojedinaca ili organizacija koje su oštećene neusklađenim sustavima umjetne inteligencije. Države članice mogu utvrditi dodatne kazne prema svom nacionalnom zakonodavstvu.
Smjernice europskih i nacionalnih tijela
Europska komisija objavila je smjernice o zabranjenim Prakse umjetne inteligencije 4. veljače 2025. Ovi dokumenti objašnjavaju kako će vlasti tumačiti zabrane iz članka 5. i pružaju praktične primjere za usklađenost.
Iako ove smjernice nisu obvezujuće, one nude vrijedan uvid u prioritete provedbe. Samo Sud Europske unije može dati mjerodavna pravna tumačenja.
Nizozemska nadzorna tijela mogu izdati dodatne nacionalne smjernice prilagođene lokalnim poslovnim kontekstima. Trebali biste pratiti ažuriranja i od europskih i od nizozemskih tijela kako se razvijaju pristupi provedbi.
Smjernice su dostupne na svim jezicima EU-a kako bi se podržalo prekogranično razumijevanje.
Često postavljana pitanja
Europski zakon o umjetnoj inteligenciji donosi specifične zahtjeve i ograničenja koja utječu na nizozemska poduzeća od veljače 2025. Ovi propisi zabranjuju određene prakse umjetne inteligencije, zahtijevaju mjere usklađenosti, te utvrditi kazne za prekršaje.
Koji su novi propisi o korištenju umjetne inteligencije u nizozemskim tvrtkama od veljače 2025.?
Europski zakon o umjetnoj inteligenciji stupio je na snagu 1. kolovoza 2024., a prvi skup zabrana stupio je na snagu 2. veljače 2025. Ovi propisi primjenjuju se na sva nizozemska poduzeća koja razvijaju, implementiraju ili koriste sustave umjetne inteligencije unutar Europske unije.
Zakon zabranjuje manipulativne sustave umjetne inteligencije koji koriste subliminalne tehnike kako bi utjecali na odluke koje ljudi inače ne bi donijeli. Zabranjeni su i sustavi umjetne inteligencije koji iskorištavaju ranjivosti na temelju dobi, invaliditeta ili socioekonomskog statusa.
Sustavi društvenog bodovanja koji ocjenjuju pojedince na temelju njihovog društvenog ponašanja ili osobnih karakteristika suočavaju se s potpunom zabranom. Propisi također zabranjuju procjene rizika temeljene na umjetnoj inteligenciji koje predviđaju zločine isključivo putem profiliranja ili analize osobina ličnosti, a ne činjenica povezanih s kriminalnim aktivnostima.
Biometrijski sustavi kategorizacije koji na temelju slika lica ili otisaka prstiju utvrđuju rasu, političke stavove, članstvo u sindikatu, vjerska uvjerenja ili seksualnu orijentaciju nisu dopušteni. Daljinska biometrijska identifikacija u stvarnom vremenu u javnim prostorima zabranjena je osim u strogo definiranim situacijama sa specifičnim zakonsko ovlaštenje.
Kako nizozemske smjernice o umjetnoj inteligenciji iz veljače 2025. utječu na privatnost podataka i zaštitu potrošača?
Zakon o umjetnoj inteligenciji funkcionira uz postojeće propise o zaštiti podataka, uključujući GDPR. Nizozemska agencija za zaštitu podataka pruža smjernice o tome kako sustavi umjetne inteligencije moraju biti u skladu s pravilima o zaštiti podataka, posebno u vezi s automatiziranim donošenjem odluka.
Neciljano preuzimanje slika lica s interneta ili snimaka kamera radi stvaranja ili proširenja baza podataka za prepoznavanje lica je zabranjeno. Ovo ograničenje štiti prava pojedinaca na privatnost i sprječava neovlašteno prikupljanje biometrijskih podataka.
Sustavi umjetne inteligencije moraju poštivati temeljna prava tijekom cijelog svog životnog ciklusa. Javna tijela i subjekti koji pružaju javne usluge moraju provesti procjenu utjecaja na temeljna prava prilikom korištenja visokorizičnih sustava umjetne inteligencije.
Koje aktivnosti temeljene na umjetnoj inteligenciji nizozemskim tvrtkama više nije dopušteno provoditi zbog nedavnih zakonodavnih promjena?
Vaše poduzeće ne smije koristiti sustave za prepoznavanje emocija na radnom mjestu ili u obrazovnim ustanovama. Ti su sustavi zabranjeni bez obzira na navedene prednosti ili slučajeve upotrebe.
Ne možete primijeniti AI sustave koji manipuliraju ljudima putem subliminalnih tehnika ili iskorištavaju njihove ranjivosti. To uključuje sustave koji ciljaju pojedince na temelju njihovog invaliditeta, društvenog statusa ili dobi kako bi utjecali na njihovo ponašanje.
Biometrijski sustavi kategorizacije koji klasificiraju ljude na temelju osjetljivih karakteristika su zabranjeni. Ne možete koristiti umjetnu inteligenciju za zaključivanje o nečijoj rasi, političkim stavovima, vjerskim uvjerenjima ili seksualnoj orijentaciji iz njihovih biometrijskih podataka.
Sustavi društvenog bodovanja su u potpunosti zabranjeni. Ne možete implementirati umjetnu inteligenciju koja procjenjuje ili klasificira ljude na temelju njihovog društvenog ponašanja ili osobnih karakteristika.
Daljinska biometrijska identifikacija u stvarnom vremenu u javno dostupnim prostorima zabranjena je za komercijalnu upotrebu. Provedba zakona može koristiti takve sustave samo u usko definiranim okolnostima uz odgovarajuće zakonsko odobrenje.
Koje korake moraju poduzeti nizozemske korporacije kako bi uskladile svoje AI sustave sa standardima usklađenosti postavljenim u veljači 2025.?
Morate identificirati sve sustave umjetne inteligencije koje vaša organizacija trenutno koristi ili implementira. Ovaj popis trebao bi kategorizirati svaki sustav prema klasifikacijama rizika definiranim u Zakonu o umjetnoj inteligenciji.
Pregledajte svoje AI sustave u odnosu na popis zabranjenih praksi. Ako koristite bilo koje zabranjene sustave, morate ih odmah postupno ukinuti kako biste izbjegli regulatorne kazne.
Dokumentirajte svrhe, izvore podataka i procese donošenja odluka svojih AI sustava. Ova dokumentacija pomaže u dokazivanju usklađenosti i podržava sve potrebne procjene utjecaja.
Za visokorizične sustave umjetne inteligencije potrebne su dodatne mjere usklađenosti. Javna tijela moraju registrirati visokorizične sustave u europskoj bazi podataka do 2. kolovoza 2026. i provesti procjene utjecaja na temeljna prava.
Obučite svoje osoblje o novim zahtjevima i uspostavite interne procese za kontinuirano praćenje usklađenosti. Vaš program usklađenosti trebao bi uključivati redovite preglede sustava umjetne inteligencije kako bi se osiguralo da ostanu unutar regulatornih granica.
Postoje li neke sektorske zabrane umjetne inteligencije kojih bi nizozemske tvrtke trebale biti svjesne nakon novih propisa?
Organizacije obrazovnog sektora suočavaju se sa specifičnim ograničenjima. Ne možete koristiti sustave za prepoznavanje emocija za praćenje učenika ili procjenu njihovih emocionalnih stanja, bez obzira na namjeravanu obrazovnu korist.
Radna okruženja imaju slična ograničenja. Poslodavci ne mogu primijeniti umjetnu inteligenciju za prepoznavanje emocija kako bi pratili emocionalna stanja ili reakcije zaposlenika tijekom radnih aktivnosti.
Agencije za provođenje zakona imaju ograničene iznimke za biometrijske identifikacijske sustave. Ove iznimke zahtijevaju strogo zakonsko odobrenje i primjenjuju se samo na specifične situacije kao što su potraga za žrtvama otmice, sprječavanje neposrednih prijetnji ili praćenje osumnjičenika za teška kaznena djela.
Javna tijela koja pružaju javne usluge suočavaju se s dodatnim zahtjevima osim općih zabrana. Morate provesti procjene utjecaja na temeljna prava za sve visokorizične sustave umjetne inteligencije i registrirati te sustave u europskoj bazi podataka.
Koje su kazne za nepoštivanje nizozemskih ograničenja umjetne inteligencije uvedenih u veljači 2025.?
Regulatori mogu izreći značajne novčane kazne za nepoštivanje Zakona o umjetnoj inteligenciji. Struktura kazni slijedi višestupanjski pristup na temelju težine prekršaja.
Korištenje zabranjenih sustava umjetne inteligencije predstavlja najozbiljniju kategoriju kršenja. Vaša organizacija riskira značajne financijske kazne ako nastavite koristiti zabranjene sustave nakon roka u veljači 2025.
Točni iznosi kazni ovise o tome kvalificira li se vaša organizacija kao malo i srednje poduzeće ili veća tvrtka. Regulatorna tijela uzimaju u obzir čimbenike poput prirode prekršaja, njegovog trajanja i eventualne prouzročene štete.
Osim financijskih kazni, nepoštivanje propisa može oštetiti ugled vaše organizacije. Pojedinci oštećeni zabranjenim sustavima umjetne inteligencije mogu tražiti dodatnu pravnu zaštitu putem građanskog postupka.
Nizozemska agencija za zaštitu podataka i druga regulatorna tijela imaju ovlasti za provedbu zakona. Mogu istraživati pritužbe, provoditi revizije i zahtijevati trenutni prekid zabranjenih praksi.
