Politika umjetne inteligencije u tvrtkama: kako pripremiti svoju organizaciju za Zakon EU o umjetnoj inteligenciji

Umjetna inteligencija (UI) razvija se velikom brzinom i postala je dio svakodnevnog poslovnog poslovanja. Od generativnih UI alata i chatbotova do sustava koji se koriste za zapošljavanje, analizu kupaca i donošenje odluka, sve više organizacija oslanja se na UI sustave, često bez potpune jasnoće o pravnim i organizacijskim obvezama koje dolaze s njima.

Zakonom EU o umjetnoj inteligenciji to se temeljno mijenja. Od organizacija se očekuje da donose informirane odluke o korištenju umjetne inteligencije i da aktivno upravljaju povezanim rizicima. Ovaj članak objašnjava kako razviti praktičnu, izvedivu i pravno robusnu politiku umjetne inteligencije, tako da vaša organizacija bude spremna za Zakon EU o umjetnoj inteligenciji i nastavi se pridržavati postojećih pravila kao što je Opća uredba o zaštiti podataka (GDPR).

Što je politika umjetne inteligencije i zašto je potrebna?

Politika umjetne inteligencije skup je internih pravila koja definiraju kako, zašto i pod kojim uvjetima se umjetna inteligencija može koristiti unutar organizacije. Pruža smjernice zaposlenicima i pomaže upravi da održi nadzor i kontrolu kako se tehnologija razvija.

Umjetna inteligencija više nije ograničena samo na IT odjele ili velike tehnološke tvrtke. Mnoge značajke umjetne inteligencije ugrađene su u postojeći softver, kao što su CRM sustavi, HR alati i marketinške platforme. Zaposlenici također često eksperimentiraju s javnim alatima umjetne inteligencije na vlastitu inicijativu. Bez jasnih zaštitnih ograda to može dovesti do kršenja privatnosti, diskriminacije, nedostatka transparentnosti ili pogrešnog donošenja odluka.

Zakon EU o umjetnoj inteligenciji i GDPR nameću jasne odgovornosti organizacijama. To uključuje obveze vezane uz upravljanje rizicima, korištenje podataka, ljudski nadzor i transparentnost. Dobro osmišljena politika umjetne inteligencije pomaže u prenošenju tih zahtjeva u svakodnevnu praksu.

Pravni okvir: Zakon EU o umjetnoj inteligenciji, GDPR i zapošljavanje zakon

Zakon EU o umjetnoj inteligenciji slijedi pristup temeljen na riziku. Sustavi umjetne inteligencije klasificiraju se u različite kategorije, od minimalnog rizika do neprihvatljivog rizika. Za visokorizične upotrebe umjetne inteligencije, kao što su sustavi za zapošljavanje i odabir, kreditno bodovanje ili druge odluke sa značajnim učincima na pojedince, primjenjuju se strogi zahtjevi.

Ti zahtjevi obuhvaćaju, između ostalog, upravljanje rizicima i dokumentaciju, kvalitetu i podrijetlo podataka, transparentnost u pogledu načina rada sustava i njegovih ograničenja te učinkovit ljudski nadzor s mogućnošću intervencije. Određene prakse umjetne inteligencije su u potpunosti zabranjene, uključujući specifične oblike manipulativne umjetne inteligencije i društvenog bodovanja.

Osim toga, GDPR ostaje u potpunosti primjenjiv. Tamo gdje sustavi umjetne inteligencije obrađuju osobne podatke, posebno su važna temeljna načela poput minimiziranja podataka, zakonitosti, sigurnosti i ograničenja automatiziranog donošenja odluka. Mogu se primjenjivati ​​i pravila o radu i zaštiti potrošača, na primjer u aplikacijama umjetne inteligencije povezanim s ljudskim resursima ili aplikacijama umjetne inteligencije usmjerenim na kupce. Politika umjetne inteligencije povezuje te zakonske zahtjeve sa svakodnevnim poslovnim operacijama.

Svrha i opseg snažne politike umjetne inteligencije

Učinkovita politika umjetne inteligencije nije teorijski dokument; ona je praktični kompas za svakoga tko radi s umjetnom inteligencijom. Trebala bi objasniti zašto organizacija koristi umjetnu inteligenciju, što želi postići, koji rizici nastaju i kako se od zaposlenika očekuje da odgovorno koriste alate umjetne inteligencije.

Definiranje opsega ključno je. Politika bi trebala odrediti na koje se odjele odnosi, kao što su ljudski resursi, marketing, korisnička služba, financije, operacije te istraživanje i razvoj. Također bi trebala pojasniti koje vrste sustava spadaju pod politiku, uključujući kupljeni softver umjetne inteligencije, interne modele, generativne alate umjetne inteligencije, chatbotove, alate za bodovanje i sustave preporuka. Konačno, trebala bi se baviti time je li i pod kojim uvjetima dopušteno individualno eksperimentiranje s javnim alatima umjetne inteligencije.

Ključne komponente politike umjetne inteligencije

Politika umjetne inteligencije trebala bi započeti s jasnim definicijama, usklađenim sa širokim konceptom umjetne inteligencije prema Zakonu EU o umjetnoj inteligenciji, ali napisanim jezikom koji zaposlenici mogu razumjeti. Osoblje bi trebalo biti u stanju prepoznati kada koristi sustav umjetne inteligencije koji spada pod politiku. Praktični primjeri po područjima, kao što su ljudski resursi, interakcija s klijentima i interni procesi, pomažu u ostvarivanju ovoga.

Politika bi zatim trebala razlikovati dopuštenu upotrebu umjetne inteligencije, ograničenu upotrebu podložnu određenim uvjetima i zabranjenu upotrebu. Zabranjena upotreba uključuje prakse umjetne inteligencije klasificirane kao neprihvatljiv rizik prema Zakonu EU o umjetnoj inteligenciji. Za slučajeve upotrebe s ograničenim rizikom, politika može nametnuti uvjete kao što su obveze transparentnosti ili prethodno odobrenje. Dopuštena upotreba može biti povezana sa zaštitnim mjerama kao što su procjena rizika, DPIA i dodatne tehničke i organizacijske mjere.

Upravljanje je još jedan ključni element. Politika bi trebala jasno definirati tko je u konačnici odgovoran za usklađenost s umjetnom inteligencijom, tko je ovlašten za odabir ili implementaciju novih aplikacija umjetne inteligencije i tko nadgleda pridržavanje i rješavanje incidenata. Odabir dobavljača i upravljanje dobavljačima također su važni. Organizacije bi trebale procijeniti mogu li pružatelji usluga ispuniti zahtjeve Zakona EU o umjetnoj inteligenciji i osigurati da se te obveze pravilno ugovorno odražavaju.

Podaci, privatnost, sigurnost i transparentnost

Budući da umjetna inteligencija ovisi o podacima, politika bi trebala definirati koji se podaci mogu, a koji ne smiju obrađivati ​​putem sustava umjetne inteligencije. Trebala bi se baviti minimizacijom podataka, anonimizacijom ili pseudonimizacijom gdje je to primjereno, razdobljima čuvanja i odvajanjem podataka o obuci od produkcijskih podataka. Za visokorizične sustave često je potrebna kombinirana procjena koja uzima u obzir i Zakon EU o umjetnoj inteligenciji i GDPR.

Sustavi umjetne inteligencije i podaci na koje se oslanjaju moraju biti pravilno osigurani. Politika bi trebala opisati kako su organizirana prava pristupa, kako se korištenje bilježi i prati te kako se rješavaju incidenti i povrede podataka.

Zakon EU o umjetnoj inteligenciji zahtijeva transparentnost kada pojedinci komuniciraju sa sustavima umjetne inteligencije ili kada umjetna inteligencija generira sadržaj. Politika stoga može zahtijevati da se zaposlenici, kupci i druge zainteresirane strane informiraju kad god se umjetna inteligencija koristi, uključujući ključne karakteristike i ograničenja.

Ljudski nadzor, pristranost i kvaliteta odluka

Za sustave umjetne inteligencije sa značajnim utjecajem na pojedince, ljudski nadzor je ključan. Politika bi trebala odrediti kada je ljudski nadzor ili ljudsko donošenje odluka obavezan i kako se taj nadzor provodi u praksi. Također je preporučljivo periodično testirati sustave umjetne inteligencije na pristranost, stope pogrešaka i neželjene posljedice, posebno u područjima kao što su ljudski resursi i uključivanje korisnika.

Obuka i pismenost u području umjetne inteligencije

Zakon EU o umjetnoj inteligenciji zahtijeva od organizacija da promiču pismenost u području umjetne inteligencije. Politika umjetne inteligencije stoga bi trebala uključivati ​​okvir za obuku s osnovnom razinom za sve zaposlenike i naprednijom obukom za specifične uloge kao što su ljudski resursi, IT, timovi za podatke i menadžment. Redovita ažuriranja su potrebna kako bi se pratio tehnološki i pravni razvoj.

Od početnog inventara do zrele politike umjetne inteligencije

Izvediva politika umjetne inteligencije obično se razvija u fazama. Prvo, organizacija identificira koje se aplikacije umjetne inteligencije koriste, uključujući značajke umjetne inteligencije ugrađene u postojeći softver i alate koje usvajaju zaposlenici. Zatim se te aplikacije klasificiraju prema riziku. Slijedi pravna i organizacijska procjena rizika, nakon čega se izrađuje politika umjetne inteligencije i usklađuje s postojećim okvirima za privatnost, sigurnost informacija i ljudske resurse. Politika se zatim implementira u procese, ugovore i sustave. Konačno, obuka, komunikacija, praćenje i periodična ažuriranja osiguravaju da politika ostane učinkovita tijekom vremena.

Zaključak

Zakon EU o umjetnoj inteligenciji jasno daje do znanja da ad hoc ili nestrukturirano eksperimentiranje s umjetnom inteligencijom više nije održivo. Organizacije koje rano ulažu u dobro osmišljenu politiku umjetne inteligencije smanjuju pravni rizik i grade povjerenje sa zaposlenicima, kupcima i regulatorima.

Želite li znati je li vaša organizacija spremna za Zakon EU o umjetnoj inteligenciji ili vam je potrebna podrška u izradi ili provedbi politike umjetne inteligencije? Kontaktirajte nas Law & More. Rado ćemo pomoći.

Česta pitanja

Je li politika umjetne inteligencije obvezna prema Zakonu EU o umjetnoj inteligenciji?
Zakon EU o umjetnoj inteligenciji ne zahtijeva izričito od organizacija da imaju dokument pod nazivom „Politika umjetne inteligencije“. Međutim, u praksi je politika umjetne inteligencije ključna za dokazivanje usklađenosti s obvezama koje nameću Zakon o umjetnoj inteligenciji i GDPR, kao što su upravljanje rizicima, ljudski nadzor, transparentnost i pismenost u području umjetne inteligencije.

Koje su organizacije podložne Zakonu EU o umjetnoj inteligenciji?
Zakon EU o umjetnoj inteligenciji primjenjuje se na gotovo sve organizacije koje razvijaju, stavljaju na tržište ili koriste sustave umjetne inteligencije unutar Europske unije. To uključuje ne samo tehnološke tvrtke, već i poslodavce, pružatelje usluga i organizacije koje koriste umjetnu inteligenciju u ljudskim resursima, marketingu, interakciji s klijentima, financijama ili procesima donošenja odluka.

Primjenjuje li se Zakon EU o umjetnoj inteligenciji ako koristimo samo standardni softver koji je već dostupan?
Da. Čak i kada su funkcionalnosti umjetne inteligencije ugrađene u softver treće strane, organizacija koja koristi sustav ostaje odgovorna za njegovu upotrebu. Oslanjanje na dobavljača ne uklanja obveze korisnika prema Zakonu EU o umjetnoj inteligenciji i GDPR-u.

Koja je razlika između sustava umjetne inteligencije niskog, ograničenog i visokog rizika?
Zakon EU o umjetnoj inteligenciji klasificira sustave umjetne inteligencije na temelju razine rizika koju predstavljaju za temeljna prava i interese pojedinaca. Visokorizična umjetna inteligencija uključuje sustave koji se koriste za zapošljavanje i odabir, ocjenjivanje zaposlenika, procjene kreditne sposobnosti ili pristup osnovnim uslugama. Ti sustavi podliježu znatno strožim zahtjevima.

Je li potrebno unaprijed procijeniti sve primjene umjetne inteligencije?
U praksi, da. Organizacije bi trebale popisati i procijeniti aplikacije umjetne inteligencije prije implementacije te ih klasificirati prema riziku. Za visokorizičnu umjetnu inteligenciju potrebna je temeljita procjena, često u kombinaciji s procjenom utjecaja na zaštitu podataka prema GDPR-u.

Kakva je veza između politike umjetne inteligencije i GDPR-a?
Zakon EU o umjetnoj inteligenciji i GDPR se međusobno nadopunjuju. Dok se Zakon o umjetnoj inteligenciji fokusira na upravljanje, upravljanje rizicima i funkcioniranje sustava umjetne inteligencije, GDPR regulira obradu osobnih podataka. Učinkovita politika umjetne inteligencije integrira oba okvira i osigurava dosljednu usklađenost.

Je li procjena utjecaja na zaštitu podataka uvijek potrebna pri korištenju umjetne inteligencije?
Ne uvijek, ali često. Ako sustav umjetne inteligencije obrađuje osobne podatke i vjerojatno će rezultirati visokim rizikom za pojedince, DPIA je obvezna prema GDPR-u. U slučaju umjetne inteligencije visokog rizika prema Zakonu EU o umjetnoj inteligenciji, DPIA je u praksi često neizbježna.

Mogu li sustavi umjetne inteligencije donositi autonomne odluke o zaposlenicima ili kupcima?
Samo pod strogim uvjetima. GDPR ograničava potpuno automatizirano donošenje odluka, a Zakon EU o umjetnoj inteligenciji zahtijeva značajan ljudski nadzor za visokorizične sustave umjetne inteligencije. U mnogim slučajevima, čovjek mora biti u mogućnosti intervenirati, pregledati ili poništiti odluke donesene umjetnom inteligencijom.

Može li politika umjetne inteligencije ograničiti korištenje javnih alata umjetne inteligencije zaposlenicima?
Da. Jedna od ključnih svrha politike umjetne inteligencije je definirati mogu li i pod kojim uvjetima zaposlenici koristiti javne alate umjetne inteligencije. To obično uključuje pravila o unosu povjerljivih informacija, osobnih podataka ili osjetljivih poslovnih informacija.

Tko je odgovoran za usklađenost s politikom umjetne inteligencije?
Politika umjetne inteligencije trebala bi jasno odrediti odgovornost za usklađenost s umjetnom inteligencijom. Konačna odgovornost obično leži na višem menadžmentu ili upravnom odboru, s važnim ulogama za pravne poslove, usklađenost, IT i ljudske resurse. Bez jasnog upravljanja, učinkovit nadzor je malo vjerojatan.

Koji su rizici ako organizacija nema politiku umjetne inteligencije?
Nedostatak politike o umjetnoj inteligenciji povećava rizik od nepoštivanja Zakona EU o umjetnoj inteligenciji i GDPR-a. To može rezultirati značajnim kaznama, mjerama provedbe, štetom od ugleda i potencijalnom građanskom odgovornošću. Također otežava regulatorima demonstraciju odgovornog upravljanja umjetnom inteligencijom.

Koliko često treba preispitivati ​​politiku umjetne inteligencije?
Politika umjetne inteligencije ne bi se trebala tretirati kao statični dokument. Redoviti pregledi su potrebni, posebno kada se uvode novi sustavi umjetne inteligencije, mijenjaju zakoni ili regulatorne smjernice ili se događaju incidenti. Godišnji pregled često se smatra minimumom.

Je li AI pismenost obavezna za sve zaposlenike?
Zakon EU o umjetnoj inteligenciji zahtijeva od organizacija da poduzmu mjere za promicanje pismenosti u području umjetne inteligencije. To ne znači da svaki zaposlenik mora postati tehnički stručnjak, ali trebali bi razumjeti što je umjetna inteligencija, kako se koristi unutar organizacije i koji su rizici uključeni.

Kada je preporučljivo potražiti pravni savjet?
Pravni savjet je posebno preporučljiv prilikom implementacije visokorizičnih sustava umjetne inteligencije, kada postoji nesigurnost oko zakonitosti određenih primjena ili kada se pojave pitanja u vezi s provedbom, revizijama ili odgovornošću. Rani pravni pregled može spriječiti skupe korektivne mjere kasnije.