O čemu se tu uopće radi?
U travnju 2021., Europska komisija uputila je u zakonodavni postupak prijedlog Uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji.1 Taj ambiciozni zakonodavni projekt, koji je započeo 2018., poznat još pod nazivom Akt o umjetnoj inteligenciji trebao bi postaviti prvi sveobuhvatni pravni okvir u tom području u svjetskim razmjerima. Cilj novog zakonodavnog akta je osigurati da sustavi umjetne inteligencije koji se stavljaju na tržište Europske unije budu sigurni i da se njima poštuju postojeći propisi o temeljnim pravima i vrijednosti Unije.
Paket o umjetnoj inteligenciji, osim zakonodavnog prijedloga, sastoji se još od Komunikacije o poticanju europskog pristupa umjetnoj inteligenciji,2 Koordiniranog plana za umjetnu inteligenciju3 i Procjene učinka Akta o umjetnoj inteligenciji.4
Krajem prošle godine, Vijeće Europske unije donijelo je Zajedničko stajalište (tzv. opći pristup) o Aktu o umjetnoj inteligenciji.5 Sredinom lipnja ove godine, Europski parlament donio je svoje stajalište o tom aktu.6
Sada će te tri institucije pregovarati o konačnom tekstu tog zakonodavnog akta u postupku koji se naziva „trijalog”. Osim Komisije, Vijeća i Parlamenta, u tom će postupku biti uključene i države članice. S obzirom na veći broj osjetljivih pitanja koji se obrađuju u tom zakonodavnom aktu, očekuje se da će navedeni pregovori trajati neko vrijeme. Akt o umjetnoj inteligenciji postat će zakon nakon što Parlament i Vijeće postignu sporazum o tekstu, za što će im sigurno trebati još barem godinu dana. Valja istaknuti i to da u pripremi teksta sudjeluju i države članice. Tako da će za stvarnu primjenu toga akta vjerojatno biti potrebno sačekati nekoliko godina.
Kakvo nas uređenje umjetne inteligencije očekuje?
Bez obzira na nekoliko spornih točaka koje imaju Vijeće i Parlament, njihova stajališta o Aktu o umjetnoj inteligenciji pružaju dovoljnu osnovu za razumijevanje smjera i pristupa koji će se primijeniti u regulaciji umjetne inteligencije u Europskoj uniji.
Opći cilj Akta o umjetnoj inteligenciji je jednostavan, a to je promicanje prihvaćanja umjetne inteligencije među europskim potrošačima i suzbijanje rizika povezanih s određenim uporabama te tehnologije. Taj cilj nastoji se postići utvrđivanjem usklađenih pravila za razvoj, stavljanje na tržište i uporabu sustava umjetne inteligencije na području Europske unije.
Najprije valja pojasniti osnovne pojmove. Sustav umjetne inteligencije definiran je tako da označava softver koji je razvijen uz pomoć točno određene tehnike i koji može, za zadani skup ciljeva, generirati izlazne rezultate, kao što su sadržaj, predviđanja, preporuke ili odluke, koji utječu na okruženja s kojima su u interakciji, bilo u fizičkoj ili digitalnoj dimenziji.
Dobavljač označava fizičku ili pravnu osobu, tijelo javne vlasti, agenciju ili drugo tijelo koje razvija ili već ima sustav umjetne inteligencije razvijen s ciljem njegova stavljanja na tržište ili stavljanja u uporabu pod vlastitim imenom ili žigom, uz plaćanje ili besplatno. S druge strane, pojam korisnika obuhvaća svaku fizičku ili pravnu osobu, tijelo javne vlasti, agenciju ili drugo tijelo koje koristi sustav umjetne inteligencije u okviru svoje nadležnosti, osim ako se taj sustav koristi u osobnoj neprofesionalnoj djelatnosti.
Koje subjekte zahvaća Akt o umjetnoj inteligenciji? Uredbe Europske unije rijetko se primjenjuju na subjekte izvan nje. Primjer kada je to slučaj je Opća uredba o zaštiti osobnih podataka. Kada se zakonodavac Unije odluči na takvo „izvanteritorijalno područje primjene”, time pokazuje važnost tog zakonodavnog okvira u odnosu na politike, ciljeve i unutarnje tržište Europske unije.
U skladu s time, Akt o umjetnoj inteligenciji primjenjivat će se na sve dobavljače i korisnike sustava umjetne inteligencije, bez obzira na to imaju li poslovni nastan na području Europske unije ili izvan njega, kada se izlazni rezultati tog sustava upotrebljava u Uniji. Kako bi se osiguralo da europska tijela mogu nametnuti svoje nadzorne ovlasti sudionicima izvan Europske unije, Aktom o umjetnoj inteligenciji zahtijevat će se od dobavljača sustava umjetne inteligencije iz trećih zemalja da imenuje ovlaštenog predstavnika s poslovnim nastanom u Uniji.
Pri reguliranju umjetne inteligencije europski zakonodavac odlučio se za tzv. „horizontalni pristup”. U planu je donošenje samo jedne opće uredbe – Akta o umjetnoj inteligenciji – usmjerenu na tu tehnologiju u kojoj su obuhvaćeni brojni učinci i primjeri upotrebe te tehnologije. Akt o umjetnoj inteligenciji stoga nije prilagođen posebnim modelima umjetne inteligencije ili gospodarskim sektorima, kao što je primjerice financijski sektor. Posebni slučajevi bit će uređeni u kasnijoj fazi, kada se stvore svi preduvjeti za to, vrlo vjerojatno provedbenim aktima.7
Akt o umjetnoj inteligenciji slijedi pristup koji se temelji na riziku. Na rizičnije sustave umjetne inteligencije primjenjivat će se stroža pravila. U skladu s tom logikom sustavi umjetne inteligencije grupirani su u tri kategorije, svaka sa svojim različitim zahtjevima:
1) zabranjena praksa u području gdje je rizik neprihvatljiv,
2) stroga pravila u odnosu na visokorizične sustave umjetne inteligencije i
3) zahtjevi ograničenog dosega (uglavnom u pogledu transparentnosti) za sustave nižeg rizika.
Snažan naglasak na sustave umjetne inteligencije visokog rizika
Akt o umjetnoj inteligenciji sadrži popis praksi koje će biti apsolutno zabranjene. Te zabrane uključuju kognitivno bihevioralno manipuliranje osobama ili određenim ranjivim skupinama (npr. glasovno aktivirane igračke koje potiču određeno ponašanje kod djece), bodovanje i klasifikaciju ljudi na temelju ponašanja, socioekonomskog statusa ili osobnih obilježja te biometrijsku identifikaciju, kao što je prepoznavanje lica.
Najveći dio akta odnosi se na visokorizične sustave umjetne inteligencije. I ta je tema najčešće predmet rasprave u stručnim i političkim krugovima. Visokorizični sustavi umjetne inteligencije definirani su kao sustavi koji mogu predstavljati znatan rizik od štete za zdravlje, sigurnost ili temeljna prava, posebno ako takvi sustavi funkcioniraju kao digitalni sastavni dijelovi nekog proizvoda.
Kao što vidimo, takva je definicija vrlo široko postavljena. Planira se uspostava sustava za registraciju samostalnih visokorizičnih aplikacija umjetne inteligencije u javnoj bazi podataka na razini Europske unije. Dobavljači takvih sustava morat će procijeniti i ublažiti moguće rizike (za zdravlje, sigurnost, temeljna prava, okoliš, demokraciju i vladavinu prava) te registrirati svoje sustave u bazi podataka prije nego što ih stave na tržište Europske unije.
Kako bi se spriječilo prekomjerno definiranje sustava kao visokorizičnog, predviđene su iznimke od tog pravila. To je na primjer u slučaju da umjetna inteligencija proizvodi izlazne rezultate koji su „isključivo sekundarni” i kao takvi vjerojatno neće dovesti do znatnog rizika. Komisija će provedbenim aktima odrediti u kojim se slučajevima izlazne rezultate sustava umjetne inteligencije treba smatrati „isključivo sekundarnim”.
Važno je napomenuti da će Komisija biti ovlaštena izmijeniti popis sustava umjetne inteligencije koji se smatraju sustavima visokog rizika.
Aktom o umjetnoj inteligenciji uvest će se strogi zahtjevi za visokorizične sustave u pogledu kvalitete korištenih skupova podataka, tehničke dokumentacije i vođenja evidencije, transparentnosti i pružanja informacija korisnicima, ljudskog nadzora te otpornosti, točnosti i kibersigurnosti.
Ovo su zahtjevi koji dobavljači takvih sustava moraju ispuniti:
- dokazati da imaju dobar sustav upravljanja kvalitetom,
- ishoditi potvrdu o sukladnosti prije stavljanja sustava umjetne inteligencije na tržište,
- izraditi i/ili pribaviti odgovarajuću tehničku dokumentaciju,
- izraditi pouzdan sustav praćenja proizvoda nakon njegovog stavljanja na tržište,
- izvještavati nadležno nacionalno tijelo o svim ozbiljnim incidentima koji proizlaze iz upotrebe njihovih sustava umjetne inteligencije.
S obzirom na prirodu sustava umjetne inteligencije te na rizike za sigurnost i temeljna prava koji bi mogli biti povezani s njihovom uporabom, Aktom o umjetnoj inteligenciji propisat će se i posebne odgovornosti korisnika visokorizičnih sustava. Korisnici visokorizičnih sustava umjetne inteligencije bit će dužni:
- koristiti sustave u skladu s uputama za uporabu,
- osigurati nadzor nad radom sustava koji mora biti povjeren fizičkim osobama koje su osposobljene za to,
- obavještavati dobavljače ili distributere o svim rizicima ili incidentima povezanima s uporabom sustava umjetne inteligencije i, prema potrebi, suspendirati uporabu sustava,
- osigurati da se u sustav umjetne inteligencije unose samo relevantni ulazni podaci s obzirom na namjenu toga sustava, pod uvjetom da su ti podaci pod njihovom kontrolom,
- voditi evidenciju, odnosno čuvati automatski generirane dnevnike događaja sustava umjetne inteligencije, pod uvjetom da su ti dnevnici događaja pod njihovom kontrolom,
- provesti procjenu učinka na zaštitu podataka na temelju informacija koje dostavlja dobavljač sustava umjetne inteligencije i
- surađivati s nadležnim nacionalnim tijelima u pogledu svih postupaka koje ta tijela poduzmu u vezi s sustavom umjetne inteligencije.
Razlazna stajališta Vijeća i Parlamenta u pogledu uređenja sustava umjetne inteligencije opće namjene
Sustavi umjetne inteligencije mogu imati opću i posebnu namjenu. Sustavi opće namjene imaju općenito primjenjive funkcije kao što su prepoznavanje slike i govora, generiranje zvuka i videozapisa, prepoznavanje obrazaca, odgovaranje na pitanja, prevođenje i slično. Najpoznatiji takvi sustavi su sustavi GPT (engl. Generative Pre-trained Transformers),8 koji se temelje na tehnologiji Transformer.9 Pojednostavljeno rečeno, radi se o sustavima strojnog učenja koji funkcioniraju kao neuronska mreža i koji uče kontekst, a time i značenje pojedinih pojmova, praćenjem odnosa u sekvencijalnim podacima kao što su riječi u ovoj rečenici.
Sustavi GPT ključni su za razvoj umjetne inteligencije. Oni daju aplikacijama mogućnost stvaranja različitog sadržaja (tekst, slike, glazba i dr.), a te sustave koriste subjekti u različitim gospodarskim granama. Upravo zbog te svoje opće namjene i zbog činjenice da se mogu upotrebljavati u različitim kontekstima takvi se sustavi mogu integrirati u visokorizične sustave umjetne inteligencije, zbog čega moraju potpasti pod posebni nadzor.
Budući da se ti sustavi opće namjene mogu upotrebljavati u različite svrhe, Vijeće smatra da je bolje da se primjena takvih sustava uredi zasebno, izvan Akta o umjetnoj inteligenciji, a da se novi zakonodavni okvir fokusira isključivo na sustave visokog rizika. Naime, Vijeće želi staviti naglasak na dva aspekta, i to 1) na visokorizične sustave kao takve i 2) situacije u kojima su sustavi opće namjene uklopljene u visokorizične sustave. U tom pogledu, Vijeće želi osigurati transparentnost, odnosno odgovarajući protok informacija u cijelom vrijednosnom lancu sustava umjetne inteligencije.
S druge strane, Vijeće smatra da sustave umjetne inteligencije opće namjene nije potrebno detaljno urediti Aktom o umjetnoj inteligenciji. Umjesto toga, s obzirom na brzi napredak tehnologije, specifične karakteristike ovih sustava i njihovu tehničku izvedivost, smatra da je primjerenije donijeti poseban propis koji će uzeti u obzir navedene karakteristike. Kao izlazno rješenje, Vijeće je predložilo da se to pitanje uredi provedbenim aktom.
Podsjetimo, donošenje provedbenog akta znatno je pojednostavljeno u odnosu na zakonodavni postupak. Provedbeni akt ima istu snagu kao i zakonodavni akt, ali s time da ga donosi samo jedna institucija, najčešće Komisija.
Za razliku od Vijeća, koji predlaže dosta usku definiciju sustava visokog rizika, Parlament predlaže definirati te sustave znatno šire. A to je tek jedan detalj na koji se ovdje nećemo posebno osvrtati.
Ono što je možda važnije je navesti da je Parlament zauzeo jasan stav da želi da se pitanja sustava umjetne inteligencije opće namjene riješe upravo u Aktu o umjetnoj inteligenciji. S tom svrhom, Parlament je predložio uvođenje zasebnog pojma „foundation models“, koji možemo na hrvatski prevesti kao „temeljni modeli“.10
Temeljni modeli su, kao oblik generativne umjetne inteligencije, relativno novo postignuće. Radi se o sustavima u kojima se modeli umjetne inteligencije razvijaju iz algoritama projektiranih radi optimizacije općenitosti i raznovrsnosti izlaznih rezultata. „Učenje“ tih modela temelji se na širokom rasponu izvora podataka i velikim količinama podataka kako bi se izvršio širok raspon zadaća dalje u lancu, uključujući neke za koje nisu posebno razvijeni i osposobljeni.
Iako svaka vrsta mreže funkcionira drugačije, načela iza njihovog rada su slična. Temeljni modeli koriste naučene obrasce i odnose kako bi predvidjeli sljedeće stavke u nizu. Na primjer, kod generiranja slike, model analizira sliku i stvara oštriju, jasnije definiranu verziju slike. Slično, s tekstom, model predviđa sljedeću riječ u nizu teksta na temelju prethodnih riječi i njihovog konteksta. Zatim odabire sljedeću riječ pomoću tehnika distribucije vjerojatnosti. Sve su to funkcije koje već imamo u našim „pametnim“ telefonima. Temeljni modeli koriste tzv. „samonadzirano učenje“ za stvaranje oznaka iz ulaznih podataka. To znači da nitko nije te modele „uputio“ ili „trenirao“ s označenim setovima podataka.
Snaga tih modela leži u njihovoj raznovrsnosti stečenoj velikim skupom izvora podataka koji se upotrebljavaju za njihovo osposobljavanje, što ih čini iznimno fleksibilnima. To znači da se svaki temeljni model može ponovno upotrijebiti u brojnim primjenama na kraju proizvodnog lanca, bilo za sustave umjetne inteligencije posebne ili opće namjene.
Zbog toga Parlament želi ugraditi u Akt o umjetnoj inteligenciji stroge zahtjeve za temeljne modele, uključujući obvezu otkrivanja i u slučaju kada se rezultati sustava umjetne inteligencije temelje na podacima zaštićenima autorskim pravom. Valja navesti i to da je uporaba sadržaja zaštićenog autorskim pravom posebno problematična, i to će zasigurno biti predmet daljnjih rasprava.
Je li postignuta ravnoteža između mogućih posljedica umjetne inteligencije i poticanje razvoja IT industrije?
Kada je riječ o razvoju IT industrije, valja navesti da postoji veliki nesrazmjer između pristupa SAD-a i Europske unije u regulaciji te gospodarske grane. Zakonodavstvo Europske unije zahvatilo je veliki broj područja, kao što je zaštita osobnih podataka, regulacija mrežnih platformi i e-trgovine, dok slični pravni okviri ne postoje u SAD-u.
Teško je reći hoće li donošenje novog zakonodavnog okvira u području umjetne inteligencije imati negativne posljedice na razvoj te gospodarske grane. Iako je normalno očekivati da će se gospodarski subjekti protiviti pretjeranoj regulaciji, neki osnovni standardi zaštite moraju ipak postojati.
O učincima i rizicima umjetne inteligencije raspravljat će se još dugi niz godina. Prvi rezultati bit će vidljivi nakon stupanja na snagu novih pravila, što se, u svakom slučaju, ne očekuje u sljedećih godinu dana.
mr. sc. Igor Materljan, dipl.pravnik
Autor je pravnik u Europskoj komisiji, DG Estat, Luxembourg, od 2013. do 2018. pravnik lingvist na Sudu Europske unije (Luxembourg), od 2006. do 2013. sudac na Općinskom sudu u Pazinu. Komentare možete uputiti autoru elektroničkom poštom na adresu igor.materljan(at)gmail.com. U ovom članku iznosi isključivo vlastite stavove.
^ 1 Prijedlog Uredbe Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije, COM(2021) 206 final, 21. travnja 2021.
^ 2 European Commission, Communication on Fostering a European approach to Artificial Intelligence.
^ 3 European Commission, Coordinated Plan on Artificial Intelligence.
^ 4 European Commission, Impact Assessment of the Regulation on Artificial intelligence.
^ 5 Vijeće EU-a Priopćenje za medije, Akt o umjetnoj inteligenciji: Vijeće poziva na promicanje sigurne umjetne inteligencije kojom se poštuju temeljna prava, 6. prosinca 2022.
^ 6 Europski parlament, Vijesti, Akt EU-a o umjetnoj inteligenciji: prva regulacija tog područja, 14. lipnja 2023.
^ 7 Općenito o provedbenim aktima, Europska komisija, Provedbeni i delegirani akti.
^ 8 Najpoznatija aplikacija je ChatGPT. Vidjeti ChatGPT.
^ 9 A. Vaswani i dr., Attention Is All You Need, 31st Conference on Neural Information Processing Systems (NIPS 2017).
^ 10 Amandmani koje je donio Europski parlament 14. lipnja 2023. o Prijedlogu uredbe Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)).
