|
Službeni list |
HR Serija C |
|
C/2026/6005 |
12.11.2026 |
KOMUNIKACIJA KOMISIJE
Smjernice za provedbu obveza u pogledu transparentnosti za određene UI sustave u skladu s člankom 50. Uredbe (EU) 2024/1689 („UI akt”)
(C/2026/6005)
Sadržaj
|
1. |
KONTEKST I CILJEVI | 3 |
|
2. |
PREGLED OBVEZA U POGLEDU TRANSPARENTNOSTI I HORIZONTALNIH TEMA | 3 |
|
2.1. |
Pregled obveza u pogledu transparentnosti iz članka 50. UI akta | 3 |
|
2.2. |
Obrazloženje i ciljevi | 4 |
|
2.3. |
Odgovorni akteri na temelju članka 50. UI akta | 5 |
|
2.4. |
Isključenja iz područja primjene UI akta | 7 |
|
2.4.1. |
Subjekti koji uvode sustav isključivo u kontekstu osobne neprofesionalne djelatnosti | 7 |
|
2.4.2. |
Istraživanje i razvoj | 8 |
|
2.4.3. |
UI koji se objavljuje na temelju besplatnih licencija za softver otvorenog koda | 8 |
|
2.5. |
Povezanost sa zabranjenim praksama, zahtjevima u pogledu visokorizičnih UI sustava i pismenošću području umjetne inteligencije | 9 |
|
2.6. |
Povezanost s pravilima koja se primjenjuju na UI modele i/ili sustave opće namjene | 9 |
|
3. |
ČLANAK 50. STAVAK 1. UI AKTA: TRANSPARENTNOST ZA INTERAKTIVNE UI SUSTAVE | 9 |
|
3.1. |
Glavne sastavnice, pojmovi i odgovarajuće obveze u pogledu transparentnosti | 10 |
|
3.1.1. |
UI sustavi namijenjeni izravnoj interakciji s fizičkim osobama | 10 |
|
3.1.2. |
Obveza u pogledu obavješćivanja na temelju članka 50. stavka 1. UI akta | 12 |
|
3.2. |
Iznimke od obveze u pogledu obavješćivanja iz članka 50. stavka 1. UI akta | 14 |
|
3.2.1. |
Iznimka koja se odnosi na očitu interakciju s UI sustavom | 14 |
|
3.2.2. |
Iznimka za UI sustave koji su zakonski odobreni za upotrebu u svrhu kaznenog progona | 16 |
|
3.3. |
Međudjelovanje s drugim pravnim aktima Unije | 17 |
|
4. |
ČLANAK 50. STAVAK 2. UI AKTA: OZNAČIVANJE I PREPOZNAVANJE SADRŽAJA GENERIRANOG ILI MANIPULIRANOG UMJETNOM INTELIGENCIJOM | 18 |
|
4.1. |
Glavne sastavnice i pojmovi iz članka 50. stavka 2. UI akta | 18 |
|
4.1.1. |
UI sustavi koji generiraju sintetički sadržaj ili njime manipuliraju | 18 |
|
4.1.2. |
Obuhvaćeni modaliteti sintetičkog sadržaja | 19 |
|
4.1.3. |
Sadržaj koji nije obuhvaćen područjem primjene članka 50. stavka 2. UI akta | 20 |
|
4.2. |
Obveza u pogledu označivanja i prepoznavanja iz članka 50. stavka 2. UI akta | 21 |
|
4.2.1. |
Obveza označivanja | 21 |
|
4.2.2. |
Obveza u pogledu prepoznavanja | 22 |
|
4.2.3. |
Usklađenost sa zahtjevima za tehnička rješenja: djelotvornost, interoperabilnost, otpornost i pouzdanost | 22 |
|
4.3. |
Iznimke od obveza iz članka 50. stavka 2. UI akta | 24 |
|
4.4. |
Međudjelovanje s drugim pravnim aktima Unije | 25 |
|
5. |
ČLANAK 50. STAVAK 3. UI AKTA: SUSTAVI ZA PREPOZNAVANJE EMOCIJA I SUSTAVI ZA BIOMETRIJSKU KATEGORIZACIJU | 26 |
|
5.1. |
Glavne sastavnice, pojmovi i odgovarajuće obveze u pogledu transparentnosti iz članka 50. stavka 3. UI akta | 27 |
|
5.1.1. |
Pojam sustava za prepoznavanje emocija | 27 |
|
5.1.2. |
Pojam sustava za biometrijsku kategorizaciju | 27 |
|
5.1.3. |
Obveza u pogledu obavješćivanja na temelju članka 50. stavka 3. UI akta | 27 |
|
5.2. |
Iznimka za potrebe kaznenog progona | 28 |
|
5.3. |
Međudjelovanje s drugim pravnim aktima Unije | 28 |
|
6. |
ČLANAK 50. STAVAK 4.: OZNAČIVANJE DEEP FAKEA I ODREĐENIH TEKSTNIH PUBLIKACIJA | 28 |
|
6.1. |
Glavne sastavnice, pojmovi i odgovarajuće obveze u pogledu transparentnosti za deep fake iz članka 50. stavka 4. UI akta | 28 |
|
6.1.1. |
Pojam uvjerljivog krivotvorenog sadržaja (deep fake) | 29 |
|
6.1.2. |
Obveza otkrivanja iz članka 50. stavka 4. prvog podstavka UI akta | 31 |
|
6.1.3. |
Transparentnost umjetničkog, kreativnog, satiričnog, fiktivnog ili analognog deep fake sadržaja | 32 |
|
6.1.4. |
Iznimka za potrebe kaznenog progona | 34 |
|
6.1.5. |
Međudjelovanje s drugim pravnim aktima Unije | 34 |
|
6.2. |
Glavne sastavnice, pojmovi i odgovarajuće obveze u pogledu transparentnosti za tekst generiran ili manipuliran umjetnom inteligencijom iz članka 50. stavka 4. UI akta | 35 |
|
6.2.1. |
Tekst koji se objavljuje u svrhu informiranja javnosti o pitanjima od javnog interesa | 36 |
|
6.2.2. |
Obveza otkrivanja iz članka 50. stavka 4. drugog podstavka UI akta | 37 |
|
6.2.3. |
Iznimka od obveze u pogledu transparentnosti za tekst koji preispituje čovjek ili je pod uredničkom kontrolom i uredničkom odgovornošću | 37 |
|
6.2.4. |
Iznimka za potrebe kaznenog progona | 38 |
|
6.2.5. |
Međudjelovanje s drugim pravnim aktima Unije | 39 |
|
7. |
HORIZONTALNI ZAHTJEVI PRIMJENJIVI NA INFORMACIJE KOJE SE PRUŽAJU NA TEMELJU ČLANKA 50. STAVKA 5. UI AKTA | 39 |
|
7.1. |
Pružanje informacija na jasan i raspoznatljiv način | 39 |
|
7.2. |
Prva interakcija ili izlaganje | 40 |
|
7.3. |
Usklađenost s primjenjivim zahtjevima u pogledu pristupačnosti | 40 |
|
8. |
IZVRŠAVANJE ČLANKA 50. UI AKTA | 40 |
|
8.1. |
Učinci poštovanja kodeksa prakse koji je ocijenjen adekvatnim | 41 |
|
8.2. |
Tijela za nadzor tržišta | 42 |
|
8.3. |
Sankcije | 42 |
|
8.4. |
Početak primjene | 42 |
|
9. |
PREISPITIVANJE I AŽURIRANJE SMJERNICA | 43 |
1. KONTEKST I CILJEVI
|
(1) |
Uredba (EU) 2024/1689 Europskog parlamenta i Vijeća od 13. lipnja 2024. o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i o izmjeni određenih uredaba („UI akt”) stupila je na snagu 1. kolovoza 2024. (1). UI aktom utvrđuju se usklađena pravila za stavljanje na tržište, stavljanje u upotrebu i upotrebu umjetne inteligencije („UI”) u Uniji (2). Cilj mu je promicati inovacije i prihvaćanje pouzdane umjetne inteligencije te u isto vrijeme osigurati visoku razinu zaštite zdravlja, sigurnosti i temeljnih prava u Uniji, uključujući demokraciju i vladavinu prava. |
|
(2) |
U UI aktu primjenjuje se pristup koji se temelji na riziku i UI sustavi se razvrstavaju u četiri kategorije rizika, među kojima su UI sustavi koji predstavljaju rizike povezane s transparentnošću i koji podliježu obvezama utvrđenima u članku 50. UI akta. Te obveze u pogledu transparentnosti počinju se primjenjivati dvije godine nakon stupanja na snagu UI akta, odnosno od 2. kolovoza 2026. |
|
(3) |
Komisija objavljuje ove Smjernice u skladu s člankom 96. stavkom 1. točkom (d) UI akta kao praktične upute koje će nadležnim tijelima te dobavljačima UI sustava i subjektima koji ih uvode pomoći da na dosljedan, učinkovit, razmjeran i ujednačen način ispune obveze u pogledu transparentnosti iz članka 50. |
|
(4) |
Pri izradi ovih Smjernica u obzir su uzeti doprinosi raznih dionika prikupljeni tijekom opsežnog savjetovanja koje je organizirala Komisija, doprinosi država članica u Vijeću za umjetnu inteligenciju i povratne informacije dionika o nacrtu smjernica koji je objavljen u okviru savjetovanja. |
|
(5) |
Ove Smjernice nisu obvezujuće. Mjerodavno tumačenje UI akta u konačnici može dati samo Sud Europske unije („Sud EU-a”). |
2. PREGLED OBVEZA U POGLEDU TRANSPARENTNOSTI I HORIZONTALNIH TEMA
2.1. Pregled obveza u pogledu transparentnosti iz članka 50. UI akta
|
(6) |
Članak 50. UI akta sadržava četiri obveze u pogledu transparentnosti, od kojih se svaka odnosi na različite vrste UI sustava ili njihove izlazne rezultate.
|
|
(7) |
Svaka od te četiri obveze razmotrena je u odjeljcima od 3. do 6. ovih Smjernica. Osim toga, u članku 50. stavku 5. UI akta propisuje se da se informacije iz stavaka od 1. do 4. dotičnim fizičkim osobama pružaju na jasan i raspoznatljiv način najkasnije u trenutku prve interakcije ili prvog izlaganja i da moraju ispunjavati primjenjive zahtjeve u pogledu pristupačnosti. Ti se zahtjevi objašnjavaju u odjeljku 7. |
|
(8) |
Razne obveze u pogledu transparentnosti utvrđene u članku 50. UI akta mogu se na pojedini UI sustav (ili njegove izlazne rezultate) primjenjivati kumulativno, pri čemu za njih mogu biti odgovorni razni akteri (dobavljači ili subjekti koji uvode sustav). Na primjer, ako UI sustav u izravnoj interakciji s fizičkom osobom generira slike, dobavljač tog sustava možda će morati ispuniti zahtjeve iz članka 50. stavaka 1. i 2. UI akta. Ako taj sustav može generirati i slike koje se smatraju deep fakeom ili tekst o pitanjima od javnog interesa koji se objavljuje, subjekt koji uvodi sustav možda će morati ispuniti i zahtjeve iz članka 50. stavka 4. UI akta. |
2.2. Obrazloženje i ciljevi
|
(9) |
Kako je objašnjeno u uvodnim izjavama od 132. do 136. UI akta, svrha je obveza u pogledu transparentnosti smanjiti rizike od lažnog predstavljanja, obmanjivanja, dezinformacija, široko rasprostranjene manipulacije i prijevara te ublažiti potencijalne nepovoljne učinke na demokratske procese i društveno povjerenje koje uzrokuju sadržaj ili interakcija generirani ili manipulirani umjetnom inteligencijom. Obavješćivanje pojedinaca o tome da interakcija i sadržaj potječu od umjetne inteligencije pomoći će im u donošenju utemeljenih odluka i pridonijeti očuvanju povjerenja u informacijski ekosustav i njegova integriteta. Transparentnost nije samo zahtjev u pogledu tehničke usklađenosti nego i preduvjet za to da fizičke osobe mogu prepoznati interakcije i sadržaj posredovane umjetnom inteligencijom ili upotrebu sustava za prepoznavanje emocija ili biometrijsku kategorizaciju. Osiguravanje transparentnog i pouzdanog korištenja interaktivnih i generativnih UI sustava omogućit će i poštovanje osobne autonomije i europskih vrijednosti, ljudskog dostojanstva i drugih temeljnih prava (npr. slobode mišljenja, privatnosti, jednakosti i nediskriminacije, zaštite potrošača, intelektualnog vlasništva) uz očuvanje slobode izražavanja i vjerodostojnosti medijskog sadržaja. |
2.3. Odgovorni akteri na temelju članka 50. UI akta
|
(10) |
Prema članku 3. točki 3. UI akta dobavljači su fizičke ili pravne osobe, tijela javne vlasti, javne agencije ili druga javna tijela koja razvijaju UI sustave ili za koje su oni razvijeni i stavljaju ih na tržište Unije ili u upotrebu pod vlastitim imenom ili žigom, uz plaćanje ili besplatno. Dobavljači moraju ispunjavati relevantne obveze u pogledu transparentnosti iz članka 50. stavaka 1. i 2. UI akta koje se na njih primjenjuju, neovisno o tome imaju li poslovni nastan u Uniji ili u nekoj trećoj zemlji ili nalaze li se u Uniji ili u trećoj zemlji (3). UI akt se primjenjuje i na dobavljače koji imaju poslovni nastan ili se nalaze izvan Unije ako se izlazni rezultati njihova UI sustava koriste u Uniji (4). Međutim, slučajno, nepredvidivo ili neovlašteno korištenje niže u lancu ne bi samo po sebi trebalo dovesti do primjene obveza na takve dobavljače iz trećih zemalja interaktivnih ili generativnih UI sustava koji se ne stavljaju na tržište ili u upotrebu u Uniji, ne dovodeći u pitanje ovlasti nadležnih tijela za nadzor tržišta da njihove izlazne rezultate smatraju neusklađenima s UI aktom. |
|
(11) |
Dobavljači moraju osigurati da transparentnost bude ugrađena u dizajn i rad njihovih interaktivnih ili generativnih UI sustava te da sve relevantne obveze u pogledu transparentnosti iz članka 50. stavaka 1., 2. i 5. UI akta budu ispunjene najkasnije u trenutku stavljanja tih sustava na tržište ili u upotrebu. Sve obuhvaćene fizičke osobe koje su u interakciji s UI sustavom ili su izložene njegovim izlaznim rezultatima moraju o tome biti učinkovito i dosljedno obaviještene tijekom cijelog životnog ciklusa UI sustava koji je taj dobavljač stavio na tržište ili u upotrebu (neovisno o tome tko su subjekti koji uvode sustav ili drugi korisnici sustava).
|
|
(12) |
Subjekti koji uvode sustav fizičke su ili pravne osobe, tijela javne vlasti, javne agencije ili druga javna tijela koja upotrebljavaju UI sustave u okviru svoje nadležnosti, osim ako se sustav upotrebljava za osobnu neprofesionalnu djelatnost (5). „Nadležnost” nad UI sustavom trebalo bi tumačiti kao preuzimanje odgovornosti za odluku o uvođenju sustava i za način stvarnog korištenja sustava (uključujući njegove izlazne rezultate). Ne iziskuje nužno tehničku kontrolu nad radom UI sustava, pod uvjetom da subjekt koji uvodi sustav odlučuje o tome u koje se svrhe i na koji način UI sustav koristi (među ostalim u decentraliziranim radnim procesima i grupnim korporativnim strukturama). Subjekti koji uvode sustav uključeni u složene lance vrijednosti proizvodnje i distribucije sadržaja trebali bi poduzeti razmjerne mjere kako bi osigurali da oznake sadržaja koje su uveli u skladu s člankom 50. stavkom 4. UI akta budu prikazane na jasan i raspoznatljiv način ciljanoj i predvidljivoj publici u trenutku prvog izlaganja u skladu s člankom 50. stavkom 5. UI akta (npr. putem ugovornih uvjeta s distribucijskim partnerima, postavki korisničkog iskustva (UX) i sučelja koja se prikazuju). |
|
(13) |
Subjekti koji uvode sustav obuhvaćeni su područjem primjene obveza u pogledu transparentnosti iz članka 50. stavaka 3. i 4. UI akta ako imaju poslovni nastan ili se nalaze u Uniji ili ako imaju poslovni nastan ili se nalaze u trećoj zemlji, a izlazni rezultat UI sustava upotrebljava se u Uniji (6). U potonjem slučaju obveze u pogledu transparentnosti primjenjuju se na subjekte koji se nalaze ili imaju poslovni nastan izvan Unije ako subjekt koji uvodi sustav očekuje da će se izlazni rezultati umjetne inteligencije širiti i upotrebljavati u Uniji (tj. usmjeravanjem ili odobravanjem distribucije unutar Unije, među ostalim objavljivanjem deep fakea na globalno dostupnom internetu). Međutim, subjekti koji uvode sustav iz trećih zemalja ne podliježu obvezama u pogledu transparentnosti ako sadržaj UI sustava dopire do publike u Uniji nepredviđenim kanalima izvan njihove kontrole. |
|
(14) |
Ako je subjekt koji uvodi UI sustav pravna osoba pod čijom se nadležnošću sustav koristi (npr. oglašivačko poduzeće), pojedinačni zaposlenici koji postupaju prema uputama i pod kontrolom te pravne osobe (npr. digitalni animatori, dizajneri internetskih stranica, kreatori sadržaja, novinari) ne bi se trebali smatrati zasebnim subjektima koji uvode taj sustav. Pravna osoba i dalje ostaje subjekt koji uvodi sustav čak i ako u svoje ime te pod svojom odgovornošću i kontrolom u rad sustava uključuje treće strane (npr. izvođače, vanjske suradnike).
|
|
(15) |
Operateri (npr. dobavljači i subjekti koji uvode sustav) mogu istodobno imati više uloga povezanih s jednim UI sustavom. Na primjer, poduzeće može razviti interni generativni UI sustav i koristiti ga za stvaranje deep fakea. U tom će se slučaju smatrati i dobavljačem i subjektom koji uvodi sustav te će morati ispuniti obveze označivanja u strojno čitljivom obliku iz članka 50. stavka 2. i zahtjev za jasno i uočljivo označivanje deep fakea iz članka 50. stavka 4. UI akta. |
|
(16) |
S druge strane, drugi akteri (kao što su pružatelji usluga smještaja informacija na poslužitelju, uključujući internetske platforme ili radiotelevizijske kuće) čija je uloga ograničena na širenje ili prijenos sadržaja generiranog ili manipuliranog umjetnom inteligencijom koji su stvorile treće strane ili koji primaju ili su izloženi sadržaju generiranom ili manipuliranom umjetnom inteligencijom bez ovlasti za korištenje UI sustava u svrhu generiranja ili manipuliranja sadržajem uz pomoć umjetne inteligencije nisu subjekti koji uvode sustav u smislu UI akta. Iako ti akteri ne snose odgovornost na temelju UI akta, ipak mogu imati važnu ulogu u lancu vrijednosti i pridonijeti očuvanju povjerenja u informacijski ekosustav i njegova integriteta. Stoga ih se svakako potiče da zadrže obilježavanje i označivanje provedeno u skladu s člankom 50. UI akta te da uvedu razmjerne i tehnički izvedive mjere kako bi fizičkim osobama omogućili prepoznavanje sadržaja generiranog ili manipuliranog umjetnom inteligencijom, ne dovodeći u pitanje odgovornost dobavljača i subjekata koji uvode generativne UI sustave ni obveze ili odgovornost na temelju Uredbe (EU) 2022/2065 (Akt o digitalnim uslugama) (7) ili drugog primjenjivog prava Unije ili nacionalnog prava. |
|
(17) |
I drugi akteri koji djeluju u profesionalnom svojstvu i šire sadržaj (čak i ako nisu izravno uključeni u skladu s člankom 50. UI akta) potiču se da poduzmu razmjerne i odgovarajuće mjere kako bi fizičke osobe koje su u konačnici izložene tom sadržaju bile učinkovito obaviještene i mogle prepoznati da je umjetno stvoren ili da je njime manipulirano. Osim toga, od tih se strana može zahtijevati da označe odgovarajući deep fake sadržaj ili tekstne publikacije o pitanjima od javnog interesa u skladu s drugim primjenjivim pravnim ili deontološkim pravilima (npr. kad televizijska kuća u okviru televizijskog programa označi i prikaže deep fake koji je stvorila privatna osoba). Međutim, sama činjenica da akter označuje sadržaj ili koristi označeni sadržaj ne znači da se taj akter smatra „subjektom koji uvodi sustav” u smislu UI akta. UI akt ne proširuje niti utječe na pravnu odgovornost tih aktera na temelju primjenjivih pravnih okvira ako se oni istodobno ne smatraju dobavljačima UI sustava ili subjektima koji ih uvode. |
2.4. Isključenja iz područja primjene UI akta
|
(18) |
Člankom 2. UI akta predviđena su brojna opća isključenja iz područja primjene UI akta, koja su već pojašnjena u Smjernicama Komisije o zabranjenim praksama u području umjetne inteligencije (8). U ovom će se odjeljku stoga razmotriti samo oni aspekti koji su relevantni za obveze u pogledu transparentnosti iz članka 50. UI akta. |
2.4.1. Subjekti koji uvode sustav isključivo u kontekstu osobne neprofesionalne djelatnosti
|
(19) |
U skladu s člankom 2. stavkom 10. UI akta ta se uredba „ne primjenjuje na obveze subjekata koji uvode sustav koji su fizičke osobe koje upotrebljavaju UI sustave isključivo u osobnoj neprofesionalnoj djelatnosti” (9). Svaka djelatnost kojom fizičke osobe redovito stječu ekonomsku korist ili su na drugi način uključene u profesionalnu, poslovnu, trgovinsku, stručnu ili samostalnu djelatnost treba se smatrati „profesionalnom” djelatnošću. Odrednica „isključivo osobna” odnosi se na neprofesionalnu djelatnost, što znači da osoba mora djelovati i u osobnom i u neprofesionalnom svojstvu da bi bila obuhvaćena tom iznimkom. Svaka upotreba od strane fizičkih osoba koje djeluju u ime ili pod nadležnošću subjekta koji uvodi sustav u profesionalnom svojstvu, bit će obuhvaćena područjem primjene obveza u pogledu transparentnosti profesionalnog subjekta koji uvodi sustav utvrđenih u članku 50. stavcima 3. i 4. UI akta.
|
|
(20) |
Isključenje iz članka 2. stavka 10. UI akta primjenjuje se samo u odnosu na obveze subjekata koji uvode sustav kad se sustav upotrebljava isključivo za osobne neprofesionalne djelatnosti. Sustav kao takav i dalje je obuhvaćen područjem primjene UI akta u pogledu obveza dobavljača koji sustav stavljaju na tržište ili u upotrebu te subjekata koji uvode sustav i upotrebljavaju ga u profesionalne svrhe. Osim toga, iznimkom se ne dovodi u pitanje primjena drugog relevantnog prava Unije i nacionalnog prava.
|
2.4.2. Istraživanje i razvoj
|
(21) |
Članak 2. stavak 6. UI akta isključuje UI sustave ili UI modele, uključujući njihove izlazne rezultate, koji su posebno razvijeni i stavljeni u upotrebu isključivo u svrhu znanstvenog istraživanja i razvoja. To isključenje ne dovodi u pitanje primjenjive etičke standarde istraživanja ni zakonodavstvo EU-a o zaštiti podataka i druge propise EU-a. U kontekstu članka 50. UI akta to isključenje ne obuhvaća samo interaktivne UI sustave nego i izlazne rezultate generativnih UI sustava (uključujući deep fake) koji se koriste u znanstvenim istraživanjima. Međutim, ako se ti sustavi stavljaju u upotrebu ili se njihovi izlazni rezultati koriste u druge svrhe osim isključivo za znanstvena istraživanja i razvoj, i dalje bi trebalo poštovati relevantne obveze u pogledu transparentnosti iz članka 50. UI akta.
|
|
(22) |
Nadalje, člankom 2. stavkom 8. UI akta isključuju se aktivnosti istraživanja, testiranja ili razvoja UI sustava ili UI modela prije njihova stavljanja na tržište ili u upotrebu. To isključenje ne obuhvaća testiranje u stvarnim uvjetima (unutar ili izvan regulatornih izoliranih okruženja za umjetnu inteligenciju). Nadalje, nakon što se UI sustav stavi na tržište ili u upotrebu kao rezultat takvih aktivnosti istraživanja i testiranja, ipak bi trebao biti usklađen s relevantnim obvezama u pogledu transparentnosti iz članka 50. UI akta (10). |
2.4.3. UI koji se objavljuje na temelju besplatnih licencija za softver otvorenog koda
|
(23) |
U skladu s člankom 2. stavkom 12. UI akta UI sustavi koji se objavljuju na temelju besplatnih licencija za softver otvorenog koda nisu obuhvaćeni područjem primjene UI akta pod uvjetom da nisu obuhvaćeni zabranama iz članka 5. UI akta ili obvezama u pogledu transparentnosti iz članka 50. UI akta te da nisu klasificirani kao visokorizični (11). To znači da dobavljači i subjekti koji uvode UI sustave otvorenog koda, a koji su obuhvaćeni područjem primjene članka 50. UI akta i dalje moraju osigurati da ispunjavaju svoje obveze u pogledu transparentnosti. |
|
(24) |
S druge strane, dobavljači besplatnih UI komponenti otvorenog koda koje obuhvaćaju softver, podatke, modele, alate, usluge ili procese za prilagodbu i integraciju u UI sustav i koje same po sebi (djelomično ili u cijelosti) ne čine UI sustav ne podliježu obvezama u pogledu transparentnosti iz članka 50. UI akta. Dobavljače takvih sustava ipak se potiče da te modele, komponente i usluge dizajniraju na način opisan u točki 27., u mjeri u kojoj je to razmjerno i izvedivo. |
2.5. Povezanost sa zabranjenim praksama, zahtjevima u pogledu visokorizičnih UI sustava i pismenošću području umjetne inteligencije
|
(25) |
U uvodnoj izjavi 137. UI akta objašnjava se da se sukladnost s obvezama u pogledu transparentnosti iz članka 50. UI akta za određeni UI sustav ne može tumačiti kao da upućuje na to da je upotreba tog UI sustava ili njegovih izlaznih rezultata zakonita na temelju tog akta. Naime, UI sustavi koji podliježu obvezama iz članka 50. UI akta mogu biti obuhvaćeni člankom 5. tog akta i stoga zabranjeni (npr. upotreba sustava za prepoznavanje emocija na radnom mjestu ili u obrazovnim ustanovama) (12). Nadalje, UI sustavi obuhvaćeni područjem primjene članka 50. UI akta mogu se klasificirati i kao visokorizični (13) te podlijegati relevantnim zahtjevima i obvezama za takve sustave. Usklađenost s člankom 50. UI akta stoga ne zamjenjuje, ne ograničava niti utječe na obveze koje proizlaze iz drugih odredaba tog akta (14). S druge strane, UI sustavi mogu biti obuhvaćeni područjem primjene članka 50. UI akta, a da ne budu klasificirani kao visokorizični u skladu s člankom 6. tog akta. Zahtjevi u pogledu pismenosti iz članka 4. UI akta primjenjuju se i na dobavljače i subjekte koji uvode UI sustave obuhvaćene područjem primjene članka 50. tog akta. |
2.6. Povezanost s pravilima koja se primjenjuju na UI modele i/ili sustave opće namjene
|
(26) |
Članak 50. UI akta primjenjuje se na određene UI sustave, što uključuje UI sustave opće namjene (15), kao što su chatbotovi koji omogućuju izravnu interakciju s fizičkim osobama ili UI sustavi koji mogu generirati sintetički sadržaj ili manipulirati njime (uključujući deep fake) (16). |
|
(27) |
Članak 50. UI akta ne primjenjuje se izričito na modele UI sustava opće namjene. Međutim, ako se interaktivni ili generativni UI sustav koji je obuhvaćen područjem primjene članka 50. stavka 1. ili 2. UI akta temelji na UI modelu opće namjene istog dobavljača, mjere transparentnosti utvrđene u ovim Smjernicama mogu se provoditi i na razini modela (vidjeti i odjeljak 4.). Nadalje, iako nisu obuhvaćeni područjem primjene članka 50. UI akta, i dobavljači drugih UI modela opće namjene i drugih generativnih UI modela potiču se da na razini modela provode odgovarajuće mjere transparentnosti radi identifikacije interaktivnih UI sustava te označivanja sadržaja generiranog ili manipuliranog umjetnom inteligencijom. To je osobito korisno jer dobavljačima UI sustava niže u lancu olakšava ispunjavanje obveza iz članka 50. stavaka 1. i 2. UI akta (17) i pridonosi očuvanju povjerenja u informacijski ekosustav i njegova integriteta. Za UI modele opće namjene koji predstavljaju sistemski rizik sigurnosne mjere na razini modela za identifikaciju interakcija s umjetnom inteligencijom i označivanje sadržaja generiranog ili manipuliranog umjetnom inteligencijom prema potrebi mogu biti dio šireg skupa mjera za smanjenje rizika koje dobavljači mogu poduzeti u okviru svoje obveze smanjenja sistemskih rizika u skladu s člankom 55. stavkom 1. točkom (b) UI akta. |
3. ČLANAK 50. STAVAK 1. UI AKTA: TRANSPARENTNOST ZA INTERAKTIVNE UI SUSTAVE
|
(28) |
Članak 50. stavak 1. UI akta odnosi se na dobavljače UI sustava koji su u izravnoj interakciji s fizičkim osobama, a koji moraju dizajnirati i razvijati svoje sustave tako da se dotične fizičke osobe obavješćuje o tome da su u interakciji s UI sustavom. Kako je objašnjeno u uvodnoj izjavi 132. UI akta, svrha je te obveze obavješćivanja omogućiti tim fizičkim osobama da donose utemeljene odluke o izlaznim rezultatima sustava, izbjegnu pretjerano oslanjanje na takve sustave te u skladu s tim prilagode svoje povjerenje u sadržaj i interakcije. |
3.1. Glavne sastavnice, pojmovi i odgovarajuće obveze u pogledu transparentnosti
|
(29) |
Obveza u pogledu transparentnosti iz članka 50. stavka 1. UI akta primjenjuje se na dobavljače UI sustava ako je sustav namijenjen izravnoj interakciji s fizičkim osobama i ta interakcija nije obuhvaćena nijednom od sljedećih iznimaka: (1) ako je to očito sa stajališta razmjerno dobro informirane, pronicljive i oprezne fizičke osobe ili (2) ako je sustav zakonski odobren za otkrivanje, sprečavanje, istragu ili kazneni progon kaznenih djela, osim ako je dostupan javnosti za prijavu kaznenih djela. |
3.1.1. UI sustavi namijenjeni izravnoj interakciji s fizičkim osobama
|
(30) |
Da bi sustav bio obuhvaćen područjem primjene članka 50. stavka 1. UI akta, moraju biti ispunjena četiri uvjeta: (i) sustav mora biti UI sustav (ii) koji je namijenjen interakciji, (iii) i to izravnoj, (iv) s fizičkim osobama.
|
|
(31) |
UI agenti obuhvaćeni su člankom 50. stavkom 1. UI akta ako mogu ostvarivati interakciju s osobama koje im daju upute ili s drugim fizičkim osobama pri izvršavanju zadaća (npr. izrada rezervacija, vođenje korespondencije, pregovaranje ili sklapanje ugovora, izvršavanje kupnji itd.). UI agenti moraju biti dizajnirani i razvijeni tako da otkrivaju svoju umjetnu prirodu i osobu u čije ime djeluju, uzimajući u obzir potrebu za transparentnošću njihova podrijetla te delegiranja ovlasti i odgovornosti za posljedice njihova djelovanja. To uključuje slučajeve u kojima UI agenti mogu u složenim arhitekturama s više agenata biti u interakciji s drugim UI agentima koji su u izravnoj interakciji s fizičkim osobama pri izvršavanju zadaće. Međutim, dobavljač UI agenta možda neće uvijek moći unaprijed utvrditi pojedinačne slučajeve izravne interakcije UI agenta s drugim fizičkim osobama nakon što se UI agent uvede u raznim kontekstima. Ako prije stavljanja UI agenta na tržište ili u upotrebu dobavljač ne može pouzdano utvrditi hoće li UI agent biti u izravnoj interakciji s fizičkom osobom, trebalo bi ga dizajnirati na razini arhitekture i uputiti ga da se u svakoj situaciji u kojoj je razumno očekivati da će biti u interakciji s fizičkom osobom otkrije kao takav (među ostalim u situacijama u kojima fizička osoba zastupa pravni subjekt ili djeluje u njegovo ime). Nadalje, UI agenti trebali bi se otkriti i osobama koje im daju upute pri ključnim koracima (npr. u trenutku odobravanja, izvješćivanja, validacije itd., među ostalim kad uvedeni UI agent prima, obrađuje ili se oslanja na izlazne rezultate koje su generirali drugi UI sustavi, a ne izravno fizička osoba) te pri svakoj novoj interakciji.
|
3.1.2. Obveza u pogledu obavješćivanja na temelju članka 50. stavka 1. UI akta
|
(32) |
Člankom 50. stavkom 1. UI akta dobavljači UI sustava koji ostvaruju izravnu interakciju s fizičkim osobama obvezuju se osigurati da njihovi UI sustavi (uključujući UI agente i UI sustave opće namjene) budu dizajnirani i razvijeni tako da se dotične fizičke osobe obavješćuje o tome da su u interakciji s UI sustavom. |
|
(33) |
Mehanizam obavješćivanja trebao bi biti ugrađen u dizajn i razvoj sustava te u način na koji sustav komunicira s fizičkim osobama, a obavješćivanje bi se trebalo provoditi za vrijeme rada UI sustava i najkasnije u trenutku prve interakcije s fizičkom osobom (u skladu s člankom 50. stavkom 5. UI akta, vidjeti odjeljak 7.). Dobavljači su dužni osigurati da se, nakon stavljanja UI sustava na tržište ili u upotrebu, fizičke osobe koje su u interakciji s UI sustavom djelotvorno i dosljedno obavješćuju tijekom cijelog životnog ciklusa UI sustava kako ga je taj dobavljač stavio na tržište ili u upotrebu.2.2 |
|
(34) |
Format otkrivanja: u članku 50. stavku 1. UI akta ne navodi se nijedna konkretna tehnika otkrivanja. Dobavljači stoga mogu odabrati bilo koju odgovarajuću tehniku ako su ispunjena dva zahtjeva: (i) ispunjeni su zahtjevi iz članka 50. stavka 5. UI akta koji se odnose na pružanje jasnih i raspoznatljivih informacija najkasnije u trenutku prve interakcije (vidjeti odjeljak 7.) i (ii) u obzir se uzimaju karakteristike fizičkih osoba koje zbog svoje dobi (npr. djeca ili starije osobe) ili invaliditeta pripadaju skupinama ranjivih osoba u mjeri u kojoj je UI sustav namijenjen interakciji s fizičkim osobama koje pripadaju tim skupinama ili se razumno može očekivati da će ostvarivati interakciju s njima (npr. među ostalim kad se razumno može očekivati da će UI sustav biti u interakciji s općom javnošću) (19). Informacije se moraju pružiti i u obliku koji je pristupačan fizičkim osobama s invaliditetom, kako je navedeno u članku 50. stavku 5. i uvodnoj izjavi 132. UI akta (vidjeti odjeljak 7.). Ako sustav može ostvariti interakciju s djecom, te obavijesti moraju biti prilagođene djeci, primjerene njihovoj dobi, lako razumljive i lako dostupne svoj djeci, uključujući djecu s invaliditetom ili dodatnim potrebama za pristupačnošću. Ako su dostupne i prikladne, dobavljačima se preporučuje primjena standardiziranih praksi i oznaka za otkrivanje kako bi se osigurala djelotvornost i dosljednost obavješćivanja te bolja informiranost korisnika. |
|
(35) |
Sadržaj obavijesti: u skladu s člankom 50. stavkom 1. UI akta dobavljači interaktivnih UI sustava dužni su ih dizajnirati i razviti na takav način da se sve fizičke osobe koje su u interakciji s takvim UI sustavima izričito obavješćuju o umjetnoj, neljudskoj prirodi sugovornika s kojim su u interakciji. Ako dobavljač u razumnoj mjeri može predvidjeti da će UI sustav biti u interakciji s fizičkim osobama koje pripadaju prethodno navedenim ranjivim skupinama, informacije bi trebalo na odgovarajući način prilagoditi i pružiti u pristupačnom obliku, kako je propisano primjenjivim pravom Unije, kako bi se osiguralo da ih te fizičke osobe potpuno razumiju (20). |
|
(36) |
Obavijesti bi trebale sadržavati informacije o umjetnom podrijetlu interakcije na način primjeren kontekstu u kojem se interakcija odvija. Pritom bi trebalo osigurati da se dotične osobe na odgovarajući način i djelotvorno obavješćuju, pri čemu treba izbjeći sve rizike od obmanjivanja ili manipulacije prije i za vrijeme interakcije te u isto vrijeme osigurati izvedivo i razmjerno otkrivanje. Primjeri pružanja informacija uključuju pisane obavijesti (npr. chatbot koji na početku razgovora navodi da se temelji na tehnologiji umjetne inteligencije), vizualna sredstva (npr. e-poruka koju je generirao UI agent poslana fizičkoj osobi koja na vrhu sadržava oznaku umjetne inteligencije), zvučna sredstva (npr. glasovni asistent koji na početku sesije kaže da ga pokreće umjetna inteligencija), navođenje UI identifikatora i vjerodajnica (npr. UI agenti koji navode svoj UI identitet u mjeri u kojoj je to izvedivo na provjerljiv način) (21). |
|
(37) |
Oblik obavijesti: preporučuje se dizajniranje UI sustava s multimodalnim i pristupačnim pristupima otkrivanju, koje se u praksi pokazalo najboljim. U takvim se obavijestima mogu, prema potrebi i ovisno o kontekstu, ciljanim i predvidljivim skupinama publike te raspoloživim resursima dobavljača, osobito malih i srednjih poduzeća (MSP-ova), kombinirati razne tehnike kako bi se korisnicima olakšalo razumijevanje. Primjeri odgovarajućih tehnika mogu uključivati:
|
|
(38) |
Određene tehnike nisu potrebne i, ako se primjenjuju samostalno, nisu dovoljne za djelotvorno ispunjavanje obveze u pogledu transparentnosti iz članka 50. stavaka 1. i 5. UI akta, prije svega:
|
|
(39) |
Otkrivanje bi trebalo biti razmjerno i prilagođeno raznim kontekstima i ciljanim skupinama UI sustava kako bi ostalo učinkovito i jednostavno za korisnike te kako bi se u najvećoj mogućoj mjeri izbjegli prekidi korisničkog iskustva ili učinci privikavanja (tzv. sljepoća na obavijesti). |
|
(40) |
U većini slučajeva za ispunjavanje obveze iz članka 50. stavka 1. UI akta vjerojatno će biti dovoljna jedna istaknuta obavijest prije prve interakcije UI sustava s određenom fizičkom osobom. Međutim, u određenim rizičnijim kontekstima vjerojatno će biti potrebni periodični podsjetnici i otkrivanje u skladu s kontekstom kako bi se osigurala kontinuirana informiranost korisnika. To posebno vrijedi u kontekstu UI sustava koji su u interakciji s ranjivim osobama (npr. djecom, starijim osobama, osobama s invaliditetom i osobama s nižom razinom pismenosti), u okviru trajnih i promjenjivih interakcija u osjetljivim ili imerzivnim kontekstima (npr. kad korisnici mogu izraziti ili doživjeti emocionalnu uznemirenost ili ranjivost ili biti izloženi riziku od ovisničkog ponašanja), ako postoji povećan rizik od obmanjivanja korisnika (npr. u vezi s financijskim savjetovanjem, osiguranjem, pravnom pomoći, zdravstvenim savjetima i rješavanjem pritužbi) ili od razvoja emocionalne privrženosti ili ovisnosti (npr. u slučaju UI sustava namijenjenih emocionalnoj potpori) te ako je potrebno osigurati kontrolu i informiranje o djelovanju UI agenata. Osim toga, dobavljači moraju dizajnirati i razviti UI sustav na način da se osigura otkrivanje u svim situacijama u kojima se UI sustavu postavljaju pitanja koja se odnose na njegovu prirodu ili podrijetlo interakcije ili u kojima se na temelju komunikacije s fizičkom osobom može razumno pretpostaviti da bi ta osoba mogla biti dovedena u zabludu ili zbunjena u vezi s UI podrijetlom interakcije. |
3.2. Iznimke od obveze u pogledu obavješćivanja iz članka 50. stavka 1. UI akta
|
(41) |
Člankom 50. stavkom 1. UI akta predviđene su dvije iznimke od obveze u pogledu informiranja o interaktivnim UI sustavima, koje se razmatraju u nastavku. |
3.2.1. Iznimka koja se odnosi na očitu interakciju s UI sustavom
|
(42) |
Kako bi se mogli pozvati na prvu iznimku, dobavljači će morati procijeniti i dokazati: (i) očitu umjetnu prirodu interakcije (ii) fizičkoj osobi koja mora biti razmjerno dobro informirana, pronicljiva i oprezna, uzimajući u obzir okolnosti i kontekst upotrebe. |
|
(43) |
Taj se standard temelji na postojećim odredbama prava EU-a o zaštiti potrošača koje se odnose na pojam „prosječnog potrošača” i trebalo bi ga tumačiti dosljedno, pri čemu u obzir treba uzeti posebne i raznolike kontekste i primjene UI sustava koji su u izravnoj interakciji s fizičkim osobama te ciljeve članka 50. stavka 1. UI akta. |
|
(44) |
Pojam takve „prosječne” fizičke osobe određuje se u dva koraka. Prvo, dobavljači bi trebali uzeti u obzir publiku kojoj je UI sustav namijenjen i za koju se razumno može očekivati da će s njim biti u interakciji. Drugo, dobavljač bi trebao ispitati koliko je prosječni član te publike razmjerno dobro informiran, pronicljiv i oprezan s obzirom na okolnosti i kontekst upotrebe. Pri provedbi te procjene u obzir bi trebalo uzeti nekoliko čimbenika:
|
|
(45) |
Očitost: Nakon što utvrde hipotetsku fizičku osobu koja je razmjerno dobro informirana, pronicljiva i oprezna, dobavljači bi trebali ocijeniti hoće li takvoj osobi biti očito da je u izravnoj interakciji s UI sustavom. Iznimku bi trebalo tumačiti usko jer se njome fizičke osobe lišavaju zaštite i prava na to da im se pruže jasne i raspoznatljive informacije o tome da su u interakciji s UI sustavima. Opća informiranost potrošača i drugih fizičkih osoba o postojanju UI sustava (uključujući chatbotove i agente) ne znači da će ih prepoznati u interakcijama. U okviru procjene očitosti interakcije mogu biti relevantni i mogu se uzeti u obzir sljedeći čimbenici:
|
3.2.2. Iznimka za UI sustave koji su zakonski odobreni za upotrebu u svrhu kaznenog progona
|
(46) |
Dobavljači interaktivnih UI sustava izuzeti su od obveze u pogledu transparentnosti iz članka 50. stavka 1. UI akta ako su ti sustavi zakonski odobreni za otkrivanje, sprečavanje, istragu ili kazneni progon kaznenih djela, podložno odgovarajućim zaštitnim mjerama za prava i slobode trećih strana. |
|
(47) |
Izraz „zakonski odobren” treba tumačiti tako da obuhvaća pravo Unije, kao i nacionalno pravo država članica doneseno u skladu s pravom Unije. U zakonu kojim se odobrava upotreba UI sustava moraju se jasno navesti svrhe i okolnosti dopuštene upotrebe te predvidjeti odgovarajuće zaštitne mjere za prava i slobode trećih strana. S obzirom na tehnološki neutralan pristup UI akta nije potrebno zakonski utvrditi ili odobriti određene UI sustave ako je upotreba UI sustava općenito predviđena u okviru zakonski odobrene aktivnosti i u skladu je s primjenjivim pravnim okvirom. |
|
(48) |
Da bi UI sustav bio obuhvaćen ovom iznimkom, mora biti namijenjen otkrivanju, sprečavanju, istrazi ili kaznenom progonu kaznenih djela (npr. UI tajni agent, UI sustavi koji se upotrebljavaju pod ljudskom kontrolom namijenjeni istražiteljima za internetske istrage ili komunikaciju s osobama koje bi mogle biti uključene u kriminalne aktivnosti). Iznimka nije ograničena na upotrebu takvih UI sustava samo na razini tijela kaznenog progona kako su definirana u članku 3. točki 48. UI akta, već može obuhvaćati i interaktivne (ili generativne) UI sustave koje upotrebljavaju druga javna tijela Unije ili država članica, pod uvjetom da je njihova upotreba zakonski odobrena za otkrivanje, sprečavanje, istragu ili kazneni progon kaznenih djela i podložno odgovarajućim zaštitnim mjerama za prava i slobode trećih strana. Za primjenu izuzeća nije potrebno da UI sustav može neovisno provoditi istrage. Ako se određeni sustav može upotrebljavati i u svrhu kaznenog progona i u druge redovite svrhe, primjenjivost izuzeća trebalo bi procijeniti s obzirom na konkretan način upotrebe. Obveze u pogledu transparentnosti i dalje se primjenjuju ako se isti UI sustav upotrebljava u druge svrhe osim zakonski odobrenog otkrivanja, sprečavanja, istrage ili kaznenog progona kaznenih djela. Fizičkim osobama i dalje se mora osigurati transparentnost kad su u interakciji sa sustavom u kontekstu njegovih redovitih svrha. |
|
(49) |
Iznimka se ne primjenjuje (i) ako je UI sustav dostupan javnosti i (ii) ako sustav fizičkim osobama omogućuje prijavljivanje kaznenih djela. Takvi se sustavi mogu koristiti, ali i dalje podliježu obvezi u pogledu transparentnosti iz članka 50. stavka 1. UI akta, što znači da fizičke osobe moraju biti obaviještene o tome da su u interakciji s takvim sustavima.
Radi veće jasnoće ta se iznimka odnosi samo na obvezu iz članka 50. stavka 1. da se fizičke osobe obavijesti o tome da su u interakciji s UI sustavom (22). Njome se ne dovodi u pitanje primjenjivo pravo Unije i nacionalno pravo, uključujući postupovna pravila koja se odnose na dokumentiranje, otkrivanje, dopuštenost i ocjenu dokaza.
|
3.3. Međudjelovanje s drugim pravnim aktima Unije
|
(50) |
Obveza u pogledu transparentnosti iz članka 50. stavka 1. UI akta primjenjuje se ne dovodeći u pitanje postojeće zakonodavstvo Unije o zaštiti potrošača, zaštiti podataka, digitalnom području ili nediskriminaciji kojim može biti propisano otkrivanje drugih informacija koje nisu specifične za UI podrijetlo interakcije. Konkretno, u skladu s Direktivom 2005/29/EZ (Direktiva o nepoštenoj poslovnoj praksi) (23) zabranjuju se zavaravajuće radnje ili izostavljanja u pogledu glavnih obilježja proizvoda ili usluge. Nadalje, u skladu s Direktivom 2011/83/EZ („Direktiva o pravima potrošača”) (24) trgovci su dužni pružiti jasne i razumljive predugovorne informacije o glavnim karakteristikama robe ili usluga. Ako se usluga temelji na umjetnoj inteligenciji (npr. chatbot koji se temelji na pretplati, aplikacija UI sustava namijenjenog emocionalnoj potpori ili usluga virtualnog osposobljavanja), UI funkcija može se smatrati bitnom karakteristikom koja se mora otkriti prije nego što se potrošač obveže ugovorom. Obveze u pogledu obavješćivanja na temelju prava Unije o zaštiti potrošača primjenjuju se neovisno o tome smatra li se interakcija „očitom” na temelju članka 50. stavka 1. UI akta. Te su obveze komplementarne i kao opće obveze u pogledu obavješćivanja u području zaštite potrošača, a obveza obavješćivanja na temelju UI akta specifična je za kontekst i cilj joj je osigurati stalnu informiranost svih fizičkih osoba o tome da su u izravnoj interakciji s UI sustavom barem prije početka i za vrijeme cijele interakcije. |
|
(51) |
Akt o digitalnim uslugama uključuje i zahtjeve povezane s transparentnošću sustava za preporučivanje internetskih platformi, uključujući zahtjev koji se odnosi na objašnjavanje glavnih parametara rangiranja. Te obveze dopunjuju obveze u pogledu transparentnosti utvrđene u članku 50. stavku 1. UI akta jer imaju drukčije područje primjene i svrhu te se odnose na sustave koji u načelu nisu u izravnoj interakciji s korisnicima u smislu članka 50. stavka 1. UI akta. |
|
(52) |
Kad je riječ o obvezama obavješćivanja ispitanika na temelju prava Unije o zaštiti podataka, obveza iz članka 50. stavka 1. UI akta ima drukčiji cilj od tih obveza te stoga na njih ne utječe. |
|
(53) |
Slično tome, obveza u pogledu transparentnosti iz članka 50. stavka 1. UI akta primjenjuje se ne dovodeći u pitanje pravo Unije i nacionalno pravo o pružanju informacija osobama u kontekstu kaznenog postupka (npr. Direktiva 2012/13/EU ili Direktiva 2012/29/EU, kako je izmijenjena Direktivom (EU) 2026/1472) (25). |
4. ČLANAK 50. STAVAK 2. UI AKTA: OZNAČIVANJE I PREPOZNAVANJE SADRŽAJA GENERIRANOG ILI MANIPULIRANOG UMJETNOM INTELIGENCIJOM
|
(54) |
U skladu s člankom 50. stavkom 2. UI akta dobavljači UI sustava koji generiraju sintetički sadržaj dužni su uvesti tehnička rješenja koja ispunjavaju određene kriterije kvalitete za označivanje izlaznih rezultata njihovih UI sustava u strojno čitljivom obliku i njihovo prepoznavanje. Cilj je omogućiti fizičkim osobama da razlikuju sadržaj generiran ili manipuliran umjetnom inteligencijom od drugog sadržaja (npr. sadržaja koji su stvorili ljudi) i da provjere njegovo podrijetlo te tako doprinijeti i većem integritetu informacijskog ekosustava i povjerenju u njega. |
|
(55) |
Koristi od te obveze u pogledu transparentnosti stoga imaju sve fizičke osobe koje će vjerojatno biti izložene sadržaju generiranom ili manipuliranom umjetnom inteligencijom, kao i ključni akteri koji imaju važnu ulogu u osiguravanju povjerenja u informacijski ekosustav i njegova integriteta, kao što su nadležna tijela za nadzor tržišta i druga nadležna tijela, neovisni istraživači, organizacije civilnog društva, mediji, pouzdani prijavitelji, borci za temeljna prava, pružatelji internetskih platformi i internetskih tražilica, nositelji prava te drugi kreatori i distributeri sadržaja itd. |
4.1. Glavne sastavnice i pojmovi iz članka 50. stavka 2. UI akta
|
(56) |
Članak 50. stavak 2. UI akta primjenjuje se ako je ispunjeno nekoliko kumulativnih uvjeta:
|
4.1.1. UI sustavi koji generiraju sintetički sadržaj ili njime manipuliraju
|
(57) |
Članak 50. stavak 2. UI akta primjenjuje se na UI sustave (26), uključujući UI sustave opće namjene, koji generiraju sintetički audiosadržaj, slikovni sadržaj, videosadržaj ili tekstovni sadržaj. Članak 50. stavak 2. UI akta obuhvaća podskup sustava koji odgovaraju definiciji UI sustava iz članka 3. točke 1. UI akta i koji generiraju takve izlazne rezultate. Članak 50. stavak 2. UI akta obuhvaća i UI sustave koji se upotrebljavaju za manipuliranje sadržajem. |
|
(58) |
Generiranje sadržaja odnosi se na generiranje sintetičkog materijala putem UI sustava (npr. na temelju ljudskog upita), kao što je generiranje sintetičke slike ili pjesme. To u praksi znači da se članak 50. stavak 2. UI akta može primjenjivati na generativne UI sustave dizajnirane s usko određenom namjenom proizvodnje određenih izlaznih rezultata. Nadalje, članak 50. stavak 2. UI akta primjenjuje se i na UI sustave koji mogu imati više svrha, uključujući UI sustave opće namjene, i mogu proizvoditi razne vrste sadržaja, kao i na agentske UI sustave, pod uvjetom da generiraju sintetički audiosadržaj, slikovni sadržaj, videosadržaj ili tekstovni sadržaj. |
|
(59) |
S druge strane, manipulacija sadržajem odnosi se na već postojeći sadržaj (neovisno o tome je li sintetički) koji UI sustav mijenja (npr. postojeća slika ili glasovni zapis kojim UI sustav manipulira u skladu s uputama koje daje čovjek). Da bi sadržaj bio obuhvaćen člankom 50. stavkom 2. UI akta, dovoljno je da je generiran ili manipuliran umjetnom inteligencijom izvan okvira standardnog uređivanja u skladu s iznimkama utvrđenima u članku 50. stavku 2. UI akta (vidjeti odjeljak 4.3.). Osim toga, prema članku 50. stavku 2. UI akta sadržaj ne mora biti isključivo generiran ili manipuliran umjetnom inteligencijom. Sadržaj koji je pomiješan s materijalom koji je stvorio čovjek također se smatra sintetičkim sadržajem ako je njime manipulirano ili ako je generiran u jednom od modaliteta iz članka 50. stavka 2. UI akta. |
4.1.2. Obuhvaćeni modaliteti sintetičkog sadržaja
|
(60) |
U članku 50. stavku 2. UI akta naveden je taksativan popis modaliteta sintetičkog sadržaja obuhvaćenih obvezom u pogledu transparentnosti: audiosadržaj, slikovni sadržaj, videosadržaj ili tekstovni sadržaj. To uključuje i multimodalni sadržaj, odnosno sadržaj koji se sastoji od kombinacije tih modaliteta. Za potrebe članka 50. stavka 2. UI akta modalitete treba tumačiti u skladu s praktičnim i tehnološkim promjenama tijekom vremena. Zasad bi ih trebalo tumačiti kako slijedi:
|
|
(61) |
UI sustavi koji generiraju trodimenzionalne (3D) slike, videozapise i audiozapise te virtualnu, proširenu ili mješovitu stvarnost ili njima manipuliraju obuhvaćeni su područjem primjene članka 50. stavka 2. UI akta. „Virtualna stvarnost” obuhvaća tehnologije umjetne inteligencije koje korisnicima omogućuju doživljaj računalno generiranog okruženja koje simulira fizičku prisutnost i interakciju s tim okruženjem u stvarnom vremenu. Virtualna i proširena stvarnost mogu se smatrati videosadržajem jer se sastoje od vremenskog slijeda slika koji može biti sinkroniziran sa zvukom i koji predstavlja vizualnu promjenu tijekom vremena. Označava se relevantni „izlazni rezultat” u konačnom obliku pojedinačne imovine generirane umjetnom inteligencijom, uz posebne iznimke za kratkotrajne interaktivne sesije u stvarnom vremenu u skladu s točkom 88. u nastavku. Digitalni artefakti koji se koriste za generiranje 3D slika, videozapisa i audiosadržaja, kao što su oblaci točaka i 3D mreže, ne moraju se označivati. |
|
(62) |
Područjem primjene članka 50. stavka 2. UI akta obuhvaćeni su i digitalni blizanci koji čine virtualnu repliku osoba, fizičkih predmeta ili sustava i integriraju više vrsta podataka ako su generirani ili manipulirani umjetnom inteligencijom i imaju oblik zvuka, slike, videozapisa ili teksta, osim ako su obuhvaćeni iznimkama i smatraju se „industrijskim primjenama” ili „primjenama među poduzećima” iz točke 87. ili kratkotrajnim sadržajem u stvarnom vremenu iz točke 88. u nastavku. |
|
(63) |
Članak 50. stavak 2. UI akta može se primjenjivati i na UI agente ako UI agent poduzme radnju čiji je izlazni rezultat sadržaj generiran ili manipuliran umjetnom inteligencijom koji fizičke osobe mogu percipirati kao zvuk, sliku, videozapis ili tekst. Takvi se izlazni rezultati stoga moraju označiti i mora ih se moći prepoznati kako je opisano u nastavku. S druge strane, radnja UI agenta koja ne uključuje sadržaj generiran ili manipuliran umjetnom inteligencijom (npr. međukoraci obrade kao što su zaključivanje i tok misli) ili radnja generirana umjetnom inteligencijom koja nije namijenjena za to da je fizičke osobe izravno percipiraju (npr. mrežni zahtjev ili radnja u pregledniku) ne smatra se sintetičkim sadržajem obuhvaćenim područjem primjene članka 50. stavka 2. UI akta te ne mora biti usklađena s obvezama u pogledu označivanja i prepoznavanja. |
4.1.3. Sadržaj koji nije obuhvaćen područjem primjene članka 50. stavka 2. UI akta
|
(64) |
Sadržaj koji UI sustav generira na temelju jednostavne obrade podataka, a koji nije posebno generiran ili manipuliran umjetnom inteligencijom, na primjer renderirani kadar, nije obuhvaćen područjem primjene članka 50. stavka 2. UI akta. |
|
(65) |
Nadalje, člankom 50. stavkom 2. UI akta nisu obuhvaćeni izlazni rezultati UI sustava koji samo reproduciraju postojeći sadržaj ili omogućuju prikaz ili organiziranje već postojećeg sadržaja. To se, na primjer, odnosi na popise pjesama za reprodukciju ili druge sustave za preporučivanje koji samo odabiru ili rangiraju postojeći sadržaj na temelju preferencija ili aktivnosti korisnika, a da pritom ne stvaraju nov sadržaj niti manipuliraju postojećim sadržajem. Isto vrijedi za UI sustave koji se koriste u internim analitičkim procesima za izdvajanje i strukturiranje podataka, ali ne i za njihovo sažimanje. |
|
(66) |
To se odnosi i na ulazne i izlazne podatke UI sustava koji se sastoje samo od opažanja i zapisa podataka iz fizičkih ili virtualnih okruženja, a koji nisu generirani ni manipulirani umjetnom inteligencijom (npr. podaci koje prikupljaju roboti ili drugi senzori omogućeni umjetnom inteligencijom), kao i na prijenose podataka putem UI sustava bez ikakvih izmjena. To obuhvaća razne ulazne i izlazne podatke UI sustava, ponajprije u industrijskim okruženjima, kao što su podaci o proizvodnji koje prikupljaju roboti, podaci o potrošnji koje bilježe pametna brojila omogućena umjetnom inteligencijom, mjerenja frekvencije i napona u elektroenergetskoj mreži, podaci o lokaciji prikupljeni putem GPS-a iz vozila itd. |
|
(67) |
Nadalje, budući da je cilj obveze u pogledu transparentnosti iz članka 50. stavka 2. UI akta omogućiti ljudima da razlikuju sadržaj generiran ili manipuliran umjetnom inteligencijom kako bi se uklonili rizici od obmanjivanja i manipulacije te zajamčio integritet informacijskog ekosustava i povjerenje u njega, ta se odredba ne odnosi na sadržaj koji nije povezan s tim ciljem i koji fizičke osobe ne mogu percipirati ili nije namijenjen za to da ga fizičke osobe tumače, provjeravaju ili na temelju njega postupaju. |
|
(68) |
Konkretno, trebalo bi smatrati da sljedeći sadržaj nije obuhvaćen područjem primjene članka 50. stavka 2. UI akta:
|
4.2. Obveza u pogledu označivanja i prepoznavanja iz članka 50. stavka 2. UI akta
|
(69) |
Člankom 50. stavkom 2. UI akta utvrđuje se obveza u pogledu transparentnosti za dobavljače generativnih UI sustava obuhvaćenih područjem primjene te odredbe koja se sastoji od dva različita, ali u suštini međusobno povezana elementa. Prvo, dobavljači moraju osigurati da izlazni rezultati UI sustava budu označeni u strojno čitljivom obliku. Drugo, dobavljači moraju osigurati da se izlazni rezultati mogu prepoznati kao umjetno generiran ili manipuliran sadržaj. Za svako uvedeno rješenje za označivanje dobavljači bi trebali osigurati dostupnost odgovarajućih sredstava za prepoznavanje (kako je navedeno u nastavku) kako bi se fizičkim osobama izloženima sadržaju i drugim relevantnim akterima omogućilo da prepoznaju sadržaj koji je UI sustav umjetno generirao i razlikuju ga od drugog sadržaja. Tehničko rješenje treba tumačiti kao kombinaciju tehnika označivanja i sredstava za prepoznavanje koje je dobavljač uveo kako bi ispunio obvezu u pogledu transparentnosti iz članka 50. stavka 2. UI akta. |
|
(70) |
Da bi se ciljevi obveza u pogledu transparentnosti iz članka 50. stavka 2. UI akta uspješno ostvarili, moraju se ispuniti oba prethodno navedena uvjeta. Ispunjavanje samo jednog uvjeta (npr. označivanje izlaznih rezultata u strojno čitljivom obliku bez dostupnih sredstava za njihovo prepoznavanje) neće biti dostatno za usklađivanje s tom odredbom (27). |
4.2.1. Obveza označivanja
|
(71) |
Opseg obveze označivanja ograničen je na postavljanje oznaka u strojno čitljivom obliku. Strojno čitljiv oblik znači da su oznake strukturirane tako da ih softverske aplikacije mogu lako identificirati, prepoznati i izdvojiti bez ljudske intervencije. Nisu isključeni ni vidljivi znakovi i oznake kao dopunska mjera, koja se prema potrebi provodi kako bi se subjektima koji uvode sustav olakšalo ispunjavanje obveze označivanja deep fakea u skladu s člankom 50. stavkom 4. UI akta. |
|
(72) |
Kako bi ispunili obvezu označivanja, dobavljači mogu primijeniti jednu ili kombinaciju tehnika označivanja pod uvjetom da je njihovo cjelokupno tehničko rješenje strojno čitljivo i da ispunjava zahtjeve u pogledu djelotvornosti, interoperabilnosti, otpornosti i pouzdanosti u zakonski propisanoj mjeri, kako je predviđeno u članku 50. stavku 2. drugoj rečenici UI akta (vidjeti odjeljak 4.2.3.). |
|
(73) |
U uvodnoj izjavi 133. UI akta kao primjeri takvih tehnika navode se vodeni žigovi, identifikacija metapodataka, kriptografske metode za dokazivanje podrijetla i autentičnosti sadržaja, metode evidentiranja, otisci prstiju ili druge tehnike te kombinacija takvih tehnika. Iako su u uvodnoj izjavi 133. UI akta navedene metode za dokazivanje podrijetla i autentičnosti, dobavljači nisu dužni voditi evidenciju ni bilježiti cijeli lanac podrijetla koji sadržava informacije o podrijetlu i izmjenama sadržaja ili bilo koju drugu relevantnu tvrdnju o povijesti sadržaja. Međutim, takve metode za dokazivanje podrijetla mogu se primjenjivati i za usklađivanje s člankom 50. stavkom 2. UI akta i mogu fizičkim osobama omogućiti da razlikuju sadržaj generiran ili manipuliran umjetnom inteligencijom od autentičnog sadržaja. |
|
(74) |
Dobavljači mogu primijeniti rješenje za označivanje izlaznih rezultata u raznim fazama lanca vrijednosti (npr. post hoc nakon stvaranja sadržaja na razini UI sustava, na razini temeljnog UI modela ili kao dio procesa zaključivanja UI sustava). Mogu primjenjivati rješenje za označivanje koje je uveo dobavljač modela na početku lanca vrijednosti ili treća strana koja pruža to rješenje (npr. kao otvoreni standard ili specijalizirana usluga) u mjeri u kojoj je rješenje za označivanje u skladu s člankom 50. stavkom 2. UI akta. Takva primjena ne dovodi u pitanje odgovornost dobavljača UI sustava da dokaže usklađenost s člankom 50. stavkom 2. UI akta. |
4.2.2. Obveza u pogledu prepoznavanja
|
(75) |
Dobavljači UI sustava obuhvaćenih područjem primjene članka 50. stavka 2. UI akta moraju osigurati da se izlazni rezultati njihovih sustava mogu prepoznati kao sadržaj generiran ili manipuliran umjetnom inteligencijom. To znači da je dobavljač obvezan osigurati da osobama koje su potencijalno izložene sadržaju budu dostupna sredstva za prepoznavanje. Nadalje, u skladu s člankom 50. stavkom 5. UI akta takva rješenja za prepoznavanje trebala bi moći proizvesti rezultate u obliku čitljivom ljudima u kojima se navodi je li sadržaj generiran ili manipuliran umjetnom inteligencijom. |
|
(76) |
Detektor UI sadržaja alat je koji prepoznaje je li sadržaj generiran ili manipuliran umjetnom inteligencijom, obično tako što identificira tehničke oznake ili potpise koji potvrđuju njegovo podrijetlo. Kako bi se osigurala potpuna interoperabilnost, dobavljači moraju koristiti javno dostupna rješenja za prepoznavanje usklađena s industrijskim normama, koja će svaka treća strana moći uvesti na digitalnom uređaju, po mogućnosti lokalno, i koja se lako mogu integrirati u samostalne, izolirane mreže. Ako takve norme nisu dostupne, posebno u početnoj fazi provedbe članka 50. stavka 2. UI akta na tehnologije vodenog žiga, dobavljač može primijeniti vlastito rješenje za prepoznavanje, rješenje treće strane ili zajedničko rješenje, pod uvjetom da su ta rješenja interoperabilna s rješenjima za prepoznavanje koje primjenjuju drugi dobavljači (vidjeti odjeljak 4.2.3.). Ta bi mogućnost trebala biti vremenski ograničena sve dok se ne pojave usklađene norme i standardizirano, interoperabilno rješenje za prepoznavanje koje ne ovisi o dobavljaču, koje je sigurno, štiti privatnost i može se lokalno primjenjivati. |
|
(77) |
U članku 50. stavku 5. UI akta dodatno se navodi da informacije iz članka 50. stavka 2. UI akta treba pružiti fizičkim osobama izloženima sadržaju na jasan i raspoznatljiv način najkasnije u trenutku prve interakcije ili izlaganja. Te se informacije ponajprije odnose na rezultat prepoznavanja, kojim se otkriva je li sadržaj generiran ili manipuliran umjetnom inteligencijom, a ne na sam sadržaj generiran ili manipuliran umjetnom inteligencijom. Izraz „u trenutku prvog izlaganja” trebalo bi tumačiti kao trenutak u kojem su fizičke osobe voljne provjeriti podrijetlo određenog sadržaja i pristupaju rješenju za prepoznavanje kako bi dobile rezultate prepoznavanja. |
|
(78) |
Ako dobavljač UI sustava za pružanje ili pristup rješenju za prepoznavanje ovisi o drugom akteru, mora osigurati da je rješenje za prepoznavanje u skladu s člankom 50. stavcima 2. i 5. UI akta i da ti akteri prikazuju rezultate prepoznavanja u skladu s člankom 50. stavkom 5. UI akta (vidjeti odjeljak 7.). |
4.2.3. Usklađenost sa zahtjevima za tehnička rješenja: djelotvornost, interoperabilnost, otpornost i pouzdanost
|
(79) |
Člankom 50. stavkom 2. drugom rečenicom UI akta predviđeno je da tehnička rješenja za označivanje i prepoznavanje moraju biti djelotvorna, interoperabilna, otporna i pouzdana. Te bi zahtjeve trebalo tumačiti kako slijedi:
|
|
(80) |
Dobavljači moraju osigurati da kombinacija tehničkih rješenja za označivanje i prepoznavanje u cjelini ispunjava sve prethodno navedene zahtjeve u mjeri u kojoj je to zakonski propisano, uzimajući u obzir ograničenja i komplementarnosti raznih rješenja koja se primjenjuju. Tehnička rješenja moraju ispunjavati sve zahtjeve u mjeri u kojoj je to tehnički izvedivo, uzimajući u obzir posebnosti i ograničenja različitih vrsta sadržaja, troškove provedbe i općepriznata najnovija dostignuća, što se može odražavati u relevantnim tehničkim normama. |
|
(81) |
„Tehnički izvediva” rješenja u smislu članka 50. stavka 2. UI akta rješenja su koja se mogu primijeniti na modalitete obuhvaćene područjem primjene te odredbe uz pomoć trenutačno dostupne tehnologije, metoda i inženjerskih praksi u okviru određene tehničke arhitekture i operativnog okruženja o kojem je riječ. Pružatelj nije obvezan koristiti tehničko rješenje koje još nije razvijeno ili dostupno na tržištu ili koje se ne može tehnički provesti. Tehnička izvedivost objektivan je pojam koji ne ovisi o konkretnim resursima i sposobnostima pojedinačnih dobavljača. |
|
(82) |
U skladu s člankom 50. stavkom 2. UI akta dobavljači su dužni provesti tehnički izvediva rješenja koja su u skladu s općepriznatim najnovijim dostignućima kako bi ispunili četiri zahtjeva kvalitete: djelotvornost, otpornost, pouzdanost i interoperabilnost. |
|
(83) |
„Najnovija dostignuća” treba tumačiti kao razvijenu fazu tehničkih mogućnosti u određenom trenutku kad je riječ o proizvodima, procesima i uslugama, na temelju relevantnih konsolidiranih dostignuća u području znanosti, tehnologije i iskustva, koja je prihvaćena kao dobra tehnološka praksa (28). Najnovija dostignuća ne podrazumijevaju nužno najnovija znanstvena istraživanja koja su još u eksperimentalnoj fazi ili nisu dovoljno tehnološki zrela. Dobavljači moraju kontinuirano, pravodobno i razmjerno prilagođavati svoja rješenja za označivanje i prepoznavanje kako se tehnologija i najnovija dostignuća budu razvijali. |
|
(84) |
S obzirom na članak 50. stavak 7. UI akta dobavljači se mogu pozvati na kodeks prakse koji je ocijenjen kao adekvatan u skladu s tom odredbom kako bi dokazali usklađenost s obvezama u pogledu označivanja i prepoznavanja iz članka 50. stavaka 2. i 5. UI akta, pod uvjetom da je taj kodeks usklađen s najnovijim dostignućima. Za dodatne informacije o učincima pridržavanja takvog kodeksa i nadzoru drugih dobavljača koji se ne pridržavaju kodeksa vidjeti odjeljak 8.1. |
|
(85) |
U obzir se mogu uzeti i troškovi provedbe određenih tehničkih rješenja za označivanje i prepoznavanje. U određenim slučajevima, kako su opisani u sljedećim točkama, troškovi mogu biti nerazmjerni dodatnim koristima ograničene vrijednosti u smislu omogućivanja ljudima da razlikuju sadržaj generiran ili manipuliran umjetnom inteligencijom te osiguravanja integriteta informacijskog sustava i povjerenja u njega. |
|
(86) |
Stoga mogu postojati usko definirani slučajevi u kojima je tehničko rješenje koje se temelji na manje otpornim oznakama metapodataka dovoljno za usklađivanje s člankom 50. stavkom 2. UI akta, uzimajući u obzir posebnosti izlaznih rezultata UI sustava ako oni sami po sebi predstavljaju manji rizik od obmanjivanja, manipulacije ili negativnih učinaka na informacijski ekosustav. To se posebno odnosi na situacije u kojima je generativni UI sustav ugrađen u fizičke proizvode koji generiraju izlazne rezultate u tehnički kontroliranom i zatvorenom okruženju koje je pretežno namijenjeno pružanju uputa (npr. UI sustav ugrađen u navigacijske sustave u vozilima) u mjeri u kojoj su u proizvod ugrađene učinkovite tehničke mjere koje sprečavaju da izlazni rezultati napuste okruženje proizvoda, na primjer snimanjem ili izvozom i vanjskom distribucijom. |
|
(87) |
Mogu postojati i ograničeni slučajevi „industrijskih primjena umjetne inteligencije” ili „primjena među poduzećima” (osim javnih UI sustava i UI sustava usmjerenih na potrošače) u kojima zbog načela proporcionalnosti i ograničenih koristi za ciljeve transparentnosti označivanje i prepoznavanje izlaznih rezultata generiranih ili manipuliranih umjetnom inteligencijom nije potrebno. To vrijedi samo ako su kumulativno ispunjeni sljedeći zahtjevi:
|
|
(88) |
Izuzeti se može i stvaranje kratkotrajnog sadržaja u stvarnom vremenu koji se odmah konzumira a da se pritom ne snima, ne pohranjuje ni ne širi (npr. u videoigrama ili aplikacijama virtualne stvarnosti) ako označivanje nije tehnički izvedivo i ako se osobe izložene sadržaju obavijesti o tome da je sadržaj generiran ili manipuliran umjetnom inteligencijom (npr. otkrivanje u okviru iskustva ili obavijesti na razini sesije). |
4.3. Iznimke od obveza iz članka 50. stavka 2. UI akta
|
(89) |
Člankom 50. stavkom 2. UI akta predviđene su tri izričite iznimke od obveza u pogledu transparentnosti utvrđenih u toj odredbi. |
|
(90) |
Prva iznimka odnosi se na UI sustave u mjeri u kojoj obavljaju pomoćnu funkciju za standardno uređivanje. Standardno uređivanje trebalo bi tumačiti kao postupak pripreme postojećeg sadržaja za objavu ili distribuciju (npr. manje izmjene radi poboljšanja čitljivosti i gramatike, kvalitete i formata) koji ne uključuje stvaranje novog sadržaja. Cilj je standardnog uređivanja osigurati, među ostalim, da sadržaj ne sadržava očite tehničke ili gramatičke jezične pogreške, da je usklađen s primjenjivim zahtjevima koji se odnose na izgled, prikaz, oblikovanje ili pristupačnost ili da je u skladu s praksama određenog sektora. Uređivanje nadilazi standardno uređivanje ako se sadržaj mijenja na bitan način (znatne izmjene sadržaja, strukturne promjene itd.) koji utječe na njegovo značenje, stil ili namjeru. |
|
(91) |
Druga se iznimka primjenjuje ako UI sustav bitno ne mijenja ulazne podatke koje pruža subjekt koji uvodi sustav ili njihovu semantiku. Izmjena bi se trebala smatrati bitnom ako je UI sustav u procesu generiranja izlaznih podataka znatno manipulirao ulaznim podacima ili njihovom semantikom. To se mora utvrditi na temelju procjene relevantnih čimbenika, kao što su format, vrsta medijskog sadržaja, stil i promjene sadržaja koje utječu na njegovo značenje, stil ili namjeru. Procjena se mora provesti za svaki pojedinačni slučaj. |
|
(92) |
Ako se UI sustav može koristiti i za generiranje sadržaja ili manipulaciju njime i za nebitne, manje izmjene ulaznih podataka, obveza u pogledu transparentnosti iz članka 50. stavka 2. UI akta neće se primjenjivati na sadržaj izmijenjen na manji, nebitan način.
|
|
(93) |
Treća iznimka primjenjuje se na generativne UI sustave koji su zakonski odobreni za generiranje sintetičkog sadržaja ili manipuliranje njime radi otkrivanja, sprečavanja, istrage ili kaznenog progona kaznenih djela. Pojašnjenja navedena u točkama od 46. do 48. za tu iznimku relevantna su i u ovom slučaju. |
4.4. Međudjelovanje s drugim pravnim aktima Unije
|
(94) |
Obveze u pogledu označivanja i prepoznavanja iz članka 50. stavka 2. UI akta odnose se na način stvaranja sadržaja i njegovo umjetno podrijetlo, a ne na to tko je stvorio sadržaj. Sva rješenja za označivanje i prepoznavanje koja primjenjuju dobavljači UI sustava stoga moraju biti u skladu s primjenjivim pravom Unije o zaštiti podataka, uključujući načela i obveze u području zaštite podataka, kao što su obveza tehničke i integrirane zaštite podataka, načelo smanjenja količine podataka te načela sigurnosti i povjerljivosti. Na primjer, u svrhu označivanja i prepoznavanja ne bi se trebale obrađivati informacije povezane s autorom sadržaja, a sve ostale osobne podatke koji se obrađuju trebalo bi izbrisati čim se ispuni svrha prepoznavanja, moraju se zajamčiti sigurnost i povjerljivost itd. |
|
(95) |
U uvodnoj izjavi 136. UI akta dodatno se ističe posebna važnost obveza u pogledu transparentnosti iz članka 50. stavaka 1., 2. i 4. UI akta za olakšavanje djelotvorne provedbe Akta o digitalnim uslugama. To se osobito odnosi na obveze pružatelja vrlo velikih internetskih platformi ili vrlo velikih internetskih tražilica da pažljivo utvrde, analiziraju, procijene i ublaže sistemske rizike koji mogu proizaći iz širenja umjetno stvorenog ili manipuliranog sadržaja, posebno rizik od stvarnih ili predvidljivih negativnih učinaka na demokratske procese, građanski diskurs i izborne procese, među ostalim dezinformiranjem (članci 34. i 35. Akta o digitalnim uslugama). Strojno čitljive oznake mogu tim dobavljačima omogućiti prepoznavanje sadržaja generiranog ili manipuliranog umjetnom inteligencijom i odgovarajuće označivanje i prepoznavanje, čime se smanjuje rizik od širenja dezinformacija generiranih umjetnom inteligencijom putem njihovih usluga. |
|
(96) |
Obveze obilježavanja i označivanja sadržaja koji je generiran ili manipuliran UI sustavima na temelju članka 50. stavaka 2. i 4. UI akta ne dovode u pitanje obvezu iz članka 16. stavka 6. Akta o digitalnim uslugama da pružatelji usluga smještaja informacija na poslužitelju obrađuju obavijesti o nezakonitom sadržaju primljene u skladu s člankom 16. stavkom 1. Akta o digitalnim uslugama (29). Naime, obilježavanje ili označivanje koje se primjenjuje na sadržaj generiran ili manipuliran umjetnom inteligencijom ne bi trebalo utjecati na ocjenu i odluku o nezakonitosti određenog sadržaja na temelju drugih regulatornih okvira. Ta bi se ocjena trebala provesti isključivo s obzirom na pravila kojima se uređuje zakonitost sadržaja u skladu s tim okvirima (30). Na primjer, ako je označena deep fake slika prijavljena kao mogući materijal koji sadržava seksualno zlostavljanje djece ili kao povreda zakonodavstva o žigu ili autorskom pravu, primjena oznake ne utječe na moguću nezakonitost sadržaja na temelju tih regulatornih okvira. Ta bi se ocjena trebala provoditi isključivo na temelju odgovarajućih primjenjivih zakona (npr. kazneno pravo, propisi o žigovima ili autorskim pravima). |
|
(97) |
S druge strane, strojno čitljive oznake ugrađene u sadržaj u skladu s člankom 50. stavkom 2. UI akta mogu pomoći pružateljima vrlo velikih internetskih platformi i vrlo velikih internetskih tražilica u ispunjavanju njihovih obveza iz članaka 34. i 35. Akta o digitalnim uslugama koje se odnose na utvrđivanje, analiziranje i procjenu sistemskih rizika koji mogu proizaći iz širenja umjetno stvorenog ili manipuliranog sadržaja, posebno rizika od stvarnih ili predvidljivih negativnih učinaka na demokratske procese, građanski diskurs i izborne procese, među ostalim dezinformiranjem (31), te na uspostavu razumnih, razmjernih i djelotvornih mjera za smanjenje tih rizika, prilagođenih utvrđenim posebnim sistemskim rizicima. Pružatelji vrlo velikih internetskih platformi i vrlo velikih internetskih tražilica mogu se smatrati dobavljačima UI sustava i ako ispunjavaju relevantne uvjete iz UI akta kad u svoje usluge integriraju UI sustave (vidjeti i odjeljak 6.1.5.). |
|
(98) |
Pružatelje internetskih platformi, internetskih tražilica i druge relevantne aktere koji distribuiraju sadržaj duž lanca vrijednosti posebno se potiče da očuvaju i omoguće prepoznavanje oznaka koje su dobavljači uveli u skladu s člankom 50. stavkom 2. UI akta kako bi se fizičke osobe izložene sadržaju mogle obavijestiti o njegovu podrijetlu. |
5. ČLANAK 50. STAVAK 3. UI AKTA: SUSTAVI ZA PREPOZNAVANJE EMOCIJA I SUSTAVI ZA BIOMETRIJSKU KATEGORIZACIJU
|
(99) |
Člankom 50. stavkom 3. UI akta subjektima koji uvode sustave za prepoznavanje emocija i sustave za biometrijsku kategorizaciju uvodi se obveza da fizičke osobe koje su izložene tim sustavima obavješćuju o njihovu radu. |
|
(100) |
U uvodnoj izjavi 132. UI akta pojašnjava se da je svrha te obveze osigurati da fizičke osobe (uključujući osobe s invaliditetom) budu informirane o tome da su izložene sustavima za prepoznavanje emocija i biometrijsku kategorizaciju koji mogu zadirati u njihovu privatnost. Ta se obveza stoga primjenjuje neovisno o tome jesu li osobe tim sustavima izložene u stvarnom vremenu ili se oni koriste ex post. |
5.1. Glavne sastavnice, pojmovi i odgovarajuće obveze u pogledu transparentnosti iz članka 50. stavka 3. UI akta
5.1.1. Pojam sustava za prepoznavanje emocija
|
(101) |
U članku 3. točki 39. UI akta „sustav za prepoznavanje emocija” definiran je kao „UI sustav namijenjen prepoznavanju emocija ili namjera fizičkih osoba ili izvođenju zaključaka o njihovim emocijama ili namjerama na temelju njihovih biometrijskih podataka”. Detaljno objašnjenje tog pojma iz smjernica Komisije o klasifikaciji visokorizičnih UI sustava, uključujući praktične primjere koji su u njima navedeni, jednako je relevantno u kontekstu članka 50. stavka 3. UI akta. |
|
(102) |
Budući da su svi sustavi za prepoznavanje emocija klasificirani kao visokorizični, osim ako su zabranjeni u skladu s člankom 5. stavkom 1. točkom (f) UI akta na radnome mjestu i u obrazovnim ustanovama, obveza u pogledu transparentnosti iz članka 50. stavka 3. UI akta trebala bi se primjenjivati zajedno s drugim zaštitnim mjerama i zahtjevima koji se primjenjuju na visokorizične UI sustave. |
5.1.2. Pojam sustava za biometrijsku kategorizaciju
|
(103) |
U članku 3. točki 40. UI akta „sustav za biometrijsku kategorizaciju” definira se kao „UI sustav namijenjen razvrstavanju fizičkih osoba u određene kategorije na temelju njihovih biometrijskih podataka, osim ako je on pomoćni element druge komercijalne usluge i nužan iz objektivnih tehničkih razloga”. Detaljno objašnjenje tog pojma iz smjernica Komisije o klasifikaciji visokorizičnih UI sustava, uključujući njegove konkretne elemente i praktične primjere koji su u njima navedeni, jednako je relevantno u kontekstu članka 50. stavka 3. UI akta. |
|
(104) |
Važno je napomenuti da se, osim ako su zabranjeni u skladu s člankom 5. stavkom 1. točkom (g) UI akta, članak 50. stavak 3. tog akta primjenjuje na sve sustave za biometrijsku kategorizaciju (npr. dobna ili rodna klasifikacija na temelju biometrijskih podataka), neovisno o tome smatraju li se ti sustavi visokorizičnim UI sustavima na temelju tog akta. |
5.1.3. Obveza u pogledu obavješćivanja na temelju članka 50. stavka 3. UI akta
|
(105) |
Opseg informacija koje je potrebno pružiti: subjekti koji uvode sustav dužni su obavijestiti dotične fizičke osobe da su izložene sustavu za prepoznavanje emocija ili sustavu za biometrijsku kategorizaciju koji se koristi. UI aktom ne propisuje se uključivanje informacija o razlozima za rad sustava ni o tome obrađuje li sustav informacije i u druge svrhe osim prepoznavanja emocija ili biometrijske kategorizacije, koje se moraju otkriti u skladu s pravom Unije o zaštiti podataka (vidjeti odjeljak 5.3.). |
|
(106) |
Osobe kojima se informacije pružaju: u skladu s člankom 50. stavkom 3. UI akta subjekti koji uvode sustav dužni su obavijestiti sve fizičke osobe izložene radu UI sustava, uključujući djecu. |
|
(107) |
Načini pružanja informacija: UI aktom ne propisuju se posebni načini pružanja informacija, osim što se u skladu s člankom 50. stavkom 5. UI akta informacije trebaju pružati na jasan i raspoznatljiv način te u skladu s primjenjivim zahtjevima u pogledu pristupačnosti (prilagođenima potrebama fizičkih osoba s invaliditetom). Način obavješćivanja fizičkih osoba izloženih sustavu može ovisiti o mjestu uvođenja (npr. virtualna platforma za igranje igara, fizička trgovina, željeznička postaja), mogućim osobama kojima se informacije pružaju (npr. djeca, starije osobe, osobe s invaliditetom, kupci), trajanju i vrsti izloženosti (npr. dugotrajna, jednokratna, kontinuirana, povremena) i mogućem postojanju odnosa između subjekta koji uvodi sustav i izloženih osoba (npr. ako već postoji kanal za komunikaciju s osobom). Ovisno o primjeru upotrebe, informacije se mogu pružiti u pisanom obliku, standardiziranim ikonama (među ostalim kad se prikazuju elektronički), usmeno ili kombinacijom tih načina.
|
|
(108) |
Vremenski okvir za pružanje informacija: informacije se moraju pružiti najkasnije u trenutku prve interakcije ili prvog izlaganja UI sustavu u skladu s člankom 50. stavkom 5. UI akta. Prema potrebi nije isključeno ni pružanje potrebnih informacija unaprijed. |
5.2. Iznimka za potrebe kaznenog progona
|
(109) |
Obveza obavješćivanja ne primjenjuje se na sustave za prepoznavanje emocija i biometrijsku kategorizaciju koji su zakonski odobreni za otkrivanje, sprečavanje ili istragu kaznenih djela, podložno odgovarajućim zaštitnim mjerama za prava i slobode trećih strana i u skladu s pravom Unije. Pojašnjenja navedena u vezi s tom iznimkom u točkama od 46. do 48. relevantna su i u ovom slučaju, uz jednu razliku. U okviru drugih iznimaka iz članka 50. UI akta mora postojati izričit zakon kojim se odobrava netransparentna upotreba UI sustava, a člankom 50. stavkom 3. tog akta takva se upotreba omogućuje ako je dopuštena u skladu s pravnim pravilima kojima se uređuju ovlasti tijela kaznenog progona za upotrebu sustava za prepoznavanje emocija i biometrijsku kategorizaciju radi otkrivanja, sprečavanja ili istrage kaznenih djela bez obavješćivanja dotičnih osoba, podložno odgovarajućim zaštitnim mjerama. |
5.3. Međudjelovanje s drugim pravnim aktima Unije
|
(110) |
Obveza obavješćivanja iz članka 50. stavka 3. UI akta sama po sebi ne čini upotrebu sustava za prepoznavanje emocija i biometrijsku kategorizaciju zakonitom. Osim toga, ona ne opravdava intruzivne ni diskriminirajuće primjene koje bi mogle biti nezakonite i zabranjene u skladu s člankom 5. UI akta ili drugim pravom Unije. Subjekti koji uvode sustav moraju ispuniti obvezu obavješćivanja iz članka 50. stavka 3. UI akta uz sve primjenjive zahtjeve koji se odnose na obavješćivanje u skladu s pravom Unije o zaštiti podataka. U određenim slučajevima subjekti koji uvode sustav mogu razmotriti dodavanje obavijesti u skladu s člankom 50. stavkom 3. UI akta informacijama koje se pružaju ispitanicima na temelju prava Unije o zaštiti podataka. |
6. ČLANAK 50. STAVAK 4.: OZNAČIVANJE DEEP FAKEA I ODREĐENIH TEKSTNIH PUBLIKACIJA
|
(111) |
Člankom 50. stavkom 4. UI akta utvrđuju se dvije zasebne obveze za subjekte koji uvode generativne UI sustave, prema kojima je potrebno jasno i raspoznatljivo otkriti da je riječ o (i) deep fakeu i (ii) tekstu generiranom ili manipuliranom umjetnom inteligencijom koji se objavljuje u svrhu informiranja javnosti o pitanjima od javnog interesa, osim u utvrđenim slučajevima. Te obveze označivanja primjenjuju se uz obveze u pogledu strojno čitljivog označivanja i prepoznavanja iz članka 50. stavka 2. UI akta koje se primjenjuju na dobavljače UI sustava koji generiraju sintetički slikovni sadržaj, videosadržaj, audiosadržaje ili tekstovni sadržaj ili njima manipuliraju te ne dovodeći u pitanje te obveze. |
6.1. Glavne sastavnice, pojmovi i odgovarajuće obveze u pogledu transparentnosti za deep fake iz članka 50. stavka 4. UI akta
|
(112) |
Članak 50. stavak 4. prvi podstavak UI akta primjenjuje se ako je ispunjeno nekoliko uvjeta:
|
6.1.1. Pojam uvjerljivog krivotvorenog sadržaja (deep fake)
|
(113) |
U članku 3. točki 60. „uvjerljiv krivotvoreni sadržaj (deep fake)” definiran je kao „slike, audiosadržaj ili videosadržaj koji generira ili kojim manipulira umjetna inteligencija, a koji nalikuje stvarnim osobama, predmetima, mjestima, subjektima ili događajima i koji bi se nekome lažno činio vjerodostojnim ili istinitim”. Razlika između manipulacije i generiranja pojašnjena je u odjeljku 4.1. Kako bi se pojasnio pojam deep fakea, u nastavku se razmatraju četiri kumulativna kriterija iz te definicije: (i) sličnost sa (ii) stvarnim (iii) osobama, predmetima, mjestima, subjektima ili događajima (iv) koja bi se nekome lažno činila vjerodostojnom ili istinitom.
|
|
(114) |
Pitanje čini li se sadržaj „nekome lažno […] vjerodostojnim ili istinitim” trebalo bi razmatrati u cjelini, uzimajući u obzir razinu sličnosti, moguću poruku sadržaja, predviđene i predvidljive kontekste uvođenja, okruženje u kojem se sadržaj prikazuje te predviđeni i razumno predvidljivi sastav publike i njezina očekivanja. Međutim, ta je procjena objektivna i, da bi se sadržaj smatrao uvjerljivim krivotvorenim sadržajem, nije potrebno da subjekt koji uvodi sustav namjerava obmanuti ili zavarati fizičke osobe koje su tom sadržaju izložene. Kad je riječ o kontekstu uvođenja i očekivanjima publike, to znači da se, ako se sadržaj upotrebljava u određenim kontekstima uvođenja u kojima predviđena i razumno predvidljiva publika ne očekuje da će sadržaj biti vjerodostojan ili istinit, sadržaj koji je generiran ili manipuliran umjetnom inteligencijom možda neće lažno činiti vjerodostojnim ili istinitim, iako je zapravo nevjerodostojan ili neistinit. U takvim slučajevima četvrti kriterij definicije deep fakea neće biti ispunjen. Na primjer, nije vjerojatno da će umjetnom inteligencijom generirane ili manipulirane pozadinske scene, posebni efekti ili tehnička predobrada i naknadna obrada u okviru standardnih procesa filmske produkcije dovesti do toga da se sadržaj publici lažno čini vjerodostojnim ili istinitim. S druge strane, do toga će vjerojatno dovesti upotreba umjetne inteligencije za generiranje ili manipuliranje bitnim elementima koji utječu na percepciju publike (npr. glumci koji su u potpunosti generirani umjetnom inteligencijom, digitalne replike stvarnih ili preminulih glumaca, digitalno pomlađivanje glumaca, simulirane izvedbe, uključujući njihove dijelove, ili nevjerodostojno ili neistinito prikazivanje osoba, predmeta, mjesta ili događanja u dokumentarnim filmovima). Priznaje se da je zbog visokog stupnja fotorealizma vjerojatnije da će se slikovni sadržaj i videosadržaj smatrati deep fakeom (jer vjerojatno nalikuje stvarnim subjektima), ali sam fotorealizam nije odlučujući za procjenu. Trebalo bi procijeniti i može li takav sadržaj obmanuti ili zavarati osobu u pogledu vjerodostojnosti ili istinitosti sadržaja, uzimajući u obzir, među ostalim, predviđeni i predvidljivi kontekst uvođenja. |
|
(115) |
Za razliku od članka 50. stavka 1. UI akta, procjena da se sadržaj nekome lažno čini vjerodostojnim ili istinitim ne bi se trebala temeljiti na hipotetskoj „prosječnoj” osobi za koju se očekuje da će biti izložena sadržaju (vidjeti odjeljak 3.2.1.), već bi trebalo na odgovarajući način uzeti u obzir mogući raznoliki sastav razumno predvidljive publike koja može biti izložena deep fake sadržaju. Posebno je važno na odgovarajući način uzeti u obzir sastav publike ako se razumno može predvidjeti da će u nekom trenutku deep fake sadržaj moći vidjeti djeca, starije osobe ili druge skupine osoba s nižom razinom digitalne pismenosti i pismenosti u području umjetne inteligencije ili općeg znanja jer ih se može lakše obmanuti ili zavarati u pogledu vjerodostojnosti ili istinitosti sadržaja. U takvim slučajevima to što se tom dijelu predvidljive publike sadržaj lažno čini vjerodostojnim ili istinitim može biti dovoljno da se sadržaj smatra deep fakeom. Međutim, ne očekuje se da subjekti koji uvode sustav uzimaju u obzir to da će treće osobe potencijalno širiti deep fake sadržaj izvan kruga publike koju subjekt koji uvodi sustav može razumno predvidjeti, uzimajući u obzir predviđene kanale distribucije (npr. to što se deep fake sadržaj prikazuje isključivo na dijelu internetskih stranica dostupnom samo pretplatnicima ili u okviru korporativnog biltena ne znači da bi subjekt koji uvodi sustav automatski trebao razmotriti široku javnu dostupnost). |
|
(116) |
Slično tome, manipuliranje postojećim sadržajem uz pomoć umjetne inteligencije kojim se mijenjaju neznatni sadržajni ili tehnički aspekti može biti manje važno za nečiju procjenu vjerodostojnosti ili istinitosti sadržaja i nastali sadržaj ne mora zbog toga postati, pa se tako dobiveni sadržaj ne mora smatrati deep fake sadržajem. To bi, na primjer, moglo uključivati uređivanje detalja u pozadini (npr. uklanjanje prolaznika), prilagodbu osvjetljenja, prilagodbu audioparametara, korekciju boja, smanjenje ili uklanjanje smetnji, poboljšanje pristupačnosti ili komprimiranje datoteke, kozmetičke prilagodbe i poboljšanja. Hoće li se manipulacija sadržajem svrstati u tu kategoriju ovisi o kontekstu i o njezinu utjecaju na percepciju vjerodostojnosti ili istinitosti sadržaja u konkretnom slučaju. Na primjer, korekcija boja uz pomoć umjetne inteligencije, proširivanje pozadine postojećeg sadržaja, prilagodbe ili zamjene pozadine u jasno estetske svrhe, sastava i rasporeda postojećih proizvoda ili promjena rezolucije slika u oglasima ili na ambalaži proizvoda vjerojatno će imati tek manji utjecaj na percepciju osobe o vjerodostojnosti i istinitosti oglasa i proizvoda. S druge strane, znatno uređivanje detalja u pozadini novinarskih fotografija uz pomoć umjetne inteligencije koje nadilazi standardnu tehničku i uredničku praksu može negativno utjecati na percepciju osobe o vjerodostojnosti i istinitosti sadržaja.
|
6.1.2. Obveza otkrivanja iz članka 50. stavka 4. prvog podstavka UI akta
|
(117) |
U skladu s člankom 50. stavkom 4. prvim podstavkom UI akta subjekti koji uvode UI sustave koji generiraju ili manipuliraju slikovnim sadržajem, audiosadržajem ili videosadržajem koji čini deep fake imaju obvezu „navesti da je taj sadržaj umjetno generiran ili da je njime manipulirano”. U uvodnoj izjavi 134. UI akta pojašnjava se da bi subjekti koji uvode i koriste UI sustave za generiranje deep fake sadržaja ili manipuliranje njime trebali jasno istaknuti da je takav sadržaj umjetno stvoren ili da je njime manipulirano označivanjem izlaznih rezultata umjetne inteligencije i navođenjem njegova umjetnog podrijetla. Metode označivanja ili otkrivanja koje se primjenjuju u skladu s člankom 50. stavkom 4. prvim podstavkom UI akta trebale bi biti takve da ih fizičke osobe mogu lako razumjeti i percipirati (npr. vidljive ili zvučne oznake) a da pritom ne moraju koristiti posebne tehničke alate ni poduzimati posebne radnje. Subjekti koji uvode sustav stoga se ne mogu osloniti na strojno čitljive oznake koje je dobavljač ugradio u sadržaj u skladu s člankom 50. stavkom 2. UI akta jer te oznake nisu odmah jasne i raspoznatljive fizičkim osobama izloženima deep fake sadržaju. |
|
(118) |
S obzirom na članak 50. stavak 7. UI akta subjekti koji uvode sustav mogu se pridržavati kodeksa prakse koji je u skladu s tom odredbom ocijenjen kao adekvatan kako bi dokazali usklađenost s tom obvezom otkrivanja. Za dodatne informacije o učincima pridržavanja takvog kodeksa i nadzoru drugih subjekata koji uvode sustav, a koji se ne pridržavaju kodeksa, vidjeti odjeljak 8.1. |
6.1.3. Transparentnost umjetničkog, kreativnog, satiričnog, fiktivnog ili analognog deep fake sadržaja
|
(119) |
Člankom 50. stavkom 4. prvim podstavkom UI akta predviđena je smanjena obveza u pogledu transparentnosti deep fakea koji je dio očigledno umjetničkih, kreativnih, satiričkih, fiktivnih ili analognih djela ili programa. Za takav sadržaj obveza u pogledu transparentnosti ograničena je na otkrivanje da je riječ o deep fakeu na odgovarajući način kojim se ne ometa prikazivanje tog djela ili uživanje u njemu. |
|
(120) |
Relevantne kategorije sadržaja: da bi se na njega mogla primijeniti smanjena obveza u pogledu otkrivanja, deep fake (slikovni sadržaj, audiosadržaj ili videosadržaj) trebao bi biti u barem jednoj od sljedećih kategorija sadržaja: umjetnička, kreativna, satirična, fiktivna ili analogna djela ili programi. Subjekt koji uvodi sustav treba u svakom pojedinačnom slučaju procijeniti je li deep fake obuhvaćen jednom ili više tih kategorija. Za potrebe članka 50. stavka 4. UI akta te se kategorije tumače kako slijedi:
|
|
(121) |
Navedene kategorije sadržaja mogu se primjenjivati i na programe koje treba smatrati pojedinačnom stavkom u rasporedu ili katalogu koji je utvrdio pružatelj medijskih usluga i koji je po obliku i sadržaju usporediv s televizijskim emitiranjem (33). Upućivanje na „djela” u kontekstu članka 50. stavka 4. UI akta ne utječe na to ispunjava li sadržaj uvjete za zaštitu na temelju prava Unije o autorskom pravu i srodnim pravima. |
|
(122) |
Očigledno: činjenica da deep fake pripada jednoj od prethodno navedenih kategorija sadržaja (ili više njih) trebala bi biti očigledna fizičkim osobama koje su mu izložene. To znači da bi te kategorije trebalo strogo tumačiti, što je opravdano činjenicom da se primjenjuje ublaženi režim otkrivanja zbog mogućeg učinka na slobodu izražavanja i slobodu umjetnosti i znanosti, a rizici od dezinformiranja, manipulacije i obmanjivanja i dalje se trebaju uzimati u obzir na odgovarajući način. Sadržaj čija priroda publici potencijalno nije jasna ili je za nju dvosmislena stoga je isključen iz područja primjene tog ublaženog režima transparentnosti. Za procjenu očigledne prirode umjetničkog, kreativnog, satiričnog ili fiktivnog sadržaja relevantni su sljedeći čimbenici: (i) prikazuje li sadržaj formate ili stilove koji su karakteristični za kategorije sadržaja (npr. ironiju ili pretjerivanje u satiričnim djelima, određene umjetničke stilove, prikaz prepoznatljivih tema, tehnika ili estetike); (ii) kontekst u kojem se sadržaj prikazuje (npr. ako su platforma, medij ili mjesto na kojem se sadržaj prikazuje, stavlja na raspolaganje ili distribuira povezani s umjetničkom, kreativnom, satiričnom ili fiktivnom upotrebom); i (iii) očekivanja publike (npr. film, okruženje za igranje igara ili prizor virtualne stvarnosti). Osim toga, uvjet da sadržaj treba „očigledno” pripadati jednoj od prethodno navedenih kategorija sadržaja znači da su iz područja primjene tih kategorija isključeni sadržaji čija je priroda isključivo informativna ili komercijalna te je prepoznatljiva kao takva (npr. novinarsko izvještavanje). U tom se smislu neke vrste sadržaja (npr. oglasi ili dokumentarni filmovi) koji uključuju deep fake mogu smatrati očigledno kreativnim ili fiktivnim djelima u određenim posebnim situacijama, ali ne i u drugima, s obzirom na to da se procjena provodi za svaki pojedinačni slučaj. Ako deep fake ima višestruki karakter (npr. informativni i kreativni), informativni karakter uvijek bi trebao prevladati i iziskivati ispunjavanje standardnih zahtjeva u pogledu označivanja. |
|
(123) |
Odgovarajuće otkrivanje kojim se ne ometa prikazivanje djela ili uživanje u njemu: deep fake koji je dio očigledno umjetničkih, kreativnih, satiričnih ili fiktivnih djela ili programa nije isključen iz obveze u pogledu transparentnosti iz članka 50. stavka 4. prvog podstavka UI akta. Subjekti koji uvode sustav i dalje moraju otkriti da sadržaj potječe od umjetne inteligencije ili je njome manipuliran, ali to mogu učiniti na odgovarajući način kojim se ne ometa prikazivanje djela ili uživanje u njemu. U uvodnoj izjavi 134. UI akta pojašnjava se da takvo odgovarajuće otkrivanje ne bi trebalo ometati uobičajeno iskorištavanje i upotrebu, a u isto bi vrijeme trebalo omogućiti održavanje korisnosti i kvalitete djela. Mjere otkrivanja koje se smatraju odgovarajućima potrebno je procijeniti za svaki pojedinačni slučaj, pri čemu subjekti koji uvode sustav mogu uzeti u obzir sve relevantne čimbenike (uključujući prirodu djela, publiku, kontekst itd.). U svakom slučaju subjekti koji uvode sustav moraju postupati u skladu s člankom 50. stavkom 5. UI akta (vidjeti odjeljak 7.). S obzirom na članak 50. stavak 7. UI akta subjekti koji uvode sustav mogu se pridržavati kodeksa prakse koji je u skladu s tom odredbom ocijenjen kao adekvatan kako bi dokazali usklađenost s tom obvezom otkrivanja. Za dodatne informacije o učincima pridržavanja takvog kodeksa i nadzoru drugih subjekata koji uvode sustav, a koji se ne pridržavaju kodeksa, vidjeti odjeljak 8.1. |
|
(124) |
Odgovarajuće zaštitne mjere za prava i slobode trećih strana: u uvodnoj izjavi 134. UI akta objašnjava se da usklađenost s blažom obvezom u pogledu transparentnosti i upotreba umjetničkih, kreativnih, satiričnih ili fiktivnih uvjerljivih krivotvorenih sadržaja moraju biti „podložn[e] odgovarajućim zaštitnim mjerama za prava i slobode trećih strana”. Subjekti koji uvode sustav stoga moraju osigurati da se pri stvaranju ili objavljivanju deep fakea na odgovarajući način štite i poštuju prava i slobode trećih strana (uključujući npr. njihovo pravo na zaštitu osobnih podataka ili prava intelektualnog vlasništva), čak i ako se taj sadržaj smatra umjetničkim, kreativnim, satiričnim ili fiktivnim. Pozivanje na ublaženu obvezu u pogledu transparentnosti ne može biti opravdanje za nepoštovanje temeljnih prava pojedinaca ili nositelja prava na temelju prava Unije o intelektualnom vlasništvu ili o zaštiti podataka (34).
|
6.1.4. Iznimka za potrebe kaznenog progona
|
(125) |
Ako je upotreba deep fakea (npr. videozapisa generiranog umjetnom inteligencijom u kojem se simuliraju događaji koji se nikad nisu odvili) zakonski odobrena za otkrivanje, sprečavanje, istragu ili kazneni progon kaznenih djela, subjekti koji uvode sustav izuzeti su od obveze u pogledu transparentnosti iz članka 50. stavka 4. prvog podstavka UI akta. Pojašnjenja navedena u točkama od 46. do 48. za sličnu iznimku iz članka 50. stavka 1. UI akta relevantna su i za ovu odredbu. |
6.1.5. Međudjelovanje s drugim pravnim aktima Unije
|
(126) |
Obveza u pogledu transparentnosti iz članka 50. stavka 4. prvog podstavka UI akta ostvarit će međudjelovanje s obvezama pružatelja vrlo velikih internetskih platformi i vrlo velikih internetskih tražilica da utvrde i smanje sistemske rizike u skladu s člancima 34. i 35. Akta o digitalnim uslugama, a posebno člankom 35. stavkom 1. točkom (k) tog akta (35). U potonjoj se odredbi među mogućim mjerama za smanjenje rizika koje pružatelji vrlo velikih internetskih platformi i vrlo velikih internetskih tražilica mogu donijeti navode mjere koje osiguravaju da se „informacija, neovisno o tome predstavlja li generiranu ili manipuliranu sliku, audio ili videozapis koji znatno sliči postojećim osobama, predmetima, mjestima ili drugim subjektima ili događajima te se osobi lažno čini vjerodostojnom ili istinitom, može razlikovati s pomoću lako uočljivih oznaka kada je prikazana na njihovim internetskim sučeljima”. Osim toga, pružatelji vrlo velikih internetskih platformi i vrlo velikih internetskih tražilica mogu osigurati i funkciju jednostavnu za upotrebu koja primateljima usluge omogućuje da ukažu na takvu informaciju. Iako se čini da je ta odredba Akta o digitalnim uslugama slična članku 50. stavku 4. UI akta, ona ga dopunjuje i sadržava dvije važne razlike:
|
|
(127) |
Ako deep fake uključuje informacije koje se odnose na (živu) fizičku osobu koja se može izravno ili neizravno identificirati, subjekti koji uvode sustav kao voditelji obrade u skladu s pravom Unije o zaštiti podataka morat će ispuniti i odgovarajuće obveze na temelju prava Unije o zaštiti podataka (37). To uključuje, na primjer, oslanjanje na odgovarajuću pravnu osnovu za obradu osobnih podataka, pružanje informacija o obradi podataka koji se odnose na prikazane ispitanike itd. |
|
(128) |
Nadalje, subjekti koji uvode UI sustave koji generiraju deep fake sadržaj, morat će osigurati usklađenost s relevantnim pravom Unije o intelektualnom vlasništvu (kao što su pravo Unije o žigovima i pravo Unije o autorskom pravu ili srodnim pravima) ako njihov deep fake uključuje predmet zaštite na temelju tog prava. Stavljanje oznake ili ikone na deep fake samo po sebi ne utječe na to ispunjava li taj sadržaj uvjete za zaštitu autorskim pravom, što bi trebalo procijeniti u skladu s primjenjivim pravom Unije o autorskom pravu. |
|
(129) |
Ako deep fake uključuje prikaz stvarnih osoba, subjekti koji uvode sustav morat će poštovati i relevantne pravne režime koji štite prava osobnosti nad vlastitim slikama ili glasom. Obveza u pogledu transparentnosti iz članka 50. stavka 4. prvog podstavka UI akta ne podrazumijeva da se mogu generirati i širiti deep fake sadržaji generirani ili manipulirani umjetnom inteligencijom koji su štetni i nezakoniti na temelju primjenjivog prava Unije ili nacionalnog prava (npr. zavaravajuće oglašavanje) ili kaznenog prava (npr. materijal koji sadržava seksualno zlostavljanje djece i intimne slike generirane bez pristanka) (vidjeti i odjeljak 4.4.). |
6.2. Glavne sastavnice, pojmovi i odgovarajuće obveze u pogledu transparentnosti za tekst generiran ili manipuliran umjetnom inteligencijom iz članka 50. stavka 4. UI akta
|
(130) |
Članak 50. stavak 4. drugi podstavak UI akta primjenjuje se ako je ispunjeno nekoliko uvjeta:
|
6.2.1. Tekst koji se objavljuje u svrhu informiranja javnosti o pitanjima od javnog interesa
|
(131) |
Kako bi se pojasnilo područje primjene članka 50. stavka 4. drugog podstavka UI akta, u nastavku se razmatraju tri elementa: (i) tekst koji se objavljuje (ii) u svrhu informiranja javnosti (iii) o pitanjima od javnog interesa.
|
6.2.2. Obveza otkrivanja iz članka 50. stavka 4. drugog podstavka UI akta
|
(132) |
U skladu s člankom 50. stavkom 4. drugim podstavkom UI akta subjekti koji uvode UI sustave koji generiraju tekst koji se objavljuje u svrhu informiranja javnosti o pitanjima od javnog interesa ili manipuliraju njime moraju navesti da je tekst umjetno generiran ili da je njime manipulirano. U uvodnoj izjavi 134. UI akta objašnjava se da bi, slično kao u slučaju deep fakea, subjekti koji uvode tekstne publikacije obuhvaćene područjem primjene te odredbe trebali jasno istaknuti da je takav sadržaj umjetno stvoren ili da je njime manipulirano označivanjem izlaznih rezultata umjetne inteligencije i navođenjem njegova umjetnog podrijetla. Kao i u slučaju deep fakea, metode označivanja ili otkrivanja (uključujući izjave o odricanju od odgovornosti) koje se primjenjuju u skladu s člankom 50. stavkom 4. drugim podstavkom UI akta trebale bi biti jasne i takve da ih fizičke osobe mogu lako uočiti (npr. vidljive ili zvučne mjere), a da pritom ne moraju koristiti posebne tehničke alate ni poduzimati posebne radnje. S obzirom na članak 50. stavak 7. UI akta subjekti koji uvode sustav mogu se pridržavati kodeksa prakse koji je u skladu s tom odredbom ocijenjen kao adekvatan kako bi dokazali usklađenost s tom obvezom otkrivanja. Za dodatne informacije o učincima pridržavanja takvog kodeksa i nadzoru subjekata koji uvode sustav, a koji se ne pridržavaju takvog kodeksa, vidjeti odjeljak 8.1. |
6.2.3. Iznimka od obveze u pogledu transparentnosti za tekst koji preispituje čovjek ili je pod uredničkom kontrolom i uredničkom odgovornošću
|
(133) |
Člankom 50. stavkom 4. drugim podstavkom UI akta predviđena je iznimka od obveze u pogledu transparentnosti utvrđene u toj odredbi ako su ispunjena dva kumulativna uvjeta: (i) tekst generiran ili manipuliran umjetnom inteligencijom mora proći preispitivanje koje provodi čovjek ili uredničku kontrolu i (ii) pravna ili fizička osoba mora snositi uredničku odgovornost za objavu. Prema potrebi, subjekti koji uvode sustav mogu se pozvati na relevantne primjenjive profesionalne ili deontološke standarde kako bi dokazali usklađenost s tim zahtjevima kako je navedeno u nastavku. |
i.
|
(134) |
Prvi je uvjet za primjenu iznimke iz članka 50. stavka 4. drugog podstavka UI akta to da tekst generiran ili manipuliran umjetnom inteligencijom bude podvrgnut preispitivanju koje provodi čovjek ili uredničkoj kontroli. Preispitivanje koje provodi čovjek odnosi se na ciljano ispitivanje sadržaja koje provodi jedna ili više fizičkih osoba s relevantnim znanjem i sposobnošću stručne prosudbe o predmetu koji se ispituje (npr. akademska istorazinska ocjena ili lanci stručnog vrednovanja). To preispitivanje minimalno mora obuhvaćati provjeru točnosti sadržaja. Urednička kontrola odnosi se na kontrolu sadržaja koju u praksi provodi odgovorni urednički subjekt (npr. glavni urednik) koji je ovlašten za odobravanje, izmjenu ili odbijanje sadržaja teksta na temelju materijalnih razloga (uključujući provjeru točnosti informacija i osiguravanje pouzdanosti izvora). Time se ne dovode u pitanje postojeći postupci preispitivanja i uređivanja ni profesionalni standardi koji se primjenjuju na pružatelje medijskih usluga. |
|
(135) |
Površne, isključivo formalne ili postupovne provjere (npr. provjera pravopisa ili ispravljanje gramatičkih pogrešaka), samo postojanje uredničke politike, automatizirani postupci preispitivanja ili rutinsko uredničko odobrenje pri kojima osoba koja provodi preispitivanje ili urednički subjekt ne zadire u sadržaj ne mogu ispuniti uvjete za preispitivanje koje provodi čovjek ili uredničku kontrolu za potrebe ove iznimke. |
|
(136) |
Ako se UI sustavi upotrebljavaju za izmjenu, dopunu ili preoblikovanje sadržaja nakon uredničkog odobrenja, nastali sadržaj treba se za potrebe članka 50. stavka 4. UI akta smatrati sadržajem generiranim ili manipuliranim umjetnom inteligencijom. Stoga će svaka intervencija u sadržaj koja se uz pomoć umjetne inteligencije izvrši nakon postupka preispitivanja koje provodi čovjek ili uredničke kontrole dovesti do toga da iznimka postane ništavna. |
|
(137) |
S obzirom na članak 50. stavak 7. UI akta subjekti koji uvode sustav mogu se pridržavati kodeksa prakse koji je u skladu s tom odredbom ocijenjen kao adekvatan kako bi dokazali da je ispunjen uvjet preispitivanja koje provodi čovjek ili uredničke kontrole iz te odredbe (posebno subjekti koji uvode sustav, a koji nisu pružatelji medijskih usluga na koje se primjenjuju postojeći profesionalni ili deontološki urednički standardi). Za dodatne informacije o učincima pridržavanja takvog kodeksa i nadzoru subjekata koji uvode sustav, a koji se ne pridržavaju kodeksa, vidjeti odjeljak 8.1. |
|
ii. |
|
(138) |
Drugi je uvjet za primjenu iznimke iz članka 50. stavka 4. drugog podstavka UI akta to da fizička ili pravna osoba snosi uredničku odgovornost za objavu sadržaja. To podrazumijeva da ta osoba mora snositi krajnju pravnu odgovornost za objavu sadržaja, uključujući preispitivanje koje provodi čovjek ili uredničku kontrolu (npr. pojedinac, urednički odbor ili izdavačko društvo). Kako bi se osigurala javna odgovornost i povjerenje te u skladu s postojećim standardima medijske struke, identitet i podaci za kontakt pravne osobe, fizičke osobe ili funkcije koja snosi uredničku odgovornost trebali bi biti javno dostupni na mjestu koje je lako pronaći (ako već nisu dostupni na drugi način). Ti se podaci mogu navesti na internetu, na primjer u uvjetima korištenja internetskih stranica ili drugim pravnim informacijama za korisnike. Izvanmrežno se takve informacije mogu navesti u impresumu ili obavijesti o izdanju.
|
6.2.4. Iznimka za potrebe kaznenog progona
|
(139) |
Ako je upotreba UI sustava za generiranje teksta koji se objavljuje u svrhu informiranja javnosti o pitanjima od javnog interesa bez preispitivanja koje provodi čovjek (npr. upozorenje policije o terorističkoj prijetnji generirano umjetnom inteligencijom i objavljeno na društvenim mrežama) zakonski odobrena za otkrivanje, sprečavanje, istragu ili kazneni progon kaznenih djela, subjekti koji uvode sustav izuzeti su od obveze u pogledu transparentnosti iz članka 50. stavka 4. UI akta. Pojašnjenja navedena u točkama od 46. do 48. za sličnu iznimku iz članka 50. stavka 1. UI akta relevantna su i za ovu odredbu. |
6.2.5. Međudjelovanje s drugim pravnim aktima Unije
|
(140) |
U okviru prava Unije o medijima urednička odgovornost važan je pojam definiran u članku 2. točki 8. Uredbe (EU) 2024/1083 (Europski akt o slobodi medija ili EMFA) (39). U tom kontekstu „urednička odgovornost” znači „izvršavanje stvarne kontrole nad odabirom programâ ili informativnih publikacija i nad njihovom organizacijom radi pružanja medijske usluge, neovisno o postojanju odgovornosti za pruženu uslugu na temelju nacionalnog prava”. U određenim situacijama ta se definicija može preklapati s pojmom uredničke odgovornosti iz članka 50. stavka 4. drugog podstavka UI akta, posebno ako se subjekti koji uvode UI sustav ujedno smatraju pružateljima medijskih usluga na temelju Europskog akta o slobodi medija. Uredničku odgovornost u smislu članka 50. stavka 4. UI akta trebalo bi stoga tumačiti u skladu s postojećom pravnom stečevinom u području medija neovisno o činjenici da je riječ o zasebnom konceptu koji se može primjenjivati i u širim kontekstima i na druge subjekte koji uvode sustav, pod uvjetom da snose uredničku odgovornost za objavu teksta. Pružatelji medijskih usluga mogu se osloniti na svoje postojeće uredničke procese i standarde kako bi iskoristili iznimku iz članka 50. stavka 4. drugog podstavka UI akta. |
7. HORIZONTALNI ZAHTJEVI PRIMJENJIVI NA INFORMACIJE KOJE SE PRUŽAJU NA TEMELJU ČLANKA 50. STAVKA 5. UI AKTA
|
(141) |
U skladu s člankom 50. stavkom 5. UI akta informacije koje se pružaju u skladu s člankom 50. stavcima od 1. do 4. UI akta treba pružiti dotičnim fizičkim osobama na jasan i raspoznatljiv način najkasnije u trenutku prve interakcije ili izlaganja. Te informacije ujedno bi trebale biti u skladu s primjenjivim zahtjevima u pogledu pristupačnosti. Dotične fizičke osobe u tom kontekstu uključuju osobe koje su u izravnoj interakciji s UI sustavom (članak 50. stavak 1. UI akta), aktivne ili pasivne korisnike i druge osobe izložene sintetičkom sadržaju generiranom ili manipuliranom umjetnom inteligencijom (uz izravnu interakciju s UI sustavom ili bez nje (članak 50. stavci 2. i 4. UI akta)) te osobe na koje se primjenjuju sustavi za prepoznavanje emocija ili biometrijsku kategorizaciju (članak 50. stavak 3. UI akta). |
7.1. Pružanje informacija na jasan i raspoznatljiv način
|
(142) |
Smatrat će se da su informacije pružene na jasan način ako su dotičnoj fizičkoj osobi (uključujući osobe s invaliditetom) uočljive, lako razumljive i pristupačne. Smatrat će se da su informacije pružene na raspoznatljiv način ako ih je lako prepoznati kao zasebne u odnosu na druge informacije i okruženje u kojem se sadržaj prikazuje. Moraju biti i lako razumljive publici, među ostalim određenim skupinama kao što su djeca ili osobe s invaliditetom ako su dio publike za koju se može predvidjeti da će biti izložena sadržaju ili u interakciji sa sustavom (40). Kako bi se relevantne informacije pružile na jasan i raspoznatljiv način, one se, među ostalim, mogu prikazati u okviru interakcije (na temelju članka 50. stavka 1. UI akta) ili relevantnog sadržaja (na temelju članka 50. stavaka 2. i 4. UI akta). Neće se smatrati da su informacije pružene na jasan i raspoznatljiv način ako ih fizičke osobe mogu lako previdjeti ili zanemariti u uobičajenim uvjetima izloženosti ili interakcije (npr. ako su uključene samo u priručnik ili skrivene u više razina opcija izbornika na internetskom sučelju ili ako su dio uvjeta korištenja koje korisnici često ne čitaju). |
7.2. Prva interakcija ili izlaganje
|
(143) |
U skladu s člankom 50. stavkom 5. UI akta informacije se dotičnim fizičkim osobama moraju pružiti najkasnije u trenutku prve interakcije ili izlaganja. Prva interakcija ili izlaganje ne odnosi se samo na prvu fizičku osobu koja stupa u interakciju s UI sustavom ili mu je izložena (odnosno njegovu izlaznom rezultatu) nego i na svaku sljedeću prvu interakciju s UI sustavom ili izlaganje UI sustavu (odnosno njegovu izlaznom rezultatu) koju ostvari bilo koja druga fizička osoba. Kad je riječ o prvoj interakciji s UI sustavom, informacije bi se trebale pružiti barem jednom na početku interaktivne sesije, uzimajući u obzir posebne kontekste navedene u točkama 36. i 40. Kad je riječ o sadržaju generiranom ili manipuliranom umjetnom inteligencijom koji je obuhvaćen područjem primjene članka 50. stavaka 2. i 4. UI akta, obveza obavješćivanja primjenjuje se na svaki izlazni rezultat UI sustava u odnosu na svaku fizičku osobu izloženu tom sadržaju. To bi trebalo tumačiti kao svaki trenutak u kojem se razumno može očekivati da će fizička osoba biti izložena izlaznim rezultatima UI sustava i uočiti otkrivanje, uzimajući u obzir posebnosti otkrivanja u slučaju očigledno kreativnih, umjetničkih i drugih djela (vidjeti odjeljak 6.1.3.). Nadalje, subjekti koji uvode sustav mogu obavijestiti fizičke osobe prije prve stvarne interakcije ili izlaganja (npr. na početku sadržaja koji uključuje deep fake). Međutim, ako se razumno može predvidjeti da osobe možda neće pregledavati sadržaj od početka, otkrivanje samo na početku sadržaja nije dovoljno da bi se te osobe odgovarajuće obavijestilo te bi ga, ako je to moguće, trebalo dopuniti otkrivanjem u kasnijim trenucima. To se prema potrebi može provesti uzimajući u obzir cilj obveza u pogledu transparentnosti da se osigura učinkovito obavješćivanje i smisleno informiranje korisnika u sve imerzivnijim i realističnijim okruženjima umjetne inteligencije u kojima je korisnicima sve teže razlikovati podrijetlo i istinitost sadržaja i interakcije.
|
7.3. Usklađenost s primjenjivim zahtjevima u pogledu pristupačnosti
|
(144) |
Dobavljači i subjekti koji uvode UI sustave, a koji su obuhvaćeni područjem primjene raznih obveza u pogledu transparentnosti iz članka 50. stavaka od 1. do 4. UI akta moraju biti upoznati s primjenjivim zahtjevima u pogledu pristupačnosti (npr. na temelju Direktive 2016/2102 (41) i Direktive 2019/882 (42)) i procijeniti moraju li njihov proizvod, usluga ili sadržaj biti u skladu s tim pravilima. U tom slučaju moraju osigurati pristupačnost informacija prenesenih u skladu s člankom 50. UI akta, u skladu s primjenjivim zahtjevima u pogledu pristupačnosti. Člankom 50. UI akta ne uvode se posebni ni dodatni zahtjevi u pogledu pristupačnosti. |
8. IZVRŠAVANJE ČLANKA 50. UI AKTA
|
(145) |
Cilj je ovog odjeljka pojasniti: (i) učinke pridržavanja kodeksa prakse u vezi s usklađenosti s obvezama u pogledu transparentnosti sadržaja generiranog umjetnom inteligencijom; (ii) ulogu nadležnih nadzornih tijela u provedbi članka 50. UI akta; (iii) primjenjive sankcije za povredu tih obveza i (iv) trenutak početka primjene obveza iz članka 50. UI akta. |
8.1. Učinci poštovanja kodeksa prakse koji je ocijenjen adekvatnim
|
(146) |
Dobavljači i subjekti koji uvode UI sustave obuhvaćene područjem primjene članka 50. stavaka 2. i 4. UI akta mogu dokazati usklađenost sa svojim obvezama u pogledu transparentnosti sadržaja generiranog umjetnom inteligencijom iz tih odredaba pridržavanjem kodeksa prakse koji je u skladu s člankom 50. stavkom 7. UI akta ocijenjen kao adekvatan (43). Takav kodeks ne zamjenjuje UI akt ni ove Smjernice. Dopunjuje ih tako što služi kao jedini priznati praktični okvir na razini Unije na temelju kojeg dobavljači i subjekti koji uvode generativne UI sustave mogu dokazati usklađenost s tim obvezama neovisno o mjestu njihova poslovnog nastana, poslovanja i nadležnih tijela za nadzor tržišta. |
|
(147) |
Iako dobavljači i subjekti koji uvode sustav mogu usklađenost s tim obvezama dokazati i odgovarajućim alternativnim sredstvima, pridržavanje kodeksa prakse koji se smatra adekvatnim jednostavan je, predvidljiv i pravno siguran način dokazivanja usklađenosti. U okviru svojih nadzornih aktivnosti Komisija i nadležna tijela za nadzor tržišta procijenit će jesu li se potpisnici kodeksa prakse koji je u skladu s člankom 50. stavkom 7. UI akta (44) ocijenjen kao adekvatan pridržavali tog kodeksa i proveli mjere sadržane u njemu. Budući da će dobavljači i subjekti koji uvode sustav, a koji se pridržavaju kodeksa, transparentno navesti mjere koje provode radi usklađivanja s člankom 50. stavcima 2., 4. i 5. UI akta, uživat će veće povjerenje Komisije, drugih nadležnih tijela za nadzor tržišta i drugih dionika (uključujući širu javnost). Ako potpisnici kodeksa prakse koji je ocijenjen kao adekvatan odluče da se određeni odjeljci kodeksa na njih ne primjenjuju, ti dobavljači i subjekti koji uvode sustav izgubit će mogućnost olakšanog dokazivanja usklađenosti u tom pogledu. |
|
(148) |
Od dobavljača i subjekata koji uvode sustav, a koji nisu potpisnici kodeksa prakse koji se u skladu s člankom 50. stavkom 7. UI akta smatra adekvatnim, očekuje se da usklađenost sa svojim obvezama iz članka 50. stavaka 2., 4. i 5. UI akta dokažu drugim adekvatnim sredstvima. Nadalje, od takvih dobavljača i subjekata koji uvode sustav očekuje se da objasne kako mjere koje provode osiguravaju usklađenost s njihovim obvezama na temelju UI akta. Na primjer, trebali bi provesti analizu nedostataka u kojoj će mjere koje su proveli usporediti s mjerama utvrđenima u kodeksu prakse koji je ocijenjen kao adekvatan. Budući da će nadležna tijela (uključujući Ured za umjetnu inteligenciju) u manjoj mjeri razumjeti kako dobavljači i subjekti koji uvode sustav, a koji nisu potpisnici kodeksa prakse, osiguravaju usklađenost sa svojim obvezama iz članka 50. stavaka 2., 4. i 5. UI akta, pri praćenju usklađenosti vjerojatno će im trebati podrobnije informacije. Na primjer, na dobavljače koji se ne pridržavaju kodeksa prakse može se primjenjivati i veći broj zahtjeva za informacije i zahtjeva za pristup kako bi se procijenila djelotvornost, interoperabilnost, otpornost i pouzdanost tehničkih rješenja primijenjenih radi usklađivanja s člankom 50. stavkom 2. UI akta. Na subjekte koji uvode sustav takvi se zahtjevi mogu primjenjivati i u vezi s njihovom praksom označivanja iz članka 50. stavka 4. UI akta. |
|
(149) |
Nadležna tijela mogu obveze koje se provode u skladu s kodeksom prakse koji se smatra adekvatnim uzeti u obzir kao olakotni čimbenik pri određivanju iznosa novčanih kazni, ovisno o posebnim okolnostima (45). |
|
(150) |
Ako se kodeks prakse ne smatra adekvatnim u skladu s člankom 50. stavkom 7. UI akta, Komisija može donijeti provedbeni akt kojim se utvrđuju zajednička pravila za provedbu obveza iz članka 50. stavaka 2., 4. i 5. UI akta, koja bi se primjenjivala na sve relevantne dobavljače i subjekte koji uvode UI sustave obuhvaćene područjem primjene tih odredaba (46). |
8.2. Tijela za nadzor tržišta
|
(151) |
Tijela za nadzor tržišta koja su imenovale države članice, Ured za umjetnu inteligenciju (47) i Europski nadzornik za zaštitu podataka (48) odgovorni su za nadzor i izvršavanje pravila za UI sustave koji su u njihovoj nadležnosti, uključujući obveze u pogledu transparentnosti utvrđene u članku 50. UI akta. Takva se provedba odvija u okviru sustava nadzora tržišta i sukladnosti proizvoda uspostavljenog Uredbom (EU) 2019/1020 i UI aktom. Ovlasti izvršavanja tijela za nadzor tržišta u odnosu na UI sustave utvrđene su u tim uredbama. Ta tijela mogu poduzimati mjere izvršavanja u odnosu na obveze iz članka 50. UI akta prema vlastitoj inicijativi ili po primitku pritužbe, koju svaka pogođena osoba ili neka druga fizička ili pravna osoba koja ima osnove razmatrati te povrede ima pravo podnijeti (49). Odgovornosti tijela za nadzor tržišta na temelju UI akta ne utječu na ovlasti i zadaće drugih nadzornih tijela ili tijela za temeljna prava na temelju njihova pravnog okvira u situacijama u kojima se primjenjuju i članak 50. UI akta i taj okvir (npr. zaštita podataka ili zaštita potrošača). |
8.3. Sankcije
|
(152) |
Dobavljaču i subjektima koji uvode sustav, a koji ne ispunjavaju primjenjive obveze u pogledu transparentnosti utvrđene u članku 50. UI akta može se izreći novčana kazna u iznosu do 15 000 000 EUR ili, ako je počinitelj povrede poduzeće, do 3 % njegova ukupnog svjetskog godišnjeg prometa za prethodnu financijsku godinu, ovisno o tome koji je iznos veći. Institucije, tijela i agencije EU-a koji prekrše obveze u pogledu transparentnosti mogu podlijegati novčanim kaznama u iznosu do 750 000 EUR. U slučaju malih i srednjih poduzeća (MSP-ova), uključujući start-up poduzeća, maksimalna visina svake novčane kazne odgovara prethodno navedenom postotku ili iznosu, ovisno o tome koji je od ta dva iznosa manji. Novčane kazne moraju biti učinkovite, proporcionalne i odvraćajuće te se njima moraju uzimati u obzir interesi MSP-ova i malih poduzeća srednje tržišne kapitalizacije, uključujući start-up poduzeća, i njihova gospodarska održivost. Pri odlučivanju o izricanju upravne novčane kazne i o njezinu iznosu u svakom pojedinačnom slučaju nadležna tijela trebala bi procijeniti sve relevantne okolnosti specifične situacije i, prema potrebi, niz čimbenika koji utječu na težinu povrede (npr. priroda, težina i trajanje povrede i njezinih posljedica, je li povreda počinjena namjerno ili iz nepažnje, druge otegotne ili olakotne okolnosti, stupanj suradnje s tijelima za nadzor tržišta). |
8.4. Početak primjene
|
(153) |
U skladu s člankom 113. UI akta članak 50. UI akta primjenjivat će se od 2. kolovoza 2026. To znači da na taj datum svi UI sustavi obuhvaćeni područjem primjene koji su stavljeni na tržište ili u upotrebu u Uniji moraju biti usklađeni s tom odredbom, neovisno o datumu njihova stavljanja na tržište ili u upotrebu (50). Uredbom o izmjeni UI akta (Omnibus o umjetnoj inteligenciji), koju je nedavno donio zakonodavac Unije, predviđa se ciljano pravilo o prijelaznom režimu samo za obveze označivanja i prepoznavanja iz članka 50. stavka 2. UI akta za generativne UI sustave koji su stavljeni na tržište ili u upotrebu prije 2. kolovoza 2026. Njime se dobavljačima tih postojećih sustava omogućuje prijelazno razdoblje za usklađivanje sustava do 2. prosinca 2026. Na sustave koji su djelomično interaktivni i djelomično generativni to prijelazno razdoblje može se primjenjivati samo na obvezu označivanja iz članka 50. stavka 2. UI akta, a usklađenost s obvezom otkrivanja za UI sustave koji su u izravnoj interakciji s fizičkim osobama mora se osigurati od 2. kolovoza 2026. |
|
(154) |
Izlazne rezultate generirane ili manipulirane umjetnom inteligencijom i obuhvaćene područjem primjene članka 50. stavka 2. UI akta i deep fake obuhvaćen područjem primjene članka 50. stavka 4. prvog podstavka UI akta koji su generirani ili manipulirani prije 2. kolovoza 2026. nije potrebno retroaktivno obilježiti ni označiti. To vrijedi i za tekstove o pitanjima od javnog interesa obuhvaćene područjem primjene članka 50. stavka 4. drugog podstavka UI akta koji su generirani ili manipulirani umjetnom inteligencijom i objavljeni prije 2. kolovoza 2026. S druge strane, ako su tekstovi koji su generirani ili kojima je manipulirano prije 2. kolovoza 2026. objavljeni na taj datum ili nakon njega, moraju se označiti. S obzirom na cilj UI akta koji se odnosi na transparentnost i jačanje povjerenja u informacijski ekosustav i njegov integritet subjekti koji uvode UI sustave i drugi akteri koji posjeduju ili šire postojeći neoznačeni deep fake sadržaj ipak se potiču da ga označe, pri čemu se od njih ne očekuje da u to ulože nerazmjerne napore (kao što su revizija postojećih baza podataka o sadržaju ili izmjena već otisnute ambalaže proizvoda). |
9. PREISPITIVANJE I AŽURIRANJE SMJERNICA
|
(155) |
Ove Smjernice prvo su tumačenje s praktičnim primjerima obveza u pogledu transparentnosti utvrđenih u članku 50. UI akta. Komisija će ove Smjernice preispitati čim to bude potrebno s obzirom na praktično iskustvo stečeno u provedbi obveza u pogledu transparentnosti te dinamiku tehnoloških, društvenih i regulatornih kretanja u tom području. To uključuje i sva relevantna iskustva stečena provedbom mjera izvršavanja u okviru nadzora tržišta te tumačenja članka 50. UI akta koja donese Sud EU-a. Komisija tijekom preispitivanja može odlučiti povući ili izmijeniti ove Smjernice. Komisija potiče dobavljače i subjekte koji uvode UI sustave, nacionalna tijela za nadzor tržišta u okviru Vijeća za umjetnu inteligenciju i Savjetodavnog foruma za umjetnu inteligenciju, istraživačku zajednicu i organizacije civilnog društva da pridonesu tom postupku tako da se odazovu na buduće pozive na javno savjetovanje. |
(1) Uredba (EU) 2024/1689 Europskog parlamenta i Vijeća od 13. lipnja 2024. o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) (SL L, 2024/1689, 12.7.2024., ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
(2) Članak 1. UI akta.
(3) Članak 2. stavak 1. točka (a), članak 3. stavci 3., 9. i 11. UI akta. Za dodatne smjernice o pojmovima stavljanja na tržište, stavljanja u upotrebu i upotrebe vidjeti Smjernice Komisije o zabranjenim praksama u području umjetne inteligencije, C(2025) 5052 i Obavijest Komisije – „Plavi vodič” o provedbi pravila EU-a o proizvodima 2022., odjeljak 2 (SL C 247, 29.6.2022, str. 1).
(4) Članak 2. stavak 1. točka (c) i uvodna izjava 22. UI akta.
(5) Članak 3. stavak 4. UI akta.
(6) Članak 2. stavak 1. točke (b) i (c) UI akta.
(7) Uredba (EU) 2022/2065 Europskog parlamenta i Vijeća od 19. listopada 2022. o jedinstvenom tržištu digitalnih usluga (SL L 277, 27.10.2022., str. 1.).
(8) Vidjeti odjeljak 2.5. Smjernica Komisije o zabranjenim praksama u području umjetne inteligencije uspostavljenima Uredbom (EU) 2024/1689 (Akt o umjetnoj inteligenciji), Bruxelles, 29.7.2025., C(2025) 5052 final.
(9) Definicija subjekta koji uvodi sustav isključuje i korisnike koji sudjeluju u takvim djelatnostima (vidjeti odjeljak 2.3.).
(10) Uvodna izjava 25. UI akta.
(11) U uvodnoj izjavi 102. UI akta objašnjava se da objava softvera i podataka na temelju besplatnih licencija za softver otvorenog koda „omogućuje njihovo otvoreno dijeljenje i zbog koje im korisnici mogu slobodno pristupiti, upotrebljavati ih, mijenjati i redistribuirati njih ili njihove izmijenjene verzije”.
(12) Za dodatne informacije o članku 5. UI akta vidjeti Smjernice Komisije o zabranjenim praksama u području umjetne inteligencije uspostavljenima Uredbom (EU) 2024/1689 (Akt o umjetnoj inteligenciji), C(2025) 5052 final.
(13) Vidjeti članak 6. UI akta.
(14) Naime, člankom 26. stavkom 11. UI akta uvodi se obveza u pogledu transparentnosti za subjekte koji uvode visokorizične UI sustave koji donose odluke ili pomažu u donošenju odluka povezanih s fizičkim osobama da fizičke osobe obavijeste o tome da su izloženi upotrebi visokorizičnog UI sustava. Te obveze u pogledu transparentnosti dopunjuju obveze iz članka 50. UI akta jer se odnose na razne informacije koje se moraju pružiti fizičkim osobama, ali se mogu objediniti u jedinstvene obavijesti.
(15) Člankom 3. točkom 66. UI akta UI sustav opće namjene definira se kao UI sustav koji se temelji na UI modelu opće namjene i koji može služiti različitim namjenama, ili za izravnu upotrebu ili za integraciju u druge UI sustave.
(16) Članak 50. stavak 2. UI akta sadržava izričito upućivanje na UI sustave opće namjene.
(17) Uvodna izjava 133. UI akta.
(18) Vidjeti članak 3. stavak 1. UI akta. Za dodatne smjernice o konceptu UI sustava vidjeti Smjernice Komisije o definiciji sustava umjetne inteligencije, 29.7.2025., C(2025) 5053 final.
(19) Vidjeti uvodnu izjavu 132. UI akta. To ne znači da sustav mora biti namijenjen tim ranjivim skupinama. Ako je sustav namijenjen interakciji s bilo kojim pripadnikom javnosti, to uključuje i pripadnike ranjivih skupina, koje bi dobavljači trebali uzeti u obzir pri provedbi mjera obavješćivanja.
(20) Vidjeti odjeljak 7.3. o primjenjivim zahtjevima u pogledu pristupačnosti.
(21) Na primjer elektroničke potvrde atributa kako su utvrđene u Uredbi (EU) br. 910/2014 i stavljene na raspolaganje u EU lisnicama za digitalni identitet uspostavljenima na temelju te uredbe, kao i predložene europske poslovne lisnice, mogu poslužiti kao sigurna i učinkovita sredstva za identifikaciju UI agenata. Lisnice omogućuju pohranjivanje i upravljanje elektroničkim potvrdama kojima se provjeravaju identitet, atributi i odobrenja UI agenta, čime se omogućuje neometano i pouzdano otkrivanje fizičkim osobama.
(22) To vrijedi i za slične iznimke u korist aktivnosti kaznenog progona iz članka 50. stavaka od 2. do 4. UI akta.
(23) Direktiva 2005/29/EZ Europskog parlamenta i Vijeća od 11. svibnja 2005. o nepoštenoj poslovnoj praksi poslovnog subjekta u odnosu prema potrošaču na unutarnjem tržištu (SL L 149, 11.6.2005., str. 2).
(24) Direktiva 2011/83/EU Europskog parlamenta i Vijeća od 25. listopada 2011. o pravima potrošača (SL L 304, 22.11.2011., str. 64).
(25) Direktiva 2012/13/EU Europskog parlamenta i Vijeća od 22. svibnja 2012. o pravu na informiranje u kaznenom postupku (SL L 142, 1.6.2012., str. 1.); Direktiva 2012/29/EU Europskog parlamenta i Vijeća od 25. listopada 2012. o uspostavi minimalnih standarda za prava, potporu i zaštitu žrtava kaznenih djela (SL L 315, 14.11.2012., str. 57.).
(26) Kako su definirani u članku 3. točki 1. UI akta.
(27) U uvodnoj izjavi 133. UI akta objašnjava se da je primjereno od dobavljača tih sustava zahtijevati da ugrade tehnička rješenja koja omogućuju označivanje u strojno čitljivom obliku i prepoznavanje toga da je izlazni rezultat generirao ili je njime manipulirao UI sustav, a ne čovjek. U uvodnoj izjavi 135. UI akta upućuje se na obvezu u pogledu prepoznavanja.
(28) Vidjeti Prilog II. Provedbenoj odluci Komisije C(2025) 3871 final o zahtjevu za normizaciju upućenom Europskom odboru za normizaciju i Europskom odboru za elektrotehničku normizaciju u pogledu visokorizičnih UI sustava radi potpore Uredbi (EU) 2024/1689 Europskog parlamenta i Vijeća te o stavljanju izvan snage Provedbene odluke C(2023) 3215 final.
(29) Vidjeti i uvodnu izjavu 11. UI akta.
(30) Vidjeti i uvodnu izjavu 137. UI akta.
(31) Uvodna izjava 136. UI akta.
(32) Taj se kriterij stoga mora tumačiti neovisno i odvojeno od pojma zavaravanja kako je naveden u Direktivi 2005/29/EZ o nepoštenoj poslovnoj praksi poslovnog subjekta u odnosu prema potrošaču na unutarnjem tržištu (Direktiva o nepoštenoj poslovnoj praksi), https://eur-lex.europa.eu/eli/dir/2005/29/oj/.
(33) Vidjeti slično tome članak 1. točku (b) Direktive o audiovizualnim medijskim uslugama.
(34) To se odnosi i na objavljene tekstove čija je svrha informirati javnost o pitanjima od javnog interesa.
(35) Vidjeti i odjeljak 4.4. za dodatne informacije o međudjelovanju članka 50. UI akta i Akta o digitalnim uslugama.
(36) Uvodna izjava 2. Akta o digitalnim uslugama.
(37) Za detaljnije pojašnjenje vidjeti zajedničke smjernice Komisije i Europskog odbora za zaštitu podataka (EDPB) o međudjelovanju UI akta i prava EU-a o zaštiti podataka (u pripremi).
(38) Vidjeti po analogiji C-89/04, Mediakabel, EU:C:2005:348, t. 33.; C-192/04, Lagardère, EU:C:2005:475, t. 31.; C-306/05, SGAE, EU:C:2006:764, t. 37. – 40.; C-527/15, Stichting Brein, EU:C:2017:300, t. 43. – 44. i navedenu sudsku praksu; predmet C-135/23, GEMA, EU:C:2024:526, t. 38. i navedenu sudsku praksu.
(39) Uredba (EU) 2024/1083 Europskog parlamenta i Vijeća od 11. travnja 2024. o uspostavi zajedničkog okvira za medijske usluge na unutarnjem tržištu i izmjeni Direktive 2010/13/EU (Europski akt o slobodi medija) (SL L, 2024/1083, 17.4.2024., ELI: http://data.europa.eu/eli/reg/2024/1083/oj).
(40) Ako ciljana publika sadržaja uključuje djecu, te obavijesti moraju biti: (i) prilagođene djeci i primjerene njihovoj dobi te lako razumljive i lako dostupne svoj djeci, uključujući djecu s invaliditetom i/ili dodatnim potrebama za pristupačnošću; (ii) prikazane jasno i lako razumljivo te što jednostavnije i sažetije; (iii) prikazane na načine koji omogućuju lako pregledavanje i osiguravaju neposredan i intuitivan pristup na mjestima na kojima su relevantne; (iv) navedene na službenom jeziku države članice u kojoj se pruža usluga; (v) zanimljive djeci. To može uključivati korištenje grafičkih prikaza, videozapisa i/ili znakova ili drugih tehnika; (vi) stavljene djeci na raspolaganje postupno i s vremenom kako bi ih što bolje zapamtila.
(41) Direktiva (EU) 2016/2102 Europskog parlamenta i Vijeća od 26. listopada 2016. o pristupačnosti internetskih stranica i mobilnih aplikacija tijela javnog sektora (Tekst značajan za EGP) (SL L 327, 2.12.2016., str. 1.).
(42) Direktiva (EU) 2019/882 Europskog parlamenta i Vijeća od 17. travnja 2019. o zahtjevima za pristupačnost proizvoda i usluga (Tekst značajan za EGP), PE/81/2018/REV/1 (SL L 151, 7.6.2019., str. 70.).
(43) Vidjeti relevantne informacije o Kodeksu dobre prakse za transparentnost sadržaja generiranog umjetnom inteligencijom | Izgradnja digitalne budućnosti Europe objavljenom 10. lipnja 2026.
(44) Vidjeti Mišljenje Komisije o ocjeni Kodeksa dobre prakse za transparentnost sadržaja generiranog umjetnom inteligencijom | Izgradnja digitalne budućnosti Europe.
(45) Članak 99. stavak 7. točka (e) UI akta.
(46) Članak 50. stavak 7. UI akta.
(47) Kao tijelo za nadzor tržišta za UI sustave koji se temelje na UI modelima opće namjene istog dobavljača (članak 75. stavak 1. UI akta). To obuhvaća obvezu koja se primjenjuje na dobavljače iz članka 50. stavaka 1. i 2. UI akta. Kad je riječ o članku 50. stavcima 3. i 4. UI akta, Ured za umjetnu inteligenciju bit će nadležan samo ako je predmetni dobavljač UI modela opće namjene i sustava ujedno i subjekt koji uvodi sustav.
(48) Kao tijelo za nadzor tržišta za institucije, agencije i tijela EU-a.
(49) Članak 85. UI akta.
(50) Posebno pravilo o prijelaznom režimu iz članka 111. stavka 2. UI akta primjenjuje se na visokorizične UI sustave stavljene na tržište prije datuma početka primjene pravila o visokorizičnim UI sustavima samo u pogledu usklađenosti tih sustava sa zahtjevima i obvezama povezanima s visokorizičnim UI sustavima. Ako se na visokorizični UI sustav primjenjuje i jedna ili više obveza u pogledu transparentnosti iz članka 50. UI akta, to se posebno pravilo o prijelaznom režimu ne primjenjuje jer se različite obveze za visokorizične UI sustave i obveze u pogledu transparentnosti iz članka 50. primjenjuju kumulativno, a pravilo o prijelaznom režimu opravdano je i ograničeno samo na usklađenost s odredbama o visokorizičnim UI sustavima.
ELI: http://data.europa.eu/eli/C/2026/6005/oj
ISSN 1977-1088 (electronic edition)