European flag

Uradni list
Evropske unije

SL

Serija C


C/2026/6005

12.11.2026

SPOROČILO KOMISIJE

Smernice za izvajanje obveznosti glede preglednosti za nekatere sisteme UI v skladu s členom 50 Uredbe (EU) 2024/1689 (akt o umetni inteligenci)

(C/2026/6005)

Kazalo

1.

OZADJE IN CILJI 3

2.

PREGLED OBVEZNOSTI GLEDE PREGLEDNOSTI IN HORIZONTALNIH TEM 3

2.1

Pregled obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci 3

2.2

Utemeljitev in cilji 4

2.3

Odgovorni akterji v skladu s členom 50 akta o umetni inteligenci 5

2.4

Izključitve s področja uporabe akta o umetni inteligenci 7

2.4.1

Uvajalci, ki delujejo v okviru povsem osebne nepoklicne dejavnosti 7

2.4.2

Raziskave in razvoj 8

2.4.3

UI, objavljena na podlagi prostih in odprtokodnih licenc 8

2.5

Medsebojni vpliv s prepovedanimi praksami, zahtevami za visokotvegane sisteme UI in pismenostjo na področju UI 9

2.6

Medsebojni vpliv s pravili, ki se uporabljajo za modele in/ali sisteme UI za splošne namene 9

3.

ČLEN 50(1) AKTA O UMETNI INTELIGENCI: PREGLEDNOST ZA INTERAKTIVNE SISTEME UI 9

3.1

Glavni elementi, pojmi in povezane obveznosti glede preglednosti 10

3.1.1

Sistemi UI, namenjeni neposredni interakciji s fizičnimi osebami 10

3.1.2

Obveznost obveščanja iz člena 50(1) akta o umetni inteligenci 12

3.2

Izjeme od obveznosti obveščanja iz člena 50(1) akta o umetni inteligenci 14

3.2.1

Izjema za očitno interakcijo s sistemom UI 14

3.2.2

Izjema za sisteme UI, ki so z zakonom dovoljeni za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj 16

3.3

Medsebojno delovanje z drugimi pravnimi akti Unije 17

4.

ČLEN 50(2) AKTA O UMETNI INTELIGENCI: OZNAČEVANJE IN ODKRIVANJE Z UI USTVARJENIH ALI PRIREJENIH VSEBIN 18

4.1

Glavni sestavni deli in pojmi iz člena 50(2) akta o umetni inteligenci 18

4.1.1

Sistemi UI, ki ustvarjajo ali prirejajo sintetično vsebino 18

4.1.2

Načini sintetične vsebine, ki spadajo na področje uporabe 19

4.1.3

Vsebina, ki ne spada na področje uporabe člena 50(2) akta o umetni inteligenci 20

4.2

Obveznost označevanja in prepoznavanja iz člena 50(2) akta o umetni inteligenci 21

4.2.1

Obveznost označevanja 21

4.2.2

Obveznost prepoznavanja 22

4.2.3

Skladnost z zahtevami za tehnične rešitve: učinkovite, interoperabilne, robustne in zanesljive 22

4.3

Izjeme od obveznosti iz člena 50(2) akta o umetni inteligenci 24

4.4

Medsebojno delovanje z drugimi pravnimi akti Unije 25

5.

ČLEN 50(3) AKTA O UMETNI INTELIGENCI: SISTEMI ZA PREPOZNAVANJE ČUSTEV IN SISTEMI ZA BIOMETRIČNO KATEGORIZACIJO 26

5.1

Glavni elementi, pojmi in povezane obveznosti glede preglednosti na podlagi člena 50(3) akta o umetni inteligenci 27

5.1.1

Pojem sistema za prepoznavanje čustev 27

5.1.2

Pojem sistema za biometrično kategorizacijo 27

5.1.3

Obveznost obveščanja iz člena 50(3) akta o umetni inteligenci 27

5.2

Izjema za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj 28

5.3

Medsebojno delovanje z drugimi pravnimi akti Unije 28

6.

ČLEN 50(4): OZNAČEVANJE GLOBOKIH PONAREDKOV IN NEKATERIH BESEDILNIH OBJAV 28

6.1

Glavni elementi, pojmi in povezane obveznosti glede preglednosti za globoke ponaredke na podlagi člena 50(4) akta o umetni inteligenci 28

6.1.1

Pojem „globoki ponaredek“ 29

6.1.2

Obveznost razkritja iz člena 50(4), prvi pododstavek, akta o umetni inteligenci 31

6.1.3

Preglednost umetniških, ustvarjalnih, satiričnih, fiktivnih ali podobnih globokih ponaredkov 32

6.1.4

Izjema za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj 34

6.1.5

Medsebojno delovanje z drugimi pravnimi akti Unije 34

6.2

Glavni elementi, pojmi in povezane obveznosti glede preglednosti v zvezi z besedilom, ustvarjenim ali prirejenim z UI, iz člena 50(4) akta o umetni inteligenci 35

6.2.1

Besedilo, objavljeno z namenom obveščanja javnosti o zadevah javnega interesa 36

6.2.2

Obveznost razkritja iz člena 50(4), drugi pododstavek, akta o umetni inteligenci 37

6.2.3

Izjema od obveznosti glede preglednosti za besedilo, ki je predmet človeške preverbe ali uredniškega pregleda in uredniške odgovornosti 37

6.2.4

Izjema za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj 38

6.2.5

Medsebojno delovanje z drugimi pravnimi akti Unije 39

7.

HORIZONTALNE ZAHTEVE, KI SE UPORABLJAJO ZA INFORMACIJE, ZAGOTOVLJENE V SKLADU S ČLENOM 50(5) AKTA O UMETNI INTELIGENCI 39

7.1

Zagotavljanje informacij na jasen in razpoznaven način 39

7.2

Prva interakcija ali izpostavljenost 40

7.3

Skladnost z veljavnimi zahtevami glede dostopnosti 40

8.

 

40

8.1

Učinki upoštevanja kodeksa prakse, ocenjenega kot ustreznega 41

8.2

Organi za nadzor trga 42

8.3

Kazni 42

8.4

Začetek uporabe 42

9.

PREGLED IN POSODOBITEV SMERNIC 43

1.   OZADJE IN CILJI

(1)

Uredba (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi nekaterih uredb (v nadaljnjem besedilu: akt o umetni inteligenci) je začela veljati 1. avgusta 2024 (1). Akt o umetni inteligenci določa harmonizirana pravila za dajanje umetne inteligence (UI) na trg, njeno dajanje v uporabo in njeno uporabo v Uniji (2). Njegov cilj je spodbujati inovacije na področju zaupanja vredne UI in njeno uvajanje ter hkrati zagotavljati visoko raven varovanja zdravja, varnosti in temeljnih pravic v Uniji, vključno z demokracijo in pravno državo.

(2)

Akt o umetni inteligenci upošteva pristop, ki temelji na tveganju, sistemi UI pa so razvrščeni v štiri različne kategorije tveganja, pri čemer eno od teh kategorij predstavljajo sistemi UI, ki pomenijo tveganja v zvezi s preglednostjo in za katere veljajo obveznosti iz člena 50 akta o umetni inteligenci. Te obveznosti glede preglednosti se začnejo uporabljati dve leti po začetku veljavnosti akta o umetni inteligenci, tj. od 2. avgusta 2026.

(3)

V skladu s členom 96(1), točka (d), akta o umetni inteligenci se te smernice Komisije izdajajo kot praktična navodila za pomoč pristojnim organom ter ponudnikom in uvajalcem sistemov UI pri doslednem, učinkovitem, sorazmernem in enotnem zagotavljanju skladnosti z obveznostmi glede preglednosti iz člena 50 akta o umetni inteligenci.

(4)

Pri pripravi teh smernic so bili upoštevani prispevki različnih deležnikov, zbrani med obsežnim posvetovanjem, ki ga je organizirala Komisija, prispevki držav članic v Odboru za umetno inteligenco ter prispevki deležnikov o osnutku smernic, objavljenem za posvetovanje.

(5)

Te smernice niso zavezujoče. Kakršno koli verodostojno razlago akta o umetni inteligenci lahko dokončno poda le Sodišče Evropske unije (v nadaljnjem besedilu: Sodišče).

2.   PREGLED OBVEZNOSTI GLEDE PREGLEDNOSTI IN HORIZONTALNIH TEM

2.1   Pregled obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci

(6)

Člen 50 akta o umetni inteligenci vključuje štiri obveznosti glede preglednosti, od katerih se vsaka uporablja za različne vrste sistemov UI ali njihove izhodne podatke.

Določba

Vrsta sistema UI/izhodnih podatkov

Obveznost glede preglednosti

Izjeme ali posebne ureditve

Člen 50(1)

Sistemi UI v neposredni interakciji s fizičnimi osebami

Ponudniki morajo sistem UI zasnovati in razviti tako, da so zadevne fizične osebe obveščene, da so v interakciji s sistemom UI.

Izjemi: 1) če je umetni izvor interakcije očiten ali 2) če je sistem z zakonom odobren za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj, razen če je sistem na voljo javnosti za prijavo kaznivega dejanja.

Člen 50(2)

Sistemi UI, ki ustvarjajo ali prirejajo sintetično slikovno, video, zvočno ali besedilno vsebino

Ponudniki morajo zagotoviti, da so izhodni podatki sistema UI označeni v strojno berljivi obliki in jih je mogoče s tehničnimi rešitvami, ki so učinkovite, interoperabilne, robustne in zanesljive, prepoznati kot umetno ustvarjene ali prirejene.

Izjemi: če 1) sistem UI zagotavlja podporno funkcijo za standardno urejanje ali ne spreminja bistveno vhodnih podatkov ali njihove semantike ali 2) je sistem UI z zakonom dovoljen za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj.

Člen 50(3)

Sistemi UI za prepoznavanje čustev ali biometrično kategorizacijo

Uvajalci morajo fizične osebe, ki so izpostavljene sistemu, obvestiti o delovanju sistema UI.

Izjema: če je sistem UI z zakonom dovoljen za odkrivanje, preprečevanje ali preiskovanje kaznivih dejanj.

Člen 50(4)

Sistemi UI, ki ustvarjajo ali prirejajo globoke ponaredke ali besedilo, ki se objavi z namenom obveščanja javnosti o zadevah javnega interesa

Uvajalci morajo razkriti, da je bila vsebina umetno ustvarjena ali prirejena.

Izjemi: če 1) je sistem UI zakonsko dovoljen za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj ali 2) če je bila besedilna objava predmet človeške preverbe ali uredniškega pregleda in se zanjo prevzame uredniška odgovornost.

Za globoke ponaredke, ki so del umetniških, ustvarjalnih, fiktivnih, satiričnih ali podobnih del ali programov, se uporablja posebna ureditev razkritja.

(7)

Vsaka od teh štirih obveznosti je obravnavana v oddelkih 3 do 6 teh smernic. Poleg tega člen 50(5) akta o umetni inteligenci zahteva, da se informacije iz njegovih odstavkov 1 do 4 dajo na voljo zadevnim fizičnim osebam na jasen in razpoznaven način ter najpozneje ob prvi interakciji ali izpostavljenosti ter da so skladne z veljavnimi zahtevami glede dostopnosti. V oddelku 7 so te zahteve pojasnjene.

(8)

Različne obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci se lahko kumulativno uporabljajo za (izhodne podatke) posameznega sistema UI, kar lahko pomeni odgovornost različnih akterjev (ponudnikov ali uvajalcev). Na primer, če sistem UI ustvarja slike kot del neposredne interakcije s fizično osebo, bo ponudnik sistema morda moral ravnati v skladu tako s členom 50(1) kot s členom 50(2) akta o umetni inteligenci. Kadar lahko ta sistem ustvarja tudi slike, ki so globoki ponaredki, ali besedilo, ki se objavi o zadevah javnega interesa, bo uvajalec morda moral poleg tega ravnati v skladu s členom 50(4) akta o umetni inteligenci.

2.2   Utemeljitev in cilji

(9)

Kot je pojasnjeno v uvodnih izjavah 132–136 akta o umetni inteligenci, je namen obveznosti glede preglednosti zmanjšati tveganja lažnega predstavljanja, zavajanja, napačnih informacij, manipulacije v velikem obsegu in goljufij ter ublažiti morebitne škodljive vplive na demokratične procese in družbeno zaupanje, ki jih povzroča z UI ustvarjena ali prirejena vsebina ali interakcija. Obveščanje posameznikov o tem, da interakcija in vsebina izvirata iz UI, jim bo pomagalo sprejemati informirane odločitve, hkrati pa prispevalo k ohranjanju zaupanja in celovitosti informacijskega ekosistema. Preglednost ni le tehnična zahteva glede skladnosti, temveč pogoj, da se fizičnim osebam omogoči prepoznavanje interakcij in vsebin, posredovanih z UI, ali uporabe sistemov za prepoznavanje čustev ali biometrično kategorizacijo. Z zagotavljanjem pregledne in zaupanja vredne uporabe interaktivnih in generativnih sistemov UI se bo omogočilo tudi varovanje osebne avtonomije in evropskih vrednot, človekovega dostojanstva in drugih temeljnih pravic (npr. svobode misli, zasebnosti, enakosti in nediskriminacije, varstva potrošnikov, intelektualne lastnine itd.), hkrati pa ohranjanje svobode izražanja in verodostojnosti medijskih vsebin.

2.3   Odgovorni akterji v skladu s členom 50 akta o umetni inteligenci

(10)

V skladu s členom 3, točka (3), akta o umetni inteligenci so ponudniki fizične ali pravne osebe, javni organi, agencije ali druga telesa, ki razvijejo sisteme UI ali jih imajo razvite ter jih dajo na trg Unije ali v uporabo pod svojim imenom ali znamko, za plačilo ali brezplačno. Ponudniki morajo izpolnjevati ustrezne obveznosti glede preglednosti iz člena 50(1) in (2) akta o umetni inteligenci, ki se uporabljajo zanje, ne glede na to, ali imajo sedež ali se nahajajo v Uniji ali v tretji državi (3). Za ponudnike, ki imajo sedež ali se nahajajo zunaj Unije, prav tako velja akt o umetni inteligenci, če se izhodni podatki njihovega sistema UI uporabljajo v Uniji (4). Vendar zgolj naključna, nepredvidljiva ali nepooblaščena uporaba nižje v verigi sama po sebi ne bi smela privesti do uporabe obveznosti za take ponudnike interaktivnih ali generativnih sistemov UI iz tretjih držav, ki niso dani na trg ali v uporabo v Uniji, brez poseganja v pooblastila pristojnih organov za nadzor trga, da njihove izhodne podatke štejejo za neskladne z aktom o umetni inteligenci.

(11)

Ponudniki morajo zagotoviti, da je preglednost vgrajena v zasnovo in delovanje njihovih interaktivnih ali generativnih sistemov UI, ter zagotoviti, da so vse ustrezne obveznosti glede preglednosti iz člena 50(1), (2) in (5) akta o umetni inteligenci izpolnjene najpozneje ob dajanju teh sistemov na trg ali v uporabo. Vse fizične osebe, ki so v interakciji s sistemom UI ali so izpostavljene njegovim izhodnim podatkom, ki spadajo na področje uporabe, morajo biti učinkovito in dosledno obveščene skozi celoten življenjski cikel sistema UI, kot ga je ta ponudnik dal na trg ali v uporabo (ne glede na to, kdo so uvajalci ali drugi uporabniki sistema).

Podjetje na primer zagotavlja generativno ali interaktivno aplikacijo UI (npr. klepetalnega bota, generator slik, agenta UI) na trgu Unije pod svojim imenom ali znamko potrošnikom, poklicnim uporabnikom ali drugim pravnim osebam, ki lahko sistem UI neposredno uporabljajo za interakcijo ali ustvarjanje vsebin (tudi tako, da sistem vključijo v svoje obstoječe procese in ga ustrezno uporabljajo brez potrebe po spremembah ali dodatnih komponentah). To podjetje je ponudnik, odgovoren za skladnost z obveznostmi glede preglednosti iz člena 50(1) in/ali (2) akta o umetni inteligenci, ne glede na to, ali se sistem UI zagotavlja brezplačno ali za plačilo in ne glede na to, ali ima ponudnik sedež ali se nahaja v Uniji ali v tretji državi.

Drug primer ponudnika je podjetje ali druga organizacija (npr. javni organ), ki je interno razvila interaktivni sistem UI (npr. klepetalnega bota) in ga daje v uporabo v Uniji za lastno uporabo in pod svojim imenom ali znamko.

Če podjetje prevzame že obstoječi generativni sistem UI, ki ga je na trg dal drug ponudnik, in ta sistem spremeni (npr. z novimi učnimi podatki), nato pa ga da v uporabo pod svojim imenom ali znamko, to podjetje postane ponudnik novega sistema, brez poseganja v odgovornost ponudnika prvotnega sistema UI za slednjega.

(12)

Uvajalci so fizične ali pravne osebe, javni organi, agencije ali druga telesa, ki sisteme UI uporabljajo v svoji pristojnosti, kadar se uporabljajo za osebno nepoklicno dejavnost (5). „Pristojnost“ za sistem UI bi bilo treba razumeti kot prevzemanje odgovornosti za odločitev o uvedbi sistema in za način dejanske uporabe sistema (vključno z njegovimi izhodnimi podatki). Za to ni nujno potreben tehnični nadzor nad delovanjem sistema UI, če uvajalec sprejme odločitev, za katere namene in kako uporabljati sistem UI (tudi v decentraliziranih potekih dela in korporacijskih strukturah skupin). Uvajalci, vključeni v kompleksne vrednostne verige proizvodnje in distribucije vsebin, bi morali sprejeti sorazmerne ukrepe za zagotovitev, da je označevanje vsebine, ki so ga izvedli v skladu s členom 50(4) akta o umetni inteligenci, ciljnemu in predvidljivemu občinstvu na mestu prve izpostavljenosti prikazano na jasen in razpoznaven način v skladu s členom 50(5) akta o umetni inteligenci (npr. s pogodbenimi pogoji z distribucijskimi partnerji, nastavitvami uporabniške izkušnje (UX) in vmesniki, ki se prikazujejo).

(13)

Uvajalci spadajo na področje uporabe obveznosti glede preglednosti iz člena 50(3) in (4) akta o umetni inteligenci, če imajo sedež ali se nahajajo v Uniji ali če imajo sedež ali se nahajajo v tretji državi, kadar se izhodni podatki sistema UI uporabljajo v Uniji (6). V slednjem primeru se obveznosti glede preglednosti uporabljajo za subjekte, ki se nahajajo ali imajo sedež zunaj Unije, kadar uvajalec sam predvideva razširjanje in uporabo izhodnih podatkov UI v Uniji (tj. z usmerjanjem ali dovoljevanjem distribucije v Uniji, tudi z objavljanjem globokih ponaredkov na globalno dostopnem internetu). Vendar obveznosti glede preglednosti ne zavezujejo uvajalcev iz tretjih držav, kadar vsebina sistema UI doseže občinstvo v Uniji po kanalih, ki so nepredvidljivi in jih ne morejo nadzorovati.

(14)

Kadar je uvajalec sistema UI pravna oseba, v okviru pristojnosti katere se sistem uporablja (npr. oglaševalsko podjetje), se posamezni zaposleni, ki ravnajo po navodilih in pod nadzorom te pravne osebe (npr. digitalni animatorji, spletni oblikovalci, ustvarjalci vsebin, novinarji), ne bi smeli šteti za ločene uvajalce tega sistema. Pravna oseba ostane uvajalec tudi, če v delovanje sistema v svojem imenu ter na svojo odgovornost in pod svojim nadzorom vključi tretje osebe (npr. izvajalce, samostojne delavce).

Na primer medijska hiša s sedežem v Uniji, katere uredniki uporabljajo sistem UI za podporo svojemu pisnemu poročanju o aktualnih dogodkih z besedilnimi objavami o zadevah javnega interesa, ustvarjenimi z UI in objavljenimi na svetovno dostopnem spletišču, je uvajalec, ki spada na področje uporabe akta o umetni inteligenci. Podobno je tudi podjetje s sedežem v tretji državi, ki uporablja sistem UI za ustvarjanje globokega ponaredka slavne osebe, prikazanega v oglasu, ki se prikazuje v Uniji, uvajalec, ki spada na področje uporabe akta o umetni inteligenci.

Nasprotno pa podjetje, ki oglaševalski agenciji zgolj naroči izdelavo oglasa, ne da bi sprejemalo odločitve in izvajalo nadzor nad tem, ali in kako oglaševalska agencija uporablja UI v proizvodnem procesu, ni uvajalec.

(15)

Operaterji (npr. ponudniki in uvajalci) lahko v zvezi s sistemom UI hkrati opravljajo več kot eno vlogo. Podjetje lahko na primer interno razvije generativni sistem UI in ga uporablja za ustvarjanje globokih ponaredkov. V takem primeru se bo štelo za ponudnika in uvajalca, ki mora zagotoviti skladnost z obveznostmi glede strojno berljivega označevanja iz člena 50(2) ter zahtevami za jasno in zaznavno označevanje globokih ponaredkov iz člena 50(4) akta o umetni inteligenci.

(16)

Nasprotno pa drugi akterji (kot so ponudniki storitev gostovanja, vključno s spletnimi platformami, ali radiodifuzijske hiše), katerih vloga je omejena na razširjanje ali prenos vsebine, ki so jo ustvarile tretje osebe in je ustvarjena z UI ali prirejena z njo, ali ki prejemajo vsebino, ustvarjeno z UI ali prirejeno z njo, ali so ji izpostavljeni, ne da bi imeli pristojnost nad uporabo sistema UI za namen ustvarjanja vsebin z UI ali prirejanja z njo, niso uvajalci v smislu akta o umetni inteligenci. Čeprav ti akterji niso odgovorni na podlagi akta o umetni inteligenci, lahko vseeno imajo pomembno vlogo v vrednostni verigi pri ohranjanju zaupanja in celovitosti informacijskega ekosistema. Zato se jim močno priporoča, naj ohranijo strojno berljive oznake in označevanje, izvedene v skladu s členom 50 akta o umetni inteligenci, ter izvedejo sorazmerne in tehnično izvedljive ukrepe, da fizičnim osebam omogočijo odkrivanje vsebine, ustvarjene z UI ali prirejene z njo, brez poseganja v odgovornost ponudnikov in uvajalcev generativnih sistemov UI ali kakršne koli obveznosti ali odgovornost v skladu z Uredbo (EU) 2022/2065 (Akt o digitalnih storitvah) (7) ali drugim veljavnim pravom Unije ali nacionalnim pravom.

(17)

Tudi druge akterje, ki delujejo v okviru svoje poklicne dejavnosti in razširjajo vsebino (tudi če niso neposredno vključeni na podlagi člena 50 akta o umetni inteligenci), se spodbuja, naj sprejmejo sorazmerne in ustrezne ukrepe, da so fizične osebe, ki so nazadnje izpostavljene vsebini, učinkovito obveščene in lahko odkrijejo njen umetno ustvarjen ali prirejen izvor. Poleg tega se lahko od teh strank zahteva, da ustrezne globoke ponaredke ali besedilne objave o zadevah javnega interesa označijo na podlagi drugih veljavnih pravnih ali deontoloških pravil (npr. radiodifuzijska hiša, ki označi globoki ponaredek, ki ga je ustvarila fizična oseba, in ga prikaže kot del televizijske oddaje). Vendar zgolj to, da akter označuje vsebino ali uporablja označeno vsebino, ne pomeni, da se šteje za „uvajalca“ v smislu akta o umetni inteligenci. Akt o umetni inteligenci ne razširja pravne odgovornosti teh akterjev na podlagi veljavnih pravnih okvirov niti ne vpliva nanjo, če se hkrati ne štejejo za ponudnike ali uvajalce sistemov UI.

2.4   Izključitve s področja uporabe akta o umetni inteligenci

(18)

Člen 2 akta o umetni inteligenci določa več splošnih izključitev s področja uporabe akta o umetni inteligenci, ki so že bile pojasnjene v smernicah Komisije o prepovedanih praksah umetne inteligence (8). V tem oddelku bodo zato obravnavani le tisti vidiki, ki so pomembni za obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci.

2.4.1   Uvajalci, ki delujejo v okviru povsem osebne nepoklicne dejavnosti

(19)

V skladu s členom 2(10) akta o umetni inteligenci se uredba „ne uporablja za obveznosti uvajalcev, ki so fizične osebe in uporabljajo sisteme UI v okviru povsem osebne nepoklicne dejavnosti“ (9). Za „poklicno“ dejavnost bi bilo treba šteti vsako dejavnost, s katero fizične osebe redno pridobivajo gospodarsko korist ali je kako drugače vključena v poklicno, poslovno, trgovinsko, obrtno ali samostojno dejavnost. Opredelitev pojma „povsem osebno“ je kvalifikator nepoklicne dejavnosti, kar pomeni, da bi morala oseba delovati v osebni in nepoklicni vlogi, da spada na področje uporabe izjeme. Na področje uporabe obveznosti glede preglednosti uvajalca, ki deluje v okviru poklicne dejavnosti, iz člena 50(3) in (4) akta o umetni inteligenci bo spadala vsaka uporaba, pri kateri fizične osebe delujejo v imenu uvajalca, ki deluje v okviru poklicne dejavnosti, ali pod njegovim vodstvom.

Primeri osebne nepoklicne uporabe sistemov UI, ki so izključeni s področja uporabe:

—

posamezniki, ki uporabljajo sistem UI za ustvarjanje globokih ponaredkov članov svojega gospodinjstva;

—

posamezniki, ki uporabljajo sistem UI osebno za ustvarjanje besedila o različnih temah (npr. študenti, ki uporabljajo UI za pisanje domačih nalog);

—

posamezniki, ki uporabljajo sistem UI osebno za ustvarjanje globokih ponaredkov, ki se razširjajo v družbenih medijih.

(20)

Izključitev iz člena 2(10) akta o umetni inteligenci se uporablja le v zvezi z obveznostmi uvajalcev, ki sistem uporabljajo za povsem osebne nepoklicne dejavnosti. Sistem kot tak še naprej spada na področje uporabe akta o umetni inteligenci, kar zadeva obveznosti ponudnikov, ki dajejo sistem na trg ali v uporabo, in uvajalcev, ki sistem uporabljajo v poklicne namene. Izjema prav tako ne posega v uporabo drugega zadevnega prava Unije in nacionalnega prava.

Na primer, ponudnik sistema UI, uporabljenega za ustvarjanje globokih ponaredkov, ki bodo vključeni v osebno božično voščilnico, bi moral te globoke ponaredke označiti na strojno berljiv način v skladu z obveznostjo glede preglednosti iz člena 50(2) akta o umetni inteligenci. Hkrati uporaba sistema s strani fizičnih oseb za povsem osebne nepoklicne dejavnosti ne bo zajeta v obveznosti uvajalca iz člena 50(4) akta o umetni inteligenci.

2.4.2   Raziskave in razvoj

(21)

Člen 2(6) akta o umetni inteligenci zagotavlja izključitev za sisteme UI ali modele UI, vključno z njihovimi izhodnimi podatki, posebej razvite in dane v uporabo zgolj za namene znanstvenih raziskav in razvoja. Ta izključitev ne posega v veljavne etične standarde raziskav ter zakonodajo EU o varstvu podatkov in drugo zakonodajo. V okviru člena 50 akta o umetni inteligenci ta izključitev ne zajema le interaktivnih sistemov UI, temveč tudi izhodne podatke generativnih sistemov UI (vključno z vsebino globokih ponaredkov), ki se uporabljajo v okviru znanstvenih raziskav. Če pa se ti sistemi dajejo v uporabo ali se njihovi izhodni podatki uporabljajo za druge namene in ne izključno za znanstvene raziskave in razvoj, bi bilo treba še vedno izpolnjevati ustrezne obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci.

Na primer, če raziskovalci razvijejo ter dajo na trg ali v uporabo interaktivni sistem UI in želijo raziskati, ali so fizične osebe pri govorni interakciji s tem sistemom UI sposobne razlikovati med sistemi UI in ljudmi, jim ni treba izvajati zadevnih obveznosti glede preglednosti iz člena 50(1) in (2) akta o umetni inteligenci. Če pa se isti interaktivni sistem UI daje v uporabo tudi za druge namene kot za raziskave in razvoj, bi bilo treba izpolnjevati ustrezne obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci.

(22)

Člen 2(8) akta o umetni inteligenci poleg tega izključuje raziskovalne dejavnosti, dejavnosti testiranja ali razvojne dejavnosti v zvezi s sistemi UI ali modeli UI, preden se ti dajo na trg ali v uporabo. Ta izključitev ne zajema testiranja v realnih razmerah (v regulativnih peskovnikih za UI ali zunaj njih). Poleg tega bi moral sistem UI, potem ko je kot rezultat takih raziskovalnih dejavnosti raziskav in dejavnosti testiranja dan na trg ali v uporabo, kljub temu izpolnjevati ustrezne obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci (10).

2.4.3   UI, objavljena na podlagi prostih in odprtokodnih licenc

(23)

V skladu s členom 2(12) akta o umetni inteligenci sistemi UI, objavljeni na podlagi prostih in odprtokodnih licenc, ne spadajo na področje uporabe akta o umetni inteligenci, če zanje ne veljajo prepovedi iz člena 5 akta o umetni inteligenci ali obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci ter niso razvrščeni kot visokotvegani (11). To pomeni, da morajo ponudniki in uvajalci odprtokodnih sistemov UI, ki spadajo na področje uporabe člena 50 akta o umetni inteligenci, še vedno zagotoviti skladnost s svojimi zadevnimi obveznostmi glede preglednosti.

(24)

Nasprotno pa za ponudnike prostih in odprtokodnih komponent UI, ki zajemajo programsko opremo, podatke, modele, orodja, storitve ali procese za prilagoditev in integracijo v sistem UI ter same po sebi (delno ali v celoti) niso sistem UI, ne veljajo obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci. Ponudnike takih sistemov se vseeno spodbuja, naj te modele, komponente in storitve zasnujejo na način, opisan v točki 27 v nadaljevanju, kolikor je to sorazmerno in izvedljivo.

2.5   Medsebojni vpliv s prepovedanimi praksami, zahtevami za visokotvegane sisteme UI in pismenostjo na področju UI

(25)

V uvodni izjavi 137 akta o umetni inteligenci je pojasnjeno, da skladnost z obveznostmi glede preglednosti iz člena 50 akta o umetni inteligenci v zvezi z določenim sistemom UI ni mogoče razlagati tako, da pomeni, da je uporaba sistema UI ali njegovih izhodnih podatkov zakonita na podlagi akta o umetni inteligenci. Zlasti lahko za sisteme UI, za katere veljajo obveznosti iz člena 50 akta o umetni inteligenci, velja člen 5 akta o umetni inteligenci in so zato prepovedani (npr. uporaba sistemov za prepoznavanje čustev na delovnem mestu ali v izobraževalnih ustanovah) (12). Poleg tega se lahko sistemi UI, ki spadajo na področje uporabe člena 50 akta o umetni inteligenci, razvrstijo tudi kot visokotvegani (13) in zanje veljajo ustrezne zahteve in obveznosti za take sisteme. Skladnost s členom 50 akta o umetni inteligenci zato ne nadomešča obveznosti, ki izhajajo iz drugih določb akta o umetni inteligenci, jih ne omejuje in ne vpliva nanje (14). Hkrati lahko sistemi UI spadajo na področje uporabe člena 50 akta o umetni inteligenci, ne da bi bili v skladu s členom 6 akta o umetni inteligenci razvrščeni kot visokotvegani. Zahteve glede pismenosti iz člena 4 akta o umetni inteligenci se uporabljajo tudi za ponudnike in uvajalce sistemov UI, ki spadajo na področje uporabe člena 50 akta o umetni inteligenci.

2.6   Medsebojni vpliv s pravili, ki se uporabljajo za modele in/ali sisteme UI za splošne namene

(26)

Člen 50 akta o umetni inteligenci se uporablja za nekatere sisteme UI, kar vključuje sisteme UI za splošne namene (15), kot so klepetalni roboti, ki podpirajo neposredno interakcijo s fizičnimi osebami, ali sistemi UI, zmožni ustvarjati sintetično vsebino ali jo prirejati (vključno z globokimi ponaredki) (16).

(27)

Člen 50 akta o umetni inteligenci se ne uporablja izrecno za modele UI za splošne namene. Če pa interaktivni ali generativni sistem UI, ki spada na področje uporabe člena 50(1) ali (2) akta o umetni inteligenci, temelji na modelu UI za splošne namene, ki ga zagotavlja isti ponudnik, bi se lahko ukrepi za preglednost iz teh smernic izvajali tudi na ravni modela (glej tudi oddelek 4 v nadaljevanju). Poleg tega se ponudnike drugih modelov UI za splošne namene in drugih generativnih modelov UI, čeprav ne spadajo na področje uporabe člena 50 akta o umetni inteligenci, prav tako spodbuja, naj na ravni modela izvajajo ustrezne ukrepe za preglednost za prepoznavanje interaktivnih sistemov UI ter označevanje vsebin, ustvarjenih ali prirejenih z UI. To je zlasti koristno za lažje izpolnjevanje obveznosti ponudnikov sistemov UI nižje v verigi iz člena 50(1) in (2) akta o umetni inteligenci (17) ter za prispevanje k ohranjanju zaupanja v informacijski ekosistem in njegove celovitosti. Pri modelih UI za splošne namene, ki predstavljajo sistemsko tveganje, so lahko varnostni ukrepi na ravni modela za prepoznavanje interakcij z UI in označevanje vsebin, ustvarjenih ali prirejenih z UI, kadar je ustrezno, del širšega nabora blažilnih ukrepov, ki jih lahko ponudniki sprejmejo v okviru svoje obveznosti zmanjševanja sistemskih tveganj na podlagi člena 55(1), točka (b), akta o umetni inteligenci.

3.   ČLEN 50(1) AKTA O UMETNI INTELIGENCI: PREGLEDNOST ZA INTERAKTIVNE SISTEME UI

(28)

Člen 50(1) akta o umetni inteligenci je naslovljen na ponudnike sistemov UI, ki so v neposredno interakciji s fizičnimi osebami in morajo svoje sisteme zasnovati in razviti tako, da so zadevne fizične osebe obveščene, da so v interakciji s sistemom UI. Kot je pojasnjeno v uvodni izjavi 132 akta o umetni inteligenci, je namen te obveznosti obveščanja tem fizičnim osebam omogočiti sprejemanje informiranih odločitev glede izhodnih podatkov sistema, preprečiti pretirano zanašanje na take sisteme in jim omogočiti, da ustrezno prilagodijo svoje zaupanje v vsebino in interakcije.

3.1   Glavni elementi, pojmi in povezane obveznosti glede preglednosti

(29)

Obveznost glede preglednosti iz člena 50(1) akta o umetni inteligenci se uporablja za ponudnike sistemov UI, kadar je sistem namenjen neposredni interakciji s fizičnimi osebami in ta interakcija ne spada v nobeno od naslednjih izjem: (1) je to očitno z vidika razmeroma dobro obveščene, pozorne in preudarne fizične osebe ali (2) je sistem z zakonom odobren za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj, razen če je sistem na voljo javnosti za prijavo kaznivega dejanja.

3.1.1   Sistemi UI, namenjeni neposredni interakciji s fizičnimi osebami

(30)

Da bi sistem spadal na področje uporabe člena 50(1) akta o umetni inteligenci, so potrebni štirje elementi: (i) sistem mora biti sistem UI, (ii) namenjen mora biti interakciji, (iii) interakcija mora biti neposredna, (iv) potekati mora s fizičnimi osebami.

(i)

Sistem UI: sistem mora izpolnjevati elemente opredelitve sistema UI (18), kar izključuje preproste mehanizme avtomatiziranih odgovorov, ki ne temeljijo na UI (npr. tradicionalna samodejna sporočila o odsotnosti, hitri odgovori na sporočila na podlagi pravil).

(ii)

Namenjen interakciji: sistem UI mora biti namenjen interakciji s fizičnimi osebami. Interakcija zajema zmožnost dvosmerne izmenjave informacij ali dejanj med fizičnimi osebami in sistemom UI, ki ima značilnosti dejanskega pogovora ali odgovarjanja. Poteka lahko v različnih oblikah (npr. slušni, vizualni in fizični). Fizične osebe bi morale biti sposobne podati vhodne podatke (npr. pisno besedilo ali druge oblike vsebine, glas ali fizična dejanja) sistemu UI (npr. s tehničnimi komunikacijskimi sredstvi, vključno s spletnimi vmesniki, telefonom ali e-pošto, ali neposredno), sistem UI pa bi moral biti sposoben odgovoriti s kontekstualnimi izhodnimi podatki (vključno s katero koli vrsto vsebine ali dejanj) in obratno. Interakcija lahko zajema vsako vrsto izhodnih podatkov ali obliko, ki jo lahko ljudje zaznajo in razumejo. Ni nujno, da jo začne človek; zajema lahko tudi vsebino UI ali dejanja UI, ki sprožijo človeški odziv. Interakcija je lahko enkratna izmenjava (npr. en sam poziv, ki mu sledi en sam odgovor) ali poteka v določenem časovnem obdobju (z več izmenjavami). Za sisteme, ki le pasivno zbirajo podatke in niso sposobni sodelovati v izmenjavi s fizičnimi osebami (npr. avtomatizirani sistemi za nadzor dostopa s prepoznavanjem obrazov) ali zgolj zbirajo enkratne povratne informacije (npr. filtri za neželeno pošto), se ne šteje, da so v interakciji s fizičnimi osebami.

(iii)

Neposredna interakcija: interakcija med sistemom UI in fizičnimi osebami mora biti neposredna. To običajno vključuje interakcijo v realnem ali skoraj realnem času (tudi prek zmogljivosti sistema za pisanje in pošiljanje sporočil fizičnim osebam ali drugačno interakcijo s fizičnim ali virtualnim okoljem, ki ga lahko zaznajo fizične osebe). Neposredna interakcija izključuje posredno ali posredovano človeško interakcijo, kadar je fizična oseba izpostavljena izhodnim podatkom UI, ne da bi bila neposredno v interakciji s sistemom (na primer, če predstavniki službe za pomoč strankam uporabljajo orodja UI za pomoč pri komunikaciji s fizičnimi osebami ali če izhodnih podatkov UI osebi ne da na voljo sam sistem UI, temveč druga oseba, ki razširja vsebino). Vendar se sama možnost človeškega posega v izhodne podatke sistema UI ali človeškega pregleda teh podatkov ne bi smela uporabljati za izogibanje zahtevi glede razkritja iz člena 50(1) akta o umetni inteligenci. Primeri, v katerih proizvodi in storitve združujejo odgovore, ustvarjene z UI, z vsebino, ki jo je pripravil človek, spadajo na področje uporabe člena 50(1) akta o umetni inteligenci in zahtevajo razkritje za konkretne izhodne podatke v interakciji, ki so ustvarjeni z UI, razen če so te izhodne podatke UI ustrezno pregledali in poslali ljudje kot glavni sogovorniki fizičnih oseb.

(iv)

S fizičnimi osebami: člen 50(1) akta o umetni inteligenci zahteva, da je sistem UI v interakciji s fizičnimi osebami. Te osebe so lahko poklicni uvajalci, drugi uporabniki (ki sistem uporabljajo tudi za povsem osebne dejavnosti) ali druge osebe, ki uporabljajo sistem v njihovem imenu. Sistemi UI, ki delujejo v zaprtem fizičnem okolju (na primer kot del postavitve industrijskih strojev), zaledni klici stroj–stroj med sistemi UI (vključno z agenti UI), katerih izhodni podatki niso namenjeni temu, da bi dosegli fizično osebo, ali virtualna okolja brez kakršnega koli neposrednega stika s fizičnimi osebami so izključeni s področja uporabe obveznosti.

(31)

Agenti UI so zajeti s členom 50(1) akta o umetni inteligenci, če so sposobni interakcije z osebami, ki jim dajejo navodila, ali z drugimi fizičnimi osebami pri izvajanju nalog (npr. opravljanju rezervacij, upravljanju korespondence, pogajanjih ali sklepanju pogodb, izvajanju nakupov itd.). Agenti UI morajo biti zasnovani in razviti tako, da razkrijejo tako svojo umetno naravo kot osebo, v imenu katere delujejo, pri čemer se upoštevajo potreba po preglednosti izvora ter prenos pooblastil in odgovornost za posledice njihovih dejanj. To vključuje primere, v katerih so agenti UI sposobni interakcije v kompleksnih večagentnih arhitekturah z drugimi agenti UI, ki so pri izvajanju naloge neposredno v interakciji s fizičnimi osebami. Kljub temu ponudnik agenta UI morda ne bo vedno mogel vnaprej opredeliti posameznih primerov neposredne interakcije agenta UI z drugimi fizičnimi osebami, ko je agent UI uveden v različnih kontekstih. Kadar ponudnik pred dajanjem agenta UI na trg ali v uporabo ne more zanesljivo ugotoviti, ali bo agent UI neposredno v interakciji s fizično osebo, bi moral biti agent zasnovan na ravni arhitekture in poučen, naj se kot tak razkrije v vsaki situaciji, v kateri je razumno verjetno, da bo agent lahko v interakciji s fizično osebo (tudi kadar fizična oseba zastopa pravno osebo ali deluje zanjo). Poleg tega bi se morali agenti UI osebam, ki jim dajejo navodila, razkriti tudi ob ključnih korakih (npr. ob odobritvi, poročanju, validaciji itd., tudi kadar uvedeni agent UI prejme, obdeluje ali se opira na izhodne podatke, ki so jih ustvarili drugi sistemi UI in ne neposredno fizična oseba) ter pri vsaki novi interakciji.

Primeri sistemov UI, ki so namenjeni neposredni interakciji s fizičnimi osebami in spadajo na področje uporabe člena 50(1) akta o umetni inteligenci:

—

z UI podprti glasovni pomočniki, klepetalni boti/pogovorni agenti v različnih kontekstih (npr. javne storitve, podpora strankam, obravnava pritožb, e-trgovanje, finance, zdravstveno varstvo, izobraževanje itd.),

—

klicna številka z UI za poročanje o incidentih, goljufijah ali drugih zadevah, (humanoidni) roboti/koboti, spremljevalci UI, robotski hišni ljubljenčki za družbo, avatarji UI (npr. v okoljih virtualne resničnosti),

—

boti UI na družbenih omrežjih in v medijih, agenti za kodiranje in drugi agenti UI, ki so sposobni neposredne interakcije s fizičnimi osebami (tudi v kompleksnih večagentnih arhitekturah).

3.2.1

Primeri sistemov UI, ki niso v neposredni interakciji s fizičnimi osebami in ne spadajo na področje uporabe člena 50(1) akta o umetni inteligenci:

—

z UI podprti tradicionalni industrijski roboti, ki delujejo v zaprtem industrijskem okolju in niso namenjeni interakciji z ljudmi (npr. roboti za sestavljanje elektronskih komponent),

—

z UI podprti priporočilni sistemi, filtri za neželeno pošto, orodja za strojno prevajanje ali prepisovanje,

—

z UI podprta iskanje in priklic informacij brez ustvarjanja ali spreminjanja vsebine,

—

z UI podprte tehnike samodejnega dopolnjevanja besedila in kode, sistemi za avtentikacijo/biometrično prepoznavanje, zaledni sistemi za podporo pri odločanju, pri katerih uporabnik vidi le izhodne podatke UI brez možnosti neposredne interakcije s sistemom,

—

z UI podprti sistemi za napovedno vzdrževanje in optimizacijo v tovarnah in industrijskih uporabah, vizualizacija izdelkov s pomočjo UI (npr. virtualno pomerjanje, ureditev prostora, upodabljanje izdelkov), z UI podprta orodja za enkratno načrtovanje poti, prepisovanje klicev strank, obdelanih za vedenjsko analizo itd.

3.1.2   Obveznost obveščanja iz člena 50(1) akta o umetni inteligenci

(32)

Člen 50(1) akta o umetni inteligenci ponudnikom sistemov UI, ki so v neposredni interakciji s fizičnimi osebami, nalaga, da zagotovijo, da so njihovi sistemi UI (vključno z agenti UI in sistemi UI za splošne namene) zasnovani in razviti tako, da so zadevne fizične osebe obveščene, da so v interakciji s sistemom UI.

(33)

Čeprav bi moral biti mehanizem za obveščanje vgrajen v zasnovo in razvoj sistema ter v način, kako sistem komunicira s fizičnimi osebami, bi moralo obveščanje potekati med delovanjem sistema UI in najpozneje ob prvi interakciji s fizično osebo (kot se zahteva v členu 50(5) akta o umetni inteligenci, glej oddelek 7 v nadaljevanju). Ponudniki so odgovorni za zagotavljanje, da so po dajanju sistema UI na trg ali v uporabo fizične osebe, ki so v interakciji s sistemom UI, učinkovito in dosledno obveščene v celotnem življenjskem ciklu sistema UI, kakor ga je ta ponudnik dal na trg ali v uporabo.2.2

(34)

Oblika razkritja: člen 50(1) akta o umetni inteligenci ne določa nobene posebne tehnike razkritja. Ponudniki lahko zato izberejo katero koli ustrezno tehniko, če sta izpolnjeni dve zahtevi: (i) izpolnjene so zahteve iz člena 50(5) akta o umetni inteligenci glede zagotovitve jasnih in razpoznavnih informacij najpozneje ob prvi interakciji (glej oddelek 7 v nadaljevanju) in (ii) upoštevajo se značilnosti fizičnih oseb, ki pripadajo ranljivim skupinam zaradi svoje starosti (npr. otroci ali starejši) ali invalidnosti, če je namen sistema UI interakcija s fizičnimi osebami, ki pripadajo tem skupinam, ali je razumno verjetno, da bo v interakciji z njimi (npr. tudi kadar je razumno verjetno, da bo sistem UI v interakciji s splošno javnostjo) (19). Informacije je treba zagotoviti tudi v dostopni obliki za fizične osebe z invalidnostmi, kot je določeno v členu 50(5) in uvodni izjavi 132 akta o umetni inteligenci (glej oddelek 7). Kadar je lahko sistem v interakciji z otroki, morajo biti ta obvestila prilagojena otrokom, primerna njihovi starosti, lahko razumljiva in lahko dostopna vsem otrokom, vključno z otroki z invalidnostmi ali dodatnimi potrebami glede dostopnosti. Ponudnikom se priporoča uporaba standardiziranih praks razkritja in oznak, kadar so na voljo in ustrezne, da se zagotovita učinkovitost in doslednost obvestil ter izboljšana ozaveščenost uporabnikov.

(35)

Vsebina obvestila: Člen 50(1) akta o umetni inteligenci od ponudnikov interaktivnih sistemov UI zahteva, da jih zasnujejo in razvijejo tako, da so vse fizične osebe, ki so v interakciji s takimi sistemi UI, izrecno obveščene o umetni nečloveški naravi sogovornika. Če je za ponudnika razumno predvidljivo, da je lahko sistem UI v interakciji s fizičnimi osebami, ki pripadajo zgoraj navedenim ranljivim skupinam, bi bilo treba informacije ustrezno prilagoditi in jih zagotoviti v dostopni obliki, kot se zahteva v skladu z veljavnim pravom Unije, da se zagotovi tudi, da jih te fizične osebe v celoti razumejo (20).

(36)

Obvestila bi morala zagotavljati informacije o umetnem izvoru interakcije na načine, ki so ustrezni glede na kontekst, v katerem poteka interakcija. To bi bilo treba storiti na način, ki zagotavlja, da so zadevne osebe ustrezno in učinkovito obveščene, pri čemer se pred interakcijo in med njo preprečijo vsa tveganja zavajanja ali manipulacije ter hkrati zagotovijo izvedljiva in sorazmerna razkritja. Primeri zagotavljanja informacij vključujejo pisna obvestila (npr. klepetalni bot, ki začne pogovor z navedbo, da temelji na tehnologiji UI), vizualna sredstva (npr. elektronsko sporočilo, ki ga ustvari agent UI in pošlje fizični osebi ter ki na vrhu vsebuje oznako UI), slušna sredstva (npr. glasovni pomočnik, ki na začetku seje pove, da deluje na podlagi UI), razkritje identifikatorjev UI in poverilnic (npr. agenti UI, ki svojo identiteto UI razkrijejo v preverljivi obliki, kolikor je to izvedljivo) (21).

(37)

Oblika obvestil: kot dobra praksa se priporoča, da se sistem UI zasnuje z večmodalnimi in dostopnimi pristopi k razkritju. Taka obvestila lahko združujejo različne tehnike za povečanje razumevanja uporabnikov, kadar je to ustrezno ter odvisno od konteksta, ciljnih in predvidljivih skupin občinstva ter razpoložljivih virov ponudnikov, zlasti malih in srednjih podjetij (MSP). Primeri ustreznih tehnik lahko vključujejo:

—

besedilno razkritje (na podlagi uporabniškega vmesnika): izstopajoče oznake ali pasice v preprostem jeziku (npr. „Ste v interakciji s sistemom UI“) in uvodni pozdravi klepetalnih botov, ki se lahko, kot je ustrezno, kombinirajo s trajnimi značkami ali oznakami, vidnimi med celotno interakcijo, sorazmerno s posebnim kontekstom in tveganji. Poleg tega se priporoča, da se spremljajoča razkritja namestijo blizu vmesnika za interakcijo (npr. v bližini polja za vhodne/izhodne podatke) in da se uporablja poenostavljeno besedilo, zlasti za uporabnike z manjšo digitalno pismenostjo in otroke;

—

slušno razkritje: v glasovnih ali telefonskih kontekstih izrecne govorjene izjave na začetku interakcije (npr. „To je pomočnik, ki deluje na podlagi UI“) v kombinaciji, kot je ustrezno, s periodičnimi opomniki pri daljših interakcijah, zlasti v primeru prekinitev ali spremembe vloge sistema UI med uporabniško potjo. Razločni zvočni signali (npr. toni ali zvočne ikone) lahko podpirajo prepoznavanje, zlasti pri slepih ali slabovidnih uporabnikih, vendar se sami po sebi ne štejejo za zadostne;

—

vizualni/grafični signali: zasnova sistema UI s trajnimi ikonami, vodnimi žigi, barvnimi okvirji ali prepoznavnimi simboli „UI“ za dopolnitev besedilnih razkritij. Priporoča se uporaba standardiziranih vizualnih kazalnikov, tudi v različnih storitvah ponudnika, saj lahko taki kazalniki znatno zmanjšajo kognitivno obremenitev in povečajo prepoznavnost;

—

večmodalne kombinacije: kombiniranje besedilnih, zvočnih in vizualnih signalov (npr. klepetalni bot, ki prikaže oznako in hkrati zagotovi besedilno razkritje ob prvem odzivu), da se zagotovi dostopnost in okrepi jasnost za različne skupine uporabnikov.

(38)

Nekatere tehnike niso potrebne in, kadar se uporabljajo samostojno, ne zadostujejo za učinkovito izpolnjevanje obveznosti glede preglednosti iz člena 50(1) in (5) akta o umetni inteligenci, zlasti:

—

razkritja, ki so vsebovana samo v pogojih uporabe, naslovih URL ali dokumentaciji (taka razkritja lahko dopolnjujejo, ne pa nadomestijo razkritja v kontekstu);

—

strojno berljive oznake (npr. metapodatki ali vodni žigi), ki jih uporabniki v trenutku interakcije ne morejo zaznati. To ne vpliva na ustreznost takih oznak za zagotovitev skladnosti s členom 50(2) akta o umetni inteligenci (glej oddelek 4);

—

nejasni ali dvoumni signali (npr. splošna sklicevanja na „pomočnika“) ali človeku podobne upodobitve, ki lahko zavajajo uporabnike;

—

posplošena razkritja, ki niso dovolj specifična za izhodne podatke sistema UI in interakcije z njim (npr. na platformi, ki zagotavlja različne storitve ali posamezne vnose, splošno razkritje, kot je „Storitve na tem spletišču uporabljajo UI“, ne zadostuje);

—

tehnični opisi ali opisi, ki temeljijo na zmogljivostih: izjave, ki se nanašajo izključno na osnovne tehnologije (npr. „ta sistem uporablja velike jezikovne modele“), ne da bi pojasnile funkcijo ali posledice sistema za uporabnika in njegov umetni izvor.

(39)

Razkritja bi morala biti sorazmerna in prilagojena različnim kontekstom ter ciljnim občinstvom sistema UI, da ostanejo učinkovita in uporabniku prijazna ter da se, kolikor je mogoče, preprečijo motnje uporabniške izkušnje ali učinki navajenosti (t. i. „slepota za pasice“).

(40)

Eno samo izstopajoče obvestilo pred prvo interakcijo sistema UI z določeno fizično osebo bo v večini primerov verjetno zadostovalo za izpolnitev obveznosti iz člena 50(1) akta o umetni inteligenci. Vendar bodo v nekaterih bolj tveganih kontekstih za zagotavljanje stalne ozaveščenosti uporabnikov verjetno potrebni periodični opomniki in kontekstu prilagojena razkritja. To zlasti velja v kontekstu sistemov UI, ki so v interakciji z ranljivimi osebami (npr. otroki, starejšimi, invalidi in osebami z nižjo pismenostjo), trajnih in razvijajočih se interakcij v občutljivih ali poglobljenih kontekstih (npr. kadar lahko uporabniki izražajo ali doživljajo čustveno stisko ali ranljivost ali so izpostavljeni tveganju vedenj, podobnih zasvojenosti), kadar obstaja povečano tveganje, da bodo uporabniki zavedeni (npr. finančno svetovanje, zavarovanje, pravna pomoč, zdravstveno svetovanje in obravnava pritožb) ali da bodo oblikovali čustvene navezanosti ali odvisnosti (npr. spremljevalci UI), pa tudi kadar je treba zagotoviti ozaveščenost in nadzor nad dejanji agentov UI. Ponudniki morajo sistem UI tudi zasnovati in razviti tako, da zagotovijo razkritje v vseh primerih, ko se sistemu UI zastavljajo vprašanja v zvezi z njegovo naravo ali izvorom interakcije ali kadar je mogoče na podlagi izmenjav s fizično osebo razumno domnevati, da bo ta oseba verjetno zavedena ali zmedena glede umetnega izvora interakcije.

3.2   Izjeme od obveznosti obveščanja iz člena 50(1) akta o umetni inteligenci

(41)

Člen 50(1) akta o umetni inteligenci v zvezi z interaktivnimi sistemi UI določa dve izjemi od obveznosti obveščanja, ki sta obravnavani v nadaljevanju.

3.2.1   Izjema za očitno interakcijo s sistemom UI

(42)

Da bi se lahko ponudniki sklicevali na prvo izjemo, bodo morali oceniti in dokazati: i) očitnost umetne narave interakcije za ii) fizično osebo, ki je glede na okoliščine in kontekst uporabe razmeroma dobro obveščena, pozorna in preudarna.

(43)

Ta standard temelji na uveljavljenem pravu EU o varstvu potrošnikov glede pojma „povprečni potrošnik“ in bi ga bilo treba razlagati dosledno, ob upoštevanju posebnih in raznolikih kontekstov in uporab sistemov UI, ki so v neposredni interakciji s fizičnimi osebami, ter ciljev iz člena 50(1) akta o umetni inteligenci.

(44)

Določitev take „povprečne“ fizične osebe obsega dva koraka. Prvič, ponudniki bi morali upoštevati občinstvo, s katerim naj bi bil sistem UI v interakciji in s katerim bo razumno verjetno v interakciji. Drugič, ponudnik bi moral preučiti, kako razmeroma dobro obveščen, pozoren in preudaren je povprečni pripadnik tega občinstva, ob upoštevanju okoliščin in konteksta uporabe. Pri izvajanju te ocene bi bilo treba upoštevati več dejavnikov:

—

ponudniki bi morali upoštevati ciljno občinstvo sistema UI in širše potencialno občinstvo, ki je razumno predvidljivo. To bo zlasti veljalo, če lahko splošna javnost zlahka dostopa do sistema UI ali če sistem deluje v virtualnih ali fizičnih javnih prostorih in je zmožen interakcije s fizičnimi osebami, prisotnimi v teh prostorih. Občinstvo, ki je lahko izpostavljeno sistemu UI, ni vedno enako ciljnemu občinstvu;

—

ponudniki bi morali v skladu z uvodno izjavo 132 akta o umetni inteligenci upoštevati morebitno raznoliko sestavo ciljnega in razumno predvidljivega občinstva. Kadar bodo invalidi, starejši ali mladoletniki verjetno del tega občinstva, bodo pričakovane ravni obveščenosti, pozornosti in preudarnosti povprečnega pripadnika takega občinstva nižje kot pri povprečnem pripadniku občinstva, ki ne vključuje teh kategorij oseb. Če pa je interaktivni sistem UI na voljo le profesionalnemu ali specializiranemu ciljnemu občinstvu, bi to lahko pozitivno vplivalo na pričakovane ravni znanja, pozornosti in preudarnosti, povprečni pripadnik tega občinstva pa bi se lahko štel za bolje obveščenega ter pozornejšega in bolj preudarnega;

—

v okviru širših okoliščin in konteksta uporabe bi morali ponudniki upoštevati raven digitalne pismenosti in pismenosti na področju UI ciljnega in razumno predvidljivega občinstva ter pomembne socialne, kulturne in jezikovne dejavnike.

(45)

Očitnost: po določitvi hipotetične razmeroma dobro obveščene, pozorne in preudarne fizične osebe bi morali ponudniki oceniti, ali bo taki osebi očitno, da je v neposredni interakciji s sistemom UI. Izjemo bi bilo treba razlagati ozko, saj fizičnim osebam odvzema varstvo in pravico, da so z jasnimi in razpoznavnimi razkritji obveščene, da so v interakciji s sistemi UI. Splošna ozaveščenost potrošnikov in drugih fizičnih oseb o obstoju sistemov UI (vključno s klepetalnimi boti in agenti) ne pomeni, da jih v interakcijah prepoznajo. V okviru ocene, ali je interakcija očitna, je lahko pomembnih in se lahko upošteva več dejavnikov:

—

predvidena narava interakcije: v primerih, ko je sistem UI v fizični interakciji s fizičnimi osebami, lahko pomembni elementi vključujejo vidnost mehanskih komponent (kar bi povečalo očitnost) ali stopnjo, do katere sistem UI avtentično posnema svoj neumetni ustreznik (kar bi zmanjšalo očitnost). Pri interakcijah vizualne ali zvočne narave lahko na to oceno vplivajo elementi, kot so vzorci pisanja ali govora, ton glasu (robotski glas v primerjavi z resničnim glasom, ki zveni človeško), zasnova uporabniškega vmesnika (npr. profilna slika, povezana s klepetalnim botom, ki prikazuje človeka) in zmožnost napredne personalizirane interakcije;

—

sestava ciljnega in predvidljivega občinstva: če je interaktivni sistem UI na voljo le profesionalnemu ali specializiranemu občinstvu brez morebitne izpostavljenosti ranljivih skupin, bi to lahko povečalo možno očitnost umetne narave interakcije za povprečnega pripadnika zadevnega občinstva. Če pa lahko do sistema UI dostopa splošna javnost ali potrošniki, med katerimi so tudi ranljive osebe (npr. otroci, starejši, osebe s kognitivnimi ali duševnimi motnjami ali telesnimi invalidnostmi ali osebe z manjšo pismenostjo na področju UI), za katere je interakcija manj očitna, se na izjemo ni mogoče sklicevati, da bi se ti ranljivi uporabniki učinkovito zaščitili;

—

upoštevati bi bilo treba tudi, da fizične osebe vse težje vedo, ali poteka interakcija s sistemom UI ali z dejanskim človekom. Zaradi uporabe avatarjev in agentov, splošne anonimnosti spletnih interakcij ter zmožnosti sistemov UI, da pišejo in so v interakciji na človeku podoben način, bi morala biti izjema „očitnosti“ omejena na primere, v katerih za povprečno osebo iz ciljnega in razumno predvidljivega občinstva glede narave interakcije skoraj ni več nobenega dvoma.

Primeri očitnosti, pri katerih se obveznost glede preglednosti iz člena 50(1) akta o umetni inteligenci ne uporablja:

—

klepetalni boti na podlagi UI za pomoč pri pisanju kode in pregledovanje kode, ki so na voljo samo poklicnim razvijalcem, ki zaradi svojega strokovnega znanja in konteksta uporabe nimajo razumnega pričakovanja, da bodo v interakciji s človekom, ter lahko zlahka prepoznajo, da predloge ustvari sistem UI;

—

notranji pomočnik za zaposlene za ustrezno usposobljeno osebje, ki je pismeno na področju UI in se zaveda, da uporablja sisteme UI za notranje organizacijske namene (npr. podpora na področju kadrovskih zadev, prava, javnega naročanja, skladnosti ali IT);

—

interaktivni sistemi UI, ki so namenjeni samo uporabi s strani ustrezno usposobljenih zdravstvenih delavcev za podporo medicinski diagnostiki in predlaganje povezanih zdravljenj;

—

ambientna UI, vgrajena v gospodinjske aparate s funkcionalnostmi, omejenimi na pomoč in upravljanje gospodinjskega aparata;

—

interakcije z neigralnimi liki, podprtimi z UI, v videoigri za enega igralca, kadar je zaradi narave videoigre jasno, da ne more sodelovati in z uporabnikom biti v interakciji nobena druga fizična oseba ter da je narava interakcije z UI očitna tudi vsem uporabnikom (vključno z ranljivimi osebami).

Primeri, ki ne izpolnjujejo izjeme zaradi očitnosti in za katere se uporablja obveznost glede preglednosti iz člena 50(1) akta o umetni inteligenci:

—

robotski hišni ljubljenček za družbo, podprt z UI, ki je zelo podoben svojemu naravnemu ustrezniku in zasnovan tako, da posnema tipično interakcijo med človekom in hišnim ljubljenčkom, kar povzroča nejasnost glede tega, ali gre za interakcijo s sistemom UI ali ne;

—

sistemi UI, vgrajeni v potopitvena okolja (npr. navidezna ali razširjena resničnost), ki uporabljajo realistične avatarje ali glasove, podobne človeškim, pri katerih uporabniki, zlasti otroci, starejši ali invalidi, morda ne morejo zlahka razlikovati med človeško interakcijo in interakcijo z UI;

—

z UI podprti klepetalni boti, vgrajeni v spletne platforme ali orodja za podporo uporabnikom (službe za pomoč uporabnikom), pri katerih so uporabniki v neposredni interakciji in prejemajo izhodne podatke UI (npr. odgovore na poizvedbe ali druge vsebine, ustvarjene z UI), ki jih lahko dojemajo kot vsebine, ki jih je ustvaril človek.

3.2.2   Izjema za sisteme UI, ki so z zakonom dovoljeni za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj

(46)

Ponudniki interaktivnih sistemov UI so izvzeti iz obveznosti glede preglednosti iz člena 50(1) akta o umetni inteligenci, če so ti sistemi z zakonom dovoljeni za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj, ob upoštevanju ustreznih zaščitnih ukrepov za pravice in svoboščine tretjih oseb.

(47)

„Dovoljeno z zakonom“ je treba razumeti tako, da zajema pravo Unije in nacionalno pravo držav članic, sprejeto v skladu s pravom Unije. Zakon, s katerim je dovoljena uporaba sistema UI, mora jasno določati namene in okoliščine dovoljene uporabe ter določati ustrezne zaščitne ukrepe za varstvo pravic in svoboščin tretjih oseb. Ob upoštevanju tehnološko nevtralnega pristopa akta o umetni inteligenci ni treba z zakonom opredeliti ali odobriti posebnih sistemov UI, kadar je uporaba sistema UI splošno predvidena v okviru pravno dovoljene dejavnosti in je skladna s pravnim okvirom, ki se uporablja.

(48)

Da bi se ta izjema uporabljala, mora biti namen sistema UI odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj (npr. agent UI pod krinko, sistemi UI, ki se uporabljajo pod človeškim nadzorom preiskovalcev za spletne preiskave ali komunikacijo z osebami, ki so lahko vpletene v kriminalne dejavnosti). Izjema ni omejena na uporabo takih sistemov UI samo s strani organov za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj, kot so opredeljeni v členu 3(48) akta o umetni inteligenci, temveč lahko zajema tudi interaktivne (ali generativne) sisteme UI, ki jih uporabljajo drugi javni organi Unije ali nacionalni javni organi, če je njihova uporaba z zakonom dovoljena za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj, in ob upoštevanju ustreznih zaščitnih ukrepov za varstvo pravic in svoboščin tretjih oseb. Izvzetje ne zahteva, da je sistem UI zmožen samostojno izvajati preiskave. Če se lahko zadevni sistem uporablja tako za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj kot za druge običajne namene, bi bilo treba uporabo izvzetja oceniti glede na konkretno uporabo. Obveznosti glede preglednosti se še naprej uporabljajo, kadar se isti sistem UI uporablja za namene, ki niso zakonsko dovoljeno odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj. Fizičnim osebam je treba še vedno zagotoviti preglednost, kadar so v interakciji s sistemom v okviru njegovih običajnih namenov.

(49)

Izjema se ne uporablja, če (i) je sistem UI na voljo javnosti in (ii) sistem posameznikom ponuja funkcionalnost za prijavo kaznivih dejanj. Taki sistemi se lahko uporabljajo, vendar zanje še naprej velja obveznost glede preglednosti iz člena 50(1) akta o umetni inteligenci, zato morajo biti fizične osebe obveščene, da so v interakciji s takimi sistemi.

Zaradi večje jasnosti se ta izjema nanaša izključno na obveznost iz člena 50(1), da se fizične osebe obvestijo, da so v interakciji s sistemom UI (22). To ne posega v veljavno pravo Unije in nacionalno pravo, vključno s postopkovnimi pravili o dokumentiranju, razkritju, dopustnosti in presoji dokazov.

Primeri sistemov UI, ki so dani na voljo javnosti za prijavo kaznivih dejanj in niso izvzeti ter spadajo na področje uporabe člena 50(1) akta o umetni inteligenci:

—

z UI podprti policijski klepetalni boti, ki so uvedeni na uradnih policijskih spletiščih ali v mobilnih aplikacijah in posameznikom omogočajo prijavo kaznivih dejanj ali pritožb. Ti sistemi uporabnike vodijo skozi strukturirana vprašanja, zbirajo ustrezne informacije in razvrščajo prijave glede na nujnost, preden jih posredujejo uradnim osebam v oceno;

—

telefonske linije za pomoč, podprte z UI, ki jih za poizvedbe širše javnosti upravlja policija ali drug organ za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj;

—

telefonske linije ali digitalni portali za prijavo goljufij, podprti z UI, ki jih upravljajo finančne institucije ali javni organi in prek katerih lahko uporabniki prijavijo sum finančnih kaznivih dejanj. Sistem UI je v interakciji z uporabnikom, da zbere podrobnosti, kategorizira prijavo in prednostno razvrsti primere, človeški preiskovalci pa potrdijo informacije, preden se sprejme kakršen koli ukrep;

—

virtualni pomočniki, ki se uporabljajo za zbiranje izjav prič in pri katerih lahko žrtve ali priče predložijo informacije prek vmesnika, ki temelji na UI. Taki sistemi UI lahko podpirajo večjezični vnos, funkcije dostopnosti in strukturirano predložitev dokazov, vendar končna ocena in preiskovalni koraki ostanejo v pristojnosti ljudi v pristojnih organih.

3.3   Medsebojno delovanje z drugimi pravnimi akti Unije

(50)

Obveznost glede preglednosti iz člena 50(1) akta o umetni inteligenci se uporablja brez poseganja v obstoječo zakonodajo Unije o varstvu potrošnikov, varstvu podatkov, digitalnem področju ali nediskriminaciji, ki lahko zahteva druga razkritja informacij, ki niso specifična samo za interakcijo z UI. Zlasti so na podlagi Direktive 2005/29/ES (direktiva o nepoštenih poslovnih praksah) (23) prepovedana zavajajoča dejanja ali opustitve v zvezi z glavnimi značilnostmi proizvoda ali storitve. Poleg tega Direktiva 2011/83/EU (direktiva o pravicah potrošnikov) (24) od trgovcev zahteva, da zagotovijo jasne in razumljive predpogodbene informacije o glavnih značilnostih blaga ali storitev. Kadar storitev temelji na UI (kot so naročniški klepetalni bot, aplikacija umetnointeligenčnega spremljevalca ali storitev virtualnega mentorstva), se lahko funkcionalnost UI šteje za bistveno značilnost, ki jo je treba razkriti, preden pogodba zavezuje potrošnika. Obveznosti obveščanja na podlagi prava Unije o varstvu potrošnikov veljajo ne glede na to, ali se v skladu s členom 50(1) akta o umetni inteligenci šteje, da je interakcija „očitna“. Te obveznosti so dopolnilne tudi kot splošne obveznosti obveščanja na področju varstva potrošnikov, medtem ko je obveznost obvestitve iz akta o umetni inteligenci bolj odvisna od konteksta in je njen cilj zagotoviti, da se vse fizične osebe stalno zavedajo neposredne interakcije s sistemom UI, in sicer vsaj pred njenim začetkom in ves čas interakcije.

(51)

Akt o digitalnih storitvah vključuje tudi zahteve glede preglednosti za priporočilne sisteme spletnih platform, vključno z zahtevo po pojasnitvi glavnih parametrov za razvrščanje. Te obveznosti dopolnjujejo obveznosti glede preglednosti iz člena 50(1) akta o umetni inteligenci, saj imajo drugačno področje uporabe in namen ter se nanašajo na sisteme, ki načeloma niso v neposredni interakciji z uporabniki v smislu člena 50(1) akta o umetni inteligenci.

(52)

Kar zadeva obveznosti obveščanja posameznikov, na katere se nanašajo osebni podatki, na podlagi prava Unije o varstvu podatkov, ima obveznost iz člena 50(1) akta o umetni inteligenci drugačen cilj od navedenih obveznosti in kot taka ne vpliva na te obveznosti obveščanja.

(53)

Podobno se obveznost glede preglednosti iz člena 50(1) akta o umetni inteligenci uporablja brez poseganja v pravo Unije in nacionalno pravo o zagotavljanju informacij osebam v okviru kazenskega postopka (npr. Direktiva 2012/13/EU ali Direktiva 2012/29/EU, kakor je bila spremenjena z Direktivo (EU) 2026/1472) (25).

4.   ČLEN 50(2) AKTA O UMETNI INTELIGENCI: OZNAČEVANJE IN ODKRIVANJE Z UI USTVARJENIH ALI PRIREJENIH VSEBIN

(54)

Člen 50(2) akta o umetni inteligenci od ponudnikov sistemov UI, ki ustvarjajo sintetično vsebino, zahteva, da uvedejo tehnične rešitve, ki izpolnjujejo nekatere zahteve glede kakovosti za strojno berljivo označevanje in prepoznavanje izhodnih podatkov svojih sistemov UI. Cilj je fizičnim osebam omogočiti, da vsebino, ustvarjeno ali prirejeno z UI, razlikujejo od drugih vsebin (na primer vsebin, ki so jih ustvarili ljudje) in preverijo njen izvor, s čimer se prispeva tudi k večji celovitosti informacijskega ekosistema in zaupanju vanj.

(55)

Ta obveznost glede preglednosti zato koristi vsem fizičnim osebam, za katere je verjetno, da bodo izpostavljene vsebinam, ustvarjenim ali prirejenim z UI, ter ključnim akterjem, ki imajo pomembno vlogo pri zaupanju v informacijski ekosistem in njegovi celovitosti, kot so pristojni organi za nadzor trga in drugi pristojni organi, neodvisni raziskovalci, organizacije civilne družbe, mediji, zaupanja vredni prijavitelji, zagovorniki temeljnih pravic, ponudniki spletnih platform in spletnih iskalnikov, imetniki pravic ter drugi ustvarjalci in distributerji vsebin itd.

4.1   Glavni sestavni deli in pojmi iz člena 50(2) akta o umetni inteligenci

(56)

Člen 50(2) akta o umetni inteligenci se uporablja, če je izpolnjenih več kumulativnih pogojev:

(i)

sistem mora biti sistem UI;

(ii)

sistem UI mora biti zmožen ustvarjati ali prirejati sintetično vsebino;

(iii)

vsebina mora zajemati enega ali več naslednjih načinov: zvočni zapis, sliko, videoposnetek ali besedilo;

(iv)

za sistem UI ne sme veljati nobena od naslednjih izjem: (1) sistem UI opravlja podporno funkcijo za standardno urejanje, (2) sistem UI ne spreminja bistveno vhodnih podatkov, ki jih zagotovi uvajalec, ali njihove semantike ali (3) je uporaba sistema UI zakonsko dovoljena za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj.

4.1.1   Sistemi UI, ki ustvarjajo ali prirejajo sintetično vsebino

(57)

Člen 50(2) akta o umetni inteligenci se uporablja za sisteme UI (26), vključno s sistemi UI za splošne namene, ki ustvarjajo sintetične zvočne, slikovne, video ali besedilne vsebine. Člen 50(2) akta o umetni inteligenci zajema podskupino sistemov, ki izpolnjujejo opredelitev sistema UI iz člena 3, točka (1), akta o umetni inteligenci in ustvarjajo take izhodne podatke. Člen 50(2) akta o umetni inteligenci zajema tudi sisteme UI, ki se uporabljajo za prirejanje vsebin.

(58)

Ustvarjanje vsebin pomeni, da sistem UI ustvarja sintetično gradivo (npr. na podlagi poziva človeka), kot je ustvarjanje sintetične slike ali pesmi. V praksi to pomeni, da se člen 50(2) akta o umetni inteligenci lahko uporablja za generativne sisteme UI, zasnovane z ozko opredeljenim predvidenim namenom za ustvarjanje določenih izhodnih podatkov. Hkrati se člen 50(2) akta o umetni inteligenci uporablja tudi za sisteme UI, ki se lahko uporabljajo za več namenov, vključno s sistemi UI za splošne namene, in lahko ustvarjajo različne vrste vsebin, ter za agentske sisteme UI, če ustvarjajo sintetične zvočne, slikovne, video ali besedilne vsebine.

(59)

Nasprotno pa se prirejanje vsebin nanaša na že obstoječo vsebino (sintetično ali ne), ki jo spremeni sistem UI (npr. obstoječo sliko ali zvočni posnetek, ki ju sistem UI priredi v skladu z navodili človeka). Da bi vsebina spadala na področje uporabe člena 50(2) akta o umetni inteligenci, zadostuje, da je ustvarjena ali prirejena z UI v obsegu, ki presega standardno urejanje na podlagi izjem iz člena 50(2) akta o umetni inteligenci (glej oddelek 4.3). Poleg tega člen 50(2) akta o umetni inteligenci ne zahteva, da je vsebina izključno ustvarjena ali prirejena z UI. Vsebina, ki je pomešana z gradivom, ki ga je ustvaril človek, se prav tako šteje za sintetično vsebino, če je ustvarjena ali prirejena z UI v enem od načinov iz člena 50(2) akta o umetni inteligenci.

4.1.2   Načini sintetične vsebine, ki spadajo na področje uporabe

(60)

Člen 50(2) akta o umetni inteligenci določa izčrpen seznam načinov sintetične vsebine, ki jih zajema obveznost glede preglednosti: zvočni zapis, slika, videoposnetek ali besedilo. To vključuje tudi multimodalne vsebine, tj. vsebine, sestavljene iz mešanice teh načinov. Za namene člena 50(2) akta o umetni inteligenci je treba različne načine razlagati v skladu s praktičnim in tehnološkim razvojem, ki se lahko sčasoma spreminja. Za zdaj bi jih bilo treba razumeti tako:

—

besedilo pomeni diskretno simbolno vsebino, sestavljeno iz znakov ali številk, razporejenih v določenem zaporedju, ki jo lahko ljudje berejo in semantično razlagajo,

—

slike pomenijo statične prostorske predstavitve, ki prenašajo vizualne informacije, vidne človeškemu očesu,

—

zvočni zapis pomeni časovno spremenljiv signal, ki prenaša zvok, ki ga lahko zazna človeško uho. To lahko zajema govor, instrumentalno glasbo ali druge zvočne signale,

—

videoposnetek pomeni časovno zaporedje slik, vidno človeškemu očesu, ki je lahko sinhronizirano z zvokom. V tem primeru morata biti tako video vsebina kot zvočna vsebina označeni, zagotoviti pa je treba tudi, da ju je mogoče odkriti, kot je določeno v nadaljevanju.

(61)

Sistemi UI, ki ustvarjajo ali prirejajo 3D slike, 3D videoposnetke in 3D zvočne vsebine ter virtualno, razširjeno ali mešano resničnost, spadajo na področje uporabe člena 50(2) akta o umetni inteligenci. „Virtualna resničnost“ zajema tehnologije UI, ki uporabnikom omogočajo doživljanje računalniško ustvarjenega okolja, ki simulira fizično prisotnost, ter interakcijo s tem okoljem v realnem času. Ker sta virtualna in razširjena resničnost sestavljeni iz časovnega zaporedja slik, po potrebi sinhroniziranih z zvokom, ki predstavlja vizualno spremembo skozi čas, ju je mogoče šteti za „video“ vsebino. Ustrezen „izhodni podatek“, ki ga je treba označiti, je končna oblika posameznega sredstva, ustvarjenega z UI, s posebnimi izjemami za kratkotrajne interaktivne seje v realnem času iz točke 88 v nadaljevanju. Digitalnih artefaktov, ki se uporabljajo za ustvarjanje 3D slik, 3D videoposnetkov in 3D zvočnih vsebin, kot sta oblak točk in 3D mreža, ni treba označiti.

(62)

Digitalni dvojčki, ki zagotavljajo virtualno repliko oseb, fizičnih predmetov ali sistemov in združujejo več vrst podatkov, prav tako spadajo na področje uporabe člena 50(2) akta o umetni inteligenci, če so ustvarjeni ali prirejeni z UI in imajo zvočno, slikovno, video ali besedilno obliko, razen če spadajo med izjeme in se štejejo za „industrijsko uporabo“ ali „uporabo med podjetji“ iz točke 87 v nadaljevanju ali za kratkotrajno vsebino v realnem času iz točke 88 v nadaljevanju.

(63)

Člen 50(2) akta o umetni inteligenci se lahko uporablja tudi za agente UI, če agent UI izvede dejanje, katerega izhodni podatek je vsebina, ustvarjena ali prirejena z UI, ki jo lahko fizične osebe zaznajo v obliki zvoka, slike, videa ali besedila. Zato morajo biti ti izhodni podatki označeni in jih mora biti mogoče prepoznati, kot je opisano v nadaljevanju. Nasprotno pa nobeno dejanje agenta UI, ki ne vključuje vsebine, ustvarjene ali prirejene z UI (npr. vmesnih korakov obdelave, kot sta sklepanje in tok misli), ali dejanje, ki ga ustvari UI in ni namenjeno temu, da bi ga fizične osebe neposredno zaznale (npr. spletna zahteva ali dejanje brskalnika), ne šteje za sintetično vsebino s področja uporabe člena 50(2) akta o umetni inteligenci in zanj ne veljajo obveznosti označevanja in prepoznavanja.

4.1.3   Vsebina, ki ne spada na področje uporabe člena 50(2) akta o umetni inteligenci

(64)

Vsebina, ki jo sistem UI ustvari na podlagi preproste obdelave podatkov in ki ni posebej ustvarjena ali prirejena z UI, na primer izrisan okvir, ne spada na področje uporabe člena 50(2) akta o umetni inteligenci.

(65)

Poleg tega izhodni podatek sistema UI, ki zgolj reproducira obstoječo vsebino ali omogoča predstavitev ali razporeditev že obstoječe vsebine, ni zajet s členom 50(2) akta o umetni inteligenci. To lahko na primer velja za glasbene sezname predvajanja ali druge priporočilne sisteme, ki zgolj izbirajo ali razvrščajo obstoječo vsebino na podlagi preferenc ali dejavnosti uporabnikov, ne da bi ustvarili kar koli novega ali prirejali samo vsebino. Enako velja za sisteme UI, ki se uporabljajo v notranjih analitičnih procesih za pridobivanje in strukturiranje podatkov, vendar jih ne povzemajo.

(66)

Enako velja za vhodne in izhodne podatke sistema UI, ki pomenijo zgolj opazovanja in beleženja podatkov iz fizičnih ali virtualnih okolij ter niso ustvarjeni ali prirejeni z UI (npr. z roboti ali drugimi senzorji, podprtimi z UI), ali za prenose podatkov s sistemi UI brez kakršne koli spremembe. To zajema različne vhodne in izhodne podatke sistemov UI, zlasti v industrijskih okoljih, kot so podatki iz proizvodnje, ki jih beležijo roboti, poraba, ki jo beležijo pametni števci, podprti z UI, ter meritve frekvence in napetosti omrežja ter beleženje lokacijskih podatkov GPS iz vozil itd.

(67)

Ker je poleg tega cilj obveznosti glede preglednosti iz člena 50(2) akta o umetni inteligenci ljudem omogočiti, da razlikujejo vsebino, ustvarjeno ali prirejeno z UI, da bi se obravnavala tveganja zavajanja in manipulacije ter zagotovila celovitost informacijskega ekosistema in zaupanje vanj, ta določba ni namenjena nobeni vsebini, ki ni povezana s tem ciljem ter je fizične osebe ne morejo zaznati ali ni namenjena temu, da bi jo fizične osebe razlagale, preverjale ali na njeni podlagi ukrepale.

(68)

Zlasti bi bilo treba šteti, da naslednja vsebina ne spada na področje uporabe člena 50(2) akta o umetni inteligenci:

—

izhodni podatki, ustvarjeni v obliki kratkega zaporedja številk, simbolov ali črk (npr. posamezne besede, besedilo k slikam, nadomestno besedilo, oznake uporabniškega vmesnika in grafika v velikosti ikon, besedilo k slikam in druge podatkovne oznake);

—

izvorna koda, ki se razume kot vsebina, napisana v programskem, skriptnem, označevalnem, poizvedovalnem ali konfiguracijskem jeziku in namenjena temu, da jo računalniški sistem interpretira, prevede ali izvede, ne glede na to, ali je sestavljena iz besedilnih znakov. To lahko vključuje tudi komentarje v naravnem jeziku in vsebinske informacije, ki so sestavni del izvorne kode. Podobno so izključeni orodja za razvoj programske opreme (SDK), strukturirani poizvedovalni jezik (SQL), infrastruktura kot koda in YAML Ain’t Markup Language (YAML), objektni zapis JavaScript (JSON), konfiguracijske sheme, skripte, strojno berljive specifikacije, vmesniki za aplikacijsko programiranje (vmesniki za aplikacijsko programiranje in programske knjižnice);

—

izhodni podatki sistema UI, ki so namenjeni izključno komunikaciji med stroji in samodejni obdelavi brez kakršne koli izpostavljenosti ljudem, na primer komunikacija med agenti ali signali za preprečevanje neželene pošte, če jih fizične osebe ne zaznajo;

—

izhodni podatki, ki se uporabljajo samo v okoljih z zaprto zanko v industrijskih delovnih tokovih in delovnih tokovih razvoja izdelkov (na primer za produkcijo filmov, animacij, iger ali oglasov), razen če so končni izhodni podatki sistema UI v obliki besedilne, zvočne, slikovne ali video vsebine, ustvarjene ali prirejene z UI. V teh primerih se mora označiti ga mora biti mogoče prepoznati samo končni izhodni podatek iz faz delovnega toka.

4.2   Obveznost označevanja in prepoznavanja iz člena 50(2) akta o umetni inteligenci

(69)

Člen 50(2) akta o umetni inteligenci določa obveznost glede preglednosti za ponudnike generativnih sistemov UI, ki spadajo na področje uporabe te določbe, ki obsega dva ločena, vendar neločljivo povezana elementa. Prvič, ponudniki morajo zagotoviti, da so izhodni podatki sistema UI označeni v strojno berljivi obliki. Drugič, ponudniki morajo zagotoviti, da je izhodne podatke mogoče prepoznati kot umetno ustvarjeno ali prirejeno vsebino. Za vsako uvedeno rešitev za označevanje bi morali ponudniki zagotoviti, da so na voljo ustrezna sredstva za prepoznavanje (kot je opisano v nadaljevanju), da se fizičnim osebam, izpostavljenim vsebini, in drugim zadevnim akterjem omogoči, da identificirajo umetno ustvarjeno vsebino sistema UI in jo razlikujejo od drugih vsebin. Tehnično rešitev je treba razumeti kot kombinacijo tehnik označevanja in sredstev za prepoznavanje, ki jo je ponudnik uvedel za izpolnitev obveznosti glede preglednosti iz člena 50(2) akta o umetni inteligenci.

(70)

Izpolnjena morata biti oba navedena elementa, da se učinkovito dosežejo cilji obveznosti glede preglednosti iz člena 50(2) akta o umetni inteligenci. Izpolnitev samo enega elementa (npr. strojno berljivo označevanje izhodnih podatkov, ne da bi bila na voljo sredstva za njihovo prepoznavanje) ne bo zadostovala za skladnost s to določbo (27).

4.2.1   Obveznost označevanja

(71)

Področje uporabe obveznosti označevanja je omejeno na namestitev oznak v strojno berljivi obliki. Strojno berljiva oblika pomeni, da so oznake strukturirane tako, da jih lahko aplikacije programske opreme zlahka identificirajo, prepoznajo in izluščijo brez človekovega posredovanja. Zaznavne oznake in označbe niso izključene kot dopolnilni ukrep, kadar je to ustrezno, da bi se uvajalcem olajšala skladnost z njihovo obveznostjo označevanja globokih ponaredkov v skladu s členom 50(4) akta o umetni inteligenci.

(72)

Za izpolnitev obveznosti označevanja se lahko ponudniki oprejo na eno samo tehniko označevanja ali kombinacijo tehnik, če je njihova celovita tehnična rešitev strojno berljiva in izpolnjuje zahteve glede učinkovitosti, interoperabilnosti, robustnosti in zanesljivosti v pravno zahtevani meri, kot določa drugi stavek člena 50(2) akta o umetni inteligenci (glej oddelek 4.2.3 v nadaljevanju).

(73)

V uvodni izjavi 133 akta o umetni inteligenci so kot primeri takih tehnik navedeni vodni žigi, prepoznavanje metapodatkov, kriptografske metode za dokazovanje izvora in pristnosti vsebine, metode beleženja, prstni odtisi ali druge tehnike ter kombinacija takih tehnik. Čeprav so v uvodni izjavi 133 akta o umetni inteligenci omenjene metode za dokazovanje izvora in pristnosti, ponudnikom ni treba beležiti ali hraniti celotne verige izvora, ki vsebuje informacije o izvoru in spremembah vsebine ali katere koli druge zadevne navedbe v zvezi z zgodovino vsebine. Vendar se lahko take metode dokazovanja izvora uporabijo tudi za zagotavljanje skladnosti s členom 50(2) akta o umetni inteligenci in lahko pripomorejo k temu, da fizične osebe vsebino, ustvarjeno ali prirejeno z UI, razlikujejo od pristne vsebine.

(74)

Ponudniki lahko rešitev za označevanje izhodnih podatkov uvedejo v različnih fazah vrednostne verige (npr. naknadno po ustvarjanju vsebine na ravni sistema UI, na ravni osnovnega modela UI ali kot del procesa izpeljave sistema UI). Lahko se oprejo na rešitev za označevanje, ki jo uvede ponudnik modela višje v verigi ali tretja oseba, ki zagotavlja rešitev (npr. kot odprti standard ali specializirano storitev), kolikor je rešitev za označevanje skladna s členom 50(2) akta o umetni inteligenci. Tako opiranje ne posega v odgovornost ponudnika sistema UI, da dokaže skladnost s členom 50(2) akta o umetni inteligenci.

4.2.2   Obveznost prepoznavanja

(75)

Ponudniki sistemov UI, ki spadajo na področje uporabe člena 50(2) akta o umetni inteligenci, morajo zagotoviti, da je izhodne podatke njihovih sistemov mogoče prepoznati kot vsebino, ustvarjeno ali prirejeno z UI. To pomeni, da mora ponudnik zagotoviti, da so sredstva za prepoznavanje na voljo osebam, ki bi lahko bile izpostavljene vsebini. Poleg tega bi morale v skladu s členom 50(5) akta o umetni inteligenci take rešitve za prepoznavanje omogočati ustvarjanje človeku berljivih rezultatov, ki kažejo, ali je bila vsebina ustvarjena ali prirejena z UI.

(76)

Orodje za prepoznavanje je mehanizem, ki odkrije, ali je bila vsebina ustvarjena ali prirejena z UI, pri čemer običajno identificira tehnične označevalce ali podpise, ki potrjujejo njen izvor. Za zagotovitev popolne interoperabilnosti se morajo ponudniki opreti na javno dostopne rešitve za prepoznavanje, skladne s sektorskimi standardi, ki kateri koli tretji osebi omogočajo uvedbo prepoznavanja, ki je v idealnem primeru lokalno izvršljivo na digitalni napravi, ter omogočajo nemoteno vključitev v samostojna izolirana omrežja. Kadar taki standardi niso na voljo, zlasti v začetni fazi izvajanja člena 50(2) akta o umetni inteligenci za tehnologije vodnih žigov, se lahko ponudnik opre na lastno rešitev za prepoznavanje ali na rešitev za prepoznavanje tretje osebe ali skupno rešitev za prepoznavanje, če te rešitve zagotavljajo interoperabilnost z rešitvami za prepoznavanje, ki jih uporabljajo drugi ponudniki (glej oddelek 4.2.3). Ta možnost bi morala biti časovno omejena, dokler se ne pojavijo harmonizirani standardi in standardizirana, od ponudnikov neodvisna interoperabilna rešitev za prepoznavanje, ki je varna, ohranja zasebnost in je lokalno izvršljiva.

(77)

Člen 50(5) akta o umetni inteligenci nadalje določa, da bi bilo treba informacije iz člena 50(2) akta o umetni inteligenci fizičnim osebam, izpostavljenim vsebini, dati na voljo na jasen in razpoznaven način najpozneje ob prvi interakciji ali izpostavljenosti. Te informacije so zlasti rezultat prepoznavanja, ki kaže, ali je vsebina ustvarjena ali prirejena z UI, in ne sama vsebina, ustvarjena ali prirejena z UI. „Ob prvi izpostavljenosti“ bi bilo treba razumeti kot trenutek, ko želijo fizične osebe preveriti izvor določenega dela vsebine in dostopati do rešitve za prepoznavanje, da pridobijo rezultate prepoznavanja.

(78)

Če je ponudnik sistema UI pri zagotavljanju rešitve za prepoznavanje ali dostopu do nje odvisen od drugega akterja, mora zagotoviti, da je rešitev za prepoznavanje skladna s členom 50(2) in (5) akta o umetni inteligenci ter da ti akterji rezultate prepoznavanja prikažejo v skladu s členom 50(5) akta o umetni inteligenci (glej oddelek 7).

4.2.3   Skladnost z zahtevami za tehnične rešitve: učinkovite, interoperabilne, robustne in zanesljive

(79)

Drugi stavek člena 50(2) akta o umetni inteligenci določa, da morajo biti tehnične rešitve za označevanje in prepoznavanje učinkovite, interoperabilne, robustne in zanesljive. Te zahteve bi bilo treba razumeti tako:

—

učinkovitost se nanaša na zmožnost tehnične rešitve, ki jo uvedejo ponudniki, da odkrije njihove oznake in fizičnim osebam omogoči razločitev umetno ustvarjene ali prirejene vsebine, ki jo proizvede njihov sistem UI, ter tako prispeva k zaupanju v informacijski ekosistem in njegovi celovitosti;

—

zanesljivost se nanaša na zmožnost tehnične rešitve, da v nominalnih pogojih natančno identificira vsebino, ustvarjeno ali prirejeno z UI, in jo razlikuje od drugih vsebin v celotnem razponu vsebin, ki jih ustvari ali priredi ponudnikov sistem UI;

—

robustnost se nanaša na zmožnost tehnične rešitve, da v spremenljivih pogojih, ki zajemajo tako običajne spremembe kot nasprotovalne napade, natančno identificira vsebino, ustvarjeno ali prirejeno z UI, ki jo proizvede ponudnikov sistem UI, in jo razlikuje od drugih vsebin;

—

interoperabilnost se nanaša na zmožnost različnih tehničnih rešitev za označevanje in odkrivanje, da nemoteno delujejo v več sistemih, pri več akterjih, v kontekstih in tehničnih izvedbah, da se omogoči odkrivanje vsebine, ustvarjene ali prirejene z UI, ne glede na tehnike označevanja, ki jih uvedejo ponudniki različnih sistemov UI.

(80)

Ponudniki morajo zagotoviti, da kombinacija tehničnih rešitev za označevanje in odkrivanje celovito izpolnjuje vse zgoraj navedene zahteve v pravno zahtevani meri, ob upoštevanju omejitev in medsebojnega dopolnjevanja različnih uvedenih rešitev. Tehnične rešitve morajo izpolnjevati vse zahteve v obsegu, v katerem je to tehnično izvedljivo, ob upoštevanju posebnosti in omejitev različnih vrst vsebin, stroškov izvajanja in splošno priznanih najsodobnejših tehnoloških dosežkov, kar se lahko odraža v ustreznih tehničnih standardih.

(81)

„Tehnično izvedljive“ rešitve v smislu člena 50(2) akta o umetni inteligenci so rešitve, ki jih je mogoče uvesti za načine, zajete na področju uporabe določbe, z uporabo trenutno razpoložljive tehnologije, metod in inženirskih praks v okviru zadevne specifične tehnične arhitekture in operativnega okolja. Ponudnik ni dolžan uporabiti tehnične rešitve, ki še ni razvita ali ni na voljo na trgu ali katere uvedba tehnično ni izvedljiva. Tehnična izvedljivost je objektiven pojem, ki ni odvisen od specifičnih virov in zmogljivosti posameznih ponudnikov.

(82)

Člen 50(2) akta o umetni inteligenci od ponudnikov zahteva, da uvedejo tehnično izvedljive rešitve, ki so usklajene s splošno priznanimi najsodobnejšimi tehnološkimi dosežki, da bi izpolnili štiri zahteve glede kakovosti, tj. zahteve glede učinkovitosti, robustnosti, zanesljivosti in interoperabilnosti.

(83)

„Najsodobnejši tehnološki dosežki“ je treba razumeti kot razvito stopnjo tehnične zmogljivosti v danem trenutku v zvezi s proizvodi, procesi in storitvami, ki temelji na zadevnih konsolidiranih dognanjih znanosti, tehnologije in izkušenj ter je sprejeta kot dobra tehnološka praksa (28). Najsodobnejši tehnološki dosežki ne pomeni nujno najnovejših znanstvenih raziskav, ki so še v poskusni fazi ali nimajo zadostne tehnološke zrelosti. Ponudniki morajo svoje rešitve za označevanje in odkrivanje stalno ter pravočasno in sorazmerno prilagajati, ko se razvijata tehnologija in najsodobnejši tehnološki dosežki.

(84)

Ob upoštevanju člena 50(7) akta o umetni inteligenci se lahko ponudniki oprejo na kodeks prakse, ki je v skladu z navedeno določbo ocenjen kot ustrezen, da dokažejo skladnost z obveznostmi označevanja in odkrivanja iz člena 50(2) in (5) akta o umetni inteligenci, ter je usklajen z najsodobnejšimi tehnološkimi dosežki. Za dodatne informacije o učinkih upoštevanja takega kodeksa in nadzoru drugih ponudnikov, ki kodeksa ne upoštevajo, glej oddelek 8.1 v nadaljevanju.

(85)

Upoštevajo se lahko tudi stroški uvedbe nekaterih tehničnih rešitev za označevanje in odkrivanje. V nekaterih primerih, opisanih v naslednjih točkah, so lahko stroški nesorazmerni z majhnimi dodatnimi koristmi, ki imajo bolj omejeno vrednost za omogočanje ljudem, da razlikujejo vsebino, ustvarjeno ali prirejeno z UI, ter za zagotavljanje celovitosti informacijskega ekosistema in zaupanja vanj.

(86)

Zato lahko obstajajo ozko opredeljeni primeri, v katerih tehnična rešitev, ki temelji na manj robustnih metapodatkovnih oznakah, zadostuje za skladnost s členom 50(2) akta o umetni inteligenci, ob upoštevanju posebnosti izhodnih podatkov sistema UI, če ti pomenijo sama po sebi manjša tveganja zavajanja, manipulacije ali negativnih učinkov na informacijski ekosistem. To velja zlasti, kadar je generativni sistem UI vgrajen v fizične izdelke, ki ustvarjajo izhodne podatke v tehnično nadzorovanem in zaprtem okolju, ki je predvsem navodilne narave (npr. sistem UI, vgrajen v navigacijske sisteme v vozilih), kolikor so v izdelek vgrajeni učinkoviti tehnični ukrepi za preprečitev, da bi izhodni podatki zapustili okolje izdelka, na primer tako, da bi bili zajeti ali izvoženi in razširjeni navzven.

(87)

Obstajajo lahko tudi omejeni primeri „industrijskih uporab UI“ ali „uporab med podjetji“ (razen sistemov UI, namenjenih javnosti in potrošnikom), v katerih načelo sorazmernosti in omejene koristi za cilje glede preglednosti pomenijo, da izhodnih podatkov, ustvarjenih ali prirejenih z UI, ni treba označevati in odkrivati. To velja le, če so kumulativno izpolnjene naslednje zahteve:

(i)

ustvarjeni izhodni podatki sistema UI so izključno tehnične narave, na primer inženirske zasnove, poteki dela industrijske proizvodnje, tehnična navodila, izhodni podatki, ustvarjeni kot rezultat postopkov prediktivnega vzdrževanja sistemov v industrijskih okoljih, notranji postopki dokumentiranja ali proizvodne faze in poteki dela, preden so izhodni podatki dokončani in dani na voljo drugim zunanjim osebam ali javnosti;

(ii)

ustvarjeni izhodni podatki sistema UI so namenjeni temu, da jih zazna in obdela le omejeno vnaprej določeno število fizičnih oseb, ki delujejo v poklicni vlogi v organizaciji ponudnika in uvajalca;

(iii)

ustvarjeni izhodni podatki sistema UI ne smejo biti namenjeni deljenju zunaj podjetja ali temu, da bi jih lahko uporabljale zunanje osebe, pri čemer morajo biti vzpostavljeni ustrezni zaščitni ukrepi za preprečitev razumno predvidljive napačne uporabe (npr. izolacija v oblaku, kontrole na podlagi vlog).

(88)

Ustvarjanje kratkotrajnih vsebin v realnem času, ki se porabijo takoj, ne da bi se nadalje snemale, shranjevale ali razširjale (npr. v videoigrah, aplikacijah navidezne resničnosti), je lahko prav tako izvzeto, kadar označevanje tehnično ni izvedljivo in so osebe, izpostavljene vsebini, seznanjene s tem, da je vsebina ustvarjena ali prirejena z UI (npr. razkritje v okviru izkušnje, obvestila na ravni seje).

4.3   Izjeme od obveznosti iz člena 50(2) akta o umetni inteligenci

(89)

Člen 50(2) akta o umetni inteligenci določa tri izrecne izjeme od obveznosti glede preglednosti, določenih v navedeni določbi

(90)

Prva izjema se nanaša na sisteme UI, kolikor zagotavljajo podporno funkcijo za standardno urejanje. Standardno urejanje bi bilo treba razumeti kot postopek priprave obstoječe vsebine za objavo ali distribucijo (npr. manjši popravki za izboljšanje berljivosti in slovnice, kakovosti in oblike) in ne vključuje ustvarjanja nove vsebine. Cilj standardnega urejanja je med drugim zagotoviti, da je vsebina brez očitnih tehničnih ali slovničnih oziroma jezikovnih napak, usklajena z veljavnimi zahtevami glede postavitve, predstavitve, oblikovanja ali dostopnosti oziroma skladna s sektorskimi praksami. Urejanje presega standardno urejanje, če je vsebina bistveno spremenjena (vsebinske spremembe, strukturne spremembe itd.), kar vpliva na njen pomen, slog ali namen.

(91)

Druga izjema se uporablja, kadar sistem UI ne spreminja bistveno vhodnih podatkov, ki jih zagotovi uvajalec, ali njihove semantike. Sprememba bi se morala šteti za bistveno, če je sistem UI med postopkom ustvarjanja izhodnih podatkov znatno priredil vhodne podatke ali njihovo semantiko. To mora temeljiti na oceni upoštevnih dejavnikov, kot so oblika, vrsta medijske vsebine, slog in spremembe vsebine, ki vplivajo na njen pomen, slog ali namen. To je treba oceniti za vsak primer posebej.

(92)

Če se sistem UI lahko uporablja tako za ustvarjanje ali prirejanje vsebine kot za nebistvene manjše spremembe vhodnih podatkov, se obveznost glede preglednosti iz člena 50(2) akta o umetni inteligenci ne uporablja za vsebino, ki je bila spremenjena na manjši nebistven način.

Primeri standardnega urejanja in manjših sprememb, za katere velja izjema iz člena 50(2) akta o umetni inteligenci:

—

popravljanje slovničnih napak in preverjanje črkovanja, jezikovno in manjše slogovno izpopolnjevanje, ki ne spreminjajo vsebine, pomena, sloga ali sporočilnosti besedila, prevodi besedila, ustvarjeni z UI;

—

oblikovanje, pretvorbe formata, tehnično stiskanje, zmanjšanje ali odstranjevanje šuma za večjo jasnost brez spreminjanja pomena ali bistvene vsebine;

—

manjše obrezovanje, manjše prilagoditve ali popravki barv, posvetlitev ali potemnitev, izostritev za večjo jasnost ali drugo standardno urejanje in tehnični popravki;

—

odstranjevanje prašnih madežev, ki nastanejo zaradi umazane leče ali senzorja, odstranjevanje učinka rdečih oči zaradi fotografiranja z bliskavico, brisanje in zakrivanje ozadij, ki so vidna v izvirni datoteki, nazobčanje ali zamegljevanje obrazov;

—

spreminjanje velikosti videoposnetka, stiskanje dinamičnega razpona in izenačevanje, omejena stabilizacija videoposnetka;

—

standardne prilagoditve barve in kontrasta, manjše prilagoditve hitrosti predvajanja, manjši popravki za poravnavo horizonta slike, uporaba filtrov slikovnih pik za poudarjanje določenih delov slike ali uporaba barvnih zemljevidov za sivinske slike, dopolnjevanje robov slike, pretvorba črno-bele slike ali videoposnetka v barvno sliko ali videoposnetek in obratno;

—

zapolnjevanje slikovnih pik za prilagoditev razmerja med širino in višino ali za večjo jasnost, posnetki s samodejnimi prehodi, druga nebistvena urejanja v kozmetične in tehnične namene;

—

tehnična obdelava ali rekonstrukcija medicinskih slik v medicinskih pripomočkih (npr. opombe, okvirji, obrisi, krogi, termogrami);

—

prepisi pogovorov, vsebina, ustvarjena z UI, ki zgolj preoblikuje avtentične človeške vhodne podatke s podpornimi tehnologijami, ki invalidom omogočajo komuniciranje (npr. dopolnilna in nadomestna komunikacija (AAC) ali prilagojeni nevronski glasovi (CNV)), saj semantično ne spreminja pomena vsebine.

Primeri semantičnih sprememb, pri katerih se zahteva označevanje v skladu s členom 50(2) akta o umetni inteligenci:

—

povzetki besedil, ustvarjeni z UI, parafraziranje ali prepisovanje besedila, ki spreminja slog, strukturo in pomen tako, da presega zgolj slovnične in manjše slogovne popravke;

—

odstranitev, zamenjava ali vstavitev predmetov ali oseb v obstoječih slikah in videoposnetkih, ki spreminjajo pomen in bistvo vsebine, zamenjava obraza ali bistvena sprememba obraza;

—

sinteza realističnega govora z glasom določene osebe ali ustvarjanje realističnega videoposnetka, ki prikazuje dogodke, ki se niso zgodili, spreminjanje oblike telesa ali barve kože osebe, skrajna posvetlitev, potemnitev ter spremembe barve in kontrasta, ki spreminjajo pomen, namen in sporočilnost vsebine;

—

ustvarjanje sestavljenih slik ali videoposnetkov, ki spreminja prikaz oseb, predmetov, dogodkov ali dejstev, ali kakršna koli druga bistvena sprememba vsebine.

(93)

Tretja izjema se uporablja za generativni sistem UI, ki je z zakonom odobren za ustvarjanje ali prirejanje sintetične vsebine za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj. Pojasnila iz navedenih točk 46–48 v zvezi s to izjemo so pomembna tudi v tem primeru.

4.4   Medsebojno delovanje z drugimi pravnimi akti Unije

(94)

Obveznosti označevanja in odkrivanja iz člena 50(2) akta o umetni inteligenci se osredotočajo na to, kako je bila vsebina ustvarjena, in na njen umetni izvor, ne pa na to, kdo je vsebino ustvaril. Vse rešitve za označevanje in odkrivanje, ki jih uporabljajo ponudniki sistemov UI, morajo biti zato skladne z veljavnim pravom Unije o varstvu podatkov, vključno z načeli in obveznostmi varstva podatkov, kot so obveznost vgrajenega in privzetega varstva podatkov, načelo najmanjšega obsega podatkov ter načeli varnosti in zaupnosti. Na primer, za namen označevanja in odkrivanja se informacije, povezane z ustvarjalcem vsebine, ne bi smele obdelovati, vsi drugi obdelani osebni podatki pa bi se morali izbrisati takoj, ko je namen odkrivanja izpolnjen, zagotoviti je treba varnost in zaupnost itd.

(95)

V uvodni izjavi 136 akta o umetni inteligenci je nadalje poudarjen poseben pomen obveznosti glede preglednosti iz člena 50(1), (2) in (4) akta o umetni inteligenci za omogočanje učinkovitega izvajanja akta o digitalnih storitvah. To velja zlasti za obveznosti za ponudnike zelo velikih spletnih platform ali zelo velikih spletnih iskalnikov, da skrbno prepoznajo, analizirajo, ocenijo in zmanjšajo sistemska tveganja, ki lahko izhajajo iz razširjanja umetno ustvarjenih ali prirejenih vsebin, zlasti tveganje dejanskih ali predvidljivih negativnih učinkov na demokratične procese, državljansko razpravo in volilne procese, tudi z dezinformacijami (člena 34 in 35 akta o digitalnih storitvah). Strojno berljive oznake lahko tem ponudnikom omogočijo, da odkrijejo vsebino, ki je ustvarjena ali prirejena z UI, ter zagotovijo ustrezno označevanje in razkritja, s čimer se zmanjša tveganje dezinformacij, ustvarjenih z UI, v vseh njihovih storitvah.

(96)

Obveznosti glede strojno berljivega označevanja in vidnega označevanja vsebine, ki jo ustvarijo ali priredijo sistemi UI, iz člena 50(2) in (4) akta o umetni inteligenci ne posegajo v obveznost iz člena 16(6) akta o digitalnih storitvah, v skladu s katero morajo ponudniki storitev gostovanja obravnavati obvestila o nezakonitih vsebinah, prejeta na podlagi člena 16(1) akta o digitalnih storitvah (29). Zlasti strojno berljivo označevanje ali opremljanje z UI ustvarjene ali prirejene vsebine z oznako ne bi smelo vplivati na oceno in odločitev o nezakonitosti določene vsebine v skladu z drugimi regulativnimi okviri. To oceno bi bilo treba opraviti izključno ob upoštevanju pravil, ki urejajo zakonitost vsebine v skladu z navedenimi okviri (30). Na primer, če je označena slika globokega ponaredka prijavljena kot morebitni posnetek spolne zlorabe otrok ali kot morebitna kršitev prava znamk ali avtorskega prava, uporaba oznake ne vpliva na morebitno nezakonitost vsebine v skladu z navedenimi regulativnimi okviri. To oceno bi bilo treba opraviti izključno na podlagi ustreznih veljavnih predpisov (npr. kazenskega prava, pravil o pravu znamk ali avtorski pravici).

(97)

Nasprotno pa lahko strojno berljivo označevanje, vdelano v vsebino na podlagi člena 50(2) akta o umetni inteligenci, ponudnikom zelo velikih spletnih platform in zelo velikih spletnih iskalnikov pomaga izpolniti njihove obveznosti iz členov 34 in 35 akta o digitalnih storitvah, da prepoznajo, analizirajo in ocenijo sistemska tveganja, ki lahko izhajajo iz razširjanja vsebine, ki je bila umetno ustvarjena ali prirejena, zlasti tveganje dejanskih ali predvidljivih negativnih učinkov na demokratične procese, državljansko razpravo in volilne procese, tudi z dezinformacijami (31), ter uvedejo razumne, sorazmerne in učinkovite ukrepe za zmanjšanje teh tveganj, prilagojene prepoznanim specifičnim sistemskim tveganjem. Ponudniki zelo velikih spletnih platform in zelo velikih spletnih iskalnikov se lahko štejejo tudi za ponudnike sistemov UI, če izpolnjujejo upoštevne pogoje iz akta o umetni inteligenci, kadar sisteme UI vključijo v svoje storitve (glej tudi oddelek 6.1.5).

(98)

Ponudnike spletnih platform, spletnih iskalnikov in druge ustrezne akterje, ki distribuirajo vsebino v vrednostni verigi, se zlasti spodbuja, naj ohranijo oznake, ki jih uvedejo ponudniki na podlagi člena 50(2) akta o umetni inteligenci, in omogočijo njihovo identifikacijo, da se lahko fizične osebe, izpostavljene vsebini, obvesti o njenem izvoru.

5.   ČLEN 50(3) AKTA O UMETNI INTELIGENCI: SISTEMI ZA PREPOZNAVANJE ČUSTEV IN SISTEMI ZA BIOMETRIČNO KATEGORIZACIJO

(99)

Člen 50(3) akta o umetni inteligenci uvajalcem sistemov za prepoznavanje čustev in sistemov za biometrično kategorizacijo nalaga obveznost, da fizične osebe, ki so izpostavljene tem sistemom, obvestijo o delovanju sistema.

(100)

V uvodni izjavi 132 akta o umetni inteligenci je pojasnjeno, da je namen te obveznosti zagotoviti, da se fizične osebe (vključno z invalidi) zavedajo, da so izpostavljene sistemom za prepoznavanje čustev in sistemom za biometrično kategorizacijo, ki lahko posegajo v njihovo zasebnost. Obveznost se zato uporablja ne glede na to, ali so osebe takim sistemom izpostavljene v realnem času ali pa se ti sistemi uporabljajo naknadno.

5.1   Glavni elementi, pojmi in povezane obveznosti glede preglednosti na podlagi člena 50(3) akta o umetni inteligenci

5.1.1   Pojem sistema za prepoznavanje čustev

(101)

Člen 3, točka (39), akta o umetni inteligenci „sistem za prepoznavanje čustev“ opredeljuje kot „sistem UI za prepoznavanje čustev ali namenov ali sklepanje o čustvih ali namenih fizičnih oseb na podlagi njihovih biometričnih podatkov“. Podrobna pojasnila tega pojma iz smernic Komisije o razvrščanju visokotveganih sistemov UI, vključno s praktičnimi primeri, navedenimi v njih, so enako upoštevna v okviru člena 50(3) akta o umetni inteligenci.

(102)

Ker so vsi sistemi za prepoznavanje čustev razvrščeni tudi kot visokotvegani, razen če so prepovedani na podlagi člena 5(1), točka (f), akta o umetni inteligenci na delovnem mestu in v izobraževalnih ustanovah, bi se morala obveznost glede preglednosti iz člena 50(3) akta o umetni inteligenci uporabljati skupaj z drugimi zaščitnimi ukrepi in zahtevami, ki se uporabljajo za visokotvegane sisteme UI.

5.1.2   Pojem sistema za biometrično kategorizacijo

(103)

Člen 3(40) akta o umetni inteligenci „sistem za biometrično kategorizacijo“ opredeljuje kot „sistem UI za razvrščanje fizičnih oseb v posebne kategorije na podlagi njihovih biometričnih podatkov, razen če gre za pomožni in iz objektivnih tehničnih razlogov nujno potreben sistem druge komercialne storitve“. Podrobna pojasnila tega pojma iz smernic Komisije o razvrščanju visokotveganih sistemov UI, vključno z njegovimi specifičnimi elementi in praktičnimi primeri, navedenimi v njih, so enako upoštevna v okviru člena 50(3) akta o umetni inteligenci.

(104)

Pomembno je, da se člen 50(3) akta o umetni inteligenci uporablja za vse sisteme za biometrično kategorizacijo (npr. razvrščanje glede na starost ali spol na podlagi biometričnih podatkov) ne glede na to, ali spadajo na področje uporabe določb akta o umetni inteligenci o visokotveganih sistemih UI, razen če so prepovedani na podlagi člena 5(1), točka (g), akta o umetni inteligenci.

5.1.3   Obveznost obveščanja iz člena 50(3) akta o umetni inteligenci

(105)

Obseg informacij, ki jih je treba zagotoviti: uvajalci morajo zadevne fizične osebe obvestiti, da so izpostavljene sistemu za prepoznavanje čustev ali sistemu za biometrično kategorizacijo, ki je v uporabi. Akt o umetni inteligenci ne zahteva vključitve informacij o razlogih za delovanje sistema ali o tem, ali sistem obdeluje tudi informacije za druge namene kot za prepoznavanje čustev ali biometrično kategorizacijo, kar je treba razkriti na podlagi prava Unije o varstvu podatkov (glej oddelek 5.3.).

(106)

Naslovniki informacij: člen 50(3) akta o umetni inteligenci zahteva, da uvajalci obvestijo vse fizične osebe, ki so izpostavljene delovanju sistema UI, vključno z otroki.

(107)

Načini zagotavljanja informacij: akt o umetni inteligenci ne predpisuje posebnega načina za zagotavljanje informacij, določa pa, da člen 50(5) akta o umetni inteligenci zahteva, da se informacije dajo na voljo na jasen in razpoznaven način ter v skladu z veljavnimi zahtevami glede dostopnosti (ob upoštevanju potreb invalidov). Način obveščanja fizičnih oseb, izpostavljenih sistemu, je lahko odvisen od kraja uvedbe (npr. virtualna platforma za igre, fizična trgovina, železniška postaja), morebitnih naslovnikov (npr. otroci, starejši, invalidi, stranke), trajanja in vrste izpostavljenosti (npr. dolgotrajna, enkratna, neprekinjena, občasna) ter morebitnega obstoja razmerja med uvajalcem in izpostavljenimi osebami (npr. če obstaja komunikacijski kanal s posameznikom). Glede na primer uporabe se lahko informacije zagotovijo pisno, s standardiziranimi ikonami (tudi kadar so predstavljene elektronsko), ustno ali s kombinacijo takih načinov.

Primeri obveščanja fizičnih oseb:

—

osrednje nameščeno pojavno okno z uvodnim sporočilom pred zagonom računalniške igre, v katerem je navedeno, da se igralčev obraz snema in da se zajemajo njegova čustva;

—

vidno obvestilo pri vsakem možnem vhodu v razstavni prostor z informacijami, da se ob vstopu obiskovalcev v prostor zajemajo podobe njihovih obrazov, da se jih razvrsti v določeno starostno skupino.

(108)

Časovni okvir za zagotovitev informacij: informacije je treba zagotoviti najpozneje ob prvi interakciji s sistemom UI ali prvi izpostavljenosti sistemu UI v skladu s členom 50(5) akta o umetni inteligenci. Kadar je ustrezno, ni izključeno, da se zahtevane informacije zagotovijo vnaprej.

5.2   Izjema za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj

(109)

Obveznost obveščanja se ne uporablja za sisteme za prepoznavanje čustev in sisteme za biometrično kategorizacijo, ki so z zakonom dovoljeni za odkrivanje, preprečevanje ali preiskovanje kaznivih dejanj, ob upoštevanju ustreznih zaščitnih ukrepov za pravice in svoboščine tretjih oseb ter v skladu s pravom Unije. Pojasnila glede te izjeme iz navedenih točk 46–48 so pomembna tudi v tem primeru, vendar z eno razliko. Medtem ko druge izjeme iz člena 50 akta o umetni inteligenci zahtevajo izrecen zakon, ki dovoljuje nepregledno uporabo sistemov UI, člen 50(3) akta o umetni inteligenci tako uporabo omogoča, kadar je dovoljena na podlagi pravnih pravil, ki urejajo pooblastila organov za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj za uporabo sistemov za prepoznavanje čustev in sistemov za biometrično kategorizacijo za odkrivanje, preprečevanje ali preiskovanje kaznivih dejanj brez obveščanja zadevnih oseb, ob upoštevanju ustreznih zaščitnih ukrepov.

5.3   Medsebojno delovanje z drugimi pravnimi akti Unije

(110)

Obveznost obveščanja iz člena 50(3) akta o umetni inteligenci sama po sebi ne pomeni, da je uporaba sistema za prepoznavanje čustev in sistema za biometrično kategorizacijo zakonita. Prav tako ne legitimira vsiljivih ali diskriminatornih načinov uporabe, ki bi lahko bili nezakoniti in prepovedani na podlagi člena 5 akta o umetni inteligenci ali drugega prava Unije. Uvajalci morajo obveznost obveščanja iz člena 50(3) akta o umetni inteligenci izpolnjevati poleg vseh veljavnih zahtev glede informacij na podlagi prava Unije o varstvu podatkov. V nekaterih primerih lahko uvajalci razmislijo o tem, da bi informacijam, ki se posameznikom, na katere se nanašajo osebni podatki, zagotovijo na podlagi prava Unije o varstvu podatkov, dodali obvestila iz člena 50(3) akta o umetni inteligenci.

6.   ČLEN 50(4): OZNAČEVANJE GLOBOKIH PONAREDKOV IN NEKATERIH BESEDILNIH OBJAV

(111)

Člen 50(4) akta o umetni inteligenci določa dve ločeni obveznosti za uvajalce generativnih sistemov UI, ki zahtevata jasna in razpoznavna razkritja (i) globokih ponaredkov ter (ii) besedila, ustvarjenega ali prirejenega z UI, objavljenega z namenom obveščanja javnosti o zadevah javnega interesa, razen v opredeljenih primerih. Te obveznosti glede označevanja se uporabljajo poleg obveznosti glede strojno berljivega označevanja in odkrivanja iz člena 50(2) akta o umetni inteligenci, ki veljajo za ponudnike sistemov UI, ki ustvarjajo ali prirejajo sintetično slikovno, video, zvočno ali besedilno vsebino, in ne posegajo vanje.

6.1   Glavni elementi, pojmi in povezane obveznosti glede preglednosti za globoke ponaredke na podlagi člena 50(4) akta o umetni inteligenci

(112)

Člen 50(4), prvi pododstavek, akta o umetni inteligenci se uporablja, če je izpolnjenih več pogojev:

(i)

sistem mora biti sistem UI;

(ii)

uvajalci ga uporabljajo za poklicne namene (glej oddelka 2.3. in 2.4.1.);

(iii)

uporablja se za ustvarjanje ali prirejanje slikovne, zvočne ali video vsebine, ki je globoki ponaredek;

(iv)

sistem UI ne sme spadati pod izjemo za uporabo, ki je z zakonom dovoljena za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj.

6.1.1   Pojem „globoki ponaredek“

(113)

Člen 3, točka (60), akta o umetni inteligenci opredeljuje „globoki ponaredek“ kot „z UI ustvarjeno ali manipulirano slikovno, zvočno ali video vsebino, ki je podobna obstoječim osebam, predmetom, krajem, subjektom ali dogodkom in se uporabniku lažno zdi pristna ali resnična“. Razlika med prirejanjem in ustvarjanjem je bila pojasnjena v oddelku 4.1. Za pojasnitev pojma globoki ponaredek so v nadaljevanju obravnavana štiri kumulativna merila iz navedene opredelitve: (i) podobnost (ii) obstoječim (iii) osebam, predmetom, krajem, subjektom ali dogodkom, ki (iv) se osebi lažno zdi pristna ali resnična.

(i)

Podobnost: člen 3, točka (60), akta o umetni inteligenci določa, da mora biti z UI ustvarjena ali prirejena slikovna, zvočna ali video vsebina „podobna“ obstoječim subjektom, da bi pomenila globoki ponaredek. V uvodni izjavi 134 akta o umetni inteligenci je dodano, da bi morala biti vsebina podobna „v znatni meri“. Z UI ustvarjena ali prirejena slikovna, zvočna ali video vsebina je v znatni meri podobna subjektu, če obstaja visoka stopnja podobnosti med vsebino globokega ponaredka in subjektom (vključno s katerim koli od njegovih prepoznavnih elementov), ki ga globoki ponaredek simulira. Ni nujno, da je vsebina enaka subjektu. Ali je vsebina podobna v znatni meri, mora uvajalec oceniti za vsak primer posebej na podlagi objektivne primerjave med simuliranim subjektom in vsebino globokega ponaredka, pri čemer med drugim upošteva obseg, v katerem so v globokem ponaredku predstavljene značilne ali razločevalne lastnosti.

(ii)

Obstoječ: člen 3, točka (60), akta o umetni inteligenci določa, da mora biti slikovna, zvočna ali video vsebina, ustvarjena ali prirejena z UI, podobna „obstoječim“ subjektom, da bi pomenila globoki ponaredek. Za učinkovito izpolnitev namena člena 50(4) akta o umetni inteligenci, tj. zmanjšati tveganja izdajanja za drugo osebo, zavajanja, dezinformacij, prirejanja in goljufij, značilnost obstoja pomeni, da bi morala biti slikovna, zvočna ali video vsebina, ustvarjena ali prirejena z UI, podobna realističnim subjektom (npr. osebam, predmetom, krajem). Zato zadostuje, da so simulirane osebe, predmeti, kraji, subjekti ali dogodki podobni nekomu ali nečemu, kar obstaja, lahko verjetno obstaja ali bi lahko verjetno obstajalo v resničnosti, da se štejejo za globoki ponaredek, saj je taka vsebina lahko pomemben vir zavajanja, prirejanja in dezinformacij. Nasprotno pa se simulirane osebe, predmeti, kraji, subjekti ali dogodki, ki na primer kljubujejo naravnim ali fizikalnim zakonom ali prikazujejo življenjske oblike, ki v biologiji niso splošno sprejete (kot so npr. ljudje, ki letijo brez mehanskih pripomočkov, zmaji ali sloni, ki vozijo avtomobile), in nimajo možnosti zavajanja, štejejo za nerealistične in zato ne spadajo na področje uporabe obveznosti glede preglednosti.

(iii)

Osebe, predmeti, kraji, subjekti ali dogodki: člen 3, točka (60), akta o umetni inteligenci določa, da bi morala biti slikovna, zvočna ali video vsebina, ustvarjena ali prirejena z UI, podobna obstoječim „osebam, predmetom, krajem, subjektom ali dogodkom“, da bi pomenila globoki ponaredek. „Osebe“ je treba razumeti kot realistična človeška bitja (vključno z digitalnimi replikami resničnih oseb, realističnimi človeškimi avatarji ali personami, ustvarjenimi z UI, ter osebnimi značilnostmi ali izrazi, kot so podoba, glas, vedenje, nastopi itd.). „Predmete“ je treba razumeti kot realistične nežive materialne stvari, vključno s stavbami, umetniškimi deli, stroji, potrošniškim blagom itd. „Kraje“ je treba razumeti kot realistične lokacije. „Subjekte“ je treba razumeti kot realistična nečloveška, vendar živa bitja, vključno z živalmi ali drugimi biološkimi življenjskimi oblikami. „Dogodke“ je treba razumeti kot realistične prizore ali situacije, ki lahko vključujejo osebe, predmete, kraje in subjekte (npr. obujanje zgodovinskih dogodkov ali prikaz poklicnih ali potrošniških storitev).

(iv)

Lažni vtis, da je vsebina pristna ali resnična: četrtič, člen 3, točka (60), akta o umetni inteligenci določa, da se slikovna, zvočna ali video vsebina, ustvarjena ali prirejena z UI, ki je podobna obstoječim osebam, predmetom, krajem, subjektom ali dogodkom, „uporabniku lažno zdi pristna ali resnična“. To merilo se nanaša na bistveno značilnost vsebine globokega ponaredka in njeno zmožnost, da potencialno prevara ali zavede osebo glede pristnosti ali resničnosti vsebine (32). Pristnost vsebine se nanaša na to, ali je vsebina dejansko to, za kar se predstavlja, kar zadeva njen vir ali postopek ustvarjanja (vključno npr. z udeležbo resničnih ljudi ali živali in njihovim dejanskim vedenjem ali dejanji, dejanskim videzom ali uporabo predmetov ali opravljanjem storitev, natančnim potekom ali razvojem dogodka). Resničnost se nanaša na to, ali je vsebina resnična (npr. dejanska pravilnost prikazov v globokem ponaredku).

(114)

Ali se vsebina „uporabniku lažno zdi pristna ali resnična“, bi bilo treba oceniti kot celoto, pri čemer se upoštevajo stopnja podobnosti, morebitno vsebinsko sporočilo vsebine, predvideni in predvidljivi konteksti uvajanja, okolje, v katerem je vsebina predstavljena, ter sestava predvidenega in razumno predvidljivega občinstva ter njegova pričakovanja. Vendar je ta ocena objektivna in za to, da bi vsebina pomenila globoki ponaredek, ni potreben namen uvajalca, da prevara ali zavede fizične osebe, izpostavljene vsebini. Glede konteksta uvajanja in pričakovanja občinstva to pomeni, da če se vsebina uporablja v posebnih kontekstih uvajanja, v katerih predvideno in razumno predvidljivo občinstvo ne pričakuje, da je vsebina pristna ali resnična, vsebina, ustvarjena ali prirejena z UI, morda ne ustvarja lažnega vtisa, da je pristna ali resnična, tudi če dejansko ni pristna ali resnična. V takih primerih četrto merilo iz opredelitve globokega ponaredka ne bo izpolnjeno. Na primer, ni verjetno, da bi z UI ustvarjeni ali prirejeni prizori v ozadju, posebni učinki ali tehnična pred- in poobdelava kot del standardnih postopkov filmske produkcije povzročila, da bi se vsebina občinstvu lažno zdela pristna ali resnična. Nasprotno pa je verjetno, da bo imela tak učinek uporaba UI za ustvarjanje ali prirejanje bistvenih elementov, ki vplivajo na dojemanje občinstva (kot so igralci, v celoti ustvarjeni z UI, digitalne replike resničnih ali pokojnih igralcev, pomlajevanje, simulirani nastopi, vključno z njihovimi deli, ali nepristno oziroma neresnično prikazovanje oseb, predmetov, krajev ali dogodkov v dokumentarnih filmih). Za slikovno in video vsebino se priznava, da je zaradi visoke stopnje fotorealizma verjetneje, da bi bilo treba tako vsebino šteti za globoki ponaredek (saj je verjetno podobna obstoječim subjektom), vendar fotorealizem sam po sebi ni odločilen za oceno. Še vedno pa je treba oceniti, ali lahko taka vsebina prevara ali zavede osebo glede pristnosti ali resničnosti vsebine, pri čemer se med drugim upošteva predvideni in predvidljivi kontekst uvajanja.

(115)

V nasprotju s členom 50(1) akta o umetni inteligenci ocena lažnega vtisa pri osebi, da je vsebina pristna ali resnična, ne bi smela temeljiti na hipotetični „povprečni“ osebi, za katero se pričakuje, da bo izpostavljena vsebini (glej oddelek 3.2.1), temveč bi morala ustrezno upoštevati morebitno raznoliko sestavo razumno predvidljivega občinstva, ki je lahko izpostavljeno vsebini globokega ponaredka. Ustrezno upoštevanje sestave občinstva je še posebej pomembno, če je razumno predvidljivo, da bodo vsebino globokega ponaredka morda na neki točki zaznali otroci, starejši ali druge skupine oseb z nižjo stopnjo digitalne pismenosti in pismenosti na področju UI ali splošnega znanja, saj jih je mogoče lažje prevarati ali zavesti glede pristnosti ali resničnosti vsebine. V takih primerih lahko lažni vtis, da je vsebina za ta del predvidljivega občinstva pristna ali resnična, zadostuje za opredelitev vsebine kot globokega ponaredka. Vendar se od uvajalcev ne pričakuje, da bodo upoštevali morebitno nadaljnje razširjanje vsebine globokega ponaredka s strani tretjih oseb zunaj občinstva, ki ga uvajalec razumno predvidi, ob upoštevanju predvidenih distribucijskih kanalov (npr. če je vsebina globokega ponaredka prikazana izključno na delu spletišča, dostopnem samo naročnikom, ali kot del glasila podjetja, to ne pomeni, da bi moral uvajalec privzeto upoštevati široko javno dostopnost).

(116)

Podobno je lahko prirejanje nepomembnih vsebinskih ali tehničnih vidikov že obstoječe vsebine s podporo UI manj pomembno za nekogaršnjo oceno pristnosti ali resničnosti vsebine, pri čemer nastala vsebina zato ne postane globoki ponaredek. To bi lahko na primer vključevalo urejanje podrobnosti v ozadju (npr. odstranitev mimoidočega), prilagoditve osvetlitve, prilagajanje zvočnih parametrov, barvno korekcijo, zmanjšanje ali odstranjevanje šuma, izboljšanje dostopnosti ali stiskanje datotek, kozmetične prilagoditve in izboljšave. Ali bo prirejanje spadalo v to kategorijo, je odvisno od konteksta in vpliva na nekogaršnje dojemanje pristnosti ali resničnosti vsebine v konkretnem primeru. Na primer, barvna korekcija s pomočjo UI, razširitve ozadja obstoječe vsebine, prilagoditve ali zamenjave ozadij iz jasno estetskih namenov, kompozicije in razporeditve obstoječih proizvodov ali sprememba velikosti slik, uporabljene v oglasih za proizvode ali na embalaži, bodo verjetno imele le majhen vpliv na nekogaršnje dojemanje pristnosti in resničnosti oglasa in proizvoda. Nasprotno pa lahko obsežno urejanje podrobnosti v ozadju novinarskih slik s pomočjo UI, ki presega standardne tehnične in uredniške prakse, negativno vpliva na nekogaršnje dojemanje pristnosti in resničnosti vsebine.

Primeri globokih ponaredkov v skladu s členom 3, točka (60), akta o umetni inteligenci:

—

Z UI prirejena slika prizora, na katerem sta dva resnična profesionalna nogometaša pred stavbo, podobno nogometnemu stadionu;

—

z UI ustvarjen zvočni posnetek s kloniranjem glasov rednih voditeljev podkasta časopisa in gostujočega sogovornika, ki razpravljajo o nekaterih novičarskih dogodkih;

—

z UI ustvarjen videoposnetek posameznika, ki je podoben politiku in ima govor pred občinstvom;

—

z UI ustvarjen videoposnetek, ki prikazuje z UI ustvarjeno upodobitev slavnega vplivneža v oglaševalskem ali promocijskem kontekstu;

—

z UI ustvarjen videoposnetek z realističnim sintetičnim avatarjem izvršnega direktorja podjetja, ki zaposlenim čestita za njihovo delo in poslovne rezultate v preteklem letu;

—

z UI ustvarjena slika proizvoda v oglasu ali na embalaži, ki lahko vpliva na dojemanje občinstva in zavaja glede dejanskega videza, značilnosti ali uporabe proizvoda (npr. tako, da se proizvod zdi drugačen od resničnega proizvoda, privlačnejši ali boljše kakovosti kot v resničnem življenju).

Primeri, ki ne pomenijo globokih ponaredkov v skladu s členom 3, točka (60), akta o umetni inteligenci:

—

Z UI ustvarjena slika prizora s sfingo, ki leti nad Eifflovim stolpom;

—

z UI ustvarjen videoposnetek miši, ki se v človeškem jeziku prepirajo o najboljši vrsti sira kot del oglaševalske kampanje proizvajalca sira;

—

replikacija glasu z UI za fiktivne like (npr. za zvočne knjige, igre ali animacijo), kadar ni zavajanja glede identitete pripovedovalcev;

—

z UI prirejena radijska oddaja s prilagoditvijo tehničnih zvočnih parametrov (npr. normalizacijo ravni glasnosti, zmanjšanjem šuma, stiskanjem zvoka), ne da bi se spremenile dejanske besede govorcev ali njihov način govora;

—

z UI ustvarjena risanka že obstoječe slike, ki prikazuje zgodovinski dogodek;

—

videoposnetek voditelja znanstvene televizijske oddaje, ki hodi po gorskem območju in govori o umikanju ledenikov, kar je ponazorjeno z animacijo ozadja, prirejeno z UI, ki prikazuje, kako so se ledeniki zmanjšali s preteklih ravni na sedanje;

—

z UI ustvarjena fiktivna okolja (npr. fiktivni gozdovi in gradovi) v videoigrah;

—

filmi, v katerih resnični obstoječi igralci (katerih podoba ni prirejena z UI) igrajo pred ozadjem, ustvarjenim z UI (npr. ki prikazuje fiktiven pas prerije, zgodovinske stavbe starodavnih mest itd.);

—

resnični proizvod (npr. avtomobil), prikazan v oglasu pred ozadjem in okolico, ustvarjenima z UI, če ni verjetno, da bo oglas zavajal občinstvo glede dejanskega prikaza proizvoda ter njegovih značilnosti in uporabe.

6.1.2   Obveznost razkritja iz člena 50(4), prvi pododstavek, akta o umetni inteligenci

(117)

Člen 50(4), prvi pododstavek, akta o umetni inteligenci od uvajalcev sistemov UI, ki ustvarjajo ali prirejajo slikovne, zvočne ali video vsebine, ki pomenijo globoki ponaredek, zahteva, da „morajo razkriti, da je bila vsebina umetno ustvarjena ali prirejena“. V uvodni izjavi 134 akta o umetni inteligenci je pojasnjeno, da bi morali uvajalci, ki sisteme UI uporabljajo za ustvarjanje ali prirejanje vsebin globokih ponaredkov, na jasen in razpoznaven način razkriti, da je bila taka vsebina umetno ustvarjena ali prirejena, tako da ustrezno označijo izhodne podatke UI in razkrijejo njihov umetni izvor. Metode označevanja ali razkritja, ki se uporabljajo v skladu s členom 50(4), prvi pododstavek, akta o umetni inteligenci, bi morale biti za fizične osebe razumljive in zaznavne (npr. z vidnimi ali zvočnimi oznakami), ne da bi se morale zanašati na posebna tehnična orodja ali izvajati namenska dejanja. Zato se uvajalci ne morejo zanašati na strojno berljivo označevanje, ki ga je ponudnik v skladu s členom 50(2) akta o umetni inteligenci vgradil v vsebino, saj te oznake za fizične osebe, izpostavljene vsebini globokega ponaredka, niso takoj jasne in razpoznavne.

(118)

Glede na člen 50(7) akta o umetni inteligenci lahko uvajalci za dokazovanje skladnosti s to obveznostjo razkritja upoštevajo kodeks prakse, ki je bil na podlagi člena 50(7) akta o umetni inteligenci ocenjen kot ustrezen. Za več informacij o učinkih upoštevanja takega kodeksa in nadzoru drugih uvajalcev, ki kodeksa ne upoštevajo, glej oddelek 8.1 v nadaljevanju.

6.1.3   Preglednost umetniških, ustvarjalnih, satiričnih, fiktivnih ali podobnih globokih ponaredkov

(119)

Člen 50(4), prvi pododstavek, akta o umetni inteligenci določa milejšo obveznost glede preglednosti za globoke ponaredke, ki so del očitno umetniških, ustvarjalnih, satiričnih, fiktivnih ali podobnih del ali programov. Za tako vsebino je obveznost glede preglednosti omejena na razkritje globokega ponaredka na ustrezen način, ki ne ovira prikazovanja dela ali uživanja v njem.

(120)

Upoštevne kategorije vsebin: da bi se za globoki ponaredek (slikovno, zvočno ali video vsebino) lahko uporabljala milejša obveznost glede preglednosti, bi moral spadati v vsaj eno od naslednjih kategorij vsebin: umetniška, ustvarjalna, satirična, fiktivna ali podobna dela ali programi. Ali globoki ponaredek spada v eno ali več teh kategorij, mora uvajalec oceniti za vsak primer posebej. Za namene člena 50(4) akta o umetni inteligenci se navedene kategorije razumejo, kot sledi:

—

umetniška dela se razumejo kot dela, ustvarjena za namene umetnosti, vključno z glasbo, kinematografskimi deli in vizualno umetnostjo;

—

ustvarjalna dela se razumejo kot dela, ki vključujejo ustvarjalne izbire. Dela, ki temeljijo predvsem na funkcionalnih ali tehničnih vidikih, se ne morejo šteti za ustvarjalna;

—

satirična dela se razumejo kot dela, katerih namen je kritizirati družbo, politiko, poslovni svet ali javne osebnosti z uporabo humorističnih tehnik (vključno z ironijo, sarkazmom, posmehom, pastišem itd.);

—

fiktivna dela se razumejo kot kulturna dela, ki vključujejo osebe, predmete, kraje, subjekte ali dogodke v izmišljenem, vendar verjetnem okolju;

—

podobna dela se razumejo kot dela, ki si z navedenimi kategorijami delijo temeljne lastnosti ali podobne izrazne ali funkcionalne značilnosti, vendar ne spadajo jasno v nobeno od njih.

(121)

Navedene kategorije vsebin se lahko uporabljajo tudi za programe, ki bi jih bilo treba razumeti kot posamezne postavke v sporedu ali katalogu, ki ga oblikuje ponudnik medijskih storitev, in so po obliki in vsebini primerljivi z razširjanjem televizijskih programov (33). Sklicevanje na „dela“ v okviru člena 50(4) akta o umetni inteligenci ne vpliva na to, ali je vsebina upravičena do varstva na podlagi prava Unije o avtorski in sorodnih pravicah.

(122)

Očitno: to, da globoki ponaredek spada v eno (ali več) navedenih kategorij vsebin, bi moralo biti očitno fizičnim osebam, ki so mu izpostavljene. To pomeni, da bi bilo treba kategorije razlagati ozko, kar je utemeljeno s tem, da se zaradi morebitnega vpliva na svobodo izražanja ter svobodo umetnosti in znanosti uporablja milejša ureditev razkritja, medtem ko je treba tveganja dezinformacij, prirejanja in zavajanja še vedno ustrezno obravnavati. Zato je vsebina, katere narava je lahko občinstvu nejasna ali dvoumna, izključena s področja uporabe te milejše ureditve preglednosti. Upoštevni dejavniki za oceno očitne narave umetniške, ustvarjalne, satirične ali fiktivne vsebine vključujejo: (i) ali vsebina prikazuje oblike ali sloge, ki so značilni za kategorije vsebin (npr. ironijo ali pretiravanje pri satiričnih delih, določene umetniške sloge, prikazovanje razpoznavnih tem, tehnik ali estetskih značilnosti itd.); (ii) kontekst, v katerem je vsebina predstavljena (npr. ali je platforma, medij ali kraj, kjer je vsebina predstavljena, dana na voljo ali distribuirana, povezan z umetniško, ustvarjalno, satirično ali fiktivno uporabo), in (iii) pričakovanja občinstva (npr. film, igralno okolje ali prizor navidezne resničnosti). Poleg tega pogoj, da bi morala vsebina „očitno“ spadati v eno od navedenih kategorij vsebin, s področja uporabe navedenih kategorij vsebin izključuje vsebino, če je njena narava izključno informativna ali komercialna in je kot taka prepoznavna (npr. poročanje o novicah). V zvezi s tem bi se nekatere vrste vsebin (npr. oglasi ali dokumentarni filmi), ki vsebujejo globoke ponaredke, v določenih posebnih primerih lahko štele za očitno ustvarjalna ali fiktivna dela, v drugih pa ne, saj je ocena odvisna od posameznega primera. Kadar globoki ponaredek združuje več značajev (npr. informativnega in ustvarjalnega), bi moral vedno prevladati informativni značaj, kar zahteva skladnost s standardnimi zahtevami glede označevanja.

(123)

Ustrezno razkritje, ki ne ovira prikazovanja dela ali uživanja v njem: globoki ponaredki, ki so del očitno umetniških, ustvarjalnih, satiričnih ali fiktivnih del ali programov, niso izključeni iz obveznosti glede preglednosti iz člena 50(4), prvi pododstavek, akta o umetni inteligenci. Uvajalci morajo še vedno razkriti, da vsebina izvira iz UI ali da je bila prirejena, vendar lahko to storijo na ustrezen način, ki ne ovira prikazovanja dela ali uživanja v njem. V uvodni izjavi 134 akta o umetni inteligenci je pojasnjeno, da tako ustrezno razkritje ne bi smelo ovirati normalne eksploatacije in uporabe, hkrati pa bi moralo omogočati ohranitev uporabnosti in kakovosti dela. Določitev, kateri ukrepi za razkritje se štejejo za ustrezne, se oceni za vsak primer posebej, pri čemer lahko uvajalci upoštevajo vse upoštevne dejavnike (vključno z naravo dela, občinstvom, kontekstom itd.). V vsakem primeru morajo uvajalci ravnati v skladu s členom 50(5) akta o umetni inteligenci (glej oddelek 7). Glede na člen 50(7) akta o umetni inteligenci lahko uvajalci za dokazovanje skladnosti s to obveznostjo razkritja upoštevajo kodeks prakse, ki je bil v skladu z navedeno določbo ocenjen kot ustrezen. Za več informacij o učinkih upoštevanja takega kodeksa in nadzoru drugih uvajalcev, ki kodeksa ne upoštevajo, glej oddelek 8.1 v nadaljevanju.

(124)

Ustrezni zaščitni ukrepi za pravice in svoboščine tretjih oseb: v uvodni izjavi 134 akta o umetni inteligenci je pojasnjeno, da je treba skladnost z milejšo obveznostjo glede preglednosti in uporabo umetniških, ustvarjalnih, satiričnih ali fiktivnih globokih ponaredkov izvajati „ob upoštevanju ustreznih zaščitnih ukrepov za pravice in svoboščine tretjih oseb“. Zato morajo uvajalci pri ustvarjanju ali objavljanju globokih ponaredkov zagotoviti, da so pravice in svoboščine tretjih oseb (vključno npr. z njihovo pravico do varstva osebnih podatkov ali pravicami intelektualne lastnine) ustrezno varovane in spoštovane, tudi če naj bi se globoki ponaredek štel za umetniškega, ustvarjalnega, satiričnega ali fiktivnega. Sklicevanje na milejšo obveznost glede preglednosti ne more upravičiti nespoštovanja temeljnih pravic posameznikov oziroma pravic imetnikov pravic na podlagi prava Unije o intelektualni lastnini ali prava Unije o varstvu podatkov (34).

Primeri globokih ponaredkov, ki so ustvarjalna, satirična, fiktivna ali podobna dela:

—

Umetniško/fiktivno delo: filmi (ali filmski napovedniki), ki vključujejo z UI ustvarjene ali prirejene globoke ponaredke digitalno pomlajenih obstoječih igralcev ali digitalnih replik umrlih igralcev ali drugih oseb, dostopni v kinu ali na platformi za pretakanje.

—

Umetniško/ustvarjalno delo: z UI ustvarjena glasba katere koli zvrsti, ki je podobna individualnemu slogu obstoječih umetnikov.

—

Satirično/fiktivno delo: z UI prirejena slika obstoječega politika, ki ga postavlja v prizor, jasno namenjen humornemu kritiziranju določenih političnih odločitev, ki jih je ta oseba sprejela ali podprla.

—

Podobno ustvarjalno/fiktivno delo: igralno slikovno gradivo, ustvarjeno z UI, ki vključuje simulacije v obliki globokih ponaredkov resničnih obstoječih oseb.

Primeri globokih ponaredkov, ki niso umetniška, ustvarjalna, satirična, fiktivna ali podobna dela:

—

videoposnetek, prirejen z UI, v slogu kanala za televizijsko prodajo, ki vključuje simulacijo v obliki globokega ponaredka ljudi, ki oglašujejo izdelek v prizoru, ustvarjenem z UI, ki prikazuje, kako simulirani potrošniki funkcionalno uporabljajo izdelek, da bi gledalce prepričal k nakupu izdelka;

—

slika slavnih oseb, ustvarjena z UI, ki nakazuje njihovo vpletenost v dejavnosti, ki se niso nikoli zgodile, brez kakršnega koli fiktivnega, satiričnega ali podobnega namena;

—

videoposnetek, prirejen z UI, z realističnim sintetičnim vplivnežem, ki preizkuša sponzoriran resnični izdelek, osredotočen izključno na prikaz funkcionalnosti izdelka;

—

videoposnetek, ustvarjen z UI, ki prikazuje realistične prizore holokavsta, ki se delijo na javno dostopnih platformah družbenih medijev.

6.1.4   Izjema za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj

(125)

Če je uporaba globokega ponaredka (npr. videoposnetka, ustvarjenega z UI, ki simulira dogodke, ki se niso nikoli zgodili) z zakonom dovoljena za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj, so uvajalci izvzeti iz obveznosti glede preglednosti iz člena 50(4), prvi pododstavek, akta o umetni inteligenci. Pojasnila iz navedenih točk 46–48 za podobno izjemo iz člena 50(1) akta o umetni inteligenci so upoštevna tudi za to določbo.

6.1.5   Medsebojno delovanje z drugimi pravnimi akti Unije

(126)

Obveznost glede preglednosti iz člena 50(4), prvi pododstavek, akta o umetni inteligenci bo součinkovala z obveznostmi ponudnikov zelo velikih spletnih platform in zelo velikih spletnih iskalnikov glede prepoznavanja in zmanjševanja sistemskih tveganj v skladu s členoma 34 in 35 akta o digitalnih storitvah, zlasti členom 35(1), točka (k), akta o digitalnih storitvah (35). Slednja določba med možnimi ukrepi za zmanjševanje tveganj, ki jih lahko sprejmejo ponudniki zelo velikih spletnih platform in zelo velikih spletnih iskalnikov, navaja ukrepe za zagotavljanje, da se „informacija, najsi gre za ustvarjeno ali prirejeno sliko, avdio ali video, ki je bistveno podobna obstoječim osebam, predmetom, krajem ali drugim subjektom ali dogodkom in se osebi napačno zdi pristna ali resnična, razlikuje na podlagi vidnih oznak, ko je predstavljena na njihovih spletnih vmesnikih“. Poleg tega lahko ponudniki zelo velikih spletnih platform in zelo velikih spletnih iskalnikov zagotovijo tudi funkcionalnost, ki je preprosta za uporabo in ki prejemnikom storitve omogoča, da navedejo tako informacijo. Čeprav se ta določba akta o digitalnih storitvah zdi podobna členu 50(4) akta o umetni inteligenci, ga dopolnjuje in vsebuje dve pomembni razliki:

—

različno stvarno področje uporabe: v primerjavi s členom 50(4) akta o umetni inteligenci člen 35(1), točka (k), akta o digitalnih storitvah zajema širši nabor vsebin, ki se lahko napačno zdijo pristne ali resnične, ne glede na tehnologije, uporabljene za ustvarjanje vsebine (tj. zajema vsebine, ki so bile ustvarjene ali prirejene z uporabo sistemov UI ali katerega koli drugega orodja);

—

različno osebno področje uporabe: člen 50(4) akta o umetni inteligenci uvajalcem sistemov UI, ki ustvarjajo ali prirejajo globoke ponaredke, nalaga označevanje take vsebine, člen 35(1), točka (k), akta o digitalnih storitvah pa se uporablja za ponudnike zelo velikih spletnih platform in zelo velikih spletnih iskalnikov, ki razširjajo vsebino ali omogočajo, da se taka vsebina odkrije z iskanjem. Na primer, uvajalci sistemov UI, vključenih v zelo veliko spletno platformo, se lahko v skladu z aktom o umetni inteligenci štejejo za „prejemnike storitve“ v skladu s členom 3, točka (b), akta o digitalnih storitvah (36), če zelo veliko spletno platformo uporabljajo za razširjanje vsebine, ustvarjene z zadevnim sistemom UI, medtem ko se lahko zelo velika spletna platforma šteje za ponudnika sistema UI, če so izpolnjeni pogoji iz člena 3, točka (3), akta o umetni inteligenci. Kadar ponudniki zelo velikih spletnih platform ali zelo velikih spletnih iskalnikov takim uvajalcem dajo na voljo orodja za označevanje, ki jim omogočajo, da svoje vsebine, ki so globoki ponaredki, označijo v skladu s členom 50(4) akta o umetni inteligenci (tj. z jasnim in razpoznavnim razkritjem, da je vsebina ustvarjena z UI), se lahko ti uvajalci na taka orodja zanesejo pri izpolnjevanju svoje obveznosti glede preglednosti iz navedene določbe v okviru uporabljene zelo velike spletne platforme ali zelo velikega spletnega iskalnika. Zagotavljanje take funkcionalnosti ne posega v odgovornost uvajalcev v skladu z aktom o umetni inteligenci, da izpolnijo svoje obveznosti označevanja iz člena 50(4) akta o umetni inteligenci. Poleg tega se bodo ponudniki zelo velikih spletnih platform in zelo velikih spletnih iskalnikov šteli tudi za uvajalce sistema UI v skladu z aktom o umetni inteligenci, če v svoji pristojnosti uporabljajo sistem UI za svoje poklicne namene (npr. ustvarjanje vizualnih elementov, ki se uporabijo kot del trženjskega gradiva).

(127)

Če globoki ponaredek vključuje informacije, ki se nanašajo na neposredno ali posredno določljivega posameznika (ki je živ), bodo morali uvajalci kot upravljavci na podlagi prava Unije o varstvu podatkov izpolnjevati tudi ustrezne obveznosti iz prava Unije o varstvu podatkov (37). To vključuje na primer opiranje na ustrezno pravno podlago za obdelavo osebnih podatkov, informacije o obdelavi podatkov v zvezi z upodobljenimi posamezniki, na katere se nanašajo osebni podatki, itd.

(128)

Uvajalci sistemov UI, ki ustvarjajo globoke ponaredke, bodo morali poleg tega zagotoviti skladnost z ustreznim pravom Unije o intelektualni lastnini (kot sta pravo Unije o znamkah in pravo Unije o avtorski pravici ali sorodnih pravicah), če je v njihov globoki ponaredek vključen predmet, varovan na podlagi navedenega prava. Uporaba oznake ali ikone pri globokem ponaredku sama po sebi ne vpliva na njegovo upravičenost do varstva avtorskih pravic, ki bi jo bilo treba oceniti v skladu z veljavnim pravom Unije o avtorski pravici.

(129)

Kadar so v globokih ponaredkih upodobljene obstoječe osebe, bodo morali uvajalci spoštovati tudi ustrezne pravne ureditve, ki ščitijo osebnostne pravice v zvezi z osebno podobo ali glasom. Obveznost glede preglednosti iz člena 50(4), prvi pododstavek, akta o umetni inteligenci ne pomeni, da se lahko globoki ponaredki, ki so ustvarjeni ali prirejeni z UI ter so škodljivi in nezakoniti na podlagi veljavnega prava Unije ali nacionalnega prava (npr. pravil o zavajajočem oglaševanju ali kazenskega prava, kot so posnetki spolne zlorabe otrok in intimne podobe brez privolitve), ustvarjajo in razširjajo (glej tudi oddelek 4.4).

6.2   Glavni elementi, pojmi in povezane obveznosti glede preglednosti v zvezi z besedilom, ustvarjenim ali prirejenim z UI, iz člena 50(4) akta o umetni inteligenci

(130)

Člen 50(4), drugi pododstavek, akta o umetni inteligenci se uporablja, če je izpolnjenih več pogojev:

(i)

sistem mora biti sistem UI;

(ii)

uporabljen za ustvarjanje ali prirejanje besedila (glej oddelek 4.2.1.), objavljenega z namenom obveščanja javnosti o zadevah javnega interesa;

(iii)

uporaba sistema UI ne sme spadati v nobeno od izjem, in sicer v primere, v katerih (1) je bila vsebina, ustvarjena z UI, predmet človeške preverbe ali uredniškega pregleda in ima fizična ali pravna oseba uredniško odgovornost za objavo vsebine ali (2) je uporaba zakonsko dovoljena za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj.

6.2.1   Besedilo, objavljeno z namenom obveščanja javnosti o zadevah javnega interesa

(131)

Za pojasnitev področja uporabe člena 50(4), drugi pododstavek, akta o umetni inteligenci so v nadaljevanju obravnavani trije elementi: (i) objavljeno besedilo, (ii) z namenom obveščanja javnosti, (iii) o zadevah javnega interesa.

(i)

Objavljeno besedilo: besedilo, ustvarjeno ali prirejeno z UI, bi moralo biti objavljeno. To pomeni, da bi moralo biti besedilo dostopno nedoločenemu in razmeroma velikemu številu med seboj nepovezanih potencialnih bralcev hkrati in/ali zaporedoma, proti plačilu ali brezplačno (npr. naročnine) (38). Nasprotno pa se besedilo ne šteje za objavljeno, če je dostop omejen na določene posameznike, ki pripadajo zaprti zasebni skupini (npr. majhna zaprta skupina v aplikaciji za takojšnje sporočanje ali če je skupina premajhna ali nepomembna). Primeri besedila, ki se ne šteje za objavljeno, vključujejo npr. zasebno medosebno korespondenco (za poklicne namene) ali notranja besedila ali komunikacije organizacije (npr. objave na notranjih omrežjih podjetij).

(ii)

Obveščanje javnosti: objavljeno besedilo, ustvarjeno ali prirejeno z UI, bi moralo biti namenjeno obveščanju javnosti. To pomeni, da bi moral biti namen besedila sporočanje znanja, mnenj ali dejstev. Nasprotno pa za kratka besedila, ki vsebinsko ne sporočajo znanja, mnenj ali dejstev, ni mogoče šteti, da obveščajo javnost.

(iii)

O zadevah javnega interesa: besedilo bi moralo javnost obveščati „o zadevah javnega interesa“. Na splošno bi bilo treba razumeti, da take zadeve zajemajo vprašanja, ki so pomembna za družbo kot celoto, bodisi na lokalni ali nacionalni ravni, ravni Unije ali mednarodni ravni in ki so vredna javne razprave ali nadzora. V zvezi s tem bi bilo treba šteti, da se besedila nanašajo na zadeve javnega interesa, če obravnavajo teme s področja politike in demokratičnih procesov, javne uprave in storitev, delovanja pravosodja ter preprečevanja, odkrivanja in preiskovanja kaznivih dejanj, varstva temeljnih pravic, javne varnosti, javnega zdravja, varstva okolja, varnosti potrošnikov ter vsakega gospodarskega, finančnega, političnega, znanstvenega ali kulturnega razvoja, ki je lahko pomembna tema javne razprave. Zadeve, za katere se lahko šteje, da so v javnem interesu, se lahko sčasoma in glede na kontekst spreminjajo.

Primeri besedil, ki so objavljena z namenom obveščanja javnosti o zadevah javnega interesa na podlagi člena 50(4) akta o umetni inteligenci in ki morajo biti označena kot umetno ustvarjena ali prirejena, razen če so bila predmet človeške preverbe ali uredniškega pregleda (glej oddelek 6.2.3):

—

z UI ustvarjen povzetek članka, ki ga je napisal človek in je objavljen na spletišču časopisa ter obravnava nedavno odločitev mestnega sveta;

—

z UI prirejeni deli članka na spletišču o življenjskem slogu, v katerem se primerjajo učinki različnih diet na določeno bolezen pri ženskah srednjih let;

—

z UI prirejena poročila družbe, ki so objavljena na spletišču družbe, ki kotira na borzi, in vsebujejo informacije za vlagatelje;

—

z UI ustvarjeno sporočilo na profilu meteorološkega inštituta na družbenih medijih, s katerim so državljani opozorjeni na nevihtno vreme in povezane previdnostne ukrepe.

Primeri besedil, ki niso objavljena z namenom obveščanja javnosti o zadevah javnega interesa in ne spadajo na področje uporabe člena 50(4) akta o umetni inteligenci:

—

z UI ustvarjeni fantazijski romani;

—

z UI prirejeno besedilo, ki je del oglasa podjetja ali opisov izdelkov (brez morebitnih trditev, povezanih npr. z zdravjem, varnostjo potrošnikov ali trajnostnostjo);

—

povzetek novic, ki ga ustvari klepetalni bot in je na voljo samo uporabniku, ki vnesel poziv v klepetalni bot;

—

z UI prirejeno besedilo, ki ga svetovalec pripravi kot nasvet stranki glede ukrepov, ki jih je treba sprejeti za zagotavljanje skladnosti z veljavno zakonodajo.

6.2.2   Obveznost razkritja iz člena 50(4), drugi pododstavek, akta o umetni inteligenci

(132)

Člen 50(4), drugi pododstavek, akta o umetni inteligenci uvajalcem sistemov UI, ki ustvarjajo ali prirejajo besedilo, objavljeno z namenom obveščanja javnosti o zadevah javnega interesa, nalaga obveznost, da razkrijejo, da je bilo tako besedilo umetno ustvarjeno ali prirejeno. V uvodni izjavi 134 akta o umetni inteligenci je pojasnjeno, da bi morali uvajalci besedilnih objav, ki spadajo na področje uporabe navedene določbe, podobno kot pri globokih ponaredkih na jasen in razpoznaven način razkriti, da je bila taka vsebina umetno ustvarjena ali prirejena, tako da ustrezno označijo izhodne podatke UI in razkrijejo njihov umetni izvor. Tako kot se zahteva za globoke ponaredke, bi morale biti tudi metode označevanja ali razkritja (vključno z opozorili), ki se uporabljajo v skladu s členom 50(4), drugi pododstavek, akta o umetni inteligenci, za fizične osebe jasne in zaznavne (npr. vidni ali zvočni ukrepi), ne da bi se morale zanašati na posebna tehnična orodja ali izvajati namenska dejanja. Glede na člen 50(7) akta o umetni inteligenci lahko uvajalci za dokazovanje skladnosti s to obveznostjo razkritja upoštevajo kodeks prakse, ki je bil v skladu z navedeno določbo ocenjen kot ustrezen. Za več informacij o učinkih upoštevanja takega kodeksa in nadzoru uvajalcev, ki takega kodeksa ne upoštevajo, glej oddelek 8.1 v nadaljevanju.

6.2.3   Izjema od obveznosti glede preglednosti za besedilo, ki je predmet človeške preverbe ali uredniškega pregleda in uredniške odgovornosti

(133)

Člen 50(4), drugi pododstavek, akta o umetni inteligenci določa izjemo od obveznosti glede preglednosti iz navedene določbe, kadar sta izpolnjena dva kumulativna pogoja: (i) besedilo, ustvarjeno ali prirejeno z UI, mora biti predmet človeške preverbe ali uredniškega pregleda in (ii) pravna ali fizična oseba mora imeti uredniško odgovornost za objavo. Kadar je ustrezno, se lahko uvajalci za dokazovanje skladnosti s temi zahtevami oprejo na ustrezne veljavne poklicne ali deontološke standarde, kot je opisano v nadaljevanju.

i.   Besedilo, ki je predmet človeške preverbe ali uredniškega pregleda

(134)

Prvi pogoj za uporabo izjeme iz člena 50(4), drugi pododstavek, akta o umetni inteligenci zahteva, da je bilo besedilo, ustvarjeno ali prirejeno z UI, predmet človeške preverbe ali uredniškega pregleda. Človeška preverba pomeni namensko preučitev vsebine, ki jo opravi ena ali več fizičnih oseb z ustreznim znanjem in strokovno presojo glede obravnavane tematike (npr. akademska strokovna recenzija ali strokovne verige potrjevanja). Preverjanje točnosti vsebine je minimalna zahteva, ki bi morala biti del tega pregleda. Uredniški pregled pomeni pregled vsebine, ki ga v praksi izvaja odgovorni uredniški subjekt (npr. odgovorni urednik), ki je pristojen za odobritev, spremembo ali zavrnitev vsebine besedila na podlagi vsebinskih razlogov (vključno s preverjanjem dejstev v informacijah in zagotavljanjem zanesljivosti virov). To ne posega v obstoječe postopke preverbe in uredniške postopke ter poklicne standarde, ki se uporabljajo za ponudnike medijskih storitev.

(135)

Površna, zgolj formalna ali postopkovna preverjanja (npr. preverjanje črkovanja ali slovnični popravki), sam obstoj uredniške politike, avtomatizirani postopki preverbe ali bežna uredniška odobritev brez vsebinskega sodelovanja človeškega pregledovalca ali uredniškega subjekta ne morejo izpolniti pogojev za človeško preverbo ali uredniški pregled za namene te izjeme.

(136)

Kadar se sistemi UI uporabijo za spreminjanje, dopolnjevanje ali preoblikovanje vsebine po uredniški odobritvi, je treba nastalo vsebino za namene člena 50(4) akta o umetni inteligenci obravnavati kot ustvarjeno ali prirejeno z UI. Vsak vsebinski poseg UI, do katerega pride po izvedbi postopka človeške preverbe ali uredniškega pregleda, zato povzroči prenehanje veljavnosti izjeme.

(137)

Glede na člen 50(7) akta o umetni inteligenci lahko uvajalci pristopijo h kodeksu prakse, ki je bil ocenjen kot ustrezen na podlagi navedene določbe, da dokažejo skladnost s pogojem človeške preverbe ali uredniškega pregleda (zlasti uvajalci, ki niso ponudniki medijskih storitev, za katere veljajo obstoječi uredniški poklicni ali deontološki standardi), določenim v navedeni določbi. Za več informacij o učinkih upoštevanja takega kodeksa in nadzoru uvajalcev, ki takega kodeksa ne upoštevajo, glej oddelek 8.1.

ii.

Uredniška odgovornost

(138)

Drugi pogoj za uporabo izjeme iz člena 50(4), drugi pododstavek, akta o umetni inteligenci zahteva, da ima pravna ali fizična oseba uredniško odgovornost za objavo vsebine. To pomeni, da mora navedena oseba nositi končno pravno odgovornost za objavo vsebine, vključno s človeško preverbo ali uredniškim pregledom (npr. posameznik, uredniški odbor ali založniška družba). Da bi se zagotovila javna odgovornost in zaupanje ter v skladu z obstoječimi poklicnimi standardi medijev, bi morali biti identiteta in kontaktni podatki pravne osebe, fizične osebe ali funkcije z uredniško odgovornostjo javno dostopni na lahko najdljivem mestu (če še niso sicer dostopni). To se lahko na spletu zagotovi npr. s pogoji uporabe spletišča ali drugimi pravnimi informacijami, namenjenimi uporabnikom. V nespletnem okolju se lahko take informacije vključijo v kolofon publikacije ali obvestilo o izdaji.

Primeri besedila, ki je predmet človeške preverbe ali uredniškega pregleda, pri čemer ima pravna ali fizična oseba uredniško odgovornost:

—

Z UI prirejen članek v časopisu ali z UI ustvarjen povzetek članka, ki je bil predmet uredniškega pregleda zadevnega odgovornega urednika, pri čemer ima uredniško odgovornost pravna oseba, ki izdaja časopis;

—

z UI prirejen akademski blog, ki je bil predmet notranje strokovne recenzije in za katerega ima uredniško odgovornost zadevni raziskovalni center, ki upravlja blog;

—

z UI ustvarjena opozorila o javni varnosti, ki jih pred razpošiljanjem državljanom odobri javni uslužbenec, v odgovornosti zadevne javne agencije za civilno zaščito;

—

z UI ustvarjena poročila o trajnostnosti, ki so objavljena na spletišču družbe, ki kotira na borzi, in so bila predmet človeške preverbe strokovnjakov na ustreznih funkcijah (npr. skladnost);

—

z UI podprt prevod članka, ki ga je napisal človek, pri čemer je bil prevod predmet človeške preverbe.

Primeri besedila, ki ne izpolnjuje zahtevane človeške preverbe ali uredniškega pregleda, da bi lahko zanj veljala izjema:

—

spletišče, na katerem so objavljeni z UI ustvarjeni članki o politiki Unije brez kakršne koli namenske človeške preverbe ali uredniškega pregleda;

—

z UI ustvarjeni članki, ki jih pregleda in uredi drug sistem UI, pri čemer človeški urednik pred objavo opravi zgolj površen slovnični pregled;

—

z UI ustvarjena samozaložniška knjiga o podnebnih spremembah, dana na voljo na platformi za e-trgovanje, pri čemer knjige ni pregledala nobena pristojna fizična ali pravna oseba (niti platforma).

6.2.4   Izjema za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj

(139)

Če je uporaba sistemov UI za ustvarjanje besedila, objavljenega z namenom obveščanja javnosti o zadevah javnega interesa brez človeške preverbe (npr. z UI ustvarjeno policijsko opozorilo o teroristični grožnji, objavljeno na družbenih medijih), zakonsko dovoljena za odkrivanje, preprečevanje, preiskovanje ali pregon kaznivih dejanj, so uvajalci izvzeti iz obveznosti glede preglednosti iz člena 50(4) akta o umetni inteligenci. Pojasnila iz navedenih točk 46–48 za podobno izjemo iz člena 50(1) akta o umetni inteligenci so upoštevna tudi za to določbo.

6.2.5   Medsebojno delovanje z drugimi pravnimi akti Unije

(140)

V medijskem pravu Unije je uredniška odgovornost ključni pojem, opredeljen v členu 2(8) Uredbe (EU) 2024/1083 (evropski akt o svobodi medijev) (39). V tem okviru „uredniška odgovornost“ pomeni „izvajanje učinkovitega nadzora nad izbiro programov ali medijskih publikacij in njihovo organizacijo za namene zagotavljanja medijske storitve, ne glede na obstoj odgovornosti za opravljeno storitev na podlagi nacionalnega prava“. V nekaterih primerih se lahko ta opredelitev prekriva s pojmom uredniške odgovornosti iz člena 50(4), drugi pododstavek, akta o umetni inteligenci, zlasti kadar se uvajalci sistema UI štejejo tudi za ponudnike medijskih storitev na podlagi evropskega akta o svobodi medijev. Uredniško odgovornost v smislu člena 50(4) akta o umetni inteligenci bi bilo zato treba razlagati v skladu z obstoječim pravnim redom na področju medijev, čeprav ostaja ločen pojem, ki se lahko uporablja tudi v širšem okviru in za druge uvajalce, če prevzamejo uredniško odgovornost za objavo besedila. Ponudniki medijskih storitev se lahko oprejo na svoje obstoječe uredniške postopke in standarde, da lahko zanje velja izjema iz člena 50(4), drugi odstavek, akta o umetni inteligenci.

7.   HORIZONTALNE ZAHTEVE, KI SE UPORABLJAJO ZA INFORMACIJE, ZAGOTOVLJENE V SKLADU S ČLENOM 50(5) AKTA O UMETNI INTELIGENCI

(141)

V skladu s členom 50(5) akta o umetni inteligenci bi bilo treba informacije, ki jih je treba zagotoviti v skladu s členom 50(1) do (4) akta o umetni inteligenci, zadevnim fizičnim osebam dati na voljo na jasen in razpoznaven način najpozneje ob prvi interakciji ali izpostavljenosti. Informacije bi morale biti skladne tudi z veljavnimi zahtevami glede dostopnosti. Zadevne fizične osebe v tem okviru vključujejo osebe, ki so v neposredni interakciji s sistemom UI (člen 50(1) akta o umetni inteligenci), aktivne ali pasivne uporabnike in druge osebe, izpostavljene sintetični vsebini, ustvarjeni ali prirejeni z UI (z neposredno interakcijo s sistemom UI ali brez nje (člen 50(2) in (4) akta o umetni inteligenci)), ter osebe, pri katerih se uporabljajo sistemi za prepoznavanje čustev ali sistemi za biometrično kategorizacijo (člen 50(3) akta o umetni inteligenci).

7.1   Zagotavljanje informacij na jasen in razpoznaven način

(142)

Informacije se štejejo za zagotovljene na jasen način, kadar so opazne, zadevni fizični osebi (vključno z invalidi) lahko razumljive in dostopne. Informacije se štejejo za zagotovljene na razpoznaven način, kadar jih je mogoče zlahka prepoznati kot ločene od drugih informacij in okolja, v katerem je vsebina predstavljena. Občinstvo jih mora tudi zlahka razumeti, vključno s posebnimi skupinami, kot so otroci ali invalidi, kadar so del občinstva, ki bo predvidoma izpostavljeno vsebini ali v interakciji s sistemom (40). Da bi se informacije zagotovile na jasen in razpoznaven način, se lahko zadevne informacije med drugim predstavijo kot del interakcije (v skladu s členom 50(1) akta o umetni inteligenci) ali zadevne vsebine (v skladu s členom 50(2) in (4) akta o umetni inteligenci). Informacije se ne štejejo za zagotovljene na jasen in razpoznaven način, kadar jih fizične osebe v običajnih pogojih izpostavljenosti ali interakcije zlahka spregledajo ali prezrejo (npr. kadar so vključene le v priročnik, skrite v več ravneh menijskih možnosti na spletnem vmesniku ali so del pogojev uporabe, ki jih uporabniki pogosto ne berejo).

7.2   Prva interakcija ali izpostavljenost

(143)

Člen 50(5) akta o umetni inteligenci zahteva, da se informacije zadevnim fizičnim osebam dajo na voljo najpozneje ob prvi interakciji ali izpostavljenosti. Prva interakcija ali izpostavljenost se ne nanaša le na prvo fizično osebo, ki je v interakciji s sistemom UI ali izpostavljena (izhodnim podatkom) sistema UI, temveč tudi na vsako naknadno prvo interakcijo katere koli druge fizične osebe s sistemom UI ali njeno izpostavljenost (izhodnim podatkom) sistema UI. Kar zadeva prvo interakcijo s sistemom UI, bi bilo treba informacije zagotoviti vsaj enkrat ob začetku interaktivne seje, pri čemer se upoštevajo posebni konteksti, navedeni v točkah 36 in 40. Kar zadeva vsebino, ustvarjeno ali prirejeno z UI, ki spada na področje uporabe člena 50(2) in (4) akta o umetni inteligenci, se obveznost obveščanja uporablja za vsak izhodni podatek sistema UI v zvezi z vsako fizično osebo, izpostavljeno vsebini. To bi bilo treba razumeti kot vsak trenutek, v katerem je razumno verjetno, da bo fizična oseba izpostavljena izhodnim podatkom sistema UI in bo zaznala razkritje, pri čemer se upoštevajo posebnosti razkritja pri očitno ustvarjalnih, umetniških in drugih delih (glej oddelek 6.1.3.). Poleg tega lahko uvajalci fizične osebe obvestijo prej kot ob prvi dejanski interakciji ali izpostavljenosti (npr. na začetku vsebine, ki vsebuje globoke ponaredke). Če pa je razumno predvidljivo, da osebe vsebine morda ne bodo zaznale od njenega začetka, razkritje le na začetku vsebine teh oseb ne obvesti ustrezno in bi ga bilo treba, kadar je mogoče, dopolniti z razkritjem v poznejših trenutkih. To se lahko po potrebi izvede ob upoštevanju cilja obveznosti glede preglednosti, da se zagotovita učinkovito zagotavljanje informacij in dejanska ozaveščenost uporabnikov v vse bolj potopitvenih in realističnih okoljih UI, v katerih imajo uporabniki vse več težav pri razlikovanju izvora in resničnosti vsebine ter interakcije.

Primeri zagotavljanja informacij ob prvi interakciji ali izpostavljenosti v skladu s členom 50(5) akta o umetni inteligenci:

—

Prva interakcija: ob začetku pogovora s klepetalnim botom ali fizične interakcije s sistemom UI.

—

Prva izpostavljenost: na začetku videoposnetka z globokim ponaredkom, na začetku besedilne publikacije o zadevah javnega interesa, ustvarjene ali prirejene z UI, ali ob srečanju z globokimi ponaredki, prirejenimi z UI, med pomikanjem po družbenih omrežjih.

7.3   Skladnost z veljavnimi zahtevami glede dostopnosti

(144)

Ponudniki in uvajalci sistemov UI, ki spadajo na področje uporabe različnih obveznosti glede preglednosti iz člena 50(1)–(4) akta o umetni inteligenci, morajo biti seznanjeni z veljavnimi zahtevami glede dostopnosti (npr. v skladu z Direktivo (EU) 2016/2102 (41) in Direktivo (EU) 2019/882 (42)) in oceniti, ali mora njihov proizvod, storitev ali vsebina izpolnjevati ta pravila. V takem primeru morajo zagotoviti dostopnost informacij, posredovanih v skladu s členom 50 akta o umetni inteligenci, v skladu z veljavnimi zahtevami glede dostopnosti. Člen 50 akta o umetni inteligenci ne nalaga ločenih ali dodatnih zahtev glede dostopnosti.

8.    

(145)

Namen tega oddelka je pojasniti: (i) učinke upoštevanja kodeksa prakse glede skladnosti z obveznostmi glede preglednosti za vsebine, ustvarjene z UI; (ii) vlogo pristojnih nadzornih organov pri izvrševanju člena 50 akta o umetni inteligenci; (iii) kazni, ki se uporabljajo za kršitve teh obveznosti, in (iv) trenutek, ko se začnejo uporabljati obveznosti iz člena 50 akta o umetni inteligenci.

8.1   Učinki upoštevanja kodeksa prakse, ocenjenega kot ustreznega

(146)

Ponudniki in uvajalci sistemov UI, ki spadajo na področje uporabe člena 50(2) in (4) akta o umetni inteligenci, lahko skladnost s svojimi obveznostmi glede preglednosti za vsebine, ustvarjene z UI, iz navedenih določb dokažejo z upoštevanjem kodeksa prakse, ki se oceni kot ustrezen v skladu s členom 50(7) akta o umetni inteligenci (43). Tak kodeks ne nadomešča akta o umetni inteligenci ali teh smernic. Dopolnjuje ju z zagotavljanjem edinega praktičnega okvira, priznanega na ravni Unije, s katerim lahko ponudniki in uvajalci generativnih sistemov UI dokažejo skladnost s temi obveznostmi, ne glede na kraj svojega sedeža in delovanja ter pristojne organe za nadzor trga.

(147)

Čeprav lahko ponudniki in uvajalci skladnost s temi obveznostmi dokažejo tudi z ustreznimi alternativnimi sredstvi, je upoštevanje kodeksa prakse, ki se šteje za ustreznega, enostaven, predvidljiv in pravno zanesljiv način dokazovanja skladnosti. V zvezi s podpisniki kodeksa prakse, ki se oceni kot ustrezen v skladu s členom 50(7) akta o umetni inteligenci (44), bodo Komisija in pristojni organi za nadzor trga svoje nadzorne dejavnosti osredotočili na ocenjevanje, ali so ti podpisniki upoštevali kodeks prakse in izvedli ukrepe, ki jih ta vsebuje. Ker bodo ponudniki in uvajalci, ki upoštevajo kodeks, zagotavljali preglednost glede ukrepov, ki jih izvajajo za skladnost s členom 50(2), (4) in (5) akta o umetni inteligenci, bodo deležni večjega zaupanja Komisije, drugih pristojnih organov za nadzor trga in drugih deležnikov (vključno s splošno javnostjo). Če se podpisniki odločijo, da ne bodo uporabljali posameznih oddelkov kodeksa prakse, ki se šteje za ustreznega, bodo ti ponudniki in uvajalci izgubili korist olajšanega dokazovanja skladnosti v tem pogledu.

(148)

Od ponudnikov in uvajalcev, ki niso podpisniki kodeksa prakse, ki se šteje za ustreznega v skladu s členom 50(7) akta o umetni inteligenci, se pričakuje, da bodo dokazali, kako so svoje obveznosti iz člena 50(2), (4) in (5) akta o umetni inteligenci izpolnili z drugimi ustreznimi sredstvi. Poleg tega se od takih ponudnikov in uvajalcev pričakuje, da pojasnijo, kako ukrepi, ki jih izvajajo, zagotavljajo izpolnjevanje njihovih obveznosti iz akta o umetni inteligenci. Tako bi morali na primer izvesti analizo vrzeli, v kateri ukrepe, ki so jih izvedli, primerjajo z ukrepi, določenimi v kodeksu prakse, ki je ocenjen kot ustrezen. Ker bodo pristojni organi (vključno z Uradom za umetno inteligenco) imeli manj vpogleda v to, kako ponudniki in uvajalci, ki niso podpisniki kodeksa prakse, zagotavljajo skladnost s svojimi obveznostmi iz člena 50(2), (4) in (5) akta o umetni inteligenci, bodo pri spremljanju skladnosti verjetno potrebovali podrobnejše informacije. Na primer, ponudniki, ki ne upoštevajo kodeksa prakse, so lahko naslovniki večjega števila zahtev za informacije in zahtev za dostop za oceno učinkovitosti, interoperabilnosti, robustnosti in zanesljivosti tehničnih rešitev, izvedenih za skladnost s členom 50(2) akta o umetni inteligenci. Tudi za uvajalce lahko veljajo take zahteve v zvezi z njihovimi praksami označevanja v skladu s členom 50(4) akta o umetni inteligenci.

(149)

Pristojni organi lahko glede na posebne okoliščine pri določanju višine glob upoštevajo zaveze, izvedene v skladu s kodeksom prakse, ki se šteje za ustreznega, kot olajševalni dejavnik (45).

(150)

Če se kodeks prakse ne šteje za ustreznega v skladu s členom 50(7) akta o umetni inteligenci, lahko Komisija sprejme izvedbeni akt, ki določa skupna pravila za izvajanje obveznosti iz člena 50(2), (4) in (5) akta o umetni inteligenci, ki bi se uporabljala za vse zadevne ponudnike in uvajalce sistemov UI, ki spadajo na področje uporabe navedenih določb (46).

8.2   Organi za nadzor trga

(151)

Organi za nadzor trga, ki jih imenujejo države članice, Urad za umetno inteligenco (47) in Evropski nadzornik za varstvo podatkov (48) so odgovorni za nadzor in izvrševanje pravil v zvezi s sistemi umetne inteligence, ki sodijo v njihovo pristojnost, vključno z obveznostmi glede preglednosti, določenimi v členu 50 akta o umetni inteligenci. Tako izvrševanje poteka v okviru sistema nadzora trga in skladnosti proizvodov, vzpostavljenega z Uredbo (EU) 2019/1020 in aktom o umetni inteligenci. Izvršilna pooblastila organov za nadzor trga v zvezi s sistemi UI so določena v navedenih uredbah. Ti organi lahko sprejmejo izvršilne ukrepe v zvezi z obveznostmi, navedenimi v členu 50 akta o umetni inteligenci, na lastno pobudo ali na podlagi pritožbe, ki jo ima pravico vložiti vsaka prizadeta oseba ali katera koli druga fizična ali pravna oseba, ki ima razloge za domnevo, da je prišlo do takih kršitev (49). Odgovornosti organov za nadzor trga na podlagi akta o umetni inteligenci ne vplivajo na pooblastila in naloge drugih nadzornih organov ali organov za varstvo temeljnih pravic v skladu z njihovim pravnim okvirom v primerih, ko se uporabljata tako člen 50 akta o umetni inteligenci kot navedeni okvir (npr. varstvo podatkov, varstvo potrošnikov).

8.3   Kazni

(152)

Ponudnikom in uvajalcem, ki ne izpolnjujejo veljavnih obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci, se lahko naloži globa v višini do 15 000 000 EUR ali, če je kršitelj podjetje, do 3 % njegovega skupnega svetovnega letnega prometa v predhodnem poslovnem letu, pri čemer se upošteva višji znesek. Institucijam, organom in agencijam EU, ki kršijo obveznosti glede preglednosti, se lahko naložijo upravne globe v višini do 750 000 EUR. V primeru malih in srednjih podjetij (MSP), vključno z zagonskimi podjetji, vsaka globa znaša največ zgoraj navedene odstotke ali znesek, pri čemer se upošteva nižja vrednost. Globe morajo biti učinkovite, sorazmerne in odvračilne ter morajo upoštevati interese malih in srednjih podjetij ter malih podjetij s srednje veliko tržno kapitalizacijo, vključno z zagonskimi podjetji, ter njihovo ekonomsko sposobnost. Pristojni organi bi morali pri odločanju o tem, ali naj naložijo upravno globo, in pri odločanju o višini upravne globe v vsakem posameznem primeru oceniti vse zadevne okoliščine konkretnega položaja in po potrebi vrsto dejavnikov, ki vplivajo na resnost kršitve (npr. naravo, težo in trajanje kršitve ter njenih posledic, malomarno ali namerno naravo, druge obteževalne ali olajševalne okoliščine, stopnjo sodelovanja z organi za nadzor trga itd.).

8.4   Začetek uporabe

(153)

V skladu s členom 113 akta o umetni inteligenci se člen 50 akta o umetni inteligenci uporablja od 2. avgusta 2026. To zahteva, da so vsi sistemi UI, ki spadajo na področje uporabe in so bili dani na trg ali v uporabo v Uniji, na ta datum skladni z navedeno določbo, ne glede na datum njihovega dajanja na trg ali začetka uporabe (50). Uredba o spremembi akta o umetni inteligenci (zbirni sveženj za digitalno področje v zvezi z UI), ki jo je zakonodajalec Unije nedavno sprejel, predvideva ciljno usmerjeno predhodno pravilo le v zvezi z obveznostmi označevanja in zaznavanja iz člena 50(2) akta o umetni inteligenci za sisteme generativne UI, dane na trg ali v uporabo pred 2. avgustom 2026. Ponudnikom teh obstoječih sistemov omogoča prehodno obdobje, da svoje sisteme uskladijo do 2. decembra 2026. Sistemi, ki so delno interaktivni in delno generativni, lahko to prehodno obdobje izkoristijo le v zvezi z obveznostjo označevanja iz člena 50(2) akta o umetni inteligenci, medtem ko je treba skladnost z obveznostjo razkritja za sisteme UI, ki so v neposredni interakciji s fizičnimi osebami, zagotoviti od 2. avgusta 2026.

(154)

Izhodnih podatkov, ustvarjenih ali prirejenih z UI, ki spadajo na področje uporabe člena 50(2) akta o umetni inteligenci, in globokih ponaredkov, ki spadajo na področje uporabe člena 50(4), prvi pododstavek, akta o umetni inteligenci, ter so bili ustvarjeni ali prirejeni pred 2. avgustom 2026, ni treba retroaktivno strojno označiti oziroma opremiti z oznako. Enako velja za besedila o zadevah javnega interesa, ki spadajo na področje uporabe člena 50(4), drugi pododstavek, akta o umetni inteligenci in ki so bila ustvarjena ali prirejena z UI ter objavljena pred 2. avgustom 2026. Nasprotno pa je treba označiti besedila, ki so bila ustvarjena ali prirejena pred 2. avgustom 2026 in so objavljena na ta datum ali po njem. Glede na cilj akta o umetni inteligenci, da zagotovi preglednost ter večje zaupanje v informacijski ekosistem in njegovo celovitost, se uvajalci sistemov UI in drugi akterji, ki imajo v lasti ali razširjajo že obstoječe neoznačene globoke ponaredke, kljub temu spodbujajo, naj jih označijo, ne da bi se od njih pričakovalo, da si v ta namen nesorazmerno prizadevajo (na primer z revizijo že obstoječih podatkovnih zbirk vsebin ali spreminjanjem že natisnjene embalaže izdelkov).

9.   PREGLED IN POSODOBITEV SMERNIC

(155)

Te smernice so prva razlaga s praktičnimi primeri obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci. Komisija bo te smernice pregledala takoj, ko bo to potrebno glede na praktične izkušnje, pridobljene pri izvajanju obveznosti glede preglednosti, ter hitrost tehnološkega, družbenega in regulativnega razvoja na tem področju. To vključuje tudi vse ustrezne izkušnje z izvršilnimi ukrepi na področju nadzora trga in razlage člena 50 akta o umetni inteligenci, ki jih poda Sodišče. Med takim pregledom se lahko Komisija odloči, da te smernice umakne ali jih spremeni. Komisija spodbuja ponudnike in uvajalce sistemov UI, nacionalne organe za nadzor trga preko Odbora za umetno inteligenco, svetovalni forum za umetno inteligenco, raziskovalno skupnost in organizacije civilne družbe, da prispevajo k temu procesu in se odzovejo na prihodnje pozive k javnemu posvetovanju.

(1)  Uredba (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci (Akt o umetni inteligenci) (UL L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2)  Člen 1 akta o umetni inteligenci.

(3)  Člen 2(1), točka (a), ter člen 3, točke (3), (9) in (11), akta o umetni inteligenci. Za dodatne smernice o pojmih dajanja na trg, dajanja v uporabo in uporabe glej smernice Komisije o prepovedanih praksah umetne inteligence, (C(2025) 5052), in Obvestilo Komisije – „Modri vodnik“ za izvajanje predpisov EU o proizvodih 2022, oddelek 2 (UL C 247, 29.6.2022, str. 1).

(4)  Člen 2(1), točka (c), in uvodna izjava 22 akta o umetni inteligenci.

(5)  Člen 3, točka (4), akta o umetni inteligenci.

(6)  Člen 2(1), točki (b) in (c), akta o umetni inteligenci.

(7)  Uredba (EU) 2022/2065 Evropskega parlamenta in Sveta z dne 19. oktobra 2022 o enotnem trgu digitalnih storitev (UL L 277, 27.10.2022, str. 1).

(8)  Glej oddelek 2.5 smernic Komisije o prepovedanih praksah umetne inteligence, vzpostavljenih z Uredbo (EU) 2024/1689 (Akt o umetni inteligenci), Bruselj, 29.7.2025 (C(2025) 5052 final).

(9)  Opredelitev uvajalca izključuje tudi uporabnike, ki sodelujejo pri takih dejavnostih (glej navedeni oddelek 2.3).

(10)  Uvodna izjava 25 akta o umetni inteligenci.

(11)  V uvodni izjavi 102 akta o umetni inteligenci je pojasnjeno, da objava programske opreme in podatkov na podlagi proste in odprtokodne licence „omogoča njihovo prosto izmenjavo in če uporabniki lahko prosto dostopajo do njih ali njihovih spremenjenih različic, jih uporabljajo, spreminjajo in ponovno distribuirajo“.

(12)  Za več informacij o členu 5 akta o umetni inteligenci glej smernice Komisije o prepovedanih praksah umetne inteligence, vzpostavljenih z Uredbo (EU) 2024/1689 (Akt o umetni inteligenci) (C(2025) 5052 final).

(13)  Glej člen 6 akta o umetni inteligenci.

(14)  Zlasti člen 26(11) akta o umetni inteligenci uvajalcem visokotveganih sistemov UI, ki sprejemajo odločitve ali pomagajo pri sprejemanju odločitev v zvezi s fizičnimi osebami, nalaga obveznost glede preglednosti, da fizične osebe obvestijo, da se zanje uporablja visokotvegani sistem UI. Te obveznosti glede preglednosti dopolnjujejo tiste iz člena 50 akta o umetni inteligenci, saj se nanašajo na različne informacije, ki jih je treba zagotoviti fizičnim osebam, vendar jih je mogoče združiti v posameznih priglasitvah.

(15)  Člen 3, točka (66), akta o umetni inteligenci opredeljuje sistem UI za splošne namene kot sistem UI, ki temelji na modelu UI za splošne namene in lahko služi različnim namenom, tako za neposredno uporabo kot za integracijo v druge sisteme UI.

(16)  Člen 50(2) akta o umetni inteligenci vsebuje izrecno sklicevanje na sisteme UI za splošne namene.

(17)  Uvodna izjava 133 akta o umetni inteligenci.

(18)  Glej člen 3, točka (1), akta o umetni inteligenci. Za dodatne smernice glede pojma sistema UI glej smernice Komisije o opredelitvi sistema UI, 29.7.2025 (C(2025) 5053 final).

(19)  Glej uvodno izjavo 132 akta o umetni inteligenci. To ne zahteva, da je sistem usmerjen v te ranljive skupine. Če je sistem namenjen interakciji s splošno javnostjo, to vključuje tudi pripadnike ranljivih skupin, zato bi jih morali ponudniki upoštevati pri izvajanju ukrepov obveščanja.

(20)  Za veljavne zahteve glede dostopnosti glej oddelek 7.3.

(21)  Na primer, elektronska potrdila o atributih, kot so določena z Uredbo (EU) št. 910/2014 in dana na voljo v evropskih denarnicah za digitalno identiteto, vzpostavljenih z isto uredbo, ter predlagane evropske poslovne denarnice lahko zagotovijo varna in učinkovita sredstva za identifikacijo agentov UI. Denarnice lahko hranijo in upravljajo elektronska potrdila, s katerimi se preverjajo identiteta, atributi in pooblastila agenta UI, kar omogoča nemoteno in zaupanja vredno razkritje fizičnim osebam.

(22)  To velja tudi za podobne izjeme v korist dejavnosti preprečevanja, odkrivanja in preiskovanja kaznivih dejanj, določene v členu 50(2)–(4) akta o umetni inteligenci.

(23)  Direktiva 2005/29/ES Evropskega parlamenta in Sveta z dne 11. maja 2005 o nepoštenih poslovnih praksah podjetij v razmerju do potrošnikov na notranjem trgu (UL L 149, 11.6.2005, str. 2).

(24)  Direktiva 2011/83/EU Evropskega parlamenta in Sveta z dne 25. oktobra 2011 o pravicah potrošnikov (UL L 304, 22.11.2011, str. 64).

(25)  Direktiva 2012/13/EU Evropskega parlamenta in Sveta z dne 22. maja 2012 o pravici do obveščenosti v kazenskem postopku (UL L 142, 1.6.2012, str. 1), Direktiva 2012/29/EU Evropskega parlamenta in Sveta z dne 25. oktobra 2012 o določitvi minimalnih standardov na področju pravic, podpore in zaščite žrtev kaznivih dejanj (UL L 315, 14.11.2012, str. 57).

(26)  Kot so opredeljeni v členu 3, točka (1), akta o umetni inteligenci.

(27)  V uvodni izjavi 133 akta o umetni inteligenci je pojasnjeno, da je primerno od ponudnikov navedenih sistemov zahtevati, da vključijo tehnične rešitve, ki v strojno berljivi obliki omogočajo označevanje in zaznavanje, da je izhodne podatke ustvaril ali priredil sistem UI in ne človek. Uvodna izjava 135 akta o umetni inteligenci se nanaša na obveznost v zvezi z odkrivanjem.

(28)  Glej Prilogo II k Izvedbenemu sklepu Komisije C(2025) 3871 final o zahtevi za standardizacijo Evropskemu odboru za standardizacijo in Evropskemu odboru za elektrotehniško standardizacijo glede visokotveganih sistemov UI v podporo Uredbi (EU) 2024/1689 Evropskega parlamenta in Sveta ter o razveljavitvi Izvedbenega sklepa C(2023) 3215 final.

(29)  Glej tudi uvodno izjavo 11 akta o umetni inteligenci.

(30)  Glej tudi uvodno izjavo 137 akta o umetni inteligenci.

(31)  Uvodna izjava 136 akta o umetni inteligenci.

(32)  Zato je treba to merilo razumeti samostojno in ločeno od pojma zavajanja, kot je naveden v Direktivi 2005/29/ES o nepoštenih poslovnih praksah podjetij v razmerju do potrošnikov na notranjem trgu (direktiva o nepoštenih poslovnih praksah), https://eur-lex.europa.eu/eli/dir/2005/29/oj/

(33)  Glej v podobnem smislu člen 1(b) direktive o avdiovizualnih medijskih storitvah.

(34)  To enako velja za objavljena besedila, s katerimi se javnost obvešča o zadevah javnega interesa.

(35)  Za dodatne informacije o medsebojnem delovanju člena 50 akta o umetni inteligenci in akta o digitalnih storitvah glej tudi oddelek 4.4.

(36)  Uvodna izjava 2 akta o digitalnih storitvah.

(37)  Za podrobnejša pojasnila glej skupne smernice Komisije in Evropskega odbora za varstvo podatkov o medsebojnem delovanju akta o umetni inteligenci in prava EU o varstvu podatkov (v pripravi).

(38)  Glej po analogiji zadeve C-89/04, Mediakabel, ECLI:EU:C:2005:348, točka 33, C-192/04, Lagardère, ECLI:EU:C:2005:475, točka 31, C-306/05, SGAE, ECLI:EU:C:2006:764, točke 37–40, C-527/15, Stichting Brein, ECLI:EU:C:2017:300, točki 43 in 44 ter navedena sodna praksa, zadevo C-135/23, GEMA, ECLI:EU:C:2024:526, točka 38 in navedena sodna praksa.

(39)  Uredba (EU) 2024/1083 Evropskega parlamenta in Sveta z dne 11. aprila 2024 o vzpostavitvi skupnega okvira za medijske storitve na notranjem trgu in spremembi Direktive 2010/13/EU (evropski akt o svobodi medijev) (UL L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).

(40)  Kadar so otroci del ciljnega občinstva vsebine, morajo biti ta obvestila: (i) otrokom prijazna, starosti primerna, lahko razumljiva in lahko dostopna vsem otrokom, vključno z invalidnimi otroki in/ali otroki z dodatnimi potrebami glede dostopnosti; (ii) predstavljena jasno na lahko razumljiv način ter čim bolj preprosta in jedrnata; (iii) predstavljena na načine, ki jih je mogoče enostavno pregledati in ki omogočajo takojšen in intuitiven dostop na mestih, kjer postanejo pomembna; (iv) predstavljena v uradnem jeziku oziroma uradnih jezikih države članice, v kateri se storitev opravlja; (v) privlačna za otroke. To lahko vključuje tudi uporabo grafike, videoposnetkov in/ali likov ali drugih tehnik; (vi) otrokom zagotovljena postopoma in skozi čas, da bi si jih ti čim dlje zapomnili.

(41)  Direktiva (EU) 2016/2102 Evropskega parlamenta in Sveta z dne 26. oktobra 2016 o dostopnosti spletišč in mobilnih aplikacij organov javnega sektorja (Besedilo velja za EGP) (UL L 327, 2.12.2016, str. 1).

(42)  Direktiva (EU) 2019/882 Evropskega parlamenta in Sveta z dne 17. aprila 2019 o zahtevah glede dostopnosti za proizvode in storitve (Besedilo velja za EGP), PE/81/2018/REV/1 (UL L 151, 7.6.2019, str. 70).

(43)  Glej ustrezne informacije o Kodeksu prakse glede preglednosti vsebin, ustvarjenih z umetno inteligenco |Oblikovanje digitalne prihodnosti Evrope, objavljeno 10. junija 2026.

(44)  Glej mnenje Komisije o oceni kodeksa prakse glede preglednosti vsebin, ustvarjenih z umetno inteligenco | Oblikovanje digitalne prihodnosti Evrope.

(45)  Člen 99(7), točka (e), akta o umetni inteligenci.

(46)  Člen 50, točka (7), akta o umetni inteligenci.

(47)  Kot organ za nadzor trga za sisteme UI, zgrajene na modelih UI za splošne namene, ki jih zagotavlja isti ponudnik (člen 75(1) akta o umetni inteligenci). To zajema obveznost, ki se uporablja za ponudnike na podlagi člena 50(1) in (2) akta o umetni inteligenci. Kar zadeva člen 50(3) in (4) akta o umetni inteligenci, bo Urad za umetno inteligenco pristojen le, če je zadevni ponudnik modela UI za splošne namene in sistema tudi uvajalec sistema.

(48)  Kot organ za nadzor trga za institucije, agencije in organe EU.

(49)  Člen 85 akta o umetni inteligenci.

(50)  Posebno predhodno pravilo iz člena 111(2) akta o umetni inteligenci se uporablja za visokotvegane sisteme UI, dane na trg pred datumom začetka uporabe pravil za visokotvegane sisteme, samo v zvezi s skladnostjo teh sistemov z zahtevami in obveznostmi za visokotvegane sisteme UI. Če za visokotvegani sistem UI velja tudi ena ali več obveznosti glede preglednosti iz člena 50 akta o umetni inteligenci, se to posebno predhodno pravilo ne uporablja, saj se obveznosti za visokotvegane sisteme in obveznosti glede preglednosti iz člena 50 uporabljajo kumulativno, uporaba predhodnih pravil pa je utemeljena in omejena le v zvezi s skladnostjo z določbami za visokotvegane sisteme.


ELI: http://data.europa.eu/eli/C/2026/6005/oj

ISSN 1977-1045 (electronic edition)