European flag

Eiropas Savienības
Oficiālais Vēstnesis

LV

C sērija


C/2026/6005

12.11.2026

KOMISIJAS PAZIŅOJUMS

Pamatnostādnes par to, kā īstenojami dažu MI sistēmu pārredzamības pienākumi saskaņā ar 50. pantu Regulā (ES) 2024/1689 (“MI akts”)

(C/2026/6005)

Satura rādītājs

1.

VISPĀRĪGA INFORMĀCIJA UN MĒRĶI 3

2.

PĀRSKATS PAR PĀRREDZAMĪBAS PIENĀKUMIEM UN HORIZONTĀLAJIEM TEMATIEM 3

2.1.

Pārskats par MI akta 50. pantā noteiktajiem pārredzamības pienākumiem 3

2.2.

Pamatojums un mērķi 4

2.3.

MI akta 50. pantā noteiktie atbildīgie dalībnieki 5

2.4.

Izslēgšana no MI akta darbības jomas 7

2.4.1.

Uzturētāji, kas darbojas tikai personiskas neprofesionālas darbības kontekstā 7

2.4.2.

Pētniecība un izstrāde 8

2.4.3.

MI sistēmas, kas laistas apgrozībā ar bezmaksas un atvērtā pirmkoda licenci 8

2.5.

Mijiedarbība ar aizliegto praksi, augsta riska MI sistēmām piemērotās prasības un MI pratība 9

2.6.

Mijiedarbība ar noteikumiem, kas piemērojami vispārīga lietojuma MI modeļiem un/vai sistēmām 9

3.

MI AKTA 50. PANTA 1. PUNKTS: PĀRREDZAMĪBA ATTIECĪBĀ UZ INTERAKTĪVĀM MI SISTĒMĀM 9

3.1.

Galvenie elementi, jēdzieni un attiecīgais(-ie) pārredzamības pienākums(-i) 10

3.1.1.

MI sistēmas, kas paredzētas tiešai mijiedarbībai ar fiziskām personām 10

3.1.2.

MI akta 50. panta 1. punktā noteiktais informēšanas pienākums 12

3.2.

Izņēmumi attiecībā uz MI akta 50. panta 1. punktā noteikto informēšanas pienākumu 14

3.2.1.

Izņēmums attiecībā uz pašsaprotamu mijiedarbību ar MI sistēmu 14

3.2.2.

Izņēmums attiecībā uz MI sistēmām, kas likumiski atļautas izmantošanai tiesībaizsardzības nolūkos 16

3.3.

Mijiedarbība ar citiem Savienības tiesību aktiem 17

4.

MI AKTA 50. PANTA 2. PUNKTS: MI ĢENERĒTA VAI MANIPULĒTA SATURA MARĶĒŠANA UN ATKLĀŠANA 18

4.1.

MI akta 50. panta 2. punkta galvenie elementi un jēdzieni 18

4.1.1.

MI sistēmas, kas ģenerē vai manipulē sintētisku saturu 18

4.1.2.

Darbības jomā iekļautās sintētiskā satura modalitātes 19

4.1.3.

Saturs, uz kuru neattiecas MI akta 50. panta 2. punkta darbības joma 20

4.2.

MI akta 50. panta 2. punktā noteiktais marķēšanas un atklāšanas pienākums 21

4.2.1.

Marķēšanas pienākums 21

4.2.2.

Atklāšanas pienākums 22

4.2.3.

Atbilstība tehniskajiem risinājumiem piemērotajām prasībām. Efektivitāte, sadarbspēja, robustums un uzticamība 22

4.3.

Izņēmumi attiecībā uz MI akta 50. panta 2. punktā noteiktajiem pienākumiem 24

4.4.

Mijiedarbība ar citiem Savienības tiesību aktiem 25

5.

MI AKTA 50. PANTA 3. PUNKTS: EMOCIJU ATPAZĪŠANAS SISTĒMAS UN BIOMETRISKĀS KATEGORIZĀCIJAS SISTĒMAS 26

5.1.

Galvenie elementi, jēdzieni un attiecīgais(-ie) pārredzamības pienākums(-i) saskaņā ar MI akta 50. panta 3. punktu 27

5.1.1.

Jēdziens “emociju atpazīšanas sistēma” 27

5.1.2.

Jēdziens “biometriskās kategorizācijas sistēma” 27

5.1.3.

MI akta 50. panta 3. punktā noteiktais informēšanas pienākums 27

5.2.

Izņēmums, ko piemēro tiesībaizsardzības nolūkos 28

5.3.

Mijiedarbība ar citiem Savienības tiesību aktiem 28

6.

MI AKTA 50. PANTA 4. PUNKTS. NORĀDES UZ DZIĻVILTOJUMIEM UN KONKRĒTU TEKSTU PUBLIKĀCIJĀM 28

6.1.

Galvenie elementi, jēdzieni un attiecīgais(-ie) pārredzamības pienākums(-i) saskaņā ar MI akta 50. panta 4. punktu 28

6.1.1.

Jēdziens “dziļviltojums” 29

6.1.2.

MI akta 50. panta 4. punkta pirmajā daļā noteiktais informācijas izpaušanas pienākums 31

6.1.3.

Mākslinieciska, radoša, satīriska, fikcionāla vai analoga dziļviltota satura pārredzamība 32

6.1.4.

Izņēmums, ko piemēro tiesībaizsardzības nolūkos 34

6.1.5.

Mijiedarbība ar citiem Savienības tiesību aktiem 34

6.2.

MI ģenerēta vai manipulēta teksta galvenie elementi, jēdzieni un ar to saistītais(-ie) pārredzamības pienākums(-i) saskaņā ar MI akta 50. panta 4. punktu 35

6.2.1.

Teksts, kas publicēts nolūkā informēt sabiedrību par sabiedrības interešu jautājumiem 36

6.2.2.

MI akta 50. panta 4. punkta otrajā daļā noteiktais informācijas izpaušanas pienākums 37

6.2.3.

Izņēmums no pārredzamības pienākuma attiecībā uz tekstu, ko ir pārskatījis cilvēks vai kam ir veikta redakcionāla kontrole un kādam par to ir redakcionāla atbildība 37

6.2.4.

Izņēmums, ko piemēro tiesībaizsardzības nolūkos 38

6.2.5.

Mijiedarbība ar citiem Savienības tiesību aktiem 39

7.

HORIZONTĀLĀS PRASĪBAS, KAS PIEMĒROJAMAS SASKAŅĀ AR MI AKTA 50. PANTA 5. PUNKTU SNIEGTAJAI INFORMĀCIJAI 39

7.1.

Informācijas sniegšana skaidrā un atšķiramā veidā 39

7.2.

Pirmā mijiedarbība vai eksponētība 40

7.3.

Piemērojamo piekļūstamības prasību ievērošana 40

8.

MI AKTA 50. PANTA IZPILDE 40

8.1.

Par atbilstīgu uzskatīta prakses kodeksa ievērošanas sekas 41

8.2.

Tirgus uzraudzības iestādes 42

8.3.

Sodi 42

8.4.

Piemērošanas sākums 42

9.

PAMATNOSTĀDŅU PĀRSKATĪŠANA UN ATJAUNINĀŠANA 43

1.   VISPĀRĪGA INFORMĀCIJA UN MĒRĶI

(1)

Eiropas Parlamenta un Padomes 2024. gada 13. jūnija Regula (ES) 2024/1689, ar ko nosaka saskaņotas normas mākslīgā intelekta jomā un groza dažas regulas (“MI akts”), stājās spēkā 2024. gada 1. augustā (1). MI aktā ir noteikti saskaņoti noteikumi par mākslīgā intelekta (“MI”) laišanu tirgū, nodošanu ekspluatācijā un izmantošanu Savienībā (2). Tā mērķis ir veicināt inovāciju un uzticama MI ieviešanu, vienlaikus nodrošinot augstu veselības, drošuma un pamattiesību, tostarp demokrātijas un tiesiskuma, aizsardzības līmeni Savienībā.

(2)

MI aktā ir ievērota uz risku balstīta pieeja, klasificējot MI sistēmas četrās dažādās riska kategorijās. Viena no šīm kategorijām ir MI sistēmas, kas rada pārredzamības riskus, uz kuriem attiecas MI akta 50. pantā noteiktie pienākumi. Šos pārredzamības pienākumus piemēro, kad ir pagājuši divi gadi kopš MI akta stāšanās spēkā, t. i., no 2026. gada 2. augusta.

(3)

Saskaņā ar MI akta 96. panta 1. punkta d) apakšpunktu šīs Komisijas pamatnostādnes tiek izdotas, lai sniegtu praktiskus norādījumus un tādējādi palīdzētu kompetentajām iestādēm, kā arī MI sistēmu nodrošinātājiem un uzturētājiem konsekventi, efektīvi, samērīgi un vienoti izpildīt MI akta 50. pantā noteiktos pārredzamības pienākumus.

(4)

Pamatnostādņu izstrādē tika ņemta vērā dažādu ieinteresēto personu sniegtā informācija, kas tika iegūta Komisijas organizētas plašas apspriešanas gaitā, un informācija, ko dalībvalstis sniedza MI padomē, kā arī ieinteresēto personu atsauksmes par pamatnostādņu projektu, kas tika publicēts apspriešanai.

(5)

Šīs pamatnostādnes nav saistošas. Autoritatīvu MI akta interpretāciju galu galā var sniegt tikai Eiropas Savienības Tiesa (EST).

2.   PĀRSKATS PAR PĀRREDZAMĪBAS PIENĀKUMIEM UN HORIZONTĀLAJIEM TEMATIEM

2.1.   Pārskats par MI akta 50. pantā noteiktajiem pārredzamības pienākumiem

(6)

MI akta 50. pantā ir paredzēti četri pārredzamības pienākumi, un katrs no tiem attiecas uz dažādiem MI sistēmu vai to iznākumu veidiem.

Noteikums

MI sistēmas/iznākuma veids

Pārredzamības pienākums

Izņēmumi vai īpaši režīmi

50. panta 1. punkts

MI sistēmas, kas tieši mijiedarbojas ar fiziskām personām

Nodrošinātājiem MI sistēma jāprojektē un jāizstrādā tā, lai attiecīgās fiziskās personas tiktu informētas par to, ka tās mijiedarbojas ar MI sistēmu.

Izņēmumi: 1) ja mijiedarbības mākslīgā izcelsme ir pašsaprotama vai 2) ja sistēma ir likumiski atļauta noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai, ja vien šī sistēma nav pieejama sabiedrībai ziņošanai par noziedzīgu nodarījumu.

50. panta 2. punkts

MI sistēmas, kuras ģenerē vai manipulē sintētisku attēla, video, audio vai teksta saturu

Nodrošinātājiem ir jānodrošina, ka MI sistēmas iznākumi ir marķēti mašīnlasāmā formātā un ka ar efektīviem, sadarbspējīgiem, robustiem un uzticamiem tehniskiem risinājumiem ir iespējams atklāt, ka iznākumi ir mākslīgi ģenerēti vai manipulēti.

Izņēmumi: 1) ja MI sistēma pilda palīgfunkciju standarta rediģēšanai vai būtiski nemaina ievaddatus vai to semantiku vai 2) ja MI sistēma ir likumiski atļauta noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai.

50. panta 3. punkts

Emociju atpazīšanas vai biometriskās kategorizācijas MI sistēmas

Uzturētājiem ir jāinformē fiziskās personas, uz kurām attiecas MI sistēmas darbība.

Izņēmums: ja MI sistēma ir likumiski atļauta, lai atklātu, novērstu vai izmeklētu noziedzīgus nodarījumus.

50. panta 4. punkts

MI sistēmas, kuras ģenerē vai manipulē dziļviltojumus vai tekstus, lai informētu sabiedrību par sabiedrības interešu jautājumiem

Uzturētājiem ir jāizpauž, ka saturs ir mākslīgi ģenerēts vai manipulēts.

Izņēmumi: 1) ja MI sistēma ir likumiski atļauta noziedzīga nodarījuma atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai vai 2) ja teksta publikāciju ir pārskatījis cilvēks vai tai ir veikta redakcionāla kontrole, un par to kādam ir redakcionāla atbildība.

Īpašu informācijas izpaušanas režīmu piemēro dziļviltojumiem, kas ir daļa no mākslinieciskiem, radošiem, fikcionāliem, satīriskiem vai analogiem darbiem vai programmām.

(7)

Katrs no šiem četriem pienākumiem ir aplūkots pamatnostādņu 3.–6. iedaļā. Turklāt MI akta 50. panta 5. punktā ir prasīts, lai šā panta 1.–4. punktā minētā informācija attiecīgajām fiziskām personām tiktu sniegta skaidrā un atšķiramā veidā, vēlākais, pirmās mijiedarbības vai eksponētības laikā un lai tā atbilstu piemērojamajām piekļūstamības prasībām. Šīs prasības ir precizētas 7. iedaļā.

(8)

Dažādie MI akta 50. pantā noteiktie pārredzamības pienākumi vienai MI sistēmai (tās iznākumam) var tikt piemēroti kumulatīvi, iespējams, paredzot dažādu dalībnieku (nodrošinātāju vai uzturētāju) atbildību. Piemēram, ja MI sistēma ģenerē attēlus, atrodoties tiešā mijiedarbībā ar fizisku personu, sistēmas nodrošinātājam varētu būt saistošs gan MI akta 50. panta 1. punkts, gan 2. punkts. Ja šī sistēma spēj arī ģenerēt attēlus, kas ir dziļviltojumi, vai tekstu, ko publicē nolūkā informēt sabiedrību par sabiedrības interešu jautājumiem, tās uzturētājam var būt jāievēro arī MI akta 50. panta 4. punkts.

2.2.   Pamatojums un mērķi

(9)

Kā paskaidrots MI akta 132.–136. apsvērumā, pārredzamības pienākumu mērķis ir mazināt uzdošanās par citu personu, maldināšanas, maldinošas informācijas, plaša mēroga manipulācijas un krāpšanas risku un samazināt iespējamo nelabvēlīgo ietekmi uz demokrātiskajiem procesiem un sabiedrības uzticēšanos, ko rada MI ģenerēts vai manipulēts saturs vai mijiedarbība ar to. Indivīdu informēšana par mijiedarbības un satura MI izcelsmi palīdzēs viņiem pieņemt uz informāciju balstītus lēmumus un vienlaikus palīdzēs nostiprināt informācijas ekosistēmas integritāti un uzticēšanos tai. Pārredzamība ir ne tikai prasība par tehnisko atbilstību, bet arī priekšnosacījums, lai fiziskas personas spētu atpazīt ar MI starpniecību veiktu mijiedarbību un radītu saturu vai emociju atpazīšanas vai biometriskās kategorizācijas sistēmu izmantošanu. Interaktīvo un ģeneratīvo MI sistēmu pārredzamas un uzticamas izmantošanas nodrošināšana arī palīdzēs saglabāt personisko autonomiju un Eiropas vērtības, cilvēka cieņu un citas pamattiesības (piemēram, domas brīvību, privātumu, vienlīdzību un nediskriminēšanu, patērētāju aizsardzību, intelektuālo īpašumu utt.), vienlaikus saglabājot arī vārda brīvību un mediju satura uzticamību.

2.3.   MI akta 50. pantā noteiktie atbildīgie dalībnieki

(10)

Saskaņā ar MI akta 3. panta 3) punktu nodrošinātāji ir fiziskas vai juridiskas personas, publiskas iestādes, aģentūras vai citas struktūras, kuras par samaksu vai par brīvu izstrādā vai liek izstrādāt MI sistēmas un laiž tās Savienības tirgū vai nodod sistēmu ekspluatācijā ar savu nosaukumu/vārdu vai preču zīmi. Nodrošinātājiem ir jāievēro attiecīgie tiem piemērojamie pārredzamības pienākumi, kas noteikti MI akta 50. panta 1. un 2. punktā, neatkarīgi no tā, vai tie ir iedibināti vai atrodas Savienībā vai trešā valstī (3). MI akts attiecas arī uz nodrošinātājiem, kas iedibināti vai atrodas ārpus Savienības, ja to MI sistēmas iznākumu izmanto Savienībā (4). Tomēr nejaušas, neparedzamas vai neatļautas lejupējas izmantošanas gadījumiem pašiem par sevi nebūtu jārosina pienākumu piemērošana tādiem trešo valstu interaktīvo vai ģeneratīvo MI sistēmu nodrošinātājiem, kuru sistēmas netiek laistas tirgū vai nodotas ekspluatācijā Savienībā, neskarot kompetento tirgus uzraudzības iestāžu pilnvaras uzskatīt šo MI sistēmu iznākumus par neatbilstīgiem MI aktam.

(11)

Nodrošinātājiem ir jāgarantē, ka to interaktīvo vai ģeneratīvo MI sistēmu projektēšanā un darbībā ir iestrādāta pārredzamība un visi attiecīgie MI akta 50. panta 1., 2. un 5. punktā noteiktie pārredzamības pienākumi tiek izpildīti ne vēlāk kā tad, kad minētās sistēmas tiek laistas tirgū vai nodotas ekspluatācijā. Visas fiziskās personas, kas mijiedarbojas ar MI sistēmu vai ir saskarē ar tās attiecīgajiem iznākumiem, ir efektīvi un konsekventi jāinformē visā MI sistēmas darbmūžā no brīža, kad attiecīgais nodrošinātājs to laiž tirgū vai nodod ekspluatācijā (neatkarīgi no tā, kas ir sistēmas uzturētāji vai citi lietotāji).

Piemēram, uzņēmums ar savu nosaukumu vai preču zīmi nodrošina ģeneratīvu vai interaktīvu MI lietojumprogrammu (piemēram, sarunbotu, attēlu ģeneratoru, MI aģentu) Savienības tirgū patērētājiem, profesionāliem lietotājiem vai citām juridiskām personām, kuras var tieši izmantot MI sistēmu mijiedarbībai vai satura radīšanai (tostarp integrējot sistēmu savos esošajos procesos un attiecīgi to izmantojot bez nepieciešamības veikt pārveidojumus vai izmantot papildu komponentus). Uzņēmums ir nodrošinātājs, kuram ir pienākums izpildīt MI akta 50. panta 1. un/vai 2. punktā noteiktos pārredzamības pienākumus neatkarīgi no tā, vai MI sistēma tiek nodrošināta bez maksas vai par maksu, un neatkarīgi no tā, vai nodrošinātājs ir iedibināts vai atrodas Savienībā vai trešā valstī.

Kā vēl vienu nodrošinātāja piemēru var minēt uzņēmumu vai citu organizāciju (piemēram, publisku iestādi), kas pati ir izstrādājusi interaktīvu MI sistēmu (piemēram, sarunbotu) un nodod to ekspluatācijā Savienībā izmantošanai savām vajadzībām ar savu nosaukumu vai preču zīmi.

Ja uzņēmums pārņem jau esošu ģeneratīvu MI sistēmu, ko tirgū laidis cits nodrošinātājs, un šo sistēmu pārveido (piemēram, izmantojot jaunus apmācības datus), un pēc tam to nodod ekspluatācijā ar savu nosaukumu vai preču zīmi, minētais uzņēmums kļūst par jaunās sistēmas nodrošinātāju, neskarot sākotnējās MI sistēmas nodrošinātāja atbildību par to.

(12)

Uzturētāji ir fiziskas vai juridiskas personas, publiskā sektora iestādes, aģentūras vai citas struktūras, kuras lieto MI sistēmu, kas ir to pārziņā, izņemot gadījumus, kad MI sistēmu lieto personiskas neprofesionālas darbības veikšanai (5). MI sistēmas esība “pārziņā” jāsaprot kā atbildības uzņemšanās par lēmumu uzturēt sistēmu un par to, kā sistēma (ieskaitot tās iznākumus) tiek faktiski izmantota. Tas ne vienmēr ietver tehnisku kontroli pār MI sistēmas darbību, ciktāl uzturētājs pieņem lēmumu par to, kādiem nolūkiem un kā MI sistēmu izmantot (tostarp decentralizētās darbplūsmās un grupu korporatīvajās struktūrās). Uzturētājiem, kas ir iesaistīti sarežģītās satura radīšanas un izplatīšanas vērtības ķēdēs, būtu jāveic samērīgi pasākumi, lai nodrošinātu, ka norāde par saturu, ko tie izmantojuši saskaņā ar MI akta 50. panta 4. punktu, skaidrā un atšķiramā veidā tiek parādīta paredzētajai un paredzamajai auditorijai pirmās eksponētības laikā saskaņā ar MI akta 50. panta 5. punktu (piemēram, paredzot attiecīgus nosacījumus līgumos ar izplatīšanas partneriem, nodrošinot lietotāja pieredzes (UX) iestatījumus un attiecīgas saskarnes).

(13)

MI akta 50. panta 3. un 4. punktā noteiktie pārredzamības pienākumi attiecas uz uzturētājiem tad, ja to iedibināšanas vai atrašanās vieta ir Savienībā vai arī ja to iedibināšanas vai atrašanās vieta ir trešā valstī, bet MI sistēmas radīto iznākumu izmanto Savienībā (6). Pēdējā gadījumā pārredzamības pienākumi attiecas uz subjektiem, kuru atrašanās vai iedibināšanas vieta ir ārpus Savienības, ja uzturētājs pats paredz MI iznākumu izplatīšanu un izmantošanu Savienībā (t. i., dodot norādījumus par izplatīšanu Savienībā vai šādas izplatīšanas atļauju, tostarp publicējot dziļviltojumus globāli pieejamā internetā). Tomēr trešo valstu uzturētājiem pārredzamības pienākumi nav saistoši, ja MI sistēmas saturs sasniedz auditoriju Savienībā pa kanāliem, kurus nevarēja paredzēt un kurus tie nevar kontrolēt.

(14)

Ja MI sistēmas uzturētājs ir juridiska persona, kuras pārziņā sistēma tiek izmantota (piemēram, reklāmas uzņēmums), atsevišķie darbinieki, kas rīkojas saskaņā ar minētās juridiskās personas rīkojumiem un tās kontrolē (piemēram, digitālie animatori, tīmekļa dizaina speciālisti, satura radītāji, žurnālisti), nebūtu jāuzskata par atsevišķiem minētās sistēmas uzturētājiem. Juridiska persona ir uzturētājs arī tad, ja tā savā vārdā, uz savu atbildību un savā kontrolē iesaista sistēmas darbībā trešās personas (piemēram, darbuzņēmējus, ārštata darbiniekus).

Piemēram, Savienībā iedibināts mediju kanāls, kura redaktori izmanto MI sistēmu, lai viņu pašu sagatavotu aktuālo notikumu rakstisku atspoguļojumu papildinātu ar MI ģenerētām teksta publikācijām par sabiedrības interešu jautājumiem, kas tiek publicētas globāli pieejamā tīmekļa vietnē, ir uzturētājs, uz kuru attiecas MI akts. Līdzīgi arī trešā valstī iedibināts uzņēmums, kas izmanto MI sistēmu, lai ģenerētu dziļviltojumu par slavenību, kas attēlota Savienībā izvietotā reklāmā, ir uzturētājs, uz kuru attiecas MI akts.

Savukārt uzturētājs nav tāds uzņēmums, kas tikai pasūta reklāmas izveidi reklāmas aģentūrai un nepieņem lēmumus un nekontrolē to, vai reklāmas aģentūra ražošanas procesā izmanto MI un kā tas tiek darīts.

(15)

Operatori (piemēram, nodrošinātāji un uzturētāji) var vienlaicīgi pildīt vairākas funkcijas attiecībā uz MI sistēmu. Piemēram, uzņēmums varētu pats izstrādāt ģeneratīvu MI sistēmu un to izmantot dziļviltojumu ģenerēšanai. Šādā gadījumā tas vienlaicīgi būtu uzskatāms gan par nodrošinātāju, gan uzturētāju, kuram jānodrošina MI akta 50. panta 2. punktā noteikto ar mašīnlasāmu formātu saistīto pienākumu izpilde un atbilstība MI akta 50. panta 4. punkta prasībām par skaidru un uztveramu norādi par dziļviltojumu.

(16)

Savukārt citi dalībnieki (piemēram, mitināšanas pakalpojumu sniedzēji, arī tiešsaistes platformas un raidorganizācijas), kuru uzdevums ir tikai izplatīt vai pārraidīt MI ģenerētu vai manipulētu saturu, ko radījušas trešās personas, vai kuri saņem MI ģenerētu vai manipulētu saturu vai ir saskarē ar to, bet nekontrolē MI sistēmas izmantošanu MI satura ģenerēšanai vai manipulēšanai, nav uzturētāji MI akta nozīmē. Lai gan šiem dalībniekiem nav saistību un atbildības saskaņā ar MI aktu, tiem tomēr var būt svarīga loma vērtības ķēdē, lai tiktu saglabāta uzticēšanās ekosistēmai un tās integritāte. Tāpēc šie dalībnieki tiek stingri mudināti saglabāt saskaņā ar MI akta 50. pantu uzlikto marķējumu un norādes un īstenot samērīgus un tehniski iespējamus pasākumus, lai fiziskas personas varētu noteikt, ka saturs ir MI ģenerēts vai manipulēts, neskarot ģeneratīvo MI sistēmu nodrošinātāju un uzturētāju atbildību vai jebkādus pienākumus vai saistības, kas izriet no Regulas (ES) 2022/2065 (Digitālo pakalpojumu akta jeb “DPA”) (7) vai citiem piemērojamajiem Savienības vai valstu tiesību aktiem.

(17)

Arīdzan citi dalībnieki, kas darbojas savā profesionālajā statusā un izplata saturu (arī tad, ja nav tieši iesaistīti saskaņā ar MI akta 50. pantu), tiek mudināti veikt samērīgus un atbilstošus pasākumus, lai fiziskās personas, kas saskaras ar attiecīgo saturu, tiktu efektīvi informētas un varētu atklāt, ka tas ir mākslīgi ģenerēts vai manipulēts. Turklāt šiem dalībniekiem var tikt prasīts, lai attiecīgajos dziļviltojumos vai teksta publikācijās par sabiedrības interešu jautājumiem būtu iekļautas norādes saskaņā ar citiem piemērojamajiem juridiskajiem vai profesionālās ētikas kodeksa noteikumiem (piemēram, raidorganizācijām jāsniedz norādes par privātpersonas radītu dziļviltojumu, kas tiek rādīts TV raidījumā). Tomēr tas vien, ka dalībnieks papildina saturu ar attiecīgām norādēm vai izmanto ar šādām norādēm papildinātu saturu, nenozīmē, ka tas ir uzskatāms par “uzturētāju” MI akta nozīmē. MI akts nepaplašina un neietekmē minēto dalībnieku juridisko atbildību, kas noteikta piemērojamajā tiesiskajā regulējumā, ja tie vienlaikus nav uzskatāmi par MI sistēmu nodrošinātājiem vai uzturētājiem.

2.4.   Izslēgšana no MI akta darbības jomas

(18)

MI akta 2. pantā ir paredzēti vairāki vispārīgi atbrīvojumi no MI akta darbības jomas, kuri jau ir precizēti Komisijas Pamatnostādnēs par aizliegtu mākslīgā intelekta praksi (8). Tāpēc šajā iedaļā tiks aplūkoti tikai ar MI akta 50. pantā noteiktajiem pārredzamības pienākumiem saistītie aspekti.

2.4.1.   Uzturētāji, kas darbojas tikai personiskas neprofesionālas darbības kontekstā

(19)

Saskaņā ar MI akta 2. panta 10. punktu šī regula neattiecas “uz tādu uzturētāju pienākumiem, kuri ir fiziskas personas, kas MI sistēmas izmanto tikai personiskas neprofesionālas darbības veikšanai” (9). Jebkura darbība, ar kuru fiziska persona regulāri gūst ekonomisku labumu vai ir citādi iesaistīta profesionālā, darījumdarbības, tirdzniecības, nodarbinātības vai ārštata darbībā, ir uzskatāma par “profesionālu” darbību. Apzīmējums “tikai personiska” kvalificē darbību kā neprofesionālu, t.i., lai uz attiecīgo personu attiektos izņēmums, tās darbībai jābūt gan personiskai, gan neprofesionālai. Uz sistēmas jebkāda veida izmantošanu, ko fiziskas personas veic profesionālā statusā strādājoša uzturētāja vārdā vai pārziņā, attiecas MI akta 50. panta 3. un 4. punktā noteiktie profesionālā uzturētāja pārredzamības pienākumi.

Piemēri MI sistēmu personiskai neprofesionālai izmantošanai, uz kuru neattiecas MI akta darbības joma:

—

personas, kas izmanto MI sistēmu savas mājsaimniecības locekļu dziļviltojumu ģenerēšanai;

—

personas, kas izmanto MI sistēmu privātpersonas statusā tekstu par dažādiem tematiem ģenerēšanai (piemēram, skolēni, kas izmanto MI mājasdarbu rakstīšanai);

—

personas, kas izmanto MI sistēmu privātpersonas statusā sociālajos medijos izplatītu dziļviltojumu ģenerēšanai.

(20)

MI akta 2. panta 10. punktā paredzētais izņēmums attiecas tikai uz uzturētāja pienākumiem gadījumos, kad sistēma tiek izmantota vienīgi personiskām neprofesionālām darbībām. Uz pašu sistēmu joprojām attiecas MI akta darbības joma saistībā ar to nodrošinātāju pienākumiem, kuri sistēmu laiž tirgū vai nodod ekspluatācijā, un to uzturētāju pienākumiem, kuri izmanto sistēmu profesionālai lietošanai. Izņēmums arī neskar citu attiecīgu Savienības un valstu tiesību aktu piemērošanu.

Piemēram, tādas MI sistēmas nodrošinātājam, kuru izmanto, lai ģenerētu privātā Ziemassvētku kartītē iekļaujamu dziļviltojumu, šie dziļviltojumi būtu jāmarķē mašīnlasāmā veidā saskaņā ar MI akta 50. panta 2. punktā noteikto pārredzamības pienākumu. Vienlaikus MI akta 50. panta 4. punktā noteiktais uzturētāja pienākums neattiecas uz gadījumiem, kad fiziskas personas izmanto sistēmu tikai personiskām neprofesionālām darbībām.

2.4.2.   Pētniecība un izstrāde

(21)

Saskaņā ar MI akta 2. panta 6. punktu tas neattiecas uz MI sistēmām vai MI modeļiem, tostarp to radītajiem iznākumiem, kas konkrēti izstrādāti un nodoti ekspluatācijā vienīgi zinātniskās pētniecības un izstrādes nolūkā. Šī izslēgšana no MI akta darbības jomas neskar piemērojamos pētniecības ētikas standartus un ES datu aizsardzības un citus tiesību aktus. MI akta 50. panta kontekstā šī izslēgšana attiecas ne tikai uz interaktīvām MI sistēmām, bet arī uz ģeneratīvo MI sistēmu iznākumiem (tostarp dziļviltojumu saturu), ko izmanto zinātniskās pētniecības vajadzībām. Tomēr, ja minētās sistēmas tiek nodotas ekspluatācijā vai to iznākumi tiek izmantoti ne tikai zinātniskās pētniecības un izstrādes vajadzībām, bet arī citos nolūkos, attiecīgie MI akta 50. pantā noteiktie pārredzamības pienākumi ir jāievēro.

Piemēram, ja pētnieki izstrādā un laiž tirgū vai nodod ekspluatācijā interaktīvu MI sistēmu un vēlas izpētīt, vai fiziskas personas, iesaistoties mutiskā mijiedarbībā ar šo MI sistēmu, spēj atšķirt MI sistēmas no cilvēkiem, attiecīgie MI akta 50. panta 1. un 2. punktā noteiktie pārredzamības pienākumi nav jāievēro. Tomēr, ja tā pati interaktīvā MI sistēma tiek nodota ekspluatācijā arī citos nolūkos, kas nav pētniecība un izstrāde, attiecīgie MI akta 50. pantā noteiktie pārredzamības pienākumi ir jāpilda.

(22)

Turklāt saskaņā ar MI akta 2. panta 8. punktu no MI akta darbības jomas ir izslēgtas MI sistēmu vai MI modeļu izpētes, testēšanas vai izstrādes darbības, ko veic pirms to laišanas tirgū vai nodošanas ekspluatācijā. Šī izslēgšana neattiecas uz testēšanu reālos apstākļos (MI “regulatīvajās smilškastēs” vai ārpus tām). Turklāt, tiklīdz MI sistēma tiek laista tirgū vai nodota ekspluatācijā šādu pētniecības un testēšanas darbību rezultātā, tai būtu jāatbilst attiecīgajiem MI akta 50. pantā noteiktajiem pārredzamības pienākumiem (10).

2.4.3.   MI sistēmas, kas laistas apgrozībā ar bezmaksas un atvērtā pirmkoda licenci

(23)

Saskaņā ar MI akta 2. panta 12. punktu uz MI sistēmām, kas tiek laistas apgrozībā ar bezmaksas un atvērtā pirmkoda licencēm, neattiecas MI akta darbības joma, ja vien tām nepiemēro MI akta 5. pantā noteiktos aizliegumus vai MI akta 50. pantā noteiktos pārredzamības pienākumus vai ja tās nav klasificētas kā augsta riska sistēmas (11). Tas nozīmē, ka to atvērtā pirmkoda MI sistēmu nodrošinātājiem un uzturētājiem, uz kurām attiecas MI akta 50. pants, joprojām ir jānodrošina atbilstība attiecīgajiem pārredzamības pienākumiem.

(24)

Taču MI akta 50. pantā noteiktie pārredzamības pienākumi neattiecas uz tādu bezmaksas un atvērtā pirmkoda MI sastāvdaļu (t. i., programmatūras, datu, modeļu, rīku, pakalpojumu vai procesu) nodrošinātājiem, kuri paredzēti pielāgošanai un integrēšanai MI sistēmā un paši (daļēji vai pilnīgi) neveido MI sistēmu. Tomēr šādu sistēmu nodrošinātāji tiek mudināti, ciktāl tas ir samērīgi un iespējami, izstrādāt šos modeļus, sastāvdaļas un pakalpojumus šo pamatnostādņu 27. punktā aprakstītajā veidā.

2.5.   Mijiedarbība ar aizliegto praksi, augsta riska MI sistēmām piemērotās prasības un MI pratība

(25)

MI akta 137. apsvērumā ir precizēts, ka konkrētas MI sistēmas atbilstību MI akta 50. pantā noteiktajiem pārredzamības pienākumiem nevar interpretēt kā norādi, ka minētās MI sistēmas vai tās iznākuma izmantošana ir likumīga saskaņā ar MI aktu. Konkrētāk, uz MI sistēmām, uz kurām attiecas MI akta 50. pantā noteiktie pienākumi, var attiekties arī MI akta 5. panta darbības joma un tādējādi tās var būt aizliegtas (piemēram, uz emociju atpazīšanas sistēmu izmantošanu darba vietā vai izglītības iestādēs) (12). Turklāt MI sistēmas, uz kurām attiecas MI akta 50. panta darbības joma, var arī būt klasificētas kā augsta riska sistēmas (13) un uz tām var attiekties šādām sistēmām piemērojamās prasības un pienākumi. Tāpēc atbilstība MI akta 50. pantam neaizstāj, neierobežo un neietekmē pienākumus, kas izriet no citiem MI akta noteikumiem (14). Vienlaikus uz MI sistēmām var attiekties MI akta 50. panta darbības joma arī tad, ja tās nav klasificētas kā augsta riska sistēmas saskaņā ar MI akta 6. pantu. MI akta 4. pantā noteiktās pratības prasības attiecas arī uz tādu MI sistēmu nodrošinātājiem un uzturētājiem, kurām piemērojams MI akta 50. pants.

2.6.   Mijiedarbība ar noteikumiem, kas piemērojami vispārīga lietojuma MI modeļiem un/vai sistēmām

(26)

MI akta 50. pants attiecas uz noteiktām MI sistēmām, kas ietver vispārīga lietojuma MI sistēmas (“GPAI sistēmas”) (15), piemēram, sarunbotus, kuri palīdz nodrošināt tiešu mijiedarbību ar fiziskām personām, vai MI sistēmas, kas spēj ģenerēt vai manipulēt sintētisku saturu (ieskaitot dziļviltojumus) (16).

(27)

MI akta 50. pants nav nepārprotami piemērojams vispārīga lietojuma MI modeļiem. Tomēr, ja interaktīva vai ģeneratīva MI sistēma, kurai piemērojams MI akta 50. panta 1. vai 2. punkts, ir izveidota, pamatojoties uz tā paša nodrošinātāja vispārīga lietojuma MI modeli, šajās pamatnostādnēs izklāstītos pārredzamības pasākumus varētu īstenot arī attiecīgā modeļa līmenī (sk. arī Pamatnostādņu 4. iedaļu). Turklāt citu vispārīga lietojuma MI modeļu un citu ģeneratīvo MI modeļu nodrošinātāji, kaut arī uz tiem neattiecas MI akta 50. panta darbības joma, arīdzan tiek mudināti modeļu līmenī īstenot atbilstošus pārredzamības pasākumus interaktīvu MI sistēmu identificēšanai un MI ģenerēta un manipulēta satura marķēšanai. Tas īpaši atvieglotu MI akta 50. panta 1. un 2. punktā noteikto pienākumu (17) izpildi lejasposma MI sistēmu nodrošinātājiem un palīdzētu saglabāt uzticēšanos informācijas ekosistēmai un tās integritāti. Attiecībā uz vispārīga lietojuma MI modeļiem, kas rada sistēmisku risku, drošības pasākumi modeļa līmenī MI mijiedarbības identificēšanai un MI ģenerēta vai manipulēta satura marķēšanai attiecīgā gadījumā var būt daļa no plašāka riska mazināšanas pasākumu kopuma, ko nodrošinātāji var īstenot, pildot savu pienākumu mazināt sistēmiskos riskus saskaņā ar MI akta 55. panta 1. punkta b) apakšpunktu.

3.   MI AKTA 50. PANTA 1. PUNKTS: PĀRREDZAMĪBA ATTIECĪBĀ UZ INTERAKTĪVĀM MI SISTĒMĀM

(28)

MI akta 50. panta 1. punkts ir adresēts tādu MI sistēmu nodrošinātājiem, kuras tieši mijiedarbojas ar fiziskām personām, un tiem savas sistēmas ir jāprojektē un jāizstrādā tā, lai attiecīgās fiziskās personas tiktu informētas par to, ka tās mijiedarbojas ar MI sistēmu. Kā paskaidrots MI akta 132. apsvērumā, šā informēšanas pienākuma mērķis ir ļaut attiecīgajām fiziskajām personām pieņemt uz informāciju balstītus lēmumus par sistēmas iznākumiem, novērst pārmērīgu paļaušanos uz šādām sistēmām un ļaut šīm fiziskajām personām attiecīgi izvērtēt, cik lielā mērā tās ir gatavas uzticēties šim saturam un mijiedarbībai.

3.1.   Galvenie elementi, jēdzieni un attiecīgais(-ie) pārredzamības pienākums(-i)

(29)

MI akta 50. panta 1. punktā noteiktais pārredzamības pienākums attiecas uz MI sistēmu nodrošinātājiem, ja sistēma ir paredzēta tiešai mijiedarbībai ar fiziskām personām un uz minēto mijiedarbību nav attiecināms neviens no šiem izņēmumiem: 1) mijiedarbība ar MI sistēmu ir pašsaprotama no tādas fiziskas personas viedokļa, kura ir samērā labi informēta, vērīga un apdomīga, vai 2) MI sistēma ir likumiski atļauta noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai, ja vien minētā sistēma nav pieejama sabiedrībai ziņošanai par noziedzīgu nodarījumu.

3.1.1.   MI sistēmas, kas paredzētas tiešai mijiedarbībai ar fiziskām personām

(30)

Lai uz sistēmu attiektos MI akta 50. panta 1. punkts, tai jāpiemīt četriem elementiem: i) sistēmai jābūt MI sistēmai, ii) tai jābūt paredzētai mijiedarbībai, iii) mijiedarbībai jābūt tiešai, iv) mijiedarbībai jānotiek ar fiziskām personām.

i)

MI sistēma. Sistēmai ir jāatbilst MI sistēmas definīcijā noteiktajiem elementiem (18), tādējādi tas neattiecas uz vienkāršiem automatizētiem reaģēšanas mehānismiem, kurus nedarbina MI (piemēram, tradicionālām e-pasta vēstulēm par atrašanos “ārpus biroja”, uz noteikumiem balstītām ātrajām automātiskajām atbildēm).

ii)

Mijiedarbībai paredzēta MI sistēma. MI sistēmai jābūt paredzētai mijiedarbībai ar fiziskām personām. Mijiedarbība ietver spēju veikt divvirzienu informācijas apmaiņu vai darbības starp fiziskām personām un MI sistēmu, kurām piemīt īstas sarunas vai atbildes raksturs. Tā var notikt dažādos veidos (piemēram, akustiski, vizuāli un fiziski). Būtu jānodrošina fiziskām personām iespēja sniegt MI sistēmai (piemēram, izmantojot tehniskos saziņas līdzekļus, tostarp tiešsaistes saskarnes, tālruni vai e-pastu, vai tieši) ievaddatus (piemēram, rakstiska teksta vai cita veida satura, balss ziņojuma vai fiziskas darbības veidā), savukārt MI sistēmai būtu jāspēj reaģēt ar kontekstuālu iznākumu (tostarp jebkāda veida saturu vai darbībām) un otrādi. Mijiedarbība var attiekties uz jebkāda veida iznākumu vai formātu, ko cilvēki var uztvert un saprast. Tai nav jābūt cilvēka ierosinātai; tā var ietvert arī MI saturu vai darbības, kas izraisa cilvēka reakciju. Mijiedarbība var būt vienreizēja apmaiņa (piemēram, viena uzvedne, kurai seko viena atbilde) vai noritēt kādā laikposmā (vairākkārtēja apmaiņa). Sistēmas, kas tikai pasīvi vāc datus un nespēj iesaistīties informācijas apmaiņā ar fiziskām personām (piemēram, automatizēta sejas atpazīšana, ko izmanto piekļuves kontrolēšanai) vai tikai apkopo vienreizējas reakcijas (piemēram, surogātpasta filtri), netiek uzskatītas par sistēmām, kas mijiedarbojas ar fiziskām personām.

iii)

Tieša mijiedarbība. Mijiedarbībai starp MI sistēmu un fiziskām personām jābūt tiešai. Parasti tas nozīmē, ka mijiedarbībai jānotiek reāllaikā vai gandrīz reāllaikā (ieskaitot sistēmas spēju rakstīt un nosūtīt ziņojumus fiziskām personām vai citādi mijiedarboties ar fizisko vai virtuālo vidi veidā, ko var uztvert fiziskas personas). Tieša mijiedarbība neietver netiešu vai pastarpinātu mijiedarbību ar cilvēku, kuras laikā fiziska persona nonāk saskarē ar MI iznākumu bez tiešas mijiedarbības ar sistēmu (piemēram, ja klientu apkalpošanas dienesta pārstāvji izmanto MI palīdzības rīkus labākai saziņai ar fiziskām personām vai ja MI iznākumu personai dara pieejamu nevis pati MI sistēma, bet cita persona, kas izplata saturu). Tomēr to vien, ka cilvēki varētu iejaukties MI sistēmas darbībā vai pārskatīt tās iznākumus, nedrīkstētu izmantot, lai apietu MI akta 50. panta 1. punktā noteiktās informācijas izpaušanas prasības. MI akta 50. panta 1. punkta darbības jomā ietilpst gadījumi, kad produkti un pakalpojumi apvieno MI ģenerētas atbildes ar cilvēka pārraudzītu saturu, un par konkrētajiem MI ģenerētajiem mijiedarbības iznākumiem ir jāsniedz attiecīgā informācija, ja vien šos MI iznākumus kā galvenie partneri sarunā ar fizisko personu nav pienācīgi pārskatījuši un nosūtījuši cilvēki.

iv)

Mijiedarbība ar fiziskām personām. MI akta 50. panta 1. punkts paredz, ka MI sistēma mijiedarbojas ar fiziskām personām. Šīs personas var būt profesionāli uzturētāji, citi lietotāji (kas arī izmanto sistēmu tikai personiskām darbībām) vai citas personas, kas sistēmu izmanto viņu vārdā. Šis pienākums neattiecas uz MI sistēmām, kas darbojas slēgtā fiziskā vidē (piemēram, kā daļa no rūpnieciskas iekārtas), aizmugursistēmas saziņā (“mašīna-mašīna”) starp AI sistēmām (tostarp MI aģentiem), kuru iznākumiem nav paredzēts nonākt pie fiziskām personām, vai virtuālā vidē, kurā nav tiešas saskares ar fiziskām personām.

(31)

MI akta 50. panta 1. punkts attiecas uz MI aģentiem, ja tie, pildot savus uzdevumus (piemēram, veicot rezervācijas, pārvaldot saraksti, veicot sarunas par līgumiem vai tos slēdzot, veicot pirkumus u. c.), spēj mijiedarboties ar personām, kuras tiem dod rīkojumus, vai ar citām fiziskām personām. MI aģenti jāprojektē un jāizstrādā tā, lai tie informētu gan par savu mākslīgo būtību, gan par personu, kuras vārdā tie rīkojas, ņemot vērā nepieciešamību nodrošināt izcelsmes un pilnvaru deleģēšanas pārredzamību un to darbību seku pārskatatbildību. Tas ietver gadījumus, kad MI aģenti sarežģītās daudzaģentu arhitektūrās spēj mijiedarboties ar citiem MI aģentiem, kas, pildot savus uzdevumus, tieši mijiedarbojas ar fiziskām personām. Tomēr MI aģenta nodrošinātājs ne vienmēr var iepriekš identificēt atsevišķus MI aģenta tiešas mijiedarbības gadījumus ar citām fiziskām personām, kad MI aģents sāk darboties dažādos kontekstos. Ja nodrošinātājs pirms MI aģenta laišanas tirgū vai nodošanas ekspluatācijā nevar ticami noteikt, vai tas būs tiešā mijiedarbībā ar fizisku personu, šis aģents būtu jāizstrādā arhitektūras līmenī un būtu tam jādod rīkojums informēt par savu mākslīgo būtību katrā situācijā, kad ir pamatota iespēja, ka aģents varētu mijiedarboties ar fizisku personu (arī tad, ja fiziskā persona var pārstāvēt juridisku personu vai rīkoties tās vārdā). Turklāt MI aģentiem būtu jāizpauž sava mākslīgā būtība arī tām personām, kas tiem sniedz rīkojumus galvenajos posmos (piemēram, kad notiek atļaujas piešķiršana, ziņošana, validēšana u. c., tostarp gadījumos, kad uzturētais MI aģents saņem citu MI sistēmu ģenerētus, nevis fiziskas personas tieši radītus iznākumus, tos apstrādā vai pamatojas uz tiem) un katrā jaunā mijiedarbības reizē.

Piemēri MI sistēmām, kas ir paredzētas tiešai mijiedarbībai ar fiziskām personām un uz kurām attiecas MI akta 50. panta 1. punkta darbības joma:

—

MI iespējoti balss asistenti, sarunboti / sarunu aģenti dažādos kontekstos (piemēram, sabiedriskie pakalpojumi, klientu atbalsts, sūdzību pārvaldība, e-komercija, finanses, veselības aprūpe, izglītība u. c.);

—

MI uzticības tālrunis ziņošanai par incidentiem, krāpšanu vai cita veida ziņošanai, (humanoīdi) roboti/koboti, MI pavadoņi; lolojumdzīvnieki–roboti; MI avatāri (piemēram, virtuālās realitātes vidē);

—

MI boti sociālajos tīklos un medijos, programmēšanas aģenti un citi MI aģenti, kas spēj tieši mijiedarboties ar fiziskām personām (tostarp sarežģītā daudzaģentu arhitektūrā).

3.2.1.

Piemēri MI sistēmām, kas nav paredzētas tiešai mijiedarbībai ar fiziskām personām un uz kurām neattiecas MI akta 50. panta 1. punkta darbības joma:

—

MI iespējoti tradicionāli rūpnieciskie roboti, kas darbojas slēgtā rūpnieciskā vidē un nav paredzēti mijiedarbībai ar cilvēkiem (piemēram, elektroniskās montāžas roboti);

—

MI iespējotas ieteikumu sistēmas, surogātpasta filtri, automatizētas tulkošanas un transkripcijas rīki;

—

MI iespējota meklēšana un informācijas izguve, neģenerējot un nemodificējot saturu;

—

MI iespējotas teksta un koda automātiskās aizpildīšanas metodes, autentifikācijas / biometriskās atpazīšanas sistēmas, aizmugursistēmas lēmumu atbalstam, kurās lietotājs redz tikai MI iznākumu bez iespējas tieši mijiedarboties ar sistēmu;

—

MI iespējotas prognozējošas uzturēšanas un optimizācijas sistēmas rūpnīcās un rūpnieciskajos lietojumos, ar MI palīdzību izveidota produktu vizualizācija (piemēram, virtuālā pielaikošana, telpu iekārtošana, produktu atveidošana), MI iespējoti viena pieprasījuma maršruta plānošanas rīki, klientu zvanu transkripcija klientu uzvedības analīzes vajadzībām u. c.

3.1.2.   MI akta 50. panta 1. punktā noteiktais informēšanas pienākums

(32)

MI akta 50. panta 1. punktā tādu MI sistēmu, kas tieši mijiedarbojas ar fiziskām personām, nodrošinātājiem ir noteikts pienākums nodrošināt, ka to MI sistēmas (tostarp MI aģenti un vispārīga lietojuma MI sistēmas) ir projektētas un izstrādātas tā, lai attiecīgās fiziskās personas tiktu informētas par to, ka tās mijiedarbojas ar MI sistēmu.

(33)

Lai gan informēšanas mehānisms būtu jāiestrādā jau sistēmas projektēšanas un izstrādes gaitā, ņemot vērā veidu, kādā sistēma mijiedarbosies ar fiziskām personām, paziņojums būtu jāsniedz MI sistēmas darbības laikā un, vēlākais, pirmās mijiedarbības ar fizisko personu laikā (kā noteikts MI akta 50. panta 5. punktā, sk. šo pamatnostādņu 7. iedaļu). Nodrošinātāji ir pienākums nodrošināt, lai pēc MI sistēmas laišanas tirgū vai nodošanas ekspluatācijā fiziskās personas, kas mijiedarbojas ar MI sistēmu, tiktu efektīvi un konsekventi informētas visā MI sistēmas darbmūžā no brīža, kad attiecīgais nodrošinātājs sistēmu laiž tirgū vai nodod ekspluatācijā.2.2

(34)

Informācijas izpaušanas formāts. MI akta 50. panta 1. punktā nav precizēta konkrēta informācijas izpaušanas metode. Tāpēc pakalpojumu sniedzēji var izvēlēties jebkuru piemērotu metodi, ja vien ir ievērotas divas prasības: i) ir izpildītas MI akta 50. panta 5. punktā izklāstītās prasības par skaidras un atšķiramas informācijas sniegšanu, vēlākais, pirmās mijiedarbības laikā (sk. šo pamatnostādņu 7. iedaļu) un ii) ir ņemtas vērā to fizisko personu, kuras pieder pie neaizsargātām grupām vecuma (piemēram, bērnu vai vecāka gadagājuma cilvēku) vai invaliditātes dēļ, raksturīgās iezīmes, ciktāl MI sistēma ir paredzēta mijiedarbībai ar fiziskām personām, kuras pieder pie šīm grupām, vai ir pamats uzskatīt, ka tā mijiedarbosies ar personām, kuras pieder pie šīm grupām (piemēram, arī tad, ja ir pamats uzskatīt, ka MI sistēma mijiedarbosies ar plašāku sabiedrību) (19). Turklāt, kā noteikts MI akta 50. panta 5. punktā un 132. apsvērumā, informācija jāsniedz formātā, kurā tai var piekļūt fiziskas personas ar invaliditāti (sk. 7. iedaļu). Ja sistēma var mijiedarboties ar bērniem, šiem paziņojumiem jābūt bērniem piemērotiem, vecumam atbilstošiem, viegli saprotamiem un viegli pieejamiem visiem bērniem, tostarp bērniem ar invaliditāti vai ar piekļuvi saistītām papildu vajadzībām. Ja tas ir iespējams un atbilstoši, pakalpojumu sniedzējiem tiek ieteikts izmantot standartizētu informācijas izpaušanas praksi un apzīmējumus, lai nodrošinātu paziņojumu efektivitāti un konsekvenci un lietotāju labāku informētību.

(35)

Paziņojuma būtība. MI akta 50. panta 1. punktā ir noteikts, ka interaktīvo MI sistēmu nodrošinātājiem tās jāprojektē un jāizstrādā tā, lai visas fiziskās personas, kas mijiedarbojas ar šādām MI sistēmām, tiktu skaidri informētas par to, ka mijiedarbība notiek ar mākslīgi radītu partneri, kas nav cilvēks. Ja nodrošinātājs var pamatoti paredzēt, ka MI sistēma varētu mijiedarboties ar iepriekš minētajām neaizsargātajām grupām piederīgām fiziskām personām, informācija būtu attiecīgi jāpielāgo un jāsniedz piekļūstamā formātā, kā noteikts piemērojamajos Savienības tiesību aktos, lai nodrošinātu arī to, ka minētās fiziskās personas šo informāciju pilnīgi izprot (20).

(36)

Informācija par mijiedarbības mākslīgo izcelsmi paziņojumos būtu jāsniedz mijiedarbības kontekstam piemērotos veidos. Tas būtu jādara tā, lai nodrošinātu, ka attiecīgās personas tiek pienācīgi un efektīvi informētas, izvairoties no jebkādiem maldināšanas vai manipulāciju riskiem pirms mijiedarbības un tās laikā, vienlaikus nodrošinot tehniski iespējamu un samērīgu informācijas izpaušanu. Kā informācijas sniegšanas piemērus var minēt rakstiskus paziņojumus (piemēram, sarunbots sarunas sākumā norāda, ka tā darbības pamatā ir MI tehnoloģija), vizuālus līdzekļus (piemēram, fiziskai personai nosūtīts MI aģenta ģenerēts e-pasta ziņojums, kura augšpusē ir norāde uz MI izcelsmi), akustiskus līdzekļus (piemēram, balss asistents sesijas sākumā paziņo, ka to darbina MI), MI identifikatoru izpaušanu un akreditācijas datus (piemēram, MI aģenti, kas verificējamā veidā izpauž savu MI identitāti, ciktāl tas ir iespējams) (21).

(37)

Paziņojumu formāts. Ieteicamā paraugprakse ir MI sistēmas projektā iekļaut multimodālu pieeju, kas ļauj viegli piekļūt izpaužamajai informācijai. Šādos paziņojumos var būt apvienotas dažādas metodes lietotāju izpratnes uzlabošanai pēc vajadzības un atkarībā no konteksta un mērķauditorijas, paredzamajām auditorijas grupām un resursiem, kuri pieejami nodrošinātajiem, jo īpaši mazajiem un vidējiem uzņēmumiem (MVU). Turpmāk ir sniegti piemērotu metožu piemēri.

—

Informācijas izpaušana teksta formātā (izmantojot lietotāja saskarni). Pamanāmas, vienkāršā valodā formulētas norādes vai reklāmkarogi (piemēram, “Jums atbild interaktīva MI sistēma”) un apsveicināšanās sarunbotos pirmā pieprasījuma laikā, ko attiecīgā gadījumā var apvienot ar pastāvīgiem žetoniem vai norādēm, ko var redzēt visā mijiedarbības laikā proporcionāli konkrētajam kontekstam un riskiem. Turklāt ir ieteicams izpaužamo informāciju izvietot tuvu mijiedarbības saskarnei (piemēram, tuvu ievades/izvades laukam) un izmantot vienkāršotu formulējumu, jo īpaši lietotājiem ar zemāku digitālo pratību un bērniem.

—

Informācijas izpaušana audioformātā. Situācijās, kad tiek izmantota balss vai telefoniska saziņa, var tikt sniegti skaidri izteikti paziņojumi mijiedarbības sākumā (piemēram, “Šis ir MI darbināts asistents”) attiecīgā gadījumā apvienojumā ar periodiskiem atgādinājumiem ilgākas mijiedarbības laikā, jo īpaši tad, ja lietošanas laikā ir pārtraukumi vai mainās MI sistēmas funkcija. MI sistēmas atpazīšanā var palīdzēt skaidri dzirdami skaņas signāli (piemēram, toņi vai audioikonas), jo īpaši lietotājiem ar redzes traucējumiem, taču tikai ar tiem vien nebūs pietiekami.

—

Vizuālas/grafiskas norādes. MI sistēmas dizainā var tikt iestrādātas pastāvīgi redzamas ikonas, ūdenszīmes, krāsaini ietvari vai atpazīstami “MI” simboli, kas papildina teksta formātā izpausto informāciju. Ir ieteicams izmantot standartizētus vizuālos indikatorus, tostarp visos nodrošinātāja pakalpojumos, jo šādi indikatori var ievērojami samazināt kognitīvo slogu un veicināt atpazīšanu.

—

Multimodālas kombinācijas. Teksta, audio un vizuālu norāžu apvienošana (piemēram, sarunbotā ir redzama norāde par MI izcelsmi un vienlaikus informācija tiek izpausta arī teksta formātā pirmā pieprasījuma laikā), lai nodrošinātu piekļūstamību un lielāku skaidrību dažādām lietotāju grupām.

(38)

Dažas metodes, jo īpaši turpmāk norādītās, nav nepieciešamas un, ja tās izmanto atsevišķi, nav pietiekamas MI akta 50. panta 1 un 5. punktā noteiktā pārredzamības pienākuma efektīvai izpildei.

—

Informācijas izpaušana tikai noteikumos un nosacījumos, vienotajā resursu vietrādī (URL) vai dokumentācijā (šāda informēšana var papildināt informācijas izpaušanu pašā mijiedarbības kontekstā, taču neaizstāj to).

—

Mašīnlasāmi marķējumi (piemēram, metadati vai ūdenszīmes), kas lietotājiem mijiedarbības punktā nav uztverami. Tas neietekmē šādu zīmju piemērotību MI akta 50. panta 2. punkta prasību izpildei (sk. 4. iedaļu).

—

Neskaidri vai neviennozīmīgi signāli (piemēram, vispārīgas atsauces uz “asistentu”) vai cilvēkiem līdzīgi atveidojumi, kas var maldināt lietotājus.

—

Vispārināta informēšana, kas nav pietiekami specifiska norādīšana uz MI sistēmas iznākumiem un mijiedarbību (piemēram, platformā, kas sniedz dažādus pakalpojumus vai paredz individuālus ievaddatus, vispārināta informācijas izpaušana, piemēram, “Šajā tīmekļa vietnē sniegtajos pakalpojumos tiek izmantots MI”, nav pietiekama).

—

Tehniski vai spējas raksturojoši apraksti. Apgalvojumi, kas attiecas tikai uz pamattehnoloģijām (piemēram, “Šī sistēma izmanto lielos valodas modeļus”), nepaskaidrojot sistēmas funkciju vai sekas lietotājam un tās mākslīgo izcelsmi.

(39)

Lai informēšana būtu efektīva un piemērota lietotājiem un lai pēc iespējas izvairītos no iespējamas negatīvas lietotāju pieredzes vai pieraduma izraisītām sekām (tā sauktā “reklāmkaroga akluma”), informācija jāizpauž samērīgi un pielāgoti MI sistēmas izmantošanai dažādos kontekstos un mērķauditorijās.

(40)

Ar vienu labi pamanāmu paziņojumu pirms MI sistēmas pirmās mijiedarbības ar konkrētu fizisku personu vairumā gadījumu, visticamāk, būs pietiekami, lai izpildītu MI akta 50. panta 1. punktu. Tomēr riskantākā kontekstā, lai nodrošinātu lietotāju pastāvīgu informētību, varētu būt jāsniedz periodiski atgādinājumi un kontekstam atbilstoša informācija. Tas jo īpaši attiecas uz situācijām, kurās MI sistēmas mijiedarbojas ar neaizsargātām personām (piemēram, bērniem, vecāka gadagājuma cilvēkiem, personām ar invaliditāti un personām ar zemāku pratības līmeni), mijiedarbība ir ilgstoša un evolucionējoša un notiek sensitīvā vai ievelkošā kontekstā (piemēram, kad lietotāji var paust vai izjust emocionālu satraukumu vai ievainojamību vai riskē nokļūt atkarībai līdzīgos stāvokļos), kad ir paaugstināts lietotāja maldināšanas risks (piemēram, finanšu konsultācijas, apdrošināšanas jautājumi, juridiskā palīdzība, konsultācijas par veselību un sūdzību izskatīšana) vai emocionālas piesaistes vai atkarības veidošanās risks (piemēram, MI pavadoņu gadījumā), kā arī tad, kad ir jānodrošina informētība par MI aģentu darbībām un to kontrole. Nodrošinātājiem ir jāprojektē un jāizstrādā MI sistēma arī tā, lai informācija tiktu izpausta ikvienā situācijā, kad MI sistēmai tiek uzdoti jautājumi par tās būtību vai mijiedarbības izcelsmi vai kad no informācijas apmaiņas ar fizisko personu var pamatoti pieņemt, ka šī persona varētu tikt maldināta vai mulsināta par mijiedarbības MI izcelsmi.

3.2.   Izņēmumi attiecībā uz MI akta 50. panta 1. punktā noteikto informēšanas pienākumu

(41)

MI akta 50. panta 1. punktā ir paredzēti divi izņēmumi no informēšanas pienākuma attiecībā uz turpmāk aplūkotajām interaktīvajām MI sistēmām.

3.2.1.   Izņēmums attiecībā uz pašsaprotamu mijiedarbību ar MI sistēmu

(42)

Lai varētu atsaukties uz pirmo izņēmumu, nodrošinātājiem būs jānovērtē un jāpierāda: i) pašsaprotami mākslīga mijiedarbība ar ii) fizisku personu, kurai jābūt samērā labi informētai, vērīgai un apdomīgai, ņemot vērā apstākļus un izmantošanas kontekstu.

(43)

Šā standarta pamatā attiecībā uz jēdzienu “vidusmēra patērētājs” ir iedibinātie ES patērētāju aizsardzības tiesību akti, un tas būtu jāinterpretē konsekventi, vienlaikus ņemot vērā mijiedarbībā ar fiziskām personām iesaistīto sistēmu specifisko un dažādo kontekstu, lietojumu un arī MI akta 50. panta 1. punkta mērķus.

(44)

Pieņēmums par šādu “vidusmēra” fizisku personu tiek veidots divos posmos. Pirmkārt, nodrošinātājiem būtu jāņem vērā auditorija, ar kuru MI sistēmai ir paredzēts mijiedarboties un par kuru ir pamatoti uzskatīt, ka tā varētu mijiedarboties. Otrkārt, nodrošinātājam būtu jāpārbauda, cik lielā mērā šīs auditorijas vidusmēra dalībnieks ir samērā informēts, vērīgs un apdomīgs, ņemot vērā izmantošanas apstākļus un kontekstu. Veicot šo novērtējumu, būtu jāņem vērā vairāki faktori.

—

Nodrošinātājiem būtu jāņem vērā MI sistēmas mērķauditorija, kā arī pamatoti paredzama plašāka potenciālā auditorija. Tas jo īpaši attiecas uz gadījumiem, kad MI sistēmai var viegli piekļūt plaša sabiedrība vai kad sistēma darbojas virtuālās vai fiziskās sabiedriskās vietās un spēj mijiedarboties ar fiziskām personām, kas šajās vietās atrodas. Auditorija, kas var nonākt saskarē ar MI sistēmas iedarbību, ne vienmēr ir tās mērķauditorija.

—

Nodrošinātājiem būtu jāņem vērā mērķauditorijas un pamatoti paredzamās auditorijas potenciāli daudzveidīgais sastāvs saskaņā ar MI akta 132. apsvērumu. Ja daļu no minētās auditorijas varētu veidot personas ar invaliditāti, vecāka gadagājuma cilvēki vai nepilngadīgie, šādas auditorijas vidusmēra dalībnieka paredzamais informētības, vērīguma un apdomīguma līmenis būs zemāks nekā tādas auditorijas vidusmēra dalībniekam, kurā minēto personu kategoriju nav. Turpretī, ja interaktīvā MI sistēma ir pieejama tikai profesionālai vai specializētai mērķauditorijai, tas varētu pozitīvi ietekmēt zināšanu, vērīguma un apdomīguma paredzamo līmeni, un šīs auditorijas vidusmēra dalībnieku var uzskatīt par labāk informētu, vērīgāku un apdomīgāku.

—

Saistībā ar plašākiem izmantošanas apstākļiem un kontekstu nodrošinātājiem būtu jāņem vērā mērķauditorijas un pamatoti paredzamās auditorijas digitālās un MI pratības līmenis un attiecīgie sociālie, kultūras un lingvistiskie faktori.

(45)

Pašsaprotamība. Kad hipotētiskā samērā labi informētā, vērīgā un apdomīgā fiziskā persona ir noteikta, nodrošinātājiem jāizvērtē, vai šādai personai būs pašsaprotami, ka tā tieši mijiedarbojas ar MI sistēmu. Izņēmums būtu jāinterpretē šauri, jo ar to fiziskām personām tiek liegta aizsardzība un tiesības tikt skaidrā un atšķiramā veidā informētām, ka tās mijiedarbojas ar MI sistēmām. Patērētāju un citu fizisku personu vispārīgā informētība par MI sistēmu (tostarp sarunbotu un aģentu) esību nenozīmē, ka viņi tās atpazīst mijiedarbības laikā. Mijiedarbības pašsaprotamības novērtējumu var ietekmēt vairāki turpmāk uzskaitītie faktori, un tie būtu jāņem vērā.

—

Paredzamā mijiedarbības būtība. Gadījumos, kad MI sistēma fiziski mijiedarbojas ar fiziskām personām, attiecīgie elementi var būt arī mehānisko sastāvdaļu redzamība (kas palielinātu pašsaprotamību) vai pakāpe, kādā MI sistēma autentiski replicē savu dabisko ekvivalentu (kas mazinātu pašsaprotamību). Ja mijiedarbība pēc būtības ir vizuāla vai akustiska, šo novērtējumu var ietekmēt tādi elementi kā rakstības vai runas veids, balss tonis (robota balss salīdzinājumā ar balsi, kas skan kā īsta cilvēka balss), lietotāja saskarnes dizains (piemēram, ar sarunbotu saistītais profila attēls, kurā redzams cilvēks) un uzlabota personalizētas mijiedarbības spēja.

—

Mērķauditorijas un paredzamās auditorijas dalībnieki. Ja interaktīvā MI sistēma ir pieejama tikai profesionālai vai specializētai auditorijai un neparedz potenciālu saskari ar neaizsargātām grupām, tas varētu palielināt mijiedarbības mākslīgās būtības iespējamo pašsaprotamību attiecīgās auditorijas vidusmēra dalībniekam. Turpretī, ja MI sistēmai var piekļūt plaša sabiedrība vai patērētāji, tostarp arī neaizsargātas personas (piemēram, bērni, vecāka gadagājuma cilvēki, personas ar kognitīviem, fiziskiem vai garīgiem traucējumiem vai personas ar zemāku MI pratību), kurām mijiedarbība ir mazāk pašsaprotama, attiecīgo izņēmumu nevar piemērot, lai efektīvi aizsargātu šo neaizsargātos lietotājus.

—

Būtu jāņem vērā arī tas, ka fiziskām personām kļūst arvien grūtāk zināt, vai tās mijiedrabojas ar MI sistēmu vai reālu cilvēku. Ņemot vērā avatāru un aģentu izmantošanu, tiešsaistē īstenotas mijiedarbības vispārējo anonimitāti un MI sistēmu spējas rakstīt un mijiedarboties cilvēkam līdzīgā veidā, “pašsaprotamības” izņēmums būtu jāattiecina tikai uz gadījumiem, kad mērķauditorijas un pamatoti paredzamās auditorijas vidusmēra dalībniekam nav gandrīz nekādu šaubu par mijiedarbības būtību.

Piemēri, kas ilustrē pašsaprotamību, kuras gadījumā nepiemēro MI akta 50. panta 1. punktā noteikto pārredzamības pienākumu:

—

ar MI darbināmi sarunboti programmēšanas atbalstam un koda pārskatīšanai, kas pieejami tikai profesionāliem izstrādātājiem, kuri, pamatojoties uz savām speciālajām zināšanām un lietošanas kontekstu, saprot, ka attiecīgā mijiedarbība nenotiek ar cilvēku, un kuriem nav grūti saprast, ka ierosinājumus ģenerē MI sistēma;

—

iekšējais asistents, kas ir saskarē ar pienācīgi apmācītiem darbiniekiem, kuriem ir MI pratība un izpratne par to, ka viņi izmanto MI sistēmas iekšējām organizatoriskām vajadzībām (piemēram, cilvēkresursu, juridiskais, par iepirkumiem atbildīgais, atbilstības nodrošināšanas vai IT atbalsta personāls);

—

interaktīvas MI sistēmas, kas paredzētas tikai pienācīgi apmācītiem veselības aprūpes speciālistiem, lai palīdzētu veikt medicīnisko diagnostiku un sniegtu ierosinājumus par attiecīgo ārstēšanu;

—

klātesošs MI, kas iebūvēts sadzīves tehnikā ar funkcijām, kuras attiecas tikai uz sadzīves tehniku un tās darbību;

—

mijiedarbība ar MI iespējotiem nevadāmiem tēliem (NPC) viena spēlētāja videospēlē, kad videospēles būtība skaidri parāda, ka neviena cita fiziska persona nevar piedalīties un mijiedarboties ar lietotāju, un mijiedarbības MI būtība ir pašsaprotama arī visiem lietotājiem (tostarp neaizsargātām personām).

Piemēri, kas ilustrē neatbilstību pašsaprotamības izņēmumam, kuras gadījumā piemēro MI akta 50. panta 1. punktā noteikto pārredzamības pienākumu:

—

ar MI darbināms lolojumdzīvnieks–robots, kas izskatās ļoti līdzīgs tā dabiskajam ekvivalentam un ir projektēts atdarināt tipisku cilvēka un dzīvnieka mijiedarbību, tādējādi radot neskaidrību par to, vai mijiedarbība notiek ar MI sistēmu vai ne;

—

MI sistēmas, kas iegultas ievelkošā vidē (piemēram, virtuālā vai papildinātā realitātē), kurā tiek izmantoti reālistiski avatāri vai cilvēku balsīm līdzīgas balsis, un lietotājiem un jo īpaši bērniem, vecāka gadagājuma cilvēkiem vai personām ar invaliditāti var būt grūti atšķirt, vai mijiedarbība notiek ar cilvēku vai MI;

—

MI sarunboti, kas iegulti tiešsaistes platformās vai palīdzības un atbalsta rīkos (palīdzības dienesti), kuros lietotāji tieši mijiedarbojas ar MI un saņem MI iznākumus (piemēram, atbildes uz vaicājumiem vai citu MI ģenerētu saturu), ko viņi var uztvert kā cilvēka radītu.

3.2.2.   Izņēmums attiecībā uz MI sistēmām, kas likumiski atļautas izmantošanai tiesībaizsardzības nolūkos

(46)

Interaktīvo MI sistēmu nodrošinātāji ir atbrīvoti no MI akta 50. panta 1. punktā noteiktā pārredzamības pienākuma ievērošanas, ja attiecīgās MI sistēmas ir likumiski atļautas noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai par tiem, ievērojot atbilstošus trešo personu tiesību un brīvību aizsardzības pasākumus.

(47)

Ar “likumiski atļauts” jāsaprot, ka tas ir atļauts Savienības tiesību aktos, kā arī dalībvalstu tiesību aktos, kuri pieņemti saskaņā ar Savienības tiesību aktiem. Tiesību aktā, ar ko atļauj MI sistēmas izmantošanu, jābūt skaidri norādītiem atļautās izmantošanas mērķiem un apstākļiem un tajā jābūt paredzētiem atbilstošiem trešo personu tiesību un brīvību aizsardzības pasākumiem. Ņemot vērā MI akta tehnoloģiski neitrālo pieeju, nav nepieciešams ar tiesību aktiem identificēt vai atļaut konkrētas MI sistēmas, ja MI sistēmu ir kopumā paredzēts izmantot likumā atļautas darbības jomā un tā atbilst piemērojamajam tiesiskajam regulējumam.

(48)

Lai šo izņēmumu varētu attiecināt uz MI sistēmu, tās mērķim ir jābūt noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai (piemēram, MI slepenais aģents, MI sistēmas, ko cilvēka kontrolē izmanto izmeklētāji izmeklēšanai tiešsaistē vai saziņai ar personām, kuras var būt iesaistītas noziedzīgās darbībās). Izņēmums neaprobežojas ar šādu MI sistēmu izmantošanu tikai tiesībaizsardzības iestādēs, kā noteikts MI akta 3. panta 48) punktā, bet var attiekties arī uz interaktīvām (vai ģeneratīvām) MI sistēmām, ko izmanto citas Savienības vai valstu publiskā sektora iestādes, ciktāl to izmantošana ir likumiski atļauta noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai un tiek ievēroti atbilstoši trešo personu tiesību un brīvību aizsardzības pasākumi. Šis atbrīvojums neparedz, ka MI sistēmai jāspēj neatkarīgi veikt izmeklēšanu. Ja attiecīgu sistēmu var izmantot gan tiesībaizsardzības nolūkos, gan citiem atļautiem mērķiem, iespēja piemērot atbrīvojumu jāvērtē, ņemot vērā to, kā tieši sistēma tiek uzturēta. Pārredzamības pienākumi joprojām ir spēkā, ja viena un tā pati MI sistēma tiek uzturēta citiem mērķiem, kas nav likumiski atļautā noziedzīgu nodarījumu atklāšana, novēršana, izmeklēšana vai kriminālvajāšana. Joprojām ir jānodrošina pārredzamība fiziskām personām, kad tās mijiedarbojas ar sistēmu citu atļauto mērķu kontekstā.

(49)

Izņēmumu nepiemēro, ja i) MI sistēma ir publiski pieejama un ii) sistēma piedāvā personām funkciju ziņošanai par noziedzīgiem nodarījumiem. Šādas sistēmas drīkst izmantot, taču uz tām joprojām attiecas MI akta 50. panta 1. punktā noteiktais pārredzamības pienākums, tāpēc fiziskas personas ir jāinformē, ka tās mijiedarbojas ar šādām sistēmām.

Lielākas skaidrības labad jānorāda, ka šis izņēmums attiecas tikai uz 50. panta 1. punktā noteikto pienākumu informēt fiziskas personas par to, ka tās mijiedarbojas ar MI sistēmu (22). Tas neskar piemērojamos Savienības un valstu tiesību aktus, tostarp procesuālās normas par pierādījumu dokumentēšanu, izpaušanu, pieņemamību un novērtēšanu.

Piemēri MI sistēmām, kas darītas pieejamas sabiedrībai ziņošanai par noziedzīgiem nodarījumiem, uz kurām atbrīvojums neattiecas un uz kurām attiecas MI akta 50. panta 1. punkta darbības joma:

—

MI iespējoti policijas sarunboti, kas tiek uzturēti oficiālās policijas tīmekļa vietnēs vai mobilajās lietotnēs un sniedz personām iespēju ziņot par noziedzīgiem nodarījumiem vai sūdzībām. Šīs sistēmas uzdod lietotājiem strukturētus jautājumus, vāc attiecīgu informāciju, sašķiro ziņojumus un pēc tam tos nosūta policijas darbiniekiem cilvēka veiktai novērtēšanai;

—

MI darbinātas uzticības tālruņa līnijas, ko vispārējas publiskās izziņas darbību veikšanai izmanto policija vai cita tiesībaizsardzības iestāde;

—

ar MI aprīkotas finanšu iestāžu vai publiskā sektora iestāžu uzticības tālruņa līnijas vai digitālie portāli ziņošanai par krāpšanu, ko lietotāji var izmantot, lai paustu aizdomas par iespējamiem finanšu noziegumiem. MI sistēma mijiedarbojas ar lietotāju, lai vāktu informāciju, kategorizētu ziņojumu un sakārtotu lietas prioritārā secībā, savukārt izmeklētāji-cilvēki pirms jebkādas darbības veikšanas pārbauda attiecīgo informāciju;

—

liecību vākšanai izmantoti virtuālie asistenti, kuriem cietušie vai liecinieki var iesniegt informāciju, izmantojot MI vadītu saskarni. Šādas MI sistēmas var atbalstīt informācijas ievadi daudzās valodās, ar piekļuvi saistītas funkcijas un strukturētu pierādījumu iesniegšanu, taču galīgo novērtējumu un izmeklēšanas darbības veic iestādēs strādājošie cilvēki.

3.3.   Mijiedarbība ar citiem Savienības tiesību aktiem

(50)

MI akta 50. panta 1. punktā noteikto pārredzamības pienākumu piemēro, neskarot spēkā esošos Savienības patērētāju aizsardzības, datu aizsardzības, digitālās jomas vai nediskriminēšanas tiesību aktus, kuros var būt paredzēta cita veida informācijas izpaušana, kas nav konkrēti saistīta ar mijiedarbības MI izcelsmi. Konkrētāk, saskaņā ar Direktīvu 2005/29/EK (“Negodīgas komercprakses direktīva” jeb “NKD”) (23) ir aizliegtas maldinošas darbības vai noklusējumi attiecībā uz produkta vai pakalpojuma galvenajām īpašībām. Turklāt Direktīvā 2011/83/EK (“Patērētāju tiesību direktīva”) (24) tirgotājiem tiek prasīts pirms līguma noslēgšanas sniegt skaidru un saprotamu informāciju par preču vai pakalpojumu galvenajām īpašībām. Ja pakalpojums ir MI vadīts (piemēram, abonējams sarunbots, MI pavadoņa lietotne vai virtuālā trenera (kouča) pakalpojums), MI funkcionalitāte var tikt uzskatīta par būtisku īpašību, kas jāizpauž, pirms patērētājs uzņemas saistības ar līgumu. Savienības patērētāju tiesību aizsardzības tiesību aktos noteiktie informēšanas pienākumi ir piemērojami neatkarīgi no tā, vai mijiedarbība ir uzskatāma par “pašsaprotamu” saskaņā ar MI akta 50. panta 1. punktu. Šie pienākumi arī papildina vispārīgos no patērētāju aizsardzības izrietošos informēšanas pienākumus, savukārt MI aktā noteiktais paziņošanas pienākums ir kontekstuālāks, un tā mērķis ir nodrošināt visu fizisko personu pastāvīgu informētību par tiešu mijiedarbību ar MI sistēmu ne vēlāk kā pirms tās darbības sākšanas un visā mijiedarbības laikā.

(51)

DPA paredz arī pārredzamības prasības attiecībā uz tiešsaistes platformu ieteikumu sistēmām, tostarp prasību izskaidrot galvenos ranžēšanas parametrus. Šie pienākumi papildina MI akta 50. panta 1. punktā noteiktos pārredzamības pienākumus, jo tiem ir atšķirīga darbības joma un mērķis un tie attiecas uz sistēmām, kas principā nav tiešā mijiedarbībā ar lietotājiem MI akta 50. panta 1. punkta nozīmē.

(52)

Saistībā ar Savienības datu aizsardzības tiesību aktos noteiktajiem informācijas sniegšanas pienākumiem pret datu subjektiem jānorāda, ka MI akta 50. panta 1. punktā noteiktā pienākuma mērķis atšķiras no minēto pienākumu mērķa, tāpēc tas šos pienākumus neietekmē.

(53)

MI akta 50. panta 1. punktā noteikto pārredzamības pienākumu piemēro, neskarot Savienības un valstu tiesību aktus par informācijas sniegšanu personām saistībā ar kriminālprocesu (piemēram, Direktīvu 2012/13/ES vai Direktīvu 2012/29/ES, kas grozīta ar Direktīvu (ES) 2026/1472) (25).

4.   MI AKTA 50. PANTA 2. PUNKTS: MI ĢENERĒTA VAI MANIPULĒTA SATURA MARĶĒŠANA UN ATKLĀŠANA

(54)

MI akta 50. panta 2. punktā ir noteikts, ka sintētisku saturu ģenerējošu MI nodrošinātājiem jāīsteno noteiktām kvalitātes prasībām atbilstīgi tehniski risinājumi, lai nodrošinātu, ka MI sistēmas iznākumi ir mašīnlasāmā formātā un ir iespējams atklāt to izcelsmi. Punkta mērķis ir nodrošināt, ka fiziskas personas var atšķirt MI ģenerētu vai manipulētu saturu no cita satura (piemēram, cilvēka radīta satura) un pārbaudīt tā izcelsmi, tādējādi arī veicinot lielāku informācijas ekosistēmas integritāti un uzticēšanos tai.

(55)

Tāpēc šā pārredzamības pienākuma labuma guvēji ir visas fiziskās personas, kas varētu nonākt saskarē ar MI ģenerētu vai manipulētu saturu, kā arī galvenie dalībnieki, kuriem ir svarīga loma informācijas ekosistēmas uzticamības un integritātes saglabāšanā, piemēram, kompetentās tirgus uzraudzības iestādes un citas kompetentās iestādes, neatkarīgi pētnieki, pilsoniskās sabiedrības organizācijas, mediji, uzticami signalizētāji, pamattiesību aizstāvji, tiešsaistes platformu un tiešsaistes meklētājprogrammu nodrošinātāji, tiesību subjekti, citi satura radītāji un izplatītāji u.c.

4.1.   MI akta 50. panta 2. punkta galvenie elementi un jēdzieni

(56)

MI akta 50. panta 2. punktu piemēro, ja ir izpildīti vairāki kumulatīvi nosacījumi:

i)

sistēmai jābūt MI sistēmai;

ii)

MI sistēmai jāspēj ģenerēt vai manipulēt sintētisku saturu;

iii)

saturam jābūt vienā vai vairākās no šādām modalitātēm: audio, attēls, video vai teksts;

iv)

uz MI sistēmu nedrīkst attiekties neviens no šiem izņēmumiem: 1) MI sistēma pilda palīgfunkciju standarta rediģēšanai; 2) MI sistēma būtiski nemaina uzturētāja sniegtos ievades datus vai to semantiku, vai arī 3) MI sistēma ir likumiski atļauta noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai.

4.1.1.   MI sistēmas, kas ģenerē vai manipulē sintētisku saturu

(57)

MI akta 50. panta 2. punkts attiecas uz MI sistēmām (26), tostarp uz vispārīga lietojuma MI sistēmām, kas ģenerē sintētisku audio, attēla, video vai teksta saturu. MI akta 50. panta 2. punkts attiecas uz tādu sistēmu apakškopu, kas atbilst MI akta 3. panta 1) punktā sniegtajai MI sistēmas definīcijai un ģenerē minētos iznākumus. MI akta 50. panta 2. punkts attiecas arī uz tādām MI sistēmām, kuras izmanto manipulēšanai ar saturu.

(58)

Satura ģenerēšana ir MI sistēmas veikta sintētiska materiāla ģenerēšana (piemēram, pamatojoties uz cilvēka uzvedni), piemēram, sintētiska attēla vai dziesmas ģenerēšana. Praksē tas nozīmē, ka MI akta 50. panta 2. punktu var piemērot ģeneratīvām MI sistēmām, kas projektētas šaurā nolūkā konkrētu iznākumu radīšanai. Vienlaikus MI akta 50. panta 2. punkts attiecas arī uz tādām MI sistēmām, kas var kalpot vairākiem mērķiem, tostarp uz vispārīga lietojuma MI sistēmām, un radīt dažāda veida saturu, kā arī uz MI aģenta sistēmām, ja vien tās ģenerē sintētisku audio, attēla, video vai teksta saturu.

(59)

Turpretī satura manipulēšana ir jau esoša satura (sintētiska vai nesintētiska) izmainīšana, ko veic MI sistēma (piemēram, MI sistēma manipulē esošu attēlu vai balss ierakstu, izpildot cilvēka sniegtus norādījumus). Lai uz saturu attiektos MI akta 50. panta 2. punkts, pietiek ar to, ka tas ir MI ģenerēts vai manipulēts veidā, kas nav standarta rediģēšana atbilstīgi MI akta 50. panta 2. punktā noteiktajiem izņēmumiem (sk. 4.3. iedaļu). Turklāt MI akta 50. panta 2. punktā nav prasīts, lai saturs būtu tikai MI ģenerēts vai manipulēts. Arī saturs, kas sajaukts ar cilvēka radītu materiālu, ir uzskatāms par sintētisku saturu, ja ar to manipulē vai to ģenerē kādā no MI akta 50. panta 2. punktā minētajām modalitātēm.

4.1.2.   Darbības jomā iekļautās sintētiskā satura modalitātes

(60)

MI akta 50. panta 2. punktā ir izsmeļoši uzskaitītas sintētiskā satura modalitātes, uz kurām attiecas pārredzamības pienākums. Tās ir: audio, attēla, video vai teksta saturs. Tas ietver arī multimodālu saturu, t. i., saturu, ko veido šo modalitāšu kombinācija. MI akta 50. panta 2. punkta vajadzībām dažādās modalitātes ir jāinterpretē, ņemot vērā prakses un tehnoloģijas norises, kas laika gaitā var attīstīties. Pagaidām tās būtu jāsaprot šādi:

—

teksts ir diskrēts ar simboliem izteikts saturs, ko veido konkrētā secībā sakārtotas rakstzīmes vai cipari, kurus cilvēki var izlasīt un semantiski interpretēt;

—

attēli ir statiski telpiski atveidojumi, kas kodē vizuālu informāciju, kuru cilvēki var redzēt;

—

audio ir laikā mainīgs signāls, kas kodē skaņu, kuru cilvēki var uztvert ar dzirdi. Tas var būt runa, instrumentālā mūzika vai citi skaņas signāli;

—

video ir laikatkarīga attēlu sekvence, kuru var sinhronizēt ar skaņu un kuru var redzēt cilvēki. Šādā gadījumā jāmarķē gan video, gan audio saturs un ir jānodrošina atklāšanas iespēja, kā izklāstīts turpmāk.

(61)

Uz MI sistēmām, kas ģenerē vai manipulē 3D attēlus, 3D video un 3D audio saturu, kā arī virtuālo, papildināto vai jaukto realitāti, attiecas MI akta 50. panta 2. punkta darbības joma. “Virtuālā realitāte” aptver tās MI tehnoloģijas, kas, simulējot fizisku klātbūtni, sniedz lietotājiem iespēju pieredzēt datorģenerētu vidi un mijiedarboties ar to, turklāt šī mijiedarbība notiek reāllaikā. Tā kā virtuālo un papildināto realitāti veido laikatkarīga attēlu sekvence, kas var būt arī sinhronizēta ar audio saturu, kurš atspoguļo vizuālas izmaiņas laika gaitā, to var uzskatīt par “video saturu”. Attiecīgais “iznākums”, kas jāmarķē, ir MI ģenerētā atsevišķā resursa galīgā forma ar īpašiem izņēmumiem attiecībā uz reāllaika īslaicīgajām interaktīvajām sesijām saskaņā ar šo pamatnostādņu 88. punktu. Digitālie artefakti, ko izmanto 3D attēlu, 3D video un 3D audio satura ģenerēšanai, piemēram, punktu mākonis ar 3D tīklojumu, nav jāmarķē.

(62)

MI akta 50. panta 2. punkta darbības joma attiecas arī uz digitālajiem dvīņiem, kas nodrošina personu, fizisku objektu vai sistēmu virtuālu replicēšanu, integrējot vairākus datu veidus, ja šie dvīņi ir MI ģenerēti vai manipulēti un tie ir audio, attēla, video vai teksta veidā, neskaitot izņēmumus, kad tie ir klasificējami kā “rūpniecisks lietojums” vai “starpuzņēmumu lietojums” saskaņā ar šo pamatnostādņu 87. punktu vai kā reāllaika īslaicīgs saturs saskaņā ar 88. punktu.

(63)

MI akta 50. panta 2. punktu var piemērot arī MI aģentiem, ja MI aģents veic darbību, kuras iznākums ir MI ģenerēts vai manipulēts saturs, ko fiziskas personas var uztvert audio, attēla, video vai teksta veidā. Tāpēc šie rezultāti ir jāmarķē, un tiem jābūt atklājamiem, kā aprakstīts turpmāk. Turpretī jebkāda MI aģenta darbība, kura neietver MI ģenerētu vai manipulētu saturu (piemēram, tādi apstrādes starpposmi kā argumentācija un domu ķēde), vai MI ģenerēta darbība, par kuru nav paredzēts, ka to tieši uztvers fiziskas personas (piemēram, tīmekļa pieprasījums vai pārlūkprogrammas darbība), nav uzskatāma par sintētisku saturu MI akta 50. panta 2. punkta nozīmē un attiecībā uz to nav jāpilda marķēšanas un atklājamības pienākumi.

4.1.3.   Saturs, uz kuru neattiecas MI akta 50. panta 2. punkta darbības joma

(64)

MI akta 50. panta 2. punkta darbības joma neattiecas uz MI sistēmas ģenerētu saturu, kura pamatā ir vienkārša datu apstrāde un kas nav tieši MI ģenerēts vai manipulēts, piemēram, uz renderētu attēlkadru.

(65)

Turklāt MI akta 50. panta 2. punkts neattiecas uz MI sistēmas iznākumu, kas tikai reproducē esošu saturu vai ļauj demonstrēt vai izkārtot jau esošu saturu. Šādi gadījumi var būt, piemēram, mūzikas atskaņošanas saraksti vai citas ieteikumu sistēmas, kas tikai atlasa vai sarindo esošo saturu, pamatojoties uz lietotāja preferencēm vai darbību, un nerada neko jaunu un nemanipulē pašu saturu. Tas attiecas arī uz MI sistēmām, ko izmanto iekšējos analītiskajos procesos, kuros dati tiek izgūti un strukturēti, bet ne apkopoti.

(66)

Tas ir attiecināms arīdzan uz MI sistēmas ievaddatiem un iznākumiem, kas ir tikai fiziskas vai virtuālas vides datu novērojumi un ieraksti un nav ģenerēti vai manipulēti, izmantojot MI (piemēram, robotus vai citus MI iespējotus sensorus), un MI sistēmu veiktu datu pārsūtīšanu bez jebkādām datu izmaiņām. Šāds saturs ir dažādi MI sistēmu ievaddati un iznākumi, jo īpaši rūpniecības vidē, piemēram, ražošanas dati, kas tiek nodrošināti robotiem, kuri veic datu novērošanu; patēriņa dati, kas reģistrēti ar MI iespējotiem viedajiem skaitītājiem, tīkla frekvences un sprieguma mērījumi; atrašanās vietas GPS dati, kas reģistrēti transportlīdzekļos, u. c.

(67)

Turklāt, tā kā MI akta 50. panta 2. punktā noteiktā pārredzamības pienākuma mērķis ir nodrošināt cilvēkiem iespēju atšķirt MI ģenerētu vai manipulētu saturu, lai novērstu maldināšanas un manipulācijas riskus un nodrošinātu informācijas ekosistēmas integritāti un uzticēšanos tai, šis noteikums neattiecas uz jebkādu ar minēto mērķi nesaistītu saturu, ko fiziskas personas nevar uztvert vai kas nav paredzēts tam, lai fiziskas personas to interpretētu, pārbaudītu vai rīkotos tā vadītas.

(68)

Konkrētāk, turpmāk uzskaitītais saturs būtu jāuzskata par tādu, uz kuru MI akta 50. panta 2. punkta darbības joma neattiecas:

—

iznākumi, kas ģenerēti īsas skaitļu, simbolu vai burtu secības veidā (piemēram, atsevišķi vārdi, attēlu virsraksti, alt-text, lietotājsaskarnes apzīmējumi un ikonām atbilstoša izmēra grafiska informācija, attēlu apraksti un citi datu marķējumi);

—

pirmkods, ar ko saprot saturu, kas rakstīts programmēšanas, skriptu, marķēšanas, vaicājumu vai konfigurācijas valodā un kas paredzēts interpretēšanai, kompilēšanai vai izpildei datorsistēmā neatkarīgi no tā, vai tas sastāv no teksta rakstzīmēm. Tie var būt arī komentāri dabiskā valodā un kontekstuāla informācija, kas ir pirmkoda neatņemama sastāvdaļa. Minētā punkta darbības joma neattiecas arī uz programmatūras izstrādes komplektiem (SDK), strukturētā vaicājumu valodu (SQL), infrastruktūru kā kodu (Infrastructure as Code) un YAML Ain’t Markup Language (YAML), JavaScript objektu notācijām (JSON), konfigurācijas shēmām, skriptiem, mašīnlasāmām specifikācijām, lietojumprogrammu saskarnēm (API un programmatūras bibliotēkām);

—

MI sistēmas iznākumi, kas ir paredzēti vienīgi “mašīnas-mašīnas” sakariem un automātiskai apstrādei bez saskares ar cilvēkiem, piemēram, aģenta-aģenta sakari, pretsurogātpasta signāli, ja tos neuztver fiziskas personas;

—

iznākumi, ko izmanto tikai slēgta cikla vidē rūpniecības un produktu izstrādes darbplūsmās (piemēram, filmu, animācijas filmu, spēļu vai reklāmas producēšanai), ja vien tie nav MI sistēmas galaiznākumi MI ģenerēta vai manipulēta teksta, audio, attēla vai video satura veidā. Šādos gadījumos ir jānodrošina tikai darbplūsmas posmu galarezultāta marķēšana un atklāšana.

4.2.   MI akta 50. panta 2. punktā noteiktais marķēšanas un atklāšanas pienākums

(69)

MI akta 50. panta 2. punktā ir noteikts pārredzamības pienākums, kas jāievēro to ģeneratīvo MI sistēmu nodrošinātājiem, uz kurām attiecas šā noteikuma darbības joma. Šis pienākums paredz divus atšķirīgus, bet pēc būtības savstarpēji saistītus elementus. Pirmkārt, attiecīgās MI sistēmas nodrošinātājiem ir jānodrošina, ka tās iznākumi ir mašīnlasāmā formātā. Otrkārt, nodrošinātājiem ir jānodrošina iespēja atklāt, ka iznākumi ir mākslīgi ģenerēts vai manipulēts saturs. Nodrošinātājiem būtu jānodrošina, lai attiecībā uz katru ieviesto marķēšanas risinājumu būtu pieejami atbilstoši atklāšanas līdzekļi (kā izklāstīts turpmāk), kas ļautu fiziskām personām, kuras saskaras ar saturu, un citiem attiecīgajiem dalībniekiem identificēt un atšķirt MI sistēmas mākslīgi ģenerēto saturu no cita satura. Ar tehnisku risinājumu ir jāsaprot marķēšanas metožu un atklāšanas līdzekļu kombinācija, ko nodrošinātājs ir ieviesis, lai izpildītu MI akta 50. panta 2. punktā noteikto pārredzamības pienākumu.

(70)

Lai efektīvi īstenotu MI akta 50. panta 2. punktā noteikto pārredzamības pienākumu mērķus, ir jāizpilda katrs no abiem iepriekš minētajiem elementiem. Tikai viena elementa izpilde (piemēram, mašīnlasāms iznākums bez atklāšanas līdzekļiem) nebūs pietiekama, lai nodrošinātu atbilstību minētā noteikuma prasībām (27).

4.2.1.   Marķēšanas pienākums

(71)

Marķēšanas pienākums aprobežojas ar mašīnlasāma formāta marķējuma nodrošināšanu. Mašīnlasāms formāts nozīmē to, ka marķējumi ir strukturēti tā, lai lietojumprogrammas varētu tos viegli identificēt, atpazīt un izgūt bez cilvēka iejaukšanās. Lai atvieglotu uzturētājiem MI akta 50. panta 4. punktā noteiktā pienākuma – attiecīgi apzīmēt dziļviltojumus – izpildi, attiecīgos gadījumos kā papildu pasākumi ir pieļaujami uztverami marķējumi un norādes.

(72)

Lai izpildītu marķēšanas pienākumu, nodrošinātāji var izmantot vienu marķēšanas metodi vai metožu kombināciju, ja vien izmantotais tehniskais risinājums kopumā ir mašīnlasāms un likumiski noteiktajā pakāpē atbilst prasībām par efektivitāti, sadarbspēju, robustumu un uzticamību, kas paredzētas MI akta 50. panta 2. punkta otrajā teikumā (sk. šo pamatnostādņu 4.2.3. iedaļu).

(73)

MI akta 133. apsvērumā ir sniegti šādu paņēmienu piemēri – ūdenszīmes, metadatu identifikācija, kriptogrāfiskās metodes satura izcelsmes un autentiskuma pierādīšanai, reģistrēšanas metodes, pirkstu nospiedumi vai citi paņēmieni un šādu paņēmienu kombinācija. Lai gan MI akta 133. apsvērumā ir norādīti izcelsmes un autentiskuma pierādīšanas paņēmieni, nodrošinātājiem nav pienākuma reģistrēt vai uzturēt pilnu izcelsmes ķēdi ar informāciju par satura izcelsmi un pārveidojumiem vai jebkādu citu attiecīgu apgalvojumu par satura vēsturi. Tomēr šādas izcelsmes pierādīšanas metodes arī var izmantot, lai nodrošinātu atbilstību MI akta 50. panta 2. punktam, un tās var palīdzēt fiziskām personām atšķirt MI ģenerētu vai manipulētu saturu no autentiska satura.

(74)

Uzturētāji var īstenot iznākumu marķēšanas risinājumu dažādos vērtības ķēdes posmos (piemēram, pēc satura ģenerēšanas MI sistēmas līmenī, bāzes MI modeļa līmenī vai tā integrēšanas MI sistēmas izvadģenerēšanas procesā). Tie var izmantot to pašu marķēšanas risinājumu, ko īstenojis augšposma modeļa nodrošinātājs vai trešā persona, kas nodrošina risinājumu (piemēram, kā atvērtu standartu vai specializētu pakalpojumu), ciktāl marķēšanas risinājums atbilst MI akta 50. panta 2. punktam. Šāda risinājuma izmantošana neskar MI sistēmas uzturētāja pienākumu pierādīt atbilstību MI akta 50. panta 2. punktam.

4.2.2.   Atklāšanas pienākums

(75)

Nodrošinātājiem, uz kuru MI sistēmām attiecas MI akta 50. panta 2. punkts, ir jānodrošina, ka to sistēmu iznākums ir atklājams kā MI ģenerēts vai manipulēts saturs. Tas nozīmē, ka pakalpojumu sniedzējam ir pienākums nodrošināt, lai personām, kuras varētu nonākt saskarē ar šo saturu, būtu pieejami attiecīgi atklāšanas līdzekļi. Turklāt saskaņā ar MI akta 50. panta 5. punktu šādiem atklāšanas risinājumiem būtu jāspēj izveidot cilvēklasāmus rezultātus, kuri norāda, vai saturs ir MI ģenerēts vai manipulēts.

(76)

Atklāšanas rīks ir mehānisms, kas nosaka, vai saturs ir MI ģenerēts vai manipulēts, parasti identificējot tehniskos marķierus vai parakstus, kas ļauj pārliecināties par tā izcelsmi. Lai nodrošinātu pilnīgu sadarbspēju, nodrošinātajiem jāizmanto publiski pieejami nozares standartiem atbilstoši risinājumi satura izcelsmes atklāšanai, kas ļauj jebkurai trešai personai veikt atklāšanu, ideālā gadījumā to izpildot lokāli digitālajā ierīcē, un kurus var netraucēti integrēt autonomos, izolētos tīklos. Ja šādi standarti nav pieejami, jo īpaši MI akta 50. panta 2. punkta īstenošanas sākumposmā attiecībā uz ūdenszīmju tehnoloģijām, nodrošinātājs var izmantot pats savu atklāšanas risinājumu vai trešās personas sniegtu vai ar to kopīgu atklāšanas risinājumu, ja vien šie risinājumi nodrošina sadarbspēju ar atklāšanas risinājumiem, ko izmanto citi nodrošinātāji (sk. 4.2.3. iedaļu). Šī iespēja būtu jāizmanto ierobežotu laiku līdz brīdim, kad kļūst pieejami saskaņoti standarti un standartizēts, no nodrošinātāja neatkarīgs sadarbspējīgs atklāšanas risinājums, kas ir drošs, saglabā privātumu un ir lokāli izpildāms.

(77)

MI akta 50. panta 5. punktā ir papildus precizēts, ka MI akta 50. panta 2. punktā minētā informācija attiecīgām fiziskām personām būtu jāsniedz skaidrā un atšķiramā veidā, vēlākais, pirmās mijiedarbības vai eksponētības laikā. Jānorāda, ka šī informācija ir nevis MI ģenerētais vai manipulētais saturs, bet gan atklāšanas rezultāts, kas norāda, vai attiecīgais saturs ir MI ģenerēts vai manipulēts. “Pirmās eksponētības laikā” būtu jāsaprot kā brīdis, kad fiziskās personas vēlas pārbaudīt konkrēta satura izcelsmi un piekļūt atklāšanas risinājumam, lai iegūtu atklāšanas rezultātus.

(78)

Ja MI sistēmas nodrošinātājam atklāšanas risinājumu vai piekļuvi tam nodrošina cits dalībnieks, nodrošinātājam ir jānodrošina, ka atklāšanas risinājums atbilst MI akta 50. panta 2. un 5. punktam un ka attiecīgie dalībnieki parāda atklāšanas rezultātus saskaņā ar MI akta 50. panta 5. punkta prasībām (sk. 7. iedaļu).

4.2.3.   Atbilstība tehniskajiem risinājumiem piemērotajām prasībām. Efektivitāte, sadarbspēja, robustums un uzticamība

(79)

MI akta 50. panta 2. punkta otrajā teikumā ir noteikts, ka marķēšanas un atklāšanas tehniskajiem risinājumiem jābūt efektīviem, sadarbspējīgiem, robustiem un uzticamiem. Šīs prasības būtu jāsaprot, kā aprakstīts turpmāk.

—

Efektivitāte ir nodrošinātāju īstenotā tehniskā risinājuma spēja atklāt to iestrādātos marķējumus un dot fiziskām personām iespēju atšķirt mākslīgi ģenerētu vai manipulētu saturu, ko radījusi to MI sistēma, un tādējādi veicināt informācijas ekosistēmas integritāti un uzticēšanos tai.

—

Uzticamība ir tehniskā risinājuma spēja precīzi identificēt un atšķirt MI ģenerētu vai manipulētu saturu no cita satura paredzētajos apstākļos visā dažādajā nodrošinātāja MI sistēmas ģenerētā vai manipulētā satura klāstā.

—

Robustums ir tehniskā risinājuma spēja precīzi identificēt un atšķirt MI ģenerētu vai manipulētu saturu, ko rada nodrošinātāja MI sistēma, no cita satura dažādos apstākļos, tostarp gan parastus pārveidojumus, gan pretinieciskus uzbrukumus.

—

Sadarbspēja ir dažādo tehnisko marķēšanas un atklāšanas risinājumu spēja netraucēti darboties vairākās sistēmās, ar dažādiem dalībniekiem, dažādos kontekstos un tehniskajā izpildījumā, lai ļautu atklāt MI ģenerētu vai manipulētu saturu neatkarīgi no tā, kādu(-as) marķēšanas metodi(-es) izmanto dažādu MI sistēmu nodrošinātāji.

(80)

Nodrošinātājiem ir jānodrošina, ka marķēšanas un atklāšanas tehnisko risinājumu kombinācija holistiski atbilst visām iepriekš minētajām prasībām, ciktāl tas ir juridiski nepieciešams, ņemot vērā dažādo ieviesto risinājumu ierobežojumus un savstarpējo papildināmību. Tehniskajiem risinājumiem ir jāatbilst visām prasībām, ciktāl tas ir tehniski iespējams, ņemot vērā dažādo satura veidu specifiku un ierobežojumus, īstenošanas izmaksas un vispāratzītos jaunākos sasniegumus, kas var būt atspoguļoti attiecīgajos tehniskajos standartos.

(81)

“Tehniski iespējami” risinājumi MI akta 50. panta 2. punkta nozīmē ir risinājumi, ko var īstenot modalitātēs, uz kurām attiecas noteikuma darbības joma, izmantojot patlaban pieejamās tehnoloģijas, metodes un inženiertehnisko praksi konkrētajā tehniskajā arhitektūrā un attiecīgajā darbības vidē. Pakalpojumu sniedzējam nav pienākuma izmantot tehnisku risinājumu, kas vēl nav izstrādāts, pieejams tirgū vai tehniski īstenojams. Tehniskā iespējamība ir objektīvs jēdziens, kas nav atkarīgs no atsevišķu nodrošinātāju konkrētajiem resursiem un spējām.

(82)

MI akta 50. panta 2. punktā nodrošinātājiem tiek prasīts īstenot tehniski iespējamu(-us) risinājumu(-us), kas atbilst vispāratzītajiem jaunākajiem sasniegumiem, lai nodrošinātu atbilstību četrām kvalitātes prasībām, t. i., prasībām par efektivitāti, robustumu, uzticamību un sadarbspēju.

(83)

“Jaunākie sasniegumi” jāsaprot kā panāktais tehnisko spēju līmenis konkrētā laikā attiecībā uz produktiem, procesiem un pakalpojumiem, kam pamatā ir attiecīgie konsolidētie zinātnē, tehnoloģijā un pieredzē balstītie konstatējumi un kas ir pieņemts kā laba prakse tehnoloģiju jomā (28). Jaunākie sasniegumi ne vienmēr ir jaunākie zinātniskie pētījumi, kas vēl ir eksperimentālā stadijā vai nepietiekami tehnoloģiski nobrieduši. Nodrošinātājiem ir pastāvīgi, savlaicīgi un samērīgi jāpielāgo savi marķēšanas un atklāšanas risinājumi, ņemot vērā tehnoloģiju attīstību un jaunākos sasniegumus.

(84)

Ņemot vērā MI akta 50. panta 7. punktu, nodrošinātāji var ievērot prakses kodeksu, kurā ņemti vērā jaunākie sasniegumi un kas saskaņā ar minēto noteikumu tiek uzskatīts par atbilstīgu, lai pierādītu MI akta 50. panta 2. un 5. punktā noteikto marķēšanas un satura atklāšanas pienākumu izpildi. Sīkāku informāciju par šāda kodeksa ievērošanas sekām un citu tādu nodrošinātāju uzraudzību, kuri kodeksu neievēro, sk. šo pamatnostādņu 8.1. iedaļā.

(85)

Var ņemt vērā arī izmaksas, ko rada konkrētu marķēšanas un atklāšanas tehnisko risinājumu īstenošana. Dažos gadījumos, kā aprakstīts turpmākajos punktos, izmaksas var būt nesamērīgas ar nelielajiem ieguvumiem, ja cilvēkiem nodrošinātajai iespējai atšķirt MI ģenerētu vai manipulētu saturu un informācijas ekosistēmas integritātes un uzticēšanās tai aizsargāšanai ir tikai ierobežota vērtība.

(86)

Tāpēc ir iespējami šauri definēti gadījumi, kad ar tehnisku risinājumu, kura pamatā ir mazāk robusti metadatu marķējumi, ir pietiekami, lai nodrošinātu atbilstību MI akta 50. panta 2. punktam, ņemot vērā konkrēto MI sistēmas iznākumu specifiku, ja to radītie maldināšanas, manipulēšanas un negatīvas ietekmes uz informācijas ekosistēmu riski ir mazi. Tas jo īpaši attiecas uz gadījumiem, kad ģeneratīvā MI sistēma ir iegulta fiziskos produktos un ģenerē iznākumus tehniski kontrolētā, slēgtā vidē un galvenokārt nodrošina instrukcijas (piemēram, transportlīdzekļu navigācijas sistēmās iegulta MI sistēma), ja vien produktā ir iegulti efektīvi tehniskie pasākumi, lai novērstu iznākuma nonākšanu ārpus produkta vides, piemēram, tā ārēju uztveršanu vai eksportēšanu un izplatīšanu.

(87)

Ir iespējami arī daži “rūpniecisku MI lietojumu” vai “starpuzņēmumu lietojumu” gadījumi (izņemot publiskas un uz patērētājiem vērstas MI sistēmas), kad, ņemot vērā proporcionalitātes principu un ierobežotos ar pārredzamības mērķiem saistītos ieguvumus, MI ģenerētu vai manipulētu iznākumu marķēšana un atklāšana netiek prasīta. Šāda atkāpe ir piemērojama tikai tad, ja ir izpildītas visas šīs prasības:

i)

MI sistēmas ģenerētais iznākums pēc būtības ir tikai un vienīgi tehnisks, piemēram, inženiertehniskie projekti, rūpnieciskās ražošanas darbplūsmas, tehniskās instrukcijas, iznākums, kas ģenerēts prognozējošu sistēmas uzturēšanas procesu rezultātā rūpnieciskos apstākļos, iekšējie dokumentācijas procesi vai ražošanas posmi un darbplūsmas, pirms iznākums tiek pabeigts un darīts pieejams citām ārējām personām vai sabiedrībai;

ii)

MI sistēmas ģenerētais iznākums ir paredzēts tikai tam, lai to uztvertu un apstrādātu ierobežots iepriekš noteikts tādu fizisku personu skaits, kas profesionālā statusā darbojas nodrošinātāja un uzturētāja organizācijā;

iii)

MI sistēmas ģenerētos iznākumus nedrīkst paredzēt kopīgošanai ārpus uzņēmuma vai ārēju personu izmantošanai, ieviešot atbilstošus aizsardzības pasākumus, lai izvairītos no nepareizas lietošanas, ko var pamatoti paredzēt (piemēram, mākoņizolācija, uz funkcijām balstīti kontrolpasākumi).

(88)

Izņēmums var būt arī reāllaika satura ģenerēšana, ja tā ir īslaicīga un ģenerētais saturs tiek nekavējoties patērēts, netiek reģistrēts, glabāts un tālāk izplatīts (piemēram, videospēlēs, virtuālās realitātes lietotnēs), gadījumos, kad marķēšana nav tehniski iespējama un personas, kas nonāk saskarē ar saturu, tiek informētas, ka saturs ir MI ģenerēts vai manipulēts (piemēram, informēšana lietošanas laikā, sesijas līmeņa paziņojumi).

4.3.   Izņēmumi attiecībā uz MI akta 50. panta 2. punktā noteiktajiem pienākumiem

(89)

MI akta 50. panta 2. punktā ir noteikti trīs skaidri formulēti izņēmumi attiecībā uz šajā noteikumā paredzētajiem pārredzamības pienākumiem.

(90)

Pirmais izņēmums attiecas uz MI sistēmām, ciktāl tās pilda palīgfunkciju standarta rediģēšanai. Ar standarta rediģēšanu būtu jāsaprot esoša satura sagatavošana publicēšanai vai izplatīšanai (piemēram, nelieli redakcionāli labojumi, lai uzlabotu lasāmību un gramatiku, kvalitāti un formātu), un tā nav saistīta ar jauna satura radīšanu. Standarta rediģēšanas mērķis ir nodrošināt, ka saturā cita starpā nav acīmredzamu tehnisku vai gramatisku valodas kļūdu, tas ir pielāgots piemērojamajām izkārtojuma, noformējuma, formatējuma un piekļūstamības prasībām un atbilst nozares praksei. Rediģēšana nav standarta rediģēšana, ja saturs tiek būtiski mainīts (būtiskas modifikācijas, strukturālas izmaiņas u. c.) veidā, kas ietekmē tā nozīmi, stilu vai nolūku.

(91)

Otro izņēmumu piemēro tad, ja MI sistēma būtiski nemaina uzturētāja sniegtos ievaddatus vai to semantiku. Izmainīšana būtu uzskatāma par būtisku, ja MI sistēma iznākuma ģenerēšanas procesā ir būtiski manipulējusi ievaddatus vai to semantiku. Saistībā ar to būtu jāizvērtē būtiski faktori, piemēram, formāts, mediju satura veids, stils un satura izmaiņas, kas ietekmē satura nozīmi, stilu vai nolūku. Lai noskaidrotu, vai izņēmums ir piemērojams, katrs gadījums jāizvērtē individuāli.

(92)

Ja MI sistēmu var izmantot gan satura ģenerēšanai vai manipulēšanai, gan nebūtiskai un nelielai ievaddatu izmainīšanai, MI akta 50. panta 2. punktā noteikto pārredzamības pienākumu nepiemēro nedaudz un nebūtiski izmainītam saturam.

Piemēri standarta rediģēšanai un nelielām izmaiņām, uz kurām attiecas MI akta 50. panta 2. punktā paredzētais izņēmums:

—

gramatikas un pareizrakstības labojumi, lingvistiski un nelieli stilistiski uzlabojumi, kas nemaina teksta būtību, nozīmi, stilu un vēstījumu, MI ģenerēti teksta tulkojumi;

—

formatējuma, formāta pārveidojumi, tehniska saspiešana, trokšņa samazināšana vai likvidēšana, lai uzlabotu skaidrību, nemainot satura nozīmi vai būtību;

—

neliela apgriešana, nelieli krāsu pielāgojumi vai labojumi, gaišināšana vai tumšināšana, asuma palielināšana, lai uzlabotu skaidrumu vai citas standarta rediģēšanas un tehniskas korekcijas;

—

netīras lēcas vai sensora radītu putekļu traipu noņemšana, zibspuldzes radītā “sarkano acu” efekta noņemšana; datnes oriģinālā redzamā fona dzēšana un aizēnošana, seju pikselēšana vai aizmiglošana;

—

videoklipa mēroga mainīšana, dinamiskā diapazona saspiešana un izlīdzināšana; video ierobežota stabilizēšana;

—

krāsu un kontrasta standartkorekcijas, nelielas atskaņošanas ātruma korekcijas, nelielas korekcijas, lai izlīdzinātu attēla horizontu, pikseļu filtru lietošana, lai palielinātu noteiktas attēla daļas, vai krāsu karšu piemērošana pelēktoņu attēliem, attēla malu aizpildīšana, melnbalta attēla vai videomateriāla pārveidošana krāsainā attēlā vai videomateriālā un otrādi;

—

pikseļu aizpildīšana, lai pielāgotu malu attiecību vai uzlabotu attēla skaidrumu, automātiski izveidoti pārejas klipi, citi nebūtiski vizuāli un tehniski labojumi;

—

medicīniska attēla tehniskā apstrāde vai rekonstrukcija medicīniskajās ierīcēs (piemēram, anotācijas, rāmji, kontūras, apļi, siltumkartes);

—

sarunu transkripcija; MI ģenerēts saturs, kurā ar palīgtehnoloģijām tikai pārveidoti autentiski cilvēka ievadīti dati, tādējādi sniedzot personām ar invaliditāti iespēju sazināties (piemēram, papildinoša un alternatīva saziņa (AAC) vai pielāgotas neironu balsis (CNV)), jo satura nozīme netiek semantiski mainīta.

Piemēri semantiskām izmaiņām, kuras saskaņā ar MI akta 50. panta 2. punktu jāmarķē:

—

MI ģenerēti teksta kopsavilkumi; teksta pārfrāzēšana vai pārrakstīšana, tādējādi mainot tā stilu, struktūru un nozīmi un veicot vairāk nekā tikai gramatikas un nelielus stilistiskus labojumus;

—

priekšmetu vai personu izņemšana, aizstāšana vai ievietošana esošajos attēlos un videomateriālos, tādējādi mainot satura jēgu un būtību; sejas aizstāšana vai būtiska pārveidošana;

—

reālistiskas runas sintēze konkrētas personas balsī vai tāda reālistiska video ģenerēšana, kurā attēlotie notikumi nav notikuši; personas ķermeņa kontūru vai ādas krāsas izmainīšana; attēla krasa izgaismošana, tumšināšana, krāsu un kontrasta pārveidojumi, kas maina satura nozīmi, nodomu un vēstījumu;

—

tādu saliktu attēlu vai videoklipu radīšana, kas izmaina personu, objektu, notikumu vai faktu atveidojumu, vai jebkādas citas būtiskas satura izmaiņas.

(93)

Trešais izņēmums attiecas uz ģeneratīvu MI sistēmu, kurai likumiski ļauts ģenerēt vai manipulēt sintētisku saturu noziedzīgu nodarījumu atklāšanas, novēršanas, izmeklēšanas vai kriminālvajāšanas nolūkā. Uz šo izņēmumu attiecas arī 46.–48. punktā izklāstītie precizējumi.

4.4.   Mijiedarbība ar citiem Savienības tiesību aktiem

(94)

Saistībā ar MI akta 50. panta 2. punktā noteiktajiem marķēšanas un atklāšanas pienākumiem uzsvars tiek likts uz to, kā saturs ir radīts, un uz tā mākslīgo izcelsmi, nevis uz to, kas saturu ir radījis. Tāpēc visiem MI sistēmu nodrošinātāju izmantotajiem marķēšanas un atklāšanas risinājumiem ir jāatbilst piemērojamajiem Savienības datu aizsardzības tiesību aktiem, tostarp datu aizsardzības principiem un pienākumiem, piemēram, pienākumam nodrošināt datu integrētu un noklusējuma aizsardzību, datu minimizēšanas, drošības un konfidencialitātes principiem. Piemēram, marķēšanas un atklāšanas vajadzībām nevajadzētu apstrādāt ar satura radītāju saistītu informāciju, jebkādi citi apstrādātie personas dati būtu jādzēš, tiklīdz ir sasniegts atklāšanas mērķis, ir jānodrošina drošība un konfidencialitāte u. c.

(95)

MI akta 136. apsvērumā arī ir uzsvērts, ka MI akta 50. panta 1., 2. un 4. punktā noteiktie pārredzamības pienākumi ir īpaši svarīgi, lai veicinātu DPA efektīvu īstenošanu. Tas sevišķi attiecas uz ļoti lielu tiešsaistes platformu vai ļoti lielu tiešsaistes meklētājprogrammu nodrošinātāju pienākumiem rūpīgi identificēt, analizēt, novērtēt un mazināt sistēmiskos riskus, kuri var rasties tāda satura izplatīšanas rezultātā, kas ir mākslīgi ģenerēts vai manipulēts, jo īpaši iespējamību, ka radīsies faktiska vai paredzama negatīva ietekme uz demokrātiskajiem procesiem, pilsonisko diskursu un vēlēšanu procesiem, tostarp izplatot dezinformāciju (DPA 34. un 35. pants). Mašīnlasāms marķējums var ļaut minētajiem nodrošinātājiem atklāt MI ģenerētu vai manipulētu saturu un sniegt pienācīgas norādes un informāciju, tādējādi samazinot MI radītas dezinformācijas risku visos to sniegtajos pakalpojumos.

(96)

MI akta 50. panta 2. un 4. punktā noteiktie pienākumi marķēt un apzīmēt saturu, ko ģenerējušas vai manipulējušas MI sistēmas, neskar DPA 16. panta 6. punktā noteikto pienākumu mitināšanas pakalpojumu sniedzējiem izskatīt paziņojumus par nelikumīgu saturu, kas saņemti saskaņā ar DPA 16. panta 1. punktu (29). Konkrētāk, marķējumiem vai norādēm, ko lieto MI ģenerētam vai manipulētam saturam, nebūtu jāietekmē novērtējums un lēmums par konkrētā satura nelikumību saskaņā ar citu tiesisko regulējumu. Minētais novērtējums būtu jāveic, tikai atsaucoties uz noteikumiem, kas reglamentē satura likumību saskaņā ar minēto regulējumu (30). Piemēram, ja ar norādi apzīmēts dziļviltots attēls tiek atzīmēts kā materiāls, kurā, iespējams, atspoguļota seksuāla vardarbība pret bērniem (CSAM), vai kā materiāls, ar ko tiek pārkāpti tiesību akti par preču zīmēm vai autortiesībām, šīs norādes izmantošana neietekmē satura iespējamo nelikumību saskaņā ar minēto tiesisko regulējumu. Attiecīgajā novērtējumā būtu jāpamatojas vienīgi uz attiecīgajiem piemērojamajiem tiesību aktiem (piemēram, krimināltiesībām, preču zīmju vai autortiesību noteikumiem).

(97)

Savukārt saturā iegultais mašīnlasāmais marķējums saskaņā ar MI akta 50. panta 2. punktu var palīdzēt ļoti lielu tiešsaistes platformu un ļoti lielu tiešsaistes meklētājprogrammu nodrošinātājiem izpildīt to DPA 34. un 35. pantā noteiktos pienākumus identificēt, analizēt un novērtēt sistēmiskos riskus, kuri var rasties mākslīgi ģenerēta vai manipulēta satura izplatīšanas rezultātā, jo īpaši iespējamību, ka radīsies faktiska vai paredzama negatīva ietekme uz demokrātiskajiem procesiem, pilsonisko diskursu un vēlēšanu procesiem, tostarp izplatot dezinformāciju (31), un ieviest konkrētajiem identificētajiem sistēmiskajiem riskiem pielāgotus saprātīgus, samērīgus un efektīvus pasākumus minēto risku mazināšanai. Ļoti lielu tiešsaistes platformu un ļoti lielu tiešsaistes meklētājprogrammu nodrošinātāji var tikt uzskatīti arī par MI sistēmu nodrošinātājiem, ja tie atbilst attiecīgajiem MI akta nosacījumiem, kad tie savos pakalpojumos integrē MI sistēmas (sk. arī 6.1.5. iedaļu).

(98)

Tiešsaistes platformu, tiešsaistes meklētājprogrammu nodrošinātāji un citi attiecīgie dalībnieki, kas izplata saturu visā vērtības ķēdē, tiek īpaši mudināti saglabāt iespēju un ļaut identificēt marķējumu, ko MI sistēmu nodrošinātāji ieviesuši saskaņā ar MI akta 50. panta 2. punktu, lai fiziskās personas, kas nonāk saskarē ar saturu, varētu tikt informētas par tā izcelsmi.

5.   MI AKTA 50. PANTA 3. PUNKTS: EMOCIJU ATPAZĪŠANAS SISTĒMAS UN BIOMETRISKĀS KATEGORIZĀCIJAS SISTĒMAS

(99)

MI akta 50. panta 3. punktā emociju atpazīšanas sistēmu un biometriskās kategorizācijas sistēmu uzturētājiem ir noteikts pienākums informēt par sistēmas darbību fiziskās personas, uz kurām tā attiecas.

(100)

MI akta 132. apsvērumā ir paskaidrots, ka minētā pienākuma mērķis ir nodrošināt, lai fiziskas personas (tostarp personas ar invaliditāti) būtu informētas, ka ir pakļautas emociju atpazīšanas un biometriskās kategorizācijas sistēmām, kas var pārkāpt viņu privātumu. Tādējādi šis pienākums ir piemērojams neatkarīgi no tā, vai attiecīgās personas ir pakļautas šādu sistēmu darbībai reāllaikā vai šīs sistēmas tiek darbinātas ex post.

5.1.   Galvenie elementi, jēdzieni un attiecīgais(-ie) pārredzamības pienākums(-i) saskaņā ar MI akta 50. panta 3. punktu

5.1.1.   Jēdziens “emociju atpazīšanas sistēma”

(101)

MI akta 3. panta 39) punktā “emociju atpazīšanas sistēma” ir definēta “kā MI sistēma, kuras mērķis ir identificēt vai izsecināt fizisku personu emocijas vai nodomus, pamatojoties uz viņu biometriskajiem datiem”. MI akta 50. panta 3. punkta kontekstā vienlīdz svarīgs ir detalizētais šā jēdziena skaidrojums, kas sniegts Komisijas pamatnostādnēs par augsta riska MI sistēmu klasifikāciju, tostarp tajās izklāstītie praktiskie piemēri.

(102)

Tā kā visas emociju atpazīšanas sistēmas tiek klasificētas arī kā augsta riska sistēmas, ja vien tās nav aizliegtas saskaņā ar MI akta 5. panta 1. punkta f) apakšpunktu darbvietā vai izglītības iestādēs, MI akta 50. panta 3. punktā noteiktais pārredzamības pienākums būtu jāpiemēro kopā ar citiem augsta riska MI sistēmām piemērojamiem aizsardzības pasākumiem un prasībām.

5.1.2.   Jēdziens “biometriskās kategorizācijas sistēma”

(103)

MI akta 3. panta 40) punktā “biometriskās kategorizācijas sistēma” ir definēta kā “MI sistēma, kuras mērķis ir noteikt fizisku personu piederību konkrētām kategorijām, pamatojoties uz viņu biometriskajiem datiem, ja vien tas nepapildina citus komercpakalpojumus un nav absolūti nepieciešams objektīvu tehnisku iemeslu dēļ”. MI akta 50. panta 3. punkta kontekstā vienlīdz svarīgs ir detalizētais šā jēdziena skaidrojums, kas sniegts Komisijas pamatnostādnēs par augsta riska MI sistēmu klasifikāciju, tostarp par to īpašajiem elementiem, kā arī šajās pamatnostādnēs izklāstītie praktiskie piemēri.

(104)

Svarīgi ir tas, ka, ciktāl šīs sistēmas nav aizliegtas saskaņā ar MI akta 5. panta 1. punkta g) apakšpunktu, MI akta 50. panta 3. punkts attiecas uz visām biometriskās kategorizācijas sistēmām (piemēram, vecuma vai dzimuma klasifikāciju, pamatojoties uz biometriskajiem datiem) neatkarīgi no tā, vai uz tām attiecas MI aktā paredzētie augsta riska MI sistēmām piemērojamie noteikumi.

5.1.3.   MI akta 50. panta 3. punktā noteiktais informēšanas pienākums

(105)

Sniedzamās informācijas apmērs. MI sistēmu uzturētājiem ir jāinformē attiecīgās fiziskās personas, ka uz tām attiecas emociju atpazīšanas sistēmas vai biometriskās kategorizācijas sistēmas darbība. MI aktā nav prasīts paziņot par sistēmas darbības iemesliem, nedz precizēt, vai sistēma apstrādā informāciju arī citos nolūkos, kas nav emociju atpazīšana vai biometriskā kategorizācija un kas ir jāizpauž saskaņā ar Savienības datu aizsardzības tiesību aktiem (sk. 5.3. iedaļu).

(106)

Informācijas adresāti. MI akta 50. panta 3. punktā ir noteikts, ka uzturētājiem par MI sistēmas darbību ir jāinformē visas fiziskās personas, uz kurām tā attiecas, arī bērni.

(107)

Informācijas sniegšanas līdzekļi. MI aktā nav paredzēti konkrēti informācijas sniegšanas līdzekļi, izņemot to, ka saskaņā ar MI akta 50. panta 5. punktu informācija jāsniedz skaidrā un atšķiramā veidā un atbilstīgi piemērojamajām piekļūstamības prasībām (ņemot vērā fizisku personu ar invaliditāti vajadzības). Veids, kādā sistēmas darbībai pakļautās fiziskās personas tiek informētas, var būt atkarīgs no vietas, kurā sistēma tiek uzturēta (piemēram, virtuāla spēļu platforma, fizisks mazumtirdzniecības veikals, dzelzceļa stacija), iespējamiem adresātiem (piemēram, bērni, vecāka gadagājuma cilvēki, personas ar invaliditāti, klienti), saskares ar attiecīgo sistēmu ilguma un veida (piemēram, ilgstoša, vienreizēja, pastāvīga, periodiska) un sistēmas uzturētāja un tās darbībai pakļauto personu iespējamām attiecībām (piemēram, ja pastāv saziņas kanāls ar attiecīgo personu). Atkarībā no sistēmas lietošanas veida informāciju var sniegt rakstiski, izmantojot standartizētas ikonas (arī tad, ja tās tiek parādītas elektroniski), mutiski vai ar minēto informēšanas veidu kombinācijām.

Fizisku personu informēšanas piemēri:

—

pirms datorspēles uzsākšanas centrāli novietots uznirstošais logs ar ievada ziņojumu, kurā ir norādīts, ka tiek ierakstīta spēlētāja seja un konstatētas tā emocijas;

—

redzams paziņojums pie katras iespējamās ieejas izstāžu telpā ar informāciju, ka tad, kad apmeklētāji ieiet telpā, tiek uzņemts to sejas attēls, lai noteiktu to piederību konkrētai vecuma grupai.

(108)

Informācijas sniegšanas laiks. Saskaņā ar MI akta 50. panta 5. punktu informācija jāsniedz, vēlākais, pirmās mijiedarbības ar MI sistēmu vai eksponētības tai laikā. Attiecīgā gadījumā netiek izslēgta prasītās informācijas iepriekšēja sniegšana.

5.2.   Izņēmums, ko piemēro tiesībaizsardzības nolūkos

(109)

Informēšanas pienākums neattiecas uz emociju atpazīšanas sistēmām un biometriskās kategorizācijas sistēmām, kas ir likumiski atļautas noziedzīgu nodarījumu atklāšanai, novēršanai vai izmeklēšanai, ievērojot atbilstošus trešo personu tiesību un brīvību aizsardzības pasākumus un saskaņā ar Savienības tiesību aktiem. Šajā kontekstā ir jāņem vērā arī 46.–48. punktā sniegtie šā izņēmuma skaidrojumi, taču ir viena atšķirība. Citu MI akta 50. pantā paredzēto izņēmumu gadījumā ir jābūt konkrētam tiesību aktam, ar kuru tiek atļauta MI sistēmu nepārredzama izmantošana, taču MI akta 50. panta 3. punkts dara šādu izmantošanu iespējamu, ja tā ir atļauta tiesību normās, kas reglamentē tiesībaizsardzības iestāžu pilnvaras izmantot emociju atpazīšanas un biometriskās kategorizācijas sistēmas noziedzīgu nodarījumu atklāšanai, novēršanai vai izmeklēšanai bez attiecīgo personu informēšanas, ievērojot atbilstošus aizsardzības pasākumus.

5.3.   Mijiedarbība ar citiem Savienības tiesību aktiem

(110)

MI akta 50. panta 3. punktā noteiktais informēšanas pienākums pats par sevi nedara emociju atpazīšanas un biometriskās kategorizācijas sistēmas izmantošanu par likumīgu. Tas arī nedara leģitīmu uzmācīgu vai diskriminējošu izmantošanu, kas var būt nelikumīga un aizliegta saskaņā ar MI akta 5. pantu vai citiem Savienības tiesību aktiem. MI sistēmu uzturētājiem ir jāievēro MI akta 50. panta 3. punktā noteiktais informēšanas pienākums papildus visām informācijas prasībām, kas piemērojamas saskaņā ar Savienības datu aizsardzības tiesību aktiem. Dažos gadījumos MI sistēmu uzturētāji var apsvērt iespēju informācijai, ko datu subjektiem sniedz saskaņā ar Savienības datu aizsardzības tiesību aktiem, pievienot paziņojumus, kas tiek sniegti saskaņā ar MI akta 50. panta 3. punktu.

6.   MI AKTA 50. PANTA 4. PUNKTS. NORĀDES UZ DZIĻVILTOJUMIEM UN KONKRĒTU TEKSTU PUBLIKĀCIJĀM

(111)

MI akta 50. panta 4. punktā ir noteikti divi atsevišķi ģeneratīvo MI sistēmu uzturētāju pienākumi, prasot skaidri un atšķirami izpaust, ka saturs ir i) dziļviltojums un ii) MI ģenerēts vai manipulēts teksts, kas publicēts, lai informētu sabiedrību par sabiedrības interešu jautājumiem, izņemot noteiktos gadījumos. Šos norāžu sniegšanas pienākumus piemēro papildus, neskarot MI akta 50. panta 2. punktā noteikto pienākumu nodrošināt mašīnlasāmu formātu un atklāšanu, kas jāievēro tādu MI sistēmu nodrošinātājiem, kuras ģenerē vai manipulē sintētisku attēla, video, audio vai teksta saturu.

6.1.   Galvenie elementi, jēdzieni un attiecīgais(-ie) pārredzamības pienākums(-i) saskaņā ar MI akta 50. panta 4. punktu

(112)

MI akta 50. panta 4. punkta pirmo daļu piemēro tad, ja ir izpildīti vairāki nosacījumi:

i)

sistēmai jābūt MI sistēmai;

ii)

MI sistēmas uzturētājiem tā jāizmanto profesionāliem mērķiem (sk. 2.3. un 2.4.1. iedaļu);

iii)

izmantošanas mērķim jābūt par dziļviltojumu uzskatāma attēla, audio vai video satura ģenerēšanai vai manipulēšanai;

iv)

šo pienākumu nepiemēro, ja lietošana ir likumiski atļauta noziedzīga nodarījuma atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai.

6.1.1.   Jēdziens “dziļviltojums”

(113)

MI akta 3. panta 60) punktā “dziļviltojums” ir definēts kā “MI ģenerēts vai manipulēts attēls, audio vai video saturs, kurš atgādina reālas personas, priekšmetus, vietas, vienības vai notikumus un maldinātu personu, ka attiecīgais saturs ir autentisks vai patiess”. Atšķirība starp manipulēšanu un ģenerēšanu ir izskaidrota šo pamatnostādņu 4.1. iedaļā. Lai precizētu, kas ir dziļviltojums, turpmāk ir aplūkoti četri attiecīgajā definīcijā noteiktie kumulatīvie kritēriji: i) atgādina ii) reālas iii) personas, priekšmetus, vietas, vienības vai notikumus iv) un maldinātu personu, ka attiecīgais saturs ir autentisks vai patiess.

i)

Atgādina. MI akta 3. panta 60) punktā ir precizēts, ka, lai MI ģenerēts vai manipulēts attēls, audio vai video saturs būtu uzskatāms par dziļviltojumu, tam ir “jāatgādina” reāli subjekti. MI akta 134. apsvērumā ir piebilde, ka šai līdzībai jābūt “ievērojamai”. MI ģenerēts vai manipulēts attēls, audio vai video saturs ievērojami atgādina subjektu, ja starp dziļviltojuma saturu un subjektu (arī jebkuru no tā atpazīstamiem elementiem), ko simulē dziļviltojums, ir augsta līdzības pakāpe. Saturam nav jābūt identiskam ar subjektu. MI sistēmas uzturētājam katrā situācijā ir individuāli jāizvērtē, vai līdzība ir ievērojama, pamatojoties uz objektīvu salīdzinājumu starp simulēto subjektu un dziļviltojuma saturu, cita starpā pamatojoties uz to, cik lielā mērā dziļviltojums atspoguļo raksturīgās vai atšķirīgās iezīmes.

ii)

Reāls. MI akta 3. panta 60) punktā ir noteikts, ka, lai MI ģenerēts vai manipulēts attēls, audio vai video saturs būtu uzskatāms par dziļviltojumu, tam ir jāatgādina “reāls(-i)” subjekts(-i). MI akta 50. panta 4. punkta mērķis ir samazināt uzdošanās par citu personu, maldināšanas, maldinošas informācijas, manipulācijas un krāpšanas riskus, un tā efektīvas īstenošanas vajadzībām “reāla esība” nozīmē, ka MI ģenerētajam vai manipulētajam attēlam, audio vai video saturam būtu jāatgādina reālistiski subjekti (piemēram, personas, priekšmeti, vietas). Tāpēc, lai saturs būtu uzskatāms par dziļviltojumu, ir pietiekami, ja simulētās personas, priekšmeti, vietas, vienības vai notikumi atgādina kādu vai kaut ko, kas eksistē, varētu eksistēt vai varētu būt eksistējis realitātē, jo šāds saturs var būt būtisks maldināšanas, manipulācijas un dezinformācijas avots. Turpretī tādas simulētas personas, priekšmeti, vietas, vienības vai notikumi, kas, piemēram, ir pretrunā dabas vai fizikas likumiem vai attēlo dzīvības formas, kuras no bioloģijas skatupunkta nav vispārpieņemtas (piemēram, cilvēki, kas lido bez mehāniskiem palīglīdzekļiem, pūķi vai ziloņi, kas vada automobiļus), un nav potenciāli maldinoši, tiek uzskatīti par nereālistiskiem, tāpēc pārredzamības nodrošināšanas pienākums uz tiem neattiecas.

iii)

Personas, priekšmeti, vietas, vienības vai notikumi. MI akta 3. panta 60) punktā ir precizēts, ka, lai MI ģenerēts vai manipulēts attēls, audio vai video saturs būtu uzskatāms par dziļviltojumu, tam jāatgādina reālas personas, priekšmeti, vietas, vienības vai notikumi. Ar jēdzienu “personas” jāsaprot reālistiskas, cilvēciskas būtnes (tostarp reālu personu digitālas kopijas, reālistiski MI ģenerēti cilvēciski avatāri vai personas un personiskās īpašības vai izpausmes, piemēram, attēls, balss, uzvedība, priekšnesumi u. c.). Ar jēdzienu “priekšmeti” jāsaprot reālistiski, nedzīvi materiāli priekšmeti, tostarp ēkas, mākslas darbi, iekārtas, patēriņa preces u. c. Ar jēdzienu “vietas” jāsaprot reālistiskas atrašanās vietas. Ar jēdzienu “vienības” jāsaprot reālistiskas būtnes, kas nav cilvēki, bet ir dzīvas būtnes, tostarp dzīvnieki vai citas bioloģiskas dzīvības formas. Ar jēdzienu “notikumi” jāsaprot reālistiskas ainas vai situācijas, kurās var būt iesaistītas personas, priekšmeti, vietas un vienības (piemēram, pieminot vēsturiskus notikumus vai attēlojot profesionālus vai sadzīves pakalpojumus).

iv)

Maldīgs priekšstats, ka persona ir autentiska vai patiesa. Ceturtkārt, MI akta 3. panta 60) punktā ir precizēts, ka MI ģenerēts vai manipulēts attēls, audio vai video saturs, kas atgādina reālas personas, priekšmetus, vietas, vienības vai notikumus, “maldinātu personu, ka attiecīgais saturs ir autentisks vai patiess”. Šis kritērijs attiecas uz dziļviltota satura pamatiezīmi un spēju potenciāli apmānīt vai maldināt personu par satura autentiskumu vai patiesumu (32). Satura autentiskums – vai konkrētais saturs patiešām ir tas, par ko to uzdod šā satura avots vai radīšanas process (tostarp, piemēram, attiecībā uz saturā iesaistītajiem reāliem cilvēkiem vai dzīvniekiem un viņu faktisko uzvedību vai darbībām, priekšmetu faktisko izskatu vai izmantošanu vai pakalpojumu sniegšanu, notikuma precīzo norises gaitu)? Savukārt patiesums ir satura patiesīgums (piemēram, dziļviltojumā iekļautā atveidojuma faktoloģiskā precizitāte).

(114)

Tas, vai saturs “personai maldinoši šķistu autentisks vai patiess”, būtu jānovērtē kopumā, ņemot vērā līdzības līmeni, satura potenciālo pamata vēstījumu, paredzēto un paredzamo izvietošanas kontekstu, vidi, kurā saturs tiek pasniegts, un paredzēto un pamatoti paredzamo auditorijas dalībnieku sastāvu un viņu gaidas. Tomēr šis novērtējums ir objektīvs, un, lai saturs būtu uzskatāms par dziļviltojumu, uzturētāja nodomam nav jābūt apmānīt vai maldināt fiziskās personas, kas ar šo saturu saskaras. Par izvietošanas kontekstu un auditorijas gaidām jānorāda, ka, ja saturs tiek izmantots konkrētā izvietošanas kontekstā, kurā paredzētā un pamatoti paredzamā auditorija negaida, ka saturs būs autentisks vai patiess, MI ģenerētais vai manipulētais saturs var nebūt maldinoši autentisks vai patiess arī tad, ja tas patiešām nav autentisks vai patiess. Šādos gadījumos dziļviltojuma definīcijas ceturtais kritērijs nebūs izpildīts. Piemēram, fona ainu, specefektu ģenerēšana vai manipulēšana ar MI vai tehniskā priekšapstrāde un pēcapstrāde, ko veic filmu producēšanas standarta procesā, visticamāk, nepadarīs saturu auditorijai par maldinoši autentisku vai patiesu. Savukārt MI izmantošana tādu būtisku elementu ģenerēšanai vai manipulēšanai, kuri ietekmē auditorijas uztveri, visticamāk, tādu priekšstatu radīs (piemēram, pilnībā MI ģenerēti aktieri, reālu vai mirušu aktieru digitālās kopijas, vecuma samazināšana, simulēti priekšnesumi, ieskaitot to daļas, vai personu, priekšmetu, vietu vai notikumu neautentiska vai nepatiesa attēlošana dokumentālās filmās). Attiecībā uz attēlu un video saturu ir atzīts, ka augsta fotoreālisma pakāpe palielina iespējamību, ka šo saturu varētu uzskatīt par dziļviltojumu (jo tas, visticamāk, atgādina esošus subjektus), taču fotoreālisms vien nav noteicošais faktors novērtējumā. Būtu jānovērtē arī tas, vai šāds saturs var apmānīt vai maldināt personu par satura autentiskumu vai patiesumu, cita starpā ņemot vērā paredzēto un paredzamo izvietošanas kontekstu.

(115)

Pretstatā MI akta 50. panta 1. punktam novērtējums par to, vai personas maldinošais izskats ir autentisks vai patiess, nebūtu jābalsta uz hipotētisku “vidusmēra” personu, kura varētu saskarties ar attiecīgo saturu (sk. 3.2.1. iedaļu), bet būtu pienācīgi jāņem vērā pamatoti paredzamās auditorijas, kas varētu nonākt saskarē ar dziļviltoto saturu, dalībnieku iespējamā daudzveidība. Auditorijas iespējamo daudzveidību ir īpaši svarīgi pienācīgi ņemt vērā tad, ja ir pamatoti paredzams, ka dziļviltoto saturu kādā brīdī var uztvert bērni, vecāka gadagājuma cilvēki vai citas personu grupas ar zemāku digitālās un MI pratības vai vispārējo zināšanu līmeni, jo tās ir iespējams vieglāk apmānīt vai maldināt par satura autentiskumu vai patiesumu. Šādos gadījumos, lai saturs būtu uzskatāms par dziļviltojumu, varētu būt pietiekami ar to, ka saturs maldinoši šķiet autentisks vai patiess šai paredzamās auditorijas daļai. Tomēr uzturētājiem netiek prasīts apsvērt dziļviltotā satura turpmāku izplatīšanu, ko varētu veikt trešās personas, ārpus MI sistēmas uzturētāja pamatoti paredzamās auditorijas, ņemot vērā paredzētos izplatīšanas kanālus (piemēram, ja dziļviltots saturs tiek rādīts vienīgi abonentiem paredzētā tīmekļa vietnes daļā vai iekļauts korporatīvā informatīvajā biļetenā, tas nenozīmē, ka uzturētājam pēc noklusējuma būtu jāapsver plaša publiska piekļūstamība).

(116)

Līdzīgi, arī ar MI veiktas nenozīmīgu materiālo vai tehnisko aspektu manipulācijas jau esošā saturā var būt maznozīmīga personas vērtējumā par šā satura autentiskumu vai patiesumu, tādējādi iegūtais saturs nav uzskatāms par dziļviltojumu. Šāda manipulācija varētu būt, piemēram, fona detaļu rediģēšana (piemēram, garāmgājēja noņemšana), apgaismojuma pielāgošana, audioparametru pielāgošana, krāsu korekcija, trokšņa samazināšana vai noņemšana, pieejamības uzlabošana vai datnes saspiešana, vizuāla pielāgošana un uzlabošana. Tas, vai attiecīgā manipulācija ietilpst šajā kategorijā, ir atkarīgs no konteksta un ietekmes uz to, kā persona konkrētajā gadījumā uztver satura autentiskumu vai patiesumu. Piemēram, ar MI veikta krāsu korekcija, esošā satura fona paplašināšana, fona pielāgošana vai aizstāšana skaidri redzamos estētiskos nolūkos, kompozīciju un izkārtojumu veidošana no esošiem produktiem vai produktu reklāmās vai uz iepakojuma izmantoto attēlu mēroga maiņa, visticamāk, tikai nedaudz ietekmēs to, kā persona uztvers reklāmas un produkta autentiskumu un patiesumu. Savukārt būtiska, ar MI veikta žurnālistikas attēlu fona detaļu rediģēšana, kas pārsniedz standarta tehnisko un redakcionālo praksi, var negatīvi ietekmēt personas priekšstatu par satura autentiskumu un patiesumu.

Piemēri, kas saskaņā ar MI akta 3. panta 60) punktu ir dziļviltojums:

—

MI manipulēts ainas attēls, kurā divi reāli profesionāli futbolisti atrodas pie ēkas, kas atgādina futbola stadionu;

—

MI ģenerēts audio saturs, kurā ir klonētas laikraksta raidieraksta pastāvīgo vadītāju un uzaicinātā sarunas partnera balsis un tiek apspriesti jaunākie notikumi;

—

MI ģenerēts video, kurā cilvēks, kas atgādina kādu politiķi, uzstājas ar runu auditorijas priekšā;

—

MI ģenerēts video, kurā redzama ar MI ģenerēta slavenība–ietekmētājs reklāmas vai popularizēšanas kontekstā;

—

MI ģenerēts video, kurā attēlots reālistisks uzņēmuma izpilddirektora sintētisks avatārs, kurš apsveic darbiniekus ar padarīto un iepriekšējā gada korporatīvajiem rezultātiem.

—

MI ģenerēts produkta attēls reklāmā vai uz iepakojuma, kas var ietekmēt auditorijas uztveri un maldināt to par produkta faktisko izskatu, īpašībām vai lietojumu (piemēram, pārveidojot produkta izskatu, līdz tas vairs nav identisks reālajam produktam un izskatās pievilcīgāks vai kvalitatīvāks nekā reālajā dzīvē).

Piemēri, kas saskaņā ar MI akta 3. panta 60) punktu nav dziļviltojums:

—

MI ģenerēts tādas ainas attēls, kurā redzama pāri Eifeļa tornim lidojoša sfinksa;

—

MI ģenerēts video par pelēm, kas siera ražotāja reklāmas kampaņā cilvēku valodā diskutē par to, kurš siera veids ir vislabākais;

—

izdomātu personāžu balss replicēšana ar MI (piemēram, audiogrāmatās, spēlēs vai animācijās), ja nenotiek maldināšana par stāstnieku identitāti;

—

MI manipulēta radio pārraide, kurā, nemainot runātāju faktiski pateiktos vārdus vai runasveidu, ir pielāgoti tehniskie audioparametri (piemēram, normalizēti skaļuma līmeņi, samazināti trokšņi, veikta audio saspiešana);

—

MI ģenerēta karikatūra no iepriekš esoša attēla, kurā attēlots vēsturisks notikums;

—

video, kurā zinātniska TV raidījuma vadītājs staigā pa kalnainu apvidu un stāsta par ledāju atkāpšanos – to ilustrē MI manipulēta fona animācija, kurā attēlota ledāju atkāpšanās no vēsturiskā līmeņa līdz pašreizējam līmenim;

—

MI ģenerēta izdomāta vide (piemēram, izdomāti meži un pilis) videospēlēs;

—

filmas, kurās reāli esošie aktieri (kuri nav pārveidoti ar MI manipulācijām) tēlo savas lomas un fons ir ģenerēts ar MI (piemēram, dabā neesoša prērija, senu pilsētu vēsturiskas ēkas utt.);

—

reāls produkts (piemēram, automobilis), kas reklāmā tiek rādīts uz MI ģenerēta fona un MI ģenerētā apkārtējā vidē, ja vien nepastāv iespējamība, ka šī reklāma varētu maldināt auditoriju par produkta faktisko atveidojumu, tā īpašībām un lietojumu.

6.1.2.   MI akta 50. panta 4. punkta pirmajā daļā noteiktais informācijas izpaušanas pienākums

(117)

Saskaņā ar MI akta 50. panta 4. punkta pirmo daļu tādu MI sistēmu uzturētājiem, kuras ģenerē vai manipulē attēlu, audio vai video saturu, kas ir dziļviltojums, ir pienākums izpaust, ka saturs ir mākslīgi ģenerēts vai manipulēts. MI akta 134. apsvērumā ir precizēts, ka uzturētājiem, kuri MI sistēmas lieto dziļviltojuma satura ģenerēšanai vai manipulēšanai, būtu skaidri un atšķiramā veidā jāizpauž, ka šis saturs ir mākslīgi radīts vai manipulēts, attiecīgi marķējot MI radīto iznākumu un izpaužot tā mākslīgo izcelsmi. Norādei par mākslīgo izcelsmi vai informācijas izpaušanas metodēm, ko piemēro saskaņā ar MI akta 50. panta 4. punkta pirmo daļu, vajadzētu būt fiziskām personām saprotamām un uztveramām (piemēram, nodrošinot redzamas vai dzirdamas norādes), neliekot šīm personām izmantot īpašus tehniskus rīkus vai veikt īpašas darbības. Tāpēc uzturētāji nevar paļauties uz mašīnlasāmo marķējumu, kuru saskaņā ar MI akta 50. panta 2. punktu saturā iestrādājis MI sistēmas nodrošinātājs, jo šie marķējumi nav uzreiz skaidri un atšķirami fiziskajām personām, kuras saskaras ar dziļviltoto saturu.

(118)

Ņemot vērā MI akta 50. panta 7. punktu, MI sistēmas uzturētāji var ievērot prakses kodeksu, kas saskaņā ar minēto punktu tiek uzskatīts par atbilstīgu, lai pierādītu šā informācijas izpaušanas pienākuma izpildi. Sīkāku informāciju par šāda kodeksa ievērošanas sekām un citu tādu MI sistēmu uzturētāju uzraudzību, kuri neievēro šo kodeksu, sk. šo pamatnostādņu 8.1. iedaļā.

6.1.3.   Mākslinieciska, radoša, satīriska, fikcionāla vai analoga dziļviltota satura pārredzamība

(119)

MI akta 50. panta 4. punkta pirmajā daļā ir paredzēts atvieglots pārredzamības pienākums attiecībā uz dziļviltojumiem, kas ir daļa no acīmredzami mākslinieciskiem, radošiem, satīriskiem, fikcionāliem vai analogiem darbiem vai programmām. Šāda satura gadījumā pārredzamības pienākums aprobežojas ar dziļviltojuma satura esamības izpaušanu piemērotā veidā, kas netraucē izrādīt vai baudīt darbu.

(120)

Attiecīgās satura kategorijas. Lai varētu piemērot atviegloto pārredzamības nodrošināšanas pienākumu, dziļviltojumam (attēlam, audio vai video) jāietilpst vismaz vienā no šādām satura kategorijām: mākslinieciski, radoši, satīriski, fikcionāli vai analogi darbi vai programmas. Tas, vai dziļviltojums ietilpst vienā vai vairākās no šīm kategorijām, katrā gadījumā atsevišķi jāizvērtē MI sistēmas uzturētājam. MI akta 50. panta 4. punkta īstenošanas nolūkā šīs kategorijas jāsaprot, kā aprakstīts turpmāk.

—

Ar mākslas darbiem ir jāsaprot mākslas mērķiem radīti darbi, ieskaitot mūziku, kinematogrāfiskos darbus un vizuālo mākslu.

—

Ar radošiem darbiem jāsaprot darbi, kas saistīti ar radošu izvēli. Darbus, kuru tapšanu galvenokārt ir rosinājuši funkcionāli vai tehniski apsvērumi, nevar uzskatīt par radošiem.

—

Ar satīriskiem darbiem jāsaprot darbi, kuru nolūks ir kritizēt sabiedrību, politiku, uzņēmumus vai publiskas personas, izmantojot humoristiskus paņēmienus (tostarp ironiju, sarkasmu, izsmieklu, stilizāciju u. c.).

—

Ar fikcionāliem darbiem jāsaprot kultūras darbi, kuros iesaistītas personas, priekšmeti, vietas, vienības vai notikumi iedomātā, bet ticamā vidē.

—

Ar analogiem darbiem jāsaprot darbi, kuriem ar iepriekš minētajām kategorijām ir kopīgas pamata iezīmes vai līdzīgas izteiksmīguma vai funkcionālās iezīmes, bet kuri nav nepārprotami attiecināmi uz kādu konkrētu kategoriju.

(121)

Iepriekš minētās satura kategorijas var attiekties arī uz programmu(-ām), kas būtu jāsaprot kā atsevišķs elements mediju pakalpojumu sniedzēja izveidotā programmā vai katalogā un kas pēc formas un satura ir līdzvērtīgas televīzijas pārraidei (33). Atsauce uz “darbiem” MI akta 50. panta 4. punkta kontekstā nav saistīta ar to, vai saturs ir aizsargājams saskaņā ar Savienības tiesību aktiem autortiesību un blakustiesību jomā.

(122)

Acīmredzamība. Tam, ka dziļviltojums ietilpst vienā (vai vairākās) no iepriekš minētajām satura kategorijām, vajadzētu būt acīmredzamam fiziskajām personām, kuras ar to saskaras. Tas nozīmē, ka kategorijas būtu jāinterpretē stingri, pamatojoties uz to, ka tiek piemērots atvieglots informācijas izpaušanas režīms, ņemot vērā iespējamo ietekmi uz vārda brīvību un humanitāro un eksakto zinātņu brīvību, vienlaikus būtu pienācīgi jānovērš dezinformācijas, manipulācijas un maldināšanas riski. Tāpēc šā atvieglotā pārredzamības režīma darbības joma neattiecas uz saturu, kura būtība auditorijai ir potenciāli neskaidra vai pārprotama. Attiecīgie faktori, kas jāņem vērā, novērtējot, vai saturs ir māksliniecisks, radošs, satīrisks vai fikcionāls, ir, piemēram, šādi: i) vai saturam piemīt attiecīgajām satura kategorijām raksturīgs formāts vai stils (piemēram, ironija vai pārspīlējums satīriskos darbos, konkrēts mākslinieciskais stils, specifisku tēmu, paņēmienu vai estētikas attēlojums utt.); ii) satura konteksts (piemēram, vai platforma, medijs vai vieta, kurā saturs tiek pasniegts, darīts pieejams vai izplatīts, ir saistīta ar māksliniecisku, radošu, satīrisku vai fiktīvu izmantošanas veidu) un iii) auditorijas gaidas (piemēram, kinofilma, spēļu vide vai virtuālās realitātes aina). Turklāt nosacījums, ka saturam būtu “acīmredzami” jāietilpst kādā no iepriekš minētajām satura kategorijām, izslēdz saturu no attiecīgo satura kategoriju jomas, ja tas pēc būtības ir tikai informatīvs vai komerciāls un ir atpazīstams kā tāds (piemēram, ziņu reportāžas). Saistībā ar to dažu veidu saturu (piemēram, reklāmas vai dokumentālās filmas), kas satur dziļviltojumus, konkrētās specifiskās situācijās var uzskatīt par acīmredzami radošiem vai fikcionāliem darbiem, bet citās situācijās tā darīt nevar, jo katrs konkrētais gadījums ir jāizvērtē atsevišķi. Ja dziļviltojumam piemīt vairākas iezīmes (piemēram, tas ir informatīvs un radošs), par svarīgāko vienmēr būtu uzskatāms informatīvais aspekts, tāpēc būtu jāievēro standarta marķēšanas prasības.

(123)

Izpaušana piemērotā veidā, kas netraucē darba izrādīšanu vai baudīšanu. Dziļviltojumi, kas ir daļa no acīmredzami mākslinieciskiem, radošiem, satīriskiem vai fikcionāliem darbiem vai programmām, nav izslēgti no MI akta 50. panta 4. punkta pirmajā daļā noteiktā pārredzamības pienākuma darbības jomas. MI sistēmas uzturētājiem joprojām ir jāizpauž, ka saturs ir ģenerēts vai manipulēts ar MI, taču viņi to var darīt piemērotā veidā, kas netraucē izrādīt vai baudīt darbu. MI akta 134. apsvērumā ir precizēts, ka šāda izpaušana piemērotā veidā nedrīkst traucēt darba parasto izmantošanu un lietošanu, vienlaikus ļaujot saglabāt tā lietderību un kvalitāti. To, kuri informācijas izpaušanas pasākumi ir uzskatāmi par piemērotiem, nosaka katrā gadījumā atsevišķi, un MI sistēmas uzturētāji var ņemt vērā visus attiecīgos faktorus (tostarp darba būtību, auditoriju, kontekstu u. c.). Jebkurā gadījumā uzturētājiem ir jāievēro MI akta 50. panta 5. punkts (sk. 7. iedaļu). Ņemot vērā MI akta 50. panta 7. punktu, uzturētāji var ievērot prakses kodeksu, kas saskaņā ar minēto noteikumu tiek uzskatīts par atbilstīgu, lai pierādītu šā informācijas izpaušanas pienākuma izpildi. Sīkāku informāciju par šāda kodeksa ievērošanas sekām un citu tādu uzturētāju uzraudzību, kuri šo kodeksu neievēro, sk. šo pamatnostādņu 8.1. iedaļā.

(124)

Atbilstoši trešo personu tiesību un brīvību aizsardzības pasākumi. MI akta 134. apsvērumā ir precizēts, ka, pildot atviegloto pārredzamības pienākumu un izmantojot mākslinieciskus, radošus, satīriskus vai fikcionālus dziļviltojumus, ir jāievēro “atbilstoši trešo personu tiesību un brīvību aizsardzības pasākumi”. Tāpēc uzturētājiem ir jānodrošina, ka, radot vai publicējot dziļviltojumus, tiek pienācīgi aizsargātas un ievērotas trešo personu tiesības un brīvības (tostarp, piemēram, viņu tiesības uz personas datu vai intelektuālā īpašuma tiesību aizsardzību) arī tad, ja dziļviltojums ir uzskatāms par māksliniecisku, radošu, satīrisku vai fikcionālu. Atvieglotā pārredzamības pienākuma izpilde nav uzskatāma par attaisnojumu Savienības intelektuālā īpašuma tiesību aktos un Savienības datu aizsardzības tiesību aktos noteikto fizisko personu vai tiesību subjektu pamattiesību neievērošanai (34).

Par radošiem, satīriskiem, fikcionāliem vai analogiem darbiem uzskatāmu dziļviltojumu piemēri:

—

māksliniecisks/fikcionāls darbs – kinoteātros vai straumēšanas platformā pieejamas kinofilmas (vai kinofilmu reklāmkadri), kurās redzami MI ģenerēti vai manipulēti dziļviltojumi ar reāliem aktieriem mākslīgi samazinātā vecumā vai mirušu aktieru vai citu personu digitālām replikām;

—

māksliniecisks/radošs darbs – MI ģenerēta mūzika jebkādā žanrā, kas atgādina esoša mākslinieka individuālo stilu;

—

satīrisks/fikcionāls darbs – MI manipulēts esoša politiķa tēls situācijā, kas nepārprotami izveidota, lai humoristiski kritizētu konkrētus minētās personas pieņemtos vai atbalstītos politiskos lēmumus;

—

analogs radošs/fikcionāls darbs – MI ģenerēti spēļu tēli, kas ir reālu, esošu personu dziļviltotas simulācijas.

Tādu dziļviltojumu piemēri, kas nav māksliniecisks, radošs, satīrisks, fikcionāls vai analogs darbs:

—

MI manipulēts video saturs televeikala kanāla stilā, kurā dziļviltotas cilvēku simulācijas reklamē produktu MI ģenerētā vidē, kur attēlota produkta funkcionālā izmantošana, ko veic simulēti patērētāji, lai pārliecinātu skatītājus iegādāties produktu;

—

MI ģenerēts slavenību attēls, kas rada priekšstatu par to dalību darbībās, kuras nekad nav notikušas, bez jebkāda fikcionāla, satīriska vai analoga nolūka;

—

MI manipulēts video saturs, kurā redzams reālistiski attēlots sintētisks ietekmētājs, kas izmēģina reālu sponsora produktu, un kurā uzmanība pievērsta tikai produkta funkciju parādīšanai;

—

MI ģenerēts video saturs, kurā attēlotas reālistiskas holokausta ainas, kas tiek kopīgotas publiski pieejamās sociālo mediju platformās.

6.1.4.   Izņēmums, ko piemēro tiesībaizsardzības nolūkos

(125)

Ja dziļviltojuma (piemēram, MI ģenerēta video, kurā simulētie notikumi nekad nav notikuši) izmantošana ir likumiski atļauta noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai, MI sistēmas uzturētāji ir atbrīvoti no MI akta 50. panta 4. punkta pirmajā daļā noteiktā pārredzamības pienākuma ievērošanas. Uz šo noteikumu attiecas arī šo pamatnostādņu 46.–48. punktā sniegtie skaidrojumi par līdzīgu izņēmumu, kas paredzēts MI akta 50. panta 1. punktā.

6.1.5.   Mijiedarbība ar citiem Savienības tiesību aktiem

(126)

MI akta 50. panta 4. punkta pirmajā daļā noteiktais pārredzamības pienākums mijiedarbojas ar ļoti lielu tiešsaistes platformu un ļoti lielu tiešsaistes meklētājprogrammu nodrošinātāju pienākumu identificēt un mazināt sistēmiskos riskus saskaņā ar DPA 34. un 35. pantu, jo īpaši DPA 35. panta 1. punkta k) apakšpunktu (35). Pēdējā no minētajām tiesību normām ir uzskaitīti iespējamie riska mazināšanas pasākumi, kurus var veikt ļoti lielu tiešsaistes platformu un ļoti lielu tiešsaistes meklētājprogrammu nodrošinātāji, un viens no tiem ir nodrošināt, ka “informācijas elements neatkarīgi no tā, vai tas ir ģenerēts vai manipulēts attēls, audio vai video saturs, kas ticami atgādina reālas personas, priekšmetus, vietas vai citus subjektus vai notikumus un lietotājam maldinoši šķiet autentisks vai patiess, tiešsaistes saskarnēs ir atšķirams ar labi redzamu marķējumu”. Turklāt ļoti lielu tiešsaistes platformu un ļoti lielu tiešsaistes meklētājprogrammu nodrošinātāji var arī nodrošināt viegli lietojamu funkciju, kas pakalpojuma saņēmējiem ļauj norādīt šādu informāciju. Lai gan šis DPA noteikums šķiet līdzīgs MI akta 50. panta 4. punktam, tas šo punktu papildina un ietver divas šādas svarīgas atšķirības:

—

atšķirīga materiālā piemērošanas joma – salīdzinājumā ar MI akta 50. panta 4. punktu DPA 35. panta 1. punkta k) apakšpunkts aptver plašāku satura diapazonu, kas maldīgi var šķist autentisks vai patiess neatkarīgi no satura radīšanai izmantotajām tehnoloģijām (t. i., tas attiecas uz saturu, kas ģenerēts vai manipulēts, izmantojot MI sistēmas vai jebkuru citu rīku);

—

atšķirīga piemērošanas joma attiecībā uz personām – MI akta 50. panta 4. punktā dziļviltojumus ģenerējošo vai manipulējošo MI sistēmu uzturētājiem ir noteikts pienākums norādīt uz šāda satura izcelsmi, savukārt DPA 35. panta 1. punkta k) apakšpunkts attiecas uz ļoti lielu tiešsaistes platformu un ļoti lielu tiešsaistes meklētājprogrammu nodrošinātājiem, kas izplata saturu vai dara šādu saturu atrodamu ar meklēšanas palīdzību. Piemēram, saskaņā ar MI aktu ļoti lielā tiešsaistes platformā integrētu MI sistēmu uzturētājus var uzskatīt par “pakalpojuma saņēmējiem” atbilstoši DPA 3. panta b) punktam (36), ja tie izmanto ļoti lielo tiešsaistes platformu tāda satura izplatīšanai, kas ģenerēts ar attiecīgo MI sistēmu, savukārt ļoti lielo tiešsaistes platformu var uzskatīt par MI sistēmas nodrošinātāju, ja ir izpildīti MI akta 3. panta 3) punkta nosacījumi. Ja ļoti lielo tiešsaistes platformu un ļoti lielo tiešsaistes meklētājprogrammu nodrošinātāji šādiem MI sistēmu uzturētājiem dara pieejamus rīkus, ar kuriem tie var attiecīgi norādīt savu dziļviltoto saturu saskaņā ar MI akta 50. panta 4. punktu (t. i., skaidri un atšķirami izpaust MI izcelsmi), minētie uzturētāji var izmantot šādus rīkus savu attiecīgajā noteikumā paredzēto pārredzamības pienākumu izpildē saistībā ar to izmantoto ļoti lielo tiešsaistes platformu vai ļoti lielo tiešsaistes meklētājprogrammu. Šādas funkcijas nodrošināšana neskar MI aktā noteikto uzturētāju atbildību par MI akta 50. panta 4. punktā noteikto informācijas norādīšanas pienākuma izpildi. Turklāt ļoti lielu tiešsaistes platformu un ļoti lielu tiešsaistes meklētājprogrammu nodrošinātāji tiek uzskatīti arī par MI sistēmas uzturētājiem saskaņā ar MI aktu, ja tie savā kontrolē esošu MI sistēmu izmanto saviem profesionālajiem mērķiem (piemēram, lai radītu vizuālos materiālus, kas izmantojami kā daļa no tirgvedības materiāla).

(127)

Ja dziļviltojums ietver informāciju, kas attiecas uz tieši vai netieši identificējamu fizisku personu (kas ir dzīva), uzturētājiem kā datu pārziņiem saskaņā ar Savienības datu aizsardzības tiesību aktiem jāievēro arī attiecīgie Savienības datu aizsardzības tiesību aktos noteiktie pienākumi (37). Tie ietver, piemēram, atsaukšanos uz atbilstošu personas datu apstrādes juridisko pamatu, informāciju par datu apstrādi saistībā ar attēlotajiem datu subjektiem u. c.

(128)

Turklāt dziļviltojumus ģenerējošu MI sistēmu uzturētājiem būs jānodrošina atbilstība attiecīgajiem Savienības intelektuālā īpašuma tiesību aktiem (piemēram, Savienības tiesību aktiem par preču zīmēm un Savienības tiesību aktiem par autortiesībām vai blakustiesībām), ja to dziļviltojumā ir iekļauts ar minētajiem tiesību aktiem aizsargāts subjekts. Marķējuma vai ikonas pievienošana dziļviltojumam pati par sevi nekādi neietekmē tā atbilstību autortiesību aizsardzības noteikumiem, un tā būtu jāizvērtē, ņemot vērā piemērojamos Savienības tiesību aktus par autortiesībām.

(129)

Ja dziļviltojumos ir attēlotas reālas personas, uzturētājiem jāievēro arī attiecīgais tiesiskais regulējums, kas aizsargā personības tiesības uz personiskiem attēliem vai balsi. MI akta 50. panta 4. punkta pirmajā daļā noteiktais pārredzamības pienākums nenozīmē to, ka ir atļauts radīt un izplatīt MI ģenerētus vai manipulētus dziļviltojumus, kas ir kaitīgi un nelikumīgi saskaņā ar piemērojamajiem Savienības vai valstu tiesību aktiem (piemēram, maldinošu reklāmu vai ar krimināltiesībam saistītus materiālus, piemēram, materiālus, kuros atspoguļota seksuāla vardarbība pret bērniem vai intīmi attēli, kuriem nav dota piekrišana) (sk. arī 4.4. iedaļu).

6.2.   MI ģenerēta vai manipulēta teksta galvenie elementi, jēdzieni un ar to saistītais(-ie) pārredzamības pienākums(-i) saskaņā ar MI akta 50. panta 4. punktu

(130)

MI akta 50. panta 4. punkta otro daļu piemēro, ja ir izpildīti vairāki nosacījumi:

i)

sistēmai jābūt MI sistēmai;

ii)

to izmanto, lai ģenerētu vai manipulētu tekstu (sk. 4.2.1. iedaļu), ko publicē nolūkā informēt sabiedrību par sabiedrības interešu jautājumiem;

iii)

uz MI sistēmas izmantošanu neattiecas neviens no šiem izņēmumiem: 1) MI ģenerēto saturu ir pārskatījis cilvēks vai tam ir veikta redakcionāla kontrole, un fiziska vai juridiska persona ir redakcionāli atbildīga par satura publikāciju, vai 2) lietošana ir likumiski atļauta noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai.

6.2.1.   Teksts, kas publicēts nolūkā informēt sabiedrību par sabiedrības interešu jautājumiem

(131)

Lai precizētu MI akta 50. panta 4. punkta otrās daļas darbības jomu, turpmāk ir aplūkoti trīs elementi: i) teksts, kas publicēts ii) nolūkā informēt sabiedrību iii) par sabiedrības interešu jautājumiem.

i)

Teksts, kas publicēts. MI ģenerētajam vai manipulētajam tekstam jābūt publicētam. Tas nozīmē, ka tekstam vienlaicīgi un/vai secīgi, par maksu vai bez tās (piemēram, abonējot) vajadzētu būt pieejamam nenoteiktam, diezgan lielam nesaistītu, potenciālu lasītāju skaitam (38). Taču teksts netiek uzskatīts par publicētu, ja tam var piekļūt tikai konkrētas personas, kas pieder pie slēgtas, privātas grupas (piemēram, neliela, slēgta grupa tūlītējās ziņapmaiņas lietotnē vai pārāk maza vai nenozīmīga grupa). Teksts, kas netiek uzskatīts par publicētu, ir, piemēram, privāta, starppersonu sarakste (profesionālām vajadzībām) vai organizācijas iekšējie teksti vai saziņa (piemēram, publikācijas iekšējos korporatīvajos tīklos).

ii)

Nolūkā informēt sabiedrību. Publicētā MI ģenerētā vai manipulētā teksta nolūkam jābūt sabiedrības informēšanai. Tas nozīmē, ka tekstam vajadzētu būt veidotam ar nolūku sniegt zināšanas, izklāstīt viedokļus vai faktus. Savukārt īsi teksti, ar kuriem būtībā netiek sniegtas zināšanas, izklāstīti viedokļi vai fakti, nav uzskatāmi par sabiedrības informēšanai paredzētiem tekstiem.

iii)

Par sabiedrības interešu jautājumiem. Tekstam būtu jāinformē sabiedrība “par sabiedrības interešu jautājumiem”. Kopumā šādi jautājumi būtu jāsaprot kā tādi, kas attiecas uz sabiedrību kopumā, neatkarīgi no tā, vai tie ir vietēja, valsts, Savienības vai starptautiska līmeņa jautājumi un vai par tiem ir lietderīgi rīkot publiskas debates vai rūpīgu pārbaudi. Saistībā ar to teksti būtu jāuzskata par veltītiem sabiedrības interešu jautājumiem tad, ja tie attiecas uz politikas un demokrātisku procesu jautājumiem, valsts pārvaldi un pakalpojumiem, tiesvedību un tiesībaizsardzību, pamattiesību aizsardzību, sabiedrisko drošību, sabiedrības veselību, vides aizsardzību, patērētāju drošību un jebkāda veida ekonomisku, finanšu, politisku, zinātnes vai kultūras attīstību, kas varētu būt sabiedriski apspriežams temats. Jautājumi, kurus var uzskatīt par sabiedrības interešu jautājumiem, laika gaitā un dažādos kontekstos var mainīties.

Piemēri tekstam, kas publicēts nolūkā informēt sabiedrību par sabiedrības interešu jautājumiem saskaņā ar MI akta 50. panta 4. punktu un kas jāmarķē kā mākslīgi ģenerēts vai manipulēts, izņemot gadījumus, kad tā saturu ir pārskatījis cilvēks vai tam ir veikta redakcionāla kontrole (sk. 6.2.3. iedaļu):

—

MI ģenerēts kopsavilkums par laikraksta tīmekļa vietnē publicētu rakstu, kuru sarakstījis cilvēks un kurā aplūkots nesen pieņemts pilsētas domes lēmums;

—

MI manipulētas raksta daļas dzīvesveidam veltītā tīmekļa vietnē, kurās salīdzināta dažādu uztura veidu ietekme uz konkrētu slimību pusmūža sievietēm;

—

MI manipulēti uzņēmuma pārskati, kas publicēti biržā kotēta uzņēmuma tīmekļa vietnē un kuros ir sniegta investoriem paredzēta informācija;

—

MI ģenerēts vēstījums meteoroloģiskā institūta sociālo mediju profilā, kas brīdina iedzīvotājus par gaidāmām vētrām un ar tām saistītiem piesardzības pasākumiem.

Piemēri tekstam, kas nav publicēts nolūkā informēt sabiedrību par sabiedrības interešu jautājumiem un uz kuru neattiecas MI akta 50. panta 4. punkta darbības joma:

—

MI ģenerēti fantāzijas žanra romāni;

—

MI manipulēts teksts, kas ir daļa no uzņēmuma reklāmas vai produkta aprakstiem (un neietver, piemēram, ar veselību, patērētāju drošību vai ilgtspēju saistītus apgalvojumus);

—

sarunbota ģenerēts ziņu kopsavilkums, kas ir pieejams tikai lietotājam, kurš deva uzvedni sarunbotam;

—

MI manipulēts teksts, ko konsultants sagatavojis, lai ieteiktu klientam pasākumus, kas jāveic, lai nodrošinātu atbilstību piemērojamajiem tiesību aktiem.

6.2.2.   MI akta 50. panta 4. punkta otrajā daļā noteiktais informācijas izpaušanas pienākums

(132)

MI akta 50. panta 4. punkta otrajā daļā tādu MI sistēmu uzturētājiem, kuras ģenerē vai manipulē tekstu, ko publicē nolūkā informēt sabiedrību par sabiedrības interešu jautājumiem, ir noteikts pienākums izpaust, ka teksts ir mākslīgi ģenerēts vai manipulēts. MI akta 134. apsvērumā ir precizēts, ka, līdzīgi kā dziļviltojumu gadījumā, tāda teksta publikāciju uzturētājiem, kas ietilpst noteikuma darbības jomā, būtu skaidri un atšķiramā veidā jāizpauž, ka saturs ir mākslīgi radīts vai manipulēts, attiecīgi marķējot MI radīto iznākumu un izpaužot tā mākslīgo izcelsmi. Tāpat kā dziļviltojumu gadījumā norādei par mākslīgo izcelsmi vai informācijas izpaušanas metodēm (tostarp atrunām), ko piemēro saskaņā ar MI akta 50. panta 4. punkta otro daļu, vajadzētu būt arī fiziskām personām saprotamām un uztveramām (piemēram, nodrošinot redzamus vai dzirdamus pasākumus), neliekot šīm personām izmantot īpašus tehniskus rīkus vai veikt īpašas darbības. Ņemot vērā MI akta 50. panta 7. punktu, uzturētāji var ievērot prakses kodeksu, kas saskaņā ar minēto noteikumu tiek uzskatīts par atbilstīgu, lai pierādītu šā informācijas izpaušanas pienākuma izpildi. Sīkāku informāciju par šāda kodeksa ievērošanas sekām un citu tādu uzturētāju uzraudzību, kas šādu kodeksu neievēro, sk. šo pamatnostādņu 8.1. iedaļā.

6.2.3.   Izņēmums no pārredzamības pienākuma attiecībā uz tekstu, ko ir pārskatījis cilvēks vai kam ir veikta redakcionāla kontrole un kādam par to ir redakcionāla atbildība

(133)

MI akta 50. panta 4. punkta otrajā daļā ir paredzēts izņēmums no minētajā noteikumā paredzētā pārredzamības pienākuma, ja ir izpildīti divi kumulatīvi nosacījumi: i) MI ģenerētu vai manipulētu tekstu ir pārskatījis cilvēks vai tam ir veikta redakcionāla kontrole un ii) juridiska vai fiziska persona ir redakcionāli atbildīga par publikāciju. Attiecīgā gadījumā uzturētāji var ievērot attiecīgus piemērojamos profesionālos vai profesionālās ētikas kodeksa standartus, lai pierādītu atbilstību minētajām prasībām, kā izklāstīts turpmāk.

i.   Cilvēka pārskatīts teksts vai teksts, kam ir veikta redakcionāla kontrole

(134)

Pirmais nosacījums, kas jāizpilda, lai varētu piemērot MI akta 50. panta 4. punkta otrajā daļā noteikto izņēmumu, paredz, ka MI ģenerēto vai manipulēto tekstu ir pārskatījis cilvēks vai ir veikta tā redakcionāla kontrole. Cilvēka veikta pārskatīšana ir satura apzināta pārbaude, ko veic viena vai vairākas fiziskas personas, kurām ir attiecīgas zināšanas un profesionāla spriestspēja par pārbaudāmo tematu (piemēram, akadēmiska profesionālizvērtēšana vai profesionālas validācijas ķēdes). Obligāta prasība, kas būtu jāiekļauj šādā pārskatīšanā, ir satura precizitātes pārbaude. Redakcionālā kontrole ir satura kontrole, ko praksē veic atbildīgā redakcionālā vienība (piemēram, galvenais redaktors), kas ir pilnvarota apstiprināt, mainīt vai noraidīt tekstā sacīto pamatotu iemeslu dēļ (tostarp veicot sniegtās informācijas faktu pārbaudi un nodrošinot avotu uzticamību). Tas neskar spēkā esošās pārskatīšanas un redakcionālās procedūras un profesionālos standartus, kas piemērojami mediju pakalpojumu sniedzējiem.

(135)

Virspusējas, tikai formālas vai procesuālas pārbaudes (piemēram, pareizrakstības vai gramatikas labojumi), redakcionālas politikas esība vien, automatizēti pārskatīšanas procesi vai paviršs redakcionāls apstiprinājums bez redaktora-cilvēka vai redakcionālās vienības veiktas iedziļināšanās nevar nodrošināt atbilstību nosacījumam, ka šo izņēmumu var piemērot cilvēka veiktas pārskatīšanas vai redakcionālas kontroles gadījumā.

(136)

Ja MI sistēmas tiek izmantotas satura pārveidošanai, papildināšanai vai pārformulēšanai pēc redakcionālas apstiprināšanas, iegūtais saturs ir uzskatāms par MI ģenerētu vai manipulētu MI akta 50. panta 4. punkta nozīmē. Tātad izņēmumu nevar piemērot, ja pēc tam, kad tekstu ir pārskatījis cilvēks vai ir veikta tā redakcionāla kontrole, ir notikusi jebkāda būtiska MI iejaukšanās.

(137)

Ņemot vērā MI akta 50. panta 7. punktu, uzturētāji var ievērot prakses kodeksu, kas saskaņā ar minēto noteikumu tiek uzskatīts par atbilstīgu, lai pierādītu, ka ir izpildīts nosacījums par cilvēka veiktu pārskatīšanu vai redakcionālu kontroli (jo īpaši, ja to veic uzturētāji, kas nav mediju pakalpojumu sniedzēji, uz kuriem attiecas spēkā esošie redakcionālie profesionālie vai profesionālā ētikas kodeksa standarti). Sīkāku informāciju par šāda kodeksa ievērošanas sekām un citu tādu uzturētāju uzraudzību, kas šādu kodeksu neievēro, sk. šo pamatnostādņu 8.1. iedaļā.

ii.

Redakcionālā atbildība

(138)

Otrais MI akta 50. panta 4. punkta otrajā daļā noteiktā izņēmuma piemērošanas nosacījums ir juridiskas vai fiziskas personas redakcionāla atbildība par satura publikāciju. Tas nozīmē, ka attiecīgajai personai ir jāuzņemas galīgā juridiskā atbildība par satura publikāciju, tostarp par cilvēka veikto pārskatīšanu vai redakcionālo kontroli (piemēram, ko veikusi fiziska persona, redkolēģija vai izdevniecība). Lai nodrošinātu publisku pārskatatbildību un uzticamību un ņemtu vērā esošos mediju profesionālos standartus, juridiskās personas, fiziskās personas vai redakcionāli atbildīgās vienības identitāte un kontaktinformācija būtu jādara publiski pieejama viegli atrodamā vietā (ja tā vēl nav pieejama citā veidā). To var sniegt tiešsaistē, iekļaujot, piemēram, tīmekļa vietnes noteikumos un nosacījumos vai citā lietotājiem paredzētā juridiskā informācijā. Bezsaistē šādu informāciju var iekļaut publikācijas kolofonā vai izdevuma informatīvajā sadaļā.

Piemēri tekstam, kuru ir pārskatījis cilvēks vai kuram veikta redakcionāla kontrole un par kuru ir redakcionāli atbildīga juridiska vai fiziska persona:

—

MI manipulēts raksts laikrakstā vai MI ģenerēts tāda raksta kopsavilkums, kura redakcionālo kontroli ir veicis attiecīgais galvenais redaktors un par kuru juridiskā persona, kas izdod laikrakstu, ir redakcionāli atbildīga;

—

MI manipulēts akadēmiskais emuārs, kura saturam ir veikta iekšēja profesionālizvērtēšana un par kuru ir redakcionāli atbildīgs attiecīgais pētniecības centrs, kas pārvalda emuāru;

—

MI ģenerēti brīdinājumi par sabiedrības drošību, kurus pirms izplatīšanas iedzīvotājiem apstiprinājusi valsts amatpersona un par kuriem ir atbildīga attiecīgā valsts civilās aizsardzības aģentūra;

—

MI ģenerēti ilgtspējas pārskati, kas ir publicēti biržā kotēta uzņēmuma tīmekļa vietnē un kurus ir pārskatījuši attiecīgo funkcionālo vienību (piemēram, par atbilstību atbildīgie) speciālisti;

—

cilvēka sarakstīta raksta tulkošana ar MI palīdzību, ja tulkojumu ir pārskatījis cilvēks.

Piemēri tekstam, kuru nav pārskatījis cilvēks un kuram nav veikta redakcionāla kontrole, tādējādi uz to nevar attiecināt izņēmumu:

—

tīmekļa vietne, kurā tiek publicēti MI ģenerēti raksti par Savienības politiku bez apzinātas cilvēka veiktas pārskatīšanas vai redakcionālas kontroles;

—

MI ģenerēti raksti, kurus pārskata un rediģē cita MI sistēma un kuriem pirms publicēšanas redaktors-cilvēks ir veicis tikai virspusēju gramatisku pārbaudi;

—

MI ģenerēta, pašpublicēta grāmata par klimata pārmaiņām, kas darīta pieejama e-komercijas platformā un kuru nav pārskatījusi kompetenta fiziska vai juridiska persona (arī platforma ne).

6.2.4.   Izņēmums, ko piemēro tiesībaizsardzības nolūkos

(139)

Ja MI sistēmu izmantošana tāda teksta ģenerēšanai, kas publicēts ar mērķi informēt sabiedrību par sabiedrības interešu jautājumiem un kuru nav pārskatījis cilvēks (piemēram, sociālajos medijos publicēts MI ģenerēts policijas brīdinājums par terorisma draudiem), ir likumiski atļauta noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai, attiecīgo MI sistēmu uzturētāji ir atbrīvoti no MI akta 50. panta 4. punktā noteiktā pārredzamības pienākuma. Uz šo noteikumu attiecas arī šo pamatnostādņu 46.–48. punktā sniegtie skaidrojumi par līdzīgu izņēmumu, kas paredzēts MI akta 50. panta 1. punktā.

6.2.5.   Mijiedarbība ar citiem Savienības tiesību aktiem

(140)

Savienības tiesību aktos, kas regulē mediju darbību, redakcionālā atbildība ir būtisks jēdziens, kas definēts Regulas (ES) 2024/1083 (Eiropas Mediju brīvības akts jeb EMBA) 2. panta 8) punktā (39). Minētajā kontekstā “redakcionālā atbildība” ir “faktiska kontrole gan pār raidījumu vai preses izdevumu atlasi, gan to organizēšanu nolūkā sniegt mediju pakalpojumu neatkarīgi no tā, vai valsts tiesību aktos noteikta atbildība par sniegto pakalpojumu”. Dažās situācijās šī definīcija var pārklāties ar MI akta 50. panta 4. punkta otrajā daļā izmantoto redakcionālās atbildības jēdzienu, jo īpaši tad, ja MI sistēmas uzturētāji ir uzskatāmi arī par mediju pakalpojumu sniedzējiem saskaņā ar EMBA. Tāpēc redakcionālā atbildība MI akta 50. panta 4. punkta nozīmē būtu jāinterpretē saskaņā ar spēkā esošajiem tiesību aktiem par medijiem, neraugoties uz to, ka tas joprojām ir atsevišķs jēdziens, ko var piemērot arī plašākā kontekstā un citiem uzturētājiem, ja vien tie uzņemas redakcionālo atbildību par teksta publikāciju. Lai varētu piemērot MI akta 50. panta 4. punkta otrajā daļā paredzēto izņēmumu, mediju pakalpojumu sniedzēji var īstenot savus esošos redakcionālos procesus un standartus.

7.   HORIZONTĀLĀS PRASĪBAS, KAS PIEMĒROJAMAS SASKAŅĀ AR MI AKTA 50. PANTA 5. PUNKTU SNIEGTAJAI INFORMĀCIJAI

(141)

Saskaņā ar MI akta 50. panta 5. punktu minētā panta 1.–4. punktā prasītā informācija būtu jāsniedz attiecīgajām fiziskajām personām skaidrā un atšķiramā veidā, vēlākais, pirmās mijiedarbības vai eksponētības laikā. Informācijai arī būtu jāatbilst piemērojamajām piekļūstamības prasībām. Šajā kontekstā attiecīgās fiziskās personas ir personas, kas tieši mijiedarbojas ar MI sistēmu (MI akta 50. panta 1. punkts), aktīvie vai pasīvie lietotāji un citas personas, kas saskaras ar MI ģenerētu vai manipulētu sintētisku saturu (esot vai neesot tiešā mijiedarbībā ar MI sistēmu (MI akta 50. panta 2. un 4. punkts)), un personas, kuras ir pakļautas emociju atpazīšanas vai biometriskās kategorizācijas sistēmu darbībai (MI akta 50. panta 3. punkts).

7.1.   Informācijas sniegšana skaidrā un atšķiramā veidā

(142)

Informācija tiks uzskatīta par sniegtu skaidrā veidā, ja tā ir pamanāma, viegli saprotama un attiecīgajai fiziskajai personai (arī personām ar invaliditāti) pieejama. Informācija tiks uzskatīta par sniegtu atšķiramā veidā, ja to ir viegli identificēt kā atsevišķu no citas informācijas un vides, kurā saturs tiek pasniegts. Tai arī jābūt viegli saprotamai auditorijai, tostarp konkrētām grupām, piemēram, bērniem vai personām ar invaliditāti, ja tās ir daļa no auditorijas, kas varētu nonākt saskarē ar saturu vai mijiedarboties ar AI sistēmu (40). Lai sniegtu informāciju skaidrā un atšķiramā veidā, attiecīgo informāciju cita starpā var sniegt kā daļu no attiecīgās mijiedarbības (saskaņā ar MI akta 50. panta 1. punktu) vai attiecīgā satura (saskaņā ar MI akta 50. panta 2. un 4. punktu). Netiks uzskatīts, ka informācija tiek sniegta skaidrā un atšķiramā veidā, ja fiziskas personas to var viegli nepamanīt vai izlaist parastos saskares vai mijiedarbības apstākļos (piemēram, tā ir tikai daļa no rokasgrāmatas vai paslēpta tiešsaistes saskarnes izvēlnes opcijās, vai ir iekļauta lietošanas noteikumos, kurus lietotāji bieži vien neizlasa).

7.2.   Pirmā mijiedarbība vai eksponētība

(143)

MI akta 50. panta 5. punktā ir noteikts, ka informācija attiecīgajām fiziskajām personām ir jāsniedz ne vēlāk kā pirmās mijiedarbības vai eksponētības laikā. Pirmā mijiedarbība vai eksponētība attiecas ne tikai uz pirmo fizisko personu, kas mijiedarbojas ar MI sistēmu (tās iznākumu) vai nonāk saskarē ar to, bet arī uz jebkādu turpmāku jebkuras citas fiziskas personas pirmo mijiedarbību vai saskari ar šo MI sistēmu (tās iznākumu). Pirmajā mijiedarbībā ar MI sistēmu informācija būtu jāsniedz vismaz vienu reizi interaktīvas sesijas sākumā, vienlaikus ņemot vērā 36. un 40. punktā minēto konkrēto kontekstu. Tāda MI ģenerēta vai manipulēta satura gadījumā, uz kuru attiecas MI akta 50. panta 2. un 4. punkta darbības joma, informēšanas pienākums ir piemērojams katram MI sistēmas iznākumam attiecībā uz jebkuru fizisku personu, kas ar to sakaras. Ar to būtu jāsaprot jebkurš brīdis laikā, kurā fiziska persona varētu pamatoti saskarties ar MI sistēmas iznākumu un uztvert izpausto informāciju, ņemot vērā informācijas izpaušanas specifiku acīmredzami radošu, māksliniecisku un citu darbu gadījumā (sk. 6.1.3. iedaļu). Turklāt uzturētājiem ir atļauts informēt fiziskas personas pirms pirmās faktiskās mijiedarbības vai eksponētības (piemēram, tāda satura sākumā, kurā ir dziļviltojumi). Tomēr, ja ir pamatoti paredzams, ka personas var neuztvert saturu no paša sākuma, tad, izpaužot informāciju tikai satura sākumā, minētās personas netiek pienācīgi informētas un, ja iespējams, informācija būtu papildus jāsniedz arī vēlāk. To pēc vajadzības var īstenot, ņemot vērā pārredzamības pienākumu mērķi nodrošināt efektīvu informācijas sniegšanu un lietotāju jēgpilnu informētību MI vidē, kas kļūst arvien ievelkošāka un reālistiskāka un kurā lietotājiem ir aizvien grūtāk atšķirt satura un mijiedarbības izcelsmi un patiesumu.

Piemēri informācijas sniegšanai pirmās mijiedarbības vai eksponētības laikā saskaņā ar MI akta 50. panta 5. punktu:

—

pirmā mijiedarbība: kad tiek sākta saruna ar sarunbotu vai sākta fiziska mijiedarbība ar MI sistēmu;

—

pirmā eksponētība: video satura ar dziļviltojumu sākumā, MI ģenerētas vai manipulētas teksta publikācijas par sabiedrības interešu jautājumiem sākumā vai, kad notiek saskare ar MI manipulētiem dziļviltojumiem sociālo mediju ritināšanas laikā.

7.3.   Piemērojamo piekļūstamības prasību ievērošana

(144)

Tādu MI sistēmu nodrošinātājiem un uzturētājiem, uz kurām attiecas dažādie MI akta 50. panta 1.–4. punktā uzskaitītie pārredzamības pienākumi, ir jābūt informētiem par piemērojamajām piekļūstamības prasībām (piemēram, saskaņā ar Direktīvu 2016/2102 (41) un Direktīvu 2019/882 (42)) un jāizvērtē, vai to produktam, pakalpojumam vai saturam ir jāatbilst šiem noteikumiem. Attiecīgā gadījumā tiem ir jānodrošina saskaņā ar MI akta 50. pantu sniedzamās informācijas piekļūstamība atbilstīgi piemērojamajām piekļūstamības prasībām. MI akta 50. pantā nav noteiktas atšķirīgas vai papildu piekļūstamības prasības.

8.   MI AKTA 50. PANTA IZPILDE.

(145)

Šīs iedaļas mērķis ir precizēt: i) kā prakses kodeksa ievērošana ietekmē MI ģenerēta satura pārredzamības nodrošināšanas pienākumu izpildi; ii) kompetento uzraudzības iestāžu lomu MI akta 50. panta izpildes panākšanā; iii) par attiecīgo pienākumu pārkāpumiem piemērojamās sankcijas un iv) laiku, no kura sāk piemērot MI akta 50. pantā noteiktos pienākumus.

8.1.   Par atbilstīgu uzskatīta prakses kodeksa ievērošanas sekas

(146)

To MI sistēmu nodrošinātāji un uzturētāji, uz kurām attiecas MI akta 50. panta 2. un 4. punkts, var pierādīt savu minētajos noteikumos paredzēto attiecīgo pārredzamības pienākumu izpildi attiecībā uz MI ģenerētu saturu, ievērojot prakses kodeksu, kas saskaņā ar MI akta 50. panta 7. punktu tiek uzskatīts par atbilstīgu (43). Šāds kodekss neaizstāj MI aktu vai šīs pamatnostādnes. Tas šos dokumentus papildina, nodrošinot vienīgo Savienības mērogā atzīto praktisko satvaru, ko ģeneratīvo MI sistēmu nodrošinātāji un uzturētāji var ievērot, lai pierādītu attiecīgo pienākumu izpildi neatkarīgi no savas iedibināšanas vietas, darbības vietas un kompetentajām tirgus uzraudzības iestādēm.

(147)

Lai gan nodrošinātāji un uzturētāji var pierādīt minēto pienākumu izpildi arī ar piemērotiem alternatīviem līdzekļiem, par atbilstīgu uzskatīta prakses kodeksa ievērošana ir vienkāršs, paredzams un juridiski drošs veids, kā apliecināt, ka pienākumi ir izpildīti. Uzraugot personas, kas parakstījušas saskaņā ar MI akta 50. panta 7. punktu par atbilstīgu uzskatītu prakses kodeksu (44), Komisija un kompetentās tirgus uzraudzības iestādes savas darbības galvenokārt vērsīs uz to, lai novērtētu, vai šie parakstītāji ir ievērojuši prakses kodeksu un īstenojuši tajā iekļautos pasākumus. Tā kā nodrošinātāji un uzturētāji, kas ievēro kodeksu, pārredzami atklās, kādus pasākumus tie īsteno, lai izpildītu MI akta 50. panta 2., 4. un 5. punkta noteikumus, Komisija, citas kompetentās tirgus uzraudzības iestādes un citas ieinteresētās personas (tostarp plaša sabiedrība) tiem vairāk uzticēsies. Ja par atbilstīgu uzskatītā prakses kodeksa parakstītāji atteiksies no kādu kodeksa sadaļu izpildes, minētie nodrošinātāji un uzturētāji zaudēs šo iespēju atviegloti pierādīt attiecīgo pienākumu izpildi.

(148)

Tiem nodrošinātājiem un uzturētājiem, kas nav parakstījuši prakses kodeksu, kurš tiek uzskatīts par atbilstīgu saskaņā ar MI akta 50. panta 7. punktu, ir jāpierāda, kā tie ir izpildījuši savus MI akta 50. panta 2., 4. un 5. punktā noteiktos pienākumus ar citiem piemērotiem līdzekļiem. Turklāt šādiem nodrošinātājiem un uzturētājiem ir jāpaskaidro, kā to īstenotie pasākumi nodrošina MI aktā noteikto pienākumu izpildi. Piemēram, tiem būtu jāveic nepilnību analīze, kurā to īstenotie pasākumi tiek salīdzināti ar pasākumiem, kas noteikti par atbilstīgu uzskatītajā prakses kodeksā. Tā kā kompetentajām iestādēm (tostarp MI birojam) būs mazāka izpratne par to, kā tie nodrošinātāji un uzturētāji, kuri nav parakstījuši prakses kodeksu, nodrošina savu MI akta 50. panta 2., 4. un 5. punktā noteikto pienākumu izpildi, tām uzraudzības gaitā, visticamāk, būs vajadzīga sīkāka informācija. Piemēram, nodrošinātāji, kuri neievēro prakses kodeksu, var saņemt vairāk informācijas un piekļuves pieprasījumu, lai būtu iespējams novērtēt MI akta 50. panta 2. punkta izpildes nolūkā īstenoto tehnisko risinājumu efektivitāti, sadarbspēju, robustumu un uzticamību. Šādus pieprasījumus uzturētāji var saņemt arī par informācijas izpaušanas praksi, ko tie īsteno saskaņā ar MI akta 50. panta 4. punktu.

(149)

Nosakot naudas sodu apmēru, kompetentās iestādes atkarībā no konkrētajiem apstākļiem kā atbildību mīkstinošu faktoru var ņemt vērā saistības, kas īstenotas saskaņā ar prakses kodeksu, kurš tiek uzskatīts par atbilstīgu (45).

(150)

Ja prakses kodekss netiek uzskatīts par atbilstīgu saskaņā ar MI akta 50. panta 7. punktu, Komisija var pieņemt īstenošanas aktu, kurā precizē kopīgus noteikumus MI akta 50. panta 2., 4. un 5. punktā noteikto pienākumu īstenošanai, kas būtu piemērojams visiem attiecīgajiem MI sistēmu nodrošinātājiem un uzturētājiem, kuriem ir jāievēro minētie noteikumi (46).

8.2.   Tirgus uzraudzības iestādes

(151)

Dalībvalstu izraudzītās tirgus uzraudzības iestādes, MI birojs (47) un Eiropas Datu aizsardzības uzraudzītājs (48) atbild par to kompetencē esošo MI sistēmām piemēroto noteikumu, tostarp MI akta 50. pantā noteikto pārredzamības pienākumu, izpildes uzraudzību un panākšanu. Šāda izpildes panākšana tiek īstenota ar Regulu (ES) 2019/1020 un MI aktu izveidotajā tirgus uzraudzības un produktu atbilstības sistēmā. Minētajās regulās ir noteiktas tirgus uzraudzības iestāžu izpildes panākšanas pilnvaras attiecībā uz MI sistēmām. Šīs iestādes saistībā ar MI akta 50. pantā uzskaitītajiem pienākumiem var veikt izpildes darbības pēc savas iniciatīvas vai pēc tam, kad ir saņemta sūdzība, kuru ir tiesības iesniegt jebkurai skartajai personai vai jebkurai citai fiziskai vai juridiskai personai, kurai ir pamats uzskatīt, ka ir notikuši attiecīgi pārkāpumi (49). No MI akta izrietošie tirgus uzraudzības iestāžu pienākumi neietekmē citu uzraudzības iestāžu vai pamattiesību aizsardzības iestāžu pilnvaras un uzdevumus, kas šīm iestādēm noteikti to tiesiskajā regulējumā, situācijās, kad tiek piemērots gan MI akta 50. pants, gan šis cits regulējums (piemēram, datu aizsardzības, patērētāju aizsardzības regulējums).

8.3.   Sodi

(152)

Nodrošinātājiem un uzturētājiem, kuri nepilda MI akta 50. pantā noteiktos piemērojamos pārredzamības pienākumus, var piemērot naudas sodu līdz 15 000 000 EUR apmērā vai, ja pārkāpējs ir uzņēmums, līdz 3 % apmērā no tā kopējā globālā apgrozījuma iepriekšējā finanšu gadā atkarībā no tā, kura summa ir lielāka. ES iestādēm, struktūrām un aģentūrām, kuras neievēro attiecīgos pārredzamības pienākumus, var uzlikt administratīvus naudas sodus līdz 750 000 EUR apmērā. Mazo un vidējo uzņēmumu (MVU), tostarp jaunuzņēmumu, gadījumā katrs naudas sods nepārsniedz iepriekš minēto procentuālo daļu vai summu atkarībā no tā, kura no tām ir mazāka. Naudas sodiem jābūt iedarbīgiem, samērīgiem un atturošiem, un, nosakot to apmēru, ir jāņem vērā MVU un mazo vidējas kapitalizācijas uzņēmumu (MVKU), tostarp jaunuzņēmumu, intereses un ekonomiskā dzīvotspēja. Lemjot, vai piemērot administratīvu naudas sodu, un nosakot tā apmēru, katrā atsevišķā gadījumā kompetentajām iestādēm būtu jānovērtē visi attiecīgie konkrētās situācijas apstākļi un vajadzības gadījumā dažādi faktori, kas ietekmē pārkāpuma smagumu (piemēram, pārkāpuma būtība, smagums un ilgums un tā sekas, vai pārkāpums radies nolaidības dēļ vai tīši, citi atbildību pastiprinoši vai mīkstinoši apstākļi, sadarbības ar tirgus uzraudzības iestādēm pakāpe u. c.).

8.4.   Piemērošanas sākums

(153)

Saskaņā ar MI akta 113. pantu MI akta 50. pantu piemēro no 2026. gada 2. augusta. Tas nozīmē, ka visām MI sistēmām, uz kurām attiecas šo pantu darbības joma un kas laistas tirgū vai nodotas ekspluatācijā Savienībā, minētajā dienā ir jāatbilst šā noteikuma prasībām neatkarīgi no dienas, kad tās laistas tirgū vai nodotas ekspluatācijā (50). Savienības likumdevēja nesen pieņemtā Regula, ar ko groza MI aktu (Digitālā Omnibus regula par mākslīgo intelektu), paredz mērķorientētu noteikumu, ar kuru tiek piemēroti iepriekšēji spēkā esoši noteikumi, tikai attiecībā uz tādiem MI akta 50. panta 2. punktā noteiktajiem marķēšanas un atklāšanas pienākumiem, kurus piemēro pirms 2026. gada 2. augusta tirgū laistām vai ekspluatācijā nodotām ģeneratīvām MI sistēmām. Tādējādi šo esošo sistēmu nodrošinātājiem ir noteikts pārejas periods, lai līdz 2026. gada 2. decembrim nodrošinātu to sistēmu atbilstību. Saistībā ar daļēji interaktīvām un daļēji ģeneratīvām sistēmām šo pārejas periodu var izmantot tikai attiecībā uz MI akta 50. panta 2. punktā noteikto marķēšanas pienākumu, savukārt informācijas izpaušanas pienākuma izpilde attiecībā uz MI sistēmām, kuras tieši mijiedarbojas ar fiziskām personām, ir jānodrošina, sākot no 2026. gada 2. augusta.

(154)

MI ģenerēti vai manipulēti iznākumi, uz kuriem attiecas MI akta 50. panta 2. punkts, un dziļviltojumi, uz kuriem attiecas MI akta 50. panta 4. punkta pirmā daļa un kuri ir ģenerēti vai manipulēti pirms 2026. gada 2. augusta, nav jāmarķē vai jāapzīmē ar atpakaļejošu spēku. Tas attiecas arī uz tekstiem par sabiedrības interešu jautājumiem, kas ietilpst MI akta 50. panta 4. punkta otrās daļas darbības jomā un ir ģenerēti vai manipulēti un publicēti pirms 2026. gada 2. augusta. Savukārt, ja teksti, kas ģenerēti vai manipulēti pirms 2026. gada 2. augusta, tiek publicēti minētajā datumā vai pēc tā, tie ir jāapzīmē. Ņemot vērā MI akta mērķi nodrošināt pārredzamību un informācijas ekosistēmas lielāku integritāti un uzticēšanos tai, MI sistēmu uzturētāji un citi dalībnieki, kuru rīcībā ir iepriekš neapzīmēti dziļviltojumi vai kuri tādus izplata, tomēr tiek mudināti tos apzīmēt, vienlaikus no tiem netiek prasītas šim nolūkam nesamērīgas pūles (piemēram, iepriekš esoša satura datubāzu revīzija vai jau nodrukāta produktu iepakojuma pārveidošana).

9.   PAMATNOSTĀDŅU PĀRSKATĪŠANA UN ATJAUNINĀŠANA

(155)

Šīs pamatnostādnes ir pirmā interpretācija, kurā sniegti MI akta 50. pantā noteikto pārredzamības pienākumu reāli piemēri. Komisija pārskatīs šīs pamatnostādnes, tiklīdz tas būs nepieciešams, ņemot vērā pārredzamības pienākumu īstenošanā gūto praktisko pieredzi un šīs jomas tehnoloģiskās, sociālās un regulatīvās attīstības tempu, tostarp visu attiecīgo tirgus uzraudzības izpildes darbībās iegūto pieredzi un EST sniegtās MI akta 50. panta interpretācijas. Šādas pārskatīšanas laikā Komisija var nolemt atsaukt vai grozīt šīs pamatnostādnes. Komisija mudina MI sistēmu nodrošinātājus un uzturētājus, valsts tirgus uzraudzības iestādes ar MI padomes, MI konsultatīvā foruma, pētniecības kopienas un pilsoniskās sabiedrības organizāciju starpniecību iesaistīties šajā procesā, atbildot uz turpmākiem aicinājumiem piedalīties sabiedriskajā apspriešanā.

(1)  Eiropas Parlamenta un Padomes Regula (ES) 2024/1689 (2024. gada 13. jūnijs), ar ko nosaka saskaņotas normas mākslīgā intelekta jomā (Mākslīgā intelekta akts) (OV L, 2024/1689, 12.7.2024., ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2)  MI akta 1. pants.

(3)  MI akta 2. panta 1. punkta a) apakšpunkts, 3. panta 3., 9. un 11. punkts. Sīkākus norādījumus par jēdzieniem “laišana tirgū”, “nodošana ekspluatācijā” un “lietojums” sk. Komisijas Pamatnostādnēs par aizliegtu mākslīgā intelekta praksi (C(2025) 5052) un Komisijas paziņojumā “Zilā rokasgrāmata” par ES produktu noteikumu īstenošanu (2022, 2. iedaļa) (OV C 247, 29.6.2022, 1. lpp.).

(4)  MI akta 2. panta 1. punkta c) apakšpunkts un 22. apsvērums.

(5)  MI akta 3. panta 4) punkts.

(6)  MI akta 2. panta 1. punkta b) un c) apakšpunkts.

(7)  Eiropas Parlamenta un Padomes Regula (ES) 2022/2065 (2022. gada 19. oktobris) par digitālo pakalpojumu vienoto tirgu (OV L 277, 27.10.2022., 1. lpp.).

(8)  Sk. 2.5. iedaļu Komisijas Pamatnostādnēs par aizliegtu mākslīgā intelekta praksi, kas noteikta Regulā (ES) 2024/1689 (MI akts), Brisele, 29.7.2025. (C(2025) 5052 final).

(9)  Uzturētāja definīcija neietver arī šādās darbībās iesaistītus lietotājus (sk. šo pamatnostādņu 2.3. iedaļu).

(10)  MI akta 25. apsvērums.

(11)  MI akta 102. apsvērumā ir paskaidrots, ka programmatūras un datu laišana apgrozībā ar bezmaksas un atvērtā pirmkoda licenci “ļauj tos atklāti kopīgot, un [..] lietotāji var brīvi piekļūt tiem vai to modificētām versijām, tos lietot, modificēt un pārdalīt.”

(12)  Sīkāku informāciju par MI akta 5. pantu sk. Komisijas Pamatnostādnēs par aizliegtu mākslīgā intelekta praksi, kas noteikta Regulā (ES) 2024/1689 (MI akts) (C(2025) 5052 final).

(13)  Sk. MI akta 6. pantu.

(14)  Konkrētāk, MI akta 26. panta 11. punktā ir noteikts pārredzamības pienākums augsta riska MI sistēmu uzturētājiem, kas pieņem lēmumus vai palīdz pieņemt lēmumus saistībā ar fiziskām personām, informēt šīs fiziskās personas, ka uz tām attiecas augsta riska MI sistēmas lietošana. Šie pārredzamības pienākumi papildina MI akta 50. pantā noteiktos pienākumus, jo attiecas uz atšķirīgu informāciju, kas jāsniedz fiziskām personām, bet attiecīgo informāciju var apvienot vienā paziņojumā.

(15)  MI akta 3. panta 66) punktā vispārīga lietojuma MI (“GPAI”) sistēma ir definēta kā MI sistēma, kura ir balstīta uz vispārīga lietojuma MI modeli un kam ir spējas kalpot dažādiem mērķiem gan saistībā ar tiešo lietojumu, gan integrēšanai citās MI sistēmās.

(16)  MI akta 50. panta 2. punktā ir iekļauta skaidra norāde uz vispārīga lietojuma MI sistēmām.

(17)  MI akta 133. apsvērums.

(18)  Sk. MI akta 3. panta 1) punktu. Sīkākus norādījumus par MI sistēmas jēdzienu sk. Komisijas Pamatnostādnēs par MI sistēmas definīciju, 29.7.2025. (C(2025) 5053 final).

(19)  Sk. MI akta 132. apsvērumu. Tas nenozīmē, ka sistēmai noteikti jābūt mērķorientētai uz šīm neaizsargātajām grupām. Ja sistēma ir paredzēta mijiedarbībai ar jebkuru sabiedrības locekli, tad starp tiem ietilpst arī neaizsargātām grupām piederīgie, un nodrošinātājiem, īstenojot paziņošanas pasākumus, šie cilvēki ir jāņem vērā.

(20)  Sk. 7.3. iedaļu par piemērojamām piekļuves prasībām.

(21)  Piemēram, droši un efektīvi MI aģentu identificēšanas līdzekļi var būt atribūtu elektroniskie apliecinājumi, kas izveidoti saskaņā ar Regulu (ES) Nr. 910/2014 un darīti pieejami ES digitālās identitātes makos, kuri izveidoti saskaņā ar to pašu regulu, kā arī ierosinātie Eiropas darījumdarbības maki. Minētajos makos var glabāt un pārvaldīt elektroniskos apliecinājumus, kas verificē MI aģenta identitāti, atribūtus un atļaujas, tādējādi ļaujot raiti un uzticami izpaust informāciju fiziskām personām.

(22)  Tas attiecas arī uz līdzīgiem izņēmumiem saistībā ar MI akta 50. panta 2.–4. punktā norādītajām tiesībaizsardzības darbībām.

(23)  Eiropas Parlamenta un Padomes Direktīva 2005/29/EK (2005. gada 11. maijs), kas attiecas uz uzņēmēju negodīgu komercpraksi iekšējā tirgū attiecībā pret patērētājiem (OV L 149, 11.6.2005., 2. lpp.).

(24)  Eiropas Parlamenta un Padomes Direktīva 2011/83/ES (2011. gada 25. oktobris) par patērētāju tiesībām (OV L 304, 22.11.2011., 64. lpp.).

(25)  Eiropas Parlamenta un Padomes Direktīva 2012/13/ES (2012. gada 22. maijs) par tiesībām uz informāciju kriminālprocesā (OV L 142, 1.6.2012., 1. lpp.). Eiropas Parlamenta un Padomes Direktīva 2012/29/ES (2012. gada 25. oktobris), ar ko nosaka noziegumos cietušo tiesību, atbalsta un aizsardzības minimālos standartus (OV L 315, 14.11.2012., 57. lpp.).

(26)  Kā definētas MI akta 3. panta 1) punktā.

(27)  MI akta 133. apsvērumā ir paskaidrots, ka ir lietderīgi noteikt prasību, ka minēto sistēmu nodrošinātāji paredz iegultus tehniskus risinājumus, kas ļauj iekļaut mašīnlasāma formāta marķējumu un atklāt, ka iznākumu ir ģenerējis vai manipulējis nevis cilvēks, bet gan MI sistēma. Atklāšanas pienākums ir aprakstīts MI akta 135. apsvērumā.

(28)  Sk. Komisijas Īstenošanas lēmuma C(2025) 3871 final par standartizācijas pieprasījumu Eiropas Standartizācijas komitejai un Eiropas Elektrotehnikas standartizācijas komitejai attiecībā uz augsta riska MI sistēmu Eiropas Parlamenta un Padomes Regulas (ES) 2024/1689 izpildes vajadzībām un ar ko atsauc Īstenošanas lēmumu C(2023)3215 final, II pielikumu.

(29)  Sk. arī MI akta 11. apsvērumu.

(30)  Sk. arī MI akta 137. apsvērumu.

(31)  MI akta 136. apsvērums.

(32)  Tāpēc šis kritērijs ir jāsaprot neatkarīgi un atšķirīgi no maldināšanas jēdziena, kurš minēts Direktīvā 2005/29/EK, kas attiecas uz uzņēmēju negodīgu komercpraksi iekšējā tirgū attiecībā pret patērētājiem (Negodīgas komercprakses direktīva), https://eur-lex.europa.eu/eli/dir/2005/29/oj/eng.

(33)  Saistībā ar to sk. AVMPD 1. panta b) punktu.

(34)  Tas attiecas arī uz publicētiem tekstiem, ar kuriem sabiedrību informē par sabiedrības interešu jautājumiem.

(35)  Sīkāku informāciju par MI akta 50. panta un DPA mijiedarbību sk. arī 4.4. iedaļā.

(36)  DPA 2. apsvērums.

(37)  Sīkāku skaidrojumu sk. Komisijas un EDAK kopīgajās pamatnostādnēs par mijiedarbību starp MI aktu un ES datu aizsardzības tiesību aktiem (tiek sagatavota).

(38)  Pēc analoģijas sk. spriedumus lietās C-89/04, Mediakabel, ES:C:2005:348, 33. punkts; C-192/04, Lagardère, ES:C:2005:475, 31. punkts; C-306/05, SGAE, ES:C:2006:764, 37.–40. punkts; C-527/15, Stichting Brein, ES:C:2017:300, 43. un 44. punkts un tur minētā judikatūra; C-135/23, GEMA, ES:C:2024:526, 38. punkts un tur minētā judikatūra.

(39)  Eiropas Parlamenta un Padomes Regula (ES) 2024/1083 (2024. gada 11. aprīlis), ar ko izveido vienotu satvaru mediju pakalpojumiem iekšējā tirgū un groza Direktīvu 2010/13/ES (Eiropas Mediju brīvības akts) (OV L, 2024/1083, 17.4.2024., ELI: http://data.europa.eu/eli/reg/2024/1083/oj).

(40)  Ja bērni ir daļa no mērķauditorijas, kurai paredzēts saturs, šiem paziņojumiem jābūt: i) piemērotiem bērniem, viņu vecumam atbilstošiem, viegli saprotamiem un visiem bērniem, tostarp bērniem ar invaliditāti un/vai papildu piekļūstamības vajadzībām, viegli pieejamiem; ii) skaidri izklāstītiem viegli saprotamā veidā, cik vien iespējams vienkārši un kodolīgi; iii) sniegtiem viegli pārskatāmos veidos, kas nodrošina tūlītēju un intuitīvu piekļuvi punktos, kuros šie paziņojumi kļūst būtiski; iv) tās dalībvalsts oficiālajā(-s) valodā(-s), kurā tiek sniegts pakalpojums; v) bērniem saistošiem. Šajā nolūkā var izmantot arī grafiku, video saturu un/vai personāžus, vai citas metodes; vi) sniegtiem pakāpeniski un laika gaitā, lai paziņojumi maksimāli saglabātos lietotāja atmiņā.

(41)  Eiropas Parlamenta un Padomes Direktīva (ES) 2016/2102 (2016. gada 26. oktobris) par publiskā sektora struktūru tīmekļvietņu un mobilo lietotņu piekļūstamību (Dokuments attiecas uz EEZ) (OV L 327, 2.12.2016., 1. lpp.).

(42)  Eiropas Parlamenta un Padomes Direktīva (ES) 2019/882 (2019. gada 17. aprīlis) par produktu un pakalpojumu piekļūstamības prasībām (Dokuments attiecas uz EEZ) (PE/81/2018/REV/1) (OV L 151, 7.6.2019., 70. lpp.).

(43)  Sk. attiecīgo informāciju par MI radīta satura pārredzamības prakses kodeksu | “Eiropas digitālās nākotnes veidošana”, kas publicēts 2026. gada 10. jūnijā.

(44)  Sk. Komisijas atzinumu par MI radīta satura pārredzamības prakses kodeksa novērtējumu | Eiropas digitālās nākotnes veidošana.

(45)  MI akta 99. panta 7. punkta e) apakšpunkts.

(46)  MI akta 50. panta 7. punkts.

(47)  Kā tirgus uzraudzības iestāde MI sistēmām, kuru pamatā ir tā paša nodrošinātāja vispārīga lietojuma MI modeļi (MI akta 75. panta 1. punkts). Tas attiecas uz pienākumu, kas nodrošinātājiem piemērojams saskaņā ar MI akta 50. panta 1. un 2. punktu. Attiecībā uz MI akta 50. panta 3. un 4. punktu MI birojs ir kompetentā iestāde tikai tad, ja attiecīgais vispārīga lietojuma MI modeļa un sistēmas nodrošinātājs ir arī sistēmas uzturētājs.

(48)  Kā ES iestāžu, aģentūru un struktūru tirgus uzraudzības iestāde.

(49)  MI akta 85. pants.

(50)  MI akta 111. panta 2. punktā paredzētais īpašais noteikums, ar kuru tiek piemēroti iepriekšēji spēkā esoši noteikumi, attiecas uz augsta riska MI sistēmām, kuras laistas tirgū pirms augsta riska noteikumu piemērošanas dienas, un tikai uz minēto sistēmu atbilstību prasībām un pienākumiem, kas piemērojami augsta riska MI sistēmām. Ja uz augsta riska MI sistēmu attiecas arī viens vai vairāki MI akta 50. pantā noteiktie pārredzamības pienākumi, šo īpašo noteikumu, ar kuru tiek piemēroti iepriekšēji spēkā esoši noteikumi, nepiemēro, jo dažādie ar augsta riska sistēmām saistītie pienākumi un 50. pantā paredzētie pārredzamības pienākumi tiek piemēroti kumulatīvi un iepriekš spēkā esošo nosacījumu piemērošana ir pamatota un attiecināma tikai uz atbilstību augsta riska sistēmām piemērojamajiem noteikumiem.


ELI: http://data.europa.eu/eli/C/2026/6005/oj

ISSN 1977-0952 (electronic edition)