European flag

Euroopa Liidu
Teataja

ET

C-seeria


C/2026/6005

12.11.2026

KOMISJONI TEATIS

Suunised teatavate tehisintellektisüsteemide suhtes kohaldatavate läbipaistvuskohustuste rakendamise kohta vastavalt määruse (EL) 2024/1689 (tehisintellekti käsitlev määrus) artiklile 50

(C/2026/6005)

Sisukord

1.

TAUST JA EESMÄRGID 3

2.

ÜLEVAADE LÄBIPAISTVUSKOHUSTUSTEST JA HORISONTAALSETEST TEEMADEST 3

2.1.

Ülevaade tehisintellektimääruse artikli 50 kohastest läbipaistvuskohustustest 3

2.2.

Põhjendus ja eesmärgid 4

2.3.

Tehisintellektimääruse artikli 50 kohased vastutavad osalejad 5

2.4.

Erandid tehisintellektimääruse kohaldamisalast 7

2.4.1.

Juurutajad, kes tegutsevad üksnes isiklikul eesmärgil, mitte kutsetegevuse raames 7

2.4.2.

Teadus- ja arendustegevus 8

2.4.3.

Vaba ja avatud lähtekoodiga litsentside alusel kättesaadavaks tehtud tehisintellekt 8

2.5.

Koostoime keelatud kasutusviiside, suure riskiga tehisintellektisüsteemidele esitatavate nõuete ja tehisintellektipädevusega 9

2.6.

Koostoime üldotstarbeliste tehisintellektimudelite ja/või -süsteemide suhtes kohaldatavate õigusnormidega 9

3.

TEHISINTELLEKTIMÄÄRUSE ARTIKLI 50 LÕIGE 1: INTERAKTIIVSETE TEHISINTELLEKTISÜSTEEMIDE LÄBIPAISTVUS 9

3.1.

Põhikomponendid, mõisted ja nendega seotud läbipaistvuskohustus(ed) 10

3.1.1.

Tehisintellektisüsteemid, mis on mõeldud vahetult suhtlema füüsiliste isikutega 10

3.1.2.

Tehisintellektimääruse artikli 50 lõike 1 kohane teavitamiskohustus 12

3.2.

Erandid tehisintellektimääruse artikli 50 lõike 1 kohasest teavitamiskohustusest 14

3.2.1.

Erand tehisintellektisüsteemiga toimuva ilmse suhtluse korral 14

3.2.2.

Erand tehisintellektisüsteemidele, mis on seadusega lubatud õiguskaitse eesmärgil 16

3.3.

Koostoime liidu teiste õigusaktidega 17

4.

TEHISINTELLEKTIMÄÄRUSE ARTIKLI 50 LÕIGE 2: TEHISINTELLEKTI LOODUD VÕI MANIPULEERITUD SISU MÄRGISTAMINE JA TUVASTAMINE 18

4.1.

Tehisintellektimääruse artikli 50 lõike 2 kohased põhikomponendid ja mõisted 18

4.1.1.

Tehisintellektisüsteemid, mis loovad või manipuleerivad sünteetilist sisu 18

4.1.2.

Kohaldamisalasse kuuluvad sünteetilise sisu vormid 19

4.1.3.

Tehisintellektimääruse artikli 50 lõike 2 kohaldamisalast välja jääv sisu 20

4.2.

Tehisintellektimääruse artikli 50 lõikega 2 kehtestatud märgistamis- ja tuvastamiskohustus 21

4.2.1.

Märgistamiskohustus 21

4.2.2.

Tuvastamiskohustus 22

4.2.3.

Vastavus tehnilistele lahendustele esitatavatele nõuetele: tõhus, koostalitlusvõimeline, töökindel ja usaldusväärne 22

4.3.

Tehisintellektimääruse artikli 50 lõike 2 kohased erandid kohustustest 24

4.4.

Koostoime liidu teiste õigusaktidega 25

5.

TEHISINTELLEKTIMÄÄRUSE ARTIKLI 50 LÕIGE 3: EMOTSIOONITUVASTUSSÜSTEEMID JA BIOMEETRILISE LIIGITAMISE SÜSTEEMID 26

5.1.

Põhikomponendid, mõisted ja nendega seotud läbipaistvuskohustus(ed) vastavalt tehisintellektimääruse artikli 50 lõikele 3 27

5.1.1.

Mõiste „emotsioonituvastussüsteem“ 27

5.1.2.

Mõiste „biomeetrilise liigitamise süsteem“ 27

5.1.3.

Tehisintellektimääruse artikli 50 lõike 3 kohane teavitamiskohustus 27

5.2.

Erand õiguskaitse jaoks 28

5.3.

Koostoime liidu teiste õigusaktidega 28

6.

ARTIKLI 50 LÕIGE 4: SÜVAVÕLTSINGUTE JA TEATAVA AVALDATUD TEKSTI MÄRGISTAMINE 28

6.1.

Süvavõltsingute põhikomponendid, kontseptsioonid ja nendega seotud läbipaistvuskohustus(ed) vastavalt tehisintellektimääruse artikli 50 lõikele 4 28

6.1.1.

Mõiste „süvavõltsing“ 29

6.1.2.

Tehisintellektimääruse artikli 50 lõike 4 esimese lõigu kohane avalikustamiskohustus 31

6.1.3.

Kunstilise, loomingulise, satiirilise, väljamõeldud või samalaadse süvavõltsitud sisu läbipaistvus 32

6.1.4.

Erand seoses õiguskaitsega 34

6.1.5.

Koostoime liidu teiste õigusaktidega 34

6.2.

Tehisintellekti loodud või manipuleeritud teksti põhikomponendid, mõisted ja nendega seotud läbipaistvuskohustus(ed) vastavalt tehisintellektimääruse artikli 50 lõikele 4 35

6.2.1.

Teksti avaldamine eesmärgiga teavitada üldsust avalikku huvi pakkuvatest küsimustest 36

6.2.2.

Tehisintellektimääruse artikli 50 lõike 4 teise lõigu kohane avalikustamiskohustus 37

6.2.3.

Erand läbipaistvuskohustusest teksti puhul, mille suhtes kohaldatakse inimkontrolli või toimetuskontrolli ja toimetusvastutust 37

6.2.4.

Erand seoses õiguskaitsega 38

6.2.5.

Koostoime liidu teiste õigusaktidega 39

7.

TEHISINTELLEKTIMÄÄRUSE ARTIKLI 50 LÕIKE 5 KOHASELT ESITATAVA TEABE SUHTES KOHALDATAVAD HORISONTAALSED NÕUDED 39

7.1.

Teabe esitamine selgel ja eristataval viisil 39

7.2.

Esimene suhtlemine või kokkupuude 40

7.3.

Vastavus kohaldatavatele ligipääsetavusnõuetele 40

8.

TEHISINTELLEKTIMÄÄRUSE ARTIKLI 50 TÄITMISE TAGAMINE 40

8.1.

Piisavaks hinnatud tegevusjuhendi järgimise mõju 41

8.2.

Turujärelevalveasutused 42

8.3.

Karistused 42

8.4.

Kohaldamise algus 42

9.

SUUNISTE LÄBIVAATAMINE JA AJAKOHASTAMINE 43

1.   TAUST JA EESMÄRGID

(1)

1. augustil 2024 jõustus Euroopa Parlamendi ja nõukogu 13. juuni 2024. aasta määrus (EL) 2024/1689, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid ning muudetakse teatavaid õigusakte (edaspidi „tehisintellektimäärus“) (1). Tehisintellektimäärusega nähakse ette ühtlustatud õigusnormid, mis reguleerivad tehisintellektisüsteemide turule laskmist, kasutusele võtmist ja kasutamist liidus (2). Määruse eesmärk on edendada usaldusväärse tehisintellekti uutmist ja kasutuselevõttu, tagades samal ajal liidus tervise, ohutuse ja põhiõiguste, sealhulgas demokraatia ja õigusriigi põhimõtte kõrgetasemelise kaitse.

(2)

Tehisintellektimääruses on järgitud riskipõhist lähenemisviisi ja liigitatud tehisintellektisüsteemid nelja riskikategooriasse, millest üks on läbipaistvusriske tekitavad tehisintellektisüsteemid, mille suhtes kohaldatakse tehisintellektimääruse artiklis 50 sätestatud kohustusi. Neid läbipaistvuskohustusi hakati kohaldama kaks aastat pärast tehisintellektimääruse jõustumist, st alates 2. augustist 2026.

(3)

Tehisintellektimääruse artikli 96 lõike 1 punkti d kohaselt on komisjoni käesolevate suuniste eesmärk anda praktilisi juhiseid, mis aitaksid pädevatel asutustel ning tehisintellektisüsteemide pakkujatel ja juurutajatel tagada tehisintellektimääruse artikli 50 kohaste läbipaistvuskohustuste järjepidev, tõhus, proportsionaalne ja ühetaoline täitmine.

(4)

Nende suuniste koostamisel tugineti mitmesuguste sidusrühmade tagasisidele, mis saadi komisjoni korraldatud ulatusliku konsultatsiooni käigus, ja liikmesriikide poolt tehisintellekti nõukojas esitatud tagasisidele, samuti sidusrühmade esitatud kommentaaridele konsulteerimiseks avaldatud suuniste kavandi kohta.

(5)

Käesolevad suunised ei ole siduvad. Lõppkokkuvõttes saab tehisintellektimäärust autoriteetselt tõlgendada ainult Euroopa Liidu Kohus.

2.   ÜLEVAADE LÄBIPAISTVUSKOHUSTUSTEST JA HORISONTAALSETEST TEEMADEST

2.1.   Ülevaade tehisintellektimääruse artikli 50 kohastest läbipaistvuskohustustest

(6)

Tehisintellektimääruse artikkel 50 sisaldab nelja läbipaistvuskohustust, millest igaüht kohaldatakse eri liiki tehisintellektisüsteemide või nende väljundite suhtes.

Säte

Tehisintellektisüsteemi/väljundi liik

Läbipaistvuskohustus

Erandid või erikorrad

Artikli 50 lõige 1

Füüsiliste isikutega vahetult suhtlevad tehisintellektisüsteemid

Pakkujad peavad tehisintellektisüsteemi arendama ja projekteerima nii, et asjaomastele füüsilistele isikutele antakse teada, et nad suhtlevad tehisintellektisüsteemiga.

Erandid juhul kui 1) suhtluse tehislik päritolu on ilmne või 2) süsteemi on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks ja uurimiseks või nende eest vastutusele võtmiseks, välja arvatud juhul, kui süsteem on üldsusele kättesaadav, et kuritegudest teatada.

Artikli 50 lõige 2

Tehisintellektisüsteemid, mis loovad või manipuleerivad sünteetilist pildi-, video-, audio- või tekstisisu

Pakkujad peavad tagama, et tehisintellektisüsteemi väljundid on märgitud masinloetavas vormingus ja tuvastatavad kui kunstlikult loodud või manipuleeritud, kasutades tõhusaid, koostalitlusvõimelisi, töökindlaid ja usaldusväärseid tehnilisi lahendusi.

Erandid juhul kui 1) tehisintellektisüsteem täidab standardse redigeerimise abifunktsiooni või ei muuda oluliselt sisendandmeid või nende semantikat või 2) tehisintellektisüsteemi on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks.

Artikli 50 lõige 3

Tehisintellektipõhised emotsioonituvastussüsteemid või biomeetrilise liigitamise süsteemid

Juurutajad peavad teavitama tehisintellektisüsteemi tööst füüsilisi isikuid, kes selle süsteemiga kokku puutuvad.

Erandid juhul kui tehisintellektisüsteemi on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks või uurimiseks.

Artikli 50 lõige 4

Tehisintellektisüsteemid, mis loovad või manipuleerivad süvavõltsinguid või tekste, mis avaldatakse üldsuse teavitamiseks avalikku huvi pakkuvatest küsimustest

Juurutajad peavad avalikustama, et sisu on kunstlikult loodud või seda on manipuleeritud.

Erandid juhul kui 1) tehisintellektisüsteemi on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks või 2) avaldatud tekst on läbinud inimkontrolli või toimetuskontrolli ning kuulub toimetusvastutuse alla.

Avalikustamise erikorda kohaldatakse selliste süvavõltsingute puhul, mis on osa kunstilisest, loomingulisest, satiirilisest, väljamõeldud või samalaadsest teosest või programmist.

(7)

Kõiki neid nelja kohustust käsitletakse käesolevate suuniste 3.–6. jaos. Lisaks on tehisintellektimääruse artikli 50 lõikega 5 nõutud, et selle lõigetes 1–4 osutatud teave esitatakse asjaomastele füüsilistele isikutele selgel ja eristataval viisil hiljemalt esimese suhtlemise või kokkupuute ajal ning see peab vastama kohaldatavatele ligipääsetavusnõuetele. Neid nõudeid selgitatakse 7. jaos.

(8)

Kõik tehisintellektimääruse artikli 50 kohased eri läbipaistvuskohustused võivad kehtida kumulatiivselt ühe tehisintellektisüsteemi või ühe selle väljundi puhul, millest võib tuleneda eri osalejate (pakkujate või juurutajate) vastutus. Näiteks juhul kui tehisintellektisüsteem loob osana vahetust suhtlusest füüsilise isikuga pilte, võib süsteemi pakkujal olla kohustus järgida nii tehisintellektimääruse artikli 50 lõiget 1 kui ka selle lõiget 2. Kui see süsteem suudab luua ka pilte, mis kujutavad endast süvavõltsinguid, või avalikku huvi pakkuvaid küsimusi käsitlevat teksti, mis avaldatakse, võib juurutajal lisaks sellele olla kohustus järgida tehisintellektimääruse artikli 50 lõiget 4.

2.2.   Põhjendus ja eesmärgid

(9)

Nagu on selgitatud tehisintellektimääruse põhjendustes 132–136, on läbipaistvuskohustuste eesmärk vähendada kellegi teisena esinemise, pettuse, väärinfo, ulatusliku manipuleerimise ja pettuse riski ning leevendada tehisintellekti loodud või manipuleeritud sisust või suhtlusest tulevat võimalikku kahjulikku mõju demokraatlikele protsessidele ja ühiskonna usaldusele. Kui inimestele teatada, et suhtlus ja sisu on loodud tehisintellekti abil, aitab see neil teha teadlikke otsuseid, suurendades samal ajal teabeökosüsteemi usaldusväärsust ja terviklust. Läbipaistvus ei ole mitte ainult tehniline vastavusnõue, vaid eeltingimus selleks, et inimesed oskaksid ära tunda tehisintellekti vahendatud suhtluse ja sisu või selle, et kasutatakse emotsioonituvastussüsteemi või biomeetrilise liigitamise süsteemi. Lisaks sellele võimaldab interaktiivsete ja generatiivsete tehisintellektisüsteemide läbipaistva ja usaldusväärse kasutamise tagamine kaitsta isikuautonoomiat ja Euroopa väärtusi, inimväärikust ja muid põhiõigusi (nt mõttevabadus, eraelu puutumatus, võrdsus ja mittediskrimineerimine, tarbijakaitse, intellektuaalomand jne) ning kindlustada väljendusvabaduse ja meediasisu usaldusväärsuse.

2.3.   Tehisintellektimääruse artikli 50 kohased vastutavad osalejad

(10)

Tehisintellektimääruse artikli 3 punkti 3 kohaselt on pakkujad füüsilised või juriidilised isikud, ametiasutused, ametkonnad või muud organid, kes arendavad tehisintellektisüsteeme või kellele need on välja töötatud ja kes lasevad need liidu turule või võtavad kasutusele oma nime või kaubamärgi all kas tasu eest või tasuta. Pakkujad peavad täitma tehisintellektimääruse artikli 50 lõigetega 1 ja 2 kehtestatud läbipaistvuskohustusi, mida nende suhtes kohaldatakse, olenemata sellest, kas nad on asutatud või asuvad liidus või kolmandas riigis (3). Tehisintellektimäärust kohaldatakse ka väljaspool liitu asutatud või asuvate pakkujate suhtes, kui nende tehisintellektisüsteemi väljundit kasutatakse liidus (4). Samas ei tohiks järgmises etapis toimuv juhuslik, prognoosimatu või loata kasutus üksi käivitada kohustuste kehtimahakkamist selliste interaktiivsete või generatiivsete tehisintellektisüsteemide kolmandate riikide pakkujate puhul, mida liidus turule ei lasta või kasutusele ei võeta, ilma et see piiraks pädevate turujärelevalveasutuste õigust pidada nende väljundeid tehisintellektimäärusega vastuolus olevaks.

(11)

Pakkujad peavad tagama, et läbipaistvus on nende interaktiivsete või generatiivsete tehisintellektisüsteemide projekteerimisse ja töösse lõimitud, ning tagama, et kõik tehisintellektimääruse artikli 50 lõigetes 1, 2 ja 5 sätestatud vastavad läbipaistvuskohustused on täidetud hiljemalt siis, kui need süsteemid turule lastakse või kasutusele võetakse. Kõiki tehisintellektisüsteemiga suhtlevaid või selle väljunditega kokku puutuvaid füüsilisi isikuid tuleb tehisintellektisüsteemi kogu elutsükli jooksul alates sellest, kui see pakkuja süsteemi turule laseb või kasutusele võtab (olenemata sellest, kes on süsteemi juurutajad või muud kasutajad), reaalselt ja järjepidevalt informeerida.

Näiteks pakub ettevõte oma nime või kaubamärgi all liidu turul generatiivset või interaktiivset tehisintellektirakendust (nt juturobot, pildigeneraator, tehisaruagent) tarbijatele, kutselistele kasutajatele või muudele juriidilistele isikutele, kes võivad tehisintellektisüsteemi vahetult kasutada suhtluseks või sisu loomiseks (sh integreerides süsteemi oma olemasolevatesse protsessidesse ja seda vastavalt kasutades, ilma et oleks vaja muudatusi või lisakomponente). Ettevõte on pakkuja, kes vastutab tehisintellektimääruse artikli 50 lõigetega 1 ja/või 2 kehtestatud läbipaistvuskohustuste täitmise eest, olenemata sellest, kas tehisintellektisüsteemi pakutakse tasuta või tasu eest, ning sellest, kas pakkuja on asutatud või asub liidus või kolmandas riigis.

Samuti on pakkuja näiteks ettevõte või muu organisatsioon (nt avaliku sektori asutus), kes on asutusesiseselt välja töötanud interaktiivse tehisintellektisüsteemi (nt juturobot) ja võtab selle liidus kasutusele oma tarbeks ning oma nime või kaubamärgi all.

Kui ettevõte võtab juba olemasoleva generatiivse tehisintellektisüsteemi, mille on turule lasknud teine pakkuja, muudab seda (nt kasutades uusi treenimisandmeid) ja võtab selle hiljem kasutusele oma nime või kaubamärgi all, saab sellest ettevõttest uue süsteemi pakkuja, ilma et see piiraks algse tehisintellektisüsteemi pakkuja vastutust selle algse süsteemi eest.

(12)

Juurutajad on füüsilised või juriidilised isikud, ametiasutused, ametkonnad või muud organid, kes kasutavad tehisintellektisüsteeme oma volituste alusel, välja arvatud juhul, kui tehisintellektisüsteemi kasutatakse isikliku, mitte kutselise tegevuse jaoks (5). Tehisintellektisüsteemi kasutamist volituste alusel tuleks mõista vastutuse võtmisena otsuse eest süsteem kasutusele võtta ning süsteemi tegeliku kasutamise viisi (sh selle väljundite) eest. See ei eelda tingimata tehnilist kontrolli tehisintellektisüsteemi toimimise üle, kui selle üle, mis eesmärkidel ja kuidas tehisintellektisüsteemi kasutada (sh detsentraliseeritud töövoogudes ja kontserni struktuurides), otsustab juurutaja. Sisu tootmise ja turustamise keerukates väärtusahelates osalevad juurutajad peaksid võtma proportsionaalseid meetmeid tagamaks, et tehisintellektimääruse artikli 50 lõike 4 kohaselt rakendatud sisu märgistus kuvatakse sihtrühmale ja prognoositavale kasutajaskonnale selgel ja eristataval viisil esimese kokkupuute ajal vastavalt tehisintellektimääruse artikli 50 lõikele 5 (nt levitamise partneritega sõlmitud lepingutingimuste juures, kasutajakogemuse (UX) seadetes ja liideste kaudu, mida tuleb kuvada).

(13)

Liidus asutatud või asuvate või kolmandas riigis asutatud või asuvate juurutajate suhtes kohaldatakse tehisintellektimääruse artikli 50 lõigetega 3 ja 4 kehtestatud läbipaistvuskohustusi, kui tehisintellektisüsteemi väljundit kasutatakse liidus (6). Teisena nimetatud juhul kehtivad läbipaistvuskohustused väljaspool liitu asuvate või asutatud üksuste suhtes juhul, kui juurutaja ise eeldab, et tehisintellekti väljundeid levitatakse ja kasutatakse liidus (st suunates või lubades levitamist liidus, sealhulgas postitades süvavõltsinguid üleilmselt juurdepääsetavasse internetti). Samas ei ole läbipaistvuskohustused kolmandate riikide juurutajate suhtes siduvad, kui tehisintellektisüsteemi sisu jõuab liidu kasutajaskonnani ettenägematul ja nende kontrolli alt väljas oleval viisil.

(14)

Kui tehisintellektisüsteemi juurutaja on juriidiline isik, kelle volituste alusel süsteemi kasutatakse (nt reklaamiettevõtja), ei tohiks selle juriidilise isiku juhiste kohaselt ja kontrolli all tegutsevaid töötajaid (nt digianimatsiooniga tegelejad, veebidisainerid, sisuloojad, ajakirjanikud) käsitada asjaomase süsteemi eraldiseisvate juurutajatena. Juriidiline isik jääb juurutajaks isegi siis, kui ta kaasab süsteemi töösse oma nimel ning enese vastutusel ja kontrolli all kolmandaid isikuid (nt töövõtjad, vabakutselised).

Tehisintellektimääruse kohaldamisalasse kuuluv juurutaja on näiteks liidus asutatud meediaväljaanne, mille toimetajad kasutavad tehisintellektisüsteemi selleks, et genereerida tehisintellekti abil päevasündmusi kajastavaid ja avalikku huvi pakkuvate küsimuste teemalisi tekste, mis avaldatakse üleilmselt juurdepääsetaval veebisaidil. Samuti on tehisintellektimääruse kohaldamisalasse kuuluv juurutaja kolmandas riigis asutatud ettevõte, mis kasutab tehisintellektisüsteemi süvavõltsingu loomiseks tuntud isikust, kes esineb reklaamis, mida näidatakse liidus.

Seevastu kui ettevõte üksnes tellib reklaamiagentuurilt reklaami ning ei tee otsuseid ega kontrolli, kas ja kuidas reklaamiagentuur tehisintellekti tootmisprotsessis kasutab, ei ole juurutaja.

(15)

Ettevõtjad (nt pakkujad ja juurutajad) võivad täita tehisintellektisüsteemiga seoses samaaegselt rohkem kui üht rolli. Näiteks võib ettevõte töötada välja ettevõttesisese generatiivse tehisintellektisüsteemi ja kasutada seda süvavõltsingute loomiseks. Sellisel juhul kvalifitseerub ta nii pakkujaks kui ka juurutajaks, kes peab tagama, et täidetud on tehisintellektimääruse artikli 50 lõike 2 kohased masinloetavas vormis märgistamise kohustused ning artikli 50 lõike 4 kohased süvavõltsingute selge ja tajutava märgistamise nõuded.

(16)

Seevastu muud osalejad (nt veebimajutusteenuse pakkujad, sealhulgas digiplatvormid, või ringhäälinguorganisatsioonid), kelle roll piirdub kolmandate isikute loodud või manipuleeritud tehisintellektipõhise sisu levitamise või edastamisega või kes saavad tehisintellekti loodud või manipuleeritud sisu või puutuvad sellega kokku, ilma et neil oleks volitusi tehisintellektisüsteemi kasutamise üle tehisintellektipõhise sisu loomiseks või manipuleerimiseks, ei ole juurutajad tehisintellektimääruse tähenduses. Kuigi need osalejad ei ole tehisintellektimääruse kohaselt vastutavad, võib neil siiski olla väärtusahelas oluline roll, et säilitada teabeökosüsteemi usaldusväärsus ja terviklus. Seepärast soovitatakse neil tungivalt jätkata tehisintellektimääruse artikli 50 kohaselt kasutusele võetud märgistamist ning rakendada proportsionaalseid ja tehniliselt teostatavaid meetmeid, et füüsilised isikud saaksid ära tunda tehisintellekti loodud või manipuleeritud sisu, ilma et see piiraks generatiivsete tehisintellektisüsteemide pakkujate ja juurutajate vastutust või määrusest (EL) 2022/2065 (7) (digiteenuste määrus) või muust kohaldatavast liidu või riigisisesest õigusaktist tulenevaid kohustusi või vastutust.

(17)

Teistel osalejatel, kes tegutsevad kutsetegevuse raames ja levitavad sisu (isegi kui nad ei ole tehisintellektimääruse artikli 50 kohaselt otseselt kaasatud), soovitatakse samuti võtta proportsionaalseid ja asjakohaseid meetmeid, et füüsilised isikud, kes sisuga lõppkokkuvõttes kokku puutuvad, oleksid ka tegelikkuses kursis sisu kunstlikult loodud või manipuleeritud päritoluga ja suudaksid selle ära tunda. Lisaks võidakse neilt isikutelt nõuda, et nad märgistaksid vastavad süvavõltsingud või avalikku huvi pakkuvaid küsimusi käsitleva avaldatud teksti muude kohaldatavate õiguslike või deontoloogiliste normide alusel (nt ringhäälinguorganisatsioon märgistab eraisiku loodud süvavõltsingu ja näitab seda teleprogrammi raames). Ainuüksi asjaolu, et osaleja märgistab sisu või kasutab märgistatud sisu, ei tähenda siiski, et ta kvalifitseerub juurutajaks tehisintellektimääruse tähenduses. Tehisintellektimäärus ei laienda ega mõjuta nende osalejate õiguslikku vastutust kohaldatavate õigusraamistike alusel, kui nad ei kvalifitseeru samal ajal tehisintellektisüsteemide pakkujateks või juurutajateks.

2.4.   Erandid tehisintellektimääruse kohaldamisalast

(18)

Tehisintellektimääruse artikliga 2 on ette nähtud mitu üldist erandit tehisintellektimääruse kohaldamisalast, mida on juba selgitatud komisjoni suunistes tehisintellekti keelatud kasutusviiside kohta (8). Käesolevas punktis käsitletakse seega ainult neid aspekte, mis on tehisintellektimääruse artiklis 50 sätestatud läbipaistvuskohustuste seisukohast asjakohased.

2.4.1.   Juurutajad, kes tegutsevad üksnes isiklikul eesmärgil, mitte kutsetegevuse raames

(19)

Vastavalt tehisintellektimääruse artikli 2 lõikele 10 ei kohaldata määrust selliste füüsilistest isikutest juurutajate kohustuste suhtes, kes kasutavad tehisintellektisüsteeme isikliku, mitte kutsetegevuse käigus (9). Kutsetegevusena tuleks käsitada mis tahes tegevust, mille tulemusena füüsilised isikud saavad korrapäraselt majanduslikku kasu või on muul viisil seotud kutse-, äri-, kaubandus-, tööalase või vabakutselise tegevusega. Mõiste „isiklik“ näitab mittekutselisust, mis tähendab, et erandi kohaldamisalasse kuulumiseks peaks isiku tegevus olema nii isiklik kui ka mittekutseline. Igasugune kasutamine selliste füüsiliste isikute poolt, kes tegutsevad kutsetegevuse raames tegutseva juurutaja nimel või tema volitusel, kuulub tehisintellektimääruse artikli 50 lõigete 3 ja 4 kohaste kutselise juurutaja läbipaistvuskohustuste kohaldamisalasse.

Tehisintellektisüsteemide isiklik ja mitte kutsetegevuseks kasutamine, mis on kohaldamisalast välja jäetud, on näiteks:

—

see, kui isikud kasutavad tehisintellektisüsteemi oma leibkonna liikmetest süvavõltsingute loomiseks;

—

see, kui isikud kasutavad tehisintellektisüsteemi isiklikul eesmärgil tekstide koostamiseks eri teemadel (nt õpilased, kes kasutavad tehisintellekti oma kodutöö tegemiseks);

—

see, kui isikud kasutavad tehisintellektisüsteemi isiklikul eesmärgil sotsiaalmeedias levitatavate süvavõltsingute loomiseks.

(20)

Tehisintellektimääruse artikli 2 lõikega 10 ette nähtud erandit kohaldatakse üksnes juurutajate kohustuste suhtes, kui nad kasutavad süsteemi isiklikuks, mitte kutsetegevuseks. Süsteemi turule laskvate või kasutusele võtvate pakkujate ning süsteemi kutsetegevuse raames kasutavate juurutajate kohustustega seoses jääb süsteem kui selline tehisintellektimääruse kohaldamisalasse. Samuti ei mõjuta erand muude asjakohaste liidu ja riigisiseste õigusaktide kohaldamist.

Näiteks vastavalt tehisintellektimääruse artikli 50 lõikega 2 ette nähtud läbipaistvuskohustusega peaks isiklikul jõulukaardil kuvatavate süvavõltsingute loomiseks kasutatava tehisintellektisüsteemi pakkuja need süvavõltsingud masinloetavas vormis märgistama. Samal ajal ei hõlma tehisintellektimääruse artikli 50 lõike 4 kohane juurutaja kohustus olukorda, kus füüsilised isikud kasutavad süsteemi isiklikuks, mitte kutsetegevuseks.

2.4.2.   Teadus- ja arendustegevus

(21)

Tehisintellektimääruse artikli 2 lõikega 6 nähakse ette erand tehisintellektisüsteemidele või -mudelitele, sealhulgas nende väljunditele, mis on spetsiaalselt välja töötatud ja kasutusele võetud üksnes teadus- ja arendustegevuse eesmärgil. See erand ei piira kohaldatavaid teadusuuringute eetikastandardeid ega ELi andmekaitsealaseid ja muid õigusakte. Tehisintellektimääruse artikli 50 kontekstis hõlmab see erand nii interaktiivseid tehisintellektisüsteeme kui ka teadusuuringutes kasutatavate generatiivsete tehisintellektisüsteemide väljundeid (sh süvavõltsitud sisu). Kui aga need süsteemid võetakse kasutusele või nende väljundeid kasutatakse muul eesmärgil kui üksnes teadus- ja arendustegevuseks, tuleb tehisintellektimääruse artiklis 50 sätestatud asjakohaseid läbipaistvuskohustusi jätkuvalt täita.

Näiteks kui teadlased töötavad välja ja lasevad turule või võtavad kasutusele interaktiivse tehisintellektisüsteemi ning soovivad uurida, kas füüsilised isikud suudavad selle tehisintellektisüsteemiga suuliselt suheldes vahet teha tehisintellektisüsteemil ja inimesel, ei pea nad tehisintellektimääruse artikli 50 lõigetest 1 ja 2 tulenevaid vastavaid läbipaistvuskohustusi täitma. Kui aga sama interaktiivne tehisintellektisüsteem võetakse kasutusele ka muul eesmärgil kui teadus- ja arendustegevus, oleks vaja tehisintellektimääruse artiklis 50 sätestatud asjakohaseid läbipaistvuskohustusi täita.

(22)

Lisaks ei hõlma tehisintellektimääruse artikli 2 lõige 8 tehisintellektisüsteemide või -mudelitega seotud teadus-, testimis- või arendustegevust enne nende turule laskmist või kasutusele võtmist. See erand ei hõlma tegelikes tingimustes testimist (tehisintellekti regulatiivliivakastides või neist väljaspool). Lisaks sellele peab tehisintellektisüsteem juhul, kui see niisuguse sellise teadus- ja testimistegevuse tulemusena turule lastakse või kasutusele võetakse, vastama tehisintellektimääruse artiklist 50 tulenevatele asjakohastele läbipaistvuskohustustele (10).

2.4.3.   Vaba ja avatud lähtekoodiga litsentside alusel kättesaadavaks tehtud tehisintellekt

(23)

Tehisintellektimääruse artikli 2 lõike 12 kohaselt ei kuulu vaba ja avatud lähtekoodiga litsentside alusel tarbimisse lubatud tehisintellektisüsteemid tehisintellektimääruse kohaldamisalasse, tingimusel et nende suhtes ei kohaldata tehisintellektimääruse artiklis 5 sätestatud keelde ega artiklis 50 sätestatud läbipaistvuskohustusi või need ei ole liigitatud suure riskiga süsteemideks (11). See tähendab, et tehisintellektimääruse artikli 50 kohaldamisalasse kuuluvate avatud lähtekoodiga tehisintellektisüsteemide pakkujad ja juurutajad peavad endiselt tagama oma vastavate läbipaistvuskohustuste täitmise.

(24)

Seevastu tehisintellektimääruse artikli 50 kohaseid läbipaistvuskohustusi ei kohaldata selliste vaba ja avatud lähtekoodiga tehisintellektikomponentide pakkujate suhtes, mis hõlmavad tarkvara, andmeid, mudeleid, vahendeid, teenuseid või protsesse tehisintellektisüsteemi kohandamiseks ja integreerimiseks ning mis ei ole iseenesest (osaliselt või täielikult) tehisintellektisüsteemid. Selliste süsteemide pakkujatel soovitatakse siiski projekteerida neid mudeleid, komponente ja teenuseid allpool punktis 27 kirjeldatud viisil, kui see on proportsionaalne ja teostatav.

2.5.   Koostoime keelatud kasutusviiside, suure riskiga tehisintellektisüsteemidele esitatavate nõuete ja tehisintellektipädevusega

(25)

Tehisintellektimääruse põhjenduses 137 on selgitatud, et tehisintellektimääruse artikli 50 kohaste läbipaistvuskohustuste täitmist konkreetse tehisintellektisüsteemi puhul ei tohiks tõlgendada nii, et tehisintellektisüsteemi või selle väljundi kasutamine on tehisintellektimääruse alusel seaduslik. Eelkõige võivad tehisintellektisüsteemid, mille suhtes kohaldatakse tehisintellektimääruse artiklis 50 sätestatud kohustusi, kuuluda tehisintellektimääruse artikli 5 kohaldamisalasse ja seega olla keelatud (nt emotsioonituvastussüsteemide kasutamine töökohal või haridusasutustes) (12). Lisaks võivad tehisintellektimääruse artikli 50 kohaldamisalasse kuuluvad tehisintellektisüsteemid liigituda ka suure riskiga tehisintellektisüsteemideks (13) ning nende suhtes võidakse kohaldada selliste süsteemide puhul kehtivaid nõudeid ja kohustusi. Tehisintellektimääruse artikli 50 järgimine ei asenda, piira ega mõjuta seega tehisintellektimääruse muudest sätetest tulenevaid kohustusi (14). Samal ajal võivad tehisintellektisüsteemid kuuluda ka tehisintellektimääruse artikli 50 kohaldamisalasse, ilma et neid liigitataks tehisintellektimääruse artikli 6 kohaselt suure riskiga tehisintellektisüsteemideks. Tehisintellektimääruse artikli 50 kohaldamisalasse kuuluvate tehisintellektisüsteemide puhul kohaldatakse nii pakkujate kui ka juurutajate suhtes ka tehisintellektimääruse artikli 4 kohaseid nõudeid tehisintellektipädevuse kohta.

2.6.   Koostoime üldotstarbeliste tehisintellektimudelite ja/või -süsteemide suhtes kohaldatavate õigusnormidega

(26)

Tehisintellektimääruse artiklit 50 kohaldatakse teatavate tehisintellektisüsteemide suhtes, mis hõlmavad üldotstarbelisi tehisintellektisüsteeme (15), näiteks juturoboteid, mis toetavad vahetut suhtlust füüsiliste isikutega, või tehisintellektisüsteeme, mis on võimelised looma või manipuleerima sünteetilist sisu (sh süvavõltsingud) (16).

(27)

Tehisintellektimääruse artiklit 50 üldotstarbeliste tehisintellektimudelite suhtes sõnaselgelt ei kohaldata. Kui aga tehisintellektimääruse artikli 50 lõike 1 või 2 kohaldamisalasse kuuluv interaktiivne või generatiivne tehisintellektisüsteem põhineb sama pakkuja pakutaval üldotstarbelise tehisintellektimudelil, võidakse käesolevate suunistega ette nähtud läbipaistvusmeetmeid rakendada ka mudeli tasandil (vt ka 4. jagu allpool). Kuigi muude üldotstarbelise tehisintellekti mudelite ja muude generatiivsete tehisintellektimudelite pakkujad jäävad tehisintellektimääruse artikli 50 kohaldamisalast välja, soovitatakse ka neil rakendada mudeli tasandil asjakohaseid läbipaistvusmeetmeid interaktiivsete tehisintellektisüsteemide tuvastamiseks ning tehisintellekti loodud ja manipuleeritud sisu märgistamiseks. See on eriti kasulik, et hõlbustada tehisintellektisüsteemi järgmise etapi pakkujatel täita tehisintellektimääruse artikli 50 lõigetest 1 ja 2 tulenevaid kohustusi (17) ning aidata säilitada teabeökosüsteemi usaldusväärsus ja terviklus. Enesest süsteemset riski kujutavate üldotstarbelise tehisintellektimudelite puhul võivad mudeli tasandi ohutusmeetmed tehisintellektiga toimuva suhtluse kindlakstegemiseks ning tehisintellekti loodud või manipuleeritud sisu märgistamiseks asjakohasel juhul moodustada osa laiemast leevendusmeetmete kogumist, mida pakkujad võivad võtta osana oma kohustusest maandada süsteemseid riske vastavalt tehisintellektimääruse artikli 55 lõike 1 punktile b.

3.   TEHISINTELLEKTIMÄÄRUSE ARTIKLI 50 LÕIGE 1: INTERAKTIIVSETE TEHISINTELLEKTISÜSTEEMIDE LÄBIPAISTVUS

(28)

Tehisintellektimääruse artikli 50 lõige 1 puudutab vahetult füüsiliste isikutega suhtlevate tehisintellektisüsteemide pakkujaid, kes peavad projekteerima ja arendama oma süsteeme nii, et asjaomaseid füüsilisi isikuid teavitatakse sellest, et nad suhtlevad tehisintellektisüsteemiga. Nagu on selgitatud tehisintellektimääruse põhjenduses 132, on selle teavitamiskohustuse eesmärk võimaldada neil füüsilistel isikutel teha teadlikke otsuseid süsteemi väljundite kohta, vältida liigset tuginemist sellistele süsteemidele ning võimaldada neil füüsilistel isikutel kohandada vastavalt oma usaldust sisu ja suhtluse vastu.

3.1.   Põhikomponendid, mõisted ja nendega seotud läbipaistvuskohustus(ed)

(29)

Tehisintellektimääruse artikli 50 lõikega 1 ette nähtud läbipaistvuskohustust kohaldatakse tehisintellektisüsteemide pakkujate suhtes, kui süsteem on mõeldud suhtlema vahetult füüsiliste isikutega ja see suhtlus ei kuulu ühegi järgmise erandi alla: 1) see on piisavalt informeeritud, tähelepaneliku ja aruka füüsilise isiku jaoks ilmne või 2) süsteemi on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks, välja arvatud juhul, kui üldsus saab süsteemi kasutada kuritegudest teatamiseks.

3.1.1.   Tehisintellektisüsteemid, mis on mõeldud vahetult suhtlema füüsiliste isikutega

(30)

Selleks et süsteem kuuluks tehisintellektimääruse artikli 50 lõike 1 kohaldamisalasse, peab sellel olema neli elementi: i) süsteem peab olema tehisintellektisüsteem, ii) mis on mõeldud suhtlema iii) vahetult iv) füüsiliste isikutega.

i)

Tehisintellektisüsteem: süsteem peab vastama tehisintellektisüsteemi määratluse elementidele (18), mis välistab lihtsad automaatsed reageerimismehhanismid, mis ei ole tehisintellektipõhised (nt traditsioonilised e-kirjad kontorist eemaloleku kohta, reeglitel põhinevad kiirvastused).

ii)

Mõeldud suhtlema: tehisintellektisüsteem peab olema mõeldud suhtlema füüsiliste isikutega. Suhtlus hõlmab füüsiliste isikute ja tehisintellektisüsteemi vahelist kahesuunalist teabevahetust või tegevust, millel on tõeline vestluslik või reageeriv iseloom. See võib esineda mitmel kujul (nt akustiline, visuaalne ja füüsiline suhtlus). Füüsilistel isikutel peaks olema võimalik anda tehisintellektisüsteemile sisendit (nt kirjalik tekst või muud liiki sisu, hääl või füüsiline tegevus, kasutades nt tehnilisi sidevahendeid, sealhulgas internetipõhiste kasutajaliideste, telefoni või e-posti kaudu või vahetult), samal ajal kui tehisintellektisüsteem peaks olema võimeline reageerima kontekstipõhise väljundiga (sh mis tahes liiki sisu või tegevusega) ja vastupidi. Suhtlus võib hõlmata mis tahes liiki väljundit või vormingut, mida inimesed tajuvad ja mõistavad. Seda ei pea algatama inimene; see võib hõlmata ka tehisintellekti sisu või tegevust, mis kutsub esile inimese reaktsiooni. Suhtlus võib olla ühekordne (nt üks prompt, millele järgneb üks vastus) või toimuda teatava ajavahemiku jooksul (mitu suhtlusvooru). Süsteeme, mis koguvad andmeid üksnes passiivselt ega ole võimelised füüsiliste isikutega suhtlema (nt automaatne näotuvastusega juurdepääsukontroll) või lihtsalt koguvad ühekordset tagasisidet (nt rämpspostifiltrid), ei loeta füüsiliste isikutega suhtlevaks.

iii)

Vahetu suhtlus: tehisintellektisüsteemi ja füüsiliste isikute vaheline suhtlus peab olema vahetu. Tavaliselt tähendab see reaalajas või peaaegu reaalajas suhtlemist (sh süsteemi suutlikkuse kaudu kirjutada ja saata sõnumeid füüsilistele isikutele või muul viisil suhelda füüsilise või virtuaalse keskkonnaga, mida füüsilised isikud võivad tajuda). Vahetu suhtlus ei hõlma kaudset või vahendatud inimsuhtlust, kus füüsiline isik puutub tehisintellekti väljunditega kokku ilma süsteemiga vahetult suhtlemata (näiteks kui klienditeeninduse esindajad kasutavad tehisintellektivahendeid, mis aitavad neil füüsiliste isikutega suhelda, või kui tehisintellekti väljundit ei tee isikule kättesaadavaks tehisintellektisüsteem ise, vaid teine sisu levitav isik). Inimeste pelka võimalust tehisintellektisüsteemi väljunditesse sekkuda või neid kontrollida ei tohiks siiski kasutada tehisintellektimääruse artikli 50 lõike 1 kohase avalikustamisnõude kohaldamisest kõrvalehoidmiseks. Juhtumid, kus tooted ja teenused seovad tehisintellekti loodud vastused inimese hangitud sisuga, kuuluvad tehisintellektimääruse artikli 50 lõike 1 kohaldamisalasse ja nõuavad tehisintellekti loodud suhtluse konkreetsete väljundite avalikustamist, välja arvatud juhul, kui inimesed kui peamised kontaktisikud on need tehisintellekti väljundid nõuetekohaselt läbi vaadanud ja saatnud füüsilistele isikutele.

iv)

Füüsiliste isikutega: tehisintellektimääruse artikli 50 lõike 1 kohaselt peab tehisintellektisüsteem suhtlema füüsiliste isikutega. Need isikud võivad olla professionaalsed juurutajad, muud kasutajad (kes kasutavad süsteemi ka puhtalt isiklikeks tegevusteks) või muud isikud, kes kasutavad süsteemi nende nimel. Kohustuse kohaldamisalast on välja jäetud tehisintellektisüsteemid, mis töötavad suletud füüsilises keskkonnas (nt osana tööstusmasinate seadistusest), tehisintellektisüsteemide (sh tehisaruagentide) vahelised tagasüsteemi masinatevahelised kõned, mille väljundid ei ole mõeldud füüsilise isikuni jõudmiseks, või virtuaalkeskkonnad, millel puudub vahetu kontakt füüsiliste isikutega.

(31)

Tehisaruagendid kuuluvad tehisintellektimääruse artikli 50 lõike 1 kohaldamisalasse, kui nad suudavad suhelda neid juhendavate isikutega või teiste füüsiliste isikutega ülesannete täitmisel (nt broneeringute tegemine, kirjavahetuse haldamine, lepingute üle läbirääkimiste pidamine või nende sõlmimine, ostude tegemine jne). Tehisaruagendid peavad olema projekteeritud ja välja töötatud nii, et nad avalikustavad nii oma tehisliku olemuse kui ka isiku, kelle nimel nad tegutsevad, võttes arvesse vajadust vastutada päritolu läbipaistvuse ning volituste delegeerimise ja oma tegevuse tagajärgede eest. See hõlmab juhtumeid, kus tehisaruagendid on võimelised keerukates mitut agenti hõlmavates arhitektuurides suhtlema teiste tehisaruagentidega, kes suhtlevad ülesande täitmisel vahetult füüsiliste isikutega. Sellest hoolimata ei pruugi tehisaruagendi pakkujal alati olla võimalik eelnevalt kindlaks teha konkreetseid juhtumeid, kus tehisaruagent suhtleb vahetult teiste füüsiliste isikutega, kui tehisaruagent on eri kontekstides kasutusele võetud. Kui pakkuja ei suuda enne tehisaruagendi turule laskmist või kasutusele võtmist usaldusväärselt kindlaks teha, kas tehisaruagent suhtleb vahetult füüsilise isikuga, tuleks agent arhitektuuri tasandil kavandada selliselt ja anda talle korraldus, et ta avalikustaks ennast sellisena igas olukorras, kus on mõistlikult tõenäoline, et agent võib suhelda füüsilise isikuga (sh juhul, kui füüsiline isik võib esindada juriidilist isikut või tegutseda tema nimel). Lisaks peaksid tehisaruagendid avalikustama end juhendavatele isikutele ka olulistes etappides (nt autoriseerimise, teatamise, valideerimise jne ajal, sealhulgas juhul, kui kasutusele võetud tehisaruagent võtab vastu väljundeid, mille on loonud muud tehisintellektisüsteemid, mitte otseselt füüsiline isik, neid töötleb või neile tugineb) ja iga uue suhtluse ajal.

Vahetult füüsiliste isikutega suhtlema mõeldud tehisintellektisüsteemid, mis kuuluvad tehisintellektimääruse artikli 50 lõike 1 kohaldamisalasse, on näiteks:

—

tehisintellektipõhised häälele reageerivad virtuaalassistendid, juturobotid/vestlusagendid mitmesugustes olukordades (nt avalik teenus, klienditugi, kaebuste haldamine, e-kaubandus, rahandus, tervishoid, haridus jne);

—

tehisintellekti vihjeliin intsidentidest, pettustest või muust teatamiseks, (humanoid)robotid/koostöörobotid, tehisarukaaslased, robotlemmikloomad, tehisintellekti avatarid (nt virtuaalreaalsuse keskkondades);

—

tehisintellektirobotid sotsiaalvõrgustikes ja meedias, kodeerimisagendid ja muud tehisaruagendid, mis on võimelised füüsiliste isikutega vahetult suhtlema (sh keerukates mitut agenti hõlmavates arhitektuurides).

3.2.1.

Tehisintellektisüsteemid, mis ei suhtle vahetult füüsiliste isikutega ega kuulu tehisintellektimääruse artikli 50 lõike 1 kohaldamisalasse, on näiteks:

—

tehisintellektipõhised traditsioonilised tööstusrobotid, mis töötavad suletud tööstuskeskkonnas ega ole ette nähtud inimestega suhtlemiseks (nt elektroonikakoosterobotid);

—

tehisintellektipõhised soovitussüsteemid, rämpspostifiltrid, automaatsed tõlke- või transkriptsioonivahendid;

—

tehisintellektipõhine teabeotsing ilma sisu loomata või muutmata;

—

tehisintellektipõhised teksti ja koodi automaatse komplekteerimise tehnikad, autentimis-/biomeetrilise tuvastamise süsteemid, otsuste tegemise tugisüsteemide tagasüsteem, kus kasutaja üksnes näeb tehisintellekti väljundit ilma võimaluseta süsteemiga vahetult suhelda;

—

tehisintellektipõhised ennetavad hooldus- ja optimeerimissüsteemid tehastes ja tööstuslikes rakendustes, tehisintellektipõhine toodete visualiseerimine (nt toodete virtuaalne proovimine, ruumikujundus, toodetest virtuaalsete fotode tegemine), tehisintellektipõhised ühe promptiga teekonna planeerimise vahendid, käitumisanalüüsi jaoks töödeldud kliendikõnede transkriptsioon jne.

3.1.2.   Tehisintellektimääruse artikli 50 lõike 1 kohane teavitamiskohustus

(32)

Tehisintellektimääruse artikli 50 lõikega 1 pannakse füüsiliste isikutega vahetult suhtlevate tehisintellektisüsteemide pakkujatele kohustus tagada, et nende tehisintellektisüsteeme (sh tehisaruagendid ja üldotstarbelised tehisintellektisüsteemid) projekteeritakse ja arendatakse selliselt, et asjaomastele füüsilistele isikutele antakse teada, et nad suhtlevad tehisintellektisüsteemiga.

(33)

Kuigi teavitamismehhanism peaks olema integreeritud süsteemi projekteerimisse ja arendamisse ning sellesse, kuidas süsteem füüsiliste isikutega suhtleb, tuleks teave esitada tehisintellektisüsteemi töö ajal ja hiljemalt füüsilise isikuga toimuva esimese suhtlemise ajal (nagu on nõutud tehisintellektimääruse artikli 50 lõikes 5, vt 7. jagu allpool). Pakkujad peavad tagama, et pärast tehisintellektisüsteemi turule laskmist või kasutusele võtmist teavitatakse tehisintellektisüsteemiga suhtlevaid füüsilisi isikuid tõhusalt ja järjepidevalt turule lastud või kasutusele võetud tehisintellektisüsteemi kogu elutsükli jooksul.2.2

(34)

Teabe avalikustamise vorming: tehisintellektimääruse artikli 50 lõikega 1 ei ole kindlaks määratud ühtegi konkreetset teabe avalikustamise meetodit. Pakkujad võivad seega valida mis tahes sobiva meetodi, kui on täidetud kaks nõuet: i) tehisintellektimääruse artikli 50 lõike 5 kohased selge ja eristatava teabe esitamise nõuded on täidetud hiljemalt esimese suhtlemise ajal (vt 7. jagu allpool) ning ii) haavatavatesse rühmadesse kuuluvate füüsiliste isikute omadusi, mis tulenevad nende vanusest (nt lapsed või eakad) või puuetest, võetakse arvesse niivõrd, kui tehisintellektisüsteem on ette nähtud suhtlema või mõistliku tõenäosusega suhtleb nendesse rühmadesse kuuluvate füüsiliste isikutega (nt sealhulgas juhul, kui tehisintellektisüsteem suhtleb mõistliku tõenäosusega üldsusega) (19). Teave tuleb esitada ka puuetega füüsilistele isikutele ligipääsetavas vormingus, nagu on ette nähtud tehisintellektimääruse artikli 50 lõikega 5 ja põhjendusega 132 (vt 7. jagu). Kui süsteem võib suhelda lastega, peavad need teated olema lapsesõbralikud, eakohased, kergesti mõistetavad ja kergesti kättesaadavad kõigile lastele, sealhulgas puuetega või täiendavate ligipääsetavusvajadustega lastele. Kui see on võimalik ja asjakohane, soovitatakse pakkujatel kasutada standardseid avalikustamistavasid ja märgiseid, et tagada teadete tõhusus ja järjepidevus ning suurendada kasutajate teadlikkust.

(35)

Teate sisu: tehisintellektimääruse artikli 50 lõike 1 kohaselt peavad interaktiivsete tehisintellektisüsteemide pakkujad projekteerima ja arendama neid süsteeme nii, et kõiki selliste tehisintellektisüsteemidega suhtlevaid füüsilisi isikuid teavitatakse sõnaselgelt sellest, et nendega suhtlev vastaspool ei ole inimene, vaid tehisintellekt. Kui pakkuja võib mõistlikult prognoosida, et tehisintellektisüsteem võib suhelda eespool nimetatud haavatavatesse rühmadesse kuuluvate füüsiliste isikutega, tuleks teavet vastavalt kohandada ja see tuleks esitada ligipääsetavas vormingus, nagu on nõutud kohaldatavas liidu õiguses, et tagada, et ka need füüsilised isikud mõistavad seda teavet täielikult (20).

(36)

Teadetes tuleks esitada teave suhtluse tehisliku päritolu kohta viisil, mis vastab olukorrale, milles suheldakse. Seda tuleks teha viisil, mis tagab asjaomaste isikute nõuetekohase ja tõhusa teavitamise, vältides pettuse või manipuleerimise ohtu enne suhtlust ja selle ajal ning tagades samal ajal teostatava ja proportsionaalse avalikustamise. Teavet võib esitada näiteks kirjalike teadete (nt juturobot, mis teatab vestlust alustades, et selle toimine põhineb tehisintellektitehnoloogial), visuaalsete vahendite (nt tehisaruagendi genereeritud e-kiri füüsilisele isikule, mille ülaservas on tehisintellektimärgis), akustiliste vahendite (nt häälele reageeriv virtuaalassistent, mis teatab seansi alguses, et see on tehisintellektipõhine) või tehisintellekti identifikaatorite ja mandaatidega (nt tehisaruagendid avalikustavad oma AI-identiteedi niivõrd, kui see on kontrollitaval viisil võimalik) (21).

(37)

Teadete vorming: tehisintellektisüsteemi projekteerimisel soovitatakse hea tavana rakendada mitmeliigilisusest ja juurdepääsetavusest lähtuvat lähenemist avalikustamisele. Selliste teadete puhul võib vajaduse korral ja sõltuvalt olukorrast, eesmärgist, sihtrühmast ja prognoositavast kasutajaskonnast ning pakkujate, eelkõige väikeste ja keskmise suurusega ettevõtjate (edaspidi „VKEd“) olemasolevatest ressurssidest kasutada erinevaid meetodeid, et suurendada kasutajate arusaamist. Asjakohased meetodid võivad olla näiteks järgmised.

—

Avalikustamine tekstina (kasutajaliidesel põhinev): juturoboti kasutamisel silmatorkavad lihtsas keeles sildid või reklaamiribad (nt „Te suhtlete tehisintellektisüsteemiga“) ja esimesel pöördumisel edastatavad tervitused, mida võib vajaduse korral kombineerida püsiva märgistuse või siltidega, mis on kogu suhtluse jooksul nähtavad ning proportsionaalsed konkreetse konteksti ja riskidega. Lisaks on soovitatav paigutada avalikustatav teave suhtlusliidese lähedale (nt sisend-/väljundvälja lähedale) ja kasutada lihtsustatud sõnastust, eelkõige väiksema digikirjaoskusega kasutajate ja laste puhul.

—

Avalikustamine akustiliste vahenditega: häälside või telefoniside kontekstis sõnaselged suulised avaldused suhtluse alguses (nt „See on tehisintellektil põhinev assistent“), kombineerituna vajaduse korral korrapäraste meeldetuletustega pikema suhtluse käigus, eelkõige katkestuste korral või kui tehisintellektisüsteemi roll kasutajateekonna ajal muutub. Äratundmist võivad toetada selgelt kuuldavad helisignaalid (nt toonid või helimärgid), eriti nägemispuudega kasutajate puhul, kuid neid ei peeta iseenesest piisavaks.

—

Visuaalsed/graafilised märgid: tehisintellektisüsteemi projekteerimine nii, et tekstina avalikustamist täiendavad püsivad ikoonid, vesimärgid, värvilised raamid või äratuntavad tehisintellekti sümbolid. Soovitatav on kasutada standarditud visuaalseid näitajaid, sealhulgas pakkuja teenuste lõikes, kuna sellised näitajad võivad märkimisväärselt kognitiivset koormust vähendada ja äratuntavust suurendada.

—

Mitmeliigilised kombinatsioonid: teksti, auditiivsel ja visuaalsel kujul esitatud märkide kombinatsioon (nt juturobot, mis kuvab märgist ja esitab kasutamise alguses ka teksti kujul teate), mille eesmärk on tagada ligipääsetavus ja suurendada selgust eri kasutajarühmade jaoks.

(38)

Teatavad meetodid ei ole vajalikud ja on üksi kasutamise korral tehisintellektimääruse artikli 50 lõigetega 1 ja 5 ette nähtud läbipaistvuskohustuse tegelikuks täitmiseks ebapiisavad; need meetodid on eelkõige järgmised:

—

see, kui teave avalikustatakse üksnes tingimustes, URL-aadressidel või dokumentides (selline avalikustatav teave võib kontekstipõhist avalikustamist täiendada, kuid mitte asendada);

—

masinloetavad märgised (nt metaandmed või vesimärgid), mis ei ole kasutajatele suhtluse kestel tajutavad. See ei mõjuta selliste märgiste vastavust tehisintellektimääruse artikli 50 lõikele 2 (vt 4. jagu);

—

ebaselged või mitmeti mõistetavad signaalid (nt üldised viited „assistendile“) või inimesesarnased kujutised, mis võivad kasutajaid eksitada;

—

üldsõnaliselt avalikustatav teave, mis ei ole tehisintellektisüsteemi väljundite ja vastasmõjude seisukohast piisavalt konkreetne(nt mitmesuguseid teenuseid või individuaalseid sisendeid pakkuval platvormile ei piisa sellest, kui avaldada näiteks selline üldine teade nagu „Selle veebisaidi teenused kasutavad tehisintellekti“);

—

tehnilised või suutlikkusel põhinevad kirjeldused: väited, mis viitavad üksnes alustehnoloogiale (nt „selles süsteemis kasutatakse suurt keelemudelit“), ilma et selgitataks süsteemi funktsiooni või mõju kasutajale ja selle tehislikku päritolu.

(39)

Avalikustatav teave peaks olema proportsionaalne ja kohandatud tehisintellektisüsteemi eri kontekstidele ja sihtrühmadele, et tagada selle tõhusus ja kasutajasõbralikkus ning vältida võimaluse piires kasutajakogemuse häireid või harjumuse tekkimist (nn reklaamiribapimedus).

(40)

Tehisintellektimääruse artikli 50 lõikega 1 ette nähtud kohustuse täitmiseks piisab enamikul juhtudel tõenäoliselt ühest silmatorkavast teatest enne seda, kui tehisintellektisüsteem konkreetse füüsilise isikuga suhtlust alustab. Teatavates riskantsemates olukordades on siiski tõenäoliselt vaja perioodilisi meeldetuletusi ja teabe kontekstiteadlikku avalikustamist, et tagada kasutajate jätkuv teadlikkus. See kehtib eelkõige siis, kui tehisintellektisüsteemid suhtlevad haavatavate isikutega (nt lapsed, eakad, puuetega inimesed ja väiksema kirjaoskusega inimesed), kui toimub pidev ja arenev suhtlus tundlikus või immersiivses kontekstis (nt kui kasutajad võivad väljendada või kogeda emotsionaalset stressi või haavatavust või olla sõltuvuselaadse käitumise ohus), kui on suurem oht, et kasutajaid eksitatakse (nt finantsnõustamine, kindlustus, õigusabi, tervisenõustamine ja kaebuste käsitlemine) või luuakse emotsionaalseid sidemeid või sõltuvusi (nt tehisarukaaslased), samuti siis, kui on vaja tagada teadlikkus tehisaruagentide tegevusest ja kontroll selle üle. Samuti peavad pakkujad tehisintellektisüsteemi projekteerima ja arendama nii, et tagada teabe avalikustamine kõigis olukordades, kus tehisintellektisüsteemile esitatakse küsimusi selle olemuse või suhtluse päritolu kohta või kui füüsilise isikuga toimunud teabevahetuse põhjal võib põhjendatult eeldada, et seda isikut võidakse suhtluse tehisintellekti päritolu suhtes eksitada või segadusse ajada.

3.2.   Erandid tehisintellektimääruse artikli 50 lõike 1 kohasest teavitamiskohustusest

(41)

Tehisintellektimääruse artikli 50 lõikega 1 on ette nähtud kaks erandit teavitamiskohustusest seoses interaktiivsete tehisintellektisüsteemidega, mida käsitletakse allpool.

3.2.1.   Erand tehisintellektisüsteemiga toimuva ilmse suhtluse korral

(42)

Selleks et pakkujad saaksid kasutada esimest erandit, peavad nad hindama ja tõendama järgmist: i) suhtlus on ilmselgelt tehislikku laadi ja see toimub ii) füüsilise isikuga, kes peab olema piisavalt informeeritud, tähelepanelik ja arukas, võttes arvesse asjaolusid ja kasutamise konteksti.

(43)

Selle nõude alus on ELi väljakujunenud tarbijakaitseõiguses esineval mõistel „keskmine tarbija“ ja seda tuleks tõlgendada järjepidevalt, võttes samal ajal arvesse füüsiliste isikutega vahetult suhtlevate tehisintellektisüsteemide spetsiifilist ja varieeruvat konteksti ja kasutamist ning tehisintellektimääruse artikli 50 lõike 1 eesmärke.

(44)

Sellise „keskmise“ füüsilise isiku kindlaksmääramine toimub kahes etapis. Esiteks peaksid pakkujad arvesse võtma kasutajaskonda, millega tehisintellektisüsteem on mõeldud suhtlema ja millega see mõistliku tõenäosusega suhtleb. Teiseks peaks pakkuja uurima, kui piisavalt informeeritud, tähelepanelik ja arukas on selle kasutajaskonna keskmine liige, võttes arvesse kasutamise asjaolusid ja konteksti. Sellisel hindamisel tuleks arvesse võtta mitut tegurit.

—

Pakkujad peaksid arvesse võtma tehisintellektisüsteemi sihtrühma ja mõistlikult prognoositavat laiemat võimalikku kasutajaskonda. See kehtib eelkõige juhul, kui üldsusel on tehisintellektisüsteemile lihtne juurdepääs või kui süsteem toimib virtuaalses või füüsilises avalikus ruumis ja on suutlik suhtlema nendes ruumides viibivate füüsiliste isikutega. Tehisintellektisüsteemiga kokku puutuda võiv kasutajaskond ei ole alati sihtrühm.

—

Pakkujad peaksid kooskõlas tehisintellektimääruse põhjendusega 132 arvesse võtma sihtrühma ja mõistlikult prognoositava kasutajaskonna võimalikku erinevat koosseisu. Kui sellesse kasutajaskonda kuuluvad tõenäoliselt puuetega inimesed, eakad või alaealised, on sellise kasutajaskonna keskmise liikme teadmiste, tähelepanelikkuse ja ettevaatlikkuse eeldatav tase madalam kui sellise kasutajaskonna keskmisel liikmel, kus neid isikute kategooriaid ei kuulu. Seevastu juhul, kui interaktiivne tehisintellektisüsteem on kättesaadav ainult professionaalidest või spetsialistidest sihtrühmale, võib see positiivselt mõjutada teadmiste, tähelepanelikkuse ja ettevaatlikkuse eeldatavat taset ning selle sihtrühma keskmist liiget võib pidada paremini informeerituks, tähelepanelikumaks ja ettevaatlikumaks.

—

Pakkujad peaksid osana üldisematest asjaoludest ja kasutamise kontekstist arvesse võtma sihtrühma ja mõistlikult prognoositava kasutajaskonna digikirjaoskuse ja tehisintellektipädevuse taset ning asjakohaseid sotsiaalseid, kultuurilisi ja keelelisi tegureid.

(45)

Ilmselgus: kui pakkuja on hüpoteetilise piisavalt informeeritud, tähelepaneliku ja aruka füüsilise isiku kindlaks teinud, peaks ta hindama, kas sellise isiku jaoks on ilmselge, et ta suhtleb vahetult tehisintellektisüsteemiga. Erandit tuleks tõlgendada kitsendavalt, kuna see jätab füüsilised isikud ilma kaitsest ja õigusest saada selget ja eristatavat teavet selle kohta, et nad suhtlevad tehisintellektisüsteemidega. Tarbijate ja muude füüsiliste isikute üldine teadlikkus tehisintellektisüsteemide (sh juturobotite ja agentide) olemasolust ei tähenda, et nad need suhtluses ära tunnevad. Selle hindamisel, kas suhtlus on ilmne, võivad olla asjakohased mitu tegurit, mida tuleks arvesse võtta.

—

Suhtluse eeldatav olemus: neil juhtudel, kui tehisintellektisüsteem suhtleb füüsiliselt füüsiliste isikutega, võivad asjakohased elemendid hõlmata mehaaniliste komponentide nähtavust (mis selgust suurendaks) või seda, mil määral tehisintellektisüsteem oma mittetehislikku ekvivalenti autentselt kopeerib (mis selgust vähendaks). Visuaalse või akustilise suhtluse puhul võivad seda hinnangut mõjutada sellised elemendid nagu kirjutamis- või kõnemustrid, hääletoon (roboti hääl vs. tõelise inimese häälena kõlav hääl), kasutajaliidese kujundus (nt juturobotiga seotud profiilipilt, millel on inimene) ja suutlikkus kõrgetasemeliseks personaalseks suhtluseks.

—

Sihtrühma ja prognoositava kasutajaskonna koosseis: kui interaktiivset tehisintellektisüsteemi saab kasutada ainult professionaalidest või spetsialistidest sihtrühm, ilma et sellega võiksid kokku puutuda haavatavad rühmad, võib see suurendada tõenäosust, et suhtluse tehislik olemus on asjaomase sihtrühma keskmise liikme jaoks ilmne. Seevastu juhul, kui tehisintellektisüsteemi võivad kasutada üldsuse liikmed või tarbijad, kelle hulka kuuluvad ka haavatavad isikud (nt lapsed, eakad, kognitiivse, füüsilise või vaimse puudega isikud või väiksema tehisintellektipädevusega isikud), kelle jaoks suhtlus ei ole nii ilmne, ei saa nende haavatavate isikute tõhusa kaitsmiseks erandile tugineda.

—

Samuti tuleks arvesse võtta asjaolu, et füüsilistel isikutel on üha raskem aru saada, kas suheldakse tehisintellektisüsteemiga või tegeliku inimesega. Avataride ja agentide kasutamise, internetis toimuva suhtluse üldise anonüümsuse ning tehisintellektisüsteemide võime tõttu kirjutada ja suhelda inimlikul viisil peaks ilmselgusel põhinev erand piirduma juhtudega, kus sihtrühma kuuluva ja mõistlikult prognoositavasse kasutajaskonda kuuluva keskmise isiku jaoks ei ole suhtluse laadis peaaegu mingit kahtlust.

Ilmselguse juhud, mille puhul tehisintellektimääruse artikli 50 lõike 1 kohast läbipaistvuskohustust ei kohaldata, on näiteks:

—

tehisintellektil põhinevad koodiabi ja koodikontrolli juturobotid, mis on kättesaadavad ainult kutselistele arendajatele, kellel ei ole oma tänu oma eksperditeadmistele ja kasutamise kontekstile mõistlikke ootusi inimesega suhtlemiseks ja kes suudavad kergesti ära tunda, et soovitusi esitab tehisintellektisüsteem;

—

asutusesisene töötajatega suhtlev assistent nõuetekohaselt koolitatud töötajatele, kes on tehisintellekti alal pädevad ja teadlikud sellest, et nad kasutavad tehisintellektisüsteeme asutusesisestel eesmärkidel (nt personal, õigus, hanked, nõuetele vastavus või IT-tugi);

—

interaktiivsed tehisintellektisüsteemid, mis on mõeldud kasutamiseks üksnes nõuetekohaselt koolitatud tervishoiutöötajatele, et toetada meditsiinilist diagnoosimist ja soovitada vastavat ravi;

—

kodutehnikasse integreeritud ümbrusintellekt, mille funktsioonid on piiratud kodutehnika abi ja toimimisega;

—

suhtlus tehisintellekti juhitavate mängijaväliste tegelastega (Non-Playable Characters) ühe mängijaga videomängus, kus videomängu olemusest nähtub selgelt, et ükski teine füüsiline isik ei saa osaleda ega kasutajaga suhelda ning suhtluse tehisintellektipõhine olemus on ilmne ka kõigile kasutajatele (sh haavatavatele isikutele).

Ilmselguse puhul kehtivale erandile ei vasta ja tehisintellektimääruse artikli 50 lõike 1 kohase läbipaistvuskohustuse kohaldamisalasse kuuluvad näiteks:

—

tehisintellektil põhinevad robotlemmikloomad, kes on väga sarnased oma looduslikule vastele ning on projekteeritud jäljendama tüüpilist inimese ja lemmiklooma vahelist suhtlust, tekitades ebaselgust küsimuses, kas suhtlus toimub tehisintellektisüsteemiga või mitte;

—

tehisintellektisüsteemid, mis on integreeritud immersiivsesse keskkonda (nt virtuaal- või liitreaalsus), kasutades realistlikke avatare või inimeste häältele sarnanevaid hääli, mille puhul kasutajad ja eelkõige lapsed, eakad või puuetega inimesed ei pruugi olla võimelised kergesti eristama, kas nad suhtlevad inimese või tehisintellektiga;

—

veebiplatvormidesse või abivahenditesse (kasutajatugi) integreeritud tehisintellekti juturobotid, mille puhul kasutajad suhtlevad vahetult ja saavad tehisintellekti väljundeid (nt vastused päringutele või muu tehisintellekti loodud sisu), mida nad võivad tajuda inimese looduna.

3.2.2.   Erand tehisintellektisüsteemidele, mis on seadusega lubatud õiguskaitse eesmärgil

(46)

Interaktiivsete tehisintellektisüsteemide pakkujad on tehisintellektimääruse artikli 50 lõike 1 kohasest läbipaistvuskohustusest vabastatud, kui neid süsteeme on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks ja uurimiseks või nende eest vastutusele võtmiseks, tingimusel et kolmandate isikute õiguste ja vabaduste kaitseks kohaldatakse asjakohaseid kaitsemeetmeid.

(47)

Väljendit „seadusega lubatud“ tuleb mõista nii, et see hõlmab nii liidu õigusakte kui ka liikmesriikide õigusakte, mis on vastu võetud kooskõlas liidu õigusega. Tehisintellektisüsteemi kasutamist lubavas õigusaktis peavad olema selgelt loetletud lubatud kasutamise eesmärgid ja asjaolud ning nähtud ette asjakohased meetmed kolmandate isikute õiguste ja vabaduste kaitseks. Kuna tehisintellektimääruse lähenemisviis on tehnoloogianeutraalne, ei ole vaja seadusega kindlaks määrata konkreetseid tehisintellektisüsteeme või neile lube anda, kui tehisintellektisüsteemi kasutamine on seadusega lubatud tegevuse raames üldiselt ette nähtud ja vastab kohaldatavale õigusraamistikule.

(48)

Selle erandi alla kuulumiseks peab tehisintellektisüsteemi eesmärk olema kuritegude avastamine, tõkestamine, uurimine või nende eest vastutusele võtmine (nt varjatud tehisaruagent või tehisintellektisüsteemid, mida kasutatakse inimestest uurijate kontrolli all internetiuurimisteks või suhtlemiseks isikutega, kes võivad olla seotud kuritegevusega). Erand ei piirdu selliste tehisintellektisüsteemide kasutamisega üksnes tehisintellektimääruse artikli 3 punktis 48 määratletud õiguskaitseasutuste poolt, vaid võib hõlmata ka interaktiivseid (või generatiivseid) tehisintellektisüsteeme, mida kasutavad muud liidu või riiklikud ametiasutused, kui nende kasutamine on seadusega lubatud kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks ning tingimusel, et kohaldatakse asjakohaseid kaitsemeetmeid kolmandate isikute õiguste ja vabaduste kaitsmiseks. Erandi jaoks ei ole vaja, et tehisintellektisüsteem oleks võimeline sõltumatult uurimisi toimetama. Kui asjaomast süsteemi saab kasutada nii õiguskaitse eesmärkidel kui ka muudel tavapärastel eesmärkidel, tuleks erandi kohaldatavust hinnata konkreetse kasutamise valguses. Läbipaistvuskohustused kehtivad jätkuvalt juhul, kui sama tehisintellektisüsteemi kasutatakse muudel eesmärkidel kui kuritegude seaduslikult lubatud avastamine, tõkestamine, uurimine või nende eest vastutusele võtmine. Füüsilistele isikutele tuleb endiselt tagada läbipaistvus, kui nad suhtlevad süsteemiga selle tavapärastel eesmärkidel.

(49)

Erandit ei kohaldata, kui i) tehisintellektisüsteem on üldsusele kättesaadav ja ii) süsteem pakub üksikisikutele kuritegudest teatamise funktsiooni. Selliseid süsteeme võib kasutada, kuid nende puhul kehtib jätkuvalt tehisintellektimääruse artikli 50 lõike 1 kohane läbipaistvuskohustus, seega tuleb füüsilisi isikuid teavitada, et nad suhtlevad selliste süsteemidega.

Suurema selguse huvides olgu märgitud, et see erand puudutab üksnes artikli 50 lõike 1 kohast kohustust teavitada füüsilisi isikuid sellest, et nad suhtlevad tehisintellektisüsteemiga (22). See ei piira kohaldatava liidu ja liikmesriigi õiguse, sealhulgas tõendite dokumenteerimist, avalikustamist, vastuvõetavust ja hindamist käsitlevate menetlusnormide kohaldamist.

Üldsusele kuritegudest teatamiseks kättesaadavaks tehtud tehisintellektisüsteemid, mille suhtes ei kohaldata erandit ja mis kuuluvad tehisintellektimääruse artikli 50 lõike 1 kohaldamisalasse, on näiteks:

—

politsei ametlikel veebisaitidel või mobiilirakendustes kasutatavad tehisintellektipõhised politsei juturobotid, mis võimaldavad üksikisikutel teatada kuritegudest või esitada kaebusi. Need süsteemid suunavad kasutajaid struktureeritud küsimuste abil, koguvad asjakohast teavet ja triaažiaruandeid enne nende edastamist inimestest ametnikele hindamiseks;

—

tehisintellektil põhinevad vihjeliinid, mida haldab politsei või muu õiguskaitseasutus üldiste avalike uurimiste eesmärgil;

—

tehisintellektipõhised pettustest teatamise vihjeliinid või finantsasutuste või avaliku sektori asutuste hallatavad digiportaalid, kus kasutajad saavad teatada arvatavatest finantskuritegudest. Tehisintellektisüsteem suhtleb kasutajaga, et koguda üksikasju, liigitada teade ja prioriseerida juhtumeid, kuid enne meetmete võtmist valideerivad teabe inimestest uurijad;

—

virtuaalassistendid, mida kasutatakse tunnistajate ütluste kogumiseks ja mille abil ohvrid või tunnistajad saavad esitada teavet tehisintellektipõhise liidese kaudu. Sellised tehisintellektisüsteemid võivad toetada mitmekeelset sisendit, ligipääsetavuselemente ja struktureeritud tõendite esitamist, kuid lõpphindamine ja uurimistoimingud jäävad inimestest ametnike ülesandeks.

3.3.   Koostoime liidu teiste õigusaktidega

(50)

Tehisintellektimääruse artikli 50 lõike 1 kohast läbipaistvuskohustust kohaldatakse, ilma et see piiraks selliste kehtivate liidu õigusaktide kohaldamist, mis käsitlevad tarbijakaitset, andmekaitset, digiteerimist või mittediskrimineerimist ning millega võidakse nõuda muu teabe avalikustamist, mis ei ole konkreetselt seotud suhtluse tehisintellektipõhise päritoluga. Eelkõige on direktiivi 2005/29/EÜ (23) (ebaausate kaubandustavade direktiiv) kohaselt keelatud toote või teenuse põhiomadustega seotud eksitav tegevus või tegevusetus. Lisaks nõutakse direktiiviga 2011/83/EÜ (24) (tarbijaõiguste direktiiv), et kauplejad esitaksid selge ja arusaadava lepingueelse teabe kauba või teenuse põhiomaduste kohta. Kui teenus on tehisintellektipõhine (nt tellimuspõhine juturobot, tehisarukaaslase rakendus või virtuaalne koolitusteenus), võib tehisintellekti funktsionaalsus kvalifitseeruda põhiomaduseks, mis tuleb avalikustada enne, kui leping muutub tarbija jaoks siduvaks. Liidu tarbijakaitseõigusest tulenevaid teavitamiskohustusi kohaldatakse olenemata sellest, kas suhtlust peetakse tehisintellektimääruse artikli 50 lõike 1 kohaselt ilmseks. Need kohustused täiendavad ka tarbijakaitsealase teavitamise üldisi kohustusi, samas kui tehisintellektimääruse kohane teatamiskohustus sõltub rohkem kontekstist ja selle eesmärk on tagada kõigi füüsiliste isikute pidev teadlikkus vahetust suhtlusest tehisintellektisüsteemiga vähemalt enne suhtluse algust ja kogu suhtluse jooksul.

(51)

Digiteenuste määrus sisaldab ka digiplatvormide soovitussüsteemidele esitatavaid läbipaistvusnõudeid, sealhulgas nõuet selgitada peamisi järjestusparameetreid. Need kohustused täiendavad tehisintellektimääruse artikli 50 lõikega 1 ette nähtud läbipaistvuskohustusi, kuna neil on erinev kohaldamisala ja eesmärk ning need puudutavad süsteeme, mis põhimõtteliselt ei suhtle kasutajatega vahetult tehisintellektimääruse artikli 50 lõike 1 tähenduses.

(52)

Mis puudutab liidu andmekaitsealastest õigusaktidest tulenevaid andmesubjektide teavitamise kohustusi, siis täidab tehisintellektimääruse artikli 50 lõikes 1 sätestatud kohustus nendest kohustustest erinevat eesmärki ega mõjuta seega neid teavitamiskohustusi.

(53)

Samamoodi kohaldatakse tehisintellektimääruse artikli 50 lõike 1 kohast läbipaistvuskohustust, ilma et see piiraks selliste liidu ja liikmesriikide õigusaktide kohaldamist, mis käsitlevad isikute teavitamist kriminaalmenetluses (nt direktiiv 2012/13/EL või direktiiv 2012/29/EL, mida on muudetud direktiiviga (EL) 2026/1472) (25).

4.   TEHISINTELLEKTIMÄÄRUSE ARTIKLI 50 LÕIGE 2: TEHISINTELLEKTI LOODUD VÕI MANIPULEERITUD SISU MÄRGISTAMINE JA TUVASTAMINE

(54)

Tehisintellektimääruse artikli 50 lõike 2 kohaselt peavad sünteetilist sisu genereerivate tehisintellektisüsteemide pakkujad rakendama teatavatele kvaliteedinõuetele vastavaid tehnilisi lahendusi, mis tagavad, et nende tehisintellektisüsteemide väljundid on masinloetavas vormingus märgistatud ja tuvastatavad. Eesmärk on võimaldada füüsilistel isikutel eristada tehisintellekti loodud või manipuleeritud sisu muust sisust (nt inimeste loodud sisust) ja kontrollida selle päritolu, aidates sellega ka suurendada teabeökosüsteemi terviklust ja usaldusväärsust.

(55)

Sellest läbipaistvuskohustusest on seega kasu kõigil füüsilistel isikutel, kes tehisintellekti loodud või manipuleeritud sisuga tõenäoliselt kokku puutuvad, samuti peamistel osalejatel, kellel on oluline roll teabeökosüsteemi usaldusväärsuse ja tervikluse tagamisel, nagu pädevad turujärelevalveasutused ja muud pädevad asutused, sõltumatud teadlased, kodanikuühiskonna organisatsioonid, meedia, usaldusväärsed teavitajad, põhiõiguste kaitsjad, digiplatvormide ja internetipõhiste otsingumootorite pakkujad, õiguste omajad ning muud sisu loojad ja levitajad jne.

4.1.   Tehisintellektimääruse artikli 50 lõike 2 kohased põhikomponendid ja mõisted

(56)

Tehisintellektimääruse artikli 50 lõiget 2 kohaldatakse juhul, kui on täidetud mitu kumulatiivset tingimust:

i)

süsteem peab kvalifitseeruma tehisintellektisüsteemiks;

ii)

tehisintellektisüsteem peab olema suuteline looma sünteetilist sisu või seda manipuleerima;

iii)

sisu peab olema ühes või mitmes järgmistest vormidest: audio, pilt, video või tekst;

iv)

tehisintellektisüsteem ei tohi kuuluda ühegi järgmise erandi alla: 1) tehisintellektisüsteem täidab standardse redigeerimise abifunktsiooni; 2) tehisintellektisüsteem ei muuda oluliselt juurutaja esitatud sisendandmeid või nende semantikat või 3) tehisintellektisüsteemi on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks.

4.1.1.   Tehisintellektisüsteemid, mis loovad või manipuleerivad sünteetilist sisu

(57)

Tehisintellektimääruse artikli 50 lõiget 2 kohaldatakse tehisintellektisüsteemide (26), sealhulgas tehisintellektipõhiste üldotstarbeliste tehisintellektisüsteemide suhtes, mis loovad sünteetilist audio-, pildi-, video- või tekstisisu. Tehisintellektimääruse artikli 50 lõige 2 hõlmab süsteemide alarühma, mis vastab tehisintellektimääruse artikli 3 punktis 1 esitatud tehisintellektisüsteemi määratlusele ja loob selliseid väljundeid. Tehisintellektimääruse artikli 50 lõige 2 hõlmab ka tehisintellektisüsteeme, mida kasutatakse sisu manipuleerimiseks.

(58)

Sisu loomine tähendab, et tehisintellektisüsteem loob sünteetilist materjali (nt inimese algatusel), näiteks sünteetilise pildi või laulu. Praktikas tähendab see, et tehisintellektimääruse artikli 50 lõiget 2 võib kohaldada generatiivsete tehisintellektisüsteemide suhtes, mis on projekteeritud kitsa sihtotstarbega genereerida konkreetseid väljundeid. Samal ajal kohaldatakse tehisintellektimääruse artikli 50 lõiget 2 ka selliste tehisintellektisüsteemide suhtes, millel võib olla mitu eesmärki (sh üldotstarbelised tehisintellektisüsteemid) ja mis võivad genereerida mitmesugust liiki sisu, ning agentsete tehisintellektisüsteemide suhtes, kui need loovad sünteetilist audio-, pildi-, video- või tekstisisu.

(59)

Seevastu sisu manipuleerimine viitab juba olemasolevale sisule (sünteetilisele või mitte), mida tehisintellektisüsteem muudab (nt olemasolev kujutis või häälesalvestis, mida tehisintellektisüsteem manipuleerib vastavalt inimese juhistele). Selleks et sisu kuuluks tehisintellektimääruse artikli 50 lõike 2 kohaldamisalasse, piisab, kui see on tehisintellekti loodud või seda on tehisintellektiga manipuleeritud tehisintellektimääruse artikli 50 lõikega 2 ette nähtud erandite kohasest standardsest redigeerimisest enam (vt jaotis 4.3). Lisaks ei ole tehisintellektimääruse artikli 50 lõikes 2 nõutud, et sisu peab olema loodud või manipuleeritud üksnes tehisintellekti abil. Ka inimese loodud materjali hõlmav sisu kvalifitseerub sünteetiliseks sisuks, kui seda manipuleeritakse või see luuakse ühel tehisintellektimääruse artikli 50 lõikes 2 osutatud viisidest.

4.1.2.   Kohaldamisalasse kuuluvad sünteetilise sisu vormid

(60)

Tehisintellektimääruse artikli 50 lõikes 2 on esitatud ammendav loetelu läbipaistvuskohustusega hõlmatud sünteetilise sisu vormidest, milleks on audio-, pildi-, video- või tekstisisu. See hõlmab ka mitut vormi hõlmavat sisu, st sisu, mis koosneb nende vormide kombinatsioonist. Tehisintellektimääruse artikli 50 lõike 2 kohaldamisel tuleb eri vorme tõlgendada kooskõlas praktilise ja tehnoloogilise arenguga, mis võib aja jooksul muutuda. Praegu tuleks neid mõista järgmiselt.

—

Tekst on eraldiseisev sümboolne sisu; see koosneb kindlasse järjekorda paigutatud tähemärkidest või numbritest, mida inimesed suudavad lugeda ja semantilises mõttes tõlgendada.

—

Pilt on staatiline ruumiline kujutis, millesse on kodeeritud visuaalne teave ja mida inimene saab näha.

—

Audio on ajas muutuv signaal, millesse on kodeeritud heli, mida inimene on võimeline kuulmise kaudu tajuma. See võib tähendada kõnet, instrumentaalmuusikat või muid helisignaale.

—

Video on ajapõhine piltide jada, mis võib olla sünkroniseeritud heliga ja mida inimene saab näha. Sellisel juhul peavad nii video- kui ka audiosisu olema märgistatud ning tuleb tagada tuvastatavus, nagu on kirjeldatud allpool.

(61)

Tehisintellektimääruse artikli 50 lõike 2 kohaldamisalasse kuuluvad tehisintellektisüsteemid, mis loovad või manipuleerivad 3D-kujutisi, 3D-videoid ja 3D-heli ning virtuaal-, liit- või segareaalsust. „Virtuaalreaalsus“ tähistab tehisintellektitehnoloogiat, mis võimaldab kasutajatel kogeda füüsilist kohalolekut simuleerivat arvuti loodud keskkonda ja sellega suhelda ning võimaldab kasutajatel selle keskkonnaga reaalajas suhelda. Kuna virtuaal- ja liitreaalsus koosnevad ajapõhisest kujutiste jadast, mis võib olla sünkroniseeritud heliga ja mis kujutab endast visuaalset muutust aja jooksul, võib seda pidada videosisuks. Vastav väljund, mis peab olema märgistatud, on konkreetse tehisintellekti loodud vara lõplik vorm, välja arvatud konkreetsed erandid punktis 88 osutatud reaalajas toimuvate ajutiste interaktiivsete seansside puhul. Digitaalsed tehised, nagu punktipilv või 3D-võrk, mida kasutatakse 3D-kujutiste, 3D-videote ja 3D-audiosisu loomiseks, ei pea olema märgistatud.

(62)

Digiteisikud, mis kujutavad enesest isikute, füüsiliste objektide või süsteemide virtuaalset koopiat ja sisaldavad mitut andmeliiki, kuuluvad samuti tehisintellektimääruse artikli 50 lõike 2 kohaldamisalasse, kui need on tehisintellekti loodud või manipuleeritud ning need esinevad audio, pildi, video või teksti kujul, välja arvatud juhul, kui need kuuluvad erandite alla ja kvalifitseeruvad allpool punktis 87 nimetatud tööstusrakendusteks või ettevõtjatevahelisteks rakendusteks või allpool punktis 88 nimetatud reaalajas efemeersisuks.

(63)

Tehisintellektimääruse artikli 50 lõiget 2 võib kohaldada ka tehisaruagentide suhtes, kui tehisaruagendi tegevuse väljundiks on tehisintellekti loodud või manipuleeritud sisu, mida füüsilised isikud tajuvad audio, pildi, video või teksti kujul. Need väljundid peavad seega olema allpool kirjeldatud viisil märgistatud ja tuvastatavad. Seevastu tehisaruagendi tegevus, mis ei hõlma tehisintellekti loodud või manipuleeritud sisu (nt töötlemise vaheetapid, nagu arutluskäik ja mõtteahel), või tehisintellekti loodud tegevus, mis ei ole mõeldud füüsilistele isikutele vahetult tajumiseks (nt veebipäring või veebibrauseri toiming), ei kvalifitseeru tehisintellektimääruse artikli 50 lõike 2 kohaldamisalasse kuuluvaks sünteetiliseks sisuks ning sellisel juhul ei ole vaja märgistamis- ja tuvastamiskohustusi täita.

4.1.3.   Tehisintellektimääruse artikli 50 lõike 2 kohaldamisalast välja jääv sisu

(64)

Sisu, mille tehisintellektisüsteem on loonud lihtsalt andmetöötluse põhjal ja mis ei ole spetsiaalselt tehisintellekti loodud või manipuleeritud, näiteks renderdatud kaader, ei kuulu tehisintellektimääruse artikli 50 lõike 2 kohaldamisalasse.

(65)

Lisaks ei hõlma tehisintellektimääruse artikli 50 lõige 2 tehisintellektisüsteemi väljundit, mis üksnes taasesitab olemasolevat sisu või võimaldab juba olemasoleva sisu esitamist või korraldamist. Nii võib see olla näiteks muusika esitusloendite või muude soovitussüsteemide puhul, mis üksnes valivad või järjestavad olemasoleva sisu kasutaja eelistuste või tegevuse alusel, ilma et need looksid midagi uut või manipuleeriksid sisu ennast. Sama kehtib tehisintellektisüsteemide kohta, mida kasutatakse sisemistes analüütilistes protsessides, mis teevad andmetest väljavõtteid ja struktureerivad neid, kuid ei summeeri neid.

(66)

Sama kehtib tehisintellektisüsteemi selliste sisendite ja väljundite kohta, mis kujutavad endast pelka andmete vaatlust ja salvestamist füüsilistest või virtuaalsetest keskkondadest, mis ei ole tehisintellekti loodud või manipuleeritud (nt robotite või muude tehisintellektil põhinevate andurite poolt), või andmete edastamist tehisintellektisüsteemide poolt ilma muudatusteta. See hõlmab mitmesuguseid tehisintellektisüsteemide sisendeid ja väljundeid, eelkõige tööstuskeskkonnas, näiteks andmeid jälgivate robotite tootmisandmeid, tehisintellektil põhinevate nutiarvestite registreeritud tarbimist, võrgusageduse ja -pinge mõõtmist ning sõidukite GPS-asukohaandmete salvestamist jne.

(67)

Kuna tehisintellektimääruse artikli 50 lõikega 2 kehtestatud läbipaistvuskohustuse eesmärk on võimaldada inimestel eristada tehisintellekti loodud või manipuleeritud sisu, et maandada pettuse ja manipuleerimise riske ning tagada teabeökosüsteemi usaldusväärsus ja terviklus, ei puuduta see säte sisu, mis ei ole selle eesmärgiga seotud ja mis ei ole tajutav või ei ole mõeldud füüsiliste isikute poolt tõlgendamiseks, kontrollimiseks või kasutamiseks.

(68)

Eelkõige tuleks tehisintellektimääruse artikli 50 lõike 2 kohaldamisalast välja jätta järgmine sisu:

—

arvude, sümbolite või tähtede lühikese jadana loodud väljundid (nt üksikud sõnad, pildiallkirjad, alternatiivtekst, kasutajaliidese märgised ja ikoonimõõdus graafika, pildiallkirjad ja muud andmemärgised);

—

lähtekood, mida tuleb mõista kui programmeerimis-, skripteerimis-, märgistus-, päringu- või konfigureerimiskeeles kirjutatud sisu, mis on ette nähtud arvutisüsteemi poolt tõlgendamiseks, koostamiseks või täitmiseks, olenemata sellest, kas see koosneb tekstimärkidest. See võib hõlmata ka loomulikus keeles kommentaare ja taustteavet, mis moodustavad lähtekoodi lahutamatu osa. Samuti on välja jäetud tarkvaraarenduse komplektid (SDKd), struktureeritud päringukeel (SQL), taristu koodina, YAML Ain’t Markup Language (YAML), JavaScripti objektide notatsiooni (JSON) konfiguratsioon, skeemid, skriptid, masinloetavad spetsifikatsioonid, rakendusliidesed (APId ja tarkvarateegid),

—

sellised tehisintellektisüsteemi väljundid, mis on ette nähtud üksnes masinalt masinale edastamiseks ja automaatseks töötlemiseks, ilma et inimene nendega kokku puutuks, näiteks agentidevaheline side, rämpspostivastased signaalid, kui füüsilised isikud seda ei taju,

—

väljundid, mida kasutatakse ainult suletud keskkonnas tööstuse ja tootearenduse töövoogudes (nt filmide, animatsioonide, mängude või reklaami tootmiseks), välja arvatud juhul, kui need on tehisintellektisüsteemi lõppväljund tehisintellekti loodud või manipuleeritud teksti-, audio-, pildi- või videosisu kujul. Sellistel juhtudel peab üksnes töövoo etappide lõpptulemus olema märgistatud ja tuvastatav.

4.2.   Tehisintellektimääruse artikli 50 lõikega 2 kehtestatud märgistamis- ja tuvastamiskohustus

(69)

Tehisintellektimääruse artikli 50 lõikega 2 on selle sätte kohaldamisalasse kuuluvate generatiivsete tehisintellektisüsteemide pakkujatele pandud läbipaistvuskohustus, mis koosneb kahest eraldiseisvast, kuid olemuslikult omavahel seotud elemendist. Esiteks peavad pakkujad tagama, et tehisintellektisüsteemi väljundid on masinloetavas vormingus märgistatud. Teiseks peavad pakkujad tagama, et väljundid on tuvastatavad kunstlikult loodud või manipuleeritud sisuna. Pakkujad peaksid tagama, et iga kasutatava märgistamislahenduse jaoks on olemas vastavad tuvastamisvahendid (nagu on kirjeldatud allpool), et võimaldada sisuga kokku puutuvatel füüsilistel isikutel ja muudel asjaomastel osalejatel tehisintellektisüsteemi kunstlikult loodud sisu kindlaks teha ja muust sisust eristada. Väljendit „tehniline lahendus“ tuleb mõista märgistamise meetodite ja tuvastamisvahendite kombinatsioonina, mida pakkuja on rakendanud tehisintellektimääruse artikli 50 lõike 2 kohase läbipaistvuskohustuse täitmiseks.

(70)

Tehisintellektimääruse artikli 50 lõikega 2 kehtestatud läbipaistvuskohustuste eesmärkide tegelikuks saavutamiseks peavad mõlemad eespool nimetatud tingimused olema täidetud. Selle sätte järgimiseks ei piisa ainult ühe tingimuse täitmisest (nt väljundite masinloetavas vormingus märgistamine, ilma et oleksid olemas vahendid nende tuvastamiseks) (27).

4.2.1.   Märgistamiskohustus

(71)

Märgistamiskohustuse kohaldamisala piirdub masinloetavas vormingus märgistuse kasutamisega. Masinloetav vorming tähendab, et märgistus on struktureeritud viisil, mis võimaldab tarkvararakendustel seda ilma inimese sekkumiseta lihtsalt tuvastada, ära tunda ja välja eraldada. Täiendava meetmena ei ole välistatud tajutavad märgistused ja sildid, kui see on asjakohane, et juurutajatel oleks hõlpsam täita tehisintellektimääruse artikli 50 lõike 4 kohast süvavõltsingute märgistamise kohustust.

(72)

Märgistamiskohustuse täitmiseks võivad pakkujad tugineda ühele märgistusmeetodile või meetodite kombinatsioonile, kui nende üldine tehniline lahendus on masinloetav ning vastab tõhususe, koostalitlusvõime, töökindluse ja usaldusväärsuse nõuetele õiguslikult nõutaval määral, nagu on ette nähtud tehisintellektimääruse artikli 50 lõike 2 teises lausega (vt allpool jaotis 4.2.3).

(73)

Tehisintellektimääruse põhjenduses 133 selliste meetodite kohta toodud näidete hulgas on vesimärgid, metaandmete identifitseerimine, krüptograafilised meetodid sisu päritolu ja ehtsuse tõendamiseks, logimismeetodid, sõrmejäljed ja muud meetodid ning selliste meetodite kombinatsioon. Kuigi tehisintellektimääruse põhjenduses 133 on nimetatud päritolu ja autentsuse tõendamise meetodeid, ei pea pakkujad registreerima ega säilitama täielikku päritoluahelat, mis sisaldab teavet sisu päritolu ja muudatuste kohta või mis tahes muud asjakohast väidet sisu ajaloo kohta. Samas võib tehisintellektimääruse artikli 50 lõike 2 järgimiseks kasutada ka selliseid päritolumeetodeid ja need võivad aidata füüsilistel isikutel eristada tehisintellekti loodud või manipuleeritud sisu ehtsast sisust.

(74)

Pakkujad võivad rakendada väljundite märgistamislahendust väärtusahela eri etappides (nt pärast juhtumipõhist sisu loomist tehisintellektisüsteemi tasandil, aluseks oleva tehisintellektimudeli tasandil või integreerituna tehisintellektisüsteemi järelduste tegemise protsessi). Nad võivad kasutada märgistamislahendust, mida rakendab mudeli eelneva etapi pakkuja või lahendust pakkuv kolmas isik (nt avatud standardi või eriteenusena), kui märgistamislahendus vastab tehisintellektimääruse artikli 50 lõikele 2. Selline kasutus ei piira tehisintellektisüsteemi pakkuja kohustust tõendada vastavust tehisintellektimääruse artikli 50 lõikele 2.

4.2.2.   Tuvastamiskohustus

(75)

Tehisintellektimääruse artikli 50 lõike 2 kohaldamisalasse kuuluvate tehisintellektisüsteemide pakkujad peavad tagama, et nende süsteemide väljund on tuvastatav tehisintellekti loodud või manipuleeritud sisuna. See tähendab, et pakkuja on kohustatud tagama, et isikutele, kes võivad sisuga kokku puutuda, on kättesaadavad tuvastamisvahendid. Lisaks peaksid sellised tuvastamislahendused tehisintellektimääruse artikli 50 lõike 5 kohaselt suutma anda inimloetavaid tulemusi, mis näitavad, kas sisu on tehisintellekti loodud või manipuleeritud.

(76)

Tuvastamisvahend on mehhanism, mis tuvastab, kas sisu on tehisintellekti loodud või manipuleeritud, tehes tavaliselt kindlaks selle päritolu kontrollivad tehnilised markerid või allkirjad. Täieliku koostalitlusvõime tagamiseks peavad pakkujad tuginema avalikult kättesaadavatele tööstusharu standardsetele tuvastamislahendustele, mis võimaldavad kõigil kolmandatel isikutel kasutada tuvastamist, mida ideaaljuhul saab digiseadmes kohapeal rakendada ja sujuvalt autonoomsetesse isoleeritud võrkudesse integreerida. Kui sellised standardid ei ole kättesaadavad, eelkõige tehisintellektimääruse artikli 50 lõike 2 rakendamise algetapis vesimärgistamise tehnoloogia puhul, võib pakkuja kasutada oma tuvastamislahendust või kolmanda isiku tuvastamislahendust või ühist tuvastamislahendust, kui need lahendused tagavad koostalitlusvõime teiste pakkujate kasutatavate tuvastamislahendustega (vt jaotis 4.2.3). See võimalus peaks olema ajaliselt piiratud, kuni tekivad harmoneeritud standardid ja pakkujast sõltumatu koostalitlusvõimeline standardne tuvastamislahendus, mis on turvaline, privaatsust säilitav ja kohalikul tasandil rakendatav.

(77)

Tehisintellektimääruse artikli 50 lõikes 5 on täpsustatud, et tehisintellektimääruse artikli 50 lõikes 2 osutatud teave tuleks esitada sisuga kokkupuutuvale füüsilistele isikutele selgel ja eristataval viisil hiljemalt esimese suhtlemise või kokkupuute ajal. See teave on eelkõige tuvastamise tulemus, mis näitab, kas sisu on tehisintellekti abil loodud või manipuleeritud, mitte tehisintellekti loodud või manipuleeritud sisu ise. „Esimese kokkupuute ajal“ all tuleks mõista hetke, mil füüsilised isikud soovivad kontrollida konkreetse sisuühiku päritolu ja kasutada tuvastamistulemuste saamiseks tuvastamislahendust.

(78)

Kui tehisintellektisüsteemi pakkuja sõltub tuvastamislahenduse pakkumisel või sellele juurdepääsul teisest osalejast, peab ta tagama, et tuvastamislahendus vastab tehisintellektimääruse artikli 50 lõigetele 2 ja 5 ning et need osalejad kuvavad tuvastamistulemusi kooskõlas tehisintellektimääruse artikli 50 lõikega 5 (vt 7. jagu).

4.2.3.   Vastavus tehnilistele lahendustele esitatavatele nõuetele: tõhus, koostalitlusvõimeline, töökindel ja usaldusväärne

(79)

Tehisintellektimääruse artikli 50 lõike 2 teises lause kohaselt peavad märgistamise ja tuvastamise tehnilised lahendused olema tõhusad, koostalitlusvõimelised, töökindlad ja usaldusväärsed. Neid nõudeid tuleks mõista järgmiselt.

—

Tõhusus tähendab pakkujate kasutusele võetud tehnilise lahenduse suutlikkust nende märgistusi tuvastada ja võimaldada füüsilistel isikutel nende tehisintellektisüsteemi poolt kunstlikult loodud või manipuleeritud sisu ära tunda, aidates nii tagada usalduse teabe ökosüsteemi vastu ja selle tervikluse.

—

Usaldusväärsus tähendab tehnilise lahenduse suutlikkust tehisintellektiga loodud või manipuleeritud sisu täpselt kindlaks teha ja muust sisust eristada pakkuja tehisintellektisüsteemi loodud või manipuleeritud sisu kogu ulatuses ja tavatingimustes.

—

Töökindlus tähendab tehnilise lahenduse suutlikkust pakkuja tehisintellektisüsteemi poolt tehisintellektiga loodud või manipuleeritud sisu täpselt kindlaks teha ja muust sisust eristada eritingimustes, sealhulgas nii tavapäraste muudatuste kui ka vastandrünnete puhul.

—

Koostalitlusvõime tähendab eri tehniliste märgistamis- ja tuvastamislahenduste suutlikkust toimida sujuvalt mitme süsteemi, osaleja, konteksti ja tehnilise rakenduse puhul, et võimaldada tehisintellekti loodud või manipuleeritud sisu tuvastamist sõltumata eri tehisintellektisüsteemide pakkujate kasutatava(te)st märgistamistehnika(te)st.

(80)

Pakkujad peavad tagama, et tehniliste märgistamis- ja tuvastamislahenduste kombinatsioon vastab tervikuna kõigile eespool nimetatud nõuetele õiguslikult nõutaval määral, võttes arvesse kasutatavate eri lahenduste seatavaid piire ja vastastikust täiendavust. Tehnilised lahendused peavad vastama kõigile nõuetele niivõrd, kui see on tehniliselt teostatav, võttes arvesse eri liiki sisu eripära ja seatavaid piire, rakendamise kulusid ja tehnika üldtunnustatud taset, mis võib olla kajastatud asjakohastes tehnilistes standardites.

(81)

Tehniliselt teostatavad lahendused tehisintellektimääruse artikli 50 lõike 2 tähenduses on lahendused, mida saab rakendada sätte kohaldamisalasse kuuluvate vormide puhul, kasutades konkreetses tehnilises arhitektuuris ja asjaomases tegevuskeskkonnas praegu kättesaadavat tehnoloogiat ning olemasolevaid meetodeid ja inseneritavasid. Pakkuja ei ole kohustatud kasutama tehnilist lahendust, mis ei ole veel välja töötatud või turul kättesaadav või mille rakendamine ei ole tehniliselt teostatav. Tehniline teostatavus on objektiivne mõiste, mis ei sõltu üksikute pakkujate konkreetsetest ressurssidest ega suutlikkusest.

(82)

Tehisintellektimääruse artikli 50 lõike 2 kohaselt peavad pakkujad kasutusele võtma tehniliselt teostatavad lahendused, mis on kooskõlas tehnika üldtunnustatud tasemega, et täita nelja kvaliteedinõuet, milleks on tõhusus, töökindlus, usaldusväärsus ja koostalitlusvõime.

(83)

Väljendit „tehnika tase“ tuleb mõista toodete, protsesside ja teenustega seotud tehnilise suutlikkuse arenenud etapina teataval ajal, mis põhineb asjakohastel teaduse, tehnoloogia ja kogemuste koondtulemustel ning mida peetakse tehnoloogia valdkonnas heaks tavaks (28). Tehnika tase ei tähenda tingimata uusimaid teadusuuringuid, mis on veel katseetapis või mille tehnoloogiline küpsus ei ole piisav. Pakkujad peavad oma märgistamis- ja tuvastamislahendusi tehnoloogia ja tehnika taseme arenedes pidevalt, õigeaegselt ja proportsionaalselt kohandama.

(84)

Võttes arvesse tehisintellektimääruse artikli 50 lõiget 7, võivad pakkujad tugineda selle sätte kohaselt piisavaks tunnistatud tegevusjuhendile, et tõendada vastavust tehisintellektimääruse artikli 50 lõigetes 2 ja 5 sätestatud märgistamis- ja tuvastamiskohustustele, mis on kooskõlas tehnika tasemega. Allpool jaotises 8.1 on esitatud lisateave sellise tegevusjuhendi järgimise mõju ja tegevusjuhendit mittejärgivate muude pakkujate järelevalve kohta.

(85)

Arvesse võib võtta ka kulutusi teatavate tehniliste märgistamis- ja tuvastamislahenduste rakendamisele. Teatavatel järgmistes punktides kirjeldatud juhtudel võivad kulutused olla marginaalse kasuga võrreldes ebaproportsionaalsed, aidates ainult piiratud määral kaasa sellele, et võimaldada inimestel eristada tehisintellekti loodud või manipuleeritud sisu ning tagada teabeökosüsteemi terviklus ja usaldusväärsus.

(86)

Seetõttu võib esineda kitsendavalt määratletud juhtumeid, kus tehisintellektimääruse artikli 50 lõike 2 järgimiseks piisab vähem töökindlatel metaandmete märgistel põhinevast tehnilisest lahendusest, võttes arvesse tehisintellektisüsteemi väljundite eripära, kui nendega kaasneb olemuslikult väiksem pettuse, manipuleerimise või teabeökosüsteemile avalduva negatiivse mõju oht. See on nii eelkõige juhul, kui generatiivne tehisintellektisüsteem on integreeritud füüsilistesse toodetesse, mis loovad väljundeid tehniliselt kontrollitud ja suletud keskkonnas, mis on oma olemuselt peamiselt juhendav (nt sõidukite navigatsioonisüsteemidesse integreeritud tehisintellektisüsteem), niivõrd kui tootesse on integreeritud tõhusad tehnilised meetmed, et vältida väljundi väljaviimist tootekeskkonnast, näiteks välise kogumise või eksportimise ja levitamise kaudu.

(87)

Samuti võib esineda piiratud arvul juhtumeid seoses tööstuslike tehisintellektirakenduste või ettevõtjatevaheliste rakendustega (v.a avalikud ja tarbijatele suunatud tehisintellektisüsteemid), mille puhul proportsionaalsuse põhimõte ja läbipaistvuseesmärkidega seotud piiratud kasu tähendab, et tehisintellekti loodud või manipuleeritud väljundite märgistamine ja tuvastamine ei ole nõutav. See kehtib ainult juhul, kui kumulatiivselt on täidetud järgmised nõuded.

i)

Tehisintellektisüsteemi loodud väljund on oma olemuselt rangelt tehniline, näiteks insener-tehnilised projektid, tööstusliku tootmise töövood, tehnilised juhised, väljund, mis on loodud süsteemi prognoositavate hooldusprotsesside tulemusena tööstuskeskkonnas, sisedokumentatsiooni protsessid või tootmisetapid ja töövood enne väljundi valmimist ja teistele välistele isikutele või üldsusele kättesaadavaks tegemist.

ii)

Tehisintellektisüsteemi loodud väljundiga kokku puutuma ja seda töötlema on kavandatud üksnes piiratud arv eelnevalt kindlaksmääratud füüsilisi isikuid, kes tegutsevad pakkuja ja juurutaja organisatsioonis oma kutsetegevuse raames.

iii)

Tehisintellektisüsteemi loodud väljund ei tohi olla ette nähtud jagamiseks väljaspool ettevõtet ega kasutamiseks väliste isikute poolt ning kehtestada tuleb asjakohased kaitsemeetmed, et vältida mõistlikult prognoositavat väärkasutamist (nt pilvepõhine isoleerimine, rollipõhised kontrollid).

(88)

Samuti võib nõude täitmisest olla vabastatud reaalajas sellise sisu loomine, mis on ajutine ja mida tarbitakse kohe, ilma et seda salvestataks, säilitataks või levitataks (nt videomängudes, virtuaalreaalsuse rakendustes), kui märgistamine ei ole tehniliselt teostatav ja sisuga kokkupuutuvaid isikuid teavitatakse sellest, et sisu on tehisintellekti loodud või manipuleeritud (nt reaalajas avalikustamine, seansipõhised teated).

4.3.   Tehisintellektimääruse artikli 50 lõike 2 kohased erandid kohustustest

(89)

Tehisintellektimääruse artikli 50 lõikega 2 on ette nähtud kolm sõnaselget erandit selle sättega kehtestatud läbipaistvuskohustustest.

(90)

Esimene erand puudutab tehisintellektisüsteeme niivõrd, kui need täidavad standardse redigeerimise abifunktsiooni. Standardset redigeerimist tuleks mõista kui olemasoleva sisu ettevalmistamist avaldamiseks või levitamiseks (nt väikesed parandused loetavuse, grammatika, kvaliteedi ja vormingu parandamiseks) ning see ei hõlma uue sisu loomist. Standardse redigeerimise eesmärk on tagada, et sisus ei esineks muu hulgas ilmseid tehnilisi või grammatilisi keelevigu, et see oleks kooskõlas kohaldatavate küljendus-, esitus-, vormindus- või ligipääsetavusnõuetega või vastaks valdkondlikele tavadele. Redigeerimine läheb standardsest redigeerimisest kaugemale juhul, kui sisu muudetakse oluliselt (sisulised muudatused, struktuurimuutused jne) nii, et see mõjutab selle tähendust, stiili või eesmärki.

(91)

Teist erandit kohaldatakse juhul, kui tehisintellektisüsteem ei muuda oluliselt juurutaja esitatud sisendandmeid või nende semantikat. Muudatust tuleks pidada oluliseks, kui tehisintellektisüsteem on väljundi loomise käigus sisendandmeid või nende semantikat märkimisväärselt manipuleerinud. See peab põhinema selliste asjakohaste tegurite hindamisel nagu vorming, meediasisu liik, stiil ja sisu muudatused, mis mõjutavad selle tähendust, stiili või eesmärki. Seda, kas see on nii, tuleb hinnata juhtumipõhiselt.

(92)

Kui tehisintellektisüsteemi saab kasutada nii sisu loomiseks või manipuleerimiseks kui ka väikeste väheoluliste muudatuste tegemiseks sisendandmetesse, ei kohaldata tehisintellektimääruse artikli 50 lõike 2 kohast läbipaistvuskohustust sisu suhtes, millesse on tehtud väikeseid väheolulisi muudatusi.

Standardne redigeerimine ja väikesed muudatused, mille suhtes kohaldatakse tehisintellektimääruse artikli 50 lõikes 2 sätestatud erandit, on näiteks:

—

grammatilised parandused ja õigekirjakontroll, keeleline ja minimaalne stiililine viimistlus, mis ei muuda teksti sisu, tähendust, stiili ega sõnumit, tehisintellekti loodud tekstitõlked;

—

vormindamine, vormingu muutmine, tehniline kokkusurumine, nn müra vähendamine või eemaldamine suurema selguse huvides, ilma et see muudaks sisu tähendust või olemust;

—

väikesed kärped, väikesed värvikorrigeerimised või -parandused, heledamaks või tumedamaks muutmine, teravustamine selguse suurendamiseks või muu standardne redigeerimine ja tehnilised parandused;

—

määrdunud objektiivi või anduri põhjustatud tolmuplekkide eemaldamine, välklampiga pildistamisest tingitud punasilmsuse eemaldamine; originaalfailis nähtava tausta kustutamine ja varjamine, pikseldamine või nägude hägustamine;

—

videoklipi suuruse muutmine, dünaamilise ulatuse piiramine (DRC) ja ühtlustamine; video piiratud stabiliseerimine;

—

värvi ja kontrasti standardne kohandamine, taasesituskiiruse väikesed muudatused, pildi horisondi loodimiseks tehtavad väikesed parandused, pikslifiltrite rakendamine pildi teatavate osade esiletõstmiseks või värvikaartide rakendamine halltoonpiltidele, servapõhine pildi terviklikkuse taastamine, mustvalge pildi või video värviliseks muutmine ja vastupidi;

—

pikslite täitmine kuvasuhte kohandamiseks või selguse parandamiseks, automaatsed üleminekuklipid ning muud mitteolulised muudatused esteetilistel ja tehnilistel eesmärkidel;

—

meditsiinilise kujutise tehniline töötlemine või rekonstrueerimine meditsiiniseadmetes (nt annotatsioonid, kastid, kontuurid, ringid, soojuskaardid);

—

vestluste transkriptsioonid; tehisintellekti loodud sisu, mis lihtsalt muudab ehtsat inimsisendit, kasutades tugitehnoloogiat, mis võimaldab puuetega inimestel suhelda (nt toetav ja asendav kommunikatsioon (AAC) või kohandatud tehisintellekti hääletuvastus ja -süntees (CNV)), kuna need ei muuda semantiliselt sisu tähendust.

Semantilised muudatused, mis tuleb tehisintellektimääruse artikli 50 lõike 2 kohaselt märgistada, on näiteks:

—

tehisintellekti loodud tekstikokkuvõtted; teksti ümbersõnastamine või ümberkirjutamine, mille käigus muudetakse stiili, struktuuri ja tähendust ulatuses, mis läheb pelgalt grammatilistest ja väikestest stiiliparandustest kaugemale;

—

esemete või isikute olemasolevatelt piltidelt ja olemasolevatest videotest eemaldamine, seal asendamine või sinna lisamine, mis muudab sisu tähendust ja olemust; näo asendamine või näo oluline muutmine;

—

konkreetsele inimesele omase häälega realistliku kõne sünteesimine või realistlike videote loomine, milles kujutatakse sündmusi, mida ei toimunud; inimese kehakuju või nahavärvi muutmine; äärmuslik helendamine, tumendamine, värvuse ja kontrasti muutmine, mis muudab sisu tähendust, eesmärki ja sõnumit;

—

selliste liitkujutiste või videolõikude loomine, mis muudavad isikute, esemete, sündmuste või faktide kujutamist, või sisu muud olulised muudatused.

(93)

Kolmandat erandit kohaldatakse generatiivse tehisintellektisüsteemi suhtes, millel on seadusega lubatud luua või manipuleerida sünteetilist sisu, et kuritegusid avastada, tõkestada, uurida või nende eest vastutusele võtta. Käesoleval juhul on asjakohased ka eespool punktides 46–48 selle erandi kohta esitatud selgitused.

4.4.   Koostoime liidu teiste õigusaktidega

(94)

Tehisintellektimääruse artikli 50 lõike 2 kohased märgistamis- ja tuvastamiskohustused keskenduvad sellele, kuidas sisu on loodud, ja selle tehislikule päritolule, mitte sellele, kes sisu lõi. Seepärast peavad kõik tehisintellektisüsteemide pakkujate kasutatavad märgistus- ja tuvastamislahendused olema kooskõlas kohaldatavate liidu andmekaitsealaste õigusaktidega, sealhulgas andmekaitsepõhimõtete ja -kohustustega, nagu lõimitud ja vaikimisi andmekaitse kohustus, võimalikult väheste andmete kogumine ning turvalisuse ja konfidentsiaalsuse põhimõtted. Näiteks sisu loojaga seotud teavet ei tohiks märgistamise ja tuvastamise eesmärgil töödelda ning kõik muud töödeldavad isikuandmed tuleks kustutada niipea, kui tuvastamise eesmärk on täidetud, tuleb tagada turvalisus ja konfidentsiaalsus jne.

(95)

Tehisintellektimääruse põhjenduses 136 rõhutatakse tehisintellektimääruse artikli 50 lõigetes 1, 2 ja 4 sätestatud läbipaistvuskohustuste erilist tähtsust, et hõlbustada digiteenuste määruse tõhusat rakendamist. See kehtib eelkõige seoses väga suurte digiplatvormide või väga suurte internetipõhiste otsingumootorite pakkujate kohustustega teha hoolikalt kindlaks, analüüsida, hinnata ja maandada süsteemseid riske, mis võivad tuleneda kunstlikult loodud või manipuleeritud sisu levitamisest, eelkõige risk, et see avaldab tegelikku või prognoositavat negatiivset mõju demokraatlikele protsessidele, ühiskondlikule arutelule ja valimisprotsessidele, sealhulgas desinformatsiooni kaudu (digiteenuste määruse artiklid 34 ja 35). Masinloetavad märgid võivad anda neile pakkujatele võimaluse tuvastada tehisintellekti loodud või manipuleeritud sisu ning tagada asjakohase märgistamise ja teabe avalikustamise, vähendades seega tehisintellekti loodud desinformatsiooni ohtu oma teenustes.

(96)

Tehisintellektisüsteemi loodud või manipuleeritud sisu märgistamise ja tähistamise kohustus, mis tuleneb tehisintellektimääruse artikli 50 lõigetest 2 ja 4, ei piira digiteenuste määruse artikli 16 lõike 6 kohast veebimajutusteenuse pakkujate kohustust töödelda digiteenuste määruse artikli 16 lõike 1 kohaselt saadud teateid ebaseadusliku sisu kohta (29). Eelkõige ei tohiks tehisintellekti loodud või manipuleeritud sisu tähistamine või märgistamine mõjutada konkreetse sisu hindamist ja selle ebaseaduslikkuse üle otsustamist muude õigusraamistike alusel. Hindamisel tuleks lähtuda üksnes eeskirjadest, mis reguleerivad sisu õiguspärasust vastavalt nimetatud raamistikele (30). Näiteks kui märgistatud süvavõltsitud kujutisele juhitakse tähelepanu kui võimalikule laste seksuaalset väärkohtlemist kujutavale materjalile või kaubamärki või autoriõigust käsitlevate õigusaktide rikkumisele, ei mõjuta märgise kohaldamine sisu võimalikku ebaseaduslikkust nende õigusraamistike alusel. Hindamine tuleks teha üksnes vastavate kohaldatavate õigusaktide alusel (nt kriminaalõigus, kaubamärgi- või autoriõiguse normid).

(97)

Seevastu tehisintellektimääruse artikli 50 lõike 2 kohaselt sisusse integreeritud masinloetav märgistus võib aidata väga suurte digiplatvormide ja väga suurte internetipõhiste otsingumootorite pakkujatel täita digiteenuste määruse artiklitest 34 ja 35 tulenevaid kohustusi teha kindlaks, analüüsida ja hinnata süsteemseid riske, mis võivad tuleneda kunstlikult loodud või manipuleeritud sisu levitamisest, eelkõige riski, et see avaldab tegelikku või prognoositavat negatiivset mõju demokraatlikele protsessidele, ühiskondlikule arutelule ja valimisprotsessidele, sealhulgas desinformatsiooni kaudu (31), ning kehtestada nende riskide maandamiseks mõistlikud, proportsionaalsed ja tõhusad meetmed, mis on tuvastatud konkreetsetele süsteemsetele riskidele kohandatud. Juhul kui väga suurte digiplatvormide ja väga suurte internetipõhiste otsingumootorite pakkujad integreerivad tehisintellektisüsteemid oma teenustesse, võivad nad kvalifitseeruda ka tehisintellektisüsteemide pakkujateks, kui nad vastavad tehisintellektimääruse asjakohastele tingimustele (vt ka jaotis 6.1.5).

(98)

Digiplatvormide ja internetipõhiste otsingumootorite pakkujatel ning muudel asjaomastel osalejatel, kes levitavad sisu kogu väärtusahelas, soovitatakse eelkõige säilitada pakkujate poolt tehisintellektimääruse artikli 50 lõike 2 kohaselt kasutusele võetud märgised ja võimaldada nende tuvastamist, et sisuga kokku puutuvaid füüsilisi isikuid saaks selle päritolust teavitada.

5.   TEHISINTELLEKTIMÄÄRUSE ARTIKLI 50 LÕIGE 3: EMOTSIOONITUVASTUSSÜSTEEMID JA BIOMEETRILISE LIIGITAMISE SÜSTEEMID

(99)

Tehisintellektimääruse artikli 50 lõikega 3 kehtestatakse emotsioonituvastussüsteemide ja biomeetrilise liigitamise süsteemide juurutajatele kohustus teavitada süsteemi tööst füüsilisi isikuid, kes nende süsteemidega kokku puutuvad.

(100)

Tehisintellektimääruse põhjenduse 132 esitatud selgituse kohaselt on selle kohustuse eesmärk tagada, et füüsilised isikud (sh puuetega inimesed) on teadlikud sellest, et nad puutuvad kokku emotsioonituvastussüsteemi ja biomeetrilise liigitamise süsteemiga, mis võib riivata nende eraelu puutumatust. Seega kehtib see kohustus olenemata sellest, kas isikud puutuvad selliste süsteemidega kokku reaalajas või kasutatakse neid süsteeme tagantjärele.

5.1.   Põhikomponendid, mõisted ja nendega seotud läbipaistvuskohustus(ed) vastavalt tehisintellektimääruse artikli 50 lõikele 3

5.1.1.   Mõiste „emotsioonituvastussüsteem“

(101)

Tehisintellektimääruse artikli 3 punktis 39 on emotsioonituvastussüsteem määratletud kui tehisintellektisüsteem, mille eesmärk on tuvastada või tuletada füüsiliste isikute emotsioone või kavatsusi nende biomeetriliste andmete põhjal. Tehisintellektimääruse artikli 50 lõike 3 kontekstis on niisama olulised selle mõiste üksikasjalik selgitus, mis on esitatud komisjoni suunistes suure riskiga tehisintellektisüsteemide liigitamise kohta, ning neis suunistes esitatud praktilised näited.

(102)

Kuna kõik emotsioonituvastussüsteemid on liigitatud ka suure riskiga süsteemideks, tuleks tehisintellektimääruse artikli 50 lõikes 3 sätestatud läbipaistvuskohustust kohaldada koostoimes muude kaitsemeetmete ja nõuetega, mida kohaldatakse suure riskiga tehisintellektisüsteemide suhtes, välja arvatud juhul, kui need on tehisintellektimääruse artikli 5 lõike 1 punkti f kohaselt töökoha ja haridusega seoses keelatud.

5.1.2.   Mõiste „biomeetrilise liigitamise süsteem“

(103)

Tehisintellektimääruse artikli 3 punktis 40 on biomeetrilise liigitamise süsteem määratletud kui tehisintellektisüsteem, mille eesmärk on jagada füüsilisi isikuid nende biomeetriliste andmete põhjal konkreetsetesse kategooriatesse, välja arvatud juhul, kui see on teise äriteenuse lisateenus ja rangelt vajalik objektiivsetel tehnilistel põhjustel. Tehisintellektimääruse artikli 50 lõike 3 kontekstis on niisama olulised selle mõiste üksikasjalik selgitus, mis on esitatud komisjoni suunistes suure riskiga tehisintellektisüsteemide liigitamise kohta, ning selle konkreetsed elemendid ja praktilised näited, mis on neis suunistes esitatud.

(104)

Oluline on see, tehisintellektimääruse artikli 50 lõiget 3 kohaldatakse kõigi biomeetrilise liigitamise süsteemide suhtes (nt biomeetrilistel andmetel põhinev vanuse või soo alusel liigitamine), välja arvatud kui need on tehisintellektimääruse artikli 5 lõike 1 punkti g kohaselt keelatud, olenemata sellest, kas need kuuluvad tehisintellektimääruse kohaste suure riskiga tehisintellektisüsteemide hulka või mitte.

5.1.3.   Tehisintellektimääruse artikli 50 lõike 3 kohane teavitamiskohustus

(105)

Esitatava teabe ulatus. Juurutajad peavad teavitama asjaomaseid füüsilisi isikuid sellest, et nad puutuvad kokku toimiva emotsioonituvastussüsteemi või biomeetrilise liigitamise süsteemiga. Tehisintellektimääruses ei nõuta teabe lisamist süsteemi kasutamise põhjuste kohta või selle kohta, kas süsteem töötleb teavet ka muul eesmärgil kui emotsioonituvastus või biomeetriline liigitamine, mis tuleb liidu andmekaitsealaste õigusaktide kohaselt avalikustada (vt jaotis 5.3).

(106)

Teabe adressaadid. Tehisintellektimääruse artikli 50 lõike 3 kohaselt peavad juurutajad teavitama kõiki tehisintellektisüsteemi tööga kokku puutuvaid füüsilisi isikuid, sealhulgas lapsi.

(107)

Teabe esitamise vahendid. Tehisintellektimääruses ei ole ette nähtud konkreetseid vahendeid teabe esitamiseks, välja arvatud tehisintellektimääruse artikli 50 lõikes 5 esitatud nõue, et teave tuleb esitada selgel ja eristataval viisil ning vastavalt kohaldatavatele ligipääsetavusnõuetele (mis vastavad puuetega füüsiliste isikute vajadustele). See, kuidas süsteemiga kokku puutuvaid füüsilisi isikuid tuleb teavitada, võib sõltuda kasutamise kohast (nt virtuaalne mänguplatvorm, füüsiline kauplus, raudteejaam), võimalikest adressaatidest (nt lapsed, eakad, puuetega inimesed, kliendid), kokkupuute kestusest ja liigist (nt pikaajaline, ühekordne, pidev, vahelduv) ning võimalikust suhtest juurutaja ja ohustatud isikute vahel (nt kui isikuga on olemas sidekanal). Sõltuvalt kasutusjuhtumist võib teabe esitada kirjalikult, standardsete ikoonide abil (ka elektrooniliselt), suuliselt või kasutades selliste viiside kombinatsioone.

Füüsiliste isikute teavitamise näited:

—

enne arvutimängu käivitamist kuvatakse keskele kohale paigutatud hüpikakent tervitussõnumiga, mis teatab, et mängija nägu salvestatakse, jäädvustades tema emotsioone;

—

näituseruumi iga võimaliku sissepääsu juures esitatav nähtav teade selle kohta, et külastajate ruumi sisenemisel salvestatakse nende näokujutised, et määrata nad konkreetsesse vanuserühma.

(108)

Teabe esitamise aeg. Tehisintellektimääruse artikli 50 lõike 5 kohaselt tuleb teave esitada hiljemalt tehisintellektisüsteemiga esimese suhtlemise või kokkupuute ajal. Välistatud ei ole nõutava teabe eelnev esitamine, kui see on asjakohane.

5.2.   Erand õiguskaitse jaoks

(109)

Teavitamiskohustust ei kohaldata selliste emotsioonituvastussüsteemide ja biomeetrilise liigitamise süsteemide suhtes, mida on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks või uurimiseks, tingimusel et kolmandate isikute õiguste ja vabaduste kaitseks kohaldatakse asjakohaseid kaitsemeetmeid ja kooskõlas liidu õigusega. Sellisel juhul on asjakohased ka eespool punktides 46–48 kõnealuse erandi kohta esitatud selgitused ühe erinevusega. Kuigi muud tehisintellektimääruse artiklis 50 sätestatud erandid nõuavad sõnaselgelt sellise seaduse olemasolu, millega lubatakse tehisintellektisüsteemide läbipaistmatut kasutamist, on tehisintellektimääruse artikli 50 lõike 3 kohaselt selline kasutamine võimalik, kui see on lubatud õigusnormidega, mis reguleerivad õiguskaitseasutuste volitusi kasutada emotsioonituvastussüsteeme ja biomeetrilise liigitamise süsteeme kuritegude avastamiseks, tõkestamiseks või uurimiseks ilma asjaomaseid isikuid teavitamata, tingimusel et kohaldatakse asjakohaseid kaitsemeetmeid.

5.3.   Koostoime liidu teiste õigusaktidega

(110)

Tehisintellektimääruse artikli 50 lõike 3 kohane teavitamiskohustus ei muuda iseenesest emotsioonituvastussüsteemi ja biomeetrilise liigitamise süsteemi kasutamist seaduslikuks. Samuti ei muuda see seaduslikuks sekkuvat või diskrimineerivat kasutamist, mis võib olla tehisintellektimääruse artikli 5 või muu liidu õigusakti alusel ebaseaduslik ja keelatud. Juurutajad peavad lisaks liidu andmekaitsealaste õigusaktide alusel kohaldatavatele teavitamisnõuetele täitma tehisintellektimääruse artikli 50 lõikes 3 sätestatud teavitamiskohustust. Teatavatel juhtudel võivad juurutajad kaaluda tehisintellektimääruse artikli 50 lõike 3 kohaste teadete lisamist teabele, mis esitatakse andmesubjektidele liidu andmekaitsealaste õigusaktide alusel.

6.   ARTIKLI 50 LÕIGE 4: SÜVAVÕLTSINGUTE JA TEATAVA AVALDATUD TEKSTI MÄRGISTAMINE

(111)

Tehisintellektimääruse artikli 50 lõikega 4 on generatiivse tehisintellektisüsteemide juurutajatele ette nähtud kaks eraldi kohustust avalikustada selgelt ja eristatavalt teave i) süvavõltsingute ja ii) tehisintellekti loodud või manipuleeritud sellise teksti kohta, mis on avaldatud eesmärgiga teavitada üldsust avalikku huvi pakkuvatest küsimustest, välja arvatud kindlaksmääratud juhtudel. Neid märgistamiskohustusi kohaldatakse lisaks tehisintellektimääruse artikli 50 lõike 2 kohastele masinloetavas vormingus märgistamise ja tuvastamise kohustustele, mida kohaldatakse selliste tehisintellektisüsteemide pakkujate suhtes, kes loovad või manipuleerivad sünteetilisi kujutisi, video-, audio- või tekstisisu, ilma et see piiraks nende kohustuste kohaldamist.

6.1.   Süvavõltsingute põhikomponendid, kontseptsioonid ja nendega seotud läbipaistvuskohustus(ed) vastavalt tehisintellektimääruse artikli 50 lõikele 4

(112)

Tehisintellektimääruse artikli 50 lõike 4 esimest lõiku kohaldatakse juhul, kui on täidetud mitu tingimust:

i)

süsteem peab olema tehisintellektisüsteem;

ii)

juurutajad kasutavad süsteemi kutsealastel eesmärkidel (vt jaotised 2.3. ja 2.4.1);

iii)

süsteemi kasutatakse eesmärgiga luua või manipuleerida pildi-, audio- või videosisu, mis kujutab endast süvavõltsingut;

iv)

tehisintellektisüsteem ei tohi kuuluda erandi alla, mille kohasel on kasutamine seadusega lubatud kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks.

6.1.1.   Mõiste „süvavõltsing“

(113)

Tehisintellektimääruse artikli 3 punktis 60 on süvavõltsing määratletud kui tehisintellekti loodud või manipuleeritud kujutis või audio- või videosisu, mis sarnaneb tegelike isikute, esemete, kohtade, üksuste või sündmustega ning mis näib kasutajale petlikult ehtne või tõene. Erinevust manipuleerimise ja loomise vahel on selgitatud eespool jaotises 4.1. Süvavõltsingu mõiste selgitamiseks käsitletakse allpool selle määratluse nelja kumulatiivset kriteeriumi: i) sarnasus ii) tegelike iii) isikute, esemete, kohtade, üksuste või sündmustega, iv) mis näib kasutajale petlikult ehtne või tõene.

i)

Sarnasus: tehisintellektimääruse artikli 3 punkti 60 kohaselt peab tehisintellekti loodud või manipuleeritud pildi-, audio- või videosisu selleks, et seda saaks pidada süvavõltsinguks, sarnanema olemasoleva subjektiga. Tehisintellektimääruse põhjenduses 134 on lisatud, et selline sarnasus peaks olema märgatav. Tehisintellekti loodud või manipuleeritud pildi-, audio- või videosisu sarnaneb märgatavalt teatava subjektiga, kui süvavõltsingu sisu ja süvavõltsinguga simuleeritud subjekt (sh selle äratuntavad elemendid) on väga sarnased. Sisu ei pea olema subjektiga identne. Seda, kas sarnasuse tase on märgatav, hindab juhtumipõhiselt juurutaja, tuginedes simuleeritud subjekti ja süvavõltsingu sisu objektiivsele võrdlusele, mis põhineb muu hulgas sellel, mil määral süvavõltsing esindab iseloomulikke või eristavaid tunnuseid.

ii)

Tegelik: tehisintellektimääruse artikli 3 punkti 60 kohaselt peab tehisintellekti loodud või manipuleeritud pildi-, audio- või videosisu selleks, et seda saaks pidada süvavõltsinguks, sarnanema tegeliku subjektiga / tegelike subjektidega. Selleks et täita tulemuslikult tehisintellektimääruse artikli 50 lõike 4 eesmärki vähendada teise isikuna esinemise, pettuse, väärinfo, manipuleerimise ja pettuse ohtu, eeldab tegelikkuse kriteerium seda, et tehisintellekti loodud või manipuleeritud pildi-, audio- või videosisu peaks sarnanema päriselt olemas olevate subjektidega (nt isikute, esemete, kohtadega). Seetõttu piisab süvavõltsinguna käsitamiseks sellest, kui simuleeritud isikud, esemed, kohad, üksused või sündmused sarnanevad kellegagi või millegagi, kes või mis on tegelikult olemas või siis võib või võis usutavalt tegelikult olemas olla, kuna selline sisu võib olla oluline pettuse, manipuleerimise ja desinformatsiooni allikas. Seevastu simuleeritud isikuid, esemeid, kohti, üksusi või sündmusi, mis rikuvad näiteks loodus- või füüsikaseadusi või kujutavad eluvorme, mida bioloogias üldiselt ei aktsepteerita (nt inimesed, kes lendavad ilma mehaaniliste abivahenditeta, lohed või autot juhtivad elevandid) ja mis ei saa olla eksitavad, peetakse ebarealistlikeks ja seetõttu jäävad need läbipaistvuskohustuse kohaldamisalast välja.

iii)

Isikud, esemed, kohad, üksused või sündmused: tehisintellektimääruse artikli 3 punkti 60 kohaselt peaks tehisintellekti loodud või manipuleeritud pildi-, audio- või videosisu selleks, et seda saaks pidada süvavõltsinguks, sarnanema tegelike isikute, esemete, kohtade, üksuste või sündmustega. Isikute all mõeldakse realistlikke inimesi (sh tegelike isikute digitaalsed koopiad, realistlikud tehisintellekti loodud inimavatarid või tegelased ning isikuomadused või -väljendused, nagu kujutis, hääl, käitumine, etteasted jne). Esemete all mõeldakse realistlikke elutuid materiaalseid esemeid, sealhulgas hooneid, kunstiteoseid, masinaid, tarbekaupu jne. Kohtade all mõeldakse realistlikke asukohti. Üksuste all mõeldakse realistlikke elusolendeid, sealhulgas loomi või muid bioloogilisi eluvorme, kes ei ole inimesed. Sündmuste all mõeldakse realistlikke stseene või olukordi, mis võivad hõlmata isikuid, esemeid, kohti ja üksusi (nt viidates ajaloosündmustele või kujutades kutselisi või tarbijateenuseid).

iv)

Näib kasutajale petlikult ehtne või tõene: neljandaks on süvavõltsing tehisintellektimääruse artikli 3 punkti 60 kohaselt selline tehisintellekti loodud või manipuleeritud pildi-, audio- või videosisu, mis sarnaneb tegelike isikute, objektide, kohtade, üksuste või sündmustega ja näib kasutajale petlikult ehtne või tõene. See kriteerium on seotud süvavõltsitud sisu põhiomadusega ja selle võimega inimest sisu ehtsuse või tõesuse suhtes potentsiaalselt petta või eksitada (32). Sisu ehtsuse all peetakse silmas seda, kas sisu on tõepoolest see, millisena see on esitatud, pidades silmas selle allikat või loomise protsessi (sh näiteks tegelike inimeste või loomade osalemine ja nende tegelik käitumine või tegevus, esemete tegelik välimus või kasutamine või teenuste osutamine, sündmuse täpne kujunemine või kulg). Tõesus puudutab sisu tõepärasust (nt süvavõltsingus esitatu faktiline õigsus).

(114)

Seda, kas sisu näib kasutajale petlikult ehtne või tõene, tuleks hinnata tervikuna, võttes arvesse sarnasuse taset, sisu võimalikku sisulist sõnumit, kavandatud ja prognoositava kasutamise konteksti, keskkonda, milles sisu esitatakse, ning kavandatud ja mõistlikult prognoositava kasutajaskonna koosseisu ja nende ootusi. See hindamine on siiski objektiivne ja selleks, et sisu kujutaks endast süvavõltsingut, ei ole vaja, et juurutaja kavatsus oleks sisust mõjutatud füüsilisi isikuid petta või eksitada. Mis puudutab kasutamise konteksti ja kasutajaskonna ootusi, siis tähendab see, et kui sisu kasutatakse konkreetsetes kasutamise kontekstides, kus kavandatud ja mõistlikult prognoositav kasutajaskond ei oota, et sisu on ehtne või tõene, ei pruugi tehisintellekti loodud või manipuleeritud sisu näida petlikult ehtne või tõene, isegi kui see ei ole tegelikult ehtne või tõene. Sellistel juhtudel ei ole süvavõltsingu määratluse neljas kriteerium täidetud. Näiteks ei muuda tehisintellekti abil taustastseenide loomine või manipuleerimine, eriefektid või tehniline eel- ja järeltöötlemine tavapärase filmitootmisprotsessi osana tõenäoliselt sisu vaatajatele petlikult ehtsaks või tõeseks. Seevastu võib seda teha tehisintellekti kasutamine selliste oluliste elementide loomiseks või manipuleerimiseks, mis mõjutavad selle tajumist vaatajate poolt (nt täielikult tehisintellekti loodud näitlejad, tegelike või surnud näitlejate digitaalsed koopiad, nooremaks tegemine, simuleeritud etteasted, sealhulgas nende osad, või isikute, objektide, kohtade või sündmuste mitteautentne või ebatõene kujutamine dokumentaalfilmides). Pildi- ja videosisu puhul on tõdetud, et mida suurem on sisu fotorealism, seda tõenäolisem on, et see on süvavõltsing (kuna see sarnaneb tõenäoliselt tegelike subjektidega), kuid fotorealism üksi ei ole hindamisel määrav. Veel tuleks hinnata, kas selline sisu võib isikut petta või eksitada sisu ehtsuse või tõesuse suhtes, võttes muu hulgas arvesse kavandatud ja prognoositava kasutamise konteksti.

(115)

Erinevalt tehisintellektimääruse artikli 50 lõikest 1 ei tohiks kasutajale petlikult ehtsa või tõesena näivuse hinnang põhineda hüpoteetilisel „keskmisel“ inimesel, kes eeldatavasti sisuga kokku puutub (vt jaotis 3.2.1), vaid selles tuleks nõuetekohaselt arvesse võtta süvavõltsitud sisuga kokku puutuda võiva mõistlikult prognoositava kasutajaskonna võimalikku erinevat koosseisu. Kasutajaskonna koosseisu nõuetekohane arvessevõtmine on eriti oluline, kui on mõistlikult prognoositav, et süvavõltsitud sisu võivad millalgi näha lapsed, eakad või muud väiksema digikirjaoskuse ja tehisintellektipädevuse või üldteadmiste tasemega isikute rühmad, kuna neid võidakse sisu ehtsuse või tõesuse suhtes kergemini petta või eksitada. Sellistel juhtudel võib sisu süvavõltsinguks kvalifitseerimiseks piisata sellest, kui sisu näib prognoositava kasutajaskonna selle osa jaoks petlikult ehtne või tõene. Siiski ei eeldata, et juurutajad kaaluvad võimalust, et kolmandad isikud levitavad süvavõltsitud sisu edasi väljaspool juurutaja poolt mõistlikult prognoositavat kasutajaskonda, võttes arvesse kavandatud levitamiskanaleid (nt kui süvavõltsitud sisu näidatakse üksnes veebisaidi abonendipõhises osas või ettevõtte uudiskirja osana, ei tähenda see, et juurutaja peaks vaikimisi kaaluma laialdast avalikku kättesaadavust).

(116)

Samamoodi võib olemasoleva sisu ebaoluliste sisuliste või tehniliste aspektide tehisintellektipõhine manipuleerimine olla isiku jaoks sisu ehtsuse või tõesuse hindamisel väheoluline, kuna see ei muuda sellest tulenevat sisu süvavõltsinguks. See võib hõlmata näiteks taustaandmete redigeerimist (nt mööduja eemaldamine), valgustuse muutmist, heliparameetrite kohandamist, värvi korrigeerimist, müra vähendamist või eemaldamist, juurdepääsetavuse parandamist või failide tihendamist, kosmeetilist kohandamist ja täiustamist. See, kas manipuleerimine kuulub sellesse kategooriasse, sõltub kontekstist ja mõjust sellele, kuidas inimesed konkreetsel juhul sisu ehtsust või tõesust tajuvad. Näiteks tehisintellektil põhinev värviparandus, olemasoleva sisu taustalaiendus, tausta kohandamine või asendamine selgelt esteetilisel eesmärgil, olemasolevate toodete paigutus ja korraldus või tootereklaami või pakendi puhul kasutatavate piltide suuruse muutmine mõjutab tõenäoliselt ainult vähesel määral seda, kuidas isik tajub reklaami ja toote ehtsust ja tõesust. Seevastu ajakirjanduslike piltide taustaandmete oluline tehisintellektipõhine redigeerimine, mis läheb kaugemale tavapärastest tehnilistest redigeerimistavadest, võib negatiivselt mõjutada seda, kuidas inimene tajub sisu ehtsust ja tõesust.

Tehisintellektimääruse artikli 3 punkti 60 kohased süvavõltsingud on näiteks:

—

tehisintellekti manipuleeritud pilt stseenist, kus jalgpallistaadionile sarnaneva hoone ees on kaks tegelikku professionaalset jalgpallurit;

—

tehisintellekti loodud audiosisu, mis hõlmab ajalehe netisaates korrapäraselt esinevate isikute ja nendega mõningaid uudiseid arutava külalisesineja häälte kloonimist;

—

tehisintellekti loodud video poliitikuga sarnasest isikust, kes peab kuulajaskonna ees kõnet;

—

tehisintellekti loodud video, milles kujutatakse tuntud suunamõjutaja tehisintellektiga loodud kujutist reklaami või müügiedenduse kontekstis;

—

tehisintellekti loodud video, milles kujutatakse realistlikku sünteetilist ettevõtte tegevjuhi avatari, kes õnnitleb töötajaid nende töö ja ettevõtte eelmise aasta tulemuste puhul;

—

tehisintellekti loodud tootepilt reklaamis või pakendil, mis võib mõjutada sihtrühma arusaama toote tegelikust välimusest, omadustest või kasutusest ja neid eksitada (nt kujutades toodet tegelikust erinevana, atraktiivsemana või kvaliteetsemana).

Tehisintellektimääruse artikli 3 punkti 60 kohased süvavõltsingud ei ole näiteks:

—

tehisintellekti loodud pilt stseenist, kus sfinks lendab üle Eiffeli torni;

—

tehisintellekti loodud video hiirtest, kes vaidlevad inimkeeles parimat liiki juustu üle juustutootja reklaamikampaania raames;

—

fiktiivsete tegelaste hääle jäljendamine tehisintellekti abil (nt audioraamatutes, mängudes või animatsioonides), kui jutustajate identiteedi osas ei esine pettust;

—

tehisintellekti manipuleeritud raadiosaade, mille puhul on kohandatud tehnilisi audioparameetreid (nt helitugevuse normaliseerimine, müra vähendamine, heli kokkusurumine), ilma et see muudaks sõnavõtjate tegelikke sõnu või nende kõneviisi;

—

tehisintellekti loodud animatsioon olemasolevast pildist, millel on kujutatud ajaloolist sündmust;

—

video teadusliku telesaate saatejuhist, kes kõnnib mägipiirkonnas, käsitledes samal ajal liustike taandumist, mida illustreerib tehisintellekti manipuleeritud taustaanimatsioon, mis näitab, kuidas liustikud taandusid oma ajalooliselt tasemelt praegusele tasemele;

—

tehisintellekti loodud fiktiivsed keskkonnad (nt fiktiivsed metsad ja lossid) videomängudes;

—

filmid, kus tegelikud olemasolevad näitlejad (keda tehisintellekt ei manipuleeri) mängivad tehisintellekti loodud taustal (nt kujutades fiktiivset preeriaala, iidsete linnade ajaloolisi hooneid jne);

—

tegelik toode (nt auto), mida näidatakse reklaamis tehisintellekti loodud taustal ja ümbritsevas keskkonnas, tingimusel et reklaam ei eksita tõenäoliselt kasutajaskonda toote tegeliku esituse ning selle omaduste ja kasutamise osas.

6.1.2.   Tehisintellektimääruse artikli 50 lõike 4 esimese lõigu kohane avalikustamiskohustus

(117)

Tehisintellektimääruse artikli 50 lõike 4 esimese lõiguga pannakse selliste tehisintellektisüsteemide juurutajatele, mis loovad või manipuleerivad pildi-, audio- või videosisu, mis kujutab endast süvavõltsingut, kohustus avalikustada, et sisu on kunstlikult loodud või manipuleeritud. Tehisintellektimääruse põhjenduses 134 on selgitatud, et juurutajad, kes kasutavad tehisintellektisüsteeme süvavõltsitud sisu loomiseks või manipuleerimiseks, peaksid selgelt ja eristatavalt avalikustama, et selline sisu on kunstlikult loodud või seda on manipuleeritud, märgistades tehisintellekti väljundi vastavalt ja avalikustades selle tehisliku päritolu. Tehisintellektimääruse artikli 50 lõike 4 esimese lõigu kohaselt kohaldatavad märgistamis- või avalikustamismeetodid peaksid olema füüsilistele isikutele arusaadavad ja tajutavad (nt nähtavad või kuuldavad märgised), ilma et tuleks kasutada konkreetseid tehnilisi vahendeid või võtta spetsiaalseid meetmeid. Seetõttu ei saa juurutajad tugineda tehisintellektimääruse artikli 50 lõike 2 kohasele masinloetavas vormingus märgistusele, mille pakkuja on sisule lisanud, kuna need märgised ei ole süvavõltsitud sisuga kokku puutuvate füüsiliste isikute jaoks kohe selged ja eristatavad.

(118)

Tehisintellektimääruse artikli 50 lõikega 7 arvestades võivad juurutajad selle avalikustamiskohustuse täitmise tõendamiseks järgida tegevusjuhendit, mis on tehisintellektimääruse artikli 50 lõike 7 kohaselt hinnatud piisavaks. Allpool jaotises 8.1 on esitatud lisateave, mis käsitleb sellise tegevusjuhendi järgimise mõju ja tegevusjuhendit mittejärgivate muude juurutajate järelevalvet.

6.1.3.   Kunstilise, loomingulise, satiirilise, väljamõeldud või samalaadse süvavõltsitud sisu läbipaistvus

(119)

Tehisintellektimääruse artikli 50 lõike 4 esimese lõiguga on ette nähtud vähendatud läbipaistvuskohustus selliste süvavõltsingute puhul, mis moodustavad osa ilmselgelt kunstilistest, loomingulistest, satiirilistest, väljamõeldud või samalaadsetest teostest või programmidest. Sellise sisu puhul piirdub läbipaistvuskohustus süvavõltsingu avalikustamisega asjakohasel viisil, mis ei takista teose kuvamist või kasutamist.

(120)

Asjakohased sisukategooriad. Selleks et süvavõltsingu (kujutis, audio või video) avalikustamise puhul saaks kohaldada vähendatud läbipaistvuskohustust, peab see kuuluma vähemalt ühte järgmistest sisukategooriatest: kunstilised, loomingulised, satiirilised, väljamõeldud või samalaadsed teosed või programmid. Seda, kas süvavõltsing kuulub ühte või mitmesse neist kategooriatest, peab juurutaja hindama juhtumipõhiselt. Tehisintellektimääruse artikli 50 lõike 4 kohaldamisel käsitatakse neid kategooriaid järgmiselt:

—

kunstilised teosed on kunsti eesmärgil loodud teosed, sealhulgas muusika, kinematograafiateosed ja kujutav kunst;

—

loomingulised teosed on teosed, mis eeldavad loomingulisi valikuid. Teoseid, mis on peamiselt ajendatud funktsionaalsetest või tehnilistest kaalutlustest, ei saa pidada loomingulisteks;

—

satiirilised teosed on teosed, mille eesmärk on kritiseerida ühiskonda, poliitikat, ettevõtjaid või avaliku elu tegelasi, kasutades humoristlikke tehnikaid (sh iroonia, sarkasm, pilkamine, pastišš jne);

—

väljamõeldud teoste all mõistetakse kultuuriteoseid, milles inimesed, esemed, kohad, üksused või sündmused esinevad kujuteldavas, kuid tõelähedases keskkonnas;

—

samalaadsete teoste all mõistetakse teoseid, millel on eespool nimetatud kategooriatega ühised põhiomadused või sarnased väljenduslikud või funktsionaalsed omadused, kuid mis ei sobitu korralikult ühte kategooriasse.

(121)

Eespool nimetatud sisukategooriaid võib kohaldada ka programmi(de) suhtes, mida tuleks käsitada meediateenuse osutaja koostatud kava või kataloogi üksikartiklina, mis on vormilt ja sisult võrreldav telesaatega (33). Viide teostele tehisintellektimääruse artikli 50 lõike 4 kontekstis ei mõjuta seda, kas sisu vastab autoriõigust ja sellega kaasnevaid õigusi käsitleva liidu õigusakti alusel kaitse tingimustele.

(122)

Ilmselgus Süvavõltsinguga kokku puutuvatele füüsilistele isikutele peaks olema ilmselge, et see kuulub ühte (või mitmesse) eespool nimetatud sisukategooriasse. See tähendab, et kategooriaid tuleks tõlgendada kitsendavalt, mis on põhjendatud asjaoluga, et väljendusvabadusele ning kunsti ja teaduse vabadusele avalduva võimaliku mõju tõttu kohaldatakse leebemat avalikustamiskorda, kuid samal ajal tuleb võtta kohaseid meetmeid väärinfo, manipuleerimise ja pettuse ohu suhtes. Seetõttu on sisu, mille olemus võib olla kasutajaskonna jaoks ebaselge või mitmeti mõistetav, selle leebema läbipaistvuskorra kohaldamisalast välja jäetud. Asjakohased tegurid kunstilise, loomingulise, satiirilise või väljamõeldud sisu ilmse olemuse hindamiseks on järgmised: i) see, kas sisu on sisukategooriatele iseloomulikus vormingus või stiilis (nt iroonia või liialdus satiiriliste teoste puhul, teatavad kunstistiilid, eristatavate teemade, tehnikate või esteetika kuvamine jne); ii) sisu esitamise kontekst (nt kas platvorm, andmekandja või koht, kus sisu esitatakse, kättesaadavaks tehakse või levitatakse, on seotud kunstilise, loomingulise, satiirilise või väljamõeldud kasutusega); iii) kasutajaskonna ootused (nt film, mängukeskkond või virtuaalreaalsus). Lisaks jäetakse tingimusega, et sisu peaks ilmselgelt kuuluma ühte eespool nimetatud sisukategooriatest, sisu nende sisukategooriate kohaldamisalast välja, kui see on oma olemuselt üksnes informatiivne või äriline ja sellisena äratuntav (nt uudiste edastamine). Sellega seoses võib teatavat liiki sisu (nt reklaam või dokumentaalfilmid), mis sisaldab süvavõltsinguid, pidada ilmselgelt loominguliseks või väljamõeldud teoseks teatavates konkreetsetes olukordades, kuid mitte teistes, kuna hindamine on juhtumipõhine. Kui süvavõltsingul on mitu omadust (nt see on informatiivne ja loominguline), peaks alati domineerima informatiivne omadus ja see nõuab standardsete märgistamisnõuete täitmist.

(123)

Asjakohane avalikustamine, mis ei takista teose kuvamist või kasutamist. Süvavõltsingud, mis on ilmselgelt osa kunstilisest, loomingulisest, satiirilisest või väljamõeldud teosest või programmist, ei ole tehisintellektimääruse artikli 50 lõike 4 esimeses lõigus sätestatud läbipaistvuskohustusest vabastatud. Juurutajad peavad ikkagi avalikustama, et sisu on tehisintellektiga loodud või manipuleeritud, kuid nad saavad seda teha asjakohasel viisil, mis ei takista teose kuvamist või kasutamist. Tehisintellektimääruse põhjenduses 134 on selgitatud, et selline asjakohane avalikustamine ei tohiks takistada tavapärast kasutamist, võimaldades samal ajal säilitada teose kasulikkuse ja kvaliteedi. Seda, milliseid avalikustamismeetmeid tuleb pidada asjakohaseks, hinnatakse juhtumipõhiselt ja juurutajad võivad selle käigus arvesse võtta kõiki asjakohaseid tegureid (sh töö laad, kasutajaskond, kontekst jne). Igal juhul peavad juurutajad järgima tehisintellektimääruse artikli 50 lõiget 5 (vt 7. jagu). Võttes arvesse tehisintellektimääruse artikli 50 lõiget 7, võivad juurutajad järgida selle sätte kohaselt piisavaks hinnatud tegevusjuhendit, et tõendada kõnealuse avalikustamiskohustuse täitmist. Allpool jaotises 8.1 on esitatud lisateave, mis käsitleb sellise tegevusjuhendi järgimise mõju ja tegevusjuhendit mittejärgivate muude juurutajate järelevalvet.

(124)

Asjakohased kaitsemeetmed kolmandate isikute õiguste ja vabaduste kaitseks. Tehisintellektimääruse põhjenduses 134 on selgitatud, et vähendatud läbipaistvuskohustuse täitmise ning kunstiliste, loominguliste, satiiriliste või väljamõeldud süvavõltsingute kasutamise puhul tuleb kohaldada asjakohaseid kaitsemeetmeid kolmandate isikute õiguste ja vabaduste kaitseks. Seetõttu peavad juurutajad tagama, et süvavõltsingute loomisel või avaldamisel kaitstakse ja austatakse piisavalt kolmandate isikute õigusi ja vabadusi (sh näiteks nende õigust isikuandmete kaitsele või intellektuaalomandi õigusi), isegi kui süvavõltsingut tuleb pidada kunstiliseks, loominguliseks, satiiriliseks või väljamõeldud süvavõltsinguks. Vähendatud läbipaistvuskohustusele tuginemine ei saa õigustada seda, et ei austata üksikisikute või õiguste omajate põhiõigusi, mis tulenevad intellektuaalomandit käsitlevatest liidu õigusaktidest või liidu andmekaitsealastest õigusaktidest (34).

Süvavõltsingud, mis on loomingulised, satiirilised, väljamõeldud või samalaadsed teosed, on näiteks:

—

kunstilised/väljamõeldud teosed: kinos või voogedastusplatvormil kättesaadavad filmid (või filmitreilerid), milles kasutatakse tehisintellekti loodud või manipuleeritud süvavõltsinguid, mis kujutavad nooremaks tehtud päriselt olemas olevaid näitlejaid või surnud näitlejate või muude isikute digitaalseid koopiaid;

—

kunstiline/loominguline teos: tehisintellekti loodud mis tahes žanris muusika, mis sarnaneb olemasolevate esinejate individuaalse stiiliga;

—

satiiriline/väljamõeldud teos: tehisintellekti manipuleeritud kujutis päriselt olemas olevast poliitikust, kes on pandud olukorda, mille selge eesmärk on kritiseerida humoorikalt teatavaid poliitilisi otsuseid, mille see isik on teinud või mida ta toetab;

—

samalaadne loominguline/väljamõeldud teos: tehisintellekti loodud mängude pildimaterjal, mis sisaldab süvavõltsitud simulatsiooni tegelikest olemasolevatest isikutest.

Süvavõltsingud, mis ei ole kunstilised, loomingulised, satiirilised, väljamõeldud või samalaadsed teosed, on näiteks:

—

tehisintellekti manipuleeritud video, mis on teleturukanali stiilis ja sisaldab süvavõltsitud simulatsiooni inimestest, kes reklaamivad toodet tehisintellekti loodud stseenis, milles simuleeritud tarbijad näitavad toote kasutamist, eesmärgiga veenda vaatajaid toodet ostma;

—

tehisintellekti abil kuulsustest loodud pildid, millel vihjatakse nende osalemisele tegevustes, mida tegelikult kunagi toimunud ei ole, ning millel puudub igasugune väljamõeldud, satiiriline või samalaadne eesmärk;

—

tehisintellekti manipuleeritud video, mis sisaldab realistlikku sünteetilist suunamõjutajat, kes testib sponsoreeritud tegelikku toodet, keskendudes üksnes toote funktsioonide näitamisele;

—

tehisintellekti loodud video, milles kujutatakse realistlikke holokaustistseene, mida jagatakse avalikult kättesaadavatel sotsiaalmeedia platvormidel.

6.1.4.   Erand seoses õiguskaitsega

(125)

Kui süvavõltsingu (nt tehisintellekti loodud video, mis simuleerib sündmusi, mida ei ole kunagi toimunud) kasutamine on seadusega lubatud kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks, on juurutajad tehisintellektimääruse artikli 50 lõike 4 esimese lõigu kohasest läbipaistvuskohustusest vabastatud. Selle sätte puhul on asjakohased ka eespool punktides 46–48 esitatud selgitused tehisintellektimääruse artikli 50 lõikes 1 sätestatud sarnase erandi kohta.

6.1.5.   Koostoime liidu teiste õigusaktidega

(126)

Tehisintellektimääruse artikli 50 lõike 4 esimeses lõigus sätestatud läbipaistvuskohustus on seotud väga suurte digiplatvormide ja väga suurte internetipõhiste otsingumootorite pakkujate kohustusega teha kindlaks ja maandada süsteemseid riske vastavalt digiteenuste määruse artiklitele 34 ja 35, eelkõige digiteenuste määruse artikli 35 lõike 1 punktile k (35). Viimati nimetatud sättes on nende riskimaandamismeetmete hulgas, mida väga suurte digiplatvormide ja väga suurte internetipõhiste otsingumootorite pakkujad võivad võtta, loetletud meetmed, millega tagatakse, et teabeelement, mis kujutab endast loodud või manipuleeritud kujutist või audiot või videot, mis sarnaneb märkimisväärselt tegelike isikute, esemete, kohtade või muude üksuste või sündmustega ning mis näib kasutajale petlikult ehtne või tõene, on tuvastatav silmapaistva märgistuse kaudu, kui seda esitatakse nende internetipõhises kasutajaliideses. Lisaks võivad väga suurte digiplatvormide ja väga suurte internetipõhiste otsingumootorite pakkujad pakkuda ka hõlpsasti kasutatavat funktsiooni, mis võimaldab teenusesaajatel sellisele teabele osutada. Kuigi see digiteenuste määruse säte näib sarnanevat tehisintellektimääruse artikli 50 lõikega 4, täiendab see seda ja sisaldab kahte olulist erinevust.

—

Erinev materiaalne kohaldamisala: võrreldes tehisintellektimääruse artikli 50 lõikega 4 hõlmab digiteenuste määruse artikli 35 lõike 1 punkt k laiemat valikut sisu, mis võib näida petlikult ehtne või tõene, olenemata sisu loomiseks kasutatud tehnoloogiast (st see hõlmab tehisintellektisüsteemide või muude vahendite abil loodud või manipuleeritud sisu).

—

Erinev isikuline kohaldamisala: tehisintellektimääruse artikli 50 lõikega 4 kohustatakse süvavõltsinguid loovate või manipuleerivate tehisintellektisüsteemide juurutajaid sellist sisu märgistama, samas kui digiteenuste määruse artikli 35 lõike 1 punkti k kohaldatakse väga suurte digiplatvormide ja väga suurte internetipõhiste otsingumootorite pakkujate suhtes, kes levitavad sisu või muudavad sellise sisu otsingu teel leitavaks. Näiteks võib tehisintellektimääruse alusel väga suurde digiplatvormi integreeritud tehisintellektisüsteemide juurutajaid pidada digiteenuste määruse artikli 3 punkti b kohaselt teenusesaajateks (36), kui nad kasutavad väga suurt digiplatvormi asjaomase tehisintellektisüsteemiga loodud sisu levitamiseks, samal ajal kui väga suurt digiplatvormi võib pidada tehisintellektisüsteemi pakkujaks, kui tehisintellektimääruse artikli 3 lõike 3 tingimused on täidetud. Kui väga suurte digiplatvormide või väga suurte internetipõhiste otsingumootorite pakkujad teevad sellistele juurutajatele kättesaadavaks märgistamisvahendid, mis võimaldavad neil märgistada oma süvavõltsitud sisu kooskõlas tehisintellektimääruse artikli 50 lõikega 4 (st tehisintellekti päritolu selge ja eristatav avalikustamine), võivad need juurutajad kasutada neid vahendeid, et täita sellest sättest tulenevat läbipaistvuskohustust selle väga suure digiplatvormi või väga suure internetipõhise otsingumootori kontekstis, mida kasutatakse. Sellise funktsiooni pakkumine ei piira tehisintellektimääruse kohast juurutajate vastutust tehisintellektimääruse artikli 50 lõikest 4 tulenevate märgistamiskohustuste täitmise eest. Lisaks käsitatakse väga suurte digiplatvormide ja väga suurte internetipõhiste otsingumootorite pakkujaid tehisintellektimääruse kohaselt ka tehisintellektisüsteemi juurutajatena, kui nad kasutavad nende kontrolli all olevat tehisintellektisüsteemi oma kutsealastel eesmärkidel (nt turundusmaterjali osana kasutatavate visuaalsete materjalide loomine).

(127)

Kui süvavõltsing sisaldab teavet otseselt või kaudselt tuvastatava füüsilise isiku (kes on elus) kohta, peavad juurutajad kui liidu andmekaitseõiguse kohased vastutavad töötlejad täitma ka liidu andmekaitsealastest õigusaktidest tulenevaid vastavaid kohustusi (37). See hõlmab näiteks tuginemist isikuandmete töötlemisel asjakohasele õiguslikule alusele, teavet kujutatud andmesubjektidega seotud andmete töötlemise kohta jne.

(128)

Süvavõltsinguid loovate tehisintellektisüsteemide juurutajad peavad lisaks tagama, et nad järgivad liidu asjakohaseid intellektuaalomandit käsitlevaid õigusakte (nt liidu kaubamärgiõigust ning autoriõigust või sellega kaasnevaid õigusi käsitlevat liidu õigust), kui nende süvavõltsing sisaldab nende õigusaktidega kaitstud materjali. Märgise või ikooni kasutamine süvavõltsingu puhul ei mõjuta iseenesest selle õigust autoriõiguse kaitsele, mida tuleks hinnata kooskõlas kohaldatavate liidu autoriõiguse normidega.

(129)

Kui süvavõltsingutes kujutatakse olemasolevaid isikuid, peavad juurutajad järgima ka asjakohast õiguskorda, mis kaitseb isikuõigusi isiklike piltide või häälte suhtes. Tehisintellektimääruse artikli 50 lõike 4 esimese lõigu kohane läbipaistvuskohustus ei tähenda, et võib luua ja levitada tehisintellekti loodud või manipuleeritud süvavõltsinguid, mis on kohaldatava liidu või riigisisese õiguse kohaselt kahjulikud ja ebaseaduslikud (nt eksitav reklaam või kriminaalõiguse rikkumised, nagu laste seksuaalset väärkohtlemist kujutav materjal ja nõusolekuta intiimpildid) (vt ka jaotis 4.4).

6.2.   Tehisintellekti loodud või manipuleeritud teksti põhikomponendid, mõisted ja nendega seotud läbipaistvuskohustus(ed) vastavalt tehisintellektimääruse artikli 50 lõikele 4

(130)

Tehisintellektimääruse artikli 50 lõike 4 teist lõiku kohaldatakse juhul, kui on täidetud mitu tingimust:

i)

süsteem peab olema tehisintellektisüsteem;

ii)

süsteemi kasutatakse sellise teksti loomiseks või manipuleerimiseks (vt jaotis 4.2.1), mis avaldatakse eesmärgiga teavitada üldsust avalikku huvi pakkuvatest küsimustest;

iii)

tehisintellektisüsteemi kasutamine ei kuulu ühegi erandi alla, kui 1) tehisintellekti loodud sisu on läbinud inimkontrolli või toimetuskontrolli ning kui füüsilisel või juriidilisel isikul on sisu avaldamise eest toimetusvastutus või 2) kasutamine on seadusega lubatud kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks.

6.2.1.   Teksti avaldamine eesmärgiga teavitada üldsust avalikku huvi pakkuvatest küsimustest

(131)

Tehisintellektimääruse artikli 50 lõike 4 teise lõigu kohaldamisala selgitamiseks uuritakse allpool kolme elementi: i) avaldatud tekst ii) eesmärgiga teavitada üldsust iii) avalikku huvi pakkuvatest küsimustest.

i)

Avaldatud tekst: tehisintellekti loodud või manipuleeritud tekst peaks olema avaldatud. See tähendab, et tekst peab olema kättesaadav määramata hulgale potentsiaalsetele lugejatele, kes ei ole omavahel seotud, samal ajal ja/või järgemööda ning kas tasu eest või tasuta (nt tellimused) (38). Seevastu teksti ei loeta avaldatuks, kui juurdepääs on piiratud konkreetsete isikutega, kes kuuluvad suletud erarühma (nt väike suletud rühm kiirsõnumirakenduses või kui rühm on liiga väike või ebaoluline). Avaldatud tekstiks ei loeta näiteks privaatset isikutevahelist kirjavahetust (kutsealastel eesmärkidel) või organisatsioonisiseseid tekste või teabevahetust (nt väljaanded organisatsioonisisestes võrgustikes).

ii)

Üldsuse teavitamiseks: tehisintellekti loodud või manipuleeritud avaldatud teksti eesmärk peab olema üldsust teavitada. See tähendab, et teksti eesmärk peab olema edastada teadmisi, arvamusi või fakte. Seevastu lühitekste, millega ei edastata sisuliselt teadmisi, arvamusi või fakte, ei saa käsitada üldsuse teavitamisena.

iii)

Avalikku huvi pakkuvatest küsimustest: tekst peab teavitama üldsust avalikku huvi pakkuvatest küsimustest. Üldiselt tuleks selliseid küsimusi mõista nii, et need hõlmavad kohalikul, riiklikul, liidu kui ka rahvusvahelisel tasandil ühiskonna kui terviku jaoks olulisi küsimusi, mis väärivad avalikku arutelu või kriitilist käsitlemist. Sellega seoses tuleks tekste pidada avalikku huvi pakkuvaid küsimusi käsitlevateks, kui need hõlmavad selliseid teemasid nagu poliitika ja demokraatlikud protsessid, avalik haldus ja teenused, õigusemõistmine ja õiguskaitse, põhiõiguste kaitse, avalik julgeolek, rahvatervis, keskkonnakaitse, tarbijaohutus ning mis tahes majanduslik, finantsiline, poliitiline, teaduslik või kultuuriline areng, mis võib olla avaliku arutelu teemaks. Küsimused, mida võib pidada avalikku huvi pakkuvateks, võivad aja jooksul ja eri olukordades muutuda.

Tekst, mis avaldatakse eesmärgiga teavitada üldsust avalikku huvi pakkuvatest küsimustest vastavalt tehisintellektimääruse artikli 50 lõikele 4 ning mis tuleb märgistada kunstlikult loodud või manipuleeritud tekstina, välja arvatud juhul, kui selle suhtes kohaldatakse inimkontrolli/toimetuskontrolli (vt jaotis 6.2.3), on näiteks:

—

tehisintellekti loodud kokkuvõte ajalehe veebisaidil avaldatud inimese kirjutatud artiklist, milles käsitletakse linnavolikogu hiljutist otsust;

—

tehisintellekti manipuleeritud osad elustiili käsitleval veebisaidil, milles võrreldakse eri toitumisviiside mõju konkreetsele haigusele keskealistel naistel;

—

tehisintellekti manipuleeritud äriühingu aruanded, mis on avaldatud börsil noteeritud äriühingu veebisaidil ja mis sisaldavad teavet investoritele;

—

tehisintellekti loodud sõnum meteoroloogiainstituudi sotsiaalmeediaprofiilil, millega hoiatatakse kodanikke tormise ilma ja sellega seotud ettevaatusabinõude eest.

Tekst, mida ei avaldata eesmärgiga teavitada üldsust avalikku huvi pakkuvatest küsimustest ning mis ei kuulu tehisintellektimääruse artikli 50 lõike 4 kohaldamisalasse, on näiteks:

—

tehisintellekti loodud fantaasiaromaanid;

—

tehisintellekti manipuleeritud tekst, mis on osa ettevõtte reklaamist või tootekirjeldustest (v.a väited, mis on seotud näiteks tervise, tarbijaohutuse või kestlikkusega);

—

juturoboti loodud uudiste kokkuvõte, mis on kättesaadav ainult juturoboti kasutajale;

—

konsultandi poolt kliendi nõustamiseks tehisintellekti abil manipuleeritud tekst meetmete kohta, mida tuleb võtta vastavuse tagamiseks kohaldatavatele õigusaktidele.

6.2.2.   Tehisintellektimääruse artikli 50 lõike 4 teise lõigu kohane avalikustamiskohustus

(132)

Tehisintellektimääruse artikli 50 lõike 4 teise lõiguga pannakse tehisintellektisüsteemide juurutajatele, kes loovad või manipuleerivad teksti, mis avaldatakse üldsuse teavitamiseks avalikku huvi pakkuvatest küsimustest, kohustus avalikustada teave selle kohta, et niisugune tekst on kunstlikult loodud või manipuleeritud. Tehisintellektimääruse põhjenduses 134 on selgitatud, et sarnaselt süvavõltsingutega peaksid selle sätte kohaldamisalasse kuuluva avaldatud teksti käikulaskjad selgelt ja eristatavalt avalikustama, et selline sisu on kunstlikult loodud või seda on manipuleeritud, märgistades tehisintellekti väljundi vastavalt ja avalikustades selle tehisliku päritolu. Nagu nõutakse süvavõltsingute puhul, peaksid ka tehisintellektimääruse artikli 50 lõike 4 teise lõigu kohaselt kohaldatavad märgistamis- või avalikustamismeetodid (sh vastutuse välistamine) olema füüsilistele isikutele selged ja tajutavad (nt nähtavad või kuuldavad meetmed), ilma et tuleks kasutada konkreetseteid tehnilisi vahendeid või võtta spetsiaalseid meetmeid. Võttes arvesse tehisintellektimääruse artikli 50 lõiget 7, võivad juurutajad järgida selle sätte kohaselt piisavaks hinnatud tegevusjuhendit, et tõendada kõnealuse avalikustamiskohustuse täitmist. Allpool jaotises 8.1 on esitatud lisateave, mis käsitleb sellise tegevusjuhendi järgimise mõju ja tegevusjuhendit mittejärgivate muude juurutajate järelevalvet.

6.2.3.   Erand läbipaistvuskohustusest teksti puhul, mille suhtes kohaldatakse inimkontrolli või toimetuskontrolli ja toimetusvastutust

(133)

Tehisintellektimääruse artikli 50 lõike 4 teises lõigus on ette nähtud erand selle sättega ette nähtud läbipaistvuskohustusest, kui on täidetud kaks kumulatiivset tingimust: i) tehisintellekti loodud või manipuleeritud tekst peab olema läbinud inimkontrolli või toimetuskontrolli ning ii) avaldamise eest peab kandma toimetusvastutust juriidiline või füüsiline isik. Kui see on asjakohane, võivad juurutajad kõnealustele nõuetele vastavuse tõendamisel tugineda asjakohastele kohaldatavatele kutse- või deontoloogilistele standarditele, nagu on kirjeldatud allpool.

i.   Tekst, mille suhtes kohaldatakse inimkontrolli või toimetuskontrolli

(134)

Tehisintellektimääruse artikli 50 lõike 4 teisest lõigust tehtava erandi kohaldamise esimese tingimuse kohaselt peab tehisintellekti loodud või manipuleeritud tekst olema läbinud inimkontrolli või toimetuskontrolli. Inimkontroll tähendab sisu tahtlikku läbivaatamist ühe või mitme füüsilise isiku poolt, kellel on uuritava küsimusega seotud asjakohased teadmised ja kutsealane otsustusvõime (nt akadeemiline vastastikune eksperdihinnang või kutsealased valideerimisahelad). Sisu täpsuse faktikontroll on miinimumnõue, mis peaks olema selle läbivaatamise osa. Toimetuskontroll tähendab sellise vastutava toimetusüksuse (nt peatoimetaja) tegelikku kontrolli sisu üle, kellel on õigus teksti sisu sisulistel põhjustel heaks kiita, muuta või tagasi lükata (sh teabe faktikontroll ja allikate usaldusväärsuse tagamine). See ei piira meediateenuse osutajate suhtes kohaldatavaid kehtivaid läbivaatamis- ja toimetamismenetlusi ega kutsestandardeid.

(135)

Pealiskaudsed, üksnes formaalsed või menetluslikud kontrollid (nt õigekirjakontroll või grammatikavigade parandamine), pelgalt toimetuspoliitika olemasolu, automaatsed läbivaatamisprotsessid või pealiskaudne toimetuslik heakskiit ilma inimesest kontrollija või toimetusüksuse sisulise kaasamiseta ei saa selle erandi kohaldamisel täita inimkontrolli või toimetuskontrolli tingimusi.

(136)

Kui tehisintellektisüsteeme kasutatakse sisu muutmiseks, täiendamiseks või ümbersõnastamiseks pärast toimetuslikku heakskiitu, tuleb saadud sisu käsitada tehisintellekti loodud või manipuleeritud sisuna tehisintellektimääruse artikli 50 lõike 4 tähenduses. Seega muutub erand kehtetuks, kui tehisintellektiga seotud sisuline sekkumine toimub pärast seda, kui tehtud on inimkontroll või toimetuskontroll.

(137)

Võttes arvesse tehisintellektimääruse artikli 50 lõiget 7, võivad juurutajad järgida selle sätte kohaselt piisavaks hinnatud tegevusjuhendit, et tõendada vastavust selles sättes sätestatud inimkontrolli või toimetuskontrolli tingimusele (eelkõige juurutajate poolt, kes ei ole meediateenuse osutajad ja kelle suhtes kohaldatakse kehtivaid toimetuslikke kutse- või deontoloogilisi standardeid). Allpool jaotises 8.1 on esitatud lisateave, mis käsitleb sellise tegevusjuhendi järgimise mõju ja tegevusjuhendit mittejärgivate juurutajate järelevalvet.

ii.

Toimetusvastutus

(138)

Tehisintellektimääruse artikli 50 lõike 4 teise lõigu erandi kohaldamise teise tingimuse kohaselt peab juriidiline või füüsiline isik kandma sisu avaldamise eest toimetusvastutust. See tähendab, et kõnealusel isikul peab olema lõplik õiguslik vastutus sisu avaldamise eest, sealhulgas mis puudutab inimkontrolli või toimetuskontrolli (nt üksikisik, toimetusnõukogu või kirjastus). Avaliku vastutuse ja usalduse tagamiseks ning kooskõlas kehtivate meedia kutsestandarditega tuleks toimetusvastutusega juriidilise isiku, füüsilise isiku või ametikoha nimi ja kontaktandmed teha avalikult kättesaadavaks kergesti leitavas asukohas (kui need ei ole veel muul viisil kättesaadavad). See võib toimuda internetis, näiteks veebisaidi tingimuste või muu kasutajale suunatud õigusteabe kaudu. Veebiväliselt võib sellise teabe lisada väljaande kolofooni või väljaande teatesse.

Tekst, mis kuulub toimetusvastutusega juriidilise või füüsilise isiku inimkontrolli või toimetuskontrolli alla, on näiteks:

—

tehisintellekti manipuleeritud artikkel ajalehes või tehisintellekti loodud kokkuvõte artiklist, mis on läbinud ajalehe välja andnud juriidilise isiku toimetusvastutusega peatoimetaja toimetuskontrolli;

—

tehisintellekti manipuleeritud akadeemiline blogi, mis on läbinud asutusesisese vastastikuse hindamise ja mille puhul on blogi haldaval uurimiskeskusel toimetusvastutus;

—

tehisintellekti loodud avaliku julgeoleku hoiatused, mille ametiisikud on enne kodanikele edastamist heaks kiitnud ja mille eest vastutab asjaomane riiklik elanikkonnakaitseasutus;

—

tehisintellekti loodud kestlikkusaruanded, mis on avaldatud börsil noteeritud äriühingu veebisaidil ja läbinud asjaomaste funktsioonide (nt vastavus) spetsialistide poolse inimkontrolli;

—

inimese kirjutatud artikli tehisintellektipõhine tõlge, mis on läbinud inimkontrolli.

Erandi kasutamiseks nõutavale inimkontrollile või toimetuskontrollile mittevastav tekst on näiteks:

—

veebisait, kus avaldatakse tehisintellekti loodud artikleid liidu poliitika kohta ilma tahtliku inimkontrolli või toimetuskontrollita;

—

tehisintellekti loodud artiklid, mida vaatab läbi ja redigeerib teine tehisintellektisüsteem ning mille puhul inimesest toimetaja teeb enne avaldamist üksnes pealiskaudse grammatika kontrolli;

—

tehisintellekti loodud ise avaldatud raamat kliimamuutuste kohta, mis on tehtud kättesaadavaks e-kaubanduse platvormil ning mida pädev füüsiline või juriidiline isik (ja mitte platvorm) ei ole läbi vaadanud.

6.2.4.   Erand seoses õiguskaitsega

(139)

Kui tehisintellektisüsteemide kasutamine sellise teksti koostamiseks, mis avaldatakse eesmärgiga teavitada üldsust avalikku huvi pakkuvatest küsimustest ilma inimkontrollita (nt tehisintellekti loodud politsei hoiatus sotsiaalmeedias avaldatud terrorismiohu kohta), on seadusega lubatud kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks, on juurutajad tehisintellektimääruse artikli 50 lõike 4 kohasest läbipaistvuskohustusest vabastatud. Selle sätte puhul on asjakohased ka eespool punktides 46–48 esitatud selgitused tehisintellektimääruse artikli 50 lõikes 1 sätestatud sarnase erandi kohta.

6.2.5.   Koostoime liidu teiste õigusaktidega

(140)

Liidu meediaõiguses on toimetusvastutus määruse (EL) 2024/1083 (Euroopa meediavabaduse määrus) artikli 2 punktis 8 määratletud oluline mõiste (39). Selles kontekstis tähendab „toimetusvastutus“ tegelikku kontrolli nii saadete või ajakirjandusväljaannete valiku kui ka nende ülesehituse üle meediateenuse osutamise eesmärgil, olenemata riigisisese õiguse kohasest vastutusest osutatava teenuse eest. Teatavates olukordades võib see määratlus kattuda tehisintellektimääruse artikli 50 lõike 4 teises lõigus kasutatud toimetusvastutuse mõistega, eelkõige juhul, kui tehisintellektisüsteemi juurutajad kvalifitseeruvad Euroopa meediavabaduse määruse alusel ka meediateenuse osutajateks. Toimetusvastutust tehisintellektimääruse artikli 50 lõike 4 tähenduses tuleks seetõttu tõlgendada kooskõlas kehtiva meediaõigustikuga, olenemata asjaolust, et see jääb eraldiseisvaks mõisteks, mida võib kohaldada ka laiemas kontekstis ja teiste juurutajate suhtes, tingimusel et nad võtavad toimetusvastutuse teksti avaldamise eest. Meediateenuse osutajad võivad tugineda oma olemasolevatele toimetusprotsessidele ja -standarditele, et saada kasu tehisintellektimääruse artikli 50 lõike 4 teises lõigus sätestatud erandist.

7.   TEHISINTELLEKTIMÄÄRUSE ARTIKLI 50 LÕIKE 5 KOHASELT ESITATAVA TEABE SUHTES KOHALDATAVAD HORISONTAALSED NÕUDED

(141)

Vastavalt tehisintellektimääruse artikli 50 lõikele 5 tuleks tehisintellektimääruse artikli 50 lõigete 1–4 kohaselt esitatav teave esitada asjaomastele füüsilistele isikutele selgel ja eristataval viisil hiljemalt esimese suhtlemise või kokkupuute ajal. Teave peaks vastama ka kohaldatavatele ligipääsetavusnõuetele. Sellega seoses kuuluvad asjaomaste füüsiliste isikute hulka isikud, kes suhtlevad vahetult tehisintellektisüsteemiga (tehisintellektimääruse artikli 50 lõige 1), aktiivsed või passiivsed kasutajad ja muud isikud, kes puutuvad kokku tehisintellekti loodud või manipuleeritud sünteetilise sisuga (vahetu suhtlusega tehisintellektisüsteemiga või ilma selleta (tehisintellektimääruse artikli 50 lõiked 2 ja 4), ning isikud, kelle suhtes kohaldatakse emotsioonituvastussüsteemi või biomeetrilise liigitamise süsteemi (tehisintellektimääruse artikli 50 lõige 3).

7.1.   Teabe esitamine selgel ja eristataval viisil

(142)

Teave loetakse esitatuks selgel viisil, kui see on märgatav, asjaomasele füüsilisele isikule (sh puuetega inimestele) kergesti mõistetav ja kättesaadav. Teave loetakse esitatuks eristataval viisil, kui seda on lihtne eristada muust teabest ja keskkonnast, milles sisu esitatakse. See peab olema kergesti arusaadav ka kasutajaskonnale, sealhulgas konkreetsetele rühmadele, nagu lapsed või puuetega inimesed, kui nad on osa kasutajaskonnast, kes eeldatavasti puutuvad sisuga kokku või suhtlevad süsteemiga (40). Selleks et anda teavet selgel ja eristataval viisil, võib asjakohase teabe esitada muu hulgas suhtluse (tehisintellektimääruse artikli 50 lõike 1 alusel) või asjaomase sisu (tehisintellektimääruse artikli 50 lõigete 2 ja 4 alusel) osana. Teavet ei loeta esitatuks selgel ja eristataval viisil, kui füüsilised isikud saavad seda tavapärastes kokkupuute- või suhtlustingimustes kergesti eirata või tähelepanuta jätta (nt see lisatakse üksnes juhendisse või peidetakse veebiliideses menüüvalikute kihtide alla kasutustingimustesse, mida kasutajad sageli ei loe).

7.2.   Esimene suhtlemine või kokkupuude

(143)

Tehisintellektimääruse artikli 50 lõike 5 kohaselt tuleb teave esitada asjaomastele füüsilistele isikutele hiljemalt esimese suhtlemise või kokkupuute ajal. Esimene suhtlemine või kokkupuude ei hõlma mitte ainult esimest füüsilist isikut, kes tehisintellektisüsteemiga (selle väljundiga) suhtleb või sellega kokku puutub, vaid ka mis tahes muu füüsilise isiku hilisemat esimest suhtlemist või kokkupuudet tehisintellektisüsteemiga (selle väljundiga). Esimese tehisintellektisüsteemiga suhtlemisega seoses tuleks teave esitada vähemalt üks kord suhtlusseansi alguses, võttes samal ajal arvesse eespool punktides 36 ja 40 nimetatud konkreetseid kontekste. Tehisintellektimääruse artikli 50 lõigete 2 ja 4 kohaldamisalasse kuuluva tehisintellekti loodud või manipuleeritud sisu puhul kohaldatakse teavitamiskohustust tehisintellektisüsteemi iga väljundi suhtes seoses füüsilise isikuga, kes sisuga kokku puutub. Seda tuleks mõista mis tahes ajana, mil füüsiline isik võib mõistliku tõenäosusega kokku puutuda tehisintellektisüsteemi väljundiga ja tajuda märgata avalikustamist, võttes arvesse avalikustamise eripära ilmselgelt loominguliste, kunstiliste ja muude teoste puhul (vt jaotis 6.1.3). Lisaks on juurutajatel lubatud teavitada füüsilisi isikuid enne esimest tegelikku suhtlemist või kokkupuudet (nt süvavõltsinguid sisaldava sisu alguses). Kui aga võib mõistlikult eeldada, et isikud ei pruugi sisu algusest peale tajuda, siis kui avalikustamine toimub ainult sisu alguses, ei ole nende isikute teavitamine piisav ja avalikustamist tuleks võimaluse korral hiljem korrata. Seda võib teha vastavalt vajadusele, võttes arvesse läbipaistvuskohustuste eesmärki tagada teabe tõhus esitamine ja kasutajate sisuline teadlikkus üha immersiivsemates ja tõepärasemates tehisintellektikeskkondades, kus kasutajatel on üha raskem aru saada, kust sisu ja suhtlus pärinevad ja kui tõesed need on.

Näited teabe esitamisest esimese suhtlemise või kokkupuute ajal vastavalt tehisintellektimääruse artikli 50 lõikele 5:

—

Esimene suhtlemine: juturobotiga vestluse või tehisintellektisüsteemiga füüsilise suhtluse alustamine;

—

Esimene kokkupuude: süvavõltsinguga video alguses, sellise avalikku huvi pakkuvate küsimuste teemal avaldatud teksti alguses, mis on tehisintellekti loodud või manipuleeritud, või sattudes sotsiaalmeedias kerides tehisintellekti manipuleeritud süvavõltsingutele.

7.3.   Vastavus kohaldatavatele ligipääsetavusnõuetele

(144)

Tehisintellektimääruse artikli 50 lõigetes 1–4 loetletud mitmesuguste läbipaistvuskohustuste kohaldamisalasse kuuluvate tehisintellektisüsteemide pakkujad ja juurutajad peavad olema teadlikud kohaldatavatest ligipääsetavusnõuetest (nt direktiivide 2016/2102 (41) ja 2019/882 (42) alusel) ning hindama, kas nende toode, teenus või sisu peab nendele normidele vastama. Sellisel juhul peavad nad tagama tehisintellektimääruse artikli 50 kohaselt edastatud teabe kättesaadavuse kooskõlas kohaldatavate ligipääsetavusnõuetega. Tehisintellektimääruse artikliga 50 ei ole kehtestatud eraldiseisvaid ega täiendavaid ligipääsetavusnõudeid.

8.   TEHISINTELLEKTIMÄÄRUSE ARTIKLI 50 TÄITMISE TAGAMINE

(145)

Selle jao eesmärk on selgitada järgmist: i) tegevusjuhendi järgimise mõju seoses läbipaistvuskohustuste täitmisega tehisintellekti loodud sisu puhul; ii) pädevate järelevalveasutuste roll tehisintellektimääruse artikli 50 täitmise tagamisel; iii) nende kohustuste rikkumise korral kohaldatavad karistused; iv) tehisintellektimääruse artikliga 50 ette nähtud kohustuste kohaldamise algusaeg.

8.1.   Piisavaks hinnatud tegevusjuhendi järgimise mõju

(146)

Tehisintellektimääruse artikli 50 lõigete 2 ja 4 kohaldamisalasse kuuluvate tehisintellektisüsteemide pakkujad ja juurutajad võivad tõendada oma vastavate läbipaistvuskohustuste täitmist seoses tehisintellekti loodud sisuga nende sätete alusel, järgides tegevusjuhendit, mis on tehisintellektimääruse artikli 50 lõike 7 kohaselt hinnatud piisavaks (43). Selline juhend ei asenda tehisintellektimäärust ega käesolevaid suuniseid. See täiendab neid, pakkudes generatiivsete tehisintellektisüsteemide pakkujatele ja juurutajatele ainsat kogu liitu hõlmavat tunnustatud praktilist raamistikku, et tõendada nende kohustuste täitmist, olenemata nende asukohast, tegevusest ja pädevatest turujärelevalveasutustest.

(147)

Kuigi pakkujad ja juurutajad võivad nende kohustuste täitmist tõendada ka muude asjakohaste vahenditega, on piisavaks peetava tegevusjuhendi järgimine lihtne, prognoositav ja õiguslikult kindel viis tõendada nõuete täitmist. Tehisintellektimääruse artikli 50 lõike 7 kohaselt piisavaks hinnatud tegevusjuhendile allakirjutanute (44) puhul keskenduvad komisjon ja pädevad turujärelevalveasutused oma järelevalvetegevuses selle hindamisele, kas allakirjutanud on järginud tegevusjuhendit ja rakendanud selles sisalduvaid meetmeid. Kuna tegevusjuhendit järgivad pakkujad ja juurutajad tagavad tehisintellektimääruse artikli 50 lõigete 2, 4 ja 5 järgimiseks rakendatavate meetmete puhul läbipaistvuse, pälvivad nad komisjoni, teiste pädevate turujärelevalveasutuste ja muude sidusrühmade (sh üldsuse) suurema usalduse. Kui piisavaks peetava tegevusjuhendi allkirjastajad loobuvad mõne selle osa täitmisest, kaotavad need pakkujad ja juurutajad sellega seoses kasu, mis tuleneb hõlpsamast nõuetele vastavuse tõendamisest.

(148)

Pakkujad ja juurutajad, kes ei ole allkirjastanud tehisintellektimääruse artikli 50 lõike 7 kohaselt piisavaks peetavat tegevusjuhendit, peaksid muude asjakohaste vahendite abil tõendama, kuidas nad on täitnud tehisintellektimääruse artikli 50 lõigetest 2, 4 ja 5 tulenevaid kohustusi. Lisaks peaksid sellised pakkujad ja juurutajad selgitama, kuidas nende rakendatavad meetmed tagavad tehisintellektimäärusest tulenevate kohustuste täitmise. Näiteks peaksid nad tegema puuduste analüüsi, milles võrreldakse rakendatud meetmeid meetmetega, mis on sätestatud tegevusjuhendis, mida peetakse piisavaks. Kuna pädevatel asutustel (sh Euroopa tehisintellektiametil) on vähem teadmisi selle kohta, kuidas pakkujad ja juurutajad, kes ei ole tegevusjuhendit allkirjastanud, tagavad tehisintellektimääruse artikli 50 lõigetest 2, 4 ja 5 tulenevate kohustuste täitmise, vajavad nad nõuete täitmise järelevalve tegemisel tõenäoliselt üksikasjalikumat teavet. Näiteks võidakse tegevusjuhendit mittejärgivatele pakkujatele esitada suurema arvu teabenõudeid ja juurdepääsutaotlusi, et hinnata tehisintellektimääruse artikli 50 lõike 2 järgimiseks rakendatud tehniliste lahenduste tõhusust, koostalitlusvõimet, töökindlust ja usaldusväärsust. Selliseid nõudeid ja taotlusi võib esitada ka juurutajatele seoses tehisintellektimääruse artikli 50 lõike 4 kohaste märgistamistavadega.

(149)

Pädevad asutused võivad konkreetsetest asjaoludest sõltuvalt võtta trahvisummade kindlaksmääramisel kergendava asjaoluna arvesse kohustusi, mida täidetakse kooskõlas piisavaks peetava tegevusjuhendiga (45).

(150)

Kui tegevusjuhendit ei peeta tehisintellektimääruse artikli 50 lõike 7 kohaselt piisavaks, võib komisjon võtta vastu rakendusakti, milles määratakse kindlaks tehisintellektimääruse artikli 50 lõigetes 2, 4 ja 5 sätestatud kohustuste rakendamiseks ühised õigusnormid, mida kohaldataks kõigi nende sätete kohaldamisalasse kuuluvate tehisintellektisüsteemide asjaomaste pakkujate ja juurutajate suhtes (46).

8.2.   Turujärelevalveasutused

(151)

Liikmesriikide määratud turujärelevalveasutused, Euroopa tehisintellektiamet (47) ja Euroopa Andmekaitseinspektor (48) vastutavad nende pädevusse kuuluvaid tehisintellektisüsteeme käsitlevate õigusnormide, sealhulgas tehisintellektimääruse artiklis 50 sätestatud läbipaistvuskohustuste järelevalve ja täitmise tagamise eest. Selline täitmise tagamine toimub määrusega (EL) 2019/1020 ja tehisintellektimäärusega loodud turujärelevalve ja toodete vastavuse süsteemi raames. Kõnealustes määrustes on sätestatud turujärelevalveasutuste täitevolitused seoses tehisintellektisüsteemidega. Need asutused võivad võtta tehisintellektimääruse artiklis 50 loetletud kohustustega seoses täitemeetmeid omal algatusel või kaebuse alusel, mida on õigus esitada igal mõjutatud isikul või muul füüsilisel või juriidilisel isikul, kellel on alust arvata, et selliseid rikkumisi on toimunud (49). Tehisintellektimäärusest tulenevad turujärelevalveasutuste kohustused ei mõjuta teiste järelevalveasutuste või põhiõiguste asutuste konkreetselt nende suhtes kehtivatest õigusraamistikest tulenevaid volitusi ega ülesandeid olukordades, kus kohaldatakse nii tehisintellektimääruse artiklit 50 kui ka kõnealust raamistikku (nt andmekaitse või tarbijakaitse).

8.3.   Karistused

(152)

Pakkujale ja juurutajale, kes ei täida tehisintellektimääruse artiklis 50 sätestatud kohaldatavaid läbipaistvuskohustusi, võib määrata trahvi kuni 15 000 000 eurot, või kui rikkuja on ettevõtja, kuni 3 % tema eelmise majandusaasta üleilmsest kogukäibest olenevalt sellest, kumb on suurem. Läbipaistvuskohustusi rikkuvatele ELi institutsioonidele, organitele ja asutustele võidakse määrata haldustrahv kuni 750 000 eurot. Väikeste ja keskmise suurusega ettevõtjate (VKEd), sealhulgas idufirmade puhul on iga trahvi suurus kuni eespool nimetatud protsendimäär või summa olenevalt sellest, kumb on väiksem. Trahvid peavad olema tõhusad, proportsionaalsed ja hoiatavad ning nende puhul tuleb arvesse võtta VKEde ja väikeste keskmise turukapitalisatsiooniga ettevõtjate, sealhulgas iduettevõtjate huve ja nende majanduslikku elujõulisust. Pädevad asutused peaksid igal üksikjuhul haldustrahvi määramise ja selle suuruse üle otsustamisel hindama konkreetse olukorra kõiki asjakohaseid asjaolusid ja vajaduse korral mitmesuguseid tegureid, mis mõjutavad rikkumise raskusastet (nt rikkumise ja selle tagajärgede laad, raskusaste ja kestus, hooletu või tahtlik laad, muud raskendavad või kergendavad asjaolud, turujärelevalveasutustega tehtava koostöö ulatus jne).

8.4.   Kohaldamise algus

(153)

Tehisintellektimääruse artikli 113 kohaselt alustatakse tehisintellektimääruse artikli 50 kohaldamist 2. augustil 2026. Selleks peavad kõik kohaldamisalasse kuuluvad tehisintellektisüsteemid, mis on liidus turule lastud või kasutusele võetud, vastama sellel kuupäeval kõnealusele sättele, olenemata nende turule laskmise või kasutusele võtmise kuupäevast (50). Tehisintellektimääruse muutmise määrusega (tehisintellekti käsitlev koondpakett), mille liidu seadusandja hiljuti vastu võttis, nähakse ette sihipärane varem kehtinud nõuete ajutise kohaldamise norm üksnes seoses tehisintellektimääruse artikli 50 lõike 2 kohaste märgistamis- ja tuvastamiskohustustega generatiivsete tehisintellektisüsteemide puhul, mis on turule lastud või kasutusele võetud enne 2. augustit 2026. Sellega antakse nende olemasolevate süsteemide pakkujatele üleminekuperiood, et viia oma süsteemid 2. detsembriks 2026 vastavusse. Osaliselt interaktiivsed ja osaliselt generatiivsed süsteemid võivad seda üleminekuperioodi kasutada üksnes seoses tehisintellektimääruse artikli 50 lõike 2 kohase märgistamiskohustusega, samal ajal kui füüsiliste isikutega vahetult suhtlevate tehisintellektisüsteemide puhul tuleb avalikustamiskohustuse täitmine tagada alates 2. augustist 2026.

(154)

Tehisintellektimääruse artikli 50 lõike 2 kohaldamisalasse kuuluvaid tehisintellekti loodud või manipuleeritud väljundeid ja tehisintellektimääruse artikli 50 lõike 4 esimese lõigu kohaldamisalasse kuuluvaid süvavõltsinguid, mis on loodud või mida on manipuleeritud enne 2. augustit 2026, ei ole vaja tagasiulatuvalt märgistada ega tähistada. Sama kehtib tehisintellektimääruse artikli 50 lõike 4 teise lõigu kohaldamisalasse kuuluvate avalikku huvi pakkuvaid küsimusi käsitlevate tekstide kohta, mis on tehisintellekti loodud või manipuleeritud ning avaldatud enne 2. augustit 2026. Kui aga enne 2. augustit 2026 loodud või manipuleeritud tekstid avaldatakse sellel kuupäeval või pärast seda, peavad need olema märgistatud. Võttes arvesse tehisintellektimäärusega taotletavat läbipaistvuse eesmärki ning eesmärki tagada teabeökosüsteemi suurem usaldusväärsus ja terviklus, kutsutakse tehisintellektisüsteemide juurutajaid ja muid osalejaid, kelle valduses on olemasolevad märgistamata süvavõltsingud või kes neid levitavad, üles seda siiski tegema, ilma et neilt eeldataks selleks ebaproportsionaalsete jõupingutuste tegemist (nt olemasolevate sisuandmebaaside auditeerimist või juba trükitud tootepakendite muutmist).

9.   SUUNISTE LÄBIVAATAMINE JA AJAKOHASTAMINE

(155)

Käesolevad suunised on esimene tõlgendus tehisintellektimääruse artikliga 50 ette nähtud läbipaistvuskohustuste kohta koos praktiliste näidetega. Komisjon vaatab käesolevad suunised läbi niipea kui vaja, võttes arvesse läbipaistvuskohustuste rakendamisel saadud praktilisi kogemusi ning tehnoloogia, ühiskonna ja regulatiivse arengu kiirust selles valdkonnas. See hõlmab ka kõiki asjakohaseid kogemusi, mis on saadud turujärelevalve tulenevalt täitemeetmetest ja Euroopa Liidu Kohtu tõlgendustest tehisintellektimääruse artikli 50 kohta. Sellise läbivaatamise käigus võib komisjon otsustada suunised tagasi võtta või neid muuta. Komisjon julgustab tehisintellektisüsteemide pakkujaid ja juurutajaid, riiklikke turujärelevalveasutusi Euroopa tehisintellekti nõukoja kaudu, tehisintellekti nõuandvat kogu, teadusringkondi ja kodanikuühiskonna organisatsioone selles protsessis osalema, vastates tulevastele üleskutsetele avalikuks aruteluks.

(1)  Euroopa Parlamendi ja nõukogu 13. juuni 2024. aasta määrus (EL) 2024/1689, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev määrus) (ELT L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2)  Tehisintellektimääruse artikkel 1.

(3)  Tehisintellektimääruse artikli 2 lõike 1 punkt a ning artikli 3 punktid 3, 9 ja 11. Täiendavad suunised turule laskmise, kasutusele võtmise ja kasutamise mõistete kohta on esitatud komisjoni suunistes tehisintellekti keelatud kasutusviiside kohta (C(2025) 5052) ja komisjoni teatises „Sinine raamat ELi toote-eeskirjade rakendamise kohta (2022)“ (2. jagu) (ELT C 247, 29.6.2022, lk 1).

(4)  Tehisintellektimääruse artikli 2 lõike 1 punkt c ja põhjendus 22.

(5)  Tehisintellektimääruse artikli 3 punkt 4.

(6)  Tehisintellektimääruse artikli 2 lõike 1 punktid b ja c.

(7)  Euroopa Parlamendi ja nõukogu 19. oktoobri 2022. aasta määrus (EL) 2022/2065, mis käsitleb digiteenuste ühtset turgu (ELT L 277, 27.10.2022, lk 1).

(8)  Vt komisjoni suunised määrusega (EL) 2024/1689 (tehisintellektimäärus) kehtestatud tehisintellekti keelatud kasutusviiside kohta, Brüssel, 29.7.2025, C(2025) 5052 final, punkt 2.5.

(9)  Mõiste „juurutaja“ määratlus välistab sellises tegevuses osalevad kasutajad (vt punkt 2.3 eespool).

(10)  Tehisintellektimääruse põhjendus 25.

(11)  Tehisintellektimääruse põhjenduses 102 on selgitatud, et tarkvara ja andmete avaldamine vaba ja avatud lähtekoodiga litsentsi alusel võimaldab neid avalikult jagada ning kasutajad saavad neile või nende muudetud versioonidele vabalt juurde pääseda, neid kasutada, muuta ja ümber jagada.

(12)  Lisateabe saamiseks tehisintellektimääruse artikli 5 kohta vt komisjoni suunised määrusega (EL) 2024/1689 (tehisintellektimäärus) kehtestatud tehisintellekti keelatud kasutusviiside kohta (C(2025) 5052 final).

(13)  Vt tehisintellektimääruse artikkel 6.

(14)  Eelkõige on tehisintellektimääruse artikli 26 lõikega 11 kehtestatud läbipaistvuskohustus suure riskiga tehisintellektisüsteemide juurutajatele, kes teevad või aitavad teha otsuseid, mis on seotud füüsiliste isikute teavitamisega sellest, et nende suhtes kasutakse suure riskiga tehisintellektisüsteemi. Need läbipaistvuskohustused täiendavad tehisintellektimääruse artiklis 50 sätestatud kohustusi, kuna need puudutavad erinevat teavet, mis tuleb füüsilistele isikutele esitada, kuid need võib koondada ühte teatesse.

(15)  Tehisintellektimääruse artikli 3 punktis 66 on üldotstarbeline tehisintellektisüsteem määratletud kui tehisintellektisüsteem, mis põhineb üldotstarbelisel tehisintellektimudelil, suudab teenida mitmesuguseid eesmärke ja mis on mõeldud nii otseseks kasutamiseks kui ka integreerimiseks teistesse tehisintellektisüsteemidesse.

(16)  Tehisintellektimääruse artikli 50 lõige 2 sisaldab sõnaselget viidet üldotstarbelistele tehisintellektisüsteemidele.

(17)  Tehisintellektimääruse põhjendus 133.

(18)  Vt tehisintellektimääruse artikli 3 punkt 1. Täiendavad juhised tehisintellektisüsteemi mõiste kohta on esitatud komisjoni suunistes tehisintellektisüsteemi määratluse kohta, 29.7.2025, C(2025) 5053 final.

(19)  Vt tehisintellektimääruse põhjendus 132. See ei tähenda, et süsteem peab olema suunatud nendele haavatavatele rühmadele. Kui süsteem on mõeldud suhtlema üldsuse ükskõik millise liikmega, hõlmab see ka haavatavate rühmade liikmeid ning pakkujad peaksid neid teavitamismeetmete rakendamisel arvesse võtma.

(20)  Kohaldatavad ligipääsetavusnõuded on esitatud jaotises 7.3.

(21)  Turvalisi ja tõhusaid vahendeid tehisaruagentide tuvastamiseks võivad pakkuda näiteks määrusega (EL) nr 910/2014 loodud elektroonilised tõendid, mis on tehtud kättesaadavaks sama määruse alusel loodud ELi digiidentiteedikukrutes, ning kavandatavad Euroopa ettevõtluskukrud. Kukrud võimaldavad salvestada ja hallata elektroonilisi tõendeid, mis kontrollivad tehisaruagendi identiteeti, atribuute ja lube, võimaldades seeläbi teabe sujuvat ja usaldusväärset avalikustamist füüsilistele isikutele.

(22)  See kehtib ka sarnaste erandite kohta, mis on ette nähtud tehisintellektimääruse artikli 50 lõigetes 2–4 sätestatud õiguskaitsetoimingute toetamiseks.

(23)  Euroopa Parlamendi ja nõukogu 11. mai 2005. aasta direktiiv 2005/29/EÜ, mis käsitleb ettevõtja ja tarbija vaheliste tehingutega seotud ebaausaid kaubandustavasid siseturul (ELT L 149, 11.6.2005, lk 2).

(24)  Euroopa Parlamendi ja nõukogu 25. oktoobri 2011. aasta direktiiv 2011/83/EL tarbija õiguste kohta (ELT L 304, 22.11.2011, lk 64).

(25)  Euroopa Parlamendi ja nõukogu 22. mai 2012. aasta direktiiv 2012/13/EL, milles käsitletakse õigust saada kriminaalmenetluses teavet (ELT L 142, 1.6.2012, lk 1); Euroopa Parlamendi ja nõukogu 25. oktoobri 2012. aasta direktiiv 2012/29/EL, millega kehtestatakse kuriteoohvrite õiguste ning neile pakutava toe ja kaitse miinimumnõuded (ELT L 315, 14.11.2012, lk 57).

(26)  Nagu on määratletud tehisintellektimääruse artikli 3 punktis 1.

(27)  Tehisintellektimääruse põhjenduses 133 on selgitatud, et on asjakohane nõuda, et nende süsteemide pakkujad integreeriksid tehnilised lahendused, mis võimaldavad masinloetavas vormingus märgistamist ja tuvastamist, et väljundi on loonud või seda on manipuleerinud tehisintellektisüsteem, mitte inimene. Tehisintellektimääruse põhjenduses 135 on osutatud tuvastamisega seotud kohustusele.

(28)  Vt komisjoni rakendusotsuse C(2025) 3871 final (Euroopa Parlamendi ja nõukogu määruse (EL) 2024/1689 toetuseks koostatud standardimistaotluse kohta, mis esitatakse Euroopa Standardikomiteele ja Euroopa Elektrotehnika Standardikomiteele seoses suure riskiga tehisintellektisüsteemiga, ning millega tunnistatakse kehtetuks rakendusotsus C(2023) 3215 final) II lisa.

(29)  Vt ka tehisintellektimääruse põhjendus 11.

(30)  Vt ka tehisintellektimääruse põhjendus 137.

(31)  Tehisintellektimääruse põhjendus 136.

(32)  Seetõttu tuleb seda kriteeriumi mõista sõltumatult ja eraldi pettuse mõistest, mida on nimetatud direktiivis 2005/29/EÜ, mis käsitleb ettevõtja ja tarbija vaheliste tehingutega seotud ebaausaid kaubandustavasid siseturul (ebaausate kaubandustavade direktiiv), https://eur-lex.europa.eu/eli/dir/2005/29/oj/est.

(33)  Vt selle kohta audiovisuaalmeedia teenuste direktiivi artikli 1 punkt b.

(34)  See kehtib ka selliste avaldatud tekstide kohta, millega teavitatakse üldsust avalikku huvi pakkuvatest küsimustest.

(35)  Lisateave tehisintellektimääruse artikli 50 ja digiteenuste määruse koostoime kohta on esitatud jaotises 4.4.

(36)  Digiteenuste määruse põhjendus 2.

(37)  Üksikasjalikumad selgitused on esitatud komisjoni ja Euroopa Andmekaitsenõukogu ühissuunistes tehisintellektimääruse ja ELi andmekaitsealaste õigusaktide koosmõju kohta (koostamisel).

(38)  Vt analoogia alusel kohtuotsus, Euroopa Kohus, Mediakabel, C-89/04, ECLI:EU:C:2005:348, punkt 33; kohtuotsus, Euroopa Kohus, Lagardère, C-192/04, ECLI:EU:C:2005:475, punkt 31; kohtuotsus, Euroopa Kohus, SGAE, C-306/05, ECLI:EU:C:2006:764, punktid 37–40; kohtuotsus, Euroopa Kohus, Stichting Brein, C-527/15, ECLI:EU:C:2017:300, punktid 43–44 ja seal osutatud kohtupraktika; kohtuotsus, Euroopa Kohus, GEMA, C-135/23, ECLI:EU:C:2024:526, punkt 38 ja seal osutatud kohtupraktika).

(39)  Euroopa Parlamendi ja nõukogu 11. aprilli 2024. aasta määrus (EL) 2024/1083, millega luuakse siseturul meediateenuste ühine raamistik ja muudetakse direktiivi 2010/13/EL (Euroopa meediavabaduse määrus) (ELT L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).

(40)  Kui sisu sihtrühma kuuluvad lapsed, peavad need teated olema i) lapsesõbralikud, eakohased, kergesti mõistetavad ja kergesti kättesaadavad kõigile lastele, sealhulgas puuetega ja/või täiendavate ligipääsetavusvajadustega lastele; ii) esitatud selgelt ja kergesti mõistetavalt ning võimalikult lihtsalt ja kokkuvõtlikult; iii) esitatud nii, et neid on lihtne läbi vaadata ning ligipääs neile on otsene ja intuitiivne ajal, mil need on asjakohased; iv) esitatud selle liikmesriigi ametlikus keeles või ametlikes keeltes, kus teenust osutatakse; v) laste jaoks huvitavad. See võib hõlmata ka graafikute, videote ja/või tegelaste või muude võtete kasutamist; vi) esitatud lastele järk-järgult ja pikema aja jooksul, et säilitada maksimaalselt kasutaja tähelepanu.

(41)  Euroopa Parlamendi ja nõukogu 26. oktoobri 2016. aasta direktiiv (EL) 2016/2102, mis käsitleb avaliku sektori asutuste veebisaitide ja mobiilirakenduste juurdepääsetavust (EMPs kohaldatav tekst) (ELT L 327, 2.12.2016, lk 1).

(42)  Euroopa Parlamendi ja nõukogu 17. aprilli 2019. aasta direktiiv (EL) 2019/882 toodete ja teenuste ligipääsetavusnõuete kohta (EMPs kohaldatav tekst), PE/81/2018/REV/1 (ELT L 151, 7.6.2019, lk 70).

(43)  Vt sellekohane teave 10. juunil 2026 avaldatud tegevusjuhendi kohta, mis käsitleb tehisintellekti loodud sisu | Euroopa digituleviku kujundamine.

(44)  Vt komisjoni arvamus tehisintellekti loodud sisu läbipaistvust käsitleva tegevusjuhendi hindamise kohta | Euroopa digituleviku kujundamine.

(45)  Tehisintellektimääruse artikli 99 lõike 7 punkt e.

(46)  Tehisintellektimääruse artikli 50 lõige 7.

(47)  Turujärelevalveasutusena selliste tehisintellektisüsteemide puhul, mis põhinevad sama pakkuja pakutavatel üldotstarbelistel tehisintellektimudelitel (tehisintellektimääruse artikli 75 lõige 1). See hõlmab tehisintellektimääruse artikli 50 lõigete 1 ja 2 alusel pakkujatele kehtivat kohustust. Tehisintellektimääruse artikli 50 lõigete 3 ja 4 puhul on tehisintellektiamet pädev üksnes juhul, kui asjaomane üldotstarbeline tehisintellektimudel ja süsteemi pakkuja on ka süsteemi juurutaja.

(48)  ELi institutsioonide, organite ja asutuste turujärelevalveasutusena.

(49)  Tehisintellektimääruse artikkel 85.

(50)  Tehisintellektimääruse artikli 111 lõikes 2 sätestatud varem kehtinud nõuete ajutise kohaldamise normi kohaldatakse suure riskiga tehisintellektisüsteemide suhtes, mis on turule lastud enne suurt riski käsitlevate normide kohaldamise kuupäeva, üksnes seoses nende süsteemide vastavusega suure riskiga tehisintellektisüsteemide nõuetele ja kohustustele. Kui suure riskiga tehisintellektisüsteemi suhtes kohaldatakse ka üht või mitut tehisintellektimääruse artikli 50 kohast läbipaistvuskohustust, ei kohaldata seda varem kehtinud nõuete ajutise kohaldamise normi, sest suure riskiga tehisintellektisüsteemi ja artikli 50 kohase läbipaistvusega seotud eri kohustuste kohaldamine on kumulatiivne ning varem kehtinud nõuete ajutine kohaldamine on põhjendatud ja piiratud üksnes suure riskiga tehisintellekti käsitlevate sätete järgimisega.


ELI: http://data.europa.eu/eli/C/2026/6005/oj

ISSN 1977-0898 (electronic edition)