European flag

Jurnalul Ofícial
al Uniunii Europene

RO

Seria C


C/2026/6005

12.11.2026

COMUNICARE A COMISIEI

Orientări privind punerea în aplicare a obligațiilor de transparență pentru anumite sisteme de IA în temeiul articolului 50 din Regulamentul (UE) 2024/1689 („Regulamentul IA”)

(C/2026/6005)

Cuprins

1.

CONTEXT ȘI OBIECTIVE 3

2.

PREZENTARE GENERALĂ A OBLIGAȚIILOR DE TRANSPARENȚĂ ȘI A TEMELOR ORIZONTALE 3

2.1.

Prezentare generală a obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA 3

2.2.

Justificare și obiective 4

2.3.

Actori responsabili în temeiul articolului 50 din Regulamentul IA 5

2.4.

Excluderi din domeniul de aplicare al Regulamentului privind IA 7

2.4.1.

Operatorii care acționează în contextul unei activități strict personale, fără caracter profesional 7

2.4.2.

Cercetare și dezvoltare 8

2.4.3.

Sisteme de IA lansate sub licențe libere și cu sursă deschisă 8

2.5.

Interacțiunea cu practicile interzise, cu cerințele pentru sistemele de IA cu grad ridicat de risc și cu alfabetizarea în domeniul IA 9

2.6.

Interacțiunea cu normele aplicabile modelelor și/sau sistemelor de IA de uz general 9

3.

ARTICOLUL 50 ALINEATUL (1) DIN REGULAMENTUL IA: TRANSPARENȚA SISTEMELOR DE IA INTERACTIVE 9

3.1.

Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente) 10

3.1.1.

Sisteme de IA destinate să interacționeze direct cu persoane fizice 10

3.1.2.

Obligația de divulgare prevăzută la articolul 50 alineatul (1) din Regulamentul IA 12

3.2.

Excepții de la obligația de informare prevăzută la articolul 50 alineatul (1) din Regulamentul IA 14

3.2.1.

Excepție pentru interacțiunea evidentă cu un sistem de IA 14

3.2.2.

Excepția pentru sistemele de IA autorizate prin lege în scopul aplicării legii 16

3.3.

Interacțiunea cu alte acte juridice ale Uniunii 17

4.

ARTICOLUL 50 ALINEATUL (2) DIN REGULAMENTUL IA: MARCAREA ȘI DETECTAREA CONȚINUTULUI GENERAT SAU MANIPULAT DE IA 18

4.1.

Principalele componente și concepte ale articolului 50 alineatul (2) din Regulamentul IA 18

4.1.1.

Sisteme de IA care generează sau manipulează conținut sintetic 18

4.1.2.

Modalitățile conținutului sintetic care intră în domeniul de aplicare 19

4.1.3.

Conținut care nu intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA 20

4.2.

Obligația de marcare și detectare prevăzută la articolul 50 alineatul (2) din Regulamentul IA 21

4.2.1.

Obligația de marcare 21

4.2.2.

Obligația de detectare 22

4.2.3.

Respectarea cerințelor privind soluțiile tehnice: eficace, interoperabile, solide și fiabile 22

4.3.

Excepții de la obligațiile prevăzute la articolul 50 alineatul (2) din Regulamentul IA 24

4.4.

Interacțiunea cu alte acte juridice ale Uniunii 25

5.

ARTICOLUL 50 ALINEATUL (3) DIN REGULAMENTUL IA: SISTEME DE RECUNOAȘTERE A EMOȚIILOR ȘI SISTEME DE CLASIFICARE BIOMETRICĂ 26

5.1.

Principalele componente, concepte și obligația (obligațiile) de transparență aferentă (aferente) în temeiul articolului 50 alineatul (3) din Regulamentul IA 27

5.1.1.

Noțiunea de sistem de recunoaștere a emoțiilor 27

5.1.2.

Noțiunea de sistem de clasificare biometrică 27

5.1.3.

Obligația de informare prevăzută la articolul 50 alineatul (3) din Regulamentul IA 27

5.2.

Excepția în scopul aplicării legii 28

5.3.

Interacțiunea cu alte acte juridice ale Uniunii 28

6.

ARTICOLUL 50 ALINEATUL (4): ETICHETAREA DEEPFAKE-URILOR ȘI A ANUMITOR TEXTE PUBLICATE 28

6.1.

Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente) în cazul deepfake-urilor în temeiul articolului 50 alineatul (4) din Regulamentul IA 28

6.1.1.

Noțiunea de „deepfake” 29

6.1.2.

Obligația de divulgare prevăzută la articolul 50 alineatul (4) primul paragraf din Regulamentul IA 31

6.1.3.

Transparența conținutului deepfake de natură artistică, creativă, satirică, fictivă sau a conținutului deepfake analog 32

6.1.4.

Excepția în scopul aplicării legii 34

6.1.5.

Interacțiunea cu alte acte juridice ale Uniunii 34

6.2.

Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente) în cazul textului generat sau manipulat de IA în temeiul articolului 50 alineatul (4) din Regulamentul IA 35

6.2.1.

Textul publicat cu scopul de a informa publicul cu privire la chestiuni de interes public 36

6.2.2.

Obligația de divulgare prevăzută la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA 37

6.2.3.

Excepția de la obligația de transparență în cazul textului supus verificării editoriale sau revizuirii umane și responsabilității editoriale 37

6.2.4.

Excepția în scopul aplicării legii 38

6.2.5.

Interacțiunea cu alte acte juridice ale Uniunii 39

7.

CERINȚE ORIZONTALE APLICABILE INFORMAȚIILOR FURNIZATE ÎN TEMEIUL ARTICOLULUI 50 ALINEATUL (5) DIN REGULAMENTUL IA 39

7.1.

Furnizarea informațiilor într-un mod clar și distinct 39

7.2.

Prima interacțiune sau prima expunere 40

7.3.

Conformitatea cu cerințele de accesibilitate aplicabile 40

8.

APLICAREA ARTICOLULUI 50 DIN REGULAMENTUL IA 40

8.1.

Efectele respectării unui cod de bune practici evaluat ca fiind adecvat 41

8.2.

Autoritățile de supraveghere a pieței 42

8.3.

Sancțiuni 42

8.4.

Punerea în aplicare 42

9.

REVIZUIREA ȘI ACTUALIZAREA ORIENTĂRILOR 43

1.   CONTEXT ȘI OBIECTIVE

(1)

Regulamentul (UE) 2024/1689 al Parlamentului European și al Consiliului din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligența artificială și de modificare a anumitor regulamente („Regulamentul IA”) a intrat în vigoare la 1 august 2024 (1). Regulamentul IA stabilește norme armonizate pentru introducerea pe piață, punerea în funcțiune și utilizarea inteligenței artificiale („IA”) în Uniune (2). Scopul său este de a promova inovarea în domeniul IA și adoptarea unei IA de încredere, asigurând în același timp un nivel ridicat de protecție a sănătății, a siguranței și a drepturilor fundamentale în Uniune, inclusiv a democrației și a statului de drept.

(2)

Regulamentul IA urmează o abordare bazată pe riscuri, clasificând sistemele de IA în patru categorii de risc diferite, una dintre acestea fiind sistemele de IA care prezintă riscuri în materie de transparență și care sunt supuse obligațiilor prevăzute la articolul 50 din Regulamentul IA. Aceste obligații de transparență se aplică la doi ani de la intrarea în vigoare a Regulamentului privind IA, și anume începând cu 2 august 2026.

(3)

În temeiul articolului 96 alineatul (1) litera (d) din Regulamentul IA, prezentele orientări ale Comisiei sunt emise cu scopul de a servi drept orientări practice care să ajute autoritățile competente, precum și furnizorii și implementatorii de sisteme de IA să asigure respectarea obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA într-un mod coerent, eficace, proporțional și uniform.

(4)

Elaborarea prezentelor orientări s-a bazat pe contribuțiile primite de la diverse părți interesate în cursul unei consultări ample organizate de Comisie și pe contribuțiile statelor membre în cadrul Consiliului IA, precum și pe contribuțiile părților interesate cu privire la proiectul de orientări care au fost publicate spre consultare.

(5)

Prezentele orientări nu sunt obligatorii. Orice interpretare cu valoare de autoritate a Regulamentului IA poate fi dată, în cele din urmă, numai de Curtea de Justiție a Uniunii Europene („CJUE”).

2.   PREZENTARE GENERALĂ A OBLIGAȚIILOR DE TRANSPARENȚĂ ȘI A TEMELOR ORIZONTALE

2.1.   Prezentare generală a obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA

(6)

Articolul 50 din Regulamentul IA include patru obligații de transparență, fiecare aplicându-se diferitelor tipuri de sisteme de IA sau rezultatelor acestora.

Dispoziția

Tipul de sistem de IA/rezultat

Obligația de transparență

Excepții sau regimuri speciale

Articolul 50 alineatul (1)

Sisteme de IA care interacționează direct cu persoane fizice

Furnizorii trebuie să dezvolte și să proiecteze sistemul de IA astfel încât persoanele fizice în cauză să fie informate că interacționează cu un sistem de IA.

Această obligație nu se aplică 1) dacă originea artificială a interacțiunii este evidentă sau 2) dacă sistemul este autorizat prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile, cu excepția cazului în care sistemul este disponibil publicului pentru a denunța o infracțiune.

Articolul 50 alineatul (2)

Sisteme de IA care generează sau manipulează conținut sintetic în format audio, imagine, video sau text

Furnizorii trebuie să se asigure că rezultatele sistemului de IA sunt marcate într-un format prelucrabil automat și detectabile ca fiind generate sau manipulate artificial prin soluții tehnice eficace, interoperabile, solide și fiabile.

Această obligație nu se aplică dacă 1) sistemul de IA îndeplinește o funcție de asistare pentru editarea standard sau nu modifică în mod substanțial datele de intrare sau semantica acestora sau 2) sistemul de IA este autorizat prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile.

Articolul 50 alineatul (3)

Sisteme de IA de recunoaștere a emoțiilor sau de clasificare biometrică

Implementatorii trebuie să informeze persoanele fizice expuse sistemului respectiv cu privire la funcționarea acestuia.

Această obligație nu se aplică dacă sistemul de IA este autorizat prin lege să detecteze, să prevină sau să investigheze infracțiunile.

Articolul 50 alineatul (4)

Sisteme de IA care generează sau manipulează conținut care constituie deepfake sau texte publicate cu scopul de a informa publicul cu privire la chestiuni de interes public

Implementatorii trebuie să dezvăluie faptul că textul a fost generat sau manipulat artificial.

Această obligație nu se aplică dacă 1) sistemul de IA este autorizat prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile sau 2) publicarea textului a fost supusă unui proces de verificare editorială sau revizuire umană și face obiectul responsabilității editoriale.

Regimul special de divulgare se aplică deepfake-urilor care fac parte din opere sau din programe de natură artistică, creativă, fictivă, satirică sau din opere sau programe analoage.

(7)

Fiecare dintre aceste patru obligații este examinată în secțiunile 3-6 din prezentele orientări. În plus, articolul 50 alineatul (5) din Regulamentul IA prevede că informațiile menționate la alineatele (1)-(4) sunt furnizate persoanelor fizice în cauză într-un mod clar și distinct, cel târziu în momentul primei interacțiuni sau al primei expuneri și sunt conforme cu cerințele de accesibilitate aplicabile. Secțiunea 7 clarifică aceste cerințe.

(8)

Diferitele obligații de transparență prevăzute la articolul 50 din Regulamentul IA se pot aplica cumulativ (rezultatelor) unui singur sistem de IA, implicând eventual responsabilitatea diferiților actori (furnizori sau implementatori). De exemplu, în cazul în care un sistem de IA generează imagini ca parte a unei interacțiuni directe cu o persoană fizică, este posibil ca furnizorul sistemului să fie nevoit să respecte atât articolul 50 alineatul (1), cât și alineatul (2) din Regulamentul IA. În cazul în care sistemul respectiv este, de asemenea, în măsură să genereze imagini care constituie deepfake-uri sau texte publicate cu privire la chestiuni de interes public, este posibil ca implementatorul să fie nevoit, în plus, să respecte articolul 50 alineatul (4) din Regulamentul IA.

2.2.   Justificare și obiective

(9)

Astfel cum se explică în considerentele 132-136 din Regulamentul IA, scopul obligațiilor de transparență este de a reduce riscurile de uzurpare a identității, înșelăciune, dezinformare, manipulare la scară largă și fraudă și de a atenua potențialele efecte negative asupra proceselor democratice și a încrederii societale cauzate de conținutul sau interacțiunea generat(ă) sau manipulat(ă) de IA. Informarea persoanelor cu privire la originea artificială a interacțiunii și a conținutului le va ajuta să ia decizii în cunoștință de cauză, contribuind în același timp la protejarea încrederii și a integrității ecosistemului informațional. Transparența nu este doar o cerință de conformitate tehnică, ci și o condiție prealabilă pentru a permite persoanelor fizice să recunoască interacțiunile și conținutul mediate de IA sau utilizarea sistemelor de recunoaștere a emoțiilor sau de clasificare biometrică. Asigurarea utilizării transparente și fiabile a sistemelor de IA interactive și generative va permite, de asemenea, susținerea autonomiei personale și a valorilor europene, a demnității umane și a altor drepturi fundamentale (de exemplu, libertatea de gândire, viața privată, egalitatea și nediscriminarea, protecția consumatorilor, proprietatea intelectuală etc.), menținând în același timp libertatea de exprimare și credibilitatea conținutului mediatic.

2.3.   Actori responsabili în temeiul articolului 50 din Regulamentul IA

(10)

În conformitate cu articolul 3 punctul 3 din Regulamentul IA, furnizorii sunt persoane fizice sau juridice, autorități publice, agenții sau alte organisme care dezvoltă sisteme de IA sau care comandă dezvoltarea acestora și le introduc pe piața Uniunii sau le pun în funcțiune sub propriul nume sau sub propria marcă comercială. Furnizorii trebuie să respecte obligațiile de transparență relevante prevăzute la articolul 50 alineatul (1) și alineatul (2) din Regulamentul IA care le sunt aplicabile, indiferent dacă sunt stabiliți sau situați în Uniune sau într-o țară terță (3). Furnizorii stabiliți sau situați în afara Uniunii fac, de asemenea, obiectul Regulamentului IA în cazul în care rezultatele sistemului lor de IA sunt utilizate în Uniune (4). Cu toate acestea, simpla utilizare accidentală, imprevizibilă sau neautorizată în aval nu ar trebui să declanșeze aplicarea obligațiilor față de astfel de furnizori din țări terțe de sisteme de IA interactive sau generative care nu sunt introduse pe piață sau puse în funcțiune în Uniune, fără a aduce atingere competențelor autorităților competente de supraveghere a pieței de a considera rezultatele lor ca fiind neconforme cu Regulamentul IA.

(11)

Furnizorii trebuie să se asigure că transparența este integrată în proiectarea și funcționarea sistemelor lor de IA interactive sau generative și că toate obligațiile relevante în materie de transparență prevăzute la articolul 50 alineatele (1), (2) și (5) din Regulamentul IA sunt îndeplinite cel târziu atunci când sistemele respective sunt introduse pe piață sau puse în funcțiune. Toate persoanele fizice care interacționează cu sistemul de IA sau sunt expuse rezultatelor acestuia care intră în domeniul de aplicare trebuie să fie informate în mod eficace și consecvent pe parcursul întregului ciclu de viață al sistemului de IA, astfel cum este introdus pe piață sau pus în funcțiune de furnizorul respectiv (indiferent de cine sunt implementatorii sau alți utilizatori ai sistemului).

De exemplu, o întreprindere furnizează o aplicație de IA generativă sau interactivă (de exemplu, un robot de chat, un generator de imagini, un agent IA) pe piața Uniunii sub propriul nume sau propria marcă comercială consumatorilor, utilizatorilor profesionali sau altor entități juridice care pot utiliza direct sistemul de IA pentru interacțiune sau generarea de conținut (inclusiv prin integrarea sistemului în procesele lor existente și prin utilizarea acestuia în consecință, fără a fi necesare modificări sau componente suplimentare). Întreprinderea este un furnizor căruia îi revine responsabilitatea respectării obligațiilor de transparență prevăzute la articolul 50 alineatul (1) și/sau (2) din Regulamentul IA, indiferent dacă sistemul de IA este furnizat gratuit sau contra cost și indiferent dacă furnizorul este stabilit sau se află în Uniune sau într-o țară terță.

Un alt exemplu de furnizor este o întreprindere sau o altă organizație (de exemplu, o autoritate publică) care a dezvoltat un sistem de IA interactiv (de exemplu, robot de chat) la nivel intern și îl pune în funcțiune în Uniune pentru uz propriu și sub numele sau sub marca sa comercială.

În cazul în care o întreprindere preia un sistem de IA generativ deja existent introdus pe piață de un alt furnizor și modifică sistemul respectiv (de exemplu, cu noi date de antrenament), pe care îl pune ulterior în funcțiune sub propriul nume sau propria marcă comercială, întreprinderea respectivă devine furnizor al noului sistem fără a aduce atingere responsabilității furnizorului sistemului de IA inițial pentru acesta din urmă.

(12)

Implementatorii sunt persoane fizice sau juridice, autorități publice, agenții sau alte organisme care utilizează sisteme de IA aflate sub autoritatea lor, cu excepția cazului în care utilizarea este în cursul unei activități personale, fără caracter profesional (5). „Autoritatea” asupra unui sistem de IA ar trebui înțeleasă ca asumarea responsabilității pentru decizia de a implementa sistemul și pentru modul de utilizare efectivă a sistemului (inclusiv pentru rezultatele acestuia). Aceasta nu necesită neapărat un control tehnic asupra funcționării sistemului de IA, atât timp cât implementatorul ia decizia cu privire la scopurile și modul de utilizare a sistemului de IA (inclusiv în fluxurile de lucru descentralizate și în structurile corporative de grup). Implementatorii implicați în lanțuri valorice complexe de producție și distribuție de conținut ar trebui să ia măsuri proporționale pentru a se asigura că etichetarea conținutului implementat în temeiul articolului 50 alineatul (4) din Regulamentul IA este afișată într-un mod clar și distinct pentru publicul vizat și previzibil în momentul primei expuneri în conformitate cu articolul 50 alineatul (5) din Regulamentul IA [de exemplu, prin intermediul condițiilor contractuale convenite cu partenerii de distribuție, al setărilor privind experiența utilizatorilor (UX) și al interfețelor care urmează să fie afișate].

(13)

Implementatorii intră în domeniul de aplicare al obligațiilor de transparență prevăzute la articolul 50 alineatele (3) și (4) din Regulamentul IA dacă își au sediul sau se află într-o țară terță, în cazul în care rezultatele produse de sistemele de IA sunt utilizate în Uniune (6). În acest din urmă caz, obligațiile de transparență se aplică entităților care se află sau își au sediul în afara Uniunii, în cazul în care implementatorul însuși prevede difuzarea și utilizarea rezultatelor IA în Uniune (și anume prin dirijarea sau autorizarea distribuției în Uniune, inclusiv prin postarea de deepfake-uri pe internetul accesibil la nivel mondial). Cu toate acestea, implementatorii din țări terțe nu sunt supuși obligațiilor de transparență în cazul în care conținutul sistemului de IA ajunge la publicul din Uniune prin canale care sunt imprevizibile și în afara controlului lor.

(14)

În cazul în care implementatorul unui sistem de IA este o persoană juridică sub a cărei autoritate este utilizat sistemul (de exemplu, o companie de publicitate), angajații individuali care acționează în conformitate cu instrucțiunile și sub controlul persoanei juridice respective (de exemplu, animatori digitali, proiectanți web, creatori de conținut, jurnaliști) nu ar trebui să fie considerați implementatori separați pentru sistemul respectiv. O persoană juridică rămâne implementator chiar și în cazul în care implică părți terțe (de exemplu contractanți, liber-profesioniști) în exploatarea sistemului în numele său și sub responsabilitatea și controlul său.

De exemplu, un canal mass-media care își are sediul în Uniune, ai cărui editori se folosesc de un sistem de IA pentru relatarea în scris a evenimentelor de actualitate prin texte cu privire la chestiuni de interes public generate de IA și publicate pe un site accesibil la nivel mondial, este un implementator care intră în domeniul de aplicare al Regulamentului IA. În mod similar, o întreprindere stabilită într-o țară terță care utilizează un sistem de IA pentru a genera conținut care constituie deepfake cu privire la o celebritate prezentată într-un anunț publicitar afișat în Uniune este, de asemenea, un implementator care intră în domeniul de aplicare al Regulamentului privind IA.

În schimb, o societate care se limitează la a însărcina o agenție de publicitate să realizeze un material publicitar, fără a lua decizii și fără a exercita controlul asupra măsurii în are agenția de publicitate utilizează IA în procesul de producție sau a modului în care face acest lucru, nu este un implementator.

(15)

Operatorii (de exemplu, furnizorii și implementatorii) pot îndeplini simultan mai multe roluri în legătură cu un sistem de IA. De exemplu, o întreprindere ar putea dezvolta la nivel intern un sistem de IA generativ și l-ar putea utiliza pentru generarea de deepfake-uri. Într-un astfel de caz, aceasta va avea atât rol de furnizor, cât și rol de implementator care trebuie să asigure respectarea obligațiilor de marcare într-un format prelucrabil automat în temeiul articolului 50 alineatul (2) și a cerințelor privind o etichetare clară și perceptibilă a deepfake-urilor în temeiul articolului 50 alineatul (4) din Regulamentul IA.

(16)

În schimb, alți actori (cum ar fi furnizorii de servicii de găzduire, inclusiv platformele online, sau radiodifuzorii) al căror rol se limitează la difuzarea sau transmiterea de conținut generat sau manipulat de IA creat de terți sau care primesc sau sunt expuși la conținut generat sau manipulat de IA fără a avea autoritate de a decide cu privire la utilizarea sistemului de IA în scopul generării sau manipulării conținutului prin IA nu sunt implementatori în sensul Regulamentului privind IA. Fără a fi responsabili și răspunzători în temeiul Regulamentului privind IA, actorii respectivi pot îndeplini totuși un rol important în lanțul valoric pentru menținerea încrederii în ecosistemul informațional și a integrității acestuia. Prin urmare, aceștia sunt puternic încurajați să mențină marcarea și etichetarea puse în aplicare în temeiul articolului 50 din Regulamentul IA și să pună în aplicare măsuri proporționale și fezabile din punct de vedere tehnic pentru a permite persoanelor fizice să detecteze conținutul generat sau manipulat de IA, fără a aduce atingere responsabilității furnizorilor și implementatorilor de sisteme de IA generative sau oricăror obligații sau răspunderi în temeiul Regulamentului (UE) 2022/2065 (Regulamentul privind serviciile digitale) (7) sau al altor dispoziții aplicabile din dreptul Uniunii sau din dreptul intern.

(17)

Alți actori care acționează în cadrul exercitării profesiei lor și diseminează conținut (chiar dacă nu intră în mod direct sub incidența articolului 50 din Regulamentul IA) sunt, de asemenea, încurajați să ia măsuri proporționale și adecvate, astfel încât persoanele fizice care sunt în cele din urmă expuse conținutului să fie informate în mod eficace și să poată detecta faptul că acesta a fost generat sau manipulat artificial. În plus, acestor părți li se poate solicita să eticheteze deepfake-urile sau textele publicate respective cu privire la chestiuni de interes public în temeiul altor norme juridice sau deontologice aplicabile (de exemplu, etichetarea unui radiodifuzor și afișarea ca parte a unui program TV a unui deepfake creat de o persoană privată). Cu toate acestea, simplul fapt că un actor etichetează conținutul sau utilizează conținut etichetat nu înseamnă că acesta din urmă se califică drept „implementator” în sensul Regulamentului privind IA. Regulamentul IA nu extinde și nu afectează responsabilitatea juridică a actorilor respectivi în temeiul cadrelor juridice aplicabile, dacă aceștia nu se califică în același timp drept furnizori sau implementatori de sisteme de IA.

2.4.   Excluderi din domeniul de aplicare al Regulamentului privind IA

(18)

Articolul 2 din Regulamentul IA prevede o serie de excluderi generale din domeniul de aplicare al Regulamentului privind IA care au fost deja clarificate în Orientările Comisiei privind practicile interzise în domeniul inteligenței artificiale (8). În consecință, prezenta secțiune va aborda numai aspectele care sunt relevante pentru obligațiile de transparență prevăzute la articolul 50 din Regulamentul IA.

2.4.1.   Operatorii care acționează în contextul unei activități strict personale, fără caracter profesional

(19)

Articolul 2 alineatul (10) din Regulamentul IA prevede că Regulamentul IA „nu se aplică obligațiilor implementatorilor persoane fizice care utilizează sisteme de IA în cursul unei activități strict personale, fără caracter profesional” (9). Orice activitate prin care o persoană fizică obține un beneficiu economic în mod regulat sau este implicată în alt mod într-o activitate profesională, de afaceri, comercială, ocupațională sau independentă ar trebui să fie considerată o activitate „profesională”. Precizarea „strict personal” califică noțiunea de activitate neprofesională, ceea ce înseamnă că, pentru a intra sub incidența excepției, persoana în cauză trebuie să acționeze atât în cursul unei activități personale, cât și în cursul unei activități fără caracter profesional. Orice utilizare de către persoane fizice care acționează în numele sau sub autoritatea unui implementator care acționează în cursul unei activități profesionale va intra în domeniul de aplicare al obligațiilor de transparență ale implementatorului profesionist prevăzute la articolul 50 alineatele (3) și (4) din Regulamentul IA.

Exemple de utilizare în cursul unei activități personale, fără caracter profesional, a sistemelor de IA excluse din domeniul de aplicare:

—

persoanele care utilizează un sistem de IA pentru a genera deepfake-uri cu privire la membrii gospodăriei lor;

—

persoanele care utilizează un sistem de IA în cursul unei activități personale pentru a genera text pe diverse teme (de exemplu, elevii care utilizează IA pentru a-și face temele);

—

persoanele care utilizează un sistem de IA în nume propriu pentru a genera deepfake-uri difuzate pe platformele de comunicare socială.

(20)

Excluderea de la articolul 2 alineatul (10) din Regulamentul IA se aplică numai în ceea ce privește obligațiile implementatorilor atunci când utilizează sistemul pentru activități pur personale, fără caracter profesional. Sistemul ca atare rămâne în domeniul de aplicare al Regulamentului privind IA în ceea ce privește obligațiile furnizorilor care introduc sistemul pe piață sau îl pun în funcțiune și ale implementatorilor care utilizează sistemul pentru uz profesional. De asemenea, excepția nu aduce atingere aplicării altor dispoziții relevante din dreptul Uniunii și din dreptul intern.

De exemplu, furnizorul sistemului de IA utilizat pentru a genera deepfake-uri care să apară pe un card personal de Crăciun ar trebui să marcheze deepfake-urile respective într-un format prelucrabil automat, în conformitate cu obligația de transparență prevăzută la articolul 50 alineatul (2) din Regulamentul IA. În același timp, utilizarea sistemului de către persoane fizice în cursul unei activități strict personale, fără caracter profesional, nu va face obiectul obligației implementatorului prevăzute la articolul 50 alineatul (4) din Regulamentul IA.

2.4.2.   Cercetare și dezvoltare

(21)

Articolul 2 alineatul (6) din Regulamentul IA prevede o excludere, acesta neaplicându-se „sistemelor de IA sau modelelor de IA, inclusiv rezultatelor acestora, dezvoltate și puse în funcțiune special și exclusiv pentru cercetare și dezvoltare științifică”. Această excludere nu aduce atingere standardelor etice, legislației UE privind protecția datelor și altor acte legislative aplicabile în materie de cercetare. În contextul articolului 50 din Regulamentul IA, această excludere acoperă nu numai sistemele de IA interactive, ci și rezultatele sistemelor de IA generative (inclusiv conținutul deepfake) utilizate în contextul cercetării științifice. Cu toate acestea, în cazul în care aceste sisteme sunt puse în funcțiune sau rezultatele lor sunt utilizate în alte scopuri decât exclusiv în scopul cercetării și dezvoltării științifice, obligațiile de transparență relevante prevăzute la articolul 50 din Regulamentul IA ar trebui să fie respectate în continuare.

De exemplu, în cazul în care cercetătorii dezvoltă și introduc pe piață sau pun în funcțiune un sistem de IA interactiv și doresc să investigheze dacă persoanele fizice sunt în măsură să facă distincția între sistemele de IA și oameni atunci când interacționează verbal cu sistemul de IA respectiv, ei nu trebuie să pună în aplicare obligațiile de transparență care le revin în temeiul articolului 50 alineatele (1) și (2) din Regulamentul IA. Cu toate acestea, în cazul în care același sistem de IA interactiv este, de asemenea, pus în funcțiune în alte scopuri decât cele de cercetare și dezvoltare, ar trebui respectate obligațiile de transparență relevante prevăzute la articolul 50 din Regulamentul IA.

(22)

Articolul 2 alineatul (8) din Regulamentul IA exclude, de asemenea, activitățile de cercetare, testare sau dezvoltare privind sisteme de IA sau modele de IA, înainte ca acestea să fie introduse pe piață sau puse în funcțiune. Testarea în condiții reale (în interiorul sau în afara spațiilor de testare în materie de reglementare a IA) nu face obiectul excluderii menționate. În plus, odată ce un sistem de IA este introdus pe piață sau pus în funcțiune ca urmare a unor astfel de activități de cercetare și testare, acesta ar trebui totuși să respecte obligațiile de transparență relevante în temeiul articolului 50 din Regulamentul IA (10).

2.4.3.   Sisteme de IA lansate sub licențe libere și cu sursă deschisă

(23)

În conformitate cu articolul 2 alineatul (12) din Regulamentul IA, sistemele de IA lansate sub licențe libere și cu sursă deschisă nu intră în domeniul de aplicare al Regulamentului privind IA, cu condiția să nu intre sub incidența interdicțiilor prevăzute la articolul 5 din Regulamentul IA sau a obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA sau să nu fie clasificate ca prezentând un grad ridicat de risc (11). Aceasta înseamnă că furnizorii și implementatorii de sisteme de IA cu sursă deschisă care intră în domeniul de aplicare al articolului 50 din Regulamentul IA trebuie să asigure în continuare respectarea obligațiilor lor de transparență respective.

(24)

În schimb, furnizorii de componente de IA gratuite și cu sursă deschisă care includ software, date, modele, instrumente, servicii sau procese de personalizare și integrare într-un sistem de IA și care nu constituie în sine (parțial sau integral) un sistem de IA nu fac obiectul obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA. Cu toate acestea, furnizorii unor astfel de sisteme sunt încurajați să conceapă modelele, componentele și serviciile respective în modul descris la punctul 27 de mai jos, în măsura în care acest lucru este proporțional și fezabil.

2.5.   Interacțiunea cu practicile interzise, cu cerințele pentru sistemele de IA cu grad ridicat de risc și cu alfabetizarea în domeniul IA

(25)

Considerentul 137 din Regulamentul IA clarifică faptul că respectarea obligațiilor privind transparența prevăzute la articolul 50 din Regulamentul IA pentru un anumit sistem de IA nu poate fi interpretată ca indicând faptul că utilizarea sistemului de IA respectiv sau a rezultatelor sale este legală în temeiul Regulamentului privind IA. În special, sistemele de IA care fac obiectul obligațiilor prevăzute la articolul 50 din Regulamentul IA pot intra sub incidența articolului 5 din Regulamentul IA și, prin urmare, pot fi interzise (de exemplu, utilizarea sistemelor de recunoaștere a emoțiilor în sfera locului de muncă și a instituțiilor de învățământ) (12). În plus, sistemele de IA care intră în domeniul de aplicare al articolului 50 din Regulamentul IA pot fi, de asemenea, clasificate ca prezentând un grad ridicat de risc (13) și pot fi supuse cerințelor și obligațiilor relevante pentru astfel de sisteme. Prin urmare, respectarea articolului 50 din Regulamentul IA nu înlocuiește, nu limitează și nu afectează obligațiile care decurg din alte dispoziții ale Regulamentului privind IA (14). În același timp, sistemele de IA pot intra, de asemenea, în domeniul de aplicare al articolului 50 din Regulamentul IA fără a fi clasificate ca prezentând un grad ridicat de risc în temeiul articolului 6 din Regulamentul IA. Cerințele de alfabetizare prevăzute la articolul 4 din Regulamentul IA se aplică, de asemenea, atât furnizorilor, cât și implementatorilor de sisteme de IA care intră în domeniul de aplicare al articolului 50 din Regulamentul IA.

2.6.   Interacțiunea cu normele aplicabile modelelor și/sau sistemelor de IA de uz general

(26)

Articolul 50 din Regulamentul IA se aplică anumitor sisteme de IA, care includ sisteme de IA de uz general (denumite în continuare „sisteme de IA de uz general”) (15), cum ar fi roboții de chat care sprijină interacțiunea directă cu persoane fizice sau sistemele de IA care au capabilitatea de a genera sau de a manipula conținut sintetic (inclusiv deepfake-uri) (16).

(27)

Articolul 50 din Regulamentul IA nu se aplică în mod explicit modelelor de IA de uz general. Cu toate acestea, în cazul în care un sistem de IA interactiv sau generativ care intră în domeniul de aplicare al articolului 50 alineatul (1) sau (2) din Regulamentul IA se bazează pe un model de IA de uz general pus la dispoziție de același furnizor, măsurile de transparență prevăzute în prezentele orientări ar putea fi puse în aplicare și la nivelul modelului (a se vedea, de asemenea, secțiunea 4 de mai jos). În plus, deși nu intră în domeniul de aplicare al articolului 50 din Regulamentul IA, furnizorii de alte modele de IA de uz general și de alte modele de IA generative sunt, de asemenea, încurajați să pună în aplicare măsuri adecvate de transparență la nivel de model pentru identificarea sistemelor de IA interactive și marcarea conținutului generat și manipulat de IA. Acest lucru este deosebit de util pentru a facilita respectarea de către furnizorii de sisteme de IA din aval a obligațiilor care le revin în temeiul articolului 50 alineatele (1) și (2) din Regulamentul IA (17) și pentru a contribui la menținerea încrederii în ecosistemul informațional și a integrității acestuia. În cazul modelelor de IA de uz general care prezintă risc sistemic, măsurile de siguranță aplicate la nivelul modelului pentru identificarea interacțiunilor cu IA și marcarea conținutului generat sau manipulat de IA pot să facă parte, după caz, dintr-un set mai amplu de măsuri de atenuare pe care furnizorii le pot lua în cadrul obligației lor de a atenua riscurile sistemice în temeiul articolului 55 alineatul (1) litera (b) din Regulamentul IA.

3.   ARTICOLUL 50 ALINEATUL (1) DIN REGULAMENTUL IA: TRANSPARENȚA SISTEMELOR DE IA INTERACTIVE

(28)

Articolul 50 alineatul (1) din Regulamentul IA vizează furnizorii de sisteme de IA care interacționează direct cu persoane fizice, care trebuie să își proiecteze și să își dezvolte sistemele astfel încât persoanele fizice în cauză să fie informate că interacționează cu un sistem de IA. Astfel cum se explică în considerentul 132 din Regulamentul IA, scopul acestei obligații de informare este de a permite persoanelor fizice respective să ia decizii în cunoștință de cauză cu privire la rezultatele sistemului, de a evita dependența excesivă de astfel de sisteme și de a permite persoanelor fizice respective să își calibreze încrederea în conținut și să își adapteze interacțiunile în consecință.

3.1.   Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente)

(29)

Obligația de transparență prevăzută la articolul 50 alineatul (1) din Regulamentul IA se aplică furnizorilor de sisteme de IA în cazul în care sistemul este destinat să interacționeze direct cu persoane fizice, iar interacțiunea respectivă nu intră sub incidența niciuneia dintre următoarele excepții: (1) acest lucru este evident din punctul de vedere al unei persoane fizice rezonabil de bine informată, de atentă și de avizată sau (2) sistemul este autorizat prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile, cu excepția cazului în care sistemul este disponibil publicului pentru a denunța o infracțiune.

3.1.1.   Sisteme de IA destinate să interacționeze direct cu persoane fizice

(30)

Pentru ca un sistem să intre în domeniul de aplicare al articolului 50 alineatul (1) din Regulamentul IA, trebuie să fie întrunite patru elemente: (i) sistemul trebuie să fie un sistem de IA, (ii) destinat să interacționeze, (iii) direct (iv) cu persoane fizice.

(i)

Un sistem de IA: sistemul trebuie să întrunească elementele prevăzute la definiția sistemului de IA (18), care exclude mecanismele simple de răspuns automatizat care nu sunt bazate pe IA (de exemplu, e-mailurile tradiționale de informare cu privire la absența de la birou, răspunsurile rapide la mesaje bazate pe norme).

(ii)

Sistemul trebuie să fie un sistem destinat să interacționeze: sistemul de IA trebuie să fie destinat să interacționeze cu persoane fizice. Interacțiunea presupune posibilitatea realizării unui schimb bidirecțional de informații sau acțiuni între persoanele fizice și sistemul de IA, cu un caracter conversațional sau reactiv autentic. Schimbul poate avea loc sub diferite forme (de exemplu, auditivă, vizuală și fizică). Persoanele fizice ar trebui să poată furniza date de intrare (de exemplu, text scris sau alte forme de conținut, voce sau acțiuni fizice) sistemului de IA (de exemplu, prin mijloace tehnice de comunicare, inclusiv interfețe online, telefon sau e-mail, ori în mod direct), în timp ce sistemul de IA ar trebui să fie capabil să răspundă prin rezultate adaptate contextului (inclusiv orice tip de conținut sau de acțiune) și viceversa. Interacțiunea poate acoperi orice tip de rezultat sau format care poate fi perceput și înțeles de oameni. Aceasta nu trebuie neapărat să fie inițiată de o persoană, ci poate include și conținut generat de IA sau acțiuni ale IA menite să determine un răspuns din partea unei persoane. Interacțiunea poate consta într-un schimb unic (de exemplu, o singură solicitare urmată de un singur răspuns) sau se poate desfășura pe o anumită perioadă de timp (în mai multe schimburi succesive). Sistemele care doar colectează în mod pasiv date și nu sunt capabile să realizeze un schimb cu persoane fizice (de exemplu, sistemele automatizate de control al accesului bazate pe recunoaștere facială) sau care doar colectează o singură dată feedback (de exemplu, filtrele antispam) nu sunt considerate sisteme care interacționează cu persoane fizice.

(iii)

Sistemul trebuie să interacționeze direct: interacțiunea dintre sistemul de IA și persoanele fizice trebuie să fie directă. Acest lucru implică, de regulă, interacțiunea în timp real sau aproape în timp real (inclusiv prin capabilitățile sistemului de a scrie și de a trimite mesaje persoanelor fizice sau de a interacționa în alt mod cu mediul fizic ori virtual care poate fi perceput de persoanele fizice). Interacțiunea directă exclude interacțiunea umană indirectă sau mediată în cazul în care o persoană fizică este expusă la rezultatele IA fără a interacționa direct cu sistemul (de exemplu, atunci când reprezentanții serviciului de relații cu clienții utilizează instrumente de asistență bazate pe IA pentru a comunica cu persoane fizice sau atunci când rezultatul IA nu este pus la dispoziția persoanei de către sistemul de IA în sine, ci de o altă persoană care diseminează conținutul). Cu toate acestea, simpla posibilitate ca oamenii să intervină sau să revizuiască rezultatele sistemului de IA nu ar trebui utilizată pentru a eluda aplicarea cerinței de divulgare prevăzute la articolul 50 alineatul (1) din Regulamentul IA. Cazurile de produse și servicii care combină răspunsurile generate de IA cu conținut gestionat de om intră în domeniul de aplicare al articolului 50 alineatul (1) din Regulamentul IA și necesită divulgarea rezultatelor specifice în cadrul interacțiunii care sunt generate de IA, cu excepția cazului în care rezultatele respective generate de IA au fost revizuite în mod corespunzător și trimise de oameni ca principalii interlocutori cu persoanele fizice respective.

(iv)

Cu persoane fizice: Articolul 50 alineatul (1) din Regulamentul IA prevede că sistemul de IA trebuie să interacționeze cu persoane fizice. Aceste persoane pot fi operatori profesioniști, alți utilizatori (care utilizează sistemul și în cursul unor activități strict personale) sau alte persoane care utilizează sistemul în numele lor. Sistemele de IA care funcționează într-un mediu fizic închis (de exemplu, ca parte a unei instalații industriale), comunicațiile între sisteme de IA la nivel de back-end (inclusiv agenți de IA) ale căror rezultate nu sunt destinate să ajungă la persoane fizice sau mediile virtuale fără niciun contact direct cu persoane fizice sunt excluse din domeniul de aplicare al obligației.

(31)

Agenții de IA intră sub incidența articolului 50 alineatul (1) din Regulamentul IA dacă sunt capabili să interacționeze cu persoanele care îi antrenează sau cu alte persoane fizice în cursul îndeplinirii sarcinilor (de exemplu, efectuarea de rezervări, gestionarea corespondenței, negocierea sau încheierea de contracte, efectuarea de achiziții etc.). Agenții IA trebuie să fie proiectați și dezvoltați astfel încât să dezvăluie atât natura lor artificială, cât și persoana în numele căreia acționează, având în vedere necesitatea transparenței în ceea ce privește originea și delegarea autorității, precum și răspunderea pentru consecințele acțiunilor lor. Printre acestea se numără cazurile în care agenții de IA sunt capabili să interacționeze, în cadrul unor arhitecturi complexe multi-agenți, cu alți agenți IA care interacționează direct cu persoane fizice în cursul îndeplinirii sarcinii. Cu toate acestea, este posibil să nu fie întotdeauna posibil ca furnizorul agentului IA să identifice în prealabil cazurile individuale de interacțiune directă a unui agent IA cu alte persoane fizice odată ce agentul IA este implementat în diferite contexte. În cazul în care furnizorul nu poate stabili în mod cert dacă agentul IA va interacționa direct cu o persoană fizică înainte de a introduce agentul IA pe piață sau de a-l pune în funcțiune, agentul ar trebui să fie conceput la nivel de arhitectură și instruit să se identifice ca atare în orice situație în care este probabil în mod rezonabil ca agentul să interacționeze cu o persoană fizică (inclusiv în cazul în care o persoană fizică poate reprezenta o entitate juridică sau poate acționa în numele acesteia). În plus, agenții de IA ar trebui, de asemenea, să se identifice ca atare persoanelor care îi instruiesc în etape-cheie (de exemplu, în momentul autorizării, raportării, validării etc., inclusiv atunci când agentul IA implementat primește, prelucrează sau se bazează pe rezultatele generate de alte sisteme de IA și nu direct de o persoană fizică) și la fiecare nouă interacțiune.

Exemple de sisteme de IA destinate să interacționeze direct cu persoane fizice, care intră în domeniul de aplicare al articolului 50 alineatul (1) din Regulamentul IA:

—

asistenți vocali bazați pe IA, roboții de chat/agenți conversaționali în diferite contexte (de exemplu, serviciu public, asistență pentru clienți, gestionarea plângerilor, comerț electronic, finanțe, asistență medicală, educație etc.);

—

linii telefonice de asistență bazate pe IA pentru raportarea incidentelor, fraudelor sau a altor situații, roboți/coboți (umanoizi), companioni IA, animale de companie robotizate; avataruri bazate pe IA (de exemplu, în medii de realitate virtuală);

—

boți bazați pe IA de pe rețelele de comunicare socială și din mass-media, agenții de codificare și alți agenți de IA capabili să interacționeze direct cu persoane fizice (inclusiv în cadrul unor arhitecturi complexe multi-agenți).

3.2.1.

Exemple de sisteme de IA care nu interacționează direct cu persoane fizice, care nu intră în domeniul de aplicare al articolului 50 alineatul (1) din Regulamentul IA:

—

roboți industriali tradiționali bazați pe IA care funcționează într-un cadru industrial închis și care nu sunt destinați să interacționeze cu oamenii (de exemplu, roboți asamblarea componentelor electronice);

—

sisteme de recomandare bazate pe IA, filtre antispam, instrumente de traducere automată sau de transcriere;

—

sisteme bazate pe IA pentru căutarea și extragerea informațiilor, fără generarea sau modificarea conținutului;

—

tehnici de completare automată a textului și a codului bazate pe IA, sisteme de autentificare/recunoaștere biometrică, sisteme back-end de sprijinire a procesului decizional în care utilizatorul vede doar rezultatul IA, fără posibilitatea de a interacționa direct cu sistemul;

—

sisteme bazate pe IA pentru întreținerea predictivă și optimizarea în fabrici și în aplicații industriale, vizualizarea produselor asistate de IA (de exemplu, probarea virtuală, amenajarea virtuală a încăperilor, generarea de reprezentări vizuale ale produselor), instrumente bazate pe IA pentru planificarea traseelor printr-o singură interacțiune, transcrierea apelurilor clienților în vederea analizei comportamentale etc.

3.1.2.   Obligația de divulgare prevăzută la articolul 50 alineatul (1) din Regulamentul IA

(32)

Articolul 50 alineatul (1) din Regulamentul IA obligă furnizorii de sisteme de IA care interacționează direct cu persoane fizice să se asigure că sistemele lor de IA (inclusiv agenții IA și sistemele de IA de uz general) sunt proiectate și dezvoltate astfel încât persoanele fizice în cauză să fie informate că interacționează cu un sistem de IA.

(33)

Deși mecanismul de informare ar trebui să fie integrat în proiectarea și dezvoltarea sistemului și în modul în care sistemul interacționează cu persoanele fizice, notificarea ar trebui să fie furnizată în timpul funcționării sistemului de IA și cel târziu în momentul primei interacțiuni cu persoana fizică [astfel cum se prevede la articolul 50 alineatul (5) din Regulamentul IA, a se vedea secțiunea 7 de mai jos]. Furnizorii au responsabilitatea de a se asigura că, după introducerea pe piață sau punerea în funcțiune a sistemului de IA, persoanele fizice care interacționează cu sistemul de IA sunt informate în mod eficace și consecvent pe parcursul întregului ciclu de viață al sistemului de IA, astfel cum este introdus pe piață sau pus în funcțiune de furnizorul respectiv.2.2

(34)

Formatul în care are loc divulgarea: articolul 50 alineatul (1) din Regulamentul IA nu specifică nicio tehnică specifică de divulgare. Prin urmare, furnizorii pot alege orice tehnică adecvată, atât timp cât sunt îndeplinite două cerințe: (i) să fie respectate cerințele prevăzute la articolul 50 alineatul (5) din Regulamentul IA referitoare la furnizarea de informații într-un mod clar și distinct, cel târziu în momentul primei interacțiuni (a se vedea secțiunea 7 de mai jos) și (ii) să fie luate în considerare caracteristicile persoanelor fizice care aparțin grupurilor vulnerabile din motive de vârstă (de exemplu, copii sau persoane în vârstă) sau dizabilitate, în măsura în care sistemul de IA este destinat sau este susceptibil în mod rezonabil să interacționeze cu persoane fizice care aparțin grupurilor respective (de exemplu, inclusiv atunci când sistemul de IA este susceptibil în mod rezonabil să interacționeze cu publicul larg) (19). Informațiile trebuie furnizate, de asemenea, într-un format accesibil pentru persoanele fizice cu dizabilități, astfel cum se specifică la articolul 50 alineatul (5) și în considerentul 132 din Regulamentul IA (a se vedea secțiunea 7). În cazul în care sistemul poate interacționa cu copiii, notificările respective trebuie să fie adaptate copiilor, adecvate vârstei, ușor de înțeles și ușor accesibile pentru toți copiii, inclusiv pentru cei cu dizabilități sau cu nevoi suplimentare în materie de accesibilitate. Atunci când sunt disponibile și adecvate, furnizorilor li se recomandă să utilizeze practici și etichete standardizate de divulgare pentru a asigura eficacitatea și consecvența notificărilor și pentru a spori gradul de conștientizare în rândul utilizatorilor.

(35)

Conținutul notificării: articolul 50 alineatul (1) din Regulamentul IA impune furnizorilor de sisteme de IA interactive să le proiecteze și să le dezvolte astfel încât toate persoanele fizice care interacționează cu astfel de sisteme de IA să fie informate în mod explicit cu privire la natura artificială, neumană, a interlocutorului. În cazul în care furnizorul preconizează în mod rezonabil că sistemul de IA poate interacționa cu persoane fizice care aparțin grupurilor vulnerabile menționate mai sus, informațiile ar trebui adaptate în consecință și furnizate într-un format accesibil, astfel cum se prevede în dreptul aplicabil al Uniunii, pentru a asigura și înțelegerea deplină a acestora de către persoanele fizice respective (20).

(36)

Notificările ar trebui să ofere informații cu privire la originea artificială a interacțiunii în moduri adecvate contextului în care are loc interacțiunea. Acest lucru ar trebui realizat astfel încât persoanele în cauză să fie informate în mod corespunzător și efectiv, evitându-se orice risc de înșelăciune sau de manipulare înaintea și pe parcursul interacțiunii și asigurându-se totodată că divulgarea este fezabilă și proporțională. Printre exemplele de furnizare a informațiilor se numără notificările în scris (de exemplu, un robot de chat care inițiază o conversație menționând că se bazează pe tehnologia IA), mijloacele vizuale (de exemplu, un e-mail generat de un agent IA trimis unei persoane fizice care are o etichetă de IA în partea de sus), mijloacele auditive (de exemplu, un asistent vocal care spune la începutul unei sesiuni că se bazează pe IA), divulgarea identificatorilor de IA și a credențialelor (de exemplu, agenți de IA care își divulgă identitatea de IA, în măsura posibilului, într-un mod verificabil) (21).

(37)

Formatul notificărilor: se recomandă, ca bună practică, proiectarea sistemului de IA astfel încât să permită modalități multimodale și accesibile de divulgare. După caz și în funcție de context, de grupurile care constituie publicul vizat și previzibil și de resursele de care dispun furnizorii, în special întreprinderile mici și mijlocii (IMM-uri), astfel de notificări pot combina diferite tehnici pentru a facilita înțelegerea de către utilizatori. Printre exemplele de tehnici adecvate se pot număra:

—

Divulgarea sub formă de text [pe baza interfeței cu utilizatorul]: etichete sau bannere vizibile, formulate într-un limbaj simplu (de exemplu, „Interacționați cu un sistem de IA”) și mesaje de întâmpinare afișate de roboții de chat la începutul interacțiunii, care pot fi combinate, după caz, cu pictograme sau etichete persistente, vizibile pe tot parcursul interacțiunii, într-o măsură proporțională cu contextul și riscurile specifice. În plus, se recomandă amplasarea divulgărilor aferente în apropierea interfeței de interacțiune (de exemplu, în apropierea câmpului de introducerea datelor/afișare a rezultatelor) și utilizarea unor formulări simplificate, în special pentru utilizatorii cu un nivel mai scăzut de alfabetizare digitală și pentru copii.

—

Divulgarea în format audio: în contexte bazate pe interacțiune vocală sau telefonică, declarații verbale explicite la începutul interacțiunii (de exemplu, „Acesta este un asistent bazat pe IA”) combinate, după caz, cu atenționări periodice în cadrul interacțiunilor mai îndelungate, în special în cazul unor întreruperi sau al unei modificări a rolului sistemului de IA pe parcursul experienței utilizatorului. Indicii distincte în format audio (de exemplu, tonuri sau sunete) pot facilita recunoașterea, în special în cazul utilizatorilor cu deficiențe de vedere, dar nu sunt considerate suficiente în sine.

—

Indicii vizuale/grafice: proiectarea sistemului de IA astfel încât să includă pictograme persistente, filigrane, cadre colorate sau simboluri „IA” ușor de recunoscut, care să completeze divulgările sub formă de text. Se recomandă utilizarea unor indicatori vizuali standardizați, inclusiv pentru toate serviciile unui furnizor, deoarece astfel de indicatori pot reduce în mod semnificativ sarcina cognitivă și pot spori recunoașterea.

—

Combinații multimodale: combinarea indiciilor textuale, audio și vizuale (de exemplu, un robot de chat care afișează o etichetă, oferind în același timp o divulgare sub formă de text la începutul interacțiunii), pentru a asigura accesibilitatea și a spori claritatea pentru diferitele grupuri de utilizatori.

(38)

Anumite tehnici nu sunt necesare și, atunci când sunt utilizate separat, sunt insuficiente pentru îndeplinirea efectivă a obligației de transparență prevăzute la articolul 50 alineatul (1) și alineatul (5) din Regulamentul IA, în special:

—

divulgările conținute în clauzele și condițiile aplicabile, în URL-uri sau în documentație (astfel de divulgări pot completa, dar nu pot înlocui divulgarea furnizată în contextul interacțiunii);

—

marcajele într-un format prelucrabil automat (de exemplu, metadate sau filigrane) care nu sunt perceptibile de către utilizatori în momentul interacțiunii. Acest lucru nu afectează caracterul adecvat al unor astfel de marcaje în vederea respectării articolului 50 alineatul (2) din Regulamentul IA (a se vedea secțiunea 4);

—

semnalele neclare sau ambigue (de exemplu, trimiteri generice la un „asistent”) sau reprezentări de tip uman care pot induce în eroare utilizatorii;

—

divulgările cu caracter general care nu sunt suficient de specifice în raport cu rezultatele sistemului de IA și cu interacțiunile cu acesta (de exemplu, în cazul unei platforme care oferă o varietate de servicii sau permite introducerea de date de intrare individuale, o divulgare generală precum „Serviciile de pe acest site utilizează IA” este insuficientă);

—

descrierile tehnice sau bazate pe capabilități: afirmații care se referă exclusiv la tehnologiile subiacente (de exemplu, „acest sistem utilizează modele lingvistice de mari dimensiuni”), fără a explica funcția sau implicațiile sistemului pentru utilizator și originea artificială a acestuia.

(39)

Divulgările ar trebui să fie proporționale și adaptate diferitelor contexte și categorii de public vizat ale sistemului de IA, astfel încât să rămână eficace și ușor de utilizat și să se evite, în măsura posibilului, eventuale perturbări ale experienței utilizatorului sau efectele de acomodare (așa-numita „ignorare a bannerelor”).

(40)

O singură divulgare, prezentată în mod vizibil înainte de prima interacțiune a sistemului de IA cu o anumită persoană fizică, este probabil suficientă, în majoritatea cazurilor, pentru îndeplinirea obligației prevăzute la articolul 50 alineatul (1) din Regulamentul IA. Cu toate acestea, în anumite contexte care implică riscuri mai mari, este probabil să fie necesare atenționări periodice și divulgări adaptate contextului pentru a asigura menținerea gradului de sensibilizare al utilizatorilor. Acest lucru este valabil în special în contextul sistemelor de IA care interacționează cu persoane vulnerabile (de exemplu, copii, persoane în vârstă, persoane cu dizabilități și persoane cu un nivel mai scăzut de alfabetizare), al interacțiunilor susținute și în continuă evoluție în contexte sensibile sau imersive (de exemplu, atunci când utilizatorii pot exprima sau resimți suferință emoțională ori vulnerabilitate sau pot fi expuși riscului de unor comportamente similare dependenței), atunci când există un risc sporit ca utilizatorii să fie induși în eroare (de exemplu, în contextul consilierii financiare, al asigurărilor, al asistenței juridice, al consilierii în materie de sănătate și al soluționării reclamațiilor) sau să dezvolte atașamente ori dependențe emoționale (de exemplu, față de companioni IA), precum și atunci când este necesar să se asigure sensibilizarea cu privire la acțiunile agenților IA și controlul asupra acestora. Furnizorii trebuie, de asemenea, să proiecteze și să dezvolte sistemul de IA astfel încât divulgarea să fie asigurată în toate situațiile în care sistemului de IA i se adresează întrebări cu privire la natura sa sau la originea interacțiunii ori în care, pe baza schimburilor cu persoana fizică, se poate presupune în mod rezonabil că aceasta riscă să fie indusă în eroare sau să întâmpine confuzii cu privire la originea artificială a interacțiunii.

3.2.   Excepții de la obligația de informare prevăzută la articolul 50 alineatul (1) din Regulamentul IA

(41)

Articolul 50 alineatul (1) din Regulamentul IA prevede două excepții de la obligația de informare privind sistemele de IA interactive examinate mai jos.

3.2.1.   Excepție pentru interacțiunea evidentă cu un sistem de IA

(42)

Pentru a putea invoca prima excepție, furnizorii vor trebui să evalueze și să demonstreze: (i) caracterul artificial evident al interacțiunii pentru (ii) o persoană fizică rezonabil de bine informată, de atentă și de avizată, ținând seama de circumstanțele și contextul de utilizare.

(43)

Acest standard se întemeiază pe dreptul consacrat al UE în materie de protecție a consumatorilor în ceea ce privește noțiunea de „consumator mediu” și ar trebui interpretat în mod consecvent, ținând seama totodată de contextele și utilizările specifice și variate ale sistemelor de IA care interacționează direct cu persoane fizice, precum și de obiectivele urmărite de articolul 50 alineatul (1) din Regulamentul IA.

(44)

Conturarea profilului unei astfel de persoane fizice „medii” cuprinde două etape. În primul rând, furnizorii ar trebui să ia în considerare publicul cu care sistemul de IA este destinat să interacționeze și cu care este susceptibil în mod rezonabil să interacționeze. În al doilea rând, furnizorul ar trebui să examineze în ce măsură membrul mediu al publicului respectiv este rezonabil de bine informat, de atent și de avizat, ținând seama de circumstanțele și contextul de utilizare. La efectuarea acestei evaluări ar trebui luați în considerare mai mulți factori:

—

furnizorii ar trebui să ia în considerare publicul-țintă al sistemului de IA, precum și un public potențial mai larg, care poate fi prevăzut în mod rezonabil. Acest lucru se va întâmpla în special dacă publicul larg poate accesa cu ușurință sistemul de IA sau dacă sistemul funcționează în spații publice virtuale sau fizice și este capabil să interacționeze cu persoanele fizice prezente în spațiile respective. Publicul care poate fi expus la un sistem de IA nu coincide întotdeauna cu publicul-țintă;

—

furnizorii ar trebui să ia în considerare componența potențial diversă a publicului-țintă și a publicului previzibil în mod rezonabil, în conformitate cu considerentul 132 din Regulamentul IA. În cazul în care este probabil ca persoanele cu dizabilități, persoanele în vârstă sau minorii să facă parte din publicul respectiv, nivelurile de informare, atenție și avizare care pot fi așteptate din partea unui membru mediu al unui astfel de public vor fi mai scăzute decât în cazul unui membru mediu al unui public care nu include aceste categorii de persoane. În schimb, dacă sistemul de IA interactiv este disponibil numai pentru un public-țintă profesionist sau specializat, atunci acest lucru ar putea avea un impact pozitiv asupra nivelurilor preconizate de informare, atenție și avizare, iar un membru mediu al publicului respectiv poate fi considerat a fi mai bine informat, mai atent și mai avizat;

—

în cadrul unei evaluări mai ample a circumstanțelor și a contextului de utilizare, furnizorii ar trebui să ia în considerare nivelul de alfabetizare digitală și în domeniul IA al publicului-țintă și al publicului previzibil în mod rezonabil, precum și factorii sociali, culturali și lingvistici relevanți.

(45)

Caracterul evident: după stabilirea profilului ipotetic al persoanei fizice rezonabil de bine informată, de atentă și de avizată, furnizorii ar trebui să evalueze dacă pentru o astfel de persoană va fi evident că interacționează direct cu un sistem de IA. Excepția ar trebui interpretată în mod restrictiv, având în vedere că privează persoanele fizice de protecție și de dreptul de a fi informate prin divulgări clare și distincte că interacționează cu sistemele de IA. Faptul că, în general, consumatorii și alte persoane fizice sunt conștienți de existența sistemelor de IA (inclusiv a roboților de chat și a agenților IA) nu înseamnă că le și recunosc în cadrul interacțiunilor. Există mai mulți factori care pot fi relevanți și luați în considerare în cadrul evaluării dacă interacțiunea este evidentă:

—

natura anticipată a interacțiunii: atunci când sistemul de IA interacționează fizic cu persoane fizice, elementele relevante pot include vizibilitatea componentelor mecanice (care ar face mai evidentă natura artificială a interacțiunii) sau măsura în care sistemul de IA reproduce în mod autentic echivalentul său neartificial (ceea ce ar face natura artificială a interacțiunii mai puțin evidentă). În cazul interacțiunilor de natură vizuală sau auditivă, această evaluare poate fi influențată de elemente precum modul de exprimare în scris sau verbal, tonul vocii (voce robotică în comparație cu o voce care sună autentic uman), proiectarea interfeței cu utilizatorul (de exemplu, imaginea de profil asociată unui robot de chat, care înfățișează o persoană) și capacitatea de a realiza interacțiuni personalizate avansate;

—

componența publicului-țintă și a publicului previzibil: dacă sistemul de IA interactiv este disponibil numai pentru un public profesionist sau specializat, fără o expunerea potențială la grupurile vulnerabile, acest lucru poate spori caracterul evident al naturii artificiale a interacțiunii pentru un membru mediu al publicului respectiv. În schimb, în cazul în care sistemul de IA poate fi accesat de publicul larg sau de consumatori, printre care se numără și persoane vulnerabile (de exemplu, copii, persoane în vârstă, persoane cu dizabilități cognitive, fizice sau mintale sau persoane cu un nivel mai redus de alfabetizare în domeniul IA) pentru care interacțiunea este mai puțin evidentă, excepția nu poate fi invocată pentru a asigura protecția efectivă a utilizatorilor vulnerabili respectivi;

—

ar trebui să se țină seama și de faptul că devine tot mai dificil pentru persoanele fizice să știe dacă interacționează cu un sistem de IA sau cu o persoană reală. Având în vedere utilizarea avatarurilor și a agenților, caracterul în general anonim al interacțiunilor online și capacitatea sistemelor de IA de a scrie și de a interacționa într-un mod asemănător cu cel uman, excepția privind „caracterul evident” ar trebui limitată la cazurile în care, pentru o persoană medie din cadrul publicului-țintă și al publicului previzibil în mod rezonabil, nu există practic nicio îndoială cu privire la natura interacțiunii.

Exemple de situații în care caracterul artificial al interacțiunii este evidentă și în care obligația de transparență prevăzută la articolul 50 alineatul (1) din Regulamentul IA nu se aplică:

—

roboții de chat bazați pe IA pentru asistență la programare și revizuirea codului, disponibili numai dezvoltatorilor profesioniști care, datorită competențelor lor de specialitate și contextului de utilizare, nu se așteaptă în mod rezonabil să interacționeze cu o persoană și pot recunoaște cu ușurință că sugestiile sunt generate de un sistem de IA;

—

un asistent intern destinat angajaților, utilizat de personal instruit în mod corespunzător, care dispune de cunoștințe în materie de IA și este conștient de faptul că utilizează sisteme de IA în scopuri organizaționale interne (de exemplu, resurse umane, servicii juridice, achiziții, asigurarea conformității sau asistență IT);

—

sisteme de IA interactive destinate exclusiv utilizării de către profesioniști din domeniul sănătății instruiți în mod corespunzător, pentru a-i sprijini în stabilirea diagnosticului medical și a propune tratamentele corespunzătoare;

—

sisteme de IA ambientală integrate în aparate electrocasnice, ale căror funcționalități se limitează la asistența privind utilizarea și funcționarea acestora;

—

interacțiuni cu personaje necontrolate de jucător (Non-Playable Characters – NPCs) bazate pe IA într-un joc video cu un singur jucător, în care natura jocului video indică în mod clar că nicio altă persoană fizică nu poate participa și interacționa cu utilizatorul, iar natura artificială a interacțiunii este, de asemenea, evidentă pentru toți utilizatorii (inclusiv pentru persoanele vulnerabile).

Exemple care nu îndeplinesc condițiile excepției privind caracterul evident și în cazul cărora se aplică obligația de transparență prevăzută la articolul 50 alineatul (1) din Regulamentul IA:

—

un animal de companie robotizat bazat pe IA, care seamănă foarte mult cu echivalentul său real și este conceput să imite interacțiunea tipică dintre oameni și animalele de companie, creând astfel ambiguitate cu privire la faptul dacă interacțiunea are sau nu loc cu un sistem de IA;

—

sisteme de IA integrate în medii imersive (de exemplu, realitate virtuală sau augmentată) care utilizează avataruri sau voci realiste asemănătoare oamenilor, în cazul cărora este posibil ca utilizatorii și, în special, copiii, persoanele în vârstă sau persoanele cu dizabilități să nu fie în măsură să facă distincția cu ușurință între interacțiunea umană și cea bazată pe IA;

—

roboți de chat bazați pe IA integrați în platformele online sau în instrumentele de asistență (servicii de asistență) prin care utilizatorii interacționează direct și primesc rezultate ale IA (de exemplu, răspunsuri la întrebări sau alte conținuturi generate de IA) pe care le pot percepe ca fiind generate de om.

3.2.2.   Excepția pentru sistemele de IA autorizate prin lege în scopul aplicării legii

(46)

Furnizorii de sisteme de IA interactive sunt scutiți de obligația de transparență prevăzută la articolul 50 alineatul (1) din Regulamentul IA dacă sunt autorizați prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile, sub rezerva unor garanții adecvate pentru drepturile și libertățile terților.

(47)

„Autorizat prin lege” trebuie înțeles ca incluzând dreptul Uniunii, precum și dreptul intern al statelor membre adoptat în conformitate cu dreptul Uniunii. Legea care autorizează utilizarea sistemului de IA trebuie să specifice în mod clar scopurile și circumstanțele utilizării permise și să prevadă garanții adecvate pentru a proteja drepturile și libertățile terților. Având în vedere abordarea neutră din punct de vedere tehnologic a Regulamentului privind IA, nu este necesar să se identifice sau să se autorizeze prin lege anumite sisteme de IA în cazul în care utilizarea sistemului de IA este avută în vedere, în general, în domeniul de aplicare al activității autorizate din punct de vedere juridic și respectă cadrul juridic aplicabil.

(48)

Pentru a intra sub incidența acestei excepții, scopul sistemului de IA trebuie să fie acela de a depista, a preveni, a investiga sau a urmări penal infracțiunile (de exemplu, agenți de IA sub acoperire, sisteme de IA utilizate sub controlul uman al anchetatorilor pentru investigații online sau comunicarea cu persoane care pot fi implicate în activități infracționale). Excepția nu se limitează la utilizarea unor astfel de sisteme de IA numai de către autoritățile de aplicare a legii, astfel cum sunt definite la articolul 3 punctul 48 din Regulamentul IA, ci poate acoperi, de asemenea, sistemele de IA interactive (sau generative) utilizate de alte autorități publice ale Uniunii sau naționale, cu condiția ca utilizarea acestora să fie autorizată prin lege pentru a detecta, a preveni, a investiga sau a urmări penal infracțiunile și să facă obiectul unor garanții adecvate pentru protejarea drepturilor și libertăților terților. Excepția nu impune ca sistemul de IA să fie capabil să efectueze investigațiile în mod independent. Dacă un anumit sistem poate fi utilizat atât în scopul aplicării legii, cât și în alte scopuri obișnuite, aplicabilitatea excepției ar trebui evaluată în funcție de utilizarea concretă. Obligațiile de transparență continuă să se aplice când același sistem de IA este implementat în alte scopuri decât cele autorizate prin lege pentru a detecta, a preveni, a investiga sau a urmări penal infracțiunile. Persoanele fizice trebuie să beneficieze în continuare de transparență atunci când interacționează cu sistemul în cadrul utilizărilor obișnuite ale acestuia.

(49)

Excepția nu se aplică dacă (i) sistemul de IA este disponibil publicului și (ii) sistemul oferă persoanelor fizice o funcționalitate de raportare a infracțiunilor. Aceste sisteme pot fi utilizate, dar rămân supuse obligației de transparență prevăzute la articolul 50 alineatul (1) din Regulamentul IA, astfel încât persoanele fizice trebuie să fie informate că interacționează cu astfel de sisteme.

Pentru mai multă claritate, această excepție se referă exclusiv la obligația prevăzută la articolul 50 alineatul (1) de a informa persoanele fizice că interacționează cu un sistem de IA (22). Aceasta nu aduce atingere dreptului Uniunii și dreptului intern aplicabile, inclusiv normelor procedurale privind documentarea, divulgarea, admisibilitatea și evaluarea probelor.

Exemple de sisteme de IA puse la dispoziția publicului pentru a raporta infracțiuni care nu sunt exceptate și intră în domeniul de aplicare al articolului 50 alineatul (1) din Regulamentul IA:

—

roboți de chat ai poliției bazați pe IA utilizați pe site-uri oficiale ale poliției sau pe aplicații mobile care permit persoanelor să raporteze infracțiuni sau să depună plângeri. Aceste sisteme ghidează utilizatorii prin întrebări structurate, colectează informații relevante și triază denunțările înainte de a le transmite ofițerilor umani în vederea examinării;

—

linii telefonice de urgență bazate pe IA, operate de poliție sau de altă autoritate de aplicare a legii pentru solicitările de informații din partea publicului larg;

—

linii telefonice de asistență sau portaluri digitale pentru raportarea fraudelor operate de instituții financiare sau de autorități publice, prin intermediul cărora utilizatorii pot raporta suspiciuni privind infracțiuni financiare. Sistemul de IA interacționează cu utilizatorul pentru a colecta detalii, a clasifica denunțarea și a stabili ordinea de prioritate a cazurilor, în timp ce investigatorii umani validează informațiile înainte de luarea oricărei măsuri;

—

asistenții virtuali utilizați pentru a obține declarații din partea martorilor, prin intermediul cărora victimele sau martorii pot furniza informații folosind o interfață bazată pe IA. Astfel de sisteme de IA pot permite introducerea informațiilor în mai multe limbi, pot oferi funcții de accesibilitate și pot permite transmiterea structurată a probelor, însă evaluarea finală și etapele de investigare rămân la latitudinea autorităților umane.

3.3.   Interacțiunea cu alte acte juridice ale Uniunii

(50)

Obligația de transparență prevăzută la articolul 50 alineatul (1) din Regulamentul IA se aplică fără a aduce atingere legislației existente a Uniunii privind protecția consumatorilor, protecția datelor, domeniul digital sau nediscriminarea, care poate prevedea alte divulgări care nu sunt specifice originii artificiale a interacțiunii. În special, în temeiul Directivei 2005/29/CE (Directiva privind practicile comerciale neloiale sau „DPCN”) (23), sunt interzise acțiunile sau omisiunile înșelătoare în ceea ce privește principalele caracteristici ale unui produs sau serviciu. În plus, Directiva 2011/83/CE („Directiva privind drepturile consumatorilor”) (24) impune comercianților să furnizeze informații precontractuale clare și ușor de înțeles cu privire la principalele caracteristici ale bunurilor sau serviciilor. În cazul în care un serviciu este bazat pe IA (cum ar fi un robot de chat pe bază de abonament, o aplicație de companion IA sau un serviciu virtual de îndrumare), funcționalitatea bazată pe IA poate constitui o caracteristică esențială care trebuie dezvăluită înainte ca respectivul consumator să își asume obligații în temeiul unui contract. Obligațiile de informare prevăzute de dreptul Uniunii în materie de protecție a consumatorilor se aplică indiferent dacă interacțiunea este considerată „evidentă” în temeiul articolului 50 alineatul (1) din Regulamentul IA. Aceste obligații au, de asemenea, un caracter complementar, fiind obligații generale de informare în materie de protecție a consumatorilor, în timp ce obligația de notificare în temeiul Regulamentului privind IA este mai strâns legată de context și urmărește să asigure faptul că toate persoanele fizice sunt permanent conștiente că interacționează direct cu un sistem de IA, cel târziu înainte de începerea interacțiunii și pe tot parcursul acesteia.

(51)

Regulamentul privind serviciile digitale include, de asemenea, cerințe de transparență pentru sistemele de recomandare ale platformelor online, inclusiv o cerință de a explica principalii parametri utilizați pentru stabilirea ordinii de prioritate. Aceste obligații sunt complementare obligațiilor de transparență prevăzute la articolul 50 alineatul (1) din Regulamentul IA, întrucât au un domeniu de aplicare și un scop diferite și se referă la sisteme care, în principiu, nu interacționează direct cu utilizatorii în sensul articolului 50 alineatul (1) din Regulamentul IA.

(52)

În ceea ce privește obligațiile de informare față de persoanele vizate în temeiul dreptului Uniunii privind protecția datelor, obligația prevăzută la articolul 50 alineatul (1) din Regulamentul IA îndeplinește un obiectiv diferit de cel al obligațiilor respective și, ca atare, nu aduce atingere acestora.

(53)

În mod similar, obligația de transparență prevăzută la articolul 50 alineatul (1) din Regulamentul IA se aplică fără a aduce atingere dreptului Uniunii și dreptului intern privind furnizarea de informații persoanelor în contextul procedurilor penale [de exemplu, Directiva 2012/13/UE sau Directiva 2012/29/UE, astfel cum a fost modificată prin Directiva (UE) 2026/1472] (25).

4.   ARTICOLUL 50 ALINEATUL (2) DIN REGULAMENTUL IA: MARCAREA ȘI DETECTAREA CONȚINUTULUI GENERAT SAU MANIPULAT DE IA

(54)

Articolul 50 alineatul (2) din Regulamentul IA impune furnizorilor de sisteme de IA care generează conținut sintetic să pună în aplicare soluții tehnice care îndeplinesc anumite cerințe de calitate pentru marcarea într-un format prelucrabil automat și detectarea rezultatelor sistemelor lor de IA. Obiectivul este de a permite persoanelor fizice să facă distincția între conținutul generat sau manipulat de IA și alte conținuturi (de exemplu, conținutul creat de oameni) și să verifice originea acestuia, contribuind astfel și la creșterea integrității și a încrederii în ecosistemul informațional.

(55)

Prin urmare, beneficiarii acestei obligații de transparență sunt toate persoanele fizice susceptibile de a fi expuse conținutului generat sau manipulat de IA, precum și actorii-cheie care au un rol important în menținerea încrederii în ecosistemul informațional și a integrității acestuia, cum ar fi autoritățile competente de supraveghere a pieței și alte autorități competente, cercetătorii independenți, organizațiile societății civile, mass-media, notificatorii de încredere, apărătorii drepturilor fundamentale, furnizorii de platforme online și de motoare de căutare online, titularii de drepturi și alți creatori și distribuitori de conținut etc.

4.1.   Principalele componente și concepte ale articolului 50 alineatul (2) din Regulamentul IA

(56)

Articolul 50 alineatul (2) din Regulamentul IA se aplică dacă sunt îndeplinite mai multe condiții cumulative:

(i)

sistemul trebuie să se califice drept sistem de IA;

(ii)

sistemul de IA trebuie să fie capabil să genereze sau să manipuleze conținut sintetic;

(iii)

conținutul trebuie să se prezinte în una sau mai multe dintre următoarele modalități: audio, imagine, video sau text;

(iv)

sistemul de IA nu trebuie să se încadreze în niciuna dintre următoarele excepții: (1) sistemul de IA îndeplinește o funcție de asistență pentru editarea standard, (2) sistemul de IA nu modifică în mod substanțial datele de intrare furnizate de implementator sau semantica acestora sau (3) sistemul de IA este autorizat prin lege pentru depistarea, prevenirea, investigarea sau urmărirea penală a infracțiunilor.

4.1.1.   Sisteme de IA care generează sau manipulează conținut sintetic

(57)

Articolul 50 alineatul (2) din Regulamentul IA se aplică sistemelor de IA (26), inclusiv sistemelor de IA de uz general, care generează conținut sintetic în format audio, imagine, video sau text. Articolul 50 alineatul (2) din Regulamentul IA vizează o categorie de sisteme care întrunesc elementele constitutive ale definiției sistemului de IA de la articolul 3 alineatul (1) din Regulamentul IA și care generează astfel de rezultate. Articolul 50 alineatul (2) din Regulamentul IA vizează, de asemenea, sistemele de IA utilizate pentru manipularea conținutului.

(58)

Generarea de conținut se referă la generarea de materiale sintetice de către sistemul de IA (de exemplu, pe baza unui prompt uman), cum ar fi generarea unei imagini sintetice sau a unei melodii. În practică, aceasta înseamnă că articolul 50 alineatul (2) din Regulamentul IA se poate aplica sistemelor de IA generative concepute cu un scop preconizat restrâns pentru a produce rezultate specifice. În același timp, articolul 50 alineatul (2) din Regulamentul IA se aplică, de asemenea, sistemelor de IA care pot servi mai multor scopuri, inclusiv sistemelor de IA de uz general, și care pot produce o varietate de tipuri de conținut, precum și sistemelor de IA agentice, atât timp cât generează conținut sintetic în format audio, video, imagine sau text.

(59)

În schimb, manipularea conținutului se referă la conținutul deja existent (indiferent dacă acesta este sau nu sintetic) care este modificat de un sistem de IA (de exemplu, o imagine existentă sau o înregistrare vocală care este manipulată de un sistem de IA în conformitate cu instrucțiunile unei persoane). Pentru ca un conținut să intre sub incidența articolului 50 alineatul (2) din Regulamentul IA, este suficient ca acesta să fie generat sau manipulat de IA dincolo de nivelul unei editări standard, în sensul excepțiilor prevăzute la articolul 50 alineatul (2) din Regulamentul IA (a se vedea secțiunea 4.3). În plus, articolul 50 alineatul (2) din Regulamentul IA nu impune ca respectivul conținut să fie generat sau manipulat exclusiv de IA. Conținutul amestecat cu materiale create de om se califică, de asemenea, drept conținut sintetic, dacă este manipulat sau generat în una dintre modalitățile menționate la articolul 50 alineatul (2) din Regulamentul IA.

4.1.2.   Modalitățile conținutului sintetic care intră în domeniul de aplicare

(60)

Articolul 50 alineatul (2) din Regulamentul IA prevede o listă exhaustivă a modalităților conținutului sintetic care fac obiectul obligației de transparență: audio, imagine, video sau text. Aceasta include, de asemenea, conținutul multimodal, și anume conținutul alcătuit dintr-o combinație a acestor modalități. În sensul articolului 50 alineatul (2) din Regulamentul IA, diferitele modalități trebuie interpretate în conformitate cu stadiile de avansare ale practicii și tehnologiei, care pot evolua în timp. Deocamdată, acestea ar trebui înțelese după cum urmează:

—

textul se referă la un conținut simbolic discret compus din caractere sau numere dispuse într-o anumită secvență, care pot fi citite și interpretate semantic de către oameni;

—

imaginile se referă la reprezentări spațiale statice care codifică informații vizuale și care pot fi percepute vizual de oameni;

—

conținutul audio se referă la un semnal variabil în timp care codifică sunete ce pot fi percepute prin auz de către oameni. Aceasta poate include vorbirea, muzica instrumentală sau alte semnale audio;

—

conținutul video se referă la o succesiune temporală de imagini, care poate fi sincronizată cu material audio și care poate fi percepută vizual de oameni. În acest caz, atât conținutul video, cât și cel audio trebuie marcate, iar detectabilitatea lor trebuie asigurată, astfel cum se precizează în continuare.

(61)

Sistemele de IA care generează sau manipulează imagini 3D, materiale video 3D și materiale audio 3D, precum și realitatea virtuală, realitatea augmentată sau realitatea mixtă intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA. „Realitatea virtuală” cuprinde tehnologiile de IA care permit utilizatorilor să experimenteze și să interacționeze cu un mediu generat de calculator care simulează prezența fizică și care permit interacțiunea în timp real a utilizatorilor cu mediul respectiv. Întrucât realitatea virtuală și cea augmentată sunt alcătuite dintr-o succesiune temporală de imagini, sincronizată opțional cu conținut audio, care reprezintă modificări vizuale în timp, acestea pot fi considerate conținut „video”. „Rezultatul” relevant care trebuie marcat este forma finală a fiecărui element generat de IA, sub rezerva excepțiilor speciale aplicabile sesiunilor interactive efemere în timp real prevăzute la punctul 88 de mai jos. Artefactele digitale utilizate pentru a genera imagini 3D, materiale video 3D și conținut audio 3D, cum ar fi un nor de puncte sau o rețea poligonală 3D, nu trebuie marcate.

(62)

Gemenii digitali care oferă o replică virtuală a unor persoane, obiecte fizice sau sisteme, integrând mai multe tipuri de date, intră, de asemenea, în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA, dacă sunt generați sau manipulați de IA și se prezintă sub formă de conținut audio, imagine, video sau text, cu excepția cazului în care intră sub incidența excepțiilor și se califică drept „aplicații industriale” sau „aplicații pentru operațiunile între întreprinderi” în sensul punctului 87 de mai jos ori drept conținut efemer în timp real în sensul punctului 88 de mai jos.

(63)

Articolul 50 alineatul (2) din Regulamentul IA se poate aplica, de asemenea, agenților de IA dacă agentul IA efectuează o acțiune al cărei rezultat este un conținut generat sau manipulat de IA, perceptibil de către persoanele fizice sub formă de conținut audio, imagine, video sau text. Prin urmare, aceste rezultate trebuie să fie marcate și detectabile după cum se descrie mai jos. În schimb, orice acțiune a unui agent IA care nu include conținutul generat sau manipulat de IA (de exemplu, etape intermediare de prelucrare, cum ar fi raționamentul și lanțul de gândire) sau acțiunea generată de IA care nu este destinată să fie percepută direct de persoanele fizice (de exemplu, o solicitare web sau o acțiune a browserului) nu se califică drept conținut sintetic în sensul articolului 50 alineatul (2) din Regulamentul IA și nu trebuie să respecte obligațiile de marcare și detectare.

4.1.3.   Conținut care nu intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA

(64)

Conținutul generat de un sistem de IA bazat pe prelucrarea simplă a datelor, care nu este generat sau manipulat în mod specific de IA, de exemplu un cadru randat, nu intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA.

(65)

În plus, rezultatele unui sistem de IA care doar reproduc conținutul existent sau permit prezentarea sau aranjarea conținutului deja existent nu intră sub incidența articolului 50 alineatul (2) din Regulamentul IA. Acest lucru se poate întâmpla, de exemplu, în cazul listelor de redare a melodiilor sau al altor sisteme de recomandare care doar selectează sau clasifică conținutul existent în funcție de preferințele sau activitatea utilizatorului, fără a crea ceva nou sau a manipula conținutul în sine. Același lucru este valabil și pentru sistemele de IA utilizate în procesele analitice interne care extrag și structurează date, dar nu le sintetizează.

(66)

Același lucru este valabil și pentru datele de intrare și de ieșire ale unui sistem de IA care constituie simple observații și înregistrări de date provenite din medii fizice sau virtuale, care nu sunt generate sau manipulate de IA (de exemplu, de roboți sau de alți senzori bazați pe IA) sau pentru transmisiile de date efectuate de sisteme de IA fără nicio modificare a acestora. Aceasta acoperă o varietate de date de intrare și rezultate ale sistemelor de IA, în special în contexte industriale, cum ar fi datele de producție obținute de roboți prin observare, consumul înregistrat de contoare inteligente bazate pe IA, măsurătorile frecvenței și tensiunii în rețea, precum și înregistrarea datelor de localizare GPS de la vehicule etc.

(67)

În plus, întrucât obiectivul obligației de transparență prevăzute la articolul 50 alineatul (2) din Regulamentul IA este de a permite oamenilor să distingă conținutul generat sau manipulat de IA, astfel încât să ia măsuri pentru abordarea riscurilor de înșelăciune și manipulare și să asigure integritatea și încrederea în ecosistemul informațional, orice conținut care nu are legătură cu obiectivul respectiv și care nu este perceptibil sau nu este destinat să fie interpretat, verificat ori să servească drept bază pentru acțiuni ale persoanelor fizice nu este vizat de această dispoziție.

(68)

În special, următoarele tipuri de conținut ar trebui considerate ca neintrând în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA:

—

rezultate generate sub forma unei succesiuni scurte de cifre, simboluri sau litere (de exemplu, cuvinte individuale, legende ale imaginilor, text alternativ, etichete ale interfeței cu utilizatorul și elemente grafice de dimensiunea pictogramelor, legende ale imaginilor și alte etichete de date);

—

codul-sursă, înțeles ca un conținut scris într-un limbaj de programare, de scriptare, de marcare, de interogare sau de configurare, destinat să fie interpretat, compilat sau executat de un sistem informatic, indiferent dacă este alcătuit din caractere de text. Acesta poate include, de asemenea, observații în limbajul natural și informații contextuale care fac parte integrantă din codul-sursă. În mod similar, sunt excluse kiturile de dezvoltare de software (Software Development Kits – SDK), limbajul de interogare structurat (Structured Query Language – SQL), infrastructura în calitate de cod și „YAML Ain’t Markup Language” (YAML), configurația JavaScript Object Notation (JSON), schemele, scripturile, specificațiile într-un format prelucrabil automat, interfețele de programare a aplicațiilor (API) și bibliotecile de software;

—

rezultatele unui sistem de IA destinat să fie comunicat exclusiv de la mașină la mașină și prelucrat automat, fără a fi expuse în niciun fel oamenilor, de exemplu comunicațiile între agenți sau semnalele antispam, atât timp cât acestea nu sunt percepute de persoane fizice;

—

rezultate care sunt utilizate exclusiv în medii cu circuit închis în fluxurile de lucru industriale și de dezvoltare a produselor (de exemplu, pentru producția de filme, animații, jocuri sau materiale publicitare), cu excepția cazului în care acestea reprezintă rezultatul final al sistemului de IA sub forma unui conținut text, audio, imagine sau video generat sau manipulat de IA. În aceste cazuri, numai rezultatul final din etapele fluxului de lucru trebuie să fie marcat și detectabil.

4.2.   Obligația de marcare și detectare prevăzută la articolul 50 alineatul (2) din Regulamentul IA

(69)

Articolul 50 alineatul (2) din Regulamentul IA stabilește, pentru furnizorii de sisteme de IA generative care intră în domeniul de aplicare al acestei dispoziții, o obligație de transparență care cuprinde două elemente distincte, dar intrinsec legate între ele. În primul rând, furnizorii trebuie să se asigure că rezultatele sistemului de IA sunt marcate într-un format prelucrabil automat. În al doilea rând, furnizorii trebuie să se asigure că rezultatele pot fi detectate ca fiind conținut generat sau manipulat artificial. Pentru fiecare soluție de marcare implementată, furnizorii ar trebui să se asigure că sunt disponibile mijloace corespunzătoare de detectare (astfel cum se subliniază mai jos) pentru a permite persoanelor fizice expuse la conținut și altor actori relevanți să depisteze și să facă distincția între conținutul sistemului de IA care a fost generat artificial și alt conținut. O soluție tehnică trebuie înțeleasă ca o combinație de tehnici de marcare și mijloace de detectare pe care furnizorul le-a pus în aplicare pentru a îndeplini obligația de transparență prevăzută la articolul 50 alineatul (2) din Regulamentul IA.

(70)

Pentru a atinge în mod eficace obiectivele obligațiilor de transparență prevăzute la articolul 50 alineatul (2) din Regulamentul IA, trebuie să fie îndeplinit fiecare dintre cele două elemente menționate mai sus. Îndeplinirea unui singur element (de exemplu, pentru marcarea într-un format prelucrabil automat a rezultatelor fără ca mijloacele de detectare a acestora să fie disponibile) nu va fi suficientă pentru respectarea dispoziției respective (27).

4.2.1.   Obligația de marcare

(71)

Domeniul de aplicare al obligației de marcare este limitat la aplicarea marcajelor într-un format prelucrabil automat. Un format prelucrabil automat presupune structurarea marcajelor astfel încât aplicațiile software să le poată identifica, recunoaște și extrage cu ușurință, fără intervenție umană. Marcajele și etichetele perceptibile nu sunt excluse ca măsură complementară, după caz, în vederea facilitării respectării de către implementatori a obligației lor de a eticheta deepfake-urile în temeiul articolului 50 alineatul (4) din Regulamentul IA.

(72)

Pentru a respecta obligația de marcare, furnizorii pot utiliza o singură tehnică de marcare sau o combinație de tehnici, atât timp cât soluția lor tehnică, în ansamblu, este prelucrabilă automat și îndeplinește cerințele de eficacitate, interoperabilitate, soliditate și fiabilitate în măsura impusă de lege, astfel cum se prevede la articolul 50 alineatul (2) a doua teză din Regulamentul IA (a se vedea secțiunea 4.2.3. de mai jos).

(73)

Considerentul 133 din Regulamentul IA menționează, ca exemple de astfel de tehnici, filigranele, identificările prin intermediul metadatelor, metodele criptografice pentru a dovedi proveniența și autenticitatea conținutului, metodele de înregistrare, amprentele digitale sau alte tehnici, precum și o combinație de astfel de tehnici. Deși metodele de dovedire a provenienței și a autenticității sunt menționate în considerentul 133 din Regulamentul IA, furnizorii nu sunt obligați să înregistreze sau să păstreze un lanț complet al provenienței care să conțină informații privind originea și modificările conținutului sau orice altă afirmație relevantă privind istoricul conținutului. Cu toate acestea, astfel de metode de stabilire a provenienței pot fi utilizate, de asemenea, pentru respectarea articolului 50 alineatul (2) din Regulamentul IA și pot permite persoanelor fizice să facă distincția între conținutul generat sau manipulat de IA și conținutul autentic.

(74)

Furnizorii pot implementa soluția de marcare a rezultatelor în diferite etape ale lanțului valoric (de exemplu, post hoc după generarea de conținut la nivelul sistemului de IA, la nivelul modelului de IA subiacent sau integrat în procesul de inferență al sistemului de IA). Aceștia pot utiliza soluția de marcare implementată de un furnizor de modele din amonte sau de un terț care furnizează soluția (de exemplu, sub forma unui standard deschis sau a unui serviciu specializat), în măsura în care soluția de marcare respectă articolul 50 alineatul (2) din Regulamentul IA. Utilizarea unei astfel de soluții nu aduce atingere responsabilității furnizorului sistemului de IA de a demonstra respectarea articolului 50 alineatul (2) din Regulamentul IA.

4.2.2.   Obligația de detectare

(75)

Furnizorii de sisteme de IA care intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA trebuie să se asigure că rezultatele sistemelor lor sunt detectabile drept conținut generat sau manipulat de IA. Aceasta înseamnă că furnizorul are obligația de a se asigura că mijloacele de detectare sunt disponibile persoanelor care ar putea fi expuse conținutului. În plus, în temeiul articolului 50 alineatul (5) din Regulamentul IA, astfel de soluții de detectare ar trebui să poată produce rezultate inteligibile pentru oameni, care să indice dacă respectivul conținut a fost generat sau manipulat de IA.

(76)

Un instrument de detectare este un mecanism care detectează dacă un conținut a fost generat sau manipulat de IA, de regulă prin identificarea unor marcaje tehnice sau semnături care permit verificarea originii acestuia. Pentru a asigura interoperabilitatea deplină, furnizorii trebuie să utilizeze soluții de detectare standardizate la nivelul industriei și disponibile publicului, care să permită oricărui terț să implementeze mecanisme de detectare, în mod ideal executabile la nivel local pe dispozitivul digital, și care să permită integrarea fără dificultăți în rețele autonome și izolate. În cazul în care astfel de standarde nu sunt disponibile, în special în etapa inițială a punerii în aplicare a articolului 50 alineatul (2) din Regulamentul IA în ceea ce privește tehnologiile de securizare cu filigran, furnizorul poate utiliza propria soluție de detectare sau o soluție de detectare furnizată de un terț ori partajată, cu condiția ca soluțiile respective să asigure interoperabilitatea cu soluțiile de detectare utilizate de alți furnizori (a se vedea secțiunea 4.2.3). Această posibilitate ar trebui să fie limitată în timp până la apariția unor standarde armonizate și a unei soluții standardizate de detectare interoperabilă care să nu fie accesibilă furnizorilor și care să fie sigură, să protejeze viața privată și să poată fi executată local.

(77)

Articolul 50 alineatul (5) din Regulamentul IA precizează, de asemenea, că informațiile menționate la articolul 50 alineatul (2) din Regulamentul IA ar trebui furnizate persoanelor fizice expuse la conținut într-un mod clar și distinct, cel târziu în momentul primei interacțiuni sau al primei expuneri. Aceste informații constau, în special, în rezultatul detectării, care indică dacă un conținut este generat sau manipulat de IA, și nu în conținutul propriu-zis generat sau manipulat de IA. Prin „în momentul primei expuneri” ar trebui să se înțeleagă momentul în care persoanele fizice sunt dispuse să verifice originea unui anumit conținut și să acceseze soluția de detectare pentru a obține rezultatele detectării.

(78)

În cazul în care furnizorul sistemului de IA depinde de un alt actor pentru furnizarea unei soluții de detectare sau pentru accesul la aceasta, acesta trebuie să se asigure că soluția de detectare respectă articolul 50 alineatul (2) și alineatul (5) din Regulamentul IA și că actorii respectivi afișează rezultatele detectării în conformitate cu articolul 50 alineatul (5) din Regulamentul IA (a se vedea secțiunea 7).

4.2.3.   Respectarea cerințelor privind soluțiile tehnice: eficace, interoperabile, solide și fiabile

(79)

Articolul 50 alineatul (2) a doua teză din Regulamentul IA prevede că soluțiile tehnice pentru marcare și detectare trebuie să fie eficace, interoperabile, solide și fiabile. Aceste cerințe ar trebui înțelese după cum urmează:

—

eficacitatea se referă la capacitatea soluției tehnice implementate de furnizori de a detecta marcajele aplicate de aceștia și de a permite persoanelor fizice să distingă conținutul generat sau manipulat artificial, produs de sistemul lor de IA, contribuind astfel la menținerea încrederii în ecosistemul informațional și a integrității acestuia;

—

fiabilitatea se referă la capacitatea soluției tehnice de a identifica și a distinge cu precizie, în condiții normale de funcționare și pentru diversele tipuri de conținut generate sau manipulate de sistemul de IA al furnizorului, conținutul generat sau manipulat de IA de alte tipuri de conținut;

—

soliditatea se referă la capacitatea soluției tehnice de a identifica cu precizie și de a distinge, în condiții variabile, conținutul generat sau manipulat de IA produs de sistemul de IA al furnizorului de alte tipuri de conținut, inclusiv în cazul modificărilor obișnuite și al atacurilor concepute pentru eludarea mecanismelor de detectare;

—

interoperabilitatea se referă la capacitatea diferitelor soluții tehnice de marcare și detectare de a funcționa fără dificultăți în cadrul mai multor sisteme, între diferiți actori, în contexte și implementări tehnice diferite, astfel încât să permită detectarea conținutului generat sau manipulat de IA, indiferent de tehnica sau tehnicile de marcare utilizate de furnizorii diferitelor sisteme de IA.

(80)

Furnizorii trebuie să se asigure că soluțiile tehnice de marcare și detectare, considerate în ansamblu, îndeplinesc toate cerințele menționate anterior în măsura impusă de lege, ținând seama de limitările și de complementaritatea diferitelor soluții utilizate. Soluțiile tehnice trebuie să respecte toate cerințele, în măsura în care acest lucru este fezabil din punct de vedere tehnic, ținând seama de particularitățile și limitările diferitelor tipuri de conținut, de costurile de punere în aplicare și de stadiul de avansare general recunoscut al tehnologiei, astfel cum poate fi reflectat în standardele tehnice relevante.

(81)

Soluțiile „fezabile din punct de vedere tehnic” în sensul articolului 50 alineatul (2) din Regulamentul IA sunt soluții care pot fi implementate pentru modalitățile care intră în domeniul de aplicare al dispoziției, utilizând tehnologia, metodele și practicile inginerești disponibile în prezent, în cadrul arhitecturii tehnice și al mediului operațional specifice în cauză. Furnizorul nu este obligat să utilizeze o soluție tehnică care nu este încă dezvoltată sau disponibilă pe piață sau care nu este fezabilă din punct de vedere tehnic pentru implementare. Fezabilitatea din punct de vedere tehnic este o noțiune obiectivă care nu depinde de resursele și capacitățile specifice ale furnizorilor individuali.

(82)

Articolul 50 alineatul (2) din Regulamentul IA impune furnizorilor să implementeze una sau mai multe soluții fezabile din punct de vedere tehnic, care să se alinieze la stadiul de avansare general recunoscut al tehnologiei, pentru a îndeplini cele patru cerințe de calitate privind eficacitatea, soliditatea, fiabilitatea și interoperabilitatea.

(83)

„Stadiul de avansare al tehnologiei” înseamnă o etapă avansată de dezvoltare a capacității tehnice la un moment dat în ceea ce privește produsele, procesele și serviciile, pe baza constatărilor consolidate relevante ale științei, tehnologiei și experienței și care este acceptată ca bună practică tehnologică (28). Stadiul de avansare al tehnologiei nu implică neapărat cele mai recente cercetări științifice, aflate încă într-o etapă experimentală sau care nu au atins un nivel suficient de maturitate tehnologică. Furnizorii trebuie să își adapteze în permanență soluțiile de marcare și detectare în timp util și în mod proporțional, pe măsură ce tehnologia și stadiul de avansare al tehnologiei evoluează.

(84)

Având în vedere articolul 50 alineatul (7) din Regulamentul IA, furnizorii pot utiliza un cod de bune practici, evaluat ca fiind adecvat în temeiul dispoziției respective pentru a demonstra respectarea obligațiilor de marcare și detectare prevăzute la articolul 50 alineatele (2) și (5) din Regulamentul IA, care este aliniat la stadiul de avansare al tehnologiei. Pentru informații suplimentare privind efectele respectării unui astfel de cod și supravegherea altor furnizori care respectă un cod, a se vedea secțiunea 8.1 de mai jos.

(85)

Costurile implementării anumitor soluții tehnice de marcare și detectare pot fi, de asemenea, luate în considerare. În anumite cazuri, astfel cum se descrie la punctele următoare, costurile pot fi disproporționate în raport cu beneficiile marginale, care au o valoare mai redusă pentru a permite oamenilor să distingă conținutul generat sau manipulat de IA și pentru a asigura integritatea ecosistemului informațional și încrederea în acesta.

(86)

Prin urmare, pot exista cazuri strict delimitate în care o soluție tehnică bazată pe marcaje prin intermediul metadatelor mai puțin solide este suficientă pentru respectarea articolului 50 alineatul (2) din Regulamentul IA, ținând seama de particularitățile rezultatelor sistemului de IA, dacă acestea prezintă, prin natura lor, riscuri mai reduse de înșelăciune, de manipulare sau de apariție a unor efecte negative asupra ecosistemului informațional. Acest lucru este valabil în special în cazul în care un sistem de IA generativ este încorporat în produse fizice care generează rezultate într-un mediu închis și controlat din punct de vedere tehnic, care are în principal un caracter instructiv (de exemplu, un sistem de IA integrat în sistemele de navigație ale vehiculelor), în măsura în care în produs sunt integrate măsuri tehnice eficace care împiedică rezultatul să părăsească mediul produsului, de exemplu prin captarea sau exportul și diseminarea în exterior.

(87)

Pot exista, de asemenea, cazuri limitate de „aplicații industriale ale IA” sau de „aplicații între întreprinderi” (cu excepția sistemelor de IA publice și orientate către consumatori), în care principiul proporționalității și beneficiile limitate pentru obiectivele de transparență fac ca marcarea și detectarea rezultatelor generate sau manipulate de IA să nu fie necesare. Acest lucru se aplică numai dacă sunt îndeplinite cumulativ următoarele cerințe:

(i)

rezultatul generat de sistemul de IA este de natură strict tehnică, de exemplu proiecte de inginerie, fluxuri de lucru pentru producția industrială, instrucțiuni tehnice, rezultate generate în urma proceselor de întreținere predictivă a sistemelor în contexte industriale, procese interne de documentare sau etape și fluxuri de lucru ale procesului de producție, înainte ca rezultatul să fie finalizat și pus la dispoziția altor persoane din afara organizației sau a publicului;

(ii)

rezultatul generat de sistemul de IA este destinat să fie perceput și prelucrat numai de un număr limitat și prestabilit de persoane fizice care acționează în cursul unei activități profesionale în cadrul organizației furnizorului și a implementatorului;

(iii)

rezultatul generat de sistemul de IA nu trebuie să fie destinat partajării în afara întreprinderii sau utilizării de către persoane din exterior, fiind instituite garanții adecvate pentru a evita utilizarea necorespunzătoare previzibilă în mod rezonabil (de exemplu, izolarea în cloud, controale bazate pe roluri);

(88)

generarea în timp real de conținut care este efemer și consumat imediat, fără a fi înregistrat, stocat sau diseminat ulterior (de exemplu, în jocuri video sau aplicații de realitate virtuală), poate fi, de asemenea, exceptată atunci când marcarea nu este fezabilă din punct de vedere tehnic, iar persoanele expuse conținutului sunt informate că acesta este generat sau manipulat de IA (de exemplu, prin divulgare în timpul experienței sau prin notificări la nivelul sesiunii).

4.3.   Excepții de la obligațiile prevăzute la articolul 50 alineatul (2) din Regulamentul IA

(89)

Articolul 50 alineatul (2) din Regulamentul IA prevede trei excepții explicite de la obligațiile de transparență prevăzute în dispoziția respectivă.

(90)

Prima excepție se referă la sistemele de IA în măsura în care acestea îndeplinesc o funcție de asistare pentru editarea standard. Editarea standard ar trebui înțeleasă ca fiind procesul de pregătire a conținutului existent pentru publicare sau distribuire (de exemplu, mici editări pentru a îmbunătăți lizibilitatea și gramatica, calitatea și formatul) și nu implică generarea de conținut nou. Editarea standard urmărește, printre altele, să asigure că respectivul conținut nu conține erori lingvistice evidente de natură tehnică ori gramaticală, că respectă cerințele aplicabile privind punerea în pagină, prezentarea, formatarea sau accesibilitatea ori că este conform cu practicile sectoriale. Editarea depășește sfera editării standard în cazul în care conținutul este modificat într-un mod semnificativ (modificări de fond, modificări structurale etc.) care îi afectează sensul, stilul sau intenția.

(91)

A doua excepție se aplică în cazul în care un sistem de IA nu modifică în mod substanțial datele de intrare furnizate de implementator sau semantica acestora. O modificare ar trebui considerată substanțială în cazul în care datele de intrare sau semantica acestora au fost manipulate în mod semnificativ de sistemul de IA în cursul procesului său de generare a rezultatelor. Acest lucru trebuie să se bazeze pe o evaluare a factorilor relevanți, cum ar fi formatul, tipul de conținut media, stilul și modificările conținutului care îi afectează sensul, stilul sau intenția. Pentru a stabili dacă există o astfel de situație, este necesară o evaluare de la caz la caz.

(92)

Dacă un sistem de IA poate fi utilizat atât pentru generarea sau manipularea conținutului, cât și pentru modificări minore, care nu modifică în mod substanțial datele de intrare, obligația de transparență prevăzută la articolul 50 alineatul (2) din Regulamentul IA nu se va aplica în cazul conținutului care a făcut obiectul unor modificări minore și nesubstanțiale.

Exemple de editare standard și de modificări minore care beneficiază de excepția prevăzută la articolul 50 alineatul (2) din Regulamentul IA:

—

corectarea greșelilor gramaticale și verificarea ortografică, precum și îmbunătățirile lingvistice și stilistice minore care nu modifică fondul, sensul, stilul sau mesajul textului, traducerile de text generate de IA;

—

formatarea, conversia formatelor, compresia tehnică, reducerea sau eliminarea zgomotului pentru o mai mare claritate, fără a modifica sensul sau fondul conținutului;

—

decuparea minoră, ajustări sau corecții minore ale culorilor, creșterea sau reducerea luminozității, accentuarea clarității ori alte operațiuni standard de editare și corecții tehnice;

—

eliminarea petelor de praf cauzate de murdărirea obiectivului sau a senzorului, eliminarea efectului de ochi roșii cauzat de fotografierea cu bliț, eliminarea și ascunderea fundalurilor vizibile în fișierul original, pixelarea sau estomparea fețelor;

—

redimensionarea unui videoclip, compresia intervalului dinamic și egalizarea, stabilizarea video limitată;

—

ajustări standard ale culorii și contrastului, ajustări minore ale vitezei de redare, corecții minore pentru îndreptarea liniei orizontului într-o imagine, aplicarea unor filtre la nivel de pixel pentru evidențierea anumitor părți ale unei imagini sau aplicarea unor hărți color la imaginile în tonuri de gri, completarea marginilor imaginii, conversia unei imagini sau a unui material video alb-negru în format color și invers;

—

completarea pixelilor pentru adaptarea raportului de aspect sau sporirea clarității, tranziții automate între secvențe, alte modificări nesubstanțiale în scopuri estetice și tehnice;

—

prelucrarea tehnică sau reconstrucția imaginilor medicale în cadrul dispozitivelor medicale (de exemplu, adnotări, casete, contururi, cercuri, hărți termice);

—

transcrierea conversațiilor, conținut generat de IA care se limitează la transformarea unor date de intrare autentice furnizate de o persoană prin intermediul tehnologiilor de asistare care permit persoanelor cu dizabilități să comunice [de exemplu, comunicarea ameliorată și alternativă (CAA) sau vocile sintetice personalizate, generate cu ajutorul rețelelor neuronale (customized neural voices – CNV)], întrucât acestea nu modifică din punct de vedere semantic sensul conținutului.

Exemple de modificări semantice care necesită marcare în temeiul articolului 50 alineatul (2) din Regulamentul IA:

—

rezumate de texte generate de IA, parafrazarea sau rescrierea unui text care îi modifică stilul, structura și sensul dincolo de simpla corectare a greșelilor gramaticale și de ajustările stilistice minore;

—

eliminarea, înlocuirea sau introducerea de obiecte ori persoane în imagini și materiale video existente, atunci când acestea modifică sensul și fondul conținutului, înlocuirea feței sau modificarea substanțială a trăsăturilor faciale;

—

sintetizarea unei vorbiri realiste care imită vocea unei anumite persoane sau generarea unui material video realist care prezintă evenimente care nu au avut loc, modificarea formei corpului sau a culorii pielii unei persoane, modificări extreme ale luminozității, întunecării, culorii și contrastului care schimbă sensul, intenția și mesajul conținutului;

—

crearea de imagini sau videoclipuri compozite care modifică reprezentarea unor persoane, obiecte, evenimente sau fapte, precum și orice altă modificare substanțială a conținutului.

(93)

A treia excepție se aplică sistemului de IA generativ autorizat prin lege să genereze sau să manipuleze conținut sintetic pentru a detecta, a preveni, a investiga sau a urmări penal infracțiunile. Clarificările furnizate la punctele 46-48 de mai sus pentru această excepție sunt relevante și în acest caz.

4.4.   Interacțiunea cu alte acte juridice ale Uniunii

(94)

Obligațiile de marcare și detectare prevăzute la articolul 50 alineatul (2) din Regulamentul IA se axează pe modul în care a fost creat conținutul și pe originea sa artificială, iar nu pe autorul conținutului respectiv. Prin urmare, orice soluție de marcare și detectare utilizată de furnizorii de sisteme de IA trebuie să respecte dreptul aplicabil al Uniunii privind protecția datelor, inclusiv principiile și obligațiile privind protecția datelor, cum ar fi obligația de protecție a datelor începând cu momentul conceperii și în mod implicit, reducerea la minimum a datelor și principiile securității și confidențialității. De exemplu, în scopul marcării și detectării, informațiile referitoare la creatorul conținutului nu ar trebui prelucrate și orice alte date cu caracter personal prelucrate ar trebui șterse de îndată ce scopul detectării este îndeplinit, trebuie să se garanteze securitatea și confidențialitatea etc.

(95)

Considerentul 136 din Regulamentul IA subliniază, de asemenea, relevanța deosebită a obligațiilor de transparență prevăzute la articolul 50 alineatele (1), (2) și (4) din Regulamentul IA pentru a facilita punerea în aplicare efectivă a Regulamentului privind serviciile digitale. Acest lucru este valabil în special în ceea ce privește obligațiile furnizorilor de platforme online foarte mari sau de motoare de căutare online foarte mari de a identifica, a analiza, a evalua și a atenua cu diligență riscurile sistemice care pot apărea în urma diseminării conținutului care a fost generat sau manipulat artificial, în special riscul privind efectele negative reale sau previzibile asupra proceselor democratice, asupra discursului civic și asupra proceselor electorale, inclusiv prin dezinformare (articolele 34 și 35 din Regulamentul privind serviciile digitale). Marcajele prelucrabile automat le pot permite furnizorilor respectivi să detecteze conținutul generat sau manipulat de IA și să asigure etichete și divulgări adecvate, reducând astfel riscul de dezinformare generată de IA în cadrul serviciilor lor.

(96)

Obligațiile de marcare și etichetare a conținutului generat sau manipulat de sistemele de IA în temeiul articolului 50 alineatele (2) și (4) din Regulamentul IA nu aduc atingere obligației prevăzute la articolul 16 alineatul (6) din Regulamentul privind serviciile digitale pentru furnizorii de servicii de găzduire de a prelucra notificările privind conținutul ilegal primite în temeiul articolului 16 alineatul (1) din Regulamentul privind serviciile digitale (29). În special, marcarea sau etichetarea aplicată conținutului generat sau manipulat de IA nu ar trebui să influențeze evaluarea și decizia privind ilegalitatea conținutului specific în temeiul altor cadre de reglementare. Evaluarea respectivă ar trebui să fie efectuată exclusiv în raport cu normele care reglementează legalitatea conținutului, în conformitate cu cadrele respective (30). De exemplu, dacă o imagine deepfake etichetată este semnalată ca reprezentând un posibil material care conține abuzuri sexuale asupra copiilor sau ca încălcând legislația privind mărcile comerciale ori drepturile de autor, aplicarea unei etichete nu afectează caracterul potențial ilegal al conținutului în temeiul cadrelor de reglementare respective. Evaluarea ar trebui efectuată exclusiv pe baza legilor aplicabile respective (de exemplu, dreptul penal, normele privind mărcile comerciale sau drepturile de autor).

(97)

În schimb, marcajul prelucrabil automat încorporat în conținut în temeiul articolului 50 alineatul (2) din Regulamentul IA poate ajuta furnizorii de platforme online foarte mari și de motoare de căutare online foarte mari să își îndeplinească obligațiile care le revin în temeiul articolului 34 și 35 din Regulamentul privind serviciile digitale de a identifica, a analiza și a evalua riscurile sistemice care pot apărea în urma diseminării conținutului care a fost generat sau manipulat artificial, în special riscul privind efectele negative reale sau previzibile asupra proceselor democratice, asupra discursului civic și asupra proceselor electorale, inclusiv prin dezinformare (31), și de a institui măsuri rezonabile, proporționale și eficace de atenuare a acestor riscuri, adaptate la riscurile sistemice specifice identificate. Furnizorii de platforme online foarte mari și de motoare de căutare online foarte mari se pot califica, de asemenea, drept furnizori de sisteme de IA dacă îndeplinesc condițiile relevante prevăzute de Regulamentul IA atunci când integrează sisteme de IA în serviciile lor (a se vedea, de asemenea, secțiunea 6.1.5).

(98)

Furnizorii de platforme online, de motoare de căutare online și alți actori relevanți care distribuie conținut de-a lungul lanțului valoric sunt încurajați, în special, să păstreze marcajele implementate de furnizori în temeiul articolului 50 alineatul (2) din Regulamentul IA și să permită identificarea acestora, astfel încât persoanele fizice expuse conținutului să poată fi informate cu privire la originea acestuia.

5.   ARTICOLUL 50 ALINEATUL (3) DIN REGULAMENTUL IA: SISTEME DE RECUNOAȘTERE A EMOȚIILOR ȘI SISTEME DE CLASIFICARE BIOMETRICĂ

(99)

Articolul 50 alineatul (3) din Regulamentul IA impune implementatorilor de sisteme de recunoaștere a emoțiilor și de sisteme biometrice de clasificare obligația de a informa persoanele fizice sistemului respectiv cu privire la funcționarea acestuia.

(100)

Considerentul 132 din Regulamentul IA explică faptul că scopul acestei obligații este de a se asigura că persoanele fizice (inclusiv persoanele cu dizabilități) sunt conștiente de faptul că sunt expuse unor sisteme de recunoaștere a emoțiilor și de clasificare biometrică care pot avea un caracter intruziv pentru viața lor privată. Prin urmare, obligația se aplică indiferent dacă persoanele sunt expuse la astfel de sisteme în timp real sau dacă sistemele respective sunt utilizate ex post.

5.1.   Principalele componente, concepte și obligația (obligațiile) de transparență aferentă (aferente) în temeiul articolului 50 alineatul (3) din Regulamentul IA

5.1.1.   Noțiunea de sistem de recunoaștere a emoțiilor

(101)

Articolul 3 punctul 39 din Regulamentul IA definește un „sistem de recunoaștere a emoțiilor” ca fiind un sistem de IA al cărui scop este de a identifica sau a deduce emoțiile sau intențiile persoanelor fizice pe baza datelor lor biometrice”. Explicația detaliată a acestei noțiuni furnizată în Orientările Comisiei privind clasificarea sistemelor de IA cu grad ridicat de risc, inclusiv exemplele practice prezentate în acestea, este la fel de relevantă în contextul articolului 50 alineatul (3) din Regulamentul IA.

(102)

Întrucât toate sistemele de recunoaștere a emoțiilor sunt, de asemenea, clasificate ca prezentând un grad ridicat de risc, cu excepția cazului în care acest lucru este interzis în temeiul articolului 5 alineatul (1) litera (f) din Regulamentul IA în sfera locului de muncă și a instituțiilor de învățământ, obligația de transparență prevăzută la articolul 50 alineatul (3) din Regulamentul IA ar trebui să se aplice împreună cu celelalte garanții și cerințe aplicabile sistemelor de IA cu grad ridicat de risc.

5.1.2.   Noțiunea de sistem de clasificare biometrică

(103)

Articolul 3 punctul 40 din Regulamentul IA definește un „sistem de clasificare biometrică” drept un „sistem de IA al cărui scop este de a încadra persoanele fizice în categorii specifice pe baza datelor lor biometrice, cu excepția cazului în care acesta este auxiliar unui alt serviciu comercial și strict necesar din motive tehnice obiective”. Explicația detaliată a acestei noțiuni furnizată în Orientările Comisiei privind clasificarea sistemelor de IA cu grad ridicat de risc, inclusiv elementele sale specifice, precum și exemplele practice prezentate în acestea, este la fel de relevantă în contextul articolului 50 alineatul (3) din Regulamentul IA.

(104)

Este important de precizat faptul că, exceptând situațiile în care sunt interzise în temeiul articolului 5 alineatul (1) litera (g) din Regulamentul IA, articolul 50 alineatul (3) din Regulamentul IA se aplică oricăror sisteme de clasificare biometrică (de exemplu, clasificarea pe criterii de vârstă sau de gen pe baza datelor biometrice), indiferent dacă acestea intră sau nu în domeniul de aplicare al sistemelor de IA cu grad ridicat de risc prevăzute în Regulamentului privind IA.

5.1.3.   Obligația de informare prevăzută la articolul 50 alineatul (3) din Regulamentul IA

(105)

Domeniul de aplicare al informațiilor care trebuie furnizate: Implementatorii au obligația de a informa persoanele fizice în cauză că sunt expuse unui sistem de recunoaștere a emoțiilor sau unui sistem de clasificare biometrică, cu privire la funcționarea acestuia. Regulamentul IA nu impune includerea de informații cu privire la motivele funcționării sistemului sau dacă sistemul prelucrează, de asemenea, informații în alte scopuri decât recunoașterea emoțiilor sau clasificarea biometrică, care trebuie divulgate în temeiul dreptului Uniunii privind protecția datelor (a se vedea secțiunea 5.3.).

(106)

Destinatarii informațiilor: articolul 50 alineatul (3) din Regulamentul IA prevede că implementatorii trebuie să informeze toate persoanele fizice expuse la funcționarea sistemului de IA, inclusiv copiii.

(107)

Mijloacele de furnizare a informațiilor: Regulamentul IA nu precizează un mijloc specific de furnizare a informațiilor, cu excepția faptului că articolul 50 alineatul (5) din Regulamentul IA prevede că informațiile trebuie să fie furnizate într-un mod clar și distinct și în conformitate cu cerințele de accesibilitate aplicabile (răspunzând nevoilor persoanelor fizice cu dizabilități). Modul în care trebuie informate persoanele fizice expuse sistemului poate depinde de locul de utilizare (de exemplu, o platformă virtuală de jocuri, un magazin fizic, o gară), de posibilii destinatari (de exemplu, copii, persoane în vârstă, persoane cu dizabilități, clienți), de durata și tipul expunerii (de exemplu, pe termen lung, o singură dată, continuă, intermitentă), precum și de eventuala existență a unei relații între implementator și persoanele expuse (de exemplu, dacă există deja un canal de comunicare cu persoana respectivă). În funcție de cazul de utilizare, informațiile pot fi furnizate în scris, prin pictograme standardizate (inclusiv atunci când sunt prezentate electronic), verbal sau printr-o combinație a acestor modalități.

Exemple de informare a persoanelor fizice:

—

o fereastră pop-up amplasată într-o poziție centrală, care afișează un mesaj introductiv înainte de lansarea unui joc pe calculator și indică faptul că fața jucătorului este înregistrată pentru a-i surprinde emoțiile;

—

un anunț vizibil la fiecare posibilă intrare într-o sală de expoziție, prin care vizitatorii sunt informați că imaginile lor faciale sunt captate la intrarea în sală pentru a-i încadra într-o anumită categorie de vârstă.

(108)

Calendarul pentru furnizarea informațiilor: Informațiile trebuie furnizate cel târziu în momentul primei interacțiuni cu sistemul de IA sau al primei expuneri la acesta, în conformitate cu articolul 50 alineatul (5) din Regulamentul IA. Atunci când este cazul, informațiile necesare pot fi furnizate și în prealabil.

5.2.   Excepția în scopul aplicării legii

(109)

Obligația de informare nu se aplică sistemelor de recunoaștere a emoțiilor și sistemelor de clasificare biometrică care sunt autorizate prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile, sub rezerva unor garanții adecvate pentru drepturile și libertățile terților și în conformitate cu dreptul Uniunii. Clarificările furnizate cu privire la această excepție la punctele 46-48 de mai sus sunt relevante și în acest caz, cu o singură diferență. În timp ce celelalte excepții prevăzute la articolul 50 din Regulamentul IA necesită o lege explicită care să autorizeze utilizarea netransparentă a sistemelor de IA, articolul 50 alineatul (3) din Regulamentul IA permite o astfel de utilizare atunci când aceasta este autorizată în temeiul normelor juridice care reglementează competențele autorităților de aplicare a legii de a utiliza sisteme de recunoaștere a emoțiilor și de clasificare biometrică pentru detectarea, prevenirea sau investigarea infracțiunilor, fără informarea persoanelor vizate, sub rezerva unor garanții adecvate.

5.3.   Interacțiunea cu alte acte juridice ale Uniunii

(110)

Obligația de informare prevăzută la articolul 50 alineatul (3) din Regulamentul IA nu face, în sine, legală utilizarea unui sistem de recunoaștere a emoțiilor și de clasificare biometrică. De asemenea, aceasta nu legitimează utilizările intruzive sau discriminatorii care ar putea fi ilegale și interzise în temeiul articolului 5 din Regulamentul IA sau al altor dispoziții din dreptul Uniunii. Implementatorii trebuie să respecte obligația de informare prevăzută la articolul 50 alineatul (3) din Regulamentul IA, în plus față de orice cerințe de informare aplicabile în temeiul dreptului Uniunii privind protecția datelor. În anumite cazuri, implementatorii pot lua în considerare adăugarea notificărilor în temeiul articolului 50 alineatul (3) din Regulamentul IA la informațiile furnizate persoanelor vizate în temeiul dreptului Uniunii privind protecția datelor.

6.   ARTICOLUL 50 ALINEATUL (4): ETICHETAREA DEEPFAKE-URILOR ȘI A ANUMITOR TEXTE PUBLICATE

(111)

Articolul 50 alineatul (4) din Regulamentul IA stabilește două obligații separate adresate implementatorilor de sisteme de IA generative care impun divulgarea în mod clar și distinct a (i) deepfake-urilor și (ii) a textelor generate sau manipulate de IA publicate cu scopul de a informa publicul cu privire la chestiuni de interes public, cu excepția anumitor cazuri expres prevăzute. Aceste obligații de etichetare se aplică se aplică suplimentar și fără a aduce atingere obligațiilor privind marcarea într-un format prelucrabil automat și detectarea prevăzute la articolul 50 alineatul (2) din Regulamentul IA, aplicabile furnizorilor de sisteme de IA care generează sau manipulează conținut sintetic în format audio, imagine, video sau text.

6.1.   Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente) în cazul deepfake-urilor în temeiul articolului 50 alineatul (4) din Regulamentul IA

(112)

Articolul 50 alineatul (4) primul paragraf din Regulamentul IA se aplică dacă sunt îndeplinite mai multe condiții:

(i)

sistemul trebuie să fie un sistem de IA;

(ii)

utilizat de implementatori în scopuri profesionale (a se vedea secțiunile 2.3. și 2.4.1.);

(iii)

pentru a genera sau a manipula imagini, conținuturi audio sau video care constituie deepfake-uri;

(iv)

sistemul de IA nu trebuie să intre sub incidența excepției pentru utilizarea autorizată prin lege pentru depistarea, prevenirea, investigarea sau urmărirea penală a infracțiunilor.

6.1.1.   Noțiunea de „deepfake”

(113)

Articolul 3 punctul 60 din Regulamentul IA definește „deepfake-ul” ca fiind „o imagine ori un conținut audio sau video generat sau manipulat de IA care prezintă o asemănare cu persoane, obiecte, locuri sau alte entități ori evenimente existente și care ar crea unei persoane impresia falsă că este autentic sau adevărat”. Diferența dintre manipulare și generare a fost clarificată în secțiunea 4.1 de mai sus. În scopul clarificării noțiunii de deepfake, sunt examinate mai jos patru criterii cumulative care decurg din această definiție: (i) asemănarea cu (ii) persoane, obiecte, locuri, entități sau evenimente (iii) existente (iv) care ar crea unei persoane impresia falsă că este autentic sau adevărat.

(i)

Asemănarea: articolul 3 punctul 60 din Regulamentul IA precizează că, pentru a constitui un deepfake, imaginile, conținuturile audio sau video generate sau manipulate de IA trebuie să „prezinte o asemănare” cu subiecți existenți. Considerentul 134 din Regulamentul IA adaugă faptul că respectivele conținuturi trebuie să se asemene „în mod apreciabil”. Conținuturile de imagine, audio sau video generate sau manipulate de IA se aseamănă în mod apreciabil cu un subiect dacă există un nivel ridicat de similitudine între conținutul deepfake-ului și subiectul simulat de deepfake-ul respectiv (inclusiv oricare dintre elementele sale recognoscibile). Conținutul nu trebuie să fie identic cu subiectul. Existența unui grad apreciabil de asemănare trebuie evaluată de la caz la caz de către implementator, pe baza unei comparații obiective între subiectul simulat și conținutul deepfake, ținând seama, printre altele, de măsura în care trăsăturile caracteristice sau distinctive sunt reproduse în conținutul care constituie deepfake.

(ii)

Existența: articolul 3 punctul 60 din Regulamentul IA precizează că, pentru a constitui un deepfake, imaginile, conținuturile audio sau video generate sau manipulate de IA trebuie să prezinte o asemănare cu subiectul (subiecții) „existent (existenți)”. Pentru a îndeplini în mod eficace scopul articolului 50 alineatul (4) din Regulamentul IA de a reduce riscurile de uzurpare a identității, înșelăciune, dezinformare, manipulare și fraudă, caracteristica existenței implică faptul că imaginea, conținutul audio sau video generat sau manipulat de IA trebuie să prezinte o asemănare cu subiecte realiste (de exemplu, persoane, obiecte, locuri). Prin urmare, pentru ca un conținut să fie considerat deepfake, este suficient ca persoanele, obiectele, locurile, entitățile sau evenimentele simulate să semene cu cineva sau cu ceva care există, care ar putea exista în mod plauzibil sau care ar fi putut exista în mod plauzibil în realitate, întrucât un astfel de conținut poate constitui o sursă importantă de înșelăciune, manipulare și dezinformare. În schimb, persoanele, obiectele, locurile, entitățile sau evenimentele simulate care, de exemplu, contravin legilor naturii sau ale fizicii sau prezintă forme de viață care nu sunt recunoscute în mod obișnuit în biologie (cum ar fi, de exemplu, oamenii care zboară fără mijloace mecanice, dragonii sau elefanții care conduc autovehicule) și care nu au potențialul de a induce în eroare sunt considerate nerealiste și, prin urmare, nu intră în domeniul de aplicare al obligației de transparență.

(iii)

Persoane, obiecte, locuri, entități sau evenimente: articolul 3 punctul 60 din Regulamentul IA precizează că, pentru a constitui un deepfake, imaginile, conținuturile audio sau video generate sau manipulate de IA ar trebui să prezinte o asemănare cu „persoane, obiecte, locuri sau alte entități ori evenimente” existente. Prin „persoane” se înțelege ființe umane realiste (inclusiv replici digitale ale unor persoane reale, avataruri sau personaje umane realiste generate de IA, precum și caracteristici sau expresii personale, cum ar fi imaginea, vocea, comportamentul, performanțele etc.). Prin „obiecte” se înțelege elemente materiale realiste și neanimate, inclusiv clădiri, opere de artă, utilaje, bunuri de consum etc. Prin „locuri” se înțelege locații realiste. Prin „entități” se înțelege ființe realiste, altele decât oamenii, dar însuflețite, inclusiv animale sau alte forme de viață biologică. Prin „evenimente” se înțelege scene sau situații realiste care pot implica persoane, obiecte, locuri și entități (de exemplu, evocarea unor evenimente istorice sau reprezentarea unor servicii profesionale sau de consum).

(iv)

Impresia falsă creată unei persoane că un conținut este autentic sau adevărat: În al patrulea rând, articolul 3 punctul 60 din Regulamentul IA precizează că o imagine ori un conținut audio sau video generat sau manipulat de IA „ar crea unei persoane impresia falsă că este autentic sau adevărat”. Acest criteriu se referă la caracteristica esențială a conținutului deepfake-ului și la capacitatea acestuia de a înșela sau de a induce în eroare o persoană cu privire la autenticitatea sau veridicitatea conținutului (32). Autenticitatea conținutului se referă la măsura în care acesta este într-adevăr ceea ce pretinde a fi din perspectiva sursei sau a procesului său de creare (inclusiv, de exemplu, implicarea unor persoane sau animale reale și comportamentul ori acțiunile lor efective, aspectul sau utilizarea efectivă a obiectelor ori prestarea efectivă a serviciilor, desfășurarea sau evoluția reală a unui eveniment). Veridicitatea se referă la autenticitatea conținutului (de exemplu, corectitudinea factuală a reprezentărilor din deepfake).

(114)

Măsura în care un conținut „ar crea unei persoane impresia falsă că este autentic sau adevărat” ar trebui evaluată în ansamblu, ținând seama de gradul de asemănare, de eventualul mesaj de fond al conținutului, de contextele de utilizare preconizate și previzibile, de mediul în care este prezentat conținutul, precum și de componența publicului vizat și a celui care poate fi prevăzut în mod rezonabil și de așteptările acestuia. Totuși, această evaluare are un caracter obiectiv și, pentru ca un conținut să constituie un deepfake, nu este necesar ca implementatorul să fi avut intenția de a induce în eroare persoanele fizice expuse acestuia. În ceea ce privește contextul implementării și așteptările publicului, aceasta înseamnă că, dacă respectivul conținut este utilizat în contexte specifice în care publicul vizat și cel previzibil în mod rezonabil nu se așteaptă ca acesta să fie autentic sau adevărat, conținutul generat sau manipulat de IA poate să nu creeze impresia falsă că este autentic sau adevărat, chiar dacă, în realitate, este neautentic sau neadevărat. În astfel de cazuri, al patrulea criteriu al definiției deepfake-ului nu va fi îndeplinit. De exemplu, este puțin probabil ca generarea sau manipularea cu ajutorul IA a scenelor de fundal, a efectelor speciale ori prelucrarea tehnică efectuată înainte sau după producție în cadrul proceselor standard de producție cinematografică să creeze impresia falsă în rândul publicului că respectivul conținut este autentic sau adevărat. În schimb, utilizarea IA pentru generarea sau manipularea unor elemente esențiale care influențează percepția publicului este susceptibilă să producă un astfel de efect (cum ar fi actorii generați integral de IA, replicile digitale ale unor actori reali sau decedați, întinerirea digitală, simulările de spectacole, inclusiv părți ale acestora, ori reprezentarea neautentică sau neadevărată a persoanelor, a obiectelor, a locurilor sau a evenimentelor în documentare). În ceea ce privește conținutul în format imagine și video, este recunoscut faptul că un grad ridicat de fotorealism sporește probabilitatea ca un astfel de conținut să fie considerat deepfake (deoarece este probabil să prezinte o asemănare cu subiecți existenți), dar fotorealismul în sine nu este determinant pentru această evaluare. Ceea ce ar trebui să se evalueze însă este dacă un astfel de conținut este de natură să înșele sau să inducă în eroare o persoană cu privire la autenticitatea sau veridicitatea sa, ținând seama, printre altele, de contextul de utilizare preconizat și previzibil.

(115)

Spre deosebire de articolul 50 alineatul (1) din Regulamentul IA, aprecierea faptului că un conținut unei persoane impresia falsă că este autentic sau adevărat nu ar trebui să se bazeze pe o persoană „medie” ipotetică despre care se preconizează că va fi expusă conținutului (a se vedea secțiunea 3.2.1), ci ar trebui să țină seama în mod corespunzător de posibila diversitate a publicului previzibil în mod rezonabil care poate fi expus la conținutul deepfake. Luarea în considerare în mod corespunzător a componenței publicului este deosebit de importantă dacă se poate prevedea în mod rezonabil că, la un moment dat, conținutul deepfake poate fi perceput de copii, de persoanele în vârstă sau de alte grupuri de persoane cu un nivel mai scăzut de alfabetizare digitală și în domeniul IA sau cu un nivel mai scăzut de cunoștințe generale, deoarece acestea pot fi mai ușor înșelate sau induse în eroare cu privire la autenticitatea sau veridicitatea conținutului. În astfel de cazuri, faptul că respectivul conținut creează în mod fals acelei părți a publicului previzibil impresia că este autentic sau adevărat poate fi suficient pentru ca acesta să fie calificat drept deepfake. Cu toate acestea, nu se așteaptă ca implementatorii să ia în considerare potențiala diseminare ulterioară a conținutului deepfake de către terți în afara publicului prevăzut în mod rezonabil de către implementator, ținând seama de canalele de distribuție avute în vedere (de exemplu, dacă un conținut deepfake este afișat exclusiv într-o secțiune a unui site accesibilă numai abonaților sau în cadrul unui buletin informativ al unei întreprinderi, aceasta nu înseamnă că implementatorul ar trebui să ia în considerare, în mod implicit, accesibilitatea acestuia pentru publicul larg).

(116)

În mod similar, manipularea cu ajutorul IA a unor aspecte de fond sau tehnice nesemnificative ale unui conținut preexistent poate avea o relevanță redusă pentru aprecierea de către o persoană a autenticității sau veridicității conținutului, fără ca, prin aceasta, conținutul rezultat să devină un deepfake. Aceasta ar putea include, de exemplu, editarea detaliilor de fond (de exemplu, eliminarea trecătorilor), ajustarea luminozității, adaptarea parametrilor audio, corectarea culorii, reducerea sau eliminarea zgomotului, îmbunătățirea accesibilității sau compresia fișierelor, precum și ajustări și îmbunătățiri de ordin estetic. Încadrarea sau nu a manipulării în această categorie depinde de context și de impactul acesteia, în cazul concret, asupra percepției persoanelor cu privire la autenticitatea sau veridicitatea conținutului. De exemplu, corectarea culorilor cu ajutorul IA, extinderea fundalului unui conținut existent, ajustările sau înlocuirile fundalului în scopuri vădit estetice, compunerea și dispunerea unor produse existente sau redimensionarea imaginilor utilizate în materialele publicitare ori pe ambalajele produselor sunt susceptibile să aibă doar un impact minor asupra percepției unei persoane cu privire la autenticitatea și veridicitatea materialului publicitar și a produsului. În schimb, editarea substanțială cu ajutorul IA a detaliilor de fond ale imaginilor jurnalistice dincolo de practicile tehnice și editoriale standard poate afecta în mod negativ percepția unei persoane cu privire la autenticitatea și veridicitatea conținutului.

Exemple de deepfake-uri în temeiul articolului 3 punctul 60 din Regulamentul IA:

—

imagine manipulată de IA reprezentând o scenă în care apar doi fotbaliști profesioniști reali în fața unei clădiri asemănătoare unui stadion de fotbal;

—

conținut audio generat de IA care implică clonarea vocilor prezentatorilor obișnuiți ai unui podcast al unui ziar și a unui interlocutor invitat, care discută despre anumite evenimente de actualitate;

—

material video generat de IA în care o persoană care seamănă cu un politician ține un discurs în fața unui public;

—

material video generat de IA în care apare o reprezentare generată de IA a unui influencer celebru într-un context publicitar sau promoțional;

—

material video generat de IA în care apare un avatar sintetic realist al directorului general al unei întreprinderi, care îi felicită pe angajați pentru activitatea lor și pentru rezultatele întreprinderii din anul precedent;

—

o imagine a unui produs, generată de IA și utilizată într-un material publicitar sau pe un ambalaj, care poate influența percepția publicului și îl poate induce în eroare cu privire la aspectul, caracteristicile sau utilizarea reale ale produsului (de exemplu, făcând ca produsul să pară a nu fi identic cu produsul real, mai atractiv sau de o calitate mai bună decât în viața reală).

Exemple care nu constituie deepfake-uri în temeiul articolului 3 punctul 60 din Regulamentul IA:

—

o imagine generată de IA reprezentând o scenă în care un sfinx zboară deasupra Turnului Eiffel;

—

un material video generat de IA cu șoareci care discută în contradictoriu, folosind limbajul uman, despre cel mai bun tip de brânză, în cadrul unei campanii publicitare pentru un producător de brânzeturi;

—

reproducerea cu ajutorul IA a vocilor unor personaje fictive (de exemplu, pentru cărți audio, jocuri sau animații), atunci când nu există nicio formă de înșelăciune cu privire la identitatea naratorilor;

—

o emisiune radio manipulată de IA prin ajustarea unor parametri audio tehnici (de exemplu, normalizarea nivelului volumului, reducerea zgomotului, comprimarea audio), fără modificarea cuvintelor rostite efectiv de vorbitori sau a modului în care aceștia vorbesc;

—

un desen animat generat de IA pe baza unei imagini preexistente care înfățișează un eveniment istoric;

—

un material video cu prezentatorul unei emisiuni TV științifice care traversează o regiune montană în timp ce vorbește despre retragerea ghețarilor, fenomen ilustrat printr-o animație de fundal manipulată de IA, care arată modul în care ghețarii s-au retras de la nivelurile lor istorice până la cele actuale;

—

medii fictive generate de IA (de exemplu, păduri și castele fictive) în jocurile video;

—

filme în care actori reali existenți (care nu sunt manipulați de IA) joacă pe un fundal generat de IA (de exemplu, o zonă întinsă dintr-o prerie fictivă, clădiri istorice din orașe antice etc.);

—

un produs real (de exemplu, un autoturism) prezentat într-un material publicitar pe un fundal și într-un mediu înconjurător generate de IA, atât timp cât materialul publicitar nu este susceptibil să inducă publicul în eroare cu privire la reprezentarea reală a produsului, caracteristicile și utilizarea acestuia.

6.1.2.   Obligația de divulgare prevăzută la articolul 50 alineatul (4) primul paragraf din Regulamentul IA

(117)

Articolul 50 alineatul (4) primul paragraf din Regulamentul IA obligă implementatorii de sisteme de IA care generează sau manipulează imagini, conținuturi audio sau video care constituie deepfake-uri să „dezvăluie faptul că respectivul conținut a fost generat sau manipulat artificial”. Considerentul 134 din Regulamentul IA clarifică faptul că implementatorii care utilizează sisteme de IA pentru a genera sau a manipula conținut deepfake ar trebui să dezvăluie în mod clar și distinct faptul că respectivul conținut a fost creat sau manipulat în mod artificial prin etichetarea în consecință a rezultatului generat de IA și divulgarea originii sale artificiale. Metodele de etichetare sau de divulgare aplicate în conformitate cu articolul 50 alineatul (4) primul paragraf din Regulamentul IA ar trebui să fie ușor de înțeles și de perceput de către persoanele fizice (de exemplu, prin etichete vizibile sau sonore), fără ca acestea să fie nevoite să recurgă la instrumente tehnice specifice sau să întreprindă acțiuni specifice. Prin urmare, implementatorii nu pot utiliza marcajul prelucrabil automat încorporat în conținut de către furnizor în temeiul articolului 50 alineatul (2) din Regulamentul IA, deoarece aceste marcaje nu sunt prezentate într-un mod clar și distinct pentru persoanele fizice expuse la conținutul deepfake.

(118)

Având în vedere articolul 50 alineatul (7) din Regulamentul IA, implementatorii pot respecta un cod de bune practici, evaluat ca fiind adecvat în temeiul articolului 50 alineatul (7) din Regulamentul IA, pentru a demonstra conformitatea cu această obligație de divulgare. Pentru informații suplimentare privind efectele respectării unui astfel de cod și supravegherea altor operatori care nu respectă un cod a se vedea secțiunea 8.1 de mai jos.

6.1.3.   Transparența conținutului deepfake de natură artistică, creativă, satirică, fictivă sau a conținutului deepfake analog

(119)

Articolul 50 alineatul (4) primul paragraf din Regulamentul IA prevede o obligație de transparență atenuată pentru conținutul deepfake care face parte din opere sau din programe de o vădită natură artistică, creativă, satirică, fictivă sau din opere ori programe analoage. Pentru un astfel de conținut, obligația de transparență se limitează la divulgarea deepfake-ului într-un mod adecvat, care să nu împiedice expunerea lucrării sau posibilitatea de a beneficia de aceasta.

(120)

Categorii de conținut relevante: pentru a beneficia de obligația atenuată de transparență, deepfake-ul (în format imagine, audio sau video) ar trebui să facă parte cel puțin din una dintre următoarele categorii de conținut: opere sau programe de natură artistică, creativă, satirică, fictivă sau opere ori programe analoage. Pentru a stabili dacă un deepfake se încadrează în una sau mai multe dintre aceste categorii este necesară o evaluare de la caz la caz de către implementator. În sensul articolului 50 alineatul (4) din Regulamentul IA, aceste categorii sunt înțelese după cum urmează:

—

operele de natură artistică sunt opere create în scopuri artistice, inclusiv muzica, operele cinematografice și artele vizuale;

—

operele de natură creativă sunt opere care implică alegeri creative. Operele motivate în principal de considerente funcționale sau tehnice nu pot fi considerate creative;

—

operele de natură satirică sunt opere destinate să critice societatea, politica, mediul de afaceri sau personalitățile publice prin utilizarea unor tehnici umoristice (inclusiv ironia, sarcasmul, ridiculizarea, pastișa etc.);

—

operele de natură fictivă sunt opere culturale care implică persoane, obiecte, locuri, entități sau evenimente într-un cadru imaginar, dar verosimil;

—

operele analoage sunt opere care prezintă trăsături esențiale comune sau caracteristici expresive ori funcționale similare celor ale categoriilor de mai sus, dar care nu se încadrează perfect într-una singură.

(121)

Categoriile de conținut de mai sus se pot aplica și programului (programelor) care ar trebui înțeles(e) ca un element individual în cadrul unei planificări sau al unui catalog, stabilit de un furnizor de servicii mass-media, care este comparabil ca formă și conținut cu transmisiile de televiziune (33). Trimiterea la „opere” în contextul articolului 50 alineatul (4) din Regulamentul IA nu influențează în niciun fel aspectul dacă respectivul conținut poate beneficia de protecție în temeiul dreptului Uniunii privind dreptul de autor și drepturile conexe.

(122)

Natura vădită: încadrarea unui deepfake în una (sau mai multe) dintre categoriile de conținut de mai sus ar trebui să fie evidentă pentru persoanele fizice expuse la acesta. Aceasta presupune interpretarea strictă a categoriilor respective, justificată de faptul că se aplică un regim de divulgare mai puțin strict, având în vedere impactul potențial asupra libertății de exprimare și a libertății artelor și științelor, abordând totodată în mod adecvat riscurile de dezinformare, manipulare și înșelăciune. Prin urmare, conținutul a cărui natură poate fi neclară sau ambiguă pentru public este exclus din domeniul de aplicare al acestui regim de transparență mai puțin strict. Printre factorii relevanți pentru aprecierea văditei naturi artistice, creative, satirice sau fictive a conținutului se numără: (i) măsura în care acesta prezintă formate sau stiluri caracteristice categoriilor respective de conținut (de exemplu, ironie sau exagerare în cazul operelor satirice, anumite stiluri artistice, teme, tehnici sau elemente estetice distinctive etc.), (ii) contextul în care este prezentat conținutul (de exemplu, dacă platforma, mijlocul de comunicare sau locul în care conținutul este prezentat, pus la dispoziție sau distribuit este asociat unei utilizări artistice, creative, satirice sau fictive) și (iii) așteptările publicului (de exemplu, în cazul unui film, al unui mediu de joc sau al unei scene de realitate virtuală). În plus, condiția potrivit căreia conținutul ar trebui să se încadreze în mod „vădit” într-una dintre categoriile de conținut de mai sus exclude conținutul din domeniul de aplicare al acestor categorii de conținut dacă natura sa este exclusiv informativă sau comercială și poate fi recunoscută ca atare (de exemplu, reportaje). În acest sens, unele tipuri de conținut (de exemplu, reclame sau documentare) care conțin deepfake-uri ar putea fi considerate opere de o vădită natură creativă sau fictivă în anumite situații specifice, dar nu și în altele, întrucât evaluarea este specifică fiecărui caz în parte. Atunci când deepfake-urile prezintă mai multe caracteristici (de exemplu, informative și creative), caracterul informativ ar trebui să prevaleze întotdeauna, fiind necesară respectarea cerințelor standard de etichetare.

(123)

Divulgarea într-un mod adecvat, care să nu împiedice afișarea sau receptarea operei: Deepfake-urile care fac parte din opere sau programe de o vădită natură artistică, creativă, satirică sau fictivă sunt excluse de la obligația de transparență prevăzută la articolul 50 alineatul (4) primul paragraf din Regulamentul IA. Implementatorii trebuie să divulge în continuare originea artificială a conținutului sau manipularea artificială a acestuia, dar pot face acest lucru într-un mod adecvat, care să nu împiedice afișarea sau receptarea operei. Considerentul 134 din Regulamentul IA clarifică faptul că o astfel de divulgare efectuată într-un mod adecvat nu ar trebui să împiedice exploatarea și utilizarea normală a lucrării, menținând în același timp utilitatea și calitatea acesteia. Stabilirea măsurilor de divulgare care trebuie considerate adecvate se realizează de la caz la caz, implementatorii putând lua în considerare toți factorii relevanți (inclusiv natura operei, publicul, contextul etc.). În orice caz, implementatorii trebuie să respecte articolul 50 alineatul (5) din Regulamentul IA (a se vedea secțiunea 7). Având în vedere articolul 50 alineatul (7) din Regulamentul IA, implementatorii pot respecta un cod de bune practici, evaluat ca fiind adecvat în temeiul dispoziției respective, pentru a demonstra conformitatea cu această obligație de divulgare. Pentru informații suplimentare privind efectele respectării unui astfel de cod și supravegherea altor operatori care nu respectă un cod a se vedea secțiunea 8.1 de mai jos.

(124)

Garanții adecvate pentru drepturile și libertățile terților: Considerentul 134 din Regulamentul IA explică faptul că respectarea obligației atenuate de transparență și utilizarea deepfake-urilor artistice, creative, satirice sau fictive trebuie „să facă obiectul unor garanții adecvate pentru drepturile și libertățile terților”. Prin urmare, implementatorii trebuie să se asigure că drepturile și libertățile terților (inclusiv, de exemplu, dreptul lor la protecția datelor cu caracter personal sau drepturile de proprietate intelectuală) sunt protejate și respectate în mod adecvat atunci când creează sau publică deepfake-uri, chiar dacă acestea sunt considerate artistice, creative, satirice sau fictive. Invocarea obligației atenuate de transparență nu poate constitui o justificare pentru nerespectarea drepturilor fundamentale ale persoanelor sau ale titularilor de drepturi în temeiul dreptului Uniunii în materie de proprietate intelectuală ori de protecție a datelor (34).

Exemple de deepfake-uri care constituie opere de natură artistică, creativă, satirică, fictivă sau opere analoage:

—

opere artistice/fictive: filme (sau clipuri de prezentare ale unor filme) care prezintă deepfake-uri generate sau manipulate de IA reprezentând actori reali a căror înfățișare a fost modificată pentru a părea mai tineri sau replici digitale ale unor actori decedați ori ale altor persoane, disponibile într-un cinematograf sau pe o platformă de streaming;

—

opere artistice/creative: muzica generată de IA, indiferent de gen, care reproduce stilul individual al unor artiști existenți.

—

opere satirice/fictive: imagine manipulată de IA a unui politician real, care îl plasează într-o scenă menită în mod clar să critice, într-o manieră umoristică, anumite decizii de politică publică adoptate sau susținute de persoana respectivă;

—

opere creative/fictive analoage: imagini generate de IA pentru jocuri, care includ simulări de tip deepfake ale unor persoane reale existente.

Exemple de deepfake-uri care nu constituie opere de natură artistică, creativă, satirică, fictivă sau opere analoage:

—

un material video manipulat de IA, realizat în stilul unui canal de teleshopping, care include simulări de tip deepfake ale unor persoane care promovează un produs într-o scenă generată de IA, ilustrând utilizarea funcțională a produsului de către consumatorii simulați, cu scopul de a-i convinge pe spectatori să cumpere produsul respectiv;

—

imagine generată de IA a unor celebrități, care sugerează implicarea acestora în activități care nu au avut loc niciodată, fără niciun scop fictiv, satiric sau analog;

—

material video manipulat de IA în care apare un influencer sintetic realist care testează un produs real sponsorizat, materialul fiind axat exclusiv pe prezentarea funcționalităților produsului;

—

material video generat de IA care prezintă în mod realist scene ale Holocaustului și care este distribuit pe platforme de comunicare socială accesibile publicului.

6.1.4.   Excepția în scopul aplicării legii

(125)

În cazul în care utilizarea unui deepfake (de exemplu, un material video generat de IA care simulează evenimente care nu au avut loc niciodată) este autorizată prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile, implementatorii sunt scutiți de obligația de transparență prevăzută la articolului 50 alineatul (4) primul paragraf din Regulamentul IA. Clarificările furnizate la punctele 46-48 de mai sus cu privire la o excepție similară prevăzută la articolul 50 alineatul (1) din Regulamentul IA sunt relevante și pentru această dispoziție.

6.1.5.   Interacțiunea cu alte acte juridice ale Uniunii

(126)

Obligația de transparență prevăzută la articolul 50 alineatul (4) primul paragraf din Regulamentul IA va interacționa cu obligațiile furnizorilor de platforme online foarte mari și de motoare de căutare online foarte mari de a identifica și de a atenua riscurile sistemice în temeiul articolelor 34 și 35 din Regulamentul privind serviciile digitale, în special al articolului 35 alineatul (1) litera (k) din Regulamentul privind serviciile digitale (35). Această din urmă dispoziție enumeră, printre posibilele măsuri de atenuare a riscurilor pe care furnizorii de platforme online foarte mari și de motoare de căutare online foarte mari le pot institui, măsuri prin care se asigură că „o informație, care poate lua forma unei imagini generate sau manipulate ori a unui conținut audio sau video generat sau manipulat care seamănă în mod considerabil cu persoane, obiecte, locuri sau alte entități ori evenimente existente și care, în mod fals, pare a fi autentică sau adevărată, poate fi distinsă prin marcaje vizibile atunci când este prezentată pe interfețele lor online”. În plus, furnizorii de platforme online foarte mari și de motoare de căutare online foarte mari pot pune la dispoziție, de asemenea, o funcție ușor de utilizat care să permită destinatarilor serviciului să indice astfel de informații. Deși această dispoziție din Regulamentul privind serviciile digitale pare similară cu articolul 50 alineatul (4) din Regulamentul IA, ea este complementară și conține două distincții importante:

—

Domeniu de aplicare material diferit: în comparație cu articolul 50 alineatul (4) din Regulamentul IA, articolul 35 alineatul (1) litera (k) din Regulamentul privind serviciile digitale acoperă o gamă mai largă de conținuturi care, în mod fals, pot părea autentice sau adevărate, indiferent de tehnologiile utilizate pentru crearea conținutului (și anume acoperă conținutul care a fost generat sau manipulat prin utilizarea sistemelor de IA sau a oricărui alt instrument).

—

Domeniu de aplicare personal diferit: articolul 50 alineatul (4) din Regulamentul IA obligă implementatorii de sisteme de IA care generează sau manipulează deepfake-uri să eticheteze un astfel de conținut, în timp ce articolul 35 alineatul (1) litera (k) din Regulamentul privind serviciile digitale se aplică furnizorilor de platforme online foarte mari și de motoare de căutare online foarte mari care diseminează conținutul sau permit găsirea acestuia prin intermediul funcției de căutare. De exemplu, implementatorii de sisteme de IA integrate într-o platformă online foarte mare în temeiul Regulamentului privind IA pot fi considerați „destinatari ai serviciului” în temeiul articolului 3 litera (b) din Regulamentul privind serviciile digitale (36) dacă utilizează o platformă online foarte mare pentru a disemina conținut generat cu sistemul de IA respectiv, în timp ce platforma online foarte mare poate fi considerată a fi furnizorul sistemului de IA dacă sunt îndeplinite condițiile prevăzute la articolul 3 alineatul (3) din Regulamentul IA. În cazul în care furnizorii de platforme online foarte mari sau de motoare de căutare online foarte mari pun la dispoziția acestor implementatori instrumente de etichetare care le permit să își eticheteze conținutul deepfake în conformitate cu articolul 50 alineatul (4) din Regulamentul IA (și anume o divulgare într-un mod clar și distinct a originii ca fiind IA), implementatorii respectivi se pot baza pe astfel de instrumente pentru a-și îndeplini obligația de transparență în temeiul acestei dispoziții în contextul platformelor online foarte mari sau al motoarelor de căutare online foarte mari utilizate. Punerea la dispoziție a unei astfel de funcții nu aduce atingere responsabilității implementatorilor în temeiul Regulamentului privind IA de a-și îndeplini obligațiile de etichetare care le revin în temeiul articolului 50 alineatul (4) din Regulamentul IA. În plus, furnizorii de platforme online foarte mari și de motoare de căutare online foarte mari vor fi, de asemenea, considerați implementatori ai unui sistem de IA în temeiul Regulamentului privind IA dacă utilizează un sistem de IA aflat sub autoritatea lor în scopuri profesionale proprii (de exemplu, pentru crearea de materiale vizuale care să fie utilizate ca parte a materialelor de marketing).

(127)

În cazul în care deepfake-ul include informații referitoare la o persoană fizică identificabilă în mod direct sau indirect (care este în viață), implementatorii, în calitate de operatori în temeiul dreptului Uniunii privind protecția datelor, vor trebui, de asemenea, să respecte obligațiile care le revin în temeiul dreptului Uniunii privind protecția datelor (37). Acestea includ, de exemplu, existența unui temei juridic adecvat pentru prelucrarea datelor cu caracter personal, furnizarea de informații privind prelucrarea datelor referitoare la persoanele vizate reprezentate etc.

(128)

Implementatorii de sisteme de IA care generează deepfake-uri vor trebui, de asemenea, să se asigure că respectă legislația relevantă a Uniunii privind proprietatea intelectuală (cum ar fi dreptul Uniunii privind mărcile comerciale și dreptul Uniunii privind drepturile de autor sau drepturile conexe) în cazul în care deepfake-urile încorporează obiecte protejate în temeiul legislației respective. Aplicarea unei etichete sau a unei pictograme la un deepfake nu are, ca atare, niciun impact asupra eligibilității sale pentru protecția drepturilor de autor, care ar trebui evaluată în conformitate cu dreptul aplicabil al Uniunii privind drepturile de autor.

(129)

Atunci când în deepfake-uri sunt reprezentate persoane existente, implementatorii vor trebui să respecte și regimurile juridice relevante care protejează drepturile personalității asupra imaginii sau vocii persoanei. Obligația de transparență prevăzută la articolul 50 alineatul (4) primul paragraf din Regulamentul IA nu implică faptul că deepfake-urile generate sau manipulate de IA care sunt dăunătoare și ilegale în temeiul dreptului Uniunii sau al dreptului intern aplicabil (de exemplu, publicitatea înșelătoare sau conținuturi ilegale în temeiul dreptului penal, precum materialele care conțin abuzuri sexuale asupra copiilor și imaginile intime distribuite fără consimțământ) pot fi generate și diseminate (a se vedea, de asemenea, secțiunea 4.4).

6.2.   Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente) în cazul textului generat sau manipulat de IA în temeiul articolului 50 alineatul (4) din Regulamentul IA

(130)

Articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA se aplică dacă sunt îndeplinite mai multe condiții:

(i)

sistemul trebuie să fie un sistem de IA;

(ii)

utilizat pentru a genera sau a manipula texte (a se vedea secțiunea 4.2.1.) publicate cu scopul de a informa publicul cu privire la chestiuni de interes public;

(iii)

utilizarea sistemului de IA nu intră sub incidența niciuneia dintre excepții în cazul în care (1) conținutul generat de IA a fost supus unui proces de verificare editorială sau revizuire umană și responsabilitatea editorială pentru publicarea conținutului este deținută de o persoană fizică sau juridică sau (2) utilizarea este autorizată prin lege pentru a detecta, a preveni, a investiga sau a urmări penal infracțiunile.

6.2.1.   Textul publicat cu scopul de a informa publicul cu privire la chestiuni de interes public

(131)

În scopul clarificării domeniului de aplicare al articolului 50 alineatul (4) al doilea paragraf din Regulamentul IA, sunt examinate mai jos trei elemente: (i) textul publicat (ii) cu scopul de a informa publicul (iii) cu privire la chestiuni de interes public.

(i)

Textul publicat: textul generat sau manipulat de IA ar trebui să fie publicat. Aceasta înseamnă că textul ar trebui să fie accesibil simultan și/sau succesiv unui număr nedeterminat și relativ mare de potențiali cititori care nu au legături între ei, indiferent dacă accesul este permis contra cost sau gratuit (de exemplu, pe bază de abonamente) (38). În schimb, textul nu este considerat publicat dacă accesul este limitat la anumite persoane care aparțin unui grup privat închis (de exemplu, un grup restrâns și închis într-o aplicație de mesagerie instantanee sau dacă grupul este prea mic ori nesemnificativ). Printre exemplele de texte care nu sunt considerate publicate se numără, de exemplu, corespondența privată, între persoane (în scopuri profesionale) sau textele ori comunicările interne ale unei organizații (de exemplu, publicațiile din rețelele interne ale întreprinderilor).

(ii)

Informarea publicului: textul publicat generat sau manipulat de IA ar trebui să urmărească informarea publicului. Aceasta presupune ca textul să aibă scopul de a comunica cunoștințe, opinii sau fapte. În schimb, textele scurte care nu comunică în mod substanțial cunoștințe, opinii sau fapte nu pot fi considerate ca având scopul de a informa publicul.

(iii)

În ceea ce privește chestiunile de interes public: textul ar trebui să informeze publicul „cu privire la chestiuni de interes public”. În general, prin astfel de chestiuni ar trebui să se înțeleagă cele relevante pentru societate în ansamblu, fie la nivel local, național, al Uniunii sau internațional, și care justifică o dezbatere sau o examinare publică. În acest sens, textele ar trebui considerate ca abordând chestiuni de interes public dacă vizează teme precum politica și procesele democratice, administrația și serviciile publice, administrarea justiției și aplicarea legii, protecția drepturilor fundamentale, securitatea publică, sănătatea publică, protecția mediului, siguranța consumatorilor, precum și orice evoluție economică, financiară, politică, științifică sau culturală care poate constitui un subiect relevant de dezbatere publică. Chestiunile care pot fi considerate de interes public pot evolua în timp și în funcție de context.

Exemple de texte publicate cu scopul de a informa publicul cu privire la chestiuni de interes public în temeiul articolului 50 alineatul (4) din Regulamentul IA, care trebuie etichetate ca fiind generate sau manipulate artificial, cu excepția cazului în care sunt supuse unui proces de verificare editorială sau revizuire umană (a se vedea secțiunea 6.2.3):

—

un rezumat generat de IA al unui articol redactat de o persoană, publicat pe site-ul unui ziar și referitor la o decizie recentă a unui consiliu local;

—

părțile manipulate cu ajutorul IA ale unui articol de pe un site web de mondenități, care compară efectele diferitelor regimuri alimentare asupra unei anumite boli la femeile de vârstă mijlocie;

—

rapoartele întreprinderilor, manipulate de IA și publicate pe site-ul unei societăți cotate la bursă, care conțin informații destinate investitorilor;

—

un mesaj generat de IA pe profilul de pe platformele de comunicare socială al unui institut meteorologic, prin care cetățenii sunt avertizați cu privire la condițiile meteorologice de furtună și la măsurile de precauție aferente.

Exemple de text care nu este publicat în scopul informării publicului cu privire la chestiuni de interes public care nu intră în domeniul de aplicare al articolului 50 alineatul (4) din Regulamentul IA:

—

romanele fantastice generate de IA;

—

textele manipulate de IA care fac parte din materialele publicitare sau din descrierile produselor unei întreprinderi (fără a include afirmații referitoare, de exemplu, la sănătate, siguranța consumatorilor sau durabilitate);

—

rezumatul știrilor generat de un robot de chat și disponibil numai utilizatorului care a adresat solicitarea robotului de chat;

—

textele manipulate de IA prin intermediul unui consultant pentru consilierea unui client cu privire la măsurile care trebuie luate pentru asigurarea respectării legislației aplicabilă.

6.2.2.   Obligația de divulgare prevăzută la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA

(132)

Articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA obligă implementatorii de sisteme de IA care generează sau manipulează text publicat cu scopul de a informa publicul cu privire la chestiuni de interes public să dezvăluie faptul că textul a fost generat sau manipulat artificial. Considerentul 134 din Regulamentul IA clarifică faptul că, la fel ca în cazul deepfake-urilor, implementatorii care utilizează texte publicate care intră în domeniul de aplicare al dispoziției să dezvăluie în mod clar și distinct faptul că respectivul conținut a fost creat sau manipulat în mod artificial prin etichetarea în consecință a rezultatului generat de IA și divulgarea originii sale artificiale. Astfel cum se prevede pentru deepfake-uri, metodele de etichetare sau de divulgare (inclusiv declarațiile de declinare a responsabilității) aplicate în conformitate cu articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA ar trebui, de asemenea, să fie clare și ușor de perceput de către persoanele fizice (de exemplu, prin mijloace vizibile sau sonore), fără ca acestea să fie nevoite să recurgă la instrumente tehnice specifice sau să întreprindă acțiuni specifice. Având în vedere articolul 50 alineatul (7) din Regulamentul IA, implementatorii pot respecta un cod de bune practici, evaluat ca fiind adecvat în temeiul dispoziției respective, pentru a demonstra conformitatea cu această obligație de divulgare. Pentru informații suplimentare privind efectele utilizării unui astfel de cod și supravegherea implementatorilor care nu utilizează un astfel de cod, a se vedea secțiunea 8.1 de mai jos.

6.2.3.   Excepția de la obligația de transparență în cazul textului supus verificării editoriale sau revizuirii umane și responsabilității editoriale

(133)

Articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA prevede o excepție de la obligația de transparență prevăzută la dispoziția respectivă în cazul în care sunt îndeplinite două condiții cumulative: (i) textul generat sau manipulat de IA trebuie să fi fost supus unui proces de verificare editorială sau revizuire umană și (ii) responsabilitatea editorială pentru publicarea conținutului trebuie să fie deținută de o persoană fizică sau juridică. După caz, implementatorii se pot baza pe standardele profesionale sau deontologice aplicabile relevante pentru a demonstra respectarea acestor cerințe, astfel cum se arată mai jos.

i.   Text supus verificării editoriale sau revizuirii umane

(134)

Prima condiție pentru aplicarea excepției de la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA impune ca textul generat sau manipulat de IA să fi fost supus verificării editoriale sau revizuirii umane. Revizuirea umană se referă la examinarea deliberată a fondului conținutului de către una sau mai multe persoane fizice care dețin cunoștințe relevante și discernământ profesional cu privire la obiectul examinat (de exemplu, evaluare inter pares în mediul academic sau lanțurile de validare profesională). Verificarea exactității faptelor constituie o cerință minimă care ar trebui să facă parte din această revizuire. Verificarea editorială se referă la verificarea efectuată în practică asupra conținutului de către o entitate editorială responsabilă (de exemplu, un redactor-șef) care are autoritatea de a aproba, modifica sau respinge conținutul textului pe baza unor considerente de fond (inclusiv verificarea exactității informațiilor și asigurarea credibilității surselor). Acest lucru nu aduce atingere procedurilor editoriale și de revizuire existente și nici standardelor profesionale aplicabile furnizorilor de servicii mass-media.

(135)

Verificările superficiale, exclusiv formale sau procedurale (de exemplu, verificarea ortografică sau corectarea greșelilor gramaticale), simpla existență a unei politici editoriale, a unor procese automatizate de verificare sau a unei aprobări editoriale sumare, fără o examinare de fond de către persoana care efectuează verificarea ori de către entitatea editorială, nu pot îndeplini condițiile privind revizuirea umană sau verificarea editorială în sensul acestei excepții.

(136)

În cazul în care sistemele de IA sunt utilizate pentru a modifica, a completa sau a reformula conținutul în urma aprobării editoriale, conținutul rezultat trebuie tratat drept conținut generat sau manipulat de IA în sensul articolului 50 alineatul (4) din Regulamentul IA. Prin urmare, orice intervenție substanțială a IA care are loc după ce a avut loc procesul de revizuire umană sau de verificare editorială va determina inaplicabilitatea excepției.

(137)

Având în vedere articolul 50 alineatul (7) din Regulamentul IA, implementatorii pot respecta un cod de bune practici, evaluat ca fiind adecvat în temeiul dispoziției respective, pentru a demonstra îndeplinirea condiției de revizuire umană sau de verificare editorială (în special de către implementatori care nu sunt furnizori de servicii mass-media supuși standardelor profesionale editoriale sau deontologice existente) prevăzută în dispoziția respectivă. Pentru informații suplimentare privind efectele respectării unui astfel de cod și supravegherea implementatorilor care nu respectă un astfel de cod, a se vedea secțiunea 8.1.

ii.

Responsabilitatea editorială

(138)

A doua condiție pentru aplicarea excepției de la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA impune ca responsabilitatea editorială pentru publicarea conținutului să fie deținută de o persoană fizică sau juridică. Acest lucru implică faptul că persoana respectivă trebuie să dețină responsabilitatea juridică finală pentru publicarea conținutului, inclusiv revizuirea umană sau verificarea editorială (de exemplu, o persoană fizică, un comitet de redacție sau societatea editorială). Pentru a asigura responsabilitatea publică și încrederea și în conformitate cu standardele profesionale existente în domeniul mass-mediei, identitatea și datele de contact ale persoanei juridice, ale persoanei fizice sau ale funcției care deține responsabilitatea editorială ar trebui să fie puse la dispoziția publicului într-un loc ușor de găsit (dacă nu sunt încă disponibile în alt mod). Acest lucru se poate întâmpla online, de exemplu, prin includerea lor în termenii și condițiile unui site sau în alte informații juridice destinate utilizatorilor. În cazul publicațiilor offline, aceste informații pot fi incluse în colofon sau în mențiunile editoriale ale publicației.

Exemple de texte supuse revizuirii umane sau verificării editorial de către o persoană fizică sau juridică care deține responsabilitatea editorială:

—

un articol de ziar manipulat de IA sau un rezumat generat de IA al unui articol, care a fost supus verificării editoriale de către redactorul-șef respectiv, responsabilitatea editorială revenind persoanei juridice care publică ziarul;

—

un blog academic manipulat de IA, care a fost supus unei evaluări inter pares interne și în cazul căruia centrul de cercetare care administrează blogul deține responsabilitatea editorială;

—

avertizări privind siguranța publică generate de IA și aprobate de un funcționar public înainte de a fi transmise cetățenilor, sub responsabilitatea autorității publice competente în materie de protecție civilă;

—

rapoarte privind durabilitatea generate de IA, publicate pe site-ul unei societăți cotate la bursă și supuse revizuirii umane de către profesioniști din domeniile relevante (de exemplu, asigurarea conformității);

—

traducerea asistată de IA a unui articol redactat de o persoană, în cazul în care traducerea a fost supusă unei revizuiri umane.

Exemple de texte care nu îndeplinesc cerința de revizuire umană sau de verificare editorială pentru a beneficia de excepție:

—

un site pe care sunt publicate articole generate de IA privind politica Uniunii, fără nicio revizuire umană deliberată sau nicio verificare editorială;

—

articole generate de IA care sunt verificate și editate de un alt sistem de IA, iar un editor uman efectuează înainte de publicare doar o verificare superficială de natură gramaticală;

—

o carte despre schimbările climatice, generată de IA și publicată automat, pusă la dispoziție pe o platformă de comerț electronic, care nu a fost supusă niciunei revizuiri de către o persoană fizică sau juridică competentă (și nici de către platformă).

6.2.4.   Excepția în scopul aplicării legii

(139)

În cazul în care utilizarea sistemelor de IA pentru generarea de text publicat cu scopul de a informa publicul cu privire la chestiuni de interes public fără a fi supus revizuirii umane (de exemplu, un avertisment al poliției generat de IA cu privire la o amenințare teroristă publicat pe platformele de comunicare socială) este autorizată prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile, implementatorii sunt scutiți de obligația de transparență în temeiul articolului 50 alineatul (4) din Regulamentul IA. Clarificările furnizate la punctele 46-48 de mai sus cu privire la o excepție similară prevăzută la articolul 50 alineatul (1) din Regulamentul IA sunt relevante și pentru această dispoziție.

6.2.5.   Interacțiunea cu alte acte juridice ale Uniunii

(140)

În ceea ce privește dreptul Uniunii în domeniul mass-mediei, responsabilitatea editorială este un concept esențial, definit la articolul 2 alineatul (8) din Regulamentul (UE) 2024/1083 (Regulamentul european privind libertatea mass-mediei) (39). În acest context, „responsabilitate editorială” înseamnă exercitarea unui control efectiv asupra selecționării programelor sau a publicațiilor de presă și asupra organizării acestora, în scopul furnizării unui serviciu mass-media, indiferent dacă există o răspundere sau nu în conformitate cu dreptul intern pentru serviciul furnizat”. În anumite situații, această definiție se poate suprapune cu noțiunea de responsabilitate editorială utilizată la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA, în special în cazul în care implementatorii sistemului de IA se califică, de asemenea, drept furnizori de servicii mass-media în temeiul Regulamentului european privind libertatea mass-mediei. Responsabilitatea editorială în sensul articolului 50 alineatul (4) din Regulamentul IA ar trebui, prin urmare, să fie interpretată în conformitate cu acquis-ul existent în domeniul mass-mediei, în pofida faptului că rămâne un concept distinct care se poate aplica și în contexte mai ample și altor implementatori, atât timp cât aceștia își asumă responsabilitatea editorială pentru publicarea textului. Furnizorii de servicii mass-media se pot baza pe procesele și standardele lor editoriale existente pentru a beneficia de excepția prevăzută la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA.

7.   CERINȚE ORIZONTALE APLICABILE INFORMAȚIILOR FURNIZATE ÎN TEMEIUL ARTICOLULUI 50 ALINEATUL (5) DIN REGULAMENTUL IA

(141)

În temeiul articolului 50 alineatul (5) din Regulamentul IA, informațiile care trebuie furnizate în conformitate cu articolul 50 alineatul (1)-(4) din Regulamentul IA ar trebui furnizate persoanelor fizice în cauză într-un mod clar și distinct, cel târziu în momentul primei interacțiuni sau al primei expuneri. Informațiile ar trebui, de asemenea, să respecte cerințele de accesibilitate aplicabile. Printre persoanele fizice în cauză în acest context se numără persoanele care interacționează direct cu sistemul de IA [articolul 50 alineatul (1) din Regulamentul IA], utilizatorii activi sau pasivi și alte persoane expuse la conținutul sintetic generat sau manipulat de IA [cu sau fără interacțiune directă cu sistemul de IA [articolul 50 alineatele (2) și (4) din Regulamentul IA] și persoanele expuse sistemelor de recunoaștere a emoțiilor sau de clasificare biometrică [articolul 50 alineatul (3) din Regulamentul IA].

7.1.   Furnizarea informațiilor într-un mod clar și distinct

(142)

Se va considera că informațiile sunt furnizate într-un mod clar atunci când sunt perceptibile, ușor de înțeles și accesibile pentru persoana fizică în cauză (inclusiv pentru persoanele cu dizabilități). Se va considera că informațiile sunt furnizate într-un mod distinct atunci când sunt ușor de identificat ca fiind separate de alte informații și de mediul în care este prezentat conținutul. De asemenea, informațiile trebuie să fie ușor de înțeles de către public, inclusiv de către grupuri specifice, cum ar fi copiii sau persoanele cu dizabilități, atunci când acestea fac parte din publicul care poate, în mod previzibil, să fie expus conținutului sau să interacționeze cu sistemul (40). Pentru a furniza informații într-un mod clar și distinct, informațiile relevante pot fi prezentate, printre altele, ca parte a interacțiunii [în temeiul articolului 50 alineatul (1) din Regulamentul IA] sau a conținutului relevant [în temeiul articolului 50 alineatul (2) și alineatul (4) din Regulamentul IA]. Informațiile nu vor fi considerate ca fiind furnizate într-un mod clar și distinct atunci când pot fi ușor trecute cu vederea sau omise de către persoanele fizice în condiții normale de expunere sau de interacțiune (de exemplu, dacă sunt incluse numai într-un manual, ascunse în mai multe niveluri de opțiuni ale meniului unei interfețe online sau incluse în condițiile de utilizare, care adesea nu sunt citite de utilizatori).

7.2.   Prima interacțiune sau prima expunere

(143)

Articolul 50 alineatul (5) din Regulamentul IA impune ca informațiile să fie furnizate persoanelor fizice în cauză cel târziu în momentul primei interacțiuni sau al primei expuneri. Prima interacțiune sau prima expunere se referă nu numai la prima persoană fizică care interacționează cu un sistem de IA sau este expusă unui sistem de IA (sau rezultatului acestuia), ci și la orice primă interacțiune ulterioară cu sistemul de IA sau orice primă expunere la sistemul de IA (sau la rezultatul acestuia) a oricărei alte persoane fizice. În ceea ce privește prima interacțiune cu un sistem de IA, informațiile ar trebui furnizate cel puțin o dată la începutul unei sesiuni interactive, luând în considerare contextele specifice menționate la punctele 36 și 40 de mai sus. În ceea ce privește conținutul generat sau manipulat de IA care intră în domeniul de aplicare al articolului 50 alineatul (2) și alineatul (4) din Regulamentul IA, obligația de informare se aplică fiecărui rezultat al unui sistem de IA în ceea ce privește orice persoană fizică expusă conținutului. Aceasta ar trebui înțeleasă în sensul oricărui moment în care este probabil în mod rezonabil ca o persoană fizică să fie expusă la rezultatele sistemului de IA și să perceapă divulgarea, ținând seama de particularitățile divulgării în cazul operelor de evidentă natură creativă, artistică și de altă natură (a se vedea secțiunea 6.1.3.). În plus, implementatorii pot informa persoanele fizice mai devreme de momentul primei interacțiuni sau al primei expuneri efective (de exemplu, la începutul conținutului care include deepfake-uri). Cu toate acestea, în cazul în care este previzibil în mod rezonabil că persoanele nu pot percepe conținutul de la început, atunci simpla furnizare a informației la începutul conținutului nu asigură informarea în mod adecvat a acestor persoane și ar trebui completată, acolo unde este posibil, prin furnizarea informației și în momente ulterioare, dacă este posibil. Acest lucru poate fi pus în aplicare, după caz, ținând seama de obiectivul obligațiilor de transparență de a asigura o furnizare eficace a informațiilor și o sensibilizare semnificativă a utilizatorilor în medii IA din ce în ce mai imersive și mai realiste, în care utilizatorii întâmpină dificultăți tot mai mari în a distinge originea și veridicitatea conținutului și a interacțiunii.

Exemple de furnizare de informații în momentul primei interacțiuni sau al primei expuneri în temeiul articolului 50 alineatul (5) din Regulamentul IA:

—

Prima interacțiune: la inițierea unei conversații cu un robot de chat sau la începerea unei interacțiuni fizice cu un sistem de IA;

—

Prima expunere: la începutul unui material video care conține un deepfake, la începutul publicării unui text generat sau manipulat de IA referitor la chestiuni de interes public ori atunci când o persoană întâlnește deepfake-uri manipulate de IA în timp ce parcurge conținutul de pe platformele de comunicare socială.

7.3.   Conformitatea cu cerințele de accesibilitate aplicabile

(144)

Furnizorii și implementatorii de sisteme de IA care intră în domeniul de aplicare al diferitelor obligații de transparență enumerate la articolul 50 alineatele (1)-(4) din Regulamentul IA trebuie să cunoască cerințele de accesibilitate aplicabile [de exemplu, în temeiul Directivei 2016/2102 (41) și al Directivei 2019/882 (42)] și să evalueze dacă produsul, serviciul sau conținutul lor trebuie să respecte normele respective. Într-un astfel de caz, aceștia trebuie să asigure accesibilitatea informațiilor transmise în conformitate cu articolul 50 din Regulamentul IA, cu respectarea cerințelor de accesibilitate aplicabile. Articolul 50 din Regulamentul IA nu impune cerințe de accesibilitate distincte sau suplimentare.

8.   APLICAREA ARTICOLULUI 50 DIN REGULAMENTUL IA

(145)

Această secțiune urmărește să clarifice: (i) efectele respectării unui cod de bune practici în ceea ce privește conformitatea cu obligațiile de transparență pentru conținutul generat de IA, (ii) rolul autorităților de supraveghere competente în asigurarea respectării articolului 50 din Regulamentul IA, (iii) sancțiunile aplicabile pentru încălcarea acestor obligații și (iv) momentul de la care obligațiile prevăzute la articolul 50 din Regulamentul IA devin aplicabile.

8.1.   Efectele respectării unui cod de bune practici evaluat ca fiind adecvat

(146)

Furnizorii și implementatorii de sisteme de IA care intră în domeniul de aplicare al articolului 50 alineatele (2) și alineatul (4) din Regulamentul IA pot demonstra conformitatea cu obligațiile lor respective de transparență privind conținutul generat de IA prevăzute de dispozițiile respective prin respectarea unui cod de bune practici care este evaluat ca fiind adecvat în temeiul articolului 50 alineatul (7) din Regulamentul IA (43). Un astfel de cod nu înlocuiește Regulamentul IA sau prezentele orientări. Aceasta vine în completarea lor, oferind singurul cadru practic recunoscut la nivelul Uniunii pentru ca furnizorii și implementatorii de sisteme de IA generative să demonstreze conformitatea cu obligațiile respective, indiferent de locul în care sunt stabiliți sau își desfășoară activitatea și de autoritățile competente de supraveghere a pieței.

(147)

Deși furnizorii și implementatorii pot demonstra, de asemenea, conformitatea cu aceste obligații prin mijloace alternative adecvate, respectarea unui cod de bune practici considerat adecvat este o modalitate simplă, previzibilă și sigură din punct de vedere juridic pentru a demonstra conformitatea. În cazul semnatarilor unui cod de bune practici evaluat ca fiind adecvat în temeiul articolului 50 alineatul (7) din Regulamentul IA (44), Comisia și autoritățile competente de supraveghere a pieței își vor concentra activitățile de supraveghere pe evaluarea măsurii în care acești semnatari au respectat codul de bune practici și au pus în aplicare măsurile cuprinse în acesta. Întrucât furnizorii și implementatorii care respectă un cod de bune practici vor fi transparenți cu privire la măsurile pe care le pun în aplicare pentru a se conforma articolului 50 alineatele (2), (4) și (5) din Regulamentul IA, aceștia vor beneficia de o încredere sporită din partea Comisiei, a celorlalte autorități competente de supraveghere a pieței și a altor părți interesate (inclusiv a publicului larg). În situația încheierii unei clauze de neparticipare de către semnatarii unui cod de bune practici considerat adecvat, furnizorii și implementatorii respectivi nu vor mai beneficia de facilitarea demonstrării conformității de a facilita demonstrarea conformității în sensul respectiv.

(148)

Furnizorii și implementatorii care nu sunt semnatari ai unui cod de bune practici considerat adecvat în temeiul articolului 50 alineatul (7) din Regulamentul IA trebuie să demonstreze modul în care și-au respectat obligațiile care le revin în temeiul articolului 50 alineatele (2), (4) și (5) din Regulamentul IA prin alte mijloace adecvate. În plus, acești furnizori și implementatori trebuie să explice modul în care măsurile pe care le pun în aplicare asigură respectarea obligațiilor care le revin în temeiul Regulamentului privind IA. De exemplu, aceștia ar trebui să efectueze o analiză a decalajelor prin care să compare măsurile pe care le-au pus în aplicare cu cele prevăzute într-un cod de bune practici evaluat ca fiind adecvat. Întrucât autoritățile competente (inclusiv Oficiul pentru IA) vor dispune de mai puține informații cu privire la modul în care furnizorii și implementatorii care nu sunt semnatari ai unui cod de bune practici asigură respectarea obligațiilor care le revin în temeiul articolului 50 alineatele (2), (4) și (5) din Regulamentul IA, este probabil ca acestea să aibă nevoie de informații mai detaliate atunci când monitorizează conformitatea. De exemplu, furnizorii care nu respectă un cod de bune practici pot face, de asemenea, obiectul unui număr mai mare de solicitări de informații și de cereri de acces pentru a evalua eficacitatea, interoperabilitatea, soliditatea și fiabilitatea soluțiilor tehnice puse în aplicare în vederea respectării articolului 50 alineatul (2) din Regulamentul IA. Implementatorii pot face, de asemenea, obiectul unor astfel de solicitări în ceea ce privește practicile lor de etichetare în temeiul articolului 50 alineatul (4) din Regulamentul IA.

(149)

Autoritățile competente pot lua în considerare angajamentele puse în aplicare în conformitate cu un cod de bune practici considerat adecvat drept circumstanță atenuantă la stabilirea cuantumului amenzilor, în funcție de circumstanțele specifice (45).

(150)

În cazul în care consideră că codul de bune practici este inadecvat, în temeiul articolului 50 alineatul (7) din Regulamentul IA, Comisia poate să adopte un act de punere în aplicare care să precizeze normele comune pentru punerea în aplicare a obligațiilor prevăzute la articolul 50 alineatele (2), (4) și (5) din Regulamentul IA, care ar fi aplicabil tuturor furnizorilor și implementatorilor relevanți de sisteme de IA care intră în domeniul de aplicare al dispozițiilor respective (46).

8.2.   Autoritățile de supraveghere a pieței

(151)

Autoritățile de supraveghere a pieței desemnate de statele membre, Oficiul pentru IA (47) și Autoritatea Europeană pentru Protecția Datelor (48) sunt responsabile de supravegherea și aplicarea legii pentru sistemele de IA care intră în sfera lor de competență, inclusiv a obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA. Aplicarea legii are loc în cadrul sistemului de supraveghere a pieței și de conformitate a produselor instituit prin Regulamentul (UE) 2019/1020 și prin Regulamentul IA. Competențele de aplicare a legii care revin autorităților de supraveghere a pieței în ceea ce privește sistemele de IA sunt prevăzute în regulamentele respective. Autoritățile respective pot lua măsuri de aplicare a legii în legătură cu obligațiile enumerate la articolul 50 din Regulamentul IA fie din proprie inițiativă, fie în urma unei plângeri, pe care are dreptul să o depună orice persoană afectată sau orice altă persoană fizică sau juridică care are motive să considere că au avut loc astfel de încălcări (49). Responsabilitățile autorităților de supraveghere a pieței în temeiul Regulamentului privind IA nu afectează competențele și sarcinile altor autorități de supraveghere sau autorități pentru drepturile fundamentale în temeiul propriului cadru juridic în situațiile în care se aplică atât articolul 50 din Regulamentul IA, cât și cadrul respectiv (de exemplu, în materia protecției datelor sau a protecției consumatorilor).

8.3.   Sancțiuni

(152)

Furnizorul și implementatorii care nu respectă obligațiile de transparență aplicabile prevăzute la articolul 50 din Regulamentul IA pot fi amendați cu până la 15 000 000 EUR sau, în cazul în care autorul infracțiunii este o întreprindere, cu până la 3 % din cifra sa de afaceri mondială totală anuală pentru exercițiul financiar precedent, luându-se în considerare valoarea cea mai mare dintre acestea. Instituțiile, organele și agențiile UE care încalcă obligațiile de transparență pot face obiectul unor amenzi administrative de până la 750 000 EUR. În cazul întreprinderilor mici și mijlocii (IMM-uri), inclusiv al start-upurilor, fiecare amendă nu depășește procentajele sau cuantumul menționate mai sus, reținându-se valoarea cea mai mică dintre acestea. Amenzile sunt eficace, proporționale și disuasive și țin seama de interesele IMM-urilor și ale întreprinderilor mici cu capitalizare medie, inclusiv ale start-upurilor, precum și de viabilitatea lor economică. Atunci când decide dacă să se impună o amendă administrativă și când se decide cu privire la cuantumul amenzii administrative în fiecare caz în parte, autoritățile competente ar trebui să evalueze toate circumstanțele relevante ale situației specifice și, după caz, o serie de factori care afectează gravitatea încălcării (de exemplu, natura, gravitatea și durata încălcării și a consecințelor acesteia, caracterul neglijent sau intenționat, alte circumstanțe agravante sau atenuante, gradul de cooperare cu autoritățile de supraveghere a pieței etc.).

8.4.   Punerea în aplicare

(153)

În conformitate cu articolul 113 din Regulamentul IA, articolul 50 din Regulamentul IA se aplică de la 2 august 2026. Acest lucru impune ca toate sistemele de IA care intră în domeniul de aplicare și care sunt introduse pe piață sau puse în funcțiune în Uniune să respecte dispoziția respectivă la data respectivă, indiferent de data introducerii lor pe piață sau a punerii lor în funcțiune (50). Regulamentul de modificare a Regulamentului privind IA (Regulamentul omnibus în domeniul digital privind IA), care a fost adoptat recent de legiuitorul Uniunii, prevede o normă specifică de anterioritate numai în ceea ce privește obligațiile de marcare și detectare prevăzute la articolul 50 alineatul (2) din Regulamentul IA pentru sistemele de IA generative introduse pe piață sau puse în funcțiune înainte de 2 august 2026. Acesta oferă furnizorilor acestor sisteme existente o perioadă de tranziție pentru a asigura conformitatea propriilor sisteme până la 2 decembrie 2026. Sistemele care sunt parțial interactive și parțial generative pot beneficia de această perioadă de tranziție numai în ceea ce privește obligația de marcare prevăzută la articolul 50 alineatul (2) din Regulamentul IA, în timp ce respectarea obligației de divulgare pentru sistemele de IA care interacționează direct cu persoane fizice trebuie asigurată începând cu 2 august 2026.

(154)

Rezultatele generate sau manipulate de IA care intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA și deepfake-urile care intră în domeniul de aplicare al articolului 50 alineatul (4) primul paragraf din Regulamentul IA, care au fost generate sau manipulate înainte de 2 august 2026, nu trebuie să fie marcate sau etichetate retroactiv. Același lucru este valabil și pentru textele referitoare la chestiuni de interes public care intră în domeniul de aplicare al articolului 50 alineatul (4) al doilea paragraf din Regulamentul IA și care au fost generate sau manipulate și publicate înainte de 2 august 2026. În schimb, dacă textele generate sau manipulate înainte de 2 august 2026 sunt publicate la această dată sau ulterior, acestea trebuie etichetate. Având în vedere obiectivul urmărit de Regulamentul IA de a asigura transparența și de a spori încrederea și integritatea ecosistemului informațional, implementatorii de sisteme de IA și alți actori care dețin sau diseminează deepfake-uri preexistente neetichetate sunt totuși încurajați să le eticheteze, fără a se aștepta însă ca aceștia să depună eforturi disproporționate în acest scop (precum auditarea bazelor de date cu conținut preexistent sau modificarea ambalajelor deja tipărite ale produselor).

9.   REVIZUIREA ȘI ACTUALIZAREA ORIENTĂRILOR

(155)

Prezentele orientări constituie o primă interpretare cu exemple practice a obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA. Comisia va revizui prezentele orientări de îndată ce acest lucru va fi necesar, având în vedere experiența practică dobândită în punerea în aplicare a obligațiilor de transparență și ritmul evoluțiilor tehnologice, societale și în materie de reglementare din acest domeniu. Aceasta include, de asemenea, orice experiență relevantă dobândită în urma acțiunilor de aplicare a legii în materie de supraveghere a pieței, precum și din interpretările date de CJUE cu privire la articolul 50 din Regulamentul IA. În cursul unei astfel de revizuiri, Comisia poate decide să retragă sau să modifice prezentele orientări. Comisia încurajează furnizorii și implementatorii de sisteme de IA, autoritățile naționale de supraveghere a pieței prin intermediul Consiliului IA, Forumul consultativ pentru IA, comunitatea de cercetare și organizațiile societății civile să contribuie la acest proces răspunzând viitoarelor cereri de consultare publică.

(1)  Regulamentul (UE) 2024/1689 al Parlamentului European și al Consiliului din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligența artificială (Regulamentul privind inteligența artificială) (JO L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2)  Articolul 1 din Regulamentul IA.

(3)  Articolul 2 alineatul (1) litera (a) și articolul 3 alineatele (3), (9) și (11) din Regulamentul IA. Pentru orientări suplimentare privind conceptele de introducere pe piață, punere în funcțiune și utilizare, a se vedea Orientările Comisiei privind practicile interzise în domeniul inteligenței artificiale, C(2025) 5052 final, și Comunicarea Comisiei – „Ghidul albastru” din 2022 referitor la punerea în aplicare a normelor UE privind produsele, secțiunea 2 (JO C 247, 29.6.2022, p. 1).

(4)  Articolul 2 alineatul (1) litera (c) și considerentul 22 din Regulamentul IA.

(5)  Articolul 3 alineatul (4) din Regulamentul IA.

(6)  Articolul 2 alineatul (1) literele (b) și (c) din Regulamentul IA.

(7)  Regulamentul (UE) 2022/2065 al Parlamentului European și al Consiliului din 19 octombrie 2022 privind piața internă de energie electrică (JO L 277, 27.10.2022, p. 1).

(8)  A se vedea secțiunea 2.5 din Orientările Comisiei privind practicile interzise în domeniul inteligenței artificiale instituite prin Regulamentul (UE) 2024/1689 (Regulamentul IA), Bruxelles, 29.7.2025, C(2025) 5052 final.

(9)  Definiția implementatorului exclude, de asemenea, utilizatorii implicați în astfel de activități (a se vedea secțiunea 2.3 de mai sus).

(10)  Considerentul 25 din Regulamentul IA.

(11)  Considerentul 102 din Regulamentul IA explică faptul că o lansare de software și date sub licență liberă și cu sursă deschisă „le permite să fie partajate în mod deschis și pe care utilizatorii le pot accesa, utiliza, modifica și redistribui liber sau versiuni modificate ale acestora”.

(12)  Pentru informații suplimentare cu privire la articolul 5 din Regulamentul IA, a se vedea Orientările Comisiei privind practicile interzise în domeniul inteligenței artificiale instituite prin Regulamentul (UE) 2024/1689 (Regulamentul IA), C (2025) 5052 final.

(13)  A se vedea articolul 6 din Regulamentul IA.

(14)  În special, articolul 26 alineatul (11) din Regulamentul IA impune o obligație de transparență implementatorilor de sisteme de IA cu grad ridicat de risc care iau decizii sau contribuie la luarea deciziilor informează persoanele fizice că fac obiectul utilizării sistemului de IA cu grad ridicat de risc. Aceste obligații de transparență sunt complementare celor prevăzute la articolul 50 din Regulamentul IA, deoarece se referă la informații diferite care trebuie furnizate persoanelor fizice, dar pot fi combinate în notificări unice.

(15)  Articolul 3 alineatul (66) din Regulamentul IA definește un sistem de IA de uz general drept un sistem de IA care se bazează pe un model de IA de uz general și care are capacitatea de a deservi o varietate de scopuri, atât pentru utilizare directă, cât și pentru integrarea în alte sisteme de IA.

(16)  Articolul 50 alineatul (2) din Regulamentul IA conține o trimitere explicită la sistemele de IA de uz general.

(17)  Considerentul 133 din Regulamentul IA.

(18)  A se vedea articolul 3 punctul 1 din Regulamentul IA. Pentru orientări suplimentare privind conceptul de sistem de IA, a se vedea Orientările Comisiei privind definiția unui sistem de inteligență artificială, 29.7.2025, C(2025) 5053 final.

(19)  A se vedea considerentul 132 din Regulamentul IA. Aceasta nu presupune ca sistemul să vizeze în mod specific grupurile vulnerabile respective. Dacă un sistem este destinat să interacționeze cu orice membru al publicului, atunci sunt incluși și membrii grupurilor vulnerabile, iar furnizorii ar trebui să țină seama de aceștia atunci când pun în aplicare măsurile de informare.

(20)  A se vedea secțiunea 7.3 pentru cerințele de accesibilitate aplicabile.

(21)  De exemplu, atestatele electronice ale atributelor, astfel cum sunt stabilite în Regulamentul (UE) nr. 910/2014 și puse la dispoziție în portofelele UE pentru identitatea digitală instituite în temeiul aceluiași regulament, precum și în portofelele europene pentru întreprinderi propuse, pot oferi mijloace sigure și eficiente de identificare a agenților IA. Portofelele pot stoca și gestiona atestate electronice care verifică identitatea, atributele și autorizațiile agentului IA, permițând astfel divulgarea fără sincope și fiabilă către persoanele fizice.

(22)  Acest lucru este valabil și pentru excepțiile similare în beneficiul activităților de aplicare a legii prevăzute la articolul 50 alineatele (2)-(4) din Regulamentul IA.

(23)  Directiva 2005/29/CE a Parlamentului European și a Consiliului din 11 mai 2005 privind practicile comerciale neloiale ale întreprinderilor de pe piața internă față de consumatori (JO L 149, 11.6.2005, p. 2).

(24)  Directiva 2011/83/UE a Parlamentului European și a Consiliului din 25 octombrie 2011 privind drepturile consumatorilor (JO L 304, 22.11.2011, p. 64).

(25)  Directiva 2012/13/UE a Parlamentului European și a Consiliului din 22 mai 2012 privind dreptul la informare în cadrul procedurilor penale (JO L 142, 1.6.2012, p. 1). Directiva 2012/29/UE a Parlamentului European și a Consiliului din 25 octombrie 2012 de stabilire a unor norme minime privind drepturile, sprijinirea și protecția victimelor criminalității (JO L 315, 14.11.2012, p. 57).

(26)  Astfel cum sunt definite la articolul 3 alineatul (1) din Regulamentul IA.

(27)  Considerentul 133 din Regulamentul IA precizează faptul că este oportun să se solicite furnizorilor acestor sisteme să încorporeze soluții tehnice care să permită marcarea într-un format prelucrabil automat și detectarea faptului că rezultatul a fost generat sau manipulat de un sistem de IA, și nu de un om. Considerentul 135 din Regulamentul IA se referă la obligația de detectare.

(28)  A se vedea anexa II la Decizia de punere în aplicare C(2025) 3871 final a Comisiei privind o cerere de standardizare adresată Comitetului European de Standardizare și Comitetului European de Standardizare în Electrotehnică în ceea ce privește sistemele de IA cu grad ridicat de risc în sprijinul Regulamentului (UE) 2024/1689 al Parlamentului European și al Consiliului și de abrogare a Deciziei de punere în aplicare C(2023) 3215 final.

(29)  A se vedea, de asemenea, considerentul 11 din Regulamentul IA.

(30)  A se vedea, de asemenea, considerentul 137 din Regulamentul IA.

(31)  Considerentul 136 din Regulamentul IA.

(32)  Prin urmare, acest criteriu trebuie înțeles în mod independent și distinct de conceptul de înșelăciune, astfel cum este menționat în Directiva 2005/29/CE privind practicile comerciale neloiale ale întreprinderilor de pe piața internă față de consumatori (Directiva privind practicile comerciale neloiale), https://eur-lex.europa.eu/eli/dir/2005/29/oj/eng.

(33)  A se vedea în același sens articolul 1 litera (b) din DSMAV.

(34)  Acest lucru se aplică în egală măsură textelor publicate cu scopul de a informa publicul cu privire la chestiuni de interes public.

(35)  A se vedea, de asemenea, secțiunea 4.4 pentru informații suplimentare privind interacțiunea dintre articolul 50 din Regulamentul IA și Regulamentul privind serviciile digitale.

(36)  Considerentul 2 din Regulamentul privind serviciile digitale.

(37)  Pentru clarificări mai detaliate, a se vedea Orientările comune ale Comisiei și ale CEPD privind interacțiunea dintre Regulamentul IA și dreptul UE privind protecția datelor (în curs de elaborare).

(38)  A se vedea, prin analogie, cauza C-89/04, Mediakabel, EU:C:2005:348, punctul 33, cauza C-192/04, Lagardère, EU:C:2005:475, punctul 31, cauza C-306/05, SGAE, EU:C:2006:764, punctele 37-40, cauza C-527/15, Stichting Brein, EU:C:2017:300, punctele 43-44 și jurisprudența citată, precum și cauza C-135/23, GEMA, EU:C:2024:526, punctul 38 și jurisprudența citată.

(39)  Regulamentul (UE) 2024/1083 al Parlamentului European și al Consiliului din 11 aprilie 2024 de stabilire a unui cadru comun pentru serviciile mass-media în cadrul pieței interne și de modificare a Directivei 2010/13/UE (Regulamentul european privind libertatea mass-mediei) (JO L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).

(40)  Atunci când copiii fac parte din publicul-țintă al conținutului, notificările respective trebuie să fie: (i) adaptate copiilor, adecvate vârstei, ușor de înțeles și ușor accesibile pentru toți copiii, inclusiv pentru cei cu dizabilități și/sau cu nevoi suplimentare în materie de accesibilitate, (ii) prezentate clar, într-un mod ușor de înțeles și cât mai simplu și mai succint posibil, (iii) prezentate în moduri ușor de verificat și care oferă acces imediat și intuitiv, în momentele în care devin relevante, (iv) prezentate în limba (limbile) oficială (oficiale) a (ale) statului membru în care este furnizat serviciul, (v) atractive și antrenante pentru copii, scop în care pot fi utilizate, de asemenea, grafice, materiale video și/sau personaje sau alte tehnici și (vi) puse la dispoziția copiilor treptat și în timp pentru a permite asimilarea durabilă a acestora de către utilizator.

(41)  Directiva (UE) 2016/2102 a Parlamentului European și a Consiliului din 26 octombrie 2016 privind accesibilitatea site-urilor web și a aplicațiilor mobile ale organismelor din sectorul public (Text cu relevanță pentru SEE) (JO L 327, 2.12.2016, p. 1).

(42)  Directiva (UE) 2019/882 a Parlamentului European și a Consiliului din 17 aprilie 2019 privind cerințele de accesibilitate aplicabile produselor și serviciilor (Text cu relevanță pentru SEE), PE/81/2018/REV/1 (JO L 151, 7.6.2019, p. 70).

(43)  A se vedea informațiile relevante despre Code of Practice on Transparency of AI-Generated Content Shaping Europe’s digital future (Codul de bune practici privind transparența conținutului generat de IA – Conturarea viitorului digital al Europei), publicat la 10 iunie 2026.

(44)  A se vedea Commission Opinion on the assessment of the Code of Practice on Transparency of AI-generated content Shaping Europe’s digital future (Avizul Comisiei cu privire la evaluarea Codului de bune practici privind transparența conținutului generat de IA | Conturarea viitorului digital al Europei).

(45)  Articolul 99 alineatul (7) litera (e) din Regulamentul IA.

(46)  Articolul 50 alineatul (7) din Regulamentul IA.

(47)  În calitate de autoritate de supraveghere a pieței pentru sistemele de IA bazate pe modele de IA de uz general furnizate de același furnizor [articolul 75 alineatul (1) din Regulamentul IA]. Aceasta acoperă obligația aplicabilă furnizorilor în temeiul articolului 50 alineatele (1) și (2) din Regulamentul IA. În ceea ce privește articolul 50 alineatele (3) și (4) din Regulamentul IA, Oficiul pentru IA va fi competent numai dacă respectivul furnizor de model și de sistem de IA de uz general este, de asemenea, un implementator al sistemului.

(48)  În calitate de autoritate de supraveghere a pieței pentru instituțiile, agențiile și organismele UE.

(49)  Articolul 85 din Regulamentul IA.

(50)  Regula specială de anterioritate prevăzută la articolul 111 alineatul (2) din Regulamentul IA se aplică sistemelor de IA cu grad ridicat de risc introduse pe piață înainte de data de la care devin aplicabile normele privind sistemele cu grad ridicat de risc numai în ceea ce privește conformitatea acestor sisteme cu cerințele și obligațiile aplicabile sistemelor de IA cu grad ridicat de risc. În cazul în care sistemul de IA cu grad ridicat de risc face, de asemenea, obiectul uneia sau mai multor obligații de transparență prevăzute la articolului 50 din Regulamentul IA, această regulă specială de anterioritate nu se aplică, întrucât diferitele obligații privind sistemele cu grad ridicat de risc și obligațiile de transparență prevăzute la articolul 50 se aplică cumulativ, iar anterioritatea este justificată și limitată numai în ceea ce privește respectarea dispozițiilor referitoare la sistemele cu grad ridicat de risc.


ELI: http://data.europa.eu/eli/C/2026/6005/oj

ISSN 1977-1029 (electronic edition)