|
Jurnalul Ofícial |
RO Seria C |
|
C/2026/6005 |
12.11.2026 |
COMUNICARE A COMISIEI
Orientări privind punerea în aplicare a obligațiilor de transparență pentru anumite sisteme de IA în temeiul articolului 50 din Regulamentul (UE) 2024/1689 („Regulamentul IA”)
(C/2026/6005)
Cuprins
|
1. |
CONTEXT ȘI OBIECTIVE | 3 |
|
2. |
PREZENTARE GENERALĂ A OBLIGAȚIILOR DE TRANSPARENȚĂ ȘI A TEMELOR ORIZONTALE | 3 |
|
2.1. |
Prezentare generală a obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA | 3 |
|
2.2. |
Justificare și obiective | 4 |
|
2.3. |
Actori responsabili în temeiul articolului 50 din Regulamentul IA | 5 |
|
2.4. |
Excluderi din domeniul de aplicare al Regulamentului privind IA | 7 |
|
2.4.1. |
Operatorii care acționează în contextul unei activități strict personale, fără caracter profesional | 7 |
|
2.4.2. |
Cercetare și dezvoltare | 8 |
|
2.4.3. |
Sisteme de IA lansate sub licențe libere și cu sursă deschisă | 8 |
|
2.5. |
Interacțiunea cu practicile interzise, cu cerințele pentru sistemele de IA cu grad ridicat de risc și cu alfabetizarea în domeniul IA | 9 |
|
2.6. |
Interacțiunea cu normele aplicabile modelelor și/sau sistemelor de IA de uz general | 9 |
|
3. |
ARTICOLUL 50 ALINEATUL (1) DIN REGULAMENTUL IA: TRANSPARENȚA SISTEMELOR DE IA INTERACTIVE | 9 |
|
3.1. |
Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente) | 10 |
|
3.1.1. |
Sisteme de IA destinate să interacționeze direct cu persoane fizice | 10 |
|
3.1.2. |
Obligația de divulgare prevăzută la articolul 50 alineatul (1) din Regulamentul IA | 12 |
|
3.2. |
Excepții de la obligația de informare prevăzută la articolul 50 alineatul (1) din Regulamentul IA | 14 |
|
3.2.1. |
Excepție pentru interacțiunea evidentă cu un sistem de IA | 14 |
|
3.2.2. |
Excepția pentru sistemele de IA autorizate prin lege în scopul aplicării legii | 16 |
|
3.3. |
Interacțiunea cu alte acte juridice ale Uniunii | 17 |
|
4. |
ARTICOLUL 50 ALINEATUL (2) DIN REGULAMENTUL IA: MARCAREA ȘI DETECTAREA CONȚINUTULUI GENERAT SAU MANIPULAT DE IA | 18 |
|
4.1. |
Principalele componente și concepte ale articolului 50 alineatul (2) din Regulamentul IA | 18 |
|
4.1.1. |
Sisteme de IA care generează sau manipulează conținut sintetic | 18 |
|
4.1.2. |
Modalitățile conținutului sintetic care intră în domeniul de aplicare | 19 |
|
4.1.3. |
Conținut care nu intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA | 20 |
|
4.2. |
Obligația de marcare și detectare prevăzută la articolul 50 alineatul (2) din Regulamentul IA | 21 |
|
4.2.1. |
Obligația de marcare | 21 |
|
4.2.2. |
Obligația de detectare | 22 |
|
4.2.3. |
Respectarea cerințelor privind soluțiile tehnice: eficace, interoperabile, solide și fiabile | 22 |
|
4.3. |
Excepții de la obligațiile prevăzute la articolul 50 alineatul (2) din Regulamentul IA | 24 |
|
4.4. |
Interacțiunea cu alte acte juridice ale Uniunii | 25 |
|
5. |
ARTICOLUL 50 ALINEATUL (3) DIN REGULAMENTUL IA: SISTEME DE RECUNOAȘTERE A EMOȚIILOR ȘI SISTEME DE CLASIFICARE BIOMETRICĂ | 26 |
|
5.1. |
Principalele componente, concepte și obligația (obligațiile) de transparență aferentă (aferente) în temeiul articolului 50 alineatul (3) din Regulamentul IA | 27 |
|
5.1.1. |
Noțiunea de sistem de recunoaștere a emoțiilor | 27 |
|
5.1.2. |
Noțiunea de sistem de clasificare biometrică | 27 |
|
5.1.3. |
Obligația de informare prevăzută la articolul 50 alineatul (3) din Regulamentul IA | 27 |
|
5.2. |
Excepția în scopul aplicării legii | 28 |
|
5.3. |
Interacțiunea cu alte acte juridice ale Uniunii | 28 |
|
6. |
ARTICOLUL 50 ALINEATUL (4): ETICHETAREA DEEPFAKE-URILOR ȘI A ANUMITOR TEXTE PUBLICATE | 28 |
|
6.1. |
Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente) în cazul deepfake-urilor în temeiul articolului 50 alineatul (4) din Regulamentul IA | 28 |
|
6.1.1. |
Noțiunea de „deepfake” | 29 |
|
6.1.2. |
Obligația de divulgare prevăzută la articolul 50 alineatul (4) primul paragraf din Regulamentul IA | 31 |
|
6.1.3. |
Transparența conținutului deepfake de natură artistică, creativă, satirică, fictivă sau a conținutului deepfake analog | 32 |
|
6.1.4. |
Excepția în scopul aplicării legii | 34 |
|
6.1.5. |
Interacțiunea cu alte acte juridice ale Uniunii | 34 |
|
6.2. |
Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente) în cazul textului generat sau manipulat de IA în temeiul articolului 50 alineatul (4) din Regulamentul IA | 35 |
|
6.2.1. |
Textul publicat cu scopul de a informa publicul cu privire la chestiuni de interes public | 36 |
|
6.2.2. |
Obligația de divulgare prevăzută la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA | 37 |
|
6.2.3. |
Excepția de la obligația de transparență în cazul textului supus verificării editoriale sau revizuirii umane și responsabilității editoriale | 37 |
|
6.2.4. |
Excepția în scopul aplicării legii | 38 |
|
6.2.5. |
Interacțiunea cu alte acte juridice ale Uniunii | 39 |
|
7. |
CERINȚE ORIZONTALE APLICABILE INFORMAȚIILOR FURNIZATE ÎN TEMEIUL ARTICOLULUI 50 ALINEATUL (5) DIN REGULAMENTUL IA | 39 |
|
7.1. |
Furnizarea informațiilor într-un mod clar și distinct | 39 |
|
7.2. |
Prima interacțiune sau prima expunere | 40 |
|
7.3. |
Conformitatea cu cerințele de accesibilitate aplicabile | 40 |
|
8. |
APLICAREA ARTICOLULUI 50 DIN REGULAMENTUL IA | 40 |
|
8.1. |
Efectele respectării unui cod de bune practici evaluat ca fiind adecvat | 41 |
|
8.2. |
Autoritățile de supraveghere a pieței | 42 |
|
8.3. |
Sancțiuni | 42 |
|
8.4. |
Punerea în aplicare | 42 |
|
9. |
REVIZUIREA ȘI ACTUALIZAREA ORIENTĂRILOR | 43 |
1. CONTEXT ȘI OBIECTIVE
|
(1) |
Regulamentul (UE) 2024/1689 al Parlamentului European și al Consiliului din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligența artificială și de modificare a anumitor regulamente („Regulamentul IA”) a intrat în vigoare la 1 august 2024 (1). Regulamentul IA stabilește norme armonizate pentru introducerea pe piață, punerea în funcțiune și utilizarea inteligenței artificiale („IA”) în Uniune (2). Scopul său este de a promova inovarea în domeniul IA și adoptarea unei IA de încredere, asigurând în același timp un nivel ridicat de protecție a sănătății, a siguranței și a drepturilor fundamentale în Uniune, inclusiv a democrației și a statului de drept. |
|
(2) |
Regulamentul IA urmează o abordare bazată pe riscuri, clasificând sistemele de IA în patru categorii de risc diferite, una dintre acestea fiind sistemele de IA care prezintă riscuri în materie de transparență și care sunt supuse obligațiilor prevăzute la articolul 50 din Regulamentul IA. Aceste obligații de transparență se aplică la doi ani de la intrarea în vigoare a Regulamentului privind IA, și anume începând cu 2 august 2026. |
|
(3) |
În temeiul articolului 96 alineatul (1) litera (d) din Regulamentul IA, prezentele orientări ale Comisiei sunt emise cu scopul de a servi drept orientări practice care să ajute autoritățile competente, precum și furnizorii și implementatorii de sisteme de IA să asigure respectarea obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA într-un mod coerent, eficace, proporțional și uniform. |
|
(4) |
Elaborarea prezentelor orientări s-a bazat pe contribuțiile primite de la diverse părți interesate în cursul unei consultări ample organizate de Comisie și pe contribuțiile statelor membre în cadrul Consiliului IA, precum și pe contribuțiile părților interesate cu privire la proiectul de orientări care au fost publicate spre consultare. |
|
(5) |
Prezentele orientări nu sunt obligatorii. Orice interpretare cu valoare de autoritate a Regulamentului IA poate fi dată, în cele din urmă, numai de Curtea de Justiție a Uniunii Europene („CJUE”). |
2. PREZENTARE GENERALĂ A OBLIGAȚIILOR DE TRANSPARENȚĂ ȘI A TEMELOR ORIZONTALE
2.1. Prezentare generală a obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA
|
(6) |
Articolul 50 din Regulamentul IA include patru obligații de transparență, fiecare aplicându-se diferitelor tipuri de sisteme de IA sau rezultatelor acestora.
|
|
(7) |
Fiecare dintre aceste patru obligații este examinată în secțiunile 3-6 din prezentele orientări. În plus, articolul 50 alineatul (5) din Regulamentul IA prevede că informațiile menționate la alineatele (1)-(4) sunt furnizate persoanelor fizice în cauză într-un mod clar și distinct, cel târziu în momentul primei interacțiuni sau al primei expuneri și sunt conforme cu cerințele de accesibilitate aplicabile. Secțiunea 7 clarifică aceste cerințe. |
|
(8) |
Diferitele obligații de transparență prevăzute la articolul 50 din Regulamentul IA se pot aplica cumulativ (rezultatelor) unui singur sistem de IA, implicând eventual responsabilitatea diferiților actori (furnizori sau implementatori). De exemplu, în cazul în care un sistem de IA generează imagini ca parte a unei interacțiuni directe cu o persoană fizică, este posibil ca furnizorul sistemului să fie nevoit să respecte atât articolul 50 alineatul (1), cât și alineatul (2) din Regulamentul IA. În cazul în care sistemul respectiv este, de asemenea, în măsură să genereze imagini care constituie deepfake-uri sau texte publicate cu privire la chestiuni de interes public, este posibil ca implementatorul să fie nevoit, în plus, să respecte articolul 50 alineatul (4) din Regulamentul IA. |
2.2. Justificare și obiective
|
(9) |
Astfel cum se explică în considerentele 132-136 din Regulamentul IA, scopul obligațiilor de transparență este de a reduce riscurile de uzurpare a identității, înșelăciune, dezinformare, manipulare la scară largă și fraudă și de a atenua potențialele efecte negative asupra proceselor democratice și a încrederii societale cauzate de conținutul sau interacțiunea generat(ă) sau manipulat(ă) de IA. Informarea persoanelor cu privire la originea artificială a interacțiunii și a conținutului le va ajuta să ia decizii în cunoștință de cauză, contribuind în același timp la protejarea încrederii și a integrității ecosistemului informațional. Transparența nu este doar o cerință de conformitate tehnică, ci și o condiție prealabilă pentru a permite persoanelor fizice să recunoască interacțiunile și conținutul mediate de IA sau utilizarea sistemelor de recunoaștere a emoțiilor sau de clasificare biometrică. Asigurarea utilizării transparente și fiabile a sistemelor de IA interactive și generative va permite, de asemenea, susținerea autonomiei personale și a valorilor europene, a demnității umane și a altor drepturi fundamentale (de exemplu, libertatea de gândire, viața privată, egalitatea și nediscriminarea, protecția consumatorilor, proprietatea intelectuală etc.), menținând în același timp libertatea de exprimare și credibilitatea conținutului mediatic. |
2.3. Actori responsabili în temeiul articolului 50 din Regulamentul IA
|
(10) |
În conformitate cu articolul 3 punctul 3 din Regulamentul IA, furnizorii sunt persoane fizice sau juridice, autorități publice, agenții sau alte organisme care dezvoltă sisteme de IA sau care comandă dezvoltarea acestora și le introduc pe piața Uniunii sau le pun în funcțiune sub propriul nume sau sub propria marcă comercială. Furnizorii trebuie să respecte obligațiile de transparență relevante prevăzute la articolul 50 alineatul (1) și alineatul (2) din Regulamentul IA care le sunt aplicabile, indiferent dacă sunt stabiliți sau situați în Uniune sau într-o țară terță (3). Furnizorii stabiliți sau situați în afara Uniunii fac, de asemenea, obiectul Regulamentului IA în cazul în care rezultatele sistemului lor de IA sunt utilizate în Uniune (4). Cu toate acestea, simpla utilizare accidentală, imprevizibilă sau neautorizată în aval nu ar trebui să declanșeze aplicarea obligațiilor față de astfel de furnizori din țări terțe de sisteme de IA interactive sau generative care nu sunt introduse pe piață sau puse în funcțiune în Uniune, fără a aduce atingere competențelor autorităților competente de supraveghere a pieței de a considera rezultatele lor ca fiind neconforme cu Regulamentul IA. |
|
(11) |
Furnizorii trebuie să se asigure că transparența este integrată în proiectarea și funcționarea sistemelor lor de IA interactive sau generative și că toate obligațiile relevante în materie de transparență prevăzute la articolul 50 alineatele (1), (2) și (5) din Regulamentul IA sunt îndeplinite cel târziu atunci când sistemele respective sunt introduse pe piață sau puse în funcțiune. Toate persoanele fizice care interacționează cu sistemul de IA sau sunt expuse rezultatelor acestuia care intră în domeniul de aplicare trebuie să fie informate în mod eficace și consecvent pe parcursul întregului ciclu de viață al sistemului de IA, astfel cum este introdus pe piață sau pus în funcțiune de furnizorul respectiv (indiferent de cine sunt implementatorii sau alți utilizatori ai sistemului).
|
|
(12) |
Implementatorii sunt persoane fizice sau juridice, autorități publice, agenții sau alte organisme care utilizează sisteme de IA aflate sub autoritatea lor, cu excepția cazului în care utilizarea este în cursul unei activități personale, fără caracter profesional (5). „Autoritatea” asupra unui sistem de IA ar trebui înțeleasă ca asumarea responsabilității pentru decizia de a implementa sistemul și pentru modul de utilizare efectivă a sistemului (inclusiv pentru rezultatele acestuia). Aceasta nu necesită neapărat un control tehnic asupra funcționării sistemului de IA, atât timp cât implementatorul ia decizia cu privire la scopurile și modul de utilizare a sistemului de IA (inclusiv în fluxurile de lucru descentralizate și în structurile corporative de grup). Implementatorii implicați în lanțuri valorice complexe de producție și distribuție de conținut ar trebui să ia măsuri proporționale pentru a se asigura că etichetarea conținutului implementat în temeiul articolului 50 alineatul (4) din Regulamentul IA este afișată într-un mod clar și distinct pentru publicul vizat și previzibil în momentul primei expuneri în conformitate cu articolul 50 alineatul (5) din Regulamentul IA [de exemplu, prin intermediul condițiilor contractuale convenite cu partenerii de distribuție, al setărilor privind experiența utilizatorilor (UX) și al interfețelor care urmează să fie afișate]. |
|
(13) |
Implementatorii intră în domeniul de aplicare al obligațiilor de transparență prevăzute la articolul 50 alineatele (3) și (4) din Regulamentul IA dacă își au sediul sau se află într-o țară terță, în cazul în care rezultatele produse de sistemele de IA sunt utilizate în Uniune (6). În acest din urmă caz, obligațiile de transparență se aplică entităților care se află sau își au sediul în afara Uniunii, în cazul în care implementatorul însuși prevede difuzarea și utilizarea rezultatelor IA în Uniune (și anume prin dirijarea sau autorizarea distribuției în Uniune, inclusiv prin postarea de deepfake-uri pe internetul accesibil la nivel mondial). Cu toate acestea, implementatorii din țări terțe nu sunt supuși obligațiilor de transparență în cazul în care conținutul sistemului de IA ajunge la publicul din Uniune prin canale care sunt imprevizibile și în afara controlului lor. |
|
(14) |
În cazul în care implementatorul unui sistem de IA este o persoană juridică sub a cărei autoritate este utilizat sistemul (de exemplu, o companie de publicitate), angajații individuali care acționează în conformitate cu instrucțiunile și sub controlul persoanei juridice respective (de exemplu, animatori digitali, proiectanți web, creatori de conținut, jurnaliști) nu ar trebui să fie considerați implementatori separați pentru sistemul respectiv. O persoană juridică rămâne implementator chiar și în cazul în care implică părți terțe (de exemplu contractanți, liber-profesioniști) în exploatarea sistemului în numele său și sub responsabilitatea și controlul său.
|
|
(15) |
Operatorii (de exemplu, furnizorii și implementatorii) pot îndeplini simultan mai multe roluri în legătură cu un sistem de IA. De exemplu, o întreprindere ar putea dezvolta la nivel intern un sistem de IA generativ și l-ar putea utiliza pentru generarea de deepfake-uri. Într-un astfel de caz, aceasta va avea atât rol de furnizor, cât și rol de implementator care trebuie să asigure respectarea obligațiilor de marcare într-un format prelucrabil automat în temeiul articolului 50 alineatul (2) și a cerințelor privind o etichetare clară și perceptibilă a deepfake-urilor în temeiul articolului 50 alineatul (4) din Regulamentul IA. |
|
(16) |
În schimb, alți actori (cum ar fi furnizorii de servicii de găzduire, inclusiv platformele online, sau radiodifuzorii) al căror rol se limitează la difuzarea sau transmiterea de conținut generat sau manipulat de IA creat de terți sau care primesc sau sunt expuși la conținut generat sau manipulat de IA fără a avea autoritate de a decide cu privire la utilizarea sistemului de IA în scopul generării sau manipulării conținutului prin IA nu sunt implementatori în sensul Regulamentului privind IA. Fără a fi responsabili și răspunzători în temeiul Regulamentului privind IA, actorii respectivi pot îndeplini totuși un rol important în lanțul valoric pentru menținerea încrederii în ecosistemul informațional și a integrității acestuia. Prin urmare, aceștia sunt puternic încurajați să mențină marcarea și etichetarea puse în aplicare în temeiul articolului 50 din Regulamentul IA și să pună în aplicare măsuri proporționale și fezabile din punct de vedere tehnic pentru a permite persoanelor fizice să detecteze conținutul generat sau manipulat de IA, fără a aduce atingere responsabilității furnizorilor și implementatorilor de sisteme de IA generative sau oricăror obligații sau răspunderi în temeiul Regulamentului (UE) 2022/2065 (Regulamentul privind serviciile digitale) (7) sau al altor dispoziții aplicabile din dreptul Uniunii sau din dreptul intern. |
|
(17) |
Alți actori care acționează în cadrul exercitării profesiei lor și diseminează conținut (chiar dacă nu intră în mod direct sub incidența articolului 50 din Regulamentul IA) sunt, de asemenea, încurajați să ia măsuri proporționale și adecvate, astfel încât persoanele fizice care sunt în cele din urmă expuse conținutului să fie informate în mod eficace și să poată detecta faptul că acesta a fost generat sau manipulat artificial. În plus, acestor părți li se poate solicita să eticheteze deepfake-urile sau textele publicate respective cu privire la chestiuni de interes public în temeiul altor norme juridice sau deontologice aplicabile (de exemplu, etichetarea unui radiodifuzor și afișarea ca parte a unui program TV a unui deepfake creat de o persoană privată). Cu toate acestea, simplul fapt că un actor etichetează conținutul sau utilizează conținut etichetat nu înseamnă că acesta din urmă se califică drept „implementator” în sensul Regulamentului privind IA. Regulamentul IA nu extinde și nu afectează responsabilitatea juridică a actorilor respectivi în temeiul cadrelor juridice aplicabile, dacă aceștia nu se califică în același timp drept furnizori sau implementatori de sisteme de IA. |
2.4. Excluderi din domeniul de aplicare al Regulamentului privind IA
|
(18) |
Articolul 2 din Regulamentul IA prevede o serie de excluderi generale din domeniul de aplicare al Regulamentului privind IA care au fost deja clarificate în Orientările Comisiei privind practicile interzise în domeniul inteligenței artificiale (8). În consecință, prezenta secțiune va aborda numai aspectele care sunt relevante pentru obligațiile de transparență prevăzute la articolul 50 din Regulamentul IA. |
2.4.1. Operatorii care acționează în contextul unei activități strict personale, fără caracter profesional
|
(19) |
Articolul 2 alineatul (10) din Regulamentul IA prevede că Regulamentul IA „nu se aplică obligațiilor implementatorilor persoane fizice care utilizează sisteme de IA în cursul unei activități strict personale, fără caracter profesional” (9). Orice activitate prin care o persoană fizică obține un beneficiu economic în mod regulat sau este implicată în alt mod într-o activitate profesională, de afaceri, comercială, ocupațională sau independentă ar trebui să fie considerată o activitate „profesională”. Precizarea „strict personal” califică noțiunea de activitate neprofesională, ceea ce înseamnă că, pentru a intra sub incidența excepției, persoana în cauză trebuie să acționeze atât în cursul unei activități personale, cât și în cursul unei activități fără caracter profesional. Orice utilizare de către persoane fizice care acționează în numele sau sub autoritatea unui implementator care acționează în cursul unei activități profesionale va intra în domeniul de aplicare al obligațiilor de transparență ale implementatorului profesionist prevăzute la articolul 50 alineatele (3) și (4) din Regulamentul IA.
|
|
(20) |
Excluderea de la articolul 2 alineatul (10) din Regulamentul IA se aplică numai în ceea ce privește obligațiile implementatorilor atunci când utilizează sistemul pentru activități pur personale, fără caracter profesional. Sistemul ca atare rămâne în domeniul de aplicare al Regulamentului privind IA în ceea ce privește obligațiile furnizorilor care introduc sistemul pe piață sau îl pun în funcțiune și ale implementatorilor care utilizează sistemul pentru uz profesional. De asemenea, excepția nu aduce atingere aplicării altor dispoziții relevante din dreptul Uniunii și din dreptul intern.
|
2.4.2. Cercetare și dezvoltare
|
(21) |
Articolul 2 alineatul (6) din Regulamentul IA prevede o excludere, acesta neaplicându-se „sistemelor de IA sau modelelor de IA, inclusiv rezultatelor acestora, dezvoltate și puse în funcțiune special și exclusiv pentru cercetare și dezvoltare științifică”. Această excludere nu aduce atingere standardelor etice, legislației UE privind protecția datelor și altor acte legislative aplicabile în materie de cercetare. În contextul articolului 50 din Regulamentul IA, această excludere acoperă nu numai sistemele de IA interactive, ci și rezultatele sistemelor de IA generative (inclusiv conținutul deepfake) utilizate în contextul cercetării științifice. Cu toate acestea, în cazul în care aceste sisteme sunt puse în funcțiune sau rezultatele lor sunt utilizate în alte scopuri decât exclusiv în scopul cercetării și dezvoltării științifice, obligațiile de transparență relevante prevăzute la articolul 50 din Regulamentul IA ar trebui să fie respectate în continuare.
|
|
(22) |
Articolul 2 alineatul (8) din Regulamentul IA exclude, de asemenea, activitățile de cercetare, testare sau dezvoltare privind sisteme de IA sau modele de IA, înainte ca acestea să fie introduse pe piață sau puse în funcțiune. Testarea în condiții reale (în interiorul sau în afara spațiilor de testare în materie de reglementare a IA) nu face obiectul excluderii menționate. În plus, odată ce un sistem de IA este introdus pe piață sau pus în funcțiune ca urmare a unor astfel de activități de cercetare și testare, acesta ar trebui totuși să respecte obligațiile de transparență relevante în temeiul articolului 50 din Regulamentul IA (10). |
2.4.3. Sisteme de IA lansate sub licențe libere și cu sursă deschisă
|
(23) |
În conformitate cu articolul 2 alineatul (12) din Regulamentul IA, sistemele de IA lansate sub licențe libere și cu sursă deschisă nu intră în domeniul de aplicare al Regulamentului privind IA, cu condiția să nu intre sub incidența interdicțiilor prevăzute la articolul 5 din Regulamentul IA sau a obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA sau să nu fie clasificate ca prezentând un grad ridicat de risc (11). Aceasta înseamnă că furnizorii și implementatorii de sisteme de IA cu sursă deschisă care intră în domeniul de aplicare al articolului 50 din Regulamentul IA trebuie să asigure în continuare respectarea obligațiilor lor de transparență respective. |
|
(24) |
În schimb, furnizorii de componente de IA gratuite și cu sursă deschisă care includ software, date, modele, instrumente, servicii sau procese de personalizare și integrare într-un sistem de IA și care nu constituie în sine (parțial sau integral) un sistem de IA nu fac obiectul obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA. Cu toate acestea, furnizorii unor astfel de sisteme sunt încurajați să conceapă modelele, componentele și serviciile respective în modul descris la punctul 27 de mai jos, în măsura în care acest lucru este proporțional și fezabil. |
2.5. Interacțiunea cu practicile interzise, cu cerințele pentru sistemele de IA cu grad ridicat de risc și cu alfabetizarea în domeniul IA
|
(25) |
Considerentul 137 din Regulamentul IA clarifică faptul că respectarea obligațiilor privind transparența prevăzute la articolul 50 din Regulamentul IA pentru un anumit sistem de IA nu poate fi interpretată ca indicând faptul că utilizarea sistemului de IA respectiv sau a rezultatelor sale este legală în temeiul Regulamentului privind IA. În special, sistemele de IA care fac obiectul obligațiilor prevăzute la articolul 50 din Regulamentul IA pot intra sub incidența articolului 5 din Regulamentul IA și, prin urmare, pot fi interzise (de exemplu, utilizarea sistemelor de recunoaștere a emoțiilor în sfera locului de muncă și a instituțiilor de învățământ) (12). În plus, sistemele de IA care intră în domeniul de aplicare al articolului 50 din Regulamentul IA pot fi, de asemenea, clasificate ca prezentând un grad ridicat de risc (13) și pot fi supuse cerințelor și obligațiilor relevante pentru astfel de sisteme. Prin urmare, respectarea articolului 50 din Regulamentul IA nu înlocuiește, nu limitează și nu afectează obligațiile care decurg din alte dispoziții ale Regulamentului privind IA (14). În același timp, sistemele de IA pot intra, de asemenea, în domeniul de aplicare al articolului 50 din Regulamentul IA fără a fi clasificate ca prezentând un grad ridicat de risc în temeiul articolului 6 din Regulamentul IA. Cerințele de alfabetizare prevăzute la articolul 4 din Regulamentul IA se aplică, de asemenea, atât furnizorilor, cât și implementatorilor de sisteme de IA care intră în domeniul de aplicare al articolului 50 din Regulamentul IA. |
2.6. Interacțiunea cu normele aplicabile modelelor și/sau sistemelor de IA de uz general
|
(26) |
Articolul 50 din Regulamentul IA se aplică anumitor sisteme de IA, care includ sisteme de IA de uz general (denumite în continuare „sisteme de IA de uz general”) (15), cum ar fi roboții de chat care sprijină interacțiunea directă cu persoane fizice sau sistemele de IA care au capabilitatea de a genera sau de a manipula conținut sintetic (inclusiv deepfake-uri) (16). |
|
(27) |
Articolul 50 din Regulamentul IA nu se aplică în mod explicit modelelor de IA de uz general. Cu toate acestea, în cazul în care un sistem de IA interactiv sau generativ care intră în domeniul de aplicare al articolului 50 alineatul (1) sau (2) din Regulamentul IA se bazează pe un model de IA de uz general pus la dispoziție de același furnizor, măsurile de transparență prevăzute în prezentele orientări ar putea fi puse în aplicare și la nivelul modelului (a se vedea, de asemenea, secțiunea 4 de mai jos). În plus, deși nu intră în domeniul de aplicare al articolului 50 din Regulamentul IA, furnizorii de alte modele de IA de uz general și de alte modele de IA generative sunt, de asemenea, încurajați să pună în aplicare măsuri adecvate de transparență la nivel de model pentru identificarea sistemelor de IA interactive și marcarea conținutului generat și manipulat de IA. Acest lucru este deosebit de util pentru a facilita respectarea de către furnizorii de sisteme de IA din aval a obligațiilor care le revin în temeiul articolului 50 alineatele (1) și (2) din Regulamentul IA (17) și pentru a contribui la menținerea încrederii în ecosistemul informațional și a integrității acestuia. În cazul modelelor de IA de uz general care prezintă risc sistemic, măsurile de siguranță aplicate la nivelul modelului pentru identificarea interacțiunilor cu IA și marcarea conținutului generat sau manipulat de IA pot să facă parte, după caz, dintr-un set mai amplu de măsuri de atenuare pe care furnizorii le pot lua în cadrul obligației lor de a atenua riscurile sistemice în temeiul articolului 55 alineatul (1) litera (b) din Regulamentul IA. |
3. ARTICOLUL 50 ALINEATUL (1) DIN REGULAMENTUL IA: TRANSPARENȚA SISTEMELOR DE IA INTERACTIVE
|
(28) |
Articolul 50 alineatul (1) din Regulamentul IA vizează furnizorii de sisteme de IA care interacționează direct cu persoane fizice, care trebuie să își proiecteze și să își dezvolte sistemele astfel încât persoanele fizice în cauză să fie informate că interacționează cu un sistem de IA. Astfel cum se explică în considerentul 132 din Regulamentul IA, scopul acestei obligații de informare este de a permite persoanelor fizice respective să ia decizii în cunoștință de cauză cu privire la rezultatele sistemului, de a evita dependența excesivă de astfel de sisteme și de a permite persoanelor fizice respective să își calibreze încrederea în conținut și să își adapteze interacțiunile în consecință. |
3.1. Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente)
|
(29) |
Obligația de transparență prevăzută la articolul 50 alineatul (1) din Regulamentul IA se aplică furnizorilor de sisteme de IA în cazul în care sistemul este destinat să interacționeze direct cu persoane fizice, iar interacțiunea respectivă nu intră sub incidența niciuneia dintre următoarele excepții: (1) acest lucru este evident din punctul de vedere al unei persoane fizice rezonabil de bine informată, de atentă și de avizată sau (2) sistemul este autorizat prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile, cu excepția cazului în care sistemul este disponibil publicului pentru a denunța o infracțiune. |
3.1.1. Sisteme de IA destinate să interacționeze direct cu persoane fizice
|
(30) |
Pentru ca un sistem să intre în domeniul de aplicare al articolului 50 alineatul (1) din Regulamentul IA, trebuie să fie întrunite patru elemente: (i) sistemul trebuie să fie un sistem de IA, (ii) destinat să interacționeze, (iii) direct (iv) cu persoane fizice.
|
|
(31) |
Agenții de IA intră sub incidența articolului 50 alineatul (1) din Regulamentul IA dacă sunt capabili să interacționeze cu persoanele care îi antrenează sau cu alte persoane fizice în cursul îndeplinirii sarcinilor (de exemplu, efectuarea de rezervări, gestionarea corespondenței, negocierea sau încheierea de contracte, efectuarea de achiziții etc.). Agenții IA trebuie să fie proiectați și dezvoltați astfel încât să dezvăluie atât natura lor artificială, cât și persoana în numele căreia acționează, având în vedere necesitatea transparenței în ceea ce privește originea și delegarea autorității, precum și răspunderea pentru consecințele acțiunilor lor. Printre acestea se numără cazurile în care agenții de IA sunt capabili să interacționeze, în cadrul unor arhitecturi complexe multi-agenți, cu alți agenți IA care interacționează direct cu persoane fizice în cursul îndeplinirii sarcinii. Cu toate acestea, este posibil să nu fie întotdeauna posibil ca furnizorul agentului IA să identifice în prealabil cazurile individuale de interacțiune directă a unui agent IA cu alte persoane fizice odată ce agentul IA este implementat în diferite contexte. În cazul în care furnizorul nu poate stabili în mod cert dacă agentul IA va interacționa direct cu o persoană fizică înainte de a introduce agentul IA pe piață sau de a-l pune în funcțiune, agentul ar trebui să fie conceput la nivel de arhitectură și instruit să se identifice ca atare în orice situație în care este probabil în mod rezonabil ca agentul să interacționeze cu o persoană fizică (inclusiv în cazul în care o persoană fizică poate reprezenta o entitate juridică sau poate acționa în numele acesteia). În plus, agenții de IA ar trebui, de asemenea, să se identifice ca atare persoanelor care îi instruiesc în etape-cheie (de exemplu, în momentul autorizării, raportării, validării etc., inclusiv atunci când agentul IA implementat primește, prelucrează sau se bazează pe rezultatele generate de alte sisteme de IA și nu direct de o persoană fizică) și la fiecare nouă interacțiune.
|
3.1.2. Obligația de divulgare prevăzută la articolul 50 alineatul (1) din Regulamentul IA
|
(32) |
Articolul 50 alineatul (1) din Regulamentul IA obligă furnizorii de sisteme de IA care interacționează direct cu persoane fizice să se asigure că sistemele lor de IA (inclusiv agenții IA și sistemele de IA de uz general) sunt proiectate și dezvoltate astfel încât persoanele fizice în cauză să fie informate că interacționează cu un sistem de IA. |
|
(33) |
Deși mecanismul de informare ar trebui să fie integrat în proiectarea și dezvoltarea sistemului și în modul în care sistemul interacționează cu persoanele fizice, notificarea ar trebui să fie furnizată în timpul funcționării sistemului de IA și cel târziu în momentul primei interacțiuni cu persoana fizică [astfel cum se prevede la articolul 50 alineatul (5) din Regulamentul IA, a se vedea secțiunea 7 de mai jos]. Furnizorii au responsabilitatea de a se asigura că, după introducerea pe piață sau punerea în funcțiune a sistemului de IA, persoanele fizice care interacționează cu sistemul de IA sunt informate în mod eficace și consecvent pe parcursul întregului ciclu de viață al sistemului de IA, astfel cum este introdus pe piață sau pus în funcțiune de furnizorul respectiv.2.2 |
|
(34) |
Formatul în care are loc divulgarea: articolul 50 alineatul (1) din Regulamentul IA nu specifică nicio tehnică specifică de divulgare. Prin urmare, furnizorii pot alege orice tehnică adecvată, atât timp cât sunt îndeplinite două cerințe: (i) să fie respectate cerințele prevăzute la articolul 50 alineatul (5) din Regulamentul IA referitoare la furnizarea de informații într-un mod clar și distinct, cel târziu în momentul primei interacțiuni (a se vedea secțiunea 7 de mai jos) și (ii) să fie luate în considerare caracteristicile persoanelor fizice care aparțin grupurilor vulnerabile din motive de vârstă (de exemplu, copii sau persoane în vârstă) sau dizabilitate, în măsura în care sistemul de IA este destinat sau este susceptibil în mod rezonabil să interacționeze cu persoane fizice care aparțin grupurilor respective (de exemplu, inclusiv atunci când sistemul de IA este susceptibil în mod rezonabil să interacționeze cu publicul larg) (19). Informațiile trebuie furnizate, de asemenea, într-un format accesibil pentru persoanele fizice cu dizabilități, astfel cum se specifică la articolul 50 alineatul (5) și în considerentul 132 din Regulamentul IA (a se vedea secțiunea 7). În cazul în care sistemul poate interacționa cu copiii, notificările respective trebuie să fie adaptate copiilor, adecvate vârstei, ușor de înțeles și ușor accesibile pentru toți copiii, inclusiv pentru cei cu dizabilități sau cu nevoi suplimentare în materie de accesibilitate. Atunci când sunt disponibile și adecvate, furnizorilor li se recomandă să utilizeze practici și etichete standardizate de divulgare pentru a asigura eficacitatea și consecvența notificărilor și pentru a spori gradul de conștientizare în rândul utilizatorilor. |
|
(35) |
Conținutul notificării: articolul 50 alineatul (1) din Regulamentul IA impune furnizorilor de sisteme de IA interactive să le proiecteze și să le dezvolte astfel încât toate persoanele fizice care interacționează cu astfel de sisteme de IA să fie informate în mod explicit cu privire la natura artificială, neumană, a interlocutorului. În cazul în care furnizorul preconizează în mod rezonabil că sistemul de IA poate interacționa cu persoane fizice care aparțin grupurilor vulnerabile menționate mai sus, informațiile ar trebui adaptate în consecință și furnizate într-un format accesibil, astfel cum se prevede în dreptul aplicabil al Uniunii, pentru a asigura și înțelegerea deplină a acestora de către persoanele fizice respective (20). |
|
(36) |
Notificările ar trebui să ofere informații cu privire la originea artificială a interacțiunii în moduri adecvate contextului în care are loc interacțiunea. Acest lucru ar trebui realizat astfel încât persoanele în cauză să fie informate în mod corespunzător și efectiv, evitându-se orice risc de înșelăciune sau de manipulare înaintea și pe parcursul interacțiunii și asigurându-se totodată că divulgarea este fezabilă și proporțională. Printre exemplele de furnizare a informațiilor se numără notificările în scris (de exemplu, un robot de chat care inițiază o conversație menționând că se bazează pe tehnologia IA), mijloacele vizuale (de exemplu, un e-mail generat de un agent IA trimis unei persoane fizice care are o etichetă de IA în partea de sus), mijloacele auditive (de exemplu, un asistent vocal care spune la începutul unei sesiuni că se bazează pe IA), divulgarea identificatorilor de IA și a credențialelor (de exemplu, agenți de IA care își divulgă identitatea de IA, în măsura posibilului, într-un mod verificabil) (21). |
|
(37) |
Formatul notificărilor: se recomandă, ca bună practică, proiectarea sistemului de IA astfel încât să permită modalități multimodale și accesibile de divulgare. După caz și în funcție de context, de grupurile care constituie publicul vizat și previzibil și de resursele de care dispun furnizorii, în special întreprinderile mici și mijlocii (IMM-uri), astfel de notificări pot combina diferite tehnici pentru a facilita înțelegerea de către utilizatori. Printre exemplele de tehnici adecvate se pot număra:
|
|
(38) |
Anumite tehnici nu sunt necesare și, atunci când sunt utilizate separat, sunt insuficiente pentru îndeplinirea efectivă a obligației de transparență prevăzute la articolul 50 alineatul (1) și alineatul (5) din Regulamentul IA, în special:
|
|
(39) |
Divulgările ar trebui să fie proporționale și adaptate diferitelor contexte și categorii de public vizat ale sistemului de IA, astfel încât să rămână eficace și ușor de utilizat și să se evite, în măsura posibilului, eventuale perturbări ale experienței utilizatorului sau efectele de acomodare (așa-numita „ignorare a bannerelor”). |
|
(40) |
O singură divulgare, prezentată în mod vizibil înainte de prima interacțiune a sistemului de IA cu o anumită persoană fizică, este probabil suficientă, în majoritatea cazurilor, pentru îndeplinirea obligației prevăzute la articolul 50 alineatul (1) din Regulamentul IA. Cu toate acestea, în anumite contexte care implică riscuri mai mari, este probabil să fie necesare atenționări periodice și divulgări adaptate contextului pentru a asigura menținerea gradului de sensibilizare al utilizatorilor. Acest lucru este valabil în special în contextul sistemelor de IA care interacționează cu persoane vulnerabile (de exemplu, copii, persoane în vârstă, persoane cu dizabilități și persoane cu un nivel mai scăzut de alfabetizare), al interacțiunilor susținute și în continuă evoluție în contexte sensibile sau imersive (de exemplu, atunci când utilizatorii pot exprima sau resimți suferință emoțională ori vulnerabilitate sau pot fi expuși riscului de unor comportamente similare dependenței), atunci când există un risc sporit ca utilizatorii să fie induși în eroare (de exemplu, în contextul consilierii financiare, al asigurărilor, al asistenței juridice, al consilierii în materie de sănătate și al soluționării reclamațiilor) sau să dezvolte atașamente ori dependențe emoționale (de exemplu, față de companioni IA), precum și atunci când este necesar să se asigure sensibilizarea cu privire la acțiunile agenților IA și controlul asupra acestora. Furnizorii trebuie, de asemenea, să proiecteze și să dezvolte sistemul de IA astfel încât divulgarea să fie asigurată în toate situațiile în care sistemului de IA i se adresează întrebări cu privire la natura sa sau la originea interacțiunii ori în care, pe baza schimburilor cu persoana fizică, se poate presupune în mod rezonabil că aceasta riscă să fie indusă în eroare sau să întâmpine confuzii cu privire la originea artificială a interacțiunii. |
3.2. Excepții de la obligația de informare prevăzută la articolul 50 alineatul (1) din Regulamentul IA
|
(41) |
Articolul 50 alineatul (1) din Regulamentul IA prevede două excepții de la obligația de informare privind sistemele de IA interactive examinate mai jos. |
3.2.1. Excepție pentru interacțiunea evidentă cu un sistem de IA
|
(42) |
Pentru a putea invoca prima excepție, furnizorii vor trebui să evalueze și să demonstreze: (i) caracterul artificial evident al interacțiunii pentru (ii) o persoană fizică rezonabil de bine informată, de atentă și de avizată, ținând seama de circumstanțele și contextul de utilizare. |
|
(43) |
Acest standard se întemeiază pe dreptul consacrat al UE în materie de protecție a consumatorilor în ceea ce privește noțiunea de „consumator mediu” și ar trebui interpretat în mod consecvent, ținând seama totodată de contextele și utilizările specifice și variate ale sistemelor de IA care interacționează direct cu persoane fizice, precum și de obiectivele urmărite de articolul 50 alineatul (1) din Regulamentul IA. |
|
(44) |
Conturarea profilului unei astfel de persoane fizice „medii” cuprinde două etape. În primul rând, furnizorii ar trebui să ia în considerare publicul cu care sistemul de IA este destinat să interacționeze și cu care este susceptibil în mod rezonabil să interacționeze. În al doilea rând, furnizorul ar trebui să examineze în ce măsură membrul mediu al publicului respectiv este rezonabil de bine informat, de atent și de avizat, ținând seama de circumstanțele și contextul de utilizare. La efectuarea acestei evaluări ar trebui luați în considerare mai mulți factori:
|
|
(45) |
Caracterul evident: după stabilirea profilului ipotetic al persoanei fizice rezonabil de bine informată, de atentă și de avizată, furnizorii ar trebui să evalueze dacă pentru o astfel de persoană va fi evident că interacționează direct cu un sistem de IA. Excepția ar trebui interpretată în mod restrictiv, având în vedere că privează persoanele fizice de protecție și de dreptul de a fi informate prin divulgări clare și distincte că interacționează cu sistemele de IA. Faptul că, în general, consumatorii și alte persoane fizice sunt conștienți de existența sistemelor de IA (inclusiv a roboților de chat și a agenților IA) nu înseamnă că le și recunosc în cadrul interacțiunilor. Există mai mulți factori care pot fi relevanți și luați în considerare în cadrul evaluării dacă interacțiunea este evidentă:
|
3.2.2. Excepția pentru sistemele de IA autorizate prin lege în scopul aplicării legii
|
(46) |
Furnizorii de sisteme de IA interactive sunt scutiți de obligația de transparență prevăzută la articolul 50 alineatul (1) din Regulamentul IA dacă sunt autorizați prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile, sub rezerva unor garanții adecvate pentru drepturile și libertățile terților. |
|
(47) |
„Autorizat prin lege” trebuie înțeles ca incluzând dreptul Uniunii, precum și dreptul intern al statelor membre adoptat în conformitate cu dreptul Uniunii. Legea care autorizează utilizarea sistemului de IA trebuie să specifice în mod clar scopurile și circumstanțele utilizării permise și să prevadă garanții adecvate pentru a proteja drepturile și libertățile terților. Având în vedere abordarea neutră din punct de vedere tehnologic a Regulamentului privind IA, nu este necesar să se identifice sau să se autorizeze prin lege anumite sisteme de IA în cazul în care utilizarea sistemului de IA este avută în vedere, în general, în domeniul de aplicare al activității autorizate din punct de vedere juridic și respectă cadrul juridic aplicabil. |
|
(48) |
Pentru a intra sub incidența acestei excepții, scopul sistemului de IA trebuie să fie acela de a depista, a preveni, a investiga sau a urmări penal infracțiunile (de exemplu, agenți de IA sub acoperire, sisteme de IA utilizate sub controlul uman al anchetatorilor pentru investigații online sau comunicarea cu persoane care pot fi implicate în activități infracționale). Excepția nu se limitează la utilizarea unor astfel de sisteme de IA numai de către autoritățile de aplicare a legii, astfel cum sunt definite la articolul 3 punctul 48 din Regulamentul IA, ci poate acoperi, de asemenea, sistemele de IA interactive (sau generative) utilizate de alte autorități publice ale Uniunii sau naționale, cu condiția ca utilizarea acestora să fie autorizată prin lege pentru a detecta, a preveni, a investiga sau a urmări penal infracțiunile și să facă obiectul unor garanții adecvate pentru protejarea drepturilor și libertăților terților. Excepția nu impune ca sistemul de IA să fie capabil să efectueze investigațiile în mod independent. Dacă un anumit sistem poate fi utilizat atât în scopul aplicării legii, cât și în alte scopuri obișnuite, aplicabilitatea excepției ar trebui evaluată în funcție de utilizarea concretă. Obligațiile de transparență continuă să se aplice când același sistem de IA este implementat în alte scopuri decât cele autorizate prin lege pentru a detecta, a preveni, a investiga sau a urmări penal infracțiunile. Persoanele fizice trebuie să beneficieze în continuare de transparență atunci când interacționează cu sistemul în cadrul utilizărilor obișnuite ale acestuia. |
|
(49) |
Excepția nu se aplică dacă (i) sistemul de IA este disponibil publicului și (ii) sistemul oferă persoanelor fizice o funcționalitate de raportare a infracțiunilor. Aceste sisteme pot fi utilizate, dar rămân supuse obligației de transparență prevăzute la articolul 50 alineatul (1) din Regulamentul IA, astfel încât persoanele fizice trebuie să fie informate că interacționează cu astfel de sisteme.
Pentru mai multă claritate, această excepție se referă exclusiv la obligația prevăzută la articolul 50 alineatul (1) de a informa persoanele fizice că interacționează cu un sistem de IA (22). Aceasta nu aduce atingere dreptului Uniunii și dreptului intern aplicabile, inclusiv normelor procedurale privind documentarea, divulgarea, admisibilitatea și evaluarea probelor.
|
3.3. Interacțiunea cu alte acte juridice ale Uniunii
|
(50) |
Obligația de transparență prevăzută la articolul 50 alineatul (1) din Regulamentul IA se aplică fără a aduce atingere legislației existente a Uniunii privind protecția consumatorilor, protecția datelor, domeniul digital sau nediscriminarea, care poate prevedea alte divulgări care nu sunt specifice originii artificiale a interacțiunii. În special, în temeiul Directivei 2005/29/CE (Directiva privind practicile comerciale neloiale sau „DPCN”) (23), sunt interzise acțiunile sau omisiunile înșelătoare în ceea ce privește principalele caracteristici ale unui produs sau serviciu. În plus, Directiva 2011/83/CE („Directiva privind drepturile consumatorilor”) (24) impune comercianților să furnizeze informații precontractuale clare și ușor de înțeles cu privire la principalele caracteristici ale bunurilor sau serviciilor. În cazul în care un serviciu este bazat pe IA (cum ar fi un robot de chat pe bază de abonament, o aplicație de companion IA sau un serviciu virtual de îndrumare), funcționalitatea bazată pe IA poate constitui o caracteristică esențială care trebuie dezvăluită înainte ca respectivul consumator să își asume obligații în temeiul unui contract. Obligațiile de informare prevăzute de dreptul Uniunii în materie de protecție a consumatorilor se aplică indiferent dacă interacțiunea este considerată „evidentă” în temeiul articolului 50 alineatul (1) din Regulamentul IA. Aceste obligații au, de asemenea, un caracter complementar, fiind obligații generale de informare în materie de protecție a consumatorilor, în timp ce obligația de notificare în temeiul Regulamentului privind IA este mai strâns legată de context și urmărește să asigure faptul că toate persoanele fizice sunt permanent conștiente că interacționează direct cu un sistem de IA, cel târziu înainte de începerea interacțiunii și pe tot parcursul acesteia. |
|
(51) |
Regulamentul privind serviciile digitale include, de asemenea, cerințe de transparență pentru sistemele de recomandare ale platformelor online, inclusiv o cerință de a explica principalii parametri utilizați pentru stabilirea ordinii de prioritate. Aceste obligații sunt complementare obligațiilor de transparență prevăzute la articolul 50 alineatul (1) din Regulamentul IA, întrucât au un domeniu de aplicare și un scop diferite și se referă la sisteme care, în principiu, nu interacționează direct cu utilizatorii în sensul articolului 50 alineatul (1) din Regulamentul IA. |
|
(52) |
În ceea ce privește obligațiile de informare față de persoanele vizate în temeiul dreptului Uniunii privind protecția datelor, obligația prevăzută la articolul 50 alineatul (1) din Regulamentul IA îndeplinește un obiectiv diferit de cel al obligațiilor respective și, ca atare, nu aduce atingere acestora. |
|
(53) |
În mod similar, obligația de transparență prevăzută la articolul 50 alineatul (1) din Regulamentul IA se aplică fără a aduce atingere dreptului Uniunii și dreptului intern privind furnizarea de informații persoanelor în contextul procedurilor penale [de exemplu, Directiva 2012/13/UE sau Directiva 2012/29/UE, astfel cum a fost modificată prin Directiva (UE) 2026/1472] (25). |
4. ARTICOLUL 50 ALINEATUL (2) DIN REGULAMENTUL IA: MARCAREA ȘI DETECTAREA CONȚINUTULUI GENERAT SAU MANIPULAT DE IA
|
(54) |
Articolul 50 alineatul (2) din Regulamentul IA impune furnizorilor de sisteme de IA care generează conținut sintetic să pună în aplicare soluții tehnice care îndeplinesc anumite cerințe de calitate pentru marcarea într-un format prelucrabil automat și detectarea rezultatelor sistemelor lor de IA. Obiectivul este de a permite persoanelor fizice să facă distincția între conținutul generat sau manipulat de IA și alte conținuturi (de exemplu, conținutul creat de oameni) și să verifice originea acestuia, contribuind astfel și la creșterea integrității și a încrederii în ecosistemul informațional. |
|
(55) |
Prin urmare, beneficiarii acestei obligații de transparență sunt toate persoanele fizice susceptibile de a fi expuse conținutului generat sau manipulat de IA, precum și actorii-cheie care au un rol important în menținerea încrederii în ecosistemul informațional și a integrității acestuia, cum ar fi autoritățile competente de supraveghere a pieței și alte autorități competente, cercetătorii independenți, organizațiile societății civile, mass-media, notificatorii de încredere, apărătorii drepturilor fundamentale, furnizorii de platforme online și de motoare de căutare online, titularii de drepturi și alți creatori și distribuitori de conținut etc. |
4.1. Principalele componente și concepte ale articolului 50 alineatul (2) din Regulamentul IA
|
(56) |
Articolul 50 alineatul (2) din Regulamentul IA se aplică dacă sunt îndeplinite mai multe condiții cumulative:
|
4.1.1. Sisteme de IA care generează sau manipulează conținut sintetic
|
(57) |
Articolul 50 alineatul (2) din Regulamentul IA se aplică sistemelor de IA (26), inclusiv sistemelor de IA de uz general, care generează conținut sintetic în format audio, imagine, video sau text. Articolul 50 alineatul (2) din Regulamentul IA vizează o categorie de sisteme care întrunesc elementele constitutive ale definiției sistemului de IA de la articolul 3 alineatul (1) din Regulamentul IA și care generează astfel de rezultate. Articolul 50 alineatul (2) din Regulamentul IA vizează, de asemenea, sistemele de IA utilizate pentru manipularea conținutului. |
|
(58) |
Generarea de conținut se referă la generarea de materiale sintetice de către sistemul de IA (de exemplu, pe baza unui prompt uman), cum ar fi generarea unei imagini sintetice sau a unei melodii. În practică, aceasta înseamnă că articolul 50 alineatul (2) din Regulamentul IA se poate aplica sistemelor de IA generative concepute cu un scop preconizat restrâns pentru a produce rezultate specifice. În același timp, articolul 50 alineatul (2) din Regulamentul IA se aplică, de asemenea, sistemelor de IA care pot servi mai multor scopuri, inclusiv sistemelor de IA de uz general, și care pot produce o varietate de tipuri de conținut, precum și sistemelor de IA agentice, atât timp cât generează conținut sintetic în format audio, video, imagine sau text. |
|
(59) |
În schimb, manipularea conținutului se referă la conținutul deja existent (indiferent dacă acesta este sau nu sintetic) care este modificat de un sistem de IA (de exemplu, o imagine existentă sau o înregistrare vocală care este manipulată de un sistem de IA în conformitate cu instrucțiunile unei persoane). Pentru ca un conținut să intre sub incidența articolului 50 alineatul (2) din Regulamentul IA, este suficient ca acesta să fie generat sau manipulat de IA dincolo de nivelul unei editări standard, în sensul excepțiilor prevăzute la articolul 50 alineatul (2) din Regulamentul IA (a se vedea secțiunea 4.3). În plus, articolul 50 alineatul (2) din Regulamentul IA nu impune ca respectivul conținut să fie generat sau manipulat exclusiv de IA. Conținutul amestecat cu materiale create de om se califică, de asemenea, drept conținut sintetic, dacă este manipulat sau generat în una dintre modalitățile menționate la articolul 50 alineatul (2) din Regulamentul IA. |
4.1.2. Modalitățile conținutului sintetic care intră în domeniul de aplicare
|
(60) |
Articolul 50 alineatul (2) din Regulamentul IA prevede o listă exhaustivă a modalităților conținutului sintetic care fac obiectul obligației de transparență: audio, imagine, video sau text. Aceasta include, de asemenea, conținutul multimodal, și anume conținutul alcătuit dintr-o combinație a acestor modalități. În sensul articolului 50 alineatul (2) din Regulamentul IA, diferitele modalități trebuie interpretate în conformitate cu stadiile de avansare ale practicii și tehnologiei, care pot evolua în timp. Deocamdată, acestea ar trebui înțelese după cum urmează:
|
|
(61) |
Sistemele de IA care generează sau manipulează imagini 3D, materiale video 3D și materiale audio 3D, precum și realitatea virtuală, realitatea augmentată sau realitatea mixtă intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA. „Realitatea virtuală” cuprinde tehnologiile de IA care permit utilizatorilor să experimenteze și să interacționeze cu un mediu generat de calculator care simulează prezența fizică și care permit interacțiunea în timp real a utilizatorilor cu mediul respectiv. Întrucât realitatea virtuală și cea augmentată sunt alcătuite dintr-o succesiune temporală de imagini, sincronizată opțional cu conținut audio, care reprezintă modificări vizuale în timp, acestea pot fi considerate conținut „video”. „Rezultatul” relevant care trebuie marcat este forma finală a fiecărui element generat de IA, sub rezerva excepțiilor speciale aplicabile sesiunilor interactive efemere în timp real prevăzute la punctul 88 de mai jos. Artefactele digitale utilizate pentru a genera imagini 3D, materiale video 3D și conținut audio 3D, cum ar fi un nor de puncte sau o rețea poligonală 3D, nu trebuie marcate. |
|
(62) |
Gemenii digitali care oferă o replică virtuală a unor persoane, obiecte fizice sau sisteme, integrând mai multe tipuri de date, intră, de asemenea, în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA, dacă sunt generați sau manipulați de IA și se prezintă sub formă de conținut audio, imagine, video sau text, cu excepția cazului în care intră sub incidența excepțiilor și se califică drept „aplicații industriale” sau „aplicații pentru operațiunile între întreprinderi” în sensul punctului 87 de mai jos ori drept conținut efemer în timp real în sensul punctului 88 de mai jos. |
|
(63) |
Articolul 50 alineatul (2) din Regulamentul IA se poate aplica, de asemenea, agenților de IA dacă agentul IA efectuează o acțiune al cărei rezultat este un conținut generat sau manipulat de IA, perceptibil de către persoanele fizice sub formă de conținut audio, imagine, video sau text. Prin urmare, aceste rezultate trebuie să fie marcate și detectabile după cum se descrie mai jos. În schimb, orice acțiune a unui agent IA care nu include conținutul generat sau manipulat de IA (de exemplu, etape intermediare de prelucrare, cum ar fi raționamentul și lanțul de gândire) sau acțiunea generată de IA care nu este destinată să fie percepută direct de persoanele fizice (de exemplu, o solicitare web sau o acțiune a browserului) nu se califică drept conținut sintetic în sensul articolului 50 alineatul (2) din Regulamentul IA și nu trebuie să respecte obligațiile de marcare și detectare. |
4.1.3. Conținut care nu intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA
|
(64) |
Conținutul generat de un sistem de IA bazat pe prelucrarea simplă a datelor, care nu este generat sau manipulat în mod specific de IA, de exemplu un cadru randat, nu intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA. |
|
(65) |
În plus, rezultatele unui sistem de IA care doar reproduc conținutul existent sau permit prezentarea sau aranjarea conținutului deja existent nu intră sub incidența articolului 50 alineatul (2) din Regulamentul IA. Acest lucru se poate întâmpla, de exemplu, în cazul listelor de redare a melodiilor sau al altor sisteme de recomandare care doar selectează sau clasifică conținutul existent în funcție de preferințele sau activitatea utilizatorului, fără a crea ceva nou sau a manipula conținutul în sine. Același lucru este valabil și pentru sistemele de IA utilizate în procesele analitice interne care extrag și structurează date, dar nu le sintetizează. |
|
(66) |
Același lucru este valabil și pentru datele de intrare și de ieșire ale unui sistem de IA care constituie simple observații și înregistrări de date provenite din medii fizice sau virtuale, care nu sunt generate sau manipulate de IA (de exemplu, de roboți sau de alți senzori bazați pe IA) sau pentru transmisiile de date efectuate de sisteme de IA fără nicio modificare a acestora. Aceasta acoperă o varietate de date de intrare și rezultate ale sistemelor de IA, în special în contexte industriale, cum ar fi datele de producție obținute de roboți prin observare, consumul înregistrat de contoare inteligente bazate pe IA, măsurătorile frecvenței și tensiunii în rețea, precum și înregistrarea datelor de localizare GPS de la vehicule etc. |
|
(67) |
În plus, întrucât obiectivul obligației de transparență prevăzute la articolul 50 alineatul (2) din Regulamentul IA este de a permite oamenilor să distingă conținutul generat sau manipulat de IA, astfel încât să ia măsuri pentru abordarea riscurilor de înșelăciune și manipulare și să asigure integritatea și încrederea în ecosistemul informațional, orice conținut care nu are legătură cu obiectivul respectiv și care nu este perceptibil sau nu este destinat să fie interpretat, verificat ori să servească drept bază pentru acțiuni ale persoanelor fizice nu este vizat de această dispoziție. |
|
(68) |
În special, următoarele tipuri de conținut ar trebui considerate ca neintrând în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA:
|
4.2. Obligația de marcare și detectare prevăzută la articolul 50 alineatul (2) din Regulamentul IA
|
(69) |
Articolul 50 alineatul (2) din Regulamentul IA stabilește, pentru furnizorii de sisteme de IA generative care intră în domeniul de aplicare al acestei dispoziții, o obligație de transparență care cuprinde două elemente distincte, dar intrinsec legate între ele. În primul rând, furnizorii trebuie să se asigure că rezultatele sistemului de IA sunt marcate într-un format prelucrabil automat. În al doilea rând, furnizorii trebuie să se asigure că rezultatele pot fi detectate ca fiind conținut generat sau manipulat artificial. Pentru fiecare soluție de marcare implementată, furnizorii ar trebui să se asigure că sunt disponibile mijloace corespunzătoare de detectare (astfel cum se subliniază mai jos) pentru a permite persoanelor fizice expuse la conținut și altor actori relevanți să depisteze și să facă distincția între conținutul sistemului de IA care a fost generat artificial și alt conținut. O soluție tehnică trebuie înțeleasă ca o combinație de tehnici de marcare și mijloace de detectare pe care furnizorul le-a pus în aplicare pentru a îndeplini obligația de transparență prevăzută la articolul 50 alineatul (2) din Regulamentul IA. |
|
(70) |
Pentru a atinge în mod eficace obiectivele obligațiilor de transparență prevăzute la articolul 50 alineatul (2) din Regulamentul IA, trebuie să fie îndeplinit fiecare dintre cele două elemente menționate mai sus. Îndeplinirea unui singur element (de exemplu, pentru marcarea într-un format prelucrabil automat a rezultatelor fără ca mijloacele de detectare a acestora să fie disponibile) nu va fi suficientă pentru respectarea dispoziției respective (27). |
4.2.1. Obligația de marcare
|
(71) |
Domeniul de aplicare al obligației de marcare este limitat la aplicarea marcajelor într-un format prelucrabil automat. Un format prelucrabil automat presupune structurarea marcajelor astfel încât aplicațiile software să le poată identifica, recunoaște și extrage cu ușurință, fără intervenție umană. Marcajele și etichetele perceptibile nu sunt excluse ca măsură complementară, după caz, în vederea facilitării respectării de către implementatori a obligației lor de a eticheta deepfake-urile în temeiul articolului 50 alineatul (4) din Regulamentul IA. |
|
(72) |
Pentru a respecta obligația de marcare, furnizorii pot utiliza o singură tehnică de marcare sau o combinație de tehnici, atât timp cât soluția lor tehnică, în ansamblu, este prelucrabilă automat și îndeplinește cerințele de eficacitate, interoperabilitate, soliditate și fiabilitate în măsura impusă de lege, astfel cum se prevede la articolul 50 alineatul (2) a doua teză din Regulamentul IA (a se vedea secțiunea 4.2.3. de mai jos). |
|
(73) |
Considerentul 133 din Regulamentul IA menționează, ca exemple de astfel de tehnici, filigranele, identificările prin intermediul metadatelor, metodele criptografice pentru a dovedi proveniența și autenticitatea conținutului, metodele de înregistrare, amprentele digitale sau alte tehnici, precum și o combinație de astfel de tehnici. Deși metodele de dovedire a provenienței și a autenticității sunt menționate în considerentul 133 din Regulamentul IA, furnizorii nu sunt obligați să înregistreze sau să păstreze un lanț complet al provenienței care să conțină informații privind originea și modificările conținutului sau orice altă afirmație relevantă privind istoricul conținutului. Cu toate acestea, astfel de metode de stabilire a provenienței pot fi utilizate, de asemenea, pentru respectarea articolului 50 alineatul (2) din Regulamentul IA și pot permite persoanelor fizice să facă distincția între conținutul generat sau manipulat de IA și conținutul autentic. |
|
(74) |
Furnizorii pot implementa soluția de marcare a rezultatelor în diferite etape ale lanțului valoric (de exemplu, post hoc după generarea de conținut la nivelul sistemului de IA, la nivelul modelului de IA subiacent sau integrat în procesul de inferență al sistemului de IA). Aceștia pot utiliza soluția de marcare implementată de un furnizor de modele din amonte sau de un terț care furnizează soluția (de exemplu, sub forma unui standard deschis sau a unui serviciu specializat), în măsura în care soluția de marcare respectă articolul 50 alineatul (2) din Regulamentul IA. Utilizarea unei astfel de soluții nu aduce atingere responsabilității furnizorului sistemului de IA de a demonstra respectarea articolului 50 alineatul (2) din Regulamentul IA. |
4.2.2. Obligația de detectare
|
(75) |
Furnizorii de sisteme de IA care intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA trebuie să se asigure că rezultatele sistemelor lor sunt detectabile drept conținut generat sau manipulat de IA. Aceasta înseamnă că furnizorul are obligația de a se asigura că mijloacele de detectare sunt disponibile persoanelor care ar putea fi expuse conținutului. În plus, în temeiul articolului 50 alineatul (5) din Regulamentul IA, astfel de soluții de detectare ar trebui să poată produce rezultate inteligibile pentru oameni, care să indice dacă respectivul conținut a fost generat sau manipulat de IA. |
|
(76) |
Un instrument de detectare este un mecanism care detectează dacă un conținut a fost generat sau manipulat de IA, de regulă prin identificarea unor marcaje tehnice sau semnături care permit verificarea originii acestuia. Pentru a asigura interoperabilitatea deplină, furnizorii trebuie să utilizeze soluții de detectare standardizate la nivelul industriei și disponibile publicului, care să permită oricărui terț să implementeze mecanisme de detectare, în mod ideal executabile la nivel local pe dispozitivul digital, și care să permită integrarea fără dificultăți în rețele autonome și izolate. În cazul în care astfel de standarde nu sunt disponibile, în special în etapa inițială a punerii în aplicare a articolului 50 alineatul (2) din Regulamentul IA în ceea ce privește tehnologiile de securizare cu filigran, furnizorul poate utiliza propria soluție de detectare sau o soluție de detectare furnizată de un terț ori partajată, cu condiția ca soluțiile respective să asigure interoperabilitatea cu soluțiile de detectare utilizate de alți furnizori (a se vedea secțiunea 4.2.3). Această posibilitate ar trebui să fie limitată în timp până la apariția unor standarde armonizate și a unei soluții standardizate de detectare interoperabilă care să nu fie accesibilă furnizorilor și care să fie sigură, să protejeze viața privată și să poată fi executată local. |
|
(77) |
Articolul 50 alineatul (5) din Regulamentul IA precizează, de asemenea, că informațiile menționate la articolul 50 alineatul (2) din Regulamentul IA ar trebui furnizate persoanelor fizice expuse la conținut într-un mod clar și distinct, cel târziu în momentul primei interacțiuni sau al primei expuneri. Aceste informații constau, în special, în rezultatul detectării, care indică dacă un conținut este generat sau manipulat de IA, și nu în conținutul propriu-zis generat sau manipulat de IA. Prin „în momentul primei expuneri” ar trebui să se înțeleagă momentul în care persoanele fizice sunt dispuse să verifice originea unui anumit conținut și să acceseze soluția de detectare pentru a obține rezultatele detectării. |
|
(78) |
În cazul în care furnizorul sistemului de IA depinde de un alt actor pentru furnizarea unei soluții de detectare sau pentru accesul la aceasta, acesta trebuie să se asigure că soluția de detectare respectă articolul 50 alineatul (2) și alineatul (5) din Regulamentul IA și că actorii respectivi afișează rezultatele detectării în conformitate cu articolul 50 alineatul (5) din Regulamentul IA (a se vedea secțiunea 7). |
4.2.3. Respectarea cerințelor privind soluțiile tehnice: eficace, interoperabile, solide și fiabile
|
(79) |
Articolul 50 alineatul (2) a doua teză din Regulamentul IA prevede că soluțiile tehnice pentru marcare și detectare trebuie să fie eficace, interoperabile, solide și fiabile. Aceste cerințe ar trebui înțelese după cum urmează:
|
|
(80) |
Furnizorii trebuie să se asigure că soluțiile tehnice de marcare și detectare, considerate în ansamblu, îndeplinesc toate cerințele menționate anterior în măsura impusă de lege, ținând seama de limitările și de complementaritatea diferitelor soluții utilizate. Soluțiile tehnice trebuie să respecte toate cerințele, în măsura în care acest lucru este fezabil din punct de vedere tehnic, ținând seama de particularitățile și limitările diferitelor tipuri de conținut, de costurile de punere în aplicare și de stadiul de avansare general recunoscut al tehnologiei, astfel cum poate fi reflectat în standardele tehnice relevante. |
|
(81) |
Soluțiile „fezabile din punct de vedere tehnic” în sensul articolului 50 alineatul (2) din Regulamentul IA sunt soluții care pot fi implementate pentru modalitățile care intră în domeniul de aplicare al dispoziției, utilizând tehnologia, metodele și practicile inginerești disponibile în prezent, în cadrul arhitecturii tehnice și al mediului operațional specifice în cauză. Furnizorul nu este obligat să utilizeze o soluție tehnică care nu este încă dezvoltată sau disponibilă pe piață sau care nu este fezabilă din punct de vedere tehnic pentru implementare. Fezabilitatea din punct de vedere tehnic este o noțiune obiectivă care nu depinde de resursele și capacitățile specifice ale furnizorilor individuali. |
|
(82) |
Articolul 50 alineatul (2) din Regulamentul IA impune furnizorilor să implementeze una sau mai multe soluții fezabile din punct de vedere tehnic, care să se alinieze la stadiul de avansare general recunoscut al tehnologiei, pentru a îndeplini cele patru cerințe de calitate privind eficacitatea, soliditatea, fiabilitatea și interoperabilitatea. |
|
(83) |
„Stadiul de avansare al tehnologiei” înseamnă o etapă avansată de dezvoltare a capacității tehnice la un moment dat în ceea ce privește produsele, procesele și serviciile, pe baza constatărilor consolidate relevante ale științei, tehnologiei și experienței și care este acceptată ca bună practică tehnologică (28). Stadiul de avansare al tehnologiei nu implică neapărat cele mai recente cercetări științifice, aflate încă într-o etapă experimentală sau care nu au atins un nivel suficient de maturitate tehnologică. Furnizorii trebuie să își adapteze în permanență soluțiile de marcare și detectare în timp util și în mod proporțional, pe măsură ce tehnologia și stadiul de avansare al tehnologiei evoluează. |
|
(84) |
Având în vedere articolul 50 alineatul (7) din Regulamentul IA, furnizorii pot utiliza un cod de bune practici, evaluat ca fiind adecvat în temeiul dispoziției respective pentru a demonstra respectarea obligațiilor de marcare și detectare prevăzute la articolul 50 alineatele (2) și (5) din Regulamentul IA, care este aliniat la stadiul de avansare al tehnologiei. Pentru informații suplimentare privind efectele respectării unui astfel de cod și supravegherea altor furnizori care respectă un cod, a se vedea secțiunea 8.1 de mai jos. |
|
(85) |
Costurile implementării anumitor soluții tehnice de marcare și detectare pot fi, de asemenea, luate în considerare. În anumite cazuri, astfel cum se descrie la punctele următoare, costurile pot fi disproporționate în raport cu beneficiile marginale, care au o valoare mai redusă pentru a permite oamenilor să distingă conținutul generat sau manipulat de IA și pentru a asigura integritatea ecosistemului informațional și încrederea în acesta. |
|
(86) |
Prin urmare, pot exista cazuri strict delimitate în care o soluție tehnică bazată pe marcaje prin intermediul metadatelor mai puțin solide este suficientă pentru respectarea articolului 50 alineatul (2) din Regulamentul IA, ținând seama de particularitățile rezultatelor sistemului de IA, dacă acestea prezintă, prin natura lor, riscuri mai reduse de înșelăciune, de manipulare sau de apariție a unor efecte negative asupra ecosistemului informațional. Acest lucru este valabil în special în cazul în care un sistem de IA generativ este încorporat în produse fizice care generează rezultate într-un mediu închis și controlat din punct de vedere tehnic, care are în principal un caracter instructiv (de exemplu, un sistem de IA integrat în sistemele de navigație ale vehiculelor), în măsura în care în produs sunt integrate măsuri tehnice eficace care împiedică rezultatul să părăsească mediul produsului, de exemplu prin captarea sau exportul și diseminarea în exterior. |
|
(87) |
Pot exista, de asemenea, cazuri limitate de „aplicații industriale ale IA” sau de „aplicații între întreprinderi” (cu excepția sistemelor de IA publice și orientate către consumatori), în care principiul proporționalității și beneficiile limitate pentru obiectivele de transparență fac ca marcarea și detectarea rezultatelor generate sau manipulate de IA să nu fie necesare. Acest lucru se aplică numai dacă sunt îndeplinite cumulativ următoarele cerințe:
|
|
(88) |
generarea în timp real de conținut care este efemer și consumat imediat, fără a fi înregistrat, stocat sau diseminat ulterior (de exemplu, în jocuri video sau aplicații de realitate virtuală), poate fi, de asemenea, exceptată atunci când marcarea nu este fezabilă din punct de vedere tehnic, iar persoanele expuse conținutului sunt informate că acesta este generat sau manipulat de IA (de exemplu, prin divulgare în timpul experienței sau prin notificări la nivelul sesiunii). |
4.3. Excepții de la obligațiile prevăzute la articolul 50 alineatul (2) din Regulamentul IA
|
(89) |
Articolul 50 alineatul (2) din Regulamentul IA prevede trei excepții explicite de la obligațiile de transparență prevăzute în dispoziția respectivă. |
|
(90) |
Prima excepție se referă la sistemele de IA în măsura în care acestea îndeplinesc o funcție de asistare pentru editarea standard. Editarea standard ar trebui înțeleasă ca fiind procesul de pregătire a conținutului existent pentru publicare sau distribuire (de exemplu, mici editări pentru a îmbunătăți lizibilitatea și gramatica, calitatea și formatul) și nu implică generarea de conținut nou. Editarea standard urmărește, printre altele, să asigure că respectivul conținut nu conține erori lingvistice evidente de natură tehnică ori gramaticală, că respectă cerințele aplicabile privind punerea în pagină, prezentarea, formatarea sau accesibilitatea ori că este conform cu practicile sectoriale. Editarea depășește sfera editării standard în cazul în care conținutul este modificat într-un mod semnificativ (modificări de fond, modificări structurale etc.) care îi afectează sensul, stilul sau intenția. |
|
(91) |
A doua excepție se aplică în cazul în care un sistem de IA nu modifică în mod substanțial datele de intrare furnizate de implementator sau semantica acestora. O modificare ar trebui considerată substanțială în cazul în care datele de intrare sau semantica acestora au fost manipulate în mod semnificativ de sistemul de IA în cursul procesului său de generare a rezultatelor. Acest lucru trebuie să se bazeze pe o evaluare a factorilor relevanți, cum ar fi formatul, tipul de conținut media, stilul și modificările conținutului care îi afectează sensul, stilul sau intenția. Pentru a stabili dacă există o astfel de situație, este necesară o evaluare de la caz la caz. |
|
(92) |
Dacă un sistem de IA poate fi utilizat atât pentru generarea sau manipularea conținutului, cât și pentru modificări minore, care nu modifică în mod substanțial datele de intrare, obligația de transparență prevăzută la articolul 50 alineatul (2) din Regulamentul IA nu se va aplica în cazul conținutului care a făcut obiectul unor modificări minore și nesubstanțiale.
|
|
(93) |
A treia excepție se aplică sistemului de IA generativ autorizat prin lege să genereze sau să manipuleze conținut sintetic pentru a detecta, a preveni, a investiga sau a urmări penal infracțiunile. Clarificările furnizate la punctele 46-48 de mai sus pentru această excepție sunt relevante și în acest caz. |
4.4. Interacțiunea cu alte acte juridice ale Uniunii
|
(94) |
Obligațiile de marcare și detectare prevăzute la articolul 50 alineatul (2) din Regulamentul IA se axează pe modul în care a fost creat conținutul și pe originea sa artificială, iar nu pe autorul conținutului respectiv. Prin urmare, orice soluție de marcare și detectare utilizată de furnizorii de sisteme de IA trebuie să respecte dreptul aplicabil al Uniunii privind protecția datelor, inclusiv principiile și obligațiile privind protecția datelor, cum ar fi obligația de protecție a datelor începând cu momentul conceperii și în mod implicit, reducerea la minimum a datelor și principiile securității și confidențialității. De exemplu, în scopul marcării și detectării, informațiile referitoare la creatorul conținutului nu ar trebui prelucrate și orice alte date cu caracter personal prelucrate ar trebui șterse de îndată ce scopul detectării este îndeplinit, trebuie să se garanteze securitatea și confidențialitatea etc. |
|
(95) |
Considerentul 136 din Regulamentul IA subliniază, de asemenea, relevanța deosebită a obligațiilor de transparență prevăzute la articolul 50 alineatele (1), (2) și (4) din Regulamentul IA pentru a facilita punerea în aplicare efectivă a Regulamentului privind serviciile digitale. Acest lucru este valabil în special în ceea ce privește obligațiile furnizorilor de platforme online foarte mari sau de motoare de căutare online foarte mari de a identifica, a analiza, a evalua și a atenua cu diligență riscurile sistemice care pot apărea în urma diseminării conținutului care a fost generat sau manipulat artificial, în special riscul privind efectele negative reale sau previzibile asupra proceselor democratice, asupra discursului civic și asupra proceselor electorale, inclusiv prin dezinformare (articolele 34 și 35 din Regulamentul privind serviciile digitale). Marcajele prelucrabile automat le pot permite furnizorilor respectivi să detecteze conținutul generat sau manipulat de IA și să asigure etichete și divulgări adecvate, reducând astfel riscul de dezinformare generată de IA în cadrul serviciilor lor. |
|
(96) |
Obligațiile de marcare și etichetare a conținutului generat sau manipulat de sistemele de IA în temeiul articolului 50 alineatele (2) și (4) din Regulamentul IA nu aduc atingere obligației prevăzute la articolul 16 alineatul (6) din Regulamentul privind serviciile digitale pentru furnizorii de servicii de găzduire de a prelucra notificările privind conținutul ilegal primite în temeiul articolului 16 alineatul (1) din Regulamentul privind serviciile digitale (29). În special, marcarea sau etichetarea aplicată conținutului generat sau manipulat de IA nu ar trebui să influențeze evaluarea și decizia privind ilegalitatea conținutului specific în temeiul altor cadre de reglementare. Evaluarea respectivă ar trebui să fie efectuată exclusiv în raport cu normele care reglementează legalitatea conținutului, în conformitate cu cadrele respective (30). De exemplu, dacă o imagine deepfake etichetată este semnalată ca reprezentând un posibil material care conține abuzuri sexuale asupra copiilor sau ca încălcând legislația privind mărcile comerciale ori drepturile de autor, aplicarea unei etichete nu afectează caracterul potențial ilegal al conținutului în temeiul cadrelor de reglementare respective. Evaluarea ar trebui efectuată exclusiv pe baza legilor aplicabile respective (de exemplu, dreptul penal, normele privind mărcile comerciale sau drepturile de autor). |
|
(97) |
În schimb, marcajul prelucrabil automat încorporat în conținut în temeiul articolului 50 alineatul (2) din Regulamentul IA poate ajuta furnizorii de platforme online foarte mari și de motoare de căutare online foarte mari să își îndeplinească obligațiile care le revin în temeiul articolului 34 și 35 din Regulamentul privind serviciile digitale de a identifica, a analiza și a evalua riscurile sistemice care pot apărea în urma diseminării conținutului care a fost generat sau manipulat artificial, în special riscul privind efectele negative reale sau previzibile asupra proceselor democratice, asupra discursului civic și asupra proceselor electorale, inclusiv prin dezinformare (31), și de a institui măsuri rezonabile, proporționale și eficace de atenuare a acestor riscuri, adaptate la riscurile sistemice specifice identificate. Furnizorii de platforme online foarte mari și de motoare de căutare online foarte mari se pot califica, de asemenea, drept furnizori de sisteme de IA dacă îndeplinesc condițiile relevante prevăzute de Regulamentul IA atunci când integrează sisteme de IA în serviciile lor (a se vedea, de asemenea, secțiunea 6.1.5). |
|
(98) |
Furnizorii de platforme online, de motoare de căutare online și alți actori relevanți care distribuie conținut de-a lungul lanțului valoric sunt încurajați, în special, să păstreze marcajele implementate de furnizori în temeiul articolului 50 alineatul (2) din Regulamentul IA și să permită identificarea acestora, astfel încât persoanele fizice expuse conținutului să poată fi informate cu privire la originea acestuia. |
5. ARTICOLUL 50 ALINEATUL (3) DIN REGULAMENTUL IA: SISTEME DE RECUNOAȘTERE A EMOȚIILOR ȘI SISTEME DE CLASIFICARE BIOMETRICĂ
|
(99) |
Articolul 50 alineatul (3) din Regulamentul IA impune implementatorilor de sisteme de recunoaștere a emoțiilor și de sisteme biometrice de clasificare obligația de a informa persoanele fizice sistemului respectiv cu privire la funcționarea acestuia. |
|
(100) |
Considerentul 132 din Regulamentul IA explică faptul că scopul acestei obligații este de a se asigura că persoanele fizice (inclusiv persoanele cu dizabilități) sunt conștiente de faptul că sunt expuse unor sisteme de recunoaștere a emoțiilor și de clasificare biometrică care pot avea un caracter intruziv pentru viața lor privată. Prin urmare, obligația se aplică indiferent dacă persoanele sunt expuse la astfel de sisteme în timp real sau dacă sistemele respective sunt utilizate ex post. |
5.1. Principalele componente, concepte și obligația (obligațiile) de transparență aferentă (aferente) în temeiul articolului 50 alineatul (3) din Regulamentul IA
5.1.1. Noțiunea de sistem de recunoaștere a emoțiilor
|
(101) |
Articolul 3 punctul 39 din Regulamentul IA definește un „sistem de recunoaștere a emoțiilor” ca fiind un sistem de IA al cărui scop este de a identifica sau a deduce emoțiile sau intențiile persoanelor fizice pe baza datelor lor biometrice”. Explicația detaliată a acestei noțiuni furnizată în Orientările Comisiei privind clasificarea sistemelor de IA cu grad ridicat de risc, inclusiv exemplele practice prezentate în acestea, este la fel de relevantă în contextul articolului 50 alineatul (3) din Regulamentul IA. |
|
(102) |
Întrucât toate sistemele de recunoaștere a emoțiilor sunt, de asemenea, clasificate ca prezentând un grad ridicat de risc, cu excepția cazului în care acest lucru este interzis în temeiul articolului 5 alineatul (1) litera (f) din Regulamentul IA în sfera locului de muncă și a instituțiilor de învățământ, obligația de transparență prevăzută la articolul 50 alineatul (3) din Regulamentul IA ar trebui să se aplice împreună cu celelalte garanții și cerințe aplicabile sistemelor de IA cu grad ridicat de risc. |
5.1.2. Noțiunea de sistem de clasificare biometrică
|
(103) |
Articolul 3 punctul 40 din Regulamentul IA definește un „sistem de clasificare biometrică” drept un „sistem de IA al cărui scop este de a încadra persoanele fizice în categorii specifice pe baza datelor lor biometrice, cu excepția cazului în care acesta este auxiliar unui alt serviciu comercial și strict necesar din motive tehnice obiective”. Explicația detaliată a acestei noțiuni furnizată în Orientările Comisiei privind clasificarea sistemelor de IA cu grad ridicat de risc, inclusiv elementele sale specifice, precum și exemplele practice prezentate în acestea, este la fel de relevantă în contextul articolului 50 alineatul (3) din Regulamentul IA. |
|
(104) |
Este important de precizat faptul că, exceptând situațiile în care sunt interzise în temeiul articolului 5 alineatul (1) litera (g) din Regulamentul IA, articolul 50 alineatul (3) din Regulamentul IA se aplică oricăror sisteme de clasificare biometrică (de exemplu, clasificarea pe criterii de vârstă sau de gen pe baza datelor biometrice), indiferent dacă acestea intră sau nu în domeniul de aplicare al sistemelor de IA cu grad ridicat de risc prevăzute în Regulamentului privind IA. |
5.1.3. Obligația de informare prevăzută la articolul 50 alineatul (3) din Regulamentul IA
|
(105) |
Domeniul de aplicare al informațiilor care trebuie furnizate: Implementatorii au obligația de a informa persoanele fizice în cauză că sunt expuse unui sistem de recunoaștere a emoțiilor sau unui sistem de clasificare biometrică, cu privire la funcționarea acestuia. Regulamentul IA nu impune includerea de informații cu privire la motivele funcționării sistemului sau dacă sistemul prelucrează, de asemenea, informații în alte scopuri decât recunoașterea emoțiilor sau clasificarea biometrică, care trebuie divulgate în temeiul dreptului Uniunii privind protecția datelor (a se vedea secțiunea 5.3.). |
|
(106) |
Destinatarii informațiilor: articolul 50 alineatul (3) din Regulamentul IA prevede că implementatorii trebuie să informeze toate persoanele fizice expuse la funcționarea sistemului de IA, inclusiv copiii. |
|
(107) |
Mijloacele de furnizare a informațiilor: Regulamentul IA nu precizează un mijloc specific de furnizare a informațiilor, cu excepția faptului că articolul 50 alineatul (5) din Regulamentul IA prevede că informațiile trebuie să fie furnizate într-un mod clar și distinct și în conformitate cu cerințele de accesibilitate aplicabile (răspunzând nevoilor persoanelor fizice cu dizabilități). Modul în care trebuie informate persoanele fizice expuse sistemului poate depinde de locul de utilizare (de exemplu, o platformă virtuală de jocuri, un magazin fizic, o gară), de posibilii destinatari (de exemplu, copii, persoane în vârstă, persoane cu dizabilități, clienți), de durata și tipul expunerii (de exemplu, pe termen lung, o singură dată, continuă, intermitentă), precum și de eventuala existență a unei relații între implementator și persoanele expuse (de exemplu, dacă există deja un canal de comunicare cu persoana respectivă). În funcție de cazul de utilizare, informațiile pot fi furnizate în scris, prin pictograme standardizate (inclusiv atunci când sunt prezentate electronic), verbal sau printr-o combinație a acestor modalități.
|
|
(108) |
Calendarul pentru furnizarea informațiilor: Informațiile trebuie furnizate cel târziu în momentul primei interacțiuni cu sistemul de IA sau al primei expuneri la acesta, în conformitate cu articolul 50 alineatul (5) din Regulamentul IA. Atunci când este cazul, informațiile necesare pot fi furnizate și în prealabil. |
5.2. Excepția în scopul aplicării legii
|
(109) |
Obligația de informare nu se aplică sistemelor de recunoaștere a emoțiilor și sistemelor de clasificare biometrică care sunt autorizate prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile, sub rezerva unor garanții adecvate pentru drepturile și libertățile terților și în conformitate cu dreptul Uniunii. Clarificările furnizate cu privire la această excepție la punctele 46-48 de mai sus sunt relevante și în acest caz, cu o singură diferență. În timp ce celelalte excepții prevăzute la articolul 50 din Regulamentul IA necesită o lege explicită care să autorizeze utilizarea netransparentă a sistemelor de IA, articolul 50 alineatul (3) din Regulamentul IA permite o astfel de utilizare atunci când aceasta este autorizată în temeiul normelor juridice care reglementează competențele autorităților de aplicare a legii de a utiliza sisteme de recunoaștere a emoțiilor și de clasificare biometrică pentru detectarea, prevenirea sau investigarea infracțiunilor, fără informarea persoanelor vizate, sub rezerva unor garanții adecvate. |
5.3. Interacțiunea cu alte acte juridice ale Uniunii
|
(110) |
Obligația de informare prevăzută la articolul 50 alineatul (3) din Regulamentul IA nu face, în sine, legală utilizarea unui sistem de recunoaștere a emoțiilor și de clasificare biometrică. De asemenea, aceasta nu legitimează utilizările intruzive sau discriminatorii care ar putea fi ilegale și interzise în temeiul articolului 5 din Regulamentul IA sau al altor dispoziții din dreptul Uniunii. Implementatorii trebuie să respecte obligația de informare prevăzută la articolul 50 alineatul (3) din Regulamentul IA, în plus față de orice cerințe de informare aplicabile în temeiul dreptului Uniunii privind protecția datelor. În anumite cazuri, implementatorii pot lua în considerare adăugarea notificărilor în temeiul articolului 50 alineatul (3) din Regulamentul IA la informațiile furnizate persoanelor vizate în temeiul dreptului Uniunii privind protecția datelor. |
6. ARTICOLUL 50 ALINEATUL (4): ETICHETAREA DEEPFAKE-URILOR ȘI A ANUMITOR TEXTE PUBLICATE
|
(111) |
Articolul 50 alineatul (4) din Regulamentul IA stabilește două obligații separate adresate implementatorilor de sisteme de IA generative care impun divulgarea în mod clar și distinct a (i) deepfake-urilor și (ii) a textelor generate sau manipulate de IA publicate cu scopul de a informa publicul cu privire la chestiuni de interes public, cu excepția anumitor cazuri expres prevăzute. Aceste obligații de etichetare se aplică se aplică suplimentar și fără a aduce atingere obligațiilor privind marcarea într-un format prelucrabil automat și detectarea prevăzute la articolul 50 alineatul (2) din Regulamentul IA, aplicabile furnizorilor de sisteme de IA care generează sau manipulează conținut sintetic în format audio, imagine, video sau text. |
6.1. Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente) în cazul deepfake-urilor în temeiul articolului 50 alineatul (4) din Regulamentul IA
|
(112) |
Articolul 50 alineatul (4) primul paragraf din Regulamentul IA se aplică dacă sunt îndeplinite mai multe condiții:
|
6.1.1. Noțiunea de „deepfake”
|
(113) |
Articolul 3 punctul 60 din Regulamentul IA definește „deepfake-ul” ca fiind „o imagine ori un conținut audio sau video generat sau manipulat de IA care prezintă o asemănare cu persoane, obiecte, locuri sau alte entități ori evenimente existente și care ar crea unei persoane impresia falsă că este autentic sau adevărat”. Diferența dintre manipulare și generare a fost clarificată în secțiunea 4.1 de mai sus. În scopul clarificării noțiunii de deepfake, sunt examinate mai jos patru criterii cumulative care decurg din această definiție: (i) asemănarea cu (ii) persoane, obiecte, locuri, entități sau evenimente (iii) existente (iv) care ar crea unei persoane impresia falsă că este autentic sau adevărat.
|
|
(114) |
Măsura în care un conținut „ar crea unei persoane impresia falsă că este autentic sau adevărat” ar trebui evaluată în ansamblu, ținând seama de gradul de asemănare, de eventualul mesaj de fond al conținutului, de contextele de utilizare preconizate și previzibile, de mediul în care este prezentat conținutul, precum și de componența publicului vizat și a celui care poate fi prevăzut în mod rezonabil și de așteptările acestuia. Totuși, această evaluare are un caracter obiectiv și, pentru ca un conținut să constituie un deepfake, nu este necesar ca implementatorul să fi avut intenția de a induce în eroare persoanele fizice expuse acestuia. În ceea ce privește contextul implementării și așteptările publicului, aceasta înseamnă că, dacă respectivul conținut este utilizat în contexte specifice în care publicul vizat și cel previzibil în mod rezonabil nu se așteaptă ca acesta să fie autentic sau adevărat, conținutul generat sau manipulat de IA poate să nu creeze impresia falsă că este autentic sau adevărat, chiar dacă, în realitate, este neautentic sau neadevărat. În astfel de cazuri, al patrulea criteriu al definiției deepfake-ului nu va fi îndeplinit. De exemplu, este puțin probabil ca generarea sau manipularea cu ajutorul IA a scenelor de fundal, a efectelor speciale ori prelucrarea tehnică efectuată înainte sau după producție în cadrul proceselor standard de producție cinematografică să creeze impresia falsă în rândul publicului că respectivul conținut este autentic sau adevărat. În schimb, utilizarea IA pentru generarea sau manipularea unor elemente esențiale care influențează percepția publicului este susceptibilă să producă un astfel de efect (cum ar fi actorii generați integral de IA, replicile digitale ale unor actori reali sau decedați, întinerirea digitală, simulările de spectacole, inclusiv părți ale acestora, ori reprezentarea neautentică sau neadevărată a persoanelor, a obiectelor, a locurilor sau a evenimentelor în documentare). În ceea ce privește conținutul în format imagine și video, este recunoscut faptul că un grad ridicat de fotorealism sporește probabilitatea ca un astfel de conținut să fie considerat deepfake (deoarece este probabil să prezinte o asemănare cu subiecți existenți), dar fotorealismul în sine nu este determinant pentru această evaluare. Ceea ce ar trebui să se evalueze însă este dacă un astfel de conținut este de natură să înșele sau să inducă în eroare o persoană cu privire la autenticitatea sau veridicitatea sa, ținând seama, printre altele, de contextul de utilizare preconizat și previzibil. |
|
(115) |
Spre deosebire de articolul 50 alineatul (1) din Regulamentul IA, aprecierea faptului că un conținut unei persoane impresia falsă că este autentic sau adevărat nu ar trebui să se bazeze pe o persoană „medie” ipotetică despre care se preconizează că va fi expusă conținutului (a se vedea secțiunea 3.2.1), ci ar trebui să țină seama în mod corespunzător de posibila diversitate a publicului previzibil în mod rezonabil care poate fi expus la conținutul deepfake. Luarea în considerare în mod corespunzător a componenței publicului este deosebit de importantă dacă se poate prevedea în mod rezonabil că, la un moment dat, conținutul deepfake poate fi perceput de copii, de persoanele în vârstă sau de alte grupuri de persoane cu un nivel mai scăzut de alfabetizare digitală și în domeniul IA sau cu un nivel mai scăzut de cunoștințe generale, deoarece acestea pot fi mai ușor înșelate sau induse în eroare cu privire la autenticitatea sau veridicitatea conținutului. În astfel de cazuri, faptul că respectivul conținut creează în mod fals acelei părți a publicului previzibil impresia că este autentic sau adevărat poate fi suficient pentru ca acesta să fie calificat drept deepfake. Cu toate acestea, nu se așteaptă ca implementatorii să ia în considerare potențiala diseminare ulterioară a conținutului deepfake de către terți în afara publicului prevăzut în mod rezonabil de către implementator, ținând seama de canalele de distribuție avute în vedere (de exemplu, dacă un conținut deepfake este afișat exclusiv într-o secțiune a unui site accesibilă numai abonaților sau în cadrul unui buletin informativ al unei întreprinderi, aceasta nu înseamnă că implementatorul ar trebui să ia în considerare, în mod implicit, accesibilitatea acestuia pentru publicul larg). |
|
(116) |
În mod similar, manipularea cu ajutorul IA a unor aspecte de fond sau tehnice nesemnificative ale unui conținut preexistent poate avea o relevanță redusă pentru aprecierea de către o persoană a autenticității sau veridicității conținutului, fără ca, prin aceasta, conținutul rezultat să devină un deepfake. Aceasta ar putea include, de exemplu, editarea detaliilor de fond (de exemplu, eliminarea trecătorilor), ajustarea luminozității, adaptarea parametrilor audio, corectarea culorii, reducerea sau eliminarea zgomotului, îmbunătățirea accesibilității sau compresia fișierelor, precum și ajustări și îmbunătățiri de ordin estetic. Încadrarea sau nu a manipulării în această categorie depinde de context și de impactul acesteia, în cazul concret, asupra percepției persoanelor cu privire la autenticitatea sau veridicitatea conținutului. De exemplu, corectarea culorilor cu ajutorul IA, extinderea fundalului unui conținut existent, ajustările sau înlocuirile fundalului în scopuri vădit estetice, compunerea și dispunerea unor produse existente sau redimensionarea imaginilor utilizate în materialele publicitare ori pe ambalajele produselor sunt susceptibile să aibă doar un impact minor asupra percepției unei persoane cu privire la autenticitatea și veridicitatea materialului publicitar și a produsului. În schimb, editarea substanțială cu ajutorul IA a detaliilor de fond ale imaginilor jurnalistice dincolo de practicile tehnice și editoriale standard poate afecta în mod negativ percepția unei persoane cu privire la autenticitatea și veridicitatea conținutului.
|
6.1.2. Obligația de divulgare prevăzută la articolul 50 alineatul (4) primul paragraf din Regulamentul IA
|
(117) |
Articolul 50 alineatul (4) primul paragraf din Regulamentul IA obligă implementatorii de sisteme de IA care generează sau manipulează imagini, conținuturi audio sau video care constituie deepfake-uri să „dezvăluie faptul că respectivul conținut a fost generat sau manipulat artificial”. Considerentul 134 din Regulamentul IA clarifică faptul că implementatorii care utilizează sisteme de IA pentru a genera sau a manipula conținut deepfake ar trebui să dezvăluie în mod clar și distinct faptul că respectivul conținut a fost creat sau manipulat în mod artificial prin etichetarea în consecință a rezultatului generat de IA și divulgarea originii sale artificiale. Metodele de etichetare sau de divulgare aplicate în conformitate cu articolul 50 alineatul (4) primul paragraf din Regulamentul IA ar trebui să fie ușor de înțeles și de perceput de către persoanele fizice (de exemplu, prin etichete vizibile sau sonore), fără ca acestea să fie nevoite să recurgă la instrumente tehnice specifice sau să întreprindă acțiuni specifice. Prin urmare, implementatorii nu pot utiliza marcajul prelucrabil automat încorporat în conținut de către furnizor în temeiul articolului 50 alineatul (2) din Regulamentul IA, deoarece aceste marcaje nu sunt prezentate într-un mod clar și distinct pentru persoanele fizice expuse la conținutul deepfake. |
|
(118) |
Având în vedere articolul 50 alineatul (7) din Regulamentul IA, implementatorii pot respecta un cod de bune practici, evaluat ca fiind adecvat în temeiul articolului 50 alineatul (7) din Regulamentul IA, pentru a demonstra conformitatea cu această obligație de divulgare. Pentru informații suplimentare privind efectele respectării unui astfel de cod și supravegherea altor operatori care nu respectă un cod a se vedea secțiunea 8.1 de mai jos. |
6.1.3. Transparența conținutului deepfake de natură artistică, creativă, satirică, fictivă sau a conținutului deepfake analog
|
(119) |
Articolul 50 alineatul (4) primul paragraf din Regulamentul IA prevede o obligație de transparență atenuată pentru conținutul deepfake care face parte din opere sau din programe de o vădită natură artistică, creativă, satirică, fictivă sau din opere ori programe analoage. Pentru un astfel de conținut, obligația de transparență se limitează la divulgarea deepfake-ului într-un mod adecvat, care să nu împiedice expunerea lucrării sau posibilitatea de a beneficia de aceasta. |
|
(120) |
Categorii de conținut relevante: pentru a beneficia de obligația atenuată de transparență, deepfake-ul (în format imagine, audio sau video) ar trebui să facă parte cel puțin din una dintre următoarele categorii de conținut: opere sau programe de natură artistică, creativă, satirică, fictivă sau opere ori programe analoage. Pentru a stabili dacă un deepfake se încadrează în una sau mai multe dintre aceste categorii este necesară o evaluare de la caz la caz de către implementator. În sensul articolului 50 alineatul (4) din Regulamentul IA, aceste categorii sunt înțelese după cum urmează:
|
|
(121) |
Categoriile de conținut de mai sus se pot aplica și programului (programelor) care ar trebui înțeles(e) ca un element individual în cadrul unei planificări sau al unui catalog, stabilit de un furnizor de servicii mass-media, care este comparabil ca formă și conținut cu transmisiile de televiziune (33). Trimiterea la „opere” în contextul articolului 50 alineatul (4) din Regulamentul IA nu influențează în niciun fel aspectul dacă respectivul conținut poate beneficia de protecție în temeiul dreptului Uniunii privind dreptul de autor și drepturile conexe. |
|
(122) |
Natura vădită: încadrarea unui deepfake în una (sau mai multe) dintre categoriile de conținut de mai sus ar trebui să fie evidentă pentru persoanele fizice expuse la acesta. Aceasta presupune interpretarea strictă a categoriilor respective, justificată de faptul că se aplică un regim de divulgare mai puțin strict, având în vedere impactul potențial asupra libertății de exprimare și a libertății artelor și științelor, abordând totodată în mod adecvat riscurile de dezinformare, manipulare și înșelăciune. Prin urmare, conținutul a cărui natură poate fi neclară sau ambiguă pentru public este exclus din domeniul de aplicare al acestui regim de transparență mai puțin strict. Printre factorii relevanți pentru aprecierea văditei naturi artistice, creative, satirice sau fictive a conținutului se numără: (i) măsura în care acesta prezintă formate sau stiluri caracteristice categoriilor respective de conținut (de exemplu, ironie sau exagerare în cazul operelor satirice, anumite stiluri artistice, teme, tehnici sau elemente estetice distinctive etc.), (ii) contextul în care este prezentat conținutul (de exemplu, dacă platforma, mijlocul de comunicare sau locul în care conținutul este prezentat, pus la dispoziție sau distribuit este asociat unei utilizări artistice, creative, satirice sau fictive) și (iii) așteptările publicului (de exemplu, în cazul unui film, al unui mediu de joc sau al unei scene de realitate virtuală). În plus, condiția potrivit căreia conținutul ar trebui să se încadreze în mod „vădit” într-una dintre categoriile de conținut de mai sus exclude conținutul din domeniul de aplicare al acestor categorii de conținut dacă natura sa este exclusiv informativă sau comercială și poate fi recunoscută ca atare (de exemplu, reportaje). În acest sens, unele tipuri de conținut (de exemplu, reclame sau documentare) care conțin deepfake-uri ar putea fi considerate opere de o vădită natură creativă sau fictivă în anumite situații specifice, dar nu și în altele, întrucât evaluarea este specifică fiecărui caz în parte. Atunci când deepfake-urile prezintă mai multe caracteristici (de exemplu, informative și creative), caracterul informativ ar trebui să prevaleze întotdeauna, fiind necesară respectarea cerințelor standard de etichetare. |
|
(123) |
Divulgarea într-un mod adecvat, care să nu împiedice afișarea sau receptarea operei: Deepfake-urile care fac parte din opere sau programe de o vădită natură artistică, creativă, satirică sau fictivă sunt excluse de la obligația de transparență prevăzută la articolul 50 alineatul (4) primul paragraf din Regulamentul IA. Implementatorii trebuie să divulge în continuare originea artificială a conținutului sau manipularea artificială a acestuia, dar pot face acest lucru într-un mod adecvat, care să nu împiedice afișarea sau receptarea operei. Considerentul 134 din Regulamentul IA clarifică faptul că o astfel de divulgare efectuată într-un mod adecvat nu ar trebui să împiedice exploatarea și utilizarea normală a lucrării, menținând în același timp utilitatea și calitatea acesteia. Stabilirea măsurilor de divulgare care trebuie considerate adecvate se realizează de la caz la caz, implementatorii putând lua în considerare toți factorii relevanți (inclusiv natura operei, publicul, contextul etc.). În orice caz, implementatorii trebuie să respecte articolul 50 alineatul (5) din Regulamentul IA (a se vedea secțiunea 7). Având în vedere articolul 50 alineatul (7) din Regulamentul IA, implementatorii pot respecta un cod de bune practici, evaluat ca fiind adecvat în temeiul dispoziției respective, pentru a demonstra conformitatea cu această obligație de divulgare. Pentru informații suplimentare privind efectele respectării unui astfel de cod și supravegherea altor operatori care nu respectă un cod a se vedea secțiunea 8.1 de mai jos. |
|
(124) |
Garanții adecvate pentru drepturile și libertățile terților: Considerentul 134 din Regulamentul IA explică faptul că respectarea obligației atenuate de transparență și utilizarea deepfake-urilor artistice, creative, satirice sau fictive trebuie „să facă obiectul unor garanții adecvate pentru drepturile și libertățile terților”. Prin urmare, implementatorii trebuie să se asigure că drepturile și libertățile terților (inclusiv, de exemplu, dreptul lor la protecția datelor cu caracter personal sau drepturile de proprietate intelectuală) sunt protejate și respectate în mod adecvat atunci când creează sau publică deepfake-uri, chiar dacă acestea sunt considerate artistice, creative, satirice sau fictive. Invocarea obligației atenuate de transparență nu poate constitui o justificare pentru nerespectarea drepturilor fundamentale ale persoanelor sau ale titularilor de drepturi în temeiul dreptului Uniunii în materie de proprietate intelectuală ori de protecție a datelor (34).
|
6.1.4. Excepția în scopul aplicării legii
|
(125) |
În cazul în care utilizarea unui deepfake (de exemplu, un material video generat de IA care simulează evenimente care nu au avut loc niciodată) este autorizată prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile, implementatorii sunt scutiți de obligația de transparență prevăzută la articolului 50 alineatul (4) primul paragraf din Regulamentul IA. Clarificările furnizate la punctele 46-48 de mai sus cu privire la o excepție similară prevăzută la articolul 50 alineatul (1) din Regulamentul IA sunt relevante și pentru această dispoziție. |
6.1.5. Interacțiunea cu alte acte juridice ale Uniunii
|
(126) |
Obligația de transparență prevăzută la articolul 50 alineatul (4) primul paragraf din Regulamentul IA va interacționa cu obligațiile furnizorilor de platforme online foarte mari și de motoare de căutare online foarte mari de a identifica și de a atenua riscurile sistemice în temeiul articolelor 34 și 35 din Regulamentul privind serviciile digitale, în special al articolului 35 alineatul (1) litera (k) din Regulamentul privind serviciile digitale (35). Această din urmă dispoziție enumeră, printre posibilele măsuri de atenuare a riscurilor pe care furnizorii de platforme online foarte mari și de motoare de căutare online foarte mari le pot institui, măsuri prin care se asigură că „o informație, care poate lua forma unei imagini generate sau manipulate ori a unui conținut audio sau video generat sau manipulat care seamănă în mod considerabil cu persoane, obiecte, locuri sau alte entități ori evenimente existente și care, în mod fals, pare a fi autentică sau adevărată, poate fi distinsă prin marcaje vizibile atunci când este prezentată pe interfețele lor online”. În plus, furnizorii de platforme online foarte mari și de motoare de căutare online foarte mari pot pune la dispoziție, de asemenea, o funcție ușor de utilizat care să permită destinatarilor serviciului să indice astfel de informații. Deși această dispoziție din Regulamentul privind serviciile digitale pare similară cu articolul 50 alineatul (4) din Regulamentul IA, ea este complementară și conține două distincții importante:
|
|
(127) |
În cazul în care deepfake-ul include informații referitoare la o persoană fizică identificabilă în mod direct sau indirect (care este în viață), implementatorii, în calitate de operatori în temeiul dreptului Uniunii privind protecția datelor, vor trebui, de asemenea, să respecte obligațiile care le revin în temeiul dreptului Uniunii privind protecția datelor (37). Acestea includ, de exemplu, existența unui temei juridic adecvat pentru prelucrarea datelor cu caracter personal, furnizarea de informații privind prelucrarea datelor referitoare la persoanele vizate reprezentate etc. |
|
(128) |
Implementatorii de sisteme de IA care generează deepfake-uri vor trebui, de asemenea, să se asigure că respectă legislația relevantă a Uniunii privind proprietatea intelectuală (cum ar fi dreptul Uniunii privind mărcile comerciale și dreptul Uniunii privind drepturile de autor sau drepturile conexe) în cazul în care deepfake-urile încorporează obiecte protejate în temeiul legislației respective. Aplicarea unei etichete sau a unei pictograme la un deepfake nu are, ca atare, niciun impact asupra eligibilității sale pentru protecția drepturilor de autor, care ar trebui evaluată în conformitate cu dreptul aplicabil al Uniunii privind drepturile de autor. |
|
(129) |
Atunci când în deepfake-uri sunt reprezentate persoane existente, implementatorii vor trebui să respecte și regimurile juridice relevante care protejează drepturile personalității asupra imaginii sau vocii persoanei. Obligația de transparență prevăzută la articolul 50 alineatul (4) primul paragraf din Regulamentul IA nu implică faptul că deepfake-urile generate sau manipulate de IA care sunt dăunătoare și ilegale în temeiul dreptului Uniunii sau al dreptului intern aplicabil (de exemplu, publicitatea înșelătoare sau conținuturi ilegale în temeiul dreptului penal, precum materialele care conțin abuzuri sexuale asupra copiilor și imaginile intime distribuite fără consimțământ) pot fi generate și diseminate (a se vedea, de asemenea, secțiunea 4.4). |
6.2. Principalele componente, conceptele și obligația (obligațiile) de transparență aferentă (aferente) în cazul textului generat sau manipulat de IA în temeiul articolului 50 alineatul (4) din Regulamentul IA
|
(130) |
Articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA se aplică dacă sunt îndeplinite mai multe condiții:
|
6.2.1. Textul publicat cu scopul de a informa publicul cu privire la chestiuni de interes public
|
(131) |
În scopul clarificării domeniului de aplicare al articolului 50 alineatul (4) al doilea paragraf din Regulamentul IA, sunt examinate mai jos trei elemente: (i) textul publicat (ii) cu scopul de a informa publicul (iii) cu privire la chestiuni de interes public.
|
6.2.2. Obligația de divulgare prevăzută la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA
|
(132) |
Articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA obligă implementatorii de sisteme de IA care generează sau manipulează text publicat cu scopul de a informa publicul cu privire la chestiuni de interes public să dezvăluie faptul că textul a fost generat sau manipulat artificial. Considerentul 134 din Regulamentul IA clarifică faptul că, la fel ca în cazul deepfake-urilor, implementatorii care utilizează texte publicate care intră în domeniul de aplicare al dispoziției să dezvăluie în mod clar și distinct faptul că respectivul conținut a fost creat sau manipulat în mod artificial prin etichetarea în consecință a rezultatului generat de IA și divulgarea originii sale artificiale. Astfel cum se prevede pentru deepfake-uri, metodele de etichetare sau de divulgare (inclusiv declarațiile de declinare a responsabilității) aplicate în conformitate cu articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA ar trebui, de asemenea, să fie clare și ușor de perceput de către persoanele fizice (de exemplu, prin mijloace vizibile sau sonore), fără ca acestea să fie nevoite să recurgă la instrumente tehnice specifice sau să întreprindă acțiuni specifice. Având în vedere articolul 50 alineatul (7) din Regulamentul IA, implementatorii pot respecta un cod de bune practici, evaluat ca fiind adecvat în temeiul dispoziției respective, pentru a demonstra conformitatea cu această obligație de divulgare. Pentru informații suplimentare privind efectele utilizării unui astfel de cod și supravegherea implementatorilor care nu utilizează un astfel de cod, a se vedea secțiunea 8.1 de mai jos. |
6.2.3. Excepția de la obligația de transparență în cazul textului supus verificării editoriale sau revizuirii umane și responsabilității editoriale
|
(133) |
Articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA prevede o excepție de la obligația de transparență prevăzută la dispoziția respectivă în cazul în care sunt îndeplinite două condiții cumulative: (i) textul generat sau manipulat de IA trebuie să fi fost supus unui proces de verificare editorială sau revizuire umană și (ii) responsabilitatea editorială pentru publicarea conținutului trebuie să fie deținută de o persoană fizică sau juridică. După caz, implementatorii se pot baza pe standardele profesionale sau deontologice aplicabile relevante pentru a demonstra respectarea acestor cerințe, astfel cum se arată mai jos. |
i.
|
(134) |
Prima condiție pentru aplicarea excepției de la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA impune ca textul generat sau manipulat de IA să fi fost supus verificării editoriale sau revizuirii umane. Revizuirea umană se referă la examinarea deliberată a fondului conținutului de către una sau mai multe persoane fizice care dețin cunoștințe relevante și discernământ profesional cu privire la obiectul examinat (de exemplu, evaluare inter pares în mediul academic sau lanțurile de validare profesională). Verificarea exactității faptelor constituie o cerință minimă care ar trebui să facă parte din această revizuire. Verificarea editorială se referă la verificarea efectuată în practică asupra conținutului de către o entitate editorială responsabilă (de exemplu, un redactor-șef) care are autoritatea de a aproba, modifica sau respinge conținutul textului pe baza unor considerente de fond (inclusiv verificarea exactității informațiilor și asigurarea credibilității surselor). Acest lucru nu aduce atingere procedurilor editoriale și de revizuire existente și nici standardelor profesionale aplicabile furnizorilor de servicii mass-media. |
|
(135) |
Verificările superficiale, exclusiv formale sau procedurale (de exemplu, verificarea ortografică sau corectarea greșelilor gramaticale), simpla existență a unei politici editoriale, a unor procese automatizate de verificare sau a unei aprobări editoriale sumare, fără o examinare de fond de către persoana care efectuează verificarea ori de către entitatea editorială, nu pot îndeplini condițiile privind revizuirea umană sau verificarea editorială în sensul acestei excepții. |
|
(136) |
În cazul în care sistemele de IA sunt utilizate pentru a modifica, a completa sau a reformula conținutul în urma aprobării editoriale, conținutul rezultat trebuie tratat drept conținut generat sau manipulat de IA în sensul articolului 50 alineatul (4) din Regulamentul IA. Prin urmare, orice intervenție substanțială a IA care are loc după ce a avut loc procesul de revizuire umană sau de verificare editorială va determina inaplicabilitatea excepției. |
|
(137) |
Având în vedere articolul 50 alineatul (7) din Regulamentul IA, implementatorii pot respecta un cod de bune practici, evaluat ca fiind adecvat în temeiul dispoziției respective, pentru a demonstra îndeplinirea condiției de revizuire umană sau de verificare editorială (în special de către implementatori care nu sunt furnizori de servicii mass-media supuși standardelor profesionale editoriale sau deontologice existente) prevăzută în dispoziția respectivă. Pentru informații suplimentare privind efectele respectării unui astfel de cod și supravegherea implementatorilor care nu respectă un astfel de cod, a se vedea secțiunea 8.1. |
|
ii. |
|
(138) |
A doua condiție pentru aplicarea excepției de la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA impune ca responsabilitatea editorială pentru publicarea conținutului să fie deținută de o persoană fizică sau juridică. Acest lucru implică faptul că persoana respectivă trebuie să dețină responsabilitatea juridică finală pentru publicarea conținutului, inclusiv revizuirea umană sau verificarea editorială (de exemplu, o persoană fizică, un comitet de redacție sau societatea editorială). Pentru a asigura responsabilitatea publică și încrederea și în conformitate cu standardele profesionale existente în domeniul mass-mediei, identitatea și datele de contact ale persoanei juridice, ale persoanei fizice sau ale funcției care deține responsabilitatea editorială ar trebui să fie puse la dispoziția publicului într-un loc ușor de găsit (dacă nu sunt încă disponibile în alt mod). Acest lucru se poate întâmpla online, de exemplu, prin includerea lor în termenii și condițiile unui site sau în alte informații juridice destinate utilizatorilor. În cazul publicațiilor offline, aceste informații pot fi incluse în colofon sau în mențiunile editoriale ale publicației.
|
6.2.4. Excepția în scopul aplicării legii
|
(139) |
În cazul în care utilizarea sistemelor de IA pentru generarea de text publicat cu scopul de a informa publicul cu privire la chestiuni de interes public fără a fi supus revizuirii umane (de exemplu, un avertisment al poliției generat de IA cu privire la o amenințare teroristă publicat pe platformele de comunicare socială) este autorizată prin lege pentru a depista, a preveni, a investiga sau a urmări penal infracțiunile, implementatorii sunt scutiți de obligația de transparență în temeiul articolului 50 alineatul (4) din Regulamentul IA. Clarificările furnizate la punctele 46-48 de mai sus cu privire la o excepție similară prevăzută la articolul 50 alineatul (1) din Regulamentul IA sunt relevante și pentru această dispoziție. |
6.2.5. Interacțiunea cu alte acte juridice ale Uniunii
|
(140) |
În ceea ce privește dreptul Uniunii în domeniul mass-mediei, responsabilitatea editorială este un concept esențial, definit la articolul 2 alineatul (8) din Regulamentul (UE) 2024/1083 (Regulamentul european privind libertatea mass-mediei) (39). În acest context, „responsabilitate editorială” înseamnă exercitarea unui control efectiv asupra selecționării programelor sau a publicațiilor de presă și asupra organizării acestora, în scopul furnizării unui serviciu mass-media, indiferent dacă există o răspundere sau nu în conformitate cu dreptul intern pentru serviciul furnizat”. În anumite situații, această definiție se poate suprapune cu noțiunea de responsabilitate editorială utilizată la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA, în special în cazul în care implementatorii sistemului de IA se califică, de asemenea, drept furnizori de servicii mass-media în temeiul Regulamentului european privind libertatea mass-mediei. Responsabilitatea editorială în sensul articolului 50 alineatul (4) din Regulamentul IA ar trebui, prin urmare, să fie interpretată în conformitate cu acquis-ul existent în domeniul mass-mediei, în pofida faptului că rămâne un concept distinct care se poate aplica și în contexte mai ample și altor implementatori, atât timp cât aceștia își asumă responsabilitatea editorială pentru publicarea textului. Furnizorii de servicii mass-media se pot baza pe procesele și standardele lor editoriale existente pentru a beneficia de excepția prevăzută la articolul 50 alineatul (4) al doilea paragraf din Regulamentul IA. |
7. CERINȚE ORIZONTALE APLICABILE INFORMAȚIILOR FURNIZATE ÎN TEMEIUL ARTICOLULUI 50 ALINEATUL (5) DIN REGULAMENTUL IA
|
(141) |
În temeiul articolului 50 alineatul (5) din Regulamentul IA, informațiile care trebuie furnizate în conformitate cu articolul 50 alineatul (1)-(4) din Regulamentul IA ar trebui furnizate persoanelor fizice în cauză într-un mod clar și distinct, cel târziu în momentul primei interacțiuni sau al primei expuneri. Informațiile ar trebui, de asemenea, să respecte cerințele de accesibilitate aplicabile. Printre persoanele fizice în cauză în acest context se numără persoanele care interacționează direct cu sistemul de IA [articolul 50 alineatul (1) din Regulamentul IA], utilizatorii activi sau pasivi și alte persoane expuse la conținutul sintetic generat sau manipulat de IA [cu sau fără interacțiune directă cu sistemul de IA [articolul 50 alineatele (2) și (4) din Regulamentul IA] și persoanele expuse sistemelor de recunoaștere a emoțiilor sau de clasificare biometrică [articolul 50 alineatul (3) din Regulamentul IA]. |
7.1. Furnizarea informațiilor într-un mod clar și distinct
|
(142) |
Se va considera că informațiile sunt furnizate într-un mod clar atunci când sunt perceptibile, ușor de înțeles și accesibile pentru persoana fizică în cauză (inclusiv pentru persoanele cu dizabilități). Se va considera că informațiile sunt furnizate într-un mod distinct atunci când sunt ușor de identificat ca fiind separate de alte informații și de mediul în care este prezentat conținutul. De asemenea, informațiile trebuie să fie ușor de înțeles de către public, inclusiv de către grupuri specifice, cum ar fi copiii sau persoanele cu dizabilități, atunci când acestea fac parte din publicul care poate, în mod previzibil, să fie expus conținutului sau să interacționeze cu sistemul (40). Pentru a furniza informații într-un mod clar și distinct, informațiile relevante pot fi prezentate, printre altele, ca parte a interacțiunii [în temeiul articolului 50 alineatul (1) din Regulamentul IA] sau a conținutului relevant [în temeiul articolului 50 alineatul (2) și alineatul (4) din Regulamentul IA]. Informațiile nu vor fi considerate ca fiind furnizate într-un mod clar și distinct atunci când pot fi ușor trecute cu vederea sau omise de către persoanele fizice în condiții normale de expunere sau de interacțiune (de exemplu, dacă sunt incluse numai într-un manual, ascunse în mai multe niveluri de opțiuni ale meniului unei interfețe online sau incluse în condițiile de utilizare, care adesea nu sunt citite de utilizatori). |
7.2. Prima interacțiune sau prima expunere
|
(143) |
Articolul 50 alineatul (5) din Regulamentul IA impune ca informațiile să fie furnizate persoanelor fizice în cauză cel târziu în momentul primei interacțiuni sau al primei expuneri. Prima interacțiune sau prima expunere se referă nu numai la prima persoană fizică care interacționează cu un sistem de IA sau este expusă unui sistem de IA (sau rezultatului acestuia), ci și la orice primă interacțiune ulterioară cu sistemul de IA sau orice primă expunere la sistemul de IA (sau la rezultatul acestuia) a oricărei alte persoane fizice. În ceea ce privește prima interacțiune cu un sistem de IA, informațiile ar trebui furnizate cel puțin o dată la începutul unei sesiuni interactive, luând în considerare contextele specifice menționate la punctele 36 și 40 de mai sus. În ceea ce privește conținutul generat sau manipulat de IA care intră în domeniul de aplicare al articolului 50 alineatul (2) și alineatul (4) din Regulamentul IA, obligația de informare se aplică fiecărui rezultat al unui sistem de IA în ceea ce privește orice persoană fizică expusă conținutului. Aceasta ar trebui înțeleasă în sensul oricărui moment în care este probabil în mod rezonabil ca o persoană fizică să fie expusă la rezultatele sistemului de IA și să perceapă divulgarea, ținând seama de particularitățile divulgării în cazul operelor de evidentă natură creativă, artistică și de altă natură (a se vedea secțiunea 6.1.3.). În plus, implementatorii pot informa persoanele fizice mai devreme de momentul primei interacțiuni sau al primei expuneri efective (de exemplu, la începutul conținutului care include deepfake-uri). Cu toate acestea, în cazul în care este previzibil în mod rezonabil că persoanele nu pot percepe conținutul de la început, atunci simpla furnizare a informației la începutul conținutului nu asigură informarea în mod adecvat a acestor persoane și ar trebui completată, acolo unde este posibil, prin furnizarea informației și în momente ulterioare, dacă este posibil. Acest lucru poate fi pus în aplicare, după caz, ținând seama de obiectivul obligațiilor de transparență de a asigura o furnizare eficace a informațiilor și o sensibilizare semnificativă a utilizatorilor în medii IA din ce în ce mai imersive și mai realiste, în care utilizatorii întâmpină dificultăți tot mai mari în a distinge originea și veridicitatea conținutului și a interacțiunii.
|
7.3. Conformitatea cu cerințele de accesibilitate aplicabile
|
(144) |
Furnizorii și implementatorii de sisteme de IA care intră în domeniul de aplicare al diferitelor obligații de transparență enumerate la articolul 50 alineatele (1)-(4) din Regulamentul IA trebuie să cunoască cerințele de accesibilitate aplicabile [de exemplu, în temeiul Directivei 2016/2102 (41) și al Directivei 2019/882 (42)] și să evalueze dacă produsul, serviciul sau conținutul lor trebuie să respecte normele respective. Într-un astfel de caz, aceștia trebuie să asigure accesibilitatea informațiilor transmise în conformitate cu articolul 50 din Regulamentul IA, cu respectarea cerințelor de accesibilitate aplicabile. Articolul 50 din Regulamentul IA nu impune cerințe de accesibilitate distincte sau suplimentare. |
8. APLICAREA ARTICOLULUI 50 DIN REGULAMENTUL IA
|
(145) |
Această secțiune urmărește să clarifice: (i) efectele respectării unui cod de bune practici în ceea ce privește conformitatea cu obligațiile de transparență pentru conținutul generat de IA, (ii) rolul autorităților de supraveghere competente în asigurarea respectării articolului 50 din Regulamentul IA, (iii) sancțiunile aplicabile pentru încălcarea acestor obligații și (iv) momentul de la care obligațiile prevăzute la articolul 50 din Regulamentul IA devin aplicabile. |
8.1. Efectele respectării unui cod de bune practici evaluat ca fiind adecvat
|
(146) |
Furnizorii și implementatorii de sisteme de IA care intră în domeniul de aplicare al articolului 50 alineatele (2) și alineatul (4) din Regulamentul IA pot demonstra conformitatea cu obligațiile lor respective de transparență privind conținutul generat de IA prevăzute de dispozițiile respective prin respectarea unui cod de bune practici care este evaluat ca fiind adecvat în temeiul articolului 50 alineatul (7) din Regulamentul IA (43). Un astfel de cod nu înlocuiește Regulamentul IA sau prezentele orientări. Aceasta vine în completarea lor, oferind singurul cadru practic recunoscut la nivelul Uniunii pentru ca furnizorii și implementatorii de sisteme de IA generative să demonstreze conformitatea cu obligațiile respective, indiferent de locul în care sunt stabiliți sau își desfășoară activitatea și de autoritățile competente de supraveghere a pieței. |
|
(147) |
Deși furnizorii și implementatorii pot demonstra, de asemenea, conformitatea cu aceste obligații prin mijloace alternative adecvate, respectarea unui cod de bune practici considerat adecvat este o modalitate simplă, previzibilă și sigură din punct de vedere juridic pentru a demonstra conformitatea. În cazul semnatarilor unui cod de bune practici evaluat ca fiind adecvat în temeiul articolului 50 alineatul (7) din Regulamentul IA (44), Comisia și autoritățile competente de supraveghere a pieței își vor concentra activitățile de supraveghere pe evaluarea măsurii în care acești semnatari au respectat codul de bune practici și au pus în aplicare măsurile cuprinse în acesta. Întrucât furnizorii și implementatorii care respectă un cod de bune practici vor fi transparenți cu privire la măsurile pe care le pun în aplicare pentru a se conforma articolului 50 alineatele (2), (4) și (5) din Regulamentul IA, aceștia vor beneficia de o încredere sporită din partea Comisiei, a celorlalte autorități competente de supraveghere a pieței și a altor părți interesate (inclusiv a publicului larg). În situația încheierii unei clauze de neparticipare de către semnatarii unui cod de bune practici considerat adecvat, furnizorii și implementatorii respectivi nu vor mai beneficia de facilitarea demonstrării conformității de a facilita demonstrarea conformității în sensul respectiv. |
|
(148) |
Furnizorii și implementatorii care nu sunt semnatari ai unui cod de bune practici considerat adecvat în temeiul articolului 50 alineatul (7) din Regulamentul IA trebuie să demonstreze modul în care și-au respectat obligațiile care le revin în temeiul articolului 50 alineatele (2), (4) și (5) din Regulamentul IA prin alte mijloace adecvate. În plus, acești furnizori și implementatori trebuie să explice modul în care măsurile pe care le pun în aplicare asigură respectarea obligațiilor care le revin în temeiul Regulamentului privind IA. De exemplu, aceștia ar trebui să efectueze o analiză a decalajelor prin care să compare măsurile pe care le-au pus în aplicare cu cele prevăzute într-un cod de bune practici evaluat ca fiind adecvat. Întrucât autoritățile competente (inclusiv Oficiul pentru IA) vor dispune de mai puține informații cu privire la modul în care furnizorii și implementatorii care nu sunt semnatari ai unui cod de bune practici asigură respectarea obligațiilor care le revin în temeiul articolului 50 alineatele (2), (4) și (5) din Regulamentul IA, este probabil ca acestea să aibă nevoie de informații mai detaliate atunci când monitorizează conformitatea. De exemplu, furnizorii care nu respectă un cod de bune practici pot face, de asemenea, obiectul unui număr mai mare de solicitări de informații și de cereri de acces pentru a evalua eficacitatea, interoperabilitatea, soliditatea și fiabilitatea soluțiilor tehnice puse în aplicare în vederea respectării articolului 50 alineatul (2) din Regulamentul IA. Implementatorii pot face, de asemenea, obiectul unor astfel de solicitări în ceea ce privește practicile lor de etichetare în temeiul articolului 50 alineatul (4) din Regulamentul IA. |
|
(149) |
Autoritățile competente pot lua în considerare angajamentele puse în aplicare în conformitate cu un cod de bune practici considerat adecvat drept circumstanță atenuantă la stabilirea cuantumului amenzilor, în funcție de circumstanțele specifice (45). |
|
(150) |
În cazul în care consideră că codul de bune practici este inadecvat, în temeiul articolului 50 alineatul (7) din Regulamentul IA, Comisia poate să adopte un act de punere în aplicare care să precizeze normele comune pentru punerea în aplicare a obligațiilor prevăzute la articolul 50 alineatele (2), (4) și (5) din Regulamentul IA, care ar fi aplicabil tuturor furnizorilor și implementatorilor relevanți de sisteme de IA care intră în domeniul de aplicare al dispozițiilor respective (46). |
8.2. Autoritățile de supraveghere a pieței
|
(151) |
Autoritățile de supraveghere a pieței desemnate de statele membre, Oficiul pentru IA (47) și Autoritatea Europeană pentru Protecția Datelor (48) sunt responsabile de supravegherea și aplicarea legii pentru sistemele de IA care intră în sfera lor de competență, inclusiv a obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA. Aplicarea legii are loc în cadrul sistemului de supraveghere a pieței și de conformitate a produselor instituit prin Regulamentul (UE) 2019/1020 și prin Regulamentul IA. Competențele de aplicare a legii care revin autorităților de supraveghere a pieței în ceea ce privește sistemele de IA sunt prevăzute în regulamentele respective. Autoritățile respective pot lua măsuri de aplicare a legii în legătură cu obligațiile enumerate la articolul 50 din Regulamentul IA fie din proprie inițiativă, fie în urma unei plângeri, pe care are dreptul să o depună orice persoană afectată sau orice altă persoană fizică sau juridică care are motive să considere că au avut loc astfel de încălcări (49). Responsabilitățile autorităților de supraveghere a pieței în temeiul Regulamentului privind IA nu afectează competențele și sarcinile altor autorități de supraveghere sau autorități pentru drepturile fundamentale în temeiul propriului cadru juridic în situațiile în care se aplică atât articolul 50 din Regulamentul IA, cât și cadrul respectiv (de exemplu, în materia protecției datelor sau a protecției consumatorilor). |
8.3. Sancțiuni
|
(152) |
Furnizorul și implementatorii care nu respectă obligațiile de transparență aplicabile prevăzute la articolul 50 din Regulamentul IA pot fi amendați cu până la 15 000 000 EUR sau, în cazul în care autorul infracțiunii este o întreprindere, cu până la 3 % din cifra sa de afaceri mondială totală anuală pentru exercițiul financiar precedent, luându-se în considerare valoarea cea mai mare dintre acestea. Instituțiile, organele și agențiile UE care încalcă obligațiile de transparență pot face obiectul unor amenzi administrative de până la 750 000 EUR. În cazul întreprinderilor mici și mijlocii (IMM-uri), inclusiv al start-upurilor, fiecare amendă nu depășește procentajele sau cuantumul menționate mai sus, reținându-se valoarea cea mai mică dintre acestea. Amenzile sunt eficace, proporționale și disuasive și țin seama de interesele IMM-urilor și ale întreprinderilor mici cu capitalizare medie, inclusiv ale start-upurilor, precum și de viabilitatea lor economică. Atunci când decide dacă să se impună o amendă administrativă și când se decide cu privire la cuantumul amenzii administrative în fiecare caz în parte, autoritățile competente ar trebui să evalueze toate circumstanțele relevante ale situației specifice și, după caz, o serie de factori care afectează gravitatea încălcării (de exemplu, natura, gravitatea și durata încălcării și a consecințelor acesteia, caracterul neglijent sau intenționat, alte circumstanțe agravante sau atenuante, gradul de cooperare cu autoritățile de supraveghere a pieței etc.). |
8.4. Punerea în aplicare
|
(153) |
În conformitate cu articolul 113 din Regulamentul IA, articolul 50 din Regulamentul IA se aplică de la 2 august 2026. Acest lucru impune ca toate sistemele de IA care intră în domeniul de aplicare și care sunt introduse pe piață sau puse în funcțiune în Uniune să respecte dispoziția respectivă la data respectivă, indiferent de data introducerii lor pe piață sau a punerii lor în funcțiune (50). Regulamentul de modificare a Regulamentului privind IA (Regulamentul omnibus în domeniul digital privind IA), care a fost adoptat recent de legiuitorul Uniunii, prevede o normă specifică de anterioritate numai în ceea ce privește obligațiile de marcare și detectare prevăzute la articolul 50 alineatul (2) din Regulamentul IA pentru sistemele de IA generative introduse pe piață sau puse în funcțiune înainte de 2 august 2026. Acesta oferă furnizorilor acestor sisteme existente o perioadă de tranziție pentru a asigura conformitatea propriilor sisteme până la 2 decembrie 2026. Sistemele care sunt parțial interactive și parțial generative pot beneficia de această perioadă de tranziție numai în ceea ce privește obligația de marcare prevăzută la articolul 50 alineatul (2) din Regulamentul IA, în timp ce respectarea obligației de divulgare pentru sistemele de IA care interacționează direct cu persoane fizice trebuie asigurată începând cu 2 august 2026. |
|
(154) |
Rezultatele generate sau manipulate de IA care intră în domeniul de aplicare al articolului 50 alineatul (2) din Regulamentul IA și deepfake-urile care intră în domeniul de aplicare al articolului 50 alineatul (4) primul paragraf din Regulamentul IA, care au fost generate sau manipulate înainte de 2 august 2026, nu trebuie să fie marcate sau etichetate retroactiv. Același lucru este valabil și pentru textele referitoare la chestiuni de interes public care intră în domeniul de aplicare al articolului 50 alineatul (4) al doilea paragraf din Regulamentul IA și care au fost generate sau manipulate și publicate înainte de 2 august 2026. În schimb, dacă textele generate sau manipulate înainte de 2 august 2026 sunt publicate la această dată sau ulterior, acestea trebuie etichetate. Având în vedere obiectivul urmărit de Regulamentul IA de a asigura transparența și de a spori încrederea și integritatea ecosistemului informațional, implementatorii de sisteme de IA și alți actori care dețin sau diseminează deepfake-uri preexistente neetichetate sunt totuși încurajați să le eticheteze, fără a se aștepta însă ca aceștia să depună eforturi disproporționate în acest scop (precum auditarea bazelor de date cu conținut preexistent sau modificarea ambalajelor deja tipărite ale produselor). |
9. REVIZUIREA ȘI ACTUALIZAREA ORIENTĂRILOR
|
(155) |
Prezentele orientări constituie o primă interpretare cu exemple practice a obligațiilor de transparență prevăzute la articolul 50 din Regulamentul IA. Comisia va revizui prezentele orientări de îndată ce acest lucru va fi necesar, având în vedere experiența practică dobândită în punerea în aplicare a obligațiilor de transparență și ritmul evoluțiilor tehnologice, societale și în materie de reglementare din acest domeniu. Aceasta include, de asemenea, orice experiență relevantă dobândită în urma acțiunilor de aplicare a legii în materie de supraveghere a pieței, precum și din interpretările date de CJUE cu privire la articolul 50 din Regulamentul IA. În cursul unei astfel de revizuiri, Comisia poate decide să retragă sau să modifice prezentele orientări. Comisia încurajează furnizorii și implementatorii de sisteme de IA, autoritățile naționale de supraveghere a pieței prin intermediul Consiliului IA, Forumul consultativ pentru IA, comunitatea de cercetare și organizațiile societății civile să contribuie la acest proces răspunzând viitoarelor cereri de consultare publică. |
(1) Regulamentul (UE) 2024/1689 al Parlamentului European și al Consiliului din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligența artificială (Regulamentul privind inteligența artificială) (JO L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
(2) Articolul 1 din Regulamentul IA.
(3) Articolul 2 alineatul (1) litera (a) și articolul 3 alineatele (3), (9) și (11) din Regulamentul IA. Pentru orientări suplimentare privind conceptele de introducere pe piață, punere în funcțiune și utilizare, a se vedea Orientările Comisiei privind practicile interzise în domeniul inteligenței artificiale, C(2025) 5052 final, și Comunicarea Comisiei – „Ghidul albastru” din 2022 referitor la punerea în aplicare a normelor UE privind produsele, secțiunea 2 (JO C 247, 29.6.2022, p. 1).
(4) Articolul 2 alineatul (1) litera (c) și considerentul 22 din Regulamentul IA.
(5) Articolul 3 alineatul (4) din Regulamentul IA.
(6) Articolul 2 alineatul (1) literele (b) și (c) din Regulamentul IA.
(7) Regulamentul (UE) 2022/2065 al Parlamentului European și al Consiliului din 19 octombrie 2022 privind piața internă de energie electrică (JO L 277, 27.10.2022, p. 1).
(8) A se vedea secțiunea 2.5 din Orientările Comisiei privind practicile interzise în domeniul inteligenței artificiale instituite prin Regulamentul (UE) 2024/1689 (Regulamentul IA), Bruxelles, 29.7.2025, C(2025) 5052 final.
(9) Definiția implementatorului exclude, de asemenea, utilizatorii implicați în astfel de activități (a se vedea secțiunea 2.3 de mai sus).
(10) Considerentul 25 din Regulamentul IA.
(11) Considerentul 102 din Regulamentul IA explică faptul că o lansare de software și date sub licență liberă și cu sursă deschisă „le permite să fie partajate în mod deschis și pe care utilizatorii le pot accesa, utiliza, modifica și redistribui liber sau versiuni modificate ale acestora”.
(12) Pentru informații suplimentare cu privire la articolul 5 din Regulamentul IA, a se vedea Orientările Comisiei privind practicile interzise în domeniul inteligenței artificiale instituite prin Regulamentul (UE) 2024/1689 (Regulamentul IA), C (2025) 5052 final.
(13) A se vedea articolul 6 din Regulamentul IA.
(14) În special, articolul 26 alineatul (11) din Regulamentul IA impune o obligație de transparență implementatorilor de sisteme de IA cu grad ridicat de risc care iau decizii sau contribuie la luarea deciziilor informează persoanele fizice că fac obiectul utilizării sistemului de IA cu grad ridicat de risc. Aceste obligații de transparență sunt complementare celor prevăzute la articolul 50 din Regulamentul IA, deoarece se referă la informații diferite care trebuie furnizate persoanelor fizice, dar pot fi combinate în notificări unice.
(15) Articolul 3 alineatul (66) din Regulamentul IA definește un sistem de IA de uz general drept un sistem de IA care se bazează pe un model de IA de uz general și care are capacitatea de a deservi o varietate de scopuri, atât pentru utilizare directă, cât și pentru integrarea în alte sisteme de IA.
(16) Articolul 50 alineatul (2) din Regulamentul IA conține o trimitere explicită la sistemele de IA de uz general.
(17) Considerentul 133 din Regulamentul IA.
(18) A se vedea articolul 3 punctul 1 din Regulamentul IA. Pentru orientări suplimentare privind conceptul de sistem de IA, a se vedea Orientările Comisiei privind definiția unui sistem de inteligență artificială, 29.7.2025, C(2025) 5053 final.
(19) A se vedea considerentul 132 din Regulamentul IA. Aceasta nu presupune ca sistemul să vizeze în mod specific grupurile vulnerabile respective. Dacă un sistem este destinat să interacționeze cu orice membru al publicului, atunci sunt incluși și membrii grupurilor vulnerabile, iar furnizorii ar trebui să țină seama de aceștia atunci când pun în aplicare măsurile de informare.
(20) A se vedea secțiunea 7.3 pentru cerințele de accesibilitate aplicabile.
(21) De exemplu, atestatele electronice ale atributelor, astfel cum sunt stabilite în Regulamentul (UE) nr. 910/2014 și puse la dispoziție în portofelele UE pentru identitatea digitală instituite în temeiul aceluiași regulament, precum și în portofelele europene pentru întreprinderi propuse, pot oferi mijloace sigure și eficiente de identificare a agenților IA. Portofelele pot stoca și gestiona atestate electronice care verifică identitatea, atributele și autorizațiile agentului IA, permițând astfel divulgarea fără sincope și fiabilă către persoanele fizice.
(22) Acest lucru este valabil și pentru excepțiile similare în beneficiul activităților de aplicare a legii prevăzute la articolul 50 alineatele (2)-(4) din Regulamentul IA.
(23) Directiva 2005/29/CE a Parlamentului European și a Consiliului din 11 mai 2005 privind practicile comerciale neloiale ale întreprinderilor de pe piața internă față de consumatori (JO L 149, 11.6.2005, p. 2).
(24) Directiva 2011/83/UE a Parlamentului European și a Consiliului din 25 octombrie 2011 privind drepturile consumatorilor (JO L 304, 22.11.2011, p. 64).
(25) Directiva 2012/13/UE a Parlamentului European și a Consiliului din 22 mai 2012 privind dreptul la informare în cadrul procedurilor penale (JO L 142, 1.6.2012, p. 1). Directiva 2012/29/UE a Parlamentului European și a Consiliului din 25 octombrie 2012 de stabilire a unor norme minime privind drepturile, sprijinirea și protecția victimelor criminalității (JO L 315, 14.11.2012, p. 57).
(26) Astfel cum sunt definite la articolul 3 alineatul (1) din Regulamentul IA.
(27) Considerentul 133 din Regulamentul IA precizează faptul că este oportun să se solicite furnizorilor acestor sisteme să încorporeze soluții tehnice care să permită marcarea într-un format prelucrabil automat și detectarea faptului că rezultatul a fost generat sau manipulat de un sistem de IA, și nu de un om. Considerentul 135 din Regulamentul IA se referă la obligația de detectare.
(28) A se vedea anexa II la Decizia de punere în aplicare C(2025) 3871 final a Comisiei privind o cerere de standardizare adresată Comitetului European de Standardizare și Comitetului European de Standardizare în Electrotehnică în ceea ce privește sistemele de IA cu grad ridicat de risc în sprijinul Regulamentului (UE) 2024/1689 al Parlamentului European și al Consiliului și de abrogare a Deciziei de punere în aplicare C(2023) 3215 final.
(29) A se vedea, de asemenea, considerentul 11 din Regulamentul IA.
(30) A se vedea, de asemenea, considerentul 137 din Regulamentul IA.
(31) Considerentul 136 din Regulamentul IA.
(32) Prin urmare, acest criteriu trebuie înțeles în mod independent și distinct de conceptul de înșelăciune, astfel cum este menționat în Directiva 2005/29/CE privind practicile comerciale neloiale ale întreprinderilor de pe piața internă față de consumatori (Directiva privind practicile comerciale neloiale), https://eur-lex.europa.eu/eli/dir/2005/29/oj/eng.
(33) A se vedea în același sens articolul 1 litera (b) din DSMAV.
(34) Acest lucru se aplică în egală măsură textelor publicate cu scopul de a informa publicul cu privire la chestiuni de interes public.
(35) A se vedea, de asemenea, secțiunea 4.4 pentru informații suplimentare privind interacțiunea dintre articolul 50 din Regulamentul IA și Regulamentul privind serviciile digitale.
(36) Considerentul 2 din Regulamentul privind serviciile digitale.
(37) Pentru clarificări mai detaliate, a se vedea Orientările comune ale Comisiei și ale CEPD privind interacțiunea dintre Regulamentul IA și dreptul UE privind protecția datelor (în curs de elaborare).
(38) A se vedea, prin analogie, cauza C-89/04, Mediakabel, EU:C:2005:348, punctul 33, cauza C-192/04, Lagardère, EU:C:2005:475, punctul 31, cauza C-306/05, SGAE, EU:C:2006:764, punctele 37-40, cauza C-527/15, Stichting Brein, EU:C:2017:300, punctele 43-44 și jurisprudența citată, precum și cauza C-135/23, GEMA, EU:C:2024:526, punctul 38 și jurisprudența citată.
(39) Regulamentul (UE) 2024/1083 al Parlamentului European și al Consiliului din 11 aprilie 2024 de stabilire a unui cadru comun pentru serviciile mass-media în cadrul pieței interne și de modificare a Directivei 2010/13/UE (Regulamentul european privind libertatea mass-mediei) (JO L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).
(40) Atunci când copiii fac parte din publicul-țintă al conținutului, notificările respective trebuie să fie: (i) adaptate copiilor, adecvate vârstei, ușor de înțeles și ușor accesibile pentru toți copiii, inclusiv pentru cei cu dizabilități și/sau cu nevoi suplimentare în materie de accesibilitate, (ii) prezentate clar, într-un mod ușor de înțeles și cât mai simplu și mai succint posibil, (iii) prezentate în moduri ușor de verificat și care oferă acces imediat și intuitiv, în momentele în care devin relevante, (iv) prezentate în limba (limbile) oficială (oficiale) a (ale) statului membru în care este furnizat serviciul, (v) atractive și antrenante pentru copii, scop în care pot fi utilizate, de asemenea, grafice, materiale video și/sau personaje sau alte tehnici și (vi) puse la dispoziția copiilor treptat și în timp pentru a permite asimilarea durabilă a acestora de către utilizator.
(41) Directiva (UE) 2016/2102 a Parlamentului European și a Consiliului din 26 octombrie 2016 privind accesibilitatea site-urilor web și a aplicațiilor mobile ale organismelor din sectorul public (Text cu relevanță pentru SEE) (JO L 327, 2.12.2016, p. 1).
(42) Directiva (UE) 2019/882 a Parlamentului European și a Consiliului din 17 aprilie 2019 privind cerințele de accesibilitate aplicabile produselor și serviciilor (Text cu relevanță pentru SEE), PE/81/2018/REV/1 (JO L 151, 7.6.2019, p. 70).
(43) A se vedea informațiile relevante despre Code of Practice on Transparency of AI-Generated Content Shaping Europe’s digital future (Codul de bune practici privind transparența conținutului generat de IA – Conturarea viitorului digital al Europei), publicat la 10 iunie 2026.
(44) A se vedea Commission Opinion on the assessment of the Code of Practice on Transparency of AI-generated content Shaping Europe’s digital future (Avizul Comisiei cu privire la evaluarea Codului de bune practici privind transparența conținutului generat de IA | Conturarea viitorului digital al Europei).
(45) Articolul 99 alineatul (7) litera (e) din Regulamentul IA.
(46) Articolul 50 alineatul (7) din Regulamentul IA.
(47) În calitate de autoritate de supraveghere a pieței pentru sistemele de IA bazate pe modele de IA de uz general furnizate de același furnizor [articolul 75 alineatul (1) din Regulamentul IA]. Aceasta acoperă obligația aplicabilă furnizorilor în temeiul articolului 50 alineatele (1) și (2) din Regulamentul IA. În ceea ce privește articolul 50 alineatele (3) și (4) din Regulamentul IA, Oficiul pentru IA va fi competent numai dacă respectivul furnizor de model și de sistem de IA de uz general este, de asemenea, un implementator al sistemului.
(48) În calitate de autoritate de supraveghere a pieței pentru instituțiile, agențiile și organismele UE.
(49) Articolul 85 din Regulamentul IA.
(50) Regula specială de anterioritate prevăzută la articolul 111 alineatul (2) din Regulamentul IA se aplică sistemelor de IA cu grad ridicat de risc introduse pe piață înainte de data de la care devin aplicabile normele privind sistemele cu grad ridicat de risc numai în ceea ce privește conformitatea acestor sisteme cu cerințele și obligațiile aplicabile sistemelor de IA cu grad ridicat de risc. În cazul în care sistemul de IA cu grad ridicat de risc face, de asemenea, obiectul uneia sau mai multor obligații de transparență prevăzute la articolului 50 din Regulamentul IA, această regulă specială de anterioritate nu se aplică, întrucât diferitele obligații privind sistemele cu grad ridicat de risc și obligațiile de transparență prevăzute la articolul 50 se aplică cumulativ, iar anterioritatea este justificată și limitată numai în ceea ce privește respectarea dispozițiilor referitoare la sistemele cu grad ridicat de risc.
ELI: http://data.europa.eu/eli/C/2026/6005/oj
ISSN 1977-1029 (electronic edition)