|
Gazzetta ufficiale |
IT Serie C |
|
C/2026/6005 |
12.11.2026 |
COMUNICAZIONE DELLA COMMISSIONE
Orientamenti sull’attuazione degli obblighi di trasparenza per determinati sistemi di IA a norma dell’articolo 50 del regolamento (UE) 2024/1689 («regolamento sull’IA»)
(C/2026/6005)
Indice
|
1. |
CONTESTO E OBIETTIVI | 3 |
|
2. |
PANORAMICA DEGLI OBBLIGHI DI TRASPARENZA E DEI TEMI ORIZZONTALI | 3 |
|
2.1. |
Panoramica degli obblighi di trasparenza di cui all’articolo 50 del regolamento sull’IA | 3 |
|
2.2. |
Fondamenti e obiettivi | 4 |
|
2.3. |
Attori responsabili a norma dell’articolo 50 del regolamento sull’IA | 5 |
|
2.4. |
Esclusioni dall’ambito di applicazione del regolamento sull’IA | 7 |
|
2.4.1. |
Deployer che agiscono nell’ambito di un’attività non professionale puramente personale | 7 |
|
2.4.2. |
Ricerca & sviluppo | 8 |
|
2.4.3. |
Sistemi di IA rilasciati con licenza libera e open source | 8 |
|
2.5. |
Interazione con le pratiche vietate, requisiti per i sistemi di IA ad alto rischio e alfabetizzazione in materia di IA | 9 |
|
2.6. |
Interazione con le norme applicabili ai modelli e/o ai sistemi di IA per finalità generali | 9 |
|
3. |
ARTICOLO 50, PARAGRAFO 1, DEL REGOLAMENTO SULL’IA: TRASPARENZA PER I SISTEMI DI IA INTERATTIVA | 9 |
|
3.1. |
Principali componenti, concetti e relativi obblighi di trasparenza | 10 |
|
3.1.1. |
Sistemi di IA destinati a interagire direttamente con le persone fisiche | 10 |
|
3.1.2. |
Obbligo di informazione a norma dell’articolo 50, paragrafo 1, del regolamento sull’IA | 12 |
|
3.2. |
Eccezioni all’obbligo di informazione di cui all’articolo 50, paragrafo 1, del regolamento sull’IA | 14 |
|
3.2.1. |
Eccezione per l’interazione evidente con un sistema di IA | 14 |
|
3.2.2. |
Eccezione per i sistemi di IA autorizzati dalla legge a fini di contrasto | 16 |
|
3.3. |
Interazione con altri atti giuridici dell’Unione | 17 |
|
4. |
ARTICOLO 50, PARAGRAFO 2, DEL REGOLAMENTO SULL’IA: MARCATURA E RILEVAZIONE DI CONTENUTI GENERATI O MANIPOLATI DALL’IA | 18 |
|
4.1. |
Principali componenti e concetti dell’articolo 50, paragrafo 2, del regolamento sull’IA | 18 |
|
4.1.1. |
Sistemi di IA che generano o manipolano contenuti sintetici | 18 |
|
4.1.2. |
Modalità dei contenuti sintetici che rientrano nell’ambito di applicazione | 19 |
|
4.1.3. |
Contenuti che non rientrano nell’ambito di applicazione dell’articolo 50, paragrafo 2, del regolamento sull’IA | 20 |
|
4.2. |
Obbligo di marcatura e rilevazione di cui all’articolo 50, paragrafo 2, del regolamento sull’IA | 21 |
|
4.2.1. |
L’obbligo di marcatura | 21 |
|
4.2.2. |
L’obbligo di rilevazione | 22 |
|
4.2.3. |
Conformità ai requisiti previsti per le soluzioni tecniche: efficacia, interoperabilità, solidità e affidabilità | 22 |
|
4.3. |
Eccezioni agli obblighi di cui all’articolo 50, paragrafo 2, del regolamento sull’IA | 24 |
|
4.4. |
Interazione con altri atti giuridici dell’Unione | 25 |
|
5. |
ARTICOLO 50, PARAGRAFO 3, DEL REGOLAMENTO SULL’IA: SISTEMI DI RICONOSCIMENTO DELLE EMOZIONI E SISTEMI DI CATEGORIZZAZIONE BIOMETRICA | 26 |
|
5.1. |
Principali componenti, concetti e obblighi di trasparenza pertinenti a norma dell’articolo 50, paragrafo 3, del regolamento sull’IA | 27 |
|
5.1.1. |
La nozione di sistema di riconoscimento delle emozioni | 27 |
|
5.1.2. |
La nozione di sistema di categorizzazione biometrica | 27 |
|
5.1.3. |
L’obbligo di informazione di cui all’articolo 50, paragrafo 3, del regolamento sull’IA | 27 |
|
5.2. |
Eccezione a fini di contrasto | 28 |
|
5.3. |
Interazione con altri atti giuridici dell’Unione | 28 |
|
6. |
ARTICOLO 50, PARAGRAFO 4: ETICHETTATURA DEI DEEP FAKE E DI TALUNI TESTI PUBBLICATI | 28 |
|
6.1. |
Principali componenti, concetti e obblighi di trasparenza pertinenti per i deep fake a norma dell’articolo 50, paragrafo 4, del regolamento sull’IA | 28 |
|
6.1.1. |
La nozione di «deep fake» | 29 |
|
6.1.2. |
Obbligo di trasparenza a norma dell’articolo 50, paragrafo 4, primo comma, del regolamento sull’IA | 31 |
|
6.1.3. |
Trasparenza dei contenuti deep fake in opere o programmi manifestamente artistici, creativi, satirici, fittizi o analoghi | 32 |
|
6.1.4. |
Eccezione a fini di contrasto | 34 |
|
6.1.5. |
Interazione con altri atti giuridici dell’Unione | 34 |
|
6.2. |
Principali componenti, concetti e obblighi di trasparenza pertinenti per testo generato o manipolato dall’IA a norma dell’articolo 50, paragrafo 4, del regolamento sull’IA | 35 |
|
6.2.1. |
Testo pubblicato allo scopo di informare il pubblico su questioni di interesse pubblico | 36 |
|
6.2.2. |
Obbligo di trasparenza a norma dell’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA | 37 |
|
6.2.3. |
Eccezione all’obbligo di trasparenza per testo sottoposto a revisione umana o controllo editoriale e responsabilità editoriale | 37 |
|
6.2.4. |
Eccezione a fini di contrasto | 38 |
|
6.2.5. |
Interazione con altri atti giuridici dell’Unione | 39 |
|
7. |
REQUISITI ORIZZONTALI APPLICABILI ALLE INFORMAZIONI FORNITE A NORMA DELL’ARTICOLO 50, PARAGRAFO 5, DEL REGOLAMENTO SULL’IA | 39 |
|
7.1. |
Fornitura di informazioni in maniera chiara e distinguibile | 39 |
|
7.2. |
Prima interazione o esposizione | 40 |
|
7.3. |
Conformità ai requisiti di accessibilità applicabili | 40 |
|
8. |
APPLICAZIONE DELL’ARTICOLO 50 DEL REGOLAMENTO SULL’IA | 40 |
|
8.1. |
Effetti dell’adesione a un codice di buone pratiche ritenuto adeguato | 41 |
|
8.2. |
Autorità di vigilanza del mercato | 42 |
|
8.3. |
Sanzioni | 42 |
|
8.4. |
Entrata in vigore | 42 |
|
9. |
RIESAME E AGGIORNAMENTO DEGLI ORIENTAMENTI | 43 |
1. CONTESTO E OBIETTIVI
|
(1) |
Il regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull’intelligenza artificiale e modifica taluni regolamenti («regolamento sull’IA») è entrato in vigore il 1o agosto 2024 (1). Esso stabilisce regole armonizzate per l’immissione sul mercato, la messa in servizio e l’uso dell’intelligenza artificiale («IA») nell’Unione (2). Il suo obiettivo è promuovere l’innovazione nell’IA e favorire la diffusione di un’IA affidabile, garantendo nel contempo un livello elevato di protezione della salute, della sicurezza e dei diritti fondamentali dell’Unione, compresi la democrazia e lo Stato di diritto. |
|
(2) |
Il regolamento sull’IA segue un approccio basato sul rischio, classificando i sistemi di IA in quattro diverse categorie di rischio, una delle quali è costituita dai sistemi di IA che presentano rischi per la trasparenza e che sono soggetti agli obblighi di cui all’articolo 50 del regolamento in questione. Tali obblighi di trasparenza si applicano due anni dopo l’entrata in vigore del regolamento, ossia a decorrere dal 2 agosto 2026. |
|
(3) |
Conformemente all’articolo 96, paragrafo 1, lettera d), del regolamento sull’IA, i presenti orientamenti della Commissione sono pubblicati con l’obiettivo di fungere da orientamenti pratici per assistere le autorità competenti, nonché i fornitori e i deployer di sistemi di IA, nel garantire il rispetto degli obblighi di trasparenza di cui all’articolo 50 del regolamento in modo coerente, efficace, proporzionato e uniforme. |
|
(4) |
L’elaborazione dei presenti orientamenti si è basata sui contributi di una serie di portatori di interessi raccolti nel corso di un’ampia consultazione organizzata dalla Commissione e sui contributi degli Stati membri in seno al consiglio per l’IA, nonché sui contributi dei portatori di interessi sul progetto di orientamenti pubblicato per la consultazione. |
|
(5) |
I presenti orientamenti non sono vincolanti. Solo la Corte di giustizia dell’Unione europea («CGUE») è competente a fornire, in ultima istanza, un’interpretazione autorevole del regolamento sull’IA. |
2. PANORAMICA DEGLI OBBLIGHI DI TRASPARENZA E DEI TEMI ORIZZONTALI
2.1. Panoramica degli obblighi di trasparenza di cui all’articolo 50 del regolamento sull’IA
|
(6) |
L’articolo 50 del regolamento sull’IA prevede quattro obblighi di trasparenza, ciascuno dei quali si applica a diversi tipi di sistemi di IA o ai loro rispettivi output.
|
|
(7) |
Ciascuno di questi quattro obblighi è esaminato nelle sezioni da 3 a 6 dei presenti orientamenti. Inoltre l’articolo 50, paragrafo 5, del regolamento sull’IA impone che le informazioni di cui ai paragrafi da 1 a 4 siano fornite alle persone fisiche interessate in maniera chiara e distinguibile al più tardi al momento della prima interazione o esposizione e siano conformi ai requisiti di accessibilità applicabili. La sezione 7 chiarisce tali obblighi. |
|
(8) |
I vari obblighi di trasparenza di cui all’articolo 50 del regolamento sull’IA possono applicarsi cumulativamente a un unico sistema di IA (o al suo output), facendo scattare eventualmente la responsabilità di diversi attori (fornitori o deployer). Ad esempio, se un sistema di IA genera immagini nell’ambito di un’interazione diretta con una persona fisica, il fornitore del sistema potrebbe dover conformarsi sia al paragrafo 1 che al paragrafo 2 dell’articolo 50 del regolamento sull’IA. Se tale sistema è anche in grado di generare immagini che costituiscono deep fake o testo pubblicato su questioni di interesse pubblico, il deployer potrebbe anche essere tenuto a conformarsi all’articolo 50, paragrafo 4, del regolamento sull’IA. |
2.2. Fondamenti e obiettivi
|
(9) |
Come spiegato nei considerando da 132 a 136 del regolamento sull’IA, lo scopo degli obblighi di trasparenza è di ridurre i rischi di impersonificazione, inganno, cattiva informazione, manipolazione su vasta scala e frode e attenuare i potenziali impatti negativi sui processi democratici e sulla fiducia della società causati da contenuti o interazioni generati o manipolati dall’IA. Informare le persone in merito al fatto che determinate interazioni e contenuti sono generati dall’IA aiuterà loro a prendere decisioni informate, contribuendo nel contempo a salvaguardare la fiducia e l’integrità dell’ecosistema dell’informazione. La trasparenza non è solo un obbligo di conformità tecnica, ma è anche un prerequisito per far sì che le persone fisiche riconoscano le interazioni e i contenuti mediati dall’IA o l’uso di sistemi di riconoscimento delle emozioni o di categorizzazione biometrica. Garantire un uso trasparente e affidabile dei sistemi di IA interattiva e generativa consentirà inoltre di difendere l’autonomia personale e i valori europei, la dignità umana e altri diritti fondamentali (tra cui la libertà di pensiero, la vita privata, l’uguaglianza e la non discriminazione, la protezione dei consumatori, la proprietà intellettuale, ecc.), preservando nel contempo la libertà di espressione e la credibilità dei contenuti mediatici. |
2.3. Attori responsabili a norma dell’articolo 50 del regolamento sull’IA
|
(10) |
Ai sensi dell’articolo 3, punto 3), del regolamento sull’IA, i fornitori sono persone fisiche o giuridiche, autorità pubbliche, agenzie o altri organismi che sviluppano o fanno sviluppare sistemi di IA e li immettono sul mercato dell’Unione, o li mettono in servizio con il proprio nome o marchio, a titolo oneroso o gratuito. I fornitori devono rispettare i pertinenti obblighi di trasparenza di cui all’articolo 50, paragrafi 1 e 2, del regolamento sull’IA ad essi applicabili, indipendentemente dal fatto che siano stabiliti o ubicati nell’Unione o in un paese terzo (3). Anche i fornitori stabiliti o situati al di fuori dell’Unione sono soggetti al regolamento sull’IA laddove l’output del loro sistema di IA sia utilizzato nell’Unione (4). Tuttavia l’uso accidentale, imprevedibile o non autorizzato a valle non dovrebbe di per sé determinare l’applicazione degli obblighi nei confronti di tali fornitori di paesi terzi di sistemi di IA interattiva o generativa che non sono immessi sul mercato o messi in servizio nell’Unione, fatti salvi i poteri delle autorità di vigilanza del mercato competenti di considerare i loro output non conformi al regolamento sull’IA. |
|
(11) |
I fornitori devono garantire che la trasparenza sia integrata nella progettazione e nel funzionamento dei loro sistemi di IA interattiva o generativa e che tutti i pertinenti obblighi di trasparenza di cui agli articoli 50, paragrafi 1, 2 e 5, del regolamento sull’IA siano soddisfatti al più tardi al momento dell’immissione sul mercato o della messa in servizio di tali sistemi. Tutte le persone fisiche che interagiscono con il sistema di IA o che sono esposte ai suoi output nell’ambito di applicazione del regolamento sull’IA devono essere informate in modo efficace e coerente durante l’intero ciclo di vita di tale sistema immesso sul mercato o messo in servizio da tale fornitore (indipendentemente da chi siano i deployer o gli altri utenti del sistema).
|
|
(12) |
I deployer sono persone fisiche o giuridiche, autorità pubbliche, agenzie o altri organismi che utilizzano un sistema di IA sotto la propria autorità, tranne nel caso in cui il sistema di IA sia utilizzato nel corso di un’attività personale non professionale (5). L’«autorità» su un sistema di IA dovrebbe essere intesa come l’assunzione di responsabilità per la decisione di diffonderlo e per le modalità di utilizzo effettivo dello stesso (compresi i suoi output). Non richiede necessariamente un controllo tecnico sul funzionamento del sistema di IA, a condizione che il deployer decida per quali finalità e come utilizzare il sistema di IA (anche nei flussi di lavoro decentrati e nelle strutture aziendali di gruppo). I deployer coinvolti in catene del valore complesse per la produzione e la distribuzione di contenuti dovrebbero adottare misure proporzionate per garantire che l’etichettatura dei contenuti da questi attuata a norma dell’articolo 50, paragrafo 4, del regolamento sull’IA sia visualizzata in maniera chiara e distinguibile per il pubblico destinatario e il pubblico prevedibile al momento della prima esposizione conformemente all’articolo 50, paragrafo 5, del regolamento sull’IA (ad esempio attraverso condizioni contrattuali con i partner di distribuzione, impostazioni dell’esperienza dell’utente e interfacce da visualizzare). |
|
(13) |
I deployer rientrano nell’ambito di applicazione degli obblighi di trasparenza di cui all’articolo 50, paragrafi 3 e 4, del regolamento sull’IA se il loro luogo di stabilimento o di ubicazione si trova all’interno dell’Unione o se sono stabiliti o situati in un paese terzo, laddove l’output del sistema di IA sia utilizzato nell’Unione (6). In quest’ultimo caso, gli obblighi di trasparenza si applicano ai soggetti situati o stabiliti al di fuori dell’Unione laddove il deployer stesso preveda la diffusione e l’uso degli output dell’IA nell’Unione (ad esempio indirizzando o autorizzando la distribuzione all’interno dell’Unione, anche tramite la pubblicazione di deep fake su internet accessibile a livello mondiale). I deployer di paesi terzi non sono però vincolati dagli obblighi di trasparenza laddove i contenuti del sistema di IA raggiungano il pubblico dell’Unione attraverso canali imprevedibili e al di fuori del loro controllo. |
|
(14) |
Se il deployer di un sistema di IA è una persona giuridica sotto la cui autorità è utilizzato il sistema (ad esempio un’impresa pubblicitaria), i singoli dipendenti che agiscono secondo le istruzioni e sotto il controllo di tale persona giuridica (ad esempio animatori digitali, web designer, creatori di contenuti, giornalisti) non dovrebbero essere considerati deployer distinti per tale sistema. Una persona giuridica rimane un deployer anche se nel funzionamento del sistema sono coinvolti terzi (ad esempio contraenti, liberi professionisti) che agiscono per suo conto e sotto la sua responsabilità e il suo controllo.
|
|
(15) |
Gli operatori (ad esempio fornitori e deployer) possono svolgere contemporaneamente più di un ruolo in relazione a un sistema di IA. Ad esempio, un’impresa può sviluppare un sistema di IA generativa interno e utilizzarlo per la generazione di deep fake. In tal caso si qualificherà sia come fornitore che come deployer che deve garantire il rispetto degli obblighi di marcatura leggibile meccanicamente di cui all’articolo 50, paragrafo 2, e dei requisiti per un’etichettatura chiara e percettibile dei deep fake di cui all’articolo 50, paragrafo 4, del regolamento sull’IA. |
|
(16) |
Per contro, altri attori (quali i prestatori di servizi di hosting, comprese le piattaforme online, o le emittenti) che si limitano a diffondere o trasmettere contenuti generati o manipolati dall’IA creati da terzi, o che ricevono contenuti generati o manipolati dall’IA o sono esposti agli stessi senza avere alcuna autorità sull’uso del sistema di IA ai fini della generazione o della manipolazione dei contenuti di IA, non sono deployer ai sensi del regolamento sull’IA. Pur non essendo responsabili ai sensi del regolamento sull’IA, tali attori possono comunque svolgere un ruolo importante nella catena del valore per preservare la fiducia e l’integrità dell’ecosistema dell’informazione. Sono pertanto fortemente incoraggiati a preservare la marcatura e l’etichettatura attuate a norma dell’articolo 50 del regolamento sull’IA e ad adottare misure proporzionate e tecnicamente possibili per consentire alle persone fisiche di rilevare i contenuti generati o manipolati dall’IA, fatti salvi la responsabilità dei fornitori e dei deployer di sistemi di IA generativa o qualsiasi obbligo o responsabilità a norma del regolamento (UE) 2022/2065 (regolamento sui servizi digitali) (7) o di altre normative dell’Unione o nazionali applicabili. |
|
(17) |
Anche altri attori che agiscono a titolo professionale e diffondono contenuti (anche se non direttamente coinvolti ai sensi dell’articolo 50 del regolamento sull’IA) sono incoraggiati ad adottare misure proporzionate e adeguate affinché le persone fisiche esposte in ultima analisi ai contenuti siano effettivamente informate e in grado di rilevarne l’origine generata o manipolata artificialmente. Inoltre tali parti possono essere tenute a etichettare i rispettivi deep fake o testi pubblicati su questioni di interesse pubblico ai sensi di altre norme giuridiche o deontologiche applicabili (ad esempio un’emittente che etichetta e mostra un deep fake creato da un privato nell’ambito di un programma televisivo). Tuttavia il semplice fatto che un attore etichetti contenuti o utilizzi contenuti etichettati non significa che questo sia un «deployer» ai sensi del regolamento sull’IA. Il regolamento sull’IA non estende né modifica la responsabilità giuridica di tali attori nell’ambito dei quadri giuridici applicabili, se questi non sono qualificabili allo stesso tempo come fornitori o deployer di sistemi di IA. |
2.4. Esclusioni dall’ambito di applicazione del regolamento sull’IA
|
(18) |
L’articolo 2 del regolamento sull’IA prevede una serie di esclusioni generali dall’ambito di applicazione del regolamento sull’IA che sono già state chiarite negli orientamenti della Commissione relativi alle pratiche di intelligenza artificiale vietate (8). La presente sezione affronterà di conseguenza solo gli aspetti pertinenti per gli obblighi di trasparenza di cui all’articolo 50 del regolamento sull’IA. |
2.4.1. Deployer che agiscono nell’ambito di un’attività non professionale puramente personale
|
(19) |
Ai sensi dell’articolo 2, paragrafo 10, del regolamento sull’IA, il regolamento «non si applica agli obblighi dei deployer che sono persone fisiche che utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale» (9). Qualsiasi attività attraverso la quale persone fisiche traggono, in modo regolare, un vantaggio economico o altrimenti esercitano un’attività professionale, imprenditoriale, commerciale, professionale o in qualità di free lance dovrebbe essere considerata un’attività «professionale». L’aggettivo «puramente personale» è un attributo della locuzione non professionale, nel senso che la persona dovrebbe agire sia a titolo personale che non professionale per ricadere nell’ambito di applicazione dell’eccezione. Qualsiasi utilizzo di un sistema di IA da parte di persone fisiche che operano per conto o sotto l’autorità di un deployer che agisce a titolo professionale rientrerà nell’ambito di applicazione degli obblighi di trasparenza del deployer professionale di cui all’articolo 50, paragrafi 3 e 4, del regolamento sull’IA.
|
|
(20) |
L’esclusione di cui all’articolo 2, paragrafo 10, del regolamento sull’IA si applica solo per quanto riguarda gli obblighi dei deployer quando utilizzano il sistema per attività non professionali puramente personali. Il sistema in quanto tale rimane nell’ambito di applicazione del regolamento sull’IA per quanto riguarda gli obblighi dei fornitori che immettono il sistema sul mercato o che lo mettono in servizio e dei deployer che utilizzano il sistema per uso professionale. L’eccezione non pregiudica inoltre l’applicazione di altre normative pertinenti nazionali e dell’Unione.
|
2.4.2. Ricerca & sviluppo
|
(21) |
L’articolo 2, paragrafo 6, del regolamento sull’IA prevede l’esclusione di «sistemi di IA o modelli di IA, ivi compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici». Tale esclusione lascia impregiudicate le norme etiche applicabili in materia di ricerca e la legislazione dell’UE sulla protezione dei dati e altre normative. Nel contesto dell’articolo 50 del regolamento sull’IA, tale esclusione riguarda non solo i sistemi di IA interattiva, ma anche gli output dei sistemi di IA generativa (compresi i contenuti deep fake) utilizzati nel contesto della ricerca scientifica. Tuttavia, laddove tali sistemi siano messi in servizio o i loro output siano utilizzati per scopi diversi da quello esclusivo di ricerca e sviluppo scientifici, i pertinenti obblighi di trasparenza di cui all’articolo 50 del regolamento sull’IA dovrebbero comunque essere rispettati.
|
|
(22) |
L’articolo 2, paragrafo 8, del regolamento sull’IA esclude inoltre le attività di ricerca, prova o sviluppo relative a sistemi di IA o modelli di IA prima della loro immissione sul mercato o messa in servizio. Le attività di prova in condizioni reali (all’interno o all’esterno degli spazi di sperimentazione normativa per l’IA) non rientrano in tale esclusione. Inoltre, una volta immesso sul mercato o messo in servizio in conseguenza di tali attività di ricerca e prova, un sistema di IA dovrebbe comunque rispettare i pertinenti obblighi di trasparenza di cui all’articolo 50 del regolamento sull’IA (10). |
2.4.3. Sistemi di IA rilasciati con licenza libera e open source
|
(23) |
A norma dell’articolo 2, paragrafo 12, del regolamento sull’IA, i sistemi di IA rilasciati con licenza libera e open source non rientrano nell’ambito di applicazione del regolamento sull’IA, a condizione che non ricadano nei divieti di cui all’articolo 5 del regolamento sull’IA o negli obblighi di trasparenza di cui all’articolo 50 del regolamento sull’IA, o che non siano classificati come sistemi ad alto rischio (11). Ciò significa che i fornitori e i deployer di sistemi di IA open source che rientrano nell’ambito di applicazione dell’articolo 50 del regolamento sull’IA devono comunque garantire il rispetto dei rispettivi obblighi di trasparenza. |
|
(24) |
Per contro, i fornitori di componenti di IA liberi e open source che comprendono i software, i dati, i modelli, gli strumenti, i servizi o i processi per la personalizzazione e l’integrazione in un sistema di IA e che non costituiscono di per sé (in tutto o in parte) un sistema di IA non sono soggetti agli obblighi di trasparenza di cui all’articolo 50 del regolamento sull’IA. I fornitori di tali sistemi sono tuttavia incoraggiati a progettare tali modelli, componenti e servizi secondo quanto descritto al punto 27, nella misura in cui ciò sia proporzionato e possibile. |
2.5. Interazione con le pratiche vietate, requisiti per i sistemi di IA ad alto rischio e alfabetizzazione in materia di IA
|
(25) |
Il considerando 137 del regolamento sull’IA chiarisce che la conformità agli obblighi di trasparenza di cui all’articolo 50 del regolamento sull’IA per un determinato sistema di IA non può essere interpretata nel senso che l’uso di tale sistema di IA o dei suoi output è lecito ai sensi del regolamento sull’IA. In particolare, i sistemi di IA soggetti agli obblighi di cui all’articolo 50 del regolamento sull’IA possono rientrare nell’ambito di applicazione dell’articolo 5 di tale regolamento ed essere pertanto vietati (ad esempio, l’uso di sistemi di riconoscimento delle emozioni nell’ambito del luogo di lavoro e degli istituti di istruzione) (12). Inoltre i sistemi di IA che rientrano nell’ambito di applicazione dell’articolo 50 del regolamento sull’IA possono anche essere classificati come sistemi ad alto rischio (13) ed essere soggetti ai requisiti e agli obblighi pertinenti previsti per tali sistemi. Pertanto la conformità all’articolo 50 del regolamento sull’IA non sostituisce, limita o incide sugli obblighi derivanti da altre disposizioni del regolamento sull’IA (14). Allo stesso tempo, i sistemi di IA possono anche rientrare nell’ambito di applicazione dell’articolo 50 del regolamento sull’IA senza essere classificati come sistemi ad alto rischio a norma dell’articolo 6 del medesimo regolamento. Sia i fornitori che i deployer di sistemi di IA che rientrano nell’ambito di applicazione dell’articolo 50 del regolamento sull’IA sono anche soggetti agli obblighi in materia di alfabetizzazione di cui all’articolo 4 del regolamento sull’IA. |
2.6. Interazione con le norme applicabili ai modelli e/o ai sistemi di IA per finalità generali
|
(26) |
L’articolo 50 del regolamento sull’IA si applica a determinati sistemi di IA, tra cui i sistemi di IA per finalità generali (15), come i chatbot che supportano l’interazione diretta con le persone fisiche o i sistemi di IA in grado di generare o manipolare contenuti sintetici (compresi i deep fake) (16). |
|
(27) |
L’articolo 50 del regolamento sull’IA non si applica esplicitamente ai modelli di IA per finalità generali. Tuttavia, se un sistema di IA interattiva o generativa che rientra nell’ambito di applicazione dell’articolo 50, paragrafi 1 o 2, del regolamento sull’IA è basato su un modello di IA per finalità generali fornito dallo stesso fornitore, le misure di trasparenza di cui ai presenti orientamenti potrebbero essere attuate anche a livello di modello (cfr. anche la sezione 4). Inoltre, sebbene non rientrino nell’ambito di applicazione dell’articolo 50 del regolamento sull’IA, anche i fornitori di altri modelli di IA per finalità generali e di altri modelli di IA generativa sono incoraggiati ad attuare misure di trasparenza adeguate a livello di modello per l’individuazione dei sistemi di IA interattiva e la marcatura dei contenuti generati e manipolati dall’IA. Ciò è particolarmente utile per agevolare il rispetto da parte dei fornitori di sistemi di IA a valle degli obblighi cui sono soggetti a norma dell’articolo 50, paragrafi 1 e 2, del regolamento sull’IA (17) e per contribuire a preservare la fiducia e l’integrità dell’ecosistema dell’informazione. Quanto ai modelli di IA per finalità generali che presentano un rischio sistemico, le misure di sicurezza a livello di modello per l’individuazione delle interazioni con l’IA e la marcatura dei contenuti generati o manipolati dall’IA possono far parte, se del caso, di una serie più ampia di misure di attenuazione che i fornitori possono adottare nell’ambito del loro obbligo di attenuare i rischi sistemici a norma dell’articolo 55, paragrafo 1, lettera b), del regolamento sull’IA. |
3. ARTICOLO 50, PARAGRAFO 1, DEL REGOLAMENTO SULL’IA: TRASPARENZA PER I SISTEMI DI IA INTERATTIVA
|
(28) |
L’articolo 50, paragrafo 1, del regolamento sull’IA è rivolto ai fornitori di sistemi di IA che interagiscono direttamente con le persone fisiche, i quali devono progettare e sviluppare i loro sistemi in modo tale che le persone fisiche interessate siano informate del fatto di stare interagendo con un sistema di IA. Come spiegato al considerando 132 del regolamento sull’IA, lo scopo di tale obbligo di informazione è consentire a tali persone fisiche di prendere decisioni informate in merito agli output del sistema, evitare un’eccessiva dipendenza da tali sistemi e consentire loro di calibrare di conseguenza la loro fiducia nei contenuti e nelle interazioni. |
3.1. Principali componenti, concetti e relativi obblighi di trasparenza
|
(29) |
L’obbligo di trasparenza di cui all’articolo 50, paragrafo 1, del regolamento sull’IA si applica ai fornitori di sistemi di IA se il sistema è destinato a interagire direttamente con le persone fisiche e tale interazione non rientra in nessuna delle eccezioni che seguono: 1) l’interazione risulta evidente dal punto di vista di una persona fisica ragionevolmente informata, attenta e avveduta, o 2) il sistema è autorizzato dalla legge per accertare, prevenire, indagare o perseguire reati, a meno che il sistema non sia a disposizione del pubblico per segnalare un reato. |
3.1.1. Sistemi di IA destinati a interagire direttamente con le persone fisiche
|
(30) |
Affinché un sistema rientri nell’ambito di applicazione dell’articolo 50, paragrafo 1, del regolamento sull’IA, quattro elementi devono essere presenti: i) il sistema deve essere un sistema di IA, ii) destinato a interagire, iii) direttamente, iv) con le persone fisiche.
|
|
(31) |
Gli agenti di IA rientrano nell’ambito di applicazione dell’articolo 50, paragrafo 1, del regolamento sull’IA se sono in grado di interagire con le persone che li istruiscono o con altre persone fisiche nell’esecuzione dei loro compiti (ad esempio effettuando prenotazioni o acquisti, gestendo la corrispondenza, negoziando o concludendo contratti, ecc.). Gli agenti di IA devono essere progettati e sviluppati in modo tale da rivelare sia la loro natura artificiale sia la persona per conto della quale agiscono, tenendo conto della necessità di garantire la trasparenza dell’origine e della delega di autorità nonché la responsabilità per le conseguenze delle loro azioni. Ciò comprende i casi in cui gli agenti di IA sono in grado di interagire in architetture multiagente complesse con altri agenti di IA che interagiscono direttamente con le persone fisiche nell’esecuzione dei loro compiti. Tuttavia, quando l’agente di IA è impiegato in contesti diversi, non è sempre possibile per il fornitore dell’agente di IA prevedere i singoli casi di interazione diretta di un agente di IA con altre persone fisiche. Qualora il fornitore non sia in grado di determinare in modo affidabile se l’agente di IA interagirà direttamente con una persona fisica prima di immettere tale agente sul mercato o di metterlo in servizio, l’agente dovrebbe essere progettato a livello di architettura e istruito a rivelarsi come tale ogni qualvolta è ragionevolmente probabile che l’agente possa interagire con una persona fisica (anche quando una persona fisica può rappresentare una persona giuridica o agire per conto della stessa). Inoltre gli agenti di IA dovrebbero rivelarsi come tali anche a coloro che li istruiscono in fasi chiave (ad esempio nel momento in cui si effettuano autorizzazioni, segnalazioni, convalide ecc., anche quando l’agente di IA impiegato riceve, elabora o fa affidamento su output generati da altri sistemi di IA piuttosto che direttamente da una persona fisica) e in ogni nuova interazione.
|
3.1.2. Obbligo di informazione a norma dell’articolo 50, paragrafo 1, del regolamento sull’IA
|
(32) |
L’articolo 50, paragrafo 1, del regolamento sull’IA impone ai fornitori di sistemi di IA che interagiscono direttamente con le persone fisiche di garantire che i loro sistemi di IA (compresi gli agenti di IA e i sistemi di IA per finalità generali) siano progettati e sviluppati in modo tale che le persone fisiche interessate siano informate del fatto di stare interagendo con un sistema di IA. |
|
(33) |
Mentre il meccanismo di informazione dovrebbe essere integrato nella progettazione e nello sviluppo del sistema e nel modo in cui il sistema interagisce con le persone fisiche, la notifica dovrebbe essere fornita durante il funzionamento del sistema di IA e al più tardi al momento della prima interazione con la persona fisica (come previsto dall’articolo 50, paragrafo 5, del regolamento sull’IA, cfr. sezione 7). I fornitori hanno la responsabilità di garantire che, dopo l’immissione sul mercato o la messa in servizio del sistema di IA, le persone fisiche che interagiscono con lo stesso siano informate in modo efficace e coerente durante l’intero ciclo di vita del sistema di IA immesso sul mercato o messo in servizio da tale fornitore.2.2 |
|
(34) |
Formato dell’informazione: l’articolo 50, paragrafo 1, del regolamento sull’IA non specifica alcuna particolare tecnica di informazione. I fornitori possono pertanto scegliere qualsiasi tecnica idonea, purché siano rispettati entrambi i seguenti requisiti: i) gli obblighi di cui all’articolo 50, paragrafo 5, del regolamento sull’IA siano rispettati per quanto riguarda la fornitura di informazioni chiare e distinguibili al più tardi al momento della prima interazione (cfr. sezione 7); e ii) le caratteristiche delle persone fisiche appartenenti a gruppi vulnerabili a causa della loro età (ad esempio minori o anziani) o disabilità siano prese in considerazione nella misura in cui il sistema di IA sia destinato a interagire, o sia ragionevolmente probabile che interagisca, con persone fisiche appartenenti a tali gruppi (ad esempio anche quando è ragionevolmente probabile che il sistema di IA interagisca con il pubblico) (19). Le informazioni devono essere fornite anche in un formato accessibile alle persone fisiche con disabilità, come specificato all’articolo 50, paragrafo 5, e al considerando 132 del regolamento sull’IA (cfr. sezione 7). Se il sistema può interagire con i minori, tali notifiche devono essere a misura di minore, adeguate all’età, di facile comprensione e facilmente accessibili a tutti i minori, compresi quelli con disabilità o con esigenze di accessibilità aggiuntive. Ove disponibile e opportuno, si raccomanda ai fornitori di utilizzare pratiche ed etichette informative standardizzate per garantire l’efficacia e la coerenza delle notifiche e migliorare la consapevolezza degli utenti. |
|
(35) |
Contenuto della notifica: l’articolo 50, paragrafo 1, del regolamento sull’IA impone ai fornitori di sistemi di IA interattiva di progettarli e svilupparli in modo tale che tutte le persone fisiche che interagiscono con tali sistemi siano esplicitamente informate della natura artificiale e non umana della controparte con la quale interagiscono. Se per il fornitore è ragionevolmente prevedibile che il sistema di IA possa interagire con persone fisiche appartenenti ai suddetti gruppi vulnerabili, le informazioni dovrebbero essere adattate di conseguenza e fornite in un formato accessibile, come previsto dal diritto dell’Unione applicabile, al fine di garantire la piena comprensione anche da parte di tali persone fisiche (20). |
|
(36) |
Le notifiche dovrebbero fornire informazioni sull’origine artificiale dell’interazione secondo modalità idonee al contesto in cui questa si svolge. Ciò dovrebbe avvenire in modo da garantire che le persone interessate siano informate in modo adeguato ed efficace, evitando qualsiasi rischio di inganno o manipolazione prima e durante l’interazione e garantendo nel contempo che le informazioni siano fornite in modo fattibile e proporzionato. Le informazioni possono essere fornite, tra l’altro, tramite notifiche scritte (ad esempio un chatbot che inizia una conversazione menzionando che si basa su un sistema di IA), mezzi visivi (ad esempio un’e-mail generata da un agente di IA inviata a una persona fisica con un’etichetta IA in alto), mezzi uditivi (ad esempio un assistente vocale che dichiara all’inizio di una sessione di essere basato sull’IA), oppure comunicando credenziali e identificativi dell’IA (ad esempio agenti di IA che comunicano la loro identità di IA in modo verificabile nella misura del possibile) (21). |
|
(37) |
Formato delle notifiche: come miglior pratica si raccomanda che il sistema di IA sia progettato con approcci di informazione multimodali e accessibili. Le notifiche possono combinare più tecniche per rafforzare la comprensione da parte degli utenti, se del caso e a seconda del contesto, del pubblico destinatario e del pubblico prevedibile nonché delle risorse disponibili dei fornitori, in particolare delle piccole e medie imprese (PMI). Tra gli esempi di tecniche idonee possono figurare le seguenti:
|
|
(38) |
Alcune tecniche non sono necessarie e, se utilizzate da sole, sono insufficienti per adempiere efficacemente all’obbligo di trasparenza di cui all’articolo 50, paragrafi 1 e 5, del regolamento sull’IA, in particolare:
|
|
(39) |
Le notifiche dovrebbero essere proporzionate e calibrate in funzione dei vari contesti e destinatari del sistema di IA per rimanere efficaci e facilmente fruibili nonché per evitare, nella misura del possibile, di perturbare l’esperienza dell’utente o di creare effetti di assuefazione (la cosiddetta «cecità da banner»). |
|
(40) |
Un’unica notifica ben visibile, mostrata prima della prima interazione del sistema di IA con una determinata persona fisica, è probabilmente sufficiente nella maggior parte dei casi per adempiere all’obbligo di cui all’articolo 50, paragrafo 1, del regolamento sull’IA. Tuttavia, in alcuni contesti più rischiosi, è probabile che siano necessari promemoria periodici e notifiche sensibili al contesto per garantire una costante sensibilizzazione degli utenti. Ciò vale in particolare nel caso di sistemi di IA che interagiscono con persone vulnerabili (tra cui minori, anziani, persone con disabilità o con un basso livello di alfabetizzazione) o di interazioni continue e in evoluzione in contesti sensibili o immersivi (ad esempio quando gli utenti possono esprimere o provare angoscia o vulnerabilità emotive o essere a rischio di sviluppare comportamenti simili alla dipendenza), oppure quando vi è un maggiore rischio che gli utenti siano indotti in errore (ad esempio nel caso di una consulenza finanziaria, di servizi assicurativi, assistenza legale, consulenza sanitaria e gestione dei reclami) o che formino legami o dipendenze emotivi (ad esempio compagni IA), nonché quando è necessario garantire la consapevolezza e il controllo delle azioni degli agenti di IA. I fornitori devono inoltre progettare e sviluppare il sistema di IA per garantire la notifica ogni qualvolta il sistema riceve domande relative alla sua natura o all’origine dell’interazione, o qualora dagli scambi con la persona fisica si possa ragionevolmente presumere che quest’ultima possa essere fuorviata o confusa in merito all’origine artificiale dell’interazione. |
3.2. Eccezioni all’obbligo di informazione di cui all’articolo 50, paragrafo 1, del regolamento sull’IA
|
(41) |
L’articolo 50, paragrafo 1, del regolamento sull’IA prevede due eccezioni all’obbligo di informazione per quanto riguarda i sistemi di IA interattiva, esaminate di seguito. |
3.2.1. Eccezione per l’interazione evidente con un sistema di IA
|
(42) |
Per potersi avvalere della prima eccezione, i fornitori devono valutare e dimostrare: i) l’evidente natura artificiale dell’interazione ii) dal punto di vista di una persona fisica ragionevolmente informata, attenta e avveduta, tenendo conto delle circostanze e del contesto di utilizzo. |
|
(43) |
Tale norma si basa sul diritto consolidato dell’UE in materia di protezione dei consumatori per quanto riguarda la nozione di «consumatore medio» e dovrebbe essere interpretata in modo coerente, tenendo conto nel contempo dei contesti e degli usi specifici e diversificati dei sistemi di IA che interagiscono direttamente con le persone fisiche nonché degli obiettivi perseguiti dall’articolo 50, paragrafo 1, del regolamento sull’IA. |
|
(44) |
L’identificazione di tale persona fisica «media» si articola in due fasi. In primo luogo, i fornitori dovrebbero prendere in considerazione il pubblico con cui il sistema di IA è destinato a interagire e con cui è ragionevolmente probabile che interagisca. In secondo luogo, i fornitori dovrebbero esaminare la misura in cui un membro medio di tale pubblico è ragionevolmente informato, attento e avveduto, tenendo conto delle circostanze e del contesto di utilizzo. Nell’effettuare tale valutazione dovrebbero essere presi in considerazione diversi fattori:
|
|
(45) |
Evidenza: una volta determinata l’ipotetica persona fisica ragionevolmente informata, attenta e avveduta, i fornitori dovrebbero valutare se per tale persona sarà evidente di stare interagendo direttamente con un sistema di IA. L’eccezione dovrebbe essere interpretata in modo restrittivo, posto che priva le persone fisiche della protezione e del diritto di essere informate in maniera chiara e distinguibile del fatto di stare interagendo con i sistemi di IA. La consapevolezza generale dei consumatori e di altre persone fisiche dell’esistenza di sistemi di IA (compresi chatbot e agenti) non implica che essi siano in grado di riconoscerli nelle interazioni. Diversi fattori possono rilevare ed essere presi in considerazione nell’ambito della valutazione volta a stabilire se l’interazione sia evidente:
|
3.2.2. Eccezione per i sistemi di IA autorizzati dalla legge a fini di contrasto
|
(46) |
I fornitori di sistemi di IA interattiva sono esentati dall’obbligo di trasparenza di cui all’articolo 50, paragrafo 1, del regolamento sull’IA se tali sistemi sono autorizzati dalla legge per accertare, prevenire, indagare o perseguire reati, fatte salve le tutele adeguate per i diritti e le libertà dei terzi. |
|
(47) |
L’espressione «autorizzati dalla legge» comprende il diritto dell’Unione nonché il diritto nazionale degli Stati membri adottato in conformità del diritto dell’Unione. La legge che autorizza l’uso del sistema di IA deve specificare chiaramente le finalità e le circostanze dell’uso consentito e prevedere tutele adeguate per i diritti e le libertà di terzi. Considerando l’approccio tecnologicamente neutro del regolamento sull’IA, non è necessario che la legge individui o autorizzi specifici sistemi di IA qualora l’uso del sistema di IA sia generalmente previsto nell’ambito dell’attività legalmente autorizzata e sia conforme al quadro giuridico applicabile. |
|
(48) |
Per rientrare in tale eccezione, la finalità del sistema di IA deve essere quella di accertare, prevenire, indagare o perseguire reati (ad esempio agenti di IA sotto copertura, sistemi di IA utilizzati sotto il controllo umano di investigatori per indagini online o comunicazioni con persone che potrebbero essere coinvolte in attività criminali). L’eccezione non si limita all’uso di tali sistemi di IA da parte unicamente delle autorità di contrasto quali definite all’articolo 3, punto 48), del regolamento sull’IA, ma può riguardare anche i sistemi di IA interattiva (o generativa) utilizzati da altre autorità pubbliche dell’Unione o nazionali, purché il loro uso sia autorizzato dalla legge per accertare, prevenire, indagare o perseguire reati e fatte salve le tutele adeguate per i diritti e le libertà di terzi. L’esenzione non richiede che il sistema di IA sia in grado di svolgere le indagini in modo indipendente. Se un determinato sistema può essere utilizzato sia a fini di contrasto che per altre finalità regolari, l’applicabilità dell’esenzione dovrebbe essere valutata alla luce dell’impiego particolare di tale sistema. Gli obblighi di trasparenza continuano ad applicarsi qualora il medesimo sistema di IA sia utilizzato per finalità diverse da quelle legalmente autorizzate dell’accertamento, della prevenzione, dell’indagine o del perseguimento di reati. La trasparenza deve comunque essere garantita alle persone fisiche quando interagiscono con il sistema nel contesto delle sue finalità ordinarie. |
|
(49) |
L’eccezione non si applica se i) il sistema di IA è a disposizione del pubblico e ii) offre alle persone una funzionalità per segnalare reati. Sebbene tali sistemi possano essere utilizzati, restano soggetti all’obbligo di trasparenza di cui all’articolo 50, paragrafo 1, del regolamento sull’IA, per cui le persone fisiche devono essere informate del fatto di stare interagendo con tali sistemi.
Per maggiore chiarezza, tale eccezione riguarda unicamente l’obbligo di cui all’articolo 50, paragrafo 1, di informare le persone fisiche del fatto di stare interagendo con un sistema di IA (22). Non pregiudica il diritto dell’Unione e nazionale applicabile, comprese le norme procedurali relative alla documentazione, alla divulgazione, all’ammissibilità e alla valutazione delle prove.
|
3.3. Interazione con altri atti giuridici dell’Unione
|
(50) |
L’obbligo di trasparenza di cui all’articolo 50, paragrafo 1, del regolamento sull’IA si applica fatta salva la vigente legislazione dell’Unione in materia di protezione dei consumatori, protezione dei dati nonché in materia digitale o di non discriminazione, che può richiedere altre divulgazioni di informazioni non legate specificamente all’origine artificiale dell’interazione. In particolare, ai sensi della direttiva 2005/29/CE (direttiva sulle pratiche commerciali sleali) (23), sono vietate le azioni o omissioni ingannevoli per quanto riguarda le caratteristiche principali di un prodotto o servizio. Inoltre la direttiva 2011/83/CE («direttiva sui diritti dei consumatori») (24) impone ai professionisti di fornire informazioni precontrattuali chiare e comprensibili sulle caratteristiche principali dei beni o servizi. Se un servizio è basato sull’IA (come un chatbot basato su abbonamento, un’applicazione che svolge la funzione di compagno IA o un servizio di coaching virtuale), la funzionalità di IA può essere considerata una caratteristica essenziale di cui il consumatore deve essere informato prima di essere vincolato da un contratto. Gli obblighi di informazione ai sensi del diritto dell’Unione in materia di protezione dei consumatori si applicano indipendentemente dal fatto che l’interazione sia considerata «evidente» ai sensi dell’articolo 50, paragrafo 1, del regolamento sull’IA. Tali obblighi sono inoltre complementari agli obblighi generali di informazione in materia di protezione dei consumatori, mentre l’obbligo di notifica a norma del regolamento sull’IA è più contestuale e mira a garantire la costante consapevolezza di tutte le persone fisiche in merito a un’interazione diretta con un sistema di IA almeno prima del suo inizio e durante tutta l’interazione stessa. |
|
(51) |
Il regolamento sui servizi digitali prevede inoltre obblighi di trasparenza per i sistemi di raccomandazione delle piattaforme online, compreso l’obbligo di spiegare i principali parametri di posizionamento. Tali obblighi sono complementari agli obblighi di trasparenza di cui all’articolo 50, paragrafo 1, del regolamento sull’IA, in quanto hanno un ambito di applicazione e una finalità diversi e riguardano sistemi che, in linea di principio, non interagiscono direttamente con gli utenti ai sensi dell’articolo 50, paragrafo 1, del regolamento sull’IA. |
|
(52) |
Per quanto riguarda gli obblighi di informazione nei confronti degli interessati ai sensi del diritto dell’Unione in materia di protezione dei dati, l’obbligo di cui all’articolo 50, paragrafo 1, del regolamento sull’IA soddisfa un obiettivo diverso da tali obblighi e, in quanto tale, non incide sugli stessi. |
|
(53) |
Analogamente, l’obbligo di trasparenza di cui all’articolo 50, paragrafo 1, del regolamento sull’IA si applica fatto salvo il diritto dell’Unione e nazionale in materia di comunicazione di informazioni alle persone nei procedimenti penali (ad esempio la direttiva 2012/13/UE o la direttiva 2012/29/UE, modificata dalla direttiva (UE) 2026/1472) (25). |
4. ARTICOLO 50, PARAGRAFO 2, DEL REGOLAMENTO SULL’IA: MARCATURA E RILEVAZIONE DI CONTENUTI GENERATI O MANIPOLATI DALL’IA
|
(54) |
L’articolo 50, paragrafo 2, del regolamento sull’IA impone ai fornitori di sistemi di IA che generano contenuti sintetici di attuare soluzioni tecniche che soddisfino determinati requisiti di qualità per la marcatura leggibile meccanicamente e la rilevazione degli output di tali sistemi. L’obiettivo è consentire alle persone fisiche di distinguere i contenuti generati o manipolati dall’IA da altri contenuti (ad esempio, contenuti creati da esseri umani) e di verificarne l’origine, contribuendo in tal modo anche ad aumentare l’integrità e la fiducia nell’ecosistema dell’informazione. |
|
(55) |
I beneficiari di tale obbligo di trasparenza sono pertanto tutte le persone fisiche che possono essere esposte a contenuti generati o manipolati dall’IA, nonché gli attori chiave che svolgono un ruolo importante per la fiducia e l’integrità dell’ecosistema dell’informazione, quali le autorità di vigilanza del mercato competenti e altre autorità competenti, i ricercatori indipendenti, le organizzazioni della società civile, i media, i segnalatori attendibili, i difensori dei diritti fondamentali, i fornitori di piattaforme online e di motori di ricerca online, i titolari dei diritti, altri creatori e distributori di contenuti, ecc. |
4.1. Principali componenti e concetti dell’articolo 50, paragrafo 2, del regolamento sull’IA
|
(56) |
L’articolo 50, paragrafo 2, del regolamento sull’IA si applica se sono soddisfatte diverse condizioni cumulative:
|
4.1.1. Sistemi di IA che generano o manipolano contenuti sintetici
|
(57) |
L’articolo 50, paragrafo 2, del regolamento sull’IA si applica ai sistemi di IA (26), compresi i sistemi di IA per finalità generali, che generano contenuti audio, immagine, video o testuali sintetici. L’articolo 50, paragrafo 2, del regolamento sull’IA riguarda un sottoinsieme di sistemi che soddisfano la definizione di sistema di IA di cui all’articolo 3, punto 1), del regolamento sull’IA e che generano tali output. L’articolo 50, paragrafo 2, del regolamento sull’IA riguarda anche i sistemi di IA utilizzati per manipolare contenuti. |
|
(58) |
La generazione di contenuti si riferisce alla generazione di materiali sintetici da parte del sistema di IA (ad esempio sulla base di un prompt umano), come la generazione di un’immagine o di una canzone sintetica. In pratica, ciò significa che l’articolo 50, paragrafo 2, del regolamento sull’IA può applicarsi ai sistemi di IA generativa progettati con la finalità limitata prevista di produrre specifici output. Allo stesso tempo, l’articolo 50, paragrafo 2, del regolamento sull’IA si applica anche ai sistemi di IA che possono avere molteplici finalità, compresi i sistemi di IA per finalità generali, e che possono produrre vari tipi di contenuti, nonché ai sistemi di IA agentica, purché generino contenuti audio, immagine, video o testuali sintetici. |
|
(59) |
La manipolazione dei contenuti, invece, si riferisce alla modifica di contenuti già esistenti (sintetici o meno) da parte di un sistema di IA (ad esempio un’immagine o una registrazione vocale esistenti manipolate da un sistema di IA seguendo istruzioni umane). Affinché i contenuti rientrino nell’ambito di applicazione dell’articolo 50, paragrafo 2, del regolamento sull’IA, è sufficiente che siano generati o manipolati dall’IA, andando al di là dell’editing standard oggetto delle eccezioni di cui all’articolo 50, paragrafo 2, del regolamento sull’IA (cfr. sezione 4.3). Inoltre l’articolo 50, paragrafo 2, del regolamento sull’IA non richiede che i contenuti siano generati o manipolati esclusivamente dall’IA. Anche i contenuti combinati con materiali creati dall’uomo sono considerati contenuti sintetici se manipolati o generati secondo una delle modalità di cui all’articolo 50, paragrafo 2, del regolamento sull’IA. |
4.1.2. Modalità dei contenuti sintetici che rientrano nell’ambito di applicazione
|
(60) |
L’articolo 50, paragrafo 2, del regolamento sull’IA fornisce un elenco esaustivo delle modalità dei contenuti sintetici soggetti all’obbligo di trasparenza: audio, immagini, video o testo. Ciò comprende anche i contenuti multimodali, vale a dire i contenuti costituiti da una combinazione di tali modalità. Ai fini dell’articolo 50, paragrafo 2, del regolamento sull’IA, le diverse modalità devono essere interpretate in linea con gli sviluppi pratici e tecnologici che possono evolvere nel tempo. Per il momento, dovrebbero essere intese come segue:
|
|
(61) |
I sistemi di IA che generano o manipolano immagini 3D, video 3D e audio 3D, nonché la realtà virtuale, aumentata o mista, rientrano nell’ambito di applicazione dell’articolo 50, paragrafo 2, del regolamento sull’IA. La «realtà virtuale» comprende le tecnologie di IA che consentono agli utenti di sperimentare e interagire con un ambiente generato da computer che simula la presenza fisica e che permettono agli utenti di interagire in tempo reale con tale ambiente. Essendo costituite da una sequenza di immagini basata sul tempo, facoltativamente sincronizzata con l’audio, che rappresenta un cambiamento visivo nel tempo, la realtà virtuale e la realtà aumentata possono essere considerate assimilabili a un contenuto «video». L’«output» pertinente da marcare è la forma finale della singola risorsa generata dall’IA, con eccezioni particolari per le sessioni interattive effimere in tempo reale di cui al punto 88. Gli artefatti digitali utilizzati per generare immagini 3D, video 3D e contenuti audio 3D, come una nuvola di punti o una mesh 3D, non sono soggetti all’obbligo di marcatura. |
|
(62) |
Anche i gemelli digitali che forniscono una riproduzione virtuale di persone, oggetti fisici o sistemi, integrando molteplici tipi di dati, rientrano nell’ambito di applicazione dell’articolo 50, paragrafo 2, del regolamento sull’IA, se sono generati o manipolati dall’IA e assumono la forma di audio, immagini, video o testo, a meno che non rientrino nelle eccezioni e siano considerati «applicazioni industriali» o «applicazioni da impresa a impresa» di cui al punto 87 o contenuti effimeri in tempo reale di cui al punto 88. |
|
(63) |
L’articolo 50, paragrafo 2, del regolamento sull’IA può applicarsi anche a un agente di IA se questo intraprende un’azione il cui output è costituito da contenuti generati o manipolati dall’IA percepibili da persone fisiche sotto forma di audio, immagini, video o testo. Tali output devono pertanto essere marcati e rilevabili come descritto di seguito. Per contro, qualsiasi azione di un agente di IA che non includa contenuti generati o manipolati dall’IA (ad esempio le fasi intermedie di trattamento quali il ragionamento e la catena di pensiero) o un’azione generata dall’IA che non è destinata a essere percepita direttamente dalle persone fisiche (ad esempio una richiesta web o un’azione del browser) non si qualifica come contenuto sintetico rientrante nell’ambito di applicazione dell’articolo 50, paragrafo 2, del regolamento sull’IA e non è soggetta agli obblighi di marcatura e rilevazione. |
4.1.3. Contenuti che non rientrano nell’ambito di applicazione dell’articolo 50, paragrafo 2, del regolamento sull’IA
|
(64) |
I contenuti generati da un sistema di IA sulla base di un semplice trattamento di dati e che non sono specificamente generati o manipolati dall’IA, ad esempio un fotogramma renderizzato, non rientrano nell’ambito di applicazione dell’articolo 50, paragrafo 2, del regolamento sull’IA. |
|
(65) |
Anche l’output di un sistema di IA che si limita a riprodurre contenuti esistenti o consente la presentazione o la disposizione di contenuti già esistenti non rientra nell’ambito di applicazione dell’articolo 50, paragrafo 2, del regolamento sull’IA. Questo può essere il caso, ad esempio, delle playlist musicali o di altri sistemi di raccomandazione che si limitano a selezionare o classificare contenuti esistenti sulla base delle preferenze o dell’attività degli utenti, senza creare nuovi contenuti o manipolarli. Lo stesso dicasi per i sistemi di IA utilizzati in processi analitici interni che estraggono e strutturano i dati senza riassumerli. |
|
(66) |
Lo stesso vale per gli input e gli output di un sistema di IA che costituiscono semplici osservazioni e registrazioni di dati provenienti da ambienti fisici o virtuali, che non sono generati o manipolati dall’IA (ad esempio da robot o altri sensori basati sull’IA) o per le trasmissioni di dati da parte di sistemi di IA senza apportare alcuna modifica agli stessi. Ciò riguarda vari input e output dei sistemi di IA, in particolare in contesti industriali quali i dati di fabbricazione per i robot progettati per l’osservazione di dati; i consumi registrati mediante contatori intelligenti, misurazioni della frequenza di rete e della tensione basati sull’IA; e la registrazione dei dati di localizzazione GPS dei veicoli, ecc. |
|
(67) |
Inoltre, poiché l’obiettivo dell’obbligo di trasparenza di cui all’articolo 50, paragrafo 2, del regolamento sull’IA è consentire agli esseri umani di distinguere i contenuti generati o manipolati dall’IA onde contrastare i rischi di inganno e manipolazione e garantire l’integrità e la fiducia nell’ecosistema dell’informazione, i contenuti che non sono correlati a tale obiettivo e che non sono percepibili o non sono destinati a essere oggetto di interpretazione, verifica o intervento da parte di persone fisiche non sono contemplati da tale disposizione. |
|
(68) |
In particolare, i contenuti seguenti dovrebbero essere considerati al di fuori dell’ambito di applicazione dell’articolo 50, paragrafo 2, del regolamento sull’IA:
|
4.2. Obbligo di marcatura e rilevazione di cui all’articolo 50, paragrafo 2, del regolamento sull’IA
|
(69) |
L’articolo 50, paragrafo 2, del regolamento sull’IA prevede un obbligo di trasparenza per i fornitori di sistemi di IA generativa che rientrano nell’ambito di applicazione di tale disposizione, costituito da due elementi distinti ma intrinsecamente interconnessi. In primo luogo, i fornitori devono garantire che gli output del sistema di IA siano marcati in un formato leggibile meccanicamente. In secondo luogo, i fornitori devono garantire che gli output siano rilevabili come contenuti generati o manipolati artificialmente. Per ogni soluzione di marcatura utilizzata, i fornitori dovrebbero garantire che siano disponibili mezzi di rilevazione corrispondenti (come indicato di seguito) per consentire alle persone fisiche esposte ai contenuti e ad altri attori pertinenti di individuare e distinguere i contenuti generati artificialmente dal sistema di IA da altri contenuti. Una soluzione tecnica deve essere intesa come una combinazione di tecniche di marcatura e di mezzi di rilevazione implementati dal fornitore per adempiere all’obbligo di trasparenza di cui all’articolo 50, paragrafo 2, del regolamento sull’IA. |
|
(70) |
Ciascuno dei due elementi summenzionati deve essere presente per conseguire efficacemente gli obiettivi degli obblighi di trasparenza di cui all’articolo 50, paragrafo 2, del regolamento sull’IA. La presenza di un solo elemento (ad esempio la marcatura leggibile meccanicamente degli output senza la disponibilità di mezzi per la loro rilevazione) non è sufficiente per conformarsi a tale disposizione (27). |
4.2.1. L’obbligo di marcatura
|
(71) |
L’ambito di applicazione dell’obbligo di marcatura è limitato all’effettuazione della marcatura in un formato leggibile meccanicamente. Un formato leggibile meccanicamente significa che i marchi sono strutturati in modo tale da consentire alle applicazioni software di individuarli, riconoscerli ed estrarli facilmente senza l’intervento umano. I marchi e le etichette percettibili non sono esclusi e possono costituire una misura complementare, se del caso, al fine di agevolare il rispetto, da parte dei deployer, dell’obbligo di etichettare i deep fake a norma dell’articolo 50, paragrafo 4, del regolamento sull’IA. |
|
(72) |
Per rispettare l’obbligo di marcatura, i fornitori possono utilizzare un’unica tecnica di marcatura o una combinazione di tecniche, purché la soluzione tecnica complessiva sia leggibile meccanicamente e soddisfi i requisiti di efficacia, interoperabilità, solidità e affidabilità al livello richiesto dalla legge, come previsto dall’articolo 50, paragrafo 2, seconda frase, del regolamento sull’IA (cfr. sezione 4.2.3). |
|
(73) |
Il considerando 133 del regolamento sull’IA indica alcuni esempi di tali tecniche tra cui filigrane, identificazioni di metadati, metodi crittografici per dimostrare la provenienza e l’autenticità dei contenuti, metodi di registrazione, impronte digitali o altre tecniche e una combinazione di tali tecniche. Sebbene il considerando 133 del regolamento sull’IA menzioni alcuni metodi per dimostrare la provenienza e l’autenticità, i fornitori non sono tenuti a registrare o conservare l’intera catena di provenienza, comprensiva di informazioni sull’origine dei contenuti e sulle modifiche apportate agli stessi o di qualsiasi altra indicazione pertinente relativa alla loro cronologia. In ogni caso, i suddetti metodi di provenienza possono essere utilizzati anche per conformarsi all’articolo 50, paragrafo 2, del regolamento sull’IA e contribuire a consentire alle persone fisiche di distinguere i contenuti generati o manipolati dall’IA dai contenuti autentici. |
|
(74) |
I fornitori possono attuare la soluzione di marcatura degli output in diverse fasi della catena del valore (ad esempio post-hoc dopo la generazione di contenuti a livello di sistema di IA, a livello del modello di IA sottostante oppure integrando la soluzione nel processo di inferenza del sistema di IA). Possono utilizzare la soluzione di marcatura attuata da un fornitore di modelli a monte o da un soggetto terzo che fornisce la soluzione (ad esempio come standard aperto o servizio specializzato) nella misura in cui la soluzione di marcatura è conforme all’articolo 50, paragrafo 2, del regolamento sull’IA. Ciò non pregiudica la responsabilità del fornitore del sistema di IA di dimostrare il rispetto dell’articolo 50, paragrafo 2, del regolamento sull’IA. |
4.2.2. L’obbligo di rilevazione
|
(75) |
I fornitori di sistemi di IA che rientrano nell’ambito di applicazione dell’articolo 50, paragrafo 2, del regolamento sull’IA devono garantire che gli output dei loro sistemi siano rilevabili come contenuti generati o manipolati dall’IA. Ciò significa che il fornitore è tenuto a garantire che i mezzi di rilevazione siano a disposizione delle persone potenzialmente esposte a detti contenuti. Inoltre, a norma dell’articolo 50, paragrafo 5, del regolamento sull’IA, tali soluzioni di rilevazione dovrebbero essere in grado di produrre risultati leggibili dall’uomo che indichino se i contenuti sono stati generati o manipolati dall’IA. |
|
(76) |
Uno strumento di rilevazione è un meccanismo che rileva se i contenuti sono stati generati o manipolati dall’IA, in genere identificando marcatori tecnici o firme che ne verificano l’origine. Per garantire la piena interoperabilità, i fornitori devono utilizzare soluzioni di rilevazione accessibili al pubblico e conformi alle norme del settore, che consentano a terzi di effettuare rilevazioni, idealmente eseguibili a livello locale sul dispositivo digitale, e assicurino un’integrazione senza soluzione di continuità in reti autonome e isolate. Qualora tali norme non siano disponibili, in particolare nella fase iniziale dell’attuazione dell’articolo 50, paragrafo 2, del regolamento sull’IA per le tecnologie di filigrana, il fornitore può utilizzare la propria soluzione di rilevazione o una soluzione di rilevazione di terzi o condivisa, purché tali soluzioni siano interoperabili con quelle utilizzate da altri fornitori (cfr. sezione 4.2.3). Tale possibilità dovrebbe essere limitata nel tempo fino a quando non saranno previste norme armonizzate e una soluzione di rilevazione interoperabile standardizzata, utilizzabile da qualsiasi fornitore, sicura, rispettosa della vita privata ed eseguibile a livello locale. |
|
(77) |
L’articolo 50, paragrafo 5, del regolamento sull’IA specifica altresì che le informazioni di cui all’articolo 50, paragrafo 2, del regolamento sull’IA dovrebbero essere fornite alle persone fisiche esposte ai contenuti in maniera chiara e distinguibile al più tardi al momento della prima interazione o esposizione. Tali informazioni sono segnatamente il frutto della rilevazione, che indica se i contenuti sono generati o manipolati dall’IA, non i contenuti generati o manipolati dall’IA stessi. Per «al momento della prima esposizione» si dovrebbe intendere il momento in cui le persone fisiche desiderano verificare l’origine di uno specifico contenuto e accedere alla soluzione di rilevazione per ottenerne i relativi risultati. |
|
(78) |
Se dipende da un altro attore per la fornitura di una soluzione di rilevazione o per l’accesso alla stessa, il fornitore del sistema di IA deve garantire che tale soluzione sia conforme all’articolo 50, paragrafi 2 e 5, del regolamento sull’IA e che tali attori mostrino i risultati della rilevazione conformemente all’articolo 50, paragrafo 5, del regolamento sull’IA (cfr. sezione 7). |
4.2.3. Conformità ai requisiti previsti per le soluzioni tecniche: efficacia, interoperabilità, solidità e affidabilità
|
(79) |
L’articolo 50, paragrafo 2, seconda frase, del regolamento sull’IA stabilisce che le soluzioni tecniche per la marcatura e la rilevazione devono essere efficaci, interoperabili, solide e affidabili. Tali requisiti dovrebbero essere intesi come segue:
|
|
(80) |
I fornitori devono garantire che la combinazione delle soluzioni tecniche per la marcatura e la rilevazione soddisfi in modo olistico tutti i suddetti requisiti al livello richiesto dalla legge, tenendo conto dei limiti e delle complementarità delle varie soluzioni impiegate. Le soluzioni tecniche devono essere conformi a tutti i requisiti nella misura in cui ciò sia tecnicamente possibile, tenendo conto delle specificità e dei limiti dei vari tipi di contenuti, dei costi di attuazione e dello stato dell’arte generalmente riconosciuto, come eventualmente indicato nelle pertinenti norme tecniche. |
|
(81) |
Le soluzioni «tecnicamente possibili» ai sensi dell’articolo 50, paragrafo 2, del regolamento sull’IA sono soluzioni realizzabili per le modalità che rientrano nell’ambito di applicazione della disposizione, utilizzando le tecnologie, i metodi e le pratiche ingegneristiche attualmente disponibili, all’interno dell’architettura tecnica e dell’ambiente operativo specifici interessati. Il fornitore non è tenuto a utilizzare una soluzione tecnica non ancora sviluppata o disponibile sul mercato o tecnicamente impossibile da un punto di vista attuativo. La possibilità tecnica è un concetto oggettivo che non dipende dalle risorse e dalle capacità specifiche dei singoli fornitori. |
|
(82) |
L’articolo 50, paragrafo 2, del regolamento sull’IA impone ai fornitori di attuare soluzioni tecnicamente possibili che siano in linea con lo stato dell’arte generalmente riconosciuto, al fine di soddisfare i quattro requisiti qualitativi di efficacia, solidità, affidabilità e interoperabilità. |
|
(83) |
Per «stato dell’arte» si intende una fase sviluppata di capacità tecnica in un determinato momento per quanto riguarda i prodotti, i processi e i servizi, sulla base dei pertinenti risultati consolidati della scienza, della tecnologia e dell’esperienza e accettata come buona pratica tecnologica (28). Lo stato dell’arte non implica necessariamente che la ricerca scientifica più recente sia ancora in fase sperimentale o abbia una maturità tecnologica insufficiente. I fornitori devono adattare costantemente le loro soluzioni di marcatura e rilevazione in modo tempestivo e proporzionato all’evoluzione della tecnologia e dello stato dell’arte. |
|
(84) |
Alla luce dell’articolo 50, paragrafo 7, del regolamento sull’IA, i fornitori possono basarsi su un codice di buone pratiche, ritenuto adeguato a norma di tale disposizione per dimostrare il rispetto degli obblighi di marcatura e rilevazione di cui all’articolo 50, paragrafi 2 e 5, del regolamento sull’IA, che sia in linea con lo stato dell’arte. Per ulteriori informazioni sugli effetti dell’adesione a tale codice e sul controllo di altri fornitori che non vi aderiscono, cfr. sezione 8.1. |
|
(85) |
Anche i costi di attuazione di alcune soluzioni tecniche per la marcatura e la rilevazione possono essere presi in considerazione. In alcuni casi, come descritto nei punti seguenti, i costi possono essere sproporzionati rispetto ai guadagni marginali e avere un valore limitato ai fini di consentire agli esseri umani di distinguere i contenuti generati o manipolati dall’IA e garantire l’integrità e la fiducia nell’ecosistema dell’informazione. |
|
(86) |
Pertanto vi possono essere casi rigorosamente definiti in cui una soluzione tecnica basata su marcature dei metadati meno solide è sufficiente ai fini della conformità all’articolo 50, paragrafo 2, del regolamento sull’IA, tenendo conto delle specificità degli output del sistema di IA laddove questi comportino rischi intrinsecamente inferiori di inganno, manipolazione o effetti negativi sull’ecosistema dell’informazione. Ciò avviene in particolare quando un sistema di IA generativa è integrato in prodotti fisici che generano output in un ambiente chiuso e controllato sotto il profilo tecnico, principalmente di natura istruttiva (ad esempio un sistema di IA integrato nei sistemi di navigazione dei veicoli) nella misura in cui misure tecniche efficaci siano incorporate nel prodotto per evitare che l’output esca dall’ambiente del prodotto, ad esempio mediante strumenti di cattura e esportazione, e diffuso esternamente. |
|
(87) |
Inoltre vi possono essere casi limitati di «applicazioni di IA industriali» o di «applicazioni da impresa a impresa» (che escludono i sistemi di IA rivolti al pubblico e ai consumatori) in cui la marcatura e la rilevazione degli output generati o manipolati dall’IA non sono necessarie in virtù del principio di proporzionalità e dei benefici limitati per gli obiettivi di trasparenza. Ciò a condizione che i seguenti requisiti siano soddisfatti cumulativamente:
|
|
(88) |
Anche la generazione di contenuti in tempo reale di natura effimera e immediatamente fruibili, senza che questi siano ulteriormente registrati, salvati o diffusi (ad esempio nei videogiochi, nelle applicazioni di realtà virtuale), può essere esentata se la marcatura non è tecnicamente possibile e le persone esposte a tali contenuti sono messe a conoscenza del fatto che questi sono generati o manipolati dall’IA (ad esempio tramite una notifica mostrata durante l’esperienza dell’utente o a livello di sessione). |
4.3. Eccezioni agli obblighi di cui all’articolo 50, paragrafo 2, del regolamento sull’IA
|
(89) |
L’articolo 50, paragrafo 2, del regolamento sull’IA prevede tre eccezioni esplicite agli obblighi di trasparenza di cui a tale disposizione. |
|
(90) |
La prima eccezione si applica ai sistemi di IA nella misura in cui svolgono una funzione di assistenza per l’editing standard. L’editing standard dovrebbe essere inteso come il processo di preparazione di contenuti esistenti per la loro pubblicazione o distribuzione (ad esempio piccole modifiche per migliorarne la leggibilità e la grammatica, la qualità e il formato) e non comporta la generazione di nuovi contenuti. L’editing standard mira a garantire che i contenuti siano, tra l’altro, privi di evidenti errori linguistici tecnici o grammaticali, siano allineati ai requisiti applicabili in materia di layout, presentazione, formattazione o accessibilità o siano conformi alle prassi settoriali. L’editing va oltre l’editing standard se i contenuti sono modificati in modo significativo (modifiche sostanziali, strutturali ecc.), con un effetto sul loro significato, stile o intento. |
|
(91) |
La seconda eccezione si applica se un sistema di IA non modifica in modo sostanziale i dati di input forniti dal deployer o la rispettiva semantica. Una modifica dovrebbe essere considerata sostanziale se i dati di input o la rispettiva semantica sono stati manipolati in modo significativo dal sistema di IA durante il processo di generazione dell’output. Ciò implica una valutazione di vari fattori pertinenti, quali il formato, il tipo di contenuto mediatico, lo stile e le modifiche di contenuto che incidono sul suo significato, stile o intento. Appurare se ciò avvenga nel caso di specie richiede una valutazione caso per caso. |
|
(92) |
Se un sistema di IA può essere utilizzato sia per la generazione o la manipolazione di contenuti sia per apportare modifiche minori non sostanziali ai dati di input, l’obbligo di trasparenza di cui all’articolo 50, paragrafo 2, del regolamento sull’IA non si applicherà ai contenuti modificati in modo minore non sostanziale.
|
|
(93) |
La terza eccezione si applica ai sistemi di IA generativa autorizzati dalla legge a generare o manipolare contenuti sintetici per accertare, prevenire, indagare o perseguire reati. I chiarimenti forniti ai precedenti punti da 46 a 48 per tale eccezione sono pertinenti anche in questo caso. |
4.4. Interazione con altri atti giuridici dell’Unione
|
(94) |
Gli obblighi di marcatura e rilevazione di cui all’articolo 50, paragrafo 2, del regolamento sull’IA si concentrano sul modo in cui i contenuti sono stati creati e sulla loro origine artificiale anziché sul creatore dei contenuti stessi. Qualsiasi soluzione di marcatura e rilevazione utilizzata dai fornitori di sistemi di IA deve pertanto essere conforme al diritto dell’Unione applicabile in materia di protezione dei dati, compresi i principi e gli obblighi previsti in merito, tra cui l’obbligo di protezione dei dati fin dalla progettazione e per impostazione predefinita, la minimizzazione dei dati e i principi di sicurezza e riservatezza. Ad esempio, ai fini della marcatura e della rilevazione, le informazioni relative al creatore dei contenuti non dovrebbero essere trattate, qualsiasi altro dato personale trattato dovrebbe essere cancellato non appena la finalità della rilevazione è conseguita, la sicurezza e la riservatezza devono essere garantite, ecc. |
|
(95) |
Inoltre il considerando 136 del regolamento sull’IA sottolinea la particolare importanza degli obblighi di trasparenza di cui all’articolo 50, paragrafi 1, 2 e 4, del regolamento sull’IA per contribuire all’efficace attuazione del regolamento sui servizi digitali. Ciò si applica specialmente agli obblighi per i fornitori di piattaforme online di dimensioni molto grandi o di motori di ricerca online di dimensioni molto grandi di individuare, analizzare, valutare e attenuare con diligenza i rischi sistemici che possono derivare dalla diffusione di contenuti generati o manipolati artificialmente, in particolare il rischio di effetti negativi reali o prevedibili sui processi democratici, sul dibattito civico e sui processi elettorali, anche mediante la disinformazione (articoli 34 e 35 del regolamento sui servizi digitali). I marchi leggibili meccanicamente possono consentire a tali fornitori di individuare i contenuti generati o manipolati dall’IA e di provvedere adeguatamente all’etichettatura e all’informazione degli utenti, riducendo in tal modo il rischio di disinformazione generata dall’IA in tutti i loro servizi. |
|
(96) |
Gli obblighi di marcare ed etichettare i contenuti generati o manipolati dai sistemi di IA a norma dell’articolo 50, paragrafi 2 e 4, del regolamento sull’IA lasciano impregiudicato l’obbligo di cui all’articolo 16, paragrafo 6, del regolamento sui servizi digitali, che impone ai prestatori di servizi di memorizzazione di informazioni di trattare le segnalazioni di contenuti illegali ricevute a norma dell’articolo 16, paragrafo 1, del regolamento sui servizi digitali (29). In particolare, la marcatura o l’etichettatura applicate ai contenuti generati o manipolati dall’IA non dovrebbero influenzare la valutazione e la decisione sull’illegalità dei contenuti specifici nell’ambito di altri quadri normativi. Tale valutazione dovrebbe essere effettuata solo con riferimento alle norme che disciplinano la legalità dei contenuti conformemente a tali quadri (30). Ad esempio, se un’immagine deep fake etichettata è segnalata come materiale potenzialmente pedopornografico o viola la normativa in materia di marchi o diritto d’autore, l’applicazione di un’etichetta non pregiudica la potenziale illegalità dei contenuti nell’ambito di tali quadri normativi. Tale valutazione dovrebbe essere effettuata esclusivamente sulla base delle rispettive leggi applicabili (ad esempio il diritto penale, le norme sui marchi o sul diritto d’autore). |
|
(97) |
Per contro, la marcatura leggibile meccanicamente integrata nei contenuti a norma dell’articolo 50, paragrafo 2, del regolamento sull’IA può aiutare i fornitori di piattaforme online di dimensioni molto grandi e di motori di ricerca online di dimensioni molto grandi ad adempiere ai loro obblighi, previsti dagli articoli 34 e 35 del regolamento sui servizi digitali, di individuare, analizzare e valutare i rischi sistemici che possono derivare dalla diffusione di contenuti generati o manipolati artificialmente, in particolare il rischio di impatti negativi effettivi o prevedibili sui processi democratici, sul dibattito civico e sui processi elettorali, anche mediante la disinformazione (31), e di adottare misure di attenuazione di tali rischi ragionevoli, proporzionate ed efficaci, adattate ai rischi sistemici specifici individuati. Anche i fornitori di piattaforme online di dimensioni molto grandi e di motori di ricerca online di dimensioni molto grandi possono qualificarsi come fornitori di sistemi di IA se soddisfano le condizioni pertinenti ai sensi del regolamento sull’IA laddove integrino sistemi di IA nei loro servizi (cfr. anche sezione 6.1.5). |
|
(98) |
I fornitori di piattaforme online, motori di ricerca online e altri attori pertinenti che distribuiscono contenuti lungo la catena del valore sono incoraggiati in particolare a preservare e consentire l’individuazione dei marchi applicati dai fornitori a norma dell’articolo 50, paragrafo 2, del regolamento sull’IA affinché le persone fisiche esposte ai contenuti possano essere informate in merito alla loro origine. |
5. ARTICOLO 50, PARAGRAFO 3, DEL REGOLAMENTO SULL’IA: SISTEMI DI RICONOSCIMENTO DELLE EMOZIONI E SISTEMI DI CATEGORIZZAZIONE BIOMETRICA
|
(99) |
L’articolo 50, paragrafo 3, del regolamento sull’IA impone ai deployer di sistemi di riconoscimento delle emozioni e di sistemi di categorizzazione biometrica di informare le persone fisiche che vi sono esposte in merito al funzionamento del sistema. |
|
(100) |
Il considerando 132 del regolamento sull’IA spiega che lo scopo di tale obbligo è garantire che le persone fisiche (comprese le persone con disabilità) siano consapevoli di essere esposte a sistemi di riconoscimento delle emozioni e di categorizzazione biometrica che possono essere intrusivi per la loro vita privata. L’obbligo si applica quindi indipendentemente dal fatto che le persone siano esposte a tali sistemi in tempo reale o che tali sistemi siano gestiti ex post. |
5.1. Principali componenti, concetti e obblighi di trasparenza pertinenti a norma dell’articolo 50, paragrafo 3, del regolamento sull’IA
5.1.1. La nozione di sistema di riconoscimento delle emozioni
|
(101) |
L’articolo 3, punto 39), del regolamento sull’IA definisce un «sistema di riconoscimento delle emozioni» come «un sistema di IA finalizzato all’identificazione o all’inferenza di emozioni o intenzioni di persone fisiche sulla base dei loro dati biometrici». La spiegazione dettagliata di tale nozione fornita negli orientamenti della Commissione sulla classificazione dei sistemi di IA ad alto rischio, compresi gli esempi pratici ivi riportati, è altrettanto pertinente nel contesto dell’articolo 50, paragrafo 3, del regolamento sull’IA. |
|
(102) |
Poiché tutti i sistemi di riconoscimento delle emozioni sono classificati anche come sistemi ad alto rischio, a meno che non siano vietati a norma dell’articolo 5, paragrafo 1, lettera f), del regolamento sull’IA nell’ambito del luogo di lavoro e degli istituti di istruzione, l’obbligo di trasparenza di cui all’articolo 50, paragrafo 3, del regolamento sull’IA dovrebbe applicarsi in combinazione con le altre tutele e prescrizioni applicabili ai sistemi di IA ad alto rischio. |
5.1.2. La nozione di sistema di categorizzazione biometrica
|
(103) |
L’articolo 3, punto 40), del regolamento sull’IA definisce un «sistema di categorizzazione biometrica» come «un sistema di IA che utilizza i dati biometrici di persone fisiche al fine di assegnarle a categorie specifiche, a meno che non sia accessorio a un altro servizio commerciale e strettamente necessario per ragioni tecniche oggettive». La spiegazione dettagliata di tale nozione fornita negli orientamenti della Commissione sulla classificazione dei sistemi di IA ad alto rischio, compresi i suoi elementi specifici nonché gli esempi pratici ivi riportati, è altrettanto pertinente nel contesto dell’articolo 50, paragrafo 3, del regolamento sull’IA. |
|
(104) |
È importante sottolineare che, a meno che non sia vietato a norma dell’articolo 5, paragrafo 1, lettera g), del regolamento sull’IA, qualsiasi sistema di categorizzazione biometrica (ad esempio la classificazione in base all’età o al genere basata su dati biometrici) è contemplato dall’articolo 50, paragrafo 3, del regolamento sull’IA, indipendentemente dal fatto che rientri o meno nell’ambito dei sistemi di IA ad alto rischio ai sensi del regolamento sull’IA. |
5.1.3. L’obbligo di informazione di cui all’articolo 50, paragrafo 3, del regolamento sull’IA
|
(105) |
La portata delle informazioni da fornire: i deployer sono tenuti a informare le persone fisiche interessate che sono esposte a un sistema di riconoscimento delle emozioni o a un sistema di categorizzazione biometrica in funzione. Il regolamento sull’IA non impone di includere informazioni sui motivi del funzionamento del sistema o se il sistema tratta informazioni anche per finalità diverse dal riconoscimento delle emozioni o dalla categorizzazione biometrica, che devono essere divulgate a norma del diritto dell’Unione in materia di protezione dei dati (cfr. sezione 5.3). |
|
(106) |
I destinatari delle informazioni: l’articolo 50, paragrafo 3, del regolamento sull’IA impone ai deployer di informare tutte le persone fisiche esposte al funzionamento del sistema di IA, compresi i minori. |
|
(107) |
I mezzi per fornire le informazioni: sebbene il regolamento sull’IA non prescriva un mezzo specifico per fornire le informazioni, l’articolo 50, paragrafo 5, del regolamento sull’IA impone che le informazioni siano fornite in maniera chiara e distinguibile e conformemente ai requisiti di accessibilità applicabili (rispondendo alle esigenze delle persone fisiche con disabilità). Il modo in cui le persone fisiche esposte al sistema devono essere informate può dipendere dal luogo di utilizzo (ad esempio una piattaforma di un gioco virtuale, punti vendita fisici, una stazione ferroviaria), dai possibili destinatari (ad esempio minori, anziani, persone con disabilità, clienti), dalla durata e dal tipo di esposizione (ad esempio a lungo termine, una tantum, continua, intermittente) e dall’eventuale esistenza di una relazione tra l’operatore e le persone esposte (ad esempio, se esiste un canale di comunicazione con la persona interessata). A seconda del caso d’uso, le informazioni possono essere fornite per iscritto, mediante icone standardizzate (anche ove presentate in formato elettronico), oralmente oppure utilizzando combinazioni di tali modalità.
|
|
(108) |
I tempi per fornire le informazioni: le informazioni devono essere fornite al più tardi al momento della prima interazione con il sistema di IA o della prima esposizione allo stesso a norma dell’articolo 50, paragrafo 5, del regolamento sull’IA. Se del caso, non è esclusa la possibilità di fornire in anticipo le informazioni richieste. |
5.2. Eccezione a fini di contrasto
|
(109) |
L’obbligo di informazione non si applica ai sistemi di categorizzazione biometrica e di riconoscimento delle emozioni autorizzati dalla legge per accertare, prevenire o indagare reati, fatte salve le tutele adeguate per i diritti e le libertà dei terzi e conformemente al diritto dell’Unione. I chiarimenti forniti per tale eccezione ai precedenti punti da 46 a 48 sono pertinenti anche in questo caso, seppur con una differenza. Mentre le altre eccezioni di cui all’articolo 50 del regolamento sull’IA richiedono la presenza di una legge esplicita che autorizzi l’uso non trasparente dei sistemi di IA, l’articolo 50, paragrafo 3, del regolamento sull’IA ammette tale uso ove consentito dalle norme giuridiche che disciplinano i poteri delle autorità di contrasto di utilizzare i sistemi di riconoscimento delle emozioni e di categorizzazione biometrica per accertare, prevenire o indagare reati senza informare le persone interessate, fatte salve le tutele adeguate. |
5.3. Interazione con altri atti giuridici dell’Unione
|
(110) |
L’obbligo di informazione di cui all’articolo 50, paragrafo 3, del regolamento sull’IA non rende di per sé legittimo l’uso di un sistema di riconoscimento delle emozioni e di categorizzazione biometrica, né legittima usi invasivi o discriminatori che potrebbero essere illegali e vietati a norma dell’articolo 5 del regolamento sull’IA o di altre normative dell’Unione. I deployer devono rispettare l’obbligo di informazione di cui all’articolo 50, paragrafo 3, del regolamento sull’IA, oltre a qualsiasi obbligo di informazione applicabile ai sensi del diritto dell’Unione in materia di protezione dei dati. In alcuni casi i deployer possono prendere in considerazione la possibilità di integrare le notifiche a norma dell’articolo 50, paragrafo 3, del regolamento sull’IA nelle informazioni fornite agli interessati ai sensi del diritto dell’Unione in materia di protezione dei dati. |
6. ARTICOLO 50, PARAGRAFO 4: ETICHETTATURA DEI DEEP FAKE E DI TALUNI TESTI PUBBLICATI
|
(111) |
L’articolo 50, paragrafo 4, del regolamento sull’IA stabilisce due obblighi distinti rivolti ai deployer di sistemi di IA generativa che impongono loro di notificare in maniera chiara e distinguibile i) i deep fake e ii) i testi generati o manipolati dall’IA pubblicati al fine di informare il pubblico su questioni di interesse pubblico, tranne in casi definiti. Tali obblighi di etichettatura integrano e lasciano impregiudicati gli obblighi di marcatura leggibile meccanicamente e di rilevazione di cui all’articolo 50, paragrafo 2, del regolamento sull’IA imposti ai fornitori di sistemi di IA che generano o manipolano contenuti audio, immagine, video o testuali sintetici. |
6.1. Principali componenti, concetti e obblighi di trasparenza pertinenti per i deep fake a norma dell’articolo 50, paragrafo 4, del regolamento sull’IA
|
(112) |
L’articolo 50, paragrafo 4, primo comma, del regolamento sull’IA si applica se sono soddisfatte diverse condizioni:
|
6.1.1. La nozione di «deep fake»
|
(113) |
L’articolo 3, punto 60), del regolamento sull’IA definisce i «deep fake» come «un’immagine o un contenuto audio o video generato o manipolato dall’IA che assomiglia a persone, oggetti, luoghi, entità o eventi esistenti e che apparirebbe falsamente autentico o veritiero a una persona». La differenza tra manipolazione e generazione è stata illustrata nella sezione 4.1. Al fine di chiarire la nozione di deep fake, si esaminano di seguito quattro criteri cumulativi tratti da tale definizione: i) somiglianza a ii) persone, oggetti, luoghi, entità o eventi iii) esistenti iv) che apparirebbe falsamente autentica o veritiera a una persona.
|
|
(114) |
La questione se un contenuto «appaia falsamente autentico o veritiero a una persona» dovrebbe essere valutata nel suo complesso, tenendo conto del livello di somiglianza, del potenziale messaggio sostanziale del contenuto, dei contesti di utilizzo previsti e prevedibili, dell’ambiente in cui il contenuto è presentato, nonché della composizione del pubblico destinatario e del pubblico ragionevolmente prevedibile e delle loro aspettative. Tale valutazione è comunque oggettiva e non richiede l’intenzione del deployer di ingannare o indurre in errore le persone fisiche esposte al contenuto affinché questo costituisca un deep fake. Per quanto riguarda il contesto di utilizzo e le aspettative del pubblico, ciò significa che se il contenuto è utilizzato in contesti di utilizzo specifici in cui il pubblico destinatario e il pubblico ragionevolmente prevedibile non si aspettano che il contenuto sia autentico o veritiero, il contenuto generato o manipolato dall’IA potrebbe non apparire falsamente autentico o veritiero anche se, di fatto, non è né autentico né veritiero. In tali casi, il quarto criterio della definizione di deep fake non sarà soddisfatto. Ad esempio, è improbabile che la generazione o la manipolazione di scene di sfondo, effetti speciali o la pre- e post-produzione tecnica da parte dell’IA nell’ambito dei processi standard di produzione cinematografica facciano apparire i contenuti falsamente autentici o veritieri al pubblico. Per contro, è probabile che l’uso dell’IA per generare o manipolare elementi essenziali che incidono sulla percezione del pubblico abbia tale effetto (ad esempio attori interamente generati dall’IA, riproduzioni digitali di attori reali o deceduti, interventi di ringiovanimento, interpretazioni simulate, anche in parte, o rappresentazioni non autentiche o non veritiere di persone, oggetti, luoghi o eventi nei documentari). Per quanto riguarda le immagini e i contenuti video, se è vero che un elevato grado di fotorealismo rende più probabile che tali contenuti siano considerati deep fake (in quanto probabilmente assomigliano a soggetti esistenti), il fotorealismo di per sé non è determinante per la valutazione. Ciò che dovrebbe essere comunque valutato è se il contenuto sia in grado di ingannare o indurre in errore una persona in merito alla sua autenticità o veridicità, tenendo conto, tra l’altro, del contesto di utilizzo previsto e prevedibile. |
|
(115) |
A differenza dell’articolo 50, paragrafo 1, del regolamento sull’IA, la valutazione se un contenuto appaia falsamente autentico o veritiero a una persona non dovrebbe basarsi su un’ipotetica persona «media» che si prevede vi sia esposta (cfr. sezione 3.2.1), bensì dovrebbe tenere debitamente conto della possibile composizione diversificata del pubblico ragionevolmente prevedibile che può essere esposto al contenuto deep fake. La debita considerazione della composizione del pubblico è particolarmente importante se è ragionevolmente prevedibile che il contenuto deep fake possa, a un certo punto, essere percepito da minori, anziani o altri gruppi di persone con un livello inferiore di alfabetizzazione digitale e in materia di IA o di conoscenze generali, in quanto tali soggetti possono essere più facilmente ingannati o fuorviati in merito all’autenticità o alla veridicità di un contenuto. In tali casi, il fatto che il contenuto appaia falsamente autentico o veritiero a tale fetta di pubblico prevedibile può essere sufficiente per qualificare il contenuto come deep fake. In ogni caso, i deployer non sono tenuti a prendere in considerazione la potenziale ulteriore diffusione dei contenuti deep fake a opera di terzi al di là del pubblico ragionevolmente prevedibile da parte del deployer, tenendo conto dei canali di distribuzione previsti (ad esempio, se i contenuti deep fake sono mostrati solo in un’area di un sito web riservata agli abbonati o in una newsletter aziendale, ciò non implica che il deployer debba automaticamente prendere in considerazione un’ampia accessibilità pubblica). |
|
(116) |
Analogamente, la manipolazione basata sull’IA di aspetti sostanziali o tecnici non significativi di contenuti preesistenti può essere di scarsa rilevanza per la valutazione da parte di una persona dell’autenticità o della veridicità di un contenuto, cosicché il contenuto risultante da tale manipolazione non sarà un deep fake. Ciò può includere, ad esempio, la modifica dei dettagli di uno sfondo (ad esempio, la rimozione dei passanti), la regolazione dell’illuminazione o dei parametri audio, la correzione del colore, la riduzione o l’eliminazione del rumore, il miglioramento dell’accessibilità o della compressione dei file, l’introduzione di adeguamenti e miglioramenti cosmetici. Il fatto che la manipolazione rientri o meno in questa categoria dipende dal contesto e dall’impatto sulla percezione pubblica dell’autenticità o della veridicità del contenuto nel caso specifico. Ad esempio, è probabile che utilizzare l’IA per interventi come la correzione del colore, le estensioni dello sfondo di contenuti esistenti, la modifica o la sostituzione dello sfondo per scopi chiaramente estetici, la composizione e disposizione di prodotti esistenti o il ridimensionamento delle immagini applicato alla pubblicità o al confezionamento dei prodotti abbia un impatto di lieve entità sulla percezione pubblica dell’autenticità e della veridicità della pubblicità e del prodotto. Per contro, utilizzare l’IA per effettuare modifiche sostanziali dei dettagli dello sfondo di immagini giornalistiche che vanno al di là delle pratiche tecniche ed editoriali standard può incidere negativamente sulla percezione pubblica dell’autenticità e della veridicità di un contenuto.
|
6.1.2. Obbligo di trasparenza a norma dell’articolo 50, paragrafo 4, primo comma, del regolamento sull’IA
|
(117) |
L’articolo 50, paragrafo 4, primo comma, del regolamento sull’IA impone ai deployer dei sistemi di IA che generano o manipolano immagini o contenuti audio o video che costituiscono un deep fake di «[rendere noto] che il contenuto è stato generato o manipolato artificialmente». Il considerando 134 del regolamento sull’IA chiarisce che i deployer che utilizzano sistemi di IA per generare o manipolare contenuti deep fake dovrebbero rendere noto in modo chiaro e distinto che tali contenuti sono stati creati o manipolati artificialmente etichettando di conseguenza gli output dell’IA e rivelandone l’origine artificiale. I metodi di etichettatura o informazione applicati conformemente all’articolo 50, paragrafo 4, primo comma, del regolamento sull’IA dovrebbero essere comprensibili e percepibili dalle persone fisiche (ad esempio tramite etichette visibili o udibili), senza che queste debbano utilizzare strumenti tecnici specifici o eseguire azioni dedicate. I deployer non possono pertanto fare affidamento sulla marcatura leggibile meccanicamente integrata nel contenuto dal fornitore a norma dell’articolo 50, paragrafo 2, del regolamento sull’IA, in quanto tali marcature non sono immediatamente chiare e distinguibili per le persone fisiche esposte ai contenuti deep fake. |
|
(118) |
Alla luce dell’articolo 50, paragrafo 7, del regolamento sull’IA, i deployer possono aderire a un codice di buone pratiche, ritenuto adeguato a norma dell’articolo 50, paragrafo 7, del regolamento sull’IA, per dimostrare il rispetto di tale obbligo di trasparenza. Per ulteriori informazioni sugli effetti dell’adesione a tale codice e sul controllo di altri deployer che non vi aderiscono, cfr. sezione 8.1. |
6.1.3. Trasparenza dei contenuti deep fake in opere o programmi manifestamente artistici, creativi, satirici, fittizi o analoghi
|
(119) |
L’articolo 50, paragrafo 4, primo comma, del regolamento sull’IA prevede un obbligo di trasparenza attenuato per i deep fake che fanno parte di opere o programmi manifestamente artistici, creativi, satirici, fittizi o analoghi. Per tali contenuti, l’obbligo di trasparenza è limitato alla rivelazione dei deep fake in modo adeguato, senza ostacolare l’esposizione o il godimento dell’opera. |
|
(120) |
Categorie di contenuti pertinenti: per beneficiare dell’obbligo attenuato di trasparenza, il deep fake (immagine, audio o video) dovrebbe far parte di almeno una delle categorie di contenuti seguenti: opere o programmi artistici, creativi, satirici, fittizi o analoghi. Per stabilire se un deep fake rientri in una o più di queste categorie è necessaria una valutazione caso per caso da parte del deployer. Ai fini dell’articolo 50, paragrafo 4, del regolamento sull’IA, tali categorie sono intese come segue:
|
|
(121) |
Le categorie di contenuti di cui sopra possono applicarsi anche ai programmi, che dovrebbero essere intesi come un singolo elemento nell’ambito di un palinsesto o di un catalogo stabilito da un fornitore di servizi di media la cui forma e il cui contenuto sono comparabili a quelli della radiodiffusione televisiva (33). Il riferimento alle «opere» nel contesto dell’articolo 50, paragrafo 4, del regolamento sull’IA non incide sulla questione se il contenuto possa beneficiare della protezione prevista dal diritto dell’Unione in materia di diritto d’autore e diritti connessi. |
|
(122) |
Manifestamente: il fatto che un deep fake rientri in una (o più) delle categorie di contenuti di cui sopra dovrebbe essere manifesto alle persone fisiche che vi sono esposte. Ciò implica che dette categorie dovrebbero essere interpretate in modo restrittivo, vista l’applicazione di un regime di trasparenza attenuato in ragione del potenziale impatto sulla libertà di espressione e sulla libertà delle arti e delle scienze, restando comunque inteso che i rischi di disinformazione, manipolazione e inganno devono essere affrontati in modo adeguato. Pertanto i contenuti la cui natura è potenzialmente poco chiara o ambigua per il pubblico sono esclusi dall’ambito di applicazione di detto regime di trasparenza semplificato. Tra i fattori pertinenti per valutare la natura manifesta di un contenuto artistico, creativo, satirico o fittizio figurano: i) il fatto che il contenuto comprenda o meno formati o stili caratteristici della categoria in cui ricade (ad esempio ironia o esagerazione per le opere satiriche, determinati stili d’arte, temi, tecniche o caratteri estetici distintivi, ecc.); ii) il contesto in cui il contenuto è presentato (ad esempio se la piattaforma, il mezzo o il luogo in cui il contenuto è presentato, messo a disposizione o distribuito è associato a un uso artistico, creativo, satirico o fittizio); e iii) le aspettative del pubblico (ad esempio un film, un ambiente di gioco o una scena di realtà virtuale). Inoltre la condizione secondo cui i contenuti dovrebbero rientrare «manifestamente» in una delle categorie di contenuti di cui sopra esclude dall’ambito di applicazione di tali categorie i contenuti la cui natura è esclusivamente informativa o commerciale ed è riconoscibile come tale (ad esempio, la trasmissione di notizie). A tale riguardo, alcuni tipi di contenuti (ad esempio pubblicità o documentari) che includono deep fake potrebbero essere considerati opere manifestamente creative o fittizie in determinate situazioni specifiche, ma non in altre, in quanto la valutazione è specifica per ogni singolo caso. Quando il deep fake combina più caratteri (ad esempio informativo e creativo), il carattere informativo dovrebbe sempre prevalere e imporre la conformità ai requisiti standard di etichettatura. |
|
(123) |
Adeguata informazione che non ostacoli l’esposizione o il godimento dell’opera: i deep fake che fanno parte di opere o programmi manifestamente artistici, creativi, satirici o fittizi non sono esclusi dall’obbligo di trasparenza di cui all’articolo 50, paragrafo 4, primo comma, del regolamento sull’IA. I deployer devono informare l’utente che il contenuto è stato generato o manipolato dall’IA, ma possono farlo in un modo adeguato, senza ostacolare l’esposizione o il godimento dell’opera. Il considerando 134 del regolamento sull’IA chiarisce che tale informazione adeguata non dovrebbe ostacolare il normale sfruttamento e utilizzo dell’opera, consentendo di mantenerne nel contempo l’utilità e la qualità. Determinare quali misure di informazione debbano essere considerate adeguate comporta una valutazione caso per caso, in base alla quale i deployer possono prendere in considerazione tutti i fattori pertinenti (tra cui la natura dell’opera, il pubblico, il contesto, ecc.). In ogni caso, i deployer devono rispettare l’articolo 50, paragrafo 5, del regolamento sull’IA (cfr. sezione 7). Alla luce dell’articolo 50, paragrafo 7, del regolamento sull’IA, i deployer possono aderire a un codice di buone pratiche, ritenuto adeguato a norma di detta disposizione, per dimostrare il rispetto di tale obbligo di trasparenza. Per ulteriori informazioni sugli effetti dell’adesione a tale codice e sul controllo di altri deployer che non vi aderiscono, cfr. sezione 8.1. |
|
(124) |
Tutele adeguate per i diritti e le libertà dei terzi: il considerando 134 del regolamento sull’IA chiarisce che il rispetto dell’obbligo di trasparenza attenuato e l’uso di deep fake artistici, creativi, satirici o fittizi non pregiudicano «le tutele adeguate per i diritti e le libertà dei terzi». Pertanto i deployer devono garantire che i diritti e le libertà dei terzi (compreso, ad esempio, il diritto alla protezione dei dati personali o i diritti di proprietà intellettuale) siano adeguatamente salvaguardati e rispettati in sede di creazione o pubblicazione dei deep fake, anche se questi sono artistici, creativi, satirici o fittizi. L’applicazione dell’obbligo di trasparenza attenuato non può giustificare il mancato rispetto dei diritti fondamentali delle persone fisiche o dei titolari dei diritti ai sensi del diritto dell’Unione in materia di proprietà intellettuale o di protezione dei dati (34).
|
6.1.4. Eccezione a fini di contrasto
|
(125) |
Se l’uso di un deep fake (ad esempio un video generato dall’IA che simula eventi che non si sono mai verificati) è autorizzato dalla legge per accertare, prevenire, indagare o perseguire reati, i deployer sono esentati dall’obbligo di trasparenza ai sensi dell’articolo 50, paragrafo 4, primo comma, del regolamento sull’IA. I chiarimenti forniti ai precedenti punti da 46 a 48 per un’eccezione analoga di cui all’articolo 50, paragrafo 1, del regolamento sull’IA sono pertinenti anche per tale disposizione. |
6.1.5. Interazione con altri atti giuridici dell’Unione
|
(126) |
L’obbligo di trasparenza di cui all’articolo 50, paragrafo 4, primo comma, del regolamento sull’IA interagirà con gli obblighi dei fornitori di piattaforme online di dimensioni molto grandi e di motori di ricerca online di dimensioni molto grandi di individuare e attenuare i rischi sistemici a norma degli articoli 34 e 35 del regolamento sui servizi digitali, in particolare dell’articolo 35, paragrafo 1, lettera k), di tale regolamento (35). Quest’ultima disposizione elenca, tra le possibili misure di attenuazione dei rischi che i fornitori di piattaforme online di dimensioni molto grandi e di motori di ricerca online di dimensioni molto grandi possono adottare, «il ricorso a un contrassegno ben visibile per fare in modo che un elemento di un’informazione, sia esso un’immagine, un contenuto audio o video, generati o manipolati, che assomigli notevolmente a persone, oggetti, luoghi o altre entità o eventi esistenti e che a una persona appaia falsamente autentico o veritiero, sia distinguibile quando è presentato sulle loro interfacce online». Inoltre i fornitori di piattaforme online di dimensioni molto grandi e di motori di ricerca online di dimensioni molto grandi possono anche fornire una funzionalità di facile utilizzo che consenta ai destinatari del servizio di indicare tale informazione. Sebbene tale disposizione del regolamento sui servizi digitali sia apparentemente simile all’articolo 50, paragrafo 4, del regolamento sull’IA, è complementare a esso e contiene due importanti distinzioni:
|
|
(127) |
Se il deep fake comprende informazioni relative a una persona fisica (viva) direttamente o indirettamente identificabile, i deployer in qualità di titolari del trattamento ai sensi del diritto dell’Unione in materia di protezione dei dati dovranno anche rispettare i rispettivi obblighi previsti da tale diritto (37). Questi comprendono, ad esempio, l’utilizzo di una base giuridica adeguata per il trattamento dei dati personali, la fornitura di informazioni sul trattamento dei dati relativi agli interessati rappresentati, ecc. |
|
(128) |
I deployer dei sistemi di IA che generano deep fake dovranno inoltre garantire il rispetto delle pertinenti normative dell’Unione in materia di proprietà intellettuale (come il diritto dell’Unione in materia di marchi e in materia di diritto d’autore o diritti connessi) se tali deep fake incorporano materiali protetti da tali normative. L’applicazione di un’etichetta o di un’icona a un deep fake non ha, in quanto tale, alcun impatto sulla sua ammissibilità alla tutela basata sul diritto d’autore, che dovrebbe essere valutata conformemente al diritto dell’Unione applicabile in materia di diritto d’autore. |
|
(129) |
Qualora i deep fake ritraggano persone esistenti, i deployer dovranno altresì rispettare i pertinenti regimi giuridici che tutelano i diritti della personalità su immagini o voci personali. L’obbligo di trasparenza di cui all’articolo 50, paragrafo 4, primo comma, del regolamento sull’IA non implica che i deep fake generati o manipolati dall’IA che sono dannosi e illeciti ai sensi del diritto dell’Unione o nazionale applicabile (ad esempio pubblicità ingannevole o materiale pedopornografico e immagini intime non consensuali disciplinati dal diritto penale) possano essere generati e diffusi (cfr. anche sezione 4.4). |
6.2. Principali componenti, concetti e obblighi di trasparenza pertinenti per testo generato o manipolato dall’IA a norma dell’articolo 50, paragrafo 4, del regolamento sull’IA
|
(130) |
L’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA si applica se sono soddisfatte diverse condizioni:
|
6.2.1. Testo pubblicato allo scopo di informare il pubblico su questioni di interesse pubblico
|
(131) |
Al fine di chiarire l’ambito di applicazione dell’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA, di seguito si esaminano tre elementi: i) testo pubblicato, ii) allo scopo di informare il pubblico, iii) su questioni di interesse pubblico.
|
6.2.2. Obbligo di trasparenza a norma dell’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA
|
(132) |
L’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA impone ai deployer di un sistema di IA che genera o manipola testo pubblicato allo scopo di informare il pubblico su questioni di interesse pubblico di rendere noto che il testo è stato generato o manipolato artificialmente. Il considerando 134 del regolamento sull’IA chiarisce che, analogamente ai deep fake, i deployer di testo pubblicato che rientra nell’ambito di applicazione della disposizione in questione dovrebbero rendere noto in modo chiaro e distinto che tale contenuto è stato creato o manipolato artificialmente etichettando di conseguenza gli output dell’IA e rivelandone l’origine artificiale. Come richiesto per i deep fake, i metodi di etichettatura o informazione (comprese le clausole di esclusione della responsabilità) applicati conformemente all’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA dovrebbero inoltre essere chiari e percepibili dalle persone fisiche (ad esempio tramite misure visibili o udibili) senza che queste debbano utilizzare strumenti tecnici specifici o eseguire azioni dedicate. Alla luce dell’articolo 50, paragrafo 7, del regolamento sull’IA, i deployer possono aderire a un codice di buone pratiche, ritenuto adeguato a norma di tale disposizione, per dimostrare il rispetto di tale obbligo di trasparenza. Per ulteriori informazioni sugli effetti dell’adesione a tale codice e sul controllo dei deployer che non vi aderiscono, cfr. sezione 8.1. |
6.2.3. Eccezione all’obbligo di trasparenza per testo sottoposto a revisione umana o controllo editoriale e responsabilità editoriale
|
(133) |
L’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA prevede un’eccezione all’obbligo di trasparenza stabilito da tale disposizione se sono soddisfatte due condizioni cumulative: i) il testo generato o manipolato dall’IA deve essere stato sottoposto a revisione umana o controllo editoriale e ii) una persona fisica o giuridica deve detenere la responsabilità editoriale della pubblicazione. Se del caso, i deployer possono basarsi sulle pertinenti norme professionali o deontologiche applicabili per dimostrare la conformità a tali condizioni, come indicato di seguito. |
i.
|
(134) |
La prima condizione per l’applicazione dell’eccezione di cui all’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA richiede che il testo generato o manipolato dall’IA sia stato sottoposto a revisione umana o controllo editoriale. Per «revisione umana» si intende l’esame deliberato della sostanza del contenuto da parte di una o più persone fisiche in possesso delle conoscenze e del giudizio professionale pertinenti in merito alla questione in esame (ad esempio, revisione accademica inter pares o flussi di approvazione professionale). La verifica dei fatti in merito alla correttezza dei contenuti è un requisito minimo che dovrebbe far parte di tale riesame. Per «controllo editoriale» si intende il controllo esercitato sui contenuti nella pratica da un’entità editoriale responsabile (ad esempio un caporedattore) che ha il potere di approvare, modificare o respingere la sostanza del testo per motivi sostanziali (compresa la verifica dei fatti esposti e la garanzia dell’affidabilità delle fonti). Ciò non pregiudica le procedure editoriali e di revisione e le norme professionali esistenti applicabili ai fornitori di servizi di media. |
|
(135) |
Controlli superficiali, puramente formali o procedurali (ad esempio controlli ortografici o correzioni grammaticali), la mera esistenza di una politica editoriale, processi di revisione automatizzati o un’approvazione editoriale sommaria senza il coinvolgimento sostanziale del revisore umano o dell’entità editoriale non possono soddisfare le condizioni per la revisione umana o il controllo editoriale ai fini della presente eccezione. |
|
(136) |
Qualora i sistemi di IA siano utilizzati per modificare, integrare o riformulare contenuti a seguito dell’approvazione editoriale, i contenuti risultanti devono essere trattati come generati o manipolati dall’IA ai fini dell’articolo 50, paragrafo 4, del regolamento sull’IA. Qualsiasi intervento sostanziale dell’IA che si verifica successivamente al processo di revisione umana o di controllo editoriale comporterà pertanto la nullità dell’eccezione. |
|
(137) |
Alla luce dell’articolo 50, paragrafo 7, del regolamento sull’IA, i deployer possono aderire a un codice di buone pratiche, ritenuto adeguato a norma di tale disposizione, per dimostrare il rispetto della condizione della revisione umana o del controllo editoriale (in particolare da parte dei deployer che non sono fornitori di servizi di media soggetti a norme editoriali professionali o deontologiche esistenti) stabilita in tale disposizione. Per ulteriori informazioni sugli effetti dell’adesione a tale codice e sul controllo dei deployer che non vi aderiscono, cfr. sezione 8.1. |
|
ii. |
|
(138) |
La seconda condizione per l’applicazione dell’eccezione all’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA richiede che una persona fisica o giuridica detenga la responsabilità editoriale della pubblicazione del contenuto. Ciò implica che tale persona deve avere la responsabilità giuridica finale della pubblicazione del contenuto, compresa la revisione umana o il controllo editoriale (ad esempio una persona fisica, un comitato editoriale o la società editrice). Per garantire la responsabilità e la fiducia pubbliche, e in linea con gli standard professionali esistenti nel settore dei media, l’identità e i dati di contatto della persona giuridica, della persona fisica o della funzione che detiene la responsabilità editoriale dovrebbero essere resi pubblici in un luogo facilmente reperibile (se non già disponibili altrove). Ciò può avvenire online, ad esempio tramite le condizioni generali di un sito web o altre informazioni giuridiche rivolte agli utenti, oppure offline, inserendo tali informazioni nel colophon o nell’avviso di edizione di una pubblicazione.
|
6.2.4. Eccezione a fini di contrasto
|
(139) |
Se l’uso di sistemi di IA per la generazione di testo pubblicato allo scopo di informare il pubblico su questioni di interesse pubblico senza essere sottoposto a revisione umana (ad esempio un avvertimento della polizia generato dall’IA e pubblicato sui social media in merito a una minaccia terroristica) è autorizzato dalla legge per accertare, prevenire, indagare o perseguire reati, i deployer sono esentati dall’obbligo di trasparenza di cui all’articolo 50, paragrafo 4, del regolamento sull’IA. I chiarimenti forniti ai precedenti punti da 46 a 48 per un’eccezione analoga di cui all’articolo 50, paragrafo 1, del regolamento sull’IA sono pertinenti anche per tale disposizione. |
6.2.5. Interazione con altri atti giuridici dell’Unione
|
(140) |
Per il diritto dell’Unione in materia di media, la responsabilità editoriale è un concetto fondamentale definito all’articolo 2, punto 8), del regolamento (UE) 2024/1083 (regolamento europeo sulla libertà dei media) (39). In tale contesto, per «responsabilità editoriale» si intende «l’esercizio di un controllo effettivo sia sulla selezione dei programmi o delle pubblicazioni di carattere giornalistico sia sulla loro organizzazione, ai fini della fornitura di un servizio di media, a prescindere dall’esistenza di una responsabilità ai sensi del diritto nazionale per il servizio fornito». In determinate situazioni, tale definizione può sovrapporsi alla nozione di responsabilità editoriale di cui all’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA, in particolare quando i deployer del sistema di IA si qualificano anche come fornitori di servizi di media ai sensi del regolamento europeo sulla libertà dei media. La responsabilità editoriale ai sensi dell’articolo 50, paragrafo 4, del regolamento sull’IA dovrebbe pertanto essere interpretata in linea con l’acquis esistente in materia di media, nonostante rimanga un concetto distinto che può applicarsi anche in contesti più ampi nonché ad altri deployer nella misura in cui questi si assumano la responsabilità editoriale della pubblicazione del testo. I fornitori di servizi di media possono fare affidamento sulle procedure e sulle norme editoriali esistenti per beneficiare dell’eccezione di cui all’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA. |
7. REQUISITI ORIZZONTALI APPLICABILI ALLE INFORMAZIONI FORNITE A NORMA DELL’ARTICOLO 50, PARAGRAFO 5, DEL REGOLAMENTO SULL’IA
|
(141) |
A norma dell’articolo 50, paragrafo 5, del regolamento sull’IA, le informazioni da fornire ai sensi dell’articolo 50, paragrafi da 1 a 4, del regolamento sull’IA dovrebbero essere fornite alle persone fisiche interessate in maniera chiara e distinguibile al più tardi al momento della prima interazione o esposizione. Le informazioni dovrebbero anche essere conformi ai requisiti di accessibilità applicabili. In tale contesto, le persone fisiche interessate includono coloro che interagiscono direttamente con il sistema di IA (articolo 50, paragrafo 1, del regolamento sull’IA), gli utenti attivi o passivi e altre persone esposte a contenuti sintetici generati o manipolati dall’IA (con o senza interazione diretta con il sistema di IA (articolo 50, paragrafi 2 e 4, del regolamento sull’IA)) e le persone soggette all’uso di sistemi di riconoscimento delle emozioni o di categorizzazione biometrica (articolo 50, paragrafo 3, del regolamento sull’IA). |
7.1. Fornitura di informazioni in maniera chiara e distinguibile
|
(142) |
Le informazioni saranno considerate fornite in maniera chiara quando sono percepibili, facilmente comprensibili e accessibili alla persona fisica interessata (comprese le persone con disabilità). Le informazioni saranno considerate fornite in maniera distinguibile qualora sia facile distinguerle dalle altre informazioni e dall’ambiente in cui il contenuto è presentato. Devono inoltre essere facilmente comprensibili per il pubblico, anche per gruppi specifici, come i minori o le persone con disabilità, qualora questi soggetti facciano parte del pubblico prevedibilmente esposto ai contenuti o che interagisce con il sistema (40). Per fornire informazioni in maniera chiara e distinguibile, le informazioni pertinenti possono essere presentate, tra l’altro, nell’ambito dell’interazione (a norma dell’articolo 50, paragrafo 1, del regolamento sull’IA) o dei contenuti pertinenti (a norma dell’articolo 50, paragrafi 2 e 4, del regolamento sull’IA). Le informazioni non saranno considerate fornite in maniera chiara e distinguibile qualora possano essere facilmente trascurate dalle persone fisiche o possano sfuggire loro in condizioni di esposizione o interazione normali (ad esempio qualora siano parte unicamente di un manuale o si celino sotto i livelli delle opzioni del menù su un’interfaccia online, o siano parte delle condizioni d’uso che spesso non sono lette dagli utenti). |
7.2. Prima interazione o esposizione
|
(143) |
L’articolo 50, paragrafo 5, del regolamento sull’IA impone che le informazioni siano fornite alle persone fisiche interessate al più tardi al momento della prima interazione o esposizione. L’espressione «prima interazione o esposizione» fa riferimento non solo alla prima persona fisica che interagisce con un sistema di IA (con il suo output) o vi è esposta, ma anche a qualsiasi prima interazione successiva con il sistema di IA (o il suo output) o esposizione allo stesso da parte di qualsiasi altra persona fisica. Per quanto riguarda la prima interazione con un sistema di IA, le informazioni dovrebbero essere fornite almeno una volta all’inizio di una sessione interattiva, tenendo conto dei contesti specifici citati ai punti 36 e 40 di cui sopra. Quanto ai contenuti generati o manipolati dall’IA che rientrano nell’ambito di applicazione dell’articolo 50, paragrafi 2 e 4, del regolamento sull’IA, l’obbligo di informazione si applica a ciascun output di un sistema di IA in relazione a qualsiasi persona fisica esposta a detti contenuti. L’espressione in questione dovrebbe essere intesa come indicante qualsiasi momento in cui è ragionevolmente probabile che una persona fisica sia esposta all’output del sistema di IA e percepisca la notifica, tenendo conto delle specificità dell’informazione in caso di opere manifestamente creative, artistiche e di altro tipo (cfr. sezione 6.1.3). Inoltre i deployer possono informare le persone fisiche anteriormente alla prima interazione o esposizione effettiva (ad esempio all’inizio dei contenuti che presentano deep fake). Tuttavia, se è ragionevolmente prevedibile che le persone possano non percepire il contenuto fin dall’inizio, la notifica presentata solo all’inizio del contenuto non informa adeguatamente tali persone e dovrebbe essere integrata da notifiche mostrate in momenti successivi, ove possibile. Ciò può essere attuato, se del caso, tenendo conto dell’obiettivo degli obblighi di trasparenza di garantire la fornitura efficace delle informazioni e una consapevolezza significativa degli utenti in ambienti di IA sempre più immersivi e realistici in cui detti utenti hanno crescenti difficoltà a distinguere l’origine e la veridicità dei contenuti e dell’interazione.
|
7.3. Conformità ai requisiti di accessibilità applicabili
|
(144) |
I fornitori e i deployer di sistemi di IA che rientrano nell’ambito di applicazione dei vari obblighi di trasparenza elencati all’articolo 50, paragrafi da 1 a 4, del regolamento sull’IA devono essere a conoscenza dei requisiti di accessibilità applicabili (ad esempio a norma della direttiva 2016/2102 (41) e della direttiva 2019/882 (42)) e valutare se il loro prodotto, servizio o contenuto debba essere conforme a tali norme. In tal caso, devono garantire l’accessibilità delle informazioni trasmesse in linea con l’articolo 50 del regolamento sull’IA conformemente ai requisiti di accessibilità applicabili. L’articolo 50 del regolamento sull’IA non impone requisiti di accessibilità distinti o aggiuntivi. |
8. APPLICAZIONE DELL’ARTICOLO 50 DEL REGOLAMENTO SULL’IA
|
(145) |
La presente sezione mira a chiarire: i) gli effetti dell’adesione a un codice di buone pratiche per quanto riguarda il rispetto degli obblighi di trasparenza previsti per i contenuti generati dall’IA; ii) il ruolo delle autorità di controllo competenti nell’applicazione dell’articolo 50 del regolamento sull’IA; iii) le sanzioni applicabili in caso di violazione di tali obblighi; e iv) il momento dell’entrata in applicazione degli obblighi di cui all’articolo 50 del regolamento sull’IA. |
8.1. Effetti dell’adesione a un codice di buone pratiche ritenuto adeguato
|
(146) |
I fornitori e i deployer di sistemi di IA che rientrano nell’ambito di applicazione dell’articolo 50, paragrafi 2 e 4, del regolamento sull’IA possono dimostrare il rispetto dei rispettivi obblighi di trasparenza per i contenuti generati dall’IA a norma di tali disposizioni aderendo a un codice di buone pratiche ritenuto adeguato a norma dell’articolo 50, paragrafo 7, del regolamento sull’IA (43). Tale codice non sostituisce il regolamento sull’IA o i presenti orientamenti, bensì li integra fornendo l’unico quadro pratico riconosciuto a livello dell’Unione che consenta ai fornitori e ai deployer di sistemi di IA generativa di dimostrare la conformità a tali obblighi, indipendentemente dal loro luogo di stabilimento o attività e dalle autorità di vigilanza del mercato competenti. |
|
(147) |
Sebbene i fornitori e i deployer possano dimostrare il rispetto di tali obblighi anche attraverso mezzi alternativi adeguati, l’adesione a un codice di buone pratiche ritenuto adeguato è un modo semplice, prevedibile e giuridicamente certo di dimostrare la conformità. Per i firmatari di un codice di buone pratiche ritenuto adeguato a norma dell’articolo 50, paragrafo 7, del regolamento sull’IA (44), la Commissione e le autorità di vigilanza del mercato competenti concentreranno le loro attività di controllo sulla valutazione dell’adesione di tali firmatari al codice di buone pratiche e dell’attuazione delle misure ivi contenute. Poiché i fornitori e i deployer aderenti saranno trasparenti in merito alle misure attuate per conformarsi all’articolo 50, paragrafi 2, 4 e 5, del regolamento sull’IA, beneficeranno di una maggiore fiducia da parte della Commissione, delle altre autorità di vigilanza del mercato competenti e di altri portatori di interessi (compreso il pubblico). Qualsiasi deroga, da parte dei firmatari, alle sezioni di un codice di buone pratiche ritenuto adeguato comporterà per tali fornitori e deployer la perdita del vantaggio di poter dimostrare più agevolmente la conformità a tale riguardo. |
|
(148) |
I fornitori e i deployer che non sono firmatari di un codice di buone pratiche ritenuto adeguato a norma dell’articolo 50, paragrafo 7, del regolamento sull’IA sono tenuti a dimostrare in che modo hanno rispettato i loro obblighi di cui all’articolo 50, paragrafi 2, 4 e 5, del regolamento sull’IA attraverso altri mezzi adeguati. Inoltre tali fornitori e deployer sono tenuti a spiegare in che modo le misure attuate garantiscono il rispetto dei loro obblighi ai sensi del regolamento sull’IA. Ad esempio, dovrebbero effettuare un’analisi delle lacune che confronti le misure da loro attuate con quelle stabilite da un codice di buone pratiche ritenuto adeguato. Poiché le autorità competenti (compreso l’ufficio per l’IA) avranno una minore comprensione del modo in cui i fornitori e i deployer che non sono firmatari di un codice di buone pratiche garantiscono il rispetto dei loro obblighi a norma dell’articolo 50, paragrafi 2, 4 e 5, del regolamento sull’IA, è probabile che necessiteranno di informazioni più dettagliate in sede di monitoraggio della conformità. Ad esempio, i fornitori che non aderiscono a un codice di buone pratiche possono anche ricevere un numero maggiore di richieste di informazioni e di accesso per valutare l’efficacia, l’interoperabilità, la solidità e l’affidabilità delle soluzioni tecniche attuate ai fini del rispetto dell’articolo 50, paragrafo 2, del regolamento sull’IA. Anche i deployer possono essere destinatari di tali richieste per quanto riguarda le loro pratiche di etichettatura a norma dell’articolo 50, paragrafo 4, del regolamento sull’IA. |
|
(149) |
Le autorità competenti possono tenere conto degli impegni attuati in linea con un codice di buone pratiche ritenuto adeguato come fattore attenuante in sede di determinazione dell’importo delle sanzioni pecuniarie, a seconda delle circostanze specifiche (45). |
|
(150) |
Se un codice di buone pratiche non è ritenuto adeguato a norma dell’articolo 50, paragrafo 7, del regolamento sull’IA, la Commissione può adottare un atto di esecuzione che specifichi norme comuni per l’attuazione degli obblighi di cui all’articolo 50, paragrafi 2, 4 e 5, del regolamento sull’IA, che sarebbero applicabili a tutti i pertinenti fornitori e deployer di sistemi di IA che rientrano nell’ambito di applicazione di tali disposizioni (46). |
8.2. Autorità di vigilanza del mercato
|
(151) |
Le autorità di vigilanza del mercato designate dagli Stati membri, l’ufficio per l’IA (47) e il Garante europeo della protezione dei dati (48) sono responsabili della vigilanza e dell’applicazione delle norme relativamente ai sistemi di IA che rientrano nelle loro competenze, compresi gli obblighi di trasparenza di cui all’articolo 50 del regolamento sull’IA. Tale applicazione avviene nel quadro del sistema di vigilanza del mercato e di conformità dei prodotti istituito dal regolamento (UE) 2019/1020 e dal regolamento sull’IA. I poteri di esecuzione delle autorità di vigilanza del mercato in relazione ai sistemi di IA sono stabiliti in detti regolamenti. Tali autorità possono adottare misure di esecuzione in relazione agli obblighi elencati all’articolo 50 del regolamento sull’IA di propria iniziativa o a seguito di un reclamo, che può essere presentato da qualsiasi persona interessata o da ogni altra persona fisica o giuridica che abbia motivo di ritenere che sussista una violazione (49). Le responsabilità delle autorità di vigilanza del mercato a norma del regolamento sull’IA non incidono sui poteri e sui compiti di altre autorità di controllo o autorità per i diritti fondamentali nell’ambito del proprio quadro giuridico nelle situazioni in cui si applichino sia l’articolo 50 del regolamento sull’IA sia tale quadro (ad esempio in materia di protezione dei dati e dei consumatori). |
8.3. Sanzioni
|
(152) |
Ai fornitori e ai deployer che non rispettano gli obblighi di trasparenza applicabili di cui all’articolo 50 del regolamento sull’IA possono essere irrogate sanzioni pecuniarie fino a 15 000 000 EUR o, se l’autore del reato è un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore. Le istituzioni, gli organi e gli organismi dell’UE che violano gli obblighi di trasparenza possono essere soggetti a sanzioni amministrative pecuniarie fino a 750 000 EUR. Nel caso delle piccole e medie imprese (PMI), comprese le start-up, ciascuna sanzione pecuniaria deve essere pari al massimo alle percentuali o all’importo di cui sopra, se inferiore. Le sanzioni pecuniarie devono essere effettive, proporzionate e dissuasive e tenere conto degli interessi delle PMI e delle piccole imprese a media capitalizzazione, comprese le start-up, e della loro sostenibilità economica. Nel decidere se infliggere una sanzione amministrativa pecuniaria e nel determinarne l’importo in ogni singolo caso, le autorità competenti dovrebbero valutare tutte le circostanze pertinenti della situazione specifica e, se del caso, una serie di fattori che incidono sulla gravità della violazione (ad esempio la natura, l’entità e la durata della violazione e delle relative conseguenze, il suo carattere negligente o intenzionale, altre circostanze aggravanti o attenuanti, il livello di collaborazione con le autorità di vigilanza del mercato ecc.). |
8.4. Entrata in vigore
|
(153) |
A norma dell’articolo 113 del regolamento sull’IA, il suo articolo 50 si applica a decorrere dal 2 agosto 2026. Ciò impone che tutti i sistemi di IA che rientrano nell’ambito di applicazione dell’articolo, immessi sul mercato o messi in servizio nell’Unione, siano conformi a tale disposizione in tale data, indipendentemente dalla rispettiva data di immissione sul mercato o di messa in servizio (50). Il regolamento che modifica il regolamento sull’IA (pacchetto omnibus sull’IA), recentemente adottato dal legislatore dell’Unione, prevede una norma di anteriorità mirata solo per quanto riguarda gli obblighi di marcatura e rilevazione di cui all’articolo 50, paragrafo 2, del regolamento sull’IA per i sistemi di IA generativa immessi sul mercato o messi in servizio prima del 2 agosto 2026. Essa concede ai fornitori di tali sistemi esistenti un periodo transitorio per renderli conformi entro il 2 dicembre 2026. I sistemi parzialmente interattivi e parzialmente generativi possono beneficiare di tale periodo transitorio solo per quanto riguarda l’obbligo di marcatura di cui all’articolo 50, paragrafo 2, del regolamento sull’IA, mentre il rispetto dell’obbligo di trasparenza per i sistemi di IA che interagiscono direttamente con le persone fisiche deve essere garantito a decorrere dal 2 agosto 2026. |
|
(154) |
Gli output generati o manipolati dall’IA che rientrano nell’ambito di applicazione dell’articolo 50, paragrafo 2, del regolamento sull’IA e i deep fake che rientrano nell’ambito di applicazione dell’articolo 50, paragrafo 4, primo comma, del regolamento sull’IA e che sono stati generati o manipolati prima del 2 agosto 2026 non devono essere marcati o etichettati retroattivamente. Lo stesso vale per i testi su questioni di interesse pubblico rientranti nell’ambito di applicazione dell’articolo 50, paragrafo 4, secondo comma, del regolamento sull’IA che sono stati generati o manipolati dall’IA e pubblicati prima del 2 agosto 2026. Per contro, se i testi generati o manipolati prima del 2 agosto 2026 sono pubblicati a partire da tale data, devono essere etichettati. Considerando l’obiettivo di trasparenza, aumento della fiducia e integrità dell’ecosistema dell’informazione perseguito dal regolamento sull’IA, i deployer dei sistemi di IA e altri attori che sono in possesso di deep fake preesistenti non etichettati, o che li diffondono, sono tuttavia incoraggiati a etichettarli pur senza essere tenuti a compiere sforzi sproporzionati a tal fine (ad esempio effettuando l’audit di banche dati di contenuti preesistenti o la modifica di confezioni di prodotti già stampate). |
9. RIESAME E AGGIORNAMENTO DEGLI ORIENTAMENTI
|
(155) |
I presenti orientamenti costituiscono una prima interpretazione con esempi pratici degli obblighi di trasparenza di cui all’articolo 50 del regolamento sull’IA. La Commissione riesaminerà i presenti orientamenti non appena necessario alla luce dell’esperienza pratica acquisita nell’attuazione degli obblighi di trasparenza e del ritmo degli sviluppi tecnologici, sociali e normativi in questo settore. Ciò comprende anche qualsiasi esperienza pertinente derivante dalle azioni di applicazione delle norme in materia di vigilanza del mercato e dalle interpretazioni dell’articolo 50 del regolamento sull’IA fornite dalla CGUE. Nel corso di tale riesame, la Commissione può decidere di revocare o modificare i presenti orientamenti. La Commissione incoraggia i fornitori e i deployer di sistemi di IA, le autorità nazionali di vigilanza del mercato attraverso il consiglio per l’IA, il forum consultivo sull’IA, la comunità di ricerca e le organizzazioni della società civile a contribuire a tale processo rispondendo alle consultazioni pubbliche che saranno aperte in futuro. |
(1) Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull’intelligenza artificiale (regolamento sull’intelligenza artificiale) (GU L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
(2) Articolo 1 del regolamento sull’IA.
(3) Articolo 2, paragrafo 1, lettera a), e articolo 3, punti 3), 9) e 11), del regolamento sull’IA. Per ulteriori orientamenti sui concetti di immissione sul mercato, messa in servizio e uso, cfr. gli orientamenti della Commissione relativi alle pratiche di intelligenza artificiale vietate (C(2025) 5052) e la comunicazione della Commissione «La guida blu all’attuazione della normativa UE sui prodotti 2022», sezione 2 (GU C 247 del 29.6.2022, pag. 1).
(4) Articolo 2, paragrafo 1, lettera c), e considerando 22 del regolamento sull’IA.
(5) Articolo 3, punto 4), del regolamento sull’IA.
(6) Articolo 2, paragrafo 1, lettere b) e c), del regolamento sull’IA.
(7) Regolamento (UE) 2022/2065 del Parlamento europeo e del Consiglio, del 19 ottobre 2022, relativo a un mercato unico dei servizi digitali (GU L 277 del 27.10.2022, pag. 1).
(8) Cfr. sezione 2.5 degli orientamenti della Commissione relativi alle pratiche di intelligenza artificiale vietate ai sensi del regolamento (UE) 2024/1689 (regolamento sull’IA), Bruxelles, 29.7.2025 (C(2025) 5052 final).
(9) Dalla definizione di deployer sono esclusi anche gli utenti impegnati in tali attività (cfr. sezione 2.3).
(10) Considerando 25 del regolamento sull’IA.
(11) Il considerando 102 del regolamento sull’IA spiega che il rilascio di software e dati con licenza libera e open source fa sì che essi possano «essere condivisi apertamente e che gli utenti possano liberamente consultare, utilizzare, modificare e ridistribuire [detti software e dati], comprese le loro versioni modificate».
(12) Per ulteriori informazioni sull’articolo 5 del regolamento sull’IA, cfr. gli orientamenti della Commissione relativi alle pratiche di intelligenza artificiale vietate ai sensi del regolamento (UE) 2024/1689 (regolamento sull’IA) (C(2025) 5052 final).
(13) Cfr. articolo 6 del regolamento sull’IA.
(14) In particolare, l’articolo 26, paragrafo 11, del regolamento sull’IA stabilisce un obbligo di trasparenza per i deployer dei sistemi di IA ad alto rischio che adottano decisioni o assistono nell’adozione di decisioni che riguardano persone fisiche, imponendo loro di informare queste ultime che sono soggette all’uso del sistema di IA ad alto rischio. Tali obblighi di trasparenza sono complementari a quelli di cui all’articolo 50 del regolamento sull’IA, in quanto riguardano informazioni diverse che devono essere fornite alle persone fisiche, ma possono essere combinate in singole notifiche.
(15) L’articolo 3, punto 66), del regolamento sull’IA definisce un sistema di IA per finalità generali come un sistema di IA basato su un modello di IA per finalità generali e che ha la capacità di perseguire varie finalità, sia per uso diretto che per integrazione in altri sistemi di IA.
(16) L’articolo 50, paragrafo 2, del regolamento sull’IA contiene un riferimento esplicito ai sistemi di IA per finalità generali.
(17) Considerando 133 del regolamento sull’IA.
(18) Cfr. articolo 3, punto 1), del regolamento sull’IA. Per ulteriori orientamenti sul concetto di sistema di IA, cfr. gli orientamenti della Commissione sulla definizione di sistema di intelligenza artificiale (C(2025) 5053 final del 29.7.2025).
(19) Cfr. considerando 132 del regolamento sull’IA. Ciò non richiede che il sistema sia destinato a tali gruppi vulnerabili. Se un sistema è destinato a interagire con un qualsiasi membro del pubblico, anche i membri dei gruppi vulnerabili sono compresi e dovrebbero essere presi in considerazione dai fornitori nell’attuazione delle misure di notifica.
(20) Cfr. sezione 7.3 sui requisiti di accessibilità applicabili.
(21) Ad esempio, gli attestati elettronici di attributi stabiliti a norma del regolamento (UE) n. 910/2014 e messi a disposizione nei portafogli europei di identità digitale istituiti a norma dello stesso regolamento, nonché i portafogli europei delle imprese proposti, possono fornire mezzi sicuri ed efficienti per individuare gli agenti di IA. I portafogli possono conservare e gestire attestati elettronici che verificano l’identità, gli attributi e le autorizzazioni dell’agente di IA, consentendo in tal modo alle persone fisiche di essere informate in modo continuo e affidabile.
(22) Ciò vale anche per le eccezioni analoghe previste a beneficio delle attività di contrasto dall’articolo 50, paragrafi da 2 a 4, del regolamento sull’IA.
(23) Direttiva 2005/29/CE del Parlamento europeo e del Consiglio, dell’11 maggio 2005, relativa alle pratiche commerciali sleali tra imprese e consumatori nel mercato interno (GU L 149 dell’11.6.2005, pag. 2).
(24) Direttiva 2011/83/UE del Parlamento europeo e del Consiglio, del 25 ottobre 2011, sui diritti dei consumatori (GU L 304 del 22.11.2011, pag. 64).
(25) Direttiva 2012/13/UE del Parlamento europeo e del Consiglio, del 22 maggio 2012, sul diritto all’informazione nei procedimenti penali (GU L 142 dell’1.6.2012, pag. 1); direttiva 2012/29/UE del Parlamento europeo e del Consiglio, del 25 ottobre 2012, che istituisce norme minime in materia di diritti, assistenza e protezione delle vittime di reato (GU L 315 del 14.11.2012, pag. 57).
(26) Secondo la definizione dell’articolo 3, punto 1), del regolamento sull’IA.
(27) Il considerando 133 del regolamento sull’IA chiarisce che è opportuno imporre ai fornitori di tali sistemi di integrare soluzioni tecniche che consentano agli output di essere marcati in un formato leggibile meccanicamente e di essere rilevabili come generati o manipolati da un sistema di IA e non da esseri umani. Il considerando 135 del regolamento sull’IA fa riferimento all’obbligo di rilevazione.
(28) Cfr. allegato II della decisione di esecuzione C(2025) 3871 final della Commissione, relativa a una richiesta di normazione al Comitato europeo di normazione e al Comitato europeo di normazione elettrotecnica per quanto riguarda i sistemi di IA ad alto rischio a sostegno del regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio e che abroga la decisione di esecuzione C(2023) 3215 final.
(29) Cfr. anche considerando 11 del regolamento sull’IA.
(30) Cfr. anche considerando 137 del regolamento sull’IA.
(31) Considerando 136 del regolamento sull’IA.
(32) Pertanto tale criterio deve essere inteso in modo indipendente e distinto dal concetto di inganno di cui alla direttiva 2005/29/CE relativa alle pratiche commerciali sleali tra imprese e consumatori nel mercato interno (direttiva sulle pratiche commerciali sleali), https://eur-lex.europa.eu/eli/dir/2005/29/oj/ita.
(33) Cfr., nello stesso senso, l’articolo 1, lettera b), della direttiva AVMS.
(34) Ciò vale anche per i testi pubblicati che informano il pubblico su questioni di interesse pubblico.
(35) Cfr. anche sezione 4.4 per ulteriori informazioni sull’interazione tra l’articolo 50 del regolamento sull’IA e il regolamento sui servizi digitali.
(36) Considerando 2 della direttiva sui servizi digitali.
(37) Per chiarimenti più dettagliati, cfr. gli orientamenti congiunti della Commissione e dell’EDPB sull’interazione tra il regolamento sull’IA e il diritto dell’UE in materia di protezione dei dati (in fase di preparazione).
(38) Cfr. per analogia Mediakabel, C-89/04, ECLI:EU:C:2005:348, punto 33; Lagardère, C-192/04, ECLI:EU:C:2005:475, punto 31; SGAE, C-306/05, ECLI:EU:C:2006:764, punti 37-40; Stichting Brein, C-527/15, ECLI:EU:C:2017:300, punti 43-44 e giurisprudenza ivi citata; GEMA, C-135/23, ECLI:EU:C:2024:526, punto 38 e giurisprudenza ivi citata).
(39) Regolamento (UE) 2024/1083 del Parlamento europeo e del Consiglio, dell’11 aprile 2024, che istituisce un quadro comune per i servizi di media nell’ambito del mercato interno e che modifica la direttiva 2010/13/UE (regolamento europeo sulla libertà dei media) (GU L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).
(40) Se i minori fanno parte del pubblico destinatario dei contenuti, tali notifiche devono essere: i) a misura di minore, adeguate all’età, di facile comprensione e facilmente accessibili a tutti i minori, compresi quelli con disabilità e/o con esigenze di accessibilità aggiuntive; ii) presentate in modo chiaro, facilmente comprensibile e quanto più semplice e succinto possibile; iii) presentate in modi che ne agevolino la consultazione e che consentano un accesso immediato e intuitivo, nei momenti in cui diventano rilevanti; iv) presentate nella lingua o nelle lingue ufficiali dello Stato membro in cui è prestato il servizio; v) coinvolgenti per i minori. A tal fine possono essere usati grafici, video e/o personaggi o altre tecniche; vi) trasmesse ai minori in modo graduale e nel corso del tempo, per massimizzarne l’assimilazione da parte dell’utente.
(41) Direttiva (UE) 2016/2102 del Parlamento europeo e del Consiglio, del 26 ottobre 2016, relativa all’accessibilità dei siti web e delle applicazioni mobili degli enti pubblici (Testo rilevante ai fini del SEE) (GU L 327 del 2.12.2016, pag. 1).
(42) Direttiva (UE) 2019/882 del Parlamento europeo e del Consiglio, del 17 aprile 2019, sui requisiti di accessibilità dei prodotti e dei servizi (Testo rilevante ai fini del SEE), PE/81/2018/REV/1 (GU L 151 del 7.6.2019, pag. 70).
(43) Cfr. informazioni pertinenti sul Codice di buone pratiche sulla trasparenza dei contenuti generati dall’IA | Plasmare il futuro digitale dell’Europa pubblicato il 10 giugno 2026.
(44) Cfr. Parere della Commissione sulla valutazione del codice di buone pratiche sulla trasparenza dei contenuti generati dall’IA | Plasmare il futuro digitale dell’Europa.
(45) Articolo 99, paragrafo 7, lettera e), del regolamento sull’IA.
(46) Articolo 50, punto 7), del regolamento sull’IA.
(47) In qualità di autorità di vigilanza del mercato per i sistemi di IA basati su modelli di IA per finalità generali forniti dallo stesso fornitore (articolo 75, paragrafo 1, del regolamento sull’IA). Ciò riguarda l’obbligo applicabile ai fornitori a norma dell’articolo 50, paragrafi 1 e 2, del regolamento sull’IA. Per quanto riguarda l’articolo 50, paragrafi 3 e 4, del regolamento sull’IA, l’ufficio per l’IA sarà competente solo se il fornitore del rispettivo modello di IA per finalità generali e del sistema di IA è anche un deployer del sistema stesso.
(48) In qualità di autorità di vigilanza del mercato per le istituzioni, gli organi e gli organismi dell’UE.
(49) Articolo 85 del regolamento sull’IA.
(50) La norma speciale di anteriorità di cui all’articolo 111, paragrafo 2, del regolamento sull’IA si applica ai sistemi di IA ad alto rischio immessi sul mercato prima della data di applicazione delle norme sui sistemi ad alto rischio solo per quanto riguarda la conformità di tali sistemi ai requisiti e agli obblighi previsti per gli stessi. Se il sistema di IA ad alto rischio è anche soggetto a uno o più obblighi di trasparenza a norma dell’articolo 50 del regolamento sull’IA, tale norma speciale di anteriorità non si applica in quanto l’applicazione dei diversi obblighi previsti per i sistemi ad alto rischio e la trasparenza ai sensi dell’articolo 50 sono cumulative e l’anteriorità è giustificata e limitata solo per quanto riguarda il rispetto delle disposizioni sui sistemi ad alto rischio.
ELI: http://data.europa.eu/eli/C/2026/6005/oj
ISSN 1977-0944 (electronic edition)