|
Den Europæiske Unions |
DA C-udgaven |
|
C/2026/6005 |
12.11.2026 |
MEDDELELSE FRA KOMMISSIONEN
Retningslinjer for gennemførelsen af gennemsigtighedsforpligtelserne for visse AI-systemer i henhold til artikel 50 i forordning (EU) 2024/1689 (»AI-forordningen«)
(C/2026/6005)
Indholdsfortegnelse
|
1. |
BAGGRUND OG MÅLSÆTNINGER | 3 |
|
2. |
OVERSIGT OVER GENNEMSIGTIGHEDSFORPLIGTELSERNE OG HORISONTALE EMNER | 3 |
|
2.1. |
Oversigt over gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen | 3 |
|
2.2. |
Begrundelse og mål | 4 |
|
2.3. |
Ansvarlige aktører i henhold til AI-forordningens artikel 50 | 5 |
|
2.4. |
Undtagelser fra AI-forordningens anvendelsesområde | 7 |
|
2.4.1. |
Idriftsættere, der handler som led i rent personlige ikkeerhvervsmæssige aktiviteter | 7 |
|
2.4.2. |
Forskning og udvikling | 8 |
|
2.4.3. |
AI frigivet under gratis open source-licenser | 8 |
|
2.5. |
Samspil med de forbudte former for praksis, kravene til højrisiko-AI-systemer og AI-færdigheder | 9 |
|
2.6. |
Samspil med de regler, der gælder for AI-modeller og/eller AI-systemer til almen brug | 9 |
|
3. |
AI-FORORDNINGENS ARTIKEL 50, STK. 1: GENNEMSIGTIGHED FOR INTERAKTIVE AI-SYSTEMER | 9 |
|
3.1. |
Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser | 10 |
|
3.1.1. |
AI-systemer, der er tilsigtet at interagere direkte med fysiske personer | 10 |
|
3.1.2. |
Oplysningspligt i henhold til AI-forordningens artikel 50, stk. 1 | 12 |
|
3.2. |
Undtagelser fra oplysningspligten i artikel 50, stk. 1, i AI-forordningen | 14 |
|
3.2.1. |
Undtagelse for åbenbar interaktion med et AI-system | 14 |
|
3.2.2. |
Undtagelse for AI-systemer, der ved lov er tilladt til retshåndhævelsesformål | 16 |
|
3.3. |
Samspil med andre EU-retsakter | 17 |
|
4. |
AI-FORORDNINGENS ARTIKEL 50, STK. 2: MÆRKNING OG PÅVISNING AF AI-GENERERET ELLER MANIPULERET INDHOLD | 18 |
|
4.1. |
Hovedelementer og begreber i AI-forordningens artikel 50, stk. 2 | 18 |
|
4.1.1. |
AI-systemer, der genererer eller manipulerer syntetisk indhold | 18 |
|
4.1.2. |
Metoder til syntetisk indholdsgenerering, der er omfattet | 19 |
|
4.1.3. |
Indhold, der ikke er omfattet af AI-forordningens artikel 50, stk. 2 | 20 |
|
4.2. |
Mærknings- og påvisningsforpligtelsen i AI-forordningens artikel 50, stk. 2 | 21 |
|
4.2.1. |
Mærkningsforpligtelsen | 21 |
|
4.2.2. |
Påvisningsforpligtelsen | 22 |
|
4.2.3. |
Overholdelse af kravene til tekniske løsninger: effektive, interoperable, robuste og pålidelige | 22 |
|
4.3. |
Undtagelser fra forpligtelserne i AI-forordningens artikel 50, stk. 2 | 24 |
|
4.4. |
Samspil med andre EU-retsakter | 25 |
|
5. |
AI-FORORDNINGENS ARTIKEL 50, STK. 3: SYSTEMER TIL FØLELSESGENKENDELSE OG BIOMETRISKE KATEGORISERINGSSYSTEMER | 26 |
|
5.1. |
Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser i AI-forordningens artikel 50, stk. 3 | 27 |
|
5.1.1. |
Begrebet system til følelsesgenkendelse | 27 |
|
5.1.2. |
Begrebet system til biometrisk kategorisering | 27 |
|
5.1.3. |
Oplysningspligten i AI-forordningens artikel 50, stk. 3 | 27 |
|
5.2. |
Undtagelse for retshåndhævelse | 28 |
|
5.3. |
Samspil med andre EU-retsakter | 28 |
|
6. |
ARTIKEL 50, STK. 4: MÆRKNING AF DEEPFAKES OG VISSE TEKSTPUBLIKATIONER | 28 |
|
6.1. |
Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser for deepfakes i AI-forordningens artikel 50, stk. 4 | 28 |
|
6.1.1. |
Begrebet »deepfake« | 29 |
|
6.1.2. |
Oplysningspligt i artikel 50, stk. 4, første afsnit, i AI-forordningen | 31 |
|
6.1.3. |
Gennemsigtighed i forbindelse med kunstnerisk, kreativt, satirisk, fiktivt eller tilsvarende deepfakeindhold | 32 |
|
6.1.4. |
Undtagelse for retshåndhævelse | 34 |
|
6.1.5. |
Samspil med andre EU-retsakter | 34 |
|
6.2. |
Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser for AI-genereret eller manipuleret tekst i AI-forordningens artikel 50, stk. 4 | 35 |
|
6.2.1. |
Tekst, der er offentliggjort med det formål at informere offentligheden om spørgsmål af offentlig interesse | 36 |
|
6.2.2. |
Oplysningspligten i AI-forordningens artikel 50, stk. 4, andet afsnit | 37 |
|
6.2.3. |
Undtagelse fra gennemsigtighedsforpligtelsen for tekst under menneskelig gennemgang eller redaktionel kontrol og redaktionelt ansvar | 37 |
|
6.2.4. |
Undtagelse for retshåndhævelse | 38 |
|
6.2.5. |
Samspil med andre EU-retsakter | 39 |
|
7. |
HORISONTALE KRAV TIL OPLYSNINGER, DER GIVES I HENHOLD TIL ARTIKEL 50, STK. 5, I AI-FORORDNINGEN | 39 |
|
7.1. |
Afgivelse af oplysninger på en klar og synlig måde | 39 |
|
7.2. |
Første interaktion eller eksponering | 40 |
|
7.3. |
Overholdelse af gældende tilgængelighedskrav | 40 |
|
8. |
HÅNDHÆVELSE AF AI-FORORDNINGENS ARTIKEL | 40 |
|
8.1. |
Virkningerne af at overholde en praksiskodeks, der vurderes som tilstrækkelig | 41 |
|
8.2. |
Markedsovervågningsmyndigheder | 42 |
|
8.3. |
Sanktioner | 42 |
|
8.4. |
Ikrafttræden | 42 |
|
9. |
REVISION OG AJOURFØRING AF RETNINGSLINJERNE | 43 |
1. BAGGRUND OG MÅLSÆTNINGER
|
(1) |
Europa-Parlamentets og Rådets forordning (EU) 2024/1689 af 13. juni 2024 om harmoniserede regler for kunstig intelligens og om ændring af visse forordninger (»AI-forordningen«) trådte i kraft den 1. august 2024 (1). AI-forordningen fastsætter harmoniserede regler for omsætning, ibrugtagning og anvendelse af kunstig intelligens (»AI«) i Unionen (2). Formålet er at fremme innovation inden for og udbredelsen af troværdig AI, samtidig med at der sikres et højt niveau af beskyttelse for sundhed, sikkerhed og grundlæggende rettigheder i Unionen, herunder demokratiet og retsstatsprincippet. |
|
(2) |
AI-forordningen følger en risikobaseret tilgang, hvor AI-systemer klassificeres i fire forskellige risikokategorier, hvoraf den ene omfatter AI-systemer, der indebærer gennemsigtighedsrisici, og som er omfattet af forpligtelserne i artikel 50 i AI-forordningen. Disse gennemsigtighedsforpligtelser finder anvendelse to år efter AI-forordningens ikrafttræden, dvs. fra den 2. august 2026. |
|
(3) |
I henhold til artikel 96, stk. 1, litra d), i AI-forordningen udstedes disse retningslinjer fra Kommissionen med henblik på at fungere som praktisk vejledning til at bistå de kompetente myndigheder samt udbydere og idriftsættere af AI-systemer med at sikre overholdelse af gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen på en sammenhængende, effektiv, forholdsmæssig og ensartet måde. |
|
(4) |
Udarbejdelsen af disse retningslinjer bygger på input fra en række interessenter, som blev indsamlet under en bred høring organiseret af Kommissionen, input fra medlemsstaterne i AI-Udvalget samt input fra interessenter om udkastet til retningslinjer, der blev offentliggjort med henblik på høring. |
|
(5) |
Disse retningslinjer er ikke bindende. Enhver autoritativ fortolkning af AI-forordningen kan i sidste ende kun foretages af Den Europæiske Unions Domstol (herefter »EU-Domstolen«). |
2. OVERSIGT OVER GENNEMSIGTIGHEDSFORPLIGTELSERNE OG HORISONTALE EMNER
2.1. Oversigt over gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen
|
(6) |
Artikel 50 i AI-forordningen omfatter fire gennemsigtighedsforpligtelser, der hver især finder anvendelse på forskellige typer AI-systemer eller deres output.
|
|
(7) |
Hver af disse fire forpligtelser behandles i afsnit 3-6 i disse retningslinjer. Desuden fastsættes det i AI-forordningens artikel 50, stk. 5, at de oplysninger, der er omhandlet i stk. 1-4, gives til de pågældende fysiske personer på en klar og synlig måde senest på tidspunktet for den første interaktion eller eksponering og skal være i overensstemmelse med gældende tilgængelighedskrav. I afsnit 7 præciseres disse krav. |
|
(8) |
De forskellige gennemsigtighedsforpligtelser, der er fastsat i artikel 50 i AI-forordningen, kan finde kumulativ anvendelse på (outputtet fra) et enkelt AI-system og eventuelt medføre ansvar for forskellige aktører (udbydere eller idriftsættere). Hvis et AI-system f.eks. genererer billeder som led i en direkte interaktion med en fysisk person, kan udbyderen af systemet skulle overholde både artikel 50, stk. 1 og 2, i AI-forordningen. Hvis dette system også kan generere billeder, der udgør deepfakes, eller tekst, der offentliggøres om spørgsmål af offentlig interesse, kan idriftsætteren desuden skulle overholde artikel 50, stk. 4, i AI-forordningen. |
2.2. Begrundelse og mål
|
(9) |
Som forklaret i betragtning 132-136 til AI-forordningen er formålet med gennemsigtighedsforpligtelserne at mindske risikoen for imitation, vildledning, misinformation, manipulation i stor målestok og svig og at afbøde de potentielle negative indvirkninger på demokratiske processer og tilliden i samfundet, der forårsages af AI-genereret eller manipuleret indhold eller interaktion. Informering af personer om interaktionens og indholdets AI-oprindelse hjælper dem med at træffe informerede beslutninger og bidrager samtidig til at beskytte tilliden til og integriteten af informationsøkosystemet. Gennemsigtighed er ikke blot et teknisk overholdelseskrav, men en forudsætning for at sætte fysiske personer i stand til at genkende AI-medierede interaktioner og indhold eller anvendelsen af systemer til følelsesgenkendelse eller biometrisk kategorisering. Sikring af gennemsigtig og troværdig anvendelse af interaktive og generative AI-systemer gør det også muligt at værne om den personlige uafhængighed og europæiske værdier, menneskers værdighed og andre grundlæggende rettigheder (f.eks. tankefrihed, privatlivets fred, lighed og ikkeforskelsbehandling, forbrugerbeskyttelse, intellektuelle ejendomsrettigheder osv.), samtidig med at ytringsfriheden og medieindholds troværdighed bevares. |
2.3. Ansvarlige aktører i henhold til AI-forordningens artikel 50
|
(10) |
Ifølge AI-forordningens artikel 3, nr. 3), er udbydere en fysisk eller juridisk person, en offentlig myndighed, et agentur eller et andet organ, der udvikler eller får udviklet et AI-system eller en AI-model til almen brug og bringer dem i omsætning eller ibrugtager AI-systemet under eget navn eller varemærke, enten mod betaling eller gratis. Udbydere skal overholde de relevante gennemsigtighedsforpligtelser i AI-forordningens artikel 50, stk. 1 og 2, som finder anvendelse på dem, uanset om de er etableret eller befinder sig i Unionen eller i et tredjeland (3). Udbydere, der er etableret eller befinder sig uden for Unionen, er også omfattet af AI-forordningen, hvis outputtet fra deres AI-system anvendes i Unionen (4). Tilfældig, uforudsigelig eller uautoriseret anvendelse i efterfølgende led bør imidlertid ikke i sig selv udløse anvendelsen af forpligtelserne på sådanne tredjelandsudbydere af interaktive eller generative AI-systemer, der ikke bringes i omsætning eller ibrugtages i Unionen, uden at det berører de kompetente markedsovervågningsmyndigheders beføjelser til at anse deres output for ikke at være i overensstemmelse med AI-forordningen. |
|
(11) |
Udbydere skal sikre, at gennemsigtighed er indbygget i deres interaktive eller generative AI-systemers udformning og drift, samt at alle relevante gennemsigtighedsforpligtelser i AI-forordningens artikel 50, stk. 1, 2 og 5, er opfyldt senest, når disse systemer bringes i omsætning eller ibrugtages. Alle fysiske personer, der interagerer med AI-systemet eller eksponeres for dets output inden for anvendelsesområdet, skal informeres effektivt og konsekvent gennem hele AI-systemets livscyklus, således som det er bragt i omsætning eller ibrugtaget af den pågældende udbyder (uanset hvem der er idriftsættere eller andre brugere af systemet).
|
|
(12) |
Idriftsættere er fysiske eller juridiske personer, offentlige myndigheder, agenturer eller andre organer, der anvender et AI-system under deres myndighed, medmindre AI-systemet anvendes som led i en personlig ikkeerhvervsmæssig aktivitet (5). Ved »myndighed« over et AI-system bør forstås, at der påtages ansvar for beslutningen om at idriftsætte systemet og for den måde, hvorpå systemet faktisk anvendes (herunder dets output). Dette kræver ikke nødvendigvis teknisk kontrol med AI-systemets drift, så længe idriftsætteren træffer beslutning om, til hvilke formål og hvordan AI-systemet skal anvendes (herunder i decentraliserede arbejdsgange og koncernstrukturer). Idriftsættere, der er involveret i komplekse værdikæder for produktion og distribution af indhold, bør træffe forholdsmæssige foranstaltninger for at sikre, at den mærkning af indholdet, som de har gennemført i henhold til AI-forordningens artikel 50, stk. 4, vises på en klar og synlig måde for den tilsigtede og forudsigelige målgruppe på tidspunktet for den første eksponering i overensstemmelse med AI-forordningens artikel 50, stk. 5 (f.eks. via kontraktvilkår med distributionspartnere, indstillinger for brugeroplevelse (UX) og grænseflader, der skal vises). |
|
(13) |
Idriftsættere er omfattet af gennemsigtighedsforpligtelserne i AI-forordningens artikel 50, stk. 3 og 4, hvis deres etableringssted eller beliggenhed er i Unionen, eller hvis de er etableret eller befinder sig i et tredjeland, hvor AI-systemets output anvendes i Unionen (6). I sidstnævnte tilfælde finder gennemsigtighedsforpligtelserne anvendelse på enheder, der befinder sig eller er etableret uden for Unionen, hvor idriftsætteren selv forudser formidling og anvendelse af AI-output i Unionen (dvs. ved at målrette eller tillade distribution i Unionen, herunder ved at lægge deepfakes på det globalt tilgængelige internet). Idriftsættere fra tredjelande er imidlertid ikke bundet af gennemsigtighedsforpligtelserne, hvis AI-systemets indhold når ud til brugere i Unionen gennem kanaler, der er uforudsigelige og uden for deres kontrol. |
|
(14) |
Hvis idriftsætteren af et AI-system er en juridisk person, under hvis myndighed systemet anvendes (f.eks. en reklamevirksomhed), bør de enkelte medarbejdere, der handler efter instrukser fra og under denne juridiske persons kontrol (f.eks. digitale animatorer, webdesignere, indholdsskabere og journalister), ikke betragtes som særskilte idriftsættere af dette system. En juridisk person forbliver idriftsætter, hvis den inddrager tredjeparter (f.eks. kontrahenter og freelancere) i driften af systemet på dens vegne og under dens ansvar og kontrol.
|
|
(15) |
Operatører (f.eks. udbydere og idriftsættere) kan varetage mere end én rolle samtidigt i forbindelse med et AI-system. Eksempelvis kan en virksomhed udvikle et generativt AI-system internt og anvende det til generering af deepfakes. I et sådant tilfælde kvalificeres den som både udbyder og idriftsætter og skal sikre overholdelse af forpligtelserne til maskinlæsbar mærkning i henhold til AI-forordningens artikel 50, stk. 2, og kravene om en klar og synlig mærkning af deepfakes i henhold til AI-forordningens artikel 50, stk. 4. |
|
(16) |
Derimod er andre aktører (såsom udbydere af hostingtjenester, herunder onlineplatforme, eller TV-spredningsforetagender), hvis rolle er begrænset til at formidle eller transmittere AI-genereret eller manipuleret indhold, der er skabt af tredjeparter, eller som modtager eller eksponeres for AI-genereret eller manipuleret indhold uden at have myndighed over anvendelsen af AI-systemet med henblik på generering eller manipulation af AI-indholdet, ikke idriftsættere som omhandlet i AI-forordningen. Uden at være ansvarlige og erstatningsansvarlige i henhold til AI-forordningen kan disse aktører ikke desto mindre spille en vigtig rolle i værdikæden med hensyn til at bevare tilliden til og integriteten af informationsøkosystemet. De opfordres derfor kraftigt til at bevare den mærkning, der er gennemført i henhold til AI-forordningens artikel 50, og foretage forholdsmæssige og teknisk gennemførlige foranstaltninger, der gør det muligt for fysiske personer at opdage AI-genereret eller manipuleret indhold, uden at dette berører ansvaret for udbydere og idriftsættere af generative AI-systemer eller eventuelle forpligtelser eller eventuelt ansvar i henhold til forordning (EU) 2022/2065 (forordningen om digitale tjenester) (7) eller anden gældende EU-ret eller national ret. |
|
(17) |
Andre aktører, der handler i erhvervsøjemed og formidler indhold (selv om de ikke er direkte omfattet af AI-forordningens artikel 50), opfordres også til at træffe forholdsmæssige og passende foranstaltninger, således at de fysiske personer, der i sidste ende eksponeres for indholdet, informeres effektivt og er i stand til at opdage dets kunstigt genererede eller manipulerede oprindelse. Desuden kan disse parter være forpligtet til at mærke de pågældende deepfakes eller tekstpublikationer om spørgsmål af offentlig interesse i henhold til andre gældende retlige eller deontologiske regler (f.eks. et TV-spredningsforetagende, der mærker og viser en deepfake, som er skabt af en privatperson, som en del af et TV-program). Alene den omstændighed, at en aktør mærker indhold eller anvender mærket indhold, betyder imidlertid ikke, at den pågældende aktør kvalificeres som en »idriftsætter« som omhandlet i AI-forordningen. AI-forordningen udvider eller påvirker ikke disse aktørers retlige ansvar i henhold til de gældende retlige rammer, hvis de ikke samtidig kvalificeres som udbydere eller idriftsættere af AI-systemer. |
2.4. Undtagelser fra AI-forordningens anvendelsesområde
|
(18) |
I artikel 2 i AI-forordningen fastsættes en række generelle undtagelser fra AI-forordningens anvendelsesområde, som allerede er blevet præciseret i Kommissionens retningslinjer om forbudte former for praksis vedrørende kunstig intelligens (8). Dette afsnit omhandler derfor kun de aspekter, der er relevante for gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen. |
2.4.1. Idriftsættere, der handler som led i rent personlige ikkeerhvervsmæssige aktiviteter
|
(19) |
I henhold til artikel 2, stk. 10, i AI-forordningen finder forordningen »ikke anvendelse på forpligtelser for idriftsættere, som er fysiske personer, der anvender AI-systemer som led i rent personlige ikkeerhvervsmæssige aktiviteter« (9). Enhver aktivitet, hvorved fysiske personer regelmæssigt opnår en økonomisk gevinst eller på anden måde er involveret i erhvervs-, forretnings-, handels-, beskæftigelses- eller freelanceaktivitet, bør anses for en »erhvervsmæssig« aktivitet. Betegnelsen »rent personlig« præciserer »ikkeerhvervsmæssig«, hvilket betyder, at personen skal handle både i personlig og i ikkeerhvervsmæssig egenskab for at være omfattet af undtagelsen. Enhver anvendelse foretaget af fysiske personer, der handler på vegne af eller under en idriftsætters myndighed, når denne idriftsætter handler i erhvervsmæssig egenskab, er omfattet af den professionelle idriftsætters gennemsigtighedsforpligtelser fastsat i artikel 50, stk. 3 og 4, i AI-forordningen.
|
|
(20) |
Undtagelsen i AI-forordningens artikel 2, stk. 10, finder kun anvendelse for så vidt angår idriftsætternes forpligtelser, når de anvender systemet til rent personlige ikkeerhvervsmæssige aktiviteter. Selve systemet er fortsat omfattet af AI-forordningens anvendelsesområde for så vidt angår forpligtelserne for udbydere, der bringer systemet i omsætning eller ibrugtager det, og for idriftsættere, der anvender systemet til erhvervsmæssig brug. Undtagelsen berører heller ikke anvendelsen af anden relevant EU-ret og national ret.
|
2.4.2. Forskning og udvikling
|
(21) |
I artikel 2, stk. 6, i AI-forordningen fastsættes en undtagelse for AI-systemer eller AI-modeller, herunder deres output, som specifikt er udviklet og ibrugtaget udelukkende med henblik på videnskabelig forskning og udvikling. Denne undtagelse berører ikke gældende forskningsetiske standarder og EU-lovgivning om databeskyttelse og anden lovgivning. I forbindelse med artikel 50 i AI-forordningen omfatter denne undtagelse ikke kun interaktive AI-systemer, men også output fra generative AI-systemer (herunder deepfakeindhold), der anvendes i forbindelse med videnskabelig forskning. Hvis disse systemer imidlertid ibrugtages, eller deres output anvendes til andre formål end udelukkende videnskabelig forskning og udvikling, skal de relevante gennemsigtighedsforpligtelser i artikel 50 i AI-forordningen stadig overholdes.
|
|
(22) |
I artikel 2, stk. 8, i AI-forordningen udelukkes endvidere forsknings-, afprøvnings- eller udviklingsaktiviteter vedrørende AI-systemer eller AI-modeller, inden de bringes i omsætning eller ibrugtages. Afprøvning under faktiske forhold (inden for eller uden for reguleringsmæssige AI-sandkasser) er ikke omfattet af denne undtagelse. Endvidere bør et AI-system, når det er bragt i omsætning eller ibrugtaget som følge af sådanne forsknings- og afprøvningsaktiviteter, ikke desto mindre overholde de relevante gennemsigtighedsforpligtelser i henhold til artikel 50 i AI-forordningen (10). |
2.4.3. AI frigivet under gratis open source-licenser
|
(23) |
I henhold til artikel 2, stk. 12, i AI-forordningen falder AI-systemer, der frigives i henhold til gratis open source-licenser, uden for AI-forordningens anvendelsesområde, forudsat at de ikke er omfattet af forbuddene i artikel 5 i AI-forordningen eller gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen og ikke klassificeres som højrisiko (11). Dette betyder, at udbydere og idriftsættere af open source-AI-systemer, der er omfattet af artikel 50 i AI-forordningen, stadig skal sikre overholdelse af deres respektive gennemsigtighedsforpligtelser. |
|
(24) |
Derimod er udbydere af gratis open source-AI-komponenter, der omfatter software, data, modeller, værktøjer, tjenester eller processer til tilpasning og integrering i et AI-system, og som ikke i sig selv (delvist eller helt) udgør et AI-system, ikke underlagt gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen. Udbydere af sådanne systemer opfordres ikke desto mindre til at udforme disse modeller, komponenter og tjenester på den måde, der er beskrevet i punkt 27 nedenfor, i det omfang dette er forholdsmæssigt og gennemførligt. |
2.5. Samspil med de forbudte former for praksis, kravene til højrisiko-AI-systemer og AI-færdigheder
|
(25) |
Betragtning 137 til AI-forordningen præciserer, at den omstændighed, at gennemsigtighedsforpligtelserne i henhold til artikel 50 i AI-forordningen overholdes for et bestemt AI-system, ikke kan fortolkes således, at anvendelsen af systemet eller dets output er lovlig i henhold til AI-forordningen. Navnlig kan AI-systemer, der er omfattet af forpligtelserne i artikel 50 i AI-forordningen, være omfattet af artikel 5 i AI-forordningen og dermed være forbudt (f.eks. brugen af systemer til følelsesgenkendelse på arbejdspladser eller i uddannelsesinstitutioner) (12). Desuden kan AI-systemer, der falder inden for anvendelsesområdet for artikel 50 i AI-forordningen, også klassificeres som højrisikosystemer (13) og være omfattet af de relevante krav og forpligtelser for sådanne systemer. Overholdelse af artikel 50 i AI-forordningen erstatter, begrænser eller berører derfor ikke forpligtelser, der følger af andre bestemmelser i AI-forordningen (14). Samtidig kan AI-systemer også falde inden for anvendelsesområdet for artikel 50 i AI-forordningen uden at blive klassificeret som højrisikosystemer i henhold til artikel 6 i AI-forordningen. Kravene til AI-færdigheder i henhold til artikel 4 i AI-forordningen gælder også for både udbydere og idriftsættere af AI-systemer, der falder inden for anvendelsesområdet for artikel 50 i AI-forordningen. |
2.6. Samspil med de regler, der gælder for AI-modeller og/eller AI-systemer til almen brug
|
(26) |
Artikel 50 i AI-forordningen finder anvendelse på visse AI-systemer, hvilket omfatter AI-systemer til almen brug (15), såsom chatbots, der understøtter direkte interaktion med fysiske personer, eller AI-systemer, der kan generere eller manipulere syntetisk indhold (herunder deepfakes) (16). |
|
(27) |
Artikel 50 i AI-forordningen finder ikke udtrykkeligt anvendelse på AI-modeller til almen brug. Hvis et interaktivt eller generativt AI-system, der falder inden for anvendelsesområdet for artikel 50, stk. 1 eller 2, i AI-forordningen, er bygget på en AI-model til almen brug, der leveres af den samme udbyder, kan de gennemsigtighedsforanstaltninger, der er fastsat i disse retningslinjer, imidlertid også gennemføres på modelniveau (se også afsnit 4 nedenfor). Selv om de falder uden for anvendelsesområdet for artikel 50 i AI-forordningen, opfordres udbydere af andre AI-modeller til almen brug og af andre generative AI-modeller desuden også til at gennemføre passende gennemsigtighedsforanstaltninger på modelniveau med henblik på identifikation af interaktive AI-systemer og mærkning af AI-genereret og manipuleret indhold. Dette er særlig nyttigt for at lette downstreamudbydere af AI-systemers overholdelse af deres forpligtelser i henhold til artikel 50, stk. 1 og 2, i AI-forordningen (17) og for at bidrage til at bevare tilliden til og integriteten af informationsøkosystemet. For AI-modeller til almen brug, der udgør en systemisk risiko, kan sikkerhedsforanstaltninger på modelniveau med henblik på identifikation af AI-interaktioner og mærkning af AI-genereret eller manipuleret indhold, hvor det er relevant, udgøre en del af et bredere sæt af afbødende foranstaltninger, som udbydere kan træffe som led i deres forpligtelse til at afbøde systemiske risici i henhold til artikel 55, stk. 1, litra b), i AI-forordningen. |
3. AI-FORORDNINGENS ARTIKEL 50, STK. 1: GENNEMSIGTIGHED FOR INTERAKTIVE AI-SYSTEMER
|
(28) |
Artikel 50, stk. 1, i AI-forordningen er rettet til udbydere af AI-systemer, der interagerer direkte med fysiske personer, og som skal udforme og udvikle deres systemer på en sådan måde, at de pågældende fysiske personer oplyses om, at de interagerer med et AI-system. Som forklaret i betragtning 132 til AI-forordningen er formålet med denne oplysningspligt at sætte disse fysiske personer i stand til at træffe informerede beslutninger vedrørende systemets output, at undgå i overdreven grad at forlade sig på sådanne systemer og at give disse fysiske personer mulighed for at afpasse deres tillid til indholdet og interaktionerne i overensstemmelse hermed. |
3.1. Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser
|
(29) |
Gennemsigtighedsforpligtelsen i artikel 50, stk. 1, i AI-forordningen finder anvendelse på udbydere af AI-systemer, når systemet er tilsigtet at interagere direkte med fysiske personer, og denne interaktion ikke er omfattet af nogen af følgende undtagelser: 1) det er indlysende ud fra en rimeligt velinformeret, opmærksom og forsigtig fysisk persons synspunkt, eller 2) systemet er ved lov godkendt til at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, medmindre systemet er tilgængeligt for offentligheden med henblik på at anmelde en strafbar handling. |
3.1.1. AI-systemer, der er tilsigtet at interagere direkte med fysiske personer
|
(30) |
Der skal foreligge fire elementer, for at et system er omfattet af anvendelsesområdet for artikel 50, stk. 1, i AI-forordningen: i) systemet skal være et AI-system, ii) det skal være tilsigtet at interagere, iii) interaktionen skal være direkte, iv) interaktionen skal ske med fysiske personer.
|
|
(31) |
AI-agenter er omfattet af artikel 50, stk. 1, i AI-forordningen, hvis de er i stand til at interagere med de personer, der instruerer dem, eller med andre fysiske personer under udførelsen af opgaverne (f.eks. foretage reservationer, håndtere korrespondance, forhandle eller indgå kontrakter, gennemføre køb osv.). AI-agenter skal udformes og udvikles på en sådan måde, at de oplyser om både deres kunstige karakter og den person, på hvis vegne de handler, under hensyntagen til behovet for gennemsigtighed om oprindelsen og delegeringen af beføjelser samt ansvarlighed for konsekvenserne af deres handlinger. Dette omfatter tilfælde, hvor AI-agenter er i stand til at interagere i komplekse multiagentarkitekturer med andre AI-agenter, der direkte interagerer med de fysiske personer under udførelsen af opgaven. Ikke desto mindre er det ikke altid muligt for udbyderen af AI-agenten på forhånd at identificere individuelle tilfælde af direkte interaktion mellem en AI-agent og andre fysiske personer, når AI-agenten er idriftsat i forskellige sammenhænge. Hvis udbyderen ikke pålideligt kan fastslå, om AI-agenten kommer til at interagere direkte med en fysisk person, før AI-agenten bringes i omsætning eller ibrugtages, bør agenten udformes på arkitekturniveau og instrueres i at identificere sig som sådan i enhver situation, hvor det med rimelighed er sandsynligt, at agenten kan interagere med en fysisk person (herunder hvor en fysisk person kan repræsentere eller handle for en juridisk person). Desuden bør AI-agenter også identificere sig over for de personer, der instruerer dem, på centrale trin (f.eks. ved godkendelse, rapportering, validering osv., herunder når den idriftsatte AI-agent modtager, behandler eller anvender output genereret af andre AI-systemer snarere end direkte af en fysisk person) og ved hver ny interaktion.
|
3.1.2. Oplysningspligt i henhold til AI-forordningens artikel 50, stk. 1
|
(32) |
Artikel 50, stk. 1, i AI-forordningen pålægger udbydere af AI-systemer, der interagerer direkte med fysiske personer, at sikre, at deres AI-systemer (herunder AI-agenter og AI-systemer til almen brug) udformes og udvikles på en sådan måde, at de pågældende fysiske personer oplyses om, at de interagerer med et AI-system. |
|
(33) |
Selv om mekanismen til at oplyse bør være indbygget i systemets udformning og udvikling og i den måde, hvorpå systemet interagerer med de fysiske personer, bør meddelelsen gives under AI-systemets drift og senest på tidspunktet for den første interaktion med den fysiske person (som krævet i artikel 50, stk. 5, i AI-forordningen, se afsnit 7 nedenfor). Udbyderne er ansvarlige for at sikre, at fysiske personer, der interagerer med AI-systemet, efter at AI-systemet er bragt i omsætning eller ibrugtaget, oplyses effektivt og konsekvent i hele AI-systemets livscyklus, således som det er bragt i omsætning eller ibrugtaget af den pågældende udbyder.2.2 |
|
(34) |
Oplysningsformat: Artikel 50, stk. 1, i AI-forordningen angiver ikke nogen bestemt oplysningsteknik. Udbydere kan derfor vælge enhver passende teknik, så længe to krav er opfyldt: i) kravene i artikel 50, stk. 5, i AI-forordningen er opfyldt for så vidt angår levering af klare og synlige oplysninger senest på tidspunktet for den første interaktion (se afsnit 7 nedenfor), og ii) der tages hensyn til egenskaber hos fysiske personer, der tilhører sårbare grupper på grund af deres alder (f.eks. børn eller ældre) eller handicap, i det omfang AI-systemet er tilsigtet at interagere eller med rimelighed kan forventes at interagere med fysiske personer, der tilhører disse grupper (f.eks. også når AI-systemet med rimelighed kan forventes at interagere med offentligheden) (19). Oplysningerne skal også gives i et format, der er tilgængeligt for fysiske personer med handicap, som angivet i artikel 50, stk. 5, og betragtning 132 til AI-forordningen (se afsnit 7). Hvis systemet kan interagere med børn, skal disse meddelelser være børnevenlige, alderssvarende, letforståelige og let tilgængelige for alle børn, herunder børn med handicap eller yderligere tilgængelighedsbehov. Hvor det er muligt og hensigtsmæssigt, anbefales udbyderne at anvende standardiseret oplysningspraksis og standardiserede mærkater for at sikre, at meddelelserne er effektive og konsekvente, og at brugernes bevidsthed øges. |
|
(35) |
Underretningens indhold: Artikel 50, stk. 1, i AI-forordningen kræver, at udbydere af interaktive AI-systemer udformer og udvikler dem på en sådan måde, at alle fysiske personer, der interagerer med sådanne AI-systemer, udtrykkeligt oplyses om den kunstige, ikkemenneskelige karakter af den interagerende modpart. Hvis udbyderen med rimelighed kan forudse, at AI-systemet kan interagere med fysiske personer, der tilhører ovennævnte sårbare grupper, bør oplysningerne tilpasses i overensstemmelse hermed og gives i et tilgængeligt format som krævet i henhold til gældende EU-ret for også at sikre disse fysiske personers fulde forståelse (20). |
|
(36) |
Meddelelserne bør give oplysninger om interaktionens kunstige oprindelse på måder, der er passende i forhold til den sammenhæng, hvori interaktionen finder sted. Dette bør ske på en måde, der sikrer, at de berørte personer oplyses korrekt og effektivt, så enhver risiko for vildledning eller manipulation undgås før og gennem hele interaktionen, samtidig med at det sikres, at oplysningstiltagene er gennemførlige og forholdsmæssige. Eksempler på levering af oplysningerne omfatter skriftlige meddelelser (f.eks. en chatbot, der indleder en samtale med at nævne, at den er baseret på AI-teknologi), visuelle midler (f.eks. en e-mail genereret af en AI-agent og sendt til en fysisk person, som har en AI-mærkat øverst), auditive midler (f.eks. en stemmeassistent, der ved begyndelsen af en session siger, at den drives af AI), oplysning om AI-identifikatorer og legitimationsoplysninger (f.eks. AI-agenter, der oplyser om deres AI-identitet i det omfang, det er muligt, på en verificerbar måde) (21). |
|
(37) |
Underretningens format: Det anbefales som bedste praksis at udforme AI-systemet med multimodale og tilgængelige oplysningsmetoder. Sådanne underretninger kan kombinere forskellige teknikker for at styrke brugernes forståelse, hvor det er hensigtsmæssigt, og afhængigt af sammenhængen og de tilsigtede og forudsigelige målgrupper samt udbydernes disponible ressourcer, navnlig små og mellemstore virksomheder (SMV’er). Eksempler på passende teknikker kan omfatte:
|
|
(38) |
Visse teknikker er ikke nødvendige, og når de anvendes alene, er de utilstrækkelige til effektivt at opfylde gennemsigtighedsforpligtelsen i artikel 50, stk. 1 og 5, i AI-forordningen, navnlig:
|
|
(39) |
Oplysninger bør være forholdsmæssige og afstemt efter AI-systemets forskellige sammenhænge og målgrupper for at forblive effektive og brugervenlige og i videst muligt omfang undgå forstyrrelser af brugeroplevelsen eller tilvænningseffekter (såkaldt »bannerblindhed«). |
|
(40) |
En enkelt fremtrædende meddelelse før AI-systemets første interaktion med en bestemt fysisk person vil sandsynligvis i de fleste tilfælde være tilstrækkelig til at opfylde forpligtelsen i artikel 50, stk. 1, i AI-forordningen. I visse mere risikofyldte sammenhænge vil periodiske påmindelser og kontekstafhængige oplysninger dog sandsynligvis være nødvendige for at sikre fortsat brugerbevidsthed. Dette er navnlig tilfældet i forbindelse med AI-systemer, der interagerer med sårbare personer (f.eks. børn, ældre, personer med handicap og personer med lavere læsefærdigheder), vedvarende interaktioner og interaktioner, der udvikler sig, i følsomme eller immersive sammenhænge (f.eks. hvor brugerne kan give udtryk for eller opleve følelsesmæssig belastning eller sårbarhed eller være i risiko for afhængighedslignende adfærd), hvor der er en øget risiko for, at brugerne vildledes (f.eks. finansiel rådgivning, forsikring, juridisk bistand, sundhedsrådgivning og klagebehandling), eller for, at de udvikler følelsesmæssige tilknytninger eller afhængighedsforhold (f.eks. AI-ledsagere), samt når der er behov for at sikre bevidsthed om og kontrol over AI-agenters handlinger. Udbydere skal også udforme og udvikle AI-systemet med henblik på at sikre oplysning i alle situationer, hvor AI-systemet stilles spørgsmål om dets karakter eller om interaktionens oprindelse, eller hvor det på grundlag af udvekslingerne med den fysiske person med rimelighed kan antages, at denne person sandsynligvis vil blive vildledt eller forvirret med hensyn til interaktionens AI-oprindelse. |
3.2. Undtagelser fra oplysningspligten i artikel 50, stk. 1, i AI-forordningen
|
(41) |
I artikel 50, stk. 1, i AI-forordningen fastsættes to undtagelser fra oplysningspligten vedrørende interaktive AI-systemer, som behandles nedenfor. |
3.2.1. Undtagelse for åbenbar interaktion med et AI-system
|
(42) |
For at kunne påberåbe sig den første undtagelse skal udbyderne vurdere og påvise: i) at interaktionens kunstige karakter er åbenbar for ii) en fysisk person, der skal være rimeligt velunderrettet, opmærksom og forsigtig, under hensyntagen til omstændighederne og anvendelsessammenhængen. |
|
(43) |
Denne målestok bygger på den etablerede EU-forbrugerbeskyttelsesret vedrørende begrebet »gennemsnitsforbruger« og bør fortolkes konsekvent, samtidig med at der tages hensyn til de specifikke og forskelligartede sammenhænge for og anvendelser af AI-systemer, der interagerer direkte med fysiske personer, og de mål, der forfølges med artikel 50, stk. 1, i AI-forordningen. |
|
(44) |
Fastlæggelsen af en sådan »gennemsnitlig« fysisk person omfatter to trin. For det første bør udbyderne tage hensyn til den målgruppe, som AI-systemet er beregnet til at interagere med, og som det med rimelighed kan forventes at interagere med. For det andet bør udbyderen undersøge, i hvilken grad et gennemsnitligt medlem af denne målgruppe er rimeligt velunderrettet, opmærksomt og forsigtigt, under hensyntagen til omstændighederne og anvendelsessammenhængen. Der bør tages hensyn til flere faktorer ved denne vurdering:
|
|
(45) |
Åbenbarhed: Efter at have fastlagt den hypotetiske rimeligt velunderrettede, opmærksomme og forsigtige fysiske person bør udbyderne vurdere, om det vil være åbenbart for en sådan person, at vedkommende interagerer direkte med et AI-system. Undtagelsen bør fortolkes indskrænkende, da den fratager fysiske personer beskyttelsen og retten til at blive informeret gennem klare og synlige oplysninger om, at de interagerer med AI-systemer. Forbrugeres og andre fysiske personers generelle bevidsthed om, at der findes AI-systemer (herunder chatbots og agenter), indebærer ikke, at de genkender dem i interaktioner. Flere faktorer kan være relevante og tages i betragtning som led i vurderingen af, om interaktionen er åbenbar:
|
3.2.2. Undtagelse for AI-systemer, der ved lov er tilladt til retshåndhævelsesformål
|
(46) |
Udbydere af interaktive AI-systemer er fritaget fra gennemsigtighedsforpligtelsen i artikel 50, stk. 1, i AI-forordningen, hvis de ved lov er godkendt til at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, forudsat at der findes passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder. |
|
(47) |
»Ved lov er godkendt« skal forstås som omfattende EU-retten samt medlemsstaternes nationale ret, der er vedtaget i overensstemmelse med EU-retten. Den lov, der tillader anvendelsen af AI-systemet, skal klart angive formålene med og omstændighederne for den godkendte anvendelse og fastsætte passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder. I betragtning af AI-forordningens teknologineutrale tilgang er det ikke nødvendigt ved lov at identificere eller tillade bestemte AI-systemer, hvis anvendelsen af AI-systemet generelt er forudsat inden for rammerne af den lovligt godkendte aktivitet og er i overensstemmelse med den gældende retlige ramme. |
|
(48) |
For at være omfattet af denne undtagelse skal formålet med AI-systemet være at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger (f.eks. AI-undercoveragent, AI-systemer, der anvendes under efterforskeres menneskelige kontrol til onlineefterforskning eller kommunikation med personer, der kan være involveret i kriminelle aktiviteter). Undtagelsen er ikke begrænset til, at sådanne AI-systemer kun anvendes af retshåndhævende myndigheder som defineret i artikel 3, nr. 48), i AI-forordningen, men kan også omfatte interaktive (eller generative) AI-systemer, der anvendes af andre EU-myndigheder eller nationale offentlige myndigheder, så længe anvendelsen heraf ved lov er godkendt med henblik på at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, og forudsat at der findes passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder. Undtagelsen kræver ikke, at AI-systemet er i stand til at foretage efterforskningerne selvstændigt. Hvis det pågældende system både kan anvendes til retshåndhævelsesformål og til andre almindelige formål, bør undtagelsens anvendelse vurderes i lyset af det konkrete anvendelsesformål. Gennemsigtighedsforpligtelserne finder fortsat anvendelse, hvis det samme AI-system anvendes til andre formål end den lovligt godkendte afsløring, forebyggelse, efterforskning eller retsforfølgning af strafbare handlinger. Der skal fortsat sikres gennemsigtighed over for fysiske personer, når de interagerer med systemet i forbindelse med dets almindelige formål. |
|
(49) |
Undtagelsen finder ikke anvendelse, hvis i) AI-systemet er tilgængeligt for offentligheden, og ii) systemet tilbyder en funktionalitet, der gør det muligt for borgerne at anmelde strafbare handlinger. Sådanne systemer kan anvendes, men de er fortsat omfattet af gennemsigtighedsforpligtelsen i henhold til artikel 50, stk. 1, i AI-forordningen, således at fysiske personer skal informeres om, at de interagerer med sådanne systemer.
Af klarhedshensyn vedrører denne undtagelse udelukkende forpligtelsen i henhold til artikel 50, stk. 1, til at informere fysiske personer om, at de interagerer med et AI-system (22). Den berører ikke gældende EU-ret og national ret, herunder processuelle regler om dokumentation, fremlæggelse, antagelse og vurdering af beviser.
|
3.3. Samspil med andre EU-retsakter
|
(50) |
Gennemsigtighedsforpligtelsen i artikel 50, stk. 1, i AI-forordningen finder anvendelse med forbehold af eksisterende EU-lovgivning om forbrugerbeskyttelse, databeskyttelse, digitale tjenester eller ikkeforskelsbehandling, som kan kræve, at der gives andre oplysninger, der ikke specifikt vedrører interaktionens AI-oprindelse. Navnlig er vildledende handlinger eller udeladelser vedrørende et produkts eller en tjenesteydelses væsentligste egenskaber forbudt i henhold til direktiv 2005/29/EF (»direktivet om urimelig handelspraksis«) (23). Desuden kræves det i direktiv 2011/83/EU (»direktivet om forbrugerrettigheder«) (24), at erhvervsdrivende giver klare og forståelige oplysninger forud for aftaleindgåelsen om varernes eller tjenesteydelsernes vigtigste egenskaber. Hvis en tjenesteydelse er AI-drevet (såsom en abonnementsbaseret chatbot, en AI-ledsagerapplikation eller en virtuel coachingtjeneste), kan AI-funktionaliteten udgøre en væsentlig egenskab, som der skal oplyses om, inden forbrugeren bindes af en aftale. Oplysningsforpligtelserne i henhold til EU’s forbrugerbeskyttelseslovgivning finder anvendelse, uanset om interaktionen anses for at være »åbenlys« i henhold til artikel 50, stk. 1, i AI-forordningen. Disse forpligtelser er desuden komplementære som generelle oplysningsforpligtelser på forbrugerbeskyttelsesområdet, mens underretningsforpligtelsen i henhold til AI-forordningen er mere kontekstbestemt og har til formål at sikre, at alle fysiske personer løbende er bevidste om en direkte interaktion med et AI-system, i det mindste inden den påbegyndes og under hele interaktionen. |
|
(51) |
Forordningen om digitale tjenester indeholder også gennemsigtighedskrav for onlineplatformes anbefalingssystemer, herunder et krav om at forklare de vigtigste rangordningsparametre. Disse forpligtelser supplerer gennemsigtighedsforpligtelserne i artikel 50, stk. 1, i AI-forordningen, eftersom de har et andet anvendelsesområde og formål og vedrører systemer, der i princippet ikke interagerer direkte med brugere som omhandlet i artikel 50, stk. 1, i AI-forordningen. |
|
(52) |
For så vidt angår oplysningspligten over for registrerede i henhold til Unionens databeskyttelseslovgivning opfylder forpligtelsen i artikel 50, stk. 1, i AI-forordningen et andet formål end disse forpligtelser og berører som sådan ikke denne oplysningspligt. |
|
(53) |
Tilsvarende berører gennemsigtighedsforpligtelsen i artikel 50, stk. 1, i AI-forordningen ikke EU-retten og national ret om meddelelse af oplysninger til personer i forbindelse med straffesager (f.eks. direktiv 2012/13/EU eller direktiv 2012/29/EU, som ændret ved direktiv (EU) 2026/1472) (25). |
4. AI-FORORDNINGENS ARTIKEL 50, STK. 2: MÆRKNING OG PÅVISNING AF AI-GENERERET ELLER MANIPULERET INDHOLD
|
(54) |
AI-forordningens artikel 50, stk. 2, kræver, at udbydere af AI-systemer, der genererer syntetisk indhold, gennemfører tekniske løsninger, som opfylder visse kvalitetskrav til maskinlæsbar mærkning og påvisning af deres AI-systemers output. Formålet er at gøre det muligt for fysiske personer at skelne AI-genereret eller manipuleret indhold fra andet indhold (f.eks. indhold skabt af mennesker) og at verificere dets oprindelse og dermed også at bidrage til øget integritet og tillid i informationsøkosystemet. |
|
(55) |
Denne gennemsigtighedsforpligtelse er derfor til fordel for alle fysiske personer, der sandsynligvis vil blive eksponeret for det AI-genererede eller manipulerede indhold, samt nøgleaktører, der spiller en vigtig rolle for tilliden til og integriteten af informationsøkosystemet, såsom kompetente markedsovervågningsmyndigheder og andre kompetente myndigheder, uafhængige forskere, civilsamfundsorganisationer, medier, pålidelige indberettere, forsvarere af grundlæggende rettigheder, udbydere af onlineplatforme og onlinesøgemaskiner, rettighedshavere og andre indholdsskabere og -distributører osv. |
4.1. Hovedelementer og begreber i AI-forordningens artikel 50, stk. 2
|
(56) |
AI-forordningens artikel 50, stk. 2, finder anvendelse, hvis flere kumulative betingelser er opfyldt:
|
4.1.1. AI-systemer, der genererer eller manipulerer syntetisk indhold
|
(57) |
AI-forordningens artikel 50, stk. 2, finder anvendelse på AI-systemer (26), herunder AI-systemer til almen brug, der genererer syntetisk lyd-, billed-, video- eller tekstindhold. AI-forordningens artikel 50, stk. 2, omfatter en undergruppe af systemer, der opfylder definitionen af et AI-system i AI-forordningens artikel 3, nr. 1), og som genererer sådanne output. AI-forordningens artikel 50, stk. 2, omfatter også AI-systemer, der anvendes til at manipulere indhold. |
|
(58) |
Indholdsgenerering henviser til AI-systemets generering af syntetisk materiale (f.eks. på grundlag af en menneskelig prompt), såsom generering af et syntetisk billede eller en sang. I praksis betyder dette, at AI-forordningens artikel 50, stk. 2, kan finde anvendelse på generative AI-systemer, der er udformet med et snævert tilsigtet formål om at producere specifikke output. Samtidig finder AI-forordningens artikel 50, stk. 2, også anvendelse på AI-systemer, der kan anvendes til flere formål, herunder AI-systemer til almen brug, og kan producere en række forskellige typer indhold, samt agentiske AI-systemer, så længe de genererer syntetisk lyd-, billed-, video- eller tekstindhold. |
|
(59) |
I modsætning hertil henviser indholdsmanipulation til allerede eksisterende indhold (uanset om det er syntetisk eller ej), som ændres af et AI-system (f.eks. et eksisterende billede eller en stemmeoptagelse, der manipuleres af et AI-system i overensstemmelse med menneskelige instrukser). For at indhold kan falde ind under AI-forordningens artikel 50, stk. 2, er det tilstrækkeligt, at det er AI-genereret eller manipuleret ud over standardredigering som omhandlet i undtagelserne i AI-forordningens artikel 50, stk. 2 (se afsnit 4.3). Derudover kræver AI-forordningens artikel 50, stk. 2, ikke, at indholdet udelukkende er AI-genereret eller manipuleret. Indhold, der er blandet med menneskeskabt materiale, kvalificeres også som syntetisk indhold, hvis det er manipuleret eller genereret med en af de metoder, der er omhandlet i AI-forordningens artikel 50, stk. 2. |
4.1.2. Metoder til syntetisk indholdsgenerering, der er omfattet
|
(60) |
AI-forordningens artikel 50, stk. 2, indeholder en udtømmende liste over metoder til generering af det syntetiske indhold, der er omfattet af gennemsigtighedsforpligtelsen: lyd, billeder, video eller tekst. Dette omfatter også multimodalt indhold, dvs. indhold, der er genereret ved hjælp af en blanding af disse metoder. Med henblik på AI-forordningens artikel 50, stk. 2, skal de forskellige metoder fortolkes i overensstemmelse med den praktiske og teknologiske udvikling, der kan ændre sig over tid. Indtil videre bør de forstås således:
|
|
(61) |
AI-systemer, der genererer eller manipulerer 3D-billeder, 3D-videoer og 3D-lyd samt virtual, augmented eller mixed reality, falder ind under anvendelsesområdet for AI-forordningens artikel 50, stk. 2. »Virtual reality« omfatter AI-teknologier, der gør det muligt for brugere at opleve og interagere med et computergenereret miljø, der simulerer fysisk tilstedeværelse, og som muliggør brugerinteraktion i realtid med dette miljø. Da virtual og augmented reality består af en tidsbaseret sekvens af billeder, der eventuelt er synkroniseret med lyd, og som repræsenterer visuel ændring over tid, kan dette betragtes som »videoindhold«. Det relevante »output«, der skal mærkes, er den endelige form af det enkelte AI-genererede aktiv, med særlige undtagelser for kortvarige interaktive sessioner i realtid efter punkt 88 nedenfor. Digitale artefakter, der anvendes til at generere 3D-billeder, 3D-videoer og 3D-lydindhold, såsom en punktsky eller et 3D-mesh, skal ikke mærkes. |
|
(62) |
Digitale tvillinger, der leverer en virtuel kopi af personer, fysiske genstande eller systemer og integrerer flere datatyper, falder også ind under anvendelsesområdet for AI-forordningens artikel 50, stk. 2, hvis de er AI-genererede eller manipulerede og har form af lyd, billeder, video eller tekst, medmindre de falder ind under undtagelserne og kvalificeres som »industrielle anvendelser« eller »anvendelser mellem virksomheder« efter punkt 87 nedenfor eller som kortvarigt indhold i realtid efter punkt 88 nedenfor. |
|
(63) |
AI-forordningens artikel 50, stk. 2, kan også finde anvendelse på AI-agenter, hvis AI-agenten foretager en handling, hvis output er AI-genereret eller manipuleret indhold, der kan opfattes af fysiske personer i form af lyd, billeder, video eller tekst. Disse output skal derfor mærkes og kunne spores som beskrevet nedenfor. Derimod kvalificeres en AI-agents handling, der ikke omfatter AI-genereret eller manipuleret indhold (f.eks. mellemliggende behandlingstrin såsom ræsonnering og tankerække), eller en AI-genereret handling, der ikke er beregnet til at blive opfattet direkte af fysiske personer (f.eks. en webanmodning eller browserhandling), ikke som syntetisk indhold inden for anvendelsesområdet for AI-forordningens artikel 50, stk. 2, og skal ikke opfylde mærknings- og påvisningsforpligtelserne. |
4.1.3. Indhold, der ikke er omfattet af AI-forordningens artikel 50, stk. 2
|
(64) |
Indhold, der genereres af et AI-system baseret på simpel databehandling, og som ikke specifikt er AI-genereret eller manipuleret, f.eks. et renderet billede, falder uden for anvendelsesområdet for AI-forordningens artikel 50, stk. 2. |
|
(65) |
Endvidere er output fra et AI-system, der blot reproducerer eksisterende indhold eller muliggør præsentation eller arrangering af allerede eksisterende indhold, ikke omfattet af AI-forordningens artikel 50, stk. 2. Dette kan f.eks. være tilfældet for musikplaylister eller andre anbefalingssystemer, der kun udvælger eller rangerer eksisterende indhold på grundlag af brugerpræferencer eller -aktivitet uden at skabe noget nyt eller manipulere selve indholdet. Det samme gælder for AI-systemer, der anvendes i interne analyseprocesser, som udtrækker og strukturerer data, men ikke sammenfatter dem. |
|
(66) |
Det samme gælder for et AI-systems input og output, der udgør rene observationer og registreringer af data fra fysiske eller virtuelle miljøer, som ikke er AI-genereret eller manipuleret (f.eks. af robotter eller andre AI-understøttede sensorer), eller dataoverførsler foretaget af AI-systemer uden nogen ændring. Dette omfatter en række AI-systemers input og output, navnlig i industrielle miljøer, såsom produktionsdata for robotter, der observerer data, forbrug registreret af AI-understøttede intelligente målere, målinger af netfrekvens og spænding samt registrering af GPS-lokaliseringsdata fra køretøjer osv. |
|
(67) |
Endvidere er formålet med gennemsigtighedsforpligtelsen i AI-forordningens artikel 50, stk. 2, at gøre det muligt for mennesker at skelne AI-genereret eller manipuleret indhold, så risiciene for bedrag og manipulation håndteres, og integritet og tillid i informationsøkosystemet sikres. Derfor er bestemmelsen ikke rettet mod indhold, der ikke er forbundet med dette formål, og som ikke kan opfattes eller ikke er beregnet til at blive fortolket, verificeret eller handlet på af fysiske personer. |
|
(68) |
Navnlig bør følgende indhold anses for at falde uden for anvendelsesområdet for AI-forordningens artikel 50, stk. 2:
|
4.2. Mærknings- og påvisningsforpligtelsen i AI-forordningens artikel 50, stk. 2
|
(69) |
I artikel 50, stk. 2, i AI-forordningen fastsættes der for udbydere af generative AI-systemer, der er omfattet af denne bestemmelses anvendelsesområde, en gennemsigtighedsforpligtelse, som består af to særskilte, men uløseligt forbundne elementer. For det første skal udbydere sikre, at AI-systemets output mærkes i et maskinlæsbart format. For det andet skal de sikre, at outputtet kan spores som indhold, der er kunstigt genereret eller manipuleret. For hver anvendt mærkningsløsning bør udbyderne sikre, at der er tilsvarende midler til påvisning til rådighed (som beskrevet nedenfor), således at fysiske personer, der eksponeres for indholdet, og andre relevante aktører kan identificere og skelne AI-systemets kunstigt genererede indhold fra andet indhold. Ved en teknisk løsning forstås en kombination af teknikker til mærkning og midler til påvisning, som udbyderen har implementeret for at opfylde gennemsigtighedsforpligtelsen i artikel 50, stk. 2, i AI-forordningen. |
|
(70) |
Hvert af de to ovennævnte elementer skal være opfyldt for effektivt at nå målene med gennemsigtighedsforpligtelserne i artikel 50, stk. 2, i AI-forordningen. Opfyldelse af kun ét element (f.eks. maskinlæsbar mærkning af output uden tilgængelige midler til påvisning heraf) er ikke tilstrækkeligt til at overholde denne bestemmelse (27). |
4.2.1. Mærkningsforpligtelsen
|
(71) |
Mærkningsforpligtelsens anvendelsesområde er begrænset til at implementere mærker i et maskinlæsbart format. Et maskinlæsbart format betyder, at mærker er opbygget på en sådan måde, at softwareapplikationer nemt kan identificere, genkende og udtrække dem uden menneskelig indgriben. Synlige mærker og etiketter udelukkes ikke som et supplerende tiltag, hvor det er relevant, med henblik på at gøre det lettere for udbydere at overholde deres forpligtelse til at mærke deepfakes i henhold til artikel 50, stk. 4, i AI-forordningen. |
|
(72) |
For at overholde mærkningsforpligtelsen kan udbydere basere sig på en enkelt mærkningsteknik eller en kombination af teknikker, forudsat at deres samlede tekniske løsning er maskinlæsbar og opfylder kravene om effektivitet, interoperabilitet, robusthed og pålidelighed i det lovmæssigt krævede omfang, jf. artikel 50, stk. 2, andet punktum, i AI-forordningen (se afsnit 4.2.3. nedenfor). |
|
(73) |
I betragtning 133 til AI-forordningen nævnes som eksempler på sådanne teknikker vandmærker, metadataidentifikationer, kryptografiske metoder til påvisning af indholdets oprindelse og ægthed, registreringsmetoder, fingeraftryk eller andre teknikker samt en kombination af sådanne teknikker. Selv om metoder til at bevise oprindelse og ægthed er nævnt i betragtning 133 til AI-forordningen, er udbydere ikke forpligtet til at registrere eller opbevare en fuldstændig oprindelseskæde, der indeholder oplysninger om indholdets oprindelse og ændringer eller andre relevante udsagn om indholdets historik. Sådanne oprindelsesmetoder kan dog også anvendes med henblik på overholdelse af artikel 50, stk. 2, i AI-forordningen og kan bidrage til at gøre det muligt for fysiske personer at skelne AI-genereret eller manipuleret indhold fra autentisk indhold. |
|
(74) |
Udbydere kan implementere mærkningsløsningen for outputtene på forskellige trin i værdikæden (f.eks. efterfølgende efter indholdsgenerering på AI-systemniveau, på niveauet for den underliggende AI-model eller integreret i AI-systemets inferensproces). De kan basere sig på den mærkningsløsning, der er implementeret af en udbyder af modeller i foregående led eller en tredjepart, som leverer løsningen (f.eks. som en åben standard eller en specialiseret tjeneste), i det omfang mærkningsløsningen er i overensstemmelse med artikel 50, stk. 2, i AI-forordningen. Det forhold, at udbyderen baserer sig herpå, berører ikke udbyderen af AI-systemets ansvar for at påvise overholdelse af artikel 50, stk. 2, i AI-forordningen. |
4.2.2. Påvisningsforpligtelsen
|
(75) |
Udbydere af AI-systemer, der er omfattet af anvendelsesområdet for artikel 50, stk. 2, i AI-forordningen, skal sikre, at outputtet fra deres systemer kan spores som AI-genereret eller manipuleret indhold. Dette betyder, at udbyderen er forpligtet til at sikre, at midlerne til påvisning er til rådighed for de personer, der potentielt eksponeres for indholdet. Endvidere bør sådanne påvisningsløsninger i henhold til artikel 50, stk. 5, i AI-forordningen kunne frembringe menneskeligt læsbare resultater, der angiver, om indholdet er blevet AI-genereret eller manipuleret. |
|
(76) |
Et påvisningsværktøj er en mekanisme, der påviser, om indhold er blevet AI-genereret eller manipuleret, typisk ved at identificere tekniske markører eller signaturer, der verificerer dets oprindelse. For at sikre fuld interoperabilitet skal udbydere basere sig på offentligt tilgængelige branchestandardløsninger til påvisning, der gør det muligt for enhver tredjepart at implementere påvisning, som ideelt set kan udføres lokalt på den digitale enhed, og som muliggør problemfri integration i selvstændige, isolerede netværk. Hvis sådanne standarder ikke er tilgængelige, navnlig i den indledende fase af gennemførelsen af artikel 50, stk. 2, i AI-forordningen for vandmærkningsteknologier, kan udbyderen basere sig på sin egen påvisningsløsning eller på en tredjeparts eller fælles påvisningsløsning, forudsat at disse løsninger sikrer interoperabilitet med de påvisningsløsninger, som andre udbydere anvender (se afsnit 4.2.3.). Denne mulighed bør være tidsbegrænset, indtil der fremkommer harmoniserede standarder og en standardiseret, udbyderuafhængig og interoperabel påvisningsløsning, der er sikker, beskytter privatlivets fred og kan udføres lokalt. |
|
(77) |
I artikel 50, stk. 5, i AI-forordningen præciseres det endvidere, at de oplysninger, der er omhandlet i artikel 50, stk. 2, i AI-forordningen, bør gives til de fysiske personer, der eksponeres for indholdet, på en klar og synlig måde senest på tidspunktet for den første interaktion eller eksponering. Disse oplysninger er navnlig resultatet af påvisningen, som angiver, om indhold er AI-genereret eller manipuleret, og ikke selve det AI-genererede eller manipulerede indhold. »På tidspunktet for den første eksponering« bør forstås som det tidspunkt, hvor fysiske personer ønsker at verificere oprindelsen af specifikt indhold og få adgang til påvisningsløsningen for at se påvisningsresultaterne. |
|
(78) |
Hvis udbyderen af AI-systemet anvender en anden aktør til levering af eller adgang til en påvisningsløsning, skal udbyderen sikre, at påvisningsløsningen er i overensstemmelse med artikel 50, stk. 2 og 5, i AI-forordningen, og at de pågældende aktører viser påvisningsresultaterne i overensstemmelse med artikel 50, stk. 5, i AI-forordningen (se afsnit 7). |
4.2.3. Overholdelse af kravene til tekniske løsninger: effektive, interoperable, robuste og pålidelige
|
(79) |
I artikel 50, stk. 2, andet punktum, i AI-forordningen fastsættes det, at de tekniske løsninger til mærkning og påvisning skal være effektive, interoperable, robuste og pålidelige. Disse krav bør forstås som følger:
|
|
(80) |
Udbydere skal sikre, at kombinationen af de tekniske løsninger til mærkning og påvisning samlet opfylder alle ovennævnte krav i det lovmæssigt krævede omfang under hensyntagen til begrænsningerne ved og komplementariteten mellem de forskellige anvendte løsninger. De tekniske løsninger skal opfylde alle krav, i det omfang dette er teknisk muligt, under hensyntagen til de særlige forhold og begrænsninger for forskellige typer indhold, gennemførelsesomkostningerne og det generelt anerkendte aktuelle tekniske niveau, som kan være afspejlet i relevante tekniske standarder. |
|
(81) |
Ved teknisk mulige løsninger som omhandlet i artikel 50, stk. 2, i AI-forordningen forstås løsninger, der kan implementeres for de metoder, der er omfattet af bestemmelsens anvendelsesområde, ved hjælp af aktuelt tilgængelig teknologi, metoder og teknisk praksis inden for den specifikke tekniske arkitektur og det driftsmiljø, som det drejer sig om. Udbyderen er ikke forpligtet til at gøre brug af en teknisk løsning, der endnu ikke er udviklet eller tilgængelig på markedet, eller som teknisk set ikke er gennemførlig at implementere. Teknisk gennemførlighed er et objektivt begreb, der ikke afhænger af de enkelte udbyderes specifikke ressourcer og kapaciteter. |
|
(82) |
Artikel 50, stk. 2, i AI-forordningen kræver, at udbydere implementerer teknisk mulige løsninger, der er i overensstemmelse med det generelt anerkendte aktuelle tekniske niveau, for at opfylde de fire kvalitetskrav om effektivitet, robusthed, pålidelighed og interoperabilitet. |
|
(83) |
Ved »det aktuelle tekniske niveau« forstås et udviklet stadium af teknisk kapacitet på et givet tidspunkt for så vidt angår produkter, processer og tjenester baseret på relevante konsoliderede resultater fra videnskab, teknologi og erfaring, og som er accepteret som god praksis inden for teknologi (28). Det aktuelle tekniske niveau indebærer ikke nødvendigvis den nyeste videnskabelige forskning, der stadig befinder sig på forsøgsstadiet eller har utilstrækkelig teknologisk modenhed. Udbydere skal løbende tilpasse deres mærknings- og påvisningsløsninger på en rettidig og forholdsmæssig måde, efterhånden som teknologien og det aktuelle tekniske niveau udvikler sig. |
|
(84) |
I lyset af artikel 50, stk. 7, i AI-forordningen kan udbydere basere sig på en praksiskodeks, der er vurderet som tilstrækkelig i henhold til denne bestemmelse, til at påvise overholdelse af mærknings- og påvisningsforpligtelserne i artikel 50, stk. 2 og 5, i AI-forordningen, og som er i overensstemmelse med det aktuelle tekniske niveau. Yderligere oplysninger om virkningerne af at overholde en sådan kodeks og tilsynet med andre udbydere, der ikke overholder en kodeks, findes i afsnit 8.1 nedenfor. |
|
(85) |
Der kan også tages hensyn til omkostningerne ved implementering af visse tekniske løsninger til mærkning og påvisning. I visse tilfælde som beskrevet i de følgende punkter kan omkostningerne stå i et uforholdsmæssigt forhold til de marginale gevinster, der har en mere begrænset værdi, når det gælder om at sætte mennesker i stand til at skelne mellem AI-genereret eller manipuleret indhold samt at sikre integriteten og tilliden til informationsøkosystemet. |
|
(86) |
Der kan derfor være snævert afgrænsede tilfælde, hvor en teknisk løsning baseret på mindre robuste metadatamærkninger er tilstrækkelig med henblik på at overholde artikel 50, stk. 2, i AI-forordningen under hensyntagen til de særlige forhold ved AI-systemets output, hvis disse indebærer iboende lavere risici for vildledning, manipulation eller negative virkninger for informationsøkosystemet. Dette er navnlig tilfældet, når et generativt AI-system er indlejret i fysiske produkter, der genererer output i et teknisk kontrolleret og lukket miljø, som hovedsagelig er af instruktiv karakter (f.eks. et AI-system, der er indlejret i navigationssystemer i køretøjer), i det omfang effektive tekniske foranstaltninger er indlejret i produktet for at forhindre, at outputtet forlader produktmiljøet, f.eks. ved at blive indsamlet eller eksporteret og formidlet eksternt. |
|
(87) |
Der kan også være begrænsede tilfælde af »industrielle AI-anvendelser« eller »anvendelser mellem virksomheder« (undtagen offentligt tilgængelige og forbrugerrettede AI-systemer), hvor proportionalitetsprincippet og de begrænsede fordele for gennemsigtighedsmålene betyder, at mærkning og påvisning af AI-genererede eller manipulerede output ikke er påkrævet. Dette gælder kun, hvis følgende krav er opfyldt kumulativt:
|
|
(88) |
Indholdsgenerering i realtid, som er kortvarigt og forbruges straks uden at blive registreret, lagret eller videreformidlet (f.eks. i videospil eller virtual reality-applikationer), kan også være undtaget, når mærkning ikke er teknisk mulig, og de personer, der eksponeres for indholdet, gøres bekendt med, at indholdet er AI-genereret eller manipuleret (f.eks. oplysning i selve oplevelsen og meddelelser på sessionsniveau). |
4.3. Undtagelser fra forpligtelserne i AI-forordningens artikel 50, stk. 2
|
(89) |
I artikel 50, stk. 2, i AI-forordningen fastsættes tre udtrykkelige undtagelser fra gennemsigtighedsforpligtelserne i denne bestemmelse |
|
(90) |
Den første undtagelse vedrører AI-systemer, i det omfang de udfører en hjælpefunktion med henblik på standardredigering. Standardredigering bør forstås som processen med at forberede eksisterende indhold til offentliggørelse eller distribution (f.eks. mindre redigering for at forbedre læsbarhed, grammatik, kvalitet og format) og omfatter ikke generering af nyt indhold. Standardredigering har bl.a. til formål at sikre, at indhold er frit for åbenlyse tekniske eller grammatiske og sproglige fejl, er tilpasset gældende krav til layout, præsentation, formatering eller tilgængelighed eller er i overensstemmelse med praksis i sektoren. Redigering går ud over standardredigering, hvis indholdet ændres i væsentlig grad (indholdsmæssige ændringer, strukturelle ændringer osv.), og disse ændringer påvirker dets betydning, stil eller hensigt. |
|
(91) |
Den anden undtagelse finder anvendelse, hvis AI-systemet ikke i væsentlig grad ændrer de inputdata, der leveres af idriftsætteren, eller semantikken heraf. En ændring bør anses for væsentlig, hvis inputdataene eller deres semantik er blevet manipuleret betydeligt af AI-systemet under dets outputgenereringsproces. Dette skal baseres på en vurdering af relevante faktorer såsom format, medieindholdstype, stil og ændringer i indholdet, der påvirker dets betydning, stil eller hensigt. Dette kræver en konkret vurdering. |
|
(92) |
Hvis et AI-system kan anvendes både til indholdsgenerering eller -manipulation og til mindre, ikkevæsentlige ændringer af inputdata, finder gennemsigtighedsforpligtelsen i artikel 50, stk. 2, i AI-forordningen ikke anvendelse på det indhold, der er ændret på en mindre, ikkevæsentlig måde.
|
|
(93) |
Den tredje undtagelse finder anvendelse på generative AI-systemer, der ved lov er bemyndiget til at generere eller manipulere syntetisk indhold med henblik på at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger. De præciseringer, der er givet i punkt 46-48 ovenfor vedrørende denne undtagelse, er også relevante i dette tilfælde. |
4.4. Samspil med andre EU-retsakter
|
(94) |
Forpligtelserne til mærkning og påvisning i artikel 50, stk. 2, i AI-forordningen fokuserer på, hvordan indholdet er blevet skabt, og på dets kunstige oprindelse, og ikke på, hvem der har skabt indholdet. Alle mærknings- og påvisningsløsninger, som anvendes af udbydere af AI-systemer, skal derfor overholde gældende EU-databeskyttelsesret, herunder databeskyttelsesprincipper og -forpligtelser såsom forpligtelsen til databeskyttelse gennem design og databeskyttelse gennem standardindstillinger, dataminimering samt principperne om sikkerhed og fortrolighed. F.eks. bør oplysninger om skaberen af indholdet ikke behandles med henblik på mærkning og påvisning, og alle andre personoplysninger, der behandles, bør slettes, så snart formålet med påvisningen er opfyldt, ligesom sikkerhed og fortrolighed skal sikres osv. |
|
(95) |
I betragtning 136 til AI-forordningen fremhæves endvidere den særlige relevans, som gennemsigtighedsforpligtelserne i artikel 50, stk. 1, 2 og 4, i AI-forordningen har for at lette en effektiv gennemførelse af forordningen om digitale tjenester. Dette gælder navnlig for forpligtelserne for udbydere af meget store onlineplatforme eller meget store onlinesøgemaskiner til omhyggeligt at identificere, analysere og vurdere systemiske risici, der kan opstå som følge af formidlingen af indhold, der er blevet kunstigt genereret eller manipuleret, navnlig risikoen for de faktiske eller forventede negative virkninger for demokratiske processer, samfundsdebatten og valgprocesser, herunder gennem desinformation (artikel 34 og 35 i forordningen om digitale tjenester). Maskinlæsbare mærker kan gøre det muligt for disse udbydere at opdage indhold, der er AI-genereret eller manipuleret, og at sørge for passende mærkning og oplysninger, hvorved risikoen for AI-genereret desinformation på tværs af deres tjenester mindskes. |
|
(96) |
Forpligtelserne til mærkning af indhold, der er genereret eller manipuleret af AI-systemer, i henhold til artikel 50, stk. 2 og 4, i AI-forordningen berører ikke forpligtelsen i artikel 16, stk. 6, i forordningen om digitale tjenester for udbydere af hostingtjenester til at behandle anmeldelser om ulovligt indhold, der er modtaget i henhold til artikel 16, stk. 1, i forordningen om digitale tjenester (29). Navnlig bør mærkning af AI-genereret eller manipuleret indhold ikke påvirke vurderingen og afgørelsen af, om det specifikke indhold er ulovligt i henhold til andre reguleringsmæssige rammer. Denne vurdering bør udelukkende foretages under henvisning til reglerne om lovligheden af indholdet i overensstemmelse med disse rammer (30). Hvis et mærket deepfakebillede f.eks. markeres som potentielt materiale, der viser seksuelt misbrug af børn, eller som et billede, der potentielt krænker varemærke- eller ophavsretslovgivningen, påvirker påføringen af en mærkning ikke indholdets potentielle ulovlighed i henhold til disse reguleringsmæssige rammer. Denne vurdering bør udelukkende foretages på grundlag af de respektive gældende regler (f.eks. straffe-, varemærke- eller ophavsretslovgivningen). |
|
(97) |
Omvendt kan den maskinlæsbare mærkning, der er indlejret i indholdet i henhold til artikel 50, stk. 2, i AI-forordningen, hjælpe udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner med at opfylde deres forpligtelser i henhold til artikel 34 og 35 i forordningen om digitale tjenester til at identificere og afbøde systemiske risici, der kan opstå som følge af formidlingen af indhold, der er blevet kunstigt genereret eller manipuleret, navnlig risikoen for de faktiske eller forventede negative virkninger for demokratiske processer, samfundsdebatten og valgprocesser, herunder gennem desinformation (31), og til at etablere rimelige, effektive og proportionale foranstaltninger til at afbøde disse risici, som er tilpasset de konstaterede specifikke systemiske risici. Udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner kan også betragtes som udbydere af AI-systemer, hvis de opfylder de relevante betingelser i henhold til AI-forordningen, når de integrerer AI-systemer i deres tjenester (se også afsnit 6.1.5). |
|
(98) |
Udbydere af onlineplatforme, onlinesøgemaskiner og andre relevante aktører, der distribuerer indhold i værdikæden, opfordres navnlig til at bevare og muliggøre identifikation af de mærker, som udbydere har implementeret i henhold til artikel 50, stk. 2, i AI-forordningen, således at de fysiske personer, der eksponeres for indholdet, kan informeres om dets oprindelse. |
5. AI-FORORDNINGENS ARTIKEL 50, STK. 3: SYSTEMER TIL FØLELSESGENKENDELSE OG BIOMETRISKE KATEGORISERINGSSYSTEMER
|
(99) |
Ved artikel 50, stk. 3, i AI-forordningen pålægges idriftsættere af systemer til følelsesgenkendelse og biometriske kategoriseringssystemer en forpligtelse til at informere fysiske personer, der eksponeres for disse systemer, om systemets drift. |
|
(100) |
I betragtning 132 til AI-forordningen forklares det, at formålet med denne forpligtelse er at sikre, at fysiske personer (herunder personer med handicap) er bekendt med, at de eksponeres for systemer til følelsesgenkendelse og biometriske kategoriseringssystemer, som kan være indgribende for deres privatliv. Forpligtelsen finder derfor anvendelse, uanset om personerne eksponeres for sådanne systemer i realtid, eller om disse systemer anvendes efterfølgende. |
5.1. Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser i AI-forordningens artikel 50, stk. 3
5.1.1. Begrebet system til følelsesgenkendelse
|
(101) |
I artikel 3, nr. 39), i AI-forordningen defineres et »system til følelsesgenkendelse« som »et AI-system, der har til formål at genkende eller udlede fysiske personers følelser eller hensigter på grundlag af deres biometriske data«. Den nærmere redegørelse for dette begreb i Kommissionens retningslinjer for klassificering af højrisiko-AI-systemer, herunder de praktiske eksempler deri, er ligeledes relevant i forbindelse med artikel 50, stk. 3, i AI-forordningen. |
|
(102) |
Da alle følelsesgenkendelsessystemer også klassificeres som højrisiko-AI-systemer, medmindre de er forbudt i henhold til artikel 5, stk. 1, litra f), i AI-forordningen på arbejdspladser og uddannelsessteder, bør gennemsigtighedsforpligtelsen i artikel 50, stk. 3, i AI-forordningen finde anvendelse sammen med de øvrige sikkerhedsforanstaltninger og krav, der gælder for højrisiko-AI-systemer. |
5.1.2. Begrebet system til biometrisk kategorisering
|
(103) |
I artikel 3, nr. 40), i AI-forordningen defineres et »system til biometrisk kategorisering« som »et AI-system, der har til formål at placere fysiske personer i bestemte kategorier på grundlag af deres biometriske data, medmindre de understøtter en anden kommerciel tjeneste og er strengt nødvendige af objektive tekniske årsager«. Den nærmere redegørelse for dette begreb i Kommissionens retningslinjer for klassificering af højrisiko-AI-systemer, herunder de konkrete elementer samt praktiske eksempler deri, er ligeledes relevant i forbindelse med artikel 50, stk. 3, i AI-forordningen. |
|
(104) |
Det er vigtigt at bemærke, at artikel 50, stk. 3, i AI-forordningen finder anvendelse på alle systemer til biometrisk kategorisering (f.eks. alders- eller kønsklassificering på grundlag af biometriske data), uanset om de falder ind under anvendelsesområdet for højrisiko-AI-systemer i henhold til AI-forordningen, medmindre de er forbudt i henhold til artikel 5, stk. 1, litra g). |
5.1.3. Oplysningspligten i AI-forordningens artikel 50, stk. 3
|
(105) |
Omfanget af de oplysninger, der skal gives: Idriftsættere skal informere de berørte fysiske personer om, at de eksponeres for et system til følelsesgenkendelse eller for et biometrisk kategoriseringssystem, som er i drift. AI-forordningen kræver ikke, at der medtages oplysninger om årsagerne til systemets drift, eller om, hvorvidt systemet også behandler oplysninger til andre formål end følelsesgenkendelse eller biometrisk kategorisering, som der skal gives oplysning om i henhold til EU-databeskyttelsesretten (se afsnit 5.3.). |
|
(106) |
Adressaterne for oplysningerne: I henhold til artikel 50, stk. 3, i AI-forordningen skal idriftsættere informere alle fysiske personer, der udsættes for AI-systemet, herunder børn. |
|
(107) |
Midlerne til at give oplysninger: AI-forordningen foreskriver ikke en bestemt måde at give oplysningerne på, bortset fra at artikel 50, stk. 5, i AI-forordningen kræver, at oplysningerne gives på en klar og synlig måde og i overensstemmelse med de gældende tilgængelighedskrav (som imødekommer behovene hos fysiske personer med handicap). Hvordan fysiske personer, der udsættes for systemet, skal informeres, kan afhænge af idriftsættelsesstedet (f.eks. virtuel spilplatform, fysisk butik, togstation), de mulige adressater (f.eks. børn, ældre, personer med handicap, kunder), eksponeringens varighed og type (f.eks. langvarig, enkeltstående, kontinuerlig, periodisk), og om der eventuelt består en relation mellem idriftsætteren og de pågældende personer (f.eks. hvis der findes en eksisterende kommunikationskanal med den enkelte). Afhængigt af situationen kan oplysningerne gives skriftligt, ved hjælp af standardiserede ikoner (også når de præsenteres elektronisk), mundtligt eller ved hjælp af kombinationer heraf.
|
|
(108) |
Tidsrammen for formidling af oplysningerne: Oplysningerne skal gives senest på tidspunktet for den første interaktion med eller eksponering for AI-systemet i overensstemmelse med artikel 50, stk. 5, i AI-forordningen. Hvor det er relevant, er det ikke udelukket at give de krævede oplysninger på forhånd. |
5.2. Undtagelse for retshåndhævelse
|
(109) |
Oplysningspligten finder ikke anvendelse på følelsesgenkendelsessystemer og biometriske kategoriseringssystemer, der ifølge loven må anvendes til at afsløre, forebygge eller efterforske strafbare handlinger, med passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder og i overensstemmelse med EU-retten. Præciseringerne vedrørende denne undtagelse i punkt 46-48 ovenfor er også relevante i dette tilfælde med én forskel: Mens de øvrige undtagelser i artikel 50 i AI-forordningen kræver en udtrykkelig lov, der tillader en ikkegennemsigtig anvendelse af AI-systemerne, gør artikel 50, stk. 3, i AI-forordningen en sådan anvendelse mulig, når den er tilladt i henhold til de retsregler, der regulerer de retshåndhævende myndigheders beføjelser til at anvende systemer til følelsesgenkendelse og biometriske kategoriseringssystemer til at afsløre, forebygge eller efterforske strafbare handlinger uden at informere de berørte personer, med forbehold af passende sikkerhedsforanstaltninger. |
5.3. Samspil med andre EU-retsakter
|
(110) |
Oplysningspligten i artikel 50, stk. 3, i AI-forordningen gør ikke i sig selv anvendelsen af et system til følelsesgenkendelse og biometrisk kategorisering lovlig. Den legitimerer heller ikke indgribende eller diskriminerende anvendelser, som kan være ulovlige og forbudte i henhold til artikel 5 i AI-forordningen eller anden EU-ret. Idriftsættere skal overholde oplysningspligten i artikel 50, stk. 3, i AI-forordningen i tillæg til eventuelle gældende oplysningskrav i henhold til EU-databeskyttelsesretten. I visse tilfælde kan idriftsættere overveje at tilføje underretninger i henhold til artikel 50, stk. 3, i AI-forordningen til de oplysninger, der gives til registrerede i henhold til EU-databeskyttelsesretten. |
6. ARTIKEL 50, STK. 4: MÆRKNING AF DEEPFAKES OG VISSE TEKSTPUBLIKATIONER
|
(111) |
I artikel 50, stk. 4, i AI-forordningen fastsættes der to særskilte forpligtelser rettet til idriftsættere af generative AI-systemer, som kræver klare og synlige oplysninger om i) deepfakes og ii) AI-genereret eller manipuleret tekst, der offentliggøres med det formål at informere offentligheden om spørgsmål af offentlig interesse, undtagen i nærmere bestemte tilfælde. Disse mærkningsforpligtelser gælder i tillæg til og uden at berøre forpligtelserne til maskinlæsbar mærkning og påvisning i henhold til artikel 50, stk. 2, i AI-forordningen, der finder anvendelse på udbydere af AI-systemer, som genererer eller manipulerer syntetisk billed-, video-, lyd- eller tekstindhold. |
6.1. Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser for deepfakes i AI-forordningens artikel 50, stk. 4
|
(112) |
AI-forordningens artikel 50, stk. 4, første afsnit, finder anvendelse, hvis flere betingelser er opfyldt:
|
6.1.1. Begrebet »deepfake«
|
(113) |
I artikel 3, nr. 60), i AI-forordningen defineres »deepfake« som »et ved hjælp af AI genereret eller manipuleret billed-, lyd- eller videoindhold, der i væsentlig grad ligner faktiske personer, genstande, steder, enheder eller begivenheder, og som fejlagtigt vil fremstå ægte eller sandfærdigt«. Forskellen mellem manipulation og generering er præciseret i afsnit 4.1 ovenfor. Med henblik på at præcisere begrebet deepfake behandles nedenfor fire kumulative kriterier fra denne definition: i) lighed med ii) faktiske iii) personer, genstande, steder, enheder eller begivenheder, og iv) at indholdet fejlagtigt vil fremstå som ægte eller sandfærdigt.
|
|
(114) |
Hvorvidt indhold »fejlagtigt vil fremstå som ægte eller sandfærdigt«, bør vurderes som en helhed under hensyntagen til graden af lighed, indholdets potentielle materielle budskab, de tilsigtede og forudsigelige anvendelsessammenhænge, det miljø, hvori indholdet præsenteres, og sammensætningen af de tilsigtede og rimeligt forudsigelige brugere samt deres forventninger. Denne vurdering er imidlertid objektiv, og det kræves ikke, at idriftsætteren har til hensigt at bedrage eller vildlede de fysiske personer, der eksponeres for indholdet, for at det kan udgøre en deepfake. For så vidt angår anvendelsessammenhængen og brugernes forventninger betyder dette, at hvis indholdet anvendes i specifikke anvendelsessammenhænge, hvor de tilsigtede og rimeligt forudsigelige brugere ikke forventer, at indholdet er ægte eller sandfærdigt, fremstår det AI-genererede eller manipulerede indhold muligvis ikke fejlagtigt som ægte eller sandfærdigt, selv om det faktisk er uægte eller usandfærdigt. I sådanne tilfælde vil det fjerde kriterium i definitionen af deepfake ikke være opfyldt. F.eks. vil AI-generering eller manipulation af baggrundsscener, specialeffekter eller teknisk for- og efterbehandling som led i standardprocesser for filmproduktion sandsynligvis ikke få indhold til fejlagtigt at fremstå som ægte eller sandfærdigt for brugerne. Omvendt vil anvendelse af AI til at generere eller manipulere væsentlige elementer, der påvirker brugernes opfattelse, sandsynligvis gøre det (såsom fuldt AI-genererede skuespillere, digitale replikaer af virkelige eller afdøde skuespillere, foryngelse, simulerede optrædener, herunder dele heraf, eller uægte eller usandfærdig fremstilling af personer, genstande, steder eller begivenheder i dokumentarer). For så vidt angår billed- og videoindhold anerkendes det, at en høj grad af fotorealisme gør det mere sandsynligt, at sådant indhold bør betragtes som en deepfake (da det sandsynligvis ligner eksisterende emner), men fotorealisme alene er ikke afgørende for vurderingen. Det, der fortsat bør vurderes, er, om sådant indhold er egnet til at bedrage eller vildlede en person med hensyn til indholdets ægthed eller sandfærdighed, idet der bl.a. tages hensyn til den tilsigtede og forudsigelige anvendelsessammenhæng. |
|
(115) |
I modsætning til artikel 50, stk. 1, i AI-forordningen bør vurderingen af, om noget fejlagtigt fremstår som ægte eller sandfærdigt for en person, ikke baseres på en hypotetisk »gennemsnitsperson«, der forventes at blive eksponeret for indholdet (se afsnit 3.2.1), men bør tage behørigt hensyn til den mulige forskelligartede sammensætning af de rimeligt forudsigelige brugere, der kan blive eksponeret for deepfakeindholdet. Behørig hensyntagen til brugernes sammensætning er særlig vigtig, hvis det er rimeligt forudsigeligt, at deepfakeindholdet på et tidspunkt kan blive opfattet af børn, ældre eller andre grupper af personer med lavere digitale færdigheder og AI-færdigheder eller et lavere generelt vidensniveau, da de lettere kan blive bedraget eller vildledt med hensyn til indholdets ægthed eller sandfærdighed. I sådanne tilfælde kan det være tilstrækkeligt til at kvalificere indhold som en deepfake, at indholdet fejlagtigt fremstår som ægte eller sandfærdigt for disse forudsigelige brugere. Idriftsættere forventes imidlertid ikke at tage hensyn til potentiel yderligere udbredelse af deepfakeindholdet foretaget af tredjeparter ud over de brugere, som idriftsætteren med rimelighed kan forudse, under hensyntagen til de tilsigtede distributionskanaler (f.eks. hvis deepfakeindhold udelukkende vises på en del af et websted, der kun er for abonnenter, eller som en del af en virksomheds nyhedsbrev, indebærer dette ikke, at idriftsætteren som udgangspunkt bør tage højde for bred offentlig tilgængelighed). |
|
(116) |
Tilsvarende kan AI-støttet manipulation af uvæsentlige indholdsmæssige eller tekniske aspekter af allerede eksisterende indhold have mindre relevans for en persons vurdering af indholdets ægthed eller sandfærdighed og ikke medføre, at det deraf følgende indhold bliver en deepfake. Dette kan f.eks. omfatte redigering af detaljer i baggrunden (f.eks. fjernelse af forbipasserende), lysjusteringer, tilpasning af lydparametre, farvekorrektion, støjreduktion eller støjfjernelse, forbedring af tilgængelighed eller filkomprimering, kosmetiske justeringer og forbedringer. Hvorvidt manipulationen falder ind under denne kategori, afhænger af konteksten og indvirkningen på personernes opfattelse af indholdets ægthed eller sandfærdighed i det konkrete tilfælde. For eksempel vil AI-drevet farvekorrektion, udvidelse af baggrunden i eksisterende indhold, justering eller udskiftning af baggrunde af rent æstetiske årsager, sammensætninger og opstillinger af eksisterende produkter eller skalering af billeder anvendt i produktreklamer eller på emballage sandsynligvis kun have en mindre indvirkning på en persons opfattelse af reklamens og produktets ægthed og sandfærdighed. Omvendt kan væsentlig AI-drevet redigering af detaljer i baggrunden i journalistiske billeder, der går videre end almindelig teknisk og redaktionel praksis, påvirke en persons opfattelse af indholdets ægthed og sandfærdighed negativt.
|
6.1.2. Oplysningspligt i artikel 50, stk. 4, første afsnit, i AI-forordningen
|
(117) |
Artikel 50, stk. 4, første afsnit, i AI-forordningen forpligter idriftsættere af AI-systemer, der genererer eller manipulerer billed-, lyd- eller videoindhold, som udgør en deepfake, til at »oplyse, at indholdet er blevet genereret kunstigt eller manipuleret«. I betragtning 134 til AI-forordningen præciseres det, at idriftsættere, der anvender AI-systemer til at generere eller manipulere deepfakeindhold, klart og synligt bør oplyse, at indholdet er kunstigt skabt eller manipuleret, ved at mærke AI-outputtet i overensstemmelse hermed og oplyse om dets kunstige oprindelse. Mærknings- eller oplysningsmetoder, der anvendes i overensstemmelse med artikel 50, stk. 4, første afsnit, i AI-forordningen, bør være forståelige og opfattelige for fysiske personer (f.eks. med synlige eller hørbare mærkninger), uden at de behøver at benytte specifikke tekniske værktøjer eller foretage særlige handlinger. Idriftsættere kan derfor ikke støtte sig på den maskinlæsbare mærkning, som udbyderen har indlejret i indholdet i henhold til artikel 50, stk. 2, i AI-forordningen, eftersom disse mærkninger ikke umiddelbart er klare og synlige for de fysiske personer, der eksponeres for deepfakeindholdet. |
|
(118) |
I lyset af artikel 50, stk. 7, i AI-forordningen kan idriftsættere overholde en praksiskodeks, der er vurderet som tilstrækkelig i henhold til artikel 50, stk. 7, i AI-forordningen, for at påvise overholdelse af denne oplysningspligt. Yderligere oplysninger om virkningerne af at overholde en sådan kodeks og tilsynet med andre idriftsættere, der ikke overholder en kodeks, findes i afsnit 8.1 nedenfor. |
6.1.3. Gennemsigtighed i forbindelse med kunstnerisk, kreativt, satirisk, fiktivt eller tilsvarende deepfakeindhold
|
(119) |
Artikel 50, stk. 4, første afsnit, i AI-forordningen fastsætter en lempet gennemsigtighedsforpligtelse for deepfakes, der indgår i et oplagt kunstnerisk, kreativt, satirisk, fiktivt eller tilsvarende værk eller program. For sådant indhold er gennemsigtighedsforpligtelsen begrænset til oplysning om deepfaken på en passende måde, der ikke er til gene for visningen eller nydelsen af værket. |
|
(120) |
Relevante indholdskategorier: For at kunne drage fordel af den lempede oplysningsordning om gennemsigtighed bør deepfaken (billede, lyd eller video) indgå i mindst én af følgende indholdskategorier: kunstneriske, kreative, satiriske, fiktive eller tilsvarende værker eller programmer. Hvorvidt en deepfake falder ind under en eller flere af disse kategorier, kræver, at idriftsætteren foretager en vurdering fra sag til sag. Med henblik på artikel 50, stk. 4, i AI-forordningen skal disse kategorier forstås således:
|
|
(121) |
Ovennævnte indholdskategorier kan også finde anvendelse på programmer, der skal forstås som et individuelt indslag i en programflade eller et katalog, som er fastlagt af en medietjenesteudbyder, og som kan sammenlignes med TV-spredning med hensyn til form og indhold (33). Henvisningen til »værker« i forbindelse med artikel 50, stk. 4, i AI-forordningen har ingen betydning for, om indholdet er berettiget til beskyttelse i henhold til EU-retten om ophavsret og beslægtede rettigheder. |
|
(122) |
Oplagt: Det bør være oplagt for de fysiske personer, der eksponeres for en deepfake, at den falder ind under én eller flere af ovennævnte indholdskategorier. Dette indebærer, at kategorierne bør fortolkes strengt, hvilket er begrundet i, at der anvendes en lempeligere oplysningsordning på grund af den potentielle indvirkning på ytringsfriheden og retten til frihed for kunst og videnskab, samtidig med at risiciene for misinformation, manipulation og vildledning stadig skal håndteres på passende vis. Indhold, hvis karakter potentielt er uklar eller tvetydig for brugerne, er derfor udelukket fra anvendelsesområdet for denne lempeligere gennemsigtighedsordning. Relevante faktorer ved vurderingen af, om kunstnerisk, kreativt, satirisk eller fiktivt indhold har en oplagt karakter, omfatter: i) om indholdet har formater eller stilarter, der er karakteristiske for indholdskategorierne (f.eks. ironi eller overdrivelse for satiriske værker, bestemte kunstneriske stilarter, visning af karakteristiske temaer, teknikker eller æstetikker osv.), ii) den sammenhæng, hvori indholdet præsenteres (f.eks. hvis den platform, det medie eller det sted, hvorpå eller hvor indholdet præsenteres, gøres tilgængeligt eller distribueres, er forbundet med kunstnerisk, kreativ, satirisk eller fiktiv anvendelse), og iii) brugernes forventninger (f.eks. en film, et spilmiljø eller en scene i virtuel virkelighed). Desuden udelukker betingelsen om, at det skal være "oplagt, at indholdet falder ind under en af ovennævnte indholdskategorier, indhold fra disse indholdskategorier, hvis dets karakter udelukkende er informativ eller kommerciel og kan genkendes som sådan (f.eks. nyhedsformidling). I denne henseende kan visse typer indhold (f.eks. reklamer eller dokumentarfilm), der indeholder deepfakes, anses for oplagt kreative eller fiktive værker i visse konkrete situationer, men ikke i andre, eftersom vurderingen afhænger af den konkrete sag. Når en deepfake kombinerer flere karaktertræk (f.eks. informativ og kreativ), bør det informative karaktertræk altid veje tungest, og de gældende mærkningskrav skal overholdes. |
|
(123) |
Passende oplysning, der ikke er til gene for visningen eller nydelsen af værket: Deepfakes, der indgår i oplagte kunstneriske, kreative, satiriske eller fiktive værker eller programmer, er ikke udelukket fra gennemsigtighedsforpligtelsen i artikel 50, stk. 4, første afsnit, i AI-forordningen. Idriftsættere skal fortsat oplyse om indholdets AI-oprindelse eller manipulationen heraf, men de kan gøre dette på en passende måde, der ikke er til gene for visningen eller nydelsen af værket. I betragtning 134 til AI-forordningen præciseres det, at en sådan passende oplysning ikke bør være til gene for den normale udnyttelse og anvendelse, samtidig med at værkets nytteværdi og kvalitet kan bevares. Bestemmelsen af, hvilke oplysningsforanstaltninger der skal anses for passende, foretages ved en vurdering fra sag til sag, hvor idriftsættere kan tage alle relevante faktorer i betragtning (herunder værkets art, brugere, sammenhæng osv.). Under alle omstændigheder skal idriftsættere overholde artikel 50, stk. 5, i AI-forordningen (se afsnit 7). I lyset af artikel 50, stk. 7, i AI-forordningen kan idriftsættere overholde en praksiskodeks, der er vurderet som tilstrækkelig for at påvise overholdelse af denne oplysningspligt. Yderligere oplysninger om virkningerne af at overholde en sådan kodeks og tilsynet med andre idriftsættere, der ikke overholder en kodeks, findes i afsnit 8.1 nedenfor. |
|
(124) |
Passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder: Betragtning 134 til AI-forordningen præciserer, at overholdelse af den lempede gennemsigtighedsforpligtelse og anvendelse af kunstneriske, kreative, satiriske eller fiktive deepfakes skal være »med forbehold af passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder«. Idriftsættere skal derfor sikre, at tredjemands rettigheder og friheder (herunder f.eks. deres ret til beskyttelse af personoplysninger eller intellektuelle ejendomsrettigheder) beskyttes og respekteres i tilstrækkelig grad, når de skaber eller offentliggør deepfakes, selv om deepfaken skal anses for at være kunstnerisk, kreativ, satirisk eller fiktiv. At støtte ret på den lempede gennemsigtighedsforpligtelse kan ikke begrunde, at enkeltpersoners grundlæggende rettigheder eller rettighedshaveres rettigheder i henhold til EU-retten om intellektuel ejendomsret eller EU-databeskyttelsesretten ikke respekteres (34).
|
6.1.4. Undtagelse for retshåndhævelse
|
(125) |
Hvis anvendelsen af en deepfake (f.eks. en AI-genereret video, der simulerer begivenheder, som aldrig har fundet sted) er tilladt ved lov med henblik på at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, er idriftsættere undtaget fra gennemsigtighedsforpligtelsen i artikel 50, stk. 4, første afsnit, i AI-forordningen. De præciseringer, der er givet i punkt 46-48 ovenfor for en tilsvarende undtagelse i artikel 50, stk. 1, i AI-forordningen, er også relevante for denne bestemmelse. |
6.1.5. Samspil med andre EU-retsakter
|
(126) |
Gennemsigtighedsforpligtelsen i artikel 50, stk. 4, første afsnit, i AI-forordningen vil indgå i et samspil med forpligtelserne for udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner til at identificere og afbøde systemiske risici i henhold til artikel 34 og 35 i forordningen om digitale tjenester, navnlig artikel 35, stk. 1, litra k), i forordningen om digitale tjenester (35). Sidstnævnte bestemmelse nævner blandt de mulige risikobegrænsende foranstaltninger, som udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner kan træffe, foranstaltninger, der sikrer, at »oplysninger, hvad enten der er tale om genereret eller manipuleret billed-, lyd- eller videomateriale, der i væsentlig grad ligner eksisterende personer, genstande, steder eller andre enheder eller begivenheder, og som fejlagtigt for andre forekommer at være autentisk eller sandfærdigt, skiller sig ud ved hjælp af fremtrædende markeringer, når de vises på deres onlinegrænseflader«. Desuden kan udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner også tilvejebringe en brugervenlig funktionalitet, som gør det muligt for tjenestemodtagerne at angive sådan information. Selv om denne bestemmelse i forordningen om digitale tjenester forekommer at ligne artikel 50, stk. 4, i AI-forordningen, supplerer den denne artikel og indeholder to vigtige sondringer:
|
|
(127) |
Hvis en deepfake indeholder oplysninger vedrørende en direkte eller indirekte identificerbar fysisk person (som er i live), skal idriftsættere som dataansvarlige i henhold til EU’s databeskyttelseslovgivning også overholde de respektive forpligtelser i henhold til den (37). Dette omfatter f.eks. anvendelse af et passende retsgrundlag for behandlingen af personoplysningerne, oplysninger om behandlingen af data vedrørende de afbildede registrerede osv. |
|
(128) |
Idriftsættere af AI-systemer, der genererer deepfakes, skal endvidere sikre, at de overholder de relevante EU-regler om intellektuelle ejendomsrettigheder (såsom EU-varemærkeretten og EU-retten om ophavsret eller beslægtede rettigheder), hvis deres deepfake indeholder materiale, der er beskyttet i henhold til disse regler. Anvendelsen af et mærke eller ikon på en deepfake har ikke i sig selv nogen indvirkning på, om den kan opnå ophavsretlig beskyttelse, hvilket bør vurderes i overensstemmelse med gældende EU-ret om ophavsret. |
|
(129) |
Når faktiske personer er afbildet i deepfakes, skal idriftsættere også overholde relevante retsregler, der beskytter personlige rettigheder vedrørende eget billede eller egen stemme. Gennemsigtighedsforpligtelsen i artikel 50, stk. 4, første afsnit, i AI-forordningen indebærer ikke, at AI-genererede eller manipulerede deepfakes, der er skadelige og ulovlige efter gældende EU-ret eller national ret (f.eks. vildledende reklame eller strafferetligt ulovligt materiale såsom materiale, der viser seksuelt misbrug af børn, og intime billeder uden samtykke), må genereres og udbredes (se også afsnit 4.4). |
6.2. Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser for AI-genereret eller manipuleret tekst i AI-forordningens artikel 50, stk. 4
|
(130) |
AI-forordningens artikel 50, stk. 4, andet afsnit, finder anvendelse, hvis flere betingelser er opfyldt:
|
6.2.1. Tekst, der er offentliggjort med det formål at informere offentligheden om spørgsmål af offentlig interesse
|
(131) |
Med henblik på at præcisere anvendelsesområdet for AI-forordningens artikel 50, stk. 4, andet afsnit, behandles tre elementer nedenfor: i) offentliggjort tekst ii) med det formål at informere offentligheden iii) om spørgsmål af offentlig interesse.
|
6.2.2. Oplysningspligten i AI-forordningens artikel 50, stk. 4, andet afsnit
|
(132) |
AI-forordningens artikel 50, stk. 4, andet afsnit, pålægger idriftsættere af AI-systemer, der genererer eller manipulerer tekst, som offentliggøres med det formål at informere offentligheden om spørgsmål af offentlig interesse, at oplyse, at sådan tekst er blevet kunstigt genereret eller manipuleret. Det præciseres i betragtning 134 til AI-forordningen, at idriftsættere af tekstpublikationer, der falder ind under bestemmelsens anvendelsesområde, ligesom for deepfakes klart og tydeligt bør oplyse, at sådant indhold er blevet kunstigt skabt eller manipuleret, ved at mærke AI-outputtet i overensstemmelse hermed og oplyse dets kunstige oprindelse. Som krævet for deepfakes bør mærknings- eller oplysningsmetoder (herunder ansvarsfraskrivelser), der anvendes i overensstemmelse med AI-forordningens artikel 50, stk. 4, andet afsnit, også være klare og opfattelige for fysiske personer (f.eks. synlige eller hørbare foranstaltninger), uden at de behøver at benytte specifikke tekniske værktøjer eller foretage særlige handlinger. I lyset af AI-forordningens artikel 50, stk. 7, kan idriftsættere overholde en praksiskodeks, der vurderes som tilstrækkelig i henhold til denne bestemmelse, for at påvise overholdelse af denne oplysningspligt. Yderligere oplysninger om virkningerne af at overholde en sådan kodeks og tilsynet med idriftsættere, der ikke overholder en sådan kodeks, findes i afsnit 8.1 nedenfor. |
6.2.3. Undtagelse fra gennemsigtighedsforpligtelsen for tekst under menneskelig gennemgang eller redaktionel kontrol og redaktionelt ansvar
|
(133) |
I AI-forordningens artikel 50, stk. 4, andet afsnit, fastsættes der en undtagelse fra gennemsigtighedsforpligtelsen i denne bestemmelse, når to kumulative betingelser er opfyldt: i) den AI-genererede eller manipulerede tekst skal have været genstand for menneskelig gennemgang eller redaktionel kontrol, og ii) en juridisk eller fysisk person skal have det redaktionelle ansvar for offentliggørelsen. Hvor det er relevant, kan idriftsættere støtte sig på relevante gældende faglige eller deontologiske standarder for at påvise overholdelse af disse krav som skitseret nedenfor. |
i.
|
(134) |
Den første betingelse for, at undtagelsen i AI-forordningens artikel 50, stk. 4, andet afsnit, finder anvendelse, kræver, at den AI-genererede eller manipulerede tekst har været genstand for menneskelig gennemgang eller redaktionel kontrol. Menneskelig gennemgang henviser til en bevidst undersøgelse af indholdets substans foretaget af en eller flere fysiske personer, der har relevant viden og faglig dømmekraft vedrørende det undersøgte emne (f.eks. akademisk fagfællebedømmelse eller faglige valideringskæder). Faktatjek af indholdets nøjagtighed er et minimumskrav, der bør indgå i denne gennemgang. Redaktionel kontrol henviser til den kontrol med indholdet, som i praksis udøves af en ansvarlig redaktionel enhed (f.eks. en chefredaktør), der har beføjelse til at godkende, ændre eller afvise tekstens substans af indholdsmæssige grunde (inkl. faktatjek af oplysninger og sikring af kildernes troværdighed). Dette berører ikke eksisterende gennemgangs- og redaktionelle procedurer og faglige standarder, der finder anvendelse på medietjenesteudbydere. |
|
(135) |
Overfladiske, rent formelle eller proceduremæssige kontroller (f.eks. stavekontrol eller grammatisk korrektion), den blotte eksistens af en redaktionel politik, automatiserede gennemgangsprocesser eller summarisk redaktionel godkendelse uden indholdsmæssig involvering fra den menneskelige bedømmer eller den redaktionelle enhed kan ikke opfylde betingelserne for menneskelig gennemgang eller redaktionel kontrol med henblik på denne undtagelse. |
|
(136) |
Hvis AI-systemer anvendes til at ændre, supplere eller omformulere indhold efter redaktionel godkendelse, skal det deraf følgende indhold behandles som AI-genereret eller manipuleret med henblik på AI-forordningens artikel 50, stk. 4. Enhver indholdsmæssig AI-intervention, der finder sted, efter at den menneskelige gennemgang eller den redaktionelle kontrolproces har fundet sted, medfører derfor, at undtagelsen bortfalder. |
|
(137) |
I lyset af AI-forordningens artikel 50, stk. 7, kan idriftsættere overholde en praksiskodeks, der vurderes som tilstrækkelig i henhold til denne bestemmelse, for at påvise overholdelse af betingelsen om menneskelig gennemgang eller redaktionel kontrol, der er fastsat i denne bestemmelse (navnlig idriftsættere, der ikke er medietjenesteudbydere, som er underlagt eksisterende redaktionelle faglige eller deontologiske standarder). Yderligere oplysninger om virkningerne af at overholde en sådan kodeks og tilsynet med iværksættere, der ikke overholder en kodeks, findes i afsnit 8.1. |
|
ii. |
|
(138) |
Den anden betingelse for, at undtagelsen i AI-forordningens artikel 50, stk. 4, andet afsnit, finder anvendelse, kræver, at en juridisk eller fysisk person har det redaktionelle ansvar for offentliggørelsen af indholdet. Dette indebærer, at den pågældende person skal have det endelige retlige ansvar for offentliggørelsen af indholdet, herunder den menneskelige gennemgang eller redaktionelle kontrol (f.eks. en enkeltperson, et redaktionsudvalg eller den udgivende virksomhed). For at sikre offentlig ansvarlighed og tillid og i overensstemmelse med eksisterende faglige standarder på medieområdet bør identiteten og kontaktoplysningerne for den juridiske person, den fysiske person eller den funktion, der har det redaktionelle ansvar, gøres offentligt tilgængelige på et sted, der er let at finde (hvis de ikke allerede på anden måde er tilgængelige). Dette kan ske online via f.eks. et websteds vilkår og betingelser eller andre brugerrettede juridiske oplysninger. Offline kan sådanne oplysninger angives i en publikations kolofon eller udgivelsesoplysninger.
|
6.2.4. Undtagelse for retshåndhævelse
|
(139) |
Hvis anvendelsen af AI-systemer til generering af tekst, der offentliggøres med det formål at informere offentligheden om spørgsmål af offentlig interesse uden menneskelig gennemgang (f.eks. en AI-genereret politiadvarsel om en terrortrussel, der offentliggøres på sociale medier), er tilladt ved lov med henblik på at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, er idriftsættere undtaget fra gennemsigtighedsforpligtelsen i AI-forordningens artikel 50, stk. 4. De præciseringer, der er givet i punkt 46-48 ovenfor for en tilsvarende undtagelse i artikel 50, stk. 1, i AI-forordningen, er også relevante for denne bestemmelse. |
6.2.5. Samspil med andre EU-retsakter
|
(140) |
I EU-medieretten er redaktionelt ansvar et afgørende begreb, der er defineret i artikel 2, nr. 8), i forordning (EU) 2024/1083 (den europæiske forordning om mediefrihed (39). I den sammenhæng betyder »redaktionelt ansvar« »udøvelse af effektiv kontrol over både udvælgelsen af programmer eller pressepublikationer og deres tilrettelæggelse med henblik på levering af en medietjeneste, uanset om der i henhold til national ret er ansvar for den leverede tjeneste«. I visse situationer kan denne definition overlappe med begrebet redaktionelt ansvar, der anvendes i AI-forordningens artikel 50, stk. 4, andet afsnit, navnlig hvis idriftsætterne af AI-systemet også kan kategoriseres som medietjenesteudbydere i henhold til den europæiske forordning om mediefrihed. Redaktionelt ansvar som omhandlet i AI-forordningens artikel 50, stk. 4, bør derfor fortolkes i overensstemmelse med den eksisterende EU-ret på medieområdet, uanset at det fortsat er et særskilt begreb, der også kan finde anvendelse i bredere sammenhænge og på andre idriftsættere, så længe de påtager sig det redaktionelle ansvar for tekstpublikationen. Medietjenesteudbydere kan støtte sig på deres eksisterende redaktionelle processer og standarder for at være omfattet af undtagelsen i AI-forordningens artikel 50, stk. 4, andet afsnit. |
7. HORISONTALE KRAV TIL OPLYSNINGER, DER GIVES I HENHOLD TIL ARTIKEL 50, STK. 5, I AI-FORORDNINGEN
|
(141) |
I henhold til artikel 50, stk. 5, i AI-forordningen skal de oplysninger, der skal gives i henhold til artikel 50, stk. 1-4, i AI-forordningen, gives til de pågældende fysiske personer på en klar og synlig måde senest på tidspunktet for den første interaktion eller eksponering. Oplysningerne skal også være i overensstemmelse med gældende tilgængelighedskrav. De pågældende fysiske personer omfatter i denne sammenhæng personer, der interagerer direkte med AI-systemet (artikel 50, stk. 1, i AI-forordningen), aktive eller passive brugere og andre personer, der eksponeres for det AI-genererede eller AI-manipulerede syntetiske indhold (med eller uden direkte interaktion med AI-systemet (artikel 50, stk. 2 og 4, i AI-forordningen)), og personer, der er genstand for anvendelsen af systemer til følelsesgenkendelse eller systemer til biometrisk kategorisering (artikel 50, stk. 3, i AI-forordningen). |
7.1. Afgivelse af oplysninger på en klar og synlig måde
|
(142) |
Oplysninger vil blive anset for at være givet på en klar måde, hvis de er synlige, lette for den pågældende fysiske person at forstå og tilgængelige for vedkommende (herunder personer med handicap). Oplysninger vil blive anset for at være givet på en synlig måde, hvis de let kan identificeres som adskilt fra andre oplysninger og fra det miljø, som indholdet præsenteres i. Oplysningerne skal også være lette at forstå for brugerne, herunder for specifikke grupper såsom børn eller personer med handicap, når de indgår i de brugere, der forudsigeligt eksponeres for indholdet eller interagerer med systemet (40). For at oplysninger kan gives på en klar og synlig måde, kan de relevante oplysninger bl.a. præsenteres som en del af interaktionen (i henhold til artikel 50, stk. 1, i AI-forordningen) eller af det relevante indhold (i henhold til artikel 50, stk. 2 og 4, i AI-forordningen). Oplysninger vil ikke blive anset for at være givet på en klar og synlig måde, hvis fysiske personer let kan overse dem eller gå glip af dem under normale eksponerings- eller interaktionsbetingelser (f.eks. hvis de kun indgår som en del af en manual eller er skjult under flere lag af menuindstillinger i en onlinegrænseflade eller i brugsbetingelser, som brugerne ofte ikke læser). |
7.2. Første interaktion eller eksponering
|
(143) |
I henhold til artikel 50, stk. 5, i AI-forordningen skal oplysningerne gives til de pågældende fysiske personer senest på tidspunktet for den første interaktion eller eksponering. Den første interaktion eller eksponering henviser ikke kun til den første fysiske person, der interagerer med eller eksponeres for (outputtet fra) et AI-system, men også til en hvilken som helst anden fysisk persons efterfølgende første interaktion med eller eksponering for (outputtet fra) AI-systemet. For så vidt angår den første interaktion med et AI-system, bør oplysningerne som minimum gives én gang ved begyndelsen af en interaktiv session under hensyntagen til de særlige sammenhænge, der er nævnt i punkt 36 og 40 ovenfor. For så vidt angår AI-genereret eller -manipuleret indhold, der er omfattet af artikel 50, stk. 2 og 4, i AI-forordningen, finder oplysningspligten anvendelse på hvert output fra et AI-system i forhold til enhver fysisk person, der eksponeres for indholdet. Dette bør forstås som ethvert tidspunkt, hvor det med rimelighed kan forventes, at en fysisk person eksponeres for AI-systemets output og opfatter oplysningen, under hensyntagen til de særlige forhold ved oplysning i tilfælde af oplagt kreative, kunstneriske og andre værker (se afsnit 6.1.3.). Desuden kan idriftsættere informere fysiske personer tidligere end den første faktiske interaktion eller eksponering (f.eks. i begyndelsen af indhold, der indeholder deepfakes). Hvis det imidlertid med rimelighed kan forudses, at personer muligvis ikke ser indholdet fra begyndelsen, informerer en oplysning, der kun gives ved indholdets begyndelse, ikke disse personer tilstrækkeligt og bør, hvor det er muligt, suppleres med oplysning på senere tidspunkter. Dette kan gennemføres efter omstændighederne under hensyntagen til formålet med gennemsigtighedsforpligtelserne, nemlig at sikre effektiv tilvejebringelse af oplysninger og meningsfuld brugerbevidsthed i stadig mere fordybende og realistiske AI-miljøer, hvor brugerne har stadig vanskeligere ved at skelne indholdets og interaktionens oprindelse og sandfærdighed.
|
7.3. Overholdelse af gældende tilgængelighedskrav
|
(144) |
Udbydere og idriftsættere af AI-systemer, der er omfattet af de forskellige gennemsigtighedsforpligtelser, der er anført i artikel 50, stk. 1-4, i AI-forordningen, skal være opmærksomme på de gældende tilgængelighedskrav (f.eks. i henhold til direktiv (EU) 2016/2102 (41) og direktiv (EU) 2019/882 (42)) og vurdere, om deres produkt, tjeneste eller indhold skal overholde disse regler. I så fald skal de sikre tilgængeligheden af de oplysninger, der formidles i overensstemmelse med artikel 50 i AI-forordningen, i overensstemmelse med de gældende tilgængelighedskrav. Ved artikel 50 i AI-forordningen pålægges der ikke særskilte eller yderligere tilgængelighedskrav. |
8. HÅNDHÆVELSE AF AI-FORORDNINGENS ARTIKEL 50
|
(145) |
Formålet med dette afsnit er at præcisere: i) virkningerne af at overholde en praksiskodeks for så vidt angår overholdelse af gennemsigtighedsforpligtelserne for AI-genereret indhold, ii) de kompetente tilsynsmyndigheders rolle i håndhævelsen af artikel 50 i AI-forordningen, iii) de sanktioner, der finder anvendelse ved overtrædelse af disse forpligtelser, og iv) det tidspunkt, hvor forpligtelserne i artikel 50 i AI-forordningen begynder at finde anvendelse. |
8.1. Virkningerne af at overholde en praksiskodeks, der vurderes som tilstrækkelig
|
(146) |
Udbydere og idriftsættere af AI-systemer, der er omfattet af anvendelsesområdet for artikel 50, stk. 2 og 4, i AI-forordningen, kan påvise overholdelse af deres respektive gennemsigtighedsforpligtelser for AI-genereret indhold i henhold til disse bestemmelser ved at overholde en praksiskodeks, der vurderes som tilstrækkelig i henhold til AI-forordningens artikel 50, stk. 7 (43). En sådan kodeks erstatter ikke AI-forordningen eller disse retningslinjer. Den supplerer dem som den eneste EU-dækkende anerkendte praktiske ramme, som udbydere og idriftsættere af generative AI-systemer kan bruge til at påvise overholdelse af disse forpligtelser, uanset hvor de er etableret eller opererer, og uanset hvilke markedsovervågningsmyndigheder der er kompetente. |
|
(147) |
Selv om udbydere og idriftsættere også kan påvise overholdelse af disse forpligtelser med passende alternative midler, er overholdelse af en praksiskodeks, der anses for tilstrækkelig, en enkel, forudsigelig og retssikker måde at påvise overholdelse på. For underskrivere af en praksiskodeks, der vurderes som tilstrækkelig i henhold til AI-forordningens artikel 50, stk. 7 (44), fokuserer Kommissionen og de kompetente markedsovervågningsmyndigheder deres tilsynsaktiviteter på at vurdere, om disse underskrivere har overholdt praksiskodeksen og gennemført de foranstaltninger, der er fastsat deri. Da udbydere og idriftsættere, der overholder kodeksen, er gennemsigtige med hensyn til de foranstaltninger, de gennemfører for at overholde AI-forordningens artikel 50, stk. 2, 4 og 5, vil de nyde større tillid hos Kommissionen, de andre kompetente markedsovervågningsmyndigheder og andre interessenter (herunder offentligheden). Ethvert fravalg af afsnit foretaget af underskrivere af en adfærdskodeks, der anses for tilstrækkelig, vil medføre, at disse udbydere og idriftsættere mister fordelen ved at kunne påvise overholdelse lettere i den henseende. |
|
(148) |
Udbydere og idriftsættere, der ikke er underskrivere af en praksiskodeks, der anses for tilstrækkelig i henhold til AI-forordningens artikel 50, stk. 7, forventes at påvise, hvordan de med andre passende midler har overholdt deres forpligtelser i henhold til samme forordnings artikel 50, stk. 2, 4 og 5. Sådanne udbydere og idriftsættere forventes endvidere at redegøre for, hvordan de foranstaltninger, de gennemfører, sikrer overholdelse af deres forpligtelser i henhold til AI-forordningen. De bør f.eks. foretage en mangelanalyse, hvor de foranstaltninger, de har gennemført, sammenholdes med de foranstaltninger, der er fastsat i en praksiskodeks, der vurderes som tilstrækkelig. Da de kompetente myndigheder (herunder AI-kontoret) har mindre indsigt i, hvordan udbydere og idriftsættere, der ikke er underskrivere af en praksiskodeks, sikrer overholdelse af deres forpligtelser i henhold til AI-forordningens artikel 50, stk. 2, 4 og 5, vil de sandsynligvis have behov for mere detaljerede oplysninger i forbindelse med kontrol af overholdelsen. Udbydere, der ikke overholder en praksiskodeks, kan f.eks. også blive genstand for flere anmodninger om oplysninger og anmodninger om adgang med henblik på at vurdere effektiviteten, interoperabiliteten, robustheden og pålideligheden af de tekniske løsninger, der er gennemført for at overholde AI-forordningens artikel 50, stk. 2. Idriftsættere kan også blive genstand for sådanne anmodninger med hensyn til deres mærkningspraksis i henhold til AI-forordningens artikel 50, stk. 4. |
|
(149) |
De kompetente myndigheder kan tage tilsagn, der er gennemført i overensstemmelse med en praksiskodeks, der anses for tilstrækkelig, i betragtning som en formildende faktor ved fastsættelsen af bødernes størrelse, afhængigt af de særlige omstændigheder (45). |
|
(150) |
Hvis en praksiskodeks ikke anses for tilstrækkelig i henhold til AI-forordningens artikel 50, stk. 7, kan Kommissionen vedtage en gennemførelsesretsakt, der fastsætter fælles regler for gennemførelsen af forpligtelserne i AI-forordningens artikel 50, stk. 2, 4 og 5, som vil finde anvendelse på alle relevante udbydere og idriftsættere af AI-systemer, der er omfattet af disse bestemmelsers anvendelsesområde (46). |
8.2. Markedsovervågningsmyndigheder
|
(151) |
De markedsovervågningsmyndigheder, som medlemsstaterne har udpeget, AI-Kontoret (47) og Den Europæiske Tilsynsførende for Databeskyttelse (48) er ansvarlige for at føre tilsyn med og håndhæve reglerne for AI-systemer, der henhører under deres kompetence, herunder de gennemsigtighedsforpligtelser, der er fastsat i artikel 50 i AI-forordningen. Denne håndhævelse finder sted inden for systemet for markedsovervågning og produktoverensstemmelse, der er fastsat ved forordning (EU) 2019/1020 og AI-forordningen. Markedsovervågningsmyndighedernes håndhævelsesbeføjelser i forbindelse med AI-systemer er fastsat i disse forordninger. Disse myndigheder kan træffe håndhævelsesforanstaltninger i forbindelse med forpligtelserne i AI-forordningens artikel 50 på eget initiativ eller efter en klage, som enhver berørt person eller enhver anden fysisk eller juridisk person, der har grund til at mene, at der er sket sådanne overtrædelser, har ret til at indgive (49). Markedsovervågningsmyndighedernes ansvarsområder i henhold til AI-forordningen berører ikke andre tilsynsmyndigheders eller myndigheder med ansvar for grundlæggende rettigheders beføjelser og opgaver i henhold til deres egne retlige rammer i situationer, hvor både artikel 50 i AI-forordningen og den pågældende ramme finder anvendelse (f.eks. databeskyttelse og forbrugerbeskyttelse). |
8.3. Sanktioner
|
(152) |
Udbydere og idriftsættere, der ikke overholder de gældende gennemsigtighedsforpligtelser, der er fastsat i AI-forordningens artikel 50, kan pålægges bøder på op til 15 000 000 EUR eller, hvis overtræderen er en virksomhed, op til 3 % af dens samlede globale årsomsætning i det foregående regnskabsår, alt efter hvilket beløb der er størst. EU-institutioner, -organer og -agenturer, der overtræder gennemsigtighedsforpligtelserne, kan pålægges administrative bøder på op til 750 000 EUR. For små og mellemstore virksomheder (SMV’er), herunder iværksættervirksomheder, skal hver bøde være op til ovennævnte procentsats eller beløb, alt efter hvilken af dem der er lavest. Bøderne skal være effektive, stå i et rimeligt forhold til overtrædelsen og have afskrækkende virkning og tage hensyn til interesserne hos SMV’er og små midcapvirksomheder (SMC’er), herunder iværksættervirksomheder, samt deres økonomiske levedygtighed. Når de kompetente myndigheder beslutter, om der skal pålægges en administrativ bøde, og fastsætter den administrative bødes størrelse i hvert enkelt tilfælde, bør de vurdere alle relevante omstændigheder i den konkrete situation og, hvor det er relevant, en række faktorer, der påvirker overtrædelsens alvor (f.eks. overtrædelsens og dens konsekvensers art, grovhed og varighed, om overtrædelsen er begået uagtsomt eller forsætligt, andre skærpende eller formildende omstændigheder, graden af samarbejde med markedsovervågningsmyndighederne osv.). |
8.4. Ikrafttræden
|
(153) |
I henhold til AI-forordningens artikel 113 finder AI-forordningens artikel 50 anvendelse fra den 2. august 2026. Dette kræver, at alle omfattede AI-systemer, der er bragt i omsætning eller ibrugtaget i Unionen, overholder denne bestemmelse på denne dato, uanset hvornår de er bragt i omsætning eller ibrugtaget (50). Den forordning om ændring af AI-forordningen (den digitale omnibus om kunstig intelligens), som EU-lovgiveren for nylig har vedtaget, fastsætter en målrettet overgangsbestemmelse alene med hensyn til mærknings- og påvisningsforpligtelserne i henhold til AI-forordningens artikel 50, stk. 2, for generative AI-systemer, der er bragt i omsætning eller ibrugtaget før den 2. august 2026. Den giver udbyderne af disse eksisterende systemer en overgangsperiode til at bringe deres systemer i overensstemmelse senest den 2. december 2026. Systemer, der er delvis interaktive og delvis generative, kan kun drage fordel af denne overgangsperiode med hensyn til mærkningsforpligtelsen i henhold til AI-forordningens artikel 50, stk. 2, mens overholdelse af oplysningspligten for AI-systemer, der interagerer direkte med fysiske personer, skal sikres fra den 2. august 2026. |
|
(154) |
AI-genererede eller manipulerede output, der er omfattet af anvendelsesområdet for AI-forordningens artikel 50, stk. 2, og deepfakes, der er omfattet af anvendelsesområdet for AI-forordningens artikel 50, stk. 4, første afsnit, og som er genereret eller manipuleret før den 2. august 2026, behøver ikke at blive mærket eller forsynet med mærkning med tilbagevirkende kraft. Det samme gælder tekster om spørgsmål af offentlig interesse, der er omfattet af anvendelsesområdet for AI-forordningens artikel 50, stk. 4, andet afsnit, og som er AI-genereret eller manipuleret og offentliggjort før den 2. august 2026. Omvendt skal tekster, der er genereret eller manipuleret før den 2. august 2026, mærkes, hvis de offentliggøres den 2. august 2026 eller senere. Under hensyntagen til målet om gennemsigtighed og øget tillid til og integritet i informationsøkosystemet, som forfølges med AI-forordningen, tilskyndes idriftsættere af AI-systemer og andre aktører, der er i besiddelse af eller formidler allerede eksisterende umærkede deepfakes, ikke desto mindre til at gøre dette, uden at de forventes at gøre en uforholdsmæssig stor indsats med henblik herpå (såsom revision af allerede eksisterende indholdsdatabaser eller ændring af produktemballage, der allerede er trykt). |
9. REVISION OG AJOURFØRING AF RETNINGSLINJERNE
|
(155) |
Disse retningslinjer udgør en første fortolkning med praktiske eksempler på de gennemsigtighedsforpligtelser, der er fastsat i AI-forordningens artikel 50. Kommissionen vil revidere disse retningslinjer, så snart det er nødvendigt i lyset af de praktiske erfaringer med gennemførelsen af gennemsigtighedsforpligtelserne og tempoet i den teknologiske, samfundsmæssige og lovgivningsmæssige udvikling på dette område. Dette omfatter også enhver relevant erfaring fra håndhævelsesforanstaltninger som led i markedsovervågning og EU-Domstolens fortolkninger af AI-forordningens artikel 50. I forbindelse med en sådan revision kan Kommissionen beslutte at trække disse retningslinjer tilbage eller ændre dem. Kommissionen opfordrer udbydere og idriftsættere af AI-systemer, nationale markedsovervågningsmyndigheder gennem AI-udvalget, Det Rådgivende AI-Forum, forskersamfundet og civilsamfundsorganisationer til at bidrage til denne proces ved at besvare fremtidige indkaldelser til offentlig høring. |
(1) Europa-Parlamentets og Rådets forordning (EU) 2024/1689 af 13. juni 2024 om harmoniserede regler for kunstig intelligens (AI-forordningen) (EUT L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
(2) AI-forordningens artikel 1.
(3) AI-forordningens artikel 2, stk. 1, litra a), og artikel 3, nr. 3), 9) og 11). Der findes yderligere vejledning om begreberne omsætning, ibrugtagning og anvendelse i Kommissionens retningslinjer om forbudte former for praksis vedrørende kunstig intelligens, C(2025) 5052, og Kommissionens meddelelse – Den blå vejledning om gennemførelse af EU’s produktregler 2022, afsnit 2 (EUT C 247 af 29.6.2022, s. 1).
(4) AI-forordningens artikel 2, stk. 1, litra c), og betragtning 22.
(5) AI-forordningens artikel 3, nr. 4).
(6) AI-forordningens artikel 2, stk. 1, litra b) og c).
(7) Europa-Parlamentets og Rådets forordning (EU) 2022/2065 af 19. oktober 2022 om et indre marked for digitale tjenester (EUT L 277 af 27.10.2022, s. 1).
(8) Se afsnit 2.5 i Kommissionens retningslinjer om forbudte former for praksis vedrørende kunstig intelligens i henhold til forordning (EU) 2024/1689 (AI-forordningen), Bruxelles, den 29.7.2025, C(2025) 5052 final.
(9) Definitionen af idriftsætter udelukker også brugere, der er involveret i sådanne aktiviteter (se afsnit 2.3 ovenfor).
(10) Betragtning 25 i AI-forordningen.
(11) Betragtning 102 til AI-forordningen beskriver, at en frigivelse af software og data i henhold til en gratis open source-licens »gør det muligt at dele dem åbent, og hvor brugerne frit kan få adgang til, anvende, ændre og videregive dem eller ændrede versioner heraf«.
(12) Yderligere oplysninger om artikel 5 i AI-forordningen findes i Kommissionens retningslinjer for forbudte former for praksis vedrørende kunstig intelligens i henhold til forordning (EU) 2024/1689 (AI-forordningen), C(2025) 5052 final.
(13) Se AI-forordningens artikel 6.
(14) Navnlig pålægger artikel 26, stk. 11, i AI-forordningen idriftsættere af højrisiko-AI-systemer, der træffer beslutninger eller bistår med at træffe beslutninger vedrørende fysiske personer, at underrette de fysiske personer om, at de er genstand for anvendelsen af et højrisiko-AI-system. Disse gennemsigtighedsforpligtelser supplerer forpligtelserne i artikel 50 i AI-forordningen, da de vedrører forskellige oplysninger, der skal gives til de fysiske personer, men de kan kombineres i én enkelt meddelelse.
(15) I artikel 3, nr. 66), i AI-forordningen defineres et AI-system til almen brug som et AI-system, som er baseret på en AI-model til almen brug, og som har kapacitet til at opfylde en række forskellige formål, både til direkte anvendelse og til integration i andre AI-systemer.
(16) Artikel 50, stk. 2, i AI-forordningen indeholder en udtrykkelig henvisning til AI-systemer til almen brug.
(17) Betragtning 133 til AI-forordningen.
(18) Se artikel 3, stk. 1, i AI-forordningen. Yderligere vejledning om begrebet AI-system findes i Kommissionens retningslinjer for definitionen af et AI-system, 29.7.2025, C(2025) 5053 final.
(19) Se betragtning 132 til AI-forordningen. Dette kræver ikke, at systemet er rettet mod disse sårbare grupper. Hvis et system er tilsigtet at interagere med enhver i offentligheden, omfatter dette også medlemmer af de sårbare grupper, og udbyderne bør tage hensyn til dem, når de gennemfører underretningsforanstaltningerne.
(20) Se afsnit 7.3 om gældende tilgængelighedskrav.
(21) F.eks. kan elektroniske attesteringer af attributter som fastsat i forordning (EU) nr. 910/2014 og som stillet til rådighed i de europæiske digitale identitetstegnebøger, der er oprettet ved samme forordning, samt de foreslåede europæiske virksomhedstegnebøger udgøre sikre og effektive midler til at identificere AI-agenter. Tegnebøgerne kan lagre og forvalte elektroniske attesteringer, der verificerer AI-agentens identitet, attributter og bemyndigelser, og derved muliggøre gnidningsfri og troværdig oplysning over for fysiske personer.
(22) Dette gælder også for de lignende undtagelser for retshåndhævelsesaktiviteter, der er fastsat i artikel 50, stk. 2-4, i AI-forordningen.
(23) Europa-Parlamentets og Rådets direktiv 2005/29/EF af 11. maj 2005 om virksomheders urimelige handelspraksis over for forbrugerne på det indre marked (EUT L 149 af 11.6.2005, s. 2).
(24) Europa-Parlamentets og Rådets direktiv 2011/83/EU af 25. oktober 2011 om forbrugerrettigheder (EUT L 304 af 22.11.2011, s. 64).
(25) Europa-Parlamentets og Rådets direktiv 2012/13/EU af 22. maj 2012 om ret til information under straffesager (EUT L 142 af 1.6.2012, s. 1), Europa-Parlamentets og Rådets direktiv 2012/29/EU af 25. oktober 2012 om minimumsstandarder for ofre for kriminalitet med hensyn til rettigheder, støtte og beskyttelse (EUT L 315 af 14.11.2012, s. 57).
(26) Som defineret i AI-forordningens artikel 3, nr. 1).
(27) I betragtning 133 til AI-forordningen præciseres det, at udbydere af disse systemer bør pålægges at indlejre tekniske løsninger, som muliggør markering i et maskinlæsbart format og påvisning af, at outputtet er blevet genereret eller manipuleret af et AI-system og ikke af et menneske. I betragtning 135 til AI-forordningen henvises der til forpligtelsen vedrørende påvisning.
(28) Se bilag II til Commission Implementing Decision C(2025) 3871 final on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI system in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 final.
(29) Se også betragtning 11 til AI-forordningen.
(30) Se også betragtning 137 til AI-forordningen.
(31) Betragtning 136 til AI-forordningen.
(32) Dette kriterium skal derfor forstås selvstændigt og adskilt fra begrebet vildledning som omhandlet i direktiv 2005/29/EF om virksomheders urimelige handelspraksis over for forbrugerne på det indre marked (direktivet om urimelig handelspraksis), https://eur-lex.europa.eu/eli/dir/2005/29/oj/dan.
(33) Se tilsvarende artikel 1, litra b), i direktivet om audiovisuelle medietjenester.
(34) Dette gælder tilsvarende for offentliggjorte tekster, der informerer offentligheden om spørgsmål af offentlig interesse.
(35) Afsnit 4.4 indeholder yderligere oplysninger om samspillet mellem artikel 50 i AI-forordningen og forordningen om digitale tjenester.
(36) Betragtning 2 til forordningen om digitale tjenester.
(37) Der findes en mere detaljeret præcisering i Kommissionens og Det Europæiske Databeskyttelsesråds (EDPB) fælles retningslinjer om samspillet mellem AI-forordningen og EU’s databeskyttelseslovgivning (under udarbejdelse).
(38) Jf. analogt C-89/04, Mediakabel, EU:C:2005:348, præmis 33, C-192/04, Lagardère, EU:C:2005:475, præmis 31, C-306/05, SGAE, EU:C:2006:764, præmis 37-40, C-527/15, Stichting Brein, EU:C:2017:300, præmis 43-44 og den deri nævnte retspraksis, sag C-135/23, GEMA, EU:C:2024:526, præmis 38 og den deri nævnte retspraksis).
(39) Europa-Parlamentets og Rådets forordning (EU) 2024/1083 af 11. april 2024 om oprettelse af en fælles ramme for medietjenester i det indre marked og om ændring af direktiv 2010/13/EU (den europæiske forordning om mediefrihed) (EUT L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).
(40) Når børn er en del af indholdets målgruppe, skal disse oplysninger: i) være børnevenlige, alderssvarende, letforståelige og lettilgængelige for alle børn, herunder personer med handicap og/eller yderligere tilgængelighedsbehov, ii) præsenteres klart på en måde, der er let at forstå og så enkel og kortfattet som muligt, iii) præsenteres for den mindreårige på en måde, så informationen er let at gennemse og kan tilgås øjeblikkeligt og intuitivt på de tidspunkter, hvor det er relevant, iv) forevises på det eller de officielle sprog i den medlemsstat, hvor tjenesteydelsen udføres, v) være engagerende for børn (dette kan også omfatte brug af grafik, videoer og/eller tegn eller andre teknikker), vi) præsenteres for børnene gradvist og over tid for at maksimere brugerens engagement.
(41) Europa-Parlamentets og Rådets direktiv (EU) 2016/2102 af 26. oktober 2016 om tilgængeligheden af offentlige organers websteder og mobilapplikationer (EØS-relevant tekst) (EUT L 327 af 2.12.2016, s. 1).
(42) Europa-Parlamentets og Rådets direktiv (EU) 2019/882 af 17. april 2019 om tilgængelighedskrav for produkter og tjenester (EØS-relevant tekst), PE/81/2018/REV/1 (EUT L 151 af 7.6.2019, s. 70).
(43) Se relevante oplysninger om Code of Practice on Transparency of AI-Generated Content | Shaping Europe’s digital future, offentliggjort den 10. juni 2026.
(44) Se Commission Opinion on the assessment of the Code of Practice on Transparency of AI-generated content | Shaping Europe’s digital future.
(45) AI-forordningens artikel 99, stk. 7, litra e).
(46) AI-forordningens artikel 50, stk. 7.
(47) Som markedsovervågningsmyndighed for AI-systemer, der bygger på AI-modeller til almen brug, som leveres af samme udbyder (AI-forordningens artikel 75, stk. 1). Dette omfatter den forpligtelse, der gælder for udbydere i henhold til AI-forordningens artikel 50, stk. 1 og 2. Med hensyn til AI-forordningens artikel 50, stk. 3 og 4, har AI-Kontoret kun kompetence, hvis den pågældende udbyder af AI-modellen til almen brug og AI-systemet også er idriftsætter af systemet.
(48) Som markedsovervågningsmyndighed for EU’s institutioner, agenturer og organer.
(49) AI-forordningens artikel 85.
(50) Den særlige overgangsbestemmelse i AI-forordningens artikel 111, stk. 2, finder kun anvendelse på højrisiko-AI-systemer, der er bragt i omsætning før den dato, hvor højrisikoreglerne finder anvendelse, for så vidt angår disse systemers overholdelse af kravene og forpligtelserne for højrisiko-AI-systemer. Hvis højrisiko-AI-systemet også er underlagt en eller flere gennemsigtighedsforpligtelser i henhold til AI-forordningens artikel 50, finder denne særlige overgangsbestemmelse ikke anvendelse, eftersom de forskellige forpligtelser for højrisiko-AI-systemer og gennemsigtighedsforpligtelserne i artikel 50 finder kumulativ anvendelse, og overgangsbestemmelsen kun er begrundet og begrænset for så vidt angår overholdelsen af højrisikobestemmelserne.
ELI: http://data.europa.eu/eli/C/2026/6005/oj
ISSN 1977-0871 (electronic edition)