European flag

Den Europæiske Unions
Tidende

DA

C-udgaven


C/2026/6005

12.11.2026

MEDDELELSE FRA KOMMISSIONEN

Retningslinjer for gennemførelsen af gennemsigtighedsforpligtelserne for visse AI-systemer i henhold til artikel 50 i forordning (EU) 2024/1689 (»AI-forordningen«)

(C/2026/6005)

Indholdsfortegnelse

1.

BAGGRUND OG MÅLSÆTNINGER 3

2.

OVERSIGT OVER GENNEMSIGTIGHEDSFORPLIGTELSERNE OG HORISONTALE EMNER 3

2.1.

Oversigt over gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen 3

2.2.

Begrundelse og mål 4

2.3.

Ansvarlige aktører i henhold til AI-forordningens artikel 50 5

2.4.

Undtagelser fra AI-forordningens anvendelsesområde 7

2.4.1.

Idriftsættere, der handler som led i rent personlige ikkeerhvervsmæssige aktiviteter 7

2.4.2.

Forskning og udvikling 8

2.4.3.

AI frigivet under gratis open source-licenser 8

2.5.

Samspil med de forbudte former for praksis, kravene til højrisiko-AI-systemer og AI-færdigheder 9

2.6.

Samspil med de regler, der gælder for AI-modeller og/eller AI-systemer til almen brug 9

3.

AI-FORORDNINGENS ARTIKEL 50, STK. 1: GENNEMSIGTIGHED FOR INTERAKTIVE AI-SYSTEMER 9

3.1.

Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser 10

3.1.1.

AI-systemer, der er tilsigtet at interagere direkte med fysiske personer 10

3.1.2.

Oplysningspligt i henhold til AI-forordningens artikel 50, stk. 1 12

3.2.

Undtagelser fra oplysningspligten i artikel 50, stk. 1, i AI-forordningen 14

3.2.1.

Undtagelse for åbenbar interaktion med et AI-system 14

3.2.2.

Undtagelse for AI-systemer, der ved lov er tilladt til retshåndhævelsesformål 16

3.3.

Samspil med andre EU-retsakter 17

4.

AI-FORORDNINGENS ARTIKEL 50, STK. 2: MÆRKNING OG PÅVISNING AF AI-GENERERET ELLER MANIPULERET INDHOLD 18

4.1.

Hovedelementer og begreber i AI-forordningens artikel 50, stk. 2 18

4.1.1.

AI-systemer, der genererer eller manipulerer syntetisk indhold 18

4.1.2.

Metoder til syntetisk indholdsgenerering, der er omfattet 19

4.1.3.

Indhold, der ikke er omfattet af AI-forordningens artikel 50, stk. 2 20

4.2.

Mærknings- og påvisningsforpligtelsen i AI-forordningens artikel 50, stk. 2 21

4.2.1.

Mærkningsforpligtelsen 21

4.2.2.

Påvisningsforpligtelsen 22

4.2.3.

Overholdelse af kravene til tekniske løsninger: effektive, interoperable, robuste og pålidelige 22

4.3.

Undtagelser fra forpligtelserne i AI-forordningens artikel 50, stk. 2 24

4.4.

Samspil med andre EU-retsakter 25

5.

AI-FORORDNINGENS ARTIKEL 50, STK. 3: SYSTEMER TIL FØLELSESGENKENDELSE OG BIOMETRISKE KATEGORISERINGSSYSTEMER 26

5.1.

Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser i AI-forordningens artikel 50, stk. 3 27

5.1.1.

Begrebet system til følelsesgenkendelse 27

5.1.2.

Begrebet system til biometrisk kategorisering 27

5.1.3.

Oplysningspligten i AI-forordningens artikel 50, stk. 3 27

5.2.

Undtagelse for retshåndhævelse 28

5.3.

Samspil med andre EU-retsakter 28

6.

ARTIKEL 50, STK. 4: MÆRKNING AF DEEPFAKES OG VISSE TEKSTPUBLIKATIONER 28

6.1.

Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser for deepfakes i AI-forordningens artikel 50, stk. 4 28

6.1.1.

Begrebet »deepfake« 29

6.1.2.

Oplysningspligt i artikel 50, stk. 4, første afsnit, i AI-forordningen 31

6.1.3.

Gennemsigtighed i forbindelse med kunstnerisk, kreativt, satirisk, fiktivt eller tilsvarende deepfakeindhold 32

6.1.4.

Undtagelse for retshåndhævelse 34

6.1.5.

Samspil med andre EU-retsakter 34

6.2.

Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser for AI-genereret eller manipuleret tekst i AI-forordningens artikel 50, stk. 4 35

6.2.1.

Tekst, der er offentliggjort med det formål at informere offentligheden om spørgsmål af offentlig interesse 36

6.2.2.

Oplysningspligten i AI-forordningens artikel 50, stk. 4, andet afsnit 37

6.2.3.

Undtagelse fra gennemsigtighedsforpligtelsen for tekst under menneskelig gennemgang eller redaktionel kontrol og redaktionelt ansvar 37

6.2.4.

Undtagelse for retshåndhævelse 38

6.2.5.

Samspil med andre EU-retsakter 39

7.

HORISONTALE KRAV TIL OPLYSNINGER, DER GIVES I HENHOLD TIL ARTIKEL 50, STK. 5, I AI-FORORDNINGEN 39

7.1.

Afgivelse af oplysninger på en klar og synlig måde 39

7.2.

Første interaktion eller eksponering 40

7.3.

Overholdelse af gældende tilgængelighedskrav 40

8.

HÅNDHÆVELSE AF AI-FORORDNINGENS ARTIKEL 40

8.1.

Virkningerne af at overholde en praksiskodeks, der vurderes som tilstrækkelig 41

8.2.

Markedsovervågningsmyndigheder 42

8.3.

Sanktioner 42

8.4.

Ikrafttræden 42

9.

REVISION OG AJOURFØRING AF RETNINGSLINJERNE 43

1.   BAGGRUND OG MÅLSÆTNINGER

(1)

Europa-Parlamentets og Rådets forordning (EU) 2024/1689 af 13. juni 2024 om harmoniserede regler for kunstig intelligens og om ændring af visse forordninger (»AI-forordningen«) trådte i kraft den 1. august 2024 (1). AI-forordningen fastsætter harmoniserede regler for omsætning, ibrugtagning og anvendelse af kunstig intelligens (»AI«) i Unionen (2). Formålet er at fremme innovation inden for og udbredelsen af troværdig AI, samtidig med at der sikres et højt niveau af beskyttelse for sundhed, sikkerhed og grundlæggende rettigheder i Unionen, herunder demokratiet og retsstatsprincippet.

(2)

AI-forordningen følger en risikobaseret tilgang, hvor AI-systemer klassificeres i fire forskellige risikokategorier, hvoraf den ene omfatter AI-systemer, der indebærer gennemsigtighedsrisici, og som er omfattet af forpligtelserne i artikel 50 i AI-forordningen. Disse gennemsigtighedsforpligtelser finder anvendelse to år efter AI-forordningens ikrafttræden, dvs. fra den 2. august 2026.

(3)

I henhold til artikel 96, stk. 1, litra d), i AI-forordningen udstedes disse retningslinjer fra Kommissionen med henblik på at fungere som praktisk vejledning til at bistå de kompetente myndigheder samt udbydere og idriftsættere af AI-systemer med at sikre overholdelse af gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen på en sammenhængende, effektiv, forholdsmæssig og ensartet måde.

(4)

Udarbejdelsen af disse retningslinjer bygger på input fra en række interessenter, som blev indsamlet under en bred høring organiseret af Kommissionen, input fra medlemsstaterne i AI-Udvalget samt input fra interessenter om udkastet til retningslinjer, der blev offentliggjort med henblik på høring.

(5)

Disse retningslinjer er ikke bindende. Enhver autoritativ fortolkning af AI-forordningen kan i sidste ende kun foretages af Den Europæiske Unions Domstol (herefter »EU-Domstolen«).

2.   OVERSIGT OVER GENNEMSIGTIGHEDSFORPLIGTELSERNE OG HORISONTALE EMNER

2.1.   Oversigt over gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen

(6)

Artikel 50 i AI-forordningen omfatter fire gennemsigtighedsforpligtelser, der hver især finder anvendelse på forskellige typer AI-systemer eller deres output.

Bestemmelse

Type af AI-system/output

Gennemsigtighedsforpligtelse

Undtagelser eller særordninger

Artikel 50, stk. 1

AI-systemer, der interagerer direkte med fysiske personer

Udbydere skal udvikle og udforme AI-systemet på en sådan måde, at de pågældende fysiske personer oplyses om, at de interagerer med et AI-system.

Undtagelser: 1) Hvis interaktionens kunstige oprindelse er indlysende, eller 2) hvis systemet ved lov er godkendt til at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, medmindre systemet er tilgængeligt for offentligheden med henblik på at anmelde en strafbar handling.

Artikel 50, stk. 2

AI-systemer, der genererer eller manipulerer syntetisk billed-, video-, lyd- eller tekstindhold

Udbydere skal sikre, at AI-systemets output er mærket i et maskinlæsbart format og kan spores som kunstigt genereret eller manipuleret ved hjælp af tekniske løsninger, der er effektive, interoperable, robuste og pålidelige.

Undtagelser: Hvis 1) AI-systemet udfører en hjælpefunktion med henblik på standardredigering eller ikke i væsentlig grad ændrer inputdata eller semantikken heraf, eller, 2) hvis det ved lov er tilladt for at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger.

Artikel 50, stk. 3

AI-systemer til følelsesgenkendelse eller biometrisk kategorisering

Idriftsættere skal underrette de fysiske personer, der udsættes for systemet, om AI-driften af systemet.

Undtagelse: Hvis det ved lov er tilladt at anvende AI-systemet til at afsløre, forebygge eller efterforske strafbare handlinger.

art. 50, stk. 4

AI-systemer, der genererer eller manipulerer deepfakes eller tekst, som offentliggøres for at informere offentligheden om spørgsmål af offentlig interesse

Idriftsættere skal oplyse, at indholdet er blevet genereret kunstigt eller manipuleret.

Undtagelser: Hvis 1) AI-systemet ved lov er godkendt til at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, eller 2) hvis tekstpublikationen har været genstand for menneskelig gennemgang eller redaktionel kontrol og er omfattet af et redaktionelt ansvar.

Der gælder en særlig oplysningsordning for deepfakes, der udgør en del af kunstneriske, kreative, fiktive, satiriske eller tilsvarende værker eller programmer.

(7)

Hver af disse fire forpligtelser behandles i afsnit 3-6 i disse retningslinjer. Desuden fastsættes det i AI-forordningens artikel 50, stk. 5, at de oplysninger, der er omhandlet i stk. 1-4, gives til de pågældende fysiske personer på en klar og synlig måde senest på tidspunktet for den første interaktion eller eksponering og skal være i overensstemmelse med gældende tilgængelighedskrav. I afsnit 7 præciseres disse krav.

(8)

De forskellige gennemsigtighedsforpligtelser, der er fastsat i artikel 50 i AI-forordningen, kan finde kumulativ anvendelse på (outputtet fra) et enkelt AI-system og eventuelt medføre ansvar for forskellige aktører (udbydere eller idriftsættere). Hvis et AI-system f.eks. genererer billeder som led i en direkte interaktion med en fysisk person, kan udbyderen af systemet skulle overholde både artikel 50, stk. 1 og 2, i AI-forordningen. Hvis dette system også kan generere billeder, der udgør deepfakes, eller tekst, der offentliggøres om spørgsmål af offentlig interesse, kan idriftsætteren desuden skulle overholde artikel 50, stk. 4, i AI-forordningen.

2.2.   Begrundelse og mål

(9)

Som forklaret i betragtning 132-136 til AI-forordningen er formålet med gennemsigtighedsforpligtelserne at mindske risikoen for imitation, vildledning, misinformation, manipulation i stor målestok og svig og at afbøde de potentielle negative indvirkninger på demokratiske processer og tilliden i samfundet, der forårsages af AI-genereret eller manipuleret indhold eller interaktion. Informering af personer om interaktionens og indholdets AI-oprindelse hjælper dem med at træffe informerede beslutninger og bidrager samtidig til at beskytte tilliden til og integriteten af informationsøkosystemet. Gennemsigtighed er ikke blot et teknisk overholdelseskrav, men en forudsætning for at sætte fysiske personer i stand til at genkende AI-medierede interaktioner og indhold eller anvendelsen af systemer til følelsesgenkendelse eller biometrisk kategorisering. Sikring af gennemsigtig og troværdig anvendelse af interaktive og generative AI-systemer gør det også muligt at værne om den personlige uafhængighed og europæiske værdier, menneskers værdighed og andre grundlæggende rettigheder (f.eks. tankefrihed, privatlivets fred, lighed og ikkeforskelsbehandling, forbrugerbeskyttelse, intellektuelle ejendomsrettigheder osv.), samtidig med at ytringsfriheden og medieindholds troværdighed bevares.

2.3.   Ansvarlige aktører i henhold til AI-forordningens artikel 50

(10)

Ifølge AI-forordningens artikel 3, nr. 3), er udbydere en fysisk eller juridisk person, en offentlig myndighed, et agentur eller et andet organ, der udvikler eller får udviklet et AI-system eller en AI-model til almen brug og bringer dem i omsætning eller ibrugtager AI-systemet under eget navn eller varemærke, enten mod betaling eller gratis. Udbydere skal overholde de relevante gennemsigtighedsforpligtelser i AI-forordningens artikel 50, stk. 1 og 2, som finder anvendelse på dem, uanset om de er etableret eller befinder sig i Unionen eller i et tredjeland (3). Udbydere, der er etableret eller befinder sig uden for Unionen, er også omfattet af AI-forordningen, hvis outputtet fra deres AI-system anvendes i Unionen (4). Tilfældig, uforudsigelig eller uautoriseret anvendelse i efterfølgende led bør imidlertid ikke i sig selv udløse anvendelsen af forpligtelserne på sådanne tredjelandsudbydere af interaktive eller generative AI-systemer, der ikke bringes i omsætning eller ibrugtages i Unionen, uden at det berører de kompetente markedsovervågningsmyndigheders beføjelser til at anse deres output for ikke at være i overensstemmelse med AI-forordningen.

(11)

Udbydere skal sikre, at gennemsigtighed er indbygget i deres interaktive eller generative AI-systemers udformning og drift, samt at alle relevante gennemsigtighedsforpligtelser i AI-forordningens artikel 50, stk. 1, 2 og 5, er opfyldt senest, når disse systemer bringes i omsætning eller ibrugtages. Alle fysiske personer, der interagerer med AI-systemet eller eksponeres for dets output inden for anvendelsesområdet, skal informeres effektivt og konsekvent gennem hele AI-systemets livscyklus, således som det er bragt i omsætning eller ibrugtaget af den pågældende udbyder (uanset hvem der er idriftsættere eller andre brugere af systemet).

F.eks. udbyder en virksomhed en generativ eller interaktiv AI-applikation (f.eks. en chatbot, en billedgenerator eller en AI-agent) på EU-markedet under eget navn eller varemærke til forbrugere, professionelle brugere eller andre juridiske personer, der direkte kan anvende AI-systemet til interaktion eller indholdsgenerering (herunder ved at integrere systemet i deres eksisterende processer og anvende det i overensstemmelse hermed uden behov for ændringer eller yderligere komponenter). Virksomheden er en udbyder, der er ansvarlig for overholdelsen af gennemsigtighedsforpligtelserne i AI-forordningens artikel 50, stk. 1 og/eller 2, uanset om AI-systemet stilles til rådighed gratis eller mod betaling, og uanset om udbyderen er etableret eller befinder sig i Unionen eller i et tredjeland.

Et andet eksempel på en udbyder er en virksomhed eller en anden organisation (f.eks. en offentlig myndighed), der har udviklet et interaktivt AI-system (f.eks. en chatbot) internt og ibrugtager det i Unionen til eget brug og under sit navn eller varemærke.

Hvis en virksomhed tager et allerede eksisterende generativt AI-system, der er bragt i omsætning af en anden udbyder, og ændrer dette system (f.eks. med nye træningsdata), som den efterfølgende ibrugtager under eget navn eller varemærke, bliver virksomheden udbyder af det nye system, uden at dette berører det ansvar, som udbyderen af det oprindelige AI-system har for dette.

(12)

Idriftsættere er fysiske eller juridiske personer, offentlige myndigheder, agenturer eller andre organer, der anvender et AI-system under deres myndighed, medmindre AI-systemet anvendes som led i en personlig ikkeerhvervsmæssig aktivitet (5). Ved »myndighed« over et AI-system bør forstås, at der påtages ansvar for beslutningen om at idriftsætte systemet og for den måde, hvorpå systemet faktisk anvendes (herunder dets output). Dette kræver ikke nødvendigvis teknisk kontrol med AI-systemets drift, så længe idriftsætteren træffer beslutning om, til hvilke formål og hvordan AI-systemet skal anvendes (herunder i decentraliserede arbejdsgange og koncernstrukturer). Idriftsættere, der er involveret i komplekse værdikæder for produktion og distribution af indhold, bør træffe forholdsmæssige foranstaltninger for at sikre, at den mærkning af indholdet, som de har gennemført i henhold til AI-forordningens artikel 50, stk. 4, vises på en klar og synlig måde for den tilsigtede og forudsigelige målgruppe på tidspunktet for den første eksponering i overensstemmelse med AI-forordningens artikel 50, stk. 5 (f.eks. via kontraktvilkår med distributionspartnere, indstillinger for brugeroplevelse (UX) og grænseflader, der skal vises).

(13)

Idriftsættere er omfattet af gennemsigtighedsforpligtelserne i AI-forordningens artikel 50, stk. 3 og 4, hvis deres etableringssted eller beliggenhed er i Unionen, eller hvis de er etableret eller befinder sig i et tredjeland, hvor AI-systemets output anvendes i Unionen (6). I sidstnævnte tilfælde finder gennemsigtighedsforpligtelserne anvendelse på enheder, der befinder sig eller er etableret uden for Unionen, hvor idriftsætteren selv forudser formidling og anvendelse af AI-output i Unionen (dvs. ved at målrette eller tillade distribution i Unionen, herunder ved at lægge deepfakes på det globalt tilgængelige internet). Idriftsættere fra tredjelande er imidlertid ikke bundet af gennemsigtighedsforpligtelserne, hvis AI-systemets indhold når ud til brugere i Unionen gennem kanaler, der er uforudsigelige og uden for deres kontrol.

(14)

Hvis idriftsætteren af et AI-system er en juridisk person, under hvis myndighed systemet anvendes (f.eks. en reklamevirksomhed), bør de enkelte medarbejdere, der handler efter instrukser fra og under denne juridiske persons kontrol (f.eks. digitale animatorer, webdesignere, indholdsskabere og journalister), ikke betragtes som særskilte idriftsættere af dette system. En juridisk person forbliver idriftsætter, hvis den inddrager tredjeparter (f.eks. kontrahenter og freelancere) i driften af systemet på dens vegne og under dens ansvar og kontrol.

F.eks. er et medieforetagende, der er etableret i Unionen, og hvis redaktører anvender et AI-system til at støtte deres dækning i de trykte medier af aktuelle begivenheder med AI-genererede tekstpublikationer om spørgsmål af offentlig interesse, der lægges på et globalt tilgængeligt websted, en idriftsætter, der er omfattet af AI-forordningens anvendelsesområde. Tilsvarende er en virksomhed, der er etableret i et tredjeland, og som anvender et AI-system til at generere en deepfake af en berømthed, der indgår i en reklame, som vises i Unionen, også en idriftsætter, der er omfattet af AI-forordningens anvendelsesområde.

Derimod er en virksomhed, der blot giver et reklamebureau til opgave at producere en reklame uden at træffe beslutninger og udøve kontrol med, om og hvordan reklamebureauet anvender AI i produktionsprocessen, ikke en idriftsætter.

(15)

Operatører (f.eks. udbydere og idriftsættere) kan varetage mere end én rolle samtidigt i forbindelse med et AI-system. Eksempelvis kan en virksomhed udvikle et generativt AI-system internt og anvende det til generering af deepfakes. I et sådant tilfælde kvalificeres den som både udbyder og idriftsætter og skal sikre overholdelse af forpligtelserne til maskinlæsbar mærkning i henhold til AI-forordningens artikel 50, stk. 2, og kravene om en klar og synlig mærkning af deepfakes i henhold til AI-forordningens artikel 50, stk. 4.

(16)

Derimod er andre aktører (såsom udbydere af hostingtjenester, herunder onlineplatforme, eller TV-spredningsforetagender), hvis rolle er begrænset til at formidle eller transmittere AI-genereret eller manipuleret indhold, der er skabt af tredjeparter, eller som modtager eller eksponeres for AI-genereret eller manipuleret indhold uden at have myndighed over anvendelsen af AI-systemet med henblik på generering eller manipulation af AI-indholdet, ikke idriftsættere som omhandlet i AI-forordningen. Uden at være ansvarlige og erstatningsansvarlige i henhold til AI-forordningen kan disse aktører ikke desto mindre spille en vigtig rolle i værdikæden med hensyn til at bevare tilliden til og integriteten af informationsøkosystemet. De opfordres derfor kraftigt til at bevare den mærkning, der er gennemført i henhold til AI-forordningens artikel 50, og foretage forholdsmæssige og teknisk gennemførlige foranstaltninger, der gør det muligt for fysiske personer at opdage AI-genereret eller manipuleret indhold, uden at dette berører ansvaret for udbydere og idriftsættere af generative AI-systemer eller eventuelle forpligtelser eller eventuelt ansvar i henhold til forordning (EU) 2022/2065 (forordningen om digitale tjenester) (7) eller anden gældende EU-ret eller national ret.

(17)

Andre aktører, der handler i erhvervsøjemed og formidler indhold (selv om de ikke er direkte omfattet af AI-forordningens artikel 50), opfordres også til at træffe forholdsmæssige og passende foranstaltninger, således at de fysiske personer, der i sidste ende eksponeres for indholdet, informeres effektivt og er i stand til at opdage dets kunstigt genererede eller manipulerede oprindelse. Desuden kan disse parter være forpligtet til at mærke de pågældende deepfakes eller tekstpublikationer om spørgsmål af offentlig interesse i henhold til andre gældende retlige eller deontologiske regler (f.eks. et TV-spredningsforetagende, der mærker og viser en deepfake, som er skabt af en privatperson, som en del af et TV-program). Alene den omstændighed, at en aktør mærker indhold eller anvender mærket indhold, betyder imidlertid ikke, at den pågældende aktør kvalificeres som en »idriftsætter« som omhandlet i AI-forordningen. AI-forordningen udvider eller påvirker ikke disse aktørers retlige ansvar i henhold til de gældende retlige rammer, hvis de ikke samtidig kvalificeres som udbydere eller idriftsættere af AI-systemer.

2.4.   Undtagelser fra AI-forordningens anvendelsesområde

(18)

I artikel 2 i AI-forordningen fastsættes en række generelle undtagelser fra AI-forordningens anvendelsesområde, som allerede er blevet præciseret i Kommissionens retningslinjer om forbudte former for praksis vedrørende kunstig intelligens (8). Dette afsnit omhandler derfor kun de aspekter, der er relevante for gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen.

2.4.1.   Idriftsættere, der handler som led i rent personlige ikkeerhvervsmæssige aktiviteter

(19)

I henhold til artikel 2, stk. 10, i AI-forordningen finder forordningen »ikke anvendelse på forpligtelser for idriftsættere, som er fysiske personer, der anvender AI-systemer som led i rent personlige ikkeerhvervsmæssige aktiviteter« (9). Enhver aktivitet, hvorved fysiske personer regelmæssigt opnår en økonomisk gevinst eller på anden måde er involveret i erhvervs-, forretnings-, handels-, beskæftigelses- eller freelanceaktivitet, bør anses for en »erhvervsmæssig« aktivitet. Betegnelsen »rent personlig« præciserer »ikkeerhvervsmæssig«, hvilket betyder, at personen skal handle både i personlig og i ikkeerhvervsmæssig egenskab for at være omfattet af undtagelsen. Enhver anvendelse foretaget af fysiske personer, der handler på vegne af eller under en idriftsætters myndighed, når denne idriftsætter handler i erhvervsmæssig egenskab, er omfattet af den professionelle idriftsætters gennemsigtighedsforpligtelser fastsat i artikel 50, stk. 3 og 4, i AI-forordningen.

Eksempler på personlig ikkeerhvervsmæssig anvendelse af AI-systemer, som ikke er omfattet af anvendelsesområdet:

—

personer, der anvender et AI-system til at generere deepfakes af medlemmer af deres husstand

—

personer, der anvender et AI-system som privatperson til at generere tekst om forskellige emner (f.eks. studerende, der anvender AI til deres lektier)

—

personer, der anvender et AI-system som privatperson til at generere deepfakes, der spredes på sociale medier

(20)

Undtagelsen i AI-forordningens artikel 2, stk. 10, finder kun anvendelse for så vidt angår idriftsætternes forpligtelser, når de anvender systemet til rent personlige ikkeerhvervsmæssige aktiviteter. Selve systemet er fortsat omfattet af AI-forordningens anvendelsesområde for så vidt angår forpligtelserne for udbydere, der bringer systemet i omsætning eller ibrugtager det, og for idriftsættere, der anvender systemet til erhvervsmæssig brug. Undtagelsen berører heller ikke anvendelsen af anden relevant EU-ret og national ret.

F.eks. bør udbyderen af det AI-system, der anvendes til at generere deepfakes til brug på et personligt julekort, mærke disse deepfakes på en maskinlæsbar måde i overensstemmelse med den gennemsigtighedsforpligtelse, der er fastsat i artikel 50, stk. 2, i AI-forordningen. Samtidig er fysiske personers anvendelse af systemet til rent personlige ikkeerhvervsmæssige aktiviteter ikke omfattet af idriftsætterforpligtelsen i artikel 50, stk. 4, i AI-forordningen.

2.4.2.   Forskning og udvikling

(21)

I artikel 2, stk. 6, i AI-forordningen fastsættes en undtagelse for AI-systemer eller AI-modeller, herunder deres output, som specifikt er udviklet og ibrugtaget udelukkende med henblik på videnskabelig forskning og udvikling. Denne undtagelse berører ikke gældende forskningsetiske standarder og EU-lovgivning om databeskyttelse og anden lovgivning. I forbindelse med artikel 50 i AI-forordningen omfatter denne undtagelse ikke kun interaktive AI-systemer, men også output fra generative AI-systemer (herunder deepfakeindhold), der anvendes i forbindelse med videnskabelig forskning. Hvis disse systemer imidlertid ibrugtages, eller deres output anvendes til andre formål end udelukkende videnskabelig forskning og udvikling, skal de relevante gennemsigtighedsforpligtelser i artikel 50 i AI-forordningen stadig overholdes.

Hvis forskere f.eks. udvikler og bringer et interaktivt AI-system i omsætning eller ibrugtager det og ønsker at undersøge, om fysiske personer er i stand til at skelne mellem AI-systemer og mennesker, når de indgår i mundtlig interaktion med det pågældende AI-system, behøver de ikke at gennemføre de respektive gennemsigtighedsforpligtelser i artikel 50, stk. 1 og 2, i AI-forordningen. Hvis det samme interaktive AI-system imidlertid også ibrugtages til andre formål end forskning og udvikling, skal de relevante gennemsigtighedsforpligtelser i artikel 50 i AI-forordningen overholdes.

(22)

I artikel 2, stk. 8, i AI-forordningen udelukkes endvidere forsknings-, afprøvnings- eller udviklingsaktiviteter vedrørende AI-systemer eller AI-modeller, inden de bringes i omsætning eller ibrugtages. Afprøvning under faktiske forhold (inden for eller uden for reguleringsmæssige AI-sandkasser) er ikke omfattet af denne undtagelse. Endvidere bør et AI-system, når det er bragt i omsætning eller ibrugtaget som følge af sådanne forsknings- og afprøvningsaktiviteter, ikke desto mindre overholde de relevante gennemsigtighedsforpligtelser i henhold til artikel 50 i AI-forordningen (10).

2.4.3.   AI frigivet under gratis open source-licenser

(23)

I henhold til artikel 2, stk. 12, i AI-forordningen falder AI-systemer, der frigives i henhold til gratis open source-licenser, uden for AI-forordningens anvendelsesområde, forudsat at de ikke er omfattet af forbuddene i artikel 5 i AI-forordningen eller gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen og ikke klassificeres som højrisiko (11). Dette betyder, at udbydere og idriftsættere af open source-AI-systemer, der er omfattet af artikel 50 i AI-forordningen, stadig skal sikre overholdelse af deres respektive gennemsigtighedsforpligtelser.

(24)

Derimod er udbydere af gratis open source-AI-komponenter, der omfatter software, data, modeller, værktøjer, tjenester eller processer til tilpasning og integrering i et AI-system, og som ikke i sig selv (delvist eller helt) udgør et AI-system, ikke underlagt gennemsigtighedsforpligtelserne i artikel 50 i AI-forordningen. Udbydere af sådanne systemer opfordres ikke desto mindre til at udforme disse modeller, komponenter og tjenester på den måde, der er beskrevet i punkt 27 nedenfor, i det omfang dette er forholdsmæssigt og gennemførligt.

2.5.   Samspil med de forbudte former for praksis, kravene til højrisiko-AI-systemer og AI-færdigheder

(25)

Betragtning 137 til AI-forordningen præciserer, at den omstændighed, at gennemsigtighedsforpligtelserne i henhold til artikel 50 i AI-forordningen overholdes for et bestemt AI-system, ikke kan fortolkes således, at anvendelsen af systemet eller dets output er lovlig i henhold til AI-forordningen. Navnlig kan AI-systemer, der er omfattet af forpligtelserne i artikel 50 i AI-forordningen, være omfattet af artikel 5 i AI-forordningen og dermed være forbudt (f.eks. brugen af systemer til følelsesgenkendelse på arbejdspladser eller i uddannelsesinstitutioner) (12). Desuden kan AI-systemer, der falder inden for anvendelsesområdet for artikel 50 i AI-forordningen, også klassificeres som højrisikosystemer (13) og være omfattet af de relevante krav og forpligtelser for sådanne systemer. Overholdelse af artikel 50 i AI-forordningen erstatter, begrænser eller berører derfor ikke forpligtelser, der følger af andre bestemmelser i AI-forordningen (14). Samtidig kan AI-systemer også falde inden for anvendelsesområdet for artikel 50 i AI-forordningen uden at blive klassificeret som højrisikosystemer i henhold til artikel 6 i AI-forordningen. Kravene til AI-færdigheder i henhold til artikel 4 i AI-forordningen gælder også for både udbydere og idriftsættere af AI-systemer, der falder inden for anvendelsesområdet for artikel 50 i AI-forordningen.

2.6.   Samspil med de regler, der gælder for AI-modeller og/eller AI-systemer til almen brug

(26)

Artikel 50 i AI-forordningen finder anvendelse på visse AI-systemer, hvilket omfatter AI-systemer til almen brug (15), såsom chatbots, der understøtter direkte interaktion med fysiske personer, eller AI-systemer, der kan generere eller manipulere syntetisk indhold (herunder deepfakes) (16).

(27)

Artikel 50 i AI-forordningen finder ikke udtrykkeligt anvendelse på AI-modeller til almen brug. Hvis et interaktivt eller generativt AI-system, der falder inden for anvendelsesområdet for artikel 50, stk. 1 eller 2, i AI-forordningen, er bygget på en AI-model til almen brug, der leveres af den samme udbyder, kan de gennemsigtighedsforanstaltninger, der er fastsat i disse retningslinjer, imidlertid også gennemføres på modelniveau (se også afsnit 4 nedenfor). Selv om de falder uden for anvendelsesområdet for artikel 50 i AI-forordningen, opfordres udbydere af andre AI-modeller til almen brug og af andre generative AI-modeller desuden også til at gennemføre passende gennemsigtighedsforanstaltninger på modelniveau med henblik på identifikation af interaktive AI-systemer og mærkning af AI-genereret og manipuleret indhold. Dette er særlig nyttigt for at lette downstreamudbydere af AI-systemers overholdelse af deres forpligtelser i henhold til artikel 50, stk. 1 og 2, i AI-forordningen (17) og for at bidrage til at bevare tilliden til og integriteten af informationsøkosystemet. For AI-modeller til almen brug, der udgør en systemisk risiko, kan sikkerhedsforanstaltninger på modelniveau med henblik på identifikation af AI-interaktioner og mærkning af AI-genereret eller manipuleret indhold, hvor det er relevant, udgøre en del af et bredere sæt af afbødende foranstaltninger, som udbydere kan træffe som led i deres forpligtelse til at afbøde systemiske risici i henhold til artikel 55, stk. 1, litra b), i AI-forordningen.

3.   AI-FORORDNINGENS ARTIKEL 50, STK. 1: GENNEMSIGTIGHED FOR INTERAKTIVE AI-SYSTEMER

(28)

Artikel 50, stk. 1, i AI-forordningen er rettet til udbydere af AI-systemer, der interagerer direkte med fysiske personer, og som skal udforme og udvikle deres systemer på en sådan måde, at de pågældende fysiske personer oplyses om, at de interagerer med et AI-system. Som forklaret i betragtning 132 til AI-forordningen er formålet med denne oplysningspligt at sætte disse fysiske personer i stand til at træffe informerede beslutninger vedrørende systemets output, at undgå i overdreven grad at forlade sig på sådanne systemer og at give disse fysiske personer mulighed for at afpasse deres tillid til indholdet og interaktionerne i overensstemmelse hermed.

3.1.   Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser

(29)

Gennemsigtighedsforpligtelsen i artikel 50, stk. 1, i AI-forordningen finder anvendelse på udbydere af AI-systemer, når systemet er tilsigtet at interagere direkte med fysiske personer, og denne interaktion ikke er omfattet af nogen af følgende undtagelser: 1) det er indlysende ud fra en rimeligt velinformeret, opmærksom og forsigtig fysisk persons synspunkt, eller 2) systemet er ved lov godkendt til at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, medmindre systemet er tilgængeligt for offentligheden med henblik på at anmelde en strafbar handling.

3.1.1.   AI-systemer, der er tilsigtet at interagere direkte med fysiske personer

(30)

Der skal foreligge fire elementer, for at et system er omfattet af anvendelsesområdet for artikel 50, stk. 1, i AI-forordningen: i) systemet skal være et AI-system, ii) det skal være tilsigtet at interagere, iii) interaktionen skal være direkte, iv) interaktionen skal ske med fysiske personer.

i)

Et AI-system: Systemet skal opfylde elementerne i definitionen af et AI-system (18), hvilket udelukker simple automatiserede svarmekanismer uden AI (f.eks. traditionelle fraværs-e-mails og regelbaserede hurtigsvar på beskeder).

ii)

Tilsigtet at interagere: AI-systemet skal være tilsigtet at interagere med fysiske personer. Interaktion indebærer evnen til tovejsudveksling af oplysninger eller handlinger mellem fysiske personer og AI-systemet med reel samtale- eller svarkarakter. Den kan forekomme i forskellige former (f.eks. auditivt, visuelt og fysisk). Fysiske personer bør kunne give input (f.eks. skriftlig tekst eller andre former for indhold, stemme eller fysiske handlinger) til AI-systemet (f.eks. via tekniske kommunikationsmidler, herunder onlinegrænseflader, telefon eller e-mail, eller direkte), mens AI-systemet bør være i stand til at svare med kontekstuelt output (herunder enhver type indhold eller handlinger) og omvendt. Interaktionen kan omfatte enhver type output eller ethvert format, som mennesker kan opfatte og forstå. Den behøver ikke at være iværksat af et menneske, men kan også omfatte AI-indhold eller handlinger, der fremkalder en menneskelig reaktion. Interaktionen kan være en engangsudveksling (f.eks. en enkelt prompt efterfulgt af et enkelt svar) eller finde sted over et vist tidsrum (flere dialogrunder). Systemer, der kun passivt indsamler data og ikke er i stand til at indgå i en udveksling med fysiske personer (f.eks. automatiserede adgangskontroller med ansigtsgenkendelse) eller blot indsamler engangsfeedback (f.eks. spamfiltre), anses ikke for at interagere med fysiske personer.

iii)

Direkte interaktion: Interaktionen mellem AI-systemet og de fysiske personer skal være direkte. Dette indebærer typisk interaktion i realtid eller næsten realtid (herunder gennem systemets kapacitet til at skrive og sende beskeder til fysiske personer eller på anden måde interagere med det fysiske eller virtuelle miljø, som fysiske personer kan opfatte). Direkte interaktion udelukker indirekte eller formidlet menneskelig interaktion, hvor en fysisk person udsættes for AI-output uden at interagere direkte med systemet (f.eks. hvis kundeservicemedarbejdere anvender AI-værktøjer til at hjælpe dem med at kommunikere med fysiske personer, eller hvis outputtet fra AI-systemet ikke stilles til rådighed for personen af selve AI-systemet, men af en anden person, der udbreder indholdet). Den blotte mulighed for, at mennesker kan gribe ind eller gennemgå AI-systemets output, bør imidlertid ikke anvendes til at omgå anvendelsen af oplysningskravet i artikel 50, stk. 1, i AI-forordningen. Tilfælde, hvor produkter og tjenester blander AI-genererede svar med menneskeligt kurateret indhold, er omfattet af anvendelsesområdet for artikel 50, stk. 1, i AI-forordningen og kræver oplysning for de specifikke output i interaktionen, der er AI-genererede, medmindre disse AI-output er blevet behørigt gennemgået og sendt af mennesker som de primære samtalepartnere for de fysiske personer.

iv)

Med fysiske personer: Artikel 50, stk. 1, i AI-forordningen kræver, at AI-systemet interagerer med fysiske personer. Disse personer kan være professionelle idriftsættere, andre brugere (som også anvender systemet til rent personlige aktiviteter) eller andre personer, der anvender systemet på deres vegne. AI-systemer, der opererer i et lukket fysisk miljø (såsom en del af en opstilling med industrimaskiner), backendkald fra maskine til maskine mellem AI-systemer (herunder AI-agenter), hvis output ikke er tilsigtet at nå fysiske personer, eller virtuelle miljøer uden nogen direkte kontakt med fysiske personer, er ikke omfattet af forpligtelsens anvendelsesområde.

(31)

AI-agenter er omfattet af artikel 50, stk. 1, i AI-forordningen, hvis de er i stand til at interagere med de personer, der instruerer dem, eller med andre fysiske personer under udførelsen af opgaverne (f.eks. foretage reservationer, håndtere korrespondance, forhandle eller indgå kontrakter, gennemføre køb osv.). AI-agenter skal udformes og udvikles på en sådan måde, at de oplyser om både deres kunstige karakter og den person, på hvis vegne de handler, under hensyntagen til behovet for gennemsigtighed om oprindelsen og delegeringen af beføjelser samt ansvarlighed for konsekvenserne af deres handlinger. Dette omfatter tilfælde, hvor AI-agenter er i stand til at interagere i komplekse multiagentarkitekturer med andre AI-agenter, der direkte interagerer med de fysiske personer under udførelsen af opgaven. Ikke desto mindre er det ikke altid muligt for udbyderen af AI-agenten på forhånd at identificere individuelle tilfælde af direkte interaktion mellem en AI-agent og andre fysiske personer, når AI-agenten er idriftsat i forskellige sammenhænge. Hvis udbyderen ikke pålideligt kan fastslå, om AI-agenten kommer til at interagere direkte med en fysisk person, før AI-agenten bringes i omsætning eller ibrugtages, bør agenten udformes på arkitekturniveau og instrueres i at identificere sig som sådan i enhver situation, hvor det med rimelighed er sandsynligt, at agenten kan interagere med en fysisk person (herunder hvor en fysisk person kan repræsentere eller handle for en juridisk person). Desuden bør AI-agenter også identificere sig over for de personer, der instruerer dem, på centrale trin (f.eks. ved godkendelse, rapportering, validering osv., herunder når den idriftsatte AI-agent modtager, behandler eller anvender output genereret af andre AI-systemer snarere end direkte af en fysisk person) og ved hver ny interaktion.

Eksempler på AI-systemer, der er tilsigtet at interagere direkte med fysiske personer, og som er omfattet af anvendelsesområdet for artikel 50, stk. 1, i AI-forordningen:

—

AI-baserede stemmeassistenter, chatbots/samtaleagenter i forskellige sammenhænge (f.eks. offentlig service, kundesupport, klagebehandling, e-handel, finans, sundhedspleje, uddannelse osv.)

—

AI-hotlines til indberetning af hændelser, svig eller andre forhold, (humanoide) robotter/cobots, AI-ledsagere, robotkæledyr, AI-avatarer (f.eks. i virtual reality-miljøer)

—

AI-bots på sociale netværk og i medier, programmeringsagenter og andre AI-agenter, der er i stand til at interagere direkte med fysiske personer (herunder i komplekse multiagentarkitekturer).

3.2.1.

Eksempler på AI-systemer, der ikke interagerer direkte med fysiske personer, og som ikke er omfattet af anvendelsesområdet for artikel 50, stk. 1, i AI-forordningen:

—

traditionelle industrirobotter med AI-funktioner, der opererer i et lukket industrielt miljø og ikke er tilsigtet at interagere med mennesker (f.eks. robotter til elektronikmontage)

—

AI-baserede anbefalingssystemer, spamfiltre, værktøjer til automatiseret oversættelse eller transkription

—

AI-baseret søgning efter og fremfinding af oplysninger uden generering eller ændring af indhold

—

AI-baserede teknikker til automatisk fuldførelse af tekst og kode, autentificeringssystemer/biometriske genkendelsessystemer, backendsystemer til beslutningsstøtte, hvor brugeren kun ser AI-outputtet uden mulighed for direkte interaktion med systemet

—

AI-baserede systemer til prædiktiv vedligeholdelse og optimering på fabrikker og i industrielle anvendelser, AI-assisteret produktvisualisering (f.eks. virtuel prøvning, rumiscenesættelse, produktgengivelse), AI-understøttede ruteplanlægningsværktøjer med én dialogrunde, transkription af kundeopkald, der behandles med henblik på adfærdsanalyse osv.

3.1.2.   Oplysningspligt i henhold til AI-forordningens artikel 50, stk. 1

(32)

Artikel 50, stk. 1, i AI-forordningen pålægger udbydere af AI-systemer, der interagerer direkte med fysiske personer, at sikre, at deres AI-systemer (herunder AI-agenter og AI-systemer til almen brug) udformes og udvikles på en sådan måde, at de pågældende fysiske personer oplyses om, at de interagerer med et AI-system.

(33)

Selv om mekanismen til at oplyse bør være indbygget i systemets udformning og udvikling og i den måde, hvorpå systemet interagerer med de fysiske personer, bør meddelelsen gives under AI-systemets drift og senest på tidspunktet for den første interaktion med den fysiske person (som krævet i artikel 50, stk. 5, i AI-forordningen, se afsnit 7 nedenfor). Udbyderne er ansvarlige for at sikre, at fysiske personer, der interagerer med AI-systemet, efter at AI-systemet er bragt i omsætning eller ibrugtaget, oplyses effektivt og konsekvent i hele AI-systemets livscyklus, således som det er bragt i omsætning eller ibrugtaget af den pågældende udbyder.2.2

(34)

Oplysningsformat: Artikel 50, stk. 1, i AI-forordningen angiver ikke nogen bestemt oplysningsteknik. Udbydere kan derfor vælge enhver passende teknik, så længe to krav er opfyldt: i) kravene i artikel 50, stk. 5, i AI-forordningen er opfyldt for så vidt angår levering af klare og synlige oplysninger senest på tidspunktet for den første interaktion (se afsnit 7 nedenfor), og ii) der tages hensyn til egenskaber hos fysiske personer, der tilhører sårbare grupper på grund af deres alder (f.eks. børn eller ældre) eller handicap, i det omfang AI-systemet er tilsigtet at interagere eller med rimelighed kan forventes at interagere med fysiske personer, der tilhører disse grupper (f.eks. også når AI-systemet med rimelighed kan forventes at interagere med offentligheden) (19). Oplysningerne skal også gives i et format, der er tilgængeligt for fysiske personer med handicap, som angivet i artikel 50, stk. 5, og betragtning 132 til AI-forordningen (se afsnit 7). Hvis systemet kan interagere med børn, skal disse meddelelser være børnevenlige, alderssvarende, letforståelige og let tilgængelige for alle børn, herunder børn med handicap eller yderligere tilgængelighedsbehov. Hvor det er muligt og hensigtsmæssigt, anbefales udbyderne at anvende standardiseret oplysningspraksis og standardiserede mærkater for at sikre, at meddelelserne er effektive og konsekvente, og at brugernes bevidsthed øges.

(35)

Underretningens indhold: Artikel 50, stk. 1, i AI-forordningen kræver, at udbydere af interaktive AI-systemer udformer og udvikler dem på en sådan måde, at alle fysiske personer, der interagerer med sådanne AI-systemer, udtrykkeligt oplyses om den kunstige, ikkemenneskelige karakter af den interagerende modpart. Hvis udbyderen med rimelighed kan forudse, at AI-systemet kan interagere med fysiske personer, der tilhører ovennævnte sårbare grupper, bør oplysningerne tilpasses i overensstemmelse hermed og gives i et tilgængeligt format som krævet i henhold til gældende EU-ret for også at sikre disse fysiske personers fulde forståelse (20).

(36)

Meddelelserne bør give oplysninger om interaktionens kunstige oprindelse på måder, der er passende i forhold til den sammenhæng, hvori interaktionen finder sted. Dette bør ske på en måde, der sikrer, at de berørte personer oplyses korrekt og effektivt, så enhver risiko for vildledning eller manipulation undgås før og gennem hele interaktionen, samtidig med at det sikres, at oplysningstiltagene er gennemførlige og forholdsmæssige. Eksempler på levering af oplysningerne omfatter skriftlige meddelelser (f.eks. en chatbot, der indleder en samtale med at nævne, at den er baseret på AI-teknologi), visuelle midler (f.eks. en e-mail genereret af en AI-agent og sendt til en fysisk person, som har en AI-mærkat øverst), auditive midler (f.eks. en stemmeassistent, der ved begyndelsen af en session siger, at den drives af AI), oplysning om AI-identifikatorer og legitimationsoplysninger (f.eks. AI-agenter, der oplyser om deres AI-identitet i det omfang, det er muligt, på en verificerbar måde) (21).

(37)

Underretningens format: Det anbefales som bedste praksis at udforme AI-systemet med multimodale og tilgængelige oplysningsmetoder. Sådanne underretninger kan kombinere forskellige teknikker for at styrke brugernes forståelse, hvor det er hensigtsmæssigt, og afhængigt af sammenhængen og de tilsigtede og forudsigelige målgrupper samt udbydernes disponible ressourcer, navnlig små og mellemstore virksomheder (SMV’er). Eksempler på passende teknikker kan omfatte:

—

Tekstbaseret oplysning (baseret på brugergrænseflade): Fremtrædende mærkater eller bannere i almindeligt sprog (f.eks. »Du interagerer med et AI-system«) og første hilsner i chatbots, som, hvor det er relevant, kan kombineres med faste badges eller mærkater, der er synlige gennem hele interaktionen i et omfang, der står i et rimeligt forhold til den specifikke sammenhæng og de specifikke risici. Det anbefales desuden at placere ledsagende oplysninger tæt på interaktionsgrænsefladen (f.eks. i nærheden af input-/outputfeltet) og anvende enkle formuleringer, navnlig for brugere med lavere digitale færdigheder og børn.

—

Auditiv oplysning: I stemmebaserede sammenhænge eller telefonsammenhænge kan udtrykkelige mundtlige erklæringer ved begyndelsen af interaktionen (f.eks. »Dette er en AI-drevet assistent«) kombineres, hvor det er relevant, med periodiske påmindelser ved længere interaktioner, navnlig i tilfælde af afbrydelser eller en ændring af AI-systemets rolle under en brugerrejse. Særlige lydsignaler (f.eks. toner eller akustiske ikoner) kan understøtte genkendelse, navnlig for synshæmmede brugere, men anses ikke i sig selv for tilstrækkelige.

—

Visuelle/grafiske signaler: Udformning af AI-systemet med faste ikoner, vandmærker, farvede rammer eller genkendelige »AI«-symboler som supplement til tekstbaserede oplysninger. Det anbefales at anvende standardiserede visuelle indikatorer, herunder på tværs af en udbyders tjenester, da sådanne indikatorer i betydelig grad kan mindske den kognitive belastning og øge genkendeligheden.

—

Multimodale kombinationer: Kombination af tekst, lydsignaler og visuelle signaler (f.eks. en chatbot, der viser en mærkat og samtidig giver en første tekstbaseret oplysning) for at sikre tilgængelighed og styrke klarheden på tværs af forskellige brugergrupper.

(38)

Visse teknikker er ikke nødvendige, og når de anvendes alene, er de utilstrækkelige til effektivt at opfylde gennemsigtighedsforpligtelsen i artikel 50, stk. 1 og 5, i AI-forordningen, navnlig:

—

Oplysninger, der kun findes i vilkår og betingelser, URL’er eller dokumentation (sådanne oplysninger kan supplere, men ikke erstatte, oplysning i konteksten)

—

Maskinlæsbare mærkninger (f.eks. metadata eller vandmærker), som brugerne ikke kan opfatte på interaktionstidspunktet. Dette berører ikke sådanne mærkers egnethed til at opfylde artikel 50, stk. 2, i AI-forordningen (se afsnit 4)

—

Uklare eller tvetydige signaler (f.eks. generiske henvisninger til »assistent«) eller menneskelignende repræsentationer, der kan vildlede brugerne

—

Generaliserede oplysninger, som ikke er tilstrækkeligt specifikke for AI-systemets output og interaktioner (f.eks. på en platform, der tilbyder en række forskellige tjenester eller individuelle input, er en generel oplysning såsom »Tjenester på dette websted anvender AI« utilstrækkelig)

—

Tekniske eller kapacitetsbaserede beskrivelser: erklæringer, der udelukkende henviser til underliggende teknologier (f.eks. »dette system anvender LLM’er«) uden at forklare systemets funktion eller konsekvenser for brugeren og dets kunstige oprindelse.

(39)

Oplysninger bør være forholdsmæssige og afstemt efter AI-systemets forskellige sammenhænge og målgrupper for at forblive effektive og brugervenlige og i videst muligt omfang undgå forstyrrelser af brugeroplevelsen eller tilvænningseffekter (såkaldt »bannerblindhed«).

(40)

En enkelt fremtrædende meddelelse før AI-systemets første interaktion med en bestemt fysisk person vil sandsynligvis i de fleste tilfælde være tilstrækkelig til at opfylde forpligtelsen i artikel 50, stk. 1, i AI-forordningen. I visse mere risikofyldte sammenhænge vil periodiske påmindelser og kontekstafhængige oplysninger dog sandsynligvis være nødvendige for at sikre fortsat brugerbevidsthed. Dette er navnlig tilfældet i forbindelse med AI-systemer, der interagerer med sårbare personer (f.eks. børn, ældre, personer med handicap og personer med lavere læsefærdigheder), vedvarende interaktioner og interaktioner, der udvikler sig, i følsomme eller immersive sammenhænge (f.eks. hvor brugerne kan give udtryk for eller opleve følelsesmæssig belastning eller sårbarhed eller være i risiko for afhængighedslignende adfærd), hvor der er en øget risiko for, at brugerne vildledes (f.eks. finansiel rådgivning, forsikring, juridisk bistand, sundhedsrådgivning og klagebehandling), eller for, at de udvikler følelsesmæssige tilknytninger eller afhængighedsforhold (f.eks. AI-ledsagere), samt når der er behov for at sikre bevidsthed om og kontrol over AI-agenters handlinger. Udbydere skal også udforme og udvikle AI-systemet med henblik på at sikre oplysning i alle situationer, hvor AI-systemet stilles spørgsmål om dets karakter eller om interaktionens oprindelse, eller hvor det på grundlag af udvekslingerne med den fysiske person med rimelighed kan antages, at denne person sandsynligvis vil blive vildledt eller forvirret med hensyn til interaktionens AI-oprindelse.

3.2.   Undtagelser fra oplysningspligten i artikel 50, stk. 1, i AI-forordningen

(41)

I artikel 50, stk. 1, i AI-forordningen fastsættes to undtagelser fra oplysningspligten vedrørende interaktive AI-systemer, som behandles nedenfor.

3.2.1.   Undtagelse for åbenbar interaktion med et AI-system

(42)

For at kunne påberåbe sig den første undtagelse skal udbyderne vurdere og påvise: i) at interaktionens kunstige karakter er åbenbar for ii) en fysisk person, der skal være rimeligt velunderrettet, opmærksom og forsigtig, under hensyntagen til omstændighederne og anvendelsessammenhængen.

(43)

Denne målestok bygger på den etablerede EU-forbrugerbeskyttelsesret vedrørende begrebet »gennemsnitsforbruger« og bør fortolkes konsekvent, samtidig med at der tages hensyn til de specifikke og forskelligartede sammenhænge for og anvendelser af AI-systemer, der interagerer direkte med fysiske personer, og de mål, der forfølges med artikel 50, stk. 1, i AI-forordningen.

(44)

Fastlæggelsen af en sådan »gennemsnitlig« fysisk person omfatter to trin. For det første bør udbyderne tage hensyn til den målgruppe, som AI-systemet er beregnet til at interagere med, og som det med rimelighed kan forventes at interagere med. For det andet bør udbyderen undersøge, i hvilken grad et gennemsnitligt medlem af denne målgruppe er rimeligt velunderrettet, opmærksomt og forsigtigt, under hensyntagen til omstændighederne og anvendelsessammenhængen. Der bør tages hensyn til flere faktorer ved denne vurdering:

—

Udbyderne bør tage hensyn til den målgruppe, som AI-systemet er rettet mod, samt en bredere potentiel målgruppe, der med rimelighed kan forudses. Dette vil navnlig være tilfældet, hvis offentligheden let kan få adgang til AI-systemet, eller hvis systemet fungerer i virtuelle eller fysiske offentlige rum og kan interagere med fysiske personer, der befinder sig i disse rum. De brugere, der kan blive eksponeret for et AI-system, er ikke altid identisk med målgruppen.

—

Udbyderne bør tage hensyn til den potentielt forskelligartede sammensætning af de brugere, der med rimelighed kan forudses, i overensstemmelse med betragtning 132 til AI-forordningen. Hvis personer med handicap, ældre eller mindreårige sandsynligvis udgør nogle af disse brugere, vil det forventede informations-, opmærksomheds- og forsigtighedsniveau hos en gennemsnitlig bruger være lavere end hos et gennemsnitligt medlem af et publikum, der ikke omfatter disse persongrupper. Hvis det interaktive AI-system derimod kun er tilgængeligt for en professionel eller specialiseret målgruppe, kan dette øge de forventede niveauer af viden, opmærksomhed og forsigtighed, og et gennemsnitligt medlem af denne målgruppe kan anses for at være bedre informeret og mere opmærksomt og forsigtigt.

—

Som led i de bredere omstændigheder og anvendelsessammenhængen bør udbyderne tage hensyn til målgruppens og de med rimelighed forudsigelige brugeres niveau af digitale færdigheder og AI-færdigheder samt relevante sociale, kulturelle og sproglige faktorer.

(45)

Åbenbarhed: Efter at have fastlagt den hypotetiske rimeligt velunderrettede, opmærksomme og forsigtige fysiske person bør udbyderne vurdere, om det vil være åbenbart for en sådan person, at vedkommende interagerer direkte med et AI-system. Undtagelsen bør fortolkes indskrænkende, da den fratager fysiske personer beskyttelsen og retten til at blive informeret gennem klare og synlige oplysninger om, at de interagerer med AI-systemer. Forbrugeres og andre fysiske personers generelle bevidsthed om, at der findes AI-systemer (herunder chatbots og agenter), indebærer ikke, at de genkender dem i interaktioner. Flere faktorer kan være relevante og tages i betragtning som led i vurderingen af, om interaktionen er åbenbar:

—

Interaktionens forventede art: I tilfælde, hvor AI-systemet interagerer fysisk med fysiske personer, kan relevante elementer omfatte synligheden af mekaniske komponenter (hvilket vil øge åbenbarheden) eller den grad, hvori AI-systemet autentisk efterligner sit ikkekunstige modstykke (hvilket vil mindske åbenbarheden). Ved interaktioner af visuel eller auditiv karakter kan elementer som skrive- eller talemønstre, stemmeføring (robotstemme kontra en ægte menneskelignende stemme), brugergrænsefladens design (f.eks. et profilbillede knyttet til en chatbot, som afbilder et menneske) og muligheden for avanceret personaliseret interaktion påvirke denne vurdering.

—

Sammensætningen af målgruppen og de forudsigelige brugere: Hvis det interaktive AI-system kun er tilgængeligt for professionelle eller specialiserede brugere uden potentiel eksponering for sårbare grupper, kan dette øge den mulige åbenbarhed af interaktionens kunstige karakter for en gennemsnitlig bruger. Hvis AI-systemet derimod kan tilgås af offentligheden eller forbrugere, herunder sårbare personer (f.eks. børn, ældre, personer med kognitive, fysiske eller psykiske handicap eller personer med et lavere niveau af AI-færdigheder), for hvem interaktionen er mindre åbenbar, kan undtagelsen ikke påberåbes med henblik på at beskytte disse sårbare brugere effektivt.

—

Der bør også tages hensyn til, at det bliver stadig vanskeligere for fysiske personer at vide, om de interagerer med et AI-system eller med et faktisk menneske. På grund af brugen af avatarer og agenter, den generelle anonymitet ved onlineinteraktioner og AI-systemers evne til at skrive og interagere på en menneskelignende måde bør undtagelsen om »åbenbarhed« begrænses til tilfælde, hvor der næsten ikke er nogen tvivl om interaktionens art for en gennemsnitsperson fra målgruppen og de brugere, der med rimelighed kan forudses.

Eksempler på åbenbarhed, hvor gennemsigtighedsforpligtelsen i artikel 50, stk. 1, i AI-forordningen ikke finder anvendelse:

—

AI-baseret kodeassistance og chatbots til kodegennemgang, der kun er tilgængelige for professionelle udviklere, som i kraft af deres ekspertise og anvendelsessammenhængen ikke med rimelighed kan forvente at interagere med et menneske og let kan erkende, at forslag er genereret af et AI-system.

—

En intern medarbejderrettet assistent for behørigt uddannet personale, der har AI-færdigheder og er klar over, at de anvender AI-systemer til interne organisatoriske formål (f.eks. HR, jura, indkøb, compliance eller IT-support).

—

Interaktive AI-systemer, der udelukkende er beregnet til at blive anvendt af behørigt uddannet sundhedspersonale til at støtte medicinsk diagnosticering og foreslå tilknyttede behandlinger.

—

Omgivelses-AI, der er indlejret i husholdningsapparater, hvor funktionaliteten er begrænset til bistand til og betjening af husholdningsapparatet.

—

Interaktioner med AI-understøttede ikkespilbare figurer (NPC’er) i et videospil for én spiller, hvor videospillets karakter gør det klart, at ingen anden fysisk person kan deltage og interagere med brugeren, og hvor interaktionens AI-karakter også er åbenbar for alle brugere (herunder sårbare personer).

Eksempler, der ikke opfylder åbenbarhedsundtagelsen, og hvor gennemsigtighedsforpligtelsen i artikel 50, stk. 1, i AI-forordningen finder anvendelse:

—

Et AI-baseret robotkæledyr, der ligner sit naturlige modstykke i høj grad og er designet til at efterligne typisk interaktion mellem menneske og kæledyr, hvilket skaber uklarhed om, hvorvidt interaktionen er med et AI-system eller ej.

—

AI-systemer, der er indlejret i immersive miljøer (f.eks. virtuel eller augmented reality) og anvender realistiske avatarer eller stemmer, der ligner menneskers, hvor brugere og navnlig børn, ældre eller personer med handicap måske ikke let kan skelne mellem menneskelig interaktion og AI-interaktion.

—

AI-chatbots, der er indlejret i onlineplatforme eller hjælpeværktøjer (helpdesks), hvor brugerne interagerer direkte og modtager AI-output (f.eks. svar på forespørgsler eller andet AI-genereret indhold), som de kan opfatte som menneskeskabt.

3.2.2.   Undtagelse for AI-systemer, der ved lov er tilladt til retshåndhævelsesformål

(46)

Udbydere af interaktive AI-systemer er fritaget fra gennemsigtighedsforpligtelsen i artikel 50, stk. 1, i AI-forordningen, hvis de ved lov er godkendt til at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, forudsat at der findes passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder.

(47)

»Ved lov er godkendt« skal forstås som omfattende EU-retten samt medlemsstaternes nationale ret, der er vedtaget i overensstemmelse med EU-retten. Den lov, der tillader anvendelsen af AI-systemet, skal klart angive formålene med og omstændighederne for den godkendte anvendelse og fastsætte passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder. I betragtning af AI-forordningens teknologineutrale tilgang er det ikke nødvendigt ved lov at identificere eller tillade bestemte AI-systemer, hvis anvendelsen af AI-systemet generelt er forudsat inden for rammerne af den lovligt godkendte aktivitet og er i overensstemmelse med den gældende retlige ramme.

(48)

For at være omfattet af denne undtagelse skal formålet med AI-systemet være at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger (f.eks. AI-undercoveragent, AI-systemer, der anvendes under efterforskeres menneskelige kontrol til onlineefterforskning eller kommunikation med personer, der kan være involveret i kriminelle aktiviteter). Undtagelsen er ikke begrænset til, at sådanne AI-systemer kun anvendes af retshåndhævende myndigheder som defineret i artikel 3, nr. 48), i AI-forordningen, men kan også omfatte interaktive (eller generative) AI-systemer, der anvendes af andre EU-myndigheder eller nationale offentlige myndigheder, så længe anvendelsen heraf ved lov er godkendt med henblik på at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, og forudsat at der findes passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder. Undtagelsen kræver ikke, at AI-systemet er i stand til at foretage efterforskningerne selvstændigt. Hvis det pågældende system både kan anvendes til retshåndhævelsesformål og til andre almindelige formål, bør undtagelsens anvendelse vurderes i lyset af det konkrete anvendelsesformål. Gennemsigtighedsforpligtelserne finder fortsat anvendelse, hvis det samme AI-system anvendes til andre formål end den lovligt godkendte afsløring, forebyggelse, efterforskning eller retsforfølgning af strafbare handlinger. Der skal fortsat sikres gennemsigtighed over for fysiske personer, når de interagerer med systemet i forbindelse med dets almindelige formål.

(49)

Undtagelsen finder ikke anvendelse, hvis i) AI-systemet er tilgængeligt for offentligheden, og ii) systemet tilbyder en funktionalitet, der gør det muligt for borgerne at anmelde strafbare handlinger. Sådanne systemer kan anvendes, men de er fortsat omfattet af gennemsigtighedsforpligtelsen i henhold til artikel 50, stk. 1, i AI-forordningen, således at fysiske personer skal informeres om, at de interagerer med sådanne systemer.

Af klarhedshensyn vedrører denne undtagelse udelukkende forpligtelsen i henhold til artikel 50, stk. 1, til at informere fysiske personer om, at de interagerer med et AI-system (22). Den berører ikke gældende EU-ret og national ret, herunder processuelle regler om dokumentation, fremlæggelse, antagelse og vurdering af beviser.

Eksempler på AI-systemer, der er gjort tilgængelige for offentligheden med henblik på anmeldelse af strafbare handlinger, som ikke er fritaget og er omfattet af anvendelsesområdet for artikel 50, stk. 1, i AI-forordningen:

—

AI-understøttede politichatbots på politiets officielle websteder eller i mobilapplikationer, som gør det muligt for enkeltpersoner at anmelde strafbare handlinger eller klager. Disse systemer fører brugerne gennem strukturerede spørgsmål, indsamler relevante oplysninger og foretager en indledende prioritering af anmeldelser, inden de videresender dem til menneskelige medarbejdere med henblik på vurdering.

—

· AI-baserede telefonhotlines, der drives af politiet eller en anden retshåndhævende myndighed, til generelle henvendelser fra offentligheden.

—

AI-støttede hotlines eller digitale portaler til indberetning af svig, der drives af finansielle institutioner eller offentlige myndigheder, hvor brugerne kan indberette mistanke om økonomisk kriminalitet. AI-systemet interagerer med brugeren for at indsamle detaljer, kategorisere anmeldelsen og prioritere sager, mens menneskelige efterforskere validerer oplysningerne, inden der træffes nogen foranstaltning.

—

Virtuelle assistenter, der anvendes til indsamling af vidneudsagn, hvor ofre eller vidner kan indsende oplysninger via en AI-drevet grænseflade. Sådanne AI-systemer kan understøtte flersproget input, tilgængelighedsfunktioner og struktureret indgivelse af beviser, men den endelige vurdering og efterforskningsskridtene foretages fortsat af menneskelige myndighedspersoner.

3.3.   Samspil med andre EU-retsakter

(50)

Gennemsigtighedsforpligtelsen i artikel 50, stk. 1, i AI-forordningen finder anvendelse med forbehold af eksisterende EU-lovgivning om forbrugerbeskyttelse, databeskyttelse, digitale tjenester eller ikkeforskelsbehandling, som kan kræve, at der gives andre oplysninger, der ikke specifikt vedrører interaktionens AI-oprindelse. Navnlig er vildledende handlinger eller udeladelser vedrørende et produkts eller en tjenesteydelses væsentligste egenskaber forbudt i henhold til direktiv 2005/29/EF (»direktivet om urimelig handelspraksis«) (23). Desuden kræves det i direktiv 2011/83/EU (»direktivet om forbrugerrettigheder«) (24), at erhvervsdrivende giver klare og forståelige oplysninger forud for aftaleindgåelsen om varernes eller tjenesteydelsernes vigtigste egenskaber. Hvis en tjenesteydelse er AI-drevet (såsom en abonnementsbaseret chatbot, en AI-ledsagerapplikation eller en virtuel coachingtjeneste), kan AI-funktionaliteten udgøre en væsentlig egenskab, som der skal oplyses om, inden forbrugeren bindes af en aftale. Oplysningsforpligtelserne i henhold til EU’s forbrugerbeskyttelseslovgivning finder anvendelse, uanset om interaktionen anses for at være »åbenlys« i henhold til artikel 50, stk. 1, i AI-forordningen. Disse forpligtelser er desuden komplementære som generelle oplysningsforpligtelser på forbrugerbeskyttelsesområdet, mens underretningsforpligtelsen i henhold til AI-forordningen er mere kontekstbestemt og har til formål at sikre, at alle fysiske personer løbende er bevidste om en direkte interaktion med et AI-system, i det mindste inden den påbegyndes og under hele interaktionen.

(51)

Forordningen om digitale tjenester indeholder også gennemsigtighedskrav for onlineplatformes anbefalingssystemer, herunder et krav om at forklare de vigtigste rangordningsparametre. Disse forpligtelser supplerer gennemsigtighedsforpligtelserne i artikel 50, stk. 1, i AI-forordningen, eftersom de har et andet anvendelsesområde og formål og vedrører systemer, der i princippet ikke interagerer direkte med brugere som omhandlet i artikel 50, stk. 1, i AI-forordningen.

(52)

For så vidt angår oplysningspligten over for registrerede i henhold til Unionens databeskyttelseslovgivning opfylder forpligtelsen i artikel 50, stk. 1, i AI-forordningen et andet formål end disse forpligtelser og berører som sådan ikke denne oplysningspligt.

(53)

Tilsvarende berører gennemsigtighedsforpligtelsen i artikel 50, stk. 1, i AI-forordningen ikke EU-retten og national ret om meddelelse af oplysninger til personer i forbindelse med straffesager (f.eks. direktiv 2012/13/EU eller direktiv 2012/29/EU, som ændret ved direktiv (EU) 2026/1472) (25).

4.   AI-FORORDNINGENS ARTIKEL 50, STK. 2: MÆRKNING OG PÅVISNING AF AI-GENERERET ELLER MANIPULERET INDHOLD

(54)

AI-forordningens artikel 50, stk. 2, kræver, at udbydere af AI-systemer, der genererer syntetisk indhold, gennemfører tekniske løsninger, som opfylder visse kvalitetskrav til maskinlæsbar mærkning og påvisning af deres AI-systemers output. Formålet er at gøre det muligt for fysiske personer at skelne AI-genereret eller manipuleret indhold fra andet indhold (f.eks. indhold skabt af mennesker) og at verificere dets oprindelse og dermed også at bidrage til øget integritet og tillid i informationsøkosystemet.

(55)

Denne gennemsigtighedsforpligtelse er derfor til fordel for alle fysiske personer, der sandsynligvis vil blive eksponeret for det AI-genererede eller manipulerede indhold, samt nøgleaktører, der spiller en vigtig rolle for tilliden til og integriteten af informationsøkosystemet, såsom kompetente markedsovervågningsmyndigheder og andre kompetente myndigheder, uafhængige forskere, civilsamfundsorganisationer, medier, pålidelige indberettere, forsvarere af grundlæggende rettigheder, udbydere af onlineplatforme og onlinesøgemaskiner, rettighedshavere og andre indholdsskabere og -distributører osv.

4.1.   Hovedelementer og begreber i AI-forordningens artikel 50, stk. 2

(56)

AI-forordningens artikel 50, stk. 2, finder anvendelse, hvis flere kumulative betingelser er opfyldt:

i)

Systemet skal kunne kvalificeres som et AI-system.

ii)

AI-systemet skal kunne generere eller manipulere syntetisk indhold.

iii)

Indholdet skal være genereret med en eller flere af følgende metoder: lyd, billeder, video eller tekst.

iv)

AI-systemet må ikke være omfattet af nogen af følgende undtagelser: 1) AI-systemet udfører en hjælpefunktion til standardredigering, 2) AI-systemet ændrer ikke i væsentlig grad de inputdata, der leveres af idriftsætteren, eller semantikken heraf, eller 3) AI-systemet er tilladt for at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger.

4.1.1.   AI-systemer, der genererer eller manipulerer syntetisk indhold

(57)

AI-forordningens artikel 50, stk. 2, finder anvendelse på AI-systemer (26), herunder AI-systemer til almen brug, der genererer syntetisk lyd-, billed-, video- eller tekstindhold. AI-forordningens artikel 50, stk. 2, omfatter en undergruppe af systemer, der opfylder definitionen af et AI-system i AI-forordningens artikel 3, nr. 1), og som genererer sådanne output. AI-forordningens artikel 50, stk. 2, omfatter også AI-systemer, der anvendes til at manipulere indhold.

(58)

Indholdsgenerering henviser til AI-systemets generering af syntetisk materiale (f.eks. på grundlag af en menneskelig prompt), såsom generering af et syntetisk billede eller en sang. I praksis betyder dette, at AI-forordningens artikel 50, stk. 2, kan finde anvendelse på generative AI-systemer, der er udformet med et snævert tilsigtet formål om at producere specifikke output. Samtidig finder AI-forordningens artikel 50, stk. 2, også anvendelse på AI-systemer, der kan anvendes til flere formål, herunder AI-systemer til almen brug, og kan producere en række forskellige typer indhold, samt agentiske AI-systemer, så længe de genererer syntetisk lyd-, billed-, video- eller tekstindhold.

(59)

I modsætning hertil henviser indholdsmanipulation til allerede eksisterende indhold (uanset om det er syntetisk eller ej), som ændres af et AI-system (f.eks. et eksisterende billede eller en stemmeoptagelse, der manipuleres af et AI-system i overensstemmelse med menneskelige instrukser). For at indhold kan falde ind under AI-forordningens artikel 50, stk. 2, er det tilstrækkeligt, at det er AI-genereret eller manipuleret ud over standardredigering som omhandlet i undtagelserne i AI-forordningens artikel 50, stk. 2 (se afsnit 4.3). Derudover kræver AI-forordningens artikel 50, stk. 2, ikke, at indholdet udelukkende er AI-genereret eller manipuleret. Indhold, der er blandet med menneskeskabt materiale, kvalificeres også som syntetisk indhold, hvis det er manipuleret eller genereret med en af de metoder, der er omhandlet i AI-forordningens artikel 50, stk. 2.

4.1.2.   Metoder til syntetisk indholdsgenerering, der er omfattet

(60)

AI-forordningens artikel 50, stk. 2, indeholder en udtømmende liste over metoder til generering af det syntetiske indhold, der er omfattet af gennemsigtighedsforpligtelsen: lyd, billeder, video eller tekst. Dette omfatter også multimodalt indhold, dvs. indhold, der er genereret ved hjælp af en blanding af disse metoder. Med henblik på AI-forordningens artikel 50, stk. 2, skal de forskellige metoder fortolkes i overensstemmelse med den praktiske og teknologiske udvikling, der kan ændre sig over tid. Indtil videre bør de forstås således:

—

Tekst henviser til diskret symbolsk indhold, der består af tegn eller tal, som er arrangeret i en bestemt rækkefølge, og som kan læses og fortolkes semantisk af mennesker.

—

Billeder henviser til statiske rumlige repræsentationer, der indeholder visuel information, og som kan ses af mennesker.

—

Lyd henviser til et tidsvarierende signal, der indeholder lyd, og som kan opfattes auditivt af mennesker. Dette kan omfatte tale, instrumentalmusik eller andre lydsignaler.

—

Video henviser til en tidsbaseret sekvens af billeder, som kan være synkroniseret med lyd, og som kan ses af mennesker. I så fald skal både video- og lydindhold mærkes, og detekterbarheden skal sikres som angivet nedenfor.

(61)

AI-systemer, der genererer eller manipulerer 3D-billeder, 3D-videoer og 3D-lyd samt virtual, augmented eller mixed reality, falder ind under anvendelsesområdet for AI-forordningens artikel 50, stk. 2. »Virtual reality« omfatter AI-teknologier, der gør det muligt for brugere at opleve og interagere med et computergenereret miljø, der simulerer fysisk tilstedeværelse, og som muliggør brugerinteraktion i realtid med dette miljø. Da virtual og augmented reality består af en tidsbaseret sekvens af billeder, der eventuelt er synkroniseret med lyd, og som repræsenterer visuel ændring over tid, kan dette betragtes som »videoindhold«. Det relevante »output«, der skal mærkes, er den endelige form af det enkelte AI-genererede aktiv, med særlige undtagelser for kortvarige interaktive sessioner i realtid efter punkt 88 nedenfor. Digitale artefakter, der anvendes til at generere 3D-billeder, 3D-videoer og 3D-lydindhold, såsom en punktsky eller et 3D-mesh, skal ikke mærkes.

(62)

Digitale tvillinger, der leverer en virtuel kopi af personer, fysiske genstande eller systemer og integrerer flere datatyper, falder også ind under anvendelsesområdet for AI-forordningens artikel 50, stk. 2, hvis de er AI-genererede eller manipulerede og har form af lyd, billeder, video eller tekst, medmindre de falder ind under undtagelserne og kvalificeres som »industrielle anvendelser« eller »anvendelser mellem virksomheder« efter punkt 87 nedenfor eller som kortvarigt indhold i realtid efter punkt 88 nedenfor.

(63)

AI-forordningens artikel 50, stk. 2, kan også finde anvendelse på AI-agenter, hvis AI-agenten foretager en handling, hvis output er AI-genereret eller manipuleret indhold, der kan opfattes af fysiske personer i form af lyd, billeder, video eller tekst. Disse output skal derfor mærkes og kunne spores som beskrevet nedenfor. Derimod kvalificeres en AI-agents handling, der ikke omfatter AI-genereret eller manipuleret indhold (f.eks. mellemliggende behandlingstrin såsom ræsonnering og tankerække), eller en AI-genereret handling, der ikke er beregnet til at blive opfattet direkte af fysiske personer (f.eks. en webanmodning eller browserhandling), ikke som syntetisk indhold inden for anvendelsesområdet for AI-forordningens artikel 50, stk. 2, og skal ikke opfylde mærknings- og påvisningsforpligtelserne.

4.1.3.   Indhold, der ikke er omfattet af AI-forordningens artikel 50, stk. 2

(64)

Indhold, der genereres af et AI-system baseret på simpel databehandling, og som ikke specifikt er AI-genereret eller manipuleret, f.eks. et renderet billede, falder uden for anvendelsesområdet for AI-forordningens artikel 50, stk. 2.

(65)

Endvidere er output fra et AI-system, der blot reproducerer eksisterende indhold eller muliggør præsentation eller arrangering af allerede eksisterende indhold, ikke omfattet af AI-forordningens artikel 50, stk. 2. Dette kan f.eks. være tilfældet for musikplaylister eller andre anbefalingssystemer, der kun udvælger eller rangerer eksisterende indhold på grundlag af brugerpræferencer eller -aktivitet uden at skabe noget nyt eller manipulere selve indholdet. Det samme gælder for AI-systemer, der anvendes i interne analyseprocesser, som udtrækker og strukturerer data, men ikke sammenfatter dem.

(66)

Det samme gælder for et AI-systems input og output, der udgør rene observationer og registreringer af data fra fysiske eller virtuelle miljøer, som ikke er AI-genereret eller manipuleret (f.eks. af robotter eller andre AI-understøttede sensorer), eller dataoverførsler foretaget af AI-systemer uden nogen ændring. Dette omfatter en række AI-systemers input og output, navnlig i industrielle miljøer, såsom produktionsdata for robotter, der observerer data, forbrug registreret af AI-understøttede intelligente målere, målinger af netfrekvens og spænding samt registrering af GPS-lokaliseringsdata fra køretøjer osv.

(67)

Endvidere er formålet med gennemsigtighedsforpligtelsen i AI-forordningens artikel 50, stk. 2, at gøre det muligt for mennesker at skelne AI-genereret eller manipuleret indhold, så risiciene for bedrag og manipulation håndteres, og integritet og tillid i informationsøkosystemet sikres. Derfor er bestemmelsen ikke rettet mod indhold, der ikke er forbundet med dette formål, og som ikke kan opfattes eller ikke er beregnet til at blive fortolket, verificeret eller handlet på af fysiske personer.

(68)

Navnlig bør følgende indhold anses for at falde uden for anvendelsesområdet for AI-forordningens artikel 50, stk. 2:

—

Output, der genereres i form af en kort sekvens af tal, symboler eller bogstaver (f.eks. enkeltord, billedtekster, alternativ tekst, UI-etiketter og grafik i ikonstørrelse, billedtekster og andre dataetiketter)

—

Kildekode forstået som indhold, der er skrevet i et programmerings-, script-, opmærknings-, forespørgsels- eller konfigurationssprog, og som er beregnet til at blive fortolket, kompileret eller eksekveret af et computersystem, uanset om den består af teksttegn. Dette kan også omfatte kommentarer på naturligt sprog og kontekstuelle oplysninger, der udgør en integreret del af kildekoden. Tilsvarende er softwareudviklingssæt (SDK’er), Structured Query Language (SQL), Infrastructure-as-Code (IaC) og »YAML Ain’t Markup Language« (YAML), JavaScript Object Notation (JSON), konfigurationsskemaer, scripts, maskinlæsbare specifikationer, applikationsprogrammeringsgrænseflader (API’er) og softwarebiblioteker undtaget

—

Output fra et AI-system, der udelukkende er beregnet til at blive kommunikeret fra maskine til maskine og behandlet automatisk uden nogen eksponering for mennesker, f.eks. agent-til-agent-kommunikation og antispamsignaler, så længe det ikke opfattes af fysiske personer

—

Output, der kun anvendes i lukkede kredsløbsmiljøer i arbejdsgange inden for industri og produktudvikling (f.eks. til film-, animations-, spil- eller reklameproduktion), medmindre det er AI-systemets endelige output i form af AI-genereret eller manipuleret tekst-, lyd-, billed- eller videoindhold. I disse tilfælde skal kun det endelige output fra de forskellige faser mærkes og kunne spores.

4.2.   Mærknings- og påvisningsforpligtelsen i AI-forordningens artikel 50, stk. 2

(69)

I artikel 50, stk. 2, i AI-forordningen fastsættes der for udbydere af generative AI-systemer, der er omfattet af denne bestemmelses anvendelsesområde, en gennemsigtighedsforpligtelse, som består af to særskilte, men uløseligt forbundne elementer. For det første skal udbydere sikre, at AI-systemets output mærkes i et maskinlæsbart format. For det andet skal de sikre, at outputtet kan spores som indhold, der er kunstigt genereret eller manipuleret. For hver anvendt mærkningsløsning bør udbyderne sikre, at der er tilsvarende midler til påvisning til rådighed (som beskrevet nedenfor), således at fysiske personer, der eksponeres for indholdet, og andre relevante aktører kan identificere og skelne AI-systemets kunstigt genererede indhold fra andet indhold. Ved en teknisk løsning forstås en kombination af teknikker til mærkning og midler til påvisning, som udbyderen har implementeret for at opfylde gennemsigtighedsforpligtelsen i artikel 50, stk. 2, i AI-forordningen.

(70)

Hvert af de to ovennævnte elementer skal være opfyldt for effektivt at nå målene med gennemsigtighedsforpligtelserne i artikel 50, stk. 2, i AI-forordningen. Opfyldelse af kun ét element (f.eks. maskinlæsbar mærkning af output uden tilgængelige midler til påvisning heraf) er ikke tilstrækkeligt til at overholde denne bestemmelse (27).

4.2.1.   Mærkningsforpligtelsen

(71)

Mærkningsforpligtelsens anvendelsesområde er begrænset til at implementere mærker i et maskinlæsbart format. Et maskinlæsbart format betyder, at mærker er opbygget på en sådan måde, at softwareapplikationer nemt kan identificere, genkende og udtrække dem uden menneskelig indgriben. Synlige mærker og etiketter udelukkes ikke som et supplerende tiltag, hvor det er relevant, med henblik på at gøre det lettere for udbydere at overholde deres forpligtelse til at mærke deepfakes i henhold til artikel 50, stk. 4, i AI-forordningen.

(72)

For at overholde mærkningsforpligtelsen kan udbydere basere sig på en enkelt mærkningsteknik eller en kombination af teknikker, forudsat at deres samlede tekniske løsning er maskinlæsbar og opfylder kravene om effektivitet, interoperabilitet, robusthed og pålidelighed i det lovmæssigt krævede omfang, jf. artikel 50, stk. 2, andet punktum, i AI-forordningen (se afsnit 4.2.3. nedenfor).

(73)

I betragtning 133 til AI-forordningen nævnes som eksempler på sådanne teknikker vandmærker, metadataidentifikationer, kryptografiske metoder til påvisning af indholdets oprindelse og ægthed, registreringsmetoder, fingeraftryk eller andre teknikker samt en kombination af sådanne teknikker. Selv om metoder til at bevise oprindelse og ægthed er nævnt i betragtning 133 til AI-forordningen, er udbydere ikke forpligtet til at registrere eller opbevare en fuldstændig oprindelseskæde, der indeholder oplysninger om indholdets oprindelse og ændringer eller andre relevante udsagn om indholdets historik. Sådanne oprindelsesmetoder kan dog også anvendes med henblik på overholdelse af artikel 50, stk. 2, i AI-forordningen og kan bidrage til at gøre det muligt for fysiske personer at skelne AI-genereret eller manipuleret indhold fra autentisk indhold.

(74)

Udbydere kan implementere mærkningsløsningen for outputtene på forskellige trin i værdikæden (f.eks. efterfølgende efter indholdsgenerering på AI-systemniveau, på niveauet for den underliggende AI-model eller integreret i AI-systemets inferensproces). De kan basere sig på den mærkningsløsning, der er implementeret af en udbyder af modeller i foregående led eller en tredjepart, som leverer løsningen (f.eks. som en åben standard eller en specialiseret tjeneste), i det omfang mærkningsløsningen er i overensstemmelse med artikel 50, stk. 2, i AI-forordningen. Det forhold, at udbyderen baserer sig herpå, berører ikke udbyderen af AI-systemets ansvar for at påvise overholdelse af artikel 50, stk. 2, i AI-forordningen.

4.2.2.   Påvisningsforpligtelsen

(75)

Udbydere af AI-systemer, der er omfattet af anvendelsesområdet for artikel 50, stk. 2, i AI-forordningen, skal sikre, at outputtet fra deres systemer kan spores som AI-genereret eller manipuleret indhold. Dette betyder, at udbyderen er forpligtet til at sikre, at midlerne til påvisning er til rådighed for de personer, der potentielt eksponeres for indholdet. Endvidere bør sådanne påvisningsløsninger i henhold til artikel 50, stk. 5, i AI-forordningen kunne frembringe menneskeligt læsbare resultater, der angiver, om indholdet er blevet AI-genereret eller manipuleret.

(76)

Et påvisningsværktøj er en mekanisme, der påviser, om indhold er blevet AI-genereret eller manipuleret, typisk ved at identificere tekniske markører eller signaturer, der verificerer dets oprindelse. For at sikre fuld interoperabilitet skal udbydere basere sig på offentligt tilgængelige branchestandardløsninger til påvisning, der gør det muligt for enhver tredjepart at implementere påvisning, som ideelt set kan udføres lokalt på den digitale enhed, og som muliggør problemfri integration i selvstændige, isolerede netværk. Hvis sådanne standarder ikke er tilgængelige, navnlig i den indledende fase af gennemførelsen af artikel 50, stk. 2, i AI-forordningen for vandmærkningsteknologier, kan udbyderen basere sig på sin egen påvisningsløsning eller på en tredjeparts eller fælles påvisningsløsning, forudsat at disse løsninger sikrer interoperabilitet med de påvisningsløsninger, som andre udbydere anvender (se afsnit 4.2.3.). Denne mulighed bør være tidsbegrænset, indtil der fremkommer harmoniserede standarder og en standardiseret, udbyderuafhængig og interoperabel påvisningsløsning, der er sikker, beskytter privatlivets fred og kan udføres lokalt.

(77)

I artikel 50, stk. 5, i AI-forordningen præciseres det endvidere, at de oplysninger, der er omhandlet i artikel 50, stk. 2, i AI-forordningen, bør gives til de fysiske personer, der eksponeres for indholdet, på en klar og synlig måde senest på tidspunktet for den første interaktion eller eksponering. Disse oplysninger er navnlig resultatet af påvisningen, som angiver, om indhold er AI-genereret eller manipuleret, og ikke selve det AI-genererede eller manipulerede indhold. »På tidspunktet for den første eksponering« bør forstås som det tidspunkt, hvor fysiske personer ønsker at verificere oprindelsen af specifikt indhold og få adgang til påvisningsløsningen for at se påvisningsresultaterne.

(78)

Hvis udbyderen af AI-systemet anvender en anden aktør til levering af eller adgang til en påvisningsløsning, skal udbyderen sikre, at påvisningsløsningen er i overensstemmelse med artikel 50, stk. 2 og 5, i AI-forordningen, og at de pågældende aktører viser påvisningsresultaterne i overensstemmelse med artikel 50, stk. 5, i AI-forordningen (se afsnit 7).

4.2.3.   Overholdelse af kravene til tekniske løsninger: effektive, interoperable, robuste og pålidelige

(79)

I artikel 50, stk. 2, andet punktum, i AI-forordningen fastsættes det, at de tekniske løsninger til mærkning og påvisning skal være effektive, interoperable, robuste og pålidelige. Disse krav bør forstås som følger:

—

Effektivitet henviser til den evne, som den tekniske løsning, som udbydere har implementeret, har til at spore deres mærker og gøre det muligt for fysiske personer at skelne kunstigt genereret eller manipuleret indhold, der er produceret af deres AI-system, og dermed bidrage til tilliden til og integriteten af informationsøkosystemet.

—

Pålidelighed henviser til den tekniske løsnings evne til nøjagtigt at identificere og skelne AI-genereret eller manipuleret indhold fra andet indhold under nominelle forhold på tværs af den brede vifte af indhold, der genereres eller manipuleres af udbyderens AI-system.

—

Robusthed henviser til den tekniske løsnings evne til nøjagtigt at identificere og skelne AI-genereret eller manipuleret indhold, der er produceret af udbyderens AI-system, fra andet indhold under varierende forhold, herunder både almindelige ændringer og ondsindede angreb.

—

Interoperabilitet henviser til evnen hos de forskellige tekniske løsninger til mærkning og påvisning til at fungere problemfrit på tværs af flere systemer, aktører, sammenhænge og tekniske implementeringer for at muliggøre påvisning af AI-genereret eller manipuleret indhold, uanset hvilken eller hvilke mærkningsteknikker der anvendes af udbydere af forskellige AI-systemer.

(80)

Udbydere skal sikre, at kombinationen af de tekniske løsninger til mærkning og påvisning samlet opfylder alle ovennævnte krav i det lovmæssigt krævede omfang under hensyntagen til begrænsningerne ved og komplementariteten mellem de forskellige anvendte løsninger. De tekniske løsninger skal opfylde alle krav, i det omfang dette er teknisk muligt, under hensyntagen til de særlige forhold og begrænsninger for forskellige typer indhold, gennemførelsesomkostningerne og det generelt anerkendte aktuelle tekniske niveau, som kan være afspejlet i relevante tekniske standarder.

(81)

Ved teknisk mulige løsninger som omhandlet i artikel 50, stk. 2, i AI-forordningen forstås løsninger, der kan implementeres for de metoder, der er omfattet af bestemmelsens anvendelsesområde, ved hjælp af aktuelt tilgængelig teknologi, metoder og teknisk praksis inden for den specifikke tekniske arkitektur og det driftsmiljø, som det drejer sig om. Udbyderen er ikke forpligtet til at gøre brug af en teknisk løsning, der endnu ikke er udviklet eller tilgængelig på markedet, eller som teknisk set ikke er gennemførlig at implementere. Teknisk gennemførlighed er et objektivt begreb, der ikke afhænger af de enkelte udbyderes specifikke ressourcer og kapaciteter.

(82)

Artikel 50, stk. 2, i AI-forordningen kræver, at udbydere implementerer teknisk mulige løsninger, der er i overensstemmelse med det generelt anerkendte aktuelle tekniske niveau, for at opfylde de fire kvalitetskrav om effektivitet, robusthed, pålidelighed og interoperabilitet.

(83)

Ved »det aktuelle tekniske niveau« forstås et udviklet stadium af teknisk kapacitet på et givet tidspunkt for så vidt angår produkter, processer og tjenester baseret på relevante konsoliderede resultater fra videnskab, teknologi og erfaring, og som er accepteret som god praksis inden for teknologi (28). Det aktuelle tekniske niveau indebærer ikke nødvendigvis den nyeste videnskabelige forskning, der stadig befinder sig på forsøgsstadiet eller har utilstrækkelig teknologisk modenhed. Udbydere skal løbende tilpasse deres mærknings- og påvisningsløsninger på en rettidig og forholdsmæssig måde, efterhånden som teknologien og det aktuelle tekniske niveau udvikler sig.

(84)

I lyset af artikel 50, stk. 7, i AI-forordningen kan udbydere basere sig på en praksiskodeks, der er vurderet som tilstrækkelig i henhold til denne bestemmelse, til at påvise overholdelse af mærknings- og påvisningsforpligtelserne i artikel 50, stk. 2 og 5, i AI-forordningen, og som er i overensstemmelse med det aktuelle tekniske niveau. Yderligere oplysninger om virkningerne af at overholde en sådan kodeks og tilsynet med andre udbydere, der ikke overholder en kodeks, findes i afsnit 8.1 nedenfor.

(85)

Der kan også tages hensyn til omkostningerne ved implementering af visse tekniske løsninger til mærkning og påvisning. I visse tilfælde som beskrevet i de følgende punkter kan omkostningerne stå i et uforholdsmæssigt forhold til de marginale gevinster, der har en mere begrænset værdi, når det gælder om at sætte mennesker i stand til at skelne mellem AI-genereret eller manipuleret indhold samt at sikre integriteten og tilliden til informationsøkosystemet.

(86)

Der kan derfor være snævert afgrænsede tilfælde, hvor en teknisk løsning baseret på mindre robuste metadatamærkninger er tilstrækkelig med henblik på at overholde artikel 50, stk. 2, i AI-forordningen under hensyntagen til de særlige forhold ved AI-systemets output, hvis disse indebærer iboende lavere risici for vildledning, manipulation eller negative virkninger for informationsøkosystemet. Dette er navnlig tilfældet, når et generativt AI-system er indlejret i fysiske produkter, der genererer output i et teknisk kontrolleret og lukket miljø, som hovedsagelig er af instruktiv karakter (f.eks. et AI-system, der er indlejret i navigationssystemer i køretøjer), i det omfang effektive tekniske foranstaltninger er indlejret i produktet for at forhindre, at outputtet forlader produktmiljøet, f.eks. ved at blive indsamlet eller eksporteret og formidlet eksternt.

(87)

Der kan også være begrænsede tilfælde af »industrielle AI-anvendelser« eller »anvendelser mellem virksomheder« (undtagen offentligt tilgængelige og forbrugerrettede AI-systemer), hvor proportionalitetsprincippet og de begrænsede fordele for gennemsigtighedsmålene betyder, at mærkning og påvisning af AI-genererede eller manipulerede output ikke er påkrævet. Dette gælder kun, hvis følgende krav er opfyldt kumulativt:

i)

AI-systemets genererede output er udelukkende af teknisk karakter, f.eks. tekniske design, industrielle produktionsarbejdsgange, tekniske instrukser, output genereret som følge af prædiktive systemvedligeholdelsesprocesser i industrielle miljøer, interne dokumentationsprocesser eller produktionstrin og arbejdsgange, før outputtet færdiggøres og gøres tilgængeligt for andre eksterne personer eller offentligheden.

ii)

AI-systemets genererede output er kun beregnet til at blive opfattet og behandlet af et begrænset på forhånd fastsat antal fysiske personer, der handler i erhvervsmæssig egenskab i udbyderens og idriftsætterens organisationer.

iii)

AI-systemets genererede output må ikke være beregnet til at blive delt uden for virksomheden eller til at kunne anvendes af eksterne personer, og der skal være passende sikkerhedsforanstaltninger for at undgå rimeligt forudsigeligt misbrug (f.eks. cloudisolering og rollebaserede kontroller).

(88)

Indholdsgenerering i realtid, som er kortvarigt og forbruges straks uden at blive registreret, lagret eller videreformidlet (f.eks. i videospil eller virtual reality-applikationer), kan også være undtaget, når mærkning ikke er teknisk mulig, og de personer, der eksponeres for indholdet, gøres bekendt med, at indholdet er AI-genereret eller manipuleret (f.eks. oplysning i selve oplevelsen og meddelelser på sessionsniveau).

4.3.   Undtagelser fra forpligtelserne i AI-forordningens artikel 50, stk. 2

(89)

I artikel 50, stk. 2, i AI-forordningen fastsættes tre udtrykkelige undtagelser fra gennemsigtighedsforpligtelserne i denne bestemmelse

(90)

Den første undtagelse vedrører AI-systemer, i det omfang de udfører en hjælpefunktion med henblik på standardredigering. Standardredigering bør forstås som processen med at forberede eksisterende indhold til offentliggørelse eller distribution (f.eks. mindre redigering for at forbedre læsbarhed, grammatik, kvalitet og format) og omfatter ikke generering af nyt indhold. Standardredigering har bl.a. til formål at sikre, at indhold er frit for åbenlyse tekniske eller grammatiske og sproglige fejl, er tilpasset gældende krav til layout, præsentation, formatering eller tilgængelighed eller er i overensstemmelse med praksis i sektoren. Redigering går ud over standardredigering, hvis indholdet ændres i væsentlig grad (indholdsmæssige ændringer, strukturelle ændringer osv.), og disse ændringer påvirker dets betydning, stil eller hensigt.

(91)

Den anden undtagelse finder anvendelse, hvis AI-systemet ikke i væsentlig grad ændrer de inputdata, der leveres af idriftsætteren, eller semantikken heraf. En ændring bør anses for væsentlig, hvis inputdataene eller deres semantik er blevet manipuleret betydeligt af AI-systemet under dets outputgenereringsproces. Dette skal baseres på en vurdering af relevante faktorer såsom format, medieindholdstype, stil og ændringer i indholdet, der påvirker dets betydning, stil eller hensigt. Dette kræver en konkret vurdering.

(92)

Hvis et AI-system kan anvendes både til indholdsgenerering eller -manipulation og til mindre, ikkevæsentlige ændringer af inputdata, finder gennemsigtighedsforpligtelsen i artikel 50, stk. 2, i AI-forordningen ikke anvendelse på det indhold, der er ændret på en mindre, ikkevæsentlig måde.

Eksempler på standardredigering og mindre ændringer, der er omfattet af undtagelsen i artikel 50, stk. 2, i AI-forordningen:

—

Grammatik- og stavekontrol, sproglig og mindre stilistisk finpudsning, der ikke ændrer tekstens substans, betydning, stil eller budskab, AI-genererede oversættelser af tekst

—

Formatering, formatkonverteringer, teknisk komprimering, støjreduktion eller støjfjernelse for at skabe større klarhed uden at ændre indholdets betydning eller substans

—

Mindre beskæring, mindre farvejusteringer eller -korrektioner, justering af lysstyrken, skarphedsforøgelse for at skabe større klarhed eller anden standardredigering og tekniske korrektioner

—

Fjernelse af støvpletter forårsaget af et snavset objektiv eller en snavset sensor, fjernelse af røde øjne forårsaget af blitzfotografering, sletning og tilsløring af baggrunde, der er synlige i den oprindelige fil, pixelering eller sløring af ansigter

—

Ændring af skaleringen af et videoklip, komprimering af dynamikområde og udligning, begrænset videostabilisering

—

Standardjusteringer af farve og kontrast, mindre justeringer af afspilningshastighed, mindre rettelser for at rette horisonten i et billede op, anvendelse af pixelfiltre til at forstærke visse dele af et billede eller anvendelse af farvekort på gråtonebilleder, kantudfyldning af billeder, konvertering af sort-hvide billeder eller videoer til farve og omvendt

—

Pixeludfyldning med henblik på tilpasning af billedformatet eller bedre skarphed, automatiske overgangsklip og andre ikkeindholdsmæssige redigeringer af kosmetiske og tekniske årsager

—

Teknisk behandling eller rekonstruktion af medicinske billeder i medicinsk udstyr (f.eks. annoteringer, bokse, konturer, cirkler, varmekort)

—

Transskriptioner af samtaler, AI-genereret indhold, der alene omformer autentisk menneskeligt input gennem hjælpeteknologier, der gør det muligt for personer med handicap at kommunikere (f.eks. alternativ og supplerende kommunikation (AAC) eller tilpassede neurale stemmer (CNV)), eftersom disse teknologier ikke ændrer indholdets betydning semantisk.

Eksempler på semantiske ændringer, der kræver mærkning i henhold til artikel 50, stk. 2, i AI-forordningen:

—

AI-genererede resuméer af tekst, parafrasering eller omskrivning af tekst, som ændrer stil, struktur og betydning ud over en rent grammatisk og mindre stilistisk korrektion

—

Fjernelse, udskiftning eller indsættelse af genstande eller personer i eksisterende billeder og videoer, som ændrer indholdets betydning og substans, ansigtsudskiftning eller væsentlig ansigtsmodifikation

—

Syntese af realistisk tale med en bestemt persons stemme eller fremstilling af realistiske videooptagelser, der skildrer begivenheder, som ikke har fundet sted, ændring af en persons kropsform eller hudfarve, ekstrem lysning, mørkning, farve- og kontrastændringer, der ændrer indholdets betydning, hensigt og budskab

—

Oprettelse af sammensatte billeder eller videoklip, der ændrer fremstillingen af personer, genstande, begivenheder eller fakta, og enhver anden væsentlig ændring af indholdet.

(93)

Den tredje undtagelse finder anvendelse på generative AI-systemer, der ved lov er bemyndiget til at generere eller manipulere syntetisk indhold med henblik på at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger. De præciseringer, der er givet i punkt 46-48 ovenfor vedrørende denne undtagelse, er også relevante i dette tilfælde.

4.4.   Samspil med andre EU-retsakter

(94)

Forpligtelserne til mærkning og påvisning i artikel 50, stk. 2, i AI-forordningen fokuserer på, hvordan indholdet er blevet skabt, og på dets kunstige oprindelse, og ikke på, hvem der har skabt indholdet. Alle mærknings- og påvisningsløsninger, som anvendes af udbydere af AI-systemer, skal derfor overholde gældende EU-databeskyttelsesret, herunder databeskyttelsesprincipper og -forpligtelser såsom forpligtelsen til databeskyttelse gennem design og databeskyttelse gennem standardindstillinger, dataminimering samt principperne om sikkerhed og fortrolighed. F.eks. bør oplysninger om skaberen af indholdet ikke behandles med henblik på mærkning og påvisning, og alle andre personoplysninger, der behandles, bør slettes, så snart formålet med påvisningen er opfyldt, ligesom sikkerhed og fortrolighed skal sikres osv.

(95)

I betragtning 136 til AI-forordningen fremhæves endvidere den særlige relevans, som gennemsigtighedsforpligtelserne i artikel 50, stk. 1, 2 og 4, i AI-forordningen har for at lette en effektiv gennemførelse af forordningen om digitale tjenester. Dette gælder navnlig for forpligtelserne for udbydere af meget store onlineplatforme eller meget store onlinesøgemaskiner til omhyggeligt at identificere, analysere og vurdere systemiske risici, der kan opstå som følge af formidlingen af indhold, der er blevet kunstigt genereret eller manipuleret, navnlig risikoen for de faktiske eller forventede negative virkninger for demokratiske processer, samfundsdebatten og valgprocesser, herunder gennem desinformation (artikel 34 og 35 i forordningen om digitale tjenester). Maskinlæsbare mærker kan gøre det muligt for disse udbydere at opdage indhold, der er AI-genereret eller manipuleret, og at sørge for passende mærkning og oplysninger, hvorved risikoen for AI-genereret desinformation på tværs af deres tjenester mindskes.

(96)

Forpligtelserne til mærkning af indhold, der er genereret eller manipuleret af AI-systemer, i henhold til artikel 50, stk. 2 og 4, i AI-forordningen berører ikke forpligtelsen i artikel 16, stk. 6, i forordningen om digitale tjenester for udbydere af hostingtjenester til at behandle anmeldelser om ulovligt indhold, der er modtaget i henhold til artikel 16, stk. 1, i forordningen om digitale tjenester (29). Navnlig bør mærkning af AI-genereret eller manipuleret indhold ikke påvirke vurderingen og afgørelsen af, om det specifikke indhold er ulovligt i henhold til andre reguleringsmæssige rammer. Denne vurdering bør udelukkende foretages under henvisning til reglerne om lovligheden af indholdet i overensstemmelse med disse rammer (30). Hvis et mærket deepfakebillede f.eks. markeres som potentielt materiale, der viser seksuelt misbrug af børn, eller som et billede, der potentielt krænker varemærke- eller ophavsretslovgivningen, påvirker påføringen af en mærkning ikke indholdets potentielle ulovlighed i henhold til disse reguleringsmæssige rammer. Denne vurdering bør udelukkende foretages på grundlag af de respektive gældende regler (f.eks. straffe-, varemærke- eller ophavsretslovgivningen).

(97)

Omvendt kan den maskinlæsbare mærkning, der er indlejret i indholdet i henhold til artikel 50, stk. 2, i AI-forordningen, hjælpe udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner med at opfylde deres forpligtelser i henhold til artikel 34 og 35 i forordningen om digitale tjenester til at identificere og afbøde systemiske risici, der kan opstå som følge af formidlingen af indhold, der er blevet kunstigt genereret eller manipuleret, navnlig risikoen for de faktiske eller forventede negative virkninger for demokratiske processer, samfundsdebatten og valgprocesser, herunder gennem desinformation (31), og til at etablere rimelige, effektive og proportionale foranstaltninger til at afbøde disse risici, som er tilpasset de konstaterede specifikke systemiske risici. Udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner kan også betragtes som udbydere af AI-systemer, hvis de opfylder de relevante betingelser i henhold til AI-forordningen, når de integrerer AI-systemer i deres tjenester (se også afsnit 6.1.5).

(98)

Udbydere af onlineplatforme, onlinesøgemaskiner og andre relevante aktører, der distribuerer indhold i værdikæden, opfordres navnlig til at bevare og muliggøre identifikation af de mærker, som udbydere har implementeret i henhold til artikel 50, stk. 2, i AI-forordningen, således at de fysiske personer, der eksponeres for indholdet, kan informeres om dets oprindelse.

5.   AI-FORORDNINGENS ARTIKEL 50, STK. 3: SYSTEMER TIL FØLELSESGENKENDELSE OG BIOMETRISKE KATEGORISERINGSSYSTEMER

(99)

Ved artikel 50, stk. 3, i AI-forordningen pålægges idriftsættere af systemer til følelsesgenkendelse og biometriske kategoriseringssystemer en forpligtelse til at informere fysiske personer, der eksponeres for disse systemer, om systemets drift.

(100)

I betragtning 132 til AI-forordningen forklares det, at formålet med denne forpligtelse er at sikre, at fysiske personer (herunder personer med handicap) er bekendt med, at de eksponeres for systemer til følelsesgenkendelse og biometriske kategoriseringssystemer, som kan være indgribende for deres privatliv. Forpligtelsen finder derfor anvendelse, uanset om personerne eksponeres for sådanne systemer i realtid, eller om disse systemer anvendes efterfølgende.

5.1.   Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser i AI-forordningens artikel 50, stk. 3

5.1.1.   Begrebet system til følelsesgenkendelse

(101)

I artikel 3, nr. 39), i AI-forordningen defineres et »system til følelsesgenkendelse« som »et AI-system, der har til formål at genkende eller udlede fysiske personers følelser eller hensigter på grundlag af deres biometriske data«. Den nærmere redegørelse for dette begreb i Kommissionens retningslinjer for klassificering af højrisiko-AI-systemer, herunder de praktiske eksempler deri, er ligeledes relevant i forbindelse med artikel 50, stk. 3, i AI-forordningen.

(102)

Da alle følelsesgenkendelsessystemer også klassificeres som højrisiko-AI-systemer, medmindre de er forbudt i henhold til artikel 5, stk. 1, litra f), i AI-forordningen på arbejdspladser og uddannelsessteder, bør gennemsigtighedsforpligtelsen i artikel 50, stk. 3, i AI-forordningen finde anvendelse sammen med de øvrige sikkerhedsforanstaltninger og krav, der gælder for højrisiko-AI-systemer.

5.1.2.   Begrebet system til biometrisk kategorisering

(103)

I artikel 3, nr. 40), i AI-forordningen defineres et »system til biometrisk kategorisering« som »et AI-system, der har til formål at placere fysiske personer i bestemte kategorier på grundlag af deres biometriske data, medmindre de understøtter en anden kommerciel tjeneste og er strengt nødvendige af objektive tekniske årsager«. Den nærmere redegørelse for dette begreb i Kommissionens retningslinjer for klassificering af højrisiko-AI-systemer, herunder de konkrete elementer samt praktiske eksempler deri, er ligeledes relevant i forbindelse med artikel 50, stk. 3, i AI-forordningen.

(104)

Det er vigtigt at bemærke, at artikel 50, stk. 3, i AI-forordningen finder anvendelse på alle systemer til biometrisk kategorisering (f.eks. alders- eller kønsklassificering på grundlag af biometriske data), uanset om de falder ind under anvendelsesområdet for højrisiko-AI-systemer i henhold til AI-forordningen, medmindre de er forbudt i henhold til artikel 5, stk. 1, litra g).

5.1.3.   Oplysningspligten i AI-forordningens artikel 50, stk. 3

(105)

Omfanget af de oplysninger, der skal gives: Idriftsættere skal informere de berørte fysiske personer om, at de eksponeres for et system til følelsesgenkendelse eller for et biometrisk kategoriseringssystem, som er i drift. AI-forordningen kræver ikke, at der medtages oplysninger om årsagerne til systemets drift, eller om, hvorvidt systemet også behandler oplysninger til andre formål end følelsesgenkendelse eller biometrisk kategorisering, som der skal gives oplysning om i henhold til EU-databeskyttelsesretten (se afsnit 5.3.).

(106)

Adressaterne for oplysningerne: I henhold til artikel 50, stk. 3, i AI-forordningen skal idriftsættere informere alle fysiske personer, der udsættes for AI-systemet, herunder børn.

(107)

Midlerne til at give oplysninger: AI-forordningen foreskriver ikke en bestemt måde at give oplysningerne på, bortset fra at artikel 50, stk. 5, i AI-forordningen kræver, at oplysningerne gives på en klar og synlig måde og i overensstemmelse med de gældende tilgængelighedskrav (som imødekommer behovene hos fysiske personer med handicap). Hvordan fysiske personer, der udsættes for systemet, skal informeres, kan afhænge af idriftsættelsesstedet (f.eks. virtuel spilplatform, fysisk butik, togstation), de mulige adressater (f.eks. børn, ældre, personer med handicap, kunder), eksponeringens varighed og type (f.eks. langvarig, enkeltstående, kontinuerlig, periodisk), og om der eventuelt består en relation mellem idriftsætteren og de pågældende personer (f.eks. hvis der findes en eksisterende kommunikationskanal med den enkelte). Afhængigt af situationen kan oplysningerne gives skriftligt, ved hjælp af standardiserede ikoner (også når de præsenteres elektronisk), mundtligt eller ved hjælp af kombinationer heraf.

Eksempler på underretning af fysiske personer:

—

Et centralt placeret pop op-vindue med en introduktionsmeddelelse, inden et computerspil startes, som angiver, at spillerens ansigt optages, og at vedkommendes følelser registreres.

—

En synlig meddelelse ved hver mulig indgang til et udstillingslokale med oplysninger om, at de besøgendes ansigtsbilleder optages, når de kommer ind i lokalet, med henblik på at henføre dem til en bestemt aldersgruppe.

(108)

Tidsrammen for formidling af oplysningerne: Oplysningerne skal gives senest på tidspunktet for den første interaktion med eller eksponering for AI-systemet i overensstemmelse med artikel 50, stk. 5, i AI-forordningen. Hvor det er relevant, er det ikke udelukket at give de krævede oplysninger på forhånd.

5.2.   Undtagelse for retshåndhævelse

(109)

Oplysningspligten finder ikke anvendelse på følelsesgenkendelsessystemer og biometriske kategoriseringssystemer, der ifølge loven må anvendes til at afsløre, forebygge eller efterforske strafbare handlinger, med passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder og i overensstemmelse med EU-retten. Præciseringerne vedrørende denne undtagelse i punkt 46-48 ovenfor er også relevante i dette tilfælde med én forskel: Mens de øvrige undtagelser i artikel 50 i AI-forordningen kræver en udtrykkelig lov, der tillader en ikkegennemsigtig anvendelse af AI-systemerne, gør artikel 50, stk. 3, i AI-forordningen en sådan anvendelse mulig, når den er tilladt i henhold til de retsregler, der regulerer de retshåndhævende myndigheders beføjelser til at anvende systemer til følelsesgenkendelse og biometriske kategoriseringssystemer til at afsløre, forebygge eller efterforske strafbare handlinger uden at informere de berørte personer, med forbehold af passende sikkerhedsforanstaltninger.

5.3.   Samspil med andre EU-retsakter

(110)

Oplysningspligten i artikel 50, stk. 3, i AI-forordningen gør ikke i sig selv anvendelsen af et system til følelsesgenkendelse og biometrisk kategorisering lovlig. Den legitimerer heller ikke indgribende eller diskriminerende anvendelser, som kan være ulovlige og forbudte i henhold til artikel 5 i AI-forordningen eller anden EU-ret. Idriftsættere skal overholde oplysningspligten i artikel 50, stk. 3, i AI-forordningen i tillæg til eventuelle gældende oplysningskrav i henhold til EU-databeskyttelsesretten. I visse tilfælde kan idriftsættere overveje at tilføje underretninger i henhold til artikel 50, stk. 3, i AI-forordningen til de oplysninger, der gives til registrerede i henhold til EU-databeskyttelsesretten.

6.   ARTIKEL 50, STK. 4: MÆRKNING AF DEEPFAKES OG VISSE TEKSTPUBLIKATIONER

(111)

I artikel 50, stk. 4, i AI-forordningen fastsættes der to særskilte forpligtelser rettet til idriftsættere af generative AI-systemer, som kræver klare og synlige oplysninger om i) deepfakes og ii) AI-genereret eller manipuleret tekst, der offentliggøres med det formål at informere offentligheden om spørgsmål af offentlig interesse, undtagen i nærmere bestemte tilfælde. Disse mærkningsforpligtelser gælder i tillæg til og uden at berøre forpligtelserne til maskinlæsbar mærkning og påvisning i henhold til artikel 50, stk. 2, i AI-forordningen, der finder anvendelse på udbydere af AI-systemer, som genererer eller manipulerer syntetisk billed-, video-, lyd- eller tekstindhold.

6.1.   Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser for deepfakes i AI-forordningens artikel 50, stk. 4

(112)

AI-forordningens artikel 50, stk. 4, første afsnit, finder anvendelse, hvis flere betingelser er opfyldt:

i)

Systemet skal være et AI-system

ii)

Det anvendes af idriftsættere til erhvervsmæssige formål (se afsnit 2.3 og 2.4.1)

iii)

Det anvendes til at generere eller manipulere billed-, lyd- eller videoindhold, der udgør en deepfake

iv)

AI-systemet må ikke være omfattet af undtagelsen for anvendelse, der ved lov er tilladt for at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger.

6.1.1.   Begrebet »deepfake«

(113)

I artikel 3, nr. 60), i AI-forordningen defineres »deepfake« som »et ved hjælp af AI genereret eller manipuleret billed-, lyd- eller videoindhold, der i væsentlig grad ligner faktiske personer, genstande, steder, enheder eller begivenheder, og som fejlagtigt vil fremstå ægte eller sandfærdigt«. Forskellen mellem manipulation og generering er præciseret i afsnit 4.1 ovenfor. Med henblik på at præcisere begrebet deepfake behandles nedenfor fire kumulative kriterier fra denne definition: i) lighed med ii) faktiske iii) personer, genstande, steder, enheder eller begivenheder, og iv) at indholdet fejlagtigt vil fremstå som ægte eller sandfærdigt.

i)

Lighed: I artikel 3, nr. 60), i AI-forordningen præciseres det, at AI-genereret eller manipuleret billed-, lyd- eller videoindhold skal »ligne« faktiske motiver for at udgøre en deepfake. I betragtning 134 til AI-forordningen tilføjes det, at en sådan lighed bør være væsentlig. AI-genereret eller manipuleret billed-, lyd- eller videoindhold ligner i væsentlig grad et motiv, hvis der er en høj grad af lighed mellem deepfakeindholdet og det motiv (herunder ethvert af dets genkendelige elementer), der simuleres af deepfaken. Indholdet behøver ikke at være identisk med motivet. Hvorvidt graden af lighed er væsentlig, er en vurdering fra sag til sag, som idriftsætteren skal foretage på grundlag af en objektiv sammenligning mellem det simulerede motiv og deepfakeindholdet, bl.a. på grundlag af i hvilket omfang karakteristiske eller særprægede træk er repræsenteret ved deepfaken.

ii)

Faktiske: I artikel 3, nr. 60), i AI-forordningen præciseres det, at AI-genereret eller manipuleret billed-, lyd- eller videoindhold skal »ligne« faktiske motiver for at udgøre en deepfake. For effektivt at opfylde formålet med artikel 50, stk. 4, i AI-forordningen om at mindske risikoen for imitation, vildledning, misinformation, manipulation og svig betyder »faktiske«, at AI-genereret eller manipuleret billed-, lyd- eller videoindhold bør ligne realistiske motiver (f.eks. personer, genstande eller steder). Det er derfor tilstrækkeligt, at simulerede personer, genstande, steder, enheder eller begivenheder ligner nogen eller noget, der eksisterer, plausibelt kan eksistere eller plausibelt kunne have eksisteret i virkeligheden, for at de kan betragtes som en deepfake, da sådant indhold kan være en væsentlig kilde til vildledning, manipulation og desinformation. Derimod anses simulerede personer, genstande, steder, enheder eller begivenheder, der f.eks. trodser naturens eller fysikkens love eller afbilder livsformer, som ikke er almindeligt accepteret inden for biologien (såsom mennesker, der flyver uden mekaniske hjælpemidler, drager eller elefanter, der kører bil), og som ikke har potentiale til at vildlede, for urealistiske og falder derfor uden for gennemsigtighedsforpligtelsens anvendelsesområde.

iii)

Personer, genstande, steder, enheder eller begivenheder: I artikel 3, nr. 60), i AI-forordningen præciseres det, at AI-genereret eller manipuleret billed-, lyd- eller videoindhold skal ligne »faktiske personer, genstande, steder, enheder eller begivenheder«. »Personer« skal forstås som realistiske mennesker (herunder digitale kopier af virkelige personer, realistiske AI-genererede menneskelige avatarer eller personaer og personlige kendetegn eller udtryk såsom billede, stemme, adfærd, optrædener osv.). »Genstande« skal forstås som realistiske, livløse materielle genstande, herunder bygninger, kunstværker, maskiner, forbrugsgoder osv. »Steder« skal forstås som realistiske lokaliteter. »Enheder« skal forstås som realistiske, ikkemenneskelige, men levende væsener, herunder dyr eller andre biologiske livsformer. »Begivenheder« skal forstås som realistiske scener eller situationer, der kan involvere personer, genstande, steder og enheder (f.eks. fremkaldelse af historiske begivenheder eller skildring af professionelle tjenester eller forbrugertjenester).

iv)

Indhold, som fejlagtigt vil fremstå som ægte eller sandfærdigt: For det fjerde præciseres det i artikel 3, nr. 60), i AI-forordningen, at AI-genereret eller manipuleret billed-, lyd- eller videoindhold, der ligner eksisterende personer, genstande, steder, enheder eller begivenheder, »fejlagtigt vil fremstå som ægte eller sandfærdigt«. Dette kriterium vedrører deepfakeindholds væsentlige kendetegn og dets evne til potentielt at bedrage eller vildlede en person med hensyn til indholdets ægthed eller sandfærdighed (32). Indholdets ægthed henviser til, om indholdet reelt er det, det giver sig ud for at være, for så vidt angår dets kilde eller skabelsesproces (herunder f.eks. involvering af virkelige mennesker eller dyr og deres faktiske adfærd eller handlinger, genstandes faktiske udseende eller anvendelse eller levering af tjenester samt en begivenheds nøjagtige udvikling eller forløb). Sandfærdighed vedrører indholdets rigtighed (f.eks. den faktuelle rigtighed af fremstillingerne i deepfaken).

(114)

Hvorvidt indhold »fejlagtigt vil fremstå som ægte eller sandfærdigt«, bør vurderes som en helhed under hensyntagen til graden af lighed, indholdets potentielle materielle budskab, de tilsigtede og forudsigelige anvendelsessammenhænge, det miljø, hvori indholdet præsenteres, og sammensætningen af de tilsigtede og rimeligt forudsigelige brugere samt deres forventninger. Denne vurdering er imidlertid objektiv, og det kræves ikke, at idriftsætteren har til hensigt at bedrage eller vildlede de fysiske personer, der eksponeres for indholdet, for at det kan udgøre en deepfake. For så vidt angår anvendelsessammenhængen og brugernes forventninger betyder dette, at hvis indholdet anvendes i specifikke anvendelsessammenhænge, hvor de tilsigtede og rimeligt forudsigelige brugere ikke forventer, at indholdet er ægte eller sandfærdigt, fremstår det AI-genererede eller manipulerede indhold muligvis ikke fejlagtigt som ægte eller sandfærdigt, selv om det faktisk er uægte eller usandfærdigt. I sådanne tilfælde vil det fjerde kriterium i definitionen af deepfake ikke være opfyldt. F.eks. vil AI-generering eller manipulation af baggrundsscener, specialeffekter eller teknisk for- og efterbehandling som led i standardprocesser for filmproduktion sandsynligvis ikke få indhold til fejlagtigt at fremstå som ægte eller sandfærdigt for brugerne. Omvendt vil anvendelse af AI til at generere eller manipulere væsentlige elementer, der påvirker brugernes opfattelse, sandsynligvis gøre det (såsom fuldt AI-genererede skuespillere, digitale replikaer af virkelige eller afdøde skuespillere, foryngelse, simulerede optrædener, herunder dele heraf, eller uægte eller usandfærdig fremstilling af personer, genstande, steder eller begivenheder i dokumentarer). For så vidt angår billed- og videoindhold anerkendes det, at en høj grad af fotorealisme gør det mere sandsynligt, at sådant indhold bør betragtes som en deepfake (da det sandsynligvis ligner eksisterende emner), men fotorealisme alene er ikke afgørende for vurderingen. Det, der fortsat bør vurderes, er, om sådant indhold er egnet til at bedrage eller vildlede en person med hensyn til indholdets ægthed eller sandfærdighed, idet der bl.a. tages hensyn til den tilsigtede og forudsigelige anvendelsessammenhæng.

(115)

I modsætning til artikel 50, stk. 1, i AI-forordningen bør vurderingen af, om noget fejlagtigt fremstår som ægte eller sandfærdigt for en person, ikke baseres på en hypotetisk »gennemsnitsperson«, der forventes at blive eksponeret for indholdet (se afsnit 3.2.1), men bør tage behørigt hensyn til den mulige forskelligartede sammensætning af de rimeligt forudsigelige brugere, der kan blive eksponeret for deepfakeindholdet. Behørig hensyntagen til brugernes sammensætning er særlig vigtig, hvis det er rimeligt forudsigeligt, at deepfakeindholdet på et tidspunkt kan blive opfattet af børn, ældre eller andre grupper af personer med lavere digitale færdigheder og AI-færdigheder eller et lavere generelt vidensniveau, da de lettere kan blive bedraget eller vildledt med hensyn til indholdets ægthed eller sandfærdighed. I sådanne tilfælde kan det være tilstrækkeligt til at kvalificere indhold som en deepfake, at indholdet fejlagtigt fremstår som ægte eller sandfærdigt for disse forudsigelige brugere. Idriftsættere forventes imidlertid ikke at tage hensyn til potentiel yderligere udbredelse af deepfakeindholdet foretaget af tredjeparter ud over de brugere, som idriftsætteren med rimelighed kan forudse, under hensyntagen til de tilsigtede distributionskanaler (f.eks. hvis deepfakeindhold udelukkende vises på en del af et websted, der kun er for abonnenter, eller som en del af en virksomheds nyhedsbrev, indebærer dette ikke, at idriftsætteren som udgangspunkt bør tage højde for bred offentlig tilgængelighed).

(116)

Tilsvarende kan AI-støttet manipulation af uvæsentlige indholdsmæssige eller tekniske aspekter af allerede eksisterende indhold have mindre relevans for en persons vurdering af indholdets ægthed eller sandfærdighed og ikke medføre, at det deraf følgende indhold bliver en deepfake. Dette kan f.eks. omfatte redigering af detaljer i baggrunden (f.eks. fjernelse af forbipasserende), lysjusteringer, tilpasning af lydparametre, farvekorrektion, støjreduktion eller støjfjernelse, forbedring af tilgængelighed eller filkomprimering, kosmetiske justeringer og forbedringer. Hvorvidt manipulationen falder ind under denne kategori, afhænger af konteksten og indvirkningen på personernes opfattelse af indholdets ægthed eller sandfærdighed i det konkrete tilfælde. For eksempel vil AI-drevet farvekorrektion, udvidelse af baggrunden i eksisterende indhold, justering eller udskiftning af baggrunde af rent æstetiske årsager, sammensætninger og opstillinger af eksisterende produkter eller skalering af billeder anvendt i produktreklamer eller på emballage sandsynligvis kun have en mindre indvirkning på en persons opfattelse af reklamens og produktets ægthed og sandfærdighed. Omvendt kan væsentlig AI-drevet redigering af detaljer i baggrunden i journalistiske billeder, der går videre end almindelig teknisk og redaktionel praksis, påvirke en persons opfattelse af indholdets ægthed og sandfærdighed negativt.

Eksempler på deepfakes i henhold til artikel 3, nr. 60), i AI-forordningen:

—

AI-manipuleret billede af en scene med to ægte professionelle fodboldspillere foran en bygning, der ligner et fodboldstadion.

—

AI-genereret lyd med stemmekloning af en avispodcasts faste værter og en gæstesamtalepartner, der drøfter visse nyhedsbegivenheder.

—

AI-genereret video af en person, der ligner en politiker og holder en tale foran et publikum.

—

AI-genereret video med en AI-genereret fremstilling af en kendt influencer i en reklame- eller promoveringssammenhæng.

—

AI-genereret video med en realistisk syntetisk avatar af en virksomheds direktør, der lykønsker medarbejderne med deres arbejde og virksomhedens resultater i det forløbne år.

—

Et AI-genereret billede af et produkt i en reklame eller på emballage, som kan påvirke brugernes opfattelse og vildlede med hensyn til produktets faktiske udseende, egenskaber eller anvendelse (f.eks. ved at få produktet til at fremstå som ikke identisk med det virkelige produkt, mere tiltalende eller af bedre kvalitet end i virkeligheden).

Eksempler, der ikke udgør deepfakes i henhold til artikel 3, nr. 60), i AI-forordningen:

—

AI-genereret billede af en scene med en sfinks, der flyver over Eiffeltårnet.

—

AI-genereret video af mus, der diskuterer på menneskesprog, hvilken ostetype der er den bedste, som led i en reklamekampagne for en osteproducent.

—

AI-stemmegengivelse for fiktive karakterer (f.eks. til lydbøger, spil eller animation), når der ikke sker vildledning med hensyn til fortællernes identitet.

—

AI-manipuleret radioudsendelse, der justerer tekniske lydparametre (f.eks. normalisering af lydstyrkeniveauer, støjreduktion, lydkomprimering) uden at ændre de faktiske ord, som de talende personer udtaler, eller deres måde at tale på.

—

AI-genereret tegnefilmsversion af et allerede eksisterende billede, der skildrer en historisk begivenhed.

—

Video af en vært for et videnskabeligt TV-program, der går gennem et bjergområde, mens vedkommende omtaler gletsjeres tilbagetrækning, som illustreres af en AI-manipuleret baggrundsanimation, der viser, hvordan gletsjerne har trukket sig tilbage fra deres historiske niveauer til deres nuværende niveauer.

—

AI-genererede fiktive miljøer (f.eks. fiktive skove og slotte) i videospil.

—

Film, hvor virkelige skuespillere (som ikke er manipuleret ved hjælp af AI) spiller foran en AI-genereret baggrund (f.eks. en fiktiv prærie, historiske bygninger i oldtidsbyer osv.).

—

Et virkeligt produkt (f.eks. en bil), der vises i en reklame mod en AI-genereret baggrund og et AI-genereret omgivende miljø, så længe reklamen sandsynligvis ikke vildleder brugerne om produktets faktiske gengivelse og dets egenskaber og anvendelse.

6.1.2.   Oplysningspligt i artikel 50, stk. 4, første afsnit, i AI-forordningen

(117)

Artikel 50, stk. 4, første afsnit, i AI-forordningen forpligter idriftsættere af AI-systemer, der genererer eller manipulerer billed-, lyd- eller videoindhold, som udgør en deepfake, til at »oplyse, at indholdet er blevet genereret kunstigt eller manipuleret«. I betragtning 134 til AI-forordningen præciseres det, at idriftsættere, der anvender AI-systemer til at generere eller manipulere deepfakeindhold, klart og synligt bør oplyse, at indholdet er kunstigt skabt eller manipuleret, ved at mærke AI-outputtet i overensstemmelse hermed og oplyse om dets kunstige oprindelse. Mærknings- eller oplysningsmetoder, der anvendes i overensstemmelse med artikel 50, stk. 4, første afsnit, i AI-forordningen, bør være forståelige og opfattelige for fysiske personer (f.eks. med synlige eller hørbare mærkninger), uden at de behøver at benytte specifikke tekniske værktøjer eller foretage særlige handlinger. Idriftsættere kan derfor ikke støtte sig på den maskinlæsbare mærkning, som udbyderen har indlejret i indholdet i henhold til artikel 50, stk. 2, i AI-forordningen, eftersom disse mærkninger ikke umiddelbart er klare og synlige for de fysiske personer, der eksponeres for deepfakeindholdet.

(118)

I lyset af artikel 50, stk. 7, i AI-forordningen kan idriftsættere overholde en praksiskodeks, der er vurderet som tilstrækkelig i henhold til artikel 50, stk. 7, i AI-forordningen, for at påvise overholdelse af denne oplysningspligt. Yderligere oplysninger om virkningerne af at overholde en sådan kodeks og tilsynet med andre idriftsættere, der ikke overholder en kodeks, findes i afsnit 8.1 nedenfor.

6.1.3.   Gennemsigtighed i forbindelse med kunstnerisk, kreativt, satirisk, fiktivt eller tilsvarende deepfakeindhold

(119)

Artikel 50, stk. 4, første afsnit, i AI-forordningen fastsætter en lempet gennemsigtighedsforpligtelse for deepfakes, der indgår i et oplagt kunstnerisk, kreativt, satirisk, fiktivt eller tilsvarende værk eller program. For sådant indhold er gennemsigtighedsforpligtelsen begrænset til oplysning om deepfaken på en passende måde, der ikke er til gene for visningen eller nydelsen af værket.

(120)

Relevante indholdskategorier: For at kunne drage fordel af den lempede oplysningsordning om gennemsigtighed bør deepfaken (billede, lyd eller video) indgå i mindst én af følgende indholdskategorier: kunstneriske, kreative, satiriske, fiktive eller tilsvarende værker eller programmer. Hvorvidt en deepfake falder ind under en eller flere af disse kategorier, kræver, at idriftsætteren foretager en vurdering fra sag til sag. Med henblik på artikel 50, stk. 4, i AI-forordningen skal disse kategorier forstås således:

—

Kunstneriske værker skal forstås som værker, der er skabt med kunstneriske formål, herunder musik, filmværker og billedkunst.

—

Kreative værker skal forstås som værker, der indebærer kreative valg. Værker, der hovedsagelig er begrundet i funktionelle eller tekniske betragtninger, kan ikke anses for at være kreative.

—

Satiriske værker skal forstås som værker, der har til formål at kritisere samfundet, politik, erhvervslivet eller offentlige personer gennem anvendelse af humoristiske teknikker (herunder ironi, sarkasme, latterliggørelse, pastiche osv.).

—

Fiktive værker skal forstås som kulturelle værker, der involverer personer, genstande, steder, enheder eller begivenheder i en imaginær, men virkelighedstro ramme.

—

Tilsvarende værker skal forstås som værker, der deler centrale træk eller lignende udtryksmæssige eller funktionelle egenskaber med ovennævnte kategorier, men som ikke passer entydigt ind i én af dem.

(121)

Ovennævnte indholdskategorier kan også finde anvendelse på programmer, der skal forstås som et individuelt indslag i en programflade eller et katalog, som er fastlagt af en medietjenesteudbyder, og som kan sammenlignes med TV-spredning med hensyn til form og indhold (33). Henvisningen til »værker« i forbindelse med artikel 50, stk. 4, i AI-forordningen har ingen betydning for, om indholdet er berettiget til beskyttelse i henhold til EU-retten om ophavsret og beslægtede rettigheder.

(122)

Oplagt: Det bør være oplagt for de fysiske personer, der eksponeres for en deepfake, at den falder ind under én eller flere af ovennævnte indholdskategorier. Dette indebærer, at kategorierne bør fortolkes strengt, hvilket er begrundet i, at der anvendes en lempeligere oplysningsordning på grund af den potentielle indvirkning på ytringsfriheden og retten til frihed for kunst og videnskab, samtidig med at risiciene for misinformation, manipulation og vildledning stadig skal håndteres på passende vis. Indhold, hvis karakter potentielt er uklar eller tvetydig for brugerne, er derfor udelukket fra anvendelsesområdet for denne lempeligere gennemsigtighedsordning. Relevante faktorer ved vurderingen af, om kunstnerisk, kreativt, satirisk eller fiktivt indhold har en oplagt karakter, omfatter: i) om indholdet har formater eller stilarter, der er karakteristiske for indholdskategorierne (f.eks. ironi eller overdrivelse for satiriske værker, bestemte kunstneriske stilarter, visning af karakteristiske temaer, teknikker eller æstetikker osv.), ii) den sammenhæng, hvori indholdet præsenteres (f.eks. hvis den platform, det medie eller det sted, hvorpå eller hvor indholdet præsenteres, gøres tilgængeligt eller distribueres, er forbundet med kunstnerisk, kreativ, satirisk eller fiktiv anvendelse), og iii) brugernes forventninger (f.eks. en film, et spilmiljø eller en scene i virtuel virkelighed). Desuden udelukker betingelsen om, at det skal være "oplagt, at indholdet falder ind under en af ovennævnte indholdskategorier, indhold fra disse indholdskategorier, hvis dets karakter udelukkende er informativ eller kommerciel og kan genkendes som sådan (f.eks. nyhedsformidling). I denne henseende kan visse typer indhold (f.eks. reklamer eller dokumentarfilm), der indeholder deepfakes, anses for oplagt kreative eller fiktive værker i visse konkrete situationer, men ikke i andre, eftersom vurderingen afhænger af den konkrete sag. Når en deepfake kombinerer flere karaktertræk (f.eks. informativ og kreativ), bør det informative karaktertræk altid veje tungest, og de gældende mærkningskrav skal overholdes.

(123)

Passende oplysning, der ikke er til gene for visningen eller nydelsen af værket: Deepfakes, der indgår i oplagte kunstneriske, kreative, satiriske eller fiktive værker eller programmer, er ikke udelukket fra gennemsigtighedsforpligtelsen i artikel 50, stk. 4, første afsnit, i AI-forordningen. Idriftsættere skal fortsat oplyse om indholdets AI-oprindelse eller manipulationen heraf, men de kan gøre dette på en passende måde, der ikke er til gene for visningen eller nydelsen af værket. I betragtning 134 til AI-forordningen præciseres det, at en sådan passende oplysning ikke bør være til gene for den normale udnyttelse og anvendelse, samtidig med at værkets nytteværdi og kvalitet kan bevares. Bestemmelsen af, hvilke oplysningsforanstaltninger der skal anses for passende, foretages ved en vurdering fra sag til sag, hvor idriftsættere kan tage alle relevante faktorer i betragtning (herunder værkets art, brugere, sammenhæng osv.). Under alle omstændigheder skal idriftsættere overholde artikel 50, stk. 5, i AI-forordningen (se afsnit 7). I lyset af artikel 50, stk. 7, i AI-forordningen kan idriftsættere overholde en praksiskodeks, der er vurderet som tilstrækkelig for at påvise overholdelse af denne oplysningspligt. Yderligere oplysninger om virkningerne af at overholde en sådan kodeks og tilsynet med andre idriftsættere, der ikke overholder en kodeks, findes i afsnit 8.1 nedenfor.

(124)

Passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder: Betragtning 134 til AI-forordningen præciserer, at overholdelse af den lempede gennemsigtighedsforpligtelse og anvendelse af kunstneriske, kreative, satiriske eller fiktive deepfakes skal være »med forbehold af passende sikkerhedsforanstaltninger for tredjemands rettigheder og friheder«. Idriftsættere skal derfor sikre, at tredjemands rettigheder og friheder (herunder f.eks. deres ret til beskyttelse af personoplysninger eller intellektuelle ejendomsrettigheder) beskyttes og respekteres i tilstrækkelig grad, når de skaber eller offentliggør deepfakes, selv om deepfaken skal anses for at være kunstnerisk, kreativ, satirisk eller fiktiv. At støtte ret på den lempede gennemsigtighedsforpligtelse kan ikke begrunde, at enkeltpersoners grundlæggende rettigheder eller rettighedshaveres rettigheder i henhold til EU-retten om intellektuel ejendomsret eller EU-databeskyttelsesretten ikke respekteres (34).

Eksempler på deepfakes, der er kreative, satiriske, fiktive eller tilsvarende værker:

—

Kunstnerisk/fiktivt værk: film (eller filmtrailere) med AI-genererede eller manipulerede deepfakes af faktiske skuespillere, der er gjort yngre, eller digitale kopier af afdøde skuespillere eller andre personer, som vises i en biograf eller på en streamingplatform.

—

Kunstnerisk/kreativt værk: AI-genereret musik inden for enhver genre, der ligner eksisterende kunstneres individuelle stil.

—

Satirisk/fiktivt værk: AI-manipuleret billede af en eksisterende politiker, hvor vedkommende placeres i en scene, der klart har til formål på humoristisk vis at kritisere visse politiske beslutninger, som den pågældende har truffet eller støttet.

—

Tilsvarende kreativt/fiktivt værk: AI-genererede spilbilleder, der indebærer deepfakesimuleringer af virkelige, eksisterende personer.

Eksempler på deepfakes, der ikke udgør kunstneriske, kreative, satiriske, fiktive eller tilsvarende værker:

—

AI-manipuleret video i stil med en teleshoppingkanal med deepfakesimulering af mennesker, der reklamerer for et produkt i en AI-genereret scene, som skildrer de simulerede forbrugeres funktionelle anvendelse af produktet med det formål at overbevise seerne om at købe produktet.

—

AI-genereret billede af berømtheder, der antyder deres involvering i aktiviteter, der aldrig har fundet sted, uden noget fiktivt, satirisk eller tilsvarende formål.

—

AI-manipuleret video med en realistisk syntetisk influencer, der tester et sponsoreret virkeligt produkt, og som udelukkende fokuserer på at vise produktets funktionaliteter.

—

AI-genereret video, der viser realistiske holocaustscener, som deles på offentligt tilgængelige sociale medieplatforme.

6.1.4.   Undtagelse for retshåndhævelse

(125)

Hvis anvendelsen af en deepfake (f.eks. en AI-genereret video, der simulerer begivenheder, som aldrig har fundet sted) er tilladt ved lov med henblik på at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, er idriftsættere undtaget fra gennemsigtighedsforpligtelsen i artikel 50, stk. 4, første afsnit, i AI-forordningen. De præciseringer, der er givet i punkt 46-48 ovenfor for en tilsvarende undtagelse i artikel 50, stk. 1, i AI-forordningen, er også relevante for denne bestemmelse.

6.1.5.   Samspil med andre EU-retsakter

(126)

Gennemsigtighedsforpligtelsen i artikel 50, stk. 4, første afsnit, i AI-forordningen vil indgå i et samspil med forpligtelserne for udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner til at identificere og afbøde systemiske risici i henhold til artikel 34 og 35 i forordningen om digitale tjenester, navnlig artikel 35, stk. 1, litra k), i forordningen om digitale tjenester (35). Sidstnævnte bestemmelse nævner blandt de mulige risikobegrænsende foranstaltninger, som udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner kan træffe, foranstaltninger, der sikrer, at »oplysninger, hvad enten der er tale om genereret eller manipuleret billed-, lyd- eller videomateriale, der i væsentlig grad ligner eksisterende personer, genstande, steder eller andre enheder eller begivenheder, og som fejlagtigt for andre forekommer at være autentisk eller sandfærdigt, skiller sig ud ved hjælp af fremtrædende markeringer, når de vises på deres onlinegrænseflader«. Desuden kan udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner også tilvejebringe en brugervenlig funktionalitet, som gør det muligt for tjenestemodtagerne at angive sådan information. Selv om denne bestemmelse i forordningen om digitale tjenester forekommer at ligne artikel 50, stk. 4, i AI-forordningen, supplerer den denne artikel og indeholder to vigtige sondringer:

—

Forskelligt materielt anvendelsesområde: Sammenlignet med artikel 50, stk. 4, i AI-forordningen omfatter artikel 35, stk. 1, litra k), i forordningen om digitale tjenester en bredere vifte af indhold, som fejlagtigt kan forekomme at være autentisk eller sandfærdigt, uanset hvilken teknologi der er anvendt til at skabe indholdet (dvs. den omfatter indhold, der er genereret eller manipuleret ved hjælp af AI-systemer eller ethvert andet værktøj).

—

Forskelligt personelt anvendelsesområde: Artikel 50, stk. 4, i AI-forordningen pålægger idriftsættere af AI-systemer, der genererer eller manipulerer deepfakes, at mærke sådant indhold, mens artikel 35, stk. 1, litra k), i forordningen om digitale tjenester finder anvendelse på udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner, der udbreder indholdet eller gør sådant indhold søgbart. F.eks. kan dem, der i henhold til AI-forordningen er idriftsættere af AI-systemer, som er integreret i en meget stor onlineplatform, anses for »tjenestemodtagere« i henhold til artikel 3, litra b), i forordningen om digitale tjenester (36), hvis de anvender den meget store onlineplatform til at udbrede indhold, der er genereret med det pågældende AI-system, mens den meget store onlineplatform kan anses for udbyderen af AI-systemet, hvis betingelserne i artikel 3, stk. 3, i AI-forordningen er opfyldt. Når udbydere af meget store onlineplatforme eller meget store onlinesøgemaskiner stiller mærkningsværktøjer til rådighed for sådanne idriftsættere, så de kan mærke deres deepfakeindhold i overensstemmelse med artikel 50, stk. 4, i AI-forordningen (dvs. en klar og synlig oplysning om AI-oprindelsen), kan disse idriftsættere anvende sådanne værktøjer til at opfylde deres gennemsigtighedsforpligtelse i henhold til denne bestemmelse inden for rammerne af den anvendte meget store onlineplatform eller meget store onlinesøgemaskine. At stille en sådan funktionalitet til rådighed berører ikke idriftsætternes ansvar i henhold til AI-forordningen for at opfylde deres mærkningsforpligtelser i henhold til artikel 50, stk. 4, i AI-forordningen. Endvidere vil udbydere af meget store onlineplatforme og meget store onlinesøgemaskiner også blive betragtet som idriftsættere af et AI-system i henhold til AI-forordningen, hvis de anvender et AI-system under deres myndighed til deres egne erhvervsmæssige formål (f.eks. ved at skabe visuelle elementer, der skal anvendes som en del af markedsføringsmateriale).

(127)

Hvis en deepfake indeholder oplysninger vedrørende en direkte eller indirekte identificerbar fysisk person (som er i live), skal idriftsættere som dataansvarlige i henhold til EU’s databeskyttelseslovgivning også overholde de respektive forpligtelser i henhold til den (37). Dette omfatter f.eks. anvendelse af et passende retsgrundlag for behandlingen af personoplysningerne, oplysninger om behandlingen af data vedrørende de afbildede registrerede osv.

(128)

Idriftsættere af AI-systemer, der genererer deepfakes, skal endvidere sikre, at de overholder de relevante EU-regler om intellektuelle ejendomsrettigheder (såsom EU-varemærkeretten og EU-retten om ophavsret eller beslægtede rettigheder), hvis deres deepfake indeholder materiale, der er beskyttet i henhold til disse regler. Anvendelsen af et mærke eller ikon på en deepfake har ikke i sig selv nogen indvirkning på, om den kan opnå ophavsretlig beskyttelse, hvilket bør vurderes i overensstemmelse med gældende EU-ret om ophavsret.

(129)

Når faktiske personer er afbildet i deepfakes, skal idriftsættere også overholde relevante retsregler, der beskytter personlige rettigheder vedrørende eget billede eller egen stemme. Gennemsigtighedsforpligtelsen i artikel 50, stk. 4, første afsnit, i AI-forordningen indebærer ikke, at AI-genererede eller manipulerede deepfakes, der er skadelige og ulovlige efter gældende EU-ret eller national ret (f.eks. vildledende reklame eller strafferetligt ulovligt materiale såsom materiale, der viser seksuelt misbrug af børn, og intime billeder uden samtykke), må genereres og udbredes (se også afsnit 4.4).

6.2.   Hovedelementer, begreber og tilhørende gennemsigtighedsforpligtelser for AI-genereret eller manipuleret tekst i AI-forordningens artikel 50, stk. 4

(130)

AI-forordningens artikel 50, stk. 4, andet afsnit, finder anvendelse, hvis flere betingelser er opfyldt:

i)

Systemet skal være et AI-system

ii)

Det anvendes til at generere eller manipulere tekst (se afsnit 4.2.1.), der er offentliggjort med det formål at informere offentligheden om spørgsmål af offentlig interesse

iii)

Anvendelsen af AI-systemet er ikke omfattet af nogen af undtagelserne om, at 1) det AI-genererede indhold har gennemgået en proces med menneskelig gennemgang eller redaktionel kontrol, og at en fysisk eller juridisk person har det redaktionelle ansvar for offentliggørelsen af indholdet, eller 2) anvendelsen er tilladt ved lov med henblik på at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger.

6.2.1.   Tekst, der er offentliggjort med det formål at informere offentligheden om spørgsmål af offentlig interesse

(131)

Med henblik på at præcisere anvendelsesområdet for AI-forordningens artikel 50, stk. 4, andet afsnit, behandles tre elementer nedenfor: i) offentliggjort tekst ii) med det formål at informere offentligheden iii) om spørgsmål af offentlig interesse.

i)

Offentliggjort tekst: Den AI-genererede eller manipulerede tekst bør være offentliggjort. Det betyder, at teksten bør være tilgængelig for et ubestemt og forholdsvis stort antal indbyrdes uafhængige potentielle læsere samtidig og/eller successivt, uanset om det sker mod betaling (f.eks. abonnementer) (38). Derimod anses tekst ikke for offentliggjort, hvis adgangen er begrænset til bestemte personer, der tilhører en lukket, privat gruppe (f.eks. en lille, lukket gruppe i en chatapp, eller hvis gruppen er for lille eller ubetydelig). Eksempler på tekst, der ikke anses for offentliggjort, omfatter f.eks. privat, interpersonel korrespondance (til professionelle formål) eller organisationsinterne tekster eller meddelelser (f.eks. offentliggørelser på interne virksomhedsnetværk).

ii)

Oplysninger til offentligheden: Den offentliggjorte AI-genererede eller manipulerede tekst bør have til formål at informere offentligheden. Dette indebærer, at teksten bør have til formål at formidle viden, meninger eller fakta. Derimod kan korte tekster, som ikke i væsentlig grad formidler viden, meninger eller fakta, ikke anses for at informere offentligheden.

iii)

Om spørgsmål af offentlig interesse: Teksten skal informere offentligheden »om spørgsmål af offentlig interesse«. I almindelighed bør sådanne spørgsmål forstås således, at de omfatter spørgsmål, der er relevante for samfundet som helhed, uanset om det er på lokalt, nationalt, EU- eller internationalt plan, og som fortjener offentlig debat eller granskning. I den forbindelse bør tekster anses for at vedrøre spørgsmål af offentlig interesse, hvis de omhandler emner vedrørende politik og demokratiske processer, offentlig forvaltning og offentlige tjenester, retspleje og retshåndhævelse, beskyttelse af grundlæggende rettigheder, offentlig sikkerhed, folkesundhed, miljøbeskyttelse, forbrugersikkerhed og enhver økonomisk, finansiel, politisk, videnskabelig eller kulturel udvikling, der kan være et relevant emne for offentlig debat. Spørgsmål, der kan anses for at være af offentlig interesse, kan udvikle sig over tid og på tværs af kontekster.

Eksempler på tekst, der er offentliggjort med det formål at informere offentligheden om spørgsmål af offentlig interesse i henhold til AI-forordningens artikel 50, stk. 4, og som skal mærkes som kunstigt genereret eller manipuleret, medmindre den har været genstand for menneskelig gennemgang/redaktionel kontrol (se afsnit 6.2.3):

—

AI-genereret resumé af en artikel skrevet af et menneske på en avis’ websted om en nylig beslutning truffet af et byråd.

—

AI-manipulerede dele af en artikel på et livsstilswebsted, der sammenligner virkningerne af forskellige kostformer på en bestemt sygdom hos midaldrende kvinder.

—

AI-manipulerede selskabsrapporter, der er offentliggjort på et børsnoteret selskabs websted, og som indeholder investoroplysninger.

—

AI-genereret meddelelse på et meteorologisk instituts profil på sociale medier, der advarer borgerne om stormvejr og dertil knyttede forholdsregler.

Eksempler på tekst, som ikke er offentliggjort med det formål at informere offentligheden om spørgsmål af offentlig interesse, og som falder uden for anvendelsesområdet for AI-forordningens artikel 50, stk. 4:

—

AI-genererede fantasyromaner.

—

AI-manipuleret tekst, der indgår i en virksomheds reklame eller produktbeskrivelser (ikke inklusive påstande vedrørende f.eks. sundhed, forbrugersikkerhed eller bæredygtighed).

—

Nyhedsresumé genereret af en chatbot, som kun er tilgængeligt for den bruger, der gav prompten til chatbotten.

—

AI-manipuleret tekst udarbejdet af en konsulent som led i rådgivning af en klient om foranstaltninger, der skal træffes for at sikre overholdelse af gældende lovgivning.

6.2.2.   Oplysningspligten i AI-forordningens artikel 50, stk. 4, andet afsnit

(132)

AI-forordningens artikel 50, stk. 4, andet afsnit, pålægger idriftsættere af AI-systemer, der genererer eller manipulerer tekst, som offentliggøres med det formål at informere offentligheden om spørgsmål af offentlig interesse, at oplyse, at sådan tekst er blevet kunstigt genereret eller manipuleret. Det præciseres i betragtning 134 til AI-forordningen, at idriftsættere af tekstpublikationer, der falder ind under bestemmelsens anvendelsesområde, ligesom for deepfakes klart og tydeligt bør oplyse, at sådant indhold er blevet kunstigt skabt eller manipuleret, ved at mærke AI-outputtet i overensstemmelse hermed og oplyse dets kunstige oprindelse. Som krævet for deepfakes bør mærknings- eller oplysningsmetoder (herunder ansvarsfraskrivelser), der anvendes i overensstemmelse med AI-forordningens artikel 50, stk. 4, andet afsnit, også være klare og opfattelige for fysiske personer (f.eks. synlige eller hørbare foranstaltninger), uden at de behøver at benytte specifikke tekniske værktøjer eller foretage særlige handlinger. I lyset af AI-forordningens artikel 50, stk. 7, kan idriftsættere overholde en praksiskodeks, der vurderes som tilstrækkelig i henhold til denne bestemmelse, for at påvise overholdelse af denne oplysningspligt. Yderligere oplysninger om virkningerne af at overholde en sådan kodeks og tilsynet med idriftsættere, der ikke overholder en sådan kodeks, findes i afsnit 8.1 nedenfor.

6.2.3.   Undtagelse fra gennemsigtighedsforpligtelsen for tekst under menneskelig gennemgang eller redaktionel kontrol og redaktionelt ansvar

(133)

I AI-forordningens artikel 50, stk. 4, andet afsnit, fastsættes der en undtagelse fra gennemsigtighedsforpligtelsen i denne bestemmelse, når to kumulative betingelser er opfyldt: i) den AI-genererede eller manipulerede tekst skal have været genstand for menneskelig gennemgang eller redaktionel kontrol, og ii) en juridisk eller fysisk person skal have det redaktionelle ansvar for offentliggørelsen. Hvor det er relevant, kan idriftsættere støtte sig på relevante gældende faglige eller deontologiske standarder for at påvise overholdelse af disse krav som skitseret nedenfor.

i.   Tekst under menneskelig gennemgang eller redaktionel kontrol

(134)

Den første betingelse for, at undtagelsen i AI-forordningens artikel 50, stk. 4, andet afsnit, finder anvendelse, kræver, at den AI-genererede eller manipulerede tekst har været genstand for menneskelig gennemgang eller redaktionel kontrol. Menneskelig gennemgang henviser til en bevidst undersøgelse af indholdets substans foretaget af en eller flere fysiske personer, der har relevant viden og faglig dømmekraft vedrørende det undersøgte emne (f.eks. akademisk fagfællebedømmelse eller faglige valideringskæder). Faktatjek af indholdets nøjagtighed er et minimumskrav, der bør indgå i denne gennemgang. Redaktionel kontrol henviser til den kontrol med indholdet, som i praksis udøves af en ansvarlig redaktionel enhed (f.eks. en chefredaktør), der har beføjelse til at godkende, ændre eller afvise tekstens substans af indholdsmæssige grunde (inkl. faktatjek af oplysninger og sikring af kildernes troværdighed). Dette berører ikke eksisterende gennemgangs- og redaktionelle procedurer og faglige standarder, der finder anvendelse på medietjenesteudbydere.

(135)

Overfladiske, rent formelle eller proceduremæssige kontroller (f.eks. stavekontrol eller grammatisk korrektion), den blotte eksistens af en redaktionel politik, automatiserede gennemgangsprocesser eller summarisk redaktionel godkendelse uden indholdsmæssig involvering fra den menneskelige bedømmer eller den redaktionelle enhed kan ikke opfylde betingelserne for menneskelig gennemgang eller redaktionel kontrol med henblik på denne undtagelse.

(136)

Hvis AI-systemer anvendes til at ændre, supplere eller omformulere indhold efter redaktionel godkendelse, skal det deraf følgende indhold behandles som AI-genereret eller manipuleret med henblik på AI-forordningens artikel 50, stk. 4. Enhver indholdsmæssig AI-intervention, der finder sted, efter at den menneskelige gennemgang eller den redaktionelle kontrolproces har fundet sted, medfører derfor, at undtagelsen bortfalder.

(137)

I lyset af AI-forordningens artikel 50, stk. 7, kan idriftsættere overholde en praksiskodeks, der vurderes som tilstrækkelig i henhold til denne bestemmelse, for at påvise overholdelse af betingelsen om menneskelig gennemgang eller redaktionel kontrol, der er fastsat i denne bestemmelse (navnlig idriftsættere, der ikke er medietjenesteudbydere, som er underlagt eksisterende redaktionelle faglige eller deontologiske standarder). Yderligere oplysninger om virkningerne af at overholde en sådan kodeks og tilsynet med iværksættere, der ikke overholder en kodeks, findes i afsnit 8.1.

ii.

Redaktionelt ansvar

(138)

Den anden betingelse for, at undtagelsen i AI-forordningens artikel 50, stk. 4, andet afsnit, finder anvendelse, kræver, at en juridisk eller fysisk person har det redaktionelle ansvar for offentliggørelsen af indholdet. Dette indebærer, at den pågældende person skal have det endelige retlige ansvar for offentliggørelsen af indholdet, herunder den menneskelige gennemgang eller redaktionelle kontrol (f.eks. en enkeltperson, et redaktionsudvalg eller den udgivende virksomhed). For at sikre offentlig ansvarlighed og tillid og i overensstemmelse med eksisterende faglige standarder på medieområdet bør identiteten og kontaktoplysningerne for den juridiske person, den fysiske person eller den funktion, der har det redaktionelle ansvar, gøres offentligt tilgængelige på et sted, der er let at finde (hvis de ikke allerede på anden måde er tilgængelige). Dette kan ske online via f.eks. et websteds vilkår og betingelser eller andre brugerrettede juridiske oplysninger. Offline kan sådanne oplysninger angives i en publikations kolofon eller udgivelsesoplysninger.

Eksempler på tekst, der har været genstand for menneskelig gennemgang eller redaktionel kontrol, og hvor en juridisk eller fysisk person har det redaktionelle ansvar:

—

En AI-manipuleret artikel i en avis eller et AI-genereret resumé af en artikel, der har været underlagt den respektive chefredaktørs redaktionelle kontrol, hvor det redaktionelle ansvar ligger hos den juridiske person, der udgiver avisen.

—

En AI-manipuleret akademisk blog, der har gennemgået intern fagfællebedømmelse, og hvor det respektive forskningscenter, der administrerer bloggen, har det redaktionelle ansvar.

—

AI-genererede advarsler om den offentlige sikkerhed, der er godkendt af en offentlig embedsmand, inden de distribueres til borgerne, under ansvar af den relevante offentlige civilbeskyttelsesmyndighed.

—

AI-genererede bæredygtighedsrapporter offentliggjort på et børsnoteret selskabs websted, som har været genstand for menneskelig gennemgang foretaget af fagfolk i relevante funktioner (f.eks. compliance).

—

AI-støttet oversættelse af en artikel skrevet af et menneske, hvor oversættelsen har været genstand for menneskelig gennemgang.

Eksempler på tekst, der ikke opfylder den krævede menneskelige gennemgang eller redaktionelle kontrol for at kunne være omfattet af undtagelsen:

—

Et websted, hvor AI-genererede artikler om EU-politik offentliggøres uden nogen bevidst menneskelig gennemgang eller redaktionel kontrol.

—

AI-genererede artikler, der gennemgås og redigeres af et andet AI-system, og hvor en menneskelig redaktør foretager en blot overfladisk grammatisk kontrol inden offentliggørelsen.

—

En AI-genereret, selvudgivet bog om klimaændringer, der stilles til rådighed på en e-handelsplatform, og som ikke har været genstand for nogen gennemgang foretaget af en kompetent fysisk eller juridisk person (heller ikke af platformen).

6.2.4.   Undtagelse for retshåndhævelse

(139)

Hvis anvendelsen af AI-systemer til generering af tekst, der offentliggøres med det formål at informere offentligheden om spørgsmål af offentlig interesse uden menneskelig gennemgang (f.eks. en AI-genereret politiadvarsel om en terrortrussel, der offentliggøres på sociale medier), er tilladt ved lov med henblik på at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, er idriftsættere undtaget fra gennemsigtighedsforpligtelsen i AI-forordningens artikel 50, stk. 4. De præciseringer, der er givet i punkt 46-48 ovenfor for en tilsvarende undtagelse i artikel 50, stk. 1, i AI-forordningen, er også relevante for denne bestemmelse.

6.2.5.   Samspil med andre EU-retsakter

(140)

I EU-medieretten er redaktionelt ansvar et afgørende begreb, der er defineret i artikel 2, nr. 8), i forordning (EU) 2024/1083 (den europæiske forordning om mediefrihed (39). I den sammenhæng betyder »redaktionelt ansvar« »udøvelse af effektiv kontrol over både udvælgelsen af programmer eller pressepublikationer og deres tilrettelæggelse med henblik på levering af en medietjeneste, uanset om der i henhold til national ret er ansvar for den leverede tjeneste«. I visse situationer kan denne definition overlappe med begrebet redaktionelt ansvar, der anvendes i AI-forordningens artikel 50, stk. 4, andet afsnit, navnlig hvis idriftsætterne af AI-systemet også kan kategoriseres som medietjenesteudbydere i henhold til den europæiske forordning om mediefrihed. Redaktionelt ansvar som omhandlet i AI-forordningens artikel 50, stk. 4, bør derfor fortolkes i overensstemmelse med den eksisterende EU-ret på medieområdet, uanset at det fortsat er et særskilt begreb, der også kan finde anvendelse i bredere sammenhænge og på andre idriftsættere, så længe de påtager sig det redaktionelle ansvar for tekstpublikationen. Medietjenesteudbydere kan støtte sig på deres eksisterende redaktionelle processer og standarder for at være omfattet af undtagelsen i AI-forordningens artikel 50, stk. 4, andet afsnit.

7.   HORISONTALE KRAV TIL OPLYSNINGER, DER GIVES I HENHOLD TIL ARTIKEL 50, STK. 5, I AI-FORORDNINGEN

(141)

I henhold til artikel 50, stk. 5, i AI-forordningen skal de oplysninger, der skal gives i henhold til artikel 50, stk. 1-4, i AI-forordningen, gives til de pågældende fysiske personer på en klar og synlig måde senest på tidspunktet for den første interaktion eller eksponering. Oplysningerne skal også være i overensstemmelse med gældende tilgængelighedskrav. De pågældende fysiske personer omfatter i denne sammenhæng personer, der interagerer direkte med AI-systemet (artikel 50, stk. 1, i AI-forordningen), aktive eller passive brugere og andre personer, der eksponeres for det AI-genererede eller AI-manipulerede syntetiske indhold (med eller uden direkte interaktion med AI-systemet (artikel 50, stk. 2 og 4, i AI-forordningen)), og personer, der er genstand for anvendelsen af systemer til følelsesgenkendelse eller systemer til biometrisk kategorisering (artikel 50, stk. 3, i AI-forordningen).

7.1.   Afgivelse af oplysninger på en klar og synlig måde

(142)

Oplysninger vil blive anset for at være givet på en klar måde, hvis de er synlige, lette for den pågældende fysiske person at forstå og tilgængelige for vedkommende (herunder personer med handicap). Oplysninger vil blive anset for at være givet på en synlig måde, hvis de let kan identificeres som adskilt fra andre oplysninger og fra det miljø, som indholdet præsenteres i. Oplysningerne skal også være lette at forstå for brugerne, herunder for specifikke grupper såsom børn eller personer med handicap, når de indgår i de brugere, der forudsigeligt eksponeres for indholdet eller interagerer med systemet (40). For at oplysninger kan gives på en klar og synlig måde, kan de relevante oplysninger bl.a. præsenteres som en del af interaktionen (i henhold til artikel 50, stk. 1, i AI-forordningen) eller af det relevante indhold (i henhold til artikel 50, stk. 2 og 4, i AI-forordningen). Oplysninger vil ikke blive anset for at være givet på en klar og synlig måde, hvis fysiske personer let kan overse dem eller gå glip af dem under normale eksponerings- eller interaktionsbetingelser (f.eks. hvis de kun indgår som en del af en manual eller er skjult under flere lag af menuindstillinger i en onlinegrænseflade eller i brugsbetingelser, som brugerne ofte ikke læser).

7.2.   Første interaktion eller eksponering

(143)

I henhold til artikel 50, stk. 5, i AI-forordningen skal oplysningerne gives til de pågældende fysiske personer senest på tidspunktet for den første interaktion eller eksponering. Den første interaktion eller eksponering henviser ikke kun til den første fysiske person, der interagerer med eller eksponeres for (outputtet fra) et AI-system, men også til en hvilken som helst anden fysisk persons efterfølgende første interaktion med eller eksponering for (outputtet fra) AI-systemet. For så vidt angår den første interaktion med et AI-system, bør oplysningerne som minimum gives én gang ved begyndelsen af en interaktiv session under hensyntagen til de særlige sammenhænge, der er nævnt i punkt 36 og 40 ovenfor. For så vidt angår AI-genereret eller -manipuleret indhold, der er omfattet af artikel 50, stk. 2 og 4, i AI-forordningen, finder oplysningspligten anvendelse på hvert output fra et AI-system i forhold til enhver fysisk person, der eksponeres for indholdet. Dette bør forstås som ethvert tidspunkt, hvor det med rimelighed kan forventes, at en fysisk person eksponeres for AI-systemets output og opfatter oplysningen, under hensyntagen til de særlige forhold ved oplysning i tilfælde af oplagt kreative, kunstneriske og andre værker (se afsnit 6.1.3.). Desuden kan idriftsættere informere fysiske personer tidligere end den første faktiske interaktion eller eksponering (f.eks. i begyndelsen af indhold, der indeholder deepfakes). Hvis det imidlertid med rimelighed kan forudses, at personer muligvis ikke ser indholdet fra begyndelsen, informerer en oplysning, der kun gives ved indholdets begyndelse, ikke disse personer tilstrækkeligt og bør, hvor det er muligt, suppleres med oplysning på senere tidspunkter. Dette kan gennemføres efter omstændighederne under hensyntagen til formålet med gennemsigtighedsforpligtelserne, nemlig at sikre effektiv tilvejebringelse af oplysninger og meningsfuld brugerbevidsthed i stadig mere fordybende og realistiske AI-miljøer, hvor brugerne har stadig vanskeligere ved at skelne indholdets og interaktionens oprindelse og sandfærdighed.

Eksempler på afgivelse af oplysninger ved den første interaktion eller eksponering i henhold til artikel 50, stk. 5, i AI-forordningen:

—

Første interaktion: når der indledes en samtale med en chatbot eller påbegyndes fysisk interaktion med et AI-system.

—

Første eksponering: i begyndelsen af en video, der indeholder en deepfake, i begyndelsen af en AI-genereret eller -manipuleret tekstpublikation om spørgsmål af offentlig interesse, eller når man støder på AI-manipulerede deepfakes, mens man scroller på sociale medier.

7.3.   Overholdelse af gældende tilgængelighedskrav

(144)

Udbydere og idriftsættere af AI-systemer, der er omfattet af de forskellige gennemsigtighedsforpligtelser, der er anført i artikel 50, stk. 1-4, i AI-forordningen, skal være opmærksomme på de gældende tilgængelighedskrav (f.eks. i henhold til direktiv (EU) 2016/2102 (41) og direktiv (EU) 2019/882 (42)) og vurdere, om deres produkt, tjeneste eller indhold skal overholde disse regler. I så fald skal de sikre tilgængeligheden af de oplysninger, der formidles i overensstemmelse med artikel 50 i AI-forordningen, i overensstemmelse med de gældende tilgængelighedskrav. Ved artikel 50 i AI-forordningen pålægges der ikke særskilte eller yderligere tilgængelighedskrav.

8.   HÅNDHÆVELSE AF AI-FORORDNINGENS ARTIKEL 50

(145)

Formålet med dette afsnit er at præcisere: i) virkningerne af at overholde en praksiskodeks for så vidt angår overholdelse af gennemsigtighedsforpligtelserne for AI-genereret indhold, ii) de kompetente tilsynsmyndigheders rolle i håndhævelsen af artikel 50 i AI-forordningen, iii) de sanktioner, der finder anvendelse ved overtrædelse af disse forpligtelser, og iv) det tidspunkt, hvor forpligtelserne i artikel 50 i AI-forordningen begynder at finde anvendelse.

8.1.   Virkningerne af at overholde en praksiskodeks, der vurderes som tilstrækkelig

(146)

Udbydere og idriftsættere af AI-systemer, der er omfattet af anvendelsesområdet for artikel 50, stk. 2 og 4, i AI-forordningen, kan påvise overholdelse af deres respektive gennemsigtighedsforpligtelser for AI-genereret indhold i henhold til disse bestemmelser ved at overholde en praksiskodeks, der vurderes som tilstrækkelig i henhold til AI-forordningens artikel 50, stk. 7 (43). En sådan kodeks erstatter ikke AI-forordningen eller disse retningslinjer. Den supplerer dem som den eneste EU-dækkende anerkendte praktiske ramme, som udbydere og idriftsættere af generative AI-systemer kan bruge til at påvise overholdelse af disse forpligtelser, uanset hvor de er etableret eller opererer, og uanset hvilke markedsovervågningsmyndigheder der er kompetente.

(147)

Selv om udbydere og idriftsættere også kan påvise overholdelse af disse forpligtelser med passende alternative midler, er overholdelse af en praksiskodeks, der anses for tilstrækkelig, en enkel, forudsigelig og retssikker måde at påvise overholdelse på. For underskrivere af en praksiskodeks, der vurderes som tilstrækkelig i henhold til AI-forordningens artikel 50, stk. 7 (44), fokuserer Kommissionen og de kompetente markedsovervågningsmyndigheder deres tilsynsaktiviteter på at vurdere, om disse underskrivere har overholdt praksiskodeksen og gennemført de foranstaltninger, der er fastsat deri. Da udbydere og idriftsættere, der overholder kodeksen, er gennemsigtige med hensyn til de foranstaltninger, de gennemfører for at overholde AI-forordningens artikel 50, stk. 2, 4 og 5, vil de nyde større tillid hos Kommissionen, de andre kompetente markedsovervågningsmyndigheder og andre interessenter (herunder offentligheden). Ethvert fravalg af afsnit foretaget af underskrivere af en adfærdskodeks, der anses for tilstrækkelig, vil medføre, at disse udbydere og idriftsættere mister fordelen ved at kunne påvise overholdelse lettere i den henseende.

(148)

Udbydere og idriftsættere, der ikke er underskrivere af en praksiskodeks, der anses for tilstrækkelig i henhold til AI-forordningens artikel 50, stk. 7, forventes at påvise, hvordan de med andre passende midler har overholdt deres forpligtelser i henhold til samme forordnings artikel 50, stk. 2, 4 og 5. Sådanne udbydere og idriftsættere forventes endvidere at redegøre for, hvordan de foranstaltninger, de gennemfører, sikrer overholdelse af deres forpligtelser i henhold til AI-forordningen. De bør f.eks. foretage en mangelanalyse, hvor de foranstaltninger, de har gennemført, sammenholdes med de foranstaltninger, der er fastsat i en praksiskodeks, der vurderes som tilstrækkelig. Da de kompetente myndigheder (herunder AI-kontoret) har mindre indsigt i, hvordan udbydere og idriftsættere, der ikke er underskrivere af en praksiskodeks, sikrer overholdelse af deres forpligtelser i henhold til AI-forordningens artikel 50, stk. 2, 4 og 5, vil de sandsynligvis have behov for mere detaljerede oplysninger i forbindelse med kontrol af overholdelsen. Udbydere, der ikke overholder en praksiskodeks, kan f.eks. også blive genstand for flere anmodninger om oplysninger og anmodninger om adgang med henblik på at vurdere effektiviteten, interoperabiliteten, robustheden og pålideligheden af de tekniske løsninger, der er gennemført for at overholde AI-forordningens artikel 50, stk. 2. Idriftsættere kan også blive genstand for sådanne anmodninger med hensyn til deres mærkningspraksis i henhold til AI-forordningens artikel 50, stk. 4.

(149)

De kompetente myndigheder kan tage tilsagn, der er gennemført i overensstemmelse med en praksiskodeks, der anses for tilstrækkelig, i betragtning som en formildende faktor ved fastsættelsen af bødernes størrelse, afhængigt af de særlige omstændigheder (45).

(150)

Hvis en praksiskodeks ikke anses for tilstrækkelig i henhold til AI-forordningens artikel 50, stk. 7, kan Kommissionen vedtage en gennemførelsesretsakt, der fastsætter fælles regler for gennemførelsen af forpligtelserne i AI-forordningens artikel 50, stk. 2, 4 og 5, som vil finde anvendelse på alle relevante udbydere og idriftsættere af AI-systemer, der er omfattet af disse bestemmelsers anvendelsesområde (46).

8.2.   Markedsovervågningsmyndigheder

(151)

De markedsovervågningsmyndigheder, som medlemsstaterne har udpeget, AI-Kontoret (47) og Den Europæiske Tilsynsførende for Databeskyttelse (48) er ansvarlige for at føre tilsyn med og håndhæve reglerne for AI-systemer, der henhører under deres kompetence, herunder de gennemsigtighedsforpligtelser, der er fastsat i artikel 50 i AI-forordningen. Denne håndhævelse finder sted inden for systemet for markedsovervågning og produktoverensstemmelse, der er fastsat ved forordning (EU) 2019/1020 og AI-forordningen. Markedsovervågningsmyndighedernes håndhævelsesbeføjelser i forbindelse med AI-systemer er fastsat i disse forordninger. Disse myndigheder kan træffe håndhævelsesforanstaltninger i forbindelse med forpligtelserne i AI-forordningens artikel 50 på eget initiativ eller efter en klage, som enhver berørt person eller enhver anden fysisk eller juridisk person, der har grund til at mene, at der er sket sådanne overtrædelser, har ret til at indgive (49). Markedsovervågningsmyndighedernes ansvarsområder i henhold til AI-forordningen berører ikke andre tilsynsmyndigheders eller myndigheder med ansvar for grundlæggende rettigheders beføjelser og opgaver i henhold til deres egne retlige rammer i situationer, hvor både artikel 50 i AI-forordningen og den pågældende ramme finder anvendelse (f.eks. databeskyttelse og forbrugerbeskyttelse).

8.3.   Sanktioner

(152)

Udbydere og idriftsættere, der ikke overholder de gældende gennemsigtighedsforpligtelser, der er fastsat i AI-forordningens artikel 50, kan pålægges bøder på op til 15 000 000 EUR eller, hvis overtræderen er en virksomhed, op til 3 % af dens samlede globale årsomsætning i det foregående regnskabsår, alt efter hvilket beløb der er størst. EU-institutioner, -organer og -agenturer, der overtræder gennemsigtighedsforpligtelserne, kan pålægges administrative bøder på op til 750 000 EUR. For små og mellemstore virksomheder (SMV’er), herunder iværksættervirksomheder, skal hver bøde være op til ovennævnte procentsats eller beløb, alt efter hvilken af dem der er lavest. Bøderne skal være effektive, stå i et rimeligt forhold til overtrædelsen og have afskrækkende virkning og tage hensyn til interesserne hos SMV’er og små midcapvirksomheder (SMC’er), herunder iværksættervirksomheder, samt deres økonomiske levedygtighed. Når de kompetente myndigheder beslutter, om der skal pålægges en administrativ bøde, og fastsætter den administrative bødes størrelse i hvert enkelt tilfælde, bør de vurdere alle relevante omstændigheder i den konkrete situation og, hvor det er relevant, en række faktorer, der påvirker overtrædelsens alvor (f.eks. overtrædelsens og dens konsekvensers art, grovhed og varighed, om overtrædelsen er begået uagtsomt eller forsætligt, andre skærpende eller formildende omstændigheder, graden af samarbejde med markedsovervågningsmyndighederne osv.).

8.4.   Ikrafttræden

(153)

I henhold til AI-forordningens artikel 113 finder AI-forordningens artikel 50 anvendelse fra den 2. august 2026. Dette kræver, at alle omfattede AI-systemer, der er bragt i omsætning eller ibrugtaget i Unionen, overholder denne bestemmelse på denne dato, uanset hvornår de er bragt i omsætning eller ibrugtaget (50). Den forordning om ændring af AI-forordningen (den digitale omnibus om kunstig intelligens), som EU-lovgiveren for nylig har vedtaget, fastsætter en målrettet overgangsbestemmelse alene med hensyn til mærknings- og påvisningsforpligtelserne i henhold til AI-forordningens artikel 50, stk. 2, for generative AI-systemer, der er bragt i omsætning eller ibrugtaget før den 2. august 2026. Den giver udbyderne af disse eksisterende systemer en overgangsperiode til at bringe deres systemer i overensstemmelse senest den 2. december 2026. Systemer, der er delvis interaktive og delvis generative, kan kun drage fordel af denne overgangsperiode med hensyn til mærkningsforpligtelsen i henhold til AI-forordningens artikel 50, stk. 2, mens overholdelse af oplysningspligten for AI-systemer, der interagerer direkte med fysiske personer, skal sikres fra den 2. august 2026.

(154)

AI-genererede eller manipulerede output, der er omfattet af anvendelsesområdet for AI-forordningens artikel 50, stk. 2, og deepfakes, der er omfattet af anvendelsesområdet for AI-forordningens artikel 50, stk. 4, første afsnit, og som er genereret eller manipuleret før den 2. august 2026, behøver ikke at blive mærket eller forsynet med mærkning med tilbagevirkende kraft. Det samme gælder tekster om spørgsmål af offentlig interesse, der er omfattet af anvendelsesområdet for AI-forordningens artikel 50, stk. 4, andet afsnit, og som er AI-genereret eller manipuleret og offentliggjort før den 2. august 2026. Omvendt skal tekster, der er genereret eller manipuleret før den 2. august 2026, mærkes, hvis de offentliggøres den 2. august 2026 eller senere. Under hensyntagen til målet om gennemsigtighed og øget tillid til og integritet i informationsøkosystemet, som forfølges med AI-forordningen, tilskyndes idriftsættere af AI-systemer og andre aktører, der er i besiddelse af eller formidler allerede eksisterende umærkede deepfakes, ikke desto mindre til at gøre dette, uden at de forventes at gøre en uforholdsmæssig stor indsats med henblik herpå (såsom revision af allerede eksisterende indholdsdatabaser eller ændring af produktemballage, der allerede er trykt).

9.   REVISION OG AJOURFØRING AF RETNINGSLINJERNE

(155)

Disse retningslinjer udgør en første fortolkning med praktiske eksempler på de gennemsigtighedsforpligtelser, der er fastsat i AI-forordningens artikel 50. Kommissionen vil revidere disse retningslinjer, så snart det er nødvendigt i lyset af de praktiske erfaringer med gennemførelsen af gennemsigtighedsforpligtelserne og tempoet i den teknologiske, samfundsmæssige og lovgivningsmæssige udvikling på dette område. Dette omfatter også enhver relevant erfaring fra håndhævelsesforanstaltninger som led i markedsovervågning og EU-Domstolens fortolkninger af AI-forordningens artikel 50. I forbindelse med en sådan revision kan Kommissionen beslutte at trække disse retningslinjer tilbage eller ændre dem. Kommissionen opfordrer udbydere og idriftsættere af AI-systemer, nationale markedsovervågningsmyndigheder gennem AI-udvalget, Det Rådgivende AI-Forum, forskersamfundet og civilsamfundsorganisationer til at bidrage til denne proces ved at besvare fremtidige indkaldelser til offentlig høring.

(1)  Europa-Parlamentets og Rådets forordning (EU) 2024/1689 af 13. juni 2024 om harmoniserede regler for kunstig intelligens (AI-forordningen) (EUT L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2)  AI-forordningens artikel 1.

(3)  AI-forordningens artikel 2, stk. 1, litra a), og artikel 3, nr. 3), 9) og 11). Der findes yderligere vejledning om begreberne omsætning, ibrugtagning og anvendelse i Kommissionens retningslinjer om forbudte former for praksis vedrørende kunstig intelligens, C(2025) 5052, og Kommissionens meddelelse – Den blå vejledning om gennemførelse af EU’s produktregler 2022, afsnit 2 (EUT C 247 af 29.6.2022, s. 1).

(4)  AI-forordningens artikel 2, stk. 1, litra c), og betragtning 22.

(5)  AI-forordningens artikel 3, nr. 4).

(6)  AI-forordningens artikel 2, stk. 1, litra b) og c).

(7)  Europa-Parlamentets og Rådets forordning (EU) 2022/2065 af 19. oktober 2022 om et indre marked for digitale tjenester (EUT L 277 af 27.10.2022, s. 1).

(8)  Se afsnit 2.5 i Kommissionens retningslinjer om forbudte former for praksis vedrørende kunstig intelligens i henhold til forordning (EU) 2024/1689 (AI-forordningen), Bruxelles, den 29.7.2025, C(2025) 5052 final.

(9)  Definitionen af idriftsætter udelukker også brugere, der er involveret i sådanne aktiviteter (se afsnit 2.3 ovenfor).

(10)  Betragtning 25 i AI-forordningen.

(11)  Betragtning 102 til AI-forordningen beskriver, at en frigivelse af software og data i henhold til en gratis open source-licens »gør det muligt at dele dem åbent, og hvor brugerne frit kan få adgang til, anvende, ændre og videregive dem eller ændrede versioner heraf«.

(12)  Yderligere oplysninger om artikel 5 i AI-forordningen findes i Kommissionens retningslinjer for forbudte former for praksis vedrørende kunstig intelligens i henhold til forordning (EU) 2024/1689 (AI-forordningen), C(2025) 5052 final.

(13)  Se AI-forordningens artikel 6.

(14)  Navnlig pålægger artikel 26, stk. 11, i AI-forordningen idriftsættere af højrisiko-AI-systemer, der træffer beslutninger eller bistår med at træffe beslutninger vedrørende fysiske personer, at underrette de fysiske personer om, at de er genstand for anvendelsen af et højrisiko-AI-system. Disse gennemsigtighedsforpligtelser supplerer forpligtelserne i artikel 50 i AI-forordningen, da de vedrører forskellige oplysninger, der skal gives til de fysiske personer, men de kan kombineres i én enkelt meddelelse.

(15)  I artikel 3, nr. 66), i AI-forordningen defineres et AI-system til almen brug som et AI-system, som er baseret på en AI-model til almen brug, og som har kapacitet til at opfylde en række forskellige formål, både til direkte anvendelse og til integration i andre AI-systemer.

(16)  Artikel 50, stk. 2, i AI-forordningen indeholder en udtrykkelig henvisning til AI-systemer til almen brug.

(17)  Betragtning 133 til AI-forordningen.

(18)  Se artikel 3, stk. 1, i AI-forordningen. Yderligere vejledning om begrebet AI-system findes i Kommissionens retningslinjer for definitionen af et AI-system, 29.7.2025, C(2025) 5053 final.

(19)  Se betragtning 132 til AI-forordningen. Dette kræver ikke, at systemet er rettet mod disse sårbare grupper. Hvis et system er tilsigtet at interagere med enhver i offentligheden, omfatter dette også medlemmer af de sårbare grupper, og udbyderne bør tage hensyn til dem, når de gennemfører underretningsforanstaltningerne.

(20)  Se afsnit 7.3 om gældende tilgængelighedskrav.

(21)  F.eks. kan elektroniske attesteringer af attributter som fastsat i forordning (EU) nr. 910/2014 og som stillet til rådighed i de europæiske digitale identitetstegnebøger, der er oprettet ved samme forordning, samt de foreslåede europæiske virksomhedstegnebøger udgøre sikre og effektive midler til at identificere AI-agenter. Tegnebøgerne kan lagre og forvalte elektroniske attesteringer, der verificerer AI-agentens identitet, attributter og bemyndigelser, og derved muliggøre gnidningsfri og troværdig oplysning over for fysiske personer.

(22)  Dette gælder også for de lignende undtagelser for retshåndhævelsesaktiviteter, der er fastsat i artikel 50, stk. 2-4, i AI-forordningen.

(23)  Europa-Parlamentets og Rådets direktiv 2005/29/EF af 11. maj 2005 om virksomheders urimelige handelspraksis over for forbrugerne på det indre marked (EUT L 149 af 11.6.2005, s. 2).

(24)  Europa-Parlamentets og Rådets direktiv 2011/83/EU af 25. oktober 2011 om forbrugerrettigheder (EUT L 304 af 22.11.2011, s. 64).

(25)  Europa-Parlamentets og Rådets direktiv 2012/13/EU af 22. maj 2012 om ret til information under straffesager (EUT L 142 af 1.6.2012, s. 1), Europa-Parlamentets og Rådets direktiv 2012/29/EU af 25. oktober 2012 om minimumsstandarder for ofre for kriminalitet med hensyn til rettigheder, støtte og beskyttelse (EUT L 315 af 14.11.2012, s. 57).

(26)  Som defineret i AI-forordningens artikel 3, nr. 1).

(27)  I betragtning 133 til AI-forordningen præciseres det, at udbydere af disse systemer bør pålægges at indlejre tekniske løsninger, som muliggør markering i et maskinlæsbart format og påvisning af, at outputtet er blevet genereret eller manipuleret af et AI-system og ikke af et menneske. I betragtning 135 til AI-forordningen henvises der til forpligtelsen vedrørende påvisning.

(28)  Se bilag II til Commission Implementing Decision C(2025) 3871 final on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI system in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 final.

(29)  Se også betragtning 11 til AI-forordningen.

(30)  Se også betragtning 137 til AI-forordningen.

(31)  Betragtning 136 til AI-forordningen.

(32)  Dette kriterium skal derfor forstås selvstændigt og adskilt fra begrebet vildledning som omhandlet i direktiv 2005/29/EF om virksomheders urimelige handelspraksis over for forbrugerne på det indre marked (direktivet om urimelig handelspraksis), https://eur-lex.europa.eu/eli/dir/2005/29/oj/dan.

(33)  Se tilsvarende artikel 1, litra b), i direktivet om audiovisuelle medietjenester.

(34)  Dette gælder tilsvarende for offentliggjorte tekster, der informerer offentligheden om spørgsmål af offentlig interesse.

(35)  Afsnit 4.4 indeholder yderligere oplysninger om samspillet mellem artikel 50 i AI-forordningen og forordningen om digitale tjenester.

(36)  Betragtning 2 til forordningen om digitale tjenester.

(37)  Der findes en mere detaljeret præcisering i Kommissionens og Det Europæiske Databeskyttelsesråds (EDPB) fælles retningslinjer om samspillet mellem AI-forordningen og EU’s databeskyttelseslovgivning (under udarbejdelse).

(38)  Jf. analogt C-89/04, Mediakabel, EU:C:2005:348, præmis 33, C-192/04, Lagardère, EU:C:2005:475, præmis 31, C-306/05, SGAE, EU:C:2006:764, præmis 37-40, C-527/15, Stichting Brein, EU:C:2017:300, præmis 43-44 og den deri nævnte retspraksis, sag C-135/23, GEMA, EU:C:2024:526, præmis 38 og den deri nævnte retspraksis).

(39)  Europa-Parlamentets og Rådets forordning (EU) 2024/1083 af 11. april 2024 om oprettelse af en fælles ramme for medietjenester i det indre marked og om ændring af direktiv 2010/13/EU (den europæiske forordning om mediefrihed) (EUT L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).

(40)  Når børn er en del af indholdets målgruppe, skal disse oplysninger: i) være børnevenlige, alderssvarende, letforståelige og lettilgængelige for alle børn, herunder personer med handicap og/eller yderligere tilgængelighedsbehov, ii) præsenteres klart på en måde, der er let at forstå og så enkel og kortfattet som muligt, iii) præsenteres for den mindreårige på en måde, så informationen er let at gennemse og kan tilgås øjeblikkeligt og intuitivt på de tidspunkter, hvor det er relevant, iv) forevises på det eller de officielle sprog i den medlemsstat, hvor tjenesteydelsen udføres, v) være engagerende for børn (dette kan også omfatte brug af grafik, videoer og/eller tegn eller andre teknikker), vi) præsenteres for børnene gradvist og over tid for at maksimere brugerens engagement.

(41)  Europa-Parlamentets og Rådets direktiv (EU) 2016/2102 af 26. oktober 2016 om tilgængeligheden af offentlige organers websteder og mobilapplikationer (EØS-relevant tekst) (EUT L 327 af 2.12.2016, s. 1).

(42)  Europa-Parlamentets og Rådets direktiv (EU) 2019/882 af 17. april 2019 om tilgængelighedskrav for produkter og tjenester (EØS-relevant tekst), PE/81/2018/REV/1 (EUT L 151 af 7.6.2019, s. 70).

(43)  Se relevante oplysninger om Code of Practice on Transparency of AI-Generated Content | Shaping Europe’s digital future, offentliggjort den 10. juni 2026.

(44)  Se Commission Opinion on the assessment of the Code of Practice on Transparency of AI-generated content | Shaping Europe’s digital future.

(45)  AI-forordningens artikel 99, stk. 7, litra e).

(46)  AI-forordningens artikel 50, stk. 7.

(47)  Som markedsovervågningsmyndighed for AI-systemer, der bygger på AI-modeller til almen brug, som leveres af samme udbyder (AI-forordningens artikel 75, stk. 1). Dette omfatter den forpligtelse, der gælder for udbydere i henhold til AI-forordningens artikel 50, stk. 1 og 2. Med hensyn til AI-forordningens artikel 50, stk. 3 og 4, har AI-Kontoret kun kompetence, hvis den pågældende udbyder af AI-modellen til almen brug og AI-systemet også er idriftsætter af systemet.

(48)  Som markedsovervågningsmyndighed for EU’s institutioner, agenturer og organer.

(49)  AI-forordningens artikel 85.

(50)  Den særlige overgangsbestemmelse i AI-forordningens artikel 111, stk. 2, finder kun anvendelse på højrisiko-AI-systemer, der er bragt i omsætning før den dato, hvor højrisikoreglerne finder anvendelse, for så vidt angår disse systemers overholdelse af kravene og forpligtelserne for højrisiko-AI-systemer. Hvis højrisiko-AI-systemet også er underlagt en eller flere gennemsigtighedsforpligtelser i henhold til AI-forordningens artikel 50, finder denne særlige overgangsbestemmelse ikke anvendelse, eftersom de forskellige forpligtelser for højrisiko-AI-systemer og gennemsigtighedsforpligtelserne i artikel 50 finder kumulativ anvendelse, og overgangsbestemmelsen kun er begrundet og begrænset for så vidt angår overholdelsen af højrisikobestemmelserne.


ELI: http://data.europa.eu/eli/C/2026/6005/oj

ISSN 1977-0871 (electronic edition)