European flag

Europeiska unionens
officiella tidning

SV

C-serien


C/2026/6005

12.11.2026

MEDDELANDE FRÅN KOMMISSIONEN

Riktlinjer för genomförandet av transparensskyldigheter när det gäller vissa AI-system enligt artikel 50 i förordning (EU) 2024/1689 (förordningen om artificiell intelligens)

(C/2026/6005)

Innehållsförteckning

1.

BAKGRUND OCH SYFTEN 3

2.

ÖVERSIKT ÖVER TRANSPARENSSKYLDIGHETERNA OCH ÖVERGRIPANDE FRÅGOR 3

2.1

Översikt över transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens 3

2.2

Motivering och mål 4

2.3

Ansvariga aktörer enligt artikel 50 i förordningen om artificiell intelligens 5

2.4

Undantag från tillämpningsområdet för förordningen om artificiell intelligens 7

2.4.1

Tillhandahållare som agerar inom ramen för rent personlig icke-yrkesmässig verksamhet 7

2.4.2

Forskning och utveckling 8

2.4.3

AI som släpps ut med kostnadsfria licenser med öppen källkod 8

2.5

Samspelet mellan de förbjudna användningsområdena, kraven för AI-system med hög risk och AI-kunnighet 9

2.6

Samspel med regler som gäller AI-modeller och/eller AI-system för allmänna ändamål 9

3.

ARTIKEL 50.1 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS TRANSPARENS I INTERAKTIVA AI-SYSTEM 9

3.1

Huvudkomponenter, begrepp och tillhörande transparensskyldigheter 10

3.1.1

AI-system avsedda att interagera direkt med fysiska personer 10

3.1.2

Informationsskyldighet enligt artikel 50.1 i förordningen om artificiell intelligens 12

3.2

Undantag från informationsskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens 14

3.2.1

Undantag för uppenbar interaktion med ett AI-system 14

3.2.2

Undantag för AI-system som enligt lag får användas för brottsbekämpande ändamål 16

3.3

Samspel med andra unionsrättsakter 17

4.

ARTIKEL 50.2 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS MÄRKNING OCH UPPTÄCKT AV AI-GENERERAT ELLER AI-MANIPULERATINNEHÅLL 18

4.1

Huvudkomponenter och begrepp i artikel 50.2 förordningen om artificiell intelligens 18

4.1.1

AI-system som genererar eller manipulerar syntetiskt innehåll 18

4.1.2

Former för syntetiskt innehåll som omfattas 19

4.1.3

Innehåll som inte omfattas av artikel 50.2 i förordningen om artificiell intelligens 20

4.2

Skyldigheten avseende märkning och upptäckt i artikel 50.2 i förordningen om artificiell intelligens 21

4.2.1

Märkningsskyldigheten 21

4.2.2

Skyldigheten avseende upptäckt 22

4.2.3

Överensstämmelse med kraven för tekniska lösningar, som ska vara effektiva, interoperabla, robusta och tillförlitliga 22

4.3

Undantag från skyldigheterna enligt artikel 50.2 i förordningen om artificiell intelligens 24

4.4

Samspel med andra unionsrättsakter 25

5.

ARTIKEL 50.3 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS: SYSTEM FÖR KÄNSLOIGENKÄNNING OCH BIOMETRISK KATEGORISERING 26

5.1

Huvudkomponenter, begrepp och tillhörande transparensskyldigheter enligt artikel 50.3 i förordningen om artificiell intelligens 27

5.1.1

Begreppet system för känsloigenkänning 27

5.1.2

Begreppet system för biometrisk kategorisering 27

5.1.3

Informationsskyldigheten enligt artikel 50.3 i förordningen om artificiell intelligens 27

5.2

Undantag för brottsbekämpande ändamål 28

5.3

Samspel med andra unionsrättsakter 28

6.

ARTIKEL 50.4 MÄRKNING AV DEEPFAKES OCH VISSA TEXTPUBLIKATIONER 28

6.1

Huvudkomponenter, begrepp och tillhörande transparensskyldigheter när det gäller deepfakes enligt artikel 50.4 i förordningen om artificiell intelligens 28

6.1.1

Begreppet deepfake 29

6.1.2

Upplysningsskyldighet enligt artikel 50.4 första stycket i förordningen om artificiell intelligens 31

6.1.3

Insyn i konstnärligt, kreativt, satiriskt, skönlitterärt eller liknande deepfake-innehåll 32

6.1.4

Undantag för brottsbekämpning 34

6.1.5

Samspel med andra unionsrättsakter 34

6.2

Huvudkomponenter, begrepp och tillhörande transparensskyldigheter för AI-genererad eller AI-manipulerad text enligt artikel 50.4 i förordningen om artificiell intelligens 35

6.2.1

Text som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse 36

6.2.2

Upplysningsskyldigheten enligt artikel 50.4 andra stycket i förordningen om artificiell intelligens 37

6.2.3

Undantag från transparensskyldigheten för text som varit föremål för mänsklig granskning eller redaktionell kontroll och redaktionellt ansvar 37

6.2.4

Undantag för brottsbekämpning 38

6.2.5

Samspel med andra unionsrättsakter 39

7.

ÖVERGRIPANDE KRAV TILLÄMPLIGA PÅ DEN INFORMATION SOM LÄMNAS ENLIGT ARTIKEL 50.5 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS 39

7.1

Information lämnad på ett tydligt och urskiljbart sätt 39

7.2

Den första interaktionen eller exponeringen 40

7.3

Efterlevnad av de tillämpliga tillgänglighetskraven 40

8.

VERKSTÄLLIGHET AV ARTIKEL 50 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS 40

8.1

Effekterna av att följa en förfarandekod som bedömts vara lämplig 41

8.2

Marknadskontrollmyndigheter 42

8.3

Sanktioner 42

8.4

Ikraftträdande 42

9.

ÖVERSYN OCH UPPDATERING AV RIKTLINJERNA 43

1.   BAKGRUND OCH SYFTEN

(1)

Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens och om ändring av vissa förordningar (förordningen om artificiell intelligens) trädde i kraft den 1 augusti 2024 (1). Förordningen om artificiell intelligens innehåller harmoniserade regler för utsläppande på marknaden, ibruktagande och användning av artificiell intelligens (AI) i unionen (2). Dess syfte är att främja innovation inom och användning av tillförlitlig AI och samtidigt säkerställa en hög skyddsnivå för hälsa, säkerhet och grundläggande rättigheter i unionen, inklusive demokrati och rättsstatens principer.

(2)

Förordningen om artificiell intelligens bygger på en riskbaserad metod där AI-system delas in i fyra olika riskkategorier, varav en är AI-system som medför risker för brist på transparens och omfattas av de skyldigheter som fastställs i artikel 50 i förordningen om artificiell intelligens. Dessa transparensskyldigheter började gälla två år efter det att förordningen om artificiell intelligens trädde i kraft, dvs. från och med den 2 augusti 2026.

(3)

Kommissionen utfärdar dessa riktlinjer enligt artikel 96.1 d i förordningen om artificiell intelligens i syfte att ge praktisk vägledning för att hjälpa behöriga myndigheter samt leverantörer och tillhandahållare av AI-system att säkerställa efterlevnaden av kraven på transparens enligt artikel 50 i förordningen om artificiell intelligens på ett konsekvent, effektivt, proportionellt och enhetligt sätt.

(4)

Dessa riktlinjer bygger på synpunkter som samlats in från en rad olika berörda parter under ett brett samråd som anordnades av kommissionen, synpunkter från medlemsstaterna i Europeiska styrelsen för artificiell intelligens samt synpunkter från berörda parter om utkastet till riktlinjer som offentliggjordes för samråd.

(5)

Dessa riktlinjer är inte bindande. I slutändan är det endast Europeiska unionens domstol som får göra en officiell tolkning av förordningen om artificiell intelligens.

2.   ÖVERSIKT ÖVER TRANSPARENSSKYLDIGHETERNA OCH ÖVERGRIPANDE FRÅGOR

2.1   Översikt över transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens

(6)

Artikel 50 i förordningen om artificiell intelligens innehåller fyra transparensskyldigheter som var och en gäller olika typer av AI-system eller utdata från dem.

Bestämmelse

Typ av AI-system/utdata

Transparensskyldighet

Undantag eller särskilda regler

Artikel 50.1

AI-system som interagerar direkt med fysiska personer

Leverantörerna måste utveckla och utforma AI-systemet så att de berörda fysiska personerna informeras om att de interagerar med ett AI-system.

Undantag 1) om interaktionens artificiella ursprung är uppenbart eller 2) systemet enligt lag får upptäcka, förebygga, förhindra, utreda eller lagföra brott, såvida inte systemet är tillgängligt för allmänheten för att anmäla ett brott.

Artikel 50.2

AI-system som genererar eller manipulerar syntetiskt bild-, video-, ljud- eller textinnehåll

Leverantörerna måste säkerställa att AI-systemets utdata är märkta i ett maskinläsbart format och kan upptäckas som artificiellt genererade eller manipulerade med tekniska lösningar som är effektiva, driftskompatibla, robusta och tillförlitliga.

Undantag om 1) AI-systemet utför en hjälpfunktion för vanlig redigering eller inte väsentligt ändrar indata eller deras semantik eller 2) AI-systemet enligt lag får upptäcka, förebygga, förhindra, utreda eller lagföra brott.

Artikel 50.3

AI-system för känsloigenkänning eller biometrisk kategorisering

Tillhandahållarna ska informera de fysiska personer som exponeras för AI-systemets drift.

Undantag om AI-systemet enligt lag får upptäcka, förebygga eller utreda brott.

Artikel 50.4

AI-system som genererar eller manipulerar deepfake eller text som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse

Tillhandahållarna måste upplysa om att innehållet har genererats artificiellt eller manipulerats.

Undantag om 1) AI-systemet enligt lag får upptäcka, förebygga, förhindra, utreda eller lagföra brott eller 2) om textpublikationen har genomgått mänsklig granskning eller redaktionell kontroll och omfattas av redaktionellt ansvar.

Särskilda transparensregler gäller deepfakes som ingår i konstnärliga, kreativa, skönlitterära, satiriska eller liknande verk eller program.

(7)

Var och en av dessa fyra skyldigheter behandlas i avsnitten 3–6 i dessa riktlinjer. Enligt artikel 50.5 i förordningen om artificiell intelligens ska den information som avses i punkterna 1–4 lämnas till de berörda fysiska personerna på ett tydligt och urskiljbart sätt senast vid tidpunkten för den första interaktionen eller exponeringen och uppfylla de tillämpliga tillgänglighetskraven. I avsnitt 7 förtydligas dessa krav.

(8)

De olika transparensskyldigheter som fastställs i artikel 50 i förordningen om artificiell intelligens får tillämpas kumulativt på (utdata från) ett enda AI-system, vilket eventuellt involverar olika aktörers ansvar (leverantörer eller tillhandahållare). Om till exempel ett AI-system genererar bilder som en del av en direkt interaktion med en fysisk person kan leverantören av systemet behöva följa både artikel 50.1 och 50.2 i förordningen om artificiell intelligens. Om systemet också kan generera bilder som utgör deepfakes eller offentliggjord text om frågor av allmänt intresse kan tillhandahållaren dessutom behöva följa artikel 50.4 i förordningen om artificiell intelligens.

2.2   Motivering och mål

(9)

Enligt vad som förklaras i skälen 132–136 i förordningen om artificiell intelligens är syftet med transparensskyldigheterna att minska riskerna för personifiering, vilseledande, felaktig information, manipulation i stor skala och bedrägerier och att mildra potentiella negativa konsekvenser för demokratiska processer och samhälleligt förtroende som orsakas av AI-genererat eller manipulerat innehåll eller interaktion med AI. Att informera enskilda om interaktionens AI-ursprung och innehåll kommer att hjälpa dem att fatta välgrundade beslut och samtidigt bidra till att skydda förtroendet och integriteten i informationsekosystemet. Transparens är inte bara ett krav på teknisk överensstämmelse utan en förutsättning för att fysiska personer ska kunna känna igen AI-medierad interaktion och AI-innehåll eller använda system för känsloigenkänning eller biometrisk kategorisering. Att säkerställa en öppen och tillförlitlig användning av interaktiva och generativa AI-system kommer också att göra det möjligt att upprätthålla personlig autonomi och europeiska värderingar, mänsklig värdighet och andra grundläggande rättigheter (t.ex. tankefrihet, integritet, jämlikhet och icke-diskriminering, konsumentskydd, immateriella rättigheter osv.) samtidigt som yttrandefriheten och medieinnehållets trovärdighet bevaras.

2.3   Ansvariga aktörer enligt artikel 50 i förordningen om artificiell intelligens

(10)

Enligt artikel 3.3 i förordningen om artificiell intelligens är leverantörer fysiska eller juridiska personer, offentliga myndigheter, byråer eller andra organ som utvecklar eller låter utveckla AI-system och släpper ut dem på unionsmarknaden eller tar dem i bruk i eget namn eller under eget varumärke antingen mot betalning eller kostnadsfritt. Leverantörer måste uppfylla de relevanta transparensskyldigheterna i artikel 50.1 och 50.2 i förordningen om artificiell intelligens som är tillämpliga på dem oberoende av om de är etablerade eller belägna i unionen eller i ett tredjeland (3). Leverantörer som är etablerade eller belägna utanför unionen omfattas också av förordningen om artificiell intelligens om utdata från deras AI-system används i unionen (4). Tillfällig, oförutsedd eller otillåten användning i senare led bör dock inte i sig utlösa tillämpningen av skyldigheterna för sådana leverantörer av interaktiva eller generativa AI-system som inte släpps ut på marknaden eller tas i bruk i unionen utan att det påverkar de behöriga marknadskontrollmyndigheternas befogenheter att bedöma att utdata från systemen inte överensstämmer med förordningen om artificiell intelligens.

(11)

Leverantörerna måste säkerställa att deras interaktiva eller generativa AI-system har transparens integrerad i systemets utformning och drift och att alla relevanta transparensskyldigheter i artikel 50.1, 50.2 och 50.5 i förordningen om artificiell intelligens uppfylls senast när dessa system släpps ut på marknaden eller tas i bruk. Alla fysiska personer som interagerar med AI-systemet eller exponeras för dess aktuella utdata måste informeras effektivt och konsekvent under AI-systemets hela livscykel så som det har släppts ut på marknaden eller tagits i bruk av den leverantören (oberoende av vem som använder systemet).

Ett företag tillhandahåller till exempel en generativ eller interaktiv AI-tillämpning (t.ex. en chattbot, bildgenerator, AI-agent) på unionsmarknaden i eget namn eller varumärke till konsumenter, yrkesmässiga användare eller andra juridiska personer som direkt kan använda AI-systemet för interaktion eller innehållsgenerering (inklusive genom att integrera systemet i sina befintliga processer och använda det i enlighet med dessa utan behov av ändringar eller ytterligare komponenter). Företaget är en leverantör som ansvarar för efterlevnaden av transparensskyldigheterna i artikel 50.1 och/eller 50.2 i förordningen om artificiell intelligens oberoende av om AI-systemet tillhandahålls gratis eller mot betalning och oavsett om leverantören är etablerad eller belägen i unionen eller i ett tredjeland.

Ett annat exempel på en leverantör är ett företag eller en annan organisation (t.ex. en offentlig myndighet) som har utvecklat ett interaktivt AI-system (t.ex. chattbot) internt och tar det i bruk i unionen för eget bruk och i eget namn eller under eget varumärke.

Om ett företag tar ett befintligt generativt AI-system som släppts ut på marknaden av en annan leverantör och ändrar det systemet (t.ex. med nya utbildningsdata) och sedan tar det i bruk i eget namn eller på egen marknad, blir det företaget leverantör av det nya systemet utan att det påverkar den ursprungliga leverantörens ansvar för det ursprungliga AI-systemet.

(12)

Tillhandahållare är fysiska eller juridiska personer, offentliga myndigheter, byråer eller andra organ som använder AI-system under eget överinseende, om inte användningen avser en personlig icke-yrkesmässig verksamhet (5). Med överinseende över ett AI-system bör förstås att man tar ansvar för beslutet att tillhandahålla systemet och för det sätt på vilket systemet faktiskt används (inklusive dess utdata). Detta kräver inte nödvändigtvis teknisk kontroll över driften av AI-systemet så länge som tillhandahållaren fattar beslut för vilka ändamål och hur AI-systemet ska användas (inklusive i decentraliserade arbetsflöden och företagsstrukturer i koncerner). Tillhandahållare som deltar i komplexa värdekedjor för produktion och distribution av innehåll bör vidta proportionella åtgärder för att säkerställa att märkningen av det innehåll som de har genomfört i enlighet med artikel 50.4 i förordningen om artificiell intelligens visas på ett tydligt och urskiljbart sätt för målgruppen och den sannolika publiken vid den första exponeringen i enlighet med artikel 50.5 i förordningen om artificiell intelligens (t.ex. genom avtalsvillkor med distribuerande partner, användarupplevelseinställningar och gränssnitt som ska visas).

(13)

Tillhandahållare omfattas av transparensskyldigheterna i artikel 50.3 och 50.4 i förordningen om artificiell intelligens om de har sin etableringsort i eller befinner sig i unionen eller om de befinner sig i ett tredjeland men AI-systemets utdata används i unionen (6). I det senare fallet gäller transparensskyldigheterna för enheter som är belägna eller etablerade utanför unionen men tillhandahållaren själv förutser spridning och användning av AI-utdata i unionen (dvs. genom att styra eller tillåta distribution inom unionen, inklusive genom att publicera deepfakes på det globalt tillgängliga internet). Tillhandahållare från tredjeländer är dock inte bundna av transparensskyldigheterna när innehållet i AI-systemet når publiken i unionen genom kanaler som är oförutsebara och utanför deras kontroll.

(14)

Om tillhandahållaren av ett AI-system är en juridisk person under vars överinseende systemet används (t.ex. ett reklamföretag) bör de enskilda anställda som agerar enligt den juridiska personens instruktioner och under dennas kontroll (t.ex. animatörer, webbdesigner, skapare av innehåll och journalister) inte betraktas som separata tillhandahållare för det systemet. En juridisk person förblir en tillhandahållare även om denna involverar tredjeparter (t.ex. entreprenörer eller frilansarbetare) i driften av systemet för sin räkning och under sitt ansvar och sin kontroll.

Till exempel är ett i unionen etablerat medieföretag, vars redaktörer använder ett AI-system för att stödja sin skriftliga bevakning av aktuella händelser med AI-genererade textpublikationer om frågor av allmänt intresse som publiceras på en globalt tillgänglig webbplats, en tillhandahållare som omfattas av förordningen om artificiell intelligens. På samma sätt är ett företag som är etablerat i ett tredjeland som använder ett AI-system för att generera en deepfake av en känd person i en annons som visas i unionen också en tillhandahållare som omfattas av förordningen om artificiell intelligens.

Däremot är ett företag som endast anlitar en reklambyrå för att göra reklam, utan att fatta beslut och utöva kontroll över huruvida och hur reklambyrån använder AI i produktionsprocessen, inte en tillhandahållare.

(15)

Operatörer (till exempel leverantörer och tillhandahållare) kan inneha mer än en roll samtidigt med avseende på ett AI-system. Ett företag kan till exempel utveckla ett internt generativt AI-system och använda det för att generera deepfakes. I ett sådant fall kommer företaget att räknas som både en leverantör och en tillhandahållare som måste säkerställa efterlevnaden av märkningsskyldigheterna för maskinläsbarhet enligt artikel 50.2 och kraven på en tydlig och klar märkning av deepfakes enligt artikel 50.4 i förordningen om artificiell intelligens.

(16)

Andra aktörer (t.ex. värdtjänstleverantörer, inklusive onlineplattformar och radio- och TV-företag) vars roll är begränsad till att sprida eller överföra AI-genererat eller manipulerat innehåll som skapats av tredje part, eller som tar emot eller exponeras för AI-genererat eller manipulerat innehåll utan att ha befogenhet att använda AI-systemet för generering eller manipulation av AI-innehåll, är däremot inte tillhandahållare i den mening som avses i förordningen om artificiell intelligens. Utan att vara ansvariga enligt förordningen om artificiell intelligens kan dessa aktörer ändå spela en viktig roll i värdekedjan för att bevara informationsekosystemets förtroende och integritet. De uppmuntras därför i hög grad att bevara den märkning som genomförs i enlighet med artikel 50 i förordningen om artificiell intelligens och genomföra proportionella och tekniskt genomförbara åtgärder för att göra det möjligt för fysiska personer att upptäcka det AI-genererade eller AI-manipulerade innehållet utan att det påverkar ansvarsskyldigheten för leverantörer och tillhandahållare av generativa AI-system eller skyldigheter eller ansvar enligt förordning (EU) 2022/2065 (förordningen om digitala tjänster) (7) eller annan tillämplig unionslagstiftning eller nationell lagstiftning.

(17)

Andra aktörer som agerar i sin yrkesmässiga kapacitet och sprider innehåll (även om de inte är direkt engagerade enligt artikel 50 i förordningen om artificiell intelligens) uppmanas också att vidta proportionerliga och lämpliga åtgärder så att de fysiska personer som i slutändan exponeras för innehållet effektivt informeras och kan upptäcka innehållets artificiellt genererade eller manipulerade ursprung. Dessutom kan dessa parter åläggas att märka respektive deepfakes eller textpublikationer om frågor av allmänt intresse enligt andra tillämpliga rättsliga eller etiska regler (t.ex. ett radio- och TV-företag som en del av ett TV-program visar en deepfake som skapats av en privatperson bör märka deepfaken som sådan). Enbart det faktum att en aktör märker innehåll eller använder märkt innehåll innebär dock inte att den senare räknas som tillhandahållare i den mening som avses i förordningen om artificiell intelligens. Förordningen om artificiell intelligens utvidgar eller påverkar inte dessa aktörers rättsliga ansvar enligt de tillämpliga rättsliga ramarna om de inte samtidigt räknas som leverantörer eller tillhandahållare av AI-system.

2.4   Undantag från tillämpningsområdet för förordningen om artificiell intelligens

(18)

Artikel 2 i förordningen om artificiell intelligens innehåller ett antal allmänna undantag från tillämpningsområdet för förordningen om artificiell intelligens som redan har förtydligats i kommissionens riktlinjer om förbjudna användningsområden för artificiell intelligens (8). I detta avsnitt behandlas därför endast de aspekter som är relevanta för transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens.

2.4.1   Tillhandahållare som agerar inom ramen för rent personlig icke-yrkesmässig verksamhet

(19)

I artikel 2.10 i förordningen om artificiell intelligens föreskrivs att förordningen ”är inte tillämplig på skyldigheter för tillhandahållare som är fysiska personer och som använder AI-system inom ramen för en rent personlig icke-yrkesmässig verksamhet” (9). All verksamhet genom vilken fysiska personer regelbundet erhåller en ekonomisk förmån eller på annat sätt deltar i en yrkes-, affärs-, handels-, arbetsverksamhet eller verksamhet som egenföretagare bör betraktas som en yrkesmässig verksamhet. Specifikationen av rent personlig är en bestämning av icke-yrkesmässig, vilket innebär att personen bör agera både personligt och icke-yrkesmässigt för att omfattas av undantaget. Varje användning som utförs av fysiska personer som agerar för eller under överinseende av en tillhandahållare som agerar i en professionell roll omfattas av de krav på transparens som fastställs i artikel 50.3 och 50.4 i förordningen om artificiell intelligens.

Följande är exempel på personlig icke-yrkesmässig användning av AI-system som inte omfattas av tillämpningsområdet:

—

Enskilda personer som använder ett AI-system för att generera deepfakes av medlemmarna i sitt hushåll.

—

Personer som använder ett AI-system för att generera text om olika ämnen (t.ex. elever som använder AI för att skriva sina läxor).

—

Personer som använder ett AI-system i sin personliga kapacitet för att generera deepfakes som sprids på sociala medier.

(20)

Undantaget i artikel 2.10 i förordningen om artificiell intelligens gäller endast för tillhandahållarnas skyldigheter när de använder systemet för rent personlig, icke-yrkesmässig verksamhet. Systemet som sådant omfattas fortfarande av förordningen om artificiell intelligens när det gäller skyldigheterna för leverantörer som släpper ut systemet på marknaden eller tar det i bruk och tillhandahållare som använder systemet i professionell verksamhet. Undantaget påverkar inte heller tillämpningen av annan relevant unionsrätt och nationell rätt.

Leverantören av AI-systemet som används för att generera deepfakes på ett personligt julkort bör t.ex. märka dessa deepfakes på ett maskinläsbart sätt i enlighet med den transparensskyldighet som fastställs i artikel 50.2 i förordningen om artificiell intelligens. Samtidigt kommer fysiska personers användning av systemet för rent personlig, icke-yrkesmässig verksamhet inte att omfattas av tillhandahållarens skyldighet som fastställs i artikel 50.4 i förordningen om artificiell intelligens.

2.4.2   Forskning och utveckling

(21)

I artikel 2.6 i förordningen om artificiell intelligens tillhandahålls därför ett undantag för ”AI-system eller AI-modeller, inbegripet deras utdata, som specifikt utvecklas och tas i bruk enbart i vetenskapligt forsknings- och utvecklingssyfte”. Detta undantag påverkar inte tillämpliga forskningsetiska standarder, EU:s dataskydd och annan lagstiftning. Inom ramen för artikel 50 i förordningen om artificiell intelligens omfattar detta undantag inte bara interaktiva AI-system utan även resultaten från generativa AI-system (inklusive deepfake-innehåll) som används inom ramen för vetenskaplig forskning. Om dessa system tas i bruk eller om deras resultat används för andra ändamål än enbart vetenskaplig forskning och utveckling skulle de relevanta transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens fortfarande behöva uppfyllas.

Om forskare till exempel utvecklar och släpper ut på marknaden eller tar i bruk ett interaktivt AI-system och vill undersöka om fysiska personer kan skilja mellan AI-system och människor när de deltar i talad interaktion med AI-systemet, behöver de inte genomföra de respektive transparensskyldigheterna enligt artikel 50.1 och 50.2 i förordningen om artificiell intelligens. Om samma interaktiva AI-system dessutom tas i bruk för andra ändamål än forskning och utveckling måste dock de relevanta transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens uppfyllas.

(22)

Artikel 2.8 i förordningen om artificiell intelligens undantar dessutom forsknings-, testnings- eller utvecklingsverksamhet för AI-system eller AI-modeller innan de släpps ut på marknaden eller tas i bruk. Testning under verkliga förhållanden (inom eller utanför de regulatoriska sandlådorna för AI) omfattas inte av detta undantag. När ett AI-system väl har släppts ut på marknaden eller tagits i bruk till följd av sådan forskning och testning bör det ändå uppfylla de relevanta transparensskyldigheterna enligt artikel 50 i förordningen om artificiell intelligens (10).

2.4.3   AI som släpps ut med kostnadsfria licenser med öppen källkod

(23)

Enligt artikel 2.12 i förordningen om artificiell intelligens omfattas AI-system som släpps ut med kostnadsfria licenser med öppen källkod inte av tillämpningsområdet för förordningen om artificiell intelligens under förutsättning att de inte omfattas av förbuden i artikel 5 i förordningen om artificiell intelligens eller transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens eller inte klassificeras som AI-system med hög risk (11). Detta innebär att leverantörer och tillhandahållare av AI-system med öppen källkod som omfattas av artikel 50 i förordningen om artificiell intelligens fortfarande måste säkerställa att deras respektive transparensskyldigheter uppfylls.

(24)

Leverantörer av AI-komponenter med öppen källkod som omfattar programvara, data, modeller, verktyg, tjänster eller processer för anpassning och integrering i ett AI-system och som inte i sig (helt eller delvis) utgör ett AI-system omfattas däremot inte av transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens. Leverantörer av sådana system uppmuntras dock att utforma dessa modeller, komponenter och tjänster på det sätt som beskrivs i punkt 27 nedan, i den mån detta är proportionerligt och genomförbart.

2.5   Samspelet mellan de förbjudna användningsområdena, kraven för AI-system med hög risk och AI-kunnighet

(25)

I skäl 137 i förordningen om artificiell intelligens klargörs att fullgörandet av transparensskyldigheterna enligt artikel 50 i förordningen om artificiell intelligens för ett visst AI-system inte kan tolkas som att användningen av AI-systemet eller dess utdata är laglig enligt förordningen om artificiell intelligens. I synnerhet kan AI-system som omfattas av skyldigheterna i artikel 50 i förordningen om artificiell intelligens omfattas av artikel 5 i förordningen om artificiell intelligens och därmed vara förbjudna (t.ex. användning av system för känsloigenkänning på arbetsplatsen eller vid utbildningsinstitutioner) (12). Dessutom kan AI-system som omfattas av artikel 50 i förordningen om artificiell intelligens också klassificeras som AI-system med hög risk (13) och omfattas av relevanta krav och skyldigheter för sådana system. Efterlevnaden av artikel 50 i förordningen om artificiell intelligens varken ersätter, begränsar eller påverkar därför inte de skyldigheter som följer av andra bestämmelser i förordningen om artificiell intelligens (14). Samtidigt kan AI-system också omfattas av artikel 50 i förordningen om artificiell intelligens utan att klassificeras som AI-system med hög risk enligt artikel 6 i förordningen om artificiell intelligens. Krav på läs- och skrivkunnighet enligt artikel 4 i förordningen om artificiell intelligens gäller även både leverantörer och tillhandahållare av AI-system som omfattas av artikel 50 i förordningen om artificiell intelligens.

2.6   Samspel med regler som gäller AI-modeller och/eller AI-system för allmänna ändamål

(26)

Artikel 50 i förordningen om artificiell intelligens är tillämplig på vissa AI-system, som omfattar AI-system för allmänna ändamål (15), till exempel chattbottar som stöder direkt interaktion med fysiska personer eller AI-system som kan generera eller manipulera syntetiskt innehåll (inklusive deepfakes) (16).

(27)

Artikel 50 i förordningen om artificiell intelligens är inte uttryckligen tillämplig på modeller för allmänna ändamål. Om ett interaktivt eller generativt AI-system som omfattas av artikel 50.1 eller 50.2 i förordningen om artificiell intelligens bygger på en AI-modell för allmänna ändamål som tillhandahålls av samma leverantör kan de transparensåtgärder som anges i dessa riktlinjer också genomföras på modellnivå (se även avsnitt 4 nedan). Även om de faller utanför tillämpningsområdet för artikel 50 i förordningen om artificiell intelligens uppmuntras leverantörer av andra AI-modeller för allmänna ändamål och andra generativa AI-modeller också att genomföra lämpliga transparensåtgärder på modellnivå för identifiering av interaktiva AI-system och märkning av AI-genererat och AI-manipulerat innehåll. Detta är särskilt fördelaktigt för leverantörer av AI-system i senare led för att uppfylla sina skyldigheter enligt artikel 50.1 och 50.2 i förordningen om artificiell intelligens (17) och bidra till att bevara förtroendet för informationsekosystemet och dess integritet. För AI-modeller för allmänna ändamål som utgör en systemrisk kan säkerhetsåtgärder på modellnivå för identifiering av AI-interaktioner och märkning av AI-genererat eller AI-manipulerat innehåll, när detta är lämpligt, utgöra en del av en bredare uppsättning riskreducerande åtgärder som leverantörer kan vidta som en del av sin skyldighet att minska systemrisker enligt artikel 55.1 b i förordningen om artificiell intelligens.

3.   ARTIKEL 50.1 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS TRANSPARENS I INTERAKTIVA AI-SYSTEM

(28)

Artikel 50.1 i förordningen om artificiell intelligens riktar sig till leverantörer av AI-system som interagerar direkt med fysiska personer, som måste utforma och utveckla sina system på ett sådant sätt att de berörda fysiska personerna informeras om att de interagerar med ett AI-system. Enligt förklaringen i skäl 132 i förordningen om artificiell intelligens är syftet med denna informationsskyldighet att göra det möjligt för dessa fysiska personer att fatta välgrundade beslut om systemets utdata, undvika alltför stor tillit till sådana system och göra det möjligt för dessa fysiska personer att avväga sitt förtroende för innehållet och interaktionerna i enlighet med dessa.

3.1   Huvudkomponenter, begrepp och tillhörande transparensskyldigheter

(29)

Transparensskyldigheten i artikel 50.1 i förordningen om artificiell intelligens gäller för leverantörer av AI-system där systemet är avsett att interagera direkt med fysiska personer och denna interaktion inte omfattas av något av följande undantag: 1) Det är uppenbart för en fysisk person som är normalt informerad, skäligen uppmärksam och medveten eller 2) systemet enligt lag får upptäcka, förebygga, förhindra, utreda eller lagföra brott, såvida inte systemet är tillgängligt för allmänheten för att anmäla ett brott.

3.1.1   AI-system avsedda att interagera direkt med fysiska personer

(30)

För att ett system ska omfattas av artikel 50.1 i förordningen om artificiell intelligens gäller att i) systemet måste vara ett AI-system, ii) måste vara avsett att interagera, iii) direkt, iv) med fysiska personer.

i)

Ett AI-system Systemet måste uppfylla de delar av definitionen av AI-system (18) som utesluter enkla automatiserade svarsmekanismer som inte är AI-svar (t.ex. traditionella frånvaromeddelanden och regelbaserade snabbsvar).

ii)

Avsett att interagera AI-systemet måste vara avsett att interagera med fysiska personer. Interaktion innebär ett dubbelriktat utbyte av information eller åtgärder mellan fysiska personer och AI-systemet med en genuin konversations- eller reaktionskaraktär. Detta kan förekomma i olika former (t.ex. hörselbaserat, synbaserat och fysiskt). Fysiska personer bör kunna tillhandahålla indata (t.ex. skriftligt innehåll, annat innehåll, tal eller kroppsliga handlingar) till AI-systemet (t.ex. genom tekniska kommunikationsmedel, inklusive onlinegränssnitt, telefon- eller e-postsystem, eller direkt) medan AI-systemet bör kunna svara med kontextuella utdata (inklusive alla typer av innehåll eller åtgärder) och vice versa. Interaktionen kan omfatta alla typer av utdata eller format som människor kan uppfatta och förstå. Den behöver inte initieras av en människa. Den får också omfatta AI-innehåll eller åtgärder som framkallar en mänsklig reaktion. Interaktionen kan vara en engångsföreteelse (t.ex. en enda prompt följt av ett enda svar) eller äga rum under en viss period (dialog i flera led). System som endast samlar in uppgifter passivt och inte kan utbyta uppgifter med fysiska personer (t.ex. automatiska åtkomstkontroller med ansiktsigenkänning) eller bara samlar in engångsåterkoppling (t.ex. skräppostfilter) anses inte interagera med fysiska personer.

iii)

Direkt interaktion Samspelet mellan AI-systemet och de fysiska personerna måste vara direkt. Detta inbegriper vanligtvis interaktion i realtid eller nära realtid (inklusive genom systemets förmåga att skriva och skicka meddelanden till fysiska personer eller på annat sätt interagera med den fysiska eller virtuella miljö som fysiska personer kan uppfatta). Direkt interaktion utesluter indirekt eller förmedlad mänsklig interaktion när en fysisk person exponeras för AI-utdata utan att direkt interagera med systemet (t.ex. om representanter från kundtjänst använder AI-hjälpverktyg för att hjälpa dem att kommunicera med fysiska personer eller om AI-utdata inte görs tillgängligt för personen av AI-systemet självt utan av en annan person som sprider innehållet). Enbart möjligheten för människor att ingripa eller se över AI-systemets utdata bör dock inte användas för att kringgå tillämpningen av upplysningskravet enligt artikel 50.1 i förordningen om artificiell intelligens. Fall av produkter och tjänster som blandar AI-genererade svar med människovärderat innehåll omfattas av artikel 50.1 i förordningen om artificiell intelligens och kräver upplysning för de specifika utdata i interaktionen som genereras av AI, under förutsättning att inte dessa AI-utdata har granskats och skickats av människor som de huvudsakliga samtalspartnerna med de fysiska personerna.

iv)

Med fysiska personer Enligt artikel 50.1 i förordningen om artificiell intelligens ska AI-systemet interagera med fysiska personer. Dessa personer kan vara professionella tillhandahållare, andra användare (som även använder systemet för rent personliga aktiviteter) eller andra personer som använder systemet för deras räkning. AI-system som drivs i en sluten fysisk miljö (t.ex. en del av en industriell maskininstallation), backend-samtal maskin-till-maskin mellan AI-system (inklusive AI-agenter) vars utdata inte är avsedda att nå fysiska personer eller virtuella miljöer utan direkt kontakt med fysiska personer omfattas inte av skyldigheten.

(31)

AI-agenter omfattas av artikel 50.1 i förordningen om artificiell intelligens om de kan interagera med de personer som ger dem instruktioner eller med andra fysiska personer vid utförandet av uppgifterna (t.ex. bokning, hantering av korrespondens, förhandling eller ingående av avtal, genomförande av inköp osv.). AI-agenter måste utformas och utvecklas på ett sådant sätt att de röjer både sin artificiella karaktär och den person för vars räkning de agerar, med tanke på behovet av transparens kring ursprunget av deras handlingar och kring delegeringen av befogenheter och ansvarsskyldighet när det gäller konsekvenserna av dessa handlingar. Detta inbegriper fall där AI-agenter kan interagera i komplexa multiagentarkitekturer med andra AI-agenter som direkt interagerar med de fysiska personerna vid utförandet av uppgiften. Det är dock inte alltid möjligt för leverantören av AI-agenten att i förväg identifiera enskilda fall av direkt interaktion mellan en AI-agent och andra fysiska personer när AI-agenten väl har satts in i olika sammanhang. Om leverantören inte på ett tillförlitligt sätt kan avgöra om AI-agenten kommer att interagera direkt med en fysisk person innan leverantören släpper ut AI-agenten på marknaden eller tar den i bruk bör agenten utformas på arkitekturnivå och instrueras att avslöja sin AI-identitet i varje situation där det rimligen är troligt att agenten kan interagera med en fysisk person (inklusive när en fysisk person får företräda eller agera för en juridisk person). Dessutom bör AI-agenterna också avslöja sin AI-identitet för de personer som ger dem instruktioner i viktiga steg (t.ex. vid tidpunkten för godkännande, rapportering, validering osv., inklusive när den utplacerade AI-agenten tar emot, behandlar eller förlitar sig på utdata som genererats av andra AI-system snarare än direkt av en fysisk person) och vid varje ny interaktion.

Exempel på AI-system som är avsedda att interagera direkt med fysiska personer och som omfattas av artikel 50.1 i förordningen om artificiell intelligens

—

AI-aktiverade röstassistenter, chattbottar/konversationsagenter i olika sammanhang (t.ex. offentliga tjänster, kundstöd, hantering av klagomål, e-handel, ekonomi, hälso- och sjukvård, utbildning osv.).

—

AI-telefonjour för incidenter, bedrägerier eller annan rapportering, (humanoida) robotar/cobotar, AI-partner, robotiska sällskapsdjur, AI-avatarer (t.ex. i virtuella verklighetsmiljöer).

—

AI-botar på sociala nätverk och medier, kodningsagenter och andra AI-agenter som direkt kan interagera med fysiska personer (inklusive i komplexa multiagentarkitekturer).

3.2.1

Exempel på AI-system som inte interagerar direkt med fysiska personer som inte omfattas av artikel 50.1 i förordningen om artificiell intelligens

—

AI-baserade traditionella industrirobotar som verkar i slutna industrimiljöer och inte är avsedda att interagera med människor (t.ex. elektroniska monteringsrobotar).

—

AI-aktiverade rekommendationssystem, skräppostfilter, automatiska översättnings- eller transkriberingsverktyg.

—

AI-aktiverad sökning och hämtning av information utan generering eller ändring av innehåll.

—

AI-aktiverad teknik för automatisk sammanställning av text och kod, system för autentisering/biometrisk igenkänning, system för stöd vid backend-beslut där användaren endast ser AI-utdata utan möjlighet till direkt interaktion med systemet.

—

AI-aktiverade prediktiva underhålls- och optimeringssystem i fabriker och industriella applikationer, AI-assisterad produktvisualisering (t.ex. virtuell testning, rumsuppställning, produktåtergivning), AI-aktiverade enstegsverktyg för ruttplanering, transkription av kundanrop som bearbetats för beteendeanalys etc.

3.1.2   Informationsskyldighet enligt artikel 50.1 i förordningen om artificiell intelligens

(32)

Enligt artikel 50.1 i förordningen om artificiell intelligens är leverantörer av AI-system skyldiga att interagera direkt med fysiska personer för att säkerställa att deras AI-system (inklusive AI-agenter och AI-system för allmänna ändamål) utformas och utvecklas på ett sådant sätt att de berörda fysiska personerna informeras om att de interagerar med ett AI-system.

(33)

Mekanismen för att informera bör ingå i utformningen och utvecklingen av systemet och i hur systemet interagerar med de fysiska personerna men meddelandet bör lämnas under driften av AI-systemet och senast vid den första interaktionen med den fysiska personen (i enlighet med artikel 50.5 i förordningen om artificiell intelligens, se avsnitt 7 nedan). Leverantörerna ansvarar för att säkerställa att fysiska personer som interagerar med AI-systemet, efter det att AI-systemet har släppts ut på marknaden eller tagits i bruk, informeras effektivt och konsekvent under AI-systemets hela livscykel, så som det har släppts ut på marknaden eller tagits i bruk av leverantören.2.2

(34)

Format för upplysning I artikel 50.1 i förordningen om artificiell intelligens anges ingen särskild metod för upplysning. Leverantörer kan därför välja vilken lämplig metod som helst under förutsättning att följande krav uppfylls: i) Kraven i artikel 50.5 i förordningen om artificiell intelligens är uppfyllda när det gäller tillhandahållande av tydlig och urskiljbar information senast vid tidpunkten för den första interaktionen (se avsnitt 7 nedan). ii) Särdragen hos fysiska personer som tillhör utsatta grupper på grund av sin ålder (t.ex. barn eller äldre) eller funktionsnedsättning beaktas i den utsträckning som AI-systemet är avsett eller med rimlig sannolikhet kommer att interagera med fysiska personer som tillhör dessa grupper (t.ex. när det rimligen är sannolikt att AI-systemet interagerar med allmänheten) (19). Informationen måste också tillhandahållas i ett tillgängligt format för fysiska personer med funktionsnedsättning i enlighet med artikel 50.5 och skäl 132 i förordningen om artificiell intelligens (se avsnitt 7). Om systemet kan interagera med barn måste dessa meddelanden vara barnvänliga, åldersanpassade, lättförståeliga och lättillgängliga för alla barn, inklusive barn med funktionsnedsättning eller ytterligare tillgänglighetsbehov. Där det är möjligt och lämpligt rekommenderas leverantörerna att använda standardiserade rutiner och märkningar för upplysning för att säkerställa att meddelandena är ändamålsenliga och konsekventa samt för att öka användarnas medvetenhet.

(35)

Innehåll i meddelandet: Enligt artikel 50.1 i förordningen om artificiell intelligens ska leverantörer av interaktiva AI-system utforma och utveckla dem på ett sådant sätt att alla fysiska personer som interagerar med sådana AI-system uttryckligen informeras om den interagerande motpartens artificiella, icke-mänskliga karaktär. Om leverantören rimligen kan förutse att AI-systemet kan interagera med fysiska personer som tillhör de ovan nämnda sårbara grupperna, bör informationen anpassas i enlighet med detta och tillhandahållas i ett tillgängligt format, enligt vad som krävs enligt tillämplig unionsrätt, för att även säkerställa att dessa fysiska personer förstår den till fullo (20).

(36)

Meddelandena bör innehålla information om interaktionens artificiella ursprung på ett sätt som är lämpligt för det sammanhang där interaktionen äger rum. Detta bör göras på ett sätt som säkerställer att de berörda personerna informeras på ett korrekt och effektivt sätt och undviker alla risker för vilseledande eller manipulation före och under interaktionen samtidigt som man säkerställer genomförbara och proportionerliga upplysningar. Exempel på tillhandahållande av informationen är skriftliga meddelanden (t.ex. en chattbot som startar en konversation genom att nämna att den är baserad på AI-teknik), visuella medel (t.ex. en AI-märkning högst upp i ett e-postmeddelande till en fysisk person som har genererats av en AI-agent), auditiva medel (t.ex. en röstassistent som i början av en session säger att den är AI-baserad), upplysning om AI-identifierare och autentiseringsuppgifter (t.ex. AI-agenter som avslöjar sin AI-identitet i den mån det är möjligt på ett verifierbart sätt (21)).

(37)

Format för meddelanden: Utformningen av AI-systemet med multimodala och tillgängliga metoder för upplysning rekommenderas som bästa praxis. Sådana meddelanden kan kombinera olika tekniker för att öka användarnas förståelse när detta är lämpligt, beroende på sammanhanget, målgrupperna samt den sannolika publiken och de resurser som leverantörerna, särskilt små och medelstora företag, har att tillgå. Exempel på lämpliga metoder kan vara följande:

—

Upplysning i textform (baserad på användargränssnitt) Väl synliga märkningar eller banners med meddelanden i klartext (t.ex. ”Du interagerar med ett AI-system”) och hälsningar vid första interaktionen i chattbottar som, beroende på vad som är lämpligt, kan kombineras med permanenta symboler eller märkningar som är synliga under hela interaktionen, om det går att motivera med hänsyn till det specifika sammanhanget och riskerna. Dessutom rekommenderas att åtföljande upplysningar placeras nära interaktionsgränssnittet (t.ex. nära in-/utdatafältet) och att lätt språk används, särskilt för användare med lägre digital kompetens och barn.

—

Ljudbaserad upplysning I röstbaserade sammanhang eller telefonisammanhang kombineras uttryckliga muntliga uttalanden i början av interaktionen (t.ex. detta är en AI-styrd assistent), beroende på vad som är lämpligt, med periodiska påminnelser om längre interaktioner, särskilt vid avbrott eller en ändring av AI-systemets roll under en användarresa. Diskreta ljudsignaler (t.ex. toner eller musiksnuttar [s.k. earcons]) kan stödja tolkning, särskilt för synskadade användare, men anses inte vara tillräckliga i sig själva.

—

Visuella/grafiska signaler Utformning av AI-systemet med permanenta ikoner, vattenmärken, färgade ramar eller igenkännliga AI-symboler som komplement till upplysningar i textform. Användning av standardiserade visuella indikatorer, även för en leverantörs olika tjänster, rekommenderas eftersom sådana indikatorer avsevärt kan minska den kognitiva bördan och öka igenkänningsbarheten.

—

Multimodala kombinationer Kombinera textsignaler, ljudsignaler och visuella signaler (t.ex. en chattbot som visar en märkning, samtidigt som den ger en upplysning i textform vid första interaktionen) för att säkerställa tillgänglighet och öka tydligheten för olika användargrupper.

(38)

Vissa metoder är inte nödvändiga och, när enbart de används, otillräckliga för att på ett effektivt sätt uppfylla transparensskyldigheten i artikel 50.1 och 50.5 i förordningen om artificiell intelligens, vilket i synnerhet gäller följande:

—

Upplysningar som endast förekommer i villkor, webbadresser eller dokumentation (sådana upplysningar kan komplettera men inte ersätta upplysningar i kontext).

—

Maskinläsbara märkningar (t.ex. metadata eller vattenmärken) som inte kan uppfattas av användarna vid interaktionspunkten. Detta påverkar inte lämpligheten av sådana märken för att uppfylla artikel 50.2 i förordningen om artificiell intelligens (se avsnitt 4).

—

Otydliga eller tvetydiga signaler (t.ex. allmänna hänvisningar till assistent) eller människoliknande representationer som kan vilseleda användarna.

—

Allmänna upplysningar som inte är tillräckligt specifika för AI-systemets utdata och interaktioner (t.ex. på en plattform som tillhandahåller en rad olika tjänster eller enskilda indata är en allmän upplysning som ”Tjänster på denna webbplats använder AI” otillräcklig).

—

Tekniska eller kapacitetsbaserade beskrivningar Uttalanden som enbart avser underliggande teknik (t.ex. detta system använder sig av stora språkmodeller) utan att förklara systemets funktion eller konsekvenser för användaren och dess artificiella ursprung.

(39)

Upplysningarna bör vara proportionerliga och anpassade till AI-systemets olika sammanhang och målgrupper för att förbli effektiva, användarvänliga och, i den mån det är möjligt, undvika eventuella avbrott i användarupplevelsen eller vaneeffekter (så kallad bannerblindhet).

(40)

Ett enda väl synligt meddelande före AI-systemets första interaktion med en viss fysisk person är sannolikt tillräckligt i de flesta fall för att uppfylla skyldigheten i artikel 50.1 i förordningen om artificiell intelligens. I vissa riskfyllda sammanhang kommer dock periodiska påminnelser och kontextmedvetna upplysningar sannolikt att krävas för att säkerställa en fortsatt medvetenhet hos användarna. Detta gäller särskilt i samband med AI-system som interagerar med utsatta personer (t.ex. barn, äldre, personer med funktionsnedsättning och personer med lägre läs- och skrivkunnighet), varaktiga och föränderliga interaktioner i känsliga eller uppslukande sammanhang (t.ex. där användare kan uttrycka eller uppleva emotionell ångest eller sårbarhet eller riskera att bli beroendeliknande beteenden), där det finns en ökad risk för att användare vilseleds (t.ex. finansiell rådgivning, försäkring, juridisk hjälp, hälsorådgivning och hantering av klagomål) eller för att bilda emotionella bilagor eller beroenden (t.ex. AI-partner) samt när det finns ett behov av att säkerställa medvetenhet och kontroll över AI-agenternas åtgärder. Leverantörer måste också utforma och utveckla AI-systemet för att säkerställa upplysning i alla situationer där AI-systemet får frågor om sin natur eller interaktionens ursprung eller där det rimligen kan antas utifrån utbytet med den fysiska personen att den personen sannolikt kommer att vilseledas eller förvirras om interaktionens AI-ursprung.

3.2   Undantag från informationsskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens

(41)

I artikel 50.1 i förordningen om artificiell intelligens föreskrivs två undantag från informationsskyldigheten avseende interaktiva AI-system som undersöks nedan.

3.2.1   Undantag för uppenbar interaktion med ett AI-system

(42)

För att kunna förlita sig på det första undantaget måste leverantörerna bedöma och demonstrera i) att interaktionens artificiella karaktär är uppenbar för ii) en fysisk person som måste vara normalt informerad, uppmärksam och medveten, med beaktande av omständigheterna kring och sammanhanget för användningen.

(43)

Denna standard bygger på etablerad EU-lagstiftning om konsumentskydd när det gäller begreppet genomsnittlig konsument och bör tolkas konsekvent, samtidigt som hänsyn tas till specifika och varierade sammanhang och användningar av AI-system som interagerar direkt med fysiska personer och de mål som eftersträvas i artikel 50.1 i förordningen om artificiell intelligens.

(44)

Utformning av en sådan genomsnittlig fysisk person består av två steg. För det första bör leverantörerna ta hänsyn till den publik som AI-systemet är avsett för och rimligen kan komma att interagera med. För det andra bör leverantören undersöka hur normalt informerad, uppmärksam och medveten en genomsnittlig medlem av den publiken är, med beaktande av omständigheterna kring och sammanhanget för användningen. Flera faktorer bör beaktas vid denna bedömning, bland andra följande:

—

Leverantörerna bör beakta AI-systemets målgrupp och en bredare potentiell publik som rimligen går att förutse. Detta kommer särskilt att vara fallet om allmänheten lätt kan få tillgång till AI-systemet eller om systemet drivs på virtuella eller fysiska offentliga platser och kan interagera med fysiska personer i dessa utrymmen. Den publik som kan exponeras för ett AI-system motsvarar inte alltid målgruppen.

—

Leverantörerna bör beakta den potentiellt heterogena sammansättningen av målgruppen och den publik som rimligen går att förutse i linje med skäl 132 i förordningen om artificiell intelligens. Om personer med funktionsnedsättning, äldre eller minderåriga sannolikt kommer att ingå i denna publik kommer de förväntade nivåerna av information, efterlevnad och försiktighet för en genomsnittlig medlem av en sådan publik att vara lägre jämfört med en genomsnittlig medlem av en publik som inte omfattar dessa kategorier av personer. Om det interaktiva AI-systemet däremot endast är tillgängligt för en professionell eller specialiserad målgrupp kan detta positivt påverka de förväntade kunskaps-, observations- och försiktighetsnivåerna och en genomsnittlig medlem av den publiken kan anses vara bättre informerad och mer observant och försiktig.

—

Som en del av de bredare omständigheterna och användningssammanhanget bör tillhandahållare ta hänsyn till nivån av digital kompetens och Ai-kunnighet hos den publik som rimligen går att förutse samt relevanta sociala, kulturella och språkliga faktorer.

(45)

Uppenbar interaktion När leverantörerna fastställer den hypotetiska, normalt informerade, uppmärksamma och medvetna fysiska personen, bör de bedöma om det kommer att vara uppenbart för en sådan person att han eller hon interagerar direkt med ett AI-system. Undantaget bör tolkas restriktivt med tanke på att det fråntar fysiska personer skyddet och rätten att informeras med tydliga och urskiljbara upplysningar om att de interagerar med AI-system. Den allmänna medvetenheten hos konsumenter och andra fysiska personer om att det finns AI-system (inklusive chattbottar och agenter) innebär inte att de känner igen dem i interaktioner. Flera faktorer kan vara relevanta och betraktas som en del av bedömningen om interaktionen är uppenbar.

—

Interaktionens förväntade karaktär. I fall där AI-systemet interagerar fysiskt med fysiska personer kan relevanta element t.ex. vara mekaniska komponenters synlighet (vilket skulle göra interaktionen med AI mer uppenbar) eller den utsträckning i vilken AI-systemet efterbildar sin icke-artificiella motsvarighet på ett trovärdigt sätt (vilket skulle göra interaktionen med AI mindre uppenbar). När det gäller interaktioner som är visuella eller auditiva till sin natur kan element som skriv- eller talmönster, röstton (robotröst eller äkta mänsklig röst), utformning av användargränssnitt (t.ex. en profilbild relaterad till en chattbot som visar en människa) och förmågan till avancerad individanpassad interaktion påverka denna bedömning.

—

Målgruppens och den sannolika publikens sammansättning: Om det interaktiva AI-systemet endast är tillgängligt för en professionell eller specialiserad publik, och inga utsatta grupper riskerar att exponeras för detta, kan detta eventuellt göra interaktionens artificiella karaktär mer uppenbar för en genomsnittlig medlem av den aktuella publiken. Om däremot AI-systemet kan nås av allmänheten eller konsumenter som även omfattar utsatta personer (t.ex. barn, äldre, personer med kognitiva, fysiska eller psykiska funktionsnedsättningar eller personer med lägre AI-kunnighet) för vilka interaktionen är mindre uppenbar, kan undantaget inte åberopas för att skydda dessa utsatta användare på ett effektivt sätt.

—

Hänsyn bör också tas till att det blir allt svårare för fysiska personer att veta om en interaktion med ett AI-system eller en faktisk människa äger rum. På grund av användningen av avatarer och agenter, den allmänna anonymiteten för interaktioner online och AI-systemens förmåga att skriva och interagera på ett mänskligt sätt, bör det så kallade undantaget för uppenbar interaktion begränsas till fall där det nästan inte råder något tvivel om interaktionens karaktär för en genomsnittlig person från målgruppen och den publik som rimligen kan förutses.

Följande är exempel på uppenbar interaktion för vilken transparensskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens inte gäller

—

AI-driven kodhjälp och kodgranskning av chattbottar som endast är tillgängliga för professionella utvecklare som på grund av sin sakkunskap och sitt användningssammanhang inte har några rimliga förväntningar på att interagera med en människa och lätt kan inse att förslag genereras av ett AI-system.

—

En intern assistent inriktad mot lämpligt utbildad personal med AI-kunnighet som är medveten om att de använder AI-system för interna organisatoriska ändamål (t.ex. HR, juridik, upphandling, efterlevnad eller it-support).

—

Interaktiva AI-system som endast är avsedda att användas av korrekt utbildad hälso- och sjukvårdspersonal för att stödja medicinsk diagnos och föreslå relaterade behandlingar.

—

Ambient-AI inbäddad i hushållsapparater med funktioner som är begränsade till assistans och drift av hushållsapparaten.

—

Samspel med AI-aktiverade icke spelbara karaktärer (NPC:er) i ett videospel med en spelare där videospelets karaktär klargör att ingen annan fysisk person kan delta och interagera med användaren och att interaktionens typ av AI också är uppenbar för alla användare (inklusive sårbara personer).

Följande är exempel som inte uppfyller undantaget för uppenbar interaktion och för vilket transparensskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens gäller:

—

Ett robotiskt sällskapsdjur som liknar sin naturliga motsvarighet mycket och som är utformat för att efterlikna typisk interaktion mellan människa och sällskapsdjur, vilket skapar tvetydigheter om huruvida interaktionen sker med ett AI-system eller inte.

—

AI-system som är inbäddade i omslutande miljöer (t.ex. virtuell eller förstärkt verklighet) med realistiska avatarer eller röster som liknar människor där användare och särskilt barn, äldre eller personer med funktionsnedsättning kanske inte så lätt kan skilja mellan mänsklig och AI-baserad interaktion.

—

AI-chattbottar som är inbäddade i onlineplattformar eller hjälpverktyg (helpdeskar) som användare interagerar direkt med och tar emot AI-utdata från (t.ex. svar på frågor eller annat AI-genererat innehåll) kan uppfattas som människogenererade.

3.2.2   Undantag för AI-system som enligt lag får användas för brottsbekämpande ändamål

(46)

Leverantörer av interaktiva AI-system undantas från transparensskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens om de enligt lag får upptäcka, förebygga, utreda eller lagföra brott, med förbehåll för lämpliga garantier för tredje parters rättigheter och friheter.

(47)

Enligt lag ska förstås som att det omfattar unionsrätten liksom medlemsstaternas nationella lagstiftning som antagits i enlighet med unionsrätten. Den lag som tillåter användning av AI-systemet måste tydligt ange ändamålen och omständigheterna för tillåten användning och föreskriva lämpliga skyddsåtgärder för att skydda tredje mans rättigheter och friheter. Med tanke på den teknikneutrala metoden i förordningen om artificiell intelligens är det inte nödvändigt att identifiera eller godkänna specifika AI-system enligt lag om användningen av AI-systemet i allmänhet planeras inom ramen för den enligt lag tillåtna verksamheten och den är förenlig med den tillämpliga rättsliga ramen.

(48)

För att omfattas av detta undantag måste syftet med AI-systemet vara att upptäcka, förebygga, utreda eller lagföra brott (t.ex. AI-infiltratör, AI-system som används under mänsklig kontroll av utredare för onlineutredningar eller kommunikation med personer som kan vara inblandade i brottslig verksamhet). Undantaget är inte begränsat till användning av sådana AI-system endast av brottsbekämpande myndigheter enligt definitionen i artikel 3.48 i förordningen om artificiell intelligens utan kan också omfatta interaktiva (eller generativa) AI-system som används av andra offentliga myndigheter på unionsnivå eller nationell nivå, under förutsättning att användningen av dessa system enligt lag är tillåten för att upptäcka, förebygga, utreda eller lagföra brott, med förbehåll för lämpliga garantier för tredje parters rättigheter och friheter. Undantaget innebär inte att AI-systemet måste kunna genomföra undersökningarna oberoende. Om ett sådant system både kan användas för brottsbekämpande ändamål och för andra rättsligt reglerade sammanhang bör undantagets tillämplighet bedömas mot bakgrund av det särskilda införandet. Transparensskyldigheterna fortsätter att gälla när samma AI-system används för andra ändamål än lagligt tillåten upptäckt, förebyggande, utredning eller lagföring av brott. Fysiska personer måste fortfarande få insyn när de interagerar med systemet i samband med dess regelbundna ändamål.

(49)

Undantaget gäller inte om i) AI-systemet är tillgängligt för allmänheten och ii) systemet erbjuder en funktion för enskilda personer att anmäla brott. Sådana system får användas men de omfattas fortfarande av transparensskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens och därför måste fysiska personer informeras om att de interagerar med sådana system.

För tydlighetens skull gäller detta undantag endast skyldigheten enligt artikel 50.1 att informera fysiska personer om att de interagerar med ett AI-system (22). Det påverkar inte tillämplig unionsrätt och nationell rätt, inklusive förfaranderegler för dokumentation, utlämnande, tillåtlighet och bedömning av bevis.

Följande är exempel på AI-system som gjorts tillgängliga för allmänheten för att anmäla brott som inte är undantagna och som omfattas av artikel 50.1 i förordningen om artificiell intelligens:

—

AI-aktiverade polischattbottar som används på polisens officiella webbplatser eller mobila applikationer som gör det möjligt för enskilda att rapportera brott eller klagomål. Dessa system vägleder användarna med hjälp av strukturerade frågor för att samla in relevant information och triagerapporter innan de vidarebefordras till personalen för bedömning.

—

· AI-drivna telefonjourer som drivs av polisen eller annan brottsbekämpande myndighet för allmänna utredningar.

—

AI-stödd bedrägerirapportering via telefonjourer eller digitala portaler som drivs av finansinstitut eller offentliga myndigheter, där användare kan rapportera misstänkta ekonomiska brott. AI-systemet interagerar med användaren för att samla in uppgifter, kategorisera rapporten och prioritera fall, medan mänskliga utredare validerar informationen innan någon åtgärd vidtas.

—

Virtuella assistenter som används för samling av vittnesmål, där brottsoffer eller vittnen kan lämna information via ett AI-drivet gränssnitt. Sådana AI-system kan stödja flerspråkiga indata, tillgänglighetsfunktioner och strukturerad inlämning av bevis, men de slutliga bedömnings- och utredningsstegen ligger kvar hos mänskliga myndigheter.

3.3   Samspel med andra unionsrättsakter

(50)

Transparensskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens gäller utan att det påverkar unionens befintliga lagstiftning vad gäller konsumentskydd, dataskydd, digitala frågor eller icke-diskriminering som kan omfatta andra informationskrav som inte är specifika för interaktionens AI-ursprung. Enligt direktiv 2005/29/EG (direktivet om otillbörliga affärsmetoder) (23) är vilseledande handlingar eller underlåtenhet med avseende på en produkts eller tjänsts utmärkande egenskaper förbjudna. Enligt direktiv 2011/83/EG (direktivet om konsumenträttigheter) (24) ska näringsidkare dessutom tillhandahålla klar och tydlig förhandsinformation innan avtal ingås om varornas eller tjänsternas huvudsakliga egenskaper. Om en tjänst är AI-driven (t.ex. en abonnemangsbaserad chattbot, en AI-partnertillämpning eller en virtuell coachningstjänst) kan AI-funktionen betraktas som en väsentlig egenskap som konsumenten måste upplysas om innan denne är bunden av ett avtal. Informationsskyldigheterna enligt unionens konsumentskyddslagstiftning gäller oberoende av om samspelet anses vara ”uppenbart” enligt artikel 50.1 i förordningen om artificiell intelligens. Dessa skyldigheter kompletterar också allmänna informationsskyldigheter avseende konsumentskydd, medan meddelandeskyldigheten enligt förordningen om artificiell intelligens är mer kontextuell och syftar till att säkerställa att alla fysiska personer fortlöpande är medvetna om en direkt interaktion med ett AI-system åtminstone innan det inleds och under hela interaktionen.

(51)

Förordningen om digitala tjänster innehåller även krav på transparens för onlineplattformars rekommenderade system, inklusive ett krav på att förklara de huvudsakliga rangordningsparametrarna. Dessa skyldigheter kompletterar de öppenhetsskyldigheter som fastställs i artikel 50.1 förordningen om artificiell intelligens, eftersom de har ett annat tillämpningsområde och syfte och rör system som i princip inte interagerar direkt med användare i den mening som avses i artikel 50.1 i förordningen om artificiell intelligens.

(52)

När det gäller informationsskyldigheter gentemot registrerade enligt unionens dataskyddslagstiftning uppfyller skyldigheten i artikel 50.1 i förordningen om artificiell intelligens ett annat mål än dessa skyldigheter och påverkar därför inte dessa informationsskyldigheter.

(53)

På samma sätt gäller transparensskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens utan att det påverkar tillämpningen av unionsrätt och nationell rätt om tillhandahållande av information till personer i samband med straffrättsliga förfaranden (t.ex. direktiv 2012/13/EU eller direktiv 2012/29/EU i dess lydelse enligt direktiv (EU) 2026/1472) (25).

4.   ARTIKEL 50.2 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS MÄRKNING OCH UPPTÄCKT AV AI-GENERERAT ELLER AI-MANIPULERATINNEHÅLL

(54)

Enligt artikel 50.2 i förordningen om artificiell intelligens ska leverantörer av AI-system som genererar syntetiskt innehåll införa tekniska lösningar som uppfyller vissa kvalitetskrav för maskinläsbar märkning och detektering av deras AI-systems utdata. Målet är att göra det möjligt för fysiska personer att skilja AI-genererat eller AI-manipulerat innehåll från annat innehåll (t.ex. innehåll som skapats av människor) och att kontrollera dess ursprung, vilket också bidrar till ökad integritet och förtroende för informationsekosystemet.

(55)

De som har nytta av denna transparensskyldighet är därför alla fysiska personer som sannolikt kommer att exponeras för AI-genererat eller AI-manipulerat innehåll, samt nyckelaktörer som spelar en viktig roll för informationsekosystemets förtroende och integritet, till exempel behöriga marknadskontrollmyndigheter och andra behöriga myndigheter, oberoende forskare, det civila samhällets organisationer, medier, betrodda anmälare, försvarare av grundläggande rättigheter, leverantörer av onlineplattformar och sökmotorer, rättighetshavare och andra skapare av innehåll och distributörer etc.

4.1   Huvudkomponenter och begrepp i artikel 50.2 förordningen om artificiell intelligens

(56)

Artikel 50.2 i förordningen om artificiell intelligens är tillämplig om flera kumulativa villkor är uppfyllda.

i)

Systemet måste anses vara ett AI-system.

ii)

AI-systemet ska kunna generera eller manipulera syntetiskt innehåll.

iii)

Innehållet ska vara i en eller flera av formerna ljud, bild, video eller text.

iv)

AI-systemet får inte omfattas av något av följande undantag: 1) AI-systemet utför en hjälpfunktion för vanlig redigering. 2) AI-systemet ändrar inte väsentligt de indata som tillhandahålls av tillhandahållaren eller semantiken i dem. 3) AI-systemet enligt lag får upptäcka, förebygga, förhindra, utreda eller lagföra brott.

4.1.1   AI-system som genererar eller manipulerar syntetiskt innehåll

(57)

Artikel 50.2 i förordningen om artificiell intelligens är tillämplig på AI-system (26) (inklusive AI-system för allmänna ändamål) som genererar syntetiskt ljud-, bild-, video- eller textinnehåll. Artikel 50.2 i förordningen om artificiell intelligens omfattar en undergrupp av system som uppfyller definitionen av AI-system i artikel 3.1 i förordningen om artificiell intelligens och som genererar sådana resultat. Artikel 50.2 i förordningen om artificiell intelligens omfattar även AI-system som används för att manipulera innehåll.

(58)

Med innehållsgenerering avses AI-systemets generering av syntetiskt material (t.ex. baserat på en prompt av en människa), t.ex. generering av en syntetisk bild eller en sång. I praktiken innebär detta att artikel 50.2 i förordningen om artificiell intelligens kan tillämpas på generativa AI-system som utformats för ett smalt avsett ändamål för att producera specifika resultat. Samtidigt gäller artikel 50.2 i förordningen om artificiell intelligens även AI-system som kan tjäna flera syften, däribland AI-system för allmänna ändamål och som kan producera en rad olika typer av innehåll samt agentiska AI-system under förutsättning att de genererar syntetiskt ljud-, bild-, video- eller textinnehåll.

(59)

Däremot avser innehållsmanipulation befintligt innehåll (oberoende om det är syntetiskt eller ej) som ändras av ett AI-system (t.ex. en befintlig bild eller en röstinspelning som manipuleras av ett AI-system i enlighet med mänskliga instruktioner). För att innehållet ska omfattas av artikel 50.2 i förordningen om artificiell intelligens är det tillräckligt att det är AI-genererat eller AI-manipulerat utöver vanlig redigering enligt undantagen i artikel 50.2 i förordningen om artificiell intelligens (se avsnitt 4.3). I artikel 50.2 i förordningen om artificiell intelligens krävs dessutom inte att innehållet är fullständigt AI-genererat eller AI-manipulerat. Innehåll som blandas med material skapat av en människa räknas också som syntetiskt innehåll om det manipuleras eller genereras i någon av de former som avses i artikel 50.2 i förordningen om artificiell intelligens.

4.1.2   Former för syntetiskt innehåll som omfattas

(60)

Artikel 50.2 i förordningen om artificiell intelligens innehåller en uttömmande förteckning över formerna för det syntetiska innehåll som omfattas av transparensskyldigheten som utgörs av ljud, bild, video eller text. Detta omfattar även multimodalt innehåll, dvs. innehåll som består av en blandning av dessa metoder. Vid tillämpningen av artikel 50.2 i förordningen om artificiell intelligens ska de olika formerna tolkas i enlighet med den praktiska och tekniska utveckling som kan komma att förändras med tiden. För närvarande ska de förstås enligt följande:

—

Med text avses diskret symboliskt innehåll som består av tecken, eller siffror som arrangerats i en viss sekvens, som kan läsas och tolkas semantiskt av människor.

—

Bilder avser statiska spatiala representationer som kodar visuell information som kan ses av människor.

—

Ljud avser en tidsvarierande signal som kodar ljud som människor kan uppfatta genom att höra. Detta kan omfatta tal, instrumental musik eller andra ljudsignaler.

—

Video avser en tidsbaserad sekvens av bilder som kan synkroniseras med ljud och som kan ses av människor. I så fall måste både video- och ljudinnehåll märkas och upptäcktbarheten måste säkerställas enligt vad som fastställs nedan.

(61)

AI-system som genererar eller manipulerar 3D-bilder, 3D-videor och 3D-ljud samt virtuell, förstärkt eller blandad verklighet omfattas av artikel 50.2 i förordningen om artificiell intelligens. Virtuell verklighet omfattar AI-teknik som gör det möjligt för användare att uppleva och interagera med en datorgenererad miljö som simulerar fysisk närvaro och som möjliggör användarinteraktion i realtid med den miljön. I och med att den virtuella och förstärkta verkligheten består av en tidsbaserad bildsekvens, eventuellt synkroniserad med ljud, som representerar visuell förändring över tid, kan den betraktas som videoinnehåll. Relevanta utdata som ska märkas är den slutliga formen av den enskilda AI-genererade tillgången med särskilda undantag för de tillfälliga interaktiva realtidssessionerna enligt punkt 88 nedan. Digitala artefakter som används för att generera 3D-bilder, 3D-videor och 3D-ljudinnehåll, t.ex. punktmoln eller 3D-mesh, behöver inte märkas.

(62)

Digitala tvillingar som tillhandahåller en virtuell kopia av personer, fysiska föremål eller system, som integrerar flera datatyper, omfattas också av tillämpningsområdet för artikel i 50.2 förordningen om artificiell intelligens, om de genereras eller manipuleras av AI och har formen av ett ljud-, bild-, video- eller textinnehåll, såvida de inte omfattas av undantagen och räknas som industriella applikationer eller B2B-applikationer enligt punkt 87 nedan eller kortlivat realtidsinnehåll enligt punkt 88 nedan.

(63)

Artikel 50.2 i förordningen om artificiell intelligens kan också tillämpas på AI-agenter om AI-agenten vidtar en åtgärd vars utdata utgörs av AI-genererat eller AI-manipulerat innehåll som kan uppfattas av fysiska personer i form av ett ljud-, bild-, video- eller textinnehåll. Dessa utdata måste därför märkas och kunna upptäckas enligt beskrivningen nedan. Alla AI-agenters åtgärder som inte omfattar AI-genererat eller manipulerat innehåll (t.ex. mellanliggande behandlingssteg som resonemang och tankegång) eller AI-genererade åtgärder som inte är avsedda att direkt uppfattas av fysiska personer (t.ex. en webbförfrågan eller en webbläsaråtgärd) uppfyller inte kraven på syntetiskt innehåll enligt artikel 50.2 i förordningen om artificiell intelligens och behöver inte uppfylla kraven på märkning och detektering.

4.1.3   Innehåll som inte omfattas av artikel 50.2 i förordningen om artificiell intelligens

(64)

Innehåll som genereras av ett AI-system baserat på enkel databehandling och som inte är specifikt AI-genererat eller AI-manipulerat, till exempel en renderad bildruta, faller utanför tillämpningsområdet för artikel 50.2 i förordningen om artificiell intelligens.

(65)

Dessutom omfattas inte ett AI-systems utdata som endast återger befintligt innehåll eller möjliggör presentation eller arrangemang av redan befintligt innehåll av artikel 50.2 i förordningen om artificiell intelligens. Detta kan t.ex. vara fallet för musikspellistor eller andra rekommenderade system som endast väljer eller rangordnar befintligt innehåll baserat på användarens önskemål eller aktivitet utan att skapa något nytt eller manipulera själva innehållet. Detsamma gäller AI-system som används i interna analysprocesser som extraherar och strukturerar data men som inte sammanfattar dem.

(66)

Detsamma gäller för ett AI-systems in- och utdata som endast utgör observationer och registreringar av data från fysiska eller virtuella miljöer, som inte är AI-genererade eller AI-manipulerade (t.ex. av robotar eller andra AI-aktiverade sensorer) eller dataöverföringar från AI-system utan några ändringar. Detta omfattar en rad olika AI-systems indata och utdata, i synnerhet i industrimiljöer, till exempel tillverkningsuppgifter för robotar som observerar data. Förbrukning som registrerats av AI-baserade smarta mätare, nätfrekvens- och spänningsmätningar och registrering av GPS-lokaliseringsuppgifter från fordon osv.

(67)

I och med att syftet med transparensskyldigheten i artikel 50.2 i förordningen om artificiell intelligens är att göra det möjligt för människor att särskilja AI-genererat eller manipulerat innehåll, för att hantera riskerna för vilseledande, manipulation och säkerställa integritet och förtroende för informationsekosystemet, omfattas inte innehåll som inte är relaterat till detta mål, och som inte är märkbart eller avsett att tolkas, kontrolleras eller hanteras av fysiska personer, av denna bestämmelse.

(68)

I synnerhet bör följande innehåll anses falla utanför tillämpningsområdet för artikel 50.2 i förordningen om artificiell intelligens:

—

Utdata som genereras i form av en kort sekvens av tal, symboler eller bokstäver (t.ex. enstaka ord, bildtexter, alt-text, etiketter i användargränssnitt och ikonbildsgrafik, bildtexter och andra dataetiketter).

—

Källkod förstås som innehåll skrivet i ett programmerings-, skript-, märknings-, fråge- eller konfigurationsspråk som är avsett att tolkas, kompileras eller köras av ett datasystem, oavsett om det består av texttecken. Detta kan även omfatta kommentarer på naturligt språk och kontextuell information som utgör en integrerad del av källkoden. På samma sätt utesluts utvecklingsverktyg för tredjepartsutvecklare (SDK), strukturerade frågespråk (SQL), infrastruktur som kod och YAML Ain’t Markup Language (YAML), konfiguration för JavaScript Object Notation (JSON), scheman, skript, maskinläsbara specifikationer samt programmeringsgränssnitt (API och programvarubibliotek).

—

Utdata från ett AI-system som är avsett att kommuniceras uteslutande från maskin till maskin och behandlas automatiskt utan exponering för människor, t.ex. kommunikation mellan agenter, skräppostskyddssignaler, under förutsättning att de inte uppfattas av fysiska personer.

—

Utdata som endast används i slutna kretsloppsmiljöer i industriella arbetsflöden och arbetsflöden för produktutveckling (t.ex. för film, animering, spel eller reklamproduktion), under förutsättning att de inte är AI-systemets slutliga utdata i form av AI-genererat eller AI-manipulerat text-, ljud-, bild- eller videoinnehåll. I sådana fall måste endast de slutliga utdata från arbetsflödesstegen märkas och kunna upptäckas.

4.2   Skyldigheten avseende märkning och upptäckt i artikel 50.2 i förordningen om artificiell intelligens

(69)

I artikel 50.2 i förordningen om artificiell intelligens fastställs en transparensskyldighet för leverantörer av generativa AI-system som omfattas av den bestämmelsen och som omfattar två separata men i sig sammanlänkade delar. För det första måste leverantörerna se till att AI-systemets utdata är märkta i ett maskinläsbart format. För det andra måste leverantörerna se till att utdata kan upptäckas som artificiellt genererat eller manipulerat innehåll. För varje märkningslösning som används bör leverantörerna se till att det finns motsvarande detektionsmetoder (se nedan) för att göra det möjligt för fysiska personer som exponeras för innehållet och andra relevanta aktörer att identifiera och särskilja AI-systemets artificiellt genererade innehåll från annat innehåll. En teknisk lösning ska förstås som en kombination av metoder för märkning och metoder för upptäckt som leverantören har genomfört för att uppfylla transparensskyldigheten enligt artikel 50.2 i förordningen om artificiell intelligens.

(70)

Var och en av de två ovannämnda delarna måste uppfyllas för att på ett effektivt sätt uppnå målen för transparensskyldigheterna i artikel 50.2 i förordningen om artificiell intelligens. Om endast ett element uppfylls (t.ex. för maskinläsbar märkning av utdata utan att det finns möjlighet att upptäcka dem) räcker det inte att efterleva den bestämmelsen (27).

4.2.1   Märkningsskyldigheten

(71)

Märkningsskyldighetens tillämpningsområde är begränsat till att genomföra märkning i maskinläsbart format. Ett maskinläsbart format innebär att märken är strukturerade på ett sätt som gör det möjligt för programapplikationer att enkelt identifiera, känna igen och extrahera dem utan mänsklig medverkan. Identifierbara märken och märkningar är inte uteslutna som en kompletterande åtgärd, när detta är lämpligt, för att underlätta för tillhandahållare att uppfylla sin skyldighet att märka deepfakes i enlighet med artikel 50.4 i förordningen om artificiell intelligens.

(72)

För att uppfylla märkningsskyldigheten får leverantörerna förlita sig på en enda märkningsteknik eller en kombination av metoder, under förutsättning att deras övergripande tekniska lösning är maskinläsbar och uppfyller kraven på effektivitet, driftskompatibilitet, robusthet och tillförlitlighet i rättsligt nödvändig utsträckning, i enlighet med artikel 50.2 andra meningen i förordningen om artificiell intelligens (se avsnitt 4.2.3 nedan).

(73)

I skäl 133 i förordningen om artificiell intelligens ges exempel på sådan teknik som omfattar vattenmärken, metadataidentifiering, kryptografiska metoder för att bevisa innehålls härkomst och äkthet, loggningsmetoder, fingeravtryck eller annan teknik samt en kombination av sådan teknik. Även om metoder för att bevisa härkomst och äkthet nämns i skäl 133 i förordningen om artificiell intelligens behöver leverantörerna inte registrera eller upprätthålla en fullständig härkomstkedja med information om innehållets ursprung och ändringar eller andra relevanta påståenden om innehållets historia. Sådana härkomstmetoder kan dock också användas för efterlevnad av artikel 50.2 i förordningen om artificiell intelligens och bidra till att göra det möjligt för fysiska personer att skilja AI-genererat eller manipulerat innehåll från autentiskt innehåll.

(74)

Leverantörer får införa märkningslösningen för utdata i olika steg av värdekedjan (t.ex. i efterhand efter innehållsgenerering på AI-systemets nivå, på nivån för den underliggande AI-modellen eller integrerat i AI-systemets slutledningsprocess). De kan använda sig av den märkningslösning som införts av en modelleverantör i tidigare led eller en tredje part som tillhandahåller lösningen (t.ex. som en öppen standard eller en specialiserad tjänst) i den mån märkningslösningen överensstämmer med artikel 50.2 i förordningen om artificiell intelligens. En sådan användning påverkar inte det ansvar som åligger leverantören av AI-systemet att påvisa att artikel 50.2 i förordningen om artificiell intelligens följs.

4.2.2   Skyldigheten avseende upptäckt

(75)

Leverantörer av AI-system som omfattas av artikel 50.2 i förordningen om artificiell intelligens måste säkerställa att utdata från deras system kan upptäckas som AI-genererat eller manipulerat innehåll. Detta innebär att leverantören är skyldig att se till att verktygen för upptäckt är tillgängliga för de personer som kan exponeras för innehållet. I enlighet med artikel 50.5 i förordningen om artificiell intelligens bör sådana lösningar för upptäckt dessutom vara i stånd att ge resultat som är läsbara för människor och som anger om innehållet är AI-genererat eller manipulerat.

(76)

Ett verktyg för upptäckt är en mekanism som upptäcker om innehåll är AI-genererat eller AI-manipulerat och som vanligtvis identifierar tekniska markörer eller signaturer som verifierar innehållets ursprung. För att säkerställa fullständig interoperabilitet måste leverantörerna förlita sig på offentligt tillgängliga standardlösningar för upptäckt i branschen som gör det möjligt för tredje part att genomföra upptäcktsåtgärder som helst kan utföras lokalt på den digitala enheten och möjliggör sömlös integrering i fristående, isolerade nätverk. Om sådana standarder inte finns tillgängliga, särskilt i det inledande skedet av genomförandet av artikel 50.2 i förordningen om artificiell intelligens för vattenmärkningsteknik, får leverantören förlita sig på sin egen lösning för upptäckt eller på en tredje part eller en gemensam lösning för upptäckt, under förutsättning att dessa lösningar säkerställer interoperabilitet med de lösningar för upptäckt som används av andra leverantörer (se avsnitt 4.2.3.). Denna möjlighet bör vara tidsbegränsad till dess att harmoniserade standarder och en standardiserad leverantörsoberoende och interoperabel lösning för upptäckt framkommer som är säker, integritetsbevarande och lokalt verkställbar.

(77)

I artikel 50.5 i förordningen om artificiell intelligens anges vidare att den information som avses i artikel 50.2 i förordningen om artificiell intelligens ska lämnas till de fysiska personer som exponeras för innehållet på ett tydligt och urskiljbart sätt senast vid tidpunkten för den första interaktionen eller exponeringen. Denna information är i synnerhet resultatet av upptäcktsåtgärden, som visar om innehållet är AI-genererat eller AI-manipulerat, och inte det AI-genererade eller AI-manipulerade innehållet i sig. Vid tidpunkten för den första exponeringen avser den tidpunkt då fysiska personer är villiga att kontrollera ursprunget för ett visst innehåll och få tillgång till lösningen för upptäckt för att erhålla upptäcktsresultaten.

(78)

Om leverantören av AI-systemet är beroende av en annan aktör för tillhandahållandet eller tillgången till en lösning för upptäckt måste han eller hon se till att lösningen för upptäckt överensstämmer med artikel 50.2 och 50.5 i förordningen om artificiell intelligens och att dessa aktörer visar resultaten för upptäckt i enlighet med artikel 50.5 i förordningen om artificiell intelligens (se avsnitt 7).

4.2.3   Överensstämmelse med kraven för tekniska lösningar, som ska vara effektiva, interoperabla, robusta och tillförlitliga

(79)

I artikel 50.2 andra meningen i förordningen om artificiell intelligens föreskrivs att de tekniska lösningarna för märkning och upptäckt måste vara effektiva, interoperabla, robusta och tillförlitliga. Dessa krav ska förstås enligt följande:

—

Effektivitet avser kapaciteten för den tekniska lösning som leverantörerna har genomfört för att upptäcka deras märken och göra det möjligt för fysiska personer att urskilja artificiellt genererat eller manipulerat innehåll som producerats av deras AI-system och därmed bidra till informationsekosystemets förtroende och integritet.

—

Tillförlitlighet avser den tekniska lösningens förmåga att korrekt identifiera och särskilja AI-genererat eller AI-manipulerat innehåll från annat innehåll under nominella förhållanden i den mängd innehåll som genereras eller manipuleras av leverantörens AI-system.

—

Robusthet avser den tekniska lösningens förmåga att korrekt identifiera och särskilja AI-genererat eller AI-manipulerat innehåll som producerats av leverantörens AI-system från annat innehåll under varierande förhållanden, vilket omfattar både gemensamma ändringar och angrepp från motståndare.

—

Interoperabilitet avser förmågan för de olika tekniska lösningarna för märkning och upptäckt att fungera smidigt i flera system, mellan flera aktörer, i flera sammanhang och i flera tekniska genomföranden för att göra det möjligt att upptäcka AI-genererat eller AI-manipulerat innehåll, oavsett vilken eller vilka märkningsmetoder som används av leverantörer av olika AI-system.

(80)

Leverantörerna måste se till att kombinationen av de tekniska lösningarna för märkning och upptäckt på ett övergripande sätt uppfyller alla ovannämnda krav i rättsligt nödvändig utsträckning med hänsyn tagen till begränsningarna och komplementariteten för de olika lösningar som används. De tekniska lösningarna måste överensstämma med alla krav i den mån det är tekniskt möjligt, med hänsyn tagen till särdragen och begränsningarna för olika typer av innehåll, genomförandekostnaderna och den allmänt erkända senaste tekniken, vilket kan återspeglas i relevanta tekniska standarder.

(81)

Tekniskt genomförbara lösningar i den mening som avses i artikel 50.2 i förordningen om artificiell intelligens är lösningar som kan genomföras för de former som omfattas av tillhandahållandet, med användning av för närvarande tillgänglig teknik, metoder och teknisk praxis, inom den specifika tekniska arkitektur och operativa miljö som berörs. Leverantören är inte skyldig att använda en teknisk lösning som ännu inte har utvecklats eller finns tillgänglig på marknaden eller som är tekniskt omöjlig att använda för genomförandet. Teknisk genomförbarhet är ett objektivt begrepp som inte är beroende av enskilda leverantörers specifika resurser och kapacitet.

(82)

Enligt artikel 50.2 i förordningen om artificiell intelligens ska leverantörerna genomföra tekniskt genomförbara lösningar som är anpassade till den allmänt erkända tekniska utvecklingen för att uppfylla de fyra kvalitetskraven effektivitet, robusthet, tillförlitlighet och interoperabilitet.

(83)

Den senaste tekniken ska förstås som ett utvecklat stadium av teknisk kapacitet vid en viss tidpunkt när det gäller produkter, processer och tjänster, baserat på relevanta konsoliderade resultat inom vetenskap, teknik och erfarenhet och som godtas som god praxis inom teknik (28). Den senaste tekniska utvecklingen innebär inte nödvändigtvis den senaste vetenskapliga forskningen som fortfarande befinner sig i ett experimentstadium eller med otillräcklig teknisk mognad. Leverantörerna måste kontinuerligt anpassa sina lösningar för märknings och upptäckt inom rimlig tid och på ett proportionerligt sätt allteftersom tekniken och den senaste utvecklingen går vidare.

(84)

Mot bakgrund av artikel 50.7 i förordningen om artificiell intelligens får leverantörerna förlita sig på en uppförandekod, som bedöms vara lämplig enligt den bestämmelsen för att visa överensstämmelse med skyldigheterna avseende märkning och upptäckt i artikel 50.2 och 50.5 i förordningen om artificiell intelligens, som är anpassad till den senaste tekniska utvecklingen. För ytterligare information om effekterna av att följa en sådan kod och övervakningen av andra leverantörer som inte följer en kod hänvisas till avsnitt 8.1 nedan.

(85)

Kostnaderna för att genomföra vissa tekniska lösningar för märkning och upptäckt kan också beaktas. I vissa fall, enligt beskrivningen i följande punkter, kan kostnaderna vara oproportionerliga i förhållande till marginella vinster med ett mer begränsat värde för att göra det möjligt för människor att urskilja AI-genererat eller AI-manipulerat innehåll och säkerställa integriteten och förtroendet för informationsekosystemet.

(86)

Det kan därför finnas snävt definierade fall där en teknisk lösning som bygger på mindre robusta märkningar med metadata är tillräcklig för att uppfylla artikel 50.2 i förordningen om artificiell intelligens med beaktande av särdragen i AI-systemets utdata om de medför till sin natur lägre risker för vilseledande, manipulation eller negativa effekter på informationsekosystemet. Detta gäller särskilt när ett generativt AI-system är inbyggt i fysiska produkter som genererar utdata i en tekniskt kontrollerad och sluten miljö som främst är instruktiv till sin natur (t.ex. ett AI-system inbyggt i navigeringssystem i fordon) i den utsträckning som effektiva tekniska åtgärder är inbäddade i produkten för att förhindra att utdata lämnar produktmiljön, t.ex. genom att fångas upp eller exporteras och spridas externt.

(87)

Det kan också finnas begränsade fall av så kallade industriella AI-applikationer eller B2B-applikationer (med undantag för offentliga och konsumentinriktade AI-system) där proportionalitetsprincipen och de begränsade fördelarna för transparensmålen innebär att det inte krävs någon märkning och upptäckt av AI-genererade eller manipulerade utdata. Detta gäller endast om följande krav är uppfyllda kumulativt:

i)

AI-systemets genererade utdata är strikt tekniska till sin natur, t.ex. tekniska konstruktioner, industriella produktionsarbetsflöden, tekniska instruktioner, utdata som genereras till följd av förutsägelseprocesser för systemunderhåll i industriella miljöer, interna dokumentationsprocesser eller produktionssteg och arbetsflöden innan utdata färdigställs och görs tillgängliga för andra externa personer eller allmänheten.

ii)

AI-systemets genererade utdata är endast avsedda att uppfattas och behandlas av ett begränsat på förhand fastställt antal fysiska personer som agerar i yrkesmässig egenskap inom leverantörens och tillhandahållarens organisation.

iii)

AI-systemets genererade utdata får inte vara avsedda att delas utanför företaget eller användas av externa personer, och lämpliga skyddsåtgärder ska finnas på plats för att undvika rimligen förutsebar felaktig användning (t.ex. molnisolering eller rollbaserade kontroller).

(88)

Generering av innehåll i realtid som är tillfälligt och som konsumeras omedelbart, utan att spelas in, lagras eller spridas ytterligare (t.ex. i videospel eller tillämpningar för virtuell verklighet) kan också undantas om märkning inte är tekniskt genomförbar och de personer som exponeras för innehållet görs medvetna om att innehållet är AI-genererat eller AI-manipulerat (t.ex. information som visas i själva upplevelsen eller meddelanden på sessionsnivå).

4.3   Undantag från skyldigheterna enligt artikel 50.2 i förordningen om artificiell intelligens

(89)

Artikel 50.2 i förordningen om artificiell intelligens innehåller tre uttryckliga undantag från de transparensskyldigheter som fastställs i den bestämmelsen.

(90)

Det första undantaget gäller AI-system i den mån de utför en hjälpfunktion för vanlig redigering. Vanlig redigering bör förstås som processen för att förbereda befintligt innehåll för offentliggörande eller distribution (t.ex. små redigeringar för att förbättra läsbarheten och grammatiken, kvaliteten och formatet) och inbegriper inte generering av nytt innehåll. Vanlig redigering syftar till att säkerställa att innehållet bland annat är fritt från uppenbara tekniska fel eller grammatiska språkfel, är anpassat till tillämpliga krav på utformning, presentation, formatering eller tillgänglighet eller överensstämmer med branschpraxis. Redigering går utöver vanlig redigering om innehållet ändras på ett väsentligt sätt (t.ex. ändringar i sak eller struktur) som påverkar dess innebörd, stil eller avsikt.

(91)

Det andra undantaget gäller om ett AI-system inte väsentligt ändrar de indata som tillhandahålls av tillhandahållaren eller deras semantik. En ändring bör betraktas som väsentlig om indata eller deras semantik har manipulerats avsevärt av AI-systemet under processen för generering av utdata. Detta måste baseras på en bedömning av relevanta faktorer, till exempel format, medieinnehållstyp, format och ändringar av innehåll som påverkar dess innebörd, stil eller avsikt. Om det är så att detta är fallet krävs en fallspecifik bedömning.

(92)

Om ett AI-system kan användas både för generering eller manipulering av innehåll och för icke väsentliga mindre ändringar av indata kommer transparensskyldigheten enligt artikel 50.2 i förordningen om artificiell intelligens inte att tillämpas på innehåll som ändrats på ett mindre, icke-väsentligt sätt.

Följande är exempel på vanlig redigering och mindre ändringar som omfattas av undantaget enligt artikel 50.2 i förordningen om artificiell intelligens:

—

Korrigering av grammatik och stavningskontroll, språklig och mindre stilistisk polering som inte ändrar innehåll, betydelse, stil eller textmeddelanden, AI-genererade översättningar av text.

—

Formatering, formatkonverteringar, teknisk komprimering, reducering eller avlägsnande av brus för ökad tydlighet utan att innehållets betydelse eller innehåll ändras.

—

Mindre beskärning, mindre färgjusteringar eller färgkorrigeringar, justering av ljusstyrka, skärpning för ökad tydlighet eller annan vanlig redigering och vanliga tekniska korrigeringar.

—

Avlägsnande av dammfläckar orsakade av en smutsig lins eller sensor, avlägsnande av röda ögon orsakade av blixtfotografering, radering och fördunkling av bakgrunder som är synliga i originalfilen, bildpunkter eller otydliga sidor.

—

Omskalning av ett videoklipp, komprimering och utjämning av dynamiska intervall, begränsad videostabilisering.

—

Standardjusteringar av färg och kontrast, smärre justeringar av uppspelningshastigheten, smärre korrigeringar för att jämna ut bildens horisont, tillämpa pixelfilter för att förstärka vissa delar av en bild eller tillämpa färgkartor på gråskalebilder, slutförande av kantbilder, konvertering av en svartvit bild till färgbild eller video och vice versa.

—

Pixelfyllning för anpassning av bildförhållandet eller ökad tydlighet, automatiska övergångsclips, andra icke väsentliga redigeringar för kosmetiska och tekniska ändamål.

—

Teknisk bearbetning eller rekonstruktion av medicinska bilder i medicintekniska produkter (t.ex. kommentarer, rutor, konturer, cirklar, värmekartor).

—

Transkriberingar av samtal. AI-genererat innehåll som endast omvandlar autentiska mänskliga indata genom tekniska hjälpmedel som gör det möjligt för personer med funktionsnedsättning att kommunicera (t.ex. förstorande och alternativ kommunikation eller anpassade neurala röster eftersom de inte på ett semantiskt sätt ändrar innebörden av innehållet.

Följande är exempel på semantiska ändringar som kräver märkning enligt artikel 50.2 i förordningen om artificiell intelligens:

—

AI-genererade sammanfattningar av text. Omformulering eller omskrivning av text som ändrar stil, struktur och betydelse bortom endast grammatisk och mindre stilistisk korrigering.

—

Avlägsnande, utbyte eller införande av föremål eller personer i befintliga bilder och videor som ändrar innehållets innebörd och substans. Ansiktsbyte eller väsentlig ansiktsändring.

—

Syntes av realistiskt tal i en viss persons röst eller generering av realistiska videobilder som visar händelser som inte inträffat. Ändring av en persons kroppsform eller hudfärg. Extrema belysnings-, mörkläggnings-, färg- och kontrastförändringar som ändrar innebörden, avsikten och meddelandet om innehållet.

—

Skapande av sammansatta bilder eller videoklipp som ändrar återgivningen av personer, föremål, händelser eller fakta, varje annan väsentlig ändring av innehållet.

(93)

Det tredje undantaget gäller generativa AI-system som enligt lag får generera eller manipulera syntetiskt innehåll för att upptäcka, förebygga, förhindra, utreda eller lagföra brott. De förtydliganden som ges i punkterna 46–48 ovan för detta undantag är också relevanta i detta fall.

4.4   Samspel med andra unionsrättsakter

(94)

Skyldigheterna avseende märkning och upptäckt enligt artikel 50.2 i förordningen om artificiell intelligens fokuserar på hur innehållet har skapats och dess artificiella ursprung, inte på vem som har skapat innehållet. Alla lösningar för märkning och upptäckt som används av leverantörer av AI-system måste därför vara förenliga med tillämplig unionslagstiftning om dataskydd, inklusive principer och skyldigheter för dataskydd, till exempel skyldigheten att ha ett inbyggt dataskydd och dataskydd som standard, uppgiftsminimering samt principerna om säkerhet och konfidentialitet. När det gäller t.ex. märkning och upptäckt bör information som rör skaparen av innehållet inte behandlas, alla andra personuppgifter som behandlas bör raderas så snart upptäcktssyftet är uppfyllt, säkerhet och konfidentialitet måste säkerställas osv.

(95)

I skäl 136 i förordningen om artificiell intelligens betonas vidare den särskilda relevansen av transparensskyldigheterna enligt artikel 50.1, 50.2 och 50.4 i förordningen om artificiell intelligens för att underlätta ett effektivt genomförande av förordningen om digitala tjänster.. Detta gäller särskilt i fråga om skyldigheterna för leverantörer av mycket stora onlineplattformar eller mycket stora onlinesökmotorer att noggrant identifiera och begränsa systemrisker som kan uppstå till följd av spridning av innehåll som genererats artificiellt eller manipulerats, särskilt risken för faktiska eller förutsebara negativa effekter på demokratiska processer, samhällsdebatten och valprocesser, inklusive genom desinformation (artiklarna 34 och 35 i förordningen om digitala tjänster). Maskinläsbara märken kan göra det möjligt för leverantörerna att upptäcka AI-genererat eller manipulerat innehåll och tillhandahålla lämplig märkning och information, vilket minskar risken för AI-genererad desinformation inom deras tjänster.

(96)

Skyldigheterna att märka innehåll som genererats eller manipulerats av AI-system enligt artikel 50.2 och 50.4 i förordningen om artificiell intelligens påverkar inte skyldigheten i artikel 16.6 i förordningen om digitala tjänster för leverantörer av värdtjänster att behandla anmälningar om olagligt innehåll som mottagits i enlighet med artikel 16.1 i förordningen om digitala tjänster (29). I synnerhet bör märkning av AI-genererat eller manipulerat innehåll inte påverka bedömningen av och beslutet om det specifika innehållets olaglighet enligt andra regelverk. Den bedömningen bör endast göras med hänvisning till de bestämmelser som reglerar innehållets laglighet i enlighet med dessa andra regelverk (30). Om t.ex. en märkt deepfake-bild flaggas som potentiellt material med sexuella övergrepp mot barn eller som potentiell överträdelse av varumärkes- eller upphovsrättslagstiftningen påverkar inte märkningen innehållets potentiella olaglighet enligt dessa regelverk. Denna bedömning bör endast göras på grundval av respektive tillämplig lagstiftning (t.ex. straffrätt, varumärkesrätt eller upphovsrättslagstiftning).

(97)

Omvänt kan den maskinläsbara märkning som ingår i innehållet i enlighet med artikel 50.2 i förordningen om artificiell intelligens hjälpa leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att fullgöra sina skyldigheter enligt artiklarna 34 och 35 i förordningen om digitala tjänster att identifiera, analysera och bedöma systemrisker som kan uppstå genom spridning av innehåll som har genererats artificiellt eller manipulerats, i synnerhet risken för faktiska eller förutsebara negativa effekter på demokratiska processer, medborgardiskussioner och valprocesser, inklusive genom desinformation (31) och att införa rimliga, proportionella och effektiva åtgärder för att minska dessa risker, skräddarsydda för de specifika systemrisker som identifierats. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer kan också räknas som leverantörer av AI-system om de uppfyller de relevanta villkoren i förordningen om artificiell intelligens där de integrerar AI-system i sina tjänster (se även avsnitt 6.1.5).

(98)

Leverantörer av onlineplattformar, sökmotorer och andra relevanta aktörer som distribuerar innehåll längs värdekedjan uppmuntras särskilt att bevara och göra det möjligt att identifiera de märken som leverantörerna tillämpar i enlighet med artikel 50.2 i förordningen om artificiell intelligens så att fysiska personer som exponeras för innehållet kan informeras om dess ursprung.

5.   ARTIKEL 50.3 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS: SYSTEM FÖR KÄNSLOIGENKÄNNING OCH BIOMETRISK KATEGORISERING

(99)

I artikel 50.3 i förordningen om artificiell intelligens föreskrivs en skyldighet för användare av system för känsloigenkänning och biometrisk kategorisering att informera fysiska personer som exponeras för dessa system om hur systemet fungerar.

(100)

I skäl 132 i förordningen om artificiell intelligens förklaras att syftet med denna skyldighet är att säkerställa att fysiska personer (inklusive personer med funktionsnedsättning) är medvetna om att de utsätts för system för känsloigenkänning och biometrisk kategorisering som kan inkräkta på deras privatliv. Skyldigheten gäller därför oavsett om personerna exponeras för sådana system i realtid eller om dessa system drivs i efterhand.

5.1   Huvudkomponenter, begrepp och tillhörande transparensskyldigheter enligt artikel 50.3 i förordningen om artificiell intelligens

5.1.1   Begreppet system för känsloigenkänning

(101)

I artikel 3.39 i förordningen om artificiell intelligens definieras ett system för känsloigenkänning som ”ett AI-system vars syfte är att identifiera eller uttyda fysiska personers känslor eller avsikter på grundval av deras biometriska uppgifter”. Den detaljerade förklaringen av detta begrepp i kommissionens riktlinjer om klassificering av AI-system med hög risk, inklusive de praktiska exempel som anges i riktlinjerna, är lika relevant inom ramen för artikel 50.3 i förordningen om artificiell intelligens.

(102)

Eftersom alla system för känsloigenkänning också klassificeras som AI-system med hög risk, om de inte är förbjudna på arbetsplatsen eller vid utbildningsinstitutioner enligt artikel 5.1 f i förordningen om artificiell intelligens, bör transparensskyldigheten i artikel 50.3 i förordningen om artificiell intelligens tillämpas tillsammans med andra skyddsåtgärder och krav som är tillämpliga på AI-system med hög risk.

5.1.2   Begreppet system för biometrisk kategorisering

(103)

I artikel 3.40 i förordningen om artificiell intelligens definieras ett system för biometrisk kategorisering som ”ett AI-system för hänförande av fysiska personer till särskilda kategorier på grundval av deras biometriska uppgifter, om det inte utgör en extrafunktion till en annan kommersiell tjänst och är strikt nödvändigt av objektiva tekniska skäl”. Den detaljerade förklaringen av detta begrepp i kommissionens riktlinjer om klassificering av AI-system med hög risk, inklusive dess specifika element samt de praktiska exempel som anges i riktlinjerna, är lika relevant inom ramen för artikel 50.3 i förordningen om artificiell intelligens.

(104)

Såvida inte användningsområdet är förbjudet enligt artikel 5.1 g i förordningen om artificiell intelligens gäller artikel 50.3 i förordningen om artificiell intelligens alla system för biometrisk kategorisering (t.ex. ålders- eller könsklassificering på grundval av biometriska uppgifter) oavsett om de räknas som AI-system med hög risk enligt förordningen om artificiell intelligens eller inte.

5.1.3   Informationsskyldigheten enligt artikel 50.3 i förordningen om artificiell intelligens

(105)

Omfattningen av den information som ska lämnas Tillhandahållarna är skyldiga att informera de berörda fysiska personerna om att de utsätts för ett system för känsloigenkänning eller ett system för biometrisk kategorisering som används. Förordningen om artificiell intelligens kräver inte informering om orsakerna till systemets drift eller om systemet även behandlar information för andra ändamål än känsloigenkänning eller biometrisk kategorisering som ska offentliggöras enligt unionens dataskyddslagstiftning (se avsnitt 5.3).

(106)

Vilka informationen riktar sig till Enligt artikel 50.3 i förordningen om artificiell intelligens ska tillhandahållare informera alla fysiska personer som exponeras för driften av AI-systemet, inklusive barn.

(107)

Metoderna för att lämna information I förordningen om artificiell intelligens föreskrivs inte något särskilt sätt att lämna informationen, förutom att det enligt artikel 50.5 i förordningen om artificiell intelligens krävs att informationen ska lämnas på ett tydligt och urskiljbart sätt och i enlighet med tillämpliga tillgänglighetskrav (som motsvarar behoven för fysiska personer med funktionsnedsättning). Hur fysiska personer som exponeras för systemet ska informeras kan bero på platsen för utplaceringen (t.ex. virtuell spelplattform, fysisk butik, tågstation), de möjliga adressaterna (t.ex. barn, äldre, personer med funktionsnedsättning, kunder), exponeringens längd och typ (t.ex. långsiktig, enstaka, kontinuerlig, intermittent) och den eventuella förekomsten av ett förhållande mellan tillhandahållaren och de personer som exponeras (t.ex. om det finns en befintlig kommunikationskanal med personen). Beroende på användningsfallet kan informationen lämnas skriftligen, genom standardiserade ikoner (även när de presenteras elektroniskt), muntligen eller med hjälp av kombinationer av sådana metoder.

Följande är exempel på information till fysiska personer:

—

En centralt placerad popup-ruta med ett introduktionsmeddelande innan ett datorspel startas som indikerar att spelarens ansikte spelas in och fångar hans eller hennes känslor.

—

En synlig skylt vid varje möjlig ingång till ett utställningsrum med information om att besökarnas ansiktsbilder tas när de går in i rummet för att tilldela dem till en specifik åldersgrupp.

(108)

Tidsfristen för att lämna informationen Informationen ska lämnas senast vid den första interaktionen med eller exponeringen för AI-systemet i enlighet med artikel 50.5 i förordningen om artificiell intelligens. I förekommande fall är det inte uteslutet att den begärda informationen lämnas i förväg.

5.2   Undantag för brottsbekämpande ändamål

(109)

Informationsskyldigheten gäller inte system för känsloigenkänning och system för biometrisk kategorisering som enligt lag får upptäcka, förebygga eller utreda brott, med förbehåll för lämpliga garantier för tredje parters rättigheter och friheter, och i enlighet med unionsrätten. De förtydliganden som föreskrivs för detta undantag i punkterna 46–48 ovan är också relevanta i detta fall med en skillnad. Även om de andra undantagen i artikel 50 i förordningen om artificiell intelligens kräver en uttrycklig lag som tillåter en icke-transparent användning av AI-systemen, gör artikel 50.3 i förordningen om artificiell intelligens sådan användning möjlig när detta är tillåtet enligt de rättsliga reglerna om de brottsbekämpande myndigheternas befogenheter att använda system för känsloigenkänning och system för biometrisk kategorisering för att upptäcka, förebygga eller utreda brott utan att informera de berörda personerna, med förbehåll för lämpliga garantier.

5.3   Samspel med andra unionsrättsakter

(110)

Informationsskyldigheten enligt artikel 50.3 i förordningen om artificiell intelligens gör i sig inte användningen av ett system för känsloigenkänning och ett system för biometrisk kategorisering lagligt. Den legitimerar inte heller inkräktande eller diskriminerande användningar som kan vara olagliga och förbjudna enligt artikel 5 i förordningen om artificiell intelligens eller annan unionslagstiftning. Tillhandahållarna måste uppfylla informationsskyldigheten i artikel 50.3 i förordningen om artificiell intelligens, utöver eventuella tillämpliga informationskrav enligt unionens dataskyddslagstiftning. I vissa fall kan tillhandahållare överväga att lägga till meddelanden enligt artikel 50.3 i förordningen om artificiell intelligens till den information som lämnas till registrerade enligt unionens dataskyddslagstiftning.

6.   ARTIKEL 50.4 MÄRKNING AV DEEPFAKES OCH VISSA TEXTPUBLIKATIONER

(111)

I artikel 50.4 i förordningen om artificiell intelligens fastställs två separata skyldigheter som är riktade till tillhandahållare av generativa AI-system som, utom i vissa bestämda fall, kräver tydliga och urskiljbara upplysningar om i) deepfakes och ii) AI-genererad eller manipulerad text som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse. Dessa märkningskrav gäller i tillägg till och utan att det påverkar skyldigheterna avseende maskinläsbar märkning och upptäckt enligt artikel 50.2 i förordningen om artificiell intelligens som gäller leverantörer av AI-system som genererar eller manipulerar syntetiska bilder, video-, ljud- eller textinnehåll.

6.1   Huvudkomponenter, begrepp och tillhörande transparensskyldigheter när det gäller deepfakes enligt artikel 50.4 i förordningen om artificiell intelligens

(112)

Artikel 50.4 första stycket i förordningen om artificiell intelligens är tillämplig om följande villkor är uppfyllda:

i)

Systemet måste vara ett AI-system.

ii)

Det måste användas av tillhandahållare för yrkesmässiga ändamål (se avsnitten 2.3 och 2.4.1).

iii)

Det måste generera eller manipulera bild-, ljud- eller videoinnehåll som utgör en deepfake.

iv)

AI-systemet får inte omfattas av undantaget för användning som enligt lag är tillåten för att upptäcka, förebygga, förhindra, utreda eller lagföra brott.

6.1.1   Begreppet deepfake

(113)

I artikel 3.60 i förordningen om artificiell intelligens definieras deepfake som AI-genererat eller AI-manipulerat bild-, ljud- eller videoinnehåll som liknar existerande personer, föremål, platser, enheter eller händelser och som för en person felaktigt kan framstå som autentiskt eller sanningsenligt. Skillnaden mellan manipulation och generering har klargjorts i avsnitt 4.1 ovan. För att klargöra begreppet deepfake granskas fyra kumulativa kriterier från den definitionen, dvs. i) likhet med ii) existerande iii) personer, föremål, platser, enheter eller händelser iv) som för en person felaktigt skulle framstå som autentisk eller sanningsenlig.

i)

Likhet I artikel 3.60 i förordningen om artificiell intelligens anges att AI-genererat eller AI-manipulerat bild-, ljud- eller videoinnehåll måste likna något existerande för att utgöra en deepfake. I skäl 134 i förordningen om artificiell intelligens tillägger man att en sådan likhet bör vara märkbar. AI-genererat eller AI-manipulerat bild-, ljud- eller videoinnehåll liknar något existerande märkbart om det finns en hög grad av likhet mellan deepfake-innehållet och detta något (inklusive dess igenkännliga element) som simuleras av deepfaken. Innehållet behöver inte vara identiskt. Huruvida graden av likhet är märkbar är en bedömning från fall till fall som ska göras av tillhandahållaren på grundval av en objektiv jämförelse mellan det som simuleras och deepfake-innehållet, bland annat på grundval av i vilken utsträckning karakteristiska eller särskiljande egenskaper representeras av deepfaken.

ii)

Existerande I artikel 3.60 i förordningen om artificiell intelligens anges att AI-genererat eller AI-manipulerat bild-, ljud- eller videoinnehåll måste likna något existerande för att utgöra en deepfake. För att effektivt uppfylla syftet med artikel 50.4 i förordningen om artificiell intelligens för att minska riskerna för personifiering, vilseledning, felaktig information, manipulation och bedrägeri innebär existerande att det AI-genererade eller AI-manipulerade bild-, ljud- eller videoinnehållet bör likna något realistiskt (t.ex. personer, föremål, platser). Det är därför tillräckligt att simulerade personer, föremål, platser, enheter eller händelser liknar någon eller något som existerar, rimligen kan existera eller rimligen skulle ha kunnat existera i verkligheten för att betraktas som en deepfake i och med att sådant innehåll kan vara en viktig källa till vilseledande, manipulation och desinformation. Däremot anses simulerade personer, föremål, platser, enheter eller händelser som exempelvis trotsar naturlagar, fysik eller avbildar livsformer som inte är allmänt accepterade inom biologin (t.ex. människor som flyger utan mekaniska hjälpmedel, drakar eller elefanter som kör bilar) och som inte har någon potential att vilseleda anses vara orealistiska och omfattas därför inte av transparensskyldigheten.

iii)

Personer, föremål, platser, enheter eller händelser I artikel 3.60 i förordningen om artificiell intelligens anges att AI-genererat eller AI-manipulerat bild-, ljud- eller videoinnehåll bör likna existerande personer, föremål, platser, enheter eller händelser för att utgöra en deepfake. Personer ska förstås som realistiska, mänskliga varelser (inklusive digitala kopior av verkliga personer, realistiska AI-genererade avatarer eller personer och personliga egenskaper eller uttryck, till exempel bild, röst, beteende, framföranden osv.). Föremål ska förstås som realistiska, livlösa materialartiklar, inklusive byggnader, konstverk, maskiner, konsumentvaror osv. Platser ska förstås som realistiska platser. Enheter ska förstås som realistiska, icke-mänskliga men levande varelser, inklusive djur eller andra biologiska livsformer. Händelser ska förstås som realistiska scener eller situationer som kan involvera personer, föremål, platser och enheter (t.ex. frammaning av historiska händelser eller skildring av yrkesmässiga tjänster eller konsumenttjänster).

iv)

För en person felaktigt framstå som autentiskt eller sanningsenligt För det fjärde anges i artikel 3.60 i förordningen om artificiell intelligens att AI-genererat eller AI-manipulerat bild-, ljud- eller videoinnehåll som liknar existerande personer, föremål, platser, enheter eller händelser för en person felaktigt framstår som autentiskt eller sanningsenligt. Detta kriterium avser den väsentliga egenskapen för deepfake-innehåll och dess förmåga att potentiellt lura eller vilseleda en person när det gäller innehållets autenticitet eller sanningsenlighet (32). Innehållets autenticitet avser huruvida innehållet verkligen är vad det påstås vara när det gäller dess källa eller framställningsprocess (inklusive t.ex. involvering av verkliga människor, djur eller faktiska beteenden eller handlingar, föremåls faktiska utseende eller användning eller tillhandahållande av tjänster eller korrekt återgivning av en händelse eller dess förlopp). Sanningsenlighet gäller innehållets sanningshalt (t.ex. sakförhållandenas korrekthet i en deepfake).

(114)

Huruvida innehållet felaktigt framstår som autentiskt eller sanningsenligt bör bedömas som en helhet, med hänsyn tagen till graden av likhet, det potentiella sakbudskapet i innehållet, de avsedda och förutsebara spridningssammanhangen, den miljö där innehållet presenteras samt sammansättningen av den avsedda publiken och den publik som rimligen kan förutses och dessa publikers förväntningar. Denna bedömning är dock objektiv och kräver inte att tillhandahållaren har för avsikt att lura eller vilseleda de fysiska personer som exponeras för innehållet för att det ska utgöra en deepfake. När det gäller användningskontexten och publikens förväntningar innebär detta att om innehållet används i specifika användningskontexter där den avsedda publiken och den publik som rimligen kan förutses inte förväntar sig att innehållet ska vara autentiskt eller sanningsenligt, kanske det AI-genererade eller manipulerade innehållet inte felaktigt framstår som autentiskt eller sanningsenligt även om det i själva verket är icke-autentiskt eller inte sanningsenligt. I sådana fall kommer det fjärde kriteriet i definitionen av deepfake inte att uppfyllas. AI-genereringen eller manipuleringen av bakgrundsscener, specialeffekter eller teknisk för- och efterbehandling som en del av standardprocesser för filmproduktion kommer till exempel sannolikt inte att göra att innehållet för publiken felaktigt framstår som autentiskt eller sanningsenligt. Omvänt är det troligt att användningen av AI för att generera eller manipulera väsentliga delar som påverkar publikens uppfattning kommer att göra detta (t.ex. fullständigt AI-genererade skådespelare, digitala kopior av verkliga eller avlidna skådespelare, föryngring, simulerade uppträdanden inklusive delar av dessa eller icke-autentiska eller osanna representationer av personer, föremål, platser eller händelser i dokumentärer). När det gäller bild- och videoinnehåll erkänns att en hög grad av fotorealism gör det mer sannolikt att sådant innehåll bör betraktas som deepfake (eftersom det sannolikt liknar något existerande), men fotorealism i sig är inte avgörande för bedömningen. Vad som fortfarande bör bedömas är huruvida sådant innehåll kan lura eller vilseleda en person när det gäller innehållets autenticitet eller sanningsenlighet samtidigt som hänsyn tas till bland annat det avsedda och förutsebara användningskonceptet.

(115)

I motsats till artikel 50.1 i förordningen om artificiell intelligens bör bedömningen av om innehållet ger ett falskt intryck av att vara autentiskt eller sanningsenligt inte baseras på en hypotetisk genomsnittlig person som förväntas exponeras för innehållet (se avsnitt 3.2.1) utan bör ta vederbörlig hänsyn till den potentiellt heterogena sammansättningen av den publik som rimligen kan förutses och som kan exponeras för deepfake-innehållet. Vederbörlig hänsyn till publikens sammansättning är särskilt viktig om det rimligen kan förutses att deepfake-innehållet vid någon tidpunkt kan uppfattas av barn, äldre eller andra grupper av personer med lägre digital kompetens och AI-kunnighet eller med en lägre allmän kunskapsnivå, eftersom de eventuellt löper större risk att luras eller vilseledas när det gäller innehållets autenticitet eller sanningsenlighet. I sådana fall skulle det faktum att innehållet gör ett felaktigt intryck av autenticitet eller sanningsenlighet på den delen av den sannolika publiken kunna räcka för att innehållet ska anses vara en deepfake. Tillhandahållarna förväntas dock inte ta i beaktande en potentiell ytterligare spridning av deepfake-innehållet av tredje parter som skulle innebära att detta tillgänglinggörs för andra än den publik som tillhandahållaren, givet de avsedda distributionskanalerna, rimligen kan förutse (om t.ex. deepfake-innehåll enbart visas på en del av en webbplats som endast är avsedd för abonnenter eller som en del av ett företags nyhetsbrev innebär detta inte att tillhandahållaren automatiskt måste överväga risken att det görs tillängligt för en bred allmänhet).

(116)

På liknande sätt kan AI-stödd manipulering av obetydliga materiella eller tekniska aspekter av befintligt innehåll vara av mindre betydelse för en persons bedömning av innehållets autenticitet eller sanningsenlighet utan att det innehåll som blir resultatet blir en deepfake. Detta kan till exempel omfatta redigering av bakgrundsinformation (t.ex. borttagning av förbipasserande), ljusjusteringar, anpassning av ljudparametrar, färgkorrigering, reducering eller borttagning av brus, förbättrad tillgänglighet eller filkomprimering, kosmetiska justeringar och förbättringar. Huruvida manipulationen kommer att ingå i denna kategori beror på sammanhanget och inverkan på personens uppfattning av innehållets autenticitet eller sanningsenlighet i det enskilda fallet. Till exempel är AI-baserad färgkorrigering, AI-baserade bakgrundsutökningar av befintligt innehåll, justeringar eller ersättningar av bakgrunder för tydligt estetiska ändamål, sammansättningar och arrangemang av befintliga produkter eller AI-baserad skalning av bilder som används i produktreklam eller en förpackning sannolikt endast av mindre betydelse för en persons uppfattning av reklamens och produktens autenticitet och sanningsenlighet. Omvänt kan omfattande AI-styrd redigering av bakgrundsuppgifter om journalistiska bilder utöver standardmässiga tekniska, redaktionella metoder inverka negativt på en persons uppfattning om innehållets autenticitet och sanningsenlighet.

Exempel på deepfakes enligt artikel 3.60 i förordningen om artificiell intelligens:

—

En AI-manipulerad bild av en scen med två professionella fotbollsspelare framför en byggnad som liknar en fotbollsstadion.

—

AI-genererat ljud med röstkloning av en tidnings poddsändnings vanliga presentatörer och en gästpartner som diskuterar nyheter.

—

AI-genererad video av en person som liknar en politiker som håller ett tal framför en publik.

—

AI-genererad video med en AI-genererad avbildning av en känd influerare i ett reklam- eller marknadsföringssammanhang.

—

AI-genererad video med en realistisk syntetisk avatar av en företagschef som gratulerar anställda till deras arbete och företagets resultat det senaste året.

—

En AI-genererad bild av en produkt i reklam eller förpackning som kan påverka publikens uppfattning och vilseleda den faktiska produktens utseende, egenskaper eller användning (t.ex. att produkten inte framstår som identisk med den verkliga produkten, mer tilltalande eller med bättre kvalitet än i verkligheten).

Exempel som inte utgör deepfakes enligt artikel 3.60 i förordningen om artificiell intelligens:

—

En bild av en scen med en sfinx som flyger över Eiffeltornet.

—

AI-genererad video av möss som argumenterar på mänskligt språk om den bästa osttypen som en del av en osttillverkares reklamkampanj.

—

AI-röstreplikering för fiktiva karaktärer (t.ex. för ljudböcker, spel eller animering) när det inte finns någon vilseledande inställning till berättarnas identitet.

—

AI-manipulerad radiosändning som justerar tekniska ljudparametrar (t.ex. normalisering av ljudnivåer, bullerminskning, ljudkomprimering) utan att ändra de ord som används av talare eller deras sätt att tala.

—

AI-genererad tecknad serie av en befintlig bild som visar en historisk händelse.

—

Bild av en presentatör av ett vetenskapligt TV-program som går över en bergsregion och tar upp att glaciärerna drar sig tillbaka vilket illustreras av en AI-manipulerad bakgrundsanimation som visar hur glaciärerna dragit sig tillbaka från sina historiska nivåer till sina nuvarande nivåer.

—

AI-genererade fiktiva miljöer (t.ex. fiktiva skogar och slott) i videospel.

—

Filmer där verkliga existerande skådespelare (som inte har manipulerats av AI) spelar mot en AI-genererad bakgrund (som skildrar t.ex. en fiktiv prärie eller historiska byggnader i forntida städer).

—

En verklig produkt (t.ex. en bil) som visas i en annons mot en AI-genererad bakgrund och omgivning under förutsättning att annonsen sannolikt inte kommer att vilseleda publiken om produktens faktiska representation och dess egenskaper och användning.

6.1.2   Upplysningsskyldighet enligt artikel 50.4 första stycket i förordningen om artificiell intelligens

(117)

I artikel 50.4 första stycket i förordningen om artificiell intelligens åläggs tillhandahållare av AI-system som genererar eller manipulerar bild-, ljud- eller videoinnehåll som utgör en deepfake att upplysa om att deepfake-innehållet har genererats artificiellt eller manipulerats. I skäl 134 i förordningen om artificiell intelligens klargörs att tillhandahållare som använder AI-system för att generera eller manipulera deepfake-innehåll på ett tydligt och urskiljbart sätt bör upplysa om att sådant innehåll har skapats artificiellt eller manipulerats genom märkning av AI-utdata i enlighet med detta och upplysa om dess artificiella ursprung. Märknings- eller upplysningsmetoder som tillämpas i enlighet med artikel 50.4 första stycket i förordningen om artificiell intelligens bör vara begripliga och kunna uppfattas av fysiska personer (t.ex. med synliga eller hörbara märkningar) utan att de behöver förlita sig på några särskilda tekniska verktyg eller vidta särskilda åtgärder. Därför kan tillhandahållare inte förlita sig på den maskinläsbara märkning som leverantören har bäddat in enligt artikel 50.2 i förordningen om artificiell intelligens eftersom dessa märkningar inte omedelbart är tydliga och urskiljbara för de fysiska personer som exponeras för deepfake-innehållet.

(118)

Mot bakgrund av artikel 50.7 i förordningen om artificiell intelligens får tillhandahållare följa en uppförandekod som bedöms vara lämplig enligt artikel 50.7 i förordningen om artificiell intelligens för att visa att de uppfyller denna upplysningsskyldighet. För ytterligare information om effekterna av att följa en sådan kod och övervakningen av andra tillhandahållare som inte följer en kod hänvisas till avsnitt 8.1 nedan.

6.1.3   Insyn i konstnärligt, kreativt, satiriskt, skönlitterärt eller liknande deepfake-innehåll

(119)

I artikel 50.4 första stycket i förordningen om artificiell intelligens föreskrivs en reducerad transparensskyldighet för deepfakes som utgör en del av uppenbart konstnärliga, kreativa, satiriska, skönlitterära eller liknande verk eller program. För sådant innehåll är transparensskyldigheten begränsad till upplysning om deepfaken på ett lämpligt sätt som inte hindrar att verket visas upp eller åtnjuts.

(120)

Relevanta innehållskategorier För att omfattas av den reducerade transparensupplysningen bör deepfaken (bild, ljud eller video) ingå i åtminstone en av innehållskategorierna konstnärliga, kreativa, satiriska, skönlitterära eller liknande verk eller program. Huruvida en deepfake omfattas av en eller flera av dessa kategorier kräver en bedömning från fall till fall av tillhandahållaren. Vid tillämpning av artikel 50.4 i förordningen om artificiell intelligens ska dessa kategorier tolkas på följande sätt:

—

Men konstnärliga verk avses verk som har skapats för konstnärliga syften, inklusive musik, filmiska verk och visuell konst.

—

Med kreativa verk avses verk som involverar kreativa val. Arbeten som huvudsakligen motiveras av funktionella eller tekniska överväganden kan inte betraktas som kreativa.

—

Med satiriska verk avses verk som är avsedda att kritisera samhället, politiken, näringslivet eller offentliga personer med hjälp av humoristiska uttrycksmedel (inbegripet ironi, sarkasm, hån, pastischer etc.).

—

Med skönlitterära verk avses kulturella verk som involverar personer, föremål, platser, enheter eller händelser i en verklighetstrogen fantasimiljö.

—

Med liknande verk avses verk som delar grundläggande egenskaper eller liknande uttryckliga eller funktionella egenskaper med ovanstående kategorier men som inte riktigt passar in i en av dessa.

(121)

Ovanstående innehållskategorier kan också tillämpas på program som bör förstås som ett enskilt inslag i en programtablå eller katalog som har sammanställts av en leverantör av medietjänster och som till form och innehåll är jämförbara med tv-sändningar (33). Hänvisningen till verk inom ramen för artikel 50.4 i förordningen om artificiell intelligens har ingen betydelse för huruvida innehållet uppfyller kraven för skydd enligt unionsrätten om upphovsrätt och närstående rättigheter.

(122)

Uppenbart Det faktum att en deepfake faller inom en (eller flera) av ovannämnda innehållskategorier bör vara uppenbart för de fysiska personer som exponeras för den. Detta innebär att kategorierna bör tolkas strikt, vilket motiveras av att mindre strikta transparensregler gäller vid potentiell inverkan på yttrandefriheten och friheten för konsten och vetenskapen, medan riskerna för felaktig information, manipulation och bedrägeri fortfarande måste hanteras på lämpligt sätt. Därför utesluts innehåll vars karaktär kan vara otydlig eller tvetydig för publiken från tillämpningsområdet för dessa mindre stränga transparensbestämmelser. Relevanta faktorer för att bedöma den uppenbara karaktären för konstnärligt, kreativt, satiriskt eller skönlitterärt innehåll är i) huruvida innehållet visar format eller stilar som är karakteristiska för innehållskategorierna (t.ex. ironi eller överdrift för satiriska verk, vissa konststilar, tydliga teman, tekniker eller estetik osv.), ii) det sammanhang i vilket innehållet presenteras (t.ex. om den plattform, det medium eller den plats där innehållet presenteras, görs tillgängligt eller distribueras är förknippad med konstnärlig, kreativ, satirisk eller skönlitterär användning) och iii) publikens förväntningar (t.ex. en film, en spelmiljö eller en virtuell verklighetsscen). Dessutom innebär kravet att innehållet uppenbart ska falla inom någon av ovanstående innehållskategorier att innehåll vars karaktär uteslutande är informativt eller kommersiellt och som är igenkännbart som sådant (t.ex. nyhetsrapportering) inte omfattas av dessa innehållskategorier. I detta avseende kan vissa typer av innehåll (t.ex. annonser eller dokumentärer) som innehåller deepfakes betraktas som uppenbart kreativa eller skönlitterära verk i vissa specifika situationer men inte i andra eftersom bedömningen är ärendespecifik. När deepfaken kombinerar flera karaktärer (t.ex. informativ och kreativ) bör den informativa karaktären alltid ha företräde och kräva överensstämmelse med standardmärkningskraven.

(123)

Lämplig upplysning som inte hindrar visning eller åtnjutande av verket Deepfakes som utgör en del av uppenbart konstnärliga, kreativa, satiriska eller skönlitterära verk eller program undantas inte från transparensskyldigheten i artikel 50.4 första stycket i förordningen om artificiell intelligens. Tillhandahållarna måste fortfarande upplysa om innehållets AI-ursprung eller dess manipulering men de kan göra det på ett lämpligt sätt som inte hindrar visning och upplevelse av det. I skäl 134 i förordningen om artificiell intelligens klargörs att en sådan lämplig upplysning inte bör hindra normal användning och normalt utnyttjande samtidigt som verkets nytta och kvalitet upprätthålls. Vilka upplysningsåtgärder som ska anses lämpliga bör bedömas från fall till fall, vilket innebär att tillhandahållare kan beakta alla relevanta faktorer (inklusive verkets karaktär, publik, sammanhang osv.). Under alla omständigheter måste tillhandahållare uppfylla kraven i artikel 50.5 i förordningen om artificiell intelligens (se avsnitt 7). Mot bakgrund av artikel 50.7 i förordningen om artificiell intelligens får tillhandahållare följa en uppförandekod, som bedöms vara lämplig enligt den bestämmelsen, för att visa att de uppfyller denna upplysningsskyldighet. För ytterligare information om effekterna av att följa en sådan kod och övervakning av andra tillhandahållare som inte följer en kod hänvisas till avsnitt 8.1 nedan.

(124)

Lämpliga skyddsåtgärder för tredje parts rättigheter och friheter I skäl 134 i förordningen om artificiell intelligens klargörs att efterlevnaden av den reducerade transparensskyldigheten och användningen av konstnärliga, kreativa, satiriska eller skönlitterära deepfakes måste fullgöras ”med förbehåll för lämpliga garantier för tredje parters rättigheter och friheter”. Tillhandahållare måste därför se till att tredje parters rättigheter och friheter (t.ex. deras rätt till skydd av personuppgifter eller immateriella rättigheter) skyddas och respekteras på lämpligt sätt när de skapar eller offentliggör deepfakes även om deepfaken ska betraktas som konstnärlig, kreativ, satirisk eller skönlitterär. Att förlita sig på den reducerade transparensskyldigheten kan inte vara en motivering för underlåtenhet att respektera enskildas eller rättighetshavares grundläggande rättigheter enligt unionsrätten om immaterialrätt eller unionens dataskyddslagstiftning (34).

Exempel på deepfakes som är kreativa, satiriska, skönlitterära eller liknande:

—

Konstnärliga eller skönlitterära verk: Filmer (eller filmtrailers) med AI-genererade eller AI-manipulerade deepfakes av föryngrade existerande skådespelare eller digitala kopior av döda skådespelare eller andra personer som visas på en biograf eller på en streamingplattform.

—

Konstnärliga eller kreativa verk: AI-genererad musik i vilken genre som helst som liknar den individuella stilen hos existerande artister.

—

Satiriska eller skönlitterära verk: AI-manipulerad bild av en existerande politiker som placerar honom eller henne i en scen som helt klart var avsedd att på ett humoristiskt sätt kritisera vissa politiska beslut som fattats eller stöds av den personen.

—

Liknande kreativa eller skönlitterära verk AI-genererade spelbilder som inbegriper deepfake-simuleringar av verkliga existerande personer.

Exempel på deepfakes som inte utgör konstnärliga, kreativa, satiriska, skönlitterära eller liknande verk:

—

AI-manipulerad video i form av en teleshoppingkanal med deepfake-simulering av människor som marknadsför en produkt på en AI-genererad scen som beskriver den simulerade konsumentens funktionella användning av produkten i syfte att övertala tittarna att köpa produkten.

—

En AI-genererad bild av kändisar som antyder deras involvering i aktiviteter som aldrig har ägt rum och som saknar ett skönlitterärt, satiriskt eller liknande syfte.

—

AI-manipulerad video med en realistisk syntetisk influerare som testar en sponsrad verklig produkt som enbart fokuserar på att visa produktfunktionerna.

—

AI-genererad video som visar realistiska förintelsescener som delas på offentligt tillgängliga sociala medieplattformar.

6.1.4   Undantag för brottsbekämpning

(125)

Om användningen av en deepfake (t.ex. en AI-genererad video som simulerar händelser som aldrig har inträffat) enligt lag är tillåten för att upptäcka, förebygga, förhindra, utreda eller lagföra brott är tillhandahållare undantagna från transparensskyldigheten enligt artikel 50.4 första stycket i förordningen om artificiell intelligens. De förtydliganden som ges i punkterna 46–48 ovan för ett liknande undantag i artikel 50.1 i förordningen om artificiell intelligens är också relevanta för denna bestämmelse.

6.1.5   Samspel med andra unionsrättsakter

(126)

Transparensskyldigheten enligt artikel 50.4 första stycket i förordningen om artificiell intelligens kommer att interagera med skyldigheterna för leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att identifiera och minska systemrisker i enlighet med artiklarna 34 och 35 i förordningen om digitala tjänster, i synnerhet artikel 35.1 k (35). I den senare bestämmelsen förtecknas, bland de möjliga riskreducerande åtgärder som leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer kan vidta, åtgärder som säkerställer att ”information, oavsett om denna utgör genererad eller manipulerad bild, ljud eller video som på ett märkbart sätt liknar befintliga personer, föremål, platser eller andra enheter eller händelser och som felaktigt framstår som autentiskt eller sanningsenligt går att urskilja genom väl synligt märkning när den presenteras på deras onlinegränssnitt”. Dessutom kan leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer även tillhandahålla en lättanvänd funktion som gör det möjligt för tjänstemottagarna att ange sådan information. Denna bestämmelse i förordningen om digitala tjänster verkar likna artikel 50.4 i förordningen om artificiell intelligens men den kompletterar den och innehåller två viktiga distinktioner.

—

Olika materiella tillämpningsområden: Jämfört med artikel 50.4 i förordningen om artificiell intelligens omfattar artikel 35.1 k i förordningen om digitala tjänster ett bredare spektrum av innehåll som felaktigt kan framstå som autentiskt eller sanningsenligt, oavsett vilken teknik som används för att skapa innehållet (dvs. det omfattar innehåll som har genererats eller manipulerats med hjälp av AI-system eller andra verktyg).

—

Olika personliga tillämpningsområden: Enligt artikel 50.4 i förordningen om artificiell intelligens är tillhandahållare av AI-system som genererar eller manipulerar deepfakes skyldiga att märka sådant innehåll, medan artikel 35.1 k i förordningen om digitala tjänster gäller leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer som sprider innehållet eller gör att sådant innehåll kan upptäckas genom sökning. Exempelvis kan tillhandahållare av AI-system som enligt förordningen om artificiell intelligens är integrerade i en mycket stor onlineplattform betraktas som tjänstemottagare enligt artikel 3 b i förordningen om digitala tjänster (36) om de använder den mycket stora onlineplattformen för att sprida innehåll som genererats med AI-systemet i fråga, medan den mycket stora onlineplattformen kan betraktas som leverantör av AI-systemet om villkoren i artikel 3.3 i förordningen om artificiell intelligens är uppfyllda. Om leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer gör märkningsverktyg tillgängliga för sådana tillhandahållare så att de kan märka sitt deepfake-innehåll i enlighet med artikel 50.4 i förordningen om artificiell intelligens (dvs. upplysa om AI-ursprunget på ett tydligt och urskiljbart sätt) kan dessa tillhandahållare förlita sig på sådana verktyg för att uppfylla sin transparensskyldighet enligt den bestämmelsen inom ramen för den mycket stora onlineplattform eller den mycket stora onlinesökmotor som används. Att tillhandahålla en sådan funktion påverkar inte distributionsföretagens ansvar enligt förordningen om artificiell intelligens att fullgöra sina märkningsskyldigheter enligt artikel 50.4 i förordningen om artificiell intelligens. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer kommer också att betraktas som tillhandahållare av ett AI-system enligt förordningen om artificiell intelligens om de använder ett AI-system under eget överinseende för sina egna yrkesmässiga ändamål (t.ex. att skapa visuella objekt som ska användas som en del av marknadsföringsmaterial).

(127)

Om deepfaken innehåller information om en direkt eller indirekt identifierbar fysisk person (som lever) måste tillhandahållare som personuppgiftsansvariga enligt unionens dataskyddslagstiftning också uppfylla sina respektive skyldigheter enligt unionens dataskyddslagstiftning (37). Detta involverar till exempel att förlita sig på en lämplig rättslig grund för behandling av personuppgifter, information om behandling av uppgifter som rör de registrerade etc.

(128)

Tillhandahållare av AI-system som genererar deepfakes kommer dessutom att behöva säkerställa att de följer relevant unionslagstiftning om immateriella rättigheter (t.ex. unionens varumärkesrätt och unionsrätten om upphovsrätt och närstående rättigheter) om deras djupa förfalskade innehåll är skyddat enligt dessa lagar. Tillämpningen av en märkning eller ikon på en deepfake påverkar inte i sig dess rätt till upphovsrättsligt skydd som bör bedömas i enlighet med tillämplig unionsrätt om upphovsrätt.

(129)

Om existerande personer avbildas i deepfakes kommer tillhandahållare också att behöva följa relevanta rättsliga ordningar som skyddar rätten till respekt för privatlivet för personliga bilder eller röster. Transparensskyldigheten enligt artikel 50.4 första stycket i förordningen om artificiell intelligens innebär inte att AI-genererade eller AI-manipulerade deepfakes som är skadliga och olagliga enligt tillämplig unionsrätt eller nationell rätt (t.ex. lagstiftning som förbjuder vilseledande reklam eller straffrättslig lagstiftning som förbjuder material med sexuella övergrepp mot barn och intima bilder utan samtycke) får genereras och spridas (se även avsnitt 4.4).

6.2   Huvudkomponenter, begrepp och tillhörande transparensskyldigheter för AI-genererad eller AI-manipulerad text enligt artikel 50.4 i förordningen om artificiell intelligens

(130)

Artikel 50.4 andra stycket i förordningen om artificiell intelligens är tillämplig om följande villkor är uppfyllda:

i)

Systemet måste vara ett AI-system.

ii)

Det måste användas för att generera eller manipulera text (se avsnitt 4.2.1) som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse.

iii)

Användningen av AI-systemet omfattas inte av något av de undantag där 1) det AI-genererade innehållet har genomgått en process för mänsklig granskning eller redaktionell kontroll och en fysisk eller juridisk person har redaktionellt ansvar för offentliggörandet av innehållet eller 2) användningen enligt lag är tillåten för att upptäcka, förebygga, förhindra, utreda eller lagföra brott.

6.2.1   Text som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse

(131)

För att klargöra tillämpningsområdet för artikel 50.4 andra stycket i förordningen om artificiell intelligens granskas de tre delarna i) offentliggjord text ii) i syfte att informera allmänheten iii) om frågor av allmänt intresse.

i)

Offentliggjord text: Den AI-genererade eller AI-manipulerade texten bör vara offentliggjord. Detta innebär att texten bör vara tillgänglig för ett obestämt, relativt stort antal icke-närstående, potentiella läsare samtidigt och/eller successivt, oavsett om det sker mot betalning eller inte (t.ex. abonnemang) (38). Däremot betraktas inte text som offentliggjord om åtkomsten är begränsad till specifika individer som tillhör en sluten, privat grupp (t.ex. en liten, sluten grupp i en app för snabbmeddelanden eller om gruppen är för liten eller obetydlig). Exempel på text som inte anses vara offentliggjord är t.ex. privat, interpersonell korrespondens (av yrkesmässiga skäl) eller organisationsinterna texter eller meddelanden (t.ex. publikationer på interna företagsnätverk).

ii)

Informera allmänheten: Den AI-genererade eller AI-manipulerade offentliggjorda texten bör syfta till att informera allmänheten. Detta innebär att texten bör syfta till att förmedla kunskap, åsikter eller fakta. Korta texter som inte i sak förmedlar kunskap, åsikter eller fakta kan däremot inte anses informera allmänheten.

iii)

Om frågor av allmänt intresse: Texten bör informera allmänheten om frågor av allmänt intresse. I allmänhet bör sådana frågor anses omfatta dem som är relevanta för samhället i stort, antingen på lokal nivå, nationell nivå, unionsnivå eller internationell nivå och förtjänar offentliga debatt eller granskning. I detta avseende bör texter övervägas för att behandla frågor av allmänt intresse om de omfattar frågor som rör politik och demokratiska processer, offentlig förvaltning och offentliga tjänster, rättsskipning och brottsbekämpning, skydd av grundläggande rättigheter, allmän säkerhet, folkhälsa, miljöskydd, konsumentsäkerhet och all ekonomisk, finansiell, politisk, vetenskaplig eller kulturell utveckling som kan vara relevant för offentlig debatt. Frågor som kan anses vara av allmänt intresse kan utvecklas med tiden och i olika sammanhang.

Följande är exempel på text som offentliggjorts i syfte att informera allmänheten om frågor av allmänt intresse enligt artikel 50.4 i förordningen om artificiell intelligens och som måste märkas som artificiellt genererade eller manipulerade under förutsättning att de inte är föremål för mänsklig granskning eller redaktionell kontroll (se avsnitt 6.2.3):

—

AI-genererad sammanfattning av en artikel av en mänsklig författare på en tidnings webbplats där man diskuterar ett beslut som fattats nyligen av en kommunfullmäktige.

—

AI-manipulerade delar av en livsstilsartikel som jämför effekterna av olika kostvanor på en viss sjukdom hos medelålders kvinnor.

—

AI-manipulerade företagsrapporter som offentliggörs på ett börsnoterat företags webbplats med investerarinformation.

—

AI-genererat meddelande från ett meteorologiskt institut på dess profil i sociala medier som varnar medborgare om stormigt väder och relaterade försiktighetsåtgärder.

Följande är exempel på text som inte offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse som inte omfattas av artikel 50.4 i förordningen om artificiell intelligens:

—

AI-genererade fantasyromaner.

—

AI-manipulerad text som ingår i ett företags reklam- eller produktbeskrivningar (utan att omfatta påståenden om t.ex. hälsa, konsumentsäkerhet eller hållbarhet).

—

Nyhetssammanfattning som genererats av en chattbot som endast är tillgänglig för den användare som skrivit en prompt åt chattboten.

—

AI-manipulerad text av en konsult för kundrådgivning om åtgärder som ska vidtas för efterlevnad av gällande lagstiftning.

6.2.2   Upplysningsskyldigheten enligt artikel 50.4 andra stycket i förordningen om artificiell intelligens

(132)

Artikel 50.4 andra stycket i förordningen om artificiell intelligens ålägger tillhandahållare av AI-system som genererar eller manipulerar text som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse att upplysa om att texten har genererats artificiellt eller manipulerats. I skäl 134 i förordningen om artificiell intelligens klargörs att tillhandahållare av textpublikationer som omfattas av bestämmelsen på samma sätt som deepfakes på ett tydligt och urskiljbart sätt bör upplysa om att sådant innehåll har skapats artificiellt eller manipulerats genom märkning av AI-utdata i enlighet med detta och upplysa om dess artificiella ursprung. I enlighet med vad som krävs för deepfakes, märkning eller upplysningsmetoder (inklusive ansvarsfriskrivningar) som tillämpas i enlighet med artikel 50.4 andra stycket, bör förordningen om artificiell intelligens också vara tydlig och kunna uppfattas av fysiska personer (t.ex. synliga eller hörbara åtgärder) utan att de behöver använda sig av några särskilda tekniska verktyg eller utföra särskilda åtgärder. Mot bakgrund av artikel 50.7 i förordningen om artificiell intelligens kan tillhandahållare följa en uppförandekod, som bedöms vara lämplig i enlighet med den bestämmelsen, för att visa efterlevnad av denna upplysningsskyldighet. För ytterligare information om effekterna av att följa en sådan kod och övervakning av andra tillhandahållare som inte följer en kod hänvisas till avsnitt 8.1 nedan.

6.2.3   Undantag från transparensskyldigheten för text som varit föremål för mänsklig granskning eller redaktionell kontroll och redaktionellt ansvar

(133)

I artikel 50.4 andra stycket i förordningen om artificiell intelligens föreskrivs ett undantag från den transparensskyldighet som fastställs i den bestämmelsen om följande två kumulativa villkor är uppfyllda: i) den AI-genererade eller manipulerade texten måste ha genomgått mänsklig granskning eller redaktionell kontroll och ii) en juridisk eller fysisk person måste bära det redaktionella ansvaret för offentliggörandet. I tillämpliga fall får tillhandahållare basera sig på relevanta tillämpliga yrkesetiska eller andra etiska normer för att visa att de uppfyller de krav som anges nedan.

i.   Text som varit föremål för mänsklig granskning eller redaktionell kontroll

(134)

Det första villkoret för att undantaget från artikel 50.4 andra stycket i förordningen om artificiell intelligens ska gälla är att den AI-genererade eller manipulerade texten har varit föremål för mänsklig granskning eller redaktionell kontroll. Med mänsklig granskning avses en avsiktlig genomgång av innehållets substans av en eller flera fysiska personer som har relevant kunskap och yrkesmässig bedömning av det ämne som granskas (t.ex. akademisk sakkunnig granskning eller yrkesmässiga valideringskedjor). Faktakontroll av innehållets korrekthet är ett minimikrav som bör ingå i denna granskning. Med redaktionell kontroll avses den kontroll som i praktiken utövas av en ansvarig redaktionell enhet (t.ex. en chefredaktör) av innehållet som har befogenhet att godkänna, ändra eller avvisa innehållet i texten på materiella grunder (inklusive faktakontroll av information och säkerställande av källornas tillförlitlighet). Detta påverkar inte befintliga granskningsförfaranden och redaktionella förfaranden samt yrkesnormer som gäller för leverantörer av medietjänster.

(135)

Ytliga, endast formella eller förfarandemässiga kontroller (t.ex. stavningskontroll eller grammatisk korrigering), enbart förekomsten av en redaktionell policy, automatiserade granskningsprocesser eller översiktligt redaktionellt godkännande utan betydande engagemang från den mänskliga granskaren eller den redaktionella enheten, kan inte uppfylla villkoren för mänsklig granskning eller redaktionell kontroll enligt detta undantag.

(136)

Om AI-system används för att ändra, komplettera eller formulera om innehåll när det har godkänts redaktionellt ska det innehåll som blir resultatet behandlas som AI-genererat eller AI-manipulerat vid tillämpningen av artikel 50.4 i förordningen om artificiell intelligens. Varje väsentlig AI-intervention som sker efter det att den mänskliga granskningen eller den redaktionella kontrollen har ägt rum medför därför att undantaget upphör att gälla.

(137)

Mot bakgrund av artikel 50.7 i förordningen om artificiell intelligens får tillhandahållare följa en uppförandekod, som bedöms vara lämplig enligt den bestämmelsen, för att visa efterlevnad av villkoren för mänsklig granskning eller redaktionell kontroll (särskilt av tillhandahållare som inte är leverantörer av medietjänster som omfattas av befintliga redaktionella eller etiska standarder) som fastställs i den bestämmelsen. Mer information om effekterna av att följa en sådan kod och övervakning av tillhandahållare som inte följer en sådan kod finns i avsnitt 8.1.

ii.

Redaktionellt ansvar

(138)

Det andra villkoret för undantag från artikel 50.4 andra stycket i förordningen om artificiell intelligens är att en juridisk eller fysisk person ska ha redaktionellt ansvar för offentliggörandet av innehållet. Detta innebär att den berörda personen måste ha det slutliga juridiska ansvaret för offentliggörandet av innehållet, inklusive mänsklig granskning eller redaktionell kontroll (t.ex. en individ, redaktionell styrelse eller förlaget). För att säkerställa offentlig ansvarsskyldighet och förtroende, och för att vara i enlighet med befintliga medienormer, bör den juridiska personens identitet och kontaktuppgifter, den fysiska personen eller den funktion som har redaktionellt ansvar göras tillgängliga för allmänheten på en lättillgänglig plats (om de inte redan finns tillgängliga på annat sätt). Detta kan ske online genom t.ex. en webbplats villkor eller annan juridisk information som riktar sig till användaren. Sådan information kan inkluderas offline i ett meddelande om publikationens kolofon eller notis om utgåvan.

Exempel på text som omfattas av mänsklig granskning eller redaktionell kontroll med en juridisk eller fysisk person som innehar redaktionellt ansvar:

—

En AI-manipulerad artikel i en tidning eller AI-genererad sammanfattning av en artikel som har varit föremål för redaktionell kontroll av respektive chefredaktör med redaktionellt ansvar som innehas av den juridiska person som publicerar tidningen.

—

En AI-manipulerad akademisk blogg som har genomgått intern inbördes granskning och där respektive forskningscentrum som hanterar bloggen har redaktionellt ansvar.

—

AI-genererade varningar för allmän säkerhet som godkänts av en offentlig tjänsteman innan de distribueras till medborgarna under ansvar av den berörda offentliga myndigheten för civilskydd.

—

AI-genererade hållbarhetsrapporter som offentliggörs på ett börsnoterat företags webbplats och som har genomgått mänsklig granskning av yrkesverksamma i relevanta funktioner (t.ex. efterlevnad).

—

AI-stödd översättning av en mänskligt skriven artikel där översättningen har genomgått en mänsklig granskning.

Följande är exempel på text som inte uppfyller kraven på mänsklig granskning eller redaktionell kontroll för att omfattas av undantaget:

—

En webbplats där AI-genererade artiklar om unionens politik publiceras utan någon avsiktlig mänsklig granskning eller redaktionell kontroll.

—

AI-genererade artiklar som granskas och redigeras av ett annat AI-system och där en mänsklig redaktör endast utför en ytlig, grammatisk kontroll innan de publiceras.

—

En AI-genererad, självpublicerad bok om klimatförändringar som gjorts tillgänglig på en e-handelsplattform som inte har genomgått någon granskning av en behörig fysisk eller juridisk person (eller av plattformen).

6.2.4   Undantag för brottsbekämpning

(139)

Om användningen av AI-system för generering av text som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse utan mänsklig granskning (t.ex. en AI-genererad polisvarning om ett terroristhot som offentliggörs på sociala medier) enligt lag är tillåten för att upptäcka, förebygga, förhindra, utreda eller lagföra brott, undantas tillhandahållare från transparensskyldigheten enligt artikel 50.4 i förordningen om artificiell intelligens. De förtydliganden som ges i punkterna 46–48 ovan för ett liknande undantag i artikel 50.1 i förordningen om artificiell intelligens är också relevanta för denna bestämmelse.

6.2.5   Samspel med andra unionsrättsakter

(140)

För unionens medielagstiftning är redaktionellt ansvar ett avgörande begrepp som definieras i artikel 2.8 i förordning (EU) 2024/1083 (mediefrihetsförordningen) (39). I detta sammanhang innebär redaktionellt ansvar ”vid tillhandahållande av en medietjänst, faktisk kontroll av såväl valet av program eller presspublikation som hur de ska struktureras, oavsett om det föreligger ansvar enligt nationell rätt för den tillhandahållna tjänsten eller inte”. I vissa situationer kan denna definition överlappa begreppet redaktionellt ansvar som används i artikel 50.4 andra stycket i förordningen om artificiell intelligens, i synnerhet om AI-systemets tillhandahållare också räknas som leverantörer av medietjänster enligt mediefrihetsförordningen. Det redaktionella ansvaret i den mening som avses i artikel 50.4 i förordningen om artificiell intelligens bör därför tolkas i linje med det befintliga regelverket för medier, trots att det fortfarande är ett separat begrepp som även kan gälla i bredare sammanhang och för andra tillhandahållare under förutsättning att de tar det redaktionella ansvaret för textpublikationen. Leverantörer av medietjänster får förlita sig på sina befintliga redaktionella processer och standarder för att omfattas av undantaget enligt artikel 50.4 andra stycket i förordningen om artificiell intelligens.

7.   ÖVERGRIPANDE KRAV TILLÄMPLIGA PÅ DEN INFORMATION SOM LÄMNAS ENLIGT ARTIKEL 50.5 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS

(141)

Enligt artikel 50.5 i förordningen om artificiell intelligens ska den information som ska lämnas i enlighet med artikel 50.1–50.4 i förordningen om artificiell intelligens tillhandahållas till de berörda fysiska personerna på ett tydligt och urskiljbart sätt senast vid tidpunkten för den första interaktionen eller exponeringen. Informationen bör också uppfylla de tillämpliga tillgänglighetskraven. Fysiska personer som berörs i detta sammanhang omfattar personer som direkt interagerar med AI-systemet (artikel 50.1 i förordningen om artificiell intelligens), aktiva eller passiva användare och andra personer som exponeras för syntetiskt AI-genererat eller manipulerat innehåll (med eller utan direkt interaktion med AI-systemet [artikel 50.2 och 50.4 i förordningen om artificiell intelligens]) samt personer som är föremål för användning av system för känsloigenkänning eller biometrisk kategorisering (artikel 50.3 i förordningen om artificiell intelligens).

7.1   Information lämnad på ett tydligt och urskiljbart sätt

(142)

Information kommer att anses ha lämnats på ett tydligt sätt när den är märkbar, lättbegriplig och tillgänglig för den berörda fysiska personen (inklusive personer med funktionsnedsättning). Informationen kommer att anses ha lämnats på ett urskiljbart sätt om den är lätt att identifiera som skild från annan information och den miljö där innehållet presenteras. Det måste också vara lätt att förstå för publiken, inklusive för särskilda grupper, till exempel barn eller personer med funktionsnedsättning, när de ingår i den publik som förutses bli exponerad för innehållet eller interagerar med systemet (40). För att lämna information på ett tydligt och urskiljbart sätt kan den relevanta informationen bland annat presenteras som en del av interaktionen (enligt artikel 50.1 i förordningen om artificiell intelligens) eller det relevanta innehållet (enligt artikel 50.2 och 50.4 i förordningen om artificiell intelligens). Information kommer inte att anses ha tillhandahållits på ett tydligt och urskiljbart sätt om den lätt kan förbises eller missas av fysiska personer under normala exponerings- eller interaktionsförhållanden (t.ex. endast inkluderas som en del av en handbok eller dold under skikt av menyalternativ i ett onlinegränssnitt, en del av användningsvillkor som ofta inte läses av användare).

7.2   Den första interaktionen eller exponeringen

(143)

Enligt artikel 50.5 i förordningen om artificiell intelligens ska informationen lämnas till de berörda fysiska personerna senast vid den första interaktionen eller exponeringen. Den första interaktionen eller exponeringen avser inte bara den första fysiska person som interagerar med eller exponeras för (utdata från) ett AI-system utan även varje efterföljande första interaktion med eller exponering för (utdata från) AI-systemet av någon annan fysisk person. När det gäller den första interaktionen med ett AI-system bör informationen åtminstone tillhandahållas en gång i början av en interaktiv session samtidigt som hänsyn tas till de särskilda sammanhang som nämns i punkterna 36 och 40 ovan. När det gäller AI-genererat eller AI-manipulerat innehåll som omfattas av artikel 50.2 och 50.4 i förordningen om artificiell intelligens gäller informationskravet för alla utdata från ett AI-system med avseende på varje fysisk person som exponeras för innehållet. Det bör förstås i betydelsen av varje tidpunkt då en fysisk person med rimlig sannolikhet kommer att exponeras för AI-systemets utdata och uppfattar upplysningen, med hänsyn tagen till upplysningens särdrag när det gäller uppenbart kreativa, konstnärliga och andra verk (se avsnitt 6.1.3.). Dessutom får tillhandahållare informera fysiska personer tidigare än den första faktiska interaktionen eller exponeringen (t.ex. i början av innehåll där det förekommer deepfakes). Om det rimligen kan förutses att personer inte uppfattar innehåll från början, är det dock endast upplysningen i början av innehållet som inte på ett tillfredsställande sätt informerar dessa personer och bör kompletteras med upplysning vid ett senare tillfälle, om möjligt. Detta kan genomföras på lämpligt sätt, med hänsyn tagen till målet om transparensskyldigheten, för att säkerställa ett effektivt tillhandahållande av information och meningsfull användarmedvetenhet i alltmer djupgående och realistiska AI-miljöer där användarna har allt svårare att urskilja innehållets och interaktionens ursprung och sanningsenlighet.

Exempel på lämnande av information vid första interaktion eller exponering enligt artikel 50.5 i förordningen om artificiell intelligens:

—

Första interaktionen sker när en konversation med en chattbot eller en fysisk interaktion med ett AI-system påbörjas.

—

Första exponeringen sker i början av en video med en deepfake, i början av en AI-genererad eller AI-manipulerad textpublikation om frågor av allmänt intresse eller när man stöter på AI-manipulerade deepfakes när man skrollar på sociala medier.

7.3   Efterlevnad av de tillämpliga tillgänglighetskraven

(144)

Leverantörer och tillhandahållare av AI-system som omfattas av de olika transparensskyldigheter som förtecknas i artikel 50.1–50.4 i förordningen om artificiell intelligens måste vara medvetna om de tillämpliga tillgänglighetskraven (t.ex. enligt direktiv 2016/2102 (41) och direktiv 2019/882 (42)) och bedöma om deras produkter, tjänster eller innehåll måste uppfylla dessa regler. I sådana fall måste de säkerställa tillgången till den information som förmedlas i enlighet med artikel 50 i förordningen om artificiell intelligens i enlighet med de tillämpliga tillgänglighetskraven. Artikel 50 i förordningen om artificiell intelligens innehåller inga särskilda eller ytterligare tillgänglighetskrav.

8.   VERKSTÄLLIGHET AV ARTIKEL 50 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS

(145)

Syftet med detta avsnitt är att förklara i) effekterna av att följa en uppförandekod när det gäller efterlevnaden av transparensskyldigheterna för AI-genererat innehåll, ii) de behöriga tillsynsmyndigheternas roll i genomförandet av artikel 50 i förordningen om artificiell intelligens, iii) tillämpliga sanktioner för överträdelser av dessa skyldigheter och iv) den tidpunkt då skyldigheterna i artikel 50 i förordningen om artificiell intelligens börjar tillämpas.

8.1   Effekterna av att följa en förfarandekod som bedömts vara lämplig

(146)

Leverantörer och tillhandahållare av AI-system som omfattas av artikel 50.2 och 50.4 i förordningen om artificiell intelligens får visa att de uppfyller sina respektive transparensskyldigheter för AI-genererat innehåll enligt dessa bestämmelser genom att följa en uppförandekod som bedöms vara lämplig i enlighet med artikel 50.7 i förordningen om artificiell intelligens (43). En sådan kod ersätter inte förordningen om artificiell intelligens eller dessa riktlinjer. Den kompletterar dem genom att tillhandahålla den enda unionsomfattande erkända praktiska ramen för leverantörer och tillhandahållare av generativa AI-system för att visa efterlevnad av dessa skyldigheter oberoende av var de är etablerade, verksamma och oberoende av behöriga marknadskontrollmyndigheter.

(147)

Leverantörer och tillhandahållare kan också visa att de uppfyller dessa skyldigheter genom lämpliga alternativa metoder och att följa en uppförandekod som anses lämplig är ett enkelt, förutsägbart och rättsligt säkert sätt att visa efterlevnad. För undertecknare av en uppförandekod som bedöms vara lämplig i enlighet med artikel 50.7 i förordningen om artificiell intelligens (44) kommer kommissionen och de behöriga marknadskontrollmyndigheterna att inrikta sin tillsynsverksamhet på att bedöma huruvida undertecknarna har följt uppförandekoden och genomfört åtgärderna i den. I och med att leverantörer och tillhandahållare som följer reglerna kommer att vara transparenta om de åtgärder de genomför för att uppfylla artikel 50.2, 50.4 och 50.5 i förordningen om artificiell intelligens kommer de att gynnas av ökat förtroende från kommissionen, andra behöriga marknadskontrollmyndigheter och andra berörda parter (inklusive allmänheten). Alla undantag från sektioner av undertecknare av en uppförandekod som anses lämpliga kommer att leda till att dessa leverantörer och tillhandahållare förlorar fördelen med att göra det enklare att visa efterlevnad i detta avseende.

(148)

Leverantörer och tillhandahållare som inte har undertecknat en uppförandekod som anses lämplig enligt artikel 50.7 i förordningen om artificiell intelligens förväntas visa hur de har uppfyllt sina skyldigheter enligt artikel 50.2, 50.4 och 50.5 i förordningen om artificiell intelligens på andra lämpliga sätt. Dessutom förväntas sådana leverantörer och tillhandahållare förklara hur de åtgärder de genomför säkerställer efterlevnaden av deras skyldigheter enligt förordningen om artificiell intelligens. De bör till exempel genomföra en bristanalys som jämför de åtgärder som de har genomfört med de åtgärder som fastställs i en uppförandekod som bedöms som lämplig. Eftersom behöriga myndigheter (inklusive Europeiska byrån för artificiell intelligens) kommer att ha svårare att förstå hur leverantörer och tillhandahållare som inte har undertecknat en uppförandekod säkerställer efterlevnad av sina skyldigheter enligt artikel 50.2, 50.4 och 50.5 i förordningen om artificiell intelligens kommer de sannolikt att behöva mer detaljerad information när de övervakar efterlevnaden. Exempelvis kan leverantörer som inte följer en uppförandekod även bli föremål för ett större antal begäranden om information och begäranden om åtkomst för att bedöma effektiviteten, interoperabiliteten, robustheten och tillförlitligheten hos de tekniska lösningar som införts för att uppfylla kraven i artikel 50.2 i förordningen om artificiell intelligens. Tillhandahållarna kan också bli föremål för sådana begäranden med avseende på sina märkningsmetoder enligt artikel 50.4 i förordningen om artificiell intelligens.

(149)

De behöriga myndigheterna får ta hänsyn till åtaganden som genomförts i enlighet med en uppförandekod som anses lämplig som en förmildrande faktor när de fastställer bötesbeloppet beroende på de särskilda omständigheterna (45).

(150)

Om en uppförandekod inte anses lämplig i enlighet med artikel 50.7 i förordningen om artificiell intelligens får kommissionen anta en genomförandeakt med gemensamma regler för genomförandet av skyldigheterna i artikel 50.2, 50.4 och 50.5 i förordningen om artificiell intelligens som skulle vara tillämplig på alla relevanta leverantörer och tillhandahållare av AI-system som omfattas av dessa bestämmelser (46).

8.2   Marknadskontrollmyndigheter

(151)

Marknadskontrollmyndigheter som utsetts av medlemsstaterna, Europeiska byrån för artificiell intelligens (47) och Europeiska datatillsynsmannen (48) ansvarar för att övervaka och verkställa reglerna för AI-system som omfattas av deras behörighet, inklusive de öppenhetskrav som fastställs i artikel 50 i förordningen om artificiell intelligens. Denna tillsyn sker inom ramen för det system för marknadskontroll och överensstämmelse för produkter som inrättats genom förordning (EU) 2019/1020 och förordningen om artificiell intelligens. Marknadskontrollmyndigheternas tillsynsbefogenheter när det gäller AI-system fastställs i dessa förordningar. Dessa myndigheter kan vidta verkställighetsåtgärder avseende de skyldigheter som räknas upp i artikel 50 i förordningen om artificiell intelligens på eget initiativ eller till följd av ett klagomål som varje berörd person eller varje annan fysisk eller juridisk person som har skäl att anse att det föreligger sådana överträdelser har rätt att inge (49). Marknadskontrollmyndigheternas ansvar enligt förordningen om artificiell intelligens påverkar inte andra tillsynsmyndigheters eller myndigheter för grundläggande rättigheters befogenheter och uppgifter enligt deras egna rättsliga ramar i situationer där både artikel 50 i förordningen om artificiell intelligens och den ramen är tillämpliga (t.ex. dataskydd, konsumentskydd).

8.3   Sanktioner

(152)

Leverantörer och tillhandahållare som inte uppfyller de tillämpliga transparensskyldigheter som fastställs i artikel 50 i förordningen om artificiell intelligens kan bötfällas med upp till 15 000 000 euro eller, om gärningsmannen är ett företag, med upp till 3 % av sin totala globala årsomsättning för föregående budgetår, beroende på vilket som är högst. EU:s institutioner, organ och byråer som bryter mot transparensskyldigheterna kan åläggas administrativa straffavgifter på upp till 750 000 euro. För små och medelstora företag, inklusive nystartade företag, ska varje bötesbelopp uppgå till ovanstående procentsatser eller belopp, beroende på vilket som är lägst. Böterna ska vara effektiva, proportionella och avskräckande och ta hänsyn till små och medelstora företags och små midcap-bolags, inklusive nystartade företags, intressen och deras ekonomiska bärkraft. Vid beslut om huruvida straffavgifter ska påföras och vid beslut om storleken på straffavgifterna i varje enskilt fall bör de behöriga myndigheterna bedöma alla relevanta omständigheter i den specifika situationen och, i förekommande fall, en rad faktorer som påverkar överträdelsens allvarlighetsgrad (t.ex. överträdelsens karaktär, allvar och varaktighet och dess konsekvenser, försumlighet eller avsiktliga karaktär, andra försvårande eller förmildrande omständigheter, graden av samarbete med marknadskontrollmyndigheter etc.).

8.4   Ikraftträdande

(153)

I enlighet med artikel 113 i förordningen om artificiell intelligens kommer artikel 50 i förordningen om artificiell intelligens att gälla från och med den 2 augusti 2026. Detta kräver att alla AI-system inom tillämpningsområdet som släpps ut på marknaden eller tas i bruk i unionen överensstämmer med den bestämmelsen den dagen oberoende av när de släpps ut på marknaden eller tas i bruk (50). I förordningen om ändring av förordningen om artificiell intelligens (AI-omnibuspaketet), som nyligen har antagits av unionslagstiftaren, föreskrivs en riktad klausul om undantag för gammal hävd endast med avseende på skyldigheter avseende märkning och upptäckt enligt artikel 50.2 i förordningen om artificiell intelligens för generativa AI-system som släppts ut på marknaden eller har tagits i bruk före den 2 augusti 2026. Det ger leverantörerna av dessa befintliga system en övergångsperiod för att anpassa sina system till kraven senast den 2 december 2026. System som delvis är interaktiva och delvis generativa kan endast omfattas av denna övergångsperiod med avseende på märkningsskyldigheten enligt artikel 50.2 i förordningen om artificiell intelligens medan efterlevnaden av upplysningsskyldigheten för AI-system som interagerar direkt med fysiska personer måste säkerställas från och med den 2 augusti 2026.

(154)

AI-genererade eller AI-manipulerade utdata som omfattas av artikel 50.2 i förordningen om artificiell intelligens och deepfakes som omfattas av artikel 50.4 första stycket i förordningen om artificiell intelligens och som har genererats eller manipulerats före den 2 augusti 2026 behöver inte märkas retroaktivt. Detsamma gäller AI-genererade eller AI-manipulerade texter om frågor av allmänt intresse som omfattas av artikel 50.4 andra stycket i förordningen om artificiell intelligens och som offentliggjorts före den 2 augusti 2026. Omvänt gäller att om texter som har genererats eller manipulerats före den 2 augusti 2026 offentliggörs den 2 augusti 2026 eller senare måste de märkas. Med tanke på målet om transparens och ökat förtroende och integritet för det informationsekosystem som eftersträvas genom förordningen om artificiell intelligens uppmuntras dock tillhandahållare av AI-system och andra aktörer som innehar eller sprider befintliga omärkta deepfakes att göra detta utan att förväntas göra oproportionerliga ansträngningar i detta syfte (t.ex. revision av befintliga innehållsdatabaser eller ändring av redan tryckta produktförpackningar).

9.   ÖVERSYN OCH UPPDATERING AV RIKTLINJERNA

(155)

Dessa riktlinjer utgör en första tolkning, med konkreta exempel, av de transparensskyldigheter som fastställs i artikel 50 i förordningen om artificiell intelligens. Kommissionen kommer att se över dessa riktlinjer så snart som det är nödvändigt mot bakgrund av de praktiska erfarenheterna av genomförandet av transparensskyldigheterna och den tekniska, samhälleliga och regleringsmässiga utvecklingen på detta område. Detta inkluderar även alla relevanta erfarenheter från åtgärder för marknadskontroll och tolkningar av artikel 50 i förordningen om artificiell intelligens som görs av Europeiska unionens domstol. Under en sådan översyn kan kommissionen besluta att dra tillbaka eller ändra dessa riktlinjer. Kommissionen uppmuntrar leverantörer och tillhandahållare av AI-system, nationella marknadskontrollmyndigheter genom Europeiska styrelsen för artificiell intelligens, det rådgivande forumet för AI, forskarvärlden och det civila samhällets organisationer att bidra till denna process genom att hörsamma framtida inbjudningar att delta i offentliga samråd.

(1)  Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens (förordning om artificiell intelligens) (EUT L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2)  Artikel 1 i förordningen om artificiell intelligens.

(3)  Artiklarna 2.1 a, 3.3, 3.9 och 3.11 i förordningen om artificiell intelligens. För ytterligare vägledning om begreppen utsläppande på marknaden, ibruktagande och användning hänvisas till kommissionens riktlinjer om förbjudna användningsområden för artificiell intelligens, C(2025) 5052, och meddelande från kommissionen, 2022 års blåbok om genomförandet av EU:s produktbestämmelser, avsnitt 2 (EUT C 247, 29.6.2022, s. 1).

(4)  Artikel 2.1 c och skäl 22 i förordningen om artificiell intelligens.

(5)  Artikel 3.4 i förordningen om artificiell intelligens.

(6)  Artikel 2.1 b och c i förordningen om artificiell intelligens.

(7)  Europaparlamentets och rådets förordning (EU) 2022/2065 av den 19 oktober 2022 om en inre marknad för digitala tjänster (EUT L 277, 27.10.2022, s. 1).

(8)  Se avsnitt 2.5 i kommissionens riktlinjer om de förbjudna användningsområden för artificiell intelligens som fastställs i förordning (EU) 2024/1689 (AI-förordningen), Bryssel, 29.7.2025, C(2025) 5052 final.

(9)  Definitionen av tillhandahållare omfattar inte heller användare som ägnar sig åt sådan verksamhet (se avsnitt 2.3 ovan).

(10)  Skäl 25 i förordningen om artificiell intelligens.

(11)  I skäl 102 i förordningen om artificiell intelligens anges att en utgivning av programvara och data med en kostnadsfri licens med öppen källkod ”gör det möjligt att dela dem öppet’och att’användarna fritt kan få tillgång till, använda, modifiera och omdistribuera dem eller ändrade versioner av dem”.

(12)  För ytterligare information om artikel 5 i förordningen om artificiell intelligens hänvisas till kommissionens riktlinjer om de förbjudna användningsområden för artificiell intelligens som fastställts i förordning (EU) 2024/1689 (AI-förordningen), C(2025) 5052 final.

(13)  Se artikel 6 i förordningen om artificiell intelligens.

(14)  I artikel 26.11 i förordningen om artificiell intelligens föreskrivs i synnerhet en transparensskyldighet för tillhandahållare av AI-system med hög risk som fattar beslut eller hjälper till att fatta beslut om att informera fysiska personer om att de omfattas av användning av AI-systemet med hög risk. Dessa transparensskyldigheter kompletterar skyldigheterna i artikel 50 i förordningen om artificiell intelligens, eftersom de rör olika uppgifter som måste lämnas till de fysiska personerna, men de kan kombineras i enstaka meddelanden.

(15)  I artikel 3.66 i förordningen om artificiell intelligens definieras ett AI-system för allmänna ändamål som ett AI-system som bygger på en AI-modell för allmänna ändamål och som har kapacitet att tjäna en rad olika syften, både för direkt användning och för integrering i andra AI-system.

(16)  Artikel 50.2 i förordningen om artificiell intelligens innehåller en uttrycklig hänvisning till AI-system för allmänna ändamål.

(17)  Skäl 133 i förordningen om artificiell intelligens.

(18)  Se artikel 3.1 i förordningen om artificiell intelligens. För ytterligare vägledning om begreppet AI-system hänvisas till kommissionens riktlinjer om definitionen av ett system för artificiell intelligens, 29.7.2025, C(2025) 5053 final.

(19)  Se skäl 132 i förordningen om artificiell intelligens. Detta kräver inte att systemet är riktat mot dessa sårbara grupper. Om ett system är avsett att interagera med representanter för allmänheten inkluderas även medlemmar av de sårbara grupperna och detta bör beaktas av leverantörerna när de genomför meddelandeåtgärderna.

(20)  Se avsnitt 7.3 för tillämpliga tillgänglighetskrav.

(21)  Elektroniska intyg om attribut i enlighet med förordning (EU) nr 910/2014 och som gjorts tillgängliga i EU:s plånböcker för digitala identiteter i enlighet med samma förordning, samt de föreslagna europeiska företagsplånböckerna, kan till exempel tillhandahålla säkra och effektiva sätt att identifiera AI-agenter. Plånböckerna kan lagra och hantera elektroniska intyg som verifierar AI-ombudets identitet, attribut och tillstånd och därigenom möjliggöra sömlös och tillförlitlig upplysning till fysiska personer.

(22)  Detta gäller även för liknande undantag till förmån för brottsbekämpande verksamhet enligt artikel 50.2–50.4 i förordningen om artificiell intelligens.

(23)  Europaparlamentets och rådets direktiv 2005/29/EG av den 11 maj 2005 om otillbörliga affärsmetoder som tillämpas av näringsidkare gentemot konsumenter på den inre marknaden (EUT L 149, 11.6.2005, s. 2).

(24)  Europaparlamentets och rådets direktiv 2011/83/EU av den 25 oktober 2011 om konsumenträttigheter (EUT L 304, 22.11.2011, s. 64).

(25)  Europaparlamentets och rådets direktiv 2012/13/EU av den 22 maj 2012 om rätten till information vid straffrättsliga förfaranden (EUT L 142, 1.6.2012, s. 1). Europaparlamentets och rådets direktiv 2012/29/EU av den 25 oktober 2012 om fastställande av miniminormer för brottsoffers rättigheter och för stöd till och skydd av dem (EUT L 315, 14.11.2012, s. 57).

(26)  Enligt definitionen i artikel 3.1 i förordningen om artificiell intelligens.

(27)  I skäl 133 i förordningen om artificiell intelligens klargörs att det är lämpligt att kräva att leverantörer av dessa system integrerar tekniska lösningar som möjliggör märkning i maskinläsbart format och upptäckt av att utdata har genererats eller manipulerats av ett AI-system och inte en människa. I skäl 135 i förordningen om artificiell intelligens hänvisas till skyldigheten avseende upptäckt.

(28)  Se bilaga II till kommissionens genomförandebeslut C(2025) 3871 final on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI systems in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 (inte översatt till svenska).

(29)  Se även skäl 11 i förordningen om artificiell intelligens.

(30)  Se även skäl 137 i förordningen om artificiell intelligens.

(31)  Skäl 136 i förordningen om artificiell intelligens.

(32)  Därför måste detta kriterium förstås oberoende och åtskilt från begreppet bedrägeri enligt direktiv 2005/29/EG om otillbörliga affärsmetoder som tillämpas av näringsidkare gentemot konsumenter på den inre marknaden (direktivet om otillbörliga affärsmetoder),https://eur-lex.europa.eu/eli/dir/2005/29/oj/swe.

(33)  Se i samma anda artikel 1 b i direktivet om audiovisuella medietjänster.

(34)  Detta gäller även offentliggjorda texter som informerar allmänheten om frågor av allmänt intresse.

(35)  Se även avsnitt 4.4 för ytterligare information om samspelet mellan artikel 50 i förordningen om artificiell intelligens och förordningen om digitala tjänster.

(36)  Skäl 2 i förordningen om digitala tjänster.

(37)  För mer detaljerade förtydliganden hänvisas till kommissionens och Europeiska dataskyddsstyrelsens gemensamma riktlinjer om samspelet mellan förordningen om artificiell intelligens och EU:s dataskyddslagstiftning (under utarbetande).

(38)  Se analogt C-89/04, Mediakabel, EU:C:2005:348, punkt 33, C-192/04, Lagardère, EU:C:2005:475, punkt. 31, C-306/05, SGAE, EU:C:2006:764, punkterna 37-40, C-527/15, Stichting Brein, EU:C:2017:300, punkterna 43-44 samt citerad rättspraxis och mål C-135/23, GEMA, EU:C:2024:526, punkt 38 samt citerad rättspraxis).

(39)  Europaparlamentets och rådets förordning (EU) 2024/1083 av den 11 april 2024 om fastställande av en gemensam ram för medietjänster på den inre marknaden och om ändring av direktiv 2010/13/EU (europeisk mediefrihetsförordning) (EUT L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).

(40)  När barn ingår i målgruppen för innehållet måste dessa meddelanden i) vara barnanpassade, åldersanpassade, lättförståeliga och lättillgängliga för alla minderåriga, inklusive de med funktionsnedsättningar och/eller ytterligare tillgänglighetsbehov, ii) presenteras tydligt på ett sätt som är lättförståeligt och så enkelt och kortfattat som möjligt, iii) presenteras för den minderåriga på ett sätt som är lätt att granska och som innebär att informationen blir tillgänglig direkt och på ett intuitivt sätt när den blir relevant, iv) presenteras på det eller de officiella språken i den medlemsstat där tjänsten tillhandahålls, v) vara engagerande för barn; detta kan dessutom inkludera användning av grafik, videor och/eller figurer eller annan teknik, vi) ges till minderåriga gradvis och över tid så att användaren kan ta till sig informationen på bästa sätt.

(41)  Europaparlamentets och rådets direktiv (EU) 2016/2102 av den 26 oktober 2016 om tillgänglighet avseende offentliga myndigheters webbplatser och mobila applikationer (EUT L 327, 2.12.2016, s. 1).

(42)  Europaparlamentets och rådets direktiv (EU) 2019/882 av den 17 april 2019 om tillgänglighetskrav för produkter och tjänster (EUT L 151, 7.6.2019, s. 70).

(43)  Se relevant information om uppförandekoden för transparens för AI-genererat innehåll | Att forma EU:s digitala framtid , publicerad den 10 juni 2026.

(44)  Se kommissionens yttrande om bedömningen av uppförandekoden för transparens för AI-genererat innehåll | Att forma EU:s digitala framtid .

(45)  Artikel 99.7 e i förordningen om artificiell intelligens.

(46)  Artikel 50.7 i förordningen om artificiell intelligens.

(47)  Som marknadskontrollmyndighet för AI-system baserade på AI-modeller för allmänna ändamål som tillhandahålls av samma leverantör (artikel 75.1 i förordningen om artificiell intelligens). Detta omfattar skyldigheten för leverantörer enligt artikel 50.1 och 50.2 i förordningen om artificiell intelligens. När det gäller artikel 50.3 och 50.4 i förordningen om artificiell intelligens kommer Europeiska byrån för artificiell intelligens endast att vara behörig om respektive AI-modell för allmänna ändamål och systemleverantören också är en tillhandahållare av systemet.

(48)  Som marknadskontrollmyndighet för EU:s institutioner, byråer och organ.

(49)  Artikel 85 i förordningen om artificiell intelligens.

(50)  Den särskilda klausulen om undantag för gammal hävd i artikel 111.2 i förordningen om artificiell intelligens är tillämplig på AI-system med hög risk som släppts ut på marknaden före den dag då reglerna om hög risk börjar tillämpas endast med avseende på dessa systems efterlevnad av kraven och skyldigheterna för AI-system med hög risk. Om AI-systemet med hög risk också omfattas av en eller flera transparensskyldigheter enligt artikel 50 i förordningen om artificiell intelligens gäller inte denna särskilda klausul om undantag för gammal hävd eftersom tillämpningen av de olika skyldigheterna avseende hög risk och transparens enligt artikel 50 är kumulativ och klausulen är motiverad och begränsad endast med avseende på efterlevnaden av bestämmelserna om hög risk.


ELI: http://data.europa.eu/eli/C/2026/6005/oj

ISSN 1977-1061 (electronic edition)