|
Europeiska unionens |
SV C-serien |
|
C/2026/6005 |
12.11.2026 |
MEDDELANDE FRÅN KOMMISSIONEN
Riktlinjer för genomförandet av transparensskyldigheter när det gäller vissa AI-system enligt artikel 50 i förordning (EU) 2024/1689 (förordningen om artificiell intelligens)
(C/2026/6005)
Innehållsförteckning
|
1. |
BAKGRUND OCH SYFTEN | 3 |
|
2. |
ÖVERSIKT ÖVER TRANSPARENSSKYLDIGHETERNA OCH ÖVERGRIPANDE FRÅGOR | 3 |
|
2.1 |
Översikt över transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens | 3 |
|
2.2 |
Motivering och mål | 4 |
|
2.3 |
Ansvariga aktörer enligt artikel 50 i förordningen om artificiell intelligens | 5 |
|
2.4 |
Undantag från tillämpningsområdet för förordningen om artificiell intelligens | 7 |
|
2.4.1 |
Tillhandahållare som agerar inom ramen för rent personlig icke-yrkesmässig verksamhet | 7 |
|
2.4.2 |
Forskning och utveckling | 8 |
|
2.4.3 |
AI som släpps ut med kostnadsfria licenser med öppen källkod | 8 |
|
2.5 |
Samspelet mellan de förbjudna användningsområdena, kraven för AI-system med hög risk och AI-kunnighet | 9 |
|
2.6 |
Samspel med regler som gäller AI-modeller och/eller AI-system för allmänna ändamål | 9 |
|
3. |
ARTIKEL 50.1 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS TRANSPARENS I INTERAKTIVA AI-SYSTEM | 9 |
|
3.1 |
Huvudkomponenter, begrepp och tillhörande transparensskyldigheter | 10 |
|
3.1.1 |
AI-system avsedda att interagera direkt med fysiska personer | 10 |
|
3.1.2 |
Informationsskyldighet enligt artikel 50.1 i förordningen om artificiell intelligens | 12 |
|
3.2 |
Undantag från informationsskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens | 14 |
|
3.2.1 |
Undantag för uppenbar interaktion med ett AI-system | 14 |
|
3.2.2 |
Undantag för AI-system som enligt lag får användas för brottsbekämpande ändamål | 16 |
|
3.3 |
Samspel med andra unionsrättsakter | 17 |
|
4. |
ARTIKEL 50.2 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS MÄRKNING OCH UPPTÄCKT AV AI-GENERERAT ELLER AI-MANIPULERATINNEHÅLL | 18 |
|
4.1 |
Huvudkomponenter och begrepp i artikel 50.2 förordningen om artificiell intelligens | 18 |
|
4.1.1 |
AI-system som genererar eller manipulerar syntetiskt innehåll | 18 |
|
4.1.2 |
Former för syntetiskt innehåll som omfattas | 19 |
|
4.1.3 |
Innehåll som inte omfattas av artikel 50.2 i förordningen om artificiell intelligens | 20 |
|
4.2 |
Skyldigheten avseende märkning och upptäckt i artikel 50.2 i förordningen om artificiell intelligens | 21 |
|
4.2.1 |
Märkningsskyldigheten | 21 |
|
4.2.2 |
Skyldigheten avseende upptäckt | 22 |
|
4.2.3 |
Överensstämmelse med kraven för tekniska lösningar, som ska vara effektiva, interoperabla, robusta och tillförlitliga | 22 |
|
4.3 |
Undantag från skyldigheterna enligt artikel 50.2 i förordningen om artificiell intelligens | 24 |
|
4.4 |
Samspel med andra unionsrättsakter | 25 |
|
5. |
ARTIKEL 50.3 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS: SYSTEM FÖR KÄNSLOIGENKÄNNING OCH BIOMETRISK KATEGORISERING | 26 |
|
5.1 |
Huvudkomponenter, begrepp och tillhörande transparensskyldigheter enligt artikel 50.3 i förordningen om artificiell intelligens | 27 |
|
5.1.1 |
Begreppet system för känsloigenkänning | 27 |
|
5.1.2 |
Begreppet system för biometrisk kategorisering | 27 |
|
5.1.3 |
Informationsskyldigheten enligt artikel 50.3 i förordningen om artificiell intelligens | 27 |
|
5.2 |
Undantag för brottsbekämpande ändamål | 28 |
|
5.3 |
Samspel med andra unionsrättsakter | 28 |
|
6. |
ARTIKEL 50.4 MÄRKNING AV DEEPFAKES OCH VISSA TEXTPUBLIKATIONER | 28 |
|
6.1 |
Huvudkomponenter, begrepp och tillhörande transparensskyldigheter när det gäller deepfakes enligt artikel 50.4 i förordningen om artificiell intelligens | 28 |
|
6.1.1 |
Begreppet deepfake | 29 |
|
6.1.2 |
Upplysningsskyldighet enligt artikel 50.4 första stycket i förordningen om artificiell intelligens | 31 |
|
6.1.3 |
Insyn i konstnärligt, kreativt, satiriskt, skönlitterärt eller liknande deepfake-innehåll | 32 |
|
6.1.4 |
Undantag för brottsbekämpning | 34 |
|
6.1.5 |
Samspel med andra unionsrättsakter | 34 |
|
6.2 |
Huvudkomponenter, begrepp och tillhörande transparensskyldigheter för AI-genererad eller AI-manipulerad text enligt artikel 50.4 i förordningen om artificiell intelligens | 35 |
|
6.2.1 |
Text som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse | 36 |
|
6.2.2 |
Upplysningsskyldigheten enligt artikel 50.4 andra stycket i förordningen om artificiell intelligens | 37 |
|
6.2.3 |
Undantag från transparensskyldigheten för text som varit föremål för mänsklig granskning eller redaktionell kontroll och redaktionellt ansvar | 37 |
|
6.2.4 |
Undantag för brottsbekämpning | 38 |
|
6.2.5 |
Samspel med andra unionsrättsakter | 39 |
|
7. |
ÖVERGRIPANDE KRAV TILLÄMPLIGA PÅ DEN INFORMATION SOM LÄMNAS ENLIGT ARTIKEL 50.5 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS | 39 |
|
7.1 |
Information lämnad på ett tydligt och urskiljbart sätt | 39 |
|
7.2 |
Den första interaktionen eller exponeringen | 40 |
|
7.3 |
Efterlevnad av de tillämpliga tillgänglighetskraven | 40 |
|
8. |
VERKSTÄLLIGHET AV ARTIKEL 50 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS | 40 |
|
8.1 |
Effekterna av att följa en förfarandekod som bedömts vara lämplig | 41 |
|
8.2 |
Marknadskontrollmyndigheter | 42 |
|
8.3 |
Sanktioner | 42 |
|
8.4 |
Ikraftträdande | 42 |
|
9. |
ÖVERSYN OCH UPPDATERING AV RIKTLINJERNA | 43 |
1. BAKGRUND OCH SYFTEN
|
(1) |
Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens och om ändring av vissa förordningar (förordningen om artificiell intelligens) trädde i kraft den 1 augusti 2024 (1). Förordningen om artificiell intelligens innehåller harmoniserade regler för utsläppande på marknaden, ibruktagande och användning av artificiell intelligens (AI) i unionen (2). Dess syfte är att främja innovation inom och användning av tillförlitlig AI och samtidigt säkerställa en hög skyddsnivå för hälsa, säkerhet och grundläggande rättigheter i unionen, inklusive demokrati och rättsstatens principer. |
|
(2) |
Förordningen om artificiell intelligens bygger på en riskbaserad metod där AI-system delas in i fyra olika riskkategorier, varav en är AI-system som medför risker för brist på transparens och omfattas av de skyldigheter som fastställs i artikel 50 i förordningen om artificiell intelligens. Dessa transparensskyldigheter började gälla två år efter det att förordningen om artificiell intelligens trädde i kraft, dvs. från och med den 2 augusti 2026. |
|
(3) |
Kommissionen utfärdar dessa riktlinjer enligt artikel 96.1 d i förordningen om artificiell intelligens i syfte att ge praktisk vägledning för att hjälpa behöriga myndigheter samt leverantörer och tillhandahållare av AI-system att säkerställa efterlevnaden av kraven på transparens enligt artikel 50 i förordningen om artificiell intelligens på ett konsekvent, effektivt, proportionellt och enhetligt sätt. |
|
(4) |
Dessa riktlinjer bygger på synpunkter som samlats in från en rad olika berörda parter under ett brett samråd som anordnades av kommissionen, synpunkter från medlemsstaterna i Europeiska styrelsen för artificiell intelligens samt synpunkter från berörda parter om utkastet till riktlinjer som offentliggjordes för samråd. |
|
(5) |
Dessa riktlinjer är inte bindande. I slutändan är det endast Europeiska unionens domstol som får göra en officiell tolkning av förordningen om artificiell intelligens. |
2. ÖVERSIKT ÖVER TRANSPARENSSKYLDIGHETERNA OCH ÖVERGRIPANDE FRÅGOR
2.1 Översikt över transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens
|
(6) |
Artikel 50 i förordningen om artificiell intelligens innehåller fyra transparensskyldigheter som var och en gäller olika typer av AI-system eller utdata från dem.
|
|
(7) |
Var och en av dessa fyra skyldigheter behandlas i avsnitten 3–6 i dessa riktlinjer. Enligt artikel 50.5 i förordningen om artificiell intelligens ska den information som avses i punkterna 1–4 lämnas till de berörda fysiska personerna på ett tydligt och urskiljbart sätt senast vid tidpunkten för den första interaktionen eller exponeringen och uppfylla de tillämpliga tillgänglighetskraven. I avsnitt 7 förtydligas dessa krav. |
|
(8) |
De olika transparensskyldigheter som fastställs i artikel 50 i förordningen om artificiell intelligens får tillämpas kumulativt på (utdata från) ett enda AI-system, vilket eventuellt involverar olika aktörers ansvar (leverantörer eller tillhandahållare). Om till exempel ett AI-system genererar bilder som en del av en direkt interaktion med en fysisk person kan leverantören av systemet behöva följa både artikel 50.1 och 50.2 i förordningen om artificiell intelligens. Om systemet också kan generera bilder som utgör deepfakes eller offentliggjord text om frågor av allmänt intresse kan tillhandahållaren dessutom behöva följa artikel 50.4 i förordningen om artificiell intelligens. |
2.2 Motivering och mål
|
(9) |
Enligt vad som förklaras i skälen 132–136 i förordningen om artificiell intelligens är syftet med transparensskyldigheterna att minska riskerna för personifiering, vilseledande, felaktig information, manipulation i stor skala och bedrägerier och att mildra potentiella negativa konsekvenser för demokratiska processer och samhälleligt förtroende som orsakas av AI-genererat eller manipulerat innehåll eller interaktion med AI. Att informera enskilda om interaktionens AI-ursprung och innehåll kommer att hjälpa dem att fatta välgrundade beslut och samtidigt bidra till att skydda förtroendet och integriteten i informationsekosystemet. Transparens är inte bara ett krav på teknisk överensstämmelse utan en förutsättning för att fysiska personer ska kunna känna igen AI-medierad interaktion och AI-innehåll eller använda system för känsloigenkänning eller biometrisk kategorisering. Att säkerställa en öppen och tillförlitlig användning av interaktiva och generativa AI-system kommer också att göra det möjligt att upprätthålla personlig autonomi och europeiska värderingar, mänsklig värdighet och andra grundläggande rättigheter (t.ex. tankefrihet, integritet, jämlikhet och icke-diskriminering, konsumentskydd, immateriella rättigheter osv.) samtidigt som yttrandefriheten och medieinnehållets trovärdighet bevaras. |
2.3 Ansvariga aktörer enligt artikel 50 i förordningen om artificiell intelligens
|
(10) |
Enligt artikel 3.3 i förordningen om artificiell intelligens är leverantörer fysiska eller juridiska personer, offentliga myndigheter, byråer eller andra organ som utvecklar eller låter utveckla AI-system och släpper ut dem på unionsmarknaden eller tar dem i bruk i eget namn eller under eget varumärke antingen mot betalning eller kostnadsfritt. Leverantörer måste uppfylla de relevanta transparensskyldigheterna i artikel 50.1 och 50.2 i förordningen om artificiell intelligens som är tillämpliga på dem oberoende av om de är etablerade eller belägna i unionen eller i ett tredjeland (3). Leverantörer som är etablerade eller belägna utanför unionen omfattas också av förordningen om artificiell intelligens om utdata från deras AI-system används i unionen (4). Tillfällig, oförutsedd eller otillåten användning i senare led bör dock inte i sig utlösa tillämpningen av skyldigheterna för sådana leverantörer av interaktiva eller generativa AI-system som inte släpps ut på marknaden eller tas i bruk i unionen utan att det påverkar de behöriga marknadskontrollmyndigheternas befogenheter att bedöma att utdata från systemen inte överensstämmer med förordningen om artificiell intelligens. |
|
(11) |
Leverantörerna måste säkerställa att deras interaktiva eller generativa AI-system har transparens integrerad i systemets utformning och drift och att alla relevanta transparensskyldigheter i artikel 50.1, 50.2 och 50.5 i förordningen om artificiell intelligens uppfylls senast när dessa system släpps ut på marknaden eller tas i bruk. Alla fysiska personer som interagerar med AI-systemet eller exponeras för dess aktuella utdata måste informeras effektivt och konsekvent under AI-systemets hela livscykel så som det har släppts ut på marknaden eller tagits i bruk av den leverantören (oberoende av vem som använder systemet).
|
|
(12) |
Tillhandahållare är fysiska eller juridiska personer, offentliga myndigheter, byråer eller andra organ som använder AI-system under eget överinseende, om inte användningen avser en personlig icke-yrkesmässig verksamhet (5). Med överinseende över ett AI-system bör förstås att man tar ansvar för beslutet att tillhandahålla systemet och för det sätt på vilket systemet faktiskt används (inklusive dess utdata). Detta kräver inte nödvändigtvis teknisk kontroll över driften av AI-systemet så länge som tillhandahållaren fattar beslut för vilka ändamål och hur AI-systemet ska användas (inklusive i decentraliserade arbetsflöden och företagsstrukturer i koncerner). Tillhandahållare som deltar i komplexa värdekedjor för produktion och distribution av innehåll bör vidta proportionella åtgärder för att säkerställa att märkningen av det innehåll som de har genomfört i enlighet med artikel 50.4 i förordningen om artificiell intelligens visas på ett tydligt och urskiljbart sätt för målgruppen och den sannolika publiken vid den första exponeringen i enlighet med artikel 50.5 i förordningen om artificiell intelligens (t.ex. genom avtalsvillkor med distribuerande partner, användarupplevelseinställningar och gränssnitt som ska visas). |
|
(13) |
Tillhandahållare omfattas av transparensskyldigheterna i artikel 50.3 och 50.4 i förordningen om artificiell intelligens om de har sin etableringsort i eller befinner sig i unionen eller om de befinner sig i ett tredjeland men AI-systemets utdata används i unionen (6). I det senare fallet gäller transparensskyldigheterna för enheter som är belägna eller etablerade utanför unionen men tillhandahållaren själv förutser spridning och användning av AI-utdata i unionen (dvs. genom att styra eller tillåta distribution inom unionen, inklusive genom att publicera deepfakes på det globalt tillgängliga internet). Tillhandahållare från tredjeländer är dock inte bundna av transparensskyldigheterna när innehållet i AI-systemet når publiken i unionen genom kanaler som är oförutsebara och utanför deras kontroll. |
|
(14) |
Om tillhandahållaren av ett AI-system är en juridisk person under vars överinseende systemet används (t.ex. ett reklamföretag) bör de enskilda anställda som agerar enligt den juridiska personens instruktioner och under dennas kontroll (t.ex. animatörer, webbdesigner, skapare av innehåll och journalister) inte betraktas som separata tillhandahållare för det systemet. En juridisk person förblir en tillhandahållare även om denna involverar tredjeparter (t.ex. entreprenörer eller frilansarbetare) i driften av systemet för sin räkning och under sitt ansvar och sin kontroll.
|
|
(15) |
Operatörer (till exempel leverantörer och tillhandahållare) kan inneha mer än en roll samtidigt med avseende på ett AI-system. Ett företag kan till exempel utveckla ett internt generativt AI-system och använda det för att generera deepfakes. I ett sådant fall kommer företaget att räknas som både en leverantör och en tillhandahållare som måste säkerställa efterlevnaden av märkningsskyldigheterna för maskinläsbarhet enligt artikel 50.2 och kraven på en tydlig och klar märkning av deepfakes enligt artikel 50.4 i förordningen om artificiell intelligens. |
|
(16) |
Andra aktörer (t.ex. värdtjänstleverantörer, inklusive onlineplattformar och radio- och TV-företag) vars roll är begränsad till att sprida eller överföra AI-genererat eller manipulerat innehåll som skapats av tredje part, eller som tar emot eller exponeras för AI-genererat eller manipulerat innehåll utan att ha befogenhet att använda AI-systemet för generering eller manipulation av AI-innehåll, är däremot inte tillhandahållare i den mening som avses i förordningen om artificiell intelligens. Utan att vara ansvariga enligt förordningen om artificiell intelligens kan dessa aktörer ändå spela en viktig roll i värdekedjan för att bevara informationsekosystemets förtroende och integritet. De uppmuntras därför i hög grad att bevara den märkning som genomförs i enlighet med artikel 50 i förordningen om artificiell intelligens och genomföra proportionella och tekniskt genomförbara åtgärder för att göra det möjligt för fysiska personer att upptäcka det AI-genererade eller AI-manipulerade innehållet utan att det påverkar ansvarsskyldigheten för leverantörer och tillhandahållare av generativa AI-system eller skyldigheter eller ansvar enligt förordning (EU) 2022/2065 (förordningen om digitala tjänster) (7) eller annan tillämplig unionslagstiftning eller nationell lagstiftning. |
|
(17) |
Andra aktörer som agerar i sin yrkesmässiga kapacitet och sprider innehåll (även om de inte är direkt engagerade enligt artikel 50 i förordningen om artificiell intelligens) uppmanas också att vidta proportionerliga och lämpliga åtgärder så att de fysiska personer som i slutändan exponeras för innehållet effektivt informeras och kan upptäcka innehållets artificiellt genererade eller manipulerade ursprung. Dessutom kan dessa parter åläggas att märka respektive deepfakes eller textpublikationer om frågor av allmänt intresse enligt andra tillämpliga rättsliga eller etiska regler (t.ex. ett radio- och TV-företag som en del av ett TV-program visar en deepfake som skapats av en privatperson bör märka deepfaken som sådan). Enbart det faktum att en aktör märker innehåll eller använder märkt innehåll innebär dock inte att den senare räknas som tillhandahållare i den mening som avses i förordningen om artificiell intelligens. Förordningen om artificiell intelligens utvidgar eller påverkar inte dessa aktörers rättsliga ansvar enligt de tillämpliga rättsliga ramarna om de inte samtidigt räknas som leverantörer eller tillhandahållare av AI-system. |
2.4 Undantag från tillämpningsområdet för förordningen om artificiell intelligens
|
(18) |
Artikel 2 i förordningen om artificiell intelligens innehåller ett antal allmänna undantag från tillämpningsområdet för förordningen om artificiell intelligens som redan har förtydligats i kommissionens riktlinjer om förbjudna användningsområden för artificiell intelligens (8). I detta avsnitt behandlas därför endast de aspekter som är relevanta för transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens. |
2.4.1 Tillhandahållare som agerar inom ramen för rent personlig icke-yrkesmässig verksamhet
|
(19) |
I artikel 2.10 i förordningen om artificiell intelligens föreskrivs att förordningen ”är inte tillämplig på skyldigheter för tillhandahållare som är fysiska personer och som använder AI-system inom ramen för en rent personlig icke-yrkesmässig verksamhet” (9). All verksamhet genom vilken fysiska personer regelbundet erhåller en ekonomisk förmån eller på annat sätt deltar i en yrkes-, affärs-, handels-, arbetsverksamhet eller verksamhet som egenföretagare bör betraktas som en yrkesmässig verksamhet. Specifikationen av rent personlig är en bestämning av icke-yrkesmässig, vilket innebär att personen bör agera både personligt och icke-yrkesmässigt för att omfattas av undantaget. Varje användning som utförs av fysiska personer som agerar för eller under överinseende av en tillhandahållare som agerar i en professionell roll omfattas av de krav på transparens som fastställs i artikel 50.3 och 50.4 i förordningen om artificiell intelligens.
|
|
(20) |
Undantaget i artikel 2.10 i förordningen om artificiell intelligens gäller endast för tillhandahållarnas skyldigheter när de använder systemet för rent personlig, icke-yrkesmässig verksamhet. Systemet som sådant omfattas fortfarande av förordningen om artificiell intelligens när det gäller skyldigheterna för leverantörer som släpper ut systemet på marknaden eller tar det i bruk och tillhandahållare som använder systemet i professionell verksamhet. Undantaget påverkar inte heller tillämpningen av annan relevant unionsrätt och nationell rätt.
|
2.4.2 Forskning och utveckling
|
(21) |
I artikel 2.6 i förordningen om artificiell intelligens tillhandahålls därför ett undantag för ”AI-system eller AI-modeller, inbegripet deras utdata, som specifikt utvecklas och tas i bruk enbart i vetenskapligt forsknings- och utvecklingssyfte”. Detta undantag påverkar inte tillämpliga forskningsetiska standarder, EU:s dataskydd och annan lagstiftning. Inom ramen för artikel 50 i förordningen om artificiell intelligens omfattar detta undantag inte bara interaktiva AI-system utan även resultaten från generativa AI-system (inklusive deepfake-innehåll) som används inom ramen för vetenskaplig forskning. Om dessa system tas i bruk eller om deras resultat används för andra ändamål än enbart vetenskaplig forskning och utveckling skulle de relevanta transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens fortfarande behöva uppfyllas.
|
|
(22) |
Artikel 2.8 i förordningen om artificiell intelligens undantar dessutom forsknings-, testnings- eller utvecklingsverksamhet för AI-system eller AI-modeller innan de släpps ut på marknaden eller tas i bruk. Testning under verkliga förhållanden (inom eller utanför de regulatoriska sandlådorna för AI) omfattas inte av detta undantag. När ett AI-system väl har släppts ut på marknaden eller tagits i bruk till följd av sådan forskning och testning bör det ändå uppfylla de relevanta transparensskyldigheterna enligt artikel 50 i förordningen om artificiell intelligens (10). |
2.4.3 AI som släpps ut med kostnadsfria licenser med öppen källkod
|
(23) |
Enligt artikel 2.12 i förordningen om artificiell intelligens omfattas AI-system som släpps ut med kostnadsfria licenser med öppen källkod inte av tillämpningsområdet för förordningen om artificiell intelligens under förutsättning att de inte omfattas av förbuden i artikel 5 i förordningen om artificiell intelligens eller transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens eller inte klassificeras som AI-system med hög risk (11). Detta innebär att leverantörer och tillhandahållare av AI-system med öppen källkod som omfattas av artikel 50 i förordningen om artificiell intelligens fortfarande måste säkerställa att deras respektive transparensskyldigheter uppfylls. |
|
(24) |
Leverantörer av AI-komponenter med öppen källkod som omfattar programvara, data, modeller, verktyg, tjänster eller processer för anpassning och integrering i ett AI-system och som inte i sig (helt eller delvis) utgör ett AI-system omfattas däremot inte av transparensskyldigheterna i artikel 50 i förordningen om artificiell intelligens. Leverantörer av sådana system uppmuntras dock att utforma dessa modeller, komponenter och tjänster på det sätt som beskrivs i punkt 27 nedan, i den mån detta är proportionerligt och genomförbart. |
2.5 Samspelet mellan de förbjudna användningsområdena, kraven för AI-system med hög risk och AI-kunnighet
|
(25) |
I skäl 137 i förordningen om artificiell intelligens klargörs att fullgörandet av transparensskyldigheterna enligt artikel 50 i förordningen om artificiell intelligens för ett visst AI-system inte kan tolkas som att användningen av AI-systemet eller dess utdata är laglig enligt förordningen om artificiell intelligens. I synnerhet kan AI-system som omfattas av skyldigheterna i artikel 50 i förordningen om artificiell intelligens omfattas av artikel 5 i förordningen om artificiell intelligens och därmed vara förbjudna (t.ex. användning av system för känsloigenkänning på arbetsplatsen eller vid utbildningsinstitutioner) (12). Dessutom kan AI-system som omfattas av artikel 50 i förordningen om artificiell intelligens också klassificeras som AI-system med hög risk (13) och omfattas av relevanta krav och skyldigheter för sådana system. Efterlevnaden av artikel 50 i förordningen om artificiell intelligens varken ersätter, begränsar eller påverkar därför inte de skyldigheter som följer av andra bestämmelser i förordningen om artificiell intelligens (14). Samtidigt kan AI-system också omfattas av artikel 50 i förordningen om artificiell intelligens utan att klassificeras som AI-system med hög risk enligt artikel 6 i förordningen om artificiell intelligens. Krav på läs- och skrivkunnighet enligt artikel 4 i förordningen om artificiell intelligens gäller även både leverantörer och tillhandahållare av AI-system som omfattas av artikel 50 i förordningen om artificiell intelligens. |
2.6 Samspel med regler som gäller AI-modeller och/eller AI-system för allmänna ändamål
|
(26) |
Artikel 50 i förordningen om artificiell intelligens är tillämplig på vissa AI-system, som omfattar AI-system för allmänna ändamål (15), till exempel chattbottar som stöder direkt interaktion med fysiska personer eller AI-system som kan generera eller manipulera syntetiskt innehåll (inklusive deepfakes) (16). |
|
(27) |
Artikel 50 i förordningen om artificiell intelligens är inte uttryckligen tillämplig på modeller för allmänna ändamål. Om ett interaktivt eller generativt AI-system som omfattas av artikel 50.1 eller 50.2 i förordningen om artificiell intelligens bygger på en AI-modell för allmänna ändamål som tillhandahålls av samma leverantör kan de transparensåtgärder som anges i dessa riktlinjer också genomföras på modellnivå (se även avsnitt 4 nedan). Även om de faller utanför tillämpningsområdet för artikel 50 i förordningen om artificiell intelligens uppmuntras leverantörer av andra AI-modeller för allmänna ändamål och andra generativa AI-modeller också att genomföra lämpliga transparensåtgärder på modellnivå för identifiering av interaktiva AI-system och märkning av AI-genererat och AI-manipulerat innehåll. Detta är särskilt fördelaktigt för leverantörer av AI-system i senare led för att uppfylla sina skyldigheter enligt artikel 50.1 och 50.2 i förordningen om artificiell intelligens (17) och bidra till att bevara förtroendet för informationsekosystemet och dess integritet. För AI-modeller för allmänna ändamål som utgör en systemrisk kan säkerhetsåtgärder på modellnivå för identifiering av AI-interaktioner och märkning av AI-genererat eller AI-manipulerat innehåll, när detta är lämpligt, utgöra en del av en bredare uppsättning riskreducerande åtgärder som leverantörer kan vidta som en del av sin skyldighet att minska systemrisker enligt artikel 55.1 b i förordningen om artificiell intelligens. |
3. ARTIKEL 50.1 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS TRANSPARENS I INTERAKTIVA AI-SYSTEM
|
(28) |
Artikel 50.1 i förordningen om artificiell intelligens riktar sig till leverantörer av AI-system som interagerar direkt med fysiska personer, som måste utforma och utveckla sina system på ett sådant sätt att de berörda fysiska personerna informeras om att de interagerar med ett AI-system. Enligt förklaringen i skäl 132 i förordningen om artificiell intelligens är syftet med denna informationsskyldighet att göra det möjligt för dessa fysiska personer att fatta välgrundade beslut om systemets utdata, undvika alltför stor tillit till sådana system och göra det möjligt för dessa fysiska personer att avväga sitt förtroende för innehållet och interaktionerna i enlighet med dessa. |
3.1 Huvudkomponenter, begrepp och tillhörande transparensskyldigheter
|
(29) |
Transparensskyldigheten i artikel 50.1 i förordningen om artificiell intelligens gäller för leverantörer av AI-system där systemet är avsett att interagera direkt med fysiska personer och denna interaktion inte omfattas av något av följande undantag: 1) Det är uppenbart för en fysisk person som är normalt informerad, skäligen uppmärksam och medveten eller 2) systemet enligt lag får upptäcka, förebygga, förhindra, utreda eller lagföra brott, såvida inte systemet är tillgängligt för allmänheten för att anmäla ett brott. |
3.1.1 AI-system avsedda att interagera direkt med fysiska personer
|
(30) |
För att ett system ska omfattas av artikel 50.1 i förordningen om artificiell intelligens gäller att i) systemet måste vara ett AI-system, ii) måste vara avsett att interagera, iii) direkt, iv) med fysiska personer.
|
|
(31) |
AI-agenter omfattas av artikel 50.1 i förordningen om artificiell intelligens om de kan interagera med de personer som ger dem instruktioner eller med andra fysiska personer vid utförandet av uppgifterna (t.ex. bokning, hantering av korrespondens, förhandling eller ingående av avtal, genomförande av inköp osv.). AI-agenter måste utformas och utvecklas på ett sådant sätt att de röjer både sin artificiella karaktär och den person för vars räkning de agerar, med tanke på behovet av transparens kring ursprunget av deras handlingar och kring delegeringen av befogenheter och ansvarsskyldighet när det gäller konsekvenserna av dessa handlingar. Detta inbegriper fall där AI-agenter kan interagera i komplexa multiagentarkitekturer med andra AI-agenter som direkt interagerar med de fysiska personerna vid utförandet av uppgiften. Det är dock inte alltid möjligt för leverantören av AI-agenten att i förväg identifiera enskilda fall av direkt interaktion mellan en AI-agent och andra fysiska personer när AI-agenten väl har satts in i olika sammanhang. Om leverantören inte på ett tillförlitligt sätt kan avgöra om AI-agenten kommer att interagera direkt med en fysisk person innan leverantören släpper ut AI-agenten på marknaden eller tar den i bruk bör agenten utformas på arkitekturnivå och instrueras att avslöja sin AI-identitet i varje situation där det rimligen är troligt att agenten kan interagera med en fysisk person (inklusive när en fysisk person får företräda eller agera för en juridisk person). Dessutom bör AI-agenterna också avslöja sin AI-identitet för de personer som ger dem instruktioner i viktiga steg (t.ex. vid tidpunkten för godkännande, rapportering, validering osv., inklusive när den utplacerade AI-agenten tar emot, behandlar eller förlitar sig på utdata som genererats av andra AI-system snarare än direkt av en fysisk person) och vid varje ny interaktion.
|
3.1.2 Informationsskyldighet enligt artikel 50.1 i förordningen om artificiell intelligens
|
(32) |
Enligt artikel 50.1 i förordningen om artificiell intelligens är leverantörer av AI-system skyldiga att interagera direkt med fysiska personer för att säkerställa att deras AI-system (inklusive AI-agenter och AI-system för allmänna ändamål) utformas och utvecklas på ett sådant sätt att de berörda fysiska personerna informeras om att de interagerar med ett AI-system. |
|
(33) |
Mekanismen för att informera bör ingå i utformningen och utvecklingen av systemet och i hur systemet interagerar med de fysiska personerna men meddelandet bör lämnas under driften av AI-systemet och senast vid den första interaktionen med den fysiska personen (i enlighet med artikel 50.5 i förordningen om artificiell intelligens, se avsnitt 7 nedan). Leverantörerna ansvarar för att säkerställa att fysiska personer som interagerar med AI-systemet, efter det att AI-systemet har släppts ut på marknaden eller tagits i bruk, informeras effektivt och konsekvent under AI-systemets hela livscykel, så som det har släppts ut på marknaden eller tagits i bruk av leverantören.2.2 |
|
(34) |
Format för upplysning I artikel 50.1 i förordningen om artificiell intelligens anges ingen särskild metod för upplysning. Leverantörer kan därför välja vilken lämplig metod som helst under förutsättning att följande krav uppfylls: i) Kraven i artikel 50.5 i förordningen om artificiell intelligens är uppfyllda när det gäller tillhandahållande av tydlig och urskiljbar information senast vid tidpunkten för den första interaktionen (se avsnitt 7 nedan). ii) Särdragen hos fysiska personer som tillhör utsatta grupper på grund av sin ålder (t.ex. barn eller äldre) eller funktionsnedsättning beaktas i den utsträckning som AI-systemet är avsett eller med rimlig sannolikhet kommer att interagera med fysiska personer som tillhör dessa grupper (t.ex. när det rimligen är sannolikt att AI-systemet interagerar med allmänheten) (19). Informationen måste också tillhandahållas i ett tillgängligt format för fysiska personer med funktionsnedsättning i enlighet med artikel 50.5 och skäl 132 i förordningen om artificiell intelligens (se avsnitt 7). Om systemet kan interagera med barn måste dessa meddelanden vara barnvänliga, åldersanpassade, lättförståeliga och lättillgängliga för alla barn, inklusive barn med funktionsnedsättning eller ytterligare tillgänglighetsbehov. Där det är möjligt och lämpligt rekommenderas leverantörerna att använda standardiserade rutiner och märkningar för upplysning för att säkerställa att meddelandena är ändamålsenliga och konsekventa samt för att öka användarnas medvetenhet. |
|
(35) |
Innehåll i meddelandet: Enligt artikel 50.1 i förordningen om artificiell intelligens ska leverantörer av interaktiva AI-system utforma och utveckla dem på ett sådant sätt att alla fysiska personer som interagerar med sådana AI-system uttryckligen informeras om den interagerande motpartens artificiella, icke-mänskliga karaktär. Om leverantören rimligen kan förutse att AI-systemet kan interagera med fysiska personer som tillhör de ovan nämnda sårbara grupperna, bör informationen anpassas i enlighet med detta och tillhandahållas i ett tillgängligt format, enligt vad som krävs enligt tillämplig unionsrätt, för att även säkerställa att dessa fysiska personer förstår den till fullo (20). |
|
(36) |
Meddelandena bör innehålla information om interaktionens artificiella ursprung på ett sätt som är lämpligt för det sammanhang där interaktionen äger rum. Detta bör göras på ett sätt som säkerställer att de berörda personerna informeras på ett korrekt och effektivt sätt och undviker alla risker för vilseledande eller manipulation före och under interaktionen samtidigt som man säkerställer genomförbara och proportionerliga upplysningar. Exempel på tillhandahållande av informationen är skriftliga meddelanden (t.ex. en chattbot som startar en konversation genom att nämna att den är baserad på AI-teknik), visuella medel (t.ex. en AI-märkning högst upp i ett e-postmeddelande till en fysisk person som har genererats av en AI-agent), auditiva medel (t.ex. en röstassistent som i början av en session säger att den är AI-baserad), upplysning om AI-identifierare och autentiseringsuppgifter (t.ex. AI-agenter som avslöjar sin AI-identitet i den mån det är möjligt på ett verifierbart sätt (21)). |
|
(37) |
Format för meddelanden: Utformningen av AI-systemet med multimodala och tillgängliga metoder för upplysning rekommenderas som bästa praxis. Sådana meddelanden kan kombinera olika tekniker för att öka användarnas förståelse när detta är lämpligt, beroende på sammanhanget, målgrupperna samt den sannolika publiken och de resurser som leverantörerna, särskilt små och medelstora företag, har att tillgå. Exempel på lämpliga metoder kan vara följande:
|
|
(38) |
Vissa metoder är inte nödvändiga och, när enbart de används, otillräckliga för att på ett effektivt sätt uppfylla transparensskyldigheten i artikel 50.1 och 50.5 i förordningen om artificiell intelligens, vilket i synnerhet gäller följande:
|
|
(39) |
Upplysningarna bör vara proportionerliga och anpassade till AI-systemets olika sammanhang och målgrupper för att förbli effektiva, användarvänliga och, i den mån det är möjligt, undvika eventuella avbrott i användarupplevelsen eller vaneeffekter (så kallad bannerblindhet). |
|
(40) |
Ett enda väl synligt meddelande före AI-systemets första interaktion med en viss fysisk person är sannolikt tillräckligt i de flesta fall för att uppfylla skyldigheten i artikel 50.1 i förordningen om artificiell intelligens. I vissa riskfyllda sammanhang kommer dock periodiska påminnelser och kontextmedvetna upplysningar sannolikt att krävas för att säkerställa en fortsatt medvetenhet hos användarna. Detta gäller särskilt i samband med AI-system som interagerar med utsatta personer (t.ex. barn, äldre, personer med funktionsnedsättning och personer med lägre läs- och skrivkunnighet), varaktiga och föränderliga interaktioner i känsliga eller uppslukande sammanhang (t.ex. där användare kan uttrycka eller uppleva emotionell ångest eller sårbarhet eller riskera att bli beroendeliknande beteenden), där det finns en ökad risk för att användare vilseleds (t.ex. finansiell rådgivning, försäkring, juridisk hjälp, hälsorådgivning och hantering av klagomål) eller för att bilda emotionella bilagor eller beroenden (t.ex. AI-partner) samt när det finns ett behov av att säkerställa medvetenhet och kontroll över AI-agenternas åtgärder. Leverantörer måste också utforma och utveckla AI-systemet för att säkerställa upplysning i alla situationer där AI-systemet får frågor om sin natur eller interaktionens ursprung eller där det rimligen kan antas utifrån utbytet med den fysiska personen att den personen sannolikt kommer att vilseledas eller förvirras om interaktionens AI-ursprung. |
3.2 Undantag från informationsskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens
|
(41) |
I artikel 50.1 i förordningen om artificiell intelligens föreskrivs två undantag från informationsskyldigheten avseende interaktiva AI-system som undersöks nedan. |
3.2.1 Undantag för uppenbar interaktion med ett AI-system
|
(42) |
För att kunna förlita sig på det första undantaget måste leverantörerna bedöma och demonstrera i) att interaktionens artificiella karaktär är uppenbar för ii) en fysisk person som måste vara normalt informerad, uppmärksam och medveten, med beaktande av omständigheterna kring och sammanhanget för användningen. |
|
(43) |
Denna standard bygger på etablerad EU-lagstiftning om konsumentskydd när det gäller begreppet genomsnittlig konsument och bör tolkas konsekvent, samtidigt som hänsyn tas till specifika och varierade sammanhang och användningar av AI-system som interagerar direkt med fysiska personer och de mål som eftersträvas i artikel 50.1 i förordningen om artificiell intelligens. |
|
(44) |
Utformning av en sådan genomsnittlig fysisk person består av två steg. För det första bör leverantörerna ta hänsyn till den publik som AI-systemet är avsett för och rimligen kan komma att interagera med. För det andra bör leverantören undersöka hur normalt informerad, uppmärksam och medveten en genomsnittlig medlem av den publiken är, med beaktande av omständigheterna kring och sammanhanget för användningen. Flera faktorer bör beaktas vid denna bedömning, bland andra följande:
|
|
(45) |
Uppenbar interaktion När leverantörerna fastställer den hypotetiska, normalt informerade, uppmärksamma och medvetna fysiska personen, bör de bedöma om det kommer att vara uppenbart för en sådan person att han eller hon interagerar direkt med ett AI-system. Undantaget bör tolkas restriktivt med tanke på att det fråntar fysiska personer skyddet och rätten att informeras med tydliga och urskiljbara upplysningar om att de interagerar med AI-system. Den allmänna medvetenheten hos konsumenter och andra fysiska personer om att det finns AI-system (inklusive chattbottar och agenter) innebär inte att de känner igen dem i interaktioner. Flera faktorer kan vara relevanta och betraktas som en del av bedömningen om interaktionen är uppenbar.
|
3.2.2 Undantag för AI-system som enligt lag får användas för brottsbekämpande ändamål
|
(46) |
Leverantörer av interaktiva AI-system undantas från transparensskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens om de enligt lag får upptäcka, förebygga, utreda eller lagföra brott, med förbehåll för lämpliga garantier för tredje parters rättigheter och friheter. |
|
(47) |
Enligt lag ska förstås som att det omfattar unionsrätten liksom medlemsstaternas nationella lagstiftning som antagits i enlighet med unionsrätten. Den lag som tillåter användning av AI-systemet måste tydligt ange ändamålen och omständigheterna för tillåten användning och föreskriva lämpliga skyddsåtgärder för att skydda tredje mans rättigheter och friheter. Med tanke på den teknikneutrala metoden i förordningen om artificiell intelligens är det inte nödvändigt att identifiera eller godkänna specifika AI-system enligt lag om användningen av AI-systemet i allmänhet planeras inom ramen för den enligt lag tillåtna verksamheten och den är förenlig med den tillämpliga rättsliga ramen. |
|
(48) |
För att omfattas av detta undantag måste syftet med AI-systemet vara att upptäcka, förebygga, utreda eller lagföra brott (t.ex. AI-infiltratör, AI-system som används under mänsklig kontroll av utredare för onlineutredningar eller kommunikation med personer som kan vara inblandade i brottslig verksamhet). Undantaget är inte begränsat till användning av sådana AI-system endast av brottsbekämpande myndigheter enligt definitionen i artikel 3.48 i förordningen om artificiell intelligens utan kan också omfatta interaktiva (eller generativa) AI-system som används av andra offentliga myndigheter på unionsnivå eller nationell nivå, under förutsättning att användningen av dessa system enligt lag är tillåten för att upptäcka, förebygga, utreda eller lagföra brott, med förbehåll för lämpliga garantier för tredje parters rättigheter och friheter. Undantaget innebär inte att AI-systemet måste kunna genomföra undersökningarna oberoende. Om ett sådant system både kan användas för brottsbekämpande ändamål och för andra rättsligt reglerade sammanhang bör undantagets tillämplighet bedömas mot bakgrund av det särskilda införandet. Transparensskyldigheterna fortsätter att gälla när samma AI-system används för andra ändamål än lagligt tillåten upptäckt, förebyggande, utredning eller lagföring av brott. Fysiska personer måste fortfarande få insyn när de interagerar med systemet i samband med dess regelbundna ändamål. |
|
(49) |
Undantaget gäller inte om i) AI-systemet är tillgängligt för allmänheten och ii) systemet erbjuder en funktion för enskilda personer att anmäla brott. Sådana system får användas men de omfattas fortfarande av transparensskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens och därför måste fysiska personer informeras om att de interagerar med sådana system.
För tydlighetens skull gäller detta undantag endast skyldigheten enligt artikel 50.1 att informera fysiska personer om att de interagerar med ett AI-system (22). Det påverkar inte tillämplig unionsrätt och nationell rätt, inklusive förfaranderegler för dokumentation, utlämnande, tillåtlighet och bedömning av bevis.
|
3.3 Samspel med andra unionsrättsakter
|
(50) |
Transparensskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens gäller utan att det påverkar unionens befintliga lagstiftning vad gäller konsumentskydd, dataskydd, digitala frågor eller icke-diskriminering som kan omfatta andra informationskrav som inte är specifika för interaktionens AI-ursprung. Enligt direktiv 2005/29/EG (direktivet om otillbörliga affärsmetoder) (23) är vilseledande handlingar eller underlåtenhet med avseende på en produkts eller tjänsts utmärkande egenskaper förbjudna. Enligt direktiv 2011/83/EG (direktivet om konsumenträttigheter) (24) ska näringsidkare dessutom tillhandahålla klar och tydlig förhandsinformation innan avtal ingås om varornas eller tjänsternas huvudsakliga egenskaper. Om en tjänst är AI-driven (t.ex. en abonnemangsbaserad chattbot, en AI-partnertillämpning eller en virtuell coachningstjänst) kan AI-funktionen betraktas som en väsentlig egenskap som konsumenten måste upplysas om innan denne är bunden av ett avtal. Informationsskyldigheterna enligt unionens konsumentskyddslagstiftning gäller oberoende av om samspelet anses vara ”uppenbart” enligt artikel 50.1 i förordningen om artificiell intelligens. Dessa skyldigheter kompletterar också allmänna informationsskyldigheter avseende konsumentskydd, medan meddelandeskyldigheten enligt förordningen om artificiell intelligens är mer kontextuell och syftar till att säkerställa att alla fysiska personer fortlöpande är medvetna om en direkt interaktion med ett AI-system åtminstone innan det inleds och under hela interaktionen. |
|
(51) |
Förordningen om digitala tjänster innehåller även krav på transparens för onlineplattformars rekommenderade system, inklusive ett krav på att förklara de huvudsakliga rangordningsparametrarna. Dessa skyldigheter kompletterar de öppenhetsskyldigheter som fastställs i artikel 50.1 förordningen om artificiell intelligens, eftersom de har ett annat tillämpningsområde och syfte och rör system som i princip inte interagerar direkt med användare i den mening som avses i artikel 50.1 i förordningen om artificiell intelligens. |
|
(52) |
När det gäller informationsskyldigheter gentemot registrerade enligt unionens dataskyddslagstiftning uppfyller skyldigheten i artikel 50.1 i förordningen om artificiell intelligens ett annat mål än dessa skyldigheter och påverkar därför inte dessa informationsskyldigheter. |
|
(53) |
På samma sätt gäller transparensskyldigheten enligt artikel 50.1 i förordningen om artificiell intelligens utan att det påverkar tillämpningen av unionsrätt och nationell rätt om tillhandahållande av information till personer i samband med straffrättsliga förfaranden (t.ex. direktiv 2012/13/EU eller direktiv 2012/29/EU i dess lydelse enligt direktiv (EU) 2026/1472) (25). |
4. ARTIKEL 50.2 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS MÄRKNING OCH UPPTÄCKT AV AI-GENERERAT ELLER AI-MANIPULERATINNEHÅLL
|
(54) |
Enligt artikel 50.2 i förordningen om artificiell intelligens ska leverantörer av AI-system som genererar syntetiskt innehåll införa tekniska lösningar som uppfyller vissa kvalitetskrav för maskinläsbar märkning och detektering av deras AI-systems utdata. Målet är att göra det möjligt för fysiska personer att skilja AI-genererat eller AI-manipulerat innehåll från annat innehåll (t.ex. innehåll som skapats av människor) och att kontrollera dess ursprung, vilket också bidrar till ökad integritet och förtroende för informationsekosystemet. |
|
(55) |
De som har nytta av denna transparensskyldighet är därför alla fysiska personer som sannolikt kommer att exponeras för AI-genererat eller AI-manipulerat innehåll, samt nyckelaktörer som spelar en viktig roll för informationsekosystemets förtroende och integritet, till exempel behöriga marknadskontrollmyndigheter och andra behöriga myndigheter, oberoende forskare, det civila samhällets organisationer, medier, betrodda anmälare, försvarare av grundläggande rättigheter, leverantörer av onlineplattformar och sökmotorer, rättighetshavare och andra skapare av innehåll och distributörer etc. |
4.1 Huvudkomponenter och begrepp i artikel 50.2 förordningen om artificiell intelligens
|
(56) |
Artikel 50.2 i förordningen om artificiell intelligens är tillämplig om flera kumulativa villkor är uppfyllda.
|
4.1.1 AI-system som genererar eller manipulerar syntetiskt innehåll
|
(57) |
Artikel 50.2 i förordningen om artificiell intelligens är tillämplig på AI-system (26) (inklusive AI-system för allmänna ändamål) som genererar syntetiskt ljud-, bild-, video- eller textinnehåll. Artikel 50.2 i förordningen om artificiell intelligens omfattar en undergrupp av system som uppfyller definitionen av AI-system i artikel 3.1 i förordningen om artificiell intelligens och som genererar sådana resultat. Artikel 50.2 i förordningen om artificiell intelligens omfattar även AI-system som används för att manipulera innehåll. |
|
(58) |
Med innehållsgenerering avses AI-systemets generering av syntetiskt material (t.ex. baserat på en prompt av en människa), t.ex. generering av en syntetisk bild eller en sång. I praktiken innebär detta att artikel 50.2 i förordningen om artificiell intelligens kan tillämpas på generativa AI-system som utformats för ett smalt avsett ändamål för att producera specifika resultat. Samtidigt gäller artikel 50.2 i förordningen om artificiell intelligens även AI-system som kan tjäna flera syften, däribland AI-system för allmänna ändamål och som kan producera en rad olika typer av innehåll samt agentiska AI-system under förutsättning att de genererar syntetiskt ljud-, bild-, video- eller textinnehåll. |
|
(59) |
Däremot avser innehållsmanipulation befintligt innehåll (oberoende om det är syntetiskt eller ej) som ändras av ett AI-system (t.ex. en befintlig bild eller en röstinspelning som manipuleras av ett AI-system i enlighet med mänskliga instruktioner). För att innehållet ska omfattas av artikel 50.2 i förordningen om artificiell intelligens är det tillräckligt att det är AI-genererat eller AI-manipulerat utöver vanlig redigering enligt undantagen i artikel 50.2 i förordningen om artificiell intelligens (se avsnitt 4.3). I artikel 50.2 i förordningen om artificiell intelligens krävs dessutom inte att innehållet är fullständigt AI-genererat eller AI-manipulerat. Innehåll som blandas med material skapat av en människa räknas också som syntetiskt innehåll om det manipuleras eller genereras i någon av de former som avses i artikel 50.2 i förordningen om artificiell intelligens. |
4.1.2 Former för syntetiskt innehåll som omfattas
|
(60) |
Artikel 50.2 i förordningen om artificiell intelligens innehåller en uttömmande förteckning över formerna för det syntetiska innehåll som omfattas av transparensskyldigheten som utgörs av ljud, bild, video eller text. Detta omfattar även multimodalt innehåll, dvs. innehåll som består av en blandning av dessa metoder. Vid tillämpningen av artikel 50.2 i förordningen om artificiell intelligens ska de olika formerna tolkas i enlighet med den praktiska och tekniska utveckling som kan komma att förändras med tiden. För närvarande ska de förstås enligt följande:
|
|
(61) |
AI-system som genererar eller manipulerar 3D-bilder, 3D-videor och 3D-ljud samt virtuell, förstärkt eller blandad verklighet omfattas av artikel 50.2 i förordningen om artificiell intelligens. Virtuell verklighet omfattar AI-teknik som gör det möjligt för användare att uppleva och interagera med en datorgenererad miljö som simulerar fysisk närvaro och som möjliggör användarinteraktion i realtid med den miljön. I och med att den virtuella och förstärkta verkligheten består av en tidsbaserad bildsekvens, eventuellt synkroniserad med ljud, som representerar visuell förändring över tid, kan den betraktas som videoinnehåll. Relevanta utdata som ska märkas är den slutliga formen av den enskilda AI-genererade tillgången med särskilda undantag för de tillfälliga interaktiva realtidssessionerna enligt punkt 88 nedan. Digitala artefakter som används för att generera 3D-bilder, 3D-videor och 3D-ljudinnehåll, t.ex. punktmoln eller 3D-mesh, behöver inte märkas. |
|
(62) |
Digitala tvillingar som tillhandahåller en virtuell kopia av personer, fysiska föremål eller system, som integrerar flera datatyper, omfattas också av tillämpningsområdet för artikel i 50.2 förordningen om artificiell intelligens, om de genereras eller manipuleras av AI och har formen av ett ljud-, bild-, video- eller textinnehåll, såvida de inte omfattas av undantagen och räknas som industriella applikationer eller B2B-applikationer enligt punkt 87 nedan eller kortlivat realtidsinnehåll enligt punkt 88 nedan. |
|
(63) |
Artikel 50.2 i förordningen om artificiell intelligens kan också tillämpas på AI-agenter om AI-agenten vidtar en åtgärd vars utdata utgörs av AI-genererat eller AI-manipulerat innehåll som kan uppfattas av fysiska personer i form av ett ljud-, bild-, video- eller textinnehåll. Dessa utdata måste därför märkas och kunna upptäckas enligt beskrivningen nedan. Alla AI-agenters åtgärder som inte omfattar AI-genererat eller manipulerat innehåll (t.ex. mellanliggande behandlingssteg som resonemang och tankegång) eller AI-genererade åtgärder som inte är avsedda att direkt uppfattas av fysiska personer (t.ex. en webbförfrågan eller en webbläsaråtgärd) uppfyller inte kraven på syntetiskt innehåll enligt artikel 50.2 i förordningen om artificiell intelligens och behöver inte uppfylla kraven på märkning och detektering. |
4.1.3 Innehåll som inte omfattas av artikel 50.2 i förordningen om artificiell intelligens
|
(64) |
Innehåll som genereras av ett AI-system baserat på enkel databehandling och som inte är specifikt AI-genererat eller AI-manipulerat, till exempel en renderad bildruta, faller utanför tillämpningsområdet för artikel 50.2 i förordningen om artificiell intelligens. |
|
(65) |
Dessutom omfattas inte ett AI-systems utdata som endast återger befintligt innehåll eller möjliggör presentation eller arrangemang av redan befintligt innehåll av artikel 50.2 i förordningen om artificiell intelligens. Detta kan t.ex. vara fallet för musikspellistor eller andra rekommenderade system som endast väljer eller rangordnar befintligt innehåll baserat på användarens önskemål eller aktivitet utan att skapa något nytt eller manipulera själva innehållet. Detsamma gäller AI-system som används i interna analysprocesser som extraherar och strukturerar data men som inte sammanfattar dem. |
|
(66) |
Detsamma gäller för ett AI-systems in- och utdata som endast utgör observationer och registreringar av data från fysiska eller virtuella miljöer, som inte är AI-genererade eller AI-manipulerade (t.ex. av robotar eller andra AI-aktiverade sensorer) eller dataöverföringar från AI-system utan några ändringar. Detta omfattar en rad olika AI-systems indata och utdata, i synnerhet i industrimiljöer, till exempel tillverkningsuppgifter för robotar som observerar data. Förbrukning som registrerats av AI-baserade smarta mätare, nätfrekvens- och spänningsmätningar och registrering av GPS-lokaliseringsuppgifter från fordon osv. |
|
(67) |
I och med att syftet med transparensskyldigheten i artikel 50.2 i förordningen om artificiell intelligens är att göra det möjligt för människor att särskilja AI-genererat eller manipulerat innehåll, för att hantera riskerna för vilseledande, manipulation och säkerställa integritet och förtroende för informationsekosystemet, omfattas inte innehåll som inte är relaterat till detta mål, och som inte är märkbart eller avsett att tolkas, kontrolleras eller hanteras av fysiska personer, av denna bestämmelse. |
|
(68) |
I synnerhet bör följande innehåll anses falla utanför tillämpningsområdet för artikel 50.2 i förordningen om artificiell intelligens:
|
4.2 Skyldigheten avseende märkning och upptäckt i artikel 50.2 i förordningen om artificiell intelligens
|
(69) |
I artikel 50.2 i förordningen om artificiell intelligens fastställs en transparensskyldighet för leverantörer av generativa AI-system som omfattas av den bestämmelsen och som omfattar två separata men i sig sammanlänkade delar. För det första måste leverantörerna se till att AI-systemets utdata är märkta i ett maskinläsbart format. För det andra måste leverantörerna se till att utdata kan upptäckas som artificiellt genererat eller manipulerat innehåll. För varje märkningslösning som används bör leverantörerna se till att det finns motsvarande detektionsmetoder (se nedan) för att göra det möjligt för fysiska personer som exponeras för innehållet och andra relevanta aktörer att identifiera och särskilja AI-systemets artificiellt genererade innehåll från annat innehåll. En teknisk lösning ska förstås som en kombination av metoder för märkning och metoder för upptäckt som leverantören har genomfört för att uppfylla transparensskyldigheten enligt artikel 50.2 i förordningen om artificiell intelligens. |
|
(70) |
Var och en av de två ovannämnda delarna måste uppfyllas för att på ett effektivt sätt uppnå målen för transparensskyldigheterna i artikel 50.2 i förordningen om artificiell intelligens. Om endast ett element uppfylls (t.ex. för maskinläsbar märkning av utdata utan att det finns möjlighet att upptäcka dem) räcker det inte att efterleva den bestämmelsen (27). |
4.2.1 Märkningsskyldigheten
|
(71) |
Märkningsskyldighetens tillämpningsområde är begränsat till att genomföra märkning i maskinläsbart format. Ett maskinläsbart format innebär att märken är strukturerade på ett sätt som gör det möjligt för programapplikationer att enkelt identifiera, känna igen och extrahera dem utan mänsklig medverkan. Identifierbara märken och märkningar är inte uteslutna som en kompletterande åtgärd, när detta är lämpligt, för att underlätta för tillhandahållare att uppfylla sin skyldighet att märka deepfakes i enlighet med artikel 50.4 i förordningen om artificiell intelligens. |
|
(72) |
För att uppfylla märkningsskyldigheten får leverantörerna förlita sig på en enda märkningsteknik eller en kombination av metoder, under förutsättning att deras övergripande tekniska lösning är maskinläsbar och uppfyller kraven på effektivitet, driftskompatibilitet, robusthet och tillförlitlighet i rättsligt nödvändig utsträckning, i enlighet med artikel 50.2 andra meningen i förordningen om artificiell intelligens (se avsnitt 4.2.3 nedan). |
|
(73) |
I skäl 133 i förordningen om artificiell intelligens ges exempel på sådan teknik som omfattar vattenmärken, metadataidentifiering, kryptografiska metoder för att bevisa innehålls härkomst och äkthet, loggningsmetoder, fingeravtryck eller annan teknik samt en kombination av sådan teknik. Även om metoder för att bevisa härkomst och äkthet nämns i skäl 133 i förordningen om artificiell intelligens behöver leverantörerna inte registrera eller upprätthålla en fullständig härkomstkedja med information om innehållets ursprung och ändringar eller andra relevanta påståenden om innehållets historia. Sådana härkomstmetoder kan dock också användas för efterlevnad av artikel 50.2 i förordningen om artificiell intelligens och bidra till att göra det möjligt för fysiska personer att skilja AI-genererat eller manipulerat innehåll från autentiskt innehåll. |
|
(74) |
Leverantörer får införa märkningslösningen för utdata i olika steg av värdekedjan (t.ex. i efterhand efter innehållsgenerering på AI-systemets nivå, på nivån för den underliggande AI-modellen eller integrerat i AI-systemets slutledningsprocess). De kan använda sig av den märkningslösning som införts av en modelleverantör i tidigare led eller en tredje part som tillhandahåller lösningen (t.ex. som en öppen standard eller en specialiserad tjänst) i den mån märkningslösningen överensstämmer med artikel 50.2 i förordningen om artificiell intelligens. En sådan användning påverkar inte det ansvar som åligger leverantören av AI-systemet att påvisa att artikel 50.2 i förordningen om artificiell intelligens följs. |
4.2.2 Skyldigheten avseende upptäckt
|
(75) |
Leverantörer av AI-system som omfattas av artikel 50.2 i förordningen om artificiell intelligens måste säkerställa att utdata från deras system kan upptäckas som AI-genererat eller manipulerat innehåll. Detta innebär att leverantören är skyldig att se till att verktygen för upptäckt är tillgängliga för de personer som kan exponeras för innehållet. I enlighet med artikel 50.5 i förordningen om artificiell intelligens bör sådana lösningar för upptäckt dessutom vara i stånd att ge resultat som är läsbara för människor och som anger om innehållet är AI-genererat eller manipulerat. |
|
(76) |
Ett verktyg för upptäckt är en mekanism som upptäcker om innehåll är AI-genererat eller AI-manipulerat och som vanligtvis identifierar tekniska markörer eller signaturer som verifierar innehållets ursprung. För att säkerställa fullständig interoperabilitet måste leverantörerna förlita sig på offentligt tillgängliga standardlösningar för upptäckt i branschen som gör det möjligt för tredje part att genomföra upptäcktsåtgärder som helst kan utföras lokalt på den digitala enheten och möjliggör sömlös integrering i fristående, isolerade nätverk. Om sådana standarder inte finns tillgängliga, särskilt i det inledande skedet av genomförandet av artikel 50.2 i förordningen om artificiell intelligens för vattenmärkningsteknik, får leverantören förlita sig på sin egen lösning för upptäckt eller på en tredje part eller en gemensam lösning för upptäckt, under förutsättning att dessa lösningar säkerställer interoperabilitet med de lösningar för upptäckt som används av andra leverantörer (se avsnitt 4.2.3.). Denna möjlighet bör vara tidsbegränsad till dess att harmoniserade standarder och en standardiserad leverantörsoberoende och interoperabel lösning för upptäckt framkommer som är säker, integritetsbevarande och lokalt verkställbar. |
|
(77) |
I artikel 50.5 i förordningen om artificiell intelligens anges vidare att den information som avses i artikel 50.2 i förordningen om artificiell intelligens ska lämnas till de fysiska personer som exponeras för innehållet på ett tydligt och urskiljbart sätt senast vid tidpunkten för den första interaktionen eller exponeringen. Denna information är i synnerhet resultatet av upptäcktsåtgärden, som visar om innehållet är AI-genererat eller AI-manipulerat, och inte det AI-genererade eller AI-manipulerade innehållet i sig. Vid tidpunkten för den första exponeringen avser den tidpunkt då fysiska personer är villiga att kontrollera ursprunget för ett visst innehåll och få tillgång till lösningen för upptäckt för att erhålla upptäcktsresultaten. |
|
(78) |
Om leverantören av AI-systemet är beroende av en annan aktör för tillhandahållandet eller tillgången till en lösning för upptäckt måste han eller hon se till att lösningen för upptäckt överensstämmer med artikel 50.2 och 50.5 i förordningen om artificiell intelligens och att dessa aktörer visar resultaten för upptäckt i enlighet med artikel 50.5 i förordningen om artificiell intelligens (se avsnitt 7). |
4.2.3 Överensstämmelse med kraven för tekniska lösningar, som ska vara effektiva, interoperabla, robusta och tillförlitliga
|
(79) |
I artikel 50.2 andra meningen i förordningen om artificiell intelligens föreskrivs att de tekniska lösningarna för märkning och upptäckt måste vara effektiva, interoperabla, robusta och tillförlitliga. Dessa krav ska förstås enligt följande:
|
|
(80) |
Leverantörerna måste se till att kombinationen av de tekniska lösningarna för märkning och upptäckt på ett övergripande sätt uppfyller alla ovannämnda krav i rättsligt nödvändig utsträckning med hänsyn tagen till begränsningarna och komplementariteten för de olika lösningar som används. De tekniska lösningarna måste överensstämma med alla krav i den mån det är tekniskt möjligt, med hänsyn tagen till särdragen och begränsningarna för olika typer av innehåll, genomförandekostnaderna och den allmänt erkända senaste tekniken, vilket kan återspeglas i relevanta tekniska standarder. |
|
(81) |
Tekniskt genomförbara lösningar i den mening som avses i artikel 50.2 i förordningen om artificiell intelligens är lösningar som kan genomföras för de former som omfattas av tillhandahållandet, med användning av för närvarande tillgänglig teknik, metoder och teknisk praxis, inom den specifika tekniska arkitektur och operativa miljö som berörs. Leverantören är inte skyldig att använda en teknisk lösning som ännu inte har utvecklats eller finns tillgänglig på marknaden eller som är tekniskt omöjlig att använda för genomförandet. Teknisk genomförbarhet är ett objektivt begrepp som inte är beroende av enskilda leverantörers specifika resurser och kapacitet. |
|
(82) |
Enligt artikel 50.2 i förordningen om artificiell intelligens ska leverantörerna genomföra tekniskt genomförbara lösningar som är anpassade till den allmänt erkända tekniska utvecklingen för att uppfylla de fyra kvalitetskraven effektivitet, robusthet, tillförlitlighet och interoperabilitet. |
|
(83) |
Den senaste tekniken ska förstås som ett utvecklat stadium av teknisk kapacitet vid en viss tidpunkt när det gäller produkter, processer och tjänster, baserat på relevanta konsoliderade resultat inom vetenskap, teknik och erfarenhet och som godtas som god praxis inom teknik (28). Den senaste tekniska utvecklingen innebär inte nödvändigtvis den senaste vetenskapliga forskningen som fortfarande befinner sig i ett experimentstadium eller med otillräcklig teknisk mognad. Leverantörerna måste kontinuerligt anpassa sina lösningar för märknings och upptäckt inom rimlig tid och på ett proportionerligt sätt allteftersom tekniken och den senaste utvecklingen går vidare. |
|
(84) |
Mot bakgrund av artikel 50.7 i förordningen om artificiell intelligens får leverantörerna förlita sig på en uppförandekod, som bedöms vara lämplig enligt den bestämmelsen för att visa överensstämmelse med skyldigheterna avseende märkning och upptäckt i artikel 50.2 och 50.5 i förordningen om artificiell intelligens, som är anpassad till den senaste tekniska utvecklingen. För ytterligare information om effekterna av att följa en sådan kod och övervakningen av andra leverantörer som inte följer en kod hänvisas till avsnitt 8.1 nedan. |
|
(85) |
Kostnaderna för att genomföra vissa tekniska lösningar för märkning och upptäckt kan också beaktas. I vissa fall, enligt beskrivningen i följande punkter, kan kostnaderna vara oproportionerliga i förhållande till marginella vinster med ett mer begränsat värde för att göra det möjligt för människor att urskilja AI-genererat eller AI-manipulerat innehåll och säkerställa integriteten och förtroendet för informationsekosystemet. |
|
(86) |
Det kan därför finnas snävt definierade fall där en teknisk lösning som bygger på mindre robusta märkningar med metadata är tillräcklig för att uppfylla artikel 50.2 i förordningen om artificiell intelligens med beaktande av särdragen i AI-systemets utdata om de medför till sin natur lägre risker för vilseledande, manipulation eller negativa effekter på informationsekosystemet. Detta gäller särskilt när ett generativt AI-system är inbyggt i fysiska produkter som genererar utdata i en tekniskt kontrollerad och sluten miljö som främst är instruktiv till sin natur (t.ex. ett AI-system inbyggt i navigeringssystem i fordon) i den utsträckning som effektiva tekniska åtgärder är inbäddade i produkten för att förhindra att utdata lämnar produktmiljön, t.ex. genom att fångas upp eller exporteras och spridas externt. |
|
(87) |
Det kan också finnas begränsade fall av så kallade industriella AI-applikationer eller B2B-applikationer (med undantag för offentliga och konsumentinriktade AI-system) där proportionalitetsprincipen och de begränsade fördelarna för transparensmålen innebär att det inte krävs någon märkning och upptäckt av AI-genererade eller manipulerade utdata. Detta gäller endast om följande krav är uppfyllda kumulativt:
|
|
(88) |
Generering av innehåll i realtid som är tillfälligt och som konsumeras omedelbart, utan att spelas in, lagras eller spridas ytterligare (t.ex. i videospel eller tillämpningar för virtuell verklighet) kan också undantas om märkning inte är tekniskt genomförbar och de personer som exponeras för innehållet görs medvetna om att innehållet är AI-genererat eller AI-manipulerat (t.ex. information som visas i själva upplevelsen eller meddelanden på sessionsnivå). |
4.3 Undantag från skyldigheterna enligt artikel 50.2 i förordningen om artificiell intelligens
|
(89) |
Artikel 50.2 i förordningen om artificiell intelligens innehåller tre uttryckliga undantag från de transparensskyldigheter som fastställs i den bestämmelsen. |
|
(90) |
Det första undantaget gäller AI-system i den mån de utför en hjälpfunktion för vanlig redigering. Vanlig redigering bör förstås som processen för att förbereda befintligt innehåll för offentliggörande eller distribution (t.ex. små redigeringar för att förbättra läsbarheten och grammatiken, kvaliteten och formatet) och inbegriper inte generering av nytt innehåll. Vanlig redigering syftar till att säkerställa att innehållet bland annat är fritt från uppenbara tekniska fel eller grammatiska språkfel, är anpassat till tillämpliga krav på utformning, presentation, formatering eller tillgänglighet eller överensstämmer med branschpraxis. Redigering går utöver vanlig redigering om innehållet ändras på ett väsentligt sätt (t.ex. ändringar i sak eller struktur) som påverkar dess innebörd, stil eller avsikt. |
|
(91) |
Det andra undantaget gäller om ett AI-system inte väsentligt ändrar de indata som tillhandahålls av tillhandahållaren eller deras semantik. En ändring bör betraktas som väsentlig om indata eller deras semantik har manipulerats avsevärt av AI-systemet under processen för generering av utdata. Detta måste baseras på en bedömning av relevanta faktorer, till exempel format, medieinnehållstyp, format och ändringar av innehåll som påverkar dess innebörd, stil eller avsikt. Om det är så att detta är fallet krävs en fallspecifik bedömning. |
|
(92) |
Om ett AI-system kan användas både för generering eller manipulering av innehåll och för icke väsentliga mindre ändringar av indata kommer transparensskyldigheten enligt artikel 50.2 i förordningen om artificiell intelligens inte att tillämpas på innehåll som ändrats på ett mindre, icke-väsentligt sätt.
|
|
(93) |
Det tredje undantaget gäller generativa AI-system som enligt lag får generera eller manipulera syntetiskt innehåll för att upptäcka, förebygga, förhindra, utreda eller lagföra brott. De förtydliganden som ges i punkterna 46–48 ovan för detta undantag är också relevanta i detta fall. |
4.4 Samspel med andra unionsrättsakter
|
(94) |
Skyldigheterna avseende märkning och upptäckt enligt artikel 50.2 i förordningen om artificiell intelligens fokuserar på hur innehållet har skapats och dess artificiella ursprung, inte på vem som har skapat innehållet. Alla lösningar för märkning och upptäckt som används av leverantörer av AI-system måste därför vara förenliga med tillämplig unionslagstiftning om dataskydd, inklusive principer och skyldigheter för dataskydd, till exempel skyldigheten att ha ett inbyggt dataskydd och dataskydd som standard, uppgiftsminimering samt principerna om säkerhet och konfidentialitet. När det gäller t.ex. märkning och upptäckt bör information som rör skaparen av innehållet inte behandlas, alla andra personuppgifter som behandlas bör raderas så snart upptäcktssyftet är uppfyllt, säkerhet och konfidentialitet måste säkerställas osv. |
|
(95) |
I skäl 136 i förordningen om artificiell intelligens betonas vidare den särskilda relevansen av transparensskyldigheterna enligt artikel 50.1, 50.2 och 50.4 i förordningen om artificiell intelligens för att underlätta ett effektivt genomförande av förordningen om digitala tjänster.. Detta gäller särskilt i fråga om skyldigheterna för leverantörer av mycket stora onlineplattformar eller mycket stora onlinesökmotorer att noggrant identifiera och begränsa systemrisker som kan uppstå till följd av spridning av innehåll som genererats artificiellt eller manipulerats, särskilt risken för faktiska eller förutsebara negativa effekter på demokratiska processer, samhällsdebatten och valprocesser, inklusive genom desinformation (artiklarna 34 och 35 i förordningen om digitala tjänster). Maskinläsbara märken kan göra det möjligt för leverantörerna att upptäcka AI-genererat eller manipulerat innehåll och tillhandahålla lämplig märkning och information, vilket minskar risken för AI-genererad desinformation inom deras tjänster. |
|
(96) |
Skyldigheterna att märka innehåll som genererats eller manipulerats av AI-system enligt artikel 50.2 och 50.4 i förordningen om artificiell intelligens påverkar inte skyldigheten i artikel 16.6 i förordningen om digitala tjänster för leverantörer av värdtjänster att behandla anmälningar om olagligt innehåll som mottagits i enlighet med artikel 16.1 i förordningen om digitala tjänster (29). I synnerhet bör märkning av AI-genererat eller manipulerat innehåll inte påverka bedömningen av och beslutet om det specifika innehållets olaglighet enligt andra regelverk. Den bedömningen bör endast göras med hänvisning till de bestämmelser som reglerar innehållets laglighet i enlighet med dessa andra regelverk (30). Om t.ex. en märkt deepfake-bild flaggas som potentiellt material med sexuella övergrepp mot barn eller som potentiell överträdelse av varumärkes- eller upphovsrättslagstiftningen påverkar inte märkningen innehållets potentiella olaglighet enligt dessa regelverk. Denna bedömning bör endast göras på grundval av respektive tillämplig lagstiftning (t.ex. straffrätt, varumärkesrätt eller upphovsrättslagstiftning). |
|
(97) |
Omvänt kan den maskinläsbara märkning som ingår i innehållet i enlighet med artikel 50.2 i förordningen om artificiell intelligens hjälpa leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att fullgöra sina skyldigheter enligt artiklarna 34 och 35 i förordningen om digitala tjänster att identifiera, analysera och bedöma systemrisker som kan uppstå genom spridning av innehåll som har genererats artificiellt eller manipulerats, i synnerhet risken för faktiska eller förutsebara negativa effekter på demokratiska processer, medborgardiskussioner och valprocesser, inklusive genom desinformation (31) och att införa rimliga, proportionella och effektiva åtgärder för att minska dessa risker, skräddarsydda för de specifika systemrisker som identifierats. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer kan också räknas som leverantörer av AI-system om de uppfyller de relevanta villkoren i förordningen om artificiell intelligens där de integrerar AI-system i sina tjänster (se även avsnitt 6.1.5). |
|
(98) |
Leverantörer av onlineplattformar, sökmotorer och andra relevanta aktörer som distribuerar innehåll längs värdekedjan uppmuntras särskilt att bevara och göra det möjligt att identifiera de märken som leverantörerna tillämpar i enlighet med artikel 50.2 i förordningen om artificiell intelligens så att fysiska personer som exponeras för innehållet kan informeras om dess ursprung. |
5. ARTIKEL 50.3 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS: SYSTEM FÖR KÄNSLOIGENKÄNNING OCH BIOMETRISK KATEGORISERING
|
(99) |
I artikel 50.3 i förordningen om artificiell intelligens föreskrivs en skyldighet för användare av system för känsloigenkänning och biometrisk kategorisering att informera fysiska personer som exponeras för dessa system om hur systemet fungerar. |
|
(100) |
I skäl 132 i förordningen om artificiell intelligens förklaras att syftet med denna skyldighet är att säkerställa att fysiska personer (inklusive personer med funktionsnedsättning) är medvetna om att de utsätts för system för känsloigenkänning och biometrisk kategorisering som kan inkräkta på deras privatliv. Skyldigheten gäller därför oavsett om personerna exponeras för sådana system i realtid eller om dessa system drivs i efterhand. |
5.1 Huvudkomponenter, begrepp och tillhörande transparensskyldigheter enligt artikel 50.3 i förordningen om artificiell intelligens
5.1.1 Begreppet system för känsloigenkänning
|
(101) |
I artikel 3.39 i förordningen om artificiell intelligens definieras ett system för känsloigenkänning som ”ett AI-system vars syfte är att identifiera eller uttyda fysiska personers känslor eller avsikter på grundval av deras biometriska uppgifter”. Den detaljerade förklaringen av detta begrepp i kommissionens riktlinjer om klassificering av AI-system med hög risk, inklusive de praktiska exempel som anges i riktlinjerna, är lika relevant inom ramen för artikel 50.3 i förordningen om artificiell intelligens. |
|
(102) |
Eftersom alla system för känsloigenkänning också klassificeras som AI-system med hög risk, om de inte är förbjudna på arbetsplatsen eller vid utbildningsinstitutioner enligt artikel 5.1 f i förordningen om artificiell intelligens, bör transparensskyldigheten i artikel 50.3 i förordningen om artificiell intelligens tillämpas tillsammans med andra skyddsåtgärder och krav som är tillämpliga på AI-system med hög risk. |
5.1.2 Begreppet system för biometrisk kategorisering
|
(103) |
I artikel 3.40 i förordningen om artificiell intelligens definieras ett system för biometrisk kategorisering som ”ett AI-system för hänförande av fysiska personer till särskilda kategorier på grundval av deras biometriska uppgifter, om det inte utgör en extrafunktion till en annan kommersiell tjänst och är strikt nödvändigt av objektiva tekniska skäl”. Den detaljerade förklaringen av detta begrepp i kommissionens riktlinjer om klassificering av AI-system med hög risk, inklusive dess specifika element samt de praktiska exempel som anges i riktlinjerna, är lika relevant inom ramen för artikel 50.3 i förordningen om artificiell intelligens. |
|
(104) |
Såvida inte användningsområdet är förbjudet enligt artikel 5.1 g i förordningen om artificiell intelligens gäller artikel 50.3 i förordningen om artificiell intelligens alla system för biometrisk kategorisering (t.ex. ålders- eller könsklassificering på grundval av biometriska uppgifter) oavsett om de räknas som AI-system med hög risk enligt förordningen om artificiell intelligens eller inte. |
5.1.3 Informationsskyldigheten enligt artikel 50.3 i förordningen om artificiell intelligens
|
(105) |
Omfattningen av den information som ska lämnas Tillhandahållarna är skyldiga att informera de berörda fysiska personerna om att de utsätts för ett system för känsloigenkänning eller ett system för biometrisk kategorisering som används. Förordningen om artificiell intelligens kräver inte informering om orsakerna till systemets drift eller om systemet även behandlar information för andra ändamål än känsloigenkänning eller biometrisk kategorisering som ska offentliggöras enligt unionens dataskyddslagstiftning (se avsnitt 5.3). |
|
(106) |
Vilka informationen riktar sig till Enligt artikel 50.3 i förordningen om artificiell intelligens ska tillhandahållare informera alla fysiska personer som exponeras för driften av AI-systemet, inklusive barn. |
|
(107) |
Metoderna för att lämna information I förordningen om artificiell intelligens föreskrivs inte något särskilt sätt att lämna informationen, förutom att det enligt artikel 50.5 i förordningen om artificiell intelligens krävs att informationen ska lämnas på ett tydligt och urskiljbart sätt och i enlighet med tillämpliga tillgänglighetskrav (som motsvarar behoven för fysiska personer med funktionsnedsättning). Hur fysiska personer som exponeras för systemet ska informeras kan bero på platsen för utplaceringen (t.ex. virtuell spelplattform, fysisk butik, tågstation), de möjliga adressaterna (t.ex. barn, äldre, personer med funktionsnedsättning, kunder), exponeringens längd och typ (t.ex. långsiktig, enstaka, kontinuerlig, intermittent) och den eventuella förekomsten av ett förhållande mellan tillhandahållaren och de personer som exponeras (t.ex. om det finns en befintlig kommunikationskanal med personen). Beroende på användningsfallet kan informationen lämnas skriftligen, genom standardiserade ikoner (även när de presenteras elektroniskt), muntligen eller med hjälp av kombinationer av sådana metoder.
|
|
(108) |
Tidsfristen för att lämna informationen Informationen ska lämnas senast vid den första interaktionen med eller exponeringen för AI-systemet i enlighet med artikel 50.5 i förordningen om artificiell intelligens. I förekommande fall är det inte uteslutet att den begärda informationen lämnas i förväg. |
5.2 Undantag för brottsbekämpande ändamål
|
(109) |
Informationsskyldigheten gäller inte system för känsloigenkänning och system för biometrisk kategorisering som enligt lag får upptäcka, förebygga eller utreda brott, med förbehåll för lämpliga garantier för tredje parters rättigheter och friheter, och i enlighet med unionsrätten. De förtydliganden som föreskrivs för detta undantag i punkterna 46–48 ovan är också relevanta i detta fall med en skillnad. Även om de andra undantagen i artikel 50 i förordningen om artificiell intelligens kräver en uttrycklig lag som tillåter en icke-transparent användning av AI-systemen, gör artikel 50.3 i förordningen om artificiell intelligens sådan användning möjlig när detta är tillåtet enligt de rättsliga reglerna om de brottsbekämpande myndigheternas befogenheter att använda system för känsloigenkänning och system för biometrisk kategorisering för att upptäcka, förebygga eller utreda brott utan att informera de berörda personerna, med förbehåll för lämpliga garantier. |
5.3 Samspel med andra unionsrättsakter
|
(110) |
Informationsskyldigheten enligt artikel 50.3 i förordningen om artificiell intelligens gör i sig inte användningen av ett system för känsloigenkänning och ett system för biometrisk kategorisering lagligt. Den legitimerar inte heller inkräktande eller diskriminerande användningar som kan vara olagliga och förbjudna enligt artikel 5 i förordningen om artificiell intelligens eller annan unionslagstiftning. Tillhandahållarna måste uppfylla informationsskyldigheten i artikel 50.3 i förordningen om artificiell intelligens, utöver eventuella tillämpliga informationskrav enligt unionens dataskyddslagstiftning. I vissa fall kan tillhandahållare överväga att lägga till meddelanden enligt artikel 50.3 i förordningen om artificiell intelligens till den information som lämnas till registrerade enligt unionens dataskyddslagstiftning. |
6. ARTIKEL 50.4 MÄRKNING AV DEEPFAKES OCH VISSA TEXTPUBLIKATIONER
|
(111) |
I artikel 50.4 i förordningen om artificiell intelligens fastställs två separata skyldigheter som är riktade till tillhandahållare av generativa AI-system som, utom i vissa bestämda fall, kräver tydliga och urskiljbara upplysningar om i) deepfakes och ii) AI-genererad eller manipulerad text som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse. Dessa märkningskrav gäller i tillägg till och utan att det påverkar skyldigheterna avseende maskinläsbar märkning och upptäckt enligt artikel 50.2 i förordningen om artificiell intelligens som gäller leverantörer av AI-system som genererar eller manipulerar syntetiska bilder, video-, ljud- eller textinnehåll. |
6.1 Huvudkomponenter, begrepp och tillhörande transparensskyldigheter när det gäller deepfakes enligt artikel 50.4 i förordningen om artificiell intelligens
|
(112) |
Artikel 50.4 första stycket i förordningen om artificiell intelligens är tillämplig om följande villkor är uppfyllda:
|
6.1.1 Begreppet deepfake
|
(113) |
I artikel 3.60 i förordningen om artificiell intelligens definieras deepfake som AI-genererat eller AI-manipulerat bild-, ljud- eller videoinnehåll som liknar existerande personer, föremål, platser, enheter eller händelser och som för en person felaktigt kan framstå som autentiskt eller sanningsenligt. Skillnaden mellan manipulation och generering har klargjorts i avsnitt 4.1 ovan. För att klargöra begreppet deepfake granskas fyra kumulativa kriterier från den definitionen, dvs. i) likhet med ii) existerande iii) personer, föremål, platser, enheter eller händelser iv) som för en person felaktigt skulle framstå som autentisk eller sanningsenlig.
|
|
(114) |
Huruvida innehållet felaktigt framstår som autentiskt eller sanningsenligt bör bedömas som en helhet, med hänsyn tagen till graden av likhet, det potentiella sakbudskapet i innehållet, de avsedda och förutsebara spridningssammanhangen, den miljö där innehållet presenteras samt sammansättningen av den avsedda publiken och den publik som rimligen kan förutses och dessa publikers förväntningar. Denna bedömning är dock objektiv och kräver inte att tillhandahållaren har för avsikt att lura eller vilseleda de fysiska personer som exponeras för innehållet för att det ska utgöra en deepfake. När det gäller användningskontexten och publikens förväntningar innebär detta att om innehållet används i specifika användningskontexter där den avsedda publiken och den publik som rimligen kan förutses inte förväntar sig att innehållet ska vara autentiskt eller sanningsenligt, kanske det AI-genererade eller manipulerade innehållet inte felaktigt framstår som autentiskt eller sanningsenligt även om det i själva verket är icke-autentiskt eller inte sanningsenligt. I sådana fall kommer det fjärde kriteriet i definitionen av deepfake inte att uppfyllas. AI-genereringen eller manipuleringen av bakgrundsscener, specialeffekter eller teknisk för- och efterbehandling som en del av standardprocesser för filmproduktion kommer till exempel sannolikt inte att göra att innehållet för publiken felaktigt framstår som autentiskt eller sanningsenligt. Omvänt är det troligt att användningen av AI för att generera eller manipulera väsentliga delar som påverkar publikens uppfattning kommer att göra detta (t.ex. fullständigt AI-genererade skådespelare, digitala kopior av verkliga eller avlidna skådespelare, föryngring, simulerade uppträdanden inklusive delar av dessa eller icke-autentiska eller osanna representationer av personer, föremål, platser eller händelser i dokumentärer). När det gäller bild- och videoinnehåll erkänns att en hög grad av fotorealism gör det mer sannolikt att sådant innehåll bör betraktas som deepfake (eftersom det sannolikt liknar något existerande), men fotorealism i sig är inte avgörande för bedömningen. Vad som fortfarande bör bedömas är huruvida sådant innehåll kan lura eller vilseleda en person när det gäller innehållets autenticitet eller sanningsenlighet samtidigt som hänsyn tas till bland annat det avsedda och förutsebara användningskonceptet. |
|
(115) |
I motsats till artikel 50.1 i förordningen om artificiell intelligens bör bedömningen av om innehållet ger ett falskt intryck av att vara autentiskt eller sanningsenligt inte baseras på en hypotetisk genomsnittlig person som förväntas exponeras för innehållet (se avsnitt 3.2.1) utan bör ta vederbörlig hänsyn till den potentiellt heterogena sammansättningen av den publik som rimligen kan förutses och som kan exponeras för deepfake-innehållet. Vederbörlig hänsyn till publikens sammansättning är särskilt viktig om det rimligen kan förutses att deepfake-innehållet vid någon tidpunkt kan uppfattas av barn, äldre eller andra grupper av personer med lägre digital kompetens och AI-kunnighet eller med en lägre allmän kunskapsnivå, eftersom de eventuellt löper större risk att luras eller vilseledas när det gäller innehållets autenticitet eller sanningsenlighet. I sådana fall skulle det faktum att innehållet gör ett felaktigt intryck av autenticitet eller sanningsenlighet på den delen av den sannolika publiken kunna räcka för att innehållet ska anses vara en deepfake. Tillhandahållarna förväntas dock inte ta i beaktande en potentiell ytterligare spridning av deepfake-innehållet av tredje parter som skulle innebära att detta tillgänglinggörs för andra än den publik som tillhandahållaren, givet de avsedda distributionskanalerna, rimligen kan förutse (om t.ex. deepfake-innehåll enbart visas på en del av en webbplats som endast är avsedd för abonnenter eller som en del av ett företags nyhetsbrev innebär detta inte att tillhandahållaren automatiskt måste överväga risken att det görs tillängligt för en bred allmänhet). |
|
(116) |
På liknande sätt kan AI-stödd manipulering av obetydliga materiella eller tekniska aspekter av befintligt innehåll vara av mindre betydelse för en persons bedömning av innehållets autenticitet eller sanningsenlighet utan att det innehåll som blir resultatet blir en deepfake. Detta kan till exempel omfatta redigering av bakgrundsinformation (t.ex. borttagning av förbipasserande), ljusjusteringar, anpassning av ljudparametrar, färgkorrigering, reducering eller borttagning av brus, förbättrad tillgänglighet eller filkomprimering, kosmetiska justeringar och förbättringar. Huruvida manipulationen kommer att ingå i denna kategori beror på sammanhanget och inverkan på personens uppfattning av innehållets autenticitet eller sanningsenlighet i det enskilda fallet. Till exempel är AI-baserad färgkorrigering, AI-baserade bakgrundsutökningar av befintligt innehåll, justeringar eller ersättningar av bakgrunder för tydligt estetiska ändamål, sammansättningar och arrangemang av befintliga produkter eller AI-baserad skalning av bilder som används i produktreklam eller en förpackning sannolikt endast av mindre betydelse för en persons uppfattning av reklamens och produktens autenticitet och sanningsenlighet. Omvänt kan omfattande AI-styrd redigering av bakgrundsuppgifter om journalistiska bilder utöver standardmässiga tekniska, redaktionella metoder inverka negativt på en persons uppfattning om innehållets autenticitet och sanningsenlighet.
|
6.1.2 Upplysningsskyldighet enligt artikel 50.4 första stycket i förordningen om artificiell intelligens
|
(117) |
I artikel 50.4 första stycket i förordningen om artificiell intelligens åläggs tillhandahållare av AI-system som genererar eller manipulerar bild-, ljud- eller videoinnehåll som utgör en deepfake att upplysa om att deepfake-innehållet har genererats artificiellt eller manipulerats. I skäl 134 i förordningen om artificiell intelligens klargörs att tillhandahållare som använder AI-system för att generera eller manipulera deepfake-innehåll på ett tydligt och urskiljbart sätt bör upplysa om att sådant innehåll har skapats artificiellt eller manipulerats genom märkning av AI-utdata i enlighet med detta och upplysa om dess artificiella ursprung. Märknings- eller upplysningsmetoder som tillämpas i enlighet med artikel 50.4 första stycket i förordningen om artificiell intelligens bör vara begripliga och kunna uppfattas av fysiska personer (t.ex. med synliga eller hörbara märkningar) utan att de behöver förlita sig på några särskilda tekniska verktyg eller vidta särskilda åtgärder. Därför kan tillhandahållare inte förlita sig på den maskinläsbara märkning som leverantören har bäddat in enligt artikel 50.2 i förordningen om artificiell intelligens eftersom dessa märkningar inte omedelbart är tydliga och urskiljbara för de fysiska personer som exponeras för deepfake-innehållet. |
|
(118) |
Mot bakgrund av artikel 50.7 i förordningen om artificiell intelligens får tillhandahållare följa en uppförandekod som bedöms vara lämplig enligt artikel 50.7 i förordningen om artificiell intelligens för att visa att de uppfyller denna upplysningsskyldighet. För ytterligare information om effekterna av att följa en sådan kod och övervakningen av andra tillhandahållare som inte följer en kod hänvisas till avsnitt 8.1 nedan. |
6.1.3 Insyn i konstnärligt, kreativt, satiriskt, skönlitterärt eller liknande deepfake-innehåll
|
(119) |
I artikel 50.4 första stycket i förordningen om artificiell intelligens föreskrivs en reducerad transparensskyldighet för deepfakes som utgör en del av uppenbart konstnärliga, kreativa, satiriska, skönlitterära eller liknande verk eller program. För sådant innehåll är transparensskyldigheten begränsad till upplysning om deepfaken på ett lämpligt sätt som inte hindrar att verket visas upp eller åtnjuts. |
|
(120) |
Relevanta innehållskategorier För att omfattas av den reducerade transparensupplysningen bör deepfaken (bild, ljud eller video) ingå i åtminstone en av innehållskategorierna konstnärliga, kreativa, satiriska, skönlitterära eller liknande verk eller program. Huruvida en deepfake omfattas av en eller flera av dessa kategorier kräver en bedömning från fall till fall av tillhandahållaren. Vid tillämpning av artikel 50.4 i förordningen om artificiell intelligens ska dessa kategorier tolkas på följande sätt:
|
|
(121) |
Ovanstående innehållskategorier kan också tillämpas på program som bör förstås som ett enskilt inslag i en programtablå eller katalog som har sammanställts av en leverantör av medietjänster och som till form och innehåll är jämförbara med tv-sändningar (33). Hänvisningen till verk inom ramen för artikel 50.4 i förordningen om artificiell intelligens har ingen betydelse för huruvida innehållet uppfyller kraven för skydd enligt unionsrätten om upphovsrätt och närstående rättigheter. |
|
(122) |
Uppenbart Det faktum att en deepfake faller inom en (eller flera) av ovannämnda innehållskategorier bör vara uppenbart för de fysiska personer som exponeras för den. Detta innebär att kategorierna bör tolkas strikt, vilket motiveras av att mindre strikta transparensregler gäller vid potentiell inverkan på yttrandefriheten och friheten för konsten och vetenskapen, medan riskerna för felaktig information, manipulation och bedrägeri fortfarande måste hanteras på lämpligt sätt. Därför utesluts innehåll vars karaktär kan vara otydlig eller tvetydig för publiken från tillämpningsområdet för dessa mindre stränga transparensbestämmelser. Relevanta faktorer för att bedöma den uppenbara karaktären för konstnärligt, kreativt, satiriskt eller skönlitterärt innehåll är i) huruvida innehållet visar format eller stilar som är karakteristiska för innehållskategorierna (t.ex. ironi eller överdrift för satiriska verk, vissa konststilar, tydliga teman, tekniker eller estetik osv.), ii) det sammanhang i vilket innehållet presenteras (t.ex. om den plattform, det medium eller den plats där innehållet presenteras, görs tillgängligt eller distribueras är förknippad med konstnärlig, kreativ, satirisk eller skönlitterär användning) och iii) publikens förväntningar (t.ex. en film, en spelmiljö eller en virtuell verklighetsscen). Dessutom innebär kravet att innehållet uppenbart ska falla inom någon av ovanstående innehållskategorier att innehåll vars karaktär uteslutande är informativt eller kommersiellt och som är igenkännbart som sådant (t.ex. nyhetsrapportering) inte omfattas av dessa innehållskategorier. I detta avseende kan vissa typer av innehåll (t.ex. annonser eller dokumentärer) som innehåller deepfakes betraktas som uppenbart kreativa eller skönlitterära verk i vissa specifika situationer men inte i andra eftersom bedömningen är ärendespecifik. När deepfaken kombinerar flera karaktärer (t.ex. informativ och kreativ) bör den informativa karaktären alltid ha företräde och kräva överensstämmelse med standardmärkningskraven. |
|
(123) |
Lämplig upplysning som inte hindrar visning eller åtnjutande av verket Deepfakes som utgör en del av uppenbart konstnärliga, kreativa, satiriska eller skönlitterära verk eller program undantas inte från transparensskyldigheten i artikel 50.4 första stycket i förordningen om artificiell intelligens. Tillhandahållarna måste fortfarande upplysa om innehållets AI-ursprung eller dess manipulering men de kan göra det på ett lämpligt sätt som inte hindrar visning och upplevelse av det. I skäl 134 i förordningen om artificiell intelligens klargörs att en sådan lämplig upplysning inte bör hindra normal användning och normalt utnyttjande samtidigt som verkets nytta och kvalitet upprätthålls. Vilka upplysningsåtgärder som ska anses lämpliga bör bedömas från fall till fall, vilket innebär att tillhandahållare kan beakta alla relevanta faktorer (inklusive verkets karaktär, publik, sammanhang osv.). Under alla omständigheter måste tillhandahållare uppfylla kraven i artikel 50.5 i förordningen om artificiell intelligens (se avsnitt 7). Mot bakgrund av artikel 50.7 i förordningen om artificiell intelligens får tillhandahållare följa en uppförandekod, som bedöms vara lämplig enligt den bestämmelsen, för att visa att de uppfyller denna upplysningsskyldighet. För ytterligare information om effekterna av att följa en sådan kod och övervakning av andra tillhandahållare som inte följer en kod hänvisas till avsnitt 8.1 nedan. |
|
(124) |
Lämpliga skyddsåtgärder för tredje parts rättigheter och friheter I skäl 134 i förordningen om artificiell intelligens klargörs att efterlevnaden av den reducerade transparensskyldigheten och användningen av konstnärliga, kreativa, satiriska eller skönlitterära deepfakes måste fullgöras ”med förbehåll för lämpliga garantier för tredje parters rättigheter och friheter”. Tillhandahållare måste därför se till att tredje parters rättigheter och friheter (t.ex. deras rätt till skydd av personuppgifter eller immateriella rättigheter) skyddas och respekteras på lämpligt sätt när de skapar eller offentliggör deepfakes även om deepfaken ska betraktas som konstnärlig, kreativ, satirisk eller skönlitterär. Att förlita sig på den reducerade transparensskyldigheten kan inte vara en motivering för underlåtenhet att respektera enskildas eller rättighetshavares grundläggande rättigheter enligt unionsrätten om immaterialrätt eller unionens dataskyddslagstiftning (34).
|
6.1.4 Undantag för brottsbekämpning
|
(125) |
Om användningen av en deepfake (t.ex. en AI-genererad video som simulerar händelser som aldrig har inträffat) enligt lag är tillåten för att upptäcka, förebygga, förhindra, utreda eller lagföra brott är tillhandahållare undantagna från transparensskyldigheten enligt artikel 50.4 första stycket i förordningen om artificiell intelligens. De förtydliganden som ges i punkterna 46–48 ovan för ett liknande undantag i artikel 50.1 i förordningen om artificiell intelligens är också relevanta för denna bestämmelse. |
6.1.5 Samspel med andra unionsrättsakter
|
(126) |
Transparensskyldigheten enligt artikel 50.4 första stycket i förordningen om artificiell intelligens kommer att interagera med skyldigheterna för leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att identifiera och minska systemrisker i enlighet med artiklarna 34 och 35 i förordningen om digitala tjänster, i synnerhet artikel 35.1 k (35). I den senare bestämmelsen förtecknas, bland de möjliga riskreducerande åtgärder som leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer kan vidta, åtgärder som säkerställer att ”information, oavsett om denna utgör genererad eller manipulerad bild, ljud eller video som på ett märkbart sätt liknar befintliga personer, föremål, platser eller andra enheter eller händelser och som felaktigt framstår som autentiskt eller sanningsenligt går att urskilja genom väl synligt märkning när den presenteras på deras onlinegränssnitt”. Dessutom kan leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer även tillhandahålla en lättanvänd funktion som gör det möjligt för tjänstemottagarna att ange sådan information. Denna bestämmelse i förordningen om digitala tjänster verkar likna artikel 50.4 i förordningen om artificiell intelligens men den kompletterar den och innehåller två viktiga distinktioner.
|
|
(127) |
Om deepfaken innehåller information om en direkt eller indirekt identifierbar fysisk person (som lever) måste tillhandahållare som personuppgiftsansvariga enligt unionens dataskyddslagstiftning också uppfylla sina respektive skyldigheter enligt unionens dataskyddslagstiftning (37). Detta involverar till exempel att förlita sig på en lämplig rättslig grund för behandling av personuppgifter, information om behandling av uppgifter som rör de registrerade etc. |
|
(128) |
Tillhandahållare av AI-system som genererar deepfakes kommer dessutom att behöva säkerställa att de följer relevant unionslagstiftning om immateriella rättigheter (t.ex. unionens varumärkesrätt och unionsrätten om upphovsrätt och närstående rättigheter) om deras djupa förfalskade innehåll är skyddat enligt dessa lagar. Tillämpningen av en märkning eller ikon på en deepfake påverkar inte i sig dess rätt till upphovsrättsligt skydd som bör bedömas i enlighet med tillämplig unionsrätt om upphovsrätt. |
|
(129) |
Om existerande personer avbildas i deepfakes kommer tillhandahållare också att behöva följa relevanta rättsliga ordningar som skyddar rätten till respekt för privatlivet för personliga bilder eller röster. Transparensskyldigheten enligt artikel 50.4 första stycket i förordningen om artificiell intelligens innebär inte att AI-genererade eller AI-manipulerade deepfakes som är skadliga och olagliga enligt tillämplig unionsrätt eller nationell rätt (t.ex. lagstiftning som förbjuder vilseledande reklam eller straffrättslig lagstiftning som förbjuder material med sexuella övergrepp mot barn och intima bilder utan samtycke) får genereras och spridas (se även avsnitt 4.4). |
6.2 Huvudkomponenter, begrepp och tillhörande transparensskyldigheter för AI-genererad eller AI-manipulerad text enligt artikel 50.4 i förordningen om artificiell intelligens
|
(130) |
Artikel 50.4 andra stycket i förordningen om artificiell intelligens är tillämplig om följande villkor är uppfyllda:
|
6.2.1 Text som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse
|
(131) |
För att klargöra tillämpningsområdet för artikel 50.4 andra stycket i förordningen om artificiell intelligens granskas de tre delarna i) offentliggjord text ii) i syfte att informera allmänheten iii) om frågor av allmänt intresse.
|
6.2.2 Upplysningsskyldigheten enligt artikel 50.4 andra stycket i förordningen om artificiell intelligens
|
(132) |
Artikel 50.4 andra stycket i förordningen om artificiell intelligens ålägger tillhandahållare av AI-system som genererar eller manipulerar text som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse att upplysa om att texten har genererats artificiellt eller manipulerats. I skäl 134 i förordningen om artificiell intelligens klargörs att tillhandahållare av textpublikationer som omfattas av bestämmelsen på samma sätt som deepfakes på ett tydligt och urskiljbart sätt bör upplysa om att sådant innehåll har skapats artificiellt eller manipulerats genom märkning av AI-utdata i enlighet med detta och upplysa om dess artificiella ursprung. I enlighet med vad som krävs för deepfakes, märkning eller upplysningsmetoder (inklusive ansvarsfriskrivningar) som tillämpas i enlighet med artikel 50.4 andra stycket, bör förordningen om artificiell intelligens också vara tydlig och kunna uppfattas av fysiska personer (t.ex. synliga eller hörbara åtgärder) utan att de behöver använda sig av några särskilda tekniska verktyg eller utföra särskilda åtgärder. Mot bakgrund av artikel 50.7 i förordningen om artificiell intelligens kan tillhandahållare följa en uppförandekod, som bedöms vara lämplig i enlighet med den bestämmelsen, för att visa efterlevnad av denna upplysningsskyldighet. För ytterligare information om effekterna av att följa en sådan kod och övervakning av andra tillhandahållare som inte följer en kod hänvisas till avsnitt 8.1 nedan. |
6.2.3 Undantag från transparensskyldigheten för text som varit föremål för mänsklig granskning eller redaktionell kontroll och redaktionellt ansvar
|
(133) |
I artikel 50.4 andra stycket i förordningen om artificiell intelligens föreskrivs ett undantag från den transparensskyldighet som fastställs i den bestämmelsen om följande två kumulativa villkor är uppfyllda: i) den AI-genererade eller manipulerade texten måste ha genomgått mänsklig granskning eller redaktionell kontroll och ii) en juridisk eller fysisk person måste bära det redaktionella ansvaret för offentliggörandet. I tillämpliga fall får tillhandahållare basera sig på relevanta tillämpliga yrkesetiska eller andra etiska normer för att visa att de uppfyller de krav som anges nedan. |
i.
|
(134) |
Det första villkoret för att undantaget från artikel 50.4 andra stycket i förordningen om artificiell intelligens ska gälla är att den AI-genererade eller manipulerade texten har varit föremål för mänsklig granskning eller redaktionell kontroll. Med mänsklig granskning avses en avsiktlig genomgång av innehållets substans av en eller flera fysiska personer som har relevant kunskap och yrkesmässig bedömning av det ämne som granskas (t.ex. akademisk sakkunnig granskning eller yrkesmässiga valideringskedjor). Faktakontroll av innehållets korrekthet är ett minimikrav som bör ingå i denna granskning. Med redaktionell kontroll avses den kontroll som i praktiken utövas av en ansvarig redaktionell enhet (t.ex. en chefredaktör) av innehållet som har befogenhet att godkänna, ändra eller avvisa innehållet i texten på materiella grunder (inklusive faktakontroll av information och säkerställande av källornas tillförlitlighet). Detta påverkar inte befintliga granskningsförfaranden och redaktionella förfaranden samt yrkesnormer som gäller för leverantörer av medietjänster. |
|
(135) |
Ytliga, endast formella eller förfarandemässiga kontroller (t.ex. stavningskontroll eller grammatisk korrigering), enbart förekomsten av en redaktionell policy, automatiserade granskningsprocesser eller översiktligt redaktionellt godkännande utan betydande engagemang från den mänskliga granskaren eller den redaktionella enheten, kan inte uppfylla villkoren för mänsklig granskning eller redaktionell kontroll enligt detta undantag. |
|
(136) |
Om AI-system används för att ändra, komplettera eller formulera om innehåll när det har godkänts redaktionellt ska det innehåll som blir resultatet behandlas som AI-genererat eller AI-manipulerat vid tillämpningen av artikel 50.4 i förordningen om artificiell intelligens. Varje väsentlig AI-intervention som sker efter det att den mänskliga granskningen eller den redaktionella kontrollen har ägt rum medför därför att undantaget upphör att gälla. |
|
(137) |
Mot bakgrund av artikel 50.7 i förordningen om artificiell intelligens får tillhandahållare följa en uppförandekod, som bedöms vara lämplig enligt den bestämmelsen, för att visa efterlevnad av villkoren för mänsklig granskning eller redaktionell kontroll (särskilt av tillhandahållare som inte är leverantörer av medietjänster som omfattas av befintliga redaktionella eller etiska standarder) som fastställs i den bestämmelsen. Mer information om effekterna av att följa en sådan kod och övervakning av tillhandahållare som inte följer en sådan kod finns i avsnitt 8.1. |
|
ii. |
|
(138) |
Det andra villkoret för undantag från artikel 50.4 andra stycket i förordningen om artificiell intelligens är att en juridisk eller fysisk person ska ha redaktionellt ansvar för offentliggörandet av innehållet. Detta innebär att den berörda personen måste ha det slutliga juridiska ansvaret för offentliggörandet av innehållet, inklusive mänsklig granskning eller redaktionell kontroll (t.ex. en individ, redaktionell styrelse eller förlaget). För att säkerställa offentlig ansvarsskyldighet och förtroende, och för att vara i enlighet med befintliga medienormer, bör den juridiska personens identitet och kontaktuppgifter, den fysiska personen eller den funktion som har redaktionellt ansvar göras tillgängliga för allmänheten på en lättillgänglig plats (om de inte redan finns tillgängliga på annat sätt). Detta kan ske online genom t.ex. en webbplats villkor eller annan juridisk information som riktar sig till användaren. Sådan information kan inkluderas offline i ett meddelande om publikationens kolofon eller notis om utgåvan.
|
6.2.4 Undantag för brottsbekämpning
|
(139) |
Om användningen av AI-system för generering av text som offentliggörs i syfte att informera allmänheten om frågor av allmänt intresse utan mänsklig granskning (t.ex. en AI-genererad polisvarning om ett terroristhot som offentliggörs på sociala medier) enligt lag är tillåten för att upptäcka, förebygga, förhindra, utreda eller lagföra brott, undantas tillhandahållare från transparensskyldigheten enligt artikel 50.4 i förordningen om artificiell intelligens. De förtydliganden som ges i punkterna 46–48 ovan för ett liknande undantag i artikel 50.1 i förordningen om artificiell intelligens är också relevanta för denna bestämmelse. |
6.2.5 Samspel med andra unionsrättsakter
|
(140) |
För unionens medielagstiftning är redaktionellt ansvar ett avgörande begrepp som definieras i artikel 2.8 i förordning (EU) 2024/1083 (mediefrihetsförordningen) (39). I detta sammanhang innebär redaktionellt ansvar ”vid tillhandahållande av en medietjänst, faktisk kontroll av såväl valet av program eller presspublikation som hur de ska struktureras, oavsett om det föreligger ansvar enligt nationell rätt för den tillhandahållna tjänsten eller inte”. I vissa situationer kan denna definition överlappa begreppet redaktionellt ansvar som används i artikel 50.4 andra stycket i förordningen om artificiell intelligens, i synnerhet om AI-systemets tillhandahållare också räknas som leverantörer av medietjänster enligt mediefrihetsförordningen. Det redaktionella ansvaret i den mening som avses i artikel 50.4 i förordningen om artificiell intelligens bör därför tolkas i linje med det befintliga regelverket för medier, trots att det fortfarande är ett separat begrepp som även kan gälla i bredare sammanhang och för andra tillhandahållare under förutsättning att de tar det redaktionella ansvaret för textpublikationen. Leverantörer av medietjänster får förlita sig på sina befintliga redaktionella processer och standarder för att omfattas av undantaget enligt artikel 50.4 andra stycket i förordningen om artificiell intelligens. |
7. ÖVERGRIPANDE KRAV TILLÄMPLIGA PÅ DEN INFORMATION SOM LÄMNAS ENLIGT ARTIKEL 50.5 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS
|
(141) |
Enligt artikel 50.5 i förordningen om artificiell intelligens ska den information som ska lämnas i enlighet med artikel 50.1–50.4 i förordningen om artificiell intelligens tillhandahållas till de berörda fysiska personerna på ett tydligt och urskiljbart sätt senast vid tidpunkten för den första interaktionen eller exponeringen. Informationen bör också uppfylla de tillämpliga tillgänglighetskraven. Fysiska personer som berörs i detta sammanhang omfattar personer som direkt interagerar med AI-systemet (artikel 50.1 i förordningen om artificiell intelligens), aktiva eller passiva användare och andra personer som exponeras för syntetiskt AI-genererat eller manipulerat innehåll (med eller utan direkt interaktion med AI-systemet [artikel 50.2 och 50.4 i förordningen om artificiell intelligens]) samt personer som är föremål för användning av system för känsloigenkänning eller biometrisk kategorisering (artikel 50.3 i förordningen om artificiell intelligens). |
7.1 Information lämnad på ett tydligt och urskiljbart sätt
|
(142) |
Information kommer att anses ha lämnats på ett tydligt sätt när den är märkbar, lättbegriplig och tillgänglig för den berörda fysiska personen (inklusive personer med funktionsnedsättning). Informationen kommer att anses ha lämnats på ett urskiljbart sätt om den är lätt att identifiera som skild från annan information och den miljö där innehållet presenteras. Det måste också vara lätt att förstå för publiken, inklusive för särskilda grupper, till exempel barn eller personer med funktionsnedsättning, när de ingår i den publik som förutses bli exponerad för innehållet eller interagerar med systemet (40). För att lämna information på ett tydligt och urskiljbart sätt kan den relevanta informationen bland annat presenteras som en del av interaktionen (enligt artikel 50.1 i förordningen om artificiell intelligens) eller det relevanta innehållet (enligt artikel 50.2 och 50.4 i förordningen om artificiell intelligens). Information kommer inte att anses ha tillhandahållits på ett tydligt och urskiljbart sätt om den lätt kan förbises eller missas av fysiska personer under normala exponerings- eller interaktionsförhållanden (t.ex. endast inkluderas som en del av en handbok eller dold under skikt av menyalternativ i ett onlinegränssnitt, en del av användningsvillkor som ofta inte läses av användare). |
7.2 Den första interaktionen eller exponeringen
|
(143) |
Enligt artikel 50.5 i förordningen om artificiell intelligens ska informationen lämnas till de berörda fysiska personerna senast vid den första interaktionen eller exponeringen. Den första interaktionen eller exponeringen avser inte bara den första fysiska person som interagerar med eller exponeras för (utdata från) ett AI-system utan även varje efterföljande första interaktion med eller exponering för (utdata från) AI-systemet av någon annan fysisk person. När det gäller den första interaktionen med ett AI-system bör informationen åtminstone tillhandahållas en gång i början av en interaktiv session samtidigt som hänsyn tas till de särskilda sammanhang som nämns i punkterna 36 och 40 ovan. När det gäller AI-genererat eller AI-manipulerat innehåll som omfattas av artikel 50.2 och 50.4 i förordningen om artificiell intelligens gäller informationskravet för alla utdata från ett AI-system med avseende på varje fysisk person som exponeras för innehållet. Det bör förstås i betydelsen av varje tidpunkt då en fysisk person med rimlig sannolikhet kommer att exponeras för AI-systemets utdata och uppfattar upplysningen, med hänsyn tagen till upplysningens särdrag när det gäller uppenbart kreativa, konstnärliga och andra verk (se avsnitt 6.1.3.). Dessutom får tillhandahållare informera fysiska personer tidigare än den första faktiska interaktionen eller exponeringen (t.ex. i början av innehåll där det förekommer deepfakes). Om det rimligen kan förutses att personer inte uppfattar innehåll från början, är det dock endast upplysningen i början av innehållet som inte på ett tillfredsställande sätt informerar dessa personer och bör kompletteras med upplysning vid ett senare tillfälle, om möjligt. Detta kan genomföras på lämpligt sätt, med hänsyn tagen till målet om transparensskyldigheten, för att säkerställa ett effektivt tillhandahållande av information och meningsfull användarmedvetenhet i alltmer djupgående och realistiska AI-miljöer där användarna har allt svårare att urskilja innehållets och interaktionens ursprung och sanningsenlighet.
|
7.3 Efterlevnad av de tillämpliga tillgänglighetskraven
|
(144) |
Leverantörer och tillhandahållare av AI-system som omfattas av de olika transparensskyldigheter som förtecknas i artikel 50.1–50.4 i förordningen om artificiell intelligens måste vara medvetna om de tillämpliga tillgänglighetskraven (t.ex. enligt direktiv 2016/2102 (41) och direktiv 2019/882 (42)) och bedöma om deras produkter, tjänster eller innehåll måste uppfylla dessa regler. I sådana fall måste de säkerställa tillgången till den information som förmedlas i enlighet med artikel 50 i förordningen om artificiell intelligens i enlighet med de tillämpliga tillgänglighetskraven. Artikel 50 i förordningen om artificiell intelligens innehåller inga särskilda eller ytterligare tillgänglighetskrav. |
8. VERKSTÄLLIGHET AV ARTIKEL 50 I FÖRORDNINGEN OM ARTIFICIELL INTELLIGENS
|
(145) |
Syftet med detta avsnitt är att förklara i) effekterna av att följa en uppförandekod när det gäller efterlevnaden av transparensskyldigheterna för AI-genererat innehåll, ii) de behöriga tillsynsmyndigheternas roll i genomförandet av artikel 50 i förordningen om artificiell intelligens, iii) tillämpliga sanktioner för överträdelser av dessa skyldigheter och iv) den tidpunkt då skyldigheterna i artikel 50 i förordningen om artificiell intelligens börjar tillämpas. |
8.1 Effekterna av att följa en förfarandekod som bedömts vara lämplig
|
(146) |
Leverantörer och tillhandahållare av AI-system som omfattas av artikel 50.2 och 50.4 i förordningen om artificiell intelligens får visa att de uppfyller sina respektive transparensskyldigheter för AI-genererat innehåll enligt dessa bestämmelser genom att följa en uppförandekod som bedöms vara lämplig i enlighet med artikel 50.7 i förordningen om artificiell intelligens (43). En sådan kod ersätter inte förordningen om artificiell intelligens eller dessa riktlinjer. Den kompletterar dem genom att tillhandahålla den enda unionsomfattande erkända praktiska ramen för leverantörer och tillhandahållare av generativa AI-system för att visa efterlevnad av dessa skyldigheter oberoende av var de är etablerade, verksamma och oberoende av behöriga marknadskontrollmyndigheter. |
|
(147) |
Leverantörer och tillhandahållare kan också visa att de uppfyller dessa skyldigheter genom lämpliga alternativa metoder och att följa en uppförandekod som anses lämplig är ett enkelt, förutsägbart och rättsligt säkert sätt att visa efterlevnad. För undertecknare av en uppförandekod som bedöms vara lämplig i enlighet med artikel 50.7 i förordningen om artificiell intelligens (44) kommer kommissionen och de behöriga marknadskontrollmyndigheterna att inrikta sin tillsynsverksamhet på att bedöma huruvida undertecknarna har följt uppförandekoden och genomfört åtgärderna i den. I och med att leverantörer och tillhandahållare som följer reglerna kommer att vara transparenta om de åtgärder de genomför för att uppfylla artikel 50.2, 50.4 och 50.5 i förordningen om artificiell intelligens kommer de att gynnas av ökat förtroende från kommissionen, andra behöriga marknadskontrollmyndigheter och andra berörda parter (inklusive allmänheten). Alla undantag från sektioner av undertecknare av en uppförandekod som anses lämpliga kommer att leda till att dessa leverantörer och tillhandahållare förlorar fördelen med att göra det enklare att visa efterlevnad i detta avseende. |
|
(148) |
Leverantörer och tillhandahållare som inte har undertecknat en uppförandekod som anses lämplig enligt artikel 50.7 i förordningen om artificiell intelligens förväntas visa hur de har uppfyllt sina skyldigheter enligt artikel 50.2, 50.4 och 50.5 i förordningen om artificiell intelligens på andra lämpliga sätt. Dessutom förväntas sådana leverantörer och tillhandahållare förklara hur de åtgärder de genomför säkerställer efterlevnaden av deras skyldigheter enligt förordningen om artificiell intelligens. De bör till exempel genomföra en bristanalys som jämför de åtgärder som de har genomfört med de åtgärder som fastställs i en uppförandekod som bedöms som lämplig. Eftersom behöriga myndigheter (inklusive Europeiska byrån för artificiell intelligens) kommer att ha svårare att förstå hur leverantörer och tillhandahållare som inte har undertecknat en uppförandekod säkerställer efterlevnad av sina skyldigheter enligt artikel 50.2, 50.4 och 50.5 i förordningen om artificiell intelligens kommer de sannolikt att behöva mer detaljerad information när de övervakar efterlevnaden. Exempelvis kan leverantörer som inte följer en uppförandekod även bli föremål för ett större antal begäranden om information och begäranden om åtkomst för att bedöma effektiviteten, interoperabiliteten, robustheten och tillförlitligheten hos de tekniska lösningar som införts för att uppfylla kraven i artikel 50.2 i förordningen om artificiell intelligens. Tillhandahållarna kan också bli föremål för sådana begäranden med avseende på sina märkningsmetoder enligt artikel 50.4 i förordningen om artificiell intelligens. |
|
(149) |
De behöriga myndigheterna får ta hänsyn till åtaganden som genomförts i enlighet med en uppförandekod som anses lämplig som en förmildrande faktor när de fastställer bötesbeloppet beroende på de särskilda omständigheterna (45). |
|
(150) |
Om en uppförandekod inte anses lämplig i enlighet med artikel 50.7 i förordningen om artificiell intelligens får kommissionen anta en genomförandeakt med gemensamma regler för genomförandet av skyldigheterna i artikel 50.2, 50.4 och 50.5 i förordningen om artificiell intelligens som skulle vara tillämplig på alla relevanta leverantörer och tillhandahållare av AI-system som omfattas av dessa bestämmelser (46). |
8.2 Marknadskontrollmyndigheter
|
(151) |
Marknadskontrollmyndigheter som utsetts av medlemsstaterna, Europeiska byrån för artificiell intelligens (47) och Europeiska datatillsynsmannen (48) ansvarar för att övervaka och verkställa reglerna för AI-system som omfattas av deras behörighet, inklusive de öppenhetskrav som fastställs i artikel 50 i förordningen om artificiell intelligens. Denna tillsyn sker inom ramen för det system för marknadskontroll och överensstämmelse för produkter som inrättats genom förordning (EU) 2019/1020 och förordningen om artificiell intelligens. Marknadskontrollmyndigheternas tillsynsbefogenheter när det gäller AI-system fastställs i dessa förordningar. Dessa myndigheter kan vidta verkställighetsåtgärder avseende de skyldigheter som räknas upp i artikel 50 i förordningen om artificiell intelligens på eget initiativ eller till följd av ett klagomål som varje berörd person eller varje annan fysisk eller juridisk person som har skäl att anse att det föreligger sådana överträdelser har rätt att inge (49). Marknadskontrollmyndigheternas ansvar enligt förordningen om artificiell intelligens påverkar inte andra tillsynsmyndigheters eller myndigheter för grundläggande rättigheters befogenheter och uppgifter enligt deras egna rättsliga ramar i situationer där både artikel 50 i förordningen om artificiell intelligens och den ramen är tillämpliga (t.ex. dataskydd, konsumentskydd). |
8.3 Sanktioner
|
(152) |
Leverantörer och tillhandahållare som inte uppfyller de tillämpliga transparensskyldigheter som fastställs i artikel 50 i förordningen om artificiell intelligens kan bötfällas med upp till 15 000 000 euro eller, om gärningsmannen är ett företag, med upp till 3 % av sin totala globala årsomsättning för föregående budgetår, beroende på vilket som är högst. EU:s institutioner, organ och byråer som bryter mot transparensskyldigheterna kan åläggas administrativa straffavgifter på upp till 750 000 euro. För små och medelstora företag, inklusive nystartade företag, ska varje bötesbelopp uppgå till ovanstående procentsatser eller belopp, beroende på vilket som är lägst. Böterna ska vara effektiva, proportionella och avskräckande och ta hänsyn till små och medelstora företags och små midcap-bolags, inklusive nystartade företags, intressen och deras ekonomiska bärkraft. Vid beslut om huruvida straffavgifter ska påföras och vid beslut om storleken på straffavgifterna i varje enskilt fall bör de behöriga myndigheterna bedöma alla relevanta omständigheter i den specifika situationen och, i förekommande fall, en rad faktorer som påverkar överträdelsens allvarlighetsgrad (t.ex. överträdelsens karaktär, allvar och varaktighet och dess konsekvenser, försumlighet eller avsiktliga karaktär, andra försvårande eller förmildrande omständigheter, graden av samarbete med marknadskontrollmyndigheter etc.). |
8.4 Ikraftträdande
|
(153) |
I enlighet med artikel 113 i förordningen om artificiell intelligens kommer artikel 50 i förordningen om artificiell intelligens att gälla från och med den 2 augusti 2026. Detta kräver att alla AI-system inom tillämpningsområdet som släpps ut på marknaden eller tas i bruk i unionen överensstämmer med den bestämmelsen den dagen oberoende av när de släpps ut på marknaden eller tas i bruk (50). I förordningen om ändring av förordningen om artificiell intelligens (AI-omnibuspaketet), som nyligen har antagits av unionslagstiftaren, föreskrivs en riktad klausul om undantag för gammal hävd endast med avseende på skyldigheter avseende märkning och upptäckt enligt artikel 50.2 i förordningen om artificiell intelligens för generativa AI-system som släppts ut på marknaden eller har tagits i bruk före den 2 augusti 2026. Det ger leverantörerna av dessa befintliga system en övergångsperiod för att anpassa sina system till kraven senast den 2 december 2026. System som delvis är interaktiva och delvis generativa kan endast omfattas av denna övergångsperiod med avseende på märkningsskyldigheten enligt artikel 50.2 i förordningen om artificiell intelligens medan efterlevnaden av upplysningsskyldigheten för AI-system som interagerar direkt med fysiska personer måste säkerställas från och med den 2 augusti 2026. |
|
(154) |
AI-genererade eller AI-manipulerade utdata som omfattas av artikel 50.2 i förordningen om artificiell intelligens och deepfakes som omfattas av artikel 50.4 första stycket i förordningen om artificiell intelligens och som har genererats eller manipulerats före den 2 augusti 2026 behöver inte märkas retroaktivt. Detsamma gäller AI-genererade eller AI-manipulerade texter om frågor av allmänt intresse som omfattas av artikel 50.4 andra stycket i förordningen om artificiell intelligens och som offentliggjorts före den 2 augusti 2026. Omvänt gäller att om texter som har genererats eller manipulerats före den 2 augusti 2026 offentliggörs den 2 augusti 2026 eller senare måste de märkas. Med tanke på målet om transparens och ökat förtroende och integritet för det informationsekosystem som eftersträvas genom förordningen om artificiell intelligens uppmuntras dock tillhandahållare av AI-system och andra aktörer som innehar eller sprider befintliga omärkta deepfakes att göra detta utan att förväntas göra oproportionerliga ansträngningar i detta syfte (t.ex. revision av befintliga innehållsdatabaser eller ändring av redan tryckta produktförpackningar). |
9. ÖVERSYN OCH UPPDATERING AV RIKTLINJERNA
|
(155) |
Dessa riktlinjer utgör en första tolkning, med konkreta exempel, av de transparensskyldigheter som fastställs i artikel 50 i förordningen om artificiell intelligens. Kommissionen kommer att se över dessa riktlinjer så snart som det är nödvändigt mot bakgrund av de praktiska erfarenheterna av genomförandet av transparensskyldigheterna och den tekniska, samhälleliga och regleringsmässiga utvecklingen på detta område. Detta inkluderar även alla relevanta erfarenheter från åtgärder för marknadskontroll och tolkningar av artikel 50 i förordningen om artificiell intelligens som görs av Europeiska unionens domstol. Under en sådan översyn kan kommissionen besluta att dra tillbaka eller ändra dessa riktlinjer. Kommissionen uppmuntrar leverantörer och tillhandahållare av AI-system, nationella marknadskontrollmyndigheter genom Europeiska styrelsen för artificiell intelligens, det rådgivande forumet för AI, forskarvärlden och det civila samhällets organisationer att bidra till denna process genom att hörsamma framtida inbjudningar att delta i offentliga samråd. |
(1) Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens (förordning om artificiell intelligens) (EUT L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
(2) Artikel 1 i förordningen om artificiell intelligens.
(3) Artiklarna 2.1 a, 3.3, 3.9 och 3.11 i förordningen om artificiell intelligens. För ytterligare vägledning om begreppen utsläppande på marknaden, ibruktagande och användning hänvisas till kommissionens riktlinjer om förbjudna användningsområden för artificiell intelligens, C(2025) 5052, och meddelande från kommissionen, 2022 års blåbok om genomförandet av EU:s produktbestämmelser, avsnitt 2 (EUT C 247, 29.6.2022, s. 1).
(4) Artikel 2.1 c och skäl 22 i förordningen om artificiell intelligens.
(5) Artikel 3.4 i förordningen om artificiell intelligens.
(6) Artikel 2.1 b och c i förordningen om artificiell intelligens.
(7) Europaparlamentets och rådets förordning (EU) 2022/2065 av den 19 oktober 2022 om en inre marknad för digitala tjänster (EUT L 277, 27.10.2022, s. 1).
(8) Se avsnitt 2.5 i kommissionens riktlinjer om de förbjudna användningsområden för artificiell intelligens som fastställs i förordning (EU) 2024/1689 (AI-förordningen), Bryssel, 29.7.2025, C(2025) 5052 final.
(9) Definitionen av tillhandahållare omfattar inte heller användare som ägnar sig åt sådan verksamhet (se avsnitt 2.3 ovan).
(10) Skäl 25 i förordningen om artificiell intelligens.
(11) I skäl 102 i förordningen om artificiell intelligens anges att en utgivning av programvara och data med en kostnadsfri licens med öppen källkod ”gör det möjligt att dela dem öppet’och att’användarna fritt kan få tillgång till, använda, modifiera och omdistribuera dem eller ändrade versioner av dem”.
(12) För ytterligare information om artikel 5 i förordningen om artificiell intelligens hänvisas till kommissionens riktlinjer om de förbjudna användningsområden för artificiell intelligens som fastställts i förordning (EU) 2024/1689 (AI-förordningen), C(2025) 5052 final.
(13) Se artikel 6 i förordningen om artificiell intelligens.
(14) I artikel 26.11 i förordningen om artificiell intelligens föreskrivs i synnerhet en transparensskyldighet för tillhandahållare av AI-system med hög risk som fattar beslut eller hjälper till att fatta beslut om att informera fysiska personer om att de omfattas av användning av AI-systemet med hög risk. Dessa transparensskyldigheter kompletterar skyldigheterna i artikel 50 i förordningen om artificiell intelligens, eftersom de rör olika uppgifter som måste lämnas till de fysiska personerna, men de kan kombineras i enstaka meddelanden.
(15) I artikel 3.66 i förordningen om artificiell intelligens definieras ett AI-system för allmänna ändamål som ett AI-system som bygger på en AI-modell för allmänna ändamål och som har kapacitet att tjäna en rad olika syften, både för direkt användning och för integrering i andra AI-system.
(16) Artikel 50.2 i förordningen om artificiell intelligens innehåller en uttrycklig hänvisning till AI-system för allmänna ändamål.
(17) Skäl 133 i förordningen om artificiell intelligens.
(18) Se artikel 3.1 i förordningen om artificiell intelligens. För ytterligare vägledning om begreppet AI-system hänvisas till kommissionens riktlinjer om definitionen av ett system för artificiell intelligens, 29.7.2025, C(2025) 5053 final.
(19) Se skäl 132 i förordningen om artificiell intelligens. Detta kräver inte att systemet är riktat mot dessa sårbara grupper. Om ett system är avsett att interagera med representanter för allmänheten inkluderas även medlemmar av de sårbara grupperna och detta bör beaktas av leverantörerna när de genomför meddelandeåtgärderna.
(20) Se avsnitt 7.3 för tillämpliga tillgänglighetskrav.
(21) Elektroniska intyg om attribut i enlighet med förordning (EU) nr 910/2014 och som gjorts tillgängliga i EU:s plånböcker för digitala identiteter i enlighet med samma förordning, samt de föreslagna europeiska företagsplånböckerna, kan till exempel tillhandahålla säkra och effektiva sätt att identifiera AI-agenter. Plånböckerna kan lagra och hantera elektroniska intyg som verifierar AI-ombudets identitet, attribut och tillstånd och därigenom möjliggöra sömlös och tillförlitlig upplysning till fysiska personer.
(22) Detta gäller även för liknande undantag till förmån för brottsbekämpande verksamhet enligt artikel 50.2–50.4 i förordningen om artificiell intelligens.
(23) Europaparlamentets och rådets direktiv 2005/29/EG av den 11 maj 2005 om otillbörliga affärsmetoder som tillämpas av näringsidkare gentemot konsumenter på den inre marknaden (EUT L 149, 11.6.2005, s. 2).
(24) Europaparlamentets och rådets direktiv 2011/83/EU av den 25 oktober 2011 om konsumenträttigheter (EUT L 304, 22.11.2011, s. 64).
(25) Europaparlamentets och rådets direktiv 2012/13/EU av den 22 maj 2012 om rätten till information vid straffrättsliga förfaranden (EUT L 142, 1.6.2012, s. 1). Europaparlamentets och rådets direktiv 2012/29/EU av den 25 oktober 2012 om fastställande av miniminormer för brottsoffers rättigheter och för stöd till och skydd av dem (EUT L 315, 14.11.2012, s. 57).
(26) Enligt definitionen i artikel 3.1 i förordningen om artificiell intelligens.
(27) I skäl 133 i förordningen om artificiell intelligens klargörs att det är lämpligt att kräva att leverantörer av dessa system integrerar tekniska lösningar som möjliggör märkning i maskinläsbart format och upptäckt av att utdata har genererats eller manipulerats av ett AI-system och inte en människa. I skäl 135 i förordningen om artificiell intelligens hänvisas till skyldigheten avseende upptäckt.
(28) Se bilaga II till kommissionens genomförandebeslut C(2025) 3871 final on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI systems in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 (inte översatt till svenska).
(29) Se även skäl 11 i förordningen om artificiell intelligens.
(30) Se även skäl 137 i förordningen om artificiell intelligens.
(31) Skäl 136 i förordningen om artificiell intelligens.
(32) Därför måste detta kriterium förstås oberoende och åtskilt från begreppet bedrägeri enligt direktiv 2005/29/EG om otillbörliga affärsmetoder som tillämpas av näringsidkare gentemot konsumenter på den inre marknaden (direktivet om otillbörliga affärsmetoder),https://eur-lex.europa.eu/eli/dir/2005/29/oj/swe.
(33) Se i samma anda artikel 1 b i direktivet om audiovisuella medietjänster.
(34) Detta gäller även offentliggjorda texter som informerar allmänheten om frågor av allmänt intresse.
(35) Se även avsnitt 4.4 för ytterligare information om samspelet mellan artikel 50 i förordningen om artificiell intelligens och förordningen om digitala tjänster.
(36) Skäl 2 i förordningen om digitala tjänster.
(37) För mer detaljerade förtydliganden hänvisas till kommissionens och Europeiska dataskyddsstyrelsens gemensamma riktlinjer om samspelet mellan förordningen om artificiell intelligens och EU:s dataskyddslagstiftning (under utarbetande).
(38) Se analogt C-89/04, Mediakabel, EU:C:2005:348, punkt 33, C-192/04, Lagardère, EU:C:2005:475, punkt. 31, C-306/05, SGAE, EU:C:2006:764, punkterna 37-40, C-527/15, Stichting Brein, EU:C:2017:300, punkterna 43-44 samt citerad rättspraxis och mål C-135/23, GEMA, EU:C:2024:526, punkt 38 samt citerad rättspraxis).
(39) Europaparlamentets och rådets förordning (EU) 2024/1083 av den 11 april 2024 om fastställande av en gemensam ram för medietjänster på den inre marknaden och om ändring av direktiv 2010/13/EU (europeisk mediefrihetsförordning) (EUT L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).
(40) När barn ingår i målgruppen för innehållet måste dessa meddelanden i) vara barnanpassade, åldersanpassade, lättförståeliga och lättillgängliga för alla minderåriga, inklusive de med funktionsnedsättningar och/eller ytterligare tillgänglighetsbehov, ii) presenteras tydligt på ett sätt som är lättförståeligt och så enkelt och kortfattat som möjligt, iii) presenteras för den minderåriga på ett sätt som är lätt att granska och som innebär att informationen blir tillgänglig direkt och på ett intuitivt sätt när den blir relevant, iv) presenteras på det eller de officiella språken i den medlemsstat där tjänsten tillhandahålls, v) vara engagerande för barn; detta kan dessutom inkludera användning av grafik, videor och/eller figurer eller annan teknik, vi) ges till minderåriga gradvis och över tid så att användaren kan ta till sig informationen på bästa sätt.
(41) Europaparlamentets och rådets direktiv (EU) 2016/2102 av den 26 oktober 2016 om tillgänglighet avseende offentliga myndigheters webbplatser och mobila applikationer (EUT L 327, 2.12.2016, s. 1).
(42) Europaparlamentets och rådets direktiv (EU) 2019/882 av den 17 april 2019 om tillgänglighetskrav för produkter och tjänster (EUT L 151, 7.6.2019, s. 70).
(43) Se relevant information om uppförandekoden för transparens för AI-genererat innehåll | Att forma EU:s digitala framtid , publicerad den 10 juni 2026.
(44) Se kommissionens yttrande om bedömningen av uppförandekoden för transparens för AI-genererat innehåll | Att forma EU:s digitala framtid .
(45) Artikel 99.7 e i förordningen om artificiell intelligens.
(46) Artikel 50.7 i förordningen om artificiell intelligens.
(47) Som marknadskontrollmyndighet för AI-system baserade på AI-modeller för allmänna ändamål som tillhandahålls av samma leverantör (artikel 75.1 i förordningen om artificiell intelligens). Detta omfattar skyldigheten för leverantörer enligt artikel 50.1 och 50.2 i förordningen om artificiell intelligens. När det gäller artikel 50.3 och 50.4 i förordningen om artificiell intelligens kommer Europeiska byrån för artificiell intelligens endast att vara behörig om respektive AI-modell för allmänna ändamål och systemleverantören också är en tillhandahållare av systemet.
(48) Som marknadskontrollmyndighet för EU:s institutioner, byråer och organ.
(49) Artikel 85 i förordningen om artificiell intelligens.
(50) Den särskilda klausulen om undantag för gammal hävd i artikel 111.2 i förordningen om artificiell intelligens är tillämplig på AI-system med hög risk som släppts ut på marknaden före den dag då reglerna om hög risk börjar tillämpas endast med avseende på dessa systems efterlevnad av kraven och skyldigheterna för AI-system med hög risk. Om AI-systemet med hög risk också omfattas av en eller flera transparensskyldigheter enligt artikel 50 i förordningen om artificiell intelligens gäller inte denna särskilda klausul om undantag för gammal hävd eftersom tillämpningen av de olika skyldigheterna avseende hög risk och transparens enligt artikel 50 är kumulativ och klausulen är motiverad och begränsad endast med avseende på efterlevnaden av bestämmelserna om hög risk.
ELI: http://data.europa.eu/eli/C/2026/6005/oj
ISSN 1977-1061 (electronic edition)