Bruxelles, den 26.6.2024

COM(2024) 264 final

2024/0150(NLE)

Forslag til

RÅDETS AFGØRELSE

om undertegnelse på Den Europæiske Unions vegne af Europarådets rammekonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet


BEGRUNDELSE

1.BAGGRUND FOR FORSLAGET

•Forslagets begrundelse og formål

Kunstig intelligens (AI) giver store muligheder, men visse anvendelser og formål kan også forårsage skade og risici for enkeltpersoners grundlæggende rettigheder og andre offentlige interesser.

Med Europa-Parlamentets og Rådets forordning (EU) 2024/[....] om harmoniserede regler om kunstig intelligens ("forordningen om kunstig intelligens") har Unionen vedtaget den første omfattende forordning om kunstig intelligens, der fastsætter en standard globalt. Forordningen om kunstig intelligens blev vedtaget den 12. juni 2024 ( 1 ) og træder i kraft senest 20 dage efter offentliggørelsen i Den Europæiske Unions Tidende. Forordningen om kunstig intelligens harmoniserer fuldt ud reglerne for markedsføring, ibrugtagning og anvendelse af AI-systemer i medlemsstaterne ( 2 ) med det formål at fremme innovation og udbredelse af pålidelig kunstig intelligens og samtidig beskytte sundhed, sikkerhed og grundlæggende rettigheder, herunder demokrati, retsstatsprincippet og miljøet.

Forskellige internationale organisationer, herunder Europarådet, har også øget deres indsats for at regulere kunstig intelligens, idet de anerkender den grænseoverskridende karakter af kunstig intelligens og behovet for internationalt samarbejde for at håndtere de fælles udfordringer, som disse teknologier medfører.

Siden juni 2022 har Europarådets Komité for Kunstig Intelligens (CAI) ( 3 ) udarbejdet en retligt bindende rammekonvention (i det følgende benævnt "konventionen") for at imødegå de potentielle risici, som AI udgør for menneskerettigheder, demokrati og retsstatsprincippet. Unionen forhandlede konventionen på grundlag af artikel 216, stk. 1, fjerde alternativ i TEUF, i henhold til hvilken Unionen kan forhandle 4 og indgå en international aftale, når denne "[...] kan berøre fælles regler eller ændre deres anvendelsesområde". Europa-Kommissionen repræsenterede Unionen i forhandlingerne om konventionen i overensstemmelse med artikel 218, stk. 3, i traktaten om Den Europæiske Unions funktionsmåde ("TEUF") og på grundlag af en rådsafgørelse om bemyndigelse til at indlede forhandlinger på Den Europæiske Unions vegne ( 5 ).

Unionen har deltaget aktivt i forhandlingerne og forfulgt målet om at sikre konventionens forenelighed med EU-retten, overensstemmelse med forordningen om kunstig intelligens samt konventionens kvalitet og merværdi som den første internationale traktat om kunstig intelligens. I den forbindelse har konventionens internationale rækkevidde også været et af Unionens mål.

Efter flere forhandlingsrunder godkendte CAI konventionens tekst på dens 10. plenarforsamling, som fandt sted den 11.-14. marts 2024. Den 17. maj 2024 vedtog Europarådets Ministerkomité konventionen, besluttede at åbne den for undertegnelse i Vilnius (Litauen) den 5. september 2024 i forbindelse med en uformel justitsministerkonference og opfordrede medlemmer af Europarådet, andre tredjelande, der deltog i dets udarbejdelse, og Unionen til at overveje at undertegne den ved denne lejlighed, samtidig med at den mindede om, at konventionen også er åben for tiltrædelse af ikke-medlemsstater ( 6 ).

I den forbindelse er formålet med dette forslag at indlede proceduren for Unionens undertegnelse af konventionen med henblik på efterfølgende at ratificere konventionen ved at foreslå Rådet at vedtage en afgørelse om bemyndigelse af Unionen til at undertegne konventionen i overensstemmelse med artikel 218, stk. 5, i TEUF. Konventionen er fuldt ud forenelig med EU-retten generelt og med forordningen om kunstig intelligens i særdeleshed og vil fremme nøglebegreber fra Unionens tilgang til AI-regulering globalt blandt andre medlemmer af Europarådet og centrale internationale partnere, der kan blive parter i konventionen.

Konventionens indhold

Formålet med konventionen er at sikre, at aktiviteter inden for AI-systemers livscyklus er i fuld overensstemmelse med menneskerettigheder, demokrati og retsstatsprincippet.

Konventionens parter skal gennemføre den ved hjælp af passende lovgivningsmæssige, administrative eller andre foranstaltninger til gennemførelse af dens bestemmelser efter en gradueret og differentieret tilgang afhængigt af de negative virkningers alvor og sandsynlighed. Konventionen bør udelukkende gennemføres i Unionen gennem forordningen om kunstig intelligens, som fuldt ud harmoniserer reglerne for markedsføring, ibrugtagning og anvendelse af AI-systemer og anden EU-ret, hvor det er relevant. 

Anvendelsesområdet for konventionen omfatter AI-systemer, der potentielt griber ind i menneskerettigheder, demokrati og retsstatsprincippet, efter en differentieret tilgang. Principperne og forpligtelserne i konventionen finder anvendelse på aktiviteter inden for AI-systemers livscyklus, der gennemføres af offentlige myndigheder eller private aktører, der handler på deres vegne. Med hensyn til den private sektor er parterne forpligtet til at håndtere risici og virkninger, der opstår som følge af private aktørers aktiviteter inden for AI-systemers livscyklus, på en måde, der er i overensstemmelse med konventionens formål og hensigt, men de har valget mellem at anvende konventionens forpligtelser eller træffe andre passende foranstaltninger. Parterne skal afgive en erklæring om det valg, de træffer i denne henseende, når de undertegner eller tiltræder konventionen. Unionen bør ved indgåelsen af konventionen afgive en erklæring om, at Unionen gennem forordningen om kunstig intelligens og anden relevant EU-ret vil gennemføre principperne og forpligtelserne i konventionens kapitel II-VI vedrørende aktiviteter, der udføres af private aktører, der markedsfører, ibrugtager og anvender AI-systemer i Unionen.

AI-aktiviteter vedrørende national sikkerhed er udelukket fra konventionens anvendelsesområde, idet de under alle omstændigheder skal gennemføres på en måde, der er i overensstemmelse med gældende international menneskerettighedslovgivning og med respekt for demokratiske institutioner og processer. Konventionen udelukker også forsknings- og udviklingsaktiviteter vedrørende AI-systemer, der endnu ikke er stillet til rådighed for brug, medmindre test eller lignende aktiviteter har potentiale til at gribe ind i menneskerettigheder, demokrati og retsstatsprincippet. I overensstemmelse med Europarådets statut falder spørgsmål vedrørende nationalt forsvar ikke ind under konventionens anvendelsesområde.

Konventionen indeholder endvidere en række generelle forpligtelser og grundlæggende principper, herunder beskyttelse af den menneskelige værdighed og individuel autonomi, samt fremme af ligestilling og ikke-forskelsbehandling. Derudover giver den mandat til respekt for privatlivets fred og beskyttelse af personoplysninger samt gennemsigtighed og tilsyn for at sikre ansvarlighed og ansvar. Et princip er også dedikeret til sikker innovation og eksperimentering i kontrollerede miljøer.

I et særligt kapitel om retsmidler påtænkes også et sæt foranstaltninger, der har til formål at sikre tilgængeligheden af tilgængelige og effektive retsmidler mod krænkelser af menneskerettighederne som følge af aktiviteter inden for AI-systemers livscyklus. Den omfatter også effektive proceduremæssige garantier og beskyttelsesforanstaltninger for personer, hvis rettigheder er blevet væsentligt påvirket af brugen af AI-systemer. Derudover bør enkeltpersoner informeres om, at de interagerer med et AI-system og ikke med et menneske.

Konventionen indeholder endvidere et kapitel om foranstaltninger til vurdering og afbødning af risici og negative virkninger, der skal gennemføres iterativt, med henblik på at identificere faktiske og potentielle indvirkninger på menneskerettigheder, demokrati og retsstatsprincippet og træffe passende forebyggelses- og afbødningsforanstaltninger.

Desuden fastsætter konventionen, at parterne skal vurdere behovet for forbud eller moratorier mod visse anvendelser af AI-systemer, der anses for at være uforenelige med respekten for menneskerettighederne, demokratiets funktion eller retsstatsprincippet.

Konventionen indeholder en opfølgningsmekanisme inden for rammerne af en partskonference bestående af repræsentanter for parterne, som regelmæssigt holder samråd med hinanden med henblik på at lette en effektiv anvendelse og gennemførelse af konventionen. Den omfatter også en mekanisme for internationalt samarbejde både mellem konventionens parter og i forbindelserne med tredjelande og relevante interessenter med henblik på at opfylde konventionens formål.

Hver part bør endvidere på nationalt plan oprette eller udpege en eller flere effektive mekanismer til at føre tilsyn med overholdelsen af de forpligtelser, der følger af konventionen, således som parterne har givet dem virkning.

•Sammenhæng med de gældende regler på samme område

Konventionen fastsætter generelle principper og forpligtelser til beskyttelse af menneskerettigheder, demokrati og retsstatsprincippet, som er i fuld overensstemmelse med målene i forordningen om kunstig intelligens og de detaljerede krav til AI-systemer og forpligtelser, der pålægges udbydere og udbredere af sådanne systemer.

Definitionen af AI-system i konventionen er fuldt ud i overensstemmelse med definitionen i forordningen om kunstig intelligens, da begge er baseret på definitionen af sådanne systemer i Organisationen for Økonomisk Samarbejde og Udviklings AI-principper ( 7 ), således at der sikres en fælles forståelse af, hvilke digitale teknologier der udgør kunstig intelligens.

Både konventionen og forordningen om kunstig intelligens følger også en risikobaseret tilgang til regulering af AI-systemer og indeholder specifikke bestemmelser om risiko- og konsekvensanalyser og risikobegrænsende foranstaltninger. Forordningen om kunstig intelligens omfatter navnlig en række relevante forbud og højrisikoanvendelsestilfælde for AI-systemer i alle offentlige og private sektorer, herunder inden for demokrati og retsvæsen. De detaljerede regler og procedurer for udvikling, markedsføring og ibrugtagning af AI-systemer på disse områder i forordningen om kunstig intelligens vil således sikre, at de grundlæggende rettigheder, demokratiet og retsstatsprincippet respekteres i hele AI-livscyklussen.

Konventionen indeholder principper og forpligtelser, der allerede er omfattet af forordningen om kunstig intelligens, såsom foranstaltninger til beskyttelse af menneskerettigheder, sikkerhed og pålidelighed, ansvarlighed og ansvar, datastyring og databeskyttelse, gennemsigtighed og tilsyn, ligestilling og ikke-forskelsbehandling, digitale færdigheder og digital dannelse.

Gennemsigtighed er et andet fælles element i begge retlige instrumenter, herunder foranstaltninger med hensyn til identifikation af AI-genereret indhold og underretning af personer, der interagerer med AI-systemer. Begge retsakter omfatter endvidere relevante bestemmelser om risiko- og konsekvensanalyser og risikostyring, registrering, offentliggørelse (til bemyndigede organer og myndigheder og, hvor det er relevant, berørte personer), sporbarhed og forklarlighed, sikker innovation og eksperimentering i kontrollerede miljøer og en række foranstaltninger, der muliggør effektive retsmidler, herunder ret til at anmode om og indhente oplysninger og klage til en kompetent myndighed samt proceduremæssige garantier.

Det tilsynssystem, der er fastsat i konventionen, er også i fuld overensstemmelse med det omfattende system for forvaltning og håndhævelse i forordningen om kunstig intelligens, som består af håndhævelse på EU-plan og nationalt plan, med procedurer for konsekvent gennemførelse af EU-reglerne i medlemsstaterne. Konventionen indeholder navnlig bestemmelser om en eller flere effektive tilsynsmekanismer på nationalt plan, som skal udføre deres opgaver uafhængigt og upartisk og have de nødvendige beføjelser, ekspertise og ressourcer til effektivt at kunne varetage opgaverne med at føre tilsyn med overholdelsen af forpligtelserne i konventionen, således som parterne har givet dem virkning.

Mens forordningen om kunstig intelligens finder anvendelse på AI-systemer, der bringes i omsætning, tages i brug eller anvendes i Unionen, har konventionen en bredere geografisk rækkevidde, der omfatter Europarådets medlemmer og tredjelande rundt om i verden, som kan blive parter i konventionen. Konventionen udgør således en enestående mulighed for at fremme pålidelig kunstig intelligens uden for Unionen i en første international juridisk bindende traktat, der bygger på en stærk menneskerettighedsbaseret tilgang til AI-regulering.

Både konventionen og forordningen om kunstig intelligens er en integreret del af en lovgivningsmæssig tilgang til kunstig intelligens med konsekvente og gensidigt forstærkende forpligtelser på flere internationale niveauer, og de deler det fælles mål om at sikre pålidelig kunstig intelligens.

•Sammenhæng med Unionens politik på andre områder

Konventionen deler også fælles mål med andre EU-politikker og anden EU-lovgivning, der har til formål at gennemføre de grundlæggende rettigheder, der er nedfældet i Den Europæiske Unions charter om grundlæggende rettigheder ( 8 ).

Navnlig er princippet om ligestilling og ikke-forskelsbehandling, der er nedfældet i konventionen, fuldt ud i overensstemmelse med EU-lovgivning om ikke-forskelsbehandling og vil fremme integrationen af ligestillingshensyn i udformningen, udviklingen og anvendelsen af AI-systemer og den effektive gennemførelse af forbuddet mod forskelsbehandling som fastsat i parternes gældende internationale og nationale lovgivning.

Konventionen er desuden i overensstemmelse med gældende EU-ret om databeskyttelse, herunder den generelle forordning om databeskyttelse ( 9 ) i forbindelse med de grundlæggende rettigheder til privatlivets fred og beskyttelse af personoplysninger med effektive garantier og beskyttelsesforanstaltninger, der skal være på plads for enkeltpersoner, i overensstemmelse med parternes gældende nationale og internationale retlige forpligtelser.

De foranstaltninger, der er omhandlet i konventionen, og som har til formål at beskytte parternes demokratiske processer i forbindelse med aktiviteter inden for AI-systemets livscyklus, er i fuld overensstemmelse med målene og de detaljerede regler i retsakten om digitale tjenester ( 10 ), som regulerer leveringen af formidlingstjenester i Unionen med henblik på at garantere et sikkert, forudsigeligt og pålideligt onlinemiljø, hvor de grundlæggende rettigheder, herunder retten til ytringsfrihed og retten til at modtage og videregive oplysninger, respekteres. De er også i overensstemmelse med forordningen om gennemsigtighed og målretning af politisk reklame ( 11 ), adfærdskodeksen om desinformation ( 12 ) og Unionens politikker inden for demokrati og frie, retfærdige og modstandsdygtige valg ( 13 ), herunder den europæiske demokratiindsatsplan fra 2020 ( 14 ), valg- og integritetspakken ( 15 ) og den nylige pakke om forsvar af demokratiet fra 2023 ( 16 ).

Konventionen er i overensstemmelse med Unionens digitale strategi, idet den bidrager til at fremme teknologi, der tjener alle, hvilket er en af de tre hovedsøjler til støtte for de politiske retningslinjer og målsætninger, der blev annonceret i meddelelsen om "Europas digitale fremtid i støbeskeen" ( 17 ). Sidstnævnte har til formål at sikre, at AI udvikles på måder, der respekterer menneskerettighederne og vinder befolkningens tillid, skaber et Europa, der er klar til den digitale tidsalder og gør de næste ti år til det digitale årti ( 18 ).

Desuden indeholder den europæiske erklæring om digitale rettigheder og principper for det digitale årti ( 19 ) flere digitale rettigheder og principper, der er i overensstemmelse med konventionens mål og principper, idet begge instrumenter fremmer en stærk menneskerettighedsbaseret tilgang til teknologi.

Konventionen er også i overensstemmelse med EU's strategi for børns rettigheder ( 20 ) og den europæiske strategi for et bedre internet for børn (BIK+) ( 21 ), som har til formål at sikre, at børn beskyttes, respekteres og styrkes online, så de kan imødegå udfordringer i forbindelse med nye virtuelle verdener og kunstig intelligens.

2.RETSGRUNDLAG, NÆRHEDSPRINCIPPET OG PROPORTIONALITETSPRINCIPPET

•Retsgrundlag

Forslaget til afgørelse om bemyndigelse til undertegnelse af konventionen på Unionens vegne forelægges Rådet i henhold til artikel 218, stk. 5, i TEUF.

Det materielle retsgrundlag for en afgørelse i henhold til artikel 218, stk. 5, TEUF afhænger primært af aftalens formål og indhold. Hvis en gennemgang af en fællesskabsretsakt viser, at den har et dobbelt formål, eller at den består af to led, og det ene af disse kan bestemmes som det primære eller fremherskende, mens det andet kun er sekundært, skal foranstaltningen ifølge retspraksis have en enkelt hjemmel, nemlig den, der kræves af det primære eller fremherskende formål eller led.

Med hensyn til det materielle retsgrundlag er konventionens materielle anvendelsesområde sammenfaldende med anvendelsesområdet for forordningen om kunstig intelligens ( 22 ), herunder i forbindelse med undtagelsen fra anvendelsesområdet for forskning og udvikling, national sikkerhed og forsvarsaktiviteter. Principperne og forpligtelserne i konventionen falder sammen med de mere detaljerede krav til AI-systemer og de specifikke forpligtelser for udbydere og udbredere af sådanne systemer i henhold til forordningen om kunstig intelligens og anden relevant EU-lovgivning. Hvis Rådet vedtager den foreslåede afgørelse, og Unionen undertegner konventionen, vil forordningen om kunstig intelligens udgøre den primære EU-lovgivning til gennemførelse af konventionen i Unionens retsorden med fuldt harmoniserede regler om markedsføring, ibrugtagning og anvendelse af AI-systemer i Unionen, der finder direkte anvendelse i medlemsstaterne, medmindre andet udtrykkeligt er fastsat i forordningen om kunstig intelligens ( 23 ).

I betragtning af at konventionens anvendelsesområde og målsætninger er tilpasset og fuldt ud i overensstemmelse med forordningen om kunstig intelligens, og at det personelle og materielle anvendelsesområde for begge retsakter er sammenfaldende, er det materielle retsgrundlag for indgåelsen af konventionen artikel 114 i TEUF, som er det primære retsgrundlag for forordningen om kunstig intelligens.

Arten af de internationale aftaler ("kun EU" eller "blandede") afhænger af det specifikke emnes forenelighed med Unionens kompetencer.

Artikel 3, stk. 2, TEUF bestemmer, at Unionen har enekompetence "til at indgå internationale aftaler… for så vidt [indgåelsen] kan berøre fælles regler eller ændre deres rækkevidde." En international aftale kan påvirke de fælles regler eller ændre deres anvendelsesområde, hvis de områder, der er omfattet af aftalen, i vidt omfang er omfattet af EU-retten ( 24 ).

Konventionens personelle anvendelsesområde er fuldt ud i overensstemmelse med forordningen om kunstig intelligens, idet begge retlige instrumenter i princippet omfatter både offentlige og private aktører (med frivillig anvendelse af konventionens principper og forpligtelser på andre private aktører end dem, der handler på vegne af offentlige myndigheder), mens det materielle anvendelsesområde for begge retsakter udelukker AI-aktiviteter vedrørende national sikkerhed, forsvar og forskning fra de gældende regler.

I betragtning af at konventionens personelle og materielle anvendelsesområde falder sammen med anvendelsesområdet for forordningen om kunstig intelligens, kan indgåelsen af konventionen berøre fælles EU-regler eller ændre deres anvendelsesområde som omhandlet i artikel 3, stk. 2, i TEUF. Unionen bør derfor anses for at have ekstern enekompetence til at indgå konventionen, og konventionen bør undertegnes på vegne af Unionen som en "kun EU"-aftale med forbehold af dens indgåelse på et senere tidspunkt.

•Proportionalitetsprincippet

Konventionen går ikke ud over, hvad der er nødvendigt for at nå de politiske mål om at udvikle en sammenhængende tilgang til regulering af kunstig intelligens på internationalt plan.

Konventionen fastsætter en retlig ramme på højt niveau for kunstig intelligens, der giver mulighed for fleksibilitet, hvilket gør det muligt for parterne konkret at udforme gennemførelsesrammerne. Den risikobaserede tilgang sikrer også reglernes proportionalitet og muliggør differentiering af gennemførelsesforanstaltningerne på en måde, der står i et rimeligt forhold til risiciene, på samme måde som i forordningen om kunstig intelligens.

•Valg af retsakt

Det valgte instrument er et forslag til Rådets afgørelse i henhold til artikel 218, stk. 5, i TEUF.

3.RESULTATER AF EFTERFØLGENDE EVALUERINGER, HØRINGER AF INTERESSENTER OG KONSEKVENSANALYSER

•Efterfølgende evalueringer/kvalitetskontrol af gældende lovgivning

Ikke relevant.

•Høringer af interessenter

Europa-Kommissionen har ikke gennemført en specifik høring af interessenter om dette forslag.

Udarbejdelsen af konventionen var en fælles indsats fra Europarådets Komité for Kunstig Intelligens, der involverede alle 46 medlemsstater i Europarådet samt observatørstater, herunder Canada, Japan, Mexico, Den Hellige Stol, Amerikas Forenede Stater og Den Europæiske Union. Derudover deltog flere andre ikke-medlemsstater, herunder Australien, Argentina, Costa Rica, Israel, Peru og Uruguay.

I overensstemmelse med Europarådets forpligtelse til at samarbejde med forskellige interessenter omfattede udarbejdelsen af konventionen også bidrag fra 68 internationale repræsentanter fra civilsamfundet, den akademiske verden, industrien og andre internationale organisationer, hvilket sikrede en omfattende og inklusiv tilgang. Udarbejdelsen af konventionen omfattede også samarbejde med forskellige andre internationale organisationer, herunder Organisationen for Sikkerhed og Samarbejde i Europa (OSCE), Organisationen for Økonomisk Samarbejde og Udvikling (OECD) og De Forenede Nationers Organisation for Uddannelse, Videnskab og Kultur (UNESCO). Derudover bidrog relevante organer og komitéer i Europarådet til processen. EU's deltagelse blev ledet af Europa-Kommissionen. Repræsentanter fra Den Europæiske Unions Agentur for Grundlæggende Rettigheder og Den Europæiske Tilsynsførende for Databeskyttelse var også til stede som observatører.

•Indhentning og brug af ekspertbistand

Unionens forhandlingspositioner vedrørende konventionen er udarbejdet i samråd med et særligt udvalg udpeget af Rådet (Rådets Gruppe vedrørende Telekommunikation og Informationssamfundet).

•Konsekvensanalyse

Ikke relevant.

•Målrettet regulering og forenkling

Ikke relevant.

•Grundlæggende rettigheder

Konventionen har til formål at imødegå potentielle risici og skader på menneskerettighederne ved at sikre, at aktiviteter inden for AI-systemers livscyklus er i overensstemmelse med principperne om respekt for menneskerettigheder, demokrati og retsstatsprincippet, samtidig med at AI's potentiale til at beskytte og lette udøvelsen af disse rettigheder i det digitale miljø anerkendes, samt at forbedre samfunds- og miljømæssig velfærd og teknologiske fremskridt.

De konkrete principper og forpligtelser, der er fastsat i konventionen, har til formål at beskytte og respektere menneskerettighederne, som er nedfældet i flere internationale og regionale instrumenter ( 25 ), som finder anvendelse på parterne, herunder Den Europæiske Unions charter om grundlæggende rettigheder og internationale instrumenter om menneskerettigheder, som Unionen har indgået.

Konventionen fastsætter således en fælles minimumsstandard for anvendelse af beskyttelse af menneskerettighederne i forbindelse med kunstig intelligens, samtidig med at den eksisterende beskyttelse af menneskerettighederne opretholdes, og parterne får mulighed for at yde en bredere beskyttelse med strengere garantier.

4.VIRKNINGER FOR BUDGETTET

Konventionenforudser finansielle bidrag fra ikke-medlemsstater til partskonferencens aktiviteter. Mens alle Europarådets medlemmer vil bidrage via Europarådets almindelige budget i overensstemmelse med Europarådets statut, vil parter, der ikke er medlemmer, yde ekstraordinære bidrag. Bidrag fra ikke-medlemmer af Europarådet fastlægges i fællesskab af Ministerkomitéen og det pågældende ikke-medlemmer.

Konventionen griber ikke ind i parternes nationale love og bestemmelser om budgetkompetencer og procedurer for budgetbevillinger. Konventionen giver også tredjelande mulighed for at yde deres bidrag inden for de godkendte budgetgrænser, der er fastsat af deres lovgivende organ, uden at dette berører eventuelle tidligere aftaler.

5.ANDRE FORHOLD

•Planer for gennemførelsen og foranstaltninger til overvågning, evaluering og rapportering

Partskonferencen, der består af repræsentanter for parterne, overvåger, at konventionens mål opfyldes effektivt, og at dens bestemmelser gennemføres af parterne.

Hver part skal forelægge en rapport for partskonferencen inden for de første to år efter tiltrædelsen og derefter med jævne mellemrum med en detaljeret beskrivelse af de foranstaltninger, der er truffet for at gennemføre konventionen.

Parterne opfordres endvidere til at samarbejde om at opfylde konventionens mål. Dette internationale samarbejde kan omfatte udveksling af relevante oplysninger om kunstig intelligens og dens potentiale til at påvirke menneskerettighederne, demokratiet og retsstatsprincippet negativt eller positivt.

For at sikre effektiv overvågning og gennemførelse skal hver part udpege en eller flere effektive tilsynsmekanismer på nationalt plan.

2024/0150 (NLE)

Forslag til

RÅDETS AFGØRELSE

om undertegnelse på Den Europæiske Unions vegne af Europarådets rammekonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

RÅDET FOR DEN EUROPÆISKE UNION HAR —

under henvisning til traktaten om Den Europæiske Unions funktionsmåde, særlig artikel 114 sammenholdt med artikel 218, stk. 5,

under henvisning til forslag fra Europa-Kommissionen og

ud fra følgende betragtning[er]:

(1)Den 21. november 2022 bemyndigede Rådet Europa-Kommissionen til at indlede forhandlinger på Unionens vegne om Europarådets konvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet ("konventionen"). Europa-Kommissionen har forhandlet konventionen på Unionens vegne. Den 17. maj 2024 blev forhandlingerne afsluttet med paraferingen af konventionen og dens vedtagelse i Europarådets Ministerkomité ( 26 ).

(2)Konventionen fastsætter generelle principper og forpligtelser, som parterne i konventionen skal overholde for at sikre beskyttelsen af menneskerettigheder, demokrati og retsstatsprincippet i forbindelse med aktiviteter inden for livscyklussen for systemer med kunstig intelligens (AI).

(3)Den 12. juni 2024 vedtog Unionen forordning (EU) 2024/... ("forordningen om kunstig intelligens")( 27 ), primært på grundlag af artikel 114 i TEUF, som fastsætter fuldt harmoniserede regler for markedsføring, ibrugtagning og anvendelse af AI-systemer i Unionen, som finder direkte anvendelse i medlemsstaterne, medmindre andet udtrykkeligt er fastsat i forordningen om kunstig intelligens. Konventionen skal gennemføres i Unionen udelukkende gennem forordningen om kunstig intelligens og anden relevant gældende EU-ret, hvor det er relevant.

(4)Da konventionens personelle og materielle anvendelsesområde falder sammen med forordningen om kunstig intelligens og anden relevant EU-ret, kan indgåelsen af konventionen berøre fælles EU-regler eller ændre deres anvendelsesområde, jf. artikel 3, stk. 2, i traktaten om Den Europæiske Unions funktionsmåde. Unionen har derfor ekstern enekompetence til at undertegne konventionen, og derfor bør kun Unionen blive part i konventionen med forbehold af dens indgåelse på et senere tidspunkt.

(5)I overensstemmelse med traktaterne påhviler det Europa-Kommissionen at sikre undertegnelsen af konventionen med forbehold af dens indgåelse på et senere tidspunkt —

VEDTAGET DENNE AFGØRELSE:

Artikel 1

Undertegnelsen af Europarådets rammekonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet ("konventionen") godkendes herved på Unionens vegne med forbehold af indgåelse af nævnte konvention.

Teksten til den konvention, der skal undertegnes, er knyttet til denne afgørelse.

Artikel 2

Denne afgørelse træder i kraft den .

Udfærdiget i Bruxelles, den .

   På Rådets vegne

   Formand

(1)     EUROPA-PARLAMENTETS OG RÅDETS FORORDNING (EU) 2024/... om harmoniserede regler om kunstig intelligens og om ændring af forordning (EF) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 og (EU) 2019/2144 samt direktiv 2014/90/EU, (EU) 2016/797 og (EU) 2020/1828 (forordningen om kunstig intelligens) (EUT 2024 L...) .
(2)    Forordningen om kunstig intelligens, betragtning 1 og 8.
(3)     Beslutning om CAI's arbejde på den 132. samling i Ministerkomitéen — Opfølgning, CM/Inf(2022)20, DD(2022)245 .
(4)    Domstolens dom af 20. november 2018, forenede sager C-626/15 og C-659/16, Kommissionen mod Rådet (beskyttede havområder i Antarktis), ECLI:EU:C:2018:925, præmis 112.
(5)     Rådets afgørelse (EU) 2022/2349 af 21. november 2022 om bemyndigelse til at indlede forhandlinger på vegne af Den Europæiske Union om en europarådskonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet , EUT L 311 af   2 .12.2022, s. 138 .
(6)    CM/Del/Dec(2024)133/4.
(7)    OECD's definition af et "AI-system" blev ajourført den 8. november 2023 [C(2023)151 og C/M(2023)14, punkt 218] for at sikre, at den fortsat er teknisk nøjagtig og afspejler den teknologiske udvikling, herunder med hensyn til generativ AI.
(8)

   Den Europæiske Unions charter om grundlæggende rettigheder, EUT C 326 af 26.10.2012, s. 391.

(9)    Europa-Parlamentets og Rådets forordning (EU) 2016/679 af 27. april 2016 om beskyttelse af fysiske personer i forbindelse med behandling af personoplysninger og om fri udveksling af sådanne oplysninger og om ophævelse af direktiv 95/46/EF (generel forordning om databeskyttelse) (EUT L 119 af 4.5.2016, s. 1).
(10)    Europa-Parlamentets og Rådets forordning (EU) 2022/2065 af 19. oktober 2022 om et indre marked for digitale tjenester og om ændring af direktiv 2000/31/EF (forordning om digitale tjenester) (EUT L 277 af 27.10.2022, s. 1).
(11)    Europa-Parlamentets og Rådets forordning (EU) 2024/900 af 13. marts 2024 om gennemsigtighed og målretning i forbindelse med politisk reklame, PE/90/2023/REV/1, EUT L 2024/900 af 20.3.2024.
(12)     https://disinfocode.eu/introduction-to-the-code/ .
(13)     Beskyttelse af demokratiet — Europa-Kommissionen (europa.eu) .
(14)     https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_da .
(15)     https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en .
(16)    Meddelelse fra Kommissionen om forsvar af demokratiet, COM/2023/630 final.
(17)    Meddelelse fra Kommissionen: Europas digitale fremtid i støbeskeen, COM/2020/67 final.
(18)    Meddelelse fra Kommissionen, Det digitale kompas 2030: Europas kurs i det digitale årti , COM/2021/118 final.
(19)     Europæisk erklæring om digitale rettigheder og principper for det digitale årti , COM(2022) 28 final.
(20)    Meddelelse fra Kommissionen om en EU-strategi for børns rettigheder, COM/2021/142 final.
(21)    Meddelelse fra Kommissionen — Et digitalt årti for børn og unge: den nye europæiske strategi for et bedre internet for børn (BIK+), COM/2022/212 final.
(22)    Vedtaget af Rådet den 21. maj 2024 og forventes offentliggjort i Den Europæiske Unions Tidende i juli 2024.
(23)    Se artikel 1 og betragtning 1 i forordningen om kunstig intelligens.
(24)    F.eks. sag C‑114/12, Kommissionen mod Rådet (radio- og tv-selskabers beslægtede rettigheder), ECLI:EU:C:2014:2151, præmis 68-69. Udtalelse 1/13, Tredjestaters tiltrædelse af Haagerkonventionen, EU:C:2014:2303, præmis 71-74. Sag C‑66/13, Green Network, EU:C:2014:2399, præmis 27-33. Udtalelse 3/15, Marrakeshtraktaten om fremme af adgang til offentliggjorte værker for personer, der er blinde, synshæmmede eller på anden måde læsehandicappede, ECLI:EU:C:2017:114, præmis 105-108.
(25)    Såsom verdenserklæringen om menneskerettigheder fra 1948, konventionen fra 1950 til beskyttelse af menneskerettigheder og grundlæggende frihedsrettigheder (ETS nr. 5), den internationale konvention om borgerlige og politiske rettigheder fra 1966, den internationale konvention om økonomiske, sociale og kulturelle rettigheder fra 1966, den europæiske socialpagt fra 1961 (ETS nr. 35) samt deres respektive protokoller og den europæiske socialpagt (revideret) fra 1996 (ETS nr. 163), De Forenede Nationers konvention fra 1989 om barnets rettigheder og De Forenede Nationers konvention fra 2006 om rettigheder for personer med handicap.
(26)    RÅDETS AFGØRELSE (EU) 2022/2349 af 21. november 2022 om bemyndigelse til at indlede forhandlinger på vegne af Den Europæiske Union om en europarådskonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet, EUT L 311 af   2 .12.2022, s. 138 .
(27)    Europa-Parlamentets og Rådets forordning (EU) 2024/... om harmoniserede regler om kunstig intelligens og om ændring af forordning (EF) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 og (EU) 2019/2144 samt direktiv 2014/90/EU, (EU) 2016/797 og (EU) 2020/1828 (forordningen om kunstig intelligens), EUT 2024 L…...