EVROPSKÁ KOMISE
V Bruselu dne 26.6.2024
COM(2024) 264 final
2024/0150(NLE)
Návrh
ROZHODNUTÍ RADY
o podpisu rámcové úmluvy Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu jménem Evropské unie
EVROPSKÁ KOMISE
V Bruselu dne 26.6.2024
COM(2024) 264 final
2024/0150(NLE)
Návrh
ROZHODNUTÍ RADY
o podpisu rámcové úmluvy Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu jménem Evropské unie
DŮVODOVÁ ZPRÁVA
1.SOUVISLOSTI NÁVRHU
•Odůvodnění a cíle návrhu
Umělá inteligence (AI) nabízí velké příležitosti, ale některé způsoby jejího uplatňování a využívání mohou také působit újmu a vytvářet rizika pro základní práva jednotlivců a další veřejné zájmy.
V podobě nařízení Evropského parlamentu a Rady (EU) 2024/[….], kterým se stanoví harmonizovaná pravidla pro umělou inteligenci („akt o umělé inteligenci“), přijala Unie první komplexní nařízení o umělé inteligenci, jež nastolí celosvětový standard. Akt o umělé inteligenci byl přijat dne 12. června 2024 ( 1 ) a vstoupí v platnost do 20 dnů po vyhlášení v Úředním věstníku. Akt o umělé inteligenci plně harmonizuje pravidla pro uvádění systémů umělé inteligence na trh a do provozu a pro jejich používání v členských státech ( 2 ) s cílem podpořit inovace a zavádění důvěryhodné umělé inteligence a zároveň chránit zdraví, bezpečnost a základní práva, včetně demokracie, právního státu a životního prostředí.
Své úsilí v oblasti regulace umělé inteligence zintenzivnily také různé mezinárodní organizace, včetně Rady Evropy, které si uvědomují přeshraniční povahu AI a potřebu mezinárodní spolupráce při řešení společných výzev, které s sebou tyto technologie přináší.
Výbor Rady Evropy pro umělou inteligenci (CAI) ( 3 ) v období od června 2022 připravil právně závaznou rámcovou úmluvu (dále jen „úmluva“), která má řešit potenciální rizika, jež umělá inteligence představuje pro lidská práva, demokracii a právní stát. Unie sjednala úmluvu na základě čl. 216 odst. 1 čtvrté alternativy SFEU, podle kterého může Unie sjednat 4 a uzavřít mezinárodní dohodu, pokud „[…] se může dotknout společných pravidel či změnit jejich oblast působnosti“. Evropská komise zastupovala Unii při jednáních o úmluvě v souladu s čl. 218 odst. 3 Smlouvy o fungování Evropské unie (dále jen „SFEU“) a na základě rozhodnutí Rady o zmocnění k zahájení jednání jménem Evropské unie ( 5 ).
Unie se aktivně účastnila jednání a sledovala cíl zajistit slučitelnost úmluvy s právem Unie, soulad s aktem o umělé inteligenci, jakož i kvalitu a přidanou hodnotu úmluvy jako první mezinárodní smlouvy o umělé inteligenci. V této souvislosti byl cílem Unie také mezinárodní rozsah úmluvy.
Po několika kolech jednání schválil Výbor pro umělou inteligenci znění úmluvy na svém 10. plenárním zasedání, které se konalo ve dnech 11. až 14. března 2024. Dne 17. května 2024 přijal úmluvu Výbor ministrů Rady Evropy, souhlasil s jejím otevřením k podpisu ve Vilniusu (Litva) dne 5. září 2024 u příležitosti neformální konference ministrů spravedlnosti a vyzval členy Rady Evropy, další třetí země, které se podílely na jejím vypracování, a Unii, aby při této příležitosti zvážili její podpis, a zároveň připomněl, že úmluva je otevřena k přístupu i dalším státům, které nejsou členy Rady Evropy ( 6 ).
V této souvislosti je účelem tohoto návrhu zahájit proces podpisu úmluvy Unií se záměrem následné ratifikace tím, že se navrhne Radě, aby přijala rozhodnutí o zmocnění Unie k podpisu úmluvy v souladu s čl. 218 odst. 5 SFEU. Úmluva je plně slučitelná s právem Unie obecně, a zejména s aktem o umělé inteligenci, a bude na celosvětové úrovni prosazovat klíčové koncepty přístupu Unie k regulaci umělé inteligence mezi dalšími členy Rady Evropy a důležitými mezinárodními partnery, kteří se mohou stát smluvními stranami úmluvy.
Obsah úmluvy
Cílem úmluvy je zajistit, aby činnosti v rámci životního cyklu systémů AI byly plně v souladu s lidskými právy, demokracií a právním státem.
Smluvní strany úmluvy ji budou muset provést prostřednictvím vhodných legislativních, správních nebo jiných opatření k uplatnění jejích ustanovení, a to na základě odstupňovaného a diferencovaného přístupu v závislosti na závažnosti a pravděpodobnosti nepříznivých dopadů. Úmluva by měla být v Unii prováděna výhradně prostřednictvím aktu o umělé inteligenci, který plně harmonizuje pravidla pro uvádění na trh, uvádění do provozu a používání systémů umělé inteligence, a případně dalšího příslušného acquis Unie.
Oblast působnosti úmluvy pokrývá systémy umělé inteligence, které mohou potenciálně zasahovat do lidských práv, demokracie a právního státu, a to na základě diferencovaného přístupu. Zásady a povinnosti stanovené v úmluvě se budou vztahovat na činnosti v rámci životního cyklu systémů AI prováděné orgány veřejné správy nebo soukromými subjekty jednajícími jejich jménem. Pokud jde o soukromý sektor, smluvní strany jsou povinny řešit rizika a dopady vyplývající z činností v rámci životního cyklu systémů AI prováděných soukromými subjekty způsobem, který je v souladu s předmětem a účelem úmluvy, ale mají na výběr, zda uplatní povinnosti vyplývající z úmluvy, nebo přijmou jiná vhodná opatření. Smluvní strany budou muset učinit prohlášení o volbě, kterou v tomto ohledu učiní při podpisu úmluvy nebo při přistoupení k ní. Unie by měla po uzavření úmluvy vydat prohlášení, že Unie bude prostřednictvím aktu o umělé inteligenci a dalšího příslušného acquis Unie provádět zásady a povinnosti stanovené v kapitolách II až VI úmluvy týkající se činností soukromých subjektů, které uvádějí na trh, do provozu a používají systémy AI v Unii.
Činnosti v oblasti AI související s národní bezpečností jsou z oblasti působnosti úmluvy vyloučeny s tím, že musí být v každém případě prováděny způsobem, který je v souladu s platným mezinárodním právem v oblasti lidských práv a respektuje demokratické instituce a procesy. Úmluva rovněž nezahrnuje činnosti v oblasti výzkumu a vývoje týkající se systémů AI, které ještě nejsou k dispozici pro použití, pokud testování nebo podobné činnosti nemají potenciál zasahovat do lidských práv, demokracie a právního státu. V souladu se Statutem Rady Evropy nespadají záležitosti týkající se národní obrany do oblasti působnosti úmluvy.
Úmluva dále stanoví soubor obecných povinností a základních zásad, včetně ochrany lidské důstojnosti a individuální autonomie, jakož i podpory rovnosti a zákazu diskriminace. Kromě toho nařizuje respektovat soukromí a ochranu osobních údajů spolu s transparentností a dohledem s cílem zajistit odpovědnost. Jedna zásada je také věnována bezpečným inovacím a experimentování v kontrolovaném prostředí.
Zvláštní kapitola o opravných prostředcích rovněž předpokládá soubor opatření, jejichž cílem je zajistit dostupnost účinných opravných prostředků v případě porušení lidských práv v důsledku činností v rámci životního cyklu systémů AI. Zahrnuje také účinné procesní záruky a ochranná opatření pro osoby, jejichž práva byla používáním systémů AI významně dotčena. Kromě toho by měly být osoby upozorněny, že komunikují se systémem AI, a nikoli s člověkem.
Úmluva rovněž obsahuje kapitolu o opatřeních pro posuzování a zmírňování rizik a nepříznivých dopadů, která se mají provádět opakovaně a jejichž cílem je zjistit skutečné a potenciální dopady na lidská práva, demokracii a právní stát a přijmout vhodná preventivní a zmírňující opatření.
Úmluva dále stanoví, že smluvní strany by měly posoudit potřebu zákazu nebo moratoria na určité způsoby uplatňování systémů AI, které jsou považovány za neslučitelné s dodržováním lidských práv, fungováním demokracie nebo právního státu.
Úmluva stanoví mechanismus následných opatření v rámci konference smluvních stran úmluvy složené ze zástupců smluvních stran, která vede pravidelné konzultace s cílem usnadnit účinné používání a provádění úmluvy. Předpokládá také mechanismus mezinárodní spolupráce jak mezi smluvními stranami úmluvy, tak ve vztazích se třetími zeměmi a příslušnými zúčastněnými stranami za účelem dosažení účelu úmluvy.
Každá smluvní strana by dále měla na vnitrostátní úrovni zřídit nebo určit jeden nebo více účinných mechanismů pro dohled nad dodržováním povinností stanovených v úmluvě a provedených smluvními stranami.
•Soulad s platnými předpisy v této oblasti politiky
Úmluva stanoví obecné zásady a povinnosti v oblasti ochrany lidských práv, demokracie a právního státu, které jsou plně v souladu s cíli aktu o umělé inteligenci a podrobnými požadavky na systémy AI a povinnostmi uloženými poskytovatelům a provozovatelům těchto systémů.
Definice systému AI v úmluvě je plně sladěna s definicí v aktu o umělé inteligenci, neboť obě vycházejí z definice těchto systémů v zásadách Organizace pro hospodářskou spolupráci a rozvoj pro umělou inteligenci ( 7 ), čímž je zajištěna obecná shoda na tom, které digitální technologie umělou inteligenci představují.
Úmluva i akt o umělé inteligenci se rovněž řídí přístupem k regulaci systémů AI založeným na rizicích a obsahují zvláštní ustanovení o posuzování rizik a dopadů a o opatřeních ke zmírnění rizik. Akt o umělé inteligenci obsahuje zejména řadu příslušných zákazů a případů vysoce rizikového využívání systémů AI ve všech veřejných i soukromých sektorech, včetně oblasti demokracie a spravedlnosti. Podrobná pravidla a postupy pro vývoj, uvádění na trh a zavádění systémů AI v těchto oblastech obsažené v aktu o umělé inteligenci tak zajistí dodržování základních práv, demokracie a právního státu během celého životního cyklu umělé inteligence.
Úmluva obsahuje zásady a povinnosti, které jsou již řešeny v aktu o umělé inteligenci, jako jsou opatření na ochranu lidských práv, bezpečnosti, spolehlivosti a odpovědnosti a opatření v oblasti správy dat, ochrany údajů, transparentnosti, dohledu, rovnosti, zákazu diskriminace, digitálních dovedností a gramotnosti.
Dalším společným prvkem obou právních nástrojů je transparentnost, včetně opatření týkajících se identifikace obsahu vytvořeného umělou inteligencí a informování osob o tom, že komunikují se systémy AI. Oba právní nástroje rovněž obsahují příslušná ustanovení o posuzování rizik a dopadů a řízení rizik, evidenci, sdělování (oprávněným subjektům a orgánům a případně dotčeným osobám), sledovatelnosti a vysvětlitelnosti, bezpečných inovacích a experimentování v kontrolovaném prostředí a soubor opatření umožňujících účinné opravné prostředky, včetně práva požadovat a získat informace a podat stížnost příslušnému orgánu, a procesní záruky.
Systém dohledu zamýšlený v úmluvě je rovněž plně v souladu s komplexním systémem správy a vymáhání stanoveným v aktu o umělé inteligenci, který se skládá z vymáhání na úrovni Unie a na vnitrostátní úrovni, a s postupy pro jednotné provádění pravidel Unie v členských státech. Úmluva zejména předpokládá jeden nebo více účinných mechanismů dohledu na vnitrostátní úrovni, které musí vykonávat své povinnosti nezávisle a nestranně a musí mít potřebné pravomoci, odborné znalosti a zdroje, aby mohly účinně plnit úkoly dohledu nad dodržováním povinností stanovených v úmluvě a provedených smluvními stranami.
Zatímco akt o umělé inteligenci se bude vztahovat na systémy AI uváděné na trh, do provozu nebo používané v Unii, úmluva má širší geografický dosah zahrnující členy Rady Evropy a třetí státy po celém světě, které mohou k úmluvě přistoupit. Úmluva tak představuje jedinečnou příležitost, jak podpořit důvěryhodnou AI mimo Unii v první mezinárodní právně závazné smlouvě založené na přístupu k regulaci AI zaměřeném na lidská práva.
Úmluva i akt o umělé inteligenci jsou nedílnými součástmi regulačního přístupu k AI, s konzistentními a vzájemně se posilujícími závazky na různých mezinárodních úrovních, a mají společný cíl zajistit důvěryhodnou AI.
•Soulad s ostatními politikami Unie
Úmluva má rovněž společné cíle s dalšími politikami a právními předpisy Unie, které se zaměřují na provádění základních práv zakotvených v Listině základních práv Unie ( 8 ).
Zejména zásada rovnosti a zákazu diskriminace zakotvená v úmluvě je plně v souladu s právními předpisy Unie o zákazu diskriminace a podpoří začlenění hledisek rovnosti do návrhu, vývoje a používání systémů AI a účinné provádění zákazu diskriminace, jak je stanoveno v platném mezinárodním a vnitrostátním právu smluvních stran.
Úmluva je dále v souladu s acquis Unie v oblasti ochrany údajů, včetně obecného nařízení o ochraně osobních údajů ( 9 ), pokud jde o základní práva na ochranu soukromí a osobních údajů s účinnými zárukami a ochrannými opatřeními, které musí být pro jednotlivce zavedeny v souladu s platnými vnitrostátními a mezinárodními právními závazky smluvních stran.
Opatření předpokládaná v úmluvě, která mají chránit demokratické procesy smluvních stran v souvislosti s činnostmi během životního cyklu systému AI, jsou plně v souladu s cíli a podrobnými pravidly nařízení o digitálních službách ( 10 ), které upravuje poskytování zprostředkovatelských služeb v Unii s cílem zajistit bezpečné, předvídatelné a důvěryhodné online prostředí, v němž jsou dodržována základní práva, včetně práva na svobodu projevu a práva přijímat a rozšiřovat informace. Jsou rovněž v souladu s nařízením o transparentnosti a cílení politické reklamy ( 11 ), s kodexem zásad boje proti dezinformacím ( 12 ) a s politikami Unie v oblasti demokracie a svobodných, spravedlivých a odolných voleb ( 13 ), včetně Akčního plánu pro evropskou demokracii z roku 2020( 14 ), balíčku opatření týkajících se voleb a integrity ( 15 ) a nedávno balíčku opatření na obranu demokracie z roku 2023 ( 16 ).
Tato úmluva je rovněž v souladu s celkovou digitální strategií Unie, pokud jde o její příspěvek k podpoře technologie, která slouží lidem, což je jeden ze tří hlavních pilířů politické orientace a cílů oznámených ve sdělení „Formování digitální budoucnosti Evropy“ ( 17 ). Jeho cílem je zajistit rozvoj umělé inteligence způsobem, který respektuje lidská práva a získává důvěru lidí, přičemž zajišťuje připravenost Evropy na digitální věk a mění příští roky v digitální dekádu ( 18 ).
Evropské prohlášení o digitálních právech a zásadách pro digitální dekádu ( 19 ) navíc obsahuje několik digitálních práv a zásad, které jsou sladěny s cíli a zásadami úmluvy, přičemž oba nástroje podporují silný přístup k technologiím založený na lidských právech.
Úmluva je rovněž v souladu se Strategií EU pro práva dítěte ( 20 ) a Evropskou strategií pro lepší internet pro děti (BIK+) ( 21 ), jejichž cílem je zajistit, aby děti byly na internetu chráněny, respektovány a podporovány, a mohly tak čelit výzvám nových virtuálních světů nebo umělé inteligence.
2.PRÁVNÍ ZÁKLAD, SUBSIDIARITA A PROPORCIONALITA
•Právní základ
Návrh rozhodnutí o zmocnění k podpisu úmluvy jménem Unie se předkládá Radě podle čl. 218 odst. 5 SFEU.
Hmotněprávní základ rozhodnutí podle čl. 218 odst. 5 SFEU závisí v první řadě na cíli a obsahu dohody. Podle judikatury platí, že pokud přezkum opatření Unie ukáže, že sleduje dvojí cíl nebo že obsahuje dvě složky, a pokud jedny z nich je možno identifikovat jako hlavní nebo převažující, zatímco druhé jsou pouze vedlejší, musí být opatření založeno na jediném právním základu, a sice na tom, který je vyžadován hlavním nebo převažujícím cílem nebo složkou.
Pokud jde o hmotněprávní základ, věcná působnost úmluvy se shoduje s oblastí působnosti aktu o umělé inteligenci ( 22 ), včetně výjimky z oblasti působnosti týkající se výzkumu a vývoje, národní bezpečnosti a obranných činností. Zásady a povinnosti obsažené v úmluvě se shodují s podrobnějšími požadavky na systémy AI a konkrétními povinnostmi poskytovatelů a provozovatelů těchto systémů podle aktu o umělé inteligenci a dalších příslušných právních předpisů Unie. Pokud Rada navrhované rozhodnutí přijme a Unie úmluvu podepíše, bude akt o umělé inteligenci představovat primární právní předpis Unie k provedení úmluvy v právním řádu Unie s plně harmonizovanými pravidly pro uvádění na trh, uvádění do provozu a používání systémů AI v Unii, která jsou přímo použitelná v členských státech, pokud akt o umělé inteligenci výslovně nestanoví jinak ( 23 ).
Vzhledem k tomu, že oblast působnosti a cíle úmluvy jsou sladěny a plně v souladu s cíli aktu o umělé inteligenci a že osobní a věcná působnost obou právních nástrojů se shoduje, je hmotněprávním základem pro uzavření úmluvy článek 114 SFEU, který je primárním právním základem aktu o umělé inteligenci.
Povaha mezinárodních dohod („pouze EU“ nebo „smíšené“) je podmíněna souladem konkrétního předmětu s pravomocemi Unie.
V čl. 3 odst. 2 SFEU se stanoví, že ve výlučné pravomoci Unie je „uzavření mezinárodní smlouvy, […] pokud její uzavření může ovlivnit společná pravidla či změnit jejich působnost“. Mezinárodní dohoda může ovlivnit společná pravidla nebo změnit jejich působnost, pokud je oblast, na kterou se dohoda vztahuje, do značené míry upravena právem Unie ( 24 ).
Osobní působnost úmluvy je plně sladěna s aktem o umělé inteligenci v tom smyslu, že oba právní nástroje se v zásadě vztahují na veřejné i soukromé subjekty (s dobrovolným uplatněním zásad a povinností stanovených v úmluvě na soukromé subjekty jiné než ty, které jednají jménem orgánů veřejné správy), přičemž věcná působnost obou právních nástrojů vylučuje z použitelných pravidel činnosti v oblasti AI související s národní bezpečností, obranou a výzkumem.
Vzhledem k tomu, že se osobní a věcná působnost úmluvy se shoduje s působností aktu o umělé inteligenci, může uzavření úmluvy ovlivnit společná pravidla Unie nebo změnit jejich působnost ve smyslu čl. 3 odst. 2 SFEU. V důsledku toho by se mělo mít za to, že Unie má výlučnou vnější pravomoc k uzavření úmluvy, a úmluva by měla být podepsána jménem Unie jako dohoda „pouze EU“, s výhradou jejího pozdějšího uzavření.
•Proporcionalita
Úmluva nepřekračuje rámec toho, co je nezbytné k dosažení politických cílů, a rozvíjí tak soudržný přístup k regulaci umělé inteligence na mezinárodní úrovni.
Úmluva stanoví pro umělou inteligenci právní rámec na vysoké úrovni, který umožňuje flexibilitu, čímž dává smluvním stranám možnost navrhnout konkrétní prováděcí rámce. Přístup založený na rizicích rovněž zajišťuje přiměřenost pravidel a umožňuje diferencovat prováděcí opatření způsobem přiměřeným rizikům, podobně jako akt o umělé inteligenci.
•Volba nástroje
Vybraný nástroj je návrh rozhodnutí Rady podle čl. 218 odst. 5 SFEU.
3.VÝSLEDKY HODNOCENÍ EX POST, KONZULTACÍ SE ZÚČASTNĚNÝMI STRANAMI A POSOUZENÍ DOPADŮ
•Hodnocení ex post / kontroly účelnosti platných právních předpisů
Nevztahuje se na tento návrh.
•Konzultace se zúčastněnými stranami
Evropská komise k tomuto návrhu neprovedla žádnou zvláštní konzultaci se zúčastněnými stranami.
Vypracování úmluvy bylo společným úsilím Výboru Rady Evropy pro umělou inteligenci, do něhož se zapojilo všech 46 členských států Rady Evropy a také pozorovatelské státy, včetně Kanady, Japonska, Mexika, Svatého stolce, Spojených států amerických a Evropské unie. Kromě toho se zúčastnilo několik dalších států, které nejsou členy Rady Evropy, včetně Austrálie, Argentiny, Kostariky, Izraele, Peru a Uruguaye.
V souladu se závazkem Rady Evropy zapojit různé zúčastněné strany se na vypracování úmluvy podílelo také 68 mezinárodních zástupců občanské společnosti, akademické obce, průmyslu a dalších mezinárodních organizací, čímž byl zajištěn komplexní a inkluzivní přístup. Na vypracování úmluvy se podílely také různé další mezinárodní organizace, včetně Organizace pro bezpečnost a spolupráci v Evropě (OBSE), Organizace pro hospodářskou spolupráci a rozvoj (OECD) a Organizace OSN pro výchovu, vědu a kulturu (UNESCO). Kromě toho se na tomto procesu podílely příslušné orgány a výbory Rady Evropy. Účast Unie vedla Evropská komise. Jako pozorovatelé byli přítomni také zástupci Agentury Evropské unie pro základní práva a evropského inspektora ochrany údajů.
•Sběr a využití výsledků odborných konzultací
Postoje Unie pro jednání o úmluvě byly připraveny na základě konzultací se zvláštním výborem jmenovaným Radou (pracovní skupina Rady pro telekomunikace a informační společnost).
•Posouzení dopadů
Nevztahuje se na tento návrh.
•Účelnost právních předpisů a zjednodušení
Nevztahuje se na tento návrh.
•Základní práva
Úmluva má za cíl řešit potenciální rizika a újmy pro lidská práva tím, že se zajistí, aby činnosti v rámci životního cyklu systémů AI byly v souladu se zásadami dodržování lidských práv, demokracie a právního státu, a zároveň uznává potenciál umělé inteligence chránit a usnadňovat výkon těchto práv v digitálním prostředí a zlepšovat společenský a environmentální blahobyt a technologický pokrok.
Konkrétní zásady a povinnosti stanovené v úmluvě mají chránit a dodržovat lidská práva zakotvená v mnoha mezinárodních a regionálních nástrojích ( 25 ), které se vztahují na smluvní strany, včetně Listiny základních práv Unie a mezinárodních nástrojů v oblasti lidských práv, které Unie sjednala.
Úmluva tak stanoví společný minimální standard pro uplatňování ochrany lidských práv v souvislosti s umělou inteligencí, přičemž zachovává stávající ochranu lidských práv a umožňuje smluvním stranám poskytnout širší ochranu s přísnějšími zárukami.
4.ROZPOČTOVÉ DŮSLEDKY
Úmluvapředpokládá finanční příspěvky států, které nejsou členy Rady Evropy, na činnosti konference smluvních stran. Zatímco všichni členové Rady Evropy budou přispívat prostřednictvím řádného rozpočtu Rady Evropy v souladu se Statutem Rady Evropy, strany, které nejsou jejími členy, budou poskytovat mimorozpočtové příspěvky. Příspěvek smluvní strany, která není členem Rady Evropy, stanoví společně Výbor ministrů a tato smluvní strana.
Úmluva nezasahuje do vnitrostátních právních předpisů smluvních stran, které upravují rozpočtové pravomoci a postupy pro rozpočtové prostředky. Státům, které nejsou členy Rady Evropy, rovněž umožňuje, aby své příspěvky poskytovaly v rámci schválených rozpočtových limitů stanovených jejich zákonodárnými orgány, aniž by byly dotčeny jakékoli předchozí dohody.
5.OSTATNÍ PRVKY
•Plány provádění a způsob monitorování, hodnocení a podávání zpráv
Konference smluvních stran složená ze zástupců smluvních stran bude sledovat, zda jsou cíle úmluvy účinně plněny a zda smluvní strany provádějí její ustanovení.
Každá smluvní strana bude muset během prvních dvou let od přistoupení a poté v pravidelných intervalech předložit konferenci smluvních stran zprávu, v níž podrobně uvede opatření přijatá k provádění úmluvy.
Smluvní strany se dále vyzývají ke spolupráci při plnění cílů úmluvy. Tato mezinárodní spolupráce může zahrnovat sdílení relevantních informací týkajících se umělé inteligence a jejího potenciálu negativně nebo pozitivně ovlivňovat lidská práva, demokracii a právní stát.
K zajištění účinného monitorování a provádění bude muset každá strana určit jeden nebo více účinných mechanismů dohledu na vnitrostátní úrovni.
2024/0150 (NLE)
Návrh
ROZHODNUTÍ RADY
o podpisu rámcové úmluvy Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu jménem Evropské unie
RADA EVROPSKÉ UNIE,
s ohledem na Smlouvu o fungování Evropské unie, a zejména na článek 114 ve spojení s čl. 218 odst. 5 této smlouvy,
s ohledem na návrh Evropské komise,
vzhledem k těmto důvodům:
(1)Dne 21. listopadu 2022 Rada zmocnila Evropskou komisi k zahájení jednání jménem Unie o úmluvě Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu (dále jen „úmluva“). Evropská komise jménem Unie vedla jednání o úmluvě. Dne 17. května 2024 byla jednání úspěšně završena parafováním úmluvy a jejím přijetím Výborem ministrů Rady Evropy ( 26 ).
(2)Úmluva stanoví obecné zásady a povinnosti, které by měly smluvní strany úmluvy dodržovat, aby zajistily ochranu lidských práv, demokracie a právního státu v souvislosti s činnostmi během životního cyklu systémů umělé inteligence (AI).
(3)Dne 12. června 2024 přijala Unie především na základě článku 114 SFEU nařízení (EU) 2024/… („akt o umělé inteligenci“) ( 27 ), které stanoví plně harmonizovaná pravidla upravující uvádění na trh, uvádění do provozu a používání systémů AI v Unii, která jsou přímo použitelná ve všech členských státech, pokud akt o umělé inteligenci výslovně nestanoví jinak. Úmluva má být v Unii prováděna výhradně prostřednictvím aktu o umělé inteligenci a případně dalšího příslušného acquis Unie.
(4)Vzhledem k tomu, že se osobní a věcná působnost úmluvy se shoduje s aktem o umělé inteligenci a dalším příslušným acquis Unie, může uzavření úmluvy ovlivnit společná pravidla Unie nebo změnit jejich působnost ve smyslu čl. 3 odst. 2 Smlouvy o fungování Evropské unie. V důsledku toho má Unie výlučnou vnější pravomoc k podpisu úmluvy, a proto by se smluvní stranou úmluvy měla stát pouze Unie, s výhradou jejího pozdějšího uzavření.
(5)V souladu se Smlouvami je na Komisi, aby zajistila podpis úmluvy s výhradou jejího pozdějšího uzavření,
PŘIJALA TOTO ROZHODNUTÍ:
Článek 1
Podpis rámcové úmluvy Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státě (dále jen „úmluva“) se schvaluje jménem Unie s výhradou uzavření uvedené úmluvy.
Znění úmluvy, která má být podepsána, je přiloženo k tomuto rozhodnutí.
Článek 2
Toto rozhodnutí vstupuje v platnost dne .
V Bruselu dne
Za Radu
předseda/předsedkyně
Listina základních práv Evropské unie (Úř. věst. C 326, 26.10.2012, s. 391).