V Bruseli26. 6. 2024

COM(2024) 264 final

2024/0150(NLE)

Návrh

ROZHODNUTIE RADY

o podpise v mene Európskej únie rámcového dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte


DÔVODOVÁ SPRÁVA

1.KONTEXT NÁVRHU

•Dôvody a ciele návrhu

Umelá inteligencia ponúka veľké príležitosti, ale určité aplikácie a použitia môžu poškodzovať a ohrozovať základné práva jednotlivcov a iné verejné záujmy.

Nariadením Európskeho parlamentu a Rady (EÚ) 2024/[…], ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (ďalej len „akt o umelej inteligencii“), Únia prijala prvý komplexný právny predpis v oblasti umelej inteligencie, čím stanovila celosvetový štandard. Akt o umelej inteligencii bol prijatý 12. júna 2024 ( 1 ) a účinnosť nadobudne dvadsiatym dňom po jeho uverejnení v úradnom vestníku. Aktom o umelej inteligencii sa v plnej miere harmonizujú pravidlá uvádzania na trh, uvádzania do prevádzky a používania systémov umelej inteligencie v členských štátoch ( 2 ) s cieľom podporovať inovácie a zavádzanie dôveryhodnej umelej inteligencie a zároveň zaistiť ochranu zdravia, bezpečnosti a základných práv vrátane ochrany demokracie, právneho štátu a životného prostredia.

Rôzne medzinárodné organizácie vrátane Rady Európy takisto zintenzívnili svoje úsilie v oblasti regulácie umelej inteligencie, pričom uznali cezhraničnú povahu umelej inteligencie a potrebu medzinárodnej spolupráce pri riešení spoločných výziev, ktoré tieto technológie vyvolávajú.

Výbor Rady Európy pre umelú inteligenciu (Committee on Artificial Intelligence – CAI) ( 3 ) od júna 2022 vypracoval právne záväzný rámcový dohovor (ďalej len „dohovor“) na riešenie potenciálnych rizík, ktoré umelá inteligencia predstavuje pre ľudské práva, demokraciu a právny štát. Únia viedla rokovania o dohovore na základe štvrtej možnosti v článku 216 ods. 1 Zmluvy o fungovaní Európskej únie (ďalej len „ZFEÚ“), podľa ktorej Únia môže rokovať ( 4 ) o medzinárodných dohodách a uzavierať takéto dohody, keď sa takéto uzavretie „môže dotknúť spoločných pravidiel alebo pozmeniť ich pôsobnosť“. Európska komisia zastupovala Úniu na rokovaniach o dohovore v súlade s článkom 218 ods. 3 ZFEÚ a na základe rozhodnutia Rady o poverení začať rokovania v mene Európskej únie ( 5 ).

Únia sa aktívne zapojila do rokovaní a jej cieľom bolo zabezpečiť zlučiteľnosť dohovoru s právom Únie, súlad s aktom o umelej inteligencii, ako aj kvalitu a pridanú hodnotu dohovoru ako prvej medzinárodnej zmluvy v oblasti umelej inteligencie. V tejto súvislosti bol cieľom Únie aj medzinárodný dosah dohovoru.

Po niekoľkých kolách rokovaní Výbor pre umelú inteligenciu schválil znenie dohovoru na svojej 10. plenárnej schôdzi, ktorá sa konala 11. až 14. marca 2024. Dňa 17. mája 2024 Výbor ministrov Rady Európy prijal dohovor, súhlasil s predložením dohovoru na podpis 5. septembra 2024 vo Vilniuse (Litva) pri príležitosti neformálnej konferencie ministrov spravodlivosti a vyzval členov Rady Európy, ostatných tretích krajín, ktoré sa zapojili do jeho prípravy, a Úniu, aby pri tejto príležitosti zvážili podpis tohto dohovoru, a zároveň pripomenul, že dohovor je otvorený na pristúpenie inými nečlenskými štátmi ( 6 ).

Účelom súčasného návrhu je v tejto súvislosti začať proces podpisovania dohovoru Úniou s úmyslom jeho neskoršej ratifikácie prostredníctvom návrhu Rade, aby prijala rozhodnutie o poverení Únie na podpis dohovoru v súlade s článkom 218 ods. 5 ZFEÚ. Dohovor je v plnej miere zlučiteľný s právom Únie vo všeobecnosti a konkrétne s aktom o umelej inteligencii a jeho cieľom je globálne presadzovať kľúčové koncepcie v rámci prístupu Únie k regulácii umelej inteligencie medzi ostatnými členmi Rady Európy a kľúčovými medzinárodnými partnermi, ktorí sa môžu stať zmluvnou stranou dohovoru.

Obsah dohovoru

Cieľom dohovoru je zabezpečiť, aby činnosti počas životného cyklu systémov umelej inteligencie boli v plnej miere v súlade s ľudskými právami, demokraciou a právnym štátom.

Zmluvné strany dohovoru ho budú musieť vykonávať primeranými legislatívnymi, administratívnymi alebo inými opatreniami s cieľom uviesť do praxe jeho ustanovenia, a to na základe odstupňovaného a diferencovaného prístupu, v závislosti od závažnosti a pravdepodobnosti nepriaznivých účinkov. Dohovor by sa mal v Únii vykonávať výlučne prostredníctvom aktu o umelej inteligencii, ktorým sa v plnej miere harmonizujú pravidlá uvádzania na trh, uvádzania do prevádzky a používania systémov umelej inteligencie v Únii, a prípadne prostredníctvom iného relevantného acquis Únie. 

Rozsah pôsobnosti dohovoru sa vzťahuje na systémy umelej inteligencie, ktoré by mohli zasahovať do ľudských práv, demokracie a právneho štátu, pričom sa uplatňuje diferencovaný prístup. Zásady a povinnosti stanovené v dohovore sa budú uplatňovať na činnosti počas životného cyklu systémov umelej inteligencie, ktoré vykonávajú orgány verejnej moci alebo súkromné subjekty konajúce v ich mene. Pokiaľ ide o súkromný sektor, zmluvné strany sa zaväzujú riešiť riziká a vplyv vyplývajúci z činností počas životného cyklu systémov umelej inteligencie vykonávaných súkromnými subjektmi spôsobom vyhovujúcim cieľom a účelu dohovoru, môžu sa však rozhodnúť, či budú uplatňovať povinnosti vyplývajúce z dohovoru alebo prijmú iné primerané opatrenia. Zmluvné strany musia v tejto súvislosti pri podpise dohovoru alebo pri pristúpení k nemu prijať vyhlásenie o svojej voľbe. Únia by mala pri uzatvorení dohovoru vydať vyhlásenie, že Únia prostredníctvom aktu o umelej inteligencii a iného relevantného acquis Únie zavedie zásady a povinnosti stanovené v kapitolách II až VI dohovoru pre činnosti súkromných subjektov, ktoré v Únii uvádzajú na trh, uvádzajú do prevádzky a používajú systémy umelej inteligencie.

Z rozsahu pôsobnosti dohovoru sú vyňaté činnosti v oblasti umelej inteligencie týkajúce sa národnej bezpečnosti, pričom sa chápe, že sa musia za každých okolností vykonávať spôsobom, ktorý bude v súlade s platným medzinárodným právom v oblasti ľudských práv a s rešpektom voči demokratickým inštitúciám a procesom. Z rozsahu pôsobnosti dohovoru sú vyňaté aj činnosti v oblasti výskumu a vývoja systémov umelej inteligencie, ktoré ešte nie sú pripravené na používanie, pokiaľ ich testovanie alebo podobné činnosti nemajú potenciál narúšať ľudské práva, demokraciu a právny štát. V súlade so Štatútom Rady Európy otázky týkajúce sa národnej obrany nepatria do rozsahu pôsobnosti dohovoru.

V dohovore sa ďalej stanovuje súbor všeobecných povinnosti a základných zásad vrátane ochrany ľudskej dôstojnosti a osobnej nezávislosti, ako aj podpory rovnosti a nediskriminácie. Okrem toho sa v ňom stanovuje povinnosť rešpektovať súkromie a ochranu osobných údajov popri dodržiavaní transparentnosti a dohľade s cieľom zabezpečiť zodpovednosť a vyvodzovanie zodpovednosti. Stanovuje sa aj zásada zameraná na bezpečné inovácie a experimentovanie v kontrolovaných prostrediach.

V osobitnej kapitole o prostriedkoch nápravy sa takisto stanovuje súbor opatrení, ktorých cieľom je zabezpečiť, aby boli k dispozícii dostupné a účinné prostriedky nápravy v prípade porušení ľudských práv vyplývajúcich z činností počas životného cyklu systémov umelej inteligencie. Obsahuje aj účinné procesné záruky pre osoby, ktorých práva boli významne ovplyvnené používaním systémov umelej inteligencie. Okrem toho by sa všetky osoby mali upozorniť na to, že interagujú so systémom umelej inteligencie, a nie so živou ľudskou bytosťou.

Dohovor takisto obsahuje kapitolu o opatreniach týkajúcich sa posudzovania a zmierňovania rizík a nepriaznivých vplyvov, ktoré sa majú vykonávať opakovane, aby sa určil skutočný a potenciálny dosah na ľudské práva, demokraciu a právny štát a mohli sa prijať vhodné preventívne a zmierňujúce opatrenia.

V dohovore sa navyše stanovuje, že zmluvné strany by mali posúdiť potrebu vydávať zákazy určitých aplikácií systémov umelej inteligencie alebo moratória na ne, ak sa považujú za nezlučiteľné s dodržiavaním ľudských práv, fungovaním demokracie alebo so zásadami právneho štátu.

V dohovore sa stanovuje nadväzujúci mechanizmus v rámci Konferencie zmluvných strán, ktorú tvoria zástupcovia zmluvných strán dohovoru, ktorí spolu vedú pravidelné konzultácie s cieľom uľahčiť účinné používanie a vykonávanie dohovoru. Okrem toho sa v ňom stanovuje mechanizmus medzinárodnej spolupráce medzi zmluvnými stranami dohovoru navzájom, ale aj vo vzťahoch s tretími krajinami a príslušnými zainteresovanými stranami v záujme dosiahnutia účelu tohto dohovoru.

Každá zmluvná strana by preto mala na vnútroštátnej úrovni vytvoriť alebo určiť jeden alebo viacero účinných mechanizmov s cieľom dohliadať na dodržiavanie povinností stanovených v dohovore, ako ich vykonali zmluvné strany.

•Súlad s existujúcimi ustanoveniami v tejto oblasti politiky

V dohovore sa stanovujú všeobecné zásady a povinnosti v oblasti ochrany ľudských práv, demokracie a právneho štátu, ktoré sa v plnej miere zhodujú a sú v súlade s cieľmi aktu o umelej inteligencii, a podrobné požiadavky na systémy umelej inteligencie a povinnosti uložené poskytovateľom týchto systémov a subjektom nasadzujúcim tieto systémy.

Vymedzenie systému umelej inteligencie v dohovore je úplne zosúladené s vymedzením pojmu v akte o umelej inteligencii, keďže toto vymedzenie je v obidvoch prípadoch založené na vymedzení týchto systémov v zásadách v oblasti umelej inteligencie Organizácie pre hospodársku spoluprácu a rozvoj ( 7 ), vďaka čomu sa zabezpečilo jednotné chápanie toho, ktoré digitálne technológie predstavujú umelú inteligenciu.

Aj v dohovore, aj v akte o umelej inteligencii sa vo vzťahu k regulácii systémov umelej inteligencie uplatňuje prístup založený na rizikách a obidva predpisy obsahujú konkrétne ustanovenia týkajúce sa posúdení rizika a vplyvu a opatrení na zmiernenie rizika. Akt o umelej inteligencii konkrétne obsahuje niekoľko relevantných zákazov a prípadov vysokorizikového použitia systémov umelej inteligencie vo všetkých verejných a súkromných sektoroch vrátane oblasti demokracie a spravodlivosti. Akt o umelej inteligencii tak svojimi podrobnými pravidlami a postupmi týkajúcimi sa vývoja, uvádzania na trh a nasadzovania systémov umelej inteligencie v uvedených oblastiach zabezpečí dodržiavanie základných práv, demokracie a zásad právneho štátu počas celého životného cyklu umelej inteligencie.

Dohovor obsahuje zásady a povinnosti, ktoré už spadajú do rozsahu pôsobnosti aktu o umelej inteligencii, ako sú opatrenia v oblasti ochrany ľudských práv, bezpečnosti a spoľahlivosti, zodpovednosti a vyvodzovania zodpovednosti, správy a ochrany údajov, transparentnosti a dohľadu, rovnosti a nediskriminácie, digitálnych zručností a digitálnej gramotnosti.

Transparentnosť je ďalším spoločným prvkom obidvoch právnych nástrojov vrátane opatrení týkajúcich sa identifikácie obsahu vytvoreného umelou inteligenciou a informovania osôb interagujúcich so systémami umelej inteligencie. Obidva právne nástroje takisto obsahujú relevantné ustanovenia týkajúce sa posúdení rizika a vplyvu a riadenia rizík, vedenia záznamov, zverejňovania (povereným subjektom a orgánom a v prípade potreby dotknutým osobám), vysledovateľnosti a vysvetliteľnosti, bezpečných inovácií a experimentovania v kontrolovaných prostrediach a súbor opatrení umožňujúcich účinné prostriedky nápravy vrátane práva požadovať a získavať informácie a práva na sťažnosť príslušnému orgánu a na procesné záruky.

Systém dohľadu stanovený v dohovore je takisto úplne v súlade s komplexným systémom správy a riadenia a presadzovania aktu o umelej inteligencii, ktorý tvorí presadzovanie na úrovni Únie a členských štátov, s postupmi jednotného vykonávania pravidiel Únie v jednotlivých členských štátoch. V dohovore sa konkrétne stanovuje jeden alebo viacero mechanizmov účinného dohľadu na vnútroštátnej úrovni, ktoré musia vykonávať svoje úlohy nezávisle a nestranne a mať potrebné právomoci, odbornosť a zdroje na účinné plnenie úloh dohľadu nad dodržiavaním povinností stanovených v dohovore, ako ich vykonali zmluvné strany.

Kým akt o umelej inteligencii sa bude uplatňovať na systémy umelej inteligencie uvádzané na trh, uvádzané do prevádzky alebo používané v Únii, dohovor má širší geografický dosah, ktorý zahŕňa členov Rady Európy a tretie štáty z celého sveta, ktoré sa môžu stať zmluvnými stranami dohovoru. Dohovor predstavuje jedinečnú príležitosť podporiť rozvoj dôveryhodnej umelej inteligencie za hranicami Únie prostredníctvom prvej medzinárodnej, právne záväznej zmluvy založenej na silnom ľudskoprávnom prístupe k regulácii v oblasti umelej inteligencie.

Dohovor aj akt o umelej inteligencii sú neoddeliteľné prvky regulačného prístupu k umelej inteligencii s dôslednými a navzájom sa posilňujúcimi záväzkami na niekoľkých medzinárodných úrovniach a so spoločným cieľom zabezpečiť dôveryhodnú umelú inteligenciu.

•Súlad s ostatnými politikami Únie

Dohovor má spoločné ciele aj s inými politikami a právnymi predpismi Únie, ktoré sú zamerané na uplatňovanie základných práv zakotvených v Charte základných práv Európskej únie ( 8 ).

Konkrétne, zásada rovnosti a nediskriminácie zakotvená v dohovore je úplne v súlade s právnymi predpismi Únie v oblasti nediskriminácie, pričom má podporovať začlenenie aspektov rovnosti do navrhovania, vývoja a používania systémov umelej inteligencie, ako aj účinné vykonávanie zákazu diskriminácie, ako sa stanovuje v platnom medzinárodnom a vnútroštátnom práve zmluvných strán.

Dohovor je navyše v súlade s acquis Únie v oblasti ochrany osobných údajov vrátane všeobecného nariadenia o ochrane údajov ( 9 ), pokiaľ ide o základné práva na súkromie a ochranu osobných údajov s účinnými zárukami, ktoré sa musia zaviesť pre fyzické osoby, v súlade s platnými vnútroštátnymi a medzinárodnými právnymi záväzkami zmluvných strán.

Opatrenia stanovené v dohovore, ktoré sú určené na ochranu demokratických procesov zmluvných strán v kontexte činností počas životného cyklu systému umelej inteligencie, sú v plnej miere v súlade s cieľmi a podrobnými pravidlami uvedenými v akte o digitálnych službách ( 10 ), ktorým sa riadi poskytovanie sprostredkovateľských služieb v Únii s cieľom zaistiť bezpečné, predvídateľné a dôveryhodné online prostredie, v ktorom sa dodržiavajú základné práva vrátane práva na slobodu prejavu a právo na získavanie a poskytovanie informácií. Okrem toho sú v súlade s nariadením o transparentnosti a cielení politickej reklamy ( 11 ), Kódexom postupov proti šíreniu dezinformácií ( 12 ) a politikami Únie v oblasti demokracie a slobodných, spravodlivých a odolných volieb ( 13 ) vrátane akčného plánu pre európsku demokraciu z roku 2020 ( 14 ), balíka na ochranu volieb a ich integrity ( 15 ) a najnovšie balíka opatrení v oblasti obrany demokracie z roku 2023 ( 16 ).

Dohovor je v súlade s celkovou digitálnou stratégiou Únie, keďže prispieva k podpore technológie v službách človeka, čo je jeden z troch hlavných pilierov zamerania a cieľov politiky uvedených v oznámení s názvom Formovanie digitálnej budúcnosti Európy ( 17 ). Cieľom uvedenej stratégie je zabezpečiť, aby sa umelá inteligencia vyvíjala spôsobom rešpektujúcim ľudské práva a získavajúcim dôveru ľudí, vďaka čomu sa Európa pripraví na digitálny vek a z nasledujúcich desiatich rokov sa stane digitálne desaťročie ( 18 ).

Okrem toho Európske vyhlásenie o digitálnych právach a zásadách v digitálnom desaťročí ( 19 ) obsahuje niekoľko digitálnych práv a zásad, ktoré sú v súlade s cieľmi a so zásadami dohovoru, pričom obidva nástroje podporujú prístup k technológiám silne založený na ľudských právach.

Dohovor je takisto v súlade so stratégiou EÚ v oblasti práv dieťaťa ( 20 ) a s Európskou stratégiou vytvárania lepšieho internetu pre deti (BIK+) ( 21 ), ktorých cieľom je zabezpečiť, aby deti boli v online prostredí chránené, rešpektované a aby sa posilnilo ich postavenie, aby mohli čeliť výzvam nových virtuálnych svetov a umelej inteligencie.

2.PRÁVNY ZÁKLAD, SUBSIDIARITA A PROPORCIONALITA

•Právny základ

Návrh rozhodnutia o poverení na podpis dohovoru v mene Únie sa predkladá Rade v súlade s článkom 218 ods. 5 ZFEÚ.

Hmotnoprávny základ rozhodnutia podľa článku 218 ods. 5 ZFEÚ závisí predovšetkým od cieľa a obsahu dohody. Z judikatúry vyplýva, že ak preskúmanie opatrenia Únie preukáže, že toto opatrenie sleduje dvojaký cieľ alebo obsahuje dve zložky, a ak jeden z týchto cieľov alebo jednu z týchto zložiek možno označiť za hlavný cieľ alebo hlavnú zložku, zatiaľ čo druhý cieľ alebo zložka má doplňujúcu povahu, musí byť opatrenie založené na jedinom právnom základe, a to na tom, ktorý si vyžaduje hlavný alebo prevažujúci cieľ alebo zložka.

V súvislosti s hmotnoprávnym základom sa vecná pôsobnosť dohovoru zhoduje s vecnou pôsobnosťou aktu o umelej inteligencii ( 22 ), najmä pokiaľ ide o vyňatie výskumu a vývoja a činností spojených s národnou bezpečnosťou a obranou z rozsahu pôsobnosti týchto nástrojov. Zásady a povinnosti v dohovore sa zhodujú s podrobnejšími požiadavkami na systémy umelej inteligencie a osobitnými povinnosťami poskytovateľov týchto systémov a subjektov nasadzujúcich tieto systémy podľa aktu o umelej inteligencii a iných relevantných právnych predpisov Únie. V prípade prijatia navrhovaného rozhodnutia Radou a podpisu dohovoru Úniou bude akt o umelej inteligencii predstavovať primárnu legislatívu Únie, ktorou sa dohovor vykonáva v právnom poriadku Únie, s plne harmonizovanými pravidlami uvádzania na trh, uvádzania do prevádzky a používania systémov umelej inteligencie v Únii, ktoré sú priamo uplatniteľné v členských štátoch, pokiaľ sa v akte o umelej inteligencii výslovne neuvádza inak ( 23 ).

Vzhľadom na skutočnosť, že rozsah pôsobnosti a ciele dohovoru sa v plnej miere zhodujú a sú v súlade s rozsahom pôsobnosti a cieľmi aktu o umelej inteligencii, ako aj vzhľadom na skutočnosť, že obidva právne nástroje majú zhodnú osobnú a vecnú pôsobnosť, hmotnoprávnym základom pre uzatvorenie dohovoru je článok 114 ZFEÚ, ktorý predstavuje hlavný právny základ aktu o umelej inteligencii.

Charakter medzinárodných dohôd („výlučná dohoda EÚ“ alebo „zmiešaná dohoda“) závisí od zlučiteľnosti konkrétneho predmetu úpravy s právomocami Únie.

V článku 3 ods. 2 ZFEÚ sa stanovuje, že Únia má výlučnú právomoc „uzavrieť medzinárodnú dohodu […], ak môžu byť uzavretím zmlúv dotknuté spoločné pravidlá alebo pozmenený rozsah ich pôsobnosti“. Medzinárodnou dohodou môžu byť dotknuté spoločné pravidlá alebo pozmenený rozsah ich pôsobnosti, ak je oblasť upravená dohodou z veľkej časti upravená právom Únie ( 24 ).

Osobná pôsobnosť dohovoru je úplne v súlade s aktom o umelej inteligencii v tom zmysle, že obidva právne nástroje sa v zásade vzťahujú na verejné aj súkromné subjekty (s nepovinným uplatňovaním zásad a povinností dohovoru na iné súkromné subjekty, než sú subjekty, ktoré konajú v mene orgánov verejnej moci), kým vecná pôsobnosť obidvoch právnych nástrojov vylučuje z platných pravidiel činnosti v oblasti umelej inteligencie, ktoré súvisia s národnou bezpečnosťou, obranou a výskumom.

Vzhľadom na to, že osobná a vecná pôsobnosť dohovoru sa zhoduje s osobnou a vecnou pôsobnosťou aktu o umelej inteligencii, uzavretím dohovoru môžu byť dotknuté spoločné pravidlá Únie alebo sa ním môže pozmeniť rozsah ich pôsobnosti v zmysle článku 3 ods. 2 ZFEÚ. V dôsledku toho by sa malo usudzovať, že Únia má výlučnú vonkajšiu právomoc uzatvoriť tento dohovor, a dohovor by sa mal podpísať v mene Únie ako „výlučná dohoda EÚ“, s výhradou jeho uzavretia k neskoršiemu dátumu.

•Proporcionalita

Dohovor nejde nad rámec toho, čo je nevyhnutné na dosiahnutie cieľov politík, ktoré rozvíjajú jednotný prístup k regulácii umelej inteligencie na medzinárodnej úrovni.

Dohovorom sa stanovuje právny rámec na vysokej úrovni pre umelú inteligenciu, ktorý umožňuje flexibilitu, aby zmluvné strany mohli vytvárať konkrétne návrhy rámcov vykonávania. Prístupom založeným na rizikách sa takisto zabezpečuje proporcionalita pravidiel a umožňuje sa diferenciácia vykonávacích opatrení spôsobom, ktorý je primeraný rizikám, a to podobným spôsobom, ako v rámci aktu o umelej inteligencii.

•Výber nástroja

Zvoleným nástrojom je návrh rozhodnutia Rady podľa článku 218 ods. 5 ZFEÚ.

3.VÝSLEDKY HODNOTENÍ EX POST, KONZULTÁCIÍ SO ZAINTERESOVANÝMI STRANAMI A POSÚDENÍ VPLYVU

•Hodnotenia ex post/kontroly vhodnosti existujúcich právnych predpisov

Neuplatňuje sa.

•Konzultácie so zainteresovanými stranami

Európska komisia v prípade tohto návrhu nevykonala osobitné konzultácie so zainteresovanými stranami.

Vypracovanie dohovoru je výsledkom spoločného úsilia Výboru Rady Európy pre umelú inteligenciu, do ktorého sa zapojilo všetkých 46 členských štátov Rady Európy, ako aj pozorovateľské štáty vrátane Kanady, Japonska, Mexika, Svätej stolice, Spojených štátov amerických a Európskej únie. Okrem toho sa na ňom zúčastnilo aj niekoľko nečlenských štátov vrátane Austrálie, Argentíny, Izraela, Kostariky, Peru a Uruguaja.

V súlade so záväzkom Rady Európy zapojiť rozličné zainteresované strany sa pri vypracúvaní dohovoru prihliadlo na príspevky 68 medzinárodných zástupcov občianskej spoločnosti, akademickej obce, priemyslu a iných medzinárodných organizácií, čím sa zabezpečil komplexný a inkluzívny prístup. Príprava dohovoru zahŕňala aj spoluprácu s rôznymi ďalšími medzinárodnými organizáciami vrátane Organizácie pre bezpečnosť a spoluprácu v Európe (OBSE), Organizácie pre hospodársku spoluprácu a rozvoj (OECD) a Organizácie Spojených národov pre vzdelávanie, vedu a kultúru (UNESCO). Okrem toho k procesu prispievali príslušné subjekty a výbory v Rade Európy. Účasť Únie prebiehala pod vedením Európskej komisie. Prítomní ako pozorovatelia boli aj zástupcovia Agentúry Európskej únie pre základné práva a európsky dozorný úradník pre ochranu údajov.

•Získavanie a využívanie expertízy

Rokovacia pozícia Únie v súvislosti s dohovorom bola vypracovaná v rámci konzultácií s osobitným výborom určeným Radou (pracovná skupina Rady pre telekomunikácie a informačnú spoločnosť).

•Posúdenie vplyvu

Neuplatňuje sa.

•Regulačná vhodnosť a zjednodušenie

Neuplatňuje sa.

•Základné práva

Cieľom dohovoru je vyriešiť potenciálne riziká pre ľudské práva a ujmu v oblasti ľudských práv tým, že sa ním zabezpečí, aby činnosti počas životného cyklu systémov umelej inteligencie boli v súlade so zásadami dodržiavania ľudských práv, demokracie a právneho štátu, a súčasne sa uzná potenciál umelej inteligencie v záujme ochrany a uľahčenia výkonu týchto práv v digitálnom prostredí a zlepšenia spoločenských a environmentálnych podmienok a technologického pokroku.

Cieľom konkrétnych zásad a povinností stanovených v dohovore má byť ochrana a dodržiavanie ľudských práv zakotvených vo viacerých medzinárodných a regionálnych nástrojoch ( 25 ), ktoré sa vzťahujú na jednotlivé zmluvné strany, vrátane Charty základných práv Európskej únie a medzinárodných nástrojov v oblasti ľudských práv, ktoré Únia uzavrela.

Dohovorom sa tak stanovuje spoločná minimálna norma na uplatňovanie ochrany ľudských práv v kontexte umelej inteligencie a zároveň sa zaručujú existujúce prostriedky ochrany ľudských práv a umožňuje, aby zmluvné strany zabezpečili širšiu ochranu s prísnejšími zárukami.

4.VPLYV NA ROZPOČET

Dohovoromsa stanovujú finančné príspevky nečlenských štátov na činnosti Konferencie zmluvných strán. Kým všetci členovia Rady Európy budú prispievať do bežného rozpočtu Rady Európy v súlade so Štatútom Rady Európy, zmluvné strany, ktoré nie sú jej členmi, budú posielať mimorozpočtové príspevky. Výšku príspevku nečlenského štátu Rady Európy stanoví Výbor ministrov spoločne s príslušným nečlenským štátom.

Dohovor nemá vplyv na vnútroštátne zákony a právne predpisy zmluvných strán, ktorými sa upravujú rozpočtové právomoci a postupy týkajúce sa rozpočtových prostriedkov. Umožňuje, aby nečlenské štáty samy prispievali v rámci schválených rozpočtových obmedzení stanovených ich legislatívnym orgánom bez toho, aby boli dotknuté akékoľvek predchádzajúce dojednania.

5.ĎALŠIE PRVKY

•Plány vykonávania, spôsob monitorovania, hodnotenia a podávania správ

Konferencia zmluvných strán zložená zo zástupcov zmluvných strán bude monitorovať, či boli ciele dohovoru skutočne splnené, ako aj vykonávanie ustanovení zmluvnými stranami.

Každá zmluvná strana bude musieť predložiť správu Konferencii zmluvných strán, a to do dvoch rokov od pristúpenia k dohovoru a potom v pravidelných intervaloch, pričom v tejto správe podrobne opíše opatrenia prijaté na účely vykonávania dohovoru.

Zmluvné strany sa ďalej vyzývajú, aby spolupracovali pri plnení cieľov dohovoru. Táto medzinárodná spolupráca môže zahŕňať vzájomnú výmenu relevantných informácií o umelej inteligencii a o jej potenciáli nepriaznivo alebo pozitívne ovplyvňovať ľudské práva, demokraciu a právny štát.

V záujme zabezpečenia účinného monitorovania a vykonávania musia všetky zmluvné strany určiť jeden alebo viacero mechanizmov účinného dohľadu na vnútroštátnej úrovni.

2024/0150 (NLE)

Návrh

ROZHODNUTIE RADY

o podpise v mene Európskej únie rámcového dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte

RADA EURÓPSKEJ ÚNIE,

so zreteľom na Zmluvu o fungovaní Európskej únie, a najmä na jej článok 114 v spojení s článkom 218 ods. 5,

so zreteľom na návrh Európskej komisie,

keďže:

(1)Rada 21. novembra 2022 poverila Európsku komisiu, aby začala rokovania v mene Únie o dohovore Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte (ďalej len „dohovor“). Európska komisia rokovala o dohovore v mene Únie. Rokovania boli úspešne dokončené 17. mája 2024 parafovaním dohovoru a jeho prijatím Výborom ministrov Rady Európy ( 26 ).

(2)V dohovore sa stanovujú všeobecné zásady a povinnosti, ktoré by zmluvné strany mali dodržiavať s cieľom zabezpečiť ochranu ľudských práv, demokracie a právneho štátu v súvislosti s činnosťami počas životného cyklu systémov umelej inteligencie (AI).

(3)Únia 12. júna 2024 prijala nariadenie (EÚ) 2024/… (ďalej len „akt o umelej inteligencii“) ( 27 ), a to predovšetkým na základe článku 114 ZFEÚ; pričom týmto nariadením sa stanovujú úplne harmonizované pravidlá upravujúce uvádzanie na trh, uvádzanie do prevádzky a používanie systémov umelej inteligencie v Únii, ktoré sú priamo uplatniteľné v členských štátoch, pokiaľ sa v akte o umelej inteligencii výslovne neuvádza inak. Dohovor sa má vykonávať v Únii výlučne prostredníctvom aktu o umelej inteligencii a prípadne prostredníctvom iného relevantného acquis Únie.

(4)Vzhľadom na to, že osobná a vecná pôsobnosť dohovoru sa zhoduje s osobnou a vecnou pôsobnosťou aktu o umelej inteligencii a iného relevantného acquis Únie, uzavretím dohovoru môžu byť dotknuté spoločné pravidlá Únie alebo sa ním môže pozmeniť rozsah ich pôsobnosti v zmysle článku 3 ods. 2 Zmluvy o fungovaní Európskej únie. Únia má preto výlučnú vonkajšiu právomoc podpísať tento dohovor, a preto by sa zmluvnou stranou dohovoru mala stať len Únia s výhradou uzavretia dohovoru k neskoršiemu dátumu.

(5)V súlade so zmluvami je povinnosťou Európskej komisie zabezpečiť podpis dohovoru s výhradou jeho uzavretia k neskoršiemu dátumu,

PRIJALA TOTO ROZHODNUTIE:

Článok 1

Týmto sa v mene Únie schvaľuje podpis rámcového dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte, s výhradou uzavretia uvedeného dohovoru.

Znenie dohovoru, ktoré sa má podpísať, je pripojené k tomuto rozhodnutiu.

Článok 2

Toto rozhodnutie nadobúda účinnosť .

V Bruseli

   Za Radu

   predseda

(1) ()     NARIADENIE EURÓPSKEHO PARLAMENTU A RADY (EÚ) 2024/…, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. EÚ L, …) .
(2) ()    Akt o umelej inteligencii, odôvodnenia 1 a 8.
(3) ()     Rozhodnutie týkajúce sa práce výboru CAI na 132. zasadnutí Výboru ministrov – následné opatrenie, CM/Inf(2022)20, DD(2022)245 .
(4) ()    Rozsudok Súdneho dvora z 20. novembra 2018, Komisia/Rada (CHMO Antarktída), spojené veci C-626/15 a C-659/16, ECLI:EU:C:2018:925, bod 112.
(5) ()     Rozhodnutie Rady (EÚ) 2022/2349 z 21. novembra 2022 o poverení začať rokovania v mene Európskej únie o dohovore Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte (Ú. v. EÚ L 311, 2.12.2022, s. 138) .
(6) ()    CM/Del/Dec(2024)133/4.
(7) ()    Vymedzenie „systému umelej inteligencie“ vypracované OECD sa aktualizovalo 8. novembra 2023 [C(2023) 151 a C/M(2023)14, položka 218] s cieľom zabezpečiť, aby sa zachovala jeho technická presnosť a aby sa zohľadnil technologický vývoj, a to aj s ohľadom na generatívnu umelú inteligenciu.
(8)

()    Charta základných práv Európskej únie (Ú. v. EÚ C 326, 26.10.2012, s. 391 – 407).

(9) ()    Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov) (Ú. v. EÚ L 119, 4.5.2016, s. 1).
(10) ()    Nariadenie Európskeho parlamentu a Rady (EÚ) 2022/2065 z 19. októbra 2022 o jednotnom trhu s digitálnymi službami a o zmene smernice 2000/31/ES (akt o digitálnych službách) (Ú. v. EÚ L 277, 27.10.2022, s. 1 – 102).
(11) ()    Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/900 z 13.marca 2024 o transparentnosti a cielení politickej reklamy (PE/90/2023/REV/1, Ú. v. EÚ L, 2024/900, 20.3.2024).
(12) ()     https://disinfocode.eu/sk/uvod-do-kodexu/ .
(13) ()     Ochrana demokracie – Európska komisia (europa.eu) .
(14) ()     https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_sk .
(15) ()     https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en?prefLang=sk&etrans=sk .
(16) ()    Oznámenie Komisie o obrane demokracie [COM(2023) 630 final].
(17) ()    Oznámenie Komisie, Formovanie digitálnej budúcnosti Európy [COM(2020) 67 final].
(18) ()    Oznámenie Komisie, Digitálny kompas do roku 2030: digitálne desaťročie na európsky spôsob [COM(2021) 118 final].
(19) ()     Európske vyhlásenie o digitálnych právach a zásadách v digitálnom desaťročí [COM(2022) 28 final].
(20) ()    Oznámenie Komisie, Stratégia EÚ v oblasti práv dieťaťa [COM(2021) 142 final].
(21) ()    Oznámenie Komisie, Digitálne desaťročie pre deti a mládež: nová Európska stratégia vytvárania lepšieho internetu pre deti (stratégia BIK+) [COM(2022) 212 final].
(22) ()    Akt bol prijatý Radou 21. mája 2024 a jeho uverejnenie v úradnom vestníku sa očakáva v júli 2024.
(23) ()    Pozri článok 1 a odôvodnenie (1) aktu o umelej inteligencii.
(24) ()    Napr. vec C‑114/12, Komisia/Rada (práva vysielacích organizácií súvisiace s autorským právom), ECLI:EU:C:2014:2151, body 68 – 69; stanovisko 1/13, Pristúpenie tretích štátov k Haagskemu dohovoru, ECLI:EU:C:2014:2303, body 71 – 74; vec C‑66/13, Green Network, ECLI:EU:C:2014:2399, body 27 – 33; stanovisko 3/15, Marrákešská zmluva o uľahčení prístupu k uverejneným dielam pre osoby nevidiace, zrakovo postihnuté alebo postihnuté inou poruchou čítania, ECLI:EU:C:2017:114, body 105 – 108.
(25) ()    Napríklad Všeobecná deklarácia ľudských práv z roku 1948, Dohovor o ochrane ľudských práv a základných slobôd z roku 1950 (ETS č. 5), Medzinárodný pakt o občianskych a politických právach z roku 1966, Medzinárodný pakt o hospodárskych, sociálnych a kultúrnych právach z roku 1966, Európska sociálna charta z roku 1961 (ETS č. 35), ako aj ich príslušné protokoly a Európska sociálna charta z roku 1996 (revidovaná) (ETS č. 163), Dohovor o právach dieťaťa z roku 1989 a Dohovor o právach osôb so zdravotným postihnutím z roku 2006.
(26) ()    ROZHODNUTIE RADY (EÚ) 2022/2349 z 21. novembra 2022 o poverení začať rokovania v mene Európskej únie o dohovore Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte ( Ú. v. EÚ L 311, 2.12.2022, s. 138 ).
(27) ()    Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/… , ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. EÚ L, …).