KOMISJA EUROPEJSKA
Bruksela, dnia 26.6.2024
COM(2024) 264 final
2024/0150(NLE)
Wniosek
DECYZJA RADY
w sprawie podpisania, w imieniu Unii Europejskiej, Konwencji ramowej Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności
UZASADNIENIE
1.KONTEKST WNIOSKU
•Przyczyny i cele wniosku
Sztuczna inteligencja (AI) oferuje ogromne możliwości, ale niektóre zastosowania i wdrożenia mogą również być szkodliwe i stwarzać zagrożenie dla praw podstawowych osób fizycznych i innych interesów publicznych.
Rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/[....] ustanawiającym zharmonizowane przepisy dotyczące sztucznej inteligencji („akt w sprawie sztucznej inteligencji”) Unia przyjęła pierwsze kompleksowe unormowania w sprawie sztucznej inteligencji i ustanowiła standard normatywny w skali światowej. Akt w sprawie sztucznej inteligencji przyjęto 12 czerwca 2024 r. () i wejdzie on w życie w ciągu 20 dni od jego opublikowania w Dzienniku Urzędowym. Akt w sprawie sztucznej inteligencji w pełni harmonizuje przepisy dotyczące wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów sztucznej inteligencji w państwach członkowskich () w celu promowania innowacji i szerszego upowszechnienia wiarygodnej sztucznej inteligencji, przy jednoczesnej ochronie zdrowia, bezpieczeństwa i praw podstawowych, w tym demokracji, praworządności i środowiska.
Różne organizacje międzynarodowe, w tym Rada Europy, również zintensyfikowały swoje działania na rzecz regulacji sztucznej inteligencji, uznając jej transgraniczny charakter i potrzebę współpracy międzynarodowej, aby sprostać wspólnym wyzwaniom związanym z tymi technologiami.
Od czerwca 2022 r. Komitet ds. Sztucznej Inteligencji (CAI) () Rady Europy opracowywał prawnie wiążącą konwencję ramową (zwaną dalej „konwencją”) w celu przeciwdziałania potencjalnym zagrożeniom, jakie sztuczna inteligencja stwarza dla praw człowieka, demokracji i praworządności. Unia wynegocjowała konwencję na podstawie zawartej w art. 216 ust. 1 TFUE czwartej alternatywie, zgodnie z którą Unia może negocjować i zawierać umowę międzynarodową, gdy jej zawarcie „[...] może mieć wpływ na wspólne zasady lub zmienić ich zakres”. Komisja Europejska reprezentowała Unię w negocjacjach dotyczących konwencji zgodnie z art. 218 ust. 3 Traktatu o funkcjonowaniu Unii Europejskiej („TFUE”) i na podstawie decyzji Rady upoważniającej do rozpoczęcia negocjacji w imieniu Unii Europejskiej ().
Unia aktywnie uczestniczyła w negocjacjach i dążyła do osiągnięcia celu, jakim jest zapewnienie zgodności konwencji z prawem Unii, spójności z aktem w sprawie sztucznej inteligencji, a także jakości i wartości dodanej konwencji jako pierwszego międzynarodowego traktatu w sprawie sztucznej inteligencji. W tym kontekście celem Unii jest również międzynarodowy zasięg konwencji.
Po wielu rundach negocjacyjnych CAI zatwierdził tekst konwencji na 10. sesji plenarnej, która odbyła się w dniach 11–14 marca 2024 r. 17 maja 2024 r. Komitet Ministrów Rady Europy przyjął konwencję, zgodził się na jej otwarcie do podpisu w Wilnie (Litwa) 5 września 2024 r. z okazji nieformalnej konferencji ministrów sprawiedliwości i wezwał członków Rady Europy, inne państwa trzecie, które uczestniczyły w jej redagowaniu, oraz Unię do rozważenia jej podpisania przy tej okazji, przypominając jednocześnie, że do konwencji mogą przystąpić również inne państwa niebędące członkami Rady Europy ().
W tym kontekście celem niniejszego wniosku jest rozpoczęcie procesu podpisania przez Unię konwencji z zamiarem jej późniejszego ratyfikowania poprzez zaproponowanie Radzie przyjęcia decyzji upoważniającej Unię do podpisania konwencji zgodnie z art. 218 ust. 5 TFUE. Konwencja jest w pełni zgodna z prawem Unii w ujęciu ogólnym, a w szczególności z aktem w sprawie sztucznej inteligencji, i będzie promować kluczowe koncepcje wynikające z unijnego podejścia do regulacji sztucznej inteligencji na całym świecie – wśród innych członków Rady Europy i kluczowych partnerów międzynarodowych, którzy mogą stać się stronami konwencji.
Treść konwencji
Celem konwencji jest zapewnienie, aby działania w ramach cyklu życia systemów sztucznej inteligencji były w pełni zgodne z prawami człowieka, demokracją i praworządnością.
Strony konwencji będą musiały ją wdrożyć za pomocą odpowiednich środków ustawodawczych, administracyjnych lub innych środków w celu nadania skuteczności jej postanowieniom, zgodnie ze stopniowym i zróżnicowanym podejściem, w zależności od dotkliwości i prawdopodobieństwa wystąpienia niekorzystnych wpływów. Konwencję należy wdrożyć w Unii wyłącznie aktem w sprawie sztucznej inteligencji, który w pełni harmonizuje przepisy dotyczące wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów sztucznej inteligencji, oraz innym odpowiednim unijnym dorobkiem prawnym, w stosownych przypadkach.
Zakres konwencji obejmuje systemy sztucznej inteligencji potencjalnie kolidujące z prawami człowieka, demokracją i praworządnością, przy zastosowaniu zróżnicowanego podejścia. Zasady i obowiązki przewidziane w konwencji będą miały zastosowanie do działań organów publicznych lub podmiotów prywatnych działających w ich imieniu podejmowanych w ramach cyklu życia systemów sztucznej inteligencji. Jeżeli chodzi o sektor prywatny, strony są zobowiązane do przeciwdziałania zagrożeniom i wpływom wynikającym z działań podmiotów prywatnych w ramach cyklu życia systemów sztucznej inteligencji w sposób zgodny z przedmiotem i celem konwencji, ale mają wybór, czy zastosować zobowiązania wynikające z konwencji, czy też wprowadzić inne odpowiednie środki. Przy podpisaniu konwencji lub przystąpieniu do niej strony będą musiały złożyć oświadczenie w sprawie wyboru dokonanego w tym zakresie. Po zawarciu konwencji Unia powinna wydać oświadczenie, że Unia, za pośrednictwem aktu w sprawie sztucznej inteligencji i innego odpowiedniego unijnego dorobku prawnego, wdroży zasady i obowiązki określone w rozdziałach II-VI konwencji w odniesieniu do działań podmiotów prywatnych wprowadzających do obrotu, oddających do użytku i wykorzystujących systemy sztucznej inteligencji w Unii.
Działania dotyczące sztucznej inteligencji związane z bezpieczeństwem narodowym wyłącza się z zakresu konwencji przy założeniu, że w każdym przypadku muszą one być prowadzone w sposób zgodny z mającym zastosowanie międzynarodowym prawem dotyczącym praw człowieka oraz z poszanowaniem demokratycznych instytucji i procesów. Z zakresu konwencji wyłącza się również działania badawczo-rozwojowe dotyczące systemów sztucznej inteligencji, które nie zostały jeszcze udostępnione do wykorzystania, chyba że testy lub podobne działania mogą kolidować z prawami człowieka, demokracją i praworządnością. Zgodnie ze Statutem Rady Europy kwestie związane z obroną narodową nie wchodzą w zakres konwencji.
Konwencja przewiduje ponadto zestaw ogólnych zobowiązań i podstawowych zasad, w tym ochronę godności ludzkiej i autonomii osoby, a także wspieranie równości i niedyskryminacji. Nakazuje ponadto poszanowanie prywatności i ochrony danych osobowych, a także przejrzystość i nadzór w celu zapewnienia rozliczalności i odpowiedzialności. Ustanowiono również zasadę poświęconą bezpiecznym innowacjom i eksperymentom w kontrolowanych środowiskach.
W specjalnym rozdziale poświęconym środkom odwoławczym przewidziano również zestaw środków mających na celu zapewnienie prawa do skutecznych środków odwoławczych w przypadku naruszeń praw człowieka wynikających z działań w ramach cyklu życia systemów sztucznej inteligencji. Rozdział ten obejmuje również skuteczne gwarancje i zabezpieczenia procesowe dla osób, których prawa zostały w znacznym stopniu naruszone przez wykorzystanie systemów sztucznej inteligencji. Ponadto osoby fizyczne powinny być informowane, że wchodzą w interakcję z systemem sztucznej inteligencji, a nie z człowiekiem.
Konwencja zawiera również rozdział dotyczący środków oceny i ograniczania ryzyka oraz niekorzystnych wpływów, które to środki należy przeprowadzić w sposób iteracyjny, tak aby zidentyfikować rzeczywisty i potencjalny wpływ na prawa człowieka, demokrację i praworządność oraz wprowadzić odpowiednie środki zapobiegawcze i łagodzące.
Ponadto konwencja stanowi, że strony powinny ocenić potrzebę wprowadzenia zakazów lub moratoriów w odniesieniu do niektórych zastosowań systemów sztucznej inteligencji uznawanych za niezgodne z poszanowaniem praw człowieka, funkcjonowaniem demokracji lub praworządnością.
Konwencja przewiduje mechanizm działań następczych w ramach Konferencji Stron, składającej się z przedstawicieli stron, która będzie prowadzić okresowe konsultacje w celu ułatwienia skutecznego stosowania i wdrażania konwencji. Przewidziano w niej również mechanizm współpracy międzynarodowej zarówno między stronami konwencji, jak i w stosunkach z państwami trzecimi i odpowiednimi zainteresowanymi stronami, aby osiągnąć cel konwencji.
Każda ze stron powinna ponadto ustanowić lub wyznaczyć na szczeblu krajowym co najmniej jeden skuteczny mechanizm nadzoru nad przestrzeganiem zobowiązań wynikających z konwencji, zgodnie z nadaniem skuteczności przez strony.
•Spójność z przepisami obowiązującymi w tej dziedzinie polityki
Konwencja określa ogólne zasady i obowiązki w zakresie ochrony praw człowieka, demokracji i praworządności, które są w pełni spójne i zgodne z celami aktu w sprawie sztucznej inteligencji, oraz szczegółowe wymogi dotyczące systemów sztucznej inteligencji i obowiązki nałożone na dostawców i podmioty wdrażające takie systemy.
Definicja systemu sztucznej inteligencji w konwencji jest w pełni zgodna z definicją zawartą w akcie w sprawie sztucznej inteligencji, ponieważ obie definicje opierają się na definicji takich systemów zawartej w zasadach dotyczących sztucznej inteligencji () Organizacji Współpracy Gospodarczej i Rozwoju, co zapewnia wspólne zrozumienie tego, które technologie cyfrowe stanowią sztuczną inteligencję.
Zarówno konwencja, jak i akt w sprawie sztucznej inteligencji są również zgodne z opartym na analizie ryzyka podejściem do regulacji systemów sztucznej inteligencji i zawierają szczegółowe przepisy dotyczące ocen ryzyka i skutków oraz środków zmniejszających ryzyko. Akt w sprawie sztucznej inteligencji obejmuje w szczególności szereg odpowiednich zakazów i przypadków wysokiego ryzyka związanego z użyciem systemów sztucznej inteligencji we wszystkich sektorach publicznych i prywatnych, w tym w obszarze demokracji i wymiaru sprawiedliwości. Szczegółowe przepisy i procedury określone w akcie w sprawie sztucznej inteligencji dotyczące opracowywania, wprowadzania do obrotu i wdrażania systemów sztucznej inteligencji w tych obszarach zapewnią zatem poszanowanie praw podstawowych, demokracji i praworządności przez cały cykl życia sztucznej inteligencji.
Konwencja zawiera zasady i obowiązki już objęte aktem w sprawie sztucznej inteligencji, takie jak środki ochrony praw człowieka, bezpieczeństwo i niezawodność, rozliczalność i odpowiedzialność, zarządzanie danymi i ochrona danych, przejrzystość i nadzór, równość i niedyskryminacja, umiejętności cyfrowe.
Przejrzystość jest kolejnym wspólnym elementem obu instrumentów prawnych i obejmuje m. in. środki pozwalające na identyfikację treści generowanych przez sztuczną inteligencję oraz powiadamianie osób wchodzących w interakcję z systemami sztucznej inteligencji. Oba instrumenty prawne obejmują również odpowiednie przepisy dotyczące ocen ryzyka i skutków oraz zarządzania ryzykiem, rejestrowania zdarzeń, ujawniania (upoważnionym organom i władzom oraz, w stosownych przypadkach, zainteresowanym osobom), identyfikowalności i wyjaśnialności, bezpiecznych innowacji i eksperymentów w kontrolowanych środowiskach, a także zestaw środków umożliwiających skorzystanie z praw do skutecznych środków odwoławczych, w tym prawo do żądania i uzyskania informacji i złożenia skargi do właściwego organu, a także gwarancje proceduralne.
System nadzoru przewidziany w konwencji jest również w pełni spójny z kompleksowym systemem zarządzania i egzekwowania określonym w akcie w sprawie sztucznej inteligencji, który obejmuje egzekwowanie przepisów na szczeblu unijnym i krajowym, z procedurami spójnego wdrażania przepisów unijnych we wszystkich państwach członkowskich. W szczególności konwencja przewiduje co najmniej jeden skuteczny mechanizm nadzoru na szczeblu krajowym, w ramach którego obowiązki wykonuje się w sposób niezależny i bezstronny, oraz obejmujący niezbędne uprawnienia, wiedzę fachową i zasoby w celu skutecznego wypełniania zadań w zakresie nadzoru nad przestrzeganiem zobowiązań wynikających z konwencji, zgodnie z nadaniem skuteczności przez strony.
Chociaż akt w sprawie sztucznej inteligencji będzie miał zastosowanie do systemów sztucznej inteligencji wprowadzanych do obrotu, oddawanych do użytku lub wykorzystywanych w Unii, konwencja ma szerszy zasięg geograficzny i obejmuje członków Rady Europy i państwa trzecie na całym świecie, które mogą stać się stronami konwencji. Konwencja stanowi zatem wyjątkową okazję do wspierania wiarygodnej sztucznej inteligencji poza Unią w ramach pierwszego prawnie wiążącego traktatu międzynarodowego opartego na podejściu w zdecydowany sposób uwzględniającym prawa człowieka w kontekście regulacji sztucznej inteligencji.
Zarówno konwencja, jak i akt w sprawie sztucznej inteligencji są integralną częścią podejścia regulacyjnego do sztucznej inteligencji, zawierają spójne i wzajemnie wzmacniające się zobowiązania na wielu szczeblach międzynarodowych oraz mają wspólny cel, jakim jest zapewnienie wiarygodnej sztucznej inteligencji.
•Spójność z innymi politykami Unii
Konwencja ma również wspólne cele z innymi politykami i prawodawstwem Unii, które mają na celu wdrożenie praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej ().
W szczególności zasada równości i niedyskryminacji zapisana w konwencji jest w pełni zgodna z prawodawstwem Unii dotyczącym niedyskryminacji i będzie sprzyjać uwzględnianiu kwestii równości w projektowaniu, rozwoju i wykorzystywaniu systemów sztucznej inteligencji oraz skutecznemu wdrażaniu zakazu dyskryminacji, jak przewidziano w mającym zastosowanie prawie międzynarodowym i krajowym stron.
Konwencja jest ponadto zgodna z unijnym dorobkiem prawnym w zakresie ochrony danych, w tym z ogólnym rozporządzeniem o ochronie danych (), w odniesieniu do podstawowych praw do prywatności i ochrony danych osobowych, ze skutecznymi gwarancjami i zabezpieczeniami, które muszą być stosowane w odniesieniu do osób fizycznych, zgodnie z mającymi zastosowanie krajowymi i międzynarodowymi zobowiązaniami prawnymi stron.
Środki przewidziane w konwencji mające na celu ochronę procesów demokratycznych stron w kontekście działań w ramach cyklu życia systemu sztucznej inteligencji są w pełni zgodne z celami i szczegółowymi przepisami aktu o usługach cyfrowych (), który reguluje świadczenie usług pośrednich w Unii w celu zapewnienia bezpiecznego, przewidywalnego i budzącego zaufanie środowiska internetowego, w którym przestrzega się praw podstawowych, w tym prawa do wolności wypowiedzi i prawa do otrzymywania i przekazywania informacji. Środki te są również zgodne z rozporządzeniem w sprawie przejrzystości i targetowania reklamy politycznej (), kodeksem postępowania w zakresie zwalczania dezinformacji () oraz obszarami polityki Unii w zakresie demokracji, wolnych i uczciwych wyborów oraz odporności procesów wyborczych (), w tym z europejskim planem działania na rzecz demokracji z 2020 r.(), Pakietem legislacyjnym dotyczącym umacniania demokracji i uczciwości wyborów (), a ostatnio pakietem na rzecz obrony demokracji z 2023 r. ().
Konwencja jest spójna z ogólną strategią cyfrową UE, jeśli chodzi o wkład w promowanie technologii przynoszącej korzyści ludziom, czyli jednego z trzech głównych filarów kierunków i celów polityki ogłoszonych w komunikacie „Kształtowanie cyfrowej przyszłości Europy”(). Komunikat ten ma na celu zapewnienie, aby sztuczną inteligencję rozwijano z poszanowaniem praw człowieka i w sposób zwiększający zaufanie ludzi do tej technologii, tak aby budować Europę na miarę ery cyfrowej i aby kolejne lata można było nazwać cyfrową dekadą ().
Ponadto Europejska deklaracja praw i zasad cyfrowych w cyfrowej dekadzie () zawiera szereg praw i zasad cyfrowych, które są zgodne z celami i zasadami konwencji, przy czym oba instrumenty promują podejście w zdecydowany sposób uwzględniające prawa człowieka w kontekście technologii.
Konwencja jest również spójna ze strategią UE na rzecz praw dziecka () oraz europejską strategią na rzecz lepszego internetu dla dzieci (BIK+) (), których celem jest zapewnienie dzieciom ochrony i szacunku oraz wzmocnienie ich pozycji, aby mogły stawić czoła wyzwaniom związanym z nowymi wirtualnymi światami i sztuczną inteligencją.
2.PODSTAWA PRAWNA, POMOCNICZOŚĆ I PROPORCJONALNOŚĆ
•Podstawa prawna
Wniosek dotyczący decyzji upoważniającej do podpisania konwencji w imieniu Unii przedkłada się Radzie zgodnie z art. 218 ust. 5 TFUE.
Materialna podstawa prawna decyzji przyjętej w trybie art. 218 ust. 5 TFUE jest uzależniona głównie od celu i treści porozumienia. Zgodnie z orzecznictwem, w przypadku gdy analiza unijnego środka wykaże, że wyznaczono mu dwa cele lub ma on dwa elementy składowe, i jeden z tych celów lub elementów składowych można zidentyfikować jako główny lub dominujący, podczas gdy drugi jest jedynie pomocniczy, wówczas ten akt prawny należy wydać na jednej podstawie prawnej, tj. na tej podstawie, która jest właściwa z racji głównego lub dominującego celu lub elementu składowego.
Jeżeli chodzi o materialną podstawę prawną, zakres przedmiotowy konwencji pokrywa się z zakresem przedmiotowym aktu w sprawie sztucznej inteligencji (), w tym w odniesieniu do wyłączenia z zakresu działalności badawczo-rozwojowej, bezpieczeństwa narodowego i obronności. Zasady i obowiązki określone w konwencji są zbieżne z bardziej szczegółowymi wymogami dotyczącymi systemów sztucznej inteligencji oraz określonymi obowiązkami dostawców i podmiotów wdrażających takie systemy ustanowionymi na mocy aktu w sprawie sztucznej inteligencji i innych odpowiednich przepisów Unii. Jeżeli Rada przyjmie proponowaną decyzję, a Unia podpisze konwencję, akt w sprawie sztucznej inteligencji będzie stanowił pierwotne prawo Unii służące wdrożeniu konwencji do porządku prawnego Unii z w pełni zharmonizowanymi przepisami dotyczącymi wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji w Unii, które to przepisy stosuje się bezpośrednio w państwach członkowskich, chyba że akt w sprawie sztucznej inteligencji wyraźnie stanowi inaczej ().
Biorąc pod uwagę, że zakres i cele konwencji są dostosowane i w pełni spójne z zakresem i celami aktu w sprawie sztucznej inteligencji oraz że zakres podmiotowy i przedmiotowy obu instrumentów prawnych jest zbieżny, materialną podstawą prawną zawarcia konwencji jest art. 114 TFUE, który stanowi zasadniczą podstawę prawną aktu w sprawie sztucznej inteligencji.
Charakter umów międzynarodowych (zawartych „wyłącznie przez UE” lub „mieszanych”) jest uzależniony od zgodności konkretnego przedmiotu z kompetencjami Unii.
Art. 3 ust. 2 TFUE stanowi, że Unia ma wyłączne kompetencje do zawierania umów międzynarodowych [...] w zakresie, w jakim ich zawarcie może wpływać na wspólne zasady lub zmieniać ich zakres. Umowa międzynarodowa może wpływać na wspólne zasady lub zmieniać ich zakres, jeśli obszar objęty umową jest w dużym stopniu objęty prawem Unii ().
Zakres podmiotowy konwencji jest w pełni zgodny z aktem w sprawie sztucznej inteligencji, ponieważ oba instrumenty prawne zasadniczo obejmują zarówno podmioty publiczne, jak i prywatne (przy fakultatywnym stosowaniu zasad i obowiązków konwencji wobec podmiotów prywatnych innych niż podmioty działające w imieniu organów publicznych), natomiast zakres przedmiotowy obu instrumentów prawnych wyłącza z obowiązujących przepisów działania dotyczące sztucznej inteligencji związane z bezpieczeństwem narodowym, obronnością i badaniami naukowymi.
Biorąc pod uwagę, że zakres podmiotowy i przedmiotowy konwencji pokrywa się z zakresem podmiotowym i przedmiotowym aktu w sprawie sztucznej inteligencji, zawarcie konwencji może wpływać na wspólne zasady unijne lub zmienić ich zakres w rozumieniu art. 3 ust. 2 TFUE. W związku z tym należy uznać, że Unia posiada wyłączną kompetencję zewnętrzną do zawarcia konwencji, a konwencja powinna zostać podpisana w imieniu Unii jako umowa zawarta wyłącznie przez UE, z zastrzeżeniem jej zawarcia w późniejszym terminie.
•Proporcjonalność
Konwencja nie wykracza poza to, co jest konieczne do osiągnięcia celów politycznych w zakresie opracowania spójnego podejścia do regulacji sztucznej inteligencji na szczeblu międzynarodowym.
Konwencja ustanawia ogólne ramy prawne dotyczące sztucznej inteligencji, które umożliwiają elastyczność, pozostawiając stronom konkretne opracowanie ram wdrażania. Podejście oparte na analizie ryzyka zapewnia ponadto proporcjonalność przepisów i umożliwia zróżnicowanie środków wykonawczych proporcjonalnie do ryzyka, w podobny sposób jak w akcie w sprawie sztucznej inteligencji.
•Wybór instrumentu
Wybranym instrumentem jest wniosek dotyczący decyzji Rady zgodnie z art. 218 ust. 5 TFUE.
3.WYNIKI OCEN EX POST, KONSULTACJI Z ZAINTERESOWANYMI STRONAMI I OCEN SKUTKÓW
•Oceny ex post/oceny adekwatności obowiązującego prawodawstwa
•Konsultacje z zainteresowanymi stronami
Komisja Europejska nie przeprowadziła szczegółowych konsultacji z zainteresowanymi stronami w sprawie tego wniosku.
Opracowanie konwencji było wspólnym wysiłkiem Komitetu ds. Sztucznej Inteligencji Rady Europy, skupiającego wszystkie 46 państw członkowskich Rady Europy, a także państwa będące obserwatorami, w tym Kanadę, Japonię, Meksyk, Stolicę Apostolską, Stany Zjednoczone Ameryki, oraz Unię Europejską. Ponadto zaangażowanych było kilka innych państw niebędących członkami, w tym Australia, Argentyna, Kostaryka, Izrael, Peru i Urugwaj.
Zgodnie ze zobowiązaniem Rady Europy do współpracy z różnymi zainteresowanymi stronami opracowanie konwencji obejmowało również wkład 68 międzynarodowych przedstawicieli społeczeństwa obywatelskiego, środowisk akademickich, przemysłu i innych organizacji międzynarodowych, zapewniając kompleksowe i inkluzywne podejście. Opracowanie konwencji obejmowało również współpracę z różnymi innymi organizacjami międzynarodowymi, w tym z Organizacją Bezpieczeństwa i Współpracy w Europie (OBWE), Organizacją Współpracy Gospodarczej i Rozwoju (OECD) oraz Organizacją Narodów Zjednoczonych do spraw Oświaty, Nauki i Kultury (UNESCO). Ponadto odpowiednie organy i komitety w ramach Rady Europy wniosły wkład w ten proces. Udziałowi Unii przewodziła Komisja Europejska. W charakterze obserwatorów obecni byli również przedstawiciele Agencji Praw Podstawowych Unii Europejskiej i Europejskiego Inspektora Ochrony Danych.
•Gromadzenie i wykorzystanie wiedzy eksperckiej
Stanowiska negocjacyjne Unii dotyczące konwencji zostały przygotowane w porozumieniu ze specjalnym komitetem wyznaczonym przez Radę (Grupą Roboczą Rady ds. Telekomunikacji i Społeczeństwa Informacyjnego).
•Ocena skutków
•Sprawność regulacyjna i uproszczenie
•Prawa podstawowe
Celem konwencji jest przeciwdziałanie potencjalnym zagrożeniom i szkodom dla praw człowieka poprzez zapewnienie, aby działania w ramach cyklu życia systemów sztucznej inteligencji były zgodne z zasadami poszanowania praw człowieka, demokracji i praworządności, przy jednoczesnym uznaniu potencjału sztucznej inteligencji w zakresie ochrony i ułatwiania korzystania z tych praw w środowisku cyfrowym oraz poprawy dobrostanu społecznego i środowiskowego oraz postępu technologicznego.
Konkretne zasady i obowiązki przewidziane w konwencji mają na celu ochronę i poszanowanie praw człowieka zapisanych w wielu międzynarodowych i regionalnych instrumentach (), mających zastosowanie do stron, w tym w Karcie praw podstawowych Unii Europejskiej i instrumentach międzynarodowych dotyczących praw człowieka, które Unia zawarła.
Konwencja ustanawia zatem wspólne normy minimalne stosowania ochrony praw człowieka w kontekście sztucznej inteligencji, gwarantując jednocześnie dotychczasową ochronę praw człowieka i umożliwiając stronom zapewnienie szerszej ochrony za pomocą bardziej rygorystycznych zabezpieczeń.
4.WPŁYW NA BUDŻET
Konwencjaprzewiduje wkłady finansowe państw trzecich niebędących członkami na rzecz działań Konferencji Stron. Wszyscy członkowie Rady Europy wniosą wkład z budżetu regularnego Rady Europy zgodnie ze Statutem Rady Europy, natomiast strony, które nie są członkami, wniosą wkłady pozabudżetowe. Składkę strony niebędącej członkiem Rady Europy ustala wspólnie Komitet Ministrów i zainteresowana strona niebędąca członkiem Rady Europy.
Konwencja nie koliduje z krajowymi przepisami ustawowymi i wykonawczymi stron regulującymi kompetencje budżetowe i procedury dotyczące środków budżetowych. Pozwala ponadto państwom niebędącycm członkami wnosić wkład w ramach zatwierdzonych limitów budżetowych określonych przez ich władzę ustawodawczą, bez uszczerbku dla wszelkich wcześniejszych umów.
5.ELEMENTY FAKULTATYWNE
•Plany wdrożenia i monitorowanie, ocena i sprawozdania
Konferencja Stron złożona z przedstawicieli stron będzie monitorować, czy cele konwencji są skutecznie realizowane, a jej postanowienia są wdrażane przez strony.
Każda ze stron będzie musiała przedłożyć Konferencji Stron sprawozdanie w ciągu pierwszych dwóch lat od przystąpienia, a następnie w regularnych odstępach czasu, zawierające szczegółowe informacje na temat środków wprowadzonych w celu wdrożenia konwencji.
Strony zachęca się ponadto do współpracy na rzecz realizacji celów konwencji. Ta współpraca międzynarodowa może obejmować wymianę istotnych informacji dotyczących sztucznej inteligencji i jej potencjału w zakresie niekorzystnego lub pozytywnego wpływu na prawa człowieka, demokrację i praworządność.
Aby zapewnić skuteczne monitorowanie i wdrażanie, każda ze stron będzie musiała wyznaczyć co najmniej jeden skuteczny mechanizm nadzoru na szczeblu krajowym.
2024/0150 (NLE)
Wniosek
DECYZJA RADY
w sprawie podpisania, w imieniu Unii Europejskiej, Konwencji ramowej Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności
RADA UNII EUROPEJSKIEJ,
uwzględniając Traktat o funkcjonowaniu Unii Europejskiej, w szczególności jego art. 114 w związku z jego art. 218 ust. 5,
uwzględniając wniosek Komisji Europejskiej,
a także mając na uwadze, co następuje:
(1)Dnia 21 listopada 2022 r. Rada upoważniła Komisję Europejską do rozpoczęcia w imieniu Unii negocjacji dotyczących Konwencji ramowej Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności („Konwencja”). Komisja Europejska negocjowała Konwencję w imieniu Unii. Dnia 17 maja 2024 r. negocjacje zakończyły się pomyślnie parafowaniem tekstu Konwencji i jej przyjęciem przez Komitet Ministrów Rady Europy ().
(2)Konwencja określa ogólne zasady i obowiązki, których strony Konwencji powinny przestrzegać w celu zapewnienia ochrony praw człowieka, demokracji i praworządności w odniesieniu do działań w ramach cyklu życia systemów sztucznej inteligencji.
(3)W dniu 12 czerwca 2024 r. Unia przyjęła rozporządzenie (UE) 2024/... („akt w sprawie sztucznej inteligencji”)(), głównie na podstawie art. 114 TFUE, zawierające w pełni zharmonizowane przepisy regulujące wprowadzanie do obrotu, oddawanie do użytku oraz wykorzystywanie systemów sztucznej inteligencji w Unii, które to przepisy są bezpośrednio stosowane w państwach członkowskich, chyba że akt w sprawie sztucznej inteligencji wyraźnie stanowi inaczej. Konwencja ma być wdrażana w Unii wyłącznie za pomocą aktu w sprawie sztucznej inteligencji i, w stosownych przypadkach, innego odpowiedniego unijnego dorobku prawnego.
(4)Biorąc pod uwagę, że zakres podmiotowy i przedmiotowy konwencji pokrywa się z aktem w sprawie sztucznej inteligencji i innym odpowiednim unijnym dorobkiem prawnym, zawarcie konwencji może wpływać na wspólne zasady unijne lub zmienić ich zakres w rozumieniu art. 3 ust. 2 Traktatu o funkcjonowaniu Unii Europejskiej. Unia posiada zatem wyłączną kompetencję zewnętrzną do podpisania Konwencji, w związku z czym jedynie Unia powinna stać się stroną Konwencji, z zastrzeżeniem jej zawarcia w późniejszym terminie.
(5)Zgodnie z Traktatami do Komisji Europejskiej należy zapewnienie podpisania Konwencji, z zastrzeżeniem jej zawarcia w późniejszym terminie,
PRZYJMUJE NINIEJSZĄ DECYZJĘ:
Artykuł 1
Niniejszym zatwierdza się w imieniu Unii podpisanie Konwencji ramowej Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności („Konwencja”), z zastrzeżeniem jej zawarcia.
Tekst Konwencji, która ma zostać podpisana, jest załączony do niniejszej decyzji.
Artykuł 2
Niniejsza decyzja wchodzi w życie z dniem [...] r.
Sporządzono w Brukseli dnia r.
W imieniu Rady
Przewodniczący