Брюксел, 26.6.2024

COM(2024) 264 final

2024/0150(NLE)

Предложение за

РЕШЕНИЕ НА СЪВЕТА

относно подписването, от името на Европейския съюз, на рамковата конвенция на Съвета на Европа за изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава


ОБЯСНИТЕЛЕН МЕМОРАНДУМ

1.КОНТЕКСТ НА ПРЕДЛОЖЕНИЕТО

•Основания и цели на предложението

Изкуственият интелект (ИИ) предлага големи възможности, но някои приложения и употреби могат също да навредят и крият рискове за основните права и други обществени интереси.

С Регламент (ЕС) 2024/[….] на Европейския парламент и на Съвета за установяване на хармонизирани правила относно изкуствения интелект („Акт за изкуствения интелект“) Съюзът за първи път регулира всеобхватно ИИ, с което зададе модел за подражание в световен мащаб. Законодателният акт за изкуствения интелект беше приет на 12 юни 2024 г. ( 1 ) и ще влезе в сила в рамките на 20 дни след публикуването му в Официален вестник на Европейския съюз. Със Законодателния акт за изкуствения интелект напълно се хармонизират правилата за пускането на пазара, пускането в действие и използването на системи с ИИ в държавите членки ( 2 ) с цел насърчаване на иновациите и навлизането на надежден ИИ, като същевременно се защитават здравето, безопасността и основните права, включително демокрацията, принципите на правовата държава и околната среда.

Различни международни организации, включително Съветът на Европа, също работят по-активно за регулиране на ИИ — беше признат трансграничният характер на ИИ и необходимостта от международно сътрудничество за посрещане на общите предизвикателства, които поражда тези технологии.

От юни 2022 г. Комитетът по изкуствен интелект към Съвета на Европа ( 3 ) разработва правно обвързваща рамкова конвенция (наричана по-нататък „конвенцията“) в отговор на потенциалните рискове, които поражда ИИ по отношение на правата на човека, демокрацията и принципите на правовата държава. Съюзът договори конвенцията въз основа на четвъртата възможност, посочена в член 216, параграф 1 от ДФЕС, съгласно която Съюзът може да договаря 4 и сключва международно споразумение, когато то „[...] може да засегне общи правила или да измени техния обхват“. Европейската комисия представляваше Съюза в преговорите по конвенцията в съответствие с член 218, параграф 3 от Договора за функционирането на Европейския съюз (ДФЕС) и въз основа на решение на Съвета за разрешаване на започването на преговорите от името на Европейския съюз ( 5 ).

Съюзът участва активно в преговорите с цел да гарантира съвместимост на конвенцията с правото на Съюза, съгласуваност със Законодателния акт за изкуствения интелект, както и качество и добавена стойност на конвенцията като първия международен договор в областта ИИ. В този контекст сред целите на Съюза е конвенцията да бъде също така с международен обхват.

След множество кръгове на преговори Комитетът по изкуствен интелект към Съвета на Европа одобри текста на конвенцията на своята 10-а пленарна сесия, която се проведе от 11 до 14 март 2024 г. На 17 май 2024 г. Комитетът на министрите на Съвета на Европа прие конвенцията и постигна съгласие тя да бъде открита за подписване във Вилнюс (Литва) на 5 септември 2024 г. по време на неофициална конференция на министрите на правосъдието и прикани членове на Съвета на Европа, както и други трети държави, участвали в изготвянето на проекта на конвенцията, и Съюза да разгледат възможността за нейното подписване в този момент, като същевременно припомни, че присъединяването към конвенцията е отворено и за други държави, които не са членки ( 6 ).

В този контекст целта на настоящото предложение е да се даде ход на процеса по подписване на конвенцията от Съюза с намерението впоследствие тя да се ратифицира като се предложи на Съвета да приеме решение за упълномощаване на Съюза да подпише конвенцията в съответствие с член 218, параграф 5 от ДФЕС. Конвенцията е напълно съвместима със законодателството на Съюза като цяло и по-специално със Законодателния акт за изкуствения интелект и ще популяризира основни концепции от подхода на Съюза към регулирането на ИИ в световен мащаб сред други членове на Съвета на Европа и ключови международни партньори, които може да станат страни по конвенцията.

Съдържание на конвенцията

Целта на конвенцията е да се гарантира, че дейностите в рамките на жизнения цикъл на системите с ИИ са напълно в съответствие с правата на човека, демокрацията и принципите на правовата държава.

Страните по конвенцията ще трябва да я прилагат чрез подходящи законодателни, административни или други мерки, за да приведат в действие нейните разпоредби, като следват степенуван и диференциран подход в зависимост от тежестта и вероятността от настъпване на неблагоприятните въздействия. Конвенцията следва да се прилага в Съюза изключително чрез Законодателния акт за изкуствения интелект, с който напълно се хармонизират правилата за пускането на пазара, пускането в действие и използването на системи с ИИ, и чрез други приложими законодателни инструменти, които са част от достиженията на правото на Съюза, когато е приложимо. 

Обхватът на конвенцията включва системи с ИИ, които потенциално засягат правата на човека, демокрацията и принципите на правовата държава, като се следва диференциран подход. Принципите и задълженията, предвидени в конвенцията, се прилагат към дейностите в рамките на жизнения цикъл на системите с ИИ, предприемани от публични органи или частни субекти, действащи от тяхно име. Що се отнася до частния сектор, страните са задължени да посрещат рисковете и въздействията, произтичащи от дейности в рамките на жизнения цикъл на системите с ИИ от частни субекти по начин, който е в съответствие с предмета и целта на конвенцията, но имат избор дали да прилагат задълженията по конвенцията или да предприемат други подходящи мерки. При подписването или присъединяването към конвенцията страните ще трябва да изготвят декларация относно избора, който правят в това отношение. При сключването на конвенцията Съюзът следва да излезе с декларация, че Съюзът, посредством Законодателния акт за изкуствения интелект и други приложими законодателни инструменти, които са част от достиженията на правото на Съюза, ще прилага принципите и задълженията, посочени в глави II—VI на конвенцията, по отношение на дейностите на частни субекти, които пускат на пазара, пускат в действие и използват системи с ИИ в Съюза, посредством Законодателния акт за изкуствения интелект.

Дейностите, свързани с националната сигурност, за които се използва ИИ, са изключени от обхвата на конвенцията, с уговорката, че при всички положения те трябва да се извършват по начин, съвместим с приложимото международно право в областта на правата на човека и при зачитане на демократичните институции и процеси. Освен това от обхвата на конвенцията са изключени научноизследователските и развойни дейности по отношение на системи с ИИ, които все още не са на разположение за ползване, освен ако изпитването им или други подобни дейности имат потенциала да засегнат правата на човека, демокрацията и принципите на правовата държава. Съгласно Статута на Съвета на Европа въпросите, свързани с националната отбрана, не попадат в обхвата на конвенцията.

Освен това конвенцията предвижда набор от общи задължения и основни принципи, в това число защитата на човешкото достойнство и самостоятелността на индивида, както и насърчаването на равенството и недискриминацията. С нея също се налага задължение за зачитане на неприкосновеността на личния живот и защита на личните данни, наред с прозрачност и надзор, за да се гарантира отчетност и отговорност. Заложен е и принцип, посветен на безопасните иновации и експериментирането в контролирана среда.

Освен това има специална глава за средствата за правна защита, в която се предвижда набор от мерки, които имат за цел да се гарантира наличието на достъпни и ефективни средства за защита при нарушения на правата на човека, произтичащи от дейностите в рамките на жизнения цикъл на системи с ИИ. Включени са и ефективни процедурни гаранции и предпазни мерки за лицата, чиито права са били значително засегнати от използването на системи с ИИ. Освен това физическите лица следва да бъдат информирани, че взаимодействат със система с ИИ, а не с човек.

Конвенцията също съдържа глава относно мерките за оценка и ограничаване на рисковете и неблагоприятните въздействия, които трябва да бъдат прилагани последователно, така че да се идентифицират действителните и потенциалните последствия за правата на човека, демокрацията и принципите на правовата държава и да се предприемат подходящи мерки за предотвратяване и ограничаване на рисковете.

Освен това в конвенцията се предвижда страните да оценят необходимостта от забрани или мораториуми върху определени приложения на системи с ИИ, считани за несъвместими със зачитането на човешките права, функционирането на демокрацията или принципите на правовата държава.

Конвенцията осигурява механизъм за последващи действия в рамките на Конференция на страните, съставена от представители на страните, които периодично ще провеждат консултации с оглед улесняване на ефективното използване и прилагане на конвенцията. Освен това се предвижда механизъм за международно сътрудничество както между страните по конвенцията, така и в отношенията с трети държави и съответните заинтересовани страни с оглед постигане на целта на конвенцията.

Всяка страна следва също да създаде или определи на национално равнище един или повече ефективни механизми за надзор на спазването на задълженията по конвенцията, както са изпълнявани от страните.

•Съгласуваност с действащите разпоредби в тази област на политиката

С конвенцията се определят общи принципи и задължения по отношение на защитата на правата на човека, демокрацията и принципите на правовата държава, които са напълно съвместими и съобразени с целите на Законодателния акт за изкуствения интелект и подробните изисквания за системите с ИИ и задълженията, наложени на доставчиците и внедрителите на такива системи.

Определението за „система с ИИ“ в конвенцията е изцяло в съответствие с това в Законодателния акт за изкуствения интелект, тъй като и двете се основават на определението за тези системи, заложено в Принципите за ИИ на Организацията за икономическо сътрудничество и развитие ( 7 ). Така се гарантира общо разбиране относно това кои цифрови технологии представляват ИИ.

Както в конвенцията, така и в Законодателния акт за изкуствения интелект към регулирането на системите с ИИ се прилага основан на риска подход, като и двата документа включват специфични разпоредби за оценка на риска и въздействието, както и мерки за ограничаване на риска. Законодателният акт за изкуствения интелект включва по-специално редица забрани от значение и високорискови случаи на употреба на системи с ИИ във всички публични и частни сектори, включително в областта на демокрацията и правосъдието. Подробните правила и процедури на Законодателния акт за изкуствения интелект по отношение на разработването, пускането на пазара и внедряването на системи с ИИ в тези области съответно ще гарантират, че основните права, демокрацията и принципите на правовата държава се зачитат през целия жизнен цикъл на ИИ.

Конвенцията включва принципи и задължения, които вече влизат в обхвата на Законодателния акт за изкуствения интелект, като например мерки във връзка със защитата на правата на човека, безопасността и надеждността, отчетността и отговорността, управлението и защитата на данните, прозрачността и надзора, равенството и недискриминацията, цифровите умения и грамотността.

Прозрачността е друг общ елемент и на двата правни инструмента, в това число мерки за разпознаване на съдържанието, генерирано с помощта на ИИ, и информиране на лицата, които си взаимодействат със системи с ИИ. Освен това и двата правни инструмента включват съответни разпоредби относно оценките на риска и въздействието и управлението на риска, поддържането на регистри, разкриването на информация (на упълномощени органи и власти и, когато е целесъобразно, на засегнатите лица), проследимостта и разбираемостта, безопасните иновации и експериментирането в контролирана среда, както и набор от мерки за осигуряване на ефективни средства за правна защита, включително правото на искане и получаване на информация и правото на жалба до компетентен орган и процедурни гаранции.

Системата за надзор, предвидена в конвенцията, също е напълно съвместима с цялостната система за управление и правоприлагане на Законодателния акт за изкуствения интелект, която се състои от правоприлагане на равнището на Съюза и на национално равнище, с процедури за последователно прилагане на правилата на Съюза в държавите членки. В конвенцията се предвиждат по-специално един или повече ефективни механизми за надзор на национално равнище, като отговорните органи трябва да изпълняват задълженията си независимо и безпристрастно и да разполагат с необходимите правомощия, експертен опит и ресурси за ефективното изпълнение на задачите във връзка с надзора на спазването на задълженията по конвенцията, както са изпълнявани от страните.

Въпреки че Законодателният акт за изкуствения интелект ще се прилага за системите с ИИ, пуснати на пазара, пуснати в действие или използвани в Съюза, конвенцията има по-широк географски обхват, включващ членовете на Съвета на Европа и трети държави в целия свят, които може да станат страни по конвенцията. Благодарение на това конвенцията, като пръв международен правно обвързващ договор, основан на силно ориентиран към правата на човека подход към регулирането на ИИ, представлява уникална възможност да се насърчи разработването и използването на надежден ИИ извън ЕС.

Както конвенцията, така и Законодателният акт за изкуствения интелект са неразделни компоненти на регулаторния подход към ИИ с последователни и взаимно подсилващи се ангажименти на множество нива в глобален план като общата цел е да се гарантира надеждността на ИИ.

•Съгласуваност с други политики на Съюза

Конвенцията има общи цели и с други политики и законодателни актове на Съюза, които са насочени към прилагането на основните права, заложени в Хартата на основните права на Европейския съюз ( 8 ).

По-специално залегналият в конвенцията принцип на равенство и недискриминация е изцяло в съответствие със законодателството на Съюза по отношение на недискриминацията и ще насърчи интегрирането на аспектите за равенство при проектирането, разработването и използването на системи с ИИ и ефективното прилагане на забраната за дискриминация, както е предвидено в приложимото международно и национално законодателство на страните по конвенцията.

Освен това конвенцията е в съответствие с достиженията на правото на Съюза в областта на защитата на данните, включително с Общия регламент относно защитата на данните ( 9 ) по отношение на основните права на неприкосновеност на личния живот и защита на личните данни с ефективни гаранции и предпазни мерки, които трябва да бъдат на разположение на физическите лица, в съответствие с приложимите национални и международни правни задължения на страните по конвенцията.

Мерките, които предвижда конвенцията с оглед на защитата на демократичните процеси на страните по конвенцията в контекста на дейностите в рамките на жизнения цикъл на системите с ИИ, съответстват напълно на целите и подробните правила в Акта за цифровите услуги ( 10 ), с който се регулира предоставянето на посреднически услуги в Съюза с цел гарантиране на безопасна, предсказуема и надеждна онлайн среда, в която се спазват основните права, включително правото на свобода на изразяване на мнение и правото на получаване и предоставяне на информация. Те са в съответствие и с Регламента относно прозрачността и таргетирането на политическото рекламиране ( 11 ), Кодекса за поведение във връзка с дезинформацията ( 12 ) и политиките на Съюза в областта на демокрацията и свободните, честни и устойчиви избори ( 13 ), включително Плана за действие за европейската демокрация от 2020 г. ( 14 ), пакета за избори и почтеност ( 15 ) и неотдавнашния пакет от мерки от 2023 г. за защита на демокрацията ( 16 ).

Конвенцията е съгласувана с общата стратегия на Съюза в областта на цифровите технологии, тъй като има принос за насърчаване на технологиите, работещи в полза на хората — един от трите основни стълба на насоката и целите на политиката, обявени в съобщението на Комисията „Изграждане на цифровото бъдеще на Европа“ ( 17 ). Целта на това съобщение е да се гарантира, че при разработването на ИИ се зачитат правата на човека и се изгражда доверие, което ще подготви Европа за цифровата ера и ще превърне следващите години в цифрово десетилетие ( 18 ).

Освен това Европейската декларация относно цифровите права и принципи за цифровото десетилетие ( 19 ) съдържа някои цифрови права и принципи, които са в съответствие с целите и принципите на конвенцията, като и двата инструмента насърчават подход към технологиите, при който правата на човек са силно застъпени.

Конвенцията е съобразена и със Стратегията на ЕС за правата на детето ( 20 ) и Европейската стратегия за по-добър интернет за децата (BIK+) ( 21 ), които имат за цел да се гарантира, че децата могат да разчитат на защита, добро отношение и повече възможности онлайн, което ще им позволи да посрещнат предизвикателствата, които поставят новите виртуални светове и ИИ.

2.ПРАВНО ОСНОВАНИЕ, СУБСИДИАРНОСТ И ПРОПОРЦИОНАЛНОСТ

•Правно основание

Предложението за решение за разрешаване на подписването на конвенцията от името на Съюза се представя на Съвета съгласно член 218, параграф 5 от ДФЕС.

Материалноправното основание за дадено решение съгласно член 218, параграф 5 от ДФЕС зависи преди всичко от целта и съдържанието на споразумението. Според съдебната практика, ако при проверка на дадена мярка на Съюза стане ясно, че тази мярка има две цели или се състои от два елемента, и ако една от целите или един от елементите се отличава като основен или водещ, а другият е само второстепенен, мярката трябва да има едно-единствено правно основание, а именно това правно основание, което се изисква за основната или водещата цел или основния или водещия елемент.

По отношение на материалноправното основание материалният обхват на конвенцията съвпада с този на Законодателния акт за изкуствения интелект ( 22 ), включително по отношение на освобождаването от обхвата на научноизследователската и развойна дейност, както и на дейностите в областта на националната сигурност и отбрана. Принципите и задълженията по конвенцията съвпадат с по-подробните изисквания за системите с ИИ и специфичните задължения на доставчиците и внедрителите на такива системи съгласно Законодателния акт за изкуствения интелект и друго приложимо законодателство на Съюза. Ако Съветът приеме предложеното решение и Съюзът подпише конвенцията, Законодателният акт за изкуствения интелект ще представлява основното законодателство на Съюза, чрез което ще се прилага конвенцията в правния ред на Съюза с напълно хармонизирани правила за пускането на пазара, пускането в действие и използването на системи с ИИ в Съюза, които са пряко приложими в държавите членки, освен ако изрично не е предвидено друго в Законодателния акт за изкуствения интелект ( 23 ).

Като се има предвид, че обхватът и целите на конвенцията са съобразени и напълно съответстват на тези на Законодателния акт за изкуствения интелект и че персоналният и материалният обхват на двата правни инструмента съвпадат, материалноправното основание за сключването на конвенцията е член 114 от ДФЕС, който е първичното правно основание на Законодателния акт за изкуствения интелект.

Естеството на международните споразумения („само за ЕС“ или „със смесен характер“) зависи от съвместимостта на конкретния предмет с компетентността на Съюза.

Съгласно член 3, параграф 2 от ДФЕС Съюзът разполага с изключителна компетентност „за сключване на международни споразумения [...] доколкото [сключването им] може да засегне общите правила или да промени техния обхват“. Едно международно споразумение може да засегне общите правила или да промени обхвата им, когато областта, обхваната от споразумението, е до голяма степен обхванато от правото на Съюза ( 24 ).

Персоналният обхват на конвенцията е в пълно съответствие със Законодателния акт за изкуствения интелект, тъй като и двата правни инструмента по принцип обхващат както публични, така и частни участници (по желание принципите и задълженията на конвенцията се прилагат към частните участници, които са различни от тези, които действат от името на публични органи), а материалният обхват на двата правни инструмента изключва от приложимите правила дейностите, свързани с националната сигурност, отбраната и научните изследвания, за които се използва ИИ.

Като се има предвид, че персоналният и материалният обхват на конвенцията съвпадат с тези на Законодателния акт за изкуствения интелект, сключването на конвенцията може да засегне общи правила на Съюза или да промени техния обхват по смисъла на член 3, параграф 2 от ДФЕС. Следователно следва да се счита, че Съюзът разполага с изключителна външна компетентност за присъединяване към конвенцията и че конвенцията следва да бъде подписана от името на Съюза като споразумение „само за ЕС“, при условие че тя бъде сключена на по-късна дата.

•Пропорционалност

Конвенцията не надхвърля необходимото за постигането на целите на политиката за разработване на последователен подход към регулирането на ИИ на международно равнище.

С конвенцията се определя правна рамка за ИИ на високо равнище, която дава необходимата гъвкавост на страните, които могат да изработят конкретни рамки за нейното прилагане. Освен това благодарение на основания на риска подход се гарантира пропорционалност на правилата и се дава възможност за диференциране на мерките за прилагане по начин, който е пропорционален на рисковете, както е и при Законодателния акт за изкуствения интелект.

•Избор на инструмент

Избраният инструмент е предложение за решение на Съвета съгласно член 218, параграф 5 от ДФЕС.

3.РЕЗУЛТАТИ ОТ ПОСЛЕДВАЩИТЕ ОЦЕНКИ, КОНСУЛТАЦИИТЕ СЪС ЗАИНТЕРЕСОВАНИТЕ СТРАНИ И ОЦЕНКИТЕ НА ВЪЗДЕЙСТВИЕТО

•Последващи оценки/проверки за пригодност на действащото законодателство

Не се прилага.

•Консултации със заинтересованите страни

Европейската комисия не е провела специална консултация със заинтересованите страни по настоящото предложение.

Разработването на конвенцията беше съвместно усилие на Комитета по изкуствен интелект към Съвета на Европа, в което се включиха всички 46 държави — членки на Съвета на Европа, както и държави наблюдатели, в това число Канада, Япония, Мексико, Светият престол, Съединените американски щати и Европейският съюз. Освен това участваха няколко други държави, които не са членки, в това число Австралия, Аржентина, Коста Рика, Израел, Перу и Уругвай.

В съответствие с ангажимента на Съвета на Европа да се консултира с различни заинтересовани страни при разработването на конвенцията бяха получени мнения от 68 международни представители от гражданското общество, академичните среди, промишлеността и други международни организации, с което се гарантира цялостен и приобщаващ подход. При разработването на конвенцията също имаше сътрудничество с различни други международни организации, в това число Организацията за сигурност и сътрудничество в Европа (ОССЕ), Организацията за икономическо сътрудничество и развитие (ОИСР) и Организацията за образование, наука и култура на ООН (ЮНЕСКО). За процеса допринесоха и съответните органи и комитети в рамките на Съвета на Европа. Участието на Съюза беше ръководено от Европейската комисия. Като наблюдатели присъстваха и представители на Агенцията на Европейския съюз за основните права и Европейския надзорен орган по защита на данните.

•Събиране и използване на експертни становища

Преговорните позиции на Съюза по отношение на конвенцията са изготвени след консултации със специална комисия, определена от Съвета (Работна група „Телекомуникации и информационно общество“).

•Оценка на въздействието

Не се прилага.

•Пригодност и опростяване на законодателството

Не се прилага.

•Основни права

Конвенцията има за цел да отговори на потенциалните рискове и вреди за правата на човека, като се гарантира, че дейностите в рамките на жизнения цикъл на системите с ИИ са в съответствие с принципите на зачитане на правата на човека, демокрацията и принципите на правовата държава. Едновременно с това се признава потенциалът на ИИ за защитата на тези права и за създаването на условия те да се упражняват в цифрова среда, както и за подобряване на благосъстоянието на обществото и на околната среда и насърчаване на технологичния прогрес..

Конкретните принципи и задължения, предвидени в конвенцията, са насочени към защитата и зачитането на правата на човека, залегнали в множество международни и регионални инструменти ( 25 ), приложими към страните, включително в Хартата на основните права на Европейския съюз и в международните инструменти в областта на правата на човека, сключени от Съюза.

По този начин с конвенцията се определя споделен минимален стандарт за прилагане на защитата на правата на човека в контекста на ИИ, като същевременно се гарантират съществуващите защити на правата на човека и се дава възможност на страните да предоставят по-широка защита с по-строги защитни мерки.

4.ОТРАЖЕНИЕ ВЪРХУ БЮДЖЕТА

В конвенциятасе предвиждат финансови вноски на държавите, които не са членки, за дейностите на Конференцията на страните. Всички членове на Съвета на Европа ще правят вноски чрез обичайния бюджет на Съвета на Европа в съответствие със Статута на Съвета на Европа, а страните, които не са членки, ще правят извънбюджетни вноски. Вноската на страна, която не е член на Съвета на Европа, се определя съвместно от Комитета на министрите и съответната страна.

Конвенцията не засяга националните закони и разпоредби на страните, с които се уреждат бюджетните компетенции и процедурите за бюджетни кредити. Освен това тя дава възможност на държавите, които не са членки, да правят своите вноски в рамките на одобрените бюджетни ограничения, определени от законодателните им власти, без да се засягат предходни споразумения.

5.ДРУГИ ЕЛЕМЕНТИ

•Планове за изпълнение и механизъм за мониторинг, оценка и докладване

Конференцията на страните, която се състои от представители на страните по конвенцията, ще следи дали целите на конвенцията се изпълняват ефективно и дали страните прилагат нейните разпоредби.

Всяка страна ще трябва да представи доклад на Конференцията на страните в рамките на първите две години от присъединяването си и на редовни интервали след това, в който подробно се описват мерките, които е предприела за прилагането на конвенцията.

Освен това страните се насърчават да си сътрудничат за постигането на целите на конвенцията. Това международно сътрудничество може да включва споделяне на подходяща информация относно ИИ и неговия потенциал да засяга неблагоприятно или да бъде в услуга на човешките права, демокрацията и принципите на правовата държава.

За да гарантира ефективност при мониторинга и прилагането на конвенцията, всяка страна ще трябва да определи един или повече ефективни механизми за надзор на национално равнище.

2024/0150 (NLE)

Предложение за

РЕШЕНИЕ НА СЪВЕТА

относно подписването, от името на Европейския съюз, на рамковата конвенция на Съвета на Европа за изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава

СЪВЕТЪТ НА ЕВРОПЕЙСКИЯ СЪЮЗ,

като взе предвид Договора за функционирането на Европейския съюз и по-специално член 114, във връзка с член 218, параграф 5 от него,

като взе предвид предложението на Европейската комисия,

като има предвид, че:

(1)На 21 ноември 2022 г. Съветът упълномощи Европейската комисия да започне преговори от името на Европейския съюз по конвенция на Съвета на Европа за изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава („конвенцията“). Европейската комисия проведе преговори от името на Съюза относно конвенцията. На 17 май 2024 г. преговорите приключиха успешно с парафирането на конвенцията и приемането ѝ от Комитета на министрите на Съвета на Европа ( 26 ).

(2)С конвенцията се определят общи принципи и задължения, които страните по конвенцията следва да спазват, за да гарантират защитата на правата на човека, демокрацията и принципите на правовата държава във връзка с дейностите в рамките на жизнения цикъл на системите с изкуствен интелект (ИИ).

(3)На 12 юни 2024 г. Съюзът прие Регламент (ЕС) 2024/… („законодателен акт за изкуствения интелект“) ( 27 ), преди всичко въз основа на член 114 от ДФЕС, с който се определят напълно хармонизирани правила, регулиращи пускането на пазара, пускането в действие и използването на системи с ИИ в Съюза, които са пряко приложими в държавите членки, освен ако изрично не е предвидено друго в Законодателния акт за изкуствения интелект. Конвенцията трябва да се прилага в Съюза изключително чрез Законодателния акт за изкуствения интелект и други приложими законодателни инструменти, които са част от достиженията на правото на Съюза, когато е приложимо.

(4)Като се има предвид, че персоналният и материалният обхват на конвенцията съвпадат с тези на Законодателния акт за изкуствения интелект и на други приложими законодателни инструменти, които са част от достиженията на правото на Съюза, сключването на конвенцията може да засегне общи правила на Съюза или да промени техния обхват по смисъла на член 3, параграф 2 от Договора за функционирането на Европейския съюз. Поради това Съюзът се ползва с изключителна външна компетентност да подпише конвенцията и следователно само Съюзът следва да стане страна по конвенцията, при условие че тя бъде сключена на по-късна дата.

(5)В съответствие с договорите Европейската комисия е тази, която трябва осигури подписването на конвенцията, при условие че тя бъде сключена на по-късна дата.

ПРИЕ НАСТОЯЩОТО РЕШЕНИЕ:

Член 1

Подписването на рамковата конвенция на Съвета на Европа за изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава („конвенцията“) се одобрява от името на Съюза, при условие че посочената конвенция бъде сключена.

Текстът на конвенцията, която трябва да се подпише, е приложен към настоящото решение.

Член 2

Настоящото решение влиза в сила на .

Съставено в Брюксел на година.

   За Съвета

   Председател

(1)     РЕГЛАМЕНТ (ЕС) 2024/… НА ЕВРОПЕЙСКИЯ ПАРЛАМЕНТ И НА СЪВЕТА за установяване на хармонизирани правила относно изкуствения интелект и за изменение на регламенти (ЕО) № 300/2008, (ЕС) № 167/2013, (ЕС) № 168/2013, (ЕС) 2018/858, (ЕС) 2018/1139 и (ЕС) 2019/2144 и директиви 2014/90/ЕС, (ЕС) 2016/797 и (ЕС) 2020/1828 (Акт за изкуствения интелект) (ОВ 2024 L …..).
(2)    Акт за изкуствения интелект, съображения 1 и 8.
(3)     Решение относно работата на Комитета по изкуствен интелект към Съвета на Европа на 132-рата сесия на Комитета на министрите — Последващи действия (CM/Inf(2022)20, DD(2022)245).
(4)    Решение на Съда от 20 ноември 2018 г., съединени дела C-626/15 и C-659/16, Комисия/Съвет (ЗМЗ Антарктика), ECLI:EU:C:2018:925, т. 112.
(5)     Решение (ЕС) 2022/2349 на Съвета от 21 ноември 2022 г. за разрешаване на започването на преговори от името на Европейския съюз по конвенция на Съвета на Европа за изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава (ОВ L 311, 2.12.2022 г., стр. 138).
(6)    CM/Del/Dec(2024)133/4.
(7)    Определението на ОИСР за „система с ИИ“ беше актуализирано на 8 ноември 2023 г. [C(2023)151 и C/M(2023)14, точка 218], за да се гарантира, че то продължава да бъде технически точно и отразява технологичното развитие, включително по отношение на генеративния ИИ.
(8)

   Харта на основните права на Европейския съюз (OВ C 326, 26.10.2012 г., стр. 391—407).

(9)    Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/EО (Общ регламент относно защитата на данните) (ОВ L 119, 4.5.2016 г., стр. 1).
(10)    Регламент (ЕС) 2022/2065 на Европейския парламент и на Съвета от 19 октомври 2022 г. относно единния пазар на цифрови услуги и за изменение на Директива 2000/31/ЕО (Акт за цифровите услуги) (ОВ L 277, 27.10.2022 г., стр. 1—102).
(11)    Регламент (ЕС) 2024/900 на Европейския парламент и на Съвета от 13 март 2024 г. относно прозрачността и таргетирането на политическото рекламиране, PE/90/2023/REV/1 ( ОВ L 2024/900, 20.3.2024 г.).
(12)     https://disinfocode.eu/bg/vavedenie-v-kodeksa/
(13)     Защита на демокрацията — Европейска комисия (europa.eu)
(14)     https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_bg
(15)     https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en?prefLang=bg
(16)    Съобщение на Комисията относно защитата на демокрацията (COM(2023) 630 final).
(17)    Съобщение на Комисията „Изграждане на цифровото бъдеще на Европа“ (COM(2020) 67 final).
(18)    Съобщение на Комисията  „Цифров компас до 2030 г.: Европейският път за цифровото десетилетие“  (COM(2021) 118 final).
(19)     Европейска декларация относно цифровите права и принципи за цифровото десетилетие (COM(2022) 28 final).
(20)    Съобщение на Комисията „Стратегия на ЕС за правата на детето“ (COM(2021) 142 final).
(21)    Съобщение на Комисията „Цифрово десетилетие за децата и младежите: новата европейска стратегия за по-добър интернет за децата (BIK+)“ (COM(2022) 212 final).
(22)    Приет от Съвета на 21 май 2024 г., като се очаква да бъде публикуван в Официален вестник през юли 2024 г.
(23)    Вж. член 1 и съображение 1 от Законодателния акт за изкуствения интелект.
(24)    Напр. Дело C‑114/12, Комисия/Съвет (Сродни права на излъчващите организации) (ECLI:EU:C:2014:2151, точки 68—69); Становище 1/13 Присъединяване на трети държави към Хагската конвенция (EU:C:2014:2303, точки 71—74); Дело C‑66/13, Green Network (EU:C:2014:2399, точки 27—33); Становище 3/15 Маракешки договор за улесняване на достъпа до публикувани произведения за слепи хора, лица с нарушено зрение или с други увреждания, които не позволяват четенето на печатни материали (ECLI:EU:C:2017:114, точки 105—108).
(25)    Като Всеобщата декларация за правата на човека от 1948 г., Конвенцията за защита на правата на човека и основните свободи от 1950 г. (ETS № 5), Международния пакт за граждански и политически права от 1966 г., Международния пакт за икономически, социални и културни права от 1966 г., Европейската социална харта от 1961 г. (ETS № 35), както и съответните протоколи към тях, и преразгледаната Европейска социална харта от 1996 г. (ETS № 163); Конвенцията на ООН за правата на детето от 1989 г. и Конвенцията на ООН за правата на хората с увреждания от 2006 г.
(26)    Решение (ЕС) 2022/2349 на Съвета от 21 ноември 2022 г. за разрешаване на започването на преговори от името на Европейския съюз по конвенция на Съвета на Европа за изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава (ОВ L 311, 2.12.2022 г., стр. 138).
(27)    Регламент (ЕС) 2024/… на Европейския парламент и на Съвета за определяне на хармонизирани правила относно изкуствения интелект и за изменение на регламенти (ЕО) № 300/2008, (ЕС) № 167/2013, (ЕС) № 168/2013, (ЕС) 2018/858, (ЕС) 2018/1139 и (ЕС) 2019/2144 и Директиви 2014/90/ЕС, (ЕС) 2016/797 и (ЕС) 2020/1828 (Акт за изкуствения интелект) (ОВ 2024 L …..).