Bruselas, 26.6.2024

COM(2024) 264 final

2024/0150(NLE)

Propuesta de

DECISIÓN DEL CONSEJO

relativa a la firma, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho


EXPOSICIÓN DE MOTIVOS

1.CONTEXTO DE LA PROPUESTA

•Razones y objetivos de la propuesta

La inteligencia artificial (IA) ofrece grandes oportunidades, pero determinadas aplicaciones y usos también pueden causar daños y riesgos para los derechos fundamentales de las personas y otros intereses públicos.

Con el Reglamento (UE) 2024/[...] del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial (en lo sucesivo, «Reglamento de Inteligencia Artificial»), la Unión ha adoptado el primer Reglamento exhaustivo sobre la IA, que establece una norma de alcance mundial. El Reglamento de Inteligencia Artificial se adoptó el 12 de junio de 2024 1 y entrará en vigor en un plazo de 20 días a partir de su publicación en el Diario Oficial. El Reglamento armoniza plenamente las normas para la comercialización, la puesta en servicio y el uso de sistemas de IA en todos los Estados miembros 2 , con el objetivo de promover la innovación y la adopción de una IA fiable, protegiendo al mismo tiempo la salud, la seguridad y los derechos fundamentales, incluidos la democracia, el Estado de Derecho y el medio ambiente.

Varias organizaciones internacionales, incluido el Consejo de Europa, también han intensificado sus esfuerzos en este ámbito, reconociendo el carácter transfronterizo de la IA y la necesidad de la cooperación internacional para hacer frente a los retos comunes.

Desde junio de 2022, el Comité de Inteligencia Artificial (CAI) del Consejo de Europa 3 ha elaborado un Convenio marco jurídicamente vinculante (en lo sucesivo, «el Convenio») para abordar los posibles riesgos que plantea la IA para los derechos humanos, la democracia y el Estado de Derecho. La Unión negoció el Convenio sobre la base del artículo 216, apartado 1, cuarta disyuntiva, del TFUE, en virtud del cual la Unión puede negociar 4 y celebrar un acuerdo internacional cuando «[...] pueda afectar a normas comunes o alterar el alcance de las mismas». La Comisión Europea representó a la Unión en las negociaciones del Convenio, de conformidad con el artículo 218, apartado 3, del Tratado de Funcionamiento de la Unión Europea (TFUE) y sobre la base de una Decisión del Consejo por la que se autorizó la apertura de negociaciones en nombre de la Unión Europea 5 .

La Unión ha participado activamente en las negociaciones y ha perseguido el objetivo de garantizar la compatibilidad del Convenio con el Derecho de la Unión, la coherencia con el Reglamento de Inteligencia Artificial, así como la calidad y el valor añadido del Convenio como primer tratado internacional sobre IA. En este contexto, el alcance internacional del Convenio también ha sido un objetivo de la Unión.

Tras múltiples rondas de negociaciones, el CAI aprobó el texto del Convenio en su décima sesión plenaria, celebrada del 11 al 14 de marzo de 2024. El 17 de mayo de 2024, el Comité de Ministros del Consejo de Europa adoptó el Convenio, acordó abrirlo a la firma en Vilna (Lituania) el 5 de septiembre de 2024, con ocasión de una Reunión Informal de Ministros de Justicia e invitó a los miembros del Consejo de Europa, otros terceros países que habían participado en su elaboración y a la UE a considerar su firma en esa ocasión, recordando al mismo tiempo que el Convenio también está abierto a la adhesión de otros Estados no miembros 6 .

En este contexto, el objetivo de la presente propuesta es iniciar el proceso de firma por la Unión del Convenio con la intención de ratificarlo posteriormente, proponiendo al Consejo que adopte una decisión por la que se autorice a la Unión a firmar el Convenio de conformidad con el artículo 218, apartado 5, del TFUE. El Convenio es plenamente compatible con el Derecho de la Unión en general, y con el Reglamento de Inteligencia Artificial en particular, y promoverá conceptos clave desde el enfoque de la Unión de la regulación de la IA a escala mundial, entre otros miembros del Consejo de Europa y con socios internacionales clave que pueden adherirse al Convenio.

Contenido del Convenio

El objetivo del Convenio es garantizar que las actividades durante el ciclo de vida de los sistemas de IA sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho.

Las Partes en el Convenio tendrán que aplicarlo mediante las medidas legislativas, administrativas o de otro tipo adecuadas para dar efecto a sus disposiciones, siguiendo un enfoque gradual y diferenciado, en función de la gravedad y la probabilidad de efectos adversos. El Convenio debe aplicarse exclusivamente en la Unión a través del Reglamento de Inteligencia Artificial, que armoniza plenamente las normas para la comercialización, la puesta en servicio y la utilización de sistemas de IA, así como el acervo vigente de la Unión, cuando proceda. 

El ámbito de aplicación del Convenio abarca los sistemas de IA que pueden interferir en los derechos humanos, la democracia y el Estado de Derecho, siguiendo un enfoque diferenciado. Los principios y las obligaciones previstos en el Convenio se aplicarán a las actividades dentro del ciclo de vida de los sistemas de IA realizadas por autoridades públicas o agentes privados que actúen en su nombre. En cuanto al sector privado, las Partes están obligadas a abordar los riesgos e impactos derivados de las actividades realizadas por agentes privados durante el ciclo de vida de los sistemas de IA de manera acorde con el objeto y la finalidad del Convenio, pero tienen la opción de aplicar las obligaciones del Convenio o de adoptar otras medidas adecuadas. Las Partes deberán hacer una declaración sobre la elección que hagan a este respecto en el momento de la firma del Convenio o de su adhesión al mismo. Al celebrar el Convenio, la Unión debe emitir una declaración en la que certifique que la Unión, a través del Reglamento de Inteligencia Artificial y de otro acervo pertinente de la Unión, aplicará los principios y obligaciones establecidos en los capítulos II a VI del Convenio a las actividades de los agentes privados que comercialicen, pongan en servicio y utilicen sistemas de IA en la Unión.

Las actividades de IA relacionadas con la seguridad nacional están excluidas del ámbito de aplicación del Convenio, entendiéndose que, en cualquier caso, deben realizarse de forma coherente con el Derecho internacional aplicable en materia de derechos humanos y con el respeto de las instituciones y los procesos democráticos. El Convenio también excluye las actividades de investigación y desarrollo relativas a sistemas de IA que aún no se hayan puesto a disposición para su uso, a menos que las actividades de prueba o similares puedan interferir con los derechos humanos, la democracia y el Estado de Derecho. De conformidad con el Estatuto del Consejo de Europa, las cuestiones relativas a la defensa nacional no entran en el ámbito de aplicación del Convenio.

Por otro lado, el Convenio establece un conjunto de obligaciones generales y principios fundamentales, incluida la protección de la dignidad humana y la autonomía individual, así como la promoción de la igualdad y la no discriminación. Además, exige el respeto de la privacidad y la protección de los datos personales, junto con la transparencia y la supervisión, para garantizar la rendición de cuentas y la responsabilidad. Un principio también se dedica a la innovación segura y a la experimentación en entornos controlados.

Un capítulo específico sobre las vías de recurso también prevé un conjunto de medidas destinadas a garantizar la disponibilidad de vías de recurso accesibles y eficaces para las violaciones de los derechos humanos derivadas de las actividades durante el ciclo de vida de los sistemas de IA. También incluye garantías procesales y salvaguardias efectivas para las personas cuyos derechos se hayan visto significativamente afectados por el uso de dichos sistemas. Además, debe informarse a las personas de que están interactuando con un sistema de IA y no con un ser humano.

El Convenio también incluye un capítulo sobre medidas para la evaluación y mitigación de los riesgos y efectos adversos, que deben aplicarse con continuidad, a fin de identificar los efectos reales y potenciales sobre los derechos humanos, la democracia y el Estado de Derecho y adoptar las medidas adecuadas de prevención y mitigación.

Además, el Convenio establece que las Partes deben evaluar la necesidad de prohibiciones o moratorias para determinadas aplicaciones de sistemas de IA considerados incompatibles con el respeto de los derechos humanos, el funcionamiento de la democracia o el Estado de Derecho.

El Convenio establece un mecanismo de seguimiento en el seno de una Conferencia de las Partes, compuesta por representantes de las Partes, que se consultarán periódicamente con el fin de facilitar el uso y la aplicación efectivos del Convenio. También prevé un mecanismo de cooperación internacional tanto entre las Partes como en las relaciones con terceros países y las partes interesadas pertinentes, a fin de alcanzar el objetivo del Convenio.

Además, cada Parte debe establecer o designar a nivel nacional uno o varios mecanismos eficaces para supervisar el cumplimiento de las obligaciones establecidas en el Convenio, tal como hayan sido aplicadas por las Partes.

•Coherencia con las disposiciones existentes en la misma política sectorial

El Convenio establece principios y obligaciones generales para la protección de los derechos humanos, la democracia y el Estado de Derecho que son plenamente coherentes y están en consonancia con los objetivos del Reglamento de Inteligencia Artificial y los requisitos detallados para los sistemas de IA y las obligaciones impuestas a los proveedores y los responsables del despliegue de dichos sistemas.

La definición de sistema de IA del Convenio se ajusta plenamente a la definición del Reglamento, ya que ambos se basan en la definición de dichos sistemas empleada en los principios de IA de la Organización de Cooperación y Desarrollo Económicos 7 , garantizando así una interpretación común de las tecnologías digitales que constituyen la IA.

Tanto el Convenio como el Reglamento de Inteligencia Artificial siguen asimismo un enfoque basado en el riesgo para la regulación de los sistemas de IA e incluyen disposiciones específicas para las evaluaciones de riesgos y de impacto y las medidas de mitigación de riesgos. El Reglamento de Inteligencia Artificial incluye, en particular, una serie de prohibiciones pertinentes y casos de uso de alto riesgo para los sistemas de IA en todos los sectores públicos y privados, también en el ámbito de la democracia y la justicia. Las normas y procedimientos detallados del Reglamento de Inteligencia Artificial para el desarrollo, la comercialización y el despliegue de sistemas de IA en esos ámbitos garantizarán así el respeto de los derechos fundamentales, la democracia y el Estado de Derecho a lo largo de todo el ciclo de vida de la IA.

El Convenio incluye principios y obligaciones ya cubiertos por el Reglamento de Inteligencia Artificial, como medidas para proteger los derechos humanos, la seguridad y la fiabilidad, la rendición de cuentas y la responsabilidad, la gobernanza y la protección de datos, la transparencia y la supervisión, la igualdad y la no discriminación, las capacidades y la alfabetización digitales.

La transparencia es otro elemento común de ambos instrumentos jurídicos, incluidas las medidas relativas a la identificación de contenidos generados por IA y la notificación de las personas que interactúan con sistemas de IA. Ambos instrumentos jurídicos también incluyen disposiciones pertinentes sobre las evaluaciones de riesgos e impacto y la gestión de riesgos, el mantenimiento de registros, la divulgación (a los organismos y autoridades autorizados y, en su caso, a las personas afectadas), la trazabilidad y legibilidad, la innovación segura y la experimentación en entornos controlados, así como un conjunto de medidas para permitir vías de recurso eficaces, incluido el derecho a solicitar y obtener información y reclamación ante una autoridad competente, y garantías procesales.

El sistema de supervisión previsto en el Convenio también es plenamente coherente con el sistema general de gobernanza y ejecución del Reglamento de Inteligencia Artificial, que consiste en la ejecución a escala nacional y de la Unión, con procedimientos para la aplicación coherente de las normas de la Unión en todos los Estados miembros. En particular, el Convenio prevé uno o varios mecanismos de supervisión eficaces a nivel nacional que deben ejercer sus funciones de manera independiente e imparcial y contar con las competencias, los conocimientos especializados y los recursos necesarios para cumplir eficazmente las tareas de supervisión del cumplimiento de las obligaciones establecidas en el Convenio, tal como hayan dado efecto las Partes.

Si bien el Reglamento de Inteligencia Artificial se aplicará a los sistemas de IA comercializados, puestos en servicio o utilizados en la Unión, el Convenio tiene un alcance geográfico más amplio que abarca a los miembros del Consejo de Europa y a terceros Estados de todo el mundo que pueden adherirse al Convenio. Así pues, el Convenio representa una oportunidad única para fomentar una IA fiable fuera de la Unión en un primer tratado internacional jurídicamente vinculante basado en un sólido enfoque de la regulación de la IA en materia de derechos humanos.

Tanto el Convenio como el Reglamento de Inteligencia Artificial son componentes integrales de un enfoque regulador de la IA, con compromisos coherentes y que se refuerzan mutuamente a múltiples niveles internacionales, y comparten el objetivo común de garantizar una IA fiable.

•Coherencia con otras políticas de la Unión

El Convenio también comparte objetivos comunes con otras políticas y legislación de la Unión destinadas a aplicar los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión 8 .

En particular, el principio de igualdad y no discriminación consagrado en el Convenio es plenamente coherente con la legislación de la Unión en materia de no discriminación y promoverá la integración de las consideraciones de igualdad en el diseño, el desarrollo y el uso de los sistemas de IA y la aplicación efectiva de la prohibición de la discriminación, tal como se establece en el Derecho internacional y nacional aplicable de las Partes.

Además, el Convenio es coherente con el acervo de la Unión en materia de protección de datos, incluido el Reglamento general de protección de datos 9 en relación con los derechos fundamentales a la intimidad y a la protección de datos personales, con garantías y salvaguardias efectivas para las personas, en consonancia con las obligaciones jurídicas nacionales e internacionales aplicables de las Partes.

Las medidas previstas en el Convenio destinadas a proteger los procesos democráticos de las Partes en el contexto de las actividades durante el ciclo de vida del sistema de IA son plenamente coherentes con los objetivos y las normas detalladas de la Ley de Servicios Digitales 10 , que regula la prestación de servicios intermediarios en la Unión con el fin de garantizar un entorno en línea seguro, predecible y fiable en el que se respeten los derechos fundamentales, incluido el derecho a la libertad de expresión y el derecho a recibir y comunicar información. También son coherentes con el Reglamento sobre la transparencia y la segmentación de la publicidad política 11 , el Código de Buenas Prácticas en materia de Desinformación 12 y las políticas de la Unión en el ámbito de la democracia y de unas elecciones libres, justas y resilientes 13 , incluido el Plan de Acción para la Democracia Europea de 2020 14 , el paquete sobre elecciones e integridad 15 y, recientemente, el paquete de defensa de la democracia de 2023 16 .

La propuesta también es coherente con la estrategia digital general de la Comisión en su contribución para promover una tecnología al servicio de las personas, uno de los tres pilares principales de las orientaciones políticas y los objetivos anunciados en la Comunicación titulada «Configurar el futuro digital de Europa» 17 . Su objetivo es garantizar que la IA se desarrolle respetando los derechos humanos y ganando la confianza de las personas, logrando una Europa adaptada a la era digital y convirtiendo los próximos diez años en el Decenio Digital 18 .

Además, la Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital 19 contiene varios derechos y principios digitales que están en consonancia con los objetivos y principios del Convenio, pues ambos instrumentos promueven un enfoque sólido de la tecnología basado en los derechos humanos.

El Convenio también es coherente con la Estrategia de la UE sobre los Derechos del Niño 20 y la Estrategia Europea para una Internet Mejor para los Niños (BIK +) 21 , cuyo objetivo es garantizar que los niños sean protegidos, respetados y capacitados en línea para hacer frente a los retos de los nuevos mundos virtuales y de la IA.

2.BASE JURÍDICA, SUBSIDIARIEDAD Y PROPORCIONALIDAD

•Base jurídica

La propuesta de Decisión por la que se autoriza la firma del Convenio en nombre de la Unión se presenta al Consejo de conformidad con el artículo 218, apartado 5, del TFUE.

La base jurídica sustantiva de una decisión con arreglo al artículo 218, apartado 5, del TFUE depende en primera instancia del objetivo y el contenido del acuerdo. Con arreglo a la jurisprudencia, si el examen de una medida de la UE indica que esta persigue un doble objetivo o que tiene un componente doble, y si uno de dichos objetivos o componentes puede calificarse de principal o preponderante mientras que el otro solo es accesorio, la medida debe fundarse en una sola base jurídica, a saber, aquella que exija el objetivo o componente principal o preponderante.

Por lo que se refiere a la base jurídica sustantiva, el ámbito de aplicación material del Convenio coincide con el del Reglamento de Inteligencia Artificial 22 , también en relación con la exención del ámbito de aplicación a efectos de la investigación y el desarrollo, la seguridad nacional y las actividades de defensa. Los principios y obligaciones del Convenio coinciden con los requisitos más detallados aplicables a los sistemas de IA y las obligaciones específicas de los proveedores y responsables del despliegue de dichos sistemas en virtud del Reglamento de Inteligencia Artificial y de otra legislación pertinente de la Unión. Si el Consejo adopta la decisión propuesta y la Unión firma el Convenio, el Reglamento de Inteligencia Artificial constituirá la legislación primaria de la Unión para aplicar el Convenio en el ordenamiento jurídico de la Unión con normas plenamente armonizadas sobre la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión que sean directamente aplicables en todos los Estados miembros, a menos que el Reglamento disponga expresamente otra cosa 23 .

Teniendo en cuenta que el ámbito de aplicación y los objetivos del Convenio están en consonancia y son plenamente coherentes con los del Reglamento, y que el ámbito de aplicación personal y material de ambos instrumentos jurídicos coincide, la base jurídica sustantiva para la celebración del Convenio es el artículo 114 del TFUE, que es la base jurídica principal del Reglamento de Inteligencia Artificial.

La naturaleza de los acuerdos internacionales («exclusivamente de la UE» o «mixtos») está supeditada a la compatibilidad del objeto específico con las competencias de la Unión.

El artículo 3, apartado 2, del TFUE establece que la Unión dispone de competencia exclusiva «para la celebración de un acuerdo internacional [...] en la medida en que pueda afectar a normas comunes o alterar su alcance». Un acuerdo internacional puede afectar a normas comunes o alterar su alcance cuando el ámbito cubierto por el acuerdo esté cubierto en gran medida por el Derecho de la Unión 24 .

El ámbito de aplicación personal del Convenio se ajusta plenamente al Reglamento de Inteligencia Artificial, ya que ambos instrumentos jurídicos abarcan, en principio, tanto a los agentes públicos como a los privados (con la aplicación facultativa de los principios y las obligaciones del Convenio a agentes privados distintos de los que actúan en nombre de las autoridades públicas), mientras que el ámbito de aplicación material de ambos instrumentos jurídicos excluye de las normas aplicables las actividades de IA relacionadas con la seguridad nacional, la defensa y la investigación.

Teniendo en cuenta que el ámbito de aplicación personal y material del Convenio coincide con el del Reglamento de Inteligencia Artificial, la celebración del Convenio puede afectar a normas comunes de la Unión o alterar su ámbito de aplicación en el sentido del artículo 3, apartado 2, del TFUE. Por consiguiente, debe considerarse que la Unión goza de competencia externa exclusiva para celebrar el Convenio y el Convenio debe firmarse en nombre de la Unión como acuerdo «exclusivamente de la UE», a reserva de su celebración en una fecha posterior.

•Proporcionalidad

El Convenio no va más allá de lo necesario para alcanzar los objetivos políticos, desarrollando un enfoque coherente de la regulación de la IA a escala internacional.

El Convenio establece un marco jurídico de alto nivel para la IA que permite flexibilidad, permitiendo a las Partes diseñar concretamente los marcos de aplicación. El enfoque basado en el riesgo también garantiza la proporcionalidad de las normas y permite diferenciar las medidas de aplicación proporcionalmente a los riesgos, de manera similar al Reglamento de Inteligencia Artificial.

•Elección del instrumento

El instrumento elegido es una propuesta de Decisión del Consejo con arreglo al artículo 218, apartado 5, del TFUE.

3.RESULTADOS DE LAS EVALUACIONES A POSTERIORI, LAS CONSULTAS CON LAS PARTES INTERESADAS Y LAS EVALUACIONES DE IMPACTO

•Evaluaciones a posteriori y controles de la adecuación de la legislación existente

No procede.

•Consultas con las partes interesadas

La Comisión no ha llevado a cabo una consulta específica de las partes interesadas sobre esta propuesta.

La elaboración del Convenio fue un esfuerzo colaborativo del Comité de Inteligencia Artificial del Consejo de Europa, en el que participaron los 46 Estados miembros del Consejo de Europa, así como Estados observadores, entre ellos Canadá, Japón, México, el Vaticano, Estados Unidos y la Unión Europea. Además, participaron otros Estados no miembros, entre ellos Australia, Argentina, Costa Rica, Israel, Perú y Uruguay.

De conformidad con el compromiso del Consejo de Europa de colaborar con diversas partes interesadas, el desarrollo del Convenio también contó con aportaciones de 68 representantes internacionales de la sociedad civil, el mundo académico, la industria y otras organizaciones internacionales, garantizando un enfoque general e inclusivo. El desarrollo del Convenio también implicó la colaboración con otras organizaciones internacionales, entre ellas la Organización para la Seguridad y la Cooperación en Europa (OSCE), la Organización de Cooperación y Desarrollo Económicos (OCDE) y la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO). Además, los órganos y comités pertinentes del Consejo de Europa contribuyeron al proceso. La participación de la Unión fue liderada por la Comisión Europea. También estuvieron presentes en calidad de observadores representantes de la Agencia de los Derechos Fundamentales de la Unión Europea y del Supervisor Europeo de Protección de Datos.

•Obtención y uso de asesoramiento especializado

Las posiciones de negociación de la Unión para el Convenio se han elaborado en consulta con un comité especial designado por el Consejo (el Grupo «Telecomunicaciones y Sociedad de la Información» del Consejo).

•Evaluación de impacto

No procede.

•Adecuación regulatoria y simplificación

No procede.

•Derechos fundamentales

El Convenio tiene por objeto abordar los posibles riesgos y perjuicios para los derechos humanos garantizando que las actividades durante el ciclo de vida de los sistemas de IA se ajusten a los principios de respeto de los derechos humanos, la democracia y el Estado de Derecho, reconociendo al mismo tiempo el potencial de la IA para proteger y facilitar el ejercicio de esos derechos en el entorno digital y mejorar el bienestar social y medioambiental y el progreso tecnológico.

Los principios y obligaciones concretos previstos en el Convenio tienen por objeto proteger y respetar los derechos humanos, consagrados en múltiples instrumentos internacionales y regionales 25 , aplicables a las Partes, incluida la Carta de los Derechos Fundamentales de la Unión y los instrumentos internacionales sobre derechos humanos que la Unión ha celebrado.

Así pues, el Convenio establece un nivel mínimo común para la protección de los derechos humanos en el contexto de la IA, salvaguardando al mismo tiempo la protección existente de los derechos humanos y permitiendo a las Partes ofrecer una protección más amplia con salvaguardias más estrictas.

4.REPERCUSIONES PRESUPUESTARIAS

El Convenio prevé contribuciones financieras de Estados no miembros a las actividades de la Conferencia de las Partes. Si bien todos los miembros del Consejo de Europa contribuirán a través del presupuesto ordinario de dicho Consejo de conformidad con el Estatuto del Consejo de Europa, las Partes que no sean miembros realizarán contribuciones extrapresupuestarias. La contribución de un no miembro del Consejo de Europa será establecida conjuntamente por el Comité de Ministros y el no miembro.

El Convenio no interfiere con las leyes y reglamentos internos de las Partes que regulan las competencias presupuestarias y los procedimientos para los créditos presupuestarios. También permite a los Estados no miembros realizar sus contribuciones dentro de los límites presupuestarios aprobados fijados por su rama legislativa, sin perjuicio de los acuerdos previos.

5.OTROS ELEMENTOS

•Planes de ejecución y modalidades de seguimiento, evaluación e información

La Conferencia de las Partes, compuesta por representantes de las Partes, supervisará el cumplimiento efectivo de los objetivos del Convenio y su aplicación por las Partes.

Cada Parte deberá presentar un informe a la Conferencia de las Partes prevista en los dos primeros años siguientes a la adhesión y posteriormente a intervalos regulares, en el que se detallen las medidas adoptadas para aplicar el Convenio.

Se anima además a las Partes a cooperar en el cumplimiento de los objetivos del Convenio. Esta cooperación internacional puede incluir el intercambio de información pertinente sobre la IA y su potencial para afectar negativamente o positivamente a los derechos humanos, la democracia y el Estado de Derecho.

Para garantizar un seguimiento y una aplicación eficaces, cada Parte deberá designar uno o varios mecanismos de supervisión eficaces a nivel nacional.

2024/0150 (NLE)

Propuesta de

DECISIÓN DEL CONSEJO

relativa a la firma, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho

EL CONSEJO DE LA UNIÓN EUROPEA,

Visto el Tratado de Funcionamiento de la Unión Europea, y en particular su artículo 114, en relación con su artículo 218, apartado 5,

Vista la propuesta de la Comisión Europea,

Considerando lo siguiente:

(1)El 21 de noviembre de 2022, el Consejo autorizó a la Comisión a entablar negociaciones en nombre de la Unión para un Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (en lo sucesivo, «Convenio»). La Comisión Europea negoció el Convenio en nombre de la Unión. El 17 de mayo de 2024, las negociaciones concluyeron con éxito con la rúbrica del Convenio y su adopción por el Comité de Ministros del Consejo de Europa 26 .

(2)El Convenio establece los principios generales y las obligaciones que las Partes en el Convenio deben cumplir para garantizar la protección de los derechos humanos, la democracia y el Estado de Derecho en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial (IA).

(3)El 12 de junio de 2024, la Unión adoptó el Reglamento (UE) 2024/... (en lo sucesivo, «Reglamento de Inteligencia Artificial») 27 , principalmente sobre la base del artículo 114 del TFUE, que establece normas plenamente armonizadas que regulan la comercialización, la puesta en servicio y la utilización de sistemas de IA en la Unión que sean directamente aplicables en los Estados miembros, a menos que el Reglamento disponga expresamente otra cosa. El Convenio debe aplicarse en la Unión exclusivamente a través del Reglamento sobre IA y de otro acervo pertinente de la Unión, cuando proceda.

(4)Teniendo en cuenta que el ámbito de aplicación personal y material del Convenio coincide con el del Reglamento de Inteligencia Artificial, la celebración del Convenio puede afectar a normas comunes de la Unión o alterar su ámbito de aplicación en el sentido del artículo 3, apartado 2, del TFUE. Por consiguiente, la Unión goza de competencia externa exclusiva para firmar el Convenio y, por ello, solo la Unión debe convertirse en Parte en el Convenio, a reserva de su celebración en una fecha posterior.

(5)De conformidad con los Tratados, corresponde a la Comisión Europea garantizar la firma del Convenio, a reserva de su celebración en una fecha posterior.

HA ADOPTADO LA PRESENTE DECISIÓN:

Artículo 1

Se aprueba, en nombre de la Unión, la firma del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (en lo sucesivo, «el Convenio»), a reserva de la celebración de dicho Convenio.

El texto del Convenio que debe firmarse se adjunta a la presente Decisión.

Artículo 2

La presente Decisión entrará en vigor el .

Hecho en Bruselas, el

   Por el Consejo

   El Presidente

(1)     Reglamento (UE) 2024/... DEL PARLAMENTO EUROPEO Y DEL CONSEJO por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican los Reglamentos (CE) n.º 300/2008, (UE) n.º 167/2013, (UE) n.º 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial), DO 2024, L...
(2)    Reglamento de Inteligencia Artificial, considerandos 1 y 8.
(3)     Decisión relativa a los trabajos del CAI en el 132.º período de sesiones del Comité de Ministros - Seguimiento, CM/Inf (2022) 20, DD (2022) 245 .
(4)    Sentencia del Tribunal de Justicia de 20 de noviembre de 2018, asuntos acumulados C-626/15 y C-659/16, Comisión/Consejo (ZMP en la Antártida), ECLI:EU:C:2018:925, apartado 112.
(5)     Decisión (UE) 2022/2349 del Consejo de 21 de noviembre de 2022 por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho , DO L 311 de 2.12.2022, p.   138.
(6)    CM/Del/Dec(2024)133/4.
(7)    La definición de «sistema de IA» de la OCDE se actualizó el 8 de noviembre de 2023 [C(2023) 151 y C/M (2023) 14, punto 218] con el fin de garantizar que siga siendo técnicamente precisa y refleje los avances tecnológicos, también con respecto a la IA generativa.
(8)

   Carta de los Derechos Fundamentales de la Unión Europea, DO C 326 de 26.10.2012, p. 391.

(9)    Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos), DO L 119 de 4.5.2016, p. 1.
(10)    Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Reglamento de Servicios Digitales), DO L 277 de 27.10.2022, p. 1.
(11)    Reglamento (UE) 2024/900 del Parlamento Europeo y del Consejo, de 13 de marzo de 2024, sobre transparencia y segmentación en la publicidad política, PE/90/2023/REV/1, DO L, 2024/900, 20.3.2024.
(12)     https://disinfocode.es/introduccion-al-codigo/
(13)     Protección de la democracia - Comisión Europea (europa.eu).
(14)     https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_es
(15)     https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en
(16)    Comunicación de la Comisión sobre la Defensa de la Democracia, COM/2023/630 final.
(17)    Comunicación de la Comisión: Configurar el futuro digital de Europa, COM/2020/67 final.
(18)    Comunicación de la Comisión, Brújula Digital 2030: el enfoque de Europa para el Decenio Digital, COM/2021/118 final.
(19)     Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital, COM(2022) 28 final.
(20)    Comunicación de la Comisión: Estrategia de la UE sobre los Derechos del Niño, COM/2021/142 final.
(21)    Comunicación de la Comisión titulada: Una década digital para los niños y los jóvenes: la nueva estrategia europea para una internet mejor para los niños (BIK+), COM/2022/212 final.
(22)    Adoptado por el Consejo el 21 de mayo de 2024 y cuya publicación está prevista en el Diario Oficial en julio de 2024.
(23)    Véanse el artículo 1 y el considerando 1 del Reglamento de Inteligencia Artificial.
(24)    Por ejemplo, asunto C‑114/12, Comisión/Consejo (Derechos de los organismos de radiodifusión afines a los derechos de autor), ECLI:EU:C:2014:2151, apartados 68 y 69; dictamen 1/13 Adhesión de Estados terceros al Convenio de La Haya, EU:C:2014:2303, apartados 71-74; asunto C‑66/13, Green Network, ECLI:EU:C:2014:2399, apartados 27-33; dictamen 3/15, Tratado de Marrakech para facilitar el acceso a las obras publicadas a las personas ciegas, con discapacidad visual o con otras dificultades para acceder al texto impreso, ECLI:EU:C:2017:114, apartados 105-108.
(25)    Como la Declaración Universal de Derechos Humanos de 1948; el Convenio para la Protección de los Derechos Humanos y de las Libertades Fundamentales de 1950 (ETS n.º 5); el Pacto Internacional de Derechos Civiles y Políticos de 1966; el Pacto Internacional de Derechos Económicos, Sociales y Culturales de 1961; la Carta Social Europea de 1966 (ETS n.º 35), así como sus respectivos protocolos; y la Carta Social Europea de 1996 (revisada) (ETS n.º 163), la Convención de las Naciones Unidas sobre los Derechos del Niño de 1989 y la Convención de las Naciones Unidas sobre los Derechos de las Personas con Discapacidad de 2006.
(26)    Decisión (UE) 2022/2349 del Consejo de 21 de noviembre de 2022 por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho , DO L 311 de 2.12.2022, p.   138.
(27)    Reglamento (UE) 2024/... del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican los Reglamentos (CE) n.º 300/2008, (UE) n.º 167/2013, (UE) n.º 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial), DO 2024, L...