EUROPÄISCHE KOMMISSION
Brüssel, den 26.6.2024
COM(2024) 264 final
2024/0150(NLE)
Vorschlag für einen
BESCHLUSS DES RATES
über die Unterzeichnung – im Namen der Europäischen Union – des Rahmenübereinkommens des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit
BEGRÜNDUNG
1.KONTEXT DES VORSCHLAGS
•Gründe und Ziele des Vorschlags
Künstliche Intelligenz (KI) bietet großartige Chancen, jedoch können durch bestimmte Anwendungen und Nutzungsweisen auch die individuellen Grundrechte und andere öffentliche Interessen beeinträchtigt und gefährdet werden.
Mit der Verordnung (EU) 2024/[…] des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (im Folgenden „KI-Verordnung“) hat die Union die ersten umfassenden Rechtsvorschriften für KI erlassen, mit der sie weltweite Standards setzt. Die KI-Verordnung wurde am 12. Juni 2024 angenommen und wird innerhalb von 20 Tagen nach ihrer Veröffentlichung im Amtsblatt in Kraft treten. Mit der KI-Verordnung werden die Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in den Mitgliedstaaten vollständig harmonisiert, um die Innovation und die Einführung vertrauenswürdiger KI zu fördern und gleichzeitig den Schutz der Gesundheit, Sicherheit und Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umwelt, zu gewährleisten.
Verschiedene internationale Organisationen, darunter auch der Europarat, haben ihre Bemühungen zur Regulierung der KI ebenfalls verstärkt, weil sie sich des grenzüberschreitenden Charakters der KI und der Notwendigkeit einer internationalen Zusammenarbeit zur Bewältigung der gemeinsamen Herausforderungen, die aus diesen Technologien erwachsen, bewusst sind.
Seit Juni 2022 hat der Ausschuss für künstliche Intelligenz (CAI) des Europarats ein rechtsverbindliches Rahmenübereinkommen (im Folgenden „Übereinkommen“) ausgearbeitet, um den potenziellen Risiken zu begegnen, die KI für die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit birgt. Die Union hat das Übereinkommen auf der Grundlage des Artikels 216 Absatz 1 vierte Alternative AEUV ausgehandelt, wonach die Union eine internationale Übereinkunft aushandeln und schließen kann, wenn dies „gemeinsame Vorschriften beeinträchtigen oder deren Anwendungsbereich ändern könnte“. Die Europäische Kommission hat die Union bei den Verhandlungen über das Übereinkommen gemäß Artikel 218 Absatz 3 des Vertrags über die Arbeitsweise der Europäischen Union (AEUV) und auf der Grundlage eines Beschlusses des Rates über die Ermächtigung zur Aufnahme von Verhandlungen im Namen der Europäischen Union vertreten.
Die Union nahm aktiv an den Verhandlungen teil und verfolgte dabei das Ziel, die Vereinbarkeit des Übereinkommens mit dem Unionsrecht, die Kohärenz mit der KI-Verordnung sowie die Qualität und den Mehrwert des Übereinkommens als erster internationaler Vertrag über KI sicherzustellen. In dieser Hinsicht ist auch die internationale Reichweite des Übereinkommens ein Ziel der Union.
Nach mehreren Verhandlungsrunden billigte der CAI den Wortlaut des Übereinkommens auf seiner 10. Plenarsitzung, die vom 11. bis 14. März 2024 stattfand. Am 17. Mai 2024 nahm das Ministerkomitee des Europarats das Übereinkommen an, kam darin überein, es am 5. September 2024 anlässlich einer informellen Konferenz der Justizminister in Vilnius (Litauen) zur Unterzeichnung aufzulegen, und ersuchte die Mitglieder des Europarats, andere Drittländer, die sich an der Ausarbeitung des Übereinkommens beteiligt haben, und die Union, die Unterzeichnung des Übereinkommens bei dieser Gelegenheit in Erwägung zu ziehen, wobei es daran erinnerte, dass das Übereinkommen auch für andere Nichtmitgliedstaaten zum Beitritt offensteht.
In diesem Zusammenhang soll mit dem vorliegenden Vorschlag das Verfahren für die Unterzeichnung des Übereinkommens durch die Union im Hinblick auf eine anschließende Ratifizierung eingeleitet und dem Rat vorgeschlagen werden, einen Beschluss anzunehmen, mit dem er die Union gemäß Artikel 218 Absatz 5 AEUV zur Unterzeichnung des Übereinkommens ermächtigt. Das Übereinkommen ist voll und ganz mit dem Unionsrecht im Allgemeinen und der KI-Verordnung im Besonderen vereinbar und wird wichtige Konzepte aus dem Unionsansatz für die KI-Regulierung weltweit unter den anderen Mitgliedern des Europarats und wichtigen internationalen Partnern, die Vertragsparteien des Übereinkommens werden können, voranbringen.
Inhalt des Übereinkommens
Das Ziel des Übereinkommens besteht darin, dafür zu sorgen, dass alle Tätigkeiten im Lebenszyklus von KI-Systemen uneingeschränkt mit den Menschenrechten, der Demokratie und der Rechtsstaatlichkeit vereinbar sind.
Die Vertragsparteien des Übereinkommens werden das Übereinkommen durch geeignete Rechts-, Verwaltungs- oder sonstige Maßnahmen umzusetzen haben, um seinen Bestimmungen Wirkung zu verleihen, und zwar nach einem abgestuften und differenzierten Ansatz je nach Schwere und Wahrscheinlichkeit der negativen Auswirkungen. Das Übereinkommen sollte in der Union ausschließlich durch die KI-Verordnung, mit der die Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen harmonisiert werden, und gegebenenfalls durch anderes einschlägiges Unionsrecht vollständig umgesetzt werden.
Der Anwendungsbereich des Übereinkommens erstreckt sich auf KI-Systeme, die möglicherweise in die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit eingreifen, wobei ein differenzierter Ansatz verfolgt wird. Die im Übereinkommen vorgesehenen Grundsätze und Verpflichtungen werden für Tätigkeiten im Lebenszyklus von KI-Systemen gelten, die von Behörden oder in deren Namen handelnden privaten Akteuren durchgeführt werden. Was den Privatsektor anbelangt, sind die Vertragsparteien verpflichtet, Risiken und Auswirkungen, die sich aus Tätigkeiten privater Akteure im Lebenszyklus von KI-Systemen ergeben, in einer Weise anzugehen, die mit dem Ziel und Zweck des Übereinkommens im Einklang steht, haben jedoch die Wahl, ob sie dazu die Verpflichtungen des Übereinkommens anwenden oder andere geeignete Maßnahmen ergreifen. Die Vertragsparteien werden bei der Unterzeichnung des Übereinkommens oder beim Beitritt zu dem Übereinkommen eine Erklärung darüber abgeben müssen, welche Wahl sie in dieser Hinsicht treffen. Die Union sollte beim Abschluss des Übereinkommens eine Erklärung abgeben, die besagt, dass die Union die in den Kapiteln II bis VI des Übereinkommens festgelegten Grundsätze und Verpflichtungen in Bezug auf Tätigkeiten privater Akteure, die KI-Systeme in der Union in Verkehr bringen, in Betrieb nehmen und verwenden, durch die KI-Verordnung und anderes einschlägiges Unionsrecht umsetzen wird.
KI-Tätigkeiten im Zusammenhang mit der nationalen Sicherheit sind aus dem Anwendungsbereich des Übereinkommens ausgeschlossen, wobei aber davon ausgegangen wird, dass diese Tätigkeiten im Einklang mit den geltenden internationalen Menschenrechtsnormen und unter Achtung der demokratischen Institutionen und Prozesse durchgeführt werden. Das Übereinkommen schließt auch Forschungs- und Entwicklungstätigkeiten in Bezug auf noch nicht zur Verwendung bereitgestellte KI-Systeme aus, es sei denn, durch solche Tests oder ähnliche Tätigkeiten kann in die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit eingegriffen werden. Nach der Satzung des Europarats fallen Angelegenheiten im Zusammenhang mit der Landesverteidigung nicht in den Anwendungsbereich des Übereinkommens.
Das Übereinkommen sieht ferner eine Reihe allgemeiner Verpflichtungen und Grundprinzipien vor, darunter den Schutz der Menschenwürde und der individuellen Autonomie sowie die Förderung der Gleichstellung und Nichtdiskriminierung. Überdies schreibt es die Achtung der Privatsphäre und den Schutz personenbezogener Daten ebenso vor wie Transparenz und Aufsicht, um die Rechenschaftspflicht und Verantwortung zu gewährleisten. Einer der Grundsätze gilt auch der sicheren Innovation und Erprobung in kontrollierten Umgebungen.
In einem eigenen Kapitel über Rechtsbehelfe sieht das Übereinkommen zudem eine Reihe von Maßnahmen vor, mit denen sichergestellt werden soll, dass bei Menschenrechtsverletzungen, die sich aus Tätigkeiten im Lebenszyklus von KI-Systemen ergeben, leicht zugängliche und wirksame Rechtsbehelfe zur Verfügung stehen. Es enthält auch wirksame Verfahrensgarantien und Schutzvorkehrungen für Personen, deren Rechte durch den Einsatz von KI-Systemen erheblich beeinträchtigt worden sind. Darüber hinaus sollten Einzelpersonen darauf hingewiesen werden, dass sie es mit einem KI-System und nicht mit einem Menschen zu tun haben.
Das Übereinkommen enthält auch ein Kapitel über Maßnahmen zur Bewertung und Minderung von Risiken und negativen Auswirkungen, die auf iterative Weise durchzuführen sind, um tatsächliche und potenzielle Auswirkungen auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit zu ermitteln und geeignete Präventions- und Minderungsmaßnahmen zu ergreifen.
Darüber hinaus sieht das Übereinkommen vor, dass die Vertragsparteien prüfen sollten, ob Verbote oder Moratorien für bestimmte Anwendungen von KI-Systemen nötig sind, die als mit der Achtung der Menschenrechte, dem Funktionieren der Demokratie oder der Rechtsstaatlichkeit unvereinbar angesehen werden.
Das Übereinkommen sieht einen Weiterverfolgungsmechanismus im Rahmen einer Konferenz der Vertragsparteien vor, die sich aus Vertretern der Vertragsparteien zusammensetzt und regelmäßig Konsultationen abhält, um die wirksame Anwendung und Umsetzung des Übereinkommens zu erleichtern. Außerdem sieht es einen Mechanismus für die internationale Zusammenarbeit sowohl zwischen den Vertragsparteien des Übereinkommens als auch in den Beziehungen zu Drittländern und einschlägigen Interessenträgern vor, um den Zweck des Übereinkommens zu erreichen.
Darüber hinaus sollte jede Vertragspartei auf innerstaatlicher Ebene einen oder mehrere wirksame Aufsichtsmechanismen einrichten oder benennen, um die Einhaltung der Verpflichtungen aus dem Übereinkommen, wie sie von den Vertragsparteien in Kraft gesetzt wurden, zu beaufsichtigen.
•Kohärenz mit den bestehenden Vorschriften in diesem Politikbereich
In dem Übereinkommen werden allgemeine Grundsätze und Verpflichtungen zum Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit festgelegt, die vollständig im Einklang stehen mit den Zielen der KI-Verordnung, den detaillierten Anforderungen an KI-Systeme und den Verpflichtungen, die Anbietern und Betreibern solcher Systeme auferlegt werden.
Die im Übereinkommen festgelegte Begriffsbestimmung für „System der künstlichen Intelligenz“ steht vollständig im Einklang mit der Begriffsbestimmung in der KI-Verordnung, denn beide beruhen auf der Begriffsbestimmung für solche Systeme, die in den KI-Grundsätzen der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung enthalten ist, wodurch ein gemeinsames Verständnis dafür sichergestellt wird, welche digitalen Technologien KI darstellen.
Sowohl das Übereinkommen als auch die KI-Verordnung folgen einem risikobasierten Ansatz für die Regulierung von KI-Systemen und enthalten besondere Bestimmungen über Risiko- und Folgenabschätzungen sowie Risikominderungsmaßnahmen. Die KI-Verordnung enthält insbesondere eine Reihe einschlägiger Verbote und Hochrisiko-Anwendungsfälle für KI-Systeme in allen öffentlichen und privaten Sektoren, auch in den Bereichen Demokratie und Justiz. Die detaillierten Vorschriften und Verfahren der KI-Verordnung in Bezug auf die Entwicklung, das Inverkehrbringen und den Einsatz von KI-Systemen in diesen Bereichen werden somit sicherstellen, dass Grundrechte, Demokratie und Rechtsstaatlichkeit über den gesamten KI-Lebenszyklus hinweg geachtet werden.
Das Übereinkommen enthält Grundsätze und Verpflichtungen, die bereits in der KI-Verordnung enthalten sind, beispielsweise Maßnahmen in Bezug auf den Schutz der Menschenrechte, die Sicherheit und Zuverlässigkeit, die Rechenschaftspflicht und Verantwortung, die Daten-Governance und den Datenschutz, die Transparenz und Aufsicht, die Gleichstellung und Nichtdiskriminierung sowie digitale Kompetenzen und Fähigkeiten.
Die Transparenz ist ein weiteres gemeinsames Element beider Rechtsinstrumente, was auch Maßnahmen zur Identifizierung der durch KI erzeugten Inhalte und die Benachrichtigung von Personen, die mit KI-Systemen interagieren, einschließt. Ebenso enthalten beide Rechtsinstrumente einschlägige Bestimmungen über Risiko- und Folgenabschätzungen und das Risikomanagement, Aufzeichnungspflichten, die Offenlegung (gegenüber befugten Stellen und Behörden und gegebenenfalls gegenüber den Betroffenen), die Rückverfolgbarkeit und Erklärbarkeit, eine sichere Innovation und Erprobung in kontrollierten Umgebungen sowie eine Reihe von Maßnahmen, die wirksame Rechtsbehelfe ermöglichen, einschließlich des Rechts, Informationen anzufordern und zu erhalten und bei einer zuständigen Behörde Beschwerde einzulegen, sowie bestimmte Verfahrensgarantien.
Das im Übereinkommen vorgesehene Aufsichtssystem steht ebenfalls vollständig im Einklang mit dem umfassenden Governance- und Durchsetzungssystem der KI-Verordnung, das aus einer Durchsetzung auf Unionsebene und auf nationaler Ebene besteht und Verfahren für die einheitliche Umsetzung der Unionsvorschriften in den Mitgliedstaaten umfasst. Insbesondere sieht das Übereinkommen einen oder mehrere wirksame Aufsichtsmechanismen auf innerstaatlicher Ebene vor, die unabhängig und unparteiisch tätig sein und über die erforderlichen Befugnisse, Fachkenntnisse und Ressourcen verfügen müssen, um die Aufgaben der Beaufsichtigung der Einhaltung der Verpflichtungen aus dem Übereinkommen, wie sie von den Vertragsparteien in Kraft gesetzt wurden, wirksam zu erfüllen.
Die KI-Verordnung wird für KI-Systeme gelten, die in der Union in Verkehr gebracht, in Betrieb genommen oder verwendet werden; das Übereinkommen hat dagegen eine größere geografische Reichweite, denn Vertragspartei können die Mitglieder des Europarats und Drittstaaten aus der ganzen Welt werden. Das Übereinkommen bietet somit eine einzigartige Gelegenheit, vertrauenswürdige KI über die Union hinaus mit einem ersten rechtsverbindlichen internationalen Vertrag zu fördern, der auf einem eindeutig menschenrechtsbasierten Ansatz für die KI-Regulierung beruht.
Sowohl das Übereinkommen als auch die KI-Verordnung sind feste Bestandteile eines Regulierungskonzepts für KI mit kohärenten und sich gegenseitig verstärkenden Verpflichtungen auf mehreren internationalen Ebenen, und sie dienen dem gemeinsamen Ziel, eine vertrauenswürdige KI zu gewährleisten.
•Kohärenz mit der Politik der Union in anderen Bereichen
Das Übereinkommen hat auch gemeinsame Ziele mit anderen Politikbereichen und Rechtsvorschriften der Union, mit denen die in der Charta der Grundrechte der Union verankerten Grundrechte umgesetzt werden sollen.
Insbesondere steht der im Übereinkommen verankerte Grundsatz der Gleichstellung und Nichtdiskriminierung voll und ganz mit den Nichtdiskriminierungsvorschriften der Union im Einklang und wird die Berücksichtigung der Gleichstellungsaspekte bei der Konzeption, Entwicklung und Verwendung von KI-Systemen und die wirksame Umsetzung des Diskriminierungsverbots gemäß dem geltenden Völkerrecht und dem innerstaatlichen Recht der Vertragsparteien fördern.
Darüber hinaus steht das Übereinkommen mit dem bestehenden Unionsrecht im Bereich des Datenschutzes im Einklang, darunter der Datenschutz-Grundverordnung, und zwar bezüglich der Grundrechte auf Achtung der Privatsphäre und Schutz personenbezogener Daten durch wirksame Garantien und Schutzvorkehrungen, die für Einzelpersonen entsprechend den geltenden innerstaatlichen und völkerrechtlichen Verpflichtungen der Vertragsparteien bestehen müssen.
Die im Übereinkommen vorgesehenen Maßnahmen zum Schutz der demokratischen Prozesse der Vertragsparteien im Zusammenhang mit Tätigkeiten im Lebenszyklus von KI-Systemen stehen voll und ganz im Einklang mit den Zielen und den detaillierten Vorschriften des Gesetzes über digitale Dienste, das die Erbringung von Vermittlungsdiensten in der Union regelt, um ein sicheres, berechenbares und vertrauenswürdiges Online-Umfeld zu gewährleisten, in dem die Grundrechte, einschließlich des Rechts auf freie Meinungsäußerung und des Rechts, Informationen zu erhalten und weiterzugeben, geachtet werden. Sie stehen auch im Einklang mit der Verordnung über die Transparenz und das Targeting politischer Werbung, dem Verhaltenskodex zur Bekämpfung von Desinformation und der Politik der Union zugunsten der Demokratie und freier, fairer und stabiler Wahlen, die u. a. den Europäischen Aktionsplan für Demokratie von 2020, das Paket zum Schutz der Integrität von Wahlen und jüngst das Paket zur Verteidigung der Demokratie von 2023 umfasst.
Das Übereinkommen steht im Einklang mit der Digitalstrategie der Union insgesamt, denn es trägt dazu bei, eine Technologie zu fördern, die den Menschen zugutekommt – eines der drei Hauptziele, die in der Mitteilung zur „Gestaltung der digitalen Zukunft Europas“ genannt werden. Damit soll erreicht werden, dass KI so entwickelt wird, dass die Rechte der Menschen geachtet werden und sie sich ihr Vertrauen verdient – um Europa für das digitale Zeitalter zu wappnen und die nächsten zehn Jahre zur digitalen Dekade zu machen.
Darüber hinaus enthält die Europäische Erklärung zu den digitalen Rechten und Grundsätzen für die digitale Dekade mehrere digitale Rechte und Grundsätze, die mit den Zielen und Grundsätzen des Übereinkommens im Einklang stehen, und beide Rechtsinstrumente fördern einen eindeutig menschenrechtsbasierten Ansatz für den Umgang mit Technologie.
Das Übereinkommen steht auch im Einklang mit der EU-Kinderrechtsstrategie und der europäischen Strategie für ein besseres Internet für Kinder (BIK+), mit denen erreicht werden soll, dass Kinder im Internet geschützt, geachtet und dazu befähigt werden, den Herausforderungen im Zusammenhang mit neuen virtuellen Welten und künstlicher Intelligenz zu begegnen.
2.RECHTSGRUNDLAGE, SUBSIDIARITÄT UND VERHÄLTNISMÄẞIGKEIT
•Rechtsgrundlage
Der Vorschlag für einen Beschluss zur Genehmigung der Unterzeichnung des Übereinkommens im Namen der Union wird dem Rat gemäß Artikel 218 Absatz 5 AEUV vorgelegt.
Die materielle Rechtsgrundlage für einen Beschluss nach Artikel 218 Absatz 5 AEUV hängt in erster Linie vom Ziel und Inhalt des Übereinkommens ab. Ergibt die Prüfung einer Unionsmaßnahme, dass sie zwei Zielsetzungen hat oder zwei Komponenten umfasst, und lässt sich eine von ihnen als die hauptsächliche oder überwiegende ausmachen, während die andere nur nebensächliche Bedeutung hat, so ist – nach geltender Rechtsprechung – die Maßnahme nur auf eine Rechtsgrundlage zu stützen, und zwar auf die, die die hauptsächliche oder überwiegende Zielsetzung oder Komponente erfordert.
Was die materielle Rechtsgrundlage betrifft, stimmt der sachliche Anwendungsbereich des Übereinkommens mit dem Anwendungsbereich der KI-Verordnung überein, auch bezüglich der Ausnahme vom Anwendungsbereich für Tätigkeiten in den Bereichen Forschung und Entwicklung, nationale Sicherheit und Verteidigung. Die in dem Übereinkommen vorgesehenen Grundsätze und Verpflichtungen stimmen mit den detaillierteren Anforderungen an KI-Systeme und den besonderen Verpflichtungen der Anbieter und Betreiber solcher Systeme gemäß der KI-Verordnung und anderen einschlägigen Rechtsvorschriften der Union überein. Wenn der Rat den vorgeschlagenen Beschluss annimmt und die Union das Übereinkommen unterzeichnet, wird die KI-Verordnung die primäre Rechtsvorschrift der Union zur Umsetzung des Übereinkommens in die Rechtsordnung der Union sein – mit vollständig harmonisierten Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in der Union, die unmittelbar in den Mitgliedstaaten gelten, sofern in der KI-Verordnung nicht ausdrücklich etwas anderes vorgesehen ist.
Da der Anwendungsbereich und die Ziele des Übereinkommens mit denen der KI-Verordnung übereinstimmen und voll und ganz im Einklang stehen und da der persönliche und sachliche Anwendungsbereich beider Rechtsinstrumente übereinstimmt, ist die materielle Rechtsgrundlage für den Abschluss des Übereinkommens der Artikel 114 AEUV, der auch die primäre Rechtsgrundlage der KI-Verordnung ist.
Die Rechtsnatur einer internationalen Übereinkunft („nur EU“ oder „gemischt“) hängt davon ab, inwiefern der besondere Gegenstand mit den Zuständigkeiten der Union vereinbar ist.
Nach Artikel 3 Absatz 2 AEUV hat die Union die ausschließliche Zuständigkeit „für den Abschluss internationaler Übereinkünfte, … soweit er gemeinsame Regeln beeinträchtigen oder deren Tragweite verändern könnte“. Ein internationales Übereinkommen kann gemeinsame Regeln beeinträchtigen oder ihre Tragweite verändern, wenn der Anwendungsbereich des Übereinkommens bereits weitgehend durch das Unionsrecht erfasst ist.
Der persönliche Anwendungsbereich des Übereinkommens stimmt insofern vollständig mit dem der KI-Verordnung überein, als beide Rechtsinstrumente grundsätzlich sowohl öffentliche als auch private Akteure erfassen (wobei die Anwendung der Grundsätze und Verpflichtungen des Übereinkommens auf private Akteure, die nicht im Namen von Behörden handeln, wahlweise erfolgen kann); vom sachlichen Anwendungsbereich beider Rechtsinstrumente sind KI-Tätigkeiten im Zusammenhang mit der nationalen Sicherheit, der Verteidigung und der Forschung ausgenommen.
Da der persönliche und sachliche Anwendungsbereich des Übereinkommens mit dem der KI-Verordnung übereinstimmt, kann der Abschluss des Übereinkommens im Sinne des Artikels 3 Absatz 2 AEUV gemeinsame Regeln der Union beeinträchtigen oder deren Tragweite verändern. Folglich ist davon auszugehen, dass die Union die ausschließliche Außenkompetenz für den Abschluss des Übereinkommens besitzt und dass das Übereinkommen – vorbehaltlich seines Abschlusses zu einem späteren Zeitpunkt – im Namen der Union als „reines EU-Abkommen“ unterzeichnet werden sollte.
•Verhältnismäßigkeit
Das Übereinkommen geht nicht über das zur Erreichung der politischen Ziele erforderliche Maß hinaus, da ein kohärenter Ansatz für die KI-Regulierung auf internationaler Ebene verfolgt wird.
Mit dem Übereinkommen wird ein allgemeiner Rechtsrahmen für KI geschaffen, der Flexibilität erlaubt und es den Vertragsparteien ermöglicht, die Umsetzungsrahmen konkret selbst auszugestalten. Ähnlich wie bei der KI-Verordnung wird durch den risikobasierten Ansatz auch die Verhältnismäßigkeit der Vorschriften gewahrt und eine Differenzierung der Umsetzungsmaßnahmen in einer den Risiken angemessenen Weise ermöglicht.
•Wahl des Instruments
Als Instrument wird ein Vorschlag für einen Beschluss des Rates gemäß Artikel 218 Absatz 5 AEUV gewählt.
3.ERGEBNISSE DER EX-POST-BEWERTUNG, DER KONSULTATION DER INTERESSENTRÄGER UND DER FOLGENABSCHÄTZUNG
•Ex-post-Bewertung/Eignungsprüfungen bestehender Rechtsvorschriften
Entfällt.
•Konsultation der Interessenträger
Die Europäische Kommission hat keine besondere Konsultation der Interessenträger zu diesem Vorschlag durchgeführt.
Die Ausarbeitung des Übereinkommens war eine gemeinsame Anstrengung des Ausschusses für künstliche Intelligenz (CAI) des Europarats, an der sich alle 46 Mitgliedstaaten des Europarats, aber auch Beobachterstaaten wie Kanada, Japan, Mexiko, der Heilige Stuhl, die Vereinigten Staaten von Amerika und die Europäische Union beteiligten. Außerdem beteiligten sich mehrere andere Nichtmitgliedstaaten, darunter Australien, Argentinien, Costa Rica, Israel, Peru und Uruguay.
Entsprechend der Zusage des Europarats, verschiedene Interessenträger einzubeziehen, flossen in die Ausarbeitung des Übereinkommens auch Beiträge von 68 internationalen Vertretern der Zivilgesellschaft, der Wissenschaft, der Industrie und anderer internationaler Organisationen ein, um ein umfassendes und inklusives Vorgehen zu gewährleisten. Die Ausarbeitung des Übereinkommens erfolgte auch in Zusammenarbeit mit verschiedenen anderen internationalen Organisationen, darunter der Organisation für Sicherheit und Zusammenarbeit in Europa (OSZE), der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) und der Organisation der Vereinten Nationen für Erziehung, Wissenschaft und Kultur (UNESCO). Überdies leisteten die einschlägigen Gremien und Ausschüsse des Europarats ihre Beiträge zu diesem Prozess. Die Beteiligung der Union erfolgte unter Federführung der Europäischen Kommission. Zudem waren Vertreter der Agentur der Europäischen Union für Grundrechte und des Europäischen Datenschutzbeauftragten als Beobachter anwesend.
•Einholung und Nutzung von Expertenwissen
Die Verhandlungspositionen der Union für das Übereinkommen wurden in Absprache mit einem vom Rat eingesetzten Sonderausschuss (Ratsarbeitsgruppe „Telekommunikation und Informationsgesellschaft“) ausgearbeitet.
•Folgenabschätzung
Entfällt.
•Effizienz der Rechtsetzung und Vereinfachung
Entfällt.
•Grundrechte
Mit dem Übereinkommen soll möglichen Risiken und Beeinträchtigungen der Menschenrechte entgegengewirkt werden, indem sichergestellt wird, dass die Tätigkeiten im Lebenszyklus von KI-Systemen mit den Grundsätzen der Achtung der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit im Einklang stehen, wobei auch das Potenzial der KI anerkannt wird, die Ausübung dieser Rechte im digitalen Umfeld zu schützen und zu erleichtern, das gesellschaftliche und ökologische Wohlergehen zu verbessern und den technologischen Fortschritt zu fördern.
Die in dem Übereinkommen vorgesehenen konkreten Grundsätze und Verpflichtungen sollen dem Schutz und der Achtung der Menschenrechte dienen, welche in zahlreichen internationalen und regionalen Instrumenten verankert sind, die für die Vertragsparteien gelten, einschließlich der Charta der Grundrechte der Union sowie internationaler Menschenrechtsinstrumente, die Union geschlossen hat.
Das Übereinkommen schafft somit einen gemeinsamen Mindeststandard für den Schutz der Menschenrechte im Zusammenhang mit KI, während gleichzeitig bereits bestehende Vorkehrungen für den Schutz der Menschenrechte gewahrt bleiben und es den Vertragsparteien ermöglicht wird, einen umfassenderen Schutz mit strengeren Schutzvorkehrungen festzulegen.
4.AUSWIRKUNGEN AUF DEN HAUSHALT
Das Übereinkommen sieht finanzielle Beiträge von Nichtmitgliedstaaten zu den Tätigkeiten der Konferenz der Vertragsparteien vor. Während alle Mitglieder des Europarats gemäß der Satzung des Europarats ihren Beitrag zum ordentlichen Haushalt des Europarats leisten, werden Vertragsparteien, die keine Mitglieder sind, außerbudgetäre Beiträge entrichten. Der Beitrag eines Nichtmitglieds des Europarats wird vom Ministerkomitee und diesem Nichtmitglied gemeinsam festgelegt.
Das Übereinkommen greift nicht in innerstaatliche Gesetze und Regelungen der Vertragsparteien in Bezug auf haushaltspolitische Zuständigkeiten und Haushaltsverfahren ein. Außerdem können Drittstaaten ihre Beiträge unbeschadet etwaiger vorheriger Vereinbarungen innerhalb der von ihrem jeweiligen Gesetzgeber genehmigten Haushaltsgrenzen leisten.
5.WEITERE ANGABEN
•Durchführungspläne sowie Monitoring-, Bewertungs- und Berichterstattungsmodalitäten
Die Konferenz der Vertragsparteien, die sich aus Vertretern der Vertragsparteien zusammensetzt, wird überwachen, ob die Ziele des Übereinkommens tatsächlich erreicht und seine Bestimmungen von den Vertragsparteien umgesetzt werden.
Jede Vertragspartei muss der Konferenz der Vertragsparteien innerhalb von zwei Jahren nach ihrem Beitritt und danach in regelmäßigen Abständen einen Bericht vorlegen, in dem sie die zur Umsetzung des Übereinkommens getroffenen Maßnahmen darlegt.
Außerdem werden die Vertragsparteien dazu ermuntert, bei der Verwirklichung der Ziele des Übereinkommens zusammenzuarbeiten. Diese internationale Zusammenarbeit kann den Austausch einschlägiger Informationen über KI und ihr Potenzial umfassen, die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit zu beeinträchtigen oder positiv zu beeinflussen.
Um eine wirksame Überwachung und Umsetzung zu gewährleisten, muss jede Vertragspartei einen oder mehrere wirksame Aufsichtsmechanismen auf innerstaatlicher Ebene benennen.
2024/0150 (NLE)
Vorschlag für einen
BESCHLUSS DES RATES
über die Unterzeichnung – im Namen der Europäischen Union – des Rahmenübereinkommens des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit
DER RAT DER EUROPÄISCHEN UNION —
gestützt auf den Vertrag über die Arbeitsweise der Europäischen Union, insbesondere auf Artikel 114 in Verbindung mit Artikel 218 Absatz 5,
auf Vorschlag der Europäischen Kommission,
in Erwägung nachstehender Gründe:
(1)Am 21. November 2022 ermächtigte der Rat die Europäische Kommission zur Aufnahme von Verhandlungen im Namen der Union über ein Übereinkommen des Europarats über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit (im Folgenden „Übereinkommen“). Die Europäische Kommission hat das Übereinkommen im Namen der Union ausgehandelt. Am 17. Mai 2024 wurden die Verhandlungen mit der Paraphierung des Übereinkommens und seiner Annahme durch das Ministerkomitee des Europarats erfolgreich abgeschlossen.
(2)In dem Übereinkommen werden allgemeine Grundsätze und Verpflichtungen festgelegt, die die Vertragsparteien des Übereinkommens einhalten sollten, um den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit im Zusammenhang mit den Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz (KI) zu gewährleisten.
(3)Am 12. Juni 2024 erließ die Union – hauptsächlich auf der Grundlage des Artikels 114 AEUV – die Verordnung (EU) 2024/… (im Folgenden „KI-Verordnung“) mit vollständig harmonisierten Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in der Union, die unmittelbar in den Mitgliedstaaten gelten, sofern in der KI-Verordnung nicht ausdrücklich etwas anderes vorgesehen ist. Das Übereinkommen ist in der Union ausschließlich durch die KI-Verordnung und gegebenenfalls durch anderes einschlägiges Unionsrecht umzusetzen.
(4)Da der persönliche und sachliche Anwendungsbereich des Übereinkommens mit dem der Verordnung über künstliche Intelligenz und anderem einschlägigen Unionsrecht übereinstimmt, kann – im Sinne des Artikels 3 Absatz 2 des Vertrags über die Arbeitsweise der Europäischen Union – der Abschluss des Übereinkommens gemeinsame Regeln der Union beeinträchtigen oder deren Tragweite verändern. Die Union besitzt folglich die ausschließliche Außenkompetenz für die Unterzeichnung des Übereinkommens, weshalb – vorbehaltlich seines Abschlusses zu einem späteren Zeitpunkt – nur die Union Vertragspartei des Übereinkommens werden sollte.
(5)Im Einklang mit den Verträgen obliegt es der Kommission, die Unterzeichnung des Überkommens – vorbehaltlich seines Abschlusses zu einem späteren Zeitpunkt – sicherzustellen —
HAT FOLGENDEN BESCHLUSS ERLASSEN:
Artikel 1
Die Unterzeichnung des Rahmenübereinkommens des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit (im Folgenden „Übereinkommen“) wird – vorbehaltlich des Abschlusses dieses Übereinkommens – im Namen der Union genehmigt.
Der Wortlaut des zu unterzeichnenden Übereinkommens ist diesem Beschluss beigefügt.
Artikel 2
Dieser Beschluss tritt am in Kraft.
Geschehen zu Brüssel am
Im Namen des Rates
Der Präsident /// Die Präsidentin