02021R1232 — DE — 15.05.2024 — 001.001


Dieser Text dient lediglich zu Informationszwecken und hat keine Rechtswirkung. Die EU-Organe übernehmen keine Haftung für seinen Inhalt. Verbindliche Fassungen der betreffenden Rechtsakte einschließlich ihrer Präambeln sind nur die im Amtsblatt der Europäischen Union veröffentlichten und auf EUR-Lex verfügbaren Texte. Diese amtlichen Texte sind über die Links in diesem Dokument unmittelbar zugänglich

►B

VERORDNUNG (EU) 2021/1232 DES EUROPÄISCHEN PARLAMENTS UND DES RATES

vom 14. Juli 2021

über eine vorübergehende Ausnahme von bestimmten Vorschriften der Richtlinie 2002/58/EG hinsichtlich der Verwendung von Technologien durch Anbieter nummernunabhängiger interpersoneller Kommunikationsdienste zur Verarbeitung personenbezogener und anderer Daten zwecks Bekämpfung des sexuellen Missbrauchs von Kindern im Internet

(Text von Bedeutung für den EWR)

(ABl. L 274 vom 30.7.2021, S. 41)

Geändert durch:

 

 

Amtsblatt

  Nr.

Seite

Datum

►M1

VERORDNUNG (EU) 2024/1307 DES EUROPÄISCHEN PARLAMENTS UND DES RATES  vom 29. April 2024

  L 1307

1

14.5.2024




▼B

VERORDNUNG (EU) 2021/1232 DES EUROPÄISCHEN PARLAMENTS UND DES RATES

vom 14. Juli 2021

über eine vorübergehende Ausnahme von bestimmten Vorschriften der Richtlinie 2002/58/EG hinsichtlich der Verwendung von Technologien durch Anbieter nummernunabhängiger interpersoneller Kommunikationsdienste zur Verarbeitung personenbezogener und anderer Daten zwecks Bekämpfung des sexuellen Missbrauchs von Kindern im Internet

(Text von Bedeutung für den EWR)



Artikel 1

Gegenstand und Geltungsbereich

(1)  
Die vorliegende Verordnung enthält vorübergehende und streng begrenzte Vorschriften, die von bestimmten in der Richtlinie 2002/58/EG festgelegten Verpflichtungen abweichen und das alleinige Ziel haben, den Anbietern bestimmter nummernunabhängiger interpersoneller Kommunikationsdienste (im Folgenden „Anbieter“) zu ermöglichen, unbeschadet der Verordnung (EU) 2016/679 spezielle Technologien für die Verarbeitung personenbezogener und anderer Daten in dem Maße zu verwenden, in dem dies unbedingt erforderlich ist, um sexuellen Missbrauch von Kindern im Internet bei ihren Diensten aufzudecken und zu melden und Online-Material über sexuellen Missbrauch von Kindern aus ihren Diensten zu entfernen.
(2)  
Die vorliegende Verordnung gilt nicht für das Durchsuchen von Audiokommunikation.

Artikel 2

Begriffsbestimmungen

Für die Zwecke dieser Verordnung bezeichnet der Ausdruck

1. 

„nummernunabhängiger interpersoneller Kommunikationsdienst“ einen nummernunabhängigen interpersonellen Kommunikationsdienst im Sinne des Artikels 2 Nummer 7 der Richtlinie (EU) 2018/1972;

2. 

„Online-Material über sexuellen Missbrauch von Kindern“:

a) 

Kinderpornografie im Sinne des Artikels 2 Buchstabe c der Richtlinie 2011/93/EU;

b) 

pornografische Darbietung im Sinne des Artikel 2 Buchstabe e der Richtlinie 2011/93/EU;

3. 

„Kontaktaufnahme zu Kindern“ jede vorsätzliche Handlung, die eine Straftat im Sinne von Artikel 6 der Richtlinie 2011/93/EU darstellt;

4. 

„sexueller Missbrauch von Kindern im Internet“„Online-Material über sexuellen Missbrauch von Kindern“ und „Kontaktaufnahme zu Kindern“.

Artikel 3

Anwendungsbereich der Ausnahme

(1)  

Artikel 5 Absatz 1 und Artikel 6 Absatz 1 der Richtlinie 2002/58/EG gelten nicht für die Vertraulichkeit von Kommunikation, bei der auch personenbezogene und andere Daten durch die Anbieter im Zusammenhang mit der Bereitstellung nummernunabhängiger interpersoneller Kommunikationsdienste verarbeitet werden, sofern:

a) 

die Verarbeitung

i) 

unbedingt erforderlich ist, damit eine spezielle Technologie zum alleinigen Zweck der Aufdeckung und Entfernung von Online-Material über sexuellen Missbrauch von Kindern und der Meldung dieses Materials an Strafverfolgungsbehörden und Organisationen, die im öffentlichen Interesse gegen sexuellen Missbrauch von Kindern vorgehen, sowie zur Aufdeckung der Kontaktaufnahme zu Kindern und ihrer Meldung an Strafverfolgungsbehörden und Organisationen, die im öffentlichen Interesse gegen sexuellen Missbrauch von Kindern vorgehen, verwendet werden kann;

ii) 

verhältnismäßig ist und auf Technologien beschränkt bleibt, die von Anbietern zu dem unter Ziffer i genannten Zweck verwendet werden

iii) 

auf Inhaltsdaten und damit verbundene Verkehrsdaten beschränkt ist, die für den unter Ziffer i genannten Zweck unbedingt erforderlich sind;

iv) 

auf das, was für den unter Ziffer i genannten Zweck unbedingt erforderlich ist, beschränkt ist;

b) 

die für den unter Buchstabe a Ziffer i des vorliegenden Absatzes genannten Zweck verwendete Technologie dem Stand der Technik in der Branche entspricht und am wenigsten in die Privatsphäre eingreift, auch im Hinblick auf den Grundsatz des Datenschutzes durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen gemäß Artikel 25 der Verordnung (EU) 2016/679, und, soweit sie zum Durchsuchen von Text in Kommunikation verwendet wird, nicht in der Lage ist, den wesentlichen Inhalt der Kommunikation zu erschließen, sondern lediglich Muster erkennen kann, die auf einen möglichen sexuellen Missbrauch von Kindern im Internet hindeuten;

c) 

in Bezug auf jede spezielle Technologie, die zu dem unter Buchstabe a Ziffer i des vorliegenden Absatzes genannten Zweck verwendet wird, eine vorherige Datenschutz-Folgenabschätzung gemäß Artikel 35 der Verordnung (EU) 2016/679 und ein Verfahren der vorherigen Konsultation gemäß Artikel 36 der genannten Verordnung durchgeführt wurden;

d) 

im Hinblick auf neue Technologien, d. h. Technologien, die zur Aufdeckung von Online-Material über sexuellen Missbrauch von Kindern verwendet werden und die vor dem 2. August 2021 von keinem Anbieter im Zusammenhang mit Diensten, die für Nutzer nummernunabhängiger interpersoneller Kommunikationsdienste (im Folgenden „Nutzer“) in der Union erbracht wurden, verwendet worden sind, sowie im Hinblick auf Technologien, die zur Ermittlung möglicher Kontaktaufnahmen zu Kindern verwendet werden, erstattet der Anbieter der zuständigen Behörde Bericht über die Maßnahmen, die ergriffen wurden, um die Einhaltung der schriftlichen Empfehlungen, die gemäß Artikel 36 Absatz 2 der Verordnung (EU) 2016/679 von der gemäß Kapitel VI Abschnitt 1 der genannten Verordnung benannten zuständigen Aufsichtsbehörde (im Folgenden „Aufsichtsbehörde“) im Rahmen des Verfahrens der vorherigen Konsultation abgegeben wurden, nachzuweisen.

e) 

die verwendeten Technologien an sich hinreichend zuverlässig sind, da sie die Fehlerquote bei der Erkennung von Inhalten, die sexuellen Missbrauch von Kindern im Internet darstellen, weitestmöglich begrenzen, und bei gelegentlich auftretenden Fehlern deren Folgen unverzüglich berichtigen;

f) 

die zur Aufdeckung von Mustern einer möglichen Kontaktaufnahme zu Kindern verwendeten Technologien auf die Verwendung geeigneter Schlüsselindikatoren und objektiv ermittelter Risikofaktoren wie Altersunterschiede und die wahrscheinliche Beteiligung eines Kindes an der durchsuchten Kommunikation beschränkt sind und das Recht auf Überprüfung durch einen Menschen wahrt.

g) 

die Anbieter

i) 

interne Verfahren eingeführt haben, um Missbrauch von, unbefugten Zugriff auf und unbefugte Weitergabe von personenbezogenen und anderen Daten zu verhindern;

ii) 

menschliche Aufsicht über und erforderlichenfalls menschliche Eingriffe in die Verarbeitung personenbezogener und anderer Daten mit Hilfe von Technologien, die unter diese Verordnung fallen, gewährleisten;

iii) 

sicherstellen, dass Material, das zuvor nicht als Online-Material über sexuellen Missbrauch von Kindern oder als Kontaktaufnahme zu Kindern identifiziert wurde, nicht ohne vorherige Bestätigung durch einen Menschen an Strafverfolgungsbehörden oder Organisationen, die im öffentlichen Interesse gegen sexuellen Missbrauch von Kindern vorgehen, gemeldet wird;

iv) 

geeignete Verfahren und Beschwerdemechanismen eingeführt haben, um sicherzustellen, dass Nutzer innerhalb einer angemessenen Frist Beschwerden bei ihnen einreichen können, um ihre Sichtweise darzulegen;

v) 

die Nutzer in klarer, deutlicher und verständlicher Weise darüber informieren, dass sie sich im Einklang mit dieser Verordnung auf die Ausnahme von Artikel 5 Absatz 1 und Artikel 6 Absatz 1 der Richtlinie 2002/58/EG hinsichtlich der Vertraulichkeit der Kommunikation der Nutzer berufen, und zwar ausschließlich für den in Buchstabe a Ziffer i des vorliegenden Absatzes genannten Zweck, sowie die hinter den Maßnahmen, die sie im Rahmen der Ausnahmeregelung ergriffen haben, stehende Logik und die Auswirkungen auf die Vertraulichkeit der Kommunikation der Nutzer, einschließlich der Möglichkeit, dass personenbezogene Daten an Strafverfolgungsbehörden und Organisationen, die im öffentlichen Interesse gegen sexuellen Missbrauch von Kindern vorgehen, weitergegeben werden;

vi) 

die Nutzer über Folgendes informieren, wenn ihre Inhalte entfernt oder ihr Konto gesperrt oder ein ihnen angebotener Dienst eingestellt wurde:

1. 

die Möglichkeiten, bei ihnen Beschwerde einzulegen;

2. 

die Möglichkeit, Beschwerde bei einer Aufsichtsbehörde einzulegen; und

3. 

das Recht auf einen gerichtlichen Rechtsbehelf;

vii) 

bis zum 3. Februar 2022 und danach bis zum 31. Januar jedes Jahres einen Bericht über die in den Anwendungsbereich dieser Verordnung fallende Verarbeitung personenbezogener Daten veröffentlichen und der zuständigen Aufsichtsbehörde und der Kommission vorlegen, einschließlich über:

1. 

die Art und Menge der verarbeiteten Daten;

2. 

den spezifischen Grund, der für die Verarbeitung gemäß der Verordnung (EU) 2016/679 geltend gemacht wird;

3. 

den Grund, der für die Übermittlung personenbezogener Daten in Länder außerhalb der Union gemäß Kapitel V der Verordnung (EU) 2016/679 geltend gemacht wird;

4. 

die Zahl der aufgedeckten Fälle von Missbrauch von Kindern im Internet, wobei zwischen Online-Material über sexuellen Missbrauch von Kindern und Kontaktaufnahmen zu Kindern zu unterscheiden ist;

5. 

die Zahl der Fälle, in denen Nutzer Beschwerden über den internen Beschwerdemechanismus oder bei einer Justizbehörde eingereicht haben, und das Ergebnis dieser Beschwerden;

6. 

die Anzahl und der Anteil der mit verschiedenen verwendeten Technologien aufgetretenen Fehler (falsch positive Ergebnisse);

7. 

die Maßnahmen zur Begrenzung der Fehlerquote und die erreichte Fehlerquote;

8. 

die Aufbewahrungsregeln und die gemäß der Verordnung (EU) 2016/679 angewandten Datenschutzvorkehrungen;

9. 

die Namen der Organisationen, die im öffentlichen Interesse gegen sexuellen Missbrauch von Kindern vorgehen und mit denen Daten gemäß dieser Verordnung ausgetauscht wurden;

h) 

bei Verdacht auf sexuellen Missbrauch von Kindern im Internet die Inhaltsdaten und damit verbundenen Verkehrsdaten, die für die Zwecke gemäß Buchstabe a Ziffer i verarbeitet werden, und die bei einer solchen Verarbeitung generierten personenbezogenen Daten auf sichere Weise gespeichert werden, und zwar ausschließlich für die folgenden Zwecke:

i) 

um den mutmaßlichen sexuellen Missbrauch von Kindern im Internet unverzüglich den zuständigen Strafverfolgungs- und Justizbehörden oder Organisationen, die im öffentlichen Interesse gegen sexuellen Missbrauch von Kindern vorgehen, zu melden;

ii) 

das Konto des betroffenen Nutzers zu sperren oder die Bereitstellung des Dienstes für den betroffenen Nutzer auszusetzen oder zu kündigen;

iii) 

eine eindeutige, unumkehrbare digitale Signatur (sog. „Hash“) von Daten, die zuverlässig als Online-Material über sexuellen Missbrauch von Kindern identifiziert wurden, zu erstellen;

iv) 

dem betroffenen Nutzer die Möglichkeit zu geben, beim Anbieter Beschwerde einzulegen oder verwaltungsrechtliche oder gerichtliche Rechtsbehelfe im Zusammenhang mit dem mutmaßlichen sexuellen Missbrauch von Kindern im Internet einzulegen; oder

v) 

Anfragen der zuständigen Strafverfolgungs- und Justizbehörden in Übereinstimmung mit dem geltenden Recht zu beantworten und ihnen die zur Verhütung, Aufdeckung, Ermittlung oder Verfolgung von Straftaten gemäß der Richtlinie 2011/93/EU erforderlichen Daten zu übermitteln;

i) 

die Daten nicht länger gespeichert werden, als es für den unter Buchstabe h genannten relevanten Zweck unbedingt erforderlich ist, und in keinem Fall länger als 12 Monate ab dem Datum der Ermittlung eines Verdachts auf sexuellen Missbrauchs von Kindern im Internet;

j) 

jeder begründete und überprüfte Verdachtsfall auf sexuellen Missbrauch von Kindern im Internet unverzüglich den zuständigen nationalen Strafverfolgungsbehörden oder den Organisationen, die im öffentlichen Interesse gegen sexuellen Missbrauch von Kindern vorgehen, gemeldet wird.

(2)  

Bis zum 3. April 2022 gilt die in Absatz 1 Buchstabe c genannte Bedingung nicht für Anbieter, die

a) 

vor dem 2. August 2021 eine spezielle Technologie zu dem unter Absatz 1 Buchstabe a Ziffer i genannten Zweck eingesetzt haben, ohne ein Verfahren der vorherigen Konsultation in Bezug auf diese Technologie abgeschlossen zu haben;

b) 

vor dem 3. September 2021 ein Verfahren der vorherigen Konsultation einleiten; und

c) 

im Rahmen des Verfahrens der vorherigen Konsultation gemäß Buchstabe b ordnungsgemäß mit der zuständigen Aufsichtsbehörde zusammenarbeiten.

(3)  

Bis zum 3. April 2022 gilt die in Absatz 1 Buchstabe d genannte Bedingung nicht für Anbieter, die

a) 

vor dem 2. August 2021 eine der unter Absatz 1 Buchstabe d genannten Technologien eingesetzt haben, ohne ein Verfahren der vorherigen Konsultation in Bezug auf diese Technologie abgeschlossen zu haben;

b) 

vor dem 3. September 2021 ein Verfahren gemäß Absatz 1 Buchstabe d einleiten; und

c) 

im Rahmen des Verfahrens nach Absatz 1 Buchstabe d ordnungsgemäß mit der zuständigen Aufsichtsbehörde zusammenarbeiten.

▼M1

(4)  
Die in dem Bericht nach Absatz 1 Buchstabe g Ziffer vii enthaltenen Daten werden schriftlich anhand eines Standardformulars bereitgestellt. Die Kommission legt spätestens zum 3. Dezember 2024 den Inhalt und die Darstellung dieses Formulars im Wege von Durchführungsrechtsakten fest. Dabei kann die Kommission beschließen, die in Absatz 1 Buchstabe g Ziffer vii aufgeführten Datenkategorien in Unterkategorien zu unterteilen.

Die genannten Durchführungsrechtsakte werden gemäß dem in Artikel 9a Absatz 2 genannten Beratungsverfahren erlassen.

▼B

Artikel 4

Leitlinien des Europäischen Datenschutzausschusses

Bis zum 3. September 2021 und gemäß Artikel 70 der Verordnung (EU) 2016/679 ersucht die Kommission den Europäischen Datenschutzausschuss, Leitlinien bereitzustellen, um die Aufsichtsbehörden bei der Beurteilung der Frage zu unterstützen, ob die in den Anwendungsbereich der vorliegenden Verordnung fallende Verarbeitung für bestehende und auch neue Technologien, die für den in Artikel 3 Absatz 1 Buchstabe a Ziffer i der vorliegenden Verordnung genannten Zweck eingesetzt wird, mit der Verordnung (EU) 2016/679 im Einklang steht.

Artikel 5

Wirksame gerichtliche Rechtsbehelfe

Gemäß Artikel 79 der Verordnung (EU) 2016/679 und Artikel 15 Absatz 2 der Richtlinie 2002/58/EG haben Nutzer das Recht auf einen wirksamen gerichtlichen Rechtsbehelf, wenn sie der Auffassung sind, dass ihre Rechte infolge der Verarbeitung personenbezogener und anderer Daten für die in Artikel 3 Absatz 1 Buchstabe a Ziffer i der vorliegenden Verordnung genannten Zwecke verletzt wurden.

Artikel 6

Aufsichtsbehörden

Die gemäß Kapitel VI Abschnitt 1 der Verordnung (EU) 2016/679 benannten Aufsichtsbehörden überwachen die in den Geltungsbereich der vorliegenden Verordnung fallende Verarbeitung im Rahmen ihrer in jenem Kapitel genannten Zuständigkeiten und Befugnisse.

Artikel 7

Öffentliche Liste mit Organisationen, die im öffentlichen Interesse gegen sexuellen Missbrauch von Kindern vorgehen

(1)  
Bis zum 3. September 2021 teilen die Anbieter der Kommission eine Liste mit den Namen der Organisationen mit, die im öffentlichen Interesse gegen den sexuellen Missbrauch von Kindern vorgehen und denen sie den sexuellen Missbrauch von Kindern im Internet gemäß dieser Verordnung melden. Anbieter teilen der Kommission regelmäßig etwaige Änderungen dieser Liste mit.
(2)  
Bis zum 3. Oktober 2021 veröffentlicht die Kommission eine Liste mit den Namen der Organisationen, die im öffentlichen Interesse gegen den sexuellen Missbrauch von Kindern vorgehen und die ihr gemäß Absatz 1 mitgeteilt wurden. Die Kommission hält diese öffentliche Liste auf dem neuesten Stand.

Artikel 8

Statistiken

(1)  

Bis zum 3. August 2022 und danach jährlich machen die Mitgliedstaaten Berichte mit Statistiken zu folgenden Aspekten öffentlich zugänglich und legen sie der Kommission vor:

a) 

die Gesamtzahl der Berichte über festgestellten sexuellen Missbrauch von Kindern im Internet, die den zuständigen nationalen Strafverfolgungsbehörden von Anbietern und Organisationen, die im öffentlichen Interesse gegen sexuellen Kindesmissbrauch vorgehen, übermittelt wurden, wobei zwischen der absoluten Zahl der Fälle und jenen Fällen, die mehrmals gemeldet werden, sowie nach der Art des Anbieters, in dessen Diensten sexueller Missbrauch von Kindern im Internet festgestellt wurde, unterschieden wird, sofern solche Daten vorhanden sind,

b) 

die Zahl der Kinder, die im Rahmen von Maßnahmen gemäß Artikel 3 ermittelt wurden, aufgeschlüsselt nach Geschlecht,

c) 

die Zahl der verurteilten Täter.

(2)  
Die Kommission führt die in Absatz 1 des vorliegenden Artikels genannten Statistiken zusammen und berücksichtigt sie bei der Erstellung des Durchführungsberichts gemäß Artikel 9.

Artikel 9

Durchführungsbericht

▼M1

(1)  
Auf der Grundlage der gemäß Artikel 3 Absatz 1 Buchstabe g Ziffer vii vorgelegten Berichte und der gemäß Artikel 8 übermittelten Statistiken erstellt die Kommission bis zum 4. September 2025 einen Bericht über die Durchführung dieser Verordnung und legt ihn dem Europäischen Parlament und dem Rat vor.

▼B

(2)  

Im Durchführungsbericht bewertet die Kommission insbesondere:

a) 

die Bedingungen für die Verarbeitung personenbezogener und anderer Daten gemäß Artikel 3 Absatz 1 Buchstabe a Ziffer ii sowie Buchstaben b, c und d,

b) 

die Verhältnismäßigkeit der in dieser Verordnung festgelegten Ausnahme, einschließlich einer Bewertung der von den Mitgliedstaaten gemäß Artikel 8 übermittelten Statistiken,

c) 

Entwicklungen des technischen Fortschritts in Bezug auf die unter diese Verordnung fallenden Maßnahmen und das Ausmaß, in dem derartige Entwicklungen die Genauigkeit verbessern und die Zahl und das Verhältnis der Fehler (falsch positive Ergebnisse) verringern.

▼M1

Artikel 9a

Ausschussverfahren

(1)  
Die Kommission wird von einem Ausschuss unterstützt. Dieser Ausschuss ist ein Ausschuss im Sinne der Verordnung (EU) Nr. 182/2011.
(2)  
Wird auf diesen Absatz Bezug genommen, so gilt Artikel 4 der Verordnung (EU) Nr. 182/2011.

▼B

Artikel 10

Inkrafttreten und Geltung

Diese Verordnung tritt am dritten Tag nach ihrer Veröffentlichung im Amtsblatt der Europäischen Union in Kraft.

▼M1

Sie gilt bis zum 3. April 2026.

▼B

Diese Verordnung ist in allen ihren Teilen verbindlich und gilt unmittelbar in jedem Mitgliedstaat.