European flag

Amtsblatt
der Europäischen Union

DE

Reihe C


C/2025/1185

21.3.2025

Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses

Arbeitnehmerfreundliche künstliche Intelligenz: Ansätze zur Nutzung des Potenzials und Eindämmung der Risiken von KI bei beschäftigungs- und arbeitsmarktpolitischen Maßnahmen

(Initiativstellungnahme)

(C/2025/1185)

Berichterstatterin:

Franca SALIS-MADINIER

Berater

Odile CHAGNY (für die Berichterstatterin)

Isaline OSSIEUR (für Gruppe I)

Etzerodt CLEMENS ØRNSTRUP (für Gruppe I)

Aïda PONCE DEL CASTILLO (für Gruppe II)

Anthony BOCHON (für Gruppe III)

Beschluss des Plenums

15.2.2024

Rechtsgrundlage

Artikel 52 Absatz 2 der Geschäftsordnung

Zuständiges Arbeitsorgan

Fachgruppe Beschäftigung, Sozialfragen, Unionsbürgerschaft

Annahme im Arbeitsorgan

17.12.2024

Verabschiedung im Plenum

22.1.2025

Plenartagung Nr.

593

Ergebnis der Abstimmung (Ja-Stimmen/Nein-Stimmen/Enthaltungen)

142/103/14

1.   Schlussfolgerungen und Empfehlungen

1.1.

Der Europäische Wirtschafts- und Sozialausschuss (EWSA) unterstützt die gemeinsame Erklärung, die die Sozialpartner auf dem letzten G7-Gipfel in Italien (1) abgegeben haben. Darin heißt es: Die rasanten Fortschritte im Bereich Systeme der künstlichen Intelligenz (KI), einschließlich generative KI, zählen zweifellos zu den wichtigsten Entwicklungen, die unmittelbare Auswirkungen auf die Arbeitswelt sowie unsere Gesellschaften im Allgemeinen haben. Ob es sich dabei um einen Wandel zum Besseren oder zum Schlechteren handelt, ist nicht vorherbestimmt: Es hängt davon ab, ob die politischen Akteure ambitionierte und wirksame politische Maßnahmen treffen und rechtliche Rahmenbedingungen schaffen, die dem sozialen Fortschritt, der Inklusion, der Gleichheit, dem wirtschaftlichen Wohlstand, der Tragfähigkeit, Geschäftskontinuität und Resilienz von Unternehmen, der Entstehung guter Arbeitsplätze sowie der Achtung der demokratischen Institutionen und der Arbeitnehmerrechte dienen. Der soziale Dialog spielt in dieser Hinsicht eine Schlüsselrolle.

1.2.

Der soziale Dialog und die Beteiligung der Arbeitnehmer tragen entscheidend zur Wahrung der Grundrechte der Arbeitnehmer und der Verbreitung „vertrauenswürdiger“ KI in der Welt der Arbeit bei. Ein Ansatzpunkt zur Minimierung der Risiken und schädlichen Auswirkungen von KI-Systemen besteht darin, die Arbeitnehmer und ihre Vertreter stärker einzubeziehen.

1.3.

Der EWSA fordert nachdrücklich, dass mit Gesetzgebungs- oder sonstigen Initiativen zur Anpassung des geltenden Rechts die Lücken beim Schutz der Arbeitnehmerrechte am Arbeitsplatz geschlossen werden und sichergestellt wird, dass der Mensch bei allen Interaktionen zwischen Mensch und Maschine die Kontrolle behält.

1.4.

Für die bestehenden EU-Rechtsvorschriften für den Einsatz von KI am Arbeitsplatz sollten ausdrückliche Leitlinien vorgesehen werden.

1.5.

Der EWSA unterstützt die rasche Umsetzung von Artikel 4 der Verordnung über künstliche Intelligenz, (2) dem zufolge Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen müssen, um sicherzustellen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt.

1.6.

Die Behörden müssen Initiativen zur Kompetenzentwicklung für Arbeitnehmer umsetzen, damit Systeme der künstlichen Intelligenz die Menschen unterstützen und nicht ersetzen.

1.7.

Der EWSA spricht sich nachdrücklich dafür aus, im Rahmen der EU-Politik und der Mitgliedstaaten KI-Module für die allgemeine und berufliche Bildung zu entwickeln und die Bürger mit Informationsmaterial für das Thema KI zu sensibilisieren. Im Rahmen der formalen Bildung sollten frühzeitig Kenntnisse zu KI-Technologien vermittelt werden, damit alle Bürgerinnen und Bürger die Möglichkeit haben, sich mit diesen Technologien vertraut zu machen.

1.8.

Um eine Fragmentierung der derzeitigen Initiativen der Mitgliedstaaten zu vermeiden und für gleiche Wettbewerbsbedingungen im Binnenmarkt zu sorgen, fordert der EWSA nachdrücklich einen verstärkten sozialen Dialog zum Einsatz von KI-Systemen auf der Grundlage eines Ad-hoc-Rechtsinstruments der EU, das Bestimmungen vorsieht, um besser auf Folgendes hinwirken zu können:

—

die Durchsetzung von Artikel 88 der Datenschutz-Grundverordnung (DSGVO) (3) sowie ausdrückliche Leitlinien zu den Begriffen der Einwilligung und des berechtigten Interesses;

—

die Ausweitung des Anwendungsbereichs der Richtlinie zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit (Richtlinie über Plattformarbeit), (4) damit auf die mit algorithmischen Managementsystemen für Arbeitnehmer verbundenen Herausforderungen reagiert werden kann;

—

eine Stärkung der nach der Richtlinie 2002/14/EG (5) geltenden Vorschriften bei der Einführung von Hochrisiko-KI-Systemen und die Bereitstellung ausdrücklicher Leitlinien zu den Bestimmungen der EU-Richtlinie 89/391 (6) über Sicherheit und Gesundheitsschutz am Arbeitsplatz;

—

die Aufnahme des dynamischen Prozesses des sozialen Dialogs und der Risikobewertungen von KI-Systemen im Sinne der autonomen Rahmenvereinbarung der europäischen Sozialpartner über die Digitalisierung von 2020; (7)

—

die Ausweitung des Adressatenkreises von Datenschutz-Folgenabschätzungen auf Arbeitnehmervertreter im Einklang mit der Richtlinie über Plattformarbeit;

—

die Durchführung von Ex-ante-Grundrechte-Folgenabschätzungen, die von den Anbietern vorzunehmen sind, bevor Hochrisikosysteme eingesetzt werden;

—

die Aufstellung konkreter Leitlinien für die Nutzung von Reallaboren und Tests unter Realbedingungen.

1.9.

Der EWSA fordert das Europäische Büro für Künstliche Intelligenz (KI-Büro) auf, mit den branchenübergreifenden europäischen Sozialpartnern eng zusammenzuarbeiten, damit der soziale Dialog in den künftigen Leitlinien des KI-Büros entsprechend zum Tragen kommt, und für Erläuterungen zu allen KI-Systemen zu sorgen. Es sollten umfassende, solide und klar strukturierte Kanäle für die Koordinierung zwischen dem KI-Büro und den GD EMPL und Connect der Europäischen Kommission eingerichtet werden.

2.   Allgemeine Bemerkungen

2.1.

Mit der vorliegenden Initiativstellungnahme sollen politischen Entscheidungsträgern auf europäischer und nationaler Ebene Empfehlungen und konkrete Vorschläge für die Schaffung eines Umfelds unterbreitet werden, das der Einführung von KI-Systemen und KI-Tools in der Arbeitswelt unter positiven Vorzeichen förderlich ist. Aufgrund des Ersuchens des künftigen polnischen Vorsitzes wird der Prüfung von beschäftigungs- und arbeitsmarktpolitischen Ansätzen zur Ausschöpfung des Potenzials und zur Minderung der Risiken von KI ein eigenes Kapitel gewidmet. In diese Stellungnahme sind Beiträge eingeflossen, die im Rahmen von zwei Workshops im EWSA unter Verwendung der Methode der Vorausschau der Gemeinsamen Forschungsstelle und unter Beteiligung europäischer und internationaler Fachleute zusammengetragen wurden.

2.2.

KI wird als „Universaltechnologie“ (8) bezeichnet, die transformative digitale Anwendungen mit potenziell erheblichen sozialen und wirtschaftlichen Auswirkungen ermöglicht (9). KI, Big Data und Hochleistungsrechnen sind miteinander verknüpft. Generative KI umfasst Systeme wie hochentwickelte große Sprachmodelle, die neue Inhalte – von Text bis zu Bildern – schaffen können, indem sie aus umfangreichen Trainingsdaten lernen. Dieser Stellungnahme liegt ein weit gefasster Ansatz zugrunde, um sowohl algorithmische Managementsysteme als auch die breitere Nutzung von digitalen Technologien am Arbeitsplatz, wie Überwachungsinstrumente und digitale Personalplattformen, zu untersuchen, die erhebliche Auswirkungen auf die Arbeitnehmer haben.

2.3.

Die Verbreitung von KI-Tools bei europäischen Unternehmen hat Schätzungen zufolge seit der Entstehung generativer KI zwar rasch zugenommen, allerdings scheint diesbezüglich ein deutlicher Unterschied zwischen Großunternehmen und KMU zu bestehen (10). Auch wenn kohärente Daten und Kenntnisse darüber, in welche Richtung sich KI konkret weiterentwickelt, fehlen, ist davon auszugehen, dass sie sich in vielerlei Hinsicht auf die Arbeitswelt auswirken wird und für viele Menschen zu einem wichtigen Bestandteil ihres Arbeitsalltags werden könnte (11).

2.4.

Die Szenarien, die im Rahmen dieser Workshops in Bezug auf die Zukunft der KI in der Arbeitswelt untersucht wurden, (12) verdeutlichen, dass es noch nicht zu spät ist, die Entwicklung der KI am Arbeitsplatz dahingehend mitzubestimmen, dass sie zum Nutzen aller eingesetzt wird. Das als „ideales Szenario“ definierte visionäre Szenario zeigte, dass Anpassungen im EU-Recht und die Stärkung des sozialen Dialogs auf der dafür am besten geeigneten Ebene maßgeblich zu einem vertrauenswürdigen Einsatz von KI am Arbeitsplatz beitragen können, wenn europäische Unternehmen auf diesem Wege für Investitionen in Forschung, Entwicklung und Innovation gewonnen werden.

2.5.

Die Auswirkungen von KI auf die Arbeitswelt werden indirekt in EU-Rechtsvorschriften zu sozialen Fragen behandelt (13). Die europäischen Institutionen haben ebenfalls umfassend in die Entwicklung einer gemeinsamen digitalen Agenda und eines digitalen Binnenmarkts investiert.

2.6.

Entsprechend dem Vorschlag der Präsidentin der Europäischen Kommission, Initiativen zur Betrachtung der mit der Digitalisierung verbundenen Auswirkungen auf die Arbeitswelt, vom KI-Management bis hin zur Telearbeit, aufzunehmen und im Einklang mit der jüngsten Erklärung der Sozialpartner auf dem G7-Gipfel fordert der EWSA, mit jeder Gesetzgebungsinitiative die Lücken beim Schutz der Arbeitnehmerrechte, der in den für KI geltenden Rechtsvorschriften vorgesehen ist, zu schließen und dafür zu sorgen, dass der Grundsatz der Kontrolle durch den Menschen wirksam angewendet wird.

2.7.

Der EWSA fordert die Europäische Kommission auf, sicherzustellen, dass zu den bestehenden Rechtsvorschriften, die für den Einsatz von KI am Arbeitsplatz von Bedeutung sind, ausdrückliche Leitlinien vorgelegt werden.

2.8.

Die Sozialpartner und die Bürgerinnen und Bürger spielen für die Wahrung der Grundrechte der Arbeitnehmer und die Förderung „vertrauenswürdiger“ KI in der Arbeitswelt und der Gesellschaft insgesamt (14) eine wichtige Rolle.

3.   Definition von KI-Systemen für diese Stellungnahme

3.1.    Für die Zwecke dieser Stellungnahme sollte aus Sicht des EWSA die Begriffsbestimmung aus der Verordnung über künstliche Intelligenz  (15) verwendet werden.

3.2.

Gemäß Artikel 3 Absatz 1 der Verordnung über künstliche Intelligenz ist ein KI-System „ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können“.

3.3.

Diese Definition ist insofern weit genug gefasst, als die folgenden drei Hauptfunktionen von KI-Systemen darin berücksichtigt sind, denn

—

KI-Systeme ermöglichen eine automatisierte Entscheidungsfindung,

—

entscheiden in gewissem Maße autonom und

—

interagieren mit Arbeitnehmern und beeinflussen sie.

3.4.

Außerdem weist der EWSA darauf hin, dass am Arbeitsplatz eingesetzte KI-Systeme im Vergleich zu früheren digitalen Technologien drei wichtige Sonderfunktionen haben:

—

KI-Systeme können spontan, interaktiv und intransparent sein (16).

—

Eine wichtige Gruppe (17) von KI-Systemen ist nach der Einführung am Arbeitsplatz in der Lage, sich anzupassen (18). Dies kann zu Unsicherheit führen, da nicht vorhersehbar ist, wie sich das KI-System in einem bestimmten Kontext verhalten wird.

—

KI-Systeme bieten großartige Möglichkeiten für eine bessere Allokation und Abstimmung sowie effizientere Entscheidungsprozesse und verbesserte Lernprozesse bei Unternehmen (19). Da KI inzwischen bereits Erfindungen generiert, wird sie voraussichtlich auch zu Innovationen (20) beitragen. Wird ein KI-System ausgeweitet (Größe der Parameter, der Trainingsdaten usw.), kann es sogar „ zufällige Entdeckungen “ liefern und dadurch Innovationen fördern.

4.   Auswirkungen von KI auf den Arbeitsmarkt und die Arbeitsbedingungen

4.1.    Auswirkungen auf die Beschäftigung

4.1.1.

Welche Folgen KI für Beschäftigung und Arbeitnehmer haben wird, ist angesichts der rasanten Entwicklung, der Ungewissheit darüber, wie KI in die Produktionsprozesse eingebunden werden wird, sowie ihrer Auswirkungen auf Beschäftigung und Arbeitnehmer nicht vorhersehbar. In welchem Maße durch KI Arbeitsplätze entstehen, verändert, unterstützt oder vernichtet werden, hängt auch davon ab, zu welchem Ziel sie eingesetzt wird (Prozessoptimierung, Kostensenkung, Effizienz, Innovation usw.).

4.1.2.

Bei den folgenden Aufgaben hat KI echtes Potenzial: i) Abgleich von Stellenprofilen mit Bewerberprofilen, was zu wirksameren Beschäftigungsmaßnahmen beiträgt, ii) Einstellung geeigneter Bewerber; iii) zügigere Einarbeitung, iv) Leistungsmanagement, v) Konzeption geeigneter, maßgeschneiderter Schulungsmethoden und Feststellung von Lücken bei digitalen Kompetenzen, vi) Erhebung und Auswertung von Massendaten, vii) Erstellung von Protokollen, viii) Verfassen von Stellenbeschreibungen, ix) Verwaltung von Mitarbeiterbindung und -fluktuation (21).

4.1.3.

Der größte Schub, den KI für die Wirtschaft bewirken kann, wird sich wahrscheinlich durch Produktivitätssteigerungen ergeben (22). Darunter fällt auch die Automatisierung von routineartigen, eintönigen Aufgaben, (23) das heißt, Beschäftigte werden entlastet und haben so mehr Zeit für forderndere, lohnendere Tätigkeiten (24). Durch die aktuellen technologischen Entwicklungen können KI-Systeme den Menschen inzwischen in einem viel breiteren Spektrum von Tätigkeitsfeldern ersetzen oder unterstützen, als das mit früheren Technologien möglich war, und auch nicht-routinemäßige und kognitive Aufgaben (25), vor allem im Gesundheits- und Bildungsbereich, übernehmen.

4.1.4.

In aktuellen Studien wird das Potenzial generativer KI als technologische Ergänzung („Ergänzungspotenzial“) hervorgehoben (26). Das Transformationspotenzial ist Schätzungen der IAO (27) zufolge in Hocheinkommensländern mehr als doppelt so hoch (13,4 %) wie das Automatisierungspotenzial (5,1 %). In Bezug auf die Auswirkungen auf Beschäftigung und Produktivität (28) liegen jedoch nach wie vor keine schlüssigen empirischen Daten vor. Die tatsächlichen Produktivitätssteigerungen lassen sich nur ungenau beziffern (29) und könnten zu hoch angegeben sein (30). Bei generativer KI ist das tatsächliche Automatisierungs- und Ergänzungspotenzial bei einem großen Teil der Berufe (31) (11,6 % in Hocheinkommensländern (32)) ungewiss. Generative KI kann den Zugang zur Beschäftigung für Menschen mit Behinderungen verbessern, (33) aber auch zur Automatisierung ihrer Arbeitsplätze führen.

4.2.   KI wird sich erheblich auf den Qualifikationsbedarf auswirken. (34)

4.2.1.

KI wird einerseits in der Lage sein, einige manuelle und feinmotorische, aber auch kognitive Fähigkeiten, wie Beurteilung, Planung und Beratung, zu übernehmen. Andererseits werden die Kompetenzen, die benötigt werden, um KI-Systeme entwickeln und warten zu können bzw. um diese Systeme einführen, einsetzen und mit ihnen interagieren zu können, immer wichtiger. Die Nachfrage nach digitalen Grundkenntnissen und datenwissenschaftlichen Erkenntnissen (35) wird steigen. Bedarf wird auch in Bezug auf kognitive und übertragbare Fähigkeiten bestehen, die besonders als Ergänzung zu KI benötigt werden (darunter kreative Problemlösung, Originalität und andere übertragbare Fähigkeiten wie Sozial- und Führungskompetenz (36)). Die Kompetenzen und Kenntnisse von Führungskräften und Unternehmern werden bei der Einführung von KI ebenfalls von Bedeutung sein (37). Dass das Fehlen entsprechender KI-Kompetenzen ein Hindernis für den Einsatz von KI am Arbeitsplatz darstellt, ist erwiesen (38). KI kann auch zur Verbesserung der Erwachsenenbildung eingesetzt werden.

4.3.    Arbeitsbedingungen

4.3.1.

In Bezug auf die Arbeitsbedingungen sind die Auswirkungen von KI-Systemen besonders unklar, (39) weil KI-Systeme zu einer tiefgreifenden Transformation der Organisations- und Leitungstätigkeiten und Kontrollen (40) sowie zur grundlegenden Umgestaltung der Arbeitsabläufe (41) führen können.

4.3.2.

Werden KI-Tools richtig eingesetzt, können sie zur Gesundheit und Sicherheit am Arbeitsplatz beitragen, weil sie die Arbeitsbelastung der Arbeitnehmer verringern, (42) eine bessere Vereinbarkeit von Beruf und Privatleben bewirken (43) und die psychische Gesundheit am Arbeitsplatz verbessern (44) können. KI-Tools können gefährliche Aufgaben übernehmen oder reduzieren und zur Vermeidung von Erkrankungen des Stütz- und Bewegungsapparats beitragen. Die mit KI verbundene Arbeitszeitersparnis kann bei gerechter Umverteilung zum Wohlbefinden der Arbeitnehmer beitragen. Werden KI-Tools für repetitive und eintönige Aufgaben eingesetzt, kann dadurch die Zufriedenheit am Arbeitsplatz steigen (45). Der Einsatz von KI-Anwendungen kann die Durchsetzung besserer, gerechterer und diskriminierungsfreier Entscheidungen und Verfahrensweisen ermöglichen (46).

4.3.3.

KI-Anwendungen können zur umfassenderen Verteilung hochwertigerer Informationen beitragen, tiefer gehende Einblicke in Daten liefern und besser eingegrenzte Entscheidungen ermöglichen.

4.3.4.

Werden die Bedingungen für einen vertrauenswürdigen Einsatz von KI-Systemen am Arbeitsplatz nicht erfüllt, können jedoch Risiken auftreten (47).

4.3.5.

Algorithmische Managementsysteme ermöglichen eine Form der allgegenwärtigen Kontrolle, die deutlich stärker ist als jede frühere Form der Kontrolle und sich zum Nachteil der Arbeitnehmer auswirken kann (48). Untersuchungen (49) haben gezeigt, dass sich algorithmisches Management negativ auf die Gesundheit und Sicherheit der Arbeitnehmer auswirken kann und Unternehmen kaum Interesse daran haben, diese Technologien zur Verbesserung der Gesundheit und Sicherheit am Arbeitsplatz einzusetzen.

4.3.6.

Folgen für Arbeitnehmerinnen und Arbeitnehmer können ein Missbrauch der Überwachung, Diskriminierung, Autonomieverlust und psychosoziale Risiken (50) sein. KI-Instrumente können Kollektive am Arbeitsplatz beeinträchtigen und das Gefühl der Isolation unter den Beschäftigten verschärfen.

4.3.7.

Durch KI-Systeme können Informationsasymmetrien zwischen Führungsebene und Arbeitnehmern verstärkt werden (51).

4.4.    Bewältigung von Ungleichheiten

4.4.1.

Laut jüngsten Studien zur generativen KI können diese Systeme dazu beitragen, dass Ungleichheiten abgebaut, fortgesetzt oder durch neue Risiken verstärkt werden.

4.4.1.1.

Zwischen hochqualifizierten und geringer qualifizierten Arbeitnehmern könnten die Ungleichheiten möglicherweise abnehmen. Die meisten Studien gelangen übereinstimmend zu dem Schluss, dass die Arbeitsplätze von Festangestellten in höher qualifizierten Berufsgruppen stärker durch die Einführung von generativer KI gefährdet sind (52). Wird generative KI zur Steigerung der Innovationskraft eines Unternehmens, zur Straffung der Arbeitsabläufe und Verbesserung der Arbeitsplatzqualität eingesetzt, profitieren davon vor allem geringer qualifizierte und weniger erfahrene Arbeitnehmer, da KI-Modelle zum Austausch bewährter Verfahrensweisen zwischen erfahrenen Arbeitnehmern und neuen Mitarbeitern eingesetzt werden können (53).

4.4.1.2.

Frauen sowie gering qualifizierte und ältere Arbeitnehmer gehören zu schutzbedürftigen Gruppen, auf die sich KI am stärksten auswirkt (54). Die mit der Automatisierung verbundenen Risiken betreffen Büroarbeit in höherem Maße. Die Auswirkungen auf den Arbeitsmarkt sind in diesem Bereich geschlechtsspezifisch und der Frauenanteil aller von der Automatisierung betroffenen Beschäftigten ist doppelt so hoch; (55) zudem sind Frauen häufiger betroffen, wenn es um das Transformationspotenzial ihres Arbeitsplatzes geht.

4.4.1.3.

Aufgrund des in einigen Ländern geringen Frauenanteils bei Absolventen in den MINT-Fächern oder Informatik und Informationstechnologie stellen sich erhebliche Herausforderungen, die sich im Zusammenhang mit der Verbreitung der KI in einem Beschäftigungs- und Lohngefälle niederschlagen (56). Der Frage der Gleichstellung der Geschlechter sollte auf allen Ebenen mehr Aufmerksamkeit geschenkt werden. Der soziale Dialog und geeignete Maßnahmen sind äußerst wichtig, um diese Entwicklungstrends vorhersehen zu können.

4.4.2.   Neue globale Ungleichheit

4.4.2.1.

Die Weiterentwicklung von KI wird durch die unsichtbaren Arbeitnehmerinnen und Arbeitnehmer vorangetrieben, die ihrer Tätigkeit vor allem in Ländern mit niedrigem Einkommen unter schlechten Arbeitsbedingungen nachgehen (57).

4.5.    Der soziale Dialog und die Einbeziehung der Arbeitnehmer sind äußerst wichtig, um das Potenzial der KI ausschöpfen zu können.

4.5.1.

Aufgrund der besonderen Merkmale von KI-Systemen und ihrer Auswirkungen auf organisatorische Fragen müssen Akzeptanz, Zuverlässigkeit und Vertrauen in die Entwicklung und Einführung von KI gegeben sein, um deren positive Auswirkungen zu fördern (58).

4.5.2.

Die Konsultation von Arbeitnehmervertretern führt nachweislich zu Leistungssteigerungen und verbesserten Arbeitsbedingungen (59). Wenn Arbeitnehmervertreter das System der kollektiven Mitbestimmung in Anspruch nehmen, sind die Privatsphäre, die Autonomie und der Ermessensspielraum der Arbeitnehmer gegenüber Personalmanagementtechnologien besser geschützt (60).

4.5.3.

Damit in allen Einrichtungen, in denen KI eingesetzt wird, ein wirksamer sozialer Dialog stattfinden kann, fordert der EWSA, dass alle einschlägigen Rechtsakte und sonstigen Vorgaben ausdrückliche Leitlinien enthalten.

4.5.4.

Bürgerinnen und Bürger sowie Interessenträger sollten über die Nutzung und den Zweck der KU in unseren Gesellschaften und am Arbeitsplatz entscheiden. Die Sozialpartner und die Bürgerinnen und Bürger sollten in öffentliche Debatten, Kompetenzvermittlung und Ausbildung einbezogen werden.

4.6.    Die Vorbereitung auf den Einsatz von KI („AI Preparedness“) hat entscheidende Bedeutung.  (61)

4.6.1.

Damit das mit der Einführung von KI verbundene Potenzial am Arbeitsplatz ausgeschöpft werden kann, fordert der EWSA die Europäische Kommission auf, darauf hinzuwirken, dass

4.6.1.1.

politische Entscheidungsträger auf allen Ebenen die auf Kompetenzentwicklung ausgerichteten Maßnahmen überprüfen, damit sichergestellt ist, dass Arbeitnehmer durch die neuen KI-Systeme nicht ersetzt, sondern unterstützt werden;

4.6.1.2.

im Rahmen der Politik KI-Module für die frühzeitige allgemeine und berufliche Bildung entwickelt und die Bürgerinnen und Bürger mit Informationsmaterial für das Thema KI sensibilisiert werden. Diese Politik sollte dafür sorgen, dass im Rahmen der formalen Bildung frühzeitig Kenntnisse zu KI-Technologien vermittelt werden, damit alle Bürger die Möglichkeit haben, sich mit diesen Technologien vertraut zu machen;

4.6.1.3.

Artikel 4 des KI-Gesetzes rasch umgesetzt wird, dem zufolge Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen müssen, um sicherzustellen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt.

5.   Durchsetzung und Anpassung der geltenden EU-Rechtsvorschriften

5.1.    Die Datenschutzgrundverordnung (DSGVO)  (62) ist nicht speziell auf die Regelung des Datenschutzes am Arbeitsplatz ausgelegt.

5.1.1.

Die Rechtsgrundlagen der DSGVO als eigenständige Verordnung reichen jedoch zur Minderung der Risiken gefährlicher KI-Systeme am Arbeitsplatz nicht aus, da die Besonderheiten von KI-Systemen im Hinblick auf die Verarbeitung personenbezogener Daten im Beschäftigungs- und Arbeitsumfeld darin nicht berücksichtigt werden.

5.1.2.

Es besteht Einigkeit darüber, dass weder die Einwilligung des Arbeitnehmers noch ein berechtigtes Interesse eine angemessene Grundlage für die Datenverarbeitung im Fall von asymmetrischen Machtverhältnissen am Arbeitsplatz darstellen (63). Aus einer kürzlich durchgeführten Umfrage unter 6 300 Arbeitnehmern in nordischen Ländern geht hervor, dass es in allen von der Studie abgedeckten Bereichen zu Missbrauch bei derartigen asymmetrischen Machtverhältnissen kommt (64).

5.1.3.

Der Anwendungsbereich von Artikel 15 Absatz 1 Buchstabe h der DSGVO ist begrenzt, da er nicht für eine halbautomatisierte Entscheidungsfindung gilt.

5.1.4.

Arbeitnehmer können von der Verarbeitung der über die eigene Person erhobenen Daten weniger betroffen sein als von der Verarbeitung der von anderen Arbeitnehmern erhobenen Daten (65). Die Rechte von Gewerkschaften oder Arbeitnehmervertretern, die Datenerhebung und -verarbeitung zu kontrollieren, sind begrenzt. Die Annahme, dass Verletzungen der Privatsphäre immer den Einzelnen betreffen, stellt im Zusammenhang mit algorithmischen Managementsystemen eine erhebliche Schwachstelle dar. Darüber hinaus sind die Bestimmungen über datenschutzbezogene Folgenabschätzungen unzureichend.

5.1.5.

In Artikel 88 der DSGVO heißt es, dass die Mitgliedstaaten durch Rechtsvorschriften oder durch Kollektivvereinbarungen „spezifischere Vorschriften“ für die Verarbeitung personenbezogener Daten im Beschäftigungskontext vorsehen können (66). Artikel 88 wurde seit Inkrafttreten der DSGVO kaum umgesetzt und gilt in fast allen Mitgliedstaaten nach wie vor lediglich auf dem Papier (67).

5.1.6.

Damit die Arbeitnehmer mehr Einfluss auf ihre Daten nehmen können, fordert der EWSA die Europäische Kommission auf, Maßnahmen zur wirksamen Durchsetzung von Artikel 88 der DSGVO zu ergreifen.

5.2.    Das KI-Gesetz

5.2.1.

Das übergeordnete Ziel der Verordnung über künstliche Intelligenz besteht darin, der Einführung und Verbreitung von KI in der EU mit einem einheitlichen Rechtsrahmen für „vertrauenswürdige KI“ den Weg zu ebnen. Die Grundüberlegung ist dabei, dass KI besser angenommen werden wird, wenn es gelingt, die mit ihrer Nutzung verbundenen Risiken zu beherrschen. Da es sich um einen bereichsübergreifenden Rechtsakt handelt, werden mit der Verordnung mehrere übergeordnete Ziele verfolgt, so ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und Grundrechte. Rechtsgrundlage der Verordnung über künstliche Intelligenz sind in erster Linie die Binnenmarktvorschriften des AEUV. Das KI-Gesetz ist nicht speziell darauf ausgerichtet, Probleme am Arbeitsplatz zu regeln (68).

5.2.2.

Nach der Verordnung über künstliche Intelligenz gelten für den Einsatz von KI am Arbeitsplatz gewisse Beschränkungen: Bestimmte Systeme sind verboten, und die Bereitstellung bzw. Einführung von KI-Systemen ist an strenge Auflagen gebunden – insbesondere bei Systemen, die als hochriskant gelten, weil sie im Beschäftigungskontext, für Personalmanagement und bei Auftragsvermittlungsportalen für Selbstständige eingesetzt werden. Die Verordnung über künstliche Intelligenz ist diesbezüglich also ein wichtiger Schritt in die richtige Richtung.

5.2.3.

Aus Sicht des EWSA gibt es in der KI-Verordnung mehrere Schlupflöcher im Hinblick auf die Achtung der Grundrechte am Arbeitsplatz.

5.2.3.1.

In der KI-Verordnung wird eingeräumt, dass eine Ex-ante-Definition des Begriffs „Risiko“ nicht ausreicht, um den Schaden abzuwenden, den KI-Systeme verursachen können. Außerdem ist es unmöglich, den Begriff im Voraus vollständig zu definieren, da die Definition auch davon abhängt, wofür die KI eingesetzt wird (69). Bei Hochrisiko-KI-Systemen muss das Risikomanagement während des gesamten Lebenszyklus des Systems zum Einsatz kommen (Artikel 9). In der KI-Verordnung ist jedoch ausdrücklich vorgesehen, dass ein der Verordnung entsprechendes KI-System dennoch ein Risiko für die Gesundheit oder die Sicherheit von Personen oder für die Grundrechte darstellen kann (Artikel 82) (70).

5.2.3.2.

Die Verpflichtung zur Durchführung von Grundrechte-Folgenabschätzungen bei Hochrisiko-Systemen gilt lediglich für Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, sowie Banken und Versicherungsunternehmen (Artikel 27).

5.2.3.3.

Arbeitnehmervertreter haben keinen Anspruch auf Anhörung, sondern lediglich Anspruch auf Unterrichtung (Artikel 26 Absatz 7). Tests in Reallaboren (Artikel 57) sowie Tests von Hochrisiko-KI-Systemen unter Realbedingungen (Artikel 60) sind nur vor der Inbetriebnahme des Systems zulässig.

5.2.3.4.

Aus Sicht des EWSA sind Tests unverzichtbar dafür, dass Organisationen in einer kontrollierten Umgebung Risiken ermitteln, Algorithmen auf unbeabsichtigte Folgen prüfen und vor der vollständigen Einführung eine Feinabstimmung der Algorithmen vornehmen können. Damit rechtliche Klarheit besteht und die Verordnung über künstliche Intelligenz eindeutig um- und durchgesetzt werden kann, sollten dafür ausdrückliche Leitlinien vorgesehen werden.

5.2.4.

Um diese Probleme anzugehen, fordert der EWSA das KI-Büro auf, bei der Ausarbeitung seiner ersten Leitlinien eng mit den europäischen branchenübergreifenden Sozialpartnern zusammenzuarbeiten, damit in Bezug auf KI-Systeme, mit denen sich Gefühle von Personen erkennen lassen, eindeutige Vorgaben formuliert werden und Klarstellungen erfolgen. Es sollten umfassende, solide und klar strukturierte Kanäle für die Koordinierung zwischen dem KI-Büro und den GD EMPL und Connect der Europäischen Kommission eingerichtet werden.

5.2.5.

Der EWSA ist der Auffassung, dass es Sache der Anbieter ist, eine Ex-ante-Grundrechte-Folgenabschätzung für Hochrisikosysteme durchzuführen, bevor diese in allen Einrichtungen eingesetzt werden.

5.2.6.

Der EWSA fordert, klare Leitlinien für die Nutzung von Reallaboren und Tests unter Realbedingungen in einer künftigen Initiative zu KI am Arbeitsplatz vorzusehen.

5.3.    Richtlinien über die Unterrichtung und Anhörung der Arbeitnehmer, die Sicherheit und den Gesundheitsschutz der Arbeitnehmer bei der Arbeit und die autonome Rahmenvereinbarung der europäischen Sozialpartner über die Digitalisierung

5.3.1.

Die Richtlinie 2002/14/EG (71) sichert kollektive Rechte auf Unterrichtung und Anhörung der Arbeitnehmervertreter zu und erstreckt sich auch auf antizipative Maßnahmen, die eine Bedrohung für die Beschäftigung darstellen, sowie Entscheidungen, die „wesentliche Veränderungen“ der Arbeitsorganisation mit sich bringen können (Artikel 4). Gemäß der Richtlinie 89/391/EWG (72) müssen Arbeitgeber die Sicherheit und den Gesundheitsschutz der Arbeitnehmer bei allen arbeitsbezogenen Aspekten gewährleisten, Information und Unterweisung bereitstellen und die Arbeitnehmervertreter zu Gesundheitsschutz und Sicherheit konsultieren. Da die Einführung von KI-Tools wenig transparent erfolgt, sich diese Tools immer weiterentwickeln und sich nicht ohne Weiteres bestimmen lässt, worin die „wesentlichen Änderungen“ genau bestehen, müssen diese Richtlinien durch ausdrückliche Leitlinien verstärkt werden.

5.3.2.

Die inhärente Iterativität und Dynamik der KI-Systeme korrespondiert mit der Regelmäßigkeit des Dialogprozesses, der in der Rahmenvereinbarung der europäischen Sozialpartner über die Digitalisierung (73) verankert ist.

5.3.3.

Auf die Frage der KI wird in der Rahmenvereinbarung jedoch nur am Rande eingegangen. Auch die speziell KI-bezogenen Maßnahmen, die von den nationalen Sozialpartnern im Zusammenhang mit der Umsetzung dieser Vereinbarung unterbreitet wurden, halten sich in Grenzen. Die meisten dieser Maßnahmen beziehen sich lediglich auf Telearbeit und das Recht auf Nichterreichbarkeit.

5.3.4.

Der EWSA fordert die Europäische Kommission auf, Fragen im Zusammenhang mit KI ausführlich in einem Ad-hoc-Instrument zu behandeln, um der Dynamik des sozialen Dialogs und den Bewertungen der Gesundheits- und Sicherheitsrisiken von KI-Systemen in der autonomen Vereinbarung Rechnung zu tragen.

5.4.    Die Richtlinie über Plattformarbeit  (74)

5.4.1.

Die Richtlinie über Plattformarbeit umfasst Bestimmungen zur wirksamen Regelung automatisierter Überwachungs- und Entscheidungssysteme. Nach diesen insbesondere in Kapitel III (75) enthaltenen Bestimmungen gilt Folgendes:

—

Die nach der DSGVO geltende Transparenzregelung für Algorithmen wird ausgeweitet, sodass sie nicht nur für die vollautomatisierte, sondern auch für die teilautomatisierte Entscheidungsfindung gilt.

—

Im Rahmen eines kollektiven Rechts auf Auskunft und Fachwissen werden digitale Arbeitsplattformen dazu verpflichtet, die algorithmischen Managementsysteme für Plattformbeschäftigte, ihre Vertreter sowie Arbeitsbehörden verständlich zu gestalten.

—

Plattformen müssen die Datenschutz-Folgenabschätzungen auch den Arbeitnehmervertretern zukommen lassen.

—

Die Verarbeitung personenbezogener Daten, „die nicht untrennbar mit der Erfüllung des Vertrags [...] verbunden und für die Vertragserfüllung unbedingt erforderlich sind“ ist untersagt, und „personenbezogene Daten über den emotionalen oder psychischen Zustand des Plattformbeschäftigten“ dürfen unter keinen Umständen verarbeitet werden.

—

Es besteht Rechtsanspruch auf Einbindung des Menschen (Artikel 10 über die menschliche Aufsicht über Überwachungs- und Entscheidungssysteme sowie Artikel 11 über die Überprüfung durch den Menschen).

—

In Artikel 12 über Sicherheit und Gesundheit werden spezifische Anforderungen für die Bewertung der Risiken eingeführt, die automatisierte Überwachungs- oder Entscheidungssysteme für die Sicherheit und Gesundheit der Arbeitnehmer darstellen.

5.4.2.

Die Bestimmungen von Kapitel III der Richtlinie über Plattformarbeit gelten nur für Personen, die Plattformarbeit leisten. Algorithmische Management-Verfahren an regulären Arbeitsplätzen sind jedoch bereits Realität, (76) z. B. bei der Zuweisung und Optimierung von Arbeitsschichten, der Überprüfung und Bewertung von Stellenbewerbern, der Bewertung der Beschäftigungsleistung und der Behandlung von Personalproblemen. Der EWSA fordert die Europäische Kommission auf, den Geltungsbereich der Bestimmungen von Kapitel III der Richtlinie über Plattformarbeit auf alle Arbeitnehmer auszuweiten.

Brüssel, den 22. Januar 2025

Der Präsident

des Europäischen Wirtschafts- und Sozialausschusses

Oliver RÖPKE


(1)   Shaping the advancement of artificial intelligence through social dialogue .

(2)   ABl. L, 2024/1689, 12.7.2024, ELI: https://eur-lex.europa.eu/eli/reg/2024/1689/oj.

(3)   ABl. L 119 vom 4.5.2016, S. 1.

(4)   ABl. L, 2024/2831, 11.11.2024, ELI: http://data.europa.eu/eli/dir/2024/2831/oj.

(5)   ABl. L 80 vom 23.3.2002, S. 29.

(6)   ABl. L 183 vom 29.6.1989, S. 1.

(7)   Framework Agreement on Digitalisation | Etuc resources center.

(8)  Weltwirtschaftsforum, Markets of Tomorrow: Pathways to a New Economy , 2020.

(9)  McKinsey, Shaping the digital transformation in Europe , 2020.

(10)  Siehe Link.

(11)  STOA-Studie (Wissenschaftliche Vorausschau) zum Thema The use of artificial intelligence in workplace management , 2022.

(12)   Siehe Website.

(13)  Siehe Anhang.

(14)   Siehe Website.

(15)   ABl. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj.

(16)  K. C. Kellogg et al. (2020), Algorithms at Work: The New Contested Terrain of Control .

(17)  Alle KI-Tools auf der Grundlage von adaptativem maschinellen Lernen. Siehe die aktualisierte Definition der OECD.

(18)  OECD (2024), The impact of Artificial Intelligence on productivity, distribution and growth .

(19)  Kellogg et al. (2020); Cazzaniga et al. (2024), Gen-AI: Artificial Intelligence and the Future of Work .

(20)  T. Babina et al (2024), Firm Investments in Artificial Intelligence Technologies and Changes in Workforce Composition.

(21)  EPRS (2022), AI and digital tools in workplace management and evaluation; Tambe et al., Artificial Intelligence in Human Resources Management: Challenges and a Path Forward, California Management Review, 2019.

(22)  PwC (2017), Sizing the prize .

(23)  EPRS (2022), B. Hmoud und V. L. Laszlo (Network Intelligence Studies, 2019), Will Artificial Intelligence Take Over Human Resources Recruitment and Selection?

(24)  PwC (2017).

(25)  OECD (2024).

(26)  M. Comunale et. al. (2024), The Economic Impacts and the Regulation of AI: A Review of the Academic Literature and Policy Actions, Arbeitspapier des IWF Nr. 2024/65.

(27)  Gmyrek P. et al. (2023), Generative AI and jobs: A global analysis of potential effects on job quantity and quality, Arbeitspapier der IAO Nr. 96.

(28)  Comunale et al. (2024).

(29)  Comunale et al. (2024).

(30)  D. Acemoglu (2024), The Simple Macroeconomics of AI, Massachusetts Institute of Technology.

(31)  Grymek P. et al. (2023).

(32)  Gmyrek P. et al. (2023), S. 37.

(33)  OECD 2024, Who will be the workers most affected by AI?, OECD AI Working Paper Nr. 26.

(34)  OECD (2023), OECD Employment Outlook 2023 .

(35)  Commission de l’intelligence artificielle (2024), Bericht IA: Notre ambition pour la France.

(36)  Alekseeva, L. et al. (2021), The demand for AI skills in the labor market, Labour Economics, Bd. 71.

(37)  OECD (2023), OECD Employment Outlook 2023 .

(38)  OECD (2023), The impact of AI on the workplace: Main findings from the OECD AI surveys of employers and workers .

(39)  Böhmer & H. Schinnenburg (2023), Critical exploration of AI-driven HRM to build up organizational capabilities .

(40)  Kellogg et al., (2020), J. Adams-Prassl, H. Abraha et al (2023), Regulating algorithmic management: A blueprint, European Labour Law Journal 2023, Bd. 14(2) S. 124–151.

(41)  Nurski L. (2024), AI at Work, why there’s more to it than task automation, CEPS Explainer.

(42)  EPRS (2022), CIPD and PA Consulting, People and machines: from hype to reality, Chartered Institute of Personnel and Development, 2019.

(43)  Studie des EP (2021), Improving working conditions using Artificial Intelligence.

(44)  Workplace Intelligence (2020), Studie: AI at Work.

(45)  OECD (2023), OECD Employment Outlook 2023 .

(46)  Pessach, D., Singer, G., Avrahami, D., et al. (2020), Employees recruitment: A prescriptive analytics approach via machine learning and mathematical programming. Decision Support Systems.

(47)  V. Mandinaud, A. Ponce del Castillo (2024), AI systems, risks and working conditions AI systems, risks and working conditions, in Artificial intelligence, labour and society , ETUI.

(48)  Kellogg et al. 2020.

(49)  EU-OSHA(2024), Worker management through AI – From technology development to the impacts on workers and their safety and health , 2024.

(50)  EU-OSHA (2022), OSH Pulse – Occupational safety and health in post-pandemic workplaces , 2022.

(51)  OECD (2023).

(52)  Eloundou, T. et al. (2023), GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models.

(53)  Comunale et al. (2024); Brynjolfsson E. et al. (2023): Generative IA at work, NBER Working Paper No. 3116.

(54)  OECD 2024.

(55)   ILO Global Survey on Microtasks workers (2017), Tubaro et al. (2020). The trainer, the verifier, the imitator: Three ways in which human platform workers support artificial intelligence. Big Data & Society, 7(1).

(56)  Commission de l’intelligence artificielle (2024), Bericht „IA: Notre ambition pour la France“.

(57)  Die Weiterentwicklung von KI wird weltweit durch die unsichtbaren Arbeitnehmer vorangetrieben, die ihrer Tätigkeit vor allem in Ländern mit niedrigem Einkommen unter schlechten Arbeitsbedingungen nachgehen. Tubaro et al. (2020).

(58)  OECD (2024).

(59)  OECD (2023), The impact of AI on the workplace: Main findings from the OECD AI surveys of employers and workers .

(60)  FEPS (2024), Algorithm by and for the workers .

(61)  Cazzaniga et al. (2024).

(62)   ABl. L 119 vom 4.5.2016, S. 1.

(63)  EPRS (2022).

(64)  FEPS (2024).

(65)  Martin Tisné (2020), The Data Delusion: protecting individual data isn’t enough when the harm is collective, Luminate, Stanford University’s Cyber Policy Center.

(66)  Artikel 88 kommt in den EU-Mitgliedstaaten nach wie vor kaum zur Anwendung.

(67)  Abraha H. (2023), Article 88 GDPR and the Interplay between EU and Member State Employee Data protection rules, The Modern Law Review.

(68)  Aida Ponce Del Castillo, The EU’s AI Act: governing through uncertainties and complexity, identifying opportunities for action, global workplace law and policy, kluwerlawonline.com, 2024.

(69)  Isabel Kusche (2024), Possible harms of artificial intelligence and the EU AI act: fundamental rights and risk, Journal of Risk Research.

(70)  Isabel Kusche (2024).

(71)   ABl. L 80 vom 23.3.2002, S. 29.

(72)   ABl. L 183 vom 29.6.1989, S. 1.

(73)   https://resourcecentre.etuc.org/agreement/framework-agreement-digitalisation.

(74)   ABl. L, 2024/2831, 11.11.2024, ELI: http://data.europa.eu/eli/dir/2024/2831/oj.

(75)  J. Adams-Prassl, H. Abraha et al (2023).

(76)  EU Science Hub (2024), „Algorithmic management practices in regular workplaces are already a reality“.


ANHANG I

Folgender abgelehnter Änderungsantrag erhielt mindestens ein Viertel der abgegebenen Stimmen (Artikel 14 Absatz 3 der Geschäftsordnung):

ÄNDERUNGSANTRAG 1

SOC/803

Für eine arbeitnehmerfreundliche künstliche Intelligenz

Die gesamte von der Fachgruppe SOC vorgelegte Stellungnahme durch folgenden Text ersetzen (die Begründung folgt am Ende des Dokuments):

Änderung

1.   Schlussfolgerungen und Empfehlungen

1.1.

Nun, da die Welt vor einer weiteren digitalen Revolution steht, die durch die Verbreitung künstlicher Intelligenz (KI) ausgelöst wurde, bietet sich Europa die Chance, seine Defizite bei Innovation und Produktivität zu beheben und sein Produktionspotenzial wiederherzustellen (1).

1.2.

Derzeit ist Europa bei digitalen Technologien wie KI schwach aufgestellt (2). Die USA und China sind Europa bereits weit voraus, und diese Lücke wird schwer zu schließen sein (3). Darüber hinaus gibt es große Unterschiede beim Wachstum der Arbeitsproduktivität zwischen den USA und der EU (Eurozone) (4). Seit der Pandemie und bis Mitte 2024 stieg die Arbeitsproduktivität je geleisteter Arbeitsstunde im Euro-Währungsgebiet um 0,9 % gegenüber 6,7 % in den Vereinigten Staaten. Aus der Analyse der Europäischen Zentralbank geht hervor, dass diese Zahlen mit der Fluktuation auf dem Arbeitsmarkt und höheren Investitionen in die Digitalisierung in Zusammenhang stehen (5).

1.3.

Der Einsatz von KI hat erhebliche potenzielle Vorteile: Er erhöht Wettbewerbsfähigkeit und Produktivität, treibt Innovation und wissenschaftlichen Fortschritt (6) voran, fördert den ökologischen Wandel (7) und unterstützt die Verbesserung der Arbeitsbedingungen. Wir müssen dafür sorgen, dass die EU beim digitalen Wandel nicht zurückbleibt. Um das Potenzial der KI nutzen zu können, müssen die mit ihr verbundenen Mythen und Ängste überwunden und abgebaut werden.

1.4.

Vorteile der KI in der Arbeitswelt sind z. B. die Automatisierung routinemäßiger und eintöniger Aufgaben, das heißt, Beschäftigte werden entlastet und haben so mehr Zeit für forderndere, lohnendere Tätigkeiten; sie können ihre Aufgaben schneller erfüllen und die Qualität ihrer Ergebnisse erhöhen. KI kann auch dazu beitragen, die Arbeitsorganisation und Arbeitsplatzgestaltung zu verbessern und den künftigen Qualifikations- und Einstellungsbedarf besser zu ermitteln (8). Dazu müssen eine breite Akzeptanz durch und eine Zusammenarbeit mit den Arbeitskräften bestehen und die erforderlichen Schulungen der Arbeitnehmer für den Einsatz und die Nutzung von KI am Arbeitsplatz angeboten werden. Der EWSA weist darauf hin, dass die Entwicklung, der Einsatz und die Nutzung von KI stets dem Grundsatz „human in command“ folgen müssen, d. h. der Mensch letztlich die Kontrolle haben muss.

1.5.

Der umfassende Einsatz von KI wird Führungskräfte und Arbeitnehmer auch dabei unterstützen, Sicherheit und Gesundheitsschutz am Arbeitsplatz durch eine verstärkte unparteiische und evidenzbasierte Risikobewertung sowie gezielte Inspektionen von Sicherheit und Gesundheitsschutz bei der Arbeit zu verbessern, und dazu beitragen, Probleme (einschließlich psychosozialer Risiken), die Maßnahmen erfordern, besser zu erkennen. Dazu gehört auch eine bessere Prävention von Arbeitsunfällen (9).

1.6.

Gleichzeitig gibt es Befürchtungen und Bedenken im Zusammenhang mit einer breiteren Nutzung von KI in der Arbeitswelt, so beispielsweise eine Intensivierung der Arbeit, die zu erhöhtem Stress führt, eine verstärkte Überwachung und Kontrolle, fehlende menschliche Aufsicht, ein Verlust von Autonomie und die rasche Veraltung erworbener Kompetenzen.

1.7.

Um diesen Befürchtungen Rechnung zu tragen, müssen die Sozialpartner und der soziale Dialog auf allen Ebenen eine wichtige Rolle spielen. Nach Ansicht des EWSA muss ein positives und günstiges Umfeld für den sozialen Dialog im Einklang mit den geltenden nationalen Vorschriften und Verfahren bestehen, um eine verantwortungsvolle und „vertrauenswürdige“ KI in der Arbeitswelt fördern zu können.

1.8.

Der EWSA weist darauf hin, dass die Digitale Agenda der EU für 2030 insgesamt 116 Rechtsakte umfasst (10). Konkret werden die Auswirkungen von KI auf die Arbeitswelt bereits in den EU-Rechtsvorschriften über KI nach dem Grundsatz „human in command“ sowie durch bestehende Sozialvorschriften behandelt (11). Die Umsetzung und Durchsetzung des bestehenden Rechtsrahmens ist wichtig, damit KI reibungslos eingesetzt und so als Motor für den wirtschaftlichen und technologischen Fortschritt in der EU dienen kann.

1.9.

Vor diesem Hintergrund bedauert der EWSA, dass die Europäische Kommission trotz des bestehenden weit gefassten Rechtsrahmens, der bereits eine umfassende und ausreichende Regulierung der KI im Arbeitsleben vorsieht, weitere Rechtsvorschriften in Bezug auf die Auswirkungen der Digitalisierung in der Arbeitswelt für erforderlich hält (12). Dies steht auch im Widerspruch zur derzeitigen politischen Verpflichtung, die Rechtsvorschriften zu vereinfachen und die rechtlichen Anforderungen und Berichtspflichten um 25 % zu verringern. Von einer Änderung des bestehenden Rechtsrahmens bereits vor seiner Umsetzung würde ein sehr ungünstiges Signal im Hinblick auf Fortschritte und Investitionen in KI in der EU ausgehen.

1.10.

Stattdessen sollte die Kommission den Unternehmen ermöglichen, verantwortungsvolle und ethische Ansätze für die Arbeit mit KI-Technologien innerhalb des derzeitigen Rechtsrahmens zu entwickeln. Dadurch wird sichergestellt, dass die Autonomie der Sozialpartner geachtet wird und KI zur Verbesserung der Arbeitsbedingungen, zur Förderung des ökologischen Wandels und zur Steigerung der Wettbewerbsfähigkeit der EU eingesetzt wird.

1.11.

Um Unternehmen, insbesondere KMU, bei der Einführung von KI wirksam zu unterstützen, ist Folgendes notwendig: i) effiziente und wirksame Um- und Durchsetzung der bestehenden Rechtsvorschriften und Leitlinien, dabei sind die Einführung zusätzlicher Anforderungen sowie Mehrfachmeldungen um jeden Preis zu vermeiden; ii) ein starker sozialer Dialog, auch durch die Stärkung der Kapazitäten der Sozialpartner bei gleichzeitiger Achtung der nationalen Gepflogenheiten; (iii) qualifizierte Arbeitskräfte und geeignete Schulungsmöglichkeiten.

2.   Chancen und Herausforderungen der KI für die Wirtschaft der EU

2.1.

Die Stellungnahme SOC/803 wurde auf der Grundlage des Vorschlags der Gruppe II für eine Initiativstellungnahme (unter dem ursprünglichen Titel: „Für eine arbeitnehmerfreundliche künstliche Intelligenz: Rolle der Gewerkschaften bei der Vorbeugung und Minimierung negativer Auswirkungen in der Arbeitswelt“) ausgearbeitet, mit der die Auswirkungen von KI auf die Arbeitswelt untersucht und (legislative sowie nicht legislative) Vorschläge und Empfehlungen zum Schutz der Privatsphäre und der Grundrechte der Arbeitnehmer vorgelegt werden sollten. Sie wurde später mit der auf Ersuchen des polnischen Ratsvorsitzes ausgearbeiteten Stellungnahme „Künstliche Intelligenz – Potenzial und Risiken im Zusammenhang mit beschäftigungs- und arbeitsmarktpolitischen Maßnahmen“ zusammengelegt (13).

2.2.

Der EWSA ist der Auffassung, dass KI enorme Vorteile wie höhere Produktivitätsgewinne und raschere wissenschaftliche Fortschritte bringen und einen Beitrag zur Bewältigung des Klimawandels leisten kann (14). Sie fördert die Innovation und wurde zu Recht als transformative Kraft bezeichnet, die unsere gesamte Wirtschaft umgestaltet (15). Es ist äußerst wichtig, dass die EU-Unternehmen bei dieser Entwicklung an vorderster Front stehen, um die Wettbewerbsfähigkeit der EU zu stärken und die EU als internationale Referenz für KI zu positionieren. „Durch unsere Künstliche Intelligenz (KI) ist Europa bereits führend, wenn es darum geht, KI sicherer und vertrauenswürdiger zu machen und die Risiken, die sich aus ihrem Missbrauch ergeben, einzudämmen. Wir müssen nun unsere Anstrengungen konzentrieren, um weltweit führend im Bereich der KI-Innovation zu werden.“ (16)

2.3.

Der digitale Wandel ist eine Chance für Europa, doch wir stehen vor erheblichen Herausforderungen. Die anfangs schleppende Verbreitung von KI-Tools bei europäischen Unternehmen hat Schätzungen zufolge seit der Entstehung generativer KI zwar rasch an Fahrt aufgenommen, allerdings scheint hier ein deutlicher Unterschied zwischen Großunternehmen und KMU zu bestehen (17). Es gibt auch branchen- und länderspezifische Unterschiede: Laut Eurostat wurde KI im Jahr 2023 im Informations- und Kommunikationssektor sowie bei der Erbringung von freiberuflichen, wissenschaftlichen und technischen Dienstleistungen umfassend genutzt, in anderen Branchen jedoch deutlich weniger eingesetzt. Auch zwischen den EU-Ländern gibt es erhebliche Unterschiede bei der Nutzung (18).

2.4.

Im Draghi-Bericht heißt es, da die Welt nun vor einer weiteren digitalen Revolution stehe, die durch die Verbreitung künstlicher Intelligenz (KI) ausgelöst wurde, biete sich für Europa die Chance, seine Defizite bei Innovation und Produktivität zu beheben und sein Produktionspotenzial wiederherzustellen (19). Europa ist bei digitalen Technologien wie KI jedoch schwach aufgestellt. Die USA und China sind Europa bereits weit voraus, und diese Lücke wird schwer zu schließen sein (20).

2.5.

Das Tool „Global AI Vibrancy“ (21) der Universität Stanford zeigt das AI-Vibrancy-Ranking einzelner Länder. Die USA, China und das Vereinigte Königreich belegen die drei ersten Plätze, unter den EU-Mitgliedstaaten sind lediglich zwei (Frankreich und Deutschland auf Platz 5 bzw. 8) aufgeführt. Was die Herkunft von KI-Modellen betrifft, so stammten laut dem KI-Index-Bericht (22) 61 wichtige KI-Modelle von Einrichtungen mit Sitz in den USA gegenüber einer deutlich niedrigeren Zahl von KI-Modellen aus der EU (21) und China (15).

2.6.

Laut der weltweiten Erhebung von McKinsey (23) geben 65 % der Befragten an, dass ihre Organisationen regelmäßig generative KI verwenden – nahezu doppelt so viele wie bei der Umfrage vor knapp einem Jahr. Dies wirkt sich auf die Leistung der Unternehmen aus. Groben Schätzungen zufolge wird z. B. durch den Einsatz bekannter generativer KI-Technologien am Arbeitsplatz eine Steigerung der Effizienz um 10-20 % erreicht; wird KI zur Umgestaltung von Arbeitsabläufen und Aufgaben eingesetzt, könnte das Potenzial noch größer sein (24). KI wird von Unternehmen am häufigsten in den Bereichen Marketing und Verkauf, ferner in der Produkt- und Dienstleistungsentwicklung sowie im IT-Bereich genutzt (25).

2.7.    Chancen und Herausforderungen der KI in der Arbeitswelt

2.7.1.

KI wird sich in vielerlei Hinsicht auf die Arbeitswelt auswirken und könnte für viele Menschen zu einem wichtigen Bestandteil ihres Arbeitsalltags in allen Wirtschaftszweigen werden. Es bestehen sowohl Chancen als auch Herausforderungen; die Art und Weise, wie diese sowohl von Arbeitgebern als auch von Arbeitnehmern wahrgenommen werden, spielt ebenfalls eine wichtige Rolle.

2.7.2.

KI erhöht die Produktivität, indem beispielsweise Routineaufgaben automatisiert und Beschäftigte entlastet werden (26). Eine der zehn wichtigsten Erkenntnisse des KI-Indexberichts (27) lautete, dass KI Arbeitnehmern dabei hilft, produktiver zu werden, und die Qualität der Arbeit erhöht. KI ermöglicht es Arbeitnehmern, Aufgaben schneller zu auszuführen und bessere Ergebnisse zu erzielen. Einige Studien zeigen, dass KI dazu beitragen kann, die Qualifikationslücke zwischen gering- und hoch qualifizierten Arbeitskräften zu schließen. Gleichzeitig wird in anderen Studien davor gewarnt, dass der Einsatz von KI ohne angemessene menschliche Aufsicht zu einer Leistungsminderung führen kann.

2.7.3.

KI-Instrumente können Unternehmen dabei helfen, zu ermitteln, welche Art von Kompetenzen in der Belegschaft eines Unternehmens fehlen, und die Lücken bei digitalen (oder anderen) Kompetenzen zu schließen (28). KI kann Unternehmen somit dabei unterstützen, den künftigen Einstellungsbedarf besser zu prognostizieren. Wie auch von der Europäischen Arbeitsbehörde (ELA) hervorgehoben, nutzen 70 % der Personalverantwortlichen in ganz Europa eine Form von KI-Tool bei der Suche nach oder Bewertung von Bewerbern; KI-gestützte Einstellungsverfahren können auch die Erfahrungen der Bewerber mit dem Verfahren verbessern (29).

2.7.4.

In einigen Studien werden die Auswirkungen von KI auf die Beschäftigung aufgezeigt. Im Diskussionspapier des IWF (30) wird davon ausgegangen, dass bei 40 % der Arbeitsplätze weltweit KI eingesetzt wird. Insbesondere wird geschätzt, dass in fortgeschrittenen Volkswirtschaften 60 % der Arbeitsplätze KI ausgesetzt sind; die eine Hälfte dieser Arbeitsplätze profitiert von KI und höherer Produktivität, für die andere Hälfte könnte KI negative Folgen haben. Nach Angaben des Weltwirtschaftsforums (31) wird bis 2030 ein Nettowachstum von 78 Millionen Arbeitsplätzen (7 % der heutigen Gesamtbeschäftigung) erwartet.

2.7.5.

Laut einer umfassenden Erhebung der OECD unter Arbeitnehmern und Arbeitgebern über die Auswirkungen von KI am Arbeitsplatz äußerten sich Arbeitnehmer und Arbeitgeber gleichermaßen überwiegend positiv über die Auswirkungen von KI auf die Leistung und die Arbeitsbedingungen. So erklärten beispielsweise 79 % bzw. 80 % der KI-Nutzer in den Bereichen Finanzen und Fertigung, dass KI ihre eigene Leistung verbessert habe, gegenüber 8 % in beiden Sektoren, die sagten, dass KI die Leistung verschlechtert habe. Bei allen betrachteten Indikatoren für Leistung und Arbeitsbedingungen gaben Arbeitnehmerinnen und Arbeitnehmer, die KI nutzen, mehr als viermal so häufig an, dass KI ihre Leistung und ihre Arbeitsbedingungen verbessert und nicht verschlechtert hat (32).

2.7.6.

Der EWSA unterstreicht, dass KI-Tools zur Gesundheit und Sicherheit am Arbeitsplatz beitragen können, weil sie die Arbeitsbelastung der Arbeitnehmer verringern (33), eine bessere Vereinbarkeit von Beruf und Privatleben bewirken (34) und die psychische Gesundheit am Arbeitsplatz verbessern (35) können. KI-Tools werden gefährliche Aufgaben übernehmen oder reduzieren und zur Vermeidung von Erkrankungen des Stütz- und Bewegungsapparats beitragen. Die mit KI verbundene Arbeitszeitersparnis kann zu mehr Wohlbefinden der Arbeitnehmer beitragen. KI-Instrumente können die Zufriedenheit am Arbeitsplatz erhöhen (36). Der Einsatz von KI-Anwendungen kann die Durchsetzung besserer, gerechterer und diskriminierungsfreier Entscheidungen und Verfahrensweisen beispielsweise bei der Einstellung ermöglichen (37).

2.7.7.

Durch KI können beispielsweise Gefahren für die Gesundheit und Sicherheit am Arbeitsplatz verringert oder beseitigt werden, indem u. a.

a)

Führungskräfte und Arbeitnehmervertreter eine bessere Informationsgrundlage erhalten, um Probleme für die Gesundheit und Sicherheit am Arbeitsplatz – einschließlich psychosozialer Risiken – sowie Bereiche ermitteln zu können, in denen sie diesbezüglich zur Verringerung von Risikofaktoren wie Belästigung und Gewalt tätig werden müssen, und um frühzeitig vor Gefahrensituationen, Stress, Gesundheitsproblemen und Ermüdung bei Aufgaben und Tätigkeiten von Arbeitnehmern warnen zu können,

b)

Arbeitnehmer und Führungskräfte auf sie zugeschnittene Echtzeit-Empfehlungen für ein sichereres Verhalten erhalten. So können Organisationen Überwachungsgeräte zur Messung der biometrischen Daten von Arbeitnehmern einsetzen, um sicherzustellen, dass diese nicht übermüdet und dadurch möglicherweise einem erhöhten Unfallrisiko ausgesetzt sind,

c)

evidenzbasierte Prävention und moderne Risikobewertung am Arbeitsplatz unterstützt werden,

d)

evidenzbasierte und effizientere Inspektionen im Bereich Gesundheit und Sicherheit am Arbeitsplatz unterstützt werden,

e)

in der Industrie, der Logistik oder im Bauwesen die Vorteile der Automatisierung und des Einsatzes von Robotern genutzt werden, um die mit repetitiven und gefährlichen Aufgaben verbundenen Risiken zu verringern (38),

f)

IoT-Geräte und -Sensoren zur Echtzeitüberwachung der Arbeitsmittel eingesetzt werden, um Betriebsstörungen oder den Ausfall von Geräten vor deren Eintreten erkennen zu können und so die Sicherheit zu verbessern,

g)

Fortschritte im Bereich künstliche Intelligenz, virtuelle und erweiterte Realität für die virtuelle Erprobung bestimmter Sicherheitskonfigurationen und -bedingungen genutzt werden, um Arbeitnehmer auf risikofreie Schulungen vorzubereiten und Arbeitgebern zu ermöglichen, maßgeschneiderte Schulungen anzubieten,

h)

die Forschung zu Exoskeletten praktisch angewendet wird, um Arbeitnehmer bei der Handhabung schwerer Lasten zu entlasten. In diesem Bereich werden auch deutliche Fortschritte in Bezug auf Arbeitnehmer mit Behinderungen verzeichnet,

i)

automatisierte Systeme in Lieferketten integriert werden, sodass weniger Aufgaben manuell verrichtet werden müssen,

j)

Daten durch KI verarbeitet werden, um den Arbeitsplatz und Logistikprozesse dahingehend besser zu gestalten, dass Beschäftigte weniger Risiken ausgesetzt sind (39).

2.7.8.

Studien der Gemeinsamen Forschungsstelle (40) zufolge ist die Einführung von algorithmischem Management an herkömmlichen Arbeitsplätzen darauf zurückzuführen, dass die Digitalisierung und die Automatisierung in allen Branchen voranschreitet und Effizienz angestrebt wird. Die von ihr festgestellten und untersuchten Veränderungen und Herausforderungen im Zusammenhang mit algorithmischem Management betreffen die Arbeitsorganisation und die Qualität des Arbeitsplatzes.

2.7.9.

In Bezug auf die Arbeitsorganisation stellt die Gemeinsame Forschungsstelle fest, dass algorithmisches Management die folgenden Auswirkungen haben könnte: Zentralisierung von Wissen und Kontrolle, Neudefinition von Aufgaben und Funktionen und Verschwimmen der organisatorischen Grenzen.

2.7.10.

Außerdem stellt die Gemeinsame Forschungsstelle Auswirkungen auf die Arbeitsplatzqualität fest, und zwar in Bezug auf Kompetenzen und Diskretion, Arbeitsintensität, soziales Umfeld sowie Einkommen und Karrierechancen.

2.7.11.

Die Bedenken, Unsicherheiten und Befürchtungen, die im Zusammenhang mit den potenziellen Risiken und Folgen der Nutzung von KI bestehen, können dazu führen, dass KI-Lösungen selbst dann nicht eingeführt werden, wenn der Arbeitsplatz dadurch besser und effizienter wird.

2.7.12.

Berufe sind nicht statisch, und der EWSA ist der Auffassung, dass sich auch an Arbeitsplätzen, die zurzeit noch nicht besonders von KI betroffen sind, ein Umschulungsbedarf entstehen wird. Schulungen und neue Kompetenzen werden benötigt, damit neue datengestützte Technologielösungen (einschließlich KI) am Arbeitsplatz optimal genutzt werden können.

2.7.13.

Unternehmen und ihre Beschäftigten müssen bei der Einführung von KI begleitet werden, und es muss sichergestellt werden, dass alle Unternehmen und insbesondere KMU bei KI nicht den Anschluss verlieren, sondern davon in vollem Umfang profitieren können. Dazu müssen Arbeitnehmer Weiterbildungen erhalten und Unternehmen besser unterstützt werden. Arbeitnehmer müssen Zugang zu den erforderlichen Schulungen haben, und Unternehmen müssen den erforderlichen Spielraum haben, um die für sie am besten geeigneten Schulungsmethoden zu finden. Ein vertrauensbasierter Dialog zur Entwicklung guter unternehmensspezifischer Verfahren ist von entscheidender Bedeutung. Das Ziel besteht darin sicherzustellen, dass der mit Produktivitätssteigerungen verbundene Einsatz von KI-Technologien sowohl den Unternehmen als auch den Arbeitnehmern zugute kommt. Dazu ist das Engagement sowohl der Unternehmen als auch der Arbeitnehmer erforderlich.

2.7.14.

Damit das Potenzial der KI zur Steigerung der Wettbewerbsfähigkeit und der Produktivität genutzt werden kann und die EU beim digitalen Wandel nicht ins Hintertreffen gerät, müssen die Mythen und Ängste im Zusammenhang mit KI abgebaut und ausgeräumt und die Umsetzung und Durchsetzung des bestehenden Rechtsrahmens in den Fokus gerückt werden.

3.   Der europäische Rahmen für den Einsatz von KI am Arbeitsplatz

3.1.    Der geltende Rechtsrahmen der EU

3.1.1.

Der EWSA weist darauf hin, dass in den folgenden EU-Rechtsakten Bestimmungen verankert sind, durch die bei Einsatz von KI-Tools am Arbeitsplatz einerseits sichergestellt ist, dass Beschäftigte auf sichere und faire Arbeitsbedingungen zählen können, und andererseits Arbeitnehmer bei Einführung von KI-Tools einbezogen werden:

—

Datenschutz-Grundverordnung (DSGVO) von 2016 – Beispiele für einschlägige Artikel: Artikel 35 (Datenschutz-Folgenabschätzung), Artikel 7 (Verbot der Verknüpfung der Einwilligung mit der Erfüllung des Vertrags), Artikel 9 Absatz 2 (Transparenz der Datenverarbeitung und Beschränkung der Fähigkeit zur Verarbeitung sensibler personenbezogener Daten), Artikel 15 Absatz 1 Buchstabe h (Recht auf sinnvolle menschliche Beiträge zu wichtigen Entscheidungen sowie Möglichkeit, von der vollautomatisierten Entscheidungsfindung am Arbeitsplatz abzusehen), Artikel 22 (Verbot vollautomatischer Entscheidungsprozesse in Beschäftigungsverhältnissen), Artikel 88 (Spielraum für Tarifverhandlungen und Möglichkeit für Mitgliedstaaten, im Beschäftigungskontext strengere Bestimmungen zur DSGVO auf nationaler Ebene zu erlassen),

—

KI-Gesetz von 2024: In Anhang III der Verordnung über künstliche Intelligenz werden bestimmte KI-Systeme, die für Entscheidungen über Einstellungen, Beförderungen, Kündigungen, die Zuweisung von Aufgaben und die Beobachtung von Personen in Beschäftigungsverhältnissen verwendet werden sollen, als Hochrisiko-KI-Systeme eingestuft. Aufgrund dieser Einstufung unterliegen diese KI-Systeme rechtlichen Auflagen in Bezug auf Risikomanagement (Artikel 9), Daten und Daten-Governance (Artikel 10), Dokumentation und Aufzeichnung (Artikel 11 und 12), Transparenz und Bereitstellung von Informationen für die Betreiber (Artikel 13), menschliche Aufsicht (Artikel 14), Genauigkeit, Robustheit, und Cybersicherheit (Artikel 15) sowie Informationen über den Einsatz von Hochrisiko-KI am Arbeitsplatz, wobei für Verstöße Geldbußen von bis zu 15 000 000  EUR oder bis zu 3 % des gesamten weltweiten Jahresumsatzes verhängt werden (Artikel 71 Absatz 4 Buchstabe g). Außerdem können die Mitgliedstaaten nach Artikel 2 Absatz 11 des KI-Gesetzes Vorschriften einführen, die für die Arbeitnehmer im Hinblick auf den Schutz ihrer Rechte vorteilhafter sind. Ferner ist in Artikel 4 (KI-Kompetenz) vorgesehen, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind,

—

Rahmenrichtlinie über die Sicherheit und den Gesundheitsschutz der Arbeitnehmer bei der Arbeit von 1989: Gemäß der Rahmenrichtlinie 89/391/EWG sind Arbeitgeber verpflichtet, die Gefahren zu evaluieren, um vorsorglich sicherzustellen, dass KI-Tools die Sicherheit und die Gesundheit der Arbeitnehmer nicht beeinträchtigen,

—

Richtlinie zur Gleichbehandlung in Beschäftigung und Beruf von 2000,

—

Richtlinie über die Unterrichtung und Anhörung der Arbeitnehmer von 2002: Nach Artikel 4 Absatz 2 Buchstabe c sind die Arbeitgeber zur Unterrichtung und Anhörung der Arbeitnehmer zu Entscheidungen verpflichtet, die wesentliche Veränderungen der Arbeitsorganisation oder der Arbeitsverträge mit sich bringen können,

—

Richtlinie über Plattformarbeit von 2024: Im Rahmen digitaler Arbeitsplattformen werden spezifische Maßnahmen in Bezug auf den Einsatz automatisierter Überwachungs- und Entscheidungssysteme (Artikel 6), die Beaufsichtigung automatisierter Systeme durch Menschen (Artikel 7), die Überprüfung von Entscheidungen durch Menschen (Artikel 8) und die Rechte von Plattformbeschäftigten auf Unterrichtung und Anhörung (Artikel 9) eingeführt werden müssen.

3.1.2.

Die Herausforderungen, die sich für Unternehmen bei ihren betrieblichen Tätigkeiten (Cybersicherheit, Sicherheitsverstöße, Datenschutz, Datenverwaltung usw.) sowie in Bezug auf die Arbeitsorganisation ergeben, wurden auf EU-Ebene ebenfalls geprüft. Zusätzlich zur DSGVO:

—

NIS-2-Richtlinie: Die NIS-2-Richtlinie verpflichtet Unternehmen, die grundlegende Dienstleistungen in einem Land erbringen (z. B. in den Bereichen Energie, Verkehr, Wasserwirtschaft, digitale Infrastruktur, Telekommunikation usw.), ihren Betrieb so zu organisieren, dass sie besser vor Angriffen und Verletzungen der Sicherheit, einschließlich der Datensicherheit, geschützt sind,

—

Cyberresilienzgesetz (41): Mit dem Cyberresilienzgesetz werden die Verpflichtungen für Hersteller vernetzter Produkte verschärft, um sicherzustellen, dass Schwachstellen erkannt und beseitigt werden und der Schutz der Geräte/Maschinen verbessert wird,

—

Richtlinie über die Resilienz kritischer Einrichtungen und branchenspezifische Vorschriften, einschließlich DORA: Diese Rechtsvorschriften sind auf die Bewältigung der organisatorischen Herausforderungen ausgerichtet, die sich Unternehmen im Zusammenhang mit der Nutzung von KI stellen.

3.1.3.

Der EWSA weist darauf hin, dass zurzeit mit der Unterstützung des Europäischen Büros für Künstliche Intelligenz an einem Verhaltenskodex im Hinblick auf KI-Systeme mit allgemeinem Verwendungszweck gearbeitet wird, in dem die Bestimmungen genau dargelegt werden, die nach dem KI-Gesetz für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sowie von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko gelten (42).

3.2.    Der soziale Dialog

3.2.1.

Die Sozialpartner und der soziale Dialog auf allen Ebenen spielen für die Verbreitung verantwortungsvoller und „vertrauenswürdiger“ KI in der Welt der Arbeit eine entscheidende Rolle. Damit ein wirksamer sozialer Dialog zu KI-Fragen stattfinden kann, muss aus Sicht des EWSA für ein dem sozialen Dialog zuträgliches, positives Umfeld gesorgt werden. Ein starker, konstruktiver sozialer Dialog auf allen Ebenen im Einklang mit den geltenden nationalen Vorschriften und Verfahren bietet die wichtigste Handhabe, um die Risiken und etwaigen schädlichen Auswirkungen zu minimieren sowie dem Einsatz von KI den Weg zu ebnen, damit ihr Potenzial genutzt werden kann. Dafür muss der Aufbau der mit KI-Fragen befassten Kapazitäten bei den Sozialpartnern so vorangetrieben werden, dass deren Kenntnis und Verständnis der mit KI verbundenen Herausforderungen und Chancen gewährleistet ist.

3.2.2.

Der EWSA nimmt zur Kenntnis, dass die europäischen Sozialpartner 2020 eine autonome Rahmenvereinbarung über die Digitalisierung (43) geschlossen haben, die sich auf vier Bereiche erstreckt: 1) digitale Kompetenzen und die Sicherung des Arbeitsplatzes, 2) die Modalitäten der (Nicht-)Erreichbarkeit, 3) künstliche Intelligenz und die grundsätzliche Gewährleistung der Kontrolle durch den Menschen sowie 4) die Achtung der Menschenwürde und Überwachung. Darin ist unter anderem vorgesehen, dass für die Einführung von KI-Systemen dem Grundsatz der Kontrolle durch den Menschen folgen und sicher sein, d. h. Schaden abwenden sollte.

3.2.3.

Was das Zusammenspiel zwischen den geltenden EU-Rechtsvorschriften (dem KI-Gesetz) und dem sozialen Dialog betrifft, fordert der EWSA das Europäische Büro für Künstliche Intelligenz (KI-Büro) auf, mit den branchenübergreifenden europäischen Sozialpartnern eng zusammenzuarbeiten, damit der soziale Dialog in den künftigen Leitlinien des KI-Büros und im Sekundärrecht entsprechend zum Tragen kommt. Der EWSA fordert das KI-Büro ferner auf, für Erläuterungen zu allen KI-Systemen zu sorgen. Es sollten umfassende, solide und klar strukturierte Kanäle für die Abstimmung zwischen dem KI-Büro und den GD EMPL und Connect der Europäischen Kommission eingerichtet werden.

3.3.    Bewertung der derzeitigen Lage

3.3.1.

Aus Sicht des EWSA sind die Herausforderungen, die sich im Zusammenhang mit KI am Arbeitsplatz ergeben (z. B. Diskriminierung, Sicherheit und Gesundheitsschutz am Arbeitsplatz, Unterrichtung und Anhörung der Arbeitnehmer, Datenschutz), durch die geltenden 116 Rechtsakte der digitalen Agenda der EU für 2030, d. h. insbesondere die DSGVO und das KI-Gesetz sowie die anderen vorstehend genannten Rechtsvorschriften, ausreichend abgedeckt.

3.3.2.

Vor diesem Hintergrund bedauert der EWSA, dass die Europäische Kommission trotz des bestehenden weitreichenden Rechtsrahmens, der bereits eine umfassende und ausreichende Regulierung der KI im Arbeitsleben vorsieht, weitere Rechtsvorschriften in Bezug auf die Auswirkungen der Digitalisierung in der Arbeitswelt für erforderlich hält. Die Exekutiv-Vizepräsidentin für soziale Rechte und Kompetenzen, hochwertige Arbeitsplätze und Vorsorge Roxana Mînzatu wird in dem an sie gerichteten Mandatsschreiben aufgefordert, darauf hinzuwirken, dass im Anschluss an Konsultationen der Sozialpartner eine Initiative zum algorithmischen Management sowie etwaige Rechtsvorschriften über KI am Arbeitsplatz erarbeitet werden. (…) (44).

3.3.3.

Dieses Anliegen läuft nicht nur dem derzeitigen politischen Ziel zuwider, Rechtsvorschriften zu vereinfachen sowie rechtliche Auflagen und Berichtspflichten um 25 % zu verringern. Es steht auch in einem klaren Widerspruch zu dem gemeinsamen Standpunkt, dass der geltende EU-Rechtsrahmen im Interesse der Wettbewerbsfähigkeit und der Rahmenbedingungen für Unternehmen vereinfacht werden muss.

3.3.4.

Stattdessen sollte die Kommission den Unternehmen ermöglichen, verantwortungsvolle und ethische Ansätze für die Arbeit mit KI-Technologien innerhalb des derzeitigen Rechtsrahmens zu entwickeln. Dadurch wäre sichergestellt, dass die Autonomie der Sozialpartner gewahrt ist.

3.3.5.

Wenn aber eine Initiative zu KI am Arbeitsplatz aufgestellt werden sollte, dann müsste diese in erster Linie auf die wirksame Umsetzung und Durchsetzung des geltenden umfassenden EU-Rechtsrahmens ausgerichtet sein. Zweitens sollte sie Unternehmen dabei unterstützen, dass sie etwaige Risiken in der Welt der Arbeit (45) abfangen können, ohne dass ihnen die mit KI verbundenen Vorteile verloren gehen. So wäre für mehr Wohlstand, Produktivität, Nachhaltigkeit und soziales Wohlergehen gesorgt.

3.3.6.

Der EWSA weist nachdrücklich darauf hin, dass die Kommission, sollte sie eine neue Initiative zu KI am Arbeitsplatz oder algorithmischem Management vorschlagen, unter keinen Umständen Kapitel III der Richtlinie über Plattformarbeit als Vorlage verwenden darf. Die Bestimmungen der Richtlinie über Plattformarbeit sind speziell auf diese Unternehmensart zugeschnitten. Wenn aber alle EU-Unternehmen wie digitale Arbeitsplattformen behandelt werden, stellt das ein erhebliches Hindernis für die Einführung neuer Technologien dar.

3.3.7.

Außerdem wäre eine umfassende Überarbeitung der geltenden Rechtsvorschriften aufgrund der damit sowohl für die Gesetzgeber als auch für die Durchsetzungsstellen verbundenen Belastung nicht zielführend und würde in Bezug auf Fortschritte und Investitionen in KI in der EU das falsche Signal aussenden.

3.3.8.

Mit Blick auf die Zukunft fordert der EWSA daher, den Schwerpunkt auf rechtliche Vereinfachungen zu legen, damit europäische Unternehmen besser in der Lage sind, KI auf verantwortungsvolle und ethische Weise zu nutzen. Rechtliche Vereinfachungen sind beispielsweise auch aufgrund der Überschneidungen zwischen geltenden Rechtsvorschriften sowie mehrfach erforderlicher, sich wiederholender Meldepflichten geboten.

Begründung

Dieser Text enthält einen Änderungsantrag, mit dem eine weitestgehend abweichende Auffassung zur Stellungnahme der Fachgruppe zum Ausdruck gebracht werden soll, weswegen er als Gegenstellungnahme bezeichnet wird. In dem Text wird dargelegt, warum der EWSA der Auffassung ist, dass keine zusätzlichen Rechtsvorschriften zu KI in der Arbeitswelt erforderlich sind und die Kommission den Unternehmen die Möglichkeit geben sollte, innerhalb des geltenden Rechtsrahmens verantwortungsvolle, ethische Ansätze für die Arbeit mit KI-Technologien zu entwickeln.

Abstimmungsergebnis

Ja-Stimmen: 112

Nein-Stimmen: 136

Enthaltungen: 11


(1)  Die Europäische Kommission (2024) The future of European competitiveness part A a competitiveness strategy for Europe .

(2)  Wissenschaftlicher Dienst des Europäischen Parlaments, AI investment: EU and global indicators .

(3)  Die Europäische Kommission (2024) The future of European competitiveness part B In-depth analysis of recommendations .

(4)   https://www.ecb.europa.eu/press/economic-bulletin/focus/2024/html/ecb.ebbox202406_01~9c8418b554.en.html.

(5)   https://www.ecb.europa.eu/press/economic-bulletin/focus/2024/html/ecb.ebbox202404_01~3ceb83e0e4.en.html.

(6)  Siehe beispielsweise AI World des CEPS Navigate Tomorrow's Intelligence Today/AI World .

(7)  OECD (2024), OECD Digital Economy Outlook 2024 (Band 1): Embracing the Technology Frontier, OECD Publishing, Paris, https://doi.org/10.1787/a1689dc5-en.

(8)  Siehe beispielsweise M. Lane, M. Williams und S. Broecke (2023), The impact of AI on the workplace: Main findings from the OECD AI surveys of employers and workers , OECD Social, Employment and Migration Working Papers, Nr. 288, OECD Publishing, Paris.

(9)  EU-OSHA (2021) Auswirkungen von künstlicher Intelligenz auf die Sicherheit und Gesundheit bei der Arbeit.

(10)   10 Bruegel_factsheet_2024_0.pdf.

(11)  Weitere Informationen sind Abschnitt 3 dieser Gegenstellungnahme zu entnehmen.

(12)   Mandatssschreiben an die Exekutiv-Vizepräsidentin Roxana Mînzatu.

(13)  Der Titel der Sondierungsstellungnahme des polnischen Ratsvorsitzes lautete „Künstliche Intelligenz – Potenzial und Risiken im Zusammenhang mit beschäftigungs- und arbeitsmarktpolitischen Maßnahmen“.

(14)  OECD (2024),  OECD Digital Economy Outlook 2024 (Band 1): Embracing the Technology Frontier, OECD Publishing, Paris.

(15)  Siehe beispielsweise AI World des CEPS Navigate Tomorrow's Intelligence Today/AI World .

(16)   Politische Leitlinien für die künftige Europäische Kommission 2024-2029.

(17)  Im Jahr 2023 nutzten 8 % der Unternehmen in der EU Technologien der künstlichen Intelligenz. Bei großen EU-Unternehmen lag dieser Wert bei 30,4 %. Siehe Eurostat Use of artificial intelligence in enterprises - Statistics Explained .

(18)  Eurostat Use of artificial intelligence in enterprises - Statistics Explained .

(19)  Die Europäische Kommission (2024) The future of European competitiveness part A a competitiveness strategy for Europe .

(20)  Die Europäische Kommission (2024) The future of European competitiveness part B In-depth analysis of recommendations .

(21)   Global AI vibrancy tool.

(22)   KI-Index-Bericht siehe auch hier.

(23)   The state of AI in early 2024: Gen AI adoption spikes and starts to generate value .

(24)  Boston Consulting Group (2023) Turning GenAI Magic into Business Impact .

(25)   The state of AI in early 2024: Gen AI adoption spikes and starts to generate value .

(26)  Diese Entwicklung wird in Berichten und Studien zur Entwicklung von Arbeitsplätzen aufgezeigt, so im Future of Jobs Report 2025 des Weltwirtschaftsforums ( Future of Jobs Report 2025: These are the fastest growing and declining jobs | World Economic Forum).

(27)   KI-Index-Bericht siehe auch hier.

(28)   Weltwirtschaftsforum.

(29)  Siehe z. B. EURES How AI can improve the talent acquisition process .

(30)  IWF Gen-AI: Artificial Intelligence and the Future of Work .

(31)  Weltwirtschaftsforum Future of Jobs Report 2025 Januar 2025.

(32)  M. Lane, M. Williams und S. Broecke (2023), The impact of AI on the workplace: Main findings from the OECD AI surveys of employers and workers , OECD Social, Employment and Migration Working Papers, Nr. 288, OECD Publishing, Paris.

(33)   Workplace Intelligence, AI at Work 2020 Studie, CIPD and PA Consulting; People and machines: from hype to reality ; Chartered Institute of Personnel and Development, 2019.

(34)  Studie des EP (2021), Improving working conditions using Artificial Intelligence.

(35)   Workplace Intelligence, AI at Work 2020 Studie.

(36)  M. Lane, M. Williams und S. Broecke (2023), The impact of AI on the workplace: Main findings from the OECD AI surveys of employers and workers , OECD Social, Employment and Migration Working Papers, Nr. 288, OECD Publishing, Paris.

(37)  Dana Pessach, Gonen Singer, Dan Avrahami, Hila Chalutz Ben-Gal, Erez Shmueli, Irad Ben-Gal, Employees recruitment: A prescriptive analytics approach via machine learning and mathematical programming, Decision Support Systems , Band 134, 2020.

(38)  Vgl. Bericht der Europäischen Agentur für Sicherheit und Gesundheitsschutz am Arbeitsplatz Artificial intelligence for worker management: an overview .

(39)  Vgl. Studie der Europäischen Stiftung zur Verbesserung der Lebens- und Arbeitsbedingungen Work organisation and job quality in the digital age .

(40)  S. Baiocco, E. Fernández-Macías, U. Rani und A. Pesole: The Algorithmic Management of work and its implications in different contexts, Sevilla: Europäische Kommission, 2022, JRC129749.

(41)  Mit dem Cyberresilienzgesetz werden die Verpflichtungen für Hersteller vernetzter Produkte verschärft, um sicherzustellen, dass Schwachstellen erkannt und beseitigt werden und der Schutz der Geräte/Maschinen verbessert wird.

(42)  Vgl. z. B. hier.

(43)  Vgl. z. B. hier.

(44)   Mandatssschreiben an die Exekutiv-Vizepräsidentin Roxana Mînzatu.

(45)  Zu Risiken vgl. S. Baiocco, E. Fernández-Macías, U. Rani und A. Pesole: The Algorithmic Management of work and its implications in different contexts, Sevilla: Europäische Kommission, 2022, JRC129749.


ELI: http://data.europa.eu/eli/C/2025/1185/oj

ISSN 1977-088X (electronic edition)