|
Dziennik Urzędowy |
PL Seria C |
|
C/2026/6005 |
12.11.2026 |
KOMUNIKAT KOMISJI
Wytyczne dotyczące wdrażania obowiązków w zakresie przejrzystości w odniesieniu do niektórych systemów AI na podstawie art. 50 rozporządzenia (UE) 2024/1689 („akt w sprawie AI”)
(C/2026/6005)
Spis treści
|
1. |
INFORMACJE OGÓLNE I CELE | 3 |
|
2. |
PRZEGLĄD OBOWIĄZKÓW W ZAKRESIE PRZEJRZYSTOŚCI I ZAGADNIEŃ HORYZONTALNYCH | 3 |
|
2.1. |
Przegląd obowiązków w zakresie przejrzystości określonych w art. 50 aktu w sprawie AI | 3 |
|
2.2. |
Uzasadnienie i cele | 4 |
|
2.3. |
Podmioty odpowiedzialne na podstawie art. 50 aktu w sprawie AI | 5 |
|
2.4. |
Wyłączenia z zakresu stosowania aktu w sprawie AI | 7 |
|
2.4.1. |
Podmioty stosujące działające w kontekście czysto osobistej działalności pozazawodowej | 7 |
|
2.4.2. |
Badania i rozwój | 8 |
|
2.4.3. |
Systemy AI udostępniane na podstawie bezpłatnych licencji otwartego oprogramowania | 8 |
|
2.5. |
Wzajemne powiązania z zakazanymi praktykami, wymogami dotyczącymi systemów AI wysokiego ryzyka i kompetencjami w zakresie AI | 9 |
|
2.6. |
Wzajemne powiązania z przepisami mającymi zastosowanie do modeli lub systemów AI ogólnego przeznaczenia | 9 |
|
3. |
ART. 50 UST. 1 AKTU W SPRAWIE AI: PRZEJRZYSTOŚĆ W ODNIESIENIU DO INTERAKTYWNYCH SYSTEMÓW AI | 9 |
|
3.1. |
Główne elementy, pojęcia i związane z nimi obowiązki w zakresie przejrzystości | 10 |
|
3.1.1. |
Systemy AI przeznaczone do wchodzenia w bezpośrednią interakcję z osobami fizycznymi | 10 |
|
3.1.2. |
Obowiązek w zakresie informowania wynikający z art. 50 ust. 1 aktu w sprawie AI | 12 |
|
3.2. |
Wyjątki od obowiązku w zakresie informowania na podstawie art. 50 ust. 1 aktu w sprawie AI | 14 |
|
3.2.1. |
Wyjątek dotyczący oczywistej interakcji z systemem AI | 14 |
|
3.2.2. |
Wyjątek dotyczący systemów AI, których wykorzystywanie jest dozwolone na mocy prawa do celów ścigania przestępstw | 16 |
|
3.3. |
Wzajemne powiązania z innymi aktami prawnymi Unii | 17 |
|
4. |
ART. 50 UST. 2 AKTU W SPRAWIE AI: OZNACZANIE I WYKRYWANIE TREŚCI WYGENEROWANYCH LUB ZMANIPULOWANYCH PRZEZ AI | 18 |
|
4.1. |
Główne elementy i pojęcia, o których mowa w art. 50 ust. 2 aktu w sprawie AI | 18 |
|
4.1.1. |
Systemy AI generujące treści syntetyczne lub manipulujące nimi | 18 |
|
4.1.2. |
Rodzaje treści syntetycznych objęte zakresem stosowania | 19 |
|
4.1.3. |
Treści nieobjęte zakresem stosowania art. 50 ust. 2 aktu w sprawie AI | 20 |
|
4.2. |
Obowiązek oznaczania i zapewnienia wykrywalności określony w art. 50 ust. 2 aktu w sprawie AI | 21 |
|
4.2.1. |
Obowiązek oznaczania | 21 |
|
4.2.2. |
Obowiązek zapewnienia wykrywalności | 22 |
|
4.2.3. |
Zgodność z wymogami dotyczącymi rozwiązań technicznych: kryteria skuteczności, interoperacyjności, solidności i niezawodności | 22 |
|
4.3. |
Wyjątki od obowiązków wynikających z art. 50 ust. 2 aktu w sprawie AI | 24 |
|
4.4. |
Wzajemne powiązania z innymi aktami prawnymi Unii | 25 |
|
5. |
ART. 50 UST. 3 AKTU W SPRAWIE AI: SYSTEMY ROZPOZNAWANIA EMOCJI I SYSTEMY KATEGORYZACJI BIOMETRYCZNEJ | 26 |
|
5.1. |
Główne elementy, pojęcia i związane z nimi obowiązki w zakresie przejrzystości na podstawie art. 50 ust. 3 aktu w sprawie AI | 27 |
|
5.1.1. |
Pojęcie systemu rozpoznawania emocji | 27 |
|
5.1.2. |
Pojęcie systemu kategoryzacji biometrycznej | 27 |
|
5.1.3. |
Obowiązek informacyjny wynikający z art. 50 ust. 3 aktu w sprawie AI | 27 |
|
5.2. |
Wyjątek dotyczący zastosowań do celów ścigania przestępstw | 28 |
|
5.3. |
Wzajemne powiązania z innymi aktami prawnymi Unii | 28 |
|
6. |
ART. 50 UST. 4: OZNAKOWANIE MATERIAŁÓW TYPU DEEPFAKE I NIEKTÓRYCH PUBLIKACJI TEKSTOWYCH | 28 |
|
6.1. |
Główne elementy i pojęcia dotyczące materiałów typu deepfake i związane z nimi obowiązki w zakresie przejrzystości na podstawie art. 50 ust. 4 aktu w sprawie AI | 28 |
|
6.1.1. |
Pojęcie „deepfake” | 29 |
|
6.1.2. |
Obowiązek ujawniania informacji na podstawie art. 50 ust. 4 akapit pierwszy aktu w sprawie AI | 31 |
|
6.1.3. |
Przejrzystość w odniesieniu do treści typu deepfake o charakterze artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym | 32 |
|
6.1.4. |
Wyjątek na potrzeby ścigania przestępstw | 34 |
|
6.1.5. |
Wzajemne powiązania z innymi aktami prawnymi Unii | 34 |
|
6.2. |
Główne elementy i pojęcia dotyczące tekstu wygenerowanego lub zmanipulowanego przez AI oraz związane z tym obowiązki w zakresie przejrzystości na podstawie art. 50 ust. 4 aktu w sprawie AI | 35 |
|
6.2.1. |
Tekst publikowany w celu informowania opinii publicznej o sprawach leżących w interesie publicznym | 36 |
|
6.2.2. |
Obowiązek ujawniania informacji na podstawie art. 50 ust. 4 akapit drugi aktu w sprawie AI | 37 |
|
6.2.3. |
Wyjątek od obowiązku w zakresie przejrzystości w odniesieniu do tekstu podlegającego weryfikacji przez człowieka lub kontroli redakcyjnej i odpowiedzialności redakcyjnej | 37 |
|
6.2.4. |
Wyjątek na potrzeby ścigania przestępstw | 38 |
|
6.2.5. |
Wzajemne powiązania z innymi aktami prawnymi Unii | 39 |
|
7. |
WYMOGI HORYZONTALNE MAJĄCE ZASTOSOWANIE DO INFORMACJI PRZEKAZYWANYCH NA PODSTAWIE ART. 50 UST. 5 AKTU W SPRAWIE AI | 39 |
|
7.1. |
Przekazywanie informacji w jasny i wyraźny sposób | 39 |
|
7.2. |
Pierwsza interakcja lub pierwsze stosowanie | 40 |
|
7.3. |
Zgodność z mającymi zastosowanie wymogami dostępności | 40 |
|
8. |
EGZEKWOWANIE ART. 50 AKTU W SPRAWIE AI | 40 |
|
8.1. |
Skutki przestrzegania kodeksu praktyk uznanego za odpowiedni | 41 |
|
8.2. |
Organy nadzoru rynku | 42 |
|
8.3. |
Kary | 42 |
|
8.4. |
Rozpoczęcie stosowania | 42 |
|
9. |
PRZEGLĄD I AKTUALIZACJA WYTYCZNYCH | 43 |
1. INFORMACJE OGÓLNE I CELE
|
(1) |
Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany szeregu rozporządzeń i dyrektyw („akt w sprawie AI”) weszło w życie 1 sierpnia 2024 r. (1). W akcie w sprawie AI ustanowiono zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku i wykorzystywania sztucznej inteligencji („AI”) w Unii (2). Jego celem jest promowanie innowacji w dziedzinie AI i szerszego upowszechnienia godnej zaufania sztucznej inteligencji, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych w Unii, w tym demokracji i praworządności. |
|
(2) |
W akcie w sprawie AI zastosowano podejście oparte na analizie ryzyka i podzielono systemy AI według czterech różnych kategorii ryzyka, z których jedna to systemy AI stwarzające ryzyko dla przejrzystości, które podlegają obowiązkom określonym w art. 50 aktu w sprawie AI. Te obowiązki w zakresie przejrzystości mają zastosowanie dwa lata po wejściu w życie aktu w sprawie AI, tj. od 2 sierpnia 2026 r. |
|
(3) |
Zgodnie z art. 96 ust. 1 lit. d) aktu w sprawie AI niniejsze wytyczne Komisji mają pełnić rolę praktycznych wskazówek pomagających właściwym organom, a także dostawcom systemów AI i podmiotom stosującym systemy AI w spełnianiu obowiązków w zakresie przejrzystości wynikających z art. 50 aktu w sprawie AI w sposób spójny, skuteczny, proporcjonalny i jednolity. |
|
(4) |
Przy opracowywaniu niniejszych wytycznych uwzględniono uwagi różnych zainteresowanych stron zebrane podczas szeroko zakrojonych konsultacji zorganizowanych przez Komisję oraz uwagi państw członkowskich zgłaszane na forum Rady ds. Sztucznej Inteligencji, a także uwagi zainteresowanych stron dotyczące projektu wytycznych, który opublikowano na potrzeby konsultacji. |
|
(5) |
Niniejsze wytyczne nie mają charakteru wiążącego. Wszelkiej autorytatywnej wykładni aktu w sprawie AI może ostatecznie dokonywać wyłącznie Trybunał Sprawiedliwości Unii Europejskiej („TSUE”). |
2. PRZEGLĄD OBOWIĄZKÓW W ZAKRESIE PRZEJRZYSTOŚCI I ZAGADNIEŃ HORYZONTALNYCH
2.1. Przegląd obowiązków w zakresie przejrzystości określonych w art. 50 aktu w sprawie AI
|
(6) |
W art. 50 aktu w sprawie AI określono cztery obowiązki w zakresie przejrzystości, z których każdy ma zastosowanie do różnych rodzajów systemów AI lub ich wyników.
|
|
(7) |
Każdy z tych czterech obowiązków przeanalizowano w sekcjach 3–6 niniejszych wytycznych. Ponadto art. 50 ust. 5 aktu w sprawie AI stanowi, że informacje, o których mowa w ust. 1–4, są przekazywane zainteresowanym osobom fizycznym w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania, oraz muszą spełniać mające zastosowanie wymogi dostępności. W sekcji 7 doprecyzowano te wymogi. |
|
(8) |
Poszczególne obowiązki w zakresie przejrzystości określone w art. 50 aktu w sprawie AI mogą mieć zastosowanie łącznie do (wyników) pojedynczego systemu AI, co może wiązać się z odpowiedzialnością różnych podmiotów (dostawców lub podmiotów stosujących). Na przykład jeżeli system AI generuje obrazy w ramach bezpośredniej interakcji z osobą fizyczną, dostawca systemu może być zobowiązany do przestrzegania zarówno art. 50 ust. 1, jak i art. 50 ust. 2 aktu w sprawie AI. W przypadku gdy system ten jest również w stanie generować obrazy stanowiące treści typu deepfake lub publikować teksty dotyczące spraw leżących w interesie publicznym, podmiot stosujący może być dodatkowo zobowiązany do przestrzegania art. 50 ust. 4 aktu w sprawie AI. |
2.2. Uzasadnienie i cele
|
(9) |
Jak wyjaśniono w motywach 132–136 aktu w sprawie AI, celem obowiązków w zakresie przejrzystości jest ograniczenie ryzyka podawania się za inną osobę, wprowadzania w błąd, podawania informacji wprowadzających w błąd, manipulacji na dużą skalę i oszustw oraz ograniczenie potencjalnego negatywnego wpływu na procesy demokratyczne i zaufanie społeczne spowodowanego treściami lub interakcjami generowanymi przez AI lub zmanipulowanymi przez AI. Informowanie osób fizycznych o tym, że prowadzą interakcję z systemem AI oraz korzystają z treści wygenerowanych przez AI, pomoże im w podejmowaniu świadomych decyzji, a jednocześnie przyczyni się do zagwarantowania zaufania i ochrony integralności ekosystemu informacyjnego. Przejrzystość jest nie tylko technicznym wymogiem zgodności, ale również warunkiem wstępnym umożliwiającym osobom fizycznym rozpoznawanie interakcji i treści opartych na AI lub stosowania systemów rozpoznawania emocji lub kategoryzacji biometrycznej. Zapewnienie wykorzystania systemów interaktywnej i generatywnej AI w sposób przejrzysty i godny zaufania umożliwi również utrzymanie autonomii osobistej i wartości europejskich, godności ludzkiej i innych praw podstawowych (np. wolności myśli, prywatności, równości i niedyskryminacji, ochrony konsumentów, własności intelektualnej itp.), przy jednoczesnym zachowaniu wolności wypowiedzi i wiarygodności treści medialnych. |
2.3. Podmioty odpowiedzialne na podstawie art. 50 aktu w sprawie AI
|
(10) |
Zgodnie z art. 3 pkt 3 aktu w sprawie AI dostawcy to osoby fizyczne lub prawne, organy publiczne, agencje lub inne podmioty, które rozwijają systemy AI lub zlecają rozwój systemów AI oraz które – odpłatnie lub nieodpłatnie – pod własną nazwą lub własnym znakiem towarowym wprowadzają je do obrotu na unijnym rynku lub oddają je do użytku. Dostawcy muszą przestrzegać odpowiednich obowiązków w zakresie przejrzystości określonych w art. 50 ust. 1 i 2 aktu w sprawie AI, niezależnie od tego, czy mają siedzibę lub znajdują się w Unii czy w państwie trzecim (3). Dostawcy mający siedzibę lub znajdujący się poza Unią również podlegają aktowi w sprawie AI, jeżeli wyniki ich systemu AI są wykorzystywane w Unii (4). Przypadkowe, nieprzewidywalne lub nieuprawnione wykorzystywanie przez użytkowników na dalszym etapie łańcucha nie powinno jednak samo w sobie skutkować nałożeniem obowiązków na takich dostawców systemów interaktywnej lub generatywnej AI z państw trzecich, które to systemy nie są wprowadzane do obrotu ani oddawane do użytku w Unii, bez uszczerbku dla uprawnień właściwych organów nadzoru rynku do uznania ich wyników za niezgodne z aktem w sprawie AI. |
|
(11) |
Dostawcy muszą zapewnić, aby ich systemy interaktywnej lub generatywnej AI cechowały się przejrzystością uwzględnioną już na etapie projektowania oraz działania systemu, oraz muszą zapewnić spełnienie wszystkich odpowiednich obowiązków w zakresie przejrzystości określonych w art. 50 ust. 1, 2 i 5 aktu w sprawie AI najpóźniej w momencie wprowadzenia tych systemów do obrotu lub oddania ich do użytku. Wszystkie osoby fizyczne wchodzące w interakcję z systemem AI lub mające styczność z jego wynikami w objętym zakresem obszarze muszą być skutecznie i konsekwentnie informowane przez cały cykl życia systemu AI wprowadzonego do obrotu lub oddanego do użytku przez tego dostawcę (niezależnie od tego, kim są podmioty stosujące system lub inni użytkownicy systemu).
|
|
(12) |
Podmioty stosujące to osoby fizyczne lub prawne, organy publiczne, agencje lub inne podmioty wykorzystujące systemy AI, nad którymi sprawują kontrolę, chyba że systemy AI są wykorzystywane w ramach osobistej działalności pozazawodowej (5). „Kontrolę” nad systemem AI należy rozumieć jako przyjęcie odpowiedzialności za decyzję o wdrożeniu tego systemu oraz za sposób jego faktycznego wykorzystania (w tym jego wyników). Niekoniecznie wymaga to kontroli technicznej nad funkcjonowaniem systemu AI, o ile podmiot stosujący podejmuje decyzję, do jakich celów i w jaki sposób będzie korzystać z systemu AI (w tym w zdecentralizowanych procesach pracy i strukturach korporacyjnych grupy). Podmioty stosujące uczestniczące w złożonych łańcuchach wartości produkcji i dystrybucji treści powinny wprowadzić proporcjonalne środki w celu zapewnienia, aby oznakowanie treści, które te podmioty zastosowały zgodnie z art. 50 ust. 4 aktu w sprawie AI, było wyświetlane w sposób jasny i rozpoznawalny dla docelowych i przewidywalnych odbiorców w momencie pierwszego stosowania zgodnie z art. 50 ust. 5 aktu w sprawie AI (np. za pośrednictwem warunków umownych z partnerami dystrybuującymi treści, ustawień doświadczenia użytkownika (UX) i interfejsów, które mają być wyświetlane). |
|
(13) |
Podmioty stosujące podlegają obowiązkom w zakresie przejrzystości określonym w art. 50 ust. 3 i 4 aktu w sprawie AI, jeżeli mają siedzibę lub znajdują się w Unii lub jeżeli mają siedzibę lub znajdują się w państwie trzecim, natomiast wyniki systemu AI są wykorzystywane w Unii (6). W takim przypadku obowiązki w zakresie przejrzystości mają zastosowanie do podmiotów mających siedzibę lub znajdujących się poza Unią, w przypadku gdy sam podmiot stosujący przewiduje rozpowszechnianie i wykorzystywanie wyników AI w Unii (tj. poprzez zlecanie dystrybucji lub zezwalanie na dystrybucję na terytorium Unii, w tym poprzez publikowanie treści typu deepfake w ogólnodostępnym internecie). Podmioty stosujące z państw trzecich nie są jednak związane obowiązkami w zakresie przejrzystości, jeżeli treści systemu AI docierają do odbiorców w Unii za pośrednictwem kanałów, których nie można przewidzieć i które są poza ich kontrolą. |
|
(14) |
W przypadku gdy podmiot stosujący system AI jest osobą prawną, pod której kontrolą system jest wykorzystywany (np. agencja reklamowa), poszczególnych pracowników, którzy działają zgodnie z instrukcjami i pod kontrolą tej osoby prawnej (np. animatorów cyfrowych, projektantów stron internetowych, twórców treści, dziennikarzy), nie należy uznawać za odrębne podmioty stosujące ten system. Osoba prawna pozostaje podmiotem stosującym, jeżeli angażuje osoby trzecie (np. wykonawców, freelancerów) w obsługę systemu w jej imieniu, na jej odpowiedzialność i pod jej kontrolą.
|
|
(15) |
Podmioty (np. dostawcy i podmioty stosujące) mogą pełnić jednocześnie więcej niż jedną rolę w odniesieniu do systemu AI. Na przykład przedsiębiorstwo może opracować wewnętrzny system generatywnej AI i wykorzystywać go do generowania treści typu deepfake. W takim przypadku przedsiębiorstwo kwalifikuje się zarówno jako dostawca, jak i podmiot stosujący, który musi wypełnić obowiązki dotyczące oznaczania nadającego się do odczytu maszynowego na podstawie art. 50 ust. 2 oraz spełnić wymogi dotyczące jasnego i dostrzegalnego oznaczania treści typu deepfake na podstawie art. 50 ust. 4 aktu w sprawie AI. |
|
(16) |
Natomiast inne podmioty (na przykład dostawcy usług hostingu, w tym platformy internetowe, lub nadawcy), których rola ogranicza się do rozpowszechniania lub przekazywania wygenerowanych lub zmanipulowanych przez AI treści utworzonych przez osoby trzecie lub które otrzymują treści wygenerowane lub zmanipulowane przez AI lub mają styczność z takimi treściami i nie sprawują kontroli nad wykorzystaniem systemu AI do celów generowania treści lub manipulowania treściami przez AI, nie są podmiotami stosującymi w rozumieniu aktu w sprawie AI. Nie ponosząc odpowiedzialności na mocy aktu w sprawie AI, podmioty te mogą jednak odgrywać w łańcuchu wartości ważną rolę w utrzymaniu zaufania do ekosystemu informacyjnego i jego integralność. Zdecydowanie zachęca się je zatem do zachowania oznakowania i etykietowania wdrożonego zgodnie z art. 50 aktu w sprawie AI oraz do wdrożenia proporcjonalnych i technicznie wykonalnych środków umożliwiających osobom fizycznym wykrywanie treści wygenerowanych lub zmanipulowanych przez AI, bez uszczerbku dla odpowiedzialności dostawców generatywnych systemów AI i podmiotów stosujących systemy generatywnej AI ani dla jakichkolwiek obowiązków lub odpowiedzialności wynikających z rozporządzenia (UE) 2022/2065 (akt o usługach cyfrowych) (7) lub innego mającego zastosowanie prawa Unii lub prawa krajowego. |
|
(17) |
Inne podmioty działające w ramach swoich obowiązków zawodowych i rozpowszechniające treści (nawet jeśli nie są bezpośrednio zaangażowane na podstawie art. 50 aktu w sprawie AI) również zachęca się do wdrożenia proporcjonalnych i odpowiednich środków, tak aby osoby fizyczne będące ostatecznymi odbiorcami tych treści były skutecznie informowane i były w stanie wykryć fakt wygenerowania lub zmanipulowania tych treści przez AI. Ponadto strony te mogą być zobowiązane do oznaczania odpowiednich materiałów typu deepfake lub publikacji tekstowych dotyczących spraw leżących w interesie publicznym zgodnie z innymi obowiązującymi przepisami prawnymi lub deontologicznymi (np. oznakowanie nadawcy i pokazywanie w ramach programu telewizyjnego materiałów typu deepfake stworzonych przez osobę prywatną). Sam fakt, że podmiot oznacza treści lub wykorzystuje oznakowane treści, nie oznacza jednak, że kwalifikuje się on jako „podmiot stosujący” w rozumieniu aktu w sprawie AI. Akt w sprawie AI nie rozszerza odpowiedzialności prawnej tych podmiotów na mocy mających zastosowanie ram prawnych ani nie wpływa na nią, jeżeli podmioty te nie kwalifikują się jednocześnie jako dostawcy systemów AI lub podmioty stosujące systemy AI. |
2.4. Wyłączenia z zakresu stosowania aktu w sprawie AI
|
(18) |
W art. 2 aktu w sprawie AI przewidziano szereg ogólnych wyłączeń z zakresu stosowania aktu w sprawie AI, które zostały już wyjaśnione w wytycznych Komisji w sprawie zakazanych praktyk w zakresie sztucznej inteligencji (8). W związku z tym w niniejszej sekcji omówiono jedynie te aspekty, które są istotne z punktu widzenia obowiązków w zakresie przejrzystości określonych w art. 50 aktu w sprawie AI. |
2.4.1. Podmioty stosujące działające w kontekście czysto osobistej działalności pozazawodowej
|
(19) |
Zgodnie z art. 2 ust. 10 aktu w sprawie AI przedmiotowego rozporządzenia nie stosuje się do obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej (9). Za działalność „zawodową” należy uznać wszelką działalność, w ramach której osoba fizyczna regularnie uzyskuje korzyść ekonomiczną lub jest w inny sposób zaangażowana w działalność specjalistyczną, gospodarczą, handlową, zawodową lub niezależną. Określenie „czysto osobista” doprecyzowuje pozazawodowy charakter działalności, co oznacza, że działania danej osoby powinny mieć charakter zarówno osobisty, jak i pozazawodowy, aby osoba ta mogła zostać objęta zakresem tego wyjątku. Wszelkie wykorzystanie przez osoby fizyczne działające w imieniu lub z upoważnienia podmiotu stosującego działającego w ramach swoich obowiązków zawodowych będzie wchodzić w zakres obowiązków w zakresie przejrzystości określonych w art. 50 ust. 3 i 4 aktu w sprawie AI ciążących na podmiocie stosującym prowadzącym działalność zawodową.
|
|
(20) |
Wyłączenie przewidziane w art. 2 ust. 10 aktu w sprawie AI ma wyłącznie zastosowanie do obowiązków spoczywających na podmiotach stosujących, w przypadku gdy podmioty te wykorzystują system do czysto osobistej działalności pozazawodowej. System jako taki pozostaje objęty zakresem aktu w sprawie AI w odniesieniu do obowiązków dostawców wprowadzających system do obrotu lub oddających go do użytku oraz podmiotów stosujących system do użytku profesjonalnego. Wyjątek ten pozostaje również bez uszczerbku dla stosowania innych odpowiednich przepisów prawa Unii i prawa krajowego.
|
2.4.2. Badania i rozwój
|
(21) |
Art. 2 ust. 6 aktu w sprawie AI przewiduje wyłączenie dotyczące systemów AI lub modeli AI, w tym ich wyników, specjalnie opracowanych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych. Wyłączenie to pozostaje bez uszczerbku dla mających zastosowanie norm etycznych w dziedzinie badań naukowych oraz unijnych przepisów dotyczących ochrony danych i innych przepisów. W kontekście art. 50 aktu w sprawie AI wyłączenie to obejmuje nie tylko systemy interaktywnej AI, ale również wyniki systemów generatywnej AI (w tym treści typu deepfake) wykorzystywanych w kontekście badań naukowych. Jeżeli jednak systemy te są oddawane do użytku lub ich wyniki są wykorzystywane do celów innych niż wyłącznie do celów badań naukowych i rozwoju, nadal należy przestrzegać odpowiednich obowiązków w zakresie przejrzystości, o których mowa w art. 50 aktu w sprawie AI.
|
|
(22) |
Ponadto art. 2 ust. 8 aktu w sprawie AI wyłącza z zakresu stosowania działalność badawczą, testową i rozwojową dotyczącą systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Wyłączenie to nie obejmuje testów w warunkach rzeczywistych (w piaskownicach regulacyjnych w zakresie AI lub poza nimi). Ponadto po wprowadzeniu systemu AI do obrotu lub oddaniu go do użytku w następstwie takich badań i testów powinien on mimo wszystko spełniać odpowiednie obowiązki w zakresie przejrzystości wynikające z art. 50 aktu w sprawie AI (10). |
2.4.3. Systemy AI udostępniane na podstawie bezpłatnych licencji otwartego oprogramowania
|
(23) |
Zgodnie z art. 2 ust. 12 aktu w sprawie AI systemy AI udostępniane na podstawie bezpłatnych licencji otwartego oprogramowania nie są objęte zakresem stosowania aktu w sprawie AI, pod warunkiem że nie są objęte zakazami określonymi w art. 5 aktu w sprawie AI ani obowiązkami w zakresie przejrzystości określonymi w art. 50 aktu w sprawie AI lub nie są sklasyfikowane jako systemy wysokiego ryzyka (11). Oznacza to, że dostawcy otwartych systemów AI i podmioty stosujące otwarte systemy AI objęte zakresem stosowania art. 50 aktu w sprawie AI nadal muszą zapewnić przestrzeganie odnośnych obowiązków w zakresie przejrzystości, które na nich spoczywają. |
|
(24) |
Z kolei dostawcy elementów AI na bezpłatnej licencji otwartego oprogramowania, które obejmują oprogramowanie, dane, modele, narzędzia, usługi lub procesy na potrzeby personalizacji i integracji z systemem AI i które same w sobie (częściowo lub w całości) nie stanowią systemu AI, nie podlegają obowiązkom w zakresie przejrzystości określonym w art. 50 aktu w sprawie AI. Dostawców takich systemów zachęca się jednak do projektowania takich modeli, elementów i usług w sposób opisany w pkt 27 poniżej, o ile jest to proporcjonalne i wykonalne. |
2.5. Wzajemne powiązania z zakazanymi praktykami, wymogami dotyczącymi systemów AI wysokiego ryzyka i kompetencjami w zakresie AI
|
(25) |
W motywie 137 aktu w sprawie AI doprecyzowano, że spełnienie obowiązków w zakresie przejrzystości wynikających z art. 50 aktu w sprawie AI w odniesieniu do konkretnego systemu AI nie można interpretować jako wskazania, że wykorzystanie tego systemu AI lub jego wyników jest zgodne z prawem na podstawie aktu w sprawie AI. W szczególności systemy AI podlegające obowiązkom określonym w art. 50 aktu w sprawie AI mogą wchodzić w zakres stosowania art. 5 aktu w sprawie AI, a tym samym mogą być zakazane (np. stosowanie systemów rozpoznawania emocji w miejscu pracy lub instytucjach edukacyjnych) (12). Ponadto systemy AI objęte zakresem stosowania art. 50 aktu w sprawie AI można również sklasyfikować jako systemy wysokiego ryzyka (13) i mogą one podlegać odpowiednim wymogom i obowiązkom dotyczącym takich systemów. Zgodność z art. 50 aktu w sprawie AI nie zastępuje zatem obowiązków wynikających z innych przepisów aktu w sprawie AI, nie ogranicza tych obowiązków ani nie wpływa na nie (14). Jednocześnie systemy AI mogą również wchodzić w zakres stosowania art. 50 aktu w sprawie AI, nie będąc sklasyfikowane jako systemy wysokiego ryzyka zgodnie z art. 6 aktu w sprawie AI. Wymogi dotyczące kompetencji w zakresie AI określone w art. 4 aktu w sprawie AI mają również zastosowanie zarówno do dostawców systemów AI objętych zakresem stosowania art. 50 aktu w sprawie AI, jak i do podmiotów je stosujących. |
2.6. Wzajemne powiązania z przepisami mającymi zastosowanie do modeli lub systemów AI ogólnego przeznaczenia
|
(26) |
Art. 50 aktu w sprawie AI ma zastosowanie do niektórych systemów AI, w tym systemów AI ogólnego przeznaczenia (15), takich jak chatboty wspierające bezpośrednią interakcję z osobami fizycznymi lub systemy AI zdolne do generowania treści syntetycznych (w tym treści typu deepfake) lub manipulowania nimi (16). |
|
(27) |
Art. 50 aktu w sprawie AI nie stosuje się wprost do modeli AI ogólnego przeznaczenia. Jeżeli jednak system interaktywnej lub generatywnej AI, który wchodzi w zakres stosowania art. 50 ust. 1 lub 2 aktu w sprawie AI, opiera się na modelu AI ogólnego przeznaczenia dostarczanym przez tego samego dostawcę, środki w zakresie przejrzystości określone w niniejszych wytycznych można również wdrożyć na poziomie modelu (zob. również sekcja 4 poniżej). Ponadto, chociaż dostawcy innych modeli AI ogólnego przeznaczenia i innych modeli generatywnej AI nie są objęci zakresem stosowania art. 50 aktu w sprawie AI, również ich zachęca się do wdrożenia odpowiednich środków w zakresie przejrzystości na poziomie modelu w celu identyfikacji interaktywnych systemów AI oraz oznaczania treści wygenerowanych i zmanipulowanych przez AI. Takie podejście ma szczególnie tę zaletę, że ułatwia dostawcom systemów AI niższego szczebla wypełnianie obowiązków wynikających z art. 50 ust. 1 i 2 aktu w sprawie AI (17) oraz przyczynia się do utrzymania zaufania do ekosystemu informacyjnego i jego integralności. W przypadku modeli AI ogólnego przeznaczenia stwarzających ryzyko systemowe środki bezpieczeństwa na poziomie modelu służące identyfikacji interakcji z AI i oznaczaniu treści generowanych lub zmanipulowanych przez AI mogą, w stosownych przypadkach, stanowić część szerszego zestawu środków ograniczających ryzyko, które dostawcy mogą wprowadzić w ramach obowiązku ograniczania ryzyka systemowego zgodnie z art. 55 ust. 1 lit. b) aktu w sprawie AI. |
3. ART. 50 UST. 1 AKTU W SPRAWIE AI: PRZEJRZYSTOŚĆ W ODNIESIENIU DO INTERAKTYWNYCH SYSTEMÓW AI
|
(28) |
Art. 50 ust. 1 aktu w sprawie AI jest skierowany do dostawców systemów AI wchodzących w bezpośrednią interakcję z osobami fizycznymi, którzy muszą projektować i rozwijać swoje systemy w taki sposób, aby osoby fizyczne, których to dotyczy, były informowane o tym, że prowadzą interakcję z systemem AI. Jak wyjaśniono w motywie 132 aktu w sprawie AI, celem tego obowiązku informacyjnego jest umożliwienie tym osobom fizycznym podejmowania świadomych decyzji dotyczących wyników systemu, uniknięcie nadmiernego polegania na takich systemach oraz umożliwienie tym osobom fizycznym odpowiedniego dostosowania ich zaufania do treści i interakcji. |
3.1. Główne elementy, pojęcia i związane z nimi obowiązki w zakresie przejrzystości
|
(29) |
Obowiązek w zakresie przejrzystości określony w art. 50 ust. 1 aktu w sprawie AI ma zastosowanie do dostawców systemów AI, w przypadku gdy system jest przeznaczony do wchodzenia w bezpośrednią interakcję z osobami fizycznymi, a interakcja ta nie wchodzi w zakres żadnego z następujących wyjątków: (1) to, że interakcja prowadzona jest z systemem AI, jest oczywiste z punktu widzenia osoby fizycznej, która jest dostatecznie poinformowana, uważna i ostrożna, lub (2) wykorzystywanie systemu jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców, chyba że system udostępnia się ogółowi społeczeństwa na potrzeby składania zawiadomień o popełnieniu przestępstwa. |
3.1.1. Systemy AI przeznaczone do wchodzenia w bezpośrednią interakcję z osobami fizycznymi
|
(30) |
Aby system wchodził w zakres stosowania art. 50 ust. 1 aktu w sprawie AI, muszą wystąpić cztery elementy: (i) system musi być systemem AI, (ii) przeznaczonym do wchodzenia w interakcję, (iii) w sposób bezpośredni, (iv) z osobami fizycznymi.
|
|
(31) |
Agenci AI są objęci art. 50 ust. 1 aktu w sprawie AI, jeżeli są w stanie wchodzić w interakcję z osobami wydającymi im instrukcje lub z innymi osobami fizycznymi w ramach wykonywania zadań (np. dokonywania rezerwacji, zarządzania korespondencją, negocjowania lub zawierania umów, dokonywania zakupów itp.). Agentów AI należy projektować i rozwijać w taki sposób, aby ujawniali oni zarówno swój sztuczny charakter, jak i osobę, w imieniu której działają, z uwzględnieniem potrzeby przejrzystości pochodzenia i delegowania uprawnień oraz odpowiedzialności za konsekwencje ich działań. Obejmuje to przypadki, w których agenci AI są w stanie wchodzić w interakcję w złożonych architekturach z udziałem wielu agentów AI z innymi agentami AI, którzy wchodzą w bezpośrednią interakcję z osobami fizycznymi w ramach wykonywania zadania. Dostawca agenta AI może jednak nie zawsze być w stanie zidentyfikować z wyprzedzeniem poszczególne przypadki bezpośredniej interakcji agenta AI z innymi osobami fizycznymi po tym, jak agent zostanie wdrożony w różnych kontekstach. W przypadku gdy dostawca nie jest w stanie wiarygodnie ustalić, czy agent AI będzie wchodził w bezpośrednią interakcję z osobą fizyczną przed wprowadzeniem agenta AI do obrotu lub oddaniem go do użytku, agent powinien zostać zaprojektowany na poziomie architektury i poinstruowany, aby ujawniał się jako taki w każdej sytuacji, w której istnieje uzasadnione prawdopodobieństwo, że agent może wchodzić w interakcję z osobą fizyczną (np. gdy osoba fizyczna reprezentuje podmiot prawny lub działa na jego rzecz). Ponadto agenci AI powinni również ujawniać się osobom wydającym im instrukcje na kluczowych etapach (np. w momencie udzielania zezwolenia, sprawozdawczości, walidacji itp., w tym gdy wdrażany agent AI otrzymuje lub przetwarza wyniki wygenerowane przez inne systemy AI, a nie bezpośrednio przez osobę fizyczną, lub też opiera się na takich wynikach) oraz przy każdej nowej interakcji.
|
3.1.2. Obowiązek w zakresie informowania wynikający z art. 50 ust. 1 aktu w sprawie AI
|
(32) |
W art. 50 ust. 1 aktu w sprawie AI zobowiązano dostawców systemów AI wchodzących w bezpośrednią interakcję z osobami fizycznymi do zapewnienia, aby ich systemy AI (w tym agenci AI i systemy AI ogólnego przeznaczenia) były projektowane i rozwijane w taki sposób, aby zainteresowane osoby fizyczne były informowane o tym, że prowadzą interakcję z systemem AI. |
|
(33) |
Chociaż mechanizm informowania powinien być wbudowany w projektowanie i rozwój systemu oraz w sposób interakcji systemu z osobami fizycznymi, stosowna informacja powinna być przekazywana podczas działania systemu AI, a najpóźniej w momencie pierwszej interakcji z osobą fizyczną (zgodnie z wymogami określonymi w art. 50 ust. 5 aktu w sprawie AI, zob. sekcja 7 poniżej). Dostawcy są odpowiedzialni za zapewnienie, aby po wprowadzeniu systemu AI do obrotu lub oddaniu go do użytku osoby fizyczne wchodzące w interakcję z systemem AI były skutecznie i spójnie informowane przez cały cykl życia systemu AI wprowadzonego do obrotu lub oddanego do użytku przez tego dostawcę.2.2 |
|
(34) |
Format ujawniania: w art. 50 ust. 1 aktu w sprawie AI nie określono żadnej konkretnej techniki ujawniania. Dostawcy mogą zatem wybrać dowolną odpowiednią technikę, o ile spełnione są dwa wymogi: (i) wymogi określone w art. 50 ust. 5 aktu w sprawie AI zostały spełnione w odniesieniu do przekazywania informacji w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji (zob. sekcja 7 poniżej); oraz (ii) uwzględnia się cechy osób fizycznych należących do grup szczególnie wrażliwych ze względu na wiek (np. dzieci lub osoby starsze) lub niepełnosprawność – w zakresie, w jakim system AI ma wchodzić w interakcję, lub gdy istnieje uzasadnione prawdopodobieństwo interakcji z osobami fizycznymi należącymi do tych grup (np. również wówczas, gdy istnieje uzasadnione prawdopodobieństwo interakcji systemu AI z ogółem społeczeństwa) (19). Informacje muszą być również przekazywane w formacie dostępnym dla osób fizycznych z niepełnosprawnościami, jak określono w art. 50 ust. 5 i motywie 132 aktu w sprawie AI (zob. sekcja 7). W przypadku gdy system może wchodzić w interakcję z dziećmi, powiadomienia te muszą być przyjazne dziecku, dostosowane do wieku, łatwe do zrozumienia i łatwo dostępne dla wszystkich dzieci, w tym dzieci z niepełnosprawnościami lub dodatkowymi potrzebami w zakresie dostępności. Zaleca się, aby w miarę dostępności i w stosownych przypadkach dostawcy stosowali znormalizowane praktyki w zakresie ujawniania i oznaczania w celu zapewnienia skuteczności i spójności powiadomień oraz zwiększenia świadomości użytkowników. |
|
(35) |
Treść powiadomienia: w art. 50 ust. 1 aktu w sprawie AI zobowiązano dostawców interaktywnych systemów AI do projektowania i rozwijania tych systemów w taki sposób, aby wszystkie osoby fizyczne wchodzące w interakcję z takimi systemami AI były wyraźnie informowane, że druga strona interakcji ma sztuczny charakter i nie jest człowiekiem. Jeżeli dostawca może racjonalnie przewidzieć, że system AI może wchodzić w interakcję z osobami fizycznymi należącymi do wyżej wymienionych grup szczególnie wrażliwych, informacje te należy odpowiednio dostosować i przekazać w przystępnym formacie, zgodnie z wymogami mającego zastosowanie prawa Unii, aby zapewnić również pełne zrozumienie tych informacji przez te osoby fizyczne (20). |
|
(36) |
Powiadomienia powinny zawierać informacje na temat sztucznego źródła interakcji w sposób odpowiedni do kontekstu, w którym ma miejsce interakcja. Należy tego dokonać w sposób zapewniający odpowiednie i skuteczne informowanie zainteresowanych osób, unikając wszelkiego ryzyka wprowadzenia w błąd lub manipulacji przed interakcją i w jej trakcie, przy jednoczesnym zapewnieniu wykonalności i proporcjonalności obowiązku informacyjnego. Przykłady przekazywania informacji obejmują powiadomienia w formie tekstowej (np. chatbot, który rozpoczynając rozmowę, zaznacza, że wykorzystuje technologię AI), środki wizualne (np. wygenerowana przez agenta AI wiadomość e-mail wysłana do osoby fizycznej, z oznaczeniem AI na górze), środki dźwiękowe (np. asystent głosowy, który na początku sesji informuje, że działa w oparciu o AI), ujawnianie identyfikatorów AI i danych uwierzytelniających (np. agenci AI, którzy ujawniają swoją tożsamość AI w możliwym do zweryfikowania zakresie) (21). |
|
(37) |
Format powiadomień: jako najlepszą praktykę zaleca się projektowanie systemu AI z wykorzystaniem mechanizmów powiadamiania stosujących rozwiązania multimodalne i gwarantujących dostępność. Takie powiadomienia mogą łączyć różne techniki w celu zwiększenia zrozumienia przez użytkowników, w stosownych przypadkach i w zależności od kontekstu oraz docelowych i przewidywalnych grup odbiorców oraz dostępnych zasobów po stronie dostawców, w szczególności małych i średnich przedsiębiorstw (MŚP). Przykłady odpowiednich technik mogą obejmować:
|
|
(38) |
Niektóre techniki nie są konieczne, a gdy są stosowane samodzielnie, są niewystarczające do skutecznego wypełnienia obowiązku w zakresie przejrzystości określonego w art. 50 ust. 1 i 5 aktu w sprawie AI, w szczególności:
|
|
(39) |
Ujawnianie informacji powinno być proporcjonalne i dostosowane do poszczególnych kontekstów i grup docelowych systemu AI, aby zachować skuteczność, przyjazność dla użytkownika i uniknąć, w zakresie, w jakim jest to możliwe, zakłóceń w doświadczeniu użytkownika lub efektu przyzwyczajenia (tzw. „ślepota banerowa”). |
|
(40) |
Jednorazowe, wyraźne powiadomienie przed pierwszą interakcją systemu AI z konkretną osobą fizyczną prawdopodobnie będzie wystarczające w większości przypadków do wypełnienia obowiązku określonego w art. 50 ust. 1 aktu w sprawie AI. W pewnych kontekstach związanych z wyższym ryzykiem konieczne mogą być jednak okresowe przypomnienia i powiadomienia z uwzględnieniem kontekstu, aby zagwarantować, że użytkownik jest stale świadomy charakteru interakcji. Dotyczy to w szczególności systemów AI wchodzących w interakcję z osobami wymagającymi szczególnego traktowania (np. dziećmi, osobami starszymi, osobami z niepełnosprawnościami i osobami o niższym poziomie umiejętności czytania i pisania), długotrwałych i ewoluujących interakcji w kontekstach wrażliwych lub immersyjnych (np. w których użytkownicy mogą wyrażać lub doświadczać stresu emocjonalnego lub emocjonalnej bezbronności lub być narażeni na ryzyko zachowań o charakterze uzależniającym), w przypadku których istnieje zwiększone ryzyko wprowadzenia użytkowników w błąd (np. doradztwo finansowe, ubezpieczenia, pomoc prawna, doradztwo zdrowotne i rozpatrywanie skarg) lub kształtowania więzi emocjonalnych lub stanów zależności (np. wirtualni towarzysze oparci na AI), a także gdy istnieje potrzeba zapewnienia świadomości i kontroli działań agentów AI. Dostawcy muszą również projektować i rozwijać system AI z myślą o zapewnieniu ujawniania stosownych informacji we wszystkich sytuacjach, w których systemowi AI zadawane są pytania dotyczące jego charakteru lub źródła interakcji lub w których na podstawie wymiany informacji z osobą fizyczną można racjonalnie założyć, że osoba ta może zostać wprowadzona w błąd co do faktu, że drugą stroną interakcji jest system AI, lub może nie mieć co do tego pewności. |
3.2. Wyjątki od obowiązku w zakresie informowania na podstawie art. 50 ust. 1 aktu w sprawie AI
|
(41) |
W art. 50 ust. 1 aktu w sprawie AI przewidziano dwa wyjątki od obowiązku w zakresie informowania w odniesieniu do interaktywnych systemów AI, które to wyjątki omówiono poniżej. |
3.2.1. Wyjątek dotyczący oczywistej interakcji z systemem AI
|
(42) |
Aby móc skorzystać z pierwszego wyjątku, dostawcy będą musieli ocenić i wykazać: (i) ewidentnie sztuczny charakter interakcji z (ii) osobą fizyczną, która musi być dostatecznie poinformowana, uważna i ostrożna, z uwzględnieniem okoliczności i kontekstu korzystania. |
|
(43) |
Norma ta opiera się na ugruntowanym unijnym prawie ochrony konsumentów w odniesieniu do pojęcia „przeciętnego konsumenta” i należy interpretować ją w sposób spójny, przy jednoczesnym uwzględnieniu szczególnych i zróżnicowanych kontekstów i zastosowań systemów AI wchodzących w bezpośrednią interakcję z osobami fizycznymi oraz celów określonych w art. 50 ust. 1 aktu w sprawie AI. |
|
(44) |
Sprecyzowanie profilu takiej „przeciętnej” osoby fizycznej składa się z dwóch etapów. Po pierwsze dostawcy powinni wziąć pod uwagę odbiorców, z którymi system AI ma wchodzić w interakcję i z którymi z dużym prawdopodobieństwem będzie wchodzić w interakcję. Po drugie dostawca powinien przeanalizować, na ile dostatecznie poinformowany, uważny i ostrożny jest przeciętny członek tej grupy odbiorców, z uwzględnieniem okoliczności i kontekstu korzystania. Przeprowadzając tę ocenę, należy wziąć pod uwagę kilka czynników:
|
|
(45) |
Oczywisty charakter interakcji: po ustaleniu hipotetycznej, stosunkowo dobrze poinformowanej, uważnej i ostrożnej osoby fizycznej dostawcy powinni ocenić, czy dla takiej osoby będzie oczywiste, że wchodzi ona w bezpośrednią interakcję z systemem AI. Wyjątek ten należy interpretować w sposób zawężający, ponieważ pozbawia on osoby fizyczne ochrony i prawa do bycia informowanymi za pomocą jasnych i wyraźnie wyodrębnionych informacji o tym, że wchodzą one w interakcję z systemami AI. Ogólna świadomość konsumentów i innych osób fizycznych co do istnienia systemów AI (w tym chatbotów i agentów) nie oznacza, że rozpoznają je w interakcjach. Przy ocenianiu, czy charakter interakcji jest oczywisty, należy wziąć pod uwagę kilka istotnych czynników:
|
3.2.2. Wyjątek dotyczący systemów AI, których wykorzystywanie jest dozwolone na mocy prawa do celów ścigania przestępstw
|
(46) |
Dostawcy interaktywnych systemów AI są zwolnieni z obowiązku w zakresie przejrzystości określonego w art. 50 ust. 1 aktu w sprawie AI, jeżeli wykorzystywanie tych systemów jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich. |
|
(47) |
Wyrażenie „dozwolone na mocy prawa” należy rozumieć jako obejmujące prawo Unii, a także przepisy prawa krajowego państw członkowskich przyjęte zgodnie z prawem Unii. Prawo zezwalające na wykorzystanie systemu AI musi jasno określać cele i okoliczności dozwolonego wykorzystania oraz przewidywać odpowiednie zabezpieczenia w celu ochrony praw i wolności osób trzecich. Biorąc pod uwagę neutralne pod względem technologicznym podejście określone w akcie w sprawie AI, nie ma konieczności prawnego identyfikowania lub autoryzowania konkretnych systemów AI, jeżeli wykorzystanie systemu AI jest zasadniczo przewidziane w ramach prawnie dozwolonej działalności i jest zgodne z mającymi zastosowanie ramami prawnymi. |
|
(48) |
Aby można było objąć system AI tym wyjątkiem, jego celem musi być wykrywanie przestępstw, zapobieganie im, prowadzenie postępowań przygotowawczych w ich sprawie lub ściganie ich sprawców (np. agent AI działający pod przykryciem, systemy AI wykorzystywane pod kontrolą człowieka przez organy ścigania do prowadzenia czynności dochodzeniowych w internecie lub do komunikacji z osobami, które mogą być zaangażowane w działalność przestępczą). Wyjątek ten nie ogranicza się do wykorzystywania takich systemów AI wyłącznie przez organy ścigania zdefiniowane w art. 3 pkt 48 aktu w sprawie AI, ale może również obejmować systemy interaktywnej (lub generatywnej) AI wykorzystywane przez inne unijne lub krajowe organy publiczne, o ile ich wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich. Przedmiotowe wyłączenie nie wymaga, aby system AI był w stanie prowadzić czynności dochodzeniowe w sposób niezależny. Jeżeli dany system może być wykorzystywany zarówno do celów egzekwowania prawa, jak i do innych zwykłych celów, możliwość zastosowania wyłączenia należy oceniać w świetle konkretnego użycia systemu. Obowiązki w zakresie przejrzystości nadal mają zastosowanie w przypadku, gdy ten sam system AI jest wykorzystywany do celów innych niż dozwolone na mocy prawa wykrywanie przestępstw, zapobieganie im, prowadzenie postępowań przygotowawczych w ich sprawie lub ściganie ich sprawców. Nadal należy zapewnić przejrzystość osobom fizycznym, gdy wchodzą one w interakcję z systemem w kontekście jego zwykłych celów. |
|
(49) |
Wyjątek ten nie ma zastosowania, jeżeli (i) system AI jest publicznie dostępny oraz (ii) system oferuje osobom fizycznym funkcję zgłaszania przestępstw. Takie systemy mogą być wykorzystywane, ale nadal podlegają obowiązkowi w zakresie przejrzystości na podstawie art. 50 ust. 1 aktu w sprawie AI, w związku z czym osoby fizyczne muszą być informowane o tym, że wchodzą w interakcję z takimi systemami.
Dla większej jasności wyjątek ten dotyczy wyłącznie wynikającego z art. 50 ust. 1 obowiązku informowania osób fizycznych o tym, że wchodzą one w interakcję z systemem AI (22). Pozostaje to bez uszczerbku dla mającego zastosowanie prawa Unii i prawa krajowego, w tym przepisów proceduralnych dotyczących dokumentacji, ujawniania, dopuszczalności i oceny dowodów.
|
3.3. Wzajemne powiązania z innymi aktami prawnymi Unii
|
(50) |
Obowiązek w zakresie przejrzystości wynikający z art. 50 ust. 1 aktu w sprawie AI ma zastosowanie bez uszczerbku dla obowiązujących unijnych przepisów dotyczących ochrony konsumentów, ochrony danych, cyfryzacji lub niedyskryminacji, które mogą wymagać ujawniania innych informacji, które nie dotyczą konkretnie faktu, że źródłem interakcji jest AI. W szczególności na mocy dyrektywy 2005/29/WE (dyrektywa o nieuczciwych praktykach handlowych) (23) zakazuje się działań lub zaniechań wprowadzających w błąd w odniesieniu do głównych cech produktu lub usługi. Ponadto dyrektywa 2011/83/WE („dyrektywa w sprawie praw konsumentów”) (24) zobowiązuje przedsiębiorców do udzielania jasnych i zrozumiałych informacji przed zawarciem umowy na temat głównych cech towarów lub usług. W przypadku gdy usługa opiera się na AI (np. chatbot dostępny w modelu subskrypcyjnym, aplikacja towarzysząca oparta na AI lub wirtualna usługa coachingu), funkcja AI może kwalifikować się jako istotna cecha, którą należy ujawnić, zanim konsument zostanie związany umową. Obowiązki informacyjne wynikające z unijnego prawa ochrony konsumentów mają zastosowanie niezależnie od tego, czy interakcję uznaje się za „oczywistą” zgodnie z art. 50 ust. 1 aktu w sprawie AI. Obowiązki te mają również charakter uzupełniający wobec ogólnych obowiązków informacyjnych w zakresie ochrony konsumentów, natomiast obowiązek powiadamiania wynikający z aktu w sprawie AI ma bardziej kontekstowy charakter i jego celem jest zapewnienie stałej świadomości wszystkich osób fizycznych na temat bezpośredniej interakcji z systemem AI co najmniej przed rozpoczęciem interakcji i przez cały czas jej trwania. |
|
(51) |
Akt o usługach cyfrowych również zawiera wymogi dotyczące przejrzystości systemów rekomendacji działających na platformach internetowych, w tym wymóg wyjaśnienia głównych parametrów plasowania. Obowiązki te stanowią uzupełnienie obowiązków w zakresie przejrzystości określonych w art. 50 ust. 1 aktu w sprawie AI, ponieważ mają inny zakres i cel oraz dotyczą systemów, które co do zasady nie wchodzą w bezpośrednią interakcję z użytkownikami w rozumieniu art. 50 ust. 1 aktu w sprawie AI. |
|
(52) |
Jeżeli chodzi o obowiązki informacyjne wobec osób, których dane dotyczą, wynikające z unijnego prawa o ochronie danych, obowiązek określony w art. 50 ust. 1 aktu w sprawie AI służy innemu celowi niż te obowiązki i jako taki nie ma wpływu na te obowiązki informacyjne. |
|
(53) |
Podobnie obowiązek w zakresie przejrzystości wynikający z art. 50 ust. 1 aktu w sprawie AI ma zastosowanie bez uszczerbku dla prawa Unii i prawa krajowego dotyczącego udzielania informacji osobom w kontekście postępowania karnego (np. dyrektywy 2012/13/UE lub dyrektywy 2012/29/UE zmienionej dyrektywą (UE) 2026/1472) (25). |
4. ART. 50 UST. 2 AKTU W SPRAWIE AI: OZNACZANIE I WYKRYWANIE TREŚCI WYGENEROWANYCH LUB ZMANIPULOWANYCH PRZEZ AI
|
(54) |
W art. 50 ust. 2 aktu w sprawie AI zobowiązano dostawców systemów AI generujących treści syntetyczne do wdrożenia rozwiązań technicznych, które spełniają określone wymogi jakościowe dotyczące oznakowania nadającego się do odczytu maszynowego i wykrywania wyników ich systemów AI. Celem jest umożliwienie osobom fizycznym odróżnienia treści wygenerowanych lub zmanipulowanych przez AI od innych treści (na przykład treści utworzonych przez ludzi) oraz zweryfikowania ich źródła, a tym samym przyczynienie się do zwiększenia integralności i zaufania do ekosystemu informacyjnego. |
|
(55) |
Beneficjentami tego obowiązku w zakresie przejrzystości są zatem wszystkie osoby fizyczne, które mogą mieć styczność z treściami wygenerowanymi lub zmanipulowanymi przez AI, a także kluczowe podmioty, które odgrywają ważną rolę dla zaufania do ekosystemu informacyjnego i jego integralności, takie jak właściwe organy nadzoru rynku i inne właściwe organy, niezależni badacze, organizacje społeczeństwa obywatelskiego, media, zaufane podmioty sygnalizujące, obrońcy praw podstawowych, dostawcy platform internetowych i wyszukiwarek internetowych, posiadacze praw oraz inni twórcy i dystrybutorzy treści itp. |
4.1. Główne elementy i pojęcia, o których mowa w art. 50 ust. 2 aktu w sprawie AI
|
(56) |
Art. 50 ust. 2 aktu w sprawie AI ma zastosowanie, jeżeli spełnionych jest łącznie kilka warunków:
|
4.1.1. Systemy AI generujące treści syntetyczne lub manipulujące nimi
|
(57) |
Art. 50 ust. 2 aktu w sprawie AI ma zastosowanie do systemów AI (26), w tym systemów AI ogólnego przeznaczenia, generujących treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu. Art. 50 ust. 2 aktu w sprawie AI obejmuje podzbiór systemów, które spełniają definicję systemu AI zawartą w art. 3 pkt 1 aktu w sprawie AI i które generują takie wyniki. Art. 50 ust. 2 aktu w sprawie AI obejmuje również systemy AI wykorzystywane do manipulowania treściami. |
|
(58) |
Generowanie treści odnosi się do generowania materiałów syntetycznych przez system AI (np. na podstawie polecenia człowieka), na przykład generowania obrazu syntetycznego lub piosenki. W praktyce oznacza to, że art. 50 ust. 2 aktu w sprawie AI może mieć zastosowanie do systemów generatywnej AI stworzonych do realizacji wąskiego celu, jakim jest generowanie konkretnych wyników. Jednocześnie art. 50 ust. 2 aktu w sprawie AI ma również zastosowanie do systemów AI, które mogą służyć wielu celom, w tym do systemów AI ogólnego przeznaczenia, i które mogą generować różne rodzaje treści, a także do agentowych systemów AI, o ile generują one treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu. |
|
(59) |
Z kolei manipulacja treścią odnosi się do już istniejących treści (syntetycznych lub niesyntetycznych), które są zmieniane przez system AI (np. do istniejącego obrazu lub nagrania głosowego, które są poddawane manipulacji przez system AI zgodnie z instrukcjami człowieka). Aby treści wchodziły w zakres stosowania art. 50 ust. 2 aktu w sprawie AI, wystarczy, aby były generowane przez AI lub poddawane manipulacji wykraczającej poza standardową edycję na podstawie wyjątków określonych w art. 50 ust. 2 aktu w sprawie AI (zob. sekcja 4.3). Ponadto w art. 50 ust. 2 aktu w sprawie AI nie wymaga się, aby treści były wyłącznie generowane lub poddawane manipulacji przez AI. Treści, które są mieszane z materiałami stworzonymi przez człowieka, również kwalifikują się jako treści syntetyczne, jeżeli zostały zmanipulowane lub wygenerowane w jednym z rodzajów treści, o których mowa w art. 50 ust. 2 aktu w sprawie AI. |
4.1.2. Rodzaje treści syntetycznych objęte zakresem stosowania
|
(60) |
Art. 50 ust. 2 aktu w sprawie AI zawiera wyczerpujący wykaz rodzajów treści syntetycznych objętych obowiązkiem w zakresie przejrzystości: dźwięk, obraz, wideo lub tekst. Obejmuje to również treści multimodalne, tj. treści składające się z połączenia tych rodzajów. Do celów art. 50 ust. 2 aktu w sprawie AI poszczególne rodzaje treści należy interpretować w świetle praktycznych i technologicznych zmian, które mogą z czasem ewoluować. Na obecnym etapie należy je rozumieć w następujący sposób:
|
|
(61) |
Systemy AI generujące obrazy 3D, wideo 3D i dźwięki 3D lub manipulujące nimi, jak również systemy AI generujące rzeczywistość wirtualną, rozszerzoną lub mieszaną wchodzą w zakres stosowania art. 50 ust. 2 aktu w sprawie AI. „Rzeczywistość wirtualna” obejmuje technologie AI, które umożliwiają użytkownikom doświadczanie środowiska wygenerowanego komputerowo symulującego fizyczną obecność i interakcję z nim oraz umożliwiają użytkownikom interakcję w czasie rzeczywistym z tym środowiskiem. Ponieważ rzeczywistość wirtualna i rozszerzona składa się z czasowej sekwencji obrazów, opcjonalnie zsynchronizowanej z dźwiękiem, która odzwierciedla zmianę wizualną w czasie, można ją uznać za treści „wideo”. Odpowiednim „wynikiem”, który należy oznaczyć, jest ostateczna forma poszczególnych aktywów wygenerowanych przez AI, ze szczególnymi wyjątkami dotyczącymi efemerycznych sesji interaktywnych w czasie rzeczywistym, o których mowa w pkt 88 poniżej. Nie wymaga się oznaczania artefaktów cyfrowych wykorzystywanych do generowania obrazów 3D, nagrań wideo 3D i treści audio 3D, takich jak chmura punktów i siatka 3D. |
|
(62) |
Cyfrowe bliźniaki, które stanowią wirtualne odwzorowanie osób, obiektów fizycznych lub systemów, wykorzystujące wiele rodzajów danych, również wchodzą w zakres stosowania art. 50 ust. 2 aktu w sprawie AI, jeżeli zostały wygenerowane i zmanipulowane przez AI i przyjmują formę dźwięku, obrazu, wideo lub tekstu, chyba że wchodzą w zakres wyjątków i kwalifikują się jako „zastosowania przemysłowe” lub „zastosowania między przedsiębiorstwami”, o których mowa w pkt 87 poniżej, lub jako treści ulotne w czasie rzeczywistym, o których mowa w pkt 88 poniżej. |
|
(63) |
Art. 50 ust. 2 aktu w sprawie AI może mieć również zastosowanie do agentów AI, jeżeli agent AI podejmuje działanie, którego wynikiem są treści wygenerowane lub zmanipulowane przez AI, dostrzegalne dla osób fizycznych w formie dźwięku, obrazu, wideo lub tekstu. Wyniki te muszą być zatem oznaczone i wykrywalne w sposób opisany poniżej. Natomiast wszelkie działania agenta AI, które nie obejmują treści wygenerowanych lub zmanipulowanych przez AI (np. pośrednie etapy przetwarzania, takie jak rozumowanie i łańcuch myśli), lub działania wygenerowane przez AI, które z założenia nie mają być bezpośrednio dostrzegalne dla osób fizycznych (np. żądanie sieciowe lub działanie w przeglądarce), nie kwalifikują się jako treści syntetyczne objęte zakresem stosowania art. 50 ust. 2 aktu w sprawie AI i nie muszą być zgodne z obowiązkami w zakresie oznaczania i wykrywania. |
4.1.3. Treści nieobjęte zakresem stosowania art. 50 ust. 2 aktu w sprawie AI
|
(64) |
Treści wygenerowane przez system AI oparty na prostym przetwarzaniu danych, które nie zostały konkretnie wygenerowane lub zmanipulowane przez AI, na przykład wyrenderowana klatka, nie wchodzą w zakres stosowania art. 50 ust. 2 aktu w sprawie AI. |
|
(65) |
Ponadto wyniki systemu AI, które jedynie odtwarzają istniejące treści lub umożliwiają prezentację lub uporządkowanie już istniejących treści, nie są objęte art. 50 ust. 2 aktu w sprawie AI. Może to dotyczyć np. list odtwarzania utworów muzycznych lub innych systemów rekomendacji, które wybierają lub plasują istniejące treści wyłącznie na podstawie preferencji lub aktywności użytkownika, nie tworząc żadnych nowych treści ani nie manipulując nimi. To samo dotyczy systemów AI wykorzystywanych w wewnętrznych procesach analitycznych, które pozyskują i porządkują dane, ale ich nie podsumowują. |
|
(66) |
To samo dotyczy również danych wejściowych i wyjściowych systemu AI, które stanowią jedynie dane z monitorowania i zapisy danych ze środowisk fizycznych lub wirtualnych, które to dane nie są generowane ani manipulowane przez AI (np. przez roboty lub inne czujniki oparte na AI), lub transmisje danych przez systemy AI bez żadnych zmian. Obejmuje to różnorodne dane wejściowe i wyjściowe systemów AI, w szczególności w warunkach przemysłowych, takie jak dane produkcyjne dla robotów monitorujących dane; dane dotyczące zużycia rejestrowane przez inteligentne liczniki wykorzystujące AI, pomiary częstotliwości i napięcia w sieci; oraz rejestrowanie danych dotyczących lokalizacji GPS z pojazdów itp. |
|
(67) |
Ponadto, ponieważ celem obowiązku w zakresie przejrzystości określonego w art. 50 ust. 2 aktu w sprawie AI jest umożliwienie ludziom odróżnienia treści wygenerowanych lub zmanipulowanych przez AI, tak aby przeciwdziałać ryzyku wprowadzania w błąd i manipulacji oraz zapewnić integralność ekosystemu informacyjnego i zaufanie do niego, przepis ten nie dotyczy wszelkich treści niezwiązanych z tym celem, które to treści nie są dostrzegalne lub nie są przeznaczone do interpretacji, weryfikacji lub podejmowania działań przez osoby fizyczne. |
|
(68) |
W szczególności należy uznać, że następujące treści nie wchodzą w zakres stosowania art. 50 ust. 2 aktu w sprawie AI:
|
4.2. Obowiązek oznaczania i zapewnienia wykrywalności określony w art. 50 ust. 2 aktu w sprawie AI
|
(69) |
W art. 50 ust. 2 aktu w sprawie AI nałożono na dostawców systemów generatywnej AI objętych zakresem stosowania tego przepisu obowiązek w zakresie przejrzystości obejmujący dwa odrębne, ale z natury wzajemnie powiązane elementy. Po pierwsze dostawcy muszą zapewnić, aby wyniki systemu AI były oznaczone w formacie nadającym się do odczytu maszynowego. Po drugie dostawcy muszą zapewnić, aby wyniki były wykrywalne jako sztucznie wygenerowane lub zmanipulowane treści. W odniesieniu do każdego wdrożonego rozwiązania w zakresie oznaczania dostawcy powinni zapewnić dostępność odpowiednich środków wykrywania (jak określono poniżej), aby umożliwić osobom fizycznym mającym styczność z treściami i innym odpowiednim podmiotom identyfikację i odróżnienie treści wygenerowanych sztucznie przez AI od innych treści. Rozwiązanie techniczne należy rozumieć jako kombinację technik oznaczania i środków wykrywania, które dostawca wdrożył w celu wypełnienia obowiązku w zakresie przejrzystości na podstawie art. 50 ust. 2 aktu w sprawie AI. |
|
(70) |
Każdy z dwóch wyżej wymienionych elementów musi zostać spełniony, aby skutecznie osiągnąć cele obowiązków w zakresie przejrzystości określonych w art. 50 ust. 2 aktu w sprawie AI. Spełnienie tylko jednego elementu (np. w odniesieniu do nadających się do odczytu maszynowego oznakowań wyników bez dostępnych środków ich wykrywania) nie wystarczy do zapewnienia zgodności z tym przepisem (27). |
4.2.1. Obowiązek oznaczania
|
(71) |
Zakres obowiązku oznaczania ogranicza się do stosowania oznaczeń w formacie nadającym się do odczytu maszynowego. Format nadający się do odczytu maszynowego oznacza, że oznaczenia są ustrukturyzowane w sposób umożliwiający aplikacjom komputerowym ich łatwą identyfikację, rozpoznawanie i ekstrakcję bez interwencji człowieka. Nie wyklucza się wykorzystywania dostrzegalnych oznaczeń i etykiet jako środka uzupełniającego, w stosownych przypadkach, w celu ułatwienia podmiotom stosującym wywiązania się z obowiązku oznaczania treści typu deepfake zgodnie z art. 50 ust. 4 aktu w sprawie AI. |
|
(72) |
Aby wywiązać się z obowiązku oznaczania, dostawcy mogą stosować jedną technikę oznaczania lub kombinację technik, o ile ich całościowe rozwiązanie techniczne umożliwia odczyt maszynowy i spełnia wymogi skuteczności, interoperacyjności, solidności i niezawodności w stopniu wymaganym prawem, jak przewidziano w art. 50 ust. 2 zdanie drugie aktu w sprawie AI (zob. sekcja 4.2.3 poniżej). |
|
(73) |
W motywie 133 aktu w sprawie AI przedstawiono przykłady takich technik, które obejmują znaki wodne, identyfikację metadanych, metody kryptograficzne służące do potwierdzania pochodzenia i autentyczności treści, metody rejestracji zdarzeń, odciski cyfrowe lub inne techniki oraz połączenie takich technik. Chociaż metody potwierdzania pochodzenia i autentyczności wymieniono w motywie 133 aktu w sprawie AI, dostawcy nie są zobowiązani do rejestrowania ani przechowywania ewidencji pełnego łańcucha pochodzenia zawierającej informacje na temat pochodzenia i modyfikacji treści lub wszelkie inne istotne twierdzenia dotyczące historii treści. Takie metody ewidencjonowania pochodzenia mogą być jednak również wykorzystywane do zapewnienia zgodności z art. 50 ust. 2 aktu w sprawie AI i mogą służyć osobom fizycznym pomocą w odróżnianiu treści wygenerowanych lub zmanipulowanych przez AI od treści autentycznych. |
|
(74) |
Dostawcy mogą wdrożyć rozwiązanie w zakresie oznaczania wyników na różnych etapach łańcucha wartości (np. post hoc po wygenerowaniu treści na poziomie systemu AI, na poziomie bazowego modelu AI lub jako element wbudowany w proces wnioskowania systemu AI). Mogą oni polegać na rozwiązaniu w zakresie oznaczania wdrożonym przez dostawcę modelu na wcześniejszym etapie łańcucha lub osobę trzecią dostarczającą rozwiązanie (np. jako standard otwarty lub usługa specjalistyczna), o ile takie rozwiązanie w zakresie oznaczania jest zgodne z art. 50 ust. 2 aktu w sprawie AI. Korzystanie z tych rozwiązań pozostaje bez uszczerbku dla odpowiedzialności dostawcy systemu AI za wykazanie zgodności z art. 50 ust. 2 aktu w sprawie AI. |
4.2.2. Obowiązek zapewnienia wykrywalności
|
(75) |
Dostawcy systemów AI objętych zakresem stosowania art. 50 ust. 2 aktu w sprawie AI muszą zapewnić, aby wyniki ich systemów były wykrywalne jako treści wygenerowane lub zmanipulowane przez AI. Oznacza to, że dostawca jest zobowiązany do zapewnienia, aby środki wykrywania były dostępne dla osób, które mogą mieć styczność z takimi treściami. Ponadto zgodnie z art. 50 ust. 5 aktu w sprawie AI takie rozwiązania w zakresie wykrywania powinny umożliwiać generowanie wyników w formacie czytelnym dla człowieka, wskazujących, czy treści zostały wygenerowane lub zmanipulowane przez AI. |
|
(76) |
Narzędzie do wykrywania jest mechanizmem wykrywającym, czy treści zostały wygenerowane lub zmanipulowane przez AI, zwykle identyfikującym znaczniki techniczne lub podpisy, które weryfikują pochodzenie treści. Aby zapewnić pełną interoperacyjność, dostawcy muszą polegać na publicznie dostępnych branżowych standardowych rozwiązaniach w zakresie wykrywania, które umożliwiają każdej osobie trzeciej wdrożenie mechanizmu wykrywania, którego uruchamianie powinno optymalnie być możliwe na urządzeniu cyfrowym, a także umożliwiają płynną integrację z niezależnymi, odizolowanymi sieciami. W przypadku gdy takie standardowe rozwiązania nie są dostępne, w szczególności na początkowym etapie wdrażania art. 50 ust. 2 aktu w sprawie AI w odniesieniu do technologii opatrywania treści znakiem wodnym, dostawca może polegać na swoim własnym rozwiązaniu w zakresie wykrywania lub na rozwiązaniu w zakresie wykrywania opracowanym przez osobę trzecią lub wspólnym rozwiązaniu w zakresie wykrywania, o ile rozwiązania te zapewniają interoperacyjność z rozwiązaniami w zakresie wykrywania stosowanymi przez innych dostawców (zob. sekcja 4.2.3). Możliwość ta powinna być ograniczona w czasie do czasu opracowania norm zharmonizowanych i znormalizowanego, niezależnego od dostawcy interoperacyjnego rozwiązania w zakresie wykrywania, które będzie bezpieczne, będzie chronić prywatność i będzie działać lokalnie. |
|
(77) |
Art. 50 ust. 5 aktu w sprawie AI stanowi ponadto, że informacje, o których mowa w art. 50 ust. 2 aktu w sprawie AI, należy przekazywać osobom fizycznym mającym styczność z treściami w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania. Te informacje to w szczególności wynik wykrywania, który wskazuje, czy treści zostały wygenerowane lub zmanipulowane przez AI, a nie same treści wygenerowane lub zmanipulowane przez AI. „W momencie pierwszego stosowania (pierwszej styczności)” należy rozumieć jako moment, w którym osoby fizyczne pragną zweryfikować pochodzenie konkretnego elementu treści i uzyskać dostęp do rozwiązania w zakresie wykrywania, aby uzyskać wyniki wykrywania. |
|
(78) |
Jeżeli dostawca systemu AI jest zależny od innego podmiotu zapewniającego rozwiązanie w zakresie wykrywania lub dostęp do niego, musi zapewnić, aby rozwiązanie to było zgodne z art. 50 ust. 2 i 5 aktu w sprawie AI oraz aby te inne podmioty wyświetlały wyniki wykrywania zgodnie z art. 50 ust. 5 aktu w sprawie AI (zob. sekcja 7). |
4.2.3. Zgodność z wymogami dotyczącymi rozwiązań technicznych: kryteria skuteczności, interoperacyjności, solidności i niezawodności
|
(79) |
Art. 50 ust. 2 zdanie drugie aktu w sprawie AI stanowi, że rozwiązania techniczne w zakresie oznaczania i wykrywania muszą być skuteczne, interoperacyjne, solidne i niezawodne. Wymogi te należy rozumieć w następujący sposób:
|
|
(80) |
Dostawcy muszą zapewnić, aby połączenie rozwiązań technicznych w zakresie oznaczania i wykrywania w sposób całościowy spełniało wszystkie wyżej wymienione wymogi w wymaganym prawem stopniu, z uwzględnieniem ograniczeń i komplementarności poszczególnych wdrożonych rozwiązań. Rozwiązania techniczne muszą spełniać wszystkie wymogi w zakresie, w jakim jest to technicznie wykonalne, uwzględniając przy tym specyfikę i ograniczenia różnych rodzajów treści, koszty wdrażania oraz powszechnie uznany stan wiedzy technicznej, czego odzwierciedleniem mogą być odpowiednie normy techniczne. |
|
(81) |
Rozwiązania „technicznie wykonalne” w rozumieniu art. 50 ust. 2 aktu w sprawie AI to rozwiązania, które można wdrożyć w warunkach objętych zakresem stosowania tego przepisu, z wykorzystaniem obecnie dostępnych technologii, metod i praktyk inżynieryjnych, w ramach danej architektury technicznej i danego środowiska operacyjnego. Dostawca nie jest zobowiązany do stosowania rozwiązania technicznego, które nie zostało jeszcze opracowane lub nie jest dostępne na rynku lub którego wdrożenie jest technicznie niewykonalne. Wykonalność techniczna jest pojęciem obiektywnym, które nie zależy od konkretnych zasobów i zdolności poszczególnych dostawców. |
|
(82) |
W art. 50 ust. 2 aktu w sprawie AI zobowiązano dostawców do wdrożenia rozwiązań technicznie wykonalnych, które są zgodne z powszechnie uznanym stanem wiedzy technicznej, w celu spełnienia czterech wymogów jakościowych dotyczących skuteczności, solidności, niezawodności i interoperacyjności. |
|
(83) |
„Stan wiedzy technicznej” należy rozumieć jako rozwinięty stan zdolności technicznych w danym momencie w odniesieniu do produktów, procesów i usług, oparty na odpowiednich skonsolidowanych ustaleniach naukowych i technologicznych oraz na doświadczeniu i uznany za dobrą praktykę technologiczną (28). Stan wiedzy technicznej niekoniecznie musi oznaczać najnowsze badania naukowe znajdujące się nadal w fazie eksperymentalnej lub niewystarczająco dojrzałe technologicznie. Dostawcy muszą stale dostosowywać swoje rozwiązania w zakresie oznaczania i wykrywania w sposób terminowy i proporcjonalny w miarę rozwoju technologii i stanu wiedzy technicznej. |
|
(84) |
W świetle art. 50 ust. 7 aktu w sprawie AI dostawcy mogą opierać się na kodeksie praktyk uznanym za odpowiedni zgodnie z tym przepisem w celu wykazania zgodności z obowiązkami w zakresie wykrywania i oznaczania, o których mowa w art. 50 ust. 2 i 5 aktu w sprawie AI, który to kodeks jest zgodny ze stanem wiedzy technicznej. Więcej informacji na temat skutków przestrzegania takiego kodeksu oraz nadzoru nad innymi podmiotami stosującymi, które go nie przyjęły, znajduje się w sekcji 8.1 poniżej. |
|
(85) |
Można również uwzględnić koszty wdrożenia niektórych rozwiązań technicznych w zakresie oznaczania i wykrywania. W niektórych przypadkach, jak opisano w poniższych punktach, koszty mogą być niewspółmierne do niewielkich korzyści o ograniczonej wartości pod względem umożliwienia ludziom odróżnienia treści wygenerowanych lub zmanipulowanych przez AI oraz zapewnienia integralność ekosystemu informacyjnego i zaufania do niego. |
|
(86) |
Mogą zatem istnieć wąsko zdefiniowane przypadki, w których rozwiązanie techniczne oparte na mniej solidnych oznaczeniach metadanych będą wystarczające do celów zgodności z art. 50 ust. 2 aktu w sprawie AI, z uwzględnieniem specyfiki wyników systemu AI, jeżeli z natury wiążą się one z niższym ryzykiem wprowadzenia w błąd, manipulacji lub negatywnego wpływu na ekosystem informacyjny. Dotyczy to w szczególności przypadków, w których system generatywnej AI jest wbudowany w produkty fizyczne generujące wyniki w technicznie kontrolowanym i zamkniętym środowisku, które ma głównie informacyjny charakter (np. system AI wbudowany w systemy nawigacyjne w pojazdach), w zakresie, w jakim w produkcie zintegrowano skuteczne środki techniczne zapobiegające wydostaniu się wyników poza środowisko produktu, na przykład poprzez ich przechwytywanie, eksportowanie i rozpowszechnianie na zewnątrz. |
|
(87) |
Mogą również występować ograniczone przypadki „zastosowań przemysłowych AI” lub „zastosowań między przedsiębiorstwami” (z wyłączeniem publicznych systemów AI i systemów AI skierowanych do konsumentów), w których zasada proporcjonalności i ograniczone korzyści dla celów przejrzystości oznaczają, że nie jest wymagane oznakowanie i wykrywanie wyników wygenerowanych lub zmanipulowanych przez AI. Ma to zastosowanie tylko wtedy, gdy łącznie spełnione są następujące wymogi:
|
|
(88) |
Generowanie treści w czasie rzeczywistym, które mają charakter ulotny i są natychmiast wykorzystywane, bez dalszej rejestracji, przechowywania lub rozpowszechniania (np. w grach wideo, zastosowaniach w zakresie rzeczywistości wirtualnej), może również zostać wyłączone, jeżeli oznakowanie nie jest technicznie wykonalne, a osoby mające styczność z treściami są informowane o tym, że treści te zostały wygenerowane lub zmanipulowane przez AI (np. informowanie użytkownika bezpośrednio w środowisku operacyjnym, powiadomienia na poziomie sesji). |
4.3. Wyjątki od obowiązków wynikających z art. 50 ust. 2 aktu w sprawie AI
|
(89) |
W art. 50 ust. 2 aktu w sprawie AI przewidziano trzy wyraźne wyjątki od obowiązków w zakresie przejrzystości określonych w tym przepisie. |
|
(90) |
Pierwszy wyjątek dotyczy systemów AI w zakresie, w jakim pełnią one funkcję wspomagającą w zakresie standardowej edycji. Standardową edycję należy rozumieć jako proces przygotowywania istniejących treści do publikacji lub rozpowszechniania (np. drobne edycje mające na celu poprawę czytelności i gramatyki, jakości i formatu), który nie obejmuje tworzenia nowych treści. Standardowa edycja ma na celu zapewnienie, aby treści były m.in. wolne od oczywistych błędów technicznych lub gramatycznych, dostosowane do mających zastosowanie wymogów dotyczących układu graficznego, prezentacji, formatowania lub dostępności lub zgodne z praktykami sektorowymi. Edycja wykracza poza standardową edycję, jeżeli treść zostaje zmieniona w istotny sposób (zmiany merytoryczne, zmiany strukturalne itp.), co wpływa na jej znaczenie, styl lub zamierzony przekaz. |
|
(91) |
Drugi wyjątek ma zastosowanie w przypadku, gdy system AI nie zmienia w istotny sposób danych wejściowych przekazywanych przez podmiot stosujący ani ich semantyki. Zmianę należy uznać za istotną, jeżeli dane wejściowe lub ich semantyka zostały w znacznym stopniu zmanipulowane przez system AI podczas procesu generowania jego wyników. Musi to opierać się na ocenie istotnych czynników, takich jak format, rodzaj treści medialnych, styl i zmiany w treści, co wpływa na jej znaczenie, styl lub zamierzony przekaz. Wymaga to każdorazowo indywidualnej oceny konkretnego przypadku. |
|
(92) |
Jeżeli system AI może być wykorzystywany zarówno do generowania treści lub manipulowania treścią, jak i do nieznacznych i drobnych zmian danych wejściowych, obowiązek w zakresie przejrzystości określony w art. 50 ust. 2 aktu w sprawie AI nie będzie miał zastosowania do treści zmienionych w sposób nieznaczny i nieistotny.
|
|
(93) |
Trzeci wyjątek ma zastosowanie do systemu generatywnej AI, którego wykorzystanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców. Wyjaśnienia przedstawione w pkt 46–48 powyżej w odniesieniu do tego wyjątku mają zastosowanie również w tym przypadku. |
4.4. Wzajemne powiązania z innymi aktami prawnymi Unii
|
(94) |
Obowiązki w zakresie oznaczania i wykrywania określone w art. 50 ust. 2 aktu w sprawie AI koncentrują się na sposobie, w jaki treść stworzono, i na jej sztucznym pochodzeniu, a nie na twórcy treści. Wszelkie rozwiązania w zakresie oznaczania i wykrywania stosowane przez dostawców systemów AI muszą zatem być zgodne z mającymi zastosowanie unijnymi przepisami o ochronie danych, w tym z zasadami i obowiązkami w zakresie ochrony danych, takimi jak obowiązek w zakresie uwzględniania ochrony danych w fazie projektowania i w zakresie domyślnej ochrony danych, minimalizacja danych oraz zasady bezpieczeństwa i poufności. Na przykład do celów oznaczania i wykrywania informacje dotyczące twórcy treści nie powinny być przetwarzane, a wszelkie inne przetwarzane dane osobowe powinny być usuwane, gdy tylko cel wykrywania zostanie osiągnięty, gdy należy zapewnić bezpieczeństwo i poufność itp. |
|
(95) |
W motywie 136 aktu w sprawie AI podkreślono ponadto szczególne znaczenie obowiązków w zakresie przejrzystości wynikających z art. 50 ust. 1, 2 i 4 aktu w sprawie AI dla ułatwienia skutecznego wdrożenia aktu o usługach cyfrowych. Dotyczy to w szczególności spoczywającego na dostawcach bardzo dużych platform internetowych („VLOP”) lub bardzo dużych wyszukiwarek internetowych („VLOSE”) obowiązku starannego identyfikowania, analizowania, oceniania i ograniczania ryzyka systemowego, które może wynikać z rozpowszechniania treści sztucznie wygenerowanych lub zmanipulowanych, w szczególności ryzyka faktycznych lub przewidywalnych negatywnych skutków dla procesów demokratycznych, dyskursu obywatelskiego i procesów wyborczych, w tym poprzez dezinformację (art. 34 i 35 aktu o usługach cyfrowych). Oznaczenia nadające się do odczytu maszynowego mogą umożliwić tym dostawcom wykrywanie treści wygenerowanych lub zmanipulowanych przez AI oraz zapewnienie odpowiedniego oznakowania i ujawniania, zmniejszając w ten sposób ryzyko dezinformacji generowanej przez AI w ramach ich usług. |
|
(96) |
Obowiązki w zakresie oznaczania i etykietowania treści wygenerowanych lub zmanipulowanych przez systemy AI na podstawie art. 50 ust. 2 i 4 aktu w sprawie AI pozostają bez uszczerbku dla określonego w art. 16 ust. 6 aktu o usługach cyfrowych obowiązku rozpatrywania przez dostawców usług hostingu zgłoszeń dotyczących nielegalnych treści otrzymanych na podstawie art. 16 ust. 1 aktu o usługach cyfrowych (29). W szczególności oznaczanie lub etykietowanie stosowane do treści wygenerowanych lub zmanipulowanych przez AI nie powinno wpływać na ocenę i decyzję w sprawie niezgodności z prawem konkretnych treści na podstawie innych ram regulacyjnych. Ocena ta powinna być dokonywana wyłącznie w odniesieniu do przepisów regulujących zgodność treści z prawem w myśl rzeczonych ram (30). Na przykład jeżeli oznaczony obraz typu deepfake zostanie oznakowany jako potencjalny materiał przedstawiający niegodziwe traktowanie dzieci w celach seksualnych (CSAM) lub naruszający prawo znaków towarowych lub prawo autorskie, zastosowanie oznaczenia nie ma wpływu na potencjalną niezgodność treści z prawem na podstawie tych ram regulacyjnych. Ocena ta powinna być dokonywana wyłącznie na podstawie odpowiednich mających zastosowanie przepisów (np. prawa karnego, przepisów dotyczących znaków towarowych lub praw autorskich). |
|
(97) |
Natomiast oznakowanie nadające się do odczytu maszynowego wbudowane w treści zgodnie z art. 50 ust. 2 aktu w sprawie AI może pomóc dostawcom VLOP i VLOSE w wypełnianiu ich obowiązków wynikających z art. 34 i 35 aktu o usługach cyfrowych w zakresie identyfikacji, analizy i oceny ryzyka systemowego, które może wynikać z rozpowszechniania treści sztucznie wygenerowanych lub zmanipulowanych, w szczególności ryzyka faktycznych lub przewidywalnych negatywnych skutków dla procesów demokratycznych, dyskursu obywatelskiego i procesów wyborczych, w tym poprzez stosowanie dezinformacji (31), oraz w zakresie wprowadzania racjonalnych, proporcjonalnych i skutecznych środków zmniejszających to ryzyko, dostosowanych do konkretnego zidentyfikowanego ryzyka systemowego. Dostawcy VLOP i VLOSE mogą również kwalifikować się jako dostawcy systemów AI, jeżeli spełniają odpowiednie warunki określone w akcie w sprawie AI, jeżeli włączają systemy AI do swoich usług (zob. również sekcja 6.1.5). |
|
(98) |
Dostawców platform internetowych, wyszukiwarek internetowych i innych odpowiednich podmiotów rozpowszechniających treści w łańcuchu wartości zachęca się w szczególności do zachowania i umożliwienia identyfikacji oznaczeń wdrożonych przez dostawców zgodnie z art. 50 ust. 2 aktu w sprawie AI, tak aby osoby fizyczne mające styczność z tymi treściami mogły zostać poinformowane o ich pochodzeniu. |
5. ART. 50 UST. 3 AKTU W SPRAWIE AI: SYSTEMY ROZPOZNAWANIA EMOCJI I SYSTEMY KATEGORYZACJI BIOMETRYCZNEJ
|
(99) |
W art. 50 ust. 3 aktu w sprawie AI nałożono na podmioty stosujące systemy rozpoznawania emocji i systemy kategoryzacji biometrycznej obowiązek poinformowania osób fizycznych, wobec których systemy te są stosowane, o fakcie ich stosowania. |
|
(100) |
W motywie 132 aktu w sprawie AI wyjaśniono, że celem tego obowiązku jest zapewnienie, aby osoby fizyczne (w tym osoby z niepełnosprawnościami) były świadome, że stosowane są wobec nich systemy rozpoznawania emocji i kategoryzacji biometrycznej, które mogą naruszać ich prywatność. Obowiązek ten ma zatem zastosowanie niezależnie od tego, czy osoby te mają styczność z takimi systemami w czasie rzeczywistym, czy też systemy te są stosowane ex post. |
5.1. Główne elementy, pojęcia i związane z nimi obowiązki w zakresie przejrzystości na podstawie art. 50 ust. 3 aktu w sprawie AI
5.1.1. Pojęcie systemu rozpoznawania emocji
|
(101) |
W art. 3 pkt 39 aktu w sprawie AI „system rozpoznawania emocji” zdefiniowano jako „system AI służący do rozpoznawania emocji lub zamiarów osób fizycznych na podstawie danych biometrycznych tych osób, lub wyciągania wniosków odnośnie do tych emocji lub zamiarów”. Równie istotne w kontekście art. 50 ust. 3 aktu w sprawie AI są szczegółowe wyjaśnienia tego pojęcia zawarte w wytycznych Komisji dotyczących klasyfikacji systemów AI wysokiego ryzyka, w tym przedstawione w nich praktyczne przykłady. |
|
(102) |
Ponieważ wszystkie systemy rozpoznawania emocji klasyfikuje się jednocześnie jako systemy wysokiego ryzyka, to o ile stosowanie tych systemów nie jest zakazane na podstawie art. 5 ust. 1 lit. f) aktu w sprawie AI (co dotyczy miejsca pracy lub instytucji edukacyjnych), obowiązek w zakresie przejrzystości określony w art. 50 ust. 3 aktu w sprawie AI powinien mieć zastosowanie w połączeniu z pozostałymi zabezpieczeniami i wymogami mającymi zastosowanie do systemów AI wysokiego ryzyka. |
5.1.2. Pojęcie systemu kategoryzacji biometrycznej
|
(103) |
W art. 3 pkt 40 aktu w sprawie AI „system kategoryzacji biometrycznej” zdefiniowano jako „system AI służący do przypisywania osób fizycznych do określonych kategorii na podstawie danych biometrycznych tych osób, oprócz przypadków, gdy taki system pełni funkcję pomocniczą w stosunku do innej usługi komercyjnej i jest bezwzględnie konieczny z obiektywnych względów technicznych”. W kontekście art. 50 ust. 3 aktu w sprawie AI równie istotne są szczegółowe wyjaśnienia tego pojęcia zawarte w wytycznych Komisji dotyczących klasyfikacji systemów AI wysokiego ryzyka, w tym jego konkretne elementy, a także praktyczne przykłady określone w tych wytycznych. |
|
(104) |
Co ważne, o ile nie jest to zakazane na podstawie art. 5 ust. 1 lit. g) aktu w sprawie AI, art. 50 ust. 3 aktu w sprawie AI ma zastosowanie do wszelkich systemów kategoryzacji biometrycznej (np. klasyfikacji według wieku lub płci na podstawie danych biometrycznych), niezależnie od tego, czy są one objęte zakresem systemów AI wysokiego ryzyka na podstawie aktu w sprawie AI. |
5.1.3. Obowiązek informacyjny wynikający z art. 50 ust. 3 aktu w sprawie AI
|
(105) |
Zakres informacji, które należy przekazać: podmioty stosujące systemy rozpoznawania emocji lub systemy kategoryzacji biometrycznej są zobowiązane do poinformowania zainteresowanych osób fizycznych, wobec których systemy te są stosowane, o fakcie ich stosowania. Akt w sprawie AI nie wymaga podawania informacji o powodach stosowania systemu ani o tym, czy system przetwarza również informacje do celów innych niż rozpoznawanie emocji lub kategoryzacja biometryczna, które to informacje muszą być ujawniane na mocy unijnych przepisów o ochronie danych (zob. sekcja 5.3). |
|
(106) |
Adresaci informacji: w art. 50 ust. 3 aktu w sprawie AI nałożono wymóg, aby podmioty stosujące system AI informowały o tym fakcie wszystkie osoby fizyczne, wobec których system AI jest stosowany, w tym dzieci. |
|
(107) |
Sposoby przekazywania informacji: w akcie w sprawie AI nie określono konkretnego sposobu przekazywania informacji, z tym wyjątkiem, że art. 50 ust. 5 aktu w sprawie AI wymaga, aby informacje były przekazywane w jasny i wyraźny sposób oraz zgodnie z mającymi zastosowanie wymogami dostępności (odpowiadającymi potrzebom osób fizycznych z niepełnosprawnościami). Sposób informowania osób fizycznych, wobec których system jest stosowany, może zależeć od miejsca wdrożenia (np. wirtualna platforma gamingowa, sklep stacjonarny, stacja kolejowa), możliwych adresatów (np. dzieci, osoby starsze, osoby z niepełnosprawnościami, klienci), czasu trwania i rodzaju stosowania (np. długotrwałe, jednorazowe, ciągłe, przerywane) oraz ewentualnego istnienia związku między podmiotem stosującym a osobami, wobec których system jest stosowany (np. jeżeli istnieje kanał komunikacji z osobą fizyczną). W zależności od przypadku użycia informacje mogą być przekazywane na piśmie, za pomocą standardowych ikon (również w przypadku prezentacji elektronicznej), ustnie lub za pomocą kombinacji takich sposobów.
|
|
(108) |
Termin przekazania informacji: informacje muszą zostać przekazane najpóźniej w momencie pierwszej interakcji z systemem AI lub pierwszego stosowania systemu AI zgodnie z art. 50 ust. 5 aktu w sprawie AI. W stosownych przypadkach nie wyklucza się wcześniejszego przekazania wymaganych informacji. |
5.2. Wyjątek dotyczący zastosowań do celów ścigania przestępstw
|
(109) |
Przedmiotowy obowiązek informacyjny nie ma zastosowania do systemów rozpoznawania emocji i systemów kategoryzacji biometrycznej, których wykorzystywanie jest dozwolone z mocy prawa do celów wykrywania przestępstw, przeciwdziałania im i prowadzenia postępowań przygotowawczych w ich sprawie, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich oraz zgodnie z prawem Unii. Wyjaśnienia przedstawione w pkt 46–48 powyżej w odniesieniu do tego wyjątku mają zastosowanie również w tym przypadku z jedną różnicą. Podczas gdy pozostałe wyjątki określone w art. 50 aktu w sprawie AI wymagają wyraźnego przepisu prawa zezwalającego na stosowanie systemów AI bez konieczności zachowania zgodności z wymogami dotyczącymi przejrzystości, art. 50 ust. 3 aktu w sprawie AI umożliwia takie stosowanie, jeżeli jest ono dozwolone na mocy przepisów prawnych regulujących uprawnienia organów ścigania do wykorzystywania systemów rozpoznawania emocji i kategoryzacji biometrycznej do wykrywania przestępstw, przeciwdziałania im lub prowadzenia postępowań przygotowawczych w ich sprawie bez informowania zainteresowanych osób, z zastrzeżeniem odpowiednich zabezpieczeń. |
5.3. Wzajemne powiązania z innymi aktami prawnymi Unii
|
(110) |
Obowiązek informacyjny wynikający z art. 50 ust. 3 aktu w sprawie AI sam w sobie nie sprawia, że wykorzystywanie systemu rozpoznawania emocji i kategoryzacji biometrycznej jest zgodne z prawem. Nie uzasadnia on również inwazyjnych lub dyskryminujących zastosowań, które mogą być niezgodne z prawem i zakazane na mocy art. 5 aktu w sprawie AI lub innych przepisów prawa Unii. Podmioty stosujące muszą przestrzegać obowiązku informacyjnego określonego w art. 50 ust. 3 aktu w sprawie AI, w dodatku do wszelkich mających zastosowanie wymogów informacyjnych wynikających z unijnych przepisów o ochronie danych. W niektórych przypadkach podmioty stosujące mogą rozważyć dodanie powiadomień wymaganych na podstawie art. 50 ust. 3 aktu w sprawie AI do informacji przekazywanych osobom, których dane dotyczą, na podstawie unijnych przepisów o ochronie danych. |
6. ART. 50 UST. 4: OZNAKOWANIE MATERIAŁÓW TYPU DEEPFAKE I NIEKTÓRYCH PUBLIKACJI TEKSTOWYCH
|
(111) |
W art. 50 ust. 4 aktu w sprawie AI ustanowiono dwa odrębne obowiązki dla podmiotów stosujących systemy generatywnej AI, dotyczące informowania w jasny i wyraźny sposób o (i) materiałach typu deepfake oraz (ii) tekście wygenerowanym lub zmanipulowanym przez AI, publikowanym w celu informowania opinii publicznej o sprawach leżących w interesie publicznym, z wyjątkiem określonych przypadków. Te obowiązki w zakresie oznaczania mają zastosowanie dodatkowo i bez uszczerbku dla obowiązków w zakresie oznaczania nadającego się do odczytu maszynowego i wykrywania na podstawie art. 50 ust. 2 aktu w sprawie AI mających zastosowanie do dostawców systemów AI generujących treści w postaci syntetycznych obrazów, wideo, dźwięków lub tekstu lub manipulujących nimi. |
6.1. Główne elementy i pojęcia dotyczące materiałów typu deepfake i związane z nimi obowiązki w zakresie przejrzystości na podstawie art. 50 ust. 4 aktu w sprawie AI
|
(112) |
Art. 50 ust. 4 akapit pierwszy aktu w sprawie AI ma zastosowanie, jeżeli spełnionych jest kilka warunków:
|
6.1.1. Pojęcie „deepfake”
|
(113) |
W art. 3 pkt 60 aktu w sprawie AI „deepfake” zdefiniowano jako „wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie [mylnie] uznać za autentyczne lub prawdziwe”. Różnicę między manipulacją a generowaniem wyjaśniono w sekcji 4.1 powyżej. W celu doprecyzowania pojęcia deepfake poniżej przeanalizowano cztery łączne kryteria zawarte w tej definicji: (i) przypominanie (ii) istniejących (iii) osób, przedmiotów, miejsc, podmiotów lub zdarzeń (iv), które odbiorca mógłby niesłusznie (mylnie) uznać za autentyczne lub prawdziwe.
|
|
(114) |
To, czy „odbiorca mógłby niesłusznie [mylnie] uznać [treści] za autentyczne lub prawdziwe” należy oceniać jako całość, biorąc pod uwagę poziom podobieństwa, potencjalny merytoryczny przekaz treści, zamierzone i przewidywalne konteksty wdrażania, środowisko, w którym treści są prezentowane, oraz zamierzony i racjonalnie przewidywalny skład grupy docelowej i oczekiwania odbiorców. Ocena ta jest jednak obiektywna i nie uzależnia klasyfikacji treści jako deepfake od tego, czy zamiarem podmiotu stosującego jest wprowadzenie w błąd lub zmylenie osób fizycznych mających styczność z takimi treściami. Jeżeli chodzi o kontekst wdrażania i oczekiwania odbiorców, oznacza to, że jeżeli treści są wykorzystywane w konkretnych kontekstach wdrażania, w których odbiorcy, do których w zamierzeniu kierowane są treści i których można racjonalnie przewidzieć, nie oczekują, że treści będą autentyczne lub prawdziwe, nie można uznać, że treści wygenerowane lub zmanipulowane przez AI mylnie wydają się autentyczne lub prawdziwe, nawet jeżeli w rzeczywistości są nieautentyczne lub nieprawdziwe. W takich przypadkach czwarte kryterium definicji deepfake nie zostanie spełnione. Na przykład generowanie przez AI scen w tle lub manipulowanie nimi przez AI, stosowanie efektów specjalnych, a także techniczna obróbka wstępna i końcowa w ramach standardowych procesów produkcji filmów prawdopodobnie nie sprawią, że treści będą mylnie postrzegane przez odbiorców jako autentyczne lub prawdziwe. Z drugiej strony wykorzystanie AI do generowania istotnych elementów, które mają wpływ na postrzeganie przez odbiorców, lub do manipulowania tymi elementami, prawdopodobnie to sprawi (np. aktorzy w pełni wygenerowani przez AI, cyfrowe repliki aktorów żyjących lub zmarłych, cyfrowe odmładzanie oraz symulowane kreacje aktorskie, w tym ich fragmenty, lub nieautentyczne lub nieprawdziwe przedstawienie osób, przedmiotów, miejsc lub zdarzeń w filmach dokumentalnych). W odniesieniu do obrazów i treści wideo uznaje się, że wysoki stopień fotorealizmu zwiększa prawdopodobieństwo uznania takich treści za deepfake (ponieważ prawdopodobnie przypominają one istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia), ale sam fotorealizm nie jest decydujący dla oceny. Należy jeszcze ocenić, czy takie treści są w stanie wprowadzić osobę w błąd lub zmylić ją co do autentyczności lub prawdziwości treści, biorąc pod uwagę między innymi zamierzony i przewidywalny kontekst wdrożenia. |
|
(115) |
W przeciwieństwie do art. 50 ust. 1 aktu w sprawie AI ocena mylnego wrażenia autentyczności lub prawdziwości w odbiorze człowieka nie powinna opierać się na hipotetycznej „przeciętnej” osobie, która może mieć styczność z danymi treściami (zob. sekcja 3.2.1), ale powinna należycie uwzględniać możliwy zróżnicowany skład racjonalnie przewidywalnej grupy odbiorców, którzy mogą mieć styczność z treściami typu deepfake. Należyte uwzględnienie składu grupy odbiorców jest szczególnie ważne, jeżeli można racjonalnie przewidzieć, że treści typu deepfake mogą w pewnym momencie trafić do dzieci, osób starszych lub innych grup osób o niższych umiejętnościach cyfrowych i kompetencjach w zakresie AI lub o niższym poziomie wiedzy ogólnej, ponieważ osoby te można łatwiej zmylić lub wprowadzić w błąd co do autentyczności lub prawdziwości treści. W takich przypadkach wywoływanie u tej części przewidywalnej grupy odbiorców mylnego wrażenia autentyczności lub prawdziwości treści może wystarczyć do uznania jej za deepfake. Od podmiotów stosujących nie należy jednak oczekiwać, aby brały pod uwagę potencjalne dalsze rozpowszechnianie treści typu deepfake przez osoby trzecie w kręgach wykraczających poza grupę odbiorców, którą podmiot stosujący jest w stanie racjonalnie przewidzieć, uwzględniając zamierzone kanały dystrybucji (np. jeżeli treści typu deepfake są wyświetlane wyłącznie w części strony internetowej przeznaczonej dla subskrybentów lub w newsletterze firmowym, nie oznacza to, że podmiot stosujący powinien domyślnie przyjąć, że treści będą szeroko rozpowszechniane publicznie). |
|
(116) |
Podobnie wspierana przez AI manipulacja nieistotnymi merytorycznymi lub technicznymi aspektami wcześniej istniejących treści może mieć niewielkie znaczenie dla dokonywanej przez odbiorcę oceny autentyczności lub prawdziwości treści, nie sprawiając, że powstałe w ten sposób treści staną się deepfake. Może to obejmować na przykład edytowanie szczegółów dotyczących tła (np. usunięcie przechodniów), regulację oświetlenia, dostosowanie parametrów dźwięku, korektę kolorów, redukcję lub usunięcie hałasu, poprawę dostępności lub kompresję plików, korekty kosmetyczne i ulepszenia. To, czy manipulacja będzie należeć do tej kategorii, zależy od kontekstu i wpływu na postrzeganie autentyczności lub prawdziwości treści przez odbiorców w danym przypadku. Na przykład wspomagana AI korekta kolorów, rozszerzenie istniejących treści na tło, dostosowanie lub zmiana tła do celów stricte estetycznych, kompozycje i aranżacje istniejących produktów lub zmiana skali obrazów stosowane w reklamach produktów lub na ich opakowaniach mogą mieć jedynie niewielki wpływ na postrzeganie przez daną osobę autentyczności i prawdziwości reklamy i produktu. Z drugiej strony szeroko zakrojona, oparta na AI edycja podstawowych szczegółów obrazów dziennikarskich poza standardowymi praktykami technicznymi i redakcyjnymi może negatywnie wpłynąć na postrzeganie przez daną osobę autentyczności i prawdziwości treści.
|
6.1.2. Obowiązek ujawniania informacji na podstawie art. 50 ust. 4 akapit pierwszy aktu w sprawie AI
|
(117) |
W art. 50 ust. 4 akapit pierwszy aktu w sprawie AI zobowiązano podmioty stosujące systemy AI, które generują obrazy, treści audio lub wideo stanowiące treści typu deepfake lub które manipulują takimi obrazami lub treściami, do ujawniania, że „treści te zostały sztucznie wygenerowane lub zmanipulowane”. W motywie 134 aktu w sprawie AI doprecyzowano, że podmioty stosujące wykorzystujące systemy AI do generowania treści typu deepfake lub do manipulowania nimi powinny jasno i wyraźnie ujawnić – poprzez odpowiednie oznakowanie wygenerowanych przez AI treści i ujawnienie ich sztucznego pochodzenia – że treści te zostały sztucznie wygenerowane lub zmanipulowane. Metody oznakowania lub ujawniania stosowane zgodnie z art. 50 ust. 4 akapit pierwszy aktu w sprawie AI powinny być zrozumiałe i dostrzegalne dla osób fizycznych (np. w formie widocznych lub słyszalnych oznaczeń), bez konieczności stosowania jakichkolwiek konkretnych narzędzi technicznych lub wykonywania specjalnych działań. W związku z tym podmioty stosujące nie mogą polegać na oznakowaniu nadającym się do odczytu maszynowego wbudowanym w treści przez dostawcę na podstawie art. 50 ust. 2 aktu w sprawie AI, ponieważ oznaczenia te nie są od razu jasne i wyraźne dla osób fizycznych, które mają styczność z treściami typu deepfake. |
|
(118) |
W świetle art. 50 ust. 7 aktu w sprawie AI podmioty stosujące mogą przestrzegać kodeksu praktyk uznanego za odpowiedni zgodnie z art. 50 ust. 7 aktu w sprawie AI w celu wykazania zgodności z tym obowiązkiem ujawniania informacji. Więcej informacji na temat skutków przestrzegania takiego kodeksu oraz nadzoru nad innymi podmiotami stosującymi, które go nie przyjęły, znajduje się w sekcji 8.1 poniżej. |
6.1.3. Przejrzystość w odniesieniu do treści typu deepfake o charakterze artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym
|
(119) |
W art. 50 ust. 4 akapit pierwszy aktu w sprawie AI przewidziano złagodzony obowiązek w zakresie przejrzystości w odniesieniu do treści typu deepfake stanowiących część utworu lub programu mającego wyraźnie charakter artystyczny, twórczy, satyryczny, fikcyjny lub analogiczny. W przypadku takich treści obowiązek w zakresie przejrzystości ogranicza się do ujawnienia treści typu deepfake w odpowiedni sposób, który nie utrudnia wyświetlania utworu lub korzystania z niego. |
|
(120) |
Odpowiednie kategorie treści: aby skorzystać ze złagodzonego obowiązku ujawniania informacji w celu zapewnienia przejrzystości, treści typu deepfake (obraz, treści dźwiękowe lub wideo) powinny należeć do przynajmniej jednej z następujących kategorii treści: utwory lub programy mające charakter artystyczny, twórczy, satyryczny, fikcyjny lub analogiczny. To, czy deepfake należy do przynajmniej jednej z tych kategorii, wymaga indywidualnej oceny przez podmiot stosujący. Do celów art. 50 ust. 4 aktu w sprawie AI kategorie te rozumie się w następujący sposób:
|
|
(121) |
Powyższe kategorie treści mogą mieć również zastosowanie do programów, które należy rozumieć jako odrębną całość w układzie lub katalogu audycji przygotowanym przez dostawcę usług medialnych, która pod względem formy i treści jest porównywalna z rozpowszechnianiem telewizyjnym (33). Odniesienie do „utworów” w kontekście art. 50 ust. 4 aktu w sprawie AI nie przesądza o tym, czy treści kwalifikują się do ochrony na mocy prawa Unii dotyczącego praw autorskich i pokrewnych. |
|
(122) |
Wyraźnie: fakt, że deepfake należy do jednej (lub większej liczby) z powyższych kategorii treści, powinien być wyraźny dla osób fizycznych mających z nim styczność. Oznacza to, że kategorie te należy interpretować ściśle, co jest uzasadnione tym, że stosuje się do nich łagodniejszy system obowiązków informacyjnych ze względu na potencjalny wpływ na wolność wypowiedzi oraz wolność sztuki i nauki, natomiast nadal należy odpowiednio uwzględnić ryzyko dezinformacji, manipulacji i wprowadzania w błąd. W związku z tym treści, których charakter jest potencjalnie niejasny lub niejednoznaczny dla odbiorców, są wyłączone z zakresu tego łagodniejszego systemu obowiązków w zakresie przejrzystości. Czynniki istotne dla oceny wyraźnie artystycznego, twórczego, satyrycznego lub fikcyjnego charakteru obejmują: (i) czy treść przedstawia formaty lub style charakterystyczne dla kategorii treści (np. ironia lub wyolbrzymianie na potrzeby utworów satyrycznych, niektóre style sztuki, prezentowanie charakterystycznych motywów, technik lub estetyki itp.); (ii) kontekst, w jakim treści są prezentowane (np. czy platforma, nośnik lub miejsce, w których treści są prezentowane, udostępniane lub rozpowszechniane, są związane z wykorzystaniem artystycznym, twórczym, satyrycznym lub fikcyjnym); oraz (iii) oczekiwania odbiorców (np. film, środowisko gier lub scena rzeczywistości wirtualnej). Ponadto warunek, zgodnie z którym treści powinny „wyraźnie” należeć do jednej z powyższych kategorii treści, z zakresu wspomnianych kategorii treści wyklucza treści, które mają charakter wyłącznie informacyjny lub handlowy i są one rozpoznawalne jako takie (np. relacjonowanie wydarzeń). W tym względzie niektóre rodzaje treści (np. reklamy lub filmy dokumentalne) zawierające materiały typu deepfake można uznać za utwory o wyraźnie twórczym lub fikcyjnym charakterze w pewnych szczególnych sytuacjach, ale nie w innych, ponieważ oceny dokonuje się indywidualnie dla konkretnego przypadku. W przypadku gdy deepfake łączy w sobie wiele cech (np. charakter informacyjny i twórczy), charakter informacyjny powinien zawsze być kryterium nadrzędnym, oznaczając konieczność zapewnienia zgodności ze standardowymi wymogami dotyczącymi oznakowania. |
|
(123) |
Ujawnienie w odpowiedni sposób, który nie utrudnia wyświetlania lub korzystania z utworu: treści typu deepfake, które stanowią część utworów lub programów o wyraźnie artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym charakterze, nie są wyłączone z obowiązku w zakresie przejrzystości określonego w art. 50 ust. 4 akapit pierwszy aktu w sprawie AI. Podmioty stosujące nadal muszą ujawniać fakt wygenerowania lub zmanipulowania treści przez AI, ale mogą to zrobić w odpowiedni sposób, który nie utrudnia wyświetlania lub korzystania z utworu. W motywie 134 aktu w sprawie AI doprecyzowano, że takie odpowiednie ujawnienie nie powinno utrudniać normalnego wykorzystania i użytkowania, przy jednoczesnym zachowaniu użyteczności i jakości utworu. Określenie, które środki ujawniania informacji należy uznać za odpowiednie, wymaga oceny indywidualnej, przy czym podmioty stosujące mogą wziąć pod uwagę wszystkie istotne czynniki (w tym charakter utworów, odbiorców, kontekst itp.). W każdym przypadku podmioty stosujące muszą przestrzegać art. 50 ust. 5 aktu w sprawie AI (zob. sekcja 7). W świetle art. 50 ust. 7 aktu w sprawie AI podmioty stosujące mogą przestrzegać kodeksu praktyk uznanego za odpowiedni na podstawie tego przepisu w celu wykazania zgodności z tym obowiązkiem ujawniania informacji. Więcej informacji na temat skutków przestrzegania takiego kodeksu oraz nadzoru nad innymi podmiotami stosującymi, które go nie przyjęły, znajduje się w sekcji 8.1 poniżej. |
|
(124) |
Odpowiednie zabezpieczenia w zakresie praw i wolności osób trzecich: w motywie 134 aktu w sprawie AI doprecyzowano, że stosowanie złagodzonego obowiązku w zakresie przejrzystości oraz wykorzystywanie treści artystycznych, twórczych, satyrycznych lub fikcyjnych typu deepfake musi podlegać „odpowiednim zabezpieczeniom w zakresie praw i wolności osób trzecich”. W związku z tym podmioty stosujące muszą zapewnić odpowiednią ochronę i poszanowanie praw i wolności osób trzecich (w tym np. ich prawa do ochrony danych osobowych lub praw własności intelektualnej) przy tworzeniu lub publikowaniu treści typu deepfake, nawet jeżeli treści te mają charakter artystyczny, twórczy, satyryczny lub fikcyjny. Stosowanie złagodzonego obowiązku w zakresie przejrzystości nie może stanowić uzasadnienia dla nieprzestrzegania praw podstawowych osób fizycznych lub podmiotów praw wynikających z prawa Unii dotyczącego własności intelektualnej lub unijnych przepisów o ochronie danych (34).
|
6.1.4. Wyjątek na potrzeby ścigania przestępstw
|
(125) |
Jeżeli wykorzystanie treści typu deepfake (np. wygenerowanego przez AI nagrania wideo symulującego zdarzenia, które nigdy nie miały miejsca) jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców, podmioty stosujące są zwolnione z obowiązku w zakresie przejrzystości określonego w art. 50 ust. 4 akapit pierwszy aktu w sprawie AI. Wyjaśnienia przedstawione w pkt 46–48 powyżej w odniesieniu do podobnego wyjątku określonego w art. 50 ust. 1 aktu w sprawie AI mają zastosowanie również w odniesieniu do tego przepisu. |
6.1.5. Wzajemne powiązania z innymi aktami prawnymi Unii
|
(126) |
Obowiązek w zakresie przejrzystości wynikający z art. 50 ust. 4 akapit pierwszy aktu w sprawie AI będzie powiązany z obowiązkami dostawców VLOP i VLOSE w zakresie identyfikacji i ograniczania ryzyka systemowego zgodnie z art. 34 i 35 aktu o usługach cyfrowych, w szczególności z art. 35 ust. 1 lit. k) aktu o usługach cyfrowych (35). W tym ostatnim przepisie wśród możliwych środków zmniejszających ryzyko, które dostawcy VLOP i VLOSE mogą przyjąć, wymieniono środki zapewniające, aby „informację – bez względu na fakt, czy stanowi ona wygenerowany lub zmanipulowany obraz, treść dźwiękową lub treść wideo, które łudząco przypominają istniejące osoby, obiekty, miejsca lub inne podmioty lub zdarzenia, przez co osoba będąca ich odbiorcą mylnie uznaje je za autentyczne lub prawdziwe – można było rozróżnić dzięki widocznym oznaczeniom, gdy prezentuje się ją na ich interfejsach internetowych”. Ponadto dostawcy VLOP i VLOSE mogą również zapewnić łatwą w użyciu funkcję, która umożliwia odbiorcom usługi wskazanie takich informacji. Chociaż ten przepis aktu o usługach cyfrowych wydaje się podobny do art. 50 ust. 4 aktu w sprawie AI, ma on charakter uzupełniający i różni się w dwóch istotnych aspektach:
|
|
(127) |
Jeżeli materiał typu deepfake zawiera informacje dotyczące bezpośrednio lub pośrednio możliwej do zidentyfikowania osoby fizycznej (która pozostaje przy życiu), podmioty stosujące jako administratorzy na mocy unijnych przepisów o ochronie danych będą również musiały przestrzegać odpowiednich obowiązków wynikających z unijnych przepisów o ochronie danych (37). Obejmuje to na przykład stosowanie odpowiedniej podstawy prawnej przetwarzania danych osobowych, informacji dotyczących przetwarzania danych odnoszących się do przedstawionych osób, których dane dotyczą, itp. |
|
(128) |
Podmioty stosujące systemy AI, które generują treści typu deepfake, będą ponadto zobowiązane do zapewnienia zgodności z odpowiednimi unijnymi przepisami dotyczącymi własności intelektualnej (takimi jak unijne prawo znaków towarowych i unijne prawo dotyczące praw autorskich lub pokrewnych), jeżeli ich treści typu deepfake dotyczą przedmiotu objętego ochroną na mocy tych przepisów. Zastosowanie oznaczenia lub ikony do treści typu deepfake jako takie w żaden sposób nie przesądza o tym, czy dane treści kwalifikują się do ochrony prawem autorskim, co podlega ocenie zgodnie z mającym zastosowanie unijnym prawem autorskim. |
|
(129) |
W przypadku gdy materiały typu deepfake ukazują rzeczywiste osoby, podmioty stosujące będą ponadto zobowiązane do przestrzegania odpowiednich przepisów chroniących dobra osobiste w odniesieniu do wizerunku lub głosu. Obowiązek w zakresie przejrzystości określony w art. 50 ust. 4 akapit pierwszy aktu w sprawie AI nie oznacza, że wygenerowane lub zmanipulowane przez AI treści typu deepfake, które są szkodliwe i niezgodne z prawem na mocy mającego zastosowanie prawa Unii lub prawa krajowego (przepisy regulujące wprowadzającą w błąd reklamę lub prawo karne, np. materiały przedstawiające niegodziwe traktowanie dzieci w celach seksualnych i intymne zdjęcia udostępniane bez zgody), mogą być generowane i rozpowszechniane (zob. również sekcja 4.4). |
6.2. Główne elementy i pojęcia dotyczące tekstu wygenerowanego lub zmanipulowanego przez AI oraz związane z tym obowiązki w zakresie przejrzystości na podstawie art. 50 ust. 4 aktu w sprawie AI
|
(130) |
Art. 50 ust. 4 akapit drugi aktu w sprawie AI ma zastosowanie, jeżeli zostaną spełnione pewne warunki:
|
6.2.1. Tekst publikowany w celu informowania opinii publicznej o sprawach leżących w interesie publicznym
|
(131) |
W celu doprecyzowania zakresu stosowania art. 50 ust. 4 akapit drugi aktu w sprawie AI, poniżej przeanalizowano trzy elementy: (i) tekst publikowany, (ii) w celu informowania opinii publicznej, (iii) o sprawach leżących w interesie publicznym.
|
6.2.2. Obowiązek ujawniania informacji na podstawie art. 50 ust. 4 akapit drugi aktu w sprawie AI
|
(132) |
W art. 50 ust. 4 akapit drugi aktu w sprawie AI zobowiązano podmioty stosujące systemy AI, które generują tekst publikowany w celu informowania opinii publicznej o sprawach leżących w interesie publicznym lub manipulują takim tekstem, do ujawnienia, że taki tekst został sztucznie wygenerowany lub zmanipulowany. W motywie 134 aktu w sprawie AI doprecyzowano, że podobnie jak w przypadku treści typu deepfake podmioty stosujące realizujące publikacje tekstowe objęte zakresem tego przepisu powinny jasno i wyraźnie ujawnić – poprzez odpowiednie oznakowanie wyniku AI i ujawnienie, że źródłem jest AI – że treści te zostały sztucznie wygenerowane lub zmanipulowane. Zgodnie z wymogami dotyczącymi treści typu deepfake metody oznakowania lub ujawniania (w tym klauzule o wyłączeniu odpowiedzialności) stosowane zgodnie z art. 50 ust. 4 akapit drugi aktu w sprawie AI również powinny być zrozumiałe i dostrzegalne dla osób fizycznych (np. w formie widocznych lub słyszalnych oznaczeń), bez konieczności stosowania jakichkolwiek konkretnych narzędzi technicznych lub wykonywania specjalnych działań. W świetle art. 50 ust. 7 aktu w sprawie AI podmioty stosujące mogą przestrzegać kodeksu praktyk uznanego za odpowiedni na podstawie tego przepisu w celu wykazania zgodności z tym obowiązkiem ujawniania informacji. Więcej informacji na temat skutków przestrzegania takiego kodeksu oraz nadzoru nad podmiotami stosującymi, które go nie przyjęły, znajduje się w sekcji 8.1 poniżej. |
6.2.3. Wyjątek od obowiązku w zakresie przejrzystości w odniesieniu do tekstu podlegającego weryfikacji przez człowieka lub kontroli redakcyjnej i odpowiedzialności redakcyjnej
|
(133) |
W art. 50 ust. 4 akapit drugi aktu w sprawie AI przewidziano wyjątek od obowiązku w zakresie przejrzystości określonego w tym przepisie, jeżeli spełnione są łącznie dwa warunki: (i) tekst wygenerowany lub zmanipulowany przez AI musi zostać poddany weryfikacji przez człowieka lub kontroli redakcyjnej oraz (ii) osoba prawna lub fizyczna musi ponosić odpowiedzialność redakcyjną za publikację. W stosownych przypadkach podmioty stosujące mogą opierać się na odpowiednich mających zastosowanie normach zawodowych lub deontologicznych w celu wykazania zgodności z tymi wymogami, jak określono poniżej. |
i.
|
(134) |
Pierwszy warunek zastosowania wyjątku od art. 50 ust. 4 akapit drugi aktu w sprawie AI wymaga, aby tekst wygenerowany lub zmanipulowany przez AI został poddany weryfikacji przez człowieka lub kontroli redakcyjnej. Weryfikacja przez człowieka oznacza celowe sprawdzenie istoty treści przez co najmniej jedną osobę fizyczną posiadającą odpowiednią wiedzę i zawodowy osąd w odniesieniu do przedmiotu kontroli (np. wzajemna ocena akademicka lub łańcuchy walidacji zawodowej). Sprawdzenie prawdziwości treści jest minimalnym wymogiem, który powinien być częścią tej weryfikacji. Kontrola redakcyjna oznacza kontrolę sprawowaną w praktyce przez odpowiedzialny podmiot redakcyjny (np. redaktora naczelnego) nad treścią, który to podmiot jest uprawniony do zatwierdzenia, zmodyfikowania lub odrzucenia istoty treści w oparciu o podstawy merytoryczne (w tym weryfikację informacji i zapewnienie wiarygodności źródeł). Pozostaje to bez uszczerbku dla istniejących procedur weryfikacyjnych i redakcyjnych oraz norm zawodowych mających zastosowanie do dostawców usług medialnych. |
|
(135) |
Powierzchowne, wyłącznie formalne lub proceduralne kontrole (np. sprawdzanie pisowni lub korekta gramatyczna), samo istnienie polityki redakcyjnej, zautomatyzowane procesy weryfikacji lub pobieżne zatwierdzenie redakcyjne bez istotnego zaangażowania recenzenta lub jednostki redakcyjnej nie mogą być uznane za spełniające warunki weryfikacji przez człowieka lub kontroli redakcyjnej do celów tego wyjątku. |
|
(136) |
W przypadku gdy systemy AI są wykorzystywane do modyfikacji, uzupełniania lub przeformułowania treści po zatwierdzeniu redakcyjnym, powstałe w ten sposób treści należy traktować jako wygenerowane lub zmanipulowane przez AI do celów art. 50 ust. 4 aktu w sprawie AI. Każda istotna ingerencja AI mająca miejsce po przeprowadzeniu weryfikacji przez człowieka lub procesu kontroli redakcyjnej spowoduje zatem unieważnienie wyjątku. |
|
(137) |
W świetle art. 50 ust. 7 aktu w sprawie AI podmioty stosujące mogą przestrzegać kodeksu praktyk uznanego za odpowiedni na podstawie tego przepisu w celu wykazania zgodności z warunkiem weryfikacji przez człowieka lub kontroli redakcyjnej (w szczególności przez podmioty stosujące, które nie są dostawcami usług medialnych podlegającymi istniejącym normom zawodowym lub deontologicznym w zakresie redakcji) określonym w tym przepisie. Więcej informacji na temat skutków przestrzegania takiego kodeksu oraz nadzoru nad podmiotami stosującymi, które go nie przyjęły, znajduje się w sekcji 8.1. |
|
ii. |
|
(138) |
Drugi warunek zastosowania wyjątku od art. 50 ust. 4 akapit drugi aktu w sprawie AI wymaga, aby osoba prawna lub fizyczna ponosiła odpowiedzialność redakcyjną za publikację treści. Oznacza to, że osoba ta musi ponosić ostateczną odpowiedzialność prawną za publikację treści, w tym za weryfikację przez człowieka lub kontrolę redakcyjną (np. osoba fizyczna, rada redakcyjna lub wydawnictwo). Aby zapewnić odpowiedzialność publiczną i zaufanie publiczne oraz zgodnie z obowiązującymi normami zawodowymi w branży mediów, tożsamość i dane kontaktowe osoby prawnej, osoby fizycznej lub podmiotu odpowiedzialnego za redakcję powinny zostać podane do wiadomości publicznej w łatwo dostępnym miejscu (jeśli nie udostępniono ich dotychczas w inny sposób). Informacje te można udostępnić w internecie poprzez umieszczenie ich na przykład w regulaminie strony internetowej lub w innych informacjach prawnych skierowanych do użytkownika. Poza internetem takie informacje można zawrzeć w stopce redakcyjnej lub metryce publikacji.
|
6.2.4. Wyjątek na potrzeby ścigania przestępstw
|
(139) |
Jeżeli wykorzystywanie systemów AI do generowania tekstu publikowanego w celu informowania opinii publicznej o sprawach leżących w interesie publicznym bez weryfikacji przez człowieka (np. wygenerowane przez AI ostrzeżenie policji dotyczące zagrożenia terrorystycznego, opublikowane w mediach społecznościowych) jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców, podmioty stosujące są zwolnione z obowiązku w zakresie przejrzystości określonego w art. 50 ust. 4 aktu w sprawie AI. Wyjaśnienia przedstawione w pkt 46–48 powyżej w odniesieniu do podobnego wyjątku określonego w art. 50 ust. 1 aktu w sprawie AI mają zastosowanie również w odniesieniu do tego przepisu. |
6.2.5. Wzajemne powiązania z innymi aktami prawnymi Unii
|
(140) |
W unijnym prawie medialnym odpowiedzialność redakcyjna jest kluczowym pojęciem zdefiniowanym w art. 2 pkt 8 rozporządzenia (UE) 2024/1083 (europejski akt o wolności mediów) (39). W tym kontekście „odpowiedzialność redakcyjna” oznacza „sprawowanie faktycznej kontroli zarówno nad wyborem audycji lub publikacji prasowych, jak i nad sposobem ich zestawienia, do celów świadczenia usługi medialnej, niezależnie od odpowiedzialności za świadczoną usługę na podstawie prawa krajowego”. W niektórych sytuacjach definicja ta może pokrywać się z pojęciem odpowiedzialności redakcyjnej stosowanym w art. 50 ust. 4 akapit drugi aktu w sprawie AI, w szczególności gdy podmioty stosujące system AI kwalifikują się również jako dostawcy usług medialnych na podstawie europejskiego aktu o wolności mediów. Odpowiedzialność redakcyjną w rozumieniu art. 50 ust. 4 aktu w sprawie AI należy zatem interpretować zgodnie z istniejącym dorobkiem prawnym w dziedzinie mediów, niezależnie od faktu, że pozostaje ona odrębnym pojęciem, które może mieć zastosowanie również w szerszym kontekście i do innych podmiotów stosujących, o ile przyjmują one odpowiedzialność redakcyjną za publikację tekstu. Dostawcy usług medialnych mogą opierać się na swoich istniejących procesach i normach redakcyjnych, aby skorzystać z wyjątku przewidzianego w art. 50 ust. 4 akapit drugi aktu w sprawie AI. |
7. WYMOGI HORYZONTALNE MAJĄCE ZASTOSOWANIE DO INFORMACJI PRZEKAZYWANYCH NA PODSTAWIE ART. 50 UST. 5 AKTU W SPRAWIE AI
|
(141) |
Zgodnie z art. 50 ust. 5 aktu w sprawie AI informacje, które mają być przekazywane zgodnie z art. 50 ust. 1–4 aktu w sprawie AI, powinny być przekazywane zainteresowanym osobom fizycznym w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania (pierwszej styczności). Informacje te powinny również spełniać mające zastosowanie wymogi dostępności. Zainteresowane osoby fizyczne w tym kontekście obejmują osoby wchodzące w bezpośrednią interakcję z systemem AI (art. 50 ust. 1 aktu w sprawie AI), aktywnych lub biernych użytkowników oraz inne osoby, wobec których stosowane są treści syntetyczne wygenerowane lub zmanipulowane przez AI (z bezpośrednią interakcją z systemem AI lub bez takiej interakcji (art. 50 ust. 2 i 4 aktu w sprawie AI)) oraz osoby, wobec których stosowane są systemy rozpoznawania emocji lub kategoryzacji biometrycznej (art. 50 ust. 3 aktu w sprawie AI). |
7.1. Przekazywanie informacji w jasny i wyraźny sposób
|
(142) |
Informacje uznaje się za przekazane w jasny sposób, jeżeli są zauważalne, łatwe do zrozumienia i dostępne dla danej osoby fizycznej (w tym dla osób z niepełnosprawnościami). Informacje uznaje się za przekazane w wyraźny sposób, jeżeli można je łatwo zidentyfikować jako odrębne od innych informacji i od środowiska, w którym prezentowane są treści. Muszą one być również łatwo zrozumiałe dla odbiorców, w tym dla określonych grup, takich jak dzieci lub osoby z niepełnosprawnościami, jeżeli osoby te należą do grupy odbiorców, co do których można przewidzieć, że zetkną się z danymi treściami lub wejdą w interakcję z systemem (40). Aby przekazać informacje w jasny i wyraźny sposób, odpowiednie informacje można przedstawić między innymi w ramach interakcji (na podstawie art. 50 ust. 1 aktu w sprawie AI) lub odpowiednich treści (na podstawie art. 50 ust. 2 i 4 aktu w sprawie AI). Informacji nie uznaje się za przekazane w jasny i wyraźny sposób, jeżeli osoby fizyczne mogą je łatwo pominąć lub przeoczyć w normalnych warunkach stosowania lub interakcji (np. gdy są zawarte wyłącznie jako część instrukcji obsługi lub ukryte pod warstwami opcji menu w interfejsie internetowym lub gdy są zapisane w warunkach użytkowania, których użytkownicy zazwyczaj nie czytają). |
7.2. Pierwsza interakcja lub pierwsze stosowanie
|
(143) |
W art. 50 ust. 5 aktu w sprawie AI wymaga się, aby informacje były przekazywane zainteresowanym osobom fizycznym najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania (pierwszej styczności). Pierwsza interakcja lub pierwsza styczność odnosi się nie tylko do pierwszej osoby fizycznej wchodzącej w interakcję lub mającej styczność z systemem AI lub wynikami działania tego systemu, ale również do każdej późniejszej pierwszej interakcji i pierwszej styczności każdej kolejnej osoby fizycznej z systemem AI lub wynikami działania tego systemu. Jeżeli chodzi o pierwszą interakcję z systemem AI, informacje powinny być przekazywane co najmniej raz na początku sesji interaktywnej, z uwzględnieniem szczególnych kontekstów, o których mowa w pkt 36 i 40 powyżej. W odniesieniu do treści wygenerowanych lub zmanipulowanych przez AI objętych zakresem stosowania art. 50 ust. 2 i 4 aktu w sprawie AI obowiązek informacyjny ma zastosowanie do każdego wyniku działania systemu AI w odniesieniu do każdej osoby fizycznej mającej styczność z danymi treściami. Należy to rozumieć jako każdy moment, w którym istnieje uzasadnione prawdopodobieństwo, że osoba fizyczna będzie miała styczność z wynikami działania systemu AI i dostrzeże informacje, z uwzględnieniem specyfiki ujawnienia w przypadku utworów o wyraźnie twórczym i artystycznym charakterze oraz innych utworów (zob. sekcja 6.1.3). Ponadto podmioty stosujące mogą informować osoby fizyczne przed pierwszą faktyczną interakcją lub stycznością (np. na początku treści zawierających materiały typu deepfake). Jeżeli jednak można racjonalnie przewidzieć, że osoby mogą zacząć odbierać treści nie od ich samego początku, wówczas ujawnienie jedynie na początku treści nie informuje tych osób w odpowiedni sposób i w miarę możliwości powinno zostać uzupełnione ujawnieniem informacji ponownie w dalszej części treści. Można to wdrożyć w stosownych przypadkach, z uwzględnieniem celu obowiązków w zakresie przejrzystości, jakim jest zapewnienie skutecznego udzielania informacji i znaczącej świadomości użytkowników w coraz bardziej immersyjnych i realistycznych środowiskach AI, w których użytkownicy mają coraz większe trudności z rozróżnieniem pochodzenia i prawdziwości treści oraz interakcji.
|
7.3. Zgodność z mającymi zastosowanie wymogami dostępności
|
(144) |
Dostawcy i podmioty stosujące systemy AI objęte zakresem poszczególnych obowiązków w zakresie przejrzystości wymienionych w art. 50 ust. 1–4 aktu w sprawie AI muszą znać mające zastosowanie wymogi dostępności (np. na podstawie dyrektywy 2016/2102 (41) i dyrektywy 2019/882 (42)) i muszą ocenić, czy ich produkty, usługi lub treści muszą być zgodne z tymi przepisami. W takim przypadku muszą one zapewnić dostępność informacji przekazywanych zgodnie z art. 50 aktu w sprawie AI zgodnie z mającymi zastosowanie wymogami dostępności. Art. 50 aktu w sprawie AI nie nakłada odrębnych ani dodatkowych wymogów dostępności. |
8. EGZEKWOWANIE ART. 50 AKTU W SPRAWIE AI
|
(145) |
Niniejsza sekcja ma na celu doprecyzowanie: (i) skutków przestrzegania kodeksu praktyk w odniesieniu do wypełniania obowiązków w zakresie przejrzystości w odniesieniu do treści wygenerowanych przez AI; (ii) roli właściwych organów nadzorczych w egzekwowaniu art. 50 aktu w sprawie AI; (iii) sankcji mających zastosowanie w przypadku naruszenia tych obowiązków; oraz (iv) momentu rozpoczęcia stosowania obowiązków określonych w art. 50 aktu w sprawie AI. |
8.1. Skutki przestrzegania kodeksu praktyk uznanego za odpowiedni
|
(146) |
Dostawcy systemów AI i podmioty stosujące systemy AI objęte zakresem stosowania art. 50 ust. 2 i 4 aktu w sprawie AI mogą wykazać zgodność z odpowiednimi dla nich obowiązkami w zakresie przejrzystości w odniesieniu do treści wygenerowanych przez AI na podstawie tych przepisów, przestrzegając kodeksu praktyk uznanego za odpowiedni zgodnie z art. 50 ust. 7 aktu w sprawie AI (43). Taki kodeks nie zastępuje aktu w sprawie AI ani niniejszych wytycznych. Uzupełnia on je, zapewniając jedyne uznane w całej Unii ramy praktyczne dla dostawców systemów generatywnej AI i podmiotów je stosujących w celu wykazania zgodności z tymi obowiązkami, niezależnie od ich siedziby, działalności i właściwych organów nadzoru rynku. |
|
(147) |
Chociaż dostawcy i podmioty stosujące mogą również wykazać zgodność z tymi obowiązkami za pomocą odpowiednich alternatywnych środków, przestrzeganie kodeksu praktyk, który uznaje się za odpowiedni, jest prostym, przewidywalnym i pewnym pod względem prawnym sposobem wykazania zgodności. W przypadku sygnatariuszy kodeksu praktyk uznanego za odpowiedni zgodnie z art. 50 ust. 7 aktu w sprawie AI (44) Komisja i właściwe organy nadzoru rynku skoncentrują swoje działania nadzorcze na ocenie, czy sygnatariusze ci przestrzegali kodeksu praktyk i wdrożyli zawarte w nim środki. Ponieważ dostawcy i podmioty stosujące, którzy przyjęli wspomniany kodeks, będą w przejrzysty sposób informować o środkach, jakie wdrażają w celu zapewnienia zgodności z art. 50 ust. 2, 4 i 5 aktu w sprawie AI, zyskają oni zwiększone zaufanie ze strony Komisji, innych właściwych organów nadzoru rynku i innych zainteresowanych stron (w tym ogółu społeczeństwa). Każde odstępstwo przez sygnatariuszy kodeksu praktyk od zapisów kodeksu, który uznano za odpowiedni, spowoduje utratę przez tych dostawców i przez te podmioty stosujące korzyści w postaci łatwiejszego wykazywania zgodności w tym zakresie. |
|
(148) |
Oczekuje się, że dostawcy i podmioty stosujące, którzy nie są sygnatariuszami kodeksu praktyk uznanego za odpowiedni zgodnie z art. 50 ust. 7 aktu w sprawie AI, wykażą za pomocą innych odpowiednich środków, w jaki sposób wypełnili swoje obowiązki wynikające z art. 50 ust. 2, 4 i 5 aktu w sprawie AI. Ponadto od takich dostawców i podmiotów stosujących oczekuje się wyjaśnienia, w jaki sposób wdrażane przez nich środki zapewniają wypełnienie ich obowiązków wynikających z aktu w sprawie AI. Powinni oni na przykład przeprowadzić analizę luk, w której porównano by wdrożone przez nich środki ze środkami określonymi w kodeksie praktyk uznanym za odpowiedni. Ponieważ właściwe organy (w tym Urząd ds. AI) będą miały mniejszą wiedzę na temat sposobu, w jaki dostawcy i podmioty stosujące, którzy nie są sygnatariuszami kodeksu praktyk, zapewniają wypełnianie swoich obowiązków wynikających z art. 50 ust. 2, 4 i 5 aktu w sprawie AI, prawdopodobnie będą potrzebowały bardziej szczegółowych informacji podczas monitorowania zgodności. Na przykład dostawcy, którzy nie przyjęli kodeksu praktyk, mogą również otrzymywać większą liczbę wniosków o udzielenie informacji i wniosków o dostęp w celu oceny skuteczności, interoperacyjności, solidności i niezawodności rozwiązań technicznych wdrożonych w celu zapewnienia zgodności z art. 50 ust. 2 aktu w sprawie AI. Podmioty stosujące również mogą otrzymywać takie wnioski w odniesieniu do swoich praktyk oznakowania na podstawie art. 50 ust. 4 aktu w sprawie AI. |
|
(149) |
Właściwe organy mogą uwzględnić zobowiązania wdrożone zgodnie z kodeksem praktyk uznanym za odpowiedni jako czynnik łagodzący przy ustalaniu kwoty grzywien, w zależności od konkretnych okoliczności (45). |
|
(150) |
Jeżeli kodeks praktyk nie zostanie uznany za odpowiedni zgodnie z art. 50 ust. 7 aktu w sprawie AI, Komisja może przyjąć akt wykonawczy określający wspólne zasady wdrażania obowiązków określonych w art. 50 ust. 2, 4 i 5 aktu w sprawie AI, które miałyby zastosowanie do wszystkich odpowiednich dostawców systemów AI objętych zakresem stosowania tych przepisów i podmiotów stosujących te systemy (46). |
8.2. Organy nadzoru rynku
|
(151) |
Organy nadzoru rynku wyznaczone przez państwa członkowskie, Urząd ds. AI (47) i Europejski Inspektor Ochrony Danych (48) są odpowiedzialni za nadzorowanie i egzekwowanie przepisów dotyczących systemów AI wchodzących w zakres ich kompetencji, w tym obowiązków w zakresie przejrzystości określonych w art. 50 aktu w sprawie AI. Takie egzekwowanie przepisów odbywa się w ramach systemu nadzoru rynku i zgodności produktów ustanowionego rozporządzeniem (UE) 2019/1020 i aktem w sprawie AI. Uprawnienia organów nadzoru rynku w zakresie egzekwowania przepisów w odniesieniu do systemów AI określono w tych aktach. Organy te mogą podejmować działania w zakresie egzekwowania prawa w odniesieniu do obowiązków wymienionych w art. 50 aktu w sprawie AI z własnej inicjatywy lub na podstawie skargi, przy czym skargę ma prawo złożyć każda osoba, na którą oddziałuje system AI, lub każda inna osoba fizyczna lub prawna mająca podstawy, by uznać, że zostały naruszone przepisy (49). Obowiązki organów nadzoru rynku wynikające z aktu w sprawie AI pozostają bez uszczerbku dla uprawnień i zadań innych organów nadzorczych lub organów ds. praw podstawowych wynikających z ich własnych ram prawnych w sytuacjach, w których zastosowanie ma zarówno art. 50 aktu w sprawie AI, jak i te ramy (np. ochrona danych, ochrona konsumentów). |
8.3. Kary
|
(152) |
Dostawcy i podmioty stosujące, którzy nie spełniają mających zastosowanie obowiązków w zakresie przejrzystości określonych w art. 50 aktu w sprawie AI, mogą zostać ukarani grzywną w wysokości do 15 000 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Instytucje, organy i jednostki organizacyjne UE, które naruszają obowiązki w zakresie przejrzystości, mogą podlegać administracyjnym karom pieniężnym w wysokości do 750 000 EUR. W przypadku małych i średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start-up, kara pieniężna nie może przekraczać powyższych wartości procentowych lub kwoty, w zależności od tego, która z tych wartości jest niższa. Kary pieniężne muszą być skuteczne, proporcjonalne i odstraszające oraz uwzględniać interesy MŚP i małych spółek o średniej kapitalizacji, w tym przedsiębiorstw typu start-up, oraz ich sytuację ekonomiczną. Przy podejmowaniu decyzji o ewentualnym nałożeniu administracyjnej kary pieniężnej oraz przy podejmowaniu decyzji o jej wysokości w każdym indywidualnym przypadku właściwe organy powinny ocenić wszystkie istotne okoliczności danej sytuacji oraz, w stosownych przypadkach, szereg czynników, które wpływają na wagę naruszenia (np. charakter, waga i czas trwania naruszenia oraz jego konsekwencje, nieumyślny lub zamierzony charakter, inne okoliczności obciążające lub łagodzące, stopień współpracy z organami nadzoru rynku itp.). |
8.4. Rozpoczęcie stosowania
|
(153) |
Zgodnie z art. 113 aktu w sprawie AI art. 50 aktu w sprawie AI stosuje się od dnia 2 sierpnia 2026 r. Wymaga to, aby wszystkie systemy AI objęte zakresem stosowania wprowadzane do obrotu lub oddawane do użytku w Unii były w tym dniu zgodne z tym przepisem, niezależnie od daty ich wprowadzenia do obrotu lub oddania do użytku (50). Rozporządzenie zmieniające akt w sprawie AI (akt zbiorczy dotyczący AI), które zostało niedawno przyjęte przez prawodawcę Unii, przewiduje ukierunkowaną zasadę praw nabytych wyłącznie w odniesieniu do obowiązków w zakresie oznaczania i wykrywania określonych w art. 50 ust. 2 aktu w sprawie AI w odniesieniu do systemów generatywnej AI wprowadzonych do obrotu lub oddanych do użytku przed dniem 2 sierpnia 2026 r. Zapewnia ono dostawcom tych istniejących systemów okres przejściowy na dostosowanie ich systemów do dnia 2 grudnia 2026 r. Systemy, które są częściowo interaktywne, a częściowo generatywne, mogą skorzystać z tego okresu przejściowego wyłącznie w odniesieniu do obowiązku oznakowania na podstawie art. 50 ust. 2 aktu w sprawie AI, natomiast od dnia 2 sierpnia 2026 r. należy zapewnić zgodność z obowiązkiem ujawniania informacji w odniesieniu do systemów AI wchodzących w bezpośrednią w interakcję z osobami fizycznymi. |
|
(154) |
Wygenerowane lub zmanipulowane przez AI wyniki objęte zakresem stosowania art. 50 ust. 2 aktu w sprawie AI oraz treści typu deepfake objęte zakresem stosowania art. 50 ust. 4 akapit pierwszy aktu w sprawie AI, które wygenerowano lub zmanipulowano przed dniem 2 sierpnia 2026 r., nie muszą być oznaczane ani etykietowane retroaktywnie. To samo dotyczy tekstów poruszających sprawy leżące w interesie publicznym objętych zakresem stosowania art. 50 ust. 4 akapit drugi aktu w sprawie AI, które zostały wygenerowane lub zmanipulowane przez AI i opublikowane przed dniem 2 sierpnia 2026 r. Jeżeli natomiast teksty wygenerowane lub zmanipulowane przed dniem 2 sierpnia 2026 r. zostaną opublikowane w tym dniu lub później, muszą zostać oznaczone. Biorąc pod uwagę cel aktu w sprawie AI, jakim jest zapewnienie przejrzystości oraz zwiększenie zaufania do ekosystemu informacyjnego i jego integralności, podmioty stosujące systemy AI i inne podmioty, które są w posiadaniu wcześniej istniejących nieoznaczonych treści typu deepfake lub rozpowszechniają takie treści, zachęca się jednak do podjęcia takiego działania, przy czym nie oczekuje się od nich podejmowania niewspółmiernych wysiłków w tym celu (takich jak audyt wcześniej istniejących baz danych dotyczących treści lub modyfikacja już wydrukowanych opakowań produktów). |
9. PRZEGLĄD I AKTUALIZACJA WYTYCZNYCH
|
(155) |
Niniejsze wytyczne stanowią pierwszą interpretację obowiązków w zakresie przejrzystości określonych w art. 50 aktu w sprawie AI wraz z praktycznymi przykładami. Komisja dokona przeglądu niniejszych wytycznych, gdy tylko będzie to konieczne, biorąc pod uwagę praktyczne doświadczenia zdobyte podczas wdrażania obowiązków w zakresie przejrzystości oraz tempo zmian technologicznych, społecznych i regulacyjnych w tej dziedzinie. Obejmuje to również wszelkie istotne doświadczenia z działań egzekucyjnych w ramach nadzoru rynku oraz wykładnie art. 50 aktu w sprawie AI dokonywane przez TSUE. Podczas takiego przeglądu Komisja może podjąć decyzję o wycofaniu lub zmianie niniejszych wytycznych. Komisja zachęca dostawców systemów AI i podmioty je stosujące, krajowe organy nadzoru rynku za pośrednictwem Europejskiej Rady ds. Sztucznej Inteligencji, forum doradcze ds. sztucznej inteligencji, społeczność naukową i organizacje społeczeństwa obywatelskiego do wniesienia wkładu w ten proces poprzez udział w przyszłych konsultacjach publicznych. |
(1) Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (akt w sprawie AI) (Dz.U. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
(2) Art. 1 aktu w sprawie AI.
(3) Art. 2 ust. 1 lit. a), art. 3 ust. 3, 9 i 11 aktu w sprawie AI. Aby uzyskać dalsze wytyczne dotyczące pojęć „wprowadzanie do obrotu”, „oddawanie do użytku” i „wykorzystywanie”, zob. wytyczne Komisji w sprawie zakazanych praktyk w zakresie sztucznej inteligencji, C(2025) 5052 oraz zawiadomienie Komisji „Niebieski przewodnik – wdrażanie unijnych przepisów dotyczących produktów 2022”, sekcja 2 (Dz.U. C 247, 29.6.2022, s. 1).
(4) Art. 2 ust. 1 lit. c) oraz motyw 22 aktu w sprawie AI.
(5) Art. 3 ust. 4 aktu w sprawie AI.
(6) Art. 2 ust. 1 lit. b) i c) aktu w sprawie AI.
(7) Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2022/2065 z dnia 19 października 2022 r. w sprawie jednolitego rynku usług cyfrowych (Dz.U. L 277 z 27.10.2022, s. 1).
(8) Zob. sekcja 2.5 wytycznych Komisji w sprawie zakazanych praktyk w zakresie sztucznej inteligencji ustanowionych rozporządzeniem (UE) 2024/1689 (akt w sprawie AI), Bruksela, C(2025) 5052 final z 29.07.2025.
(9) Z definicji podmiotu stosującego wykluczeni są również użytkownicy zaangażowani w taką działalność (zob. sekcja 2.3 powyżej).
(10) Motyw 25 aktu w sprawie AI.
(11) W motywie 102 aktu w sprawie AI stwierdzono, że udostępnianie oprogramowania i danych na podstawie bezpłatnej licencji otwartego oprogramowania „umożliwia ich ogólne upowszechnianie i zezwala użytkownikom na swobodny dostęp do nich, ich wykorzystywanie, zmianę i ich redystrybucję lub ich zmienionych wersji”.
(12) Więcej informacji na temat art. 5 aktu w sprawie AI można znaleźć w wytycznych Komisji w sprawie zakazanych praktyk w zakresie sztucznej inteligencji określonych w rozporządzeniu (UE) 2024/1689 (akt w sprawie AI), C(2025) 5052 final.
(13) Zob. art. 6 aktu w sprawie AI.
(14) W szczególności w art. 26 ust. 11 aktu w sprawie AI na podmioty stosujące systemy AI wysokiego ryzyka, które to podmioty podejmują decyzje lub uczestniczą w podejmowaniu decyzji dotyczących osób fizycznych, nałożono obowiązek w zakresie przejrzystości, który dotyczy informowania osób fizycznych o tym, że jest w stosunku do nich wykorzystywany system AI wysokiego ryzyka. Te obowiązki w zakresie przejrzystości stanowią uzupełnienie obowiązków określonych w art. 50 aktu w sprawie AI, ponieważ dotyczą różnych informacji, które należy przekazać osobom fizycznym, ale można je połączyć w ramach jednego powiadomienia.
(15) W art. 3 ust. 66 aktu w sprawie AI zdefiniowano system AI ogólnego przeznaczenia jako system AI oparty na modelu AI ogólnego przeznaczenia, który to system może służyć różnym celom, nadający się zarówno do bezpośredniego wykorzystania, jak i do integracji z innymi systemami AI.
(16) Art. 50 ust. 2 aktu w sprawie AI zawiera wyraźne odniesienie do systemów AI ogólnego przeznaczenia.
(17) Motyw 133 aktu w sprawie AI.
(18) Zob. art. 3 pkt 1 aktu w sprawie AI. Dalsze wytyczne dotyczące pojęcia systemu AI znajdują się w wytycznych Komisji dotyczących definicji systemu sztucznej inteligencji, C(2025) 5053 final z 29.07.2025.
(19) Zob. motyw 132 aktu w sprawie AI. Nie wymaga to, aby system był ukierunkowany na te grupy szczególnie wrażliwe. Jeżeli system ma wchodzić w interakcję z dowolnym członkiem społeczeństwa, uwzględnia się również członków grup szczególnie wrażliwych, których dostawcy powinni uwzględnić przy wdrażaniu środków z zakresu powiadamiania.
(20) Mające zastosowanie wymogi dostępności znajdują się w sekcji 7.3.
(21) Na przykład elektroniczne poświadczenia atrybutów ustanowione na podstawie rozporządzenia (UE) nr 910/2014 i udostępnione w europejskich portfelach tożsamości cyfrowej ustanowionych na podstawie tego samego rozporządzenia, a także proponowane europejskie portfele biznesowe mogą zapewnić bezpieczne i skuteczne środki identyfikacji agentów AI. W portfelach można przechowywać elektroniczne poświadczenia, które weryfikują tożsamość, atrybuty i zezwolenia agenta AI, oraz zarządzać nimi, umożliwiając tym samym płynne i wiarygodne ujawnianie osobom fizycznym.
(22) Dotyczy to również podobnych wyjątków wprowadzonych z myślą o działaniach organów ścigania przewidzianych w art. 50 ust. 2–4 aktu w sprawie AI.
(23) Dyrektywa 2005/29/WE Parlamentu Europejskiego i Rady z dnia 11 maja 2005 r. dotycząca nieuczciwych praktyk handlowych stosowanych przez przedsiębiorstwa wobec konsumentów na rynku wewnętrznym (Dz.U. L 149 z 11.6.2005, s. 2).
(24) Dyrektywa Parlamentu Europejskiego i Rady 2011/83/UE z dnia 25 października 2011 r. w sprawie praw konsumentów (Dz.U. L 304 z 22.11.2011, s. 64).
(25) Dyrektywa Parlamentu Europejskiego i Rady 2012/13/UE z dnia 22 maja 2012 r. w sprawie prawa do informacji w postępowaniu karnym (Dz.U. L 142 z 1.6.2012, s. 1). Dyrektywa Parlamentu Europejskiego i Rady 2012/29/UE z dnia 25 października 2012 r. ustanawiająca normy minimalne w zakresie praw, wsparcia i ochrony ofiar przestępstw (Dz.U. L 315 z 14.11.2012, s. 57).
(26) Zgodnie z definicją w art. 3 pkt 1 aktu w sprawie AI.
(27) W motywie 133 aktu w sprawie AI doprecyzowano, że należy zobowiązać dostawców tych systemów do wbudowania rozwiązań technicznych, które umożliwiają oznakowanie w formacie nadającym się do odczytu maszynowego i wykrywanie, że wyniki zostały wygenerowane lub zmanipulowane przez system AI, a nie przez człowieka. Motyw 135 aktu w sprawie AI odnosi się do obowiązku zapewnienia wykrywalności.
(28) Zob. załącznik II do decyzji wykonawczej Komisji C(2025) 3871 final w sprawie wniosku o normalizację do Europejskiego Komitetu Normalizacyjnego oraz do Europejskiego Komitetu Normalizacyjnego Elektrotechniki w odniesieniu do systemu AI wysokiego ryzyka na potrzeby rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 oraz uchylającej decyzję wykonawczą C(2023) 3215 final.
(29) Zob. również motyw 11 aktu w sprawie AI.
(30) Zob. również motyw 137 aktu w sprawie AI.
(31) Motyw 136 aktu w sprawie AI.
(32) W związku z tym kryterium to należy rozumieć niezależnie i odrębnie od pojęcia wprowadzenia w błąd, o którym mowa w dyrektywie 2005/29/WE dotyczącej nieuczciwych praktyk handlowych stosowanych przez przedsiębiorstwa wobec konsumentów na rynku wewnętrznym (dyrektywa o nieuczciwych praktykach handlowych), https://eur-lex.europa.eu/eli/dir/2005/29/oj/pol.
(33) Zob. podobnie art. 1 lit. b) dyrektywy o audiowizualnych usługach medialnych.
(34) Dotyczy to również publikowanych tekstów informujących społeczeństwo o sprawach leżących w interesie publicznym.
(35) Więcej informacji na temat wzajemnych powiązań między art. 50 aktu w sprawie AI a aktem o usługach cyfrowych można znaleźć również w sekcji 4.4.
(36) Motyw 2 aktu o usługach cyfrowych.
(37) Aby uzyskać bardziej szczegółowe wyjaśnienia, zob. wspólne wytyczne Komisji i EROD dotyczące wzajemnych powiązań między aktem w sprawie AI a unijnymi przepisami o ochronie danych (w przygotowaniu).
(38) Zob. analogicznie sprawa C-89/04, Mediakabel, EU:C:2005:348, pkt 33; C-192/04, Lagardère, EU:C:2005:475, pkt 31; C-306/05, SGAE, EU:C:2006:764, pkt 37–40; C-527/15, Stichting Brein, EU:C:2017:300, pkt 43–44 i przytoczone tam orzecznictwo; sprawa C-135/23, GEMA, EU:C:2024:526, pkt 38 i przytoczone tam orzecznictwo).
(39) Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1083 z dnia 11 kwietnia 2024 r. w sprawie ustanowienia wspólnych ram dla usług medialnych na rynku wewnętrznym i zmiany dyrektywy 2010/13/UE (europejski akt o wolności mediów) (Dz.U. L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).
(40) Gdy dzieci są odbiorcami docelowymi treści, informacje te muszą być: (i) przyjazne dla dziecka, dostosowane do wieku, łatwe do zrozumienia i łatwo dostępne dla wszystkich dzieci, w tym osób z niepełnosprawnościami lub dodatkowymi potrzebami w zakresie dostępności; (ii) przedstawione w sposób łatwy do zrozumienia oraz możliwie najprostszy i zwięzły; (iii) przedstawione w sposób łatwy do zweryfikowania i zapewniający natychmiastowy i intuicyjny dostęp w momentach, w których stają się istotne; (iv) przedstawione w językach urzędowych państwa członkowskiego, w którym świadczona jest usługa; (v) angażujące dla dzieci. Może to wymagać również wykorzystania grafik, filmów wideo lub postaci bądź innych technik; (vi) podawane dzieciom stopniowo i rozciągnięte w czasie w celu zmaksymalizowania ilości informacji zapamiętanych przez użytkownika.
(41) Dyrektywa Parlamentu Europejskiego i Rady (UE) 2016/2102 z dnia 26 października 2016 r. w sprawie dostępności stron internetowych i mobilnych aplikacji organów sektora publicznego (Tekst mający znaczenie dla EOG) (Dz.U. L 327 z 2.12.2016, s. 1).
(42) Dyrektywa Parlamentu Europejskiego i Rady (UE) 2019/882 z dnia 17 kwietnia 2019 r. w sprawie wymogów dostępności produktów i usług (Tekst mający znaczenie dla EOG), PE/81/2018/REV/1 (Dz.U. L 151 z 7.6.2019, s. 70).
(43) Zob. odpowiednie informacje na temat Kodeksu praktyk dotyczący przejrzystości treści wygenerowanych przez AI | Kształtowanie cyfrowej przyszłości Europy opublikowanego 10 czerwca 2026 r.
(44) Zob. opinia Komisji w sprawie oceny kodeksu praktyk dotyczącego przejrzystości treści wygenerowanych przez AI | Kształtowanie cyfrowej przyszłości Europy.
(45) Art. 99 ust. 7 lit. e) aktu w sprawie AI.
(46) Art. 50 ust. 7 aktu w sprawie AI.
(47) Jako organ nadzoru rynku w odniesieniu do systemów AI opartych na modelach AI ogólnego przeznaczenia dostarczanych przez tego samego dostawcę (art. 75 ust. 1 aktu w sprawie AI). Obejmuje to obowiązek mający zastosowanie do dostawców na podstawie art. 50 ust. 1 i 2 aktu w sprawie AI. W odniesieniu do art. 50 ust. 3 i 4 aktu w sprawie AI Urząd ds. AI będzie właściwy tylko wtedy, gdy dostawca danego modelu i systemu AI ogólnego przeznaczenia jest zarazem podmiotem stosującym ten system.
(48) Jako organ nadzoru rynku dla instytucji, agencji i organów UE.
(49) Art. 85 aktu w sprawie AI.
(50) Specjalna zasada praw nabytych określona w art. 111 ust. 2 aktu w sprawie AI ma zastosowanie do systemów AI wysokiego ryzyka wprowadzonych do obrotu przed datą rozpoczęcia stosowania przepisów dotyczących wysokiego ryzyka wyłącznie w odniesieniu do zgodności tych systemów z wymogami i obowiązkami dotyczącymi systemów AI wysokiego ryzyka. Jeżeli system AI wysokiego ryzyka podlega również co najmniej jednemu obowiązkowi w zakresie przejrzystości na mocy art. 50 aktu w sprawie AI, ta specjalna zasada praw nabytych nie ma zastosowania, ponieważ stosowanie poszczególnych obowiązków w zakresie wysokiego ryzyka i przejrzystości na podstawie art. 50 ma charakter kumulatywny, a zasada praw nabytych jest uzasadniona i ograniczona wyłącznie w odniesieniu do zgodności z przepisami dotyczącymi wysokiego ryzyka.
ELI: http://data.europa.eu/eli/C/2026/6005/oj
ISSN 1977-1002 (electronic edition)