|
Úřední věstník |
CS Řada C |
|
C/2026/6005 |
12.11.2026 |
SDĚLENÍ KOMISE
Pokyny k plnění povinností týkajících se transparentnosti u některých systémů AI podle článku 50 nařízení (EU) 2024/1689 (tzv. „akt o AI“)
(C/2026/6005)
Obsah
|
1. |
SOUVISLOSTI A CÍLE | 3 |
|
2. |
PŘEHLED POVINNOSTÍ V OBLASTI TRANSPARENTNOSTI A HORIZONTÁLNÍCH TÉMAT | 3 |
|
2.1 |
Přehled povinností v oblasti transparentnosti podle článku 50 aktu o AI | 3 |
|
2.2 |
Odůvodnění a cíle | 4 |
|
2.3 |
Odpovědné subjekty podle článku 50 aktu o AI | 5 |
|
2.4 |
Výjimky z oblasti působnosti aktu o AI | 7 |
|
2.4.1 |
Zavádějící subjekty jednající v rámci čistě osobní neprofesionální činnosti | 7 |
|
2.4.2 |
Výzkum a vývoj | 8 |
|
2.4.3 |
Systémy AI zpřístupněné na základě svobodných licencí a licencí s otevřeným zdrojovým kódem | 8 |
|
2.5 |
Vzájemné působení se zakázanými postupy, požadavky na vysoce rizikové systémy AI a gramotností v oblasti AI | 9 |
|
2.6 |
Vzájemné působení s pravidly platnými pro obecné modely a/nebo obecné systémy AI | 9 |
|
3. |
USTANOVENÍ ČL. 50 BODU 1 AKTU O AI: TRANSPARENTNOST INTERAKTIVNÍCH SYSTÉMŮ AI | 9 |
|
3.1 |
Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti | 10 |
|
3.1.1 |
Systémy AI určené k přímé interakci s fyzickými osobami | 10 |
|
3.1.2 |
Informační povinnost podle čl. 50 odst. 1 aktu o AI | 12 |
|
3.2 |
Výjimky z informační povinnosti podle čl. 50 odst. 1 aktu o AI | 14 |
|
3.2.1 |
Výjimka v případě zřejmé interakce se systémem AI | 14 |
|
3.2.2 |
Výjimka pro systémy AI, jejichž používání je zákonem povoleno pro účely vymáhání práva | 16 |
|
3.3 |
Vzájemné působení s jinými právními akty Unie | 17 |
|
4. |
USTANOVENÍ ČL. 50 BODU 2 AKTU O AI: OZNAČOVÁNÍ A ZJIŠŤOVÁNÍ OBSAHU VYTVOŘENÉHO NEBO MANIPULOVANÉHO UMĚLOU INTELIGENCÍ | 18 |
|
4.1 |
Hlavní prvky a pojmy čl. 50 odst. 2 aktu o AI | 18 |
|
4.1.1 |
Systémy AI vytvářející syntetický obsah nebo s ním manipulující | 18 |
|
4.1.2 |
Modality syntetického obsahu spadající do působnosti čl. 50 odst. 2 aktu o AI | 19 |
|
4.1.3 |
Obsah, který nespadá do působnosti čl. 50 odst. 2 aktu o AI | 20 |
|
4.2 |
Povinnost označování a zjišťování podle čl. 50 odst. 2 aktu o AI | 21 |
|
4.2.1 |
Povinnost označování | 21 |
|
4.2.2 |
Povinnost zjišťování | 22 |
|
4.2.3 |
Dodržování požadavků na technická řešení: účinná, interoperabilní, robustní a spolehlivá | 22 |
|
4.3 |
Výjimky z povinností podle čl. 50 odst. 2 aktu o AI | 24 |
|
4.4 |
Vzájemné působení s jinými právními akty Unie | 25 |
|
5. |
USTANOVENÍ ČL. 50 ODST. 3 AKTU O AI: SYSTÉMY ROZPOZNÁVÁNÍ EMOCÍ A SYSTÉMY BIOMETRICKÉ KATEGORIZACE | 26 |
|
5.1 |
Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti podle čl. 50 odst. 3 aktu o AI | 27 |
|
5.1.1 |
Pojem systému rozpoznávání emocí | 27 |
|
5.1.2 |
Pojem systému biometrické kategorizace | 27 |
|
5.1.3 |
Informační povinnost podle čl. 50 odst. 3 aktu o AI | 27 |
|
5.2 |
Výjimka pro účely vymáhání práva | 28 |
|
5.3 |
Vzájemné působení s jinými právními akty Unie | 28 |
|
6. |
USTANOVENÍ ČL. 50 ODST. 4: OZNAČOVÁNÍ „DEEP FAKES“ A URČITÝCH TEXTOVÝCH PUBLIKACÍ | 28 |
|
6.1 |
Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti týkající se „deep fakes“ podle čl. 50 odst. 4 aktu o AI | 28 |
|
6.1.1 |
Pojem „deep fake“ | 29 |
|
6.1.2 |
Povinnost zveřejnění podle čl. 50 odst. 4 prvního pododstavce aktu o AI | 31 |
|
6.1.3 |
Transparentnost uměleckého, tvůrčího, satirického, fiktivního či obdobného obsahu typu „deep fake“ | 32 |
|
6.1.4 |
Výjimka pro vymáhání práva | 34 |
|
6.1.5 |
Vzájemné působení s jinými právními akty Unie | 34 |
|
6.2 |
Hlavní prvky, pojmy a související povinnosti týkající se transparentnosti u textů vytvořených nebo manipulovaných umělou inteligencí podle čl. 50 odst. 4 aktu o AI | 35 |
|
6.2.1 |
Text zveřejněný za účelem informování veřejnosti o záležitostech veřejného zájmu | 36 |
|
6.2.2 |
Povinnost zveřejnění podle čl. 50 odst. 4 druhého pododstavce aktu o AI | 37 |
|
6.2.3 |
Výjimka z povinnosti transparentnosti u textů, které byly podrobeny přezkumu člověkem nebo redakční kontrole a za jejichž zveřejnění nese redakční odpovědnost fyzická nebo právnická osoba | 37 |
|
6.2.4 |
Výjimka pro vymáhání práva | 38 |
|
6.2.5 |
Vzájemné působení s jinými právními akty Unie | 39 |
|
7. |
HORIZONTÁLNÍ POŽADAVKY NA INFORMACE POSKYTOVANÉ PODLE ČL. 50 ODST. 5 AKTU O AI | 39 |
|
7.1 |
Poskytování informací jasným a rozlišitelným způsobem | 39 |
|
7.2 |
První interakce nebo expozice | 40 |
|
7.3 |
Splnění příslušných požadavků na přístupnost | 40 |
|
8. |
PROSAZOVÁNÍ ČLÁNKU 50 AKTU O AI | 40 |
|
8.1 |
Účinky dodržování kodexu správné praxe, který byl posouzen jako přiměřený | 41 |
|
8.2 |
Orgány dozoru nad trhem | 42 |
|
8.3 |
Sankce | 42 |
|
8.4 |
Datum použitelnosti | 42 |
|
9. |
PŘEZKUM A AKTUALIZACE POKYNŮ | 43 |
1. SOUVISLOSTI A CÍLE
|
1) |
Dne 1. srpna 2024 vstoupilo v platnost nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění některá nařízení (1) (dále jen „akt o AI“). Akt o AI stanoví harmonizovaná pravidla pro uvádění umělé inteligence (dále jen „AI“) na trh a do provozu a pro její používání v Unii (2). Cílem aktu je podporovat inovace a zavádění důvěryhodné AI a zároveň zajistit vysokou úroveň ochrany zdraví, bezpečnosti a základních práv v Unii, včetně demokracie a právního státu. |
|
2) |
Akt o AI vychází z přístupu založeného na posouzení rizik a rozděluje systémy AI do čtyř různých rizikových kategorií, z nichž jednou jsou systémy AI představující rizika v oblasti transparentnosti, na které se vztahují povinnosti stanovené v článku 50 aktu o AI. Tyto povinnosti týkající se transparentnosti se uplatní dva roky po vstupu aktu o AI v platnost, tj. ode dne 2. srpna 2026. |
|
3) |
V souladu s čl. 96 odst. 1 písm. d) aktu o AI jsou tyto pokyny Komise vydány s cílem poskytnout praktické vodítko, které má pomoci příslušným orgánům, jakož i poskytovatelům systémů AI a subjektům, které tyto systémy zavádějí, zajistit splnění povinností v oblasti transparentnosti podle článku 50 aktu o AI konzistentním, účinným, přiměřeným a jednotným způsobem. |
|
4) |
Při vypracování těchto pokynů byly zohledněny připomínky různých zúčastněných stran shromážděné v rámci rozsáhlé konzultace zorganizované Komisí, připomínky členských států v rámci rady pro AI a rovněž připomínky zúčastněných stran k návrhu pokynů, který byl zveřejněn ke konzultaci. |
|
5) |
Tyto pokyny nejsou závazné. Závazný výklad aktu o AI může v konečném důsledku podat pouze Soudní dvůr Evropské unie (dále jen „SDEU“). |
2. PŘEHLED POVINNOSTÍ V OBLASTI TRANSPARENTNOSTI A HORIZONTÁLNÍCH TÉMAT
2.1 Přehled povinností v oblasti transparentnosti podle článku 50 aktu o AI
|
6) |
Článek 50 aktu o AI obsahuje čtyři povinnosti týkající se transparentnosti, z nichž každá se vztahuje na různé typy systémů AI nebo jejich výstupy.
|
|
7) |
Každá z těchto čtyř povinností je podrobněji zkoumána v oddílech 3 až 6 těchto pokynů. Ustanovení čl. 50 odst. 5 aktu o AI navíc ukládá, že informace uvedené v odstavcích 1 až 4 se dotčeným fyzickým osobám musí poskytnout jasným a rozlišitelným způsobem nejpozději v době první interakce nebo expozice a musí být v souladu s použitelnými požadavky na přístupnost. Tyto požadavky jsou upřesněny v oddíle 7. |
|
8) |
Různé povinnosti v oblasti transparentnosti stanovené v článku 50 aktu o AI se mohou na jeden systém AI (nebo jeho výstupy) vztahovat kumulativně, což může vést k odpovědnosti různých subjektů (poskytovatelů nebo zavádějících subjektů). Pokud například systém AI vytváří obrázky v rámci přímé interakce s fyzickou osobou, může být poskytovatel tohoto systému povinen dodržet ustanovení čl. 50 odst. 1 i odst. 2 aktu o AI. Pokud je tento systém schopen vytvářet také obrázky představující „deep fakes“ nebo texty zveřejňované ohledně záležitostí veřejného zájmu, může být zavádějící subjekt navíc povinen dodržovat i čl. 50 odst. 4 aktu o AI. |
2.2 Odůvodnění a cíle
|
9) |
Jak je vysvětleno ve 132. až 136. bodech odůvodnění aktu o AI, účelem povinností v oblasti transparentnosti je snížit rizika vydávání se za jinou osobu, klamání, zavádějících informací, manipulací ve velkém měřítku a podvodů a zmírnit potenciální nepříznivé dopady na demokratické procesy a důvěru společnosti způsobené obsahem vytvořeným nebo zmanipulovaným umělou inteligencí nebo interakcí s AI. Informování fyzických osob o tom, že interakce a obsah pocházejí od AI, jim pomůže činit informovaná rozhodnutí a zároveň přispěje k zajištění důvěry v informační ekosystém a jeho integrity. Transparentnost není pouze technickým požadavkem na dodržování předpisů, ale také nezbytnou podmínkou pro to, aby fyzické osoby mohly rozpoznat interakce a obsah zprostředkované umělou inteligencí či využití systémů rozpoznávání emocí nebo biometrické kategorizace. Zajištění transparentního a důvěryhodného využívání interaktivních a generativních systémů AI rovněž umožní zachovat osobní autonomii a evropské hodnoty, lidskou důstojnost a další základní práva (např. svobodu myšlení, soukromí, rovnost a nediskriminaci, ochranu spotřebitele, duševní vlastnictví atd.), a zároveň zachovat svobodu projevu a důvěryhodnost mediálního obsahu. |
2.3 Odpovědné subjekty podle článku 50 aktu o AI
|
10) |
Podle čl. 3 bodu 3 aktu o AI jsou poskytovateli fyzické nebo právnické osoby, veřejné orgány, agentury nebo jiné subjekty, které vyvíjejí nebo nechávají vyvíjet systémy AI a uvádějí je na trh Unie nebo je uvádějí do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou, ať už za úplatu, nebo zdarma. Poskytovatelé musí dodržovat příslušné povinnosti týkající se transparentnosti stanovené v čl. 50 odst. 1 a 2 aktu o AI, které se na ně vztahují, a to bez ohledu na to, zda jsou usazeni nebo se nacházejí v Unii či ve třetí zemi (3). Akt o AI se vztahuje i na poskytovatele, kteří jsou usazeni nebo se nacházejí mimo Unii, pokud se výstup jejich systému AI používá v Unii (4). Náhodné, nepředvídatelné nebo neoprávněné následné použití by však samo o sobě nemělo vést k uplatnění povinností vůči takovým poskytovatelům interaktivních nebo generativních systémů AI ze třetích zemí, jejichž systémy nejsou uvedeny na trh ani do provozu v Unii, aniž jsou tím dotčeny pravomoci příslušných orgánů dozoru nad trhem posoudit výstupy těchto systémů jako nesplňující požadavky aktu o AI. |
|
11) |
Poskytovatelé musí zajistit, aby jejich interaktivní nebo generativní systémy AI měly transparentnost zabudovanou do jejich návrhu a provozu, a zajistit, aby byly splněny všechny příslušné povinnosti v oblasti transparentnosti uvedené v čl. 50 odst. 1, 2 a 5 aktu o AI, a to nejpozději při uvedení těchto systémů na trh nebo do provozu. Všechny fyzické osoby, které interagují se systémem AI nebo jsou vystaveny jeho výstupům v oblasti působnosti aktu o AI, musí být po celou dobu životního cyklu systému AI, jenž byl uveden na trh nebo do provozu daným poskytovatelem, účinně a důsledně informovány (bez ohledu na to, kdo jsou zavádějící subjekty nebo ostatní uživatelé systému).
|
|
12) |
Zavádějící subjekty nebo subjekty, které zavádějí, jsou fyzické nebo právnické osoby, veřejné orgány, agentury nebo jiné subjekty, které v rámci své pravomoci využívají systémy AI, s výjimkou případů, kdy je systém AI využíván při osobní neprofesionální činnosti (5). „Pravomoc“ nad systémem AI by měla být chápána jako převzetí odpovědnosti za rozhodnutí o zavedení systému a za způsob skutečného používání systému (včetně jeho výstupů). To nutně nevyžaduje technickou kontrolu nad fungováním systému AI, pokud zavádějící subjekt rozhoduje o tom, k jakým účelům a jakým způsobem bude systém AI využíván (včetně decentralizovaných pracovních postupů a skupinových podnikových struktur). Zavádějící subjekty zapojené do složitých hodnotových řetězců výroby a distribuce obsahu by měly přijmout přiměřená opatření k zajištění toho, aby označení obsahu, které zavedly v souladu s čl. 50 odst. 4 aktu o AI, bylo pro cílové a předvídatelné příjemce zobrazeno jasným a rozlišitelným způsobem v době první expozice v souladu s čl. 50 odst. 5 aktu o AI (např. prostřednictvím smluvních podmínek s distribučními partnery, nastavení uživatelského prostředí (UX) a zobrazovaných rozhraní). |
|
13) |
Na zavádějící subjekty se vztahují povinnosti v oblasti transparentnosti uvedené v čl. 50 odst. 3 a 4 aktu o AI v případě, že jsou usazeny nebo se nacházejí v Unii, nebo v případě, že jsou usazeny nebo se nacházejí ve třetí zemi, avšak výstup systému AI se používá v Unii (6). Ve druhém z uvedených případů se povinnosti týkající se transparentnosti vztahují na subjekty usazené nebo nacházející se mimo Unii, pokud zavádějící subjekt sám předpokládá šíření a využívání výstupů AI v Unii (tj. tím, že řídí nebo schvaluje jejich distribuci v rámci Unie, včetně zveřejňování „deep fakes“ na celosvětově přístupném internetu). Zavádějící subjekty ze třetích zemí však nejsou povinnostmi v oblasti transparentnosti vázány, pokud se obsah systému AI dostává k příjemcům v Unii prostřednictvím kanálů, které jsou nepředvídatelné a mimo jejich kontrolu. |
|
14) |
Je-li subjektem, který zavádí systém AI, právnická osoba, v rámci jejíž pravomoci je systém využíván (např. reklamní agentura), jednotliví zaměstnanci, kteří jednají na základě pokynů a pod dohledem této právnické osoby (např. tvůrci digitálních animací, weboví designéři, tvůrci obsahu, novináři), by neměli být považováni za samostatné subjekty zavádějící tento systém. Právnická osoba zůstává zavádějícím subjektem i tehdy, pokud do provozu systému svým jménem a na svou odpovědnost a pod svou kontrolou zapojí třetí strany (např. dodavatele, nezávislé profesionály).
|
|
15) |
Provozovatelé (např. poskytovatelé a zavádějící subjekty) mohou ve vztahu k systému AI plnit více úloh současně. Například by se mohlo stát, že společnost vyvine vlastní generativní systém AI a bude jej využívat k vytváření „deep fakes“. V takovém případě bude tento subjekt považován jak za poskytovatele, tak za zavádějící subjekt, který musí zajistit dodržování povinností týkajících se strojově čitelného označení podle čl. 50 odst. 2 a požadavků na jasné a zřetelné označení „deep fakes“ podle čl. 50 odst. 4 aktu o AI. |
|
16) |
Naproti tomu jiné subjekty (jako jsou poskytovatelé hostingových služeb, včetně online platforem, nebo vysílací společnosti), jejichž úloha se omezuje na šíření nebo přenos obsahu vytvořeného nebo zmanipulovaného umělou inteligencí, který vytvořily třetí strany, nebo kteří přijímají obsah vytvořený nebo manipulovaný umělou inteligencí či jsou mu vystaveni, aniž by měli pravomoc nad používáním systému AI za účelem jeho tvorby nebo manipulace s ním, nejsou zavádějícími subjekty ve smyslu aktu o AI. Ačkoli těmto subjektům akt o AI neukládá povinnosti ani podle něj nenesou odpovědnost, mohou přesto hrát důležitou úlohu v hodnotovém řetězci při zachovávání důvěry v informační ekosystém a jeho integrity. Proto se jim důrazně doporučuje, aby zachovaly označování a opatřování štítky zavedené v souladu s článkem 50 aktu o AI a přijaly přiměřená a technicky proveditelná opatření, která fyzickým osobám umožní rozpoznat obsah vytvořený nebo zmanipulovaný umělou inteligencí, aniž by tím byla dotčena odpovědnost poskytovatelů a subjektů zavádějících generativní systémy AI nebo jakékoli povinnosti či odpovědnost podle nařízení (EU) 2022/2065 (nařízení o digitálních službách) (7) nebo jiných platných předpisů unijního nebo vnitrostátního práva. |
|
17) |
Ostatní subjekty, které jednají v rámci své profesní činnosti a šíří obsah (i když se na ně článek 50 aktu o AI přímo nevztahuje), se rovněž vybízejí k přijetí přiměřených a vhodných opatření, aby fyzické osoby, které jsou tomuto obsahu nakonec vystaveny, byly účinně informovány a byly schopny rozpoznat jeho uměle vytvořený nebo zmanipulovaný původ. Kromě toho může být od těchto subjektů vyžadováno, aby příslušné „deep fakes“ nebo textové publikace týkající se záležitostí veřejného zájmu označily v souladu s dalšími platnými právními nebo etickými pravidly (např. pokud televizní stanice v rámci televizního pořadu označí a odvysílá „deep fake“ vytvořený soukromou osobou). Samotná skutečnost, že subjekt označuje obsah nebo využívá označený obsah, však neznamená, že tento subjekt lze považovat za „zavádějící subjekt“ ve smyslu aktu o AI. Akt o AI nerozšiřuje ani neovlivňuje právní odpovědnost těchto subjektů podle platných právních rámců, pokud nesplňují zároveň podmínky pro to, aby byly považovány za poskytovatele nebo subjekty zavádějící systémy AI. |
2.4 Výjimky z oblasti působnosti aktu o AI
|
18) |
Článek 2 aktu o AI stanoví řadu obecných výjimek z působnosti aktu o AI, které již byly objasněny v pokynech Komise k zakázaným postupům v oblasti umělé inteligence (8). V této části se proto budeme zabývat pouze těmi aspekty, které souvisejí s povinnostmi v oblasti transparentnosti stanovenými v článku 50 aktu o AI. |
2.4.1 Zavádějící subjekty jednající v rámci čistě osobní neprofesionální činnosti
|
19) |
Ustanovení čl. 2 odst. 10 aktu o AI stanoví, že akt o AI „se nevztahuje na povinnosti zavádějících subjektů, které jsou fyzickými osobami a používají systémy AI v rámci čistě osobní neprofesionální činnosti (9). Za „profesionální“ činnost by měla být považována jakákoli činnost, jejímž prostřednictvím fyzické osoby pravidelně získávají hospodářský prospěch nebo se jinak účastní profesní, podnikatelské, obchodní, pracovní či samostatně výdělečné činnosti. Přívlastek „čistě osobní“ blíže vymezuje pojem „neprofesionální“; aby se na osobu vztahovala tato výjimka, musí jednat zároveň v osobním a neprofesionálním postavení. Jakékoli použití systému fyzickými osobami, které jednají jménem zavádějícího subjektu vykonávajícího profesní činnost nebo v rámci pravomoci takového subjektu, spadá do rozsahu povinností tohoto zavádějícího subjektu v oblasti transparentnosti stanovených v čl. 50 odst. 3 a 4 aktu o AI.
|
|
20) |
Výjimka podle čl. 2 odst. 10 aktu o AI se vztahuje pouze na povinnosti zavádějících subjektů při používání systému pro čistě osobní neprofesionální činnosti. Systém jako takový nadále zůstává v působnosti aktu o AI, pokud jde o povinnosti poskytovatelů, kteří systém uvádějí na trh nebo do provozu, a zavádějících subjektů, které systém využívají pro profesionální použití. Touto výjimkou není rovněž dotčeno uplatňování jiného příslušného práva Unie a vnitrostátního práva.
|
2.4.2 Výzkum a vývoj
|
21) |
Ustanovení čl. 2 odst. 6 aktu o AI stanoví výjimku pro systémy nebo modely AI, včetně jejich výstupů, které byly speciálně vyvinuty a uvedeny do provozu výhradně za účelem vědeckého výzkumu a vývoje. Tímto vyloučením nejsou dotčeny platné etické normy pro výzkum, právní předpisy EU o ochraně údajů ani další právní předpisy. V kontextu článku 50 aktu o AI se toto vyloučení vztahuje nejen na interaktivní systémy AI, ale také na výstupy generativních systémů AI (včetně obsahu typu „deep fake“) používané v rámci vědeckého výzkumu. Pokud jsou však tyto systémy uvedeny do provozu nebo jsou jejich výstupy využívány k jiným účelům než výhradně k účelům vědeckého výzkumu a vývoje, je i nadále nutné dodržovat příslušné povinnosti týkající se transparentnosti stanovené v článku 50 aktu o AI.
|
|
22) |
Ustanovení čl. 2 odst. 8 aktu o AI dále vylučuje z oblasti působnosti aktu o AI činnosti výzkumu, testování či vývoje v oblasti systémů AI nebo modelů AI před jejich uvedením na trh nebo do provozu. Na testování v reálných podmínkách (v rámci regulačních sandboxů pro AI i mimo ně) se tato výjimka nevztahuje. Kromě toho by systém AI, jakmile je v důsledku těchto výzkumných a testovacích činností uveden na trh nebo do provozu, měl i tak splňovat příslušné povinnosti týkající se transparentnosti podle článku 50 aktu o AI (10). |
2.4.3 Systémy AI zpřístupněné na základě svobodných licencí a licencí s otevřeným zdrojovým kódem
|
23) |
Podle čl. 2 odst. 12 aktu o AI nespadají do působnosti aktu o AI systémy AI zpřístupněné na základě svobodných licencí a licencí s otevřeným zdrojovým kódem, pokud se na ně nevztahují zákazy uvedené v článku 5 aktu o AI ani povinnosti v oblasti transparentnosti uvedené v článku 50 aktu o AI a pokud nejsou klasifikovány jako vysoce rizikové (11). To znamená, že poskytovatelé systémů AI s otevřeným zdrojovým kódem spadajících do působnosti článku 50 aktu o AI a subjekty, které tyto systémy zavádějí, stále musí zajistit dodržování svých příslušných povinností v oblasti transparentnosti. |
|
24) |
Naopak poskytovatelé svobodných komponent AI s otevřeným zdrojovým kódem, které zahrnují software, data, modely, nástroje, služby nebo procesy pro přizpůsobení a integraci do systému AI a které samy o sobě (částečně ani zcela) nepředstavují systém AI, nepodléhají povinnostem v oblasti transparentnosti stanoveným v článku 50 aktu o AI. Poskytovatelům těchto systémů se nicméně doporučuje, aby tyto modely, komponenty a služby navrhovali způsobem popsaným v bodě 27 níže, pokud je to přiměřené a proveditelné. |
2.5 Vzájemné působení se zakázanými postupy, požadavky na vysoce rizikové systémy AI a gramotností v oblasti AI
|
25) |
Ve 137. bodě odůvodnění aktu o AI se upřesňuje, že z dodržení povinností týkajících se transparentnosti podle článku 50 aktu o AI u konkrétního systému AI nelze dovozovat, že používání daného systému AI nebo jeho výstupu je podle aktu o AI zákonné. Zejména systémy AI, na které se vztahují povinnosti podle článku 50 aktu o AI, mohou spadat pod článek 5 téhož aktu, a tudíž může být jejich používání zakázáno (např. použití systémů rozpoznávání emocí na pracovišti nebo ve vzdělávacích institucích) (12). Kromě toho mohou být systémy AI spadající do působnosti článku 50 aktu o AI rovněž klasifikovány jako vysoce rizikové (13) a podléhat příslušným požadavkům a povinnostem kladeným na tyto systémy. Dodržování článku 50 aktu o AI proto nenahrazuje, neomezuje ani neovlivňuje povinnosti vyplývající z jiných ustanovení aktu o AI (14). Zároveň se může stát, že systémy AI spadají do působnosti článku 50 aktu o AI, aniž by byly podle článku 6 aktu o AI klasifikovány jako vysoce rizikové. Na poskytovatele systémů AI a na subjekty, které tyto systémy zavádějí, v působnosti článku 50 aktu o AI se vztahují také požadavky na gramotnost podle článku 4 aktu o AI. |
2.6 Vzájemné působení s pravidly platnými pro obecné modely a/nebo obecné systémy AI
|
26) |
Článek 50 aktu o AI se vztahuje na určité systémy AI, mezi něž patří obecné systémy AI (15), jako jsou chatboty podporující přímou interakci s fyzickými osobami nebo systémy AI schopné vytvářet syntetický obsah nebo s ním manipulovat (včetně „deep fakes“) (16). |
|
27) |
Na obecné modely AI se článek 50 aktu o AI výslovně nevztahuje. Pokud je však interaktivní nebo generativní systém AI, který spadá do působnosti čl. 50 odst. 1 nebo 2 aktu o AI, založen na obecném modelu AI poskytnutém týmž poskytovatelem, mohla by být opatření týkající se transparentnosti stanovená v těchto pokynech zavedena také na úrovni modelu (viz také oddíl 4 níže). Kromě toho se poskytovatelům jiných obecných modelů AI a jiných generativních modelů AI, přestože nespadají do působnosti článku 50 aktu o AI, rovněž doporučuje, aby na úrovni modelu zavedli vhodná opatření v oblasti transparentnosti za účelem identifikace interaktivních systémů AI a označování obsahu vytvořeného nebo zmanipulovaného umělou inteligencí. To je obzvláště přínosné, neboť to navazujícím poskytovatelům systémů AI usnadňuje plnění jejich povinností podle čl. 50 odst. 1 a 2 aktu o AI (17) a přispívá k zachování důvěry v informační ekosystém a jeho integrity. U obecných modelů AI představujících systémové riziko mohou bezpečnostní opatření na úrovni modelu zaměřená na identifikaci interakcí s AI a označování obsahu vytvořeného nebo zmanipulovaného umělou inteligencí v příslušných případech tvořit součást širšího souboru zmírňujících opatření, která mohou poskytovatelé přijmout v rámci své povinnosti zmírňovat systémová rizika podle čl. 55 odst. 1 písm. b) aktu o AI. |
3. USTANOVENÍ ČL. 50 BODU 1 AKTU O AI: TRANSPARENTNOST INTERAKTIVNÍCH SYSTÉMŮ AI
|
28) |
Ustanovení čl. 50 odst. 1 aktu o AI se vztahuje na poskytovatele systémů AI, které přímo interagují s fyzickými osobami; tito poskytovatelé musí své systémy navrhovat a vyvíjet tak, aby dotčené fyzické osoby byly informovány o tom, že interagují se systémem AI. Jak je vysvětleno ve 132. bodě odůvodnění aktu o AI, účelem této informační povinnosti je umožnit těmto fyzickým osobám činit informovaná rozhodnutí ohledně výstupů systému, předejít přílišné závislosti na těchto systémech a umožnit těmto fyzickým osobám správně kalibrovat svou důvěru v obsah a interakce. |
3.1 Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti
|
29) |
Povinnost transparentnosti podle čl. 50 odst. 1 aktu o AI se vztahuje na poskytovatele systémů AI, pokud je systém určen k přímé interakci s fyzickými osobami a tato interakce nespadá pod žádnou z následujících výjimek: 1) je zřejmá z pohledu fyzické osoby, která je přiměřeně informovaná, pozorná a obezřetná, nebo 2) systém je ze zákona oprávněn odhalovat trestné činy, předcházet jim, vyšetřovat je nebo stíhat, s výjimkou případů, kdy je tento systém k dispozici veřejnosti za účelem hlášení trestných činů. |
3.1.1 Systémy AI určené k přímé interakci s fyzickými osobami
|
30) |
K tomu, aby systém spadal do působnosti čl. 50 odst. 1 aktu o AI, musí být splněny čtyři podmínky: i) systém musí být systémem AI, ii) určeným k interakci, iii) přímo, iv) s fyzickými osobami.
|
|
31) |
Na agenty AI se čl. 50 odst. 1 aktu o AI vztahuje, pokud jsou při plnění úkolů schopni komunikovat s osobami, které jim zadávají pokyny, nebo s jinými fyzickými osobami (např. provádění rezervací, vyřizování korespondence, vyjednávání nebo uzavírání smluv, realizace nákupů atd.). AI agenti musí být navrženi a vyvinuti tak, aby uváděli jak svou umělou povahu, tak i osobu, v jejímž jménu jednají, a to s ohledem na nutnost transparentnosti původu, delegování pravomocí a odpovědnosti za důsledky svých činů. To zahrnuje případy, kdy jsou agenti AI schopni v rámci složitých multiagentních architektur interagovat s jinými agenty AI, kteří při plnění úkolu přímo komunikují s fyzickými osobami. Nicméně nemusí být vždy možné, aby poskytovatel agenta AI předem identifikoval jednotlivé případy přímé interakce agenta s jinými fyzickými osobami, jakmile je tento agent nasazen v různých kontextech. Pokud poskytovatel nemůže před uvedením agenta AI na trh nebo do provozu spolehlivě určit, zda bude tento agent přímo interagovat s fyzickou osobou, měl by být tento agent navržen na úrovni architektury a opatřen pokyny tak, aby se jako takový identifikoval v každé situaci, kdy lze důvodně předpokládat, že by mohl interagovat s fyzickou osobou (včetně případů, kdy fyzická osoba může zastupovat právnickou osobu nebo jednat jejím jménem). Kromě toho by se agenti AI měli také identifikovat osobám, které jim vydávají pokyny, a to v klíčových fázích (např. při schvalování, podávání zpráv, validaci atd., včetně případů, kdy nasazený agent AI přijímá, zpracovává nebo využívá výstupy generované jinými systémy AI, nikoli přímo fyzickou osobou) a při každé nové interakci.
|
3.1.2 Informační povinnost podle čl. 50 odst. 1 aktu o AI
|
32) |
Článek 50 odst. 1 aktu o AI ukládá poskytovatelům systémů AI, které přímo interagují s fyzickými osobami, povinnost zajistit, aby jejich systémy AI (včetně agentů AI a obecných systémů AI) byly navrženy a vyvinuty tak, aby dotčené fyzické osoby byly informovány o tom, že interagují se systémem AI. |
|
33) |
Zatímco mechanismus informování by měl být začleněn do návrhu a vývoje systému a do způsobu, jakým systém interaguje s fyzickými osobami, k oznámení by mělo dojít během provozu systému AI, nejpozději však v době první interakce s fyzickou osobou (jak vyžaduje čl. 50 odst. 5 aktu o AI, viz oddíl 7 níže). Poskytovatelé jsou povinni zajistit, aby po uvedení systému AI na trh nebo do provozu byly fyzické osoby, které s tímto systémem interagují, účinně a soustavně informovány po celou dobu životního cyklu systému AI uvedeného na trh nebo do provozu daným poskytovatelem.2.2 |
|
34) |
Způsob informování: Ustanovení čl. 50 odst. 1 aktu o AI nestanoví žádný konkrétní způsob informování. Poskytovatelé si proto mohou zvolit jakýkoli vhodný způsob, pokud jsou splněny dvě podmínky: i) jsou splněny požadavky stanovené v čl. 50 odst. 5 aktu o AI, pokud jde o poskytnutí jasných a rozlišitelných informací nejpozději v době první interakce (viz oddíl 7 níže), a ii) jsou zohledněny vlastnosti fyzických osob náležejících ke zranitelným skupinám vzhledem k jejich věku (např. děti nebo starší lidé) nebo zdravotnímu postižení, a to v rozsahu, v jakém je systém AI určen k interakci s fyzickými osobami náležejícími k těmto skupinám nebo je taková interakce přiměřeně pravděpodobná (např. včetně případů, kdy lze důvodně předpokládat, že systém AI bude interagovat se širokou veřejností) (19). Tyto informace musí být rovněž poskytnuty v přístupném formátu pro fyzické osoby se zdravotním postižením, jak je stanoveno v čl. 50 odst. 5 a ve 132. bodě odůvodnění aktu o AI (viz oddíl 7). V případech, kdy systém může komunikovat s dětmi, musí být tato oznámení přizpůsobena dětem, odpovídat jejich věku, být srozumitelná a snadno přístupná pro všechny děti, včetně dětí se zdravotním postižením nebo s dalšími potřebami v oblasti přístupnosti. Je-li to možné a vhodné, doporučuje se poskytovatelům, aby používali standardizované postupy informování a označení, a tím zajistili účinnost a jednotnost oznámení a zvýšili informovanost uživatelů. |
|
35) |
Obsah oznámení: Ustanovení čl. 50 odst. 1 aktu o AI ukládá poskytovatelům interaktivních systémů AI povinnost tyto systémy navrhovat a vyvíjet tak, aby všechny fyzické osoby, které s těmito systémy AI komunikují, byly výslovně informovány o umělé, nikoli lidské povaze protějšku, s nímž komunikují. Pokud je pro poskytovatele rozumně předvídatelné, že systém AI může komunikovat s fyzickými osobami náležejícími k výše uvedeným zranitelným skupinám, měly by být informace odpovídajícím způsobem přizpůsobeny a poskytnuty v přístupném formátu, jak to vyžadují platné právní předpisy Unie, aby bylo rovněž zajištěno, že tyto fyzické osoby informacím plně porozumějí (20). |
|
36) |
Oznámení by měla poskytovat informace o umělém původu interakce způsobem, který je přiměřený kontextu, v němž k interakci dochází. Mělo by to být provedeno takovým způsobem, který zajistí, aby byly dotčené osoby řádně a účinně informovány, přičemž je třeba zabránit jakémukoli riziku klamání nebo manipulace před interakcí i v jejím průběhu a zároveň zajistit proveditelné a přiměřené poskytování informací. Příklady poskytnutí těchto informací mohou zahrnovat písemná oznámení (např. chatbot, který na začátku konverzace uvede, že je založen na technologii AI), vizuální prostředky (např. e-mail vygenerovaný agentem AI a zaslaný fyzické osobě, který obsahuje v horní části označení AI), zvukové prostředky (např. hlasový asistent, který na začátku relace oznámí, že využívá AI), sdělení identifikátorů AI a pověření (např. agenti AI, kteří v rámci možností ověřitelným způsobem sdělí, že jde o AI (21)). |
|
37) |
Formát oznámení: Jako osvědčený postup se doporučuje návrh systému AI využívajícího multimodální a přístupné způsoby informování. Taková oznámení mohou v případě potřeby a v závislosti na kontextu, cílových a předpokládaných skupinách příjemců a dostupných zdrojích poskytovatelů, zejména malých a středních podniků, kombinovat různé postupy s cílem zlepšit porozumění uživatelů. Příklady vhodných technik mohou zahrnovat:
|
|
38) |
Určité techniky nejsou nezbytné a při samostatném použití nepostačují k účinnému splnění povinnosti transparentnosti stanovené v čl. 50 odst. 1 a 5 aktu o AI, a to zejména:
|
|
39) |
Oznámení by měla být přiměřená a přizpůsobená různým kontextům a cílovým skupinám systému AI, aby zůstala účinná a uživatelsky přívětivá a aby se v co největší míře zabránilo narušení uživatelského zážitku či vzniku účinku habituace (tzv. bannerová slepota). |
|
40) |
Jediné výrazné oznámení před první interakcí systému AI s konkrétní fyzickou osobou bude ve většině případů pravděpodobně stačit ke splnění povinnosti stanovené v čl. 50 odst. 1 aktu o AI. V určitých rizikovějších situacích však budou pravděpodobně nezbytná pravidelná upozornění a oznámení zohledňující daný kontext, aby bylo zajištěno trvalé povědomí uživatelů. To platí zejména u systémů AI, které interagují se zranitelnými osobami (např. s dětmi, staršími lidmi, osobami se zdravotním postižením a osobami s nižší gramotností), u dlouhodobých a vyvíjejících se interakcí v citlivých nebo imerzivních prostředích (např. tam, kde mohou uživatelé projevovat nebo prožívat emoční tíseň či zranitelnost nebo u nich může hrozit vznik chování podobného závislosti), v situacích se zvýšeným rizikem uvedení uživatelů v omyl (např. při finančním poradenství, pojištění, právní pomoci, zdravotním poradenství a vyřizování stížností), v situacích, kdy hrozí vznik emočních vazeb nebo závislosti (např. u společníků využívajících AI), jakož i v případech, kdy je třeba zajistit informovanost a kontrolu nad činností agentů AI. Poskytovatelé musí rovněž navrhnout a vyvinout systém AI tak, aby bylo zajištěno poskytnutí této informace ve všech situacích, kdy jsou systému kladeny otázky týkající se jeho povahy nebo původu interakce, nebo kdy lze na základě komunikace s fyzickou osobou důvodně předpokládat, že tato osoba by mohla být uvedena v omyl nebo být zmatená ohledně toho, že interakce pochází od AI. |
3.2 Výjimky z informační povinnosti podle čl. 50 odst. 1 aktu o AI
|
41) |
Ustanovení čl. 50 odst. 1 aktu o AI stanoví dvě výjimky z informační povinnosti týkající se interaktivních systémů AI, které jsou popsány níže. |
3.2.1 Výjimka v případě zřejmé interakce se systémem AI
|
42) |
Aby mohli poskytovatelé využít první výjimku, budou muset posoudit a prokázat: i) zřejmý umělý charakter interakce pro ii) fyzickou osobu, která musí být přiměřeně informovaná, pozorná a obezřetná, s přihlédnutím k okolnostem a kontextu použití. |
|
43) |
Tato norma vychází z ustáleného práva EU v oblasti ochrany spotřebitele, pokud jde o pojem „průměrný spotřebitel“, a měla by být vykládána jednotně, přičemž je třeba zohlednit specifické a rozmanité kontexty a způsoby použití systémů AI, které přímo interagují s fyzickými osobami, jakož i cíle stanovené v čl. 50 odst. 1 aktu o AI. |
|
44) |
Definice takové „průměrné“ fyzické osoby zahrnuje dva kroky. Za prvé by poskytovatelé měli zohlednit příjemce, kterým je systém AI určen a s nimiž bude s přiměřenou pravděpodobností komunikovat. Za druhé by měl poskytovatel posoudit, do jaké míry je průměrný člen dané skupiny příjemců informovaný, pozorný a obezřetný, a to s přihlédnutím k okolnostem a kontextu použití. Při provádění tohoto posouzení je třeba zohlednit několik faktorů:
|
|
45) |
Zřejmost: Po stanovení hypotetické přiměřeně informované, pozorné a obezřetné fyzické osoby by poskytovatelé měli posoudit, zda pro takovou osobu bude zřejmé, že přímo interaguje se systémem AI. Výjimku je třeba vykládat restriktivně, protože zbavuje fyzické osoby ochrany a práva být informovány prostřednictvím jasných a rozlišitelných oznámení o tom, že interagují se systémy AI. Skutečnost, že si spotřebitelé a jiné fyzické osoby obecně uvědomují existenci systémů AI (včetně chatbotů a agentů), neznamená, že je při interakcích rozpoznají. Při posuzování, zda je interakce zřejmá, lze zohlednit několik relevantních faktorů:
|
3.2.2 Výjimka pro systémy AI, jejichž používání je zákonem povoleno pro účely vymáhání práva
|
46) |
Poskytovatelé interaktivních systémů AI jsou osvobozeni od povinnosti transparentnosti podle čl. 50 odst. 1 aktu o AI, pokud jsou ze zákona oprávněni odhalovat trestné činy, předcházet jim, vyšetřovat je nebo stíhat, s výhradou příslušných záruk týkajících se práv a svobod třetích stran. |
|
47) |
Pojem „ze zákona oprávněny“ má být chápan tak, že zahrnuje právo Unie, jakož i vnitrostátní právní předpisy členských států přijaté v souladu s právem Unie. Právní předpisy, které povolují používání systému AI, musí jasně stanovit účely a okolnosti povoleného použití a musí zajistit příslušné záruky týkající se ochrany práv a svobod třetích stran. Vzhledem k technologicky neutrálnímu přístupu aktu o AI není nutné zákonem specifikovat ani schvalovat konkrétní systémy AI, pokud je jejich použití obecně předpokládáno v rámci zákonem povolené činnosti a je v souladu s platným právním rámcem. |
|
48) |
Aby se na daný případ vztahovala tato výjimka, musí být účelem systému AI odhalovat trestné činy, předcházet jim, vyšetřovat je nebo stíhat (např. agent v utajení využívající AI, systémy AI používané pod lidským dohledem vyšetřovatelů při online vyšetřováních nebo při komunikaci s osobami, které mohou být zapojeny do trestné činnosti). Tato výjimka se neomezuje pouze na používání těchto systémů AI donucovacími orgány vymezenými v čl. 3 bodě 48 aktu o AI, ale může se vztahovat i na interaktivní (nebo generativní) systémy AI používané jinými veřejnými orgány Unie nebo členských států, pokud je jejich použití ze zákona povoleno k odhalování trestných činů, jejich prevenci, vyšetřování nebo stíhání a podléhá příslušným zárukám ochrany práv a svobod třetích stran. Tato výjimka nevyžaduje, aby byl systém AI schopen provádět vyšetřování samostatně. Pokud lze příslušný systém využívat jak pro účely vymáhání práva, tak i pro jiné běžné účely, měla by být použitelnost výjimky posuzována s ohledem na konkrétní způsob jeho nasazení. Povinnosti týkající se transparentnosti platí i nadále v případech, kdy je tentýž systém AI nasazen k jiným účelům než k zákonem povolenému odhalování, prevenci, vyšetřování nebo stíhání trestných činů. Fyzickým osobám je třeba i nadále zajistit transparentnost, když se systémem komunikují v rámci jeho běžných účelů. |
|
49) |
Tato výjimka se neuplatní, pokud i) je systém umělé inteligence přístupný veřejnosti a ii) tento systém nabízí jednotlivcům funkci oznamovat trestné činy. Tyto systémy lze používat, podléhají však i nadále povinnosti transparentnosti podle čl. 50 odst. 1 aktu o AI, a fyzické osoby proto musí být informovány o tom, že s takovými systémy komunikují.
Pro větší jasnost se tato výjimka týká výhradně povinnosti podle čl. 50 odst. 1 informovat fyzické osoby o tom, že komunikují se systémem AI (22). Není tím dotčeno použitelné právo Unie a vnitrostátní právo, včetně procesních pravidel týkajících se dokumentace, zveřejňování, přípustnosti a posuzování důkazů.
|
3.3 Vzájemné působení s jinými právními akty Unie
|
50) |
Povinnost transparentnosti podle čl. 50 odst. 1 aktu o AI se uplatní, aniž jsou dotčeny stávající právní předpisy Unie v oblasti ochrany spotřebitele, ochrany údajů, digitální oblasti nebo nediskriminace, jež mohou vyžadovat zveřejnění dalších informací, které se netýkají umělého původu interakce. Konkrétně podle směrnice 2005/29/ES (směrnice o nekalých obchodních praktikách) (23) jsou zakázána klamavá jednání nebo klamavá opomenutí, pokud jde o hlavní vlastnosti výrobku nebo služby. Směrnice 2011/83/ES (dále jen „směrnice o právech spotřebitelů“) (24) navíc ukládá obchodníkům povinnost poskytovat jasné a srozumitelné předsmluvní informace o hlavních vlastnostech zboží nebo služeb. Pokud je služba založena na AI (například chatbot poskytovaný na základě předplatného, aplikace společníka s AI nebo služba virtuálního koučování), může být funkce AI považována za podstatnou vlastnost, o které musí být spotřebitel informován předtím, než bude vázán smlouvou. Informační povinnosti vyplývající z práva Unie v oblasti ochrany spotřebitele platí bez ohledu na to, zda je interakce považována za „zřejmou“ ve smyslu čl. 50 odst. 1 aktu o AI. Tyto povinnosti rovněž doplňují obecné informační povinnosti v oblasti ochrany spotřebitele, zatímco oznamovací povinnost podle aktu o AI je spíše kontextová a jejím cílem je zajistit, aby si všechny fyzické osoby byly vědomy přímé interakce se systémem AI, a to nejpozději před jejím zahájením a po celou dobu trvání interakce. |
|
51) |
Nařízení o digitálních službách rovněž obsahuje požadavky na transparentnost doporučovacích systémů online platforem, včetně povinnosti vysvětlit hlavní parametry řazení výsledků. Tyto povinnosti doplňují povinnosti týkající se transparentnosti stanovené v čl. 50 odst. 1 aktu o AI, neboť mají odlišnou oblast působnosti a jiný účel a týkají se systémů, které v zásadě neinteragují přímo s uživateli ve smyslu čl. 50 odst. 1 aktu o AI. |
|
52) |
Pokud jde o informační povinnosti vůči subjektům údajů podle práva Unie v oblasti ochrany údajů, povinnost stanovená v čl. 50 odst. 1 aktu o AI sleduje jiný cíl než tyto povinnosti, a proto na ně nemá žádný vliv. |
|
53) |
Stejně tak se povinnost transparentnosti podle čl. 50 odst. 1 aktu o AI uplatní, aniž je tím dotčena právní úprava Unie a vnitrostátní právní úprava týkající se poskytování informací osobám v rámci trestního řízení (např. směrnice 2012/13/EU nebo směrnice 2012/29/EU, ve znění směrnice (EU) 2026/1472) (25). |
4. USTANOVENÍ ČL. 50 BODU 2 AKTU O AI: OZNAČOVÁNÍ A ZJIŠŤOVÁNÍ OBSAHU VYTVOŘENÉHO NEBO MANIPULOVANÉHO UMĚLOU INTELIGENCÍ
|
54) |
Ustanovení čl. 50 odst. 2 aktu o AI ukládá poskytovatelům systémů AI, které vytvářejí syntetický obsah, povinnost zavést technická řešení splňující určité kvalitativní požadavky na strojově čitelné označování a zjišťování výstupů jejich systémů AI. Cílem je umožnit fyzickým osobám odlišit obsah vytvořený nebo manipulovaný umělou inteligencí od jiného obsahu (například obsahu vytvořeného lidmi) a ověřit jeho původ, což zároveň přispívá ke zvýšení integrity informačního ekosystému a důvěry v něj. |
|
55) |
Subjekty, které mají z této povinnosti transparentnosti prospěch, jsou proto všechny fyzické osoby, které budou pravděpodobně vystaveny obsahu vytvořenému nebo manipulovanému umělou inteligencí, jakož i klíčoví aktéři, kteří hrají významnou roli pro důvěru a integritu informačního ekosystému, například příslušné orgány dozoru nad trhem a jiné příslušné orgány, nezávislí výzkumníci, organizace občanské společnosti, média, důvěryhodní oznamovatelé, ochránci základních práv, poskytovatelé online platforem a online vyhledávačů, nositelé práv a další tvůrci a distributoři obsahu atd. |
4.1 Hlavní prvky a pojmy čl. 50 odst. 2 aktu o AI
|
56) |
Ustanovení čl. 50 odst. 2 aktu o AI se uplatní, pokud je splněno několik kumulativních podmínek:
|
4.1.1 Systémy AI vytvářející syntetický obsah nebo s ním manipulující
|
57) |
Ustanovení čl. 50 odst. 2 aktu o AI se vztahuje na systémy AI (26), včetně obecných systémů AI, které vytvářejí syntetický zvukový, obrazový, video nebo textový obsah. Ustanovení čl. 50 odst. 2 aktu o AI se vztahuje na podskupinu systémů, které splňují definici systému AI uvedenou v čl. 3 bodě 1 aktu o AI a které vytvářejí takové výstupy. Ustanovení čl. 50 odst. 2 aktu o AI se vztahuje také na systémy AI používané k manipulaci s obsahem. |
|
58) |
Vytvářením obsahu se rozumí vytváření syntetického materiálu systémem AI (např. na základě zadání od člověka), jako je například generování syntetického obrázku nebo písně. V praxi to znamená, že čl. 50 odst. 2 aktu o AI se může vztahovat na generativní systémy AI, které jsou navrženy s úzce vymezeným účelem vytvářet konkrétní výstupy. Zároveň se čl. 50 odst. 2 aktu o AI vztahuje také na systémy AI, které mohou sloužit k více účelům, včetně obecných systémů AI, a mohou vytvářet různé druhy obsahu, jakož i na agentní systémy AI, pokud generují syntetický zvukový, obrazový, video nebo textový obsah. |
|
59) |
Naopak, pojem „manipulace s obsahem“ se vztahuje na již existující obsah (ať už syntetický, či nikoli), který je systémem AI změněn (např. existující obrázek nebo hlasová nahrávka, s nimiž systém umělé inteligence manipuluje podle pokynů člověka). Aby se na obsah vztahoval čl. 50 odst. 2 aktu o AI, stačí, aby byl vytvořen nebo s ním bylo manipulováno umělou inteligencí nad rámec standardních úprav ve smyslu výjimek stanovených v čl. 50 odst. 2 aktu o AI (viz oddíl 4.3). Kromě toho čl. 50 odst. 2 aktu o AI nevyžaduje, aby byl obsah výhradně vytvořen nebo manipulován umělou inteligencí. Obsah, který je smíšený s materiálem vytvořeným člověkem, se rovněž považuje za syntetický obsah, pokud s ním bylo manipulováno nebo byl vytvořen některým ze způsobů uvedených v čl. 50 odst. 2 aktu o AI. |
4.1.2 Modality syntetického obsahu spadající do působnosti čl. 50 odst. 2 aktu o AI
|
60) |
Ustanovení čl. 50 odst. 2 aktu o AI obsahuje vyčerpávající výčet modalit syntetického obsahu, na které se vztahuje povinnost týkající se transparentnosti: zvuk, obrázek, video nebo text. To zahrnuje také multimodální obsah, tedy obsah, který se skládá z kombinace těchto modalit. Pro účely čl. 50 odst. 2 aktu o AI je třeba jednotlivé modality vykládat v souladu s praktickým a technologickým vývojem, k němuž může v průběhu času docházet. V současné době by měly být chápány takto:
|
|
61) |
Systémy AI, které vytvářejí 3D obrázky, 3D videa a 3D zvuk, jakož i virtuální, rozšířenou nebo smíšenou realitu, nebo s nimi manipulují, spadají do působnosti čl. 50 odst. 2 aktu o AI. „Virtuální realita“ označuje technologie AI, které uživatelům umožňují vstoupit do počítačem vytvořeného prostředí simulující fyzickou přítomnost a interagovat s ním v reálném čase. Jelikož virtuální a rozšířená realita sestává z časově uspořádané posloupnosti snímků, případně synchronizovaných se zvukem, která znázorňuje vizuální změny v průběhu času, lze ji považovat za „video“ obsah. Relevantním „výstupem“, který má být označen, je konečná podoba jednotlivého aktiva generovaného umělou inteligencí, s výjimkou zvláštních případů krátkodobých interaktivních relací v reálném čase uvedených v bodě 88 níže. Digitální artefakty používané k vytváření 3D obrazů, 3D videí a 3D zvukového obsahu, jako jsou například mračno bodů nebo 3D síť, nemusí být označeny. |
|
62) |
Do působnosti čl. 50 odst. 2 aktu o AI spadají také digitální dvojčata, která představují virtuální repliku osob, fyzických objektů nebo systémů a integrují různé typy dat, pokud jsou vytvořena nebo je s nimi manipulováno umělou inteligencí a mají podobu zvuku, obrazu, videa nebo textu, ledaže by spadala do výjimek a splňovala podmínky pro „průmyslové aplikace“ nebo „mezipodnikové aplikace“ podle bodu 87 níže nebo pro dočasný obsah v reálném čase podle bodu 88 níže. |
|
63) |
Ustanovení čl. 50 odst. 2 aktu o AI se může vztahovat i na agenty AI, pokud agent AI provede úkon, jehož výstupem je obsah vytvořený nebo zmanipulovaný umělou inteligencí, který mohou vnímat fyzické osoby ve formě zvuku, obrazu, videa nebo textu. Tyto výstupy proto musí být označeny a zjistitelné, jak je popsáno níže. Naproti tomu jakýkoli úkon agenta AI, který nezahrnuje obsah vytvořený nebo zmanipulovaný umělou inteligencí (např. mezikroky zpracování, jako je uvažování a řetězení myšlenkových kroků), nebo úkon generovaný umělou inteligencí, který není určen k tomu, aby byl přímo vnímán fyzickými osobami (např. webový požadavek nebo akce prohlížeče), se nepovažuje za syntetický obsah ve smyslu čl. 50 odst. 2 aktu o AI a nemusí splňovat povinnosti týkající se označování a zjišťování. |
4.1.3 Obsah, který nespadá do působnosti čl. 50 odst. 2 aktu o AI
|
64) |
Obsah vytvořený systémem AI na základě jednoduchého zpracování dat, který nebyl výslovně vytvořen ani zmanipulován umělou inteligencí, například renderovaný snímek, nespadá do působnosti čl. 50 odst. 2 aktu o AI. |
|
65) |
Do působnosti čl. 50 odst. 2 aktu o AI rovněž nespadá výstup systému AI, který pouze reprodukuje stávající obsah nebo umožňuje prezentaci či uspořádání již existujícího obsahu. Může se jednat např. o seznamy hudby k přehrání nebo jiné doporučovací systémy, které pouze vybírají či řadí stávající obsah na základě preferencí nebo aktivity uživatelů, aniž by vytvářely cokoli nového nebo manipulovaly se samotným obsahem. Totéž platí pro systémy AI používané v interních analytických procesech, které data získávají a strukturují, ale neprovádějí jejich shrnutí. |
|
66) |
Patří sem rovněž vstupy a výstupy systému AI, které představují pouhá pozorování a záznamy dat z fyzického či virtuálního prostředí, která nejsou vytvořena ani zmanipulována umělou inteligencí (např. roboty či jinými senzory vybavenými AI), nebo přenosy dat prováděné systémy AI bez jakékoli změny. To zahrnuje celou řadu vstupů a výstupů systémů AI, zejména v průmyslovém prostředí, jako jsou například výrobní data pro roboty, které tato data sledují; spotřeba zaznamenaná inteligentními elektroměry založenými na AI, měření frekvence a napětí v síti a zaznamenávání údajů o poloze z GPS ve vozidlech atd. |
|
67) |
Vzhledem k tomu, že cílem povinnosti transparentnosti podle čl. 50 odst. 2 aktu o AI je umožnit lidem odlišit obsah vytvořený nebo zmanipulovaný umělou inteligencí, a tím řešit rizika klamání a manipulace a zajistit integritu informačního ekosystému a důvěru v něj, nevztahuje se toto ustanovení na žádný obsah, který s tímto cílem nesouvisí a který není vnímatelný ani není určen k tomu, aby jej fyzické osoby interpretovaly, ověřovaly nebo na jeho základě jednaly. |
|
68) |
Za obsah, který nespadá do působnosti čl. 50 odst. 2 aktu o AI, by měly být považovány zejména následující druhy obsahu:
|
4.2 Povinnost označování a zjišťování podle čl. 50 odst. 2 aktu o AI
|
69) |
Ustanovení čl. 50 odst. 2 aktu o AI stanoví poskytovatelům generativních systémů AI spadajících do působnosti tohoto ustanovení povinnost transparentnosti, která zahrnuje dva odlišné, avšak vzájemně úzce provázané prvky. Za prvé musí poskytovatelé zajistit, aby výstupy systému AI byly označeny ve strojově čitelném formátu. Za druhé musí poskytovatelé zajistit, aby výstupy byly zjistitelné jako uměle vytvořený nebo manipulovaný obsah. U každého použitého řešení pro označování by poskytovatelé měli zajistit, aby byly k dispozici odpovídající prostředky pro zjišťování (jak je uvedeno níže), které umožní fyzickým osobám vystaveným tomuto obsahu a dalším příslušným subjektům identifikovat obsah uměle vytvořený systémem AI a odlišit ho od jiného obsahu. Technickým řešením se rozumí kombinace technik označování a prostředků pro zjišťování, které poskytovatel zavedl za účelem splnění povinnosti transparentnosti podle čl. 50 odst. 2 aktu o AI. |
|
70) |
K účinnému naplnění cílů povinností v oblasti transparentnosti podle čl. 50 odst. 2 aktu o AI musí být splněny oba výše uvedené prvky. Splnění pouze jednoho z těchto prvků (např. strojově čitelné označení výstupů, aniž by byly k dispozici prostředky pro jejich zjištění) ke splnění tohoto ustanovení nepostačuje (27). |
4.2.1 Povinnost označování
|
71) |
Rozsah povinnosti označování je omezen na zavedení značek ve strojově čitelném formátu. Strojově čitelný formát znamená, že značky jsou strukturovány tak, aby je softwarové aplikace mohly snadno identifikovat, rozpoznat a extrahovat bez zásahu člověka. Vnímatelné značky a štítky nejsou vyloučeny jako doplňkové opatření, je-li to vhodné, s cílem usnadnit zavádějícím subjektům splnění jejich povinnosti označovat „deep fakes“ v souladu s čl. 50 odst. 4 aktu o AI. |
|
72) |
K plnění povinnosti označování mohou poskytovatelé využít jednu techniku označování nebo kombinaci technik, pokud jejich celkové technické řešení je strojově čitelné a splňuje požadavky na účinnost, interoperabilitu, robustnost a spolehlivost v právem požadovaném rozsahu, jak stanoví čl. 50 odst. 2 druhá věta aktu o AI (viz oddíl 4.2.3 níže). |
|
73) |
Ustanovení 133. bodu odůvodnění aktu o AI uvádí příklady takových technik, mezi něž patří vodoznaky, identifikace metadat, kryptografické metody prokazování původu a pravosti obsahu, metody vedení protokolů, otisky prstů nebo jiné techniky a kombinace těchto technik. Ve 133. bodě odůvodnění aktu o AI jsou zmíněny metody prokazování původu a pravosti, avšak poskytovatelé nejsou povinni zaznamenávat ani uchovávat úplný řetězec původu obsahující informace o vzniku obsahu a jeho změnách ani jakékoli jiné relevantní tvrzení týkající se historie obsahu. Takové metody ověřování původu však mohou být rovněž využity pro plnění čl. 50 odst. 2 aktu o AI a mohou přispět k tomu, aby fyzické osoby mohly odlišit obsah vytvořený nebo manipulovaný umělou inteligencí od autentického obsahu. |
|
74) |
Poskytovatelé mohou řešení pro označování výstupů zavést v různých fázích hodnotového řetězce (např. dodatečně po vytvoření obsahu na úrovni systému AI, na úrovni podkladového modelu AI nebo přímo v procesu odvozování systému AI). Mohou se spolehnout na řešení označování zavedené poskytovatelem modelů na předchozí úrovni nebo třetí stranou, která toto řešení poskytuje (např. jako otevřený standard nebo specializovanou službu), a to v rozsahu, v jakém je dané řešení pro označování v souladu s čl. 50 odst. 2 aktu o AI. Takovým spoléháním není dotčena odpovědnost poskytovatele systému AI za prokázání souladu s čl. 50 odst. 2 aktu o AI. |
4.2.2 Povinnost zjišťování
|
75) |
Poskytovatelé systémů AI spadajících do působnosti čl. 50 odst. 2 aktu o AI musí zajistit, aby výstupy jejich systémů byly zjistitelné jako obsah vytvořený nebo manipulovaný umělou inteligencí. To znamená, že poskytovatel je povinen zajistit, aby prostředky pro zjišťování byly dostupné osobám, které mohou být tomuto obsahu potenciálně vystaveny. Dále by podle čl. 50 odst. 5 aktu o AI měla být tato řešení pro zjišťování schopna poskytovat výsledky srozumitelné pro člověka, které uvádějí, zda byl obsah vytvořen nebo manipulován umělou inteligencí. |
|
76) |
Detekční nástroj je mechanismus, který zjišťuje, zda byl obsah vytvořen nebo zmanipulován umělou inteligencí, obvykle na základě identifikace technických znaků nebo signatur, které ověřují jeho původ. Aby byla zajištěna plná interoperabilita, musí poskytovatelé využívat veřejně dostupná detekční řešení založená na průmyslových normách, která umožňují jakékoli třetí straně zavést zjišťování, jež je v ideálním případě spustitelné lokálně na digitálním zařízení a umožňuje bezproblémovou integraci do samostatných, izolovaných sítí. Pokud takové normy nejsou k dispozici, zejména v počáteční fázi provádění čl. 50 odst. 2 aktu o AI u technologií vodoznaků, může poskytovatel využít vlastní detekční řešení nebo řešení třetí strany či sdílené detekční řešení, pokud tato řešení zajišťují interoperabilitu s detekčními řešeními používanými jinými poskytovateli (viz oddíl 4.2.3). Tato možnost by měla být časově omezená, dokud nevzniknou harmonizované normy a standardizované, na poskytovateli nezávislé a interoperabilní detekční řešení, které je bezpečné, chrání soukromí a je lokálně spustitelné. |
|
77) |
Ustanovení čl. 50 odst. 5 aktu o AI dále stanoví, že informace uvedené v čl. 50 odst. 2 aktu o AI by měly být fyzickým osobám, které jsou vystaveny danému obsahu, poskytnuty jasným a rozlišitelným způsobem nejpozději v době první interakce nebo expozice. Tyto informace jsou především výsledkem zjišťování, které určuje, zda je obsah vytvořen nebo manipulován umělou inteligencí, a nikoli samotný obsah vytvořený či zmanipulovaný umělou inteligencí. „V době první expozice“ je třeba chápat jako okamžik, kdy jsou fyzické osoby ochotny ověřit původ konkrétního obsahu a využít detekční řešení k získání výsledků zjišťování. |
|
78) |
Pokud je poskytovatel systému AI při poskytování detekčního řešení nebo přístupu k takovému řešení závislý na jiném subjektu, musí zajistit, aby dané detekční řešení bylo v souladu s čl. 50 odst. 2 a 5 aktu o AI a aby tyto subjekty zobrazovaly výsledky zjišťování v souladu s čl. 50 odst. 5 aktu o AI (viz oddíl 7). |
4.2.3 Dodržování požadavků na technická řešení: účinná, interoperabilní, robustní a spolehlivá
|
79) |
Ustanovení čl. 50 odst. 2 druhé věty aktu o AI stanoví, že technická řešení pro označování a zjišťování musí být účinná, interoperabilní, robustní a spolehlivá. Tyto požadavky by měly být chápány takto:
|
|
80) |
Poskytovatelé musí zajistit, aby kombinace technických řešení pro označování a zjišťování komplexně splňovala všechny výše uvedené požadavky v zákonem stanovené míře, s přihlédnutím k omezením a vzájemné doplňkovosti různých zavedených řešení. Technická řešení musí splňovat všechny požadavky, pokud je to technicky proveditelné, s přihlédnutím ke zvláštnostem a omezením různých druhů obsahu, nákladům na provádění a obecně uznávanému nejmodernějšímu stavu technologií, tak jak mohou být zachyceny v příslušných technických normách. |
|
81) |
„Technicky proveditelná“ řešení ve smyslu čl. 50 odst. 2 aktu o AI jsou řešení, která lze realizovat pro modality spadající do působnosti tohoto ustanovení, s využitím v současnosti dostupných technických prostředků, metod a inženýrských postupů v rámci konkrétní technické architektury a příslušného operačního prostředí. Poskytovatel není povinen použít technické řešení, které dosud nebylo vyvinuto nebo není dostupné na trhu, případně jehož zavedení je technicky neproveditelné. Technická proveditelnost je objektivní pojem, který nezávisí na konkrétních zdrojích a schopnostech jednotlivých poskytovatelů. |
|
82) |
Ustanovení čl. 50 odst. 2 aktu o AI ukládá poskytovatelům povinnost zavést technicky proveditelná řešení, která odpovídají obecně uznávanému nejmodernějšímu stavu technologií, aby byly splněny čtyři kvalitativní požadavky, tj. účinnost, robustnost, spolehlivost a interoperabilita. |
|
83) |
„Nejmodernější stav technologií“ je třeba chápat jako vyspělou úroveň technických možností v dané době, pokud jde o výrobky, procesy a služby, vycházející z příslušných konsolidovaných poznatků vědy, techniky a zkušeností a uznávanou jako osvědčená technická praxe (28). Nejmodernější stav technologie nemusí nutně znamenat nejnovější vědecký výzkum, který se ještě nachází v experimentální fázi nebo nedosahuje dostatečné technologické vyspělosti. Poskytovatelé musí svá řešení pro označování a zjišťování průběžně, včas a přiměřeně přizpůsobovat technickému vývoji a nejmodernějšímu stavu technologie. |
|
84) |
S ohledem na čl. 50 odst. 7 aktu o AI se poskytovatelé mohou za účelem prokázání splnění povinností označování a zjišťování podle čl. 50 odst. 2 a 5 aktu o AI opírat o kodex správné praxe, který odpovídá nejmodernějšímu stavu technologií. Další informace o účincích dodržování takového kodexu a o dohledu nad jinými poskytovateli, kteří se kodexem neřídí, naleznete v oddíle 8.1 níže. |
|
85) |
Lze rovněž vzít v úvahu náklady na zavedení určitých technických řešení pro označování a zjišťování. V určitých případech, jak je popsáno v následujících bodech, mohou být náklady neúměrné nepatrným přínosům, které mají spíše omezenou hodnotu z hlediska umožnění lidem rozlišit obsah vytvořený nebo manipulovaný umělou inteligencí a z hlediska zajištění integrity informačního ekosystému a důvěry v něj. |
|
86) |
Mohou tedy existovat úzce vymezené případy, kdy je technické řešení založené na méně robustním označování metadat dostatečné pro účely splnění požadavků čl. 50 odst. 2 aktu o AI, a to s přihlédnutím ke zvláštnostem výstupů systému AI, pokud tyto výstupy ze své podstaty představují nižší riziko klamání, manipulace nebo negativních dopadů na informační ekosystém. To platí zejména v případě, kdy je generativní systém AI začleněn do fyzických výrobků a generuje výstupy v technicky kontrolovaném a uzavřeném prostředí, které má převážně instruktivní charakter (např. systém AI začleněný do navigačních systémů ve vozidlech), a to v rozsahu, v jakém jsou do výrobku zabudována účinná technická opatření, která zabraňují tomu, aby výstup opustil prostředí výrobku, například tím, že by byl zachycen nebo exportován a šířen navenek. |
|
87) |
Mohou se vyskytnout také ojedinělé případy „průmyslových aplikací AI“ nebo „aplikací ve vztazích mezi podniky“ (s výjimkou systémů AI určených veřejnosti a spotřebitelům), u nichž zásada přiměřenosti a omezený přínos pro cíle v oblasti transparentnosti znamenají, že není nutné označovat ani zjišťovat výstupy vytvořené nebo zmanipulované umělou inteligencí. To platí pouze v případě, že jsou splněny všechny následující podmínky:
|
|
88) |
Vytváření obsahu v reálném čase, který je dočasný a je okamžitě spotřebován, aniž by byl zaznamenán, uložen nebo dále šířen (např. ve videohrách, aplikacích virtuální reality), může být rovněž vyňato z působnosti čl. 50 odst. 2 aktu o AI, pokud označení není technicky proveditelné a osoby vystavené tomuto obsahu jsou informovány o tom, že se jedná o obsah vytvořený nebo manipulovaný umělou inteligencí (např. informování přímo v daném prostředí, oznámení na úrovni relace). |
4.3 Výjimky z povinností podle čl. 50 odst. 2 aktu o AI
|
89) |
Ustanovení čl. 50 odst. 2 aktu o AI stanoví tři výslovné výjimky z povinností týkajících se transparentnosti stanovených v tomto ustanovení. |
|
90) |
První výjimka se týká systémů AI v rozsahu, v jakém plní asistenční funkci pro standardní editaci. Standardní editace by měla být chápána jako proces přípravy stávajícího obsahu k publikaci nebo distribuci (např. drobné úpravy za účelem zlepšení čtivosti a gramatiky, kvality a formátu), přičemž se nejedná o tvorbu nového obsahu. Cílem standardní editace je zajistit, aby obsah mimo jiné neobsahoval zjevné technické či gramatické jazykové chyby, aby odpovídal platným požadavkům na rozvržení, prezentaci, formátování či přístupnost a aby byl v souladu s oborovými zvyklostmi. Editace přesahuje rámec standardní editace, pokud dojde k podstatným změnám obsahu (věcné úpravy, strukturální změny atd.), které ovlivňují jeho význam, styl nebo záměr. |
|
91) |
Druhá výjimka se vztahuje na případy, kdy systém AI podstatně nemění vstupní data poskytnutá zavádějícím subjektem ani jejich sémantiku. Změna by měla být považována za podstatnou, pokud systém AI během procesu generování výstupu významně upravil vstupní data nebo jejich sémantiku. To musí vycházet z posouzení relevantních faktorů, jako je formát, typ mediálního obsahu, styl a změny v obsahu, které ovlivňují jeho význam, styl nebo záměr. Zda tomu tak skutečně je, je třeba posoudit v každém jednotlivém případě. |
|
92) |
Pokud lze systém AI použít jak k vytváření či manipulaci obsahu, tak k nepodstatným drobným změnám vstupních dat, pak se povinnost transparentnosti podle čl. 50 odst. 2 aktu o AI nevztahuje na obsah, který byl změněn drobným a nepodstatným způsobem.
|
|
93) |
Třetí výjimka se vztahuje na generativní systémy AI, které jsou ze zákona oprávněny vytvářet syntetický obsah nebo s ním manipulovat za účelem odhalování trestných činů, předcházení jim, jejich vyšetřování nebo stíhání. Vysvětlení uvedená k této výjimce v bodech 46–48 výše jsou relevantní i v tomto případě. |
4.4 Vzájemné působení s jinými právními akty Unie
|
94) |
Povinnosti týkající se označování a zjišťování podle čl. 50 odst. 2 aktu o AI se zaměřují na to, jak byl obsah vytvořen, a na jeho umělý původ, a nikoli na to, kdo tento obsah vytvořil. Veškerá řešení v oblasti označování a zjišťování používaná poskytovateli systémů AI proto musí být v souladu s platným právem Unie v oblasti ochrany údajů, včetně zásad a povinností ochrany údajů, jako jsou zásady záměrné a standardní ochrany údajů, minimalizace údajů, zabezpečení a důvěrnosti. Například pro účely označování a zjišťování by se neměly zpracovávat informace týkající se tvůrce obsahu a jakékoli jiné osobní údaje, které jsou zpracovávány, by měly být vymazány, jakmile je účel zjišťování splněn; musí být zajištěno zabezpečení a důvěrnost atd. |
|
95) |
Ve 136. bodě odůvodnění aktu o AI se dále zdůrazňuje zvláštní význam povinností v oblasti transparentnosti podle čl. 50 odst. 1, 2 a 4 aktu o AI pro usnadnění účinného provádění nařízení o digitálních službách. Toto platí zejména pro povinnosti poskytovatelů velmi velkých online platforem nebo velmi velkých internetových vyhledávačů pečlivě určovat, analyzovat, posuzovat a zmírňovat systémová rizika, jež mohou vyplývat z šíření obsahu, který byl uměle vytvořen nebo s nímž bylo uměle manipulováno, zejména riziko skutečných nebo předvídatelných negativních dopadů na demokratické procesy, občanský diskurz a volební procesy, a to i prostřednictvím dezinformací (články 34 a 35 nařízení o digitálních službách). Strojově čitelné značky mohou těmto poskytovatelům umožnit zjistit obsah vytvořený nebo manipulovaný umělou inteligencí a zajistit jeho odpovídající označení a zveřejnění informací o něm, což sníží riziko šíření dezinformací generovaných umělou inteligencí v rámci jejich služeb. |
|
96) |
Povinnostmi označovat a opatřovat štítky obsah vytvořený nebo manipulovaný systémy AI podle čl. 50 odst. 2 a 4 aktu o AI není dotčena povinnost uvedená v čl. 16 odst. 6 nařízení o digitálních službách, která ukládá poskytovatelům hostingových služeb zpracovávat oznámení o nezákonném obsahu obdržená podle čl. 16 odst. 1 nařízení o digitálních službách (29). Označování nebo opatřování štítky u obsahu vytvořeného nebo manipulovaného umělou inteligencí by zejména nemělo ovlivnit posouzení konkrétního obsahu a rozhodnutí o jeho nezákonnosti podle jiných regulačních rámců. Toto posouzení by mělo být provedeno výhradně s odkazem na pravidla upravující zákonnost obsahu podle těchto rámců (30). Pokud je například označený obrázek typu „deep fake“ nahlášen jako potenciální materiál zobrazující pohlavní zneužívání dětí nebo jako obsah porušující právo ochranných známek či autorské právo, nemá použití značky žádný vliv na potenciální nezákonnost daného obsahu podle těchto právních rámců. Toto posouzení by mělo být provedeno výhradně na základě příslušných platných právních předpisů (např. trestněprávních předpisů či pravidel týkajících se ochranných známek nebo autorského práva). |
|
97) |
Naopak strojově čitelné označení vložené do obsahu podle čl. 50 odst. 2 aktu o AI může poskytovatelům velmi velkých online platforem a velmi velkých internetových vyhledávačů pomoci splnit jejich povinnosti podle článků 34 a 35 nařízení o digitálních službách určovat, analyzovat a posuzovat systémová rizika, která mohou vyplynout ze šíření obsahu, který byl uměle vytvořen nebo s nímž bylo manipulováno, zejména riziko skutečných nebo předvídatelných negativních dopadů na demokratické procesy, občanský diskurz a volební procesy, mimo jiné prostřednictvím dezinformací (31), a zavést rozumná, přiměřená a účinná zmírňující opatření přizpůsobená konkrétním zjištěným systémovým rizikům. Poskytovatelé služeb velmi velkých online platforem a velmi velkých internetových vyhledávačů mohou být rovněž považováni za poskytovatele systémů AI, pokud splňují příslušné podmínky stanovené v aktu o AI v případech, kdy začlení systémy AI do svých služeb (viz také oddíl 6.1.5). |
|
98) |
Provozovatelé online platforem, internetových vyhledávačů a další příslušné subjekty šířící obsah v rámci daného hodnotového řetězce jsou zejména vybízeni k tomu, aby zachovávali a umožňovali identifikaci značek zavedených poskytovateli podle čl. 50 odst. 2 aktu o AI, aby fyzické osoby, které jsou tomuto obsahu vystaveny, mohly být informovány o jeho původu. |
5. USTANOVENÍ ČL. 50 ODST. 3 AKTU O AI: SYSTÉMY ROZPOZNÁVÁNÍ EMOCÍ A SYSTÉMY BIOMETRICKÉ KATEGORIZACE
|
99) |
Ustanovení čl. 50 odst. 3 aktu o AI ukládá subjektům zavádějícím systémy rozpoznávání emocí a systémy biometrické kategorizace povinnost informovat fyzické osoby, které jsou těmto systémům vystaveny, o fungování daného systému. |
|
100) |
Ve 132. bodě odůvodnění aktu o AI se vysvětluje, že účelem této povinnosti je zajistit, aby si fyzické osoby (včetně osob se zdravotním postižením) byly vědomy toho, že jsou vystaveny systémům rozpoznávání emocí a biometrické kategorizace, které mohou zasahovat do jejich soukromí. Tato povinnost se proto uplatní bez ohledu na to, zda jsou osoby těmto systémům vystaveny v reálném čase, nebo zda jsou tyto systémy provozovány dodatečně (ex post). |
5.1 Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti podle čl. 50 odst. 3 aktu o AI
5.1.1 Pojem systému rozpoznávání emocí
|
101) |
Ustanovení čl. 3 bodu 39 aktu o AI definuje „systém rozpoznávání emocí“ jako „systém AI pro účely zjišťování nebo odvozování emocí nebo záměrů fyzických osob na základě jejich biometrických údajů“. Podrobné vysvětlení tohoto pojmu obsažené v pokynech Komise ke klasifikaci vysoce rizikových systémů AI, včetně praktických příkladů v nich uvedených, je stejně relevantní v kontextu čl. 50 odst. 3 aktu o AI. |
|
102) |
Jelikož jsou všechny systémy rozpoznávání emocí rovněž klasifikovány jako vysoce rizikové, měla by se na ně – pokud nejsou zakázány na pracovišti a ve vzdělávacích institucích podle čl. 5 odst. 1 písm. f) aktu o AI – vztahovat povinnost transparentnosti uvedená v čl. 50 odst. 3 aktu o AI ve spojení s ostatními zárukami a požadavky platnými pro vysoce rizikové systémy AI. |
5.1.2 Pojem systému biometrické kategorizace
|
103) |
Ustanovení čl. 3 bodu 40 aktu o AI definuje „systém biometrické kategorizace“ jako „systém AI pro účely zařazení fyzických osob do určitých kategorií na základě jejich biometrických údajů, pokud není doplňkem k jiné komerční službě a není nezbytně nutný z objektivních technických důvodů“. Podrobné vysvětlení tohoto pojmu obsažené v pokynech Komise ke klasifikaci vysoce rizikových systémů AI, včetně jeho konkrétních prvků, jakož i praktických příkladů v nich uvedených, je stejně relevantní v kontextu čl. 50 odst. 3 aktu o AI. |
|
104) |
Je důležité poznamenat, že ustanovení čl. 50 odst. 3 aktu o AI se vztahuje na veškeré systémy biometrické kategorizace (např. klasifikaci podle věku nebo pohlaví na základě biometrických údajů), pokud nejsou zakázány podle čl. 5 odst. 1 písm. g) aktu o AI, a to bez ohledu na to, zda spadají mezi vysoce rizikové systémy AI podle tohoto aktu, či nikoli. |
5.1.3 Informační povinnost podle čl. 50 odst. 3 aktu o AI
|
105) |
Rozsah informací, které mají být poskytnuty: Zavádějící subjekty jsou povinny informovat dotčené fyzické osoby, které jsou vystaveny systému rozpoznávání emocí nebo systému biometrické kategorizace, o provozu tohoto systému. Akt o AI nevyžaduje uvádění informací o důvodech provozu systému ani o tom, zda systém zpracovává informace také pro jiné účely než rozpoznávání emocí nebo biometrickou kategorizaci; tyto informace je třeba zpřístupnit podle práva Unie v oblasti ochrany údajů (viz oddíl 5.3). |
|
106) |
Adresáti informací: Ustanovení čl. 50 odst. 3 aktu o AI ukládá zavádějícím subjektům povinnost informovat všechny fyzické osoby, které jsou provozu systému AI vystaveny, včetně dětí. |
|
107) |
Způsoby poskytování informací: Akt o AI nepředepisuje konkrétní způsob poskytování informací, s výjimkou čl. 50 odst. 5 aktu o AI, který vyžaduje, aby byly informace poskytovány jasným a rozlišitelným způsobem a v souladu s platnými požadavky na přístupnost (s ohledem na potřeby fyzických osob se zdravotním postižením). To, jak mají být fyzické osoby vystavené systému informovány, může záviset na místě jeho nasazení (např. virtuální herní platforma, kamenný obchod, nádraží), na možných adresátech (např. děti, starší lidé, osoby se zdravotním postižením, zákazníci), délce a typu vystavení (např. dlouhodobé, jednorázové, nepřetržité, přerušované) a případné existenci vztahu mezi zavádějícím subjektem a vystavenými osobami (např. zda existuje komunikační kanál s daným jednotlivcem). V závislosti na případu použití mohou být informace poskytnuty písemně, pomocí standardizovaných ikon (a to i v elektronické podobě), ústně nebo kombinací těchto způsobů.
|
|
108) |
Lhůta pro poskytnutí informací: Tyto informace musí být poskytnuty nejpozději v době prvního kontaktu se systémem AI nebo prvního vystavení tomuto systému v souladu s čl. 50 odst. 5 aktu o AI. Je-li to vhodné, není vyloučeno poskytnutí požadovaných informací předem. |
5.2 Výjimka pro účely vymáhání práva
|
109) |
Informační povinnost se nevztahuje na systémy AI používané pro rozpoznávání emocí a biometrickou kategorizaci, kterým zákon umožňuje odhalovat trestné činy, předcházet jim nebo je vyšetřovat, s výhradou příslušných záruk týkajících se práv a svobod třetích stran a v souladu s právem Unie. Vysvětlení týkající se této výjimky uvedená v bodech 46–48 výše platí i v tomto případě, s jedním rozdílem. Zatímco ostatní výjimky uvedené v článku 50 aktu o AI vyžadují výslovný právní předpis, který povoluje netransparentní používání systémů AI, ustanovení čl. 50 odst. 3 aktu o AI takové použití umožňuje, je-li podle právních předpisů upravujících pravomoci donucovacích orgánů povoleno používání systémů rozpoznávání emocí a biometrické kategorizace za účelem odhalování, prevence nebo vyšetřování trestných činů bez informování dotčených osob, s výhradou dodržení přiměřených záruk. |
5.3 Vzájemné působení s jinými právními akty Unie
|
110) |
Informační povinnost podle čl. 50 odst. 3 aktu o AI sama o sobě neznamená, že použití systému rozpoznávání emocí a biometrické kategorizace je zákonné. Stejně tak neopravňuje k invazivnímu či diskriminačnímu použití, které by mohlo být protiprávní a zakázané podle článku 5 aktu o AI nebo jiných právních předpisů Unie. Zavádějící subjekty musí dodržovat informační povinnost stanovenou v čl. 50 odst. 3 aktu o AI, a to vedle všech příslušných informačních požadavků vyplývajících z práva Unie v oblasti ochrany údajů. V určitých případech mohou zavádějící subjekty zvážit doplnění informací poskytovaných subjektům údajů podle práva Unie v oblasti ochrany údajů o oznámení podle čl. 50 odst. 3 aktu o AI. |
6. USTANOVENÍ ČL. 50 ODST. 4: OZNAČOVÁNÍ „DEEP FAKES“ A URČITÝCH TEXTOVÝCH PUBLIKACÍ
|
111) |
Ustanovení čl. 50 odst. 4 aktu o AI stanoví dvě samostatné povinnosti určené zavádějícím subjektům generativních systémů AI: jasným a rozlišitelným způsobem označit i) obsah typu „deep fake“ a ii) text vytvořený nebo manipulovaný umělou inteligencí a zveřejněný za účelem informování veřejnosti o záležitostech veřejného zájmu, s výjimkou vymezených případů. Tyto povinnosti týkající se označování se uplatní vedle povinností strojově čitelného označování a zjišťování podle čl. 50 odst. 2 aktu o AI, které se vztahují na poskytovatele systémů AI vytvářející syntetický zvukový, obrazový, video či textový obsah nebo s ním manipulující, a nejsou jimi tyto povinnosti dotčeny. |
6.1 Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti týkající se „deep fakes“ podle čl. 50 odst. 4 aktu o AI
|
112) |
Ustanovení čl. 50 odst. 4 prvního pododstavce aktu o AI se uplatní, je-li splněno několik podmínek:
|
6.1.1 Pojem „deep fake“
|
113) |
Ustanovení čl. 3 bodu 60 aktu o AI definuje „deep fake“ jako „obrazový, zvukový nebo video obsah vytvořený nebo manipulovaný umělou inteligencí, který se podobá existujícím osobám, objektům, místům, subjektům či událostem a který by se dané osobě mohl nepravdivě jevit jako autentický nebo pravdivý“. Rozdíl mezi manipulací a vytvářením byl objasněn v oddíle 4.1 výše. Za účelem objasnění pojmu „deep fake“ jsou níže zkoumána čtyři kumulativní kritéria z uvedené definice: i) podobnost s ii) existujícími iii) osobami, objekty, místy, subjekty či událostmi, přičemž iv) obsah by se dané osobě mohl nepravdivě jevit jako autentický nebo pravdivý.
|
|
114) |
To, zda se obsah „dané osobě nepravdivě jeví jako autentický nebo pravdivý“, by mělo být posuzováno komplexně, s přihlédnutím k míře podobnosti, potenciálnímu věcnému poselství obsahu, zamýšleným a předvídatelným kontextům použití, prostředí, v němž je obsah prezentován, a zamýšlenému a rozumně předvídatelnému složení příjemců a jejich očekáváním. Toto posouzení je však objektivní a k tomu, aby se jednalo o „deep fake“, není nutné, aby zavádějící subjekt měl v úmyslu oklamat nebo uvést v omyl fyzické osoby, které jsou tomuto obsahu vystaveny. Pokud jde o kontext použití a očekávání příjemců, znamená to, že je-li obsah používán v konkrétních kontextech, v nichž zamýšlení a rozumně předvídatelní příjemci neočekávají, že by obsah byl autentický či pravdivý, nemusí se obsah vytvořený nebo manipulovaný umělou inteligencí nepravdivě jevit jako autentický či pravdivý, i když ve skutečnosti je neautentický nebo nepravdivý. V takových případech nebude čtvrté kritérium definice „deep fake“ splněno. Například tvorba pozadí, speciálních efektů či technické předprodukční a postprodukční úpravy nebo manipulace s nimi umělou inteligencí v rámci standardních procesů filmové produkce pravděpodobně nezpůsobí, že by se obsah divákům nepravdivě jevil jako autentický nebo pravdivý. Naopak, je pravděpodobné, že k tomu dojde v případě použití AI k vytváření zásadních prvků, které ovlivňují vnímání diváků, nebo k manipulaci s nimi (jako jsou například herci vytvoření výhradně pomocí umělé inteligence, digitální repliky skutečných nebo již zesnulých herců, omlazování, simulované herecké výkony včetně jejich částí nebo neautentické či nepravdivé zobrazení osob, objektů, míst či událostí v dokumentárních filmech). U obrazového a video obsahu se uznává, že vysoká míra fotorealismu zvyšuje pravděpodobnost, že by takový obsah měl být považován za „deep fake“ (jelikož se pravděpodobně podobá existujícím subjektům), avšak samotný fotorealismus není pro posouzení rozhodující. Ještě je třeba posoudit, zda je takový obsah schopen oklamat nebo uvést osobu v omyl, pokud jde o jeho autentičnost či pravdivost, a to s přihlédnutím mimo jiné k zamýšlenému a předvídatelnému kontextu jeho použití. |
|
115) |
Na rozdíl od čl. 50 odst. 1 aktu o AI by posouzení toho, zda se obsah nepravdivě jeví určité osobě jako autentický nebo pravdivý, nemělo vycházet z hypotetické „průměrné“ osoby, u níž se předpokládá, že bude tomuto obsahu vystavena (viz oddíl 3.2.1), ale mělo by náležitě zohlednit možné rozmanité složení přiměřeně předvídatelného publika, které může být obsahu typu „deep fake“ vystaveno. Náležité zohlednění složení publika je zvláště důležité, pokud lze rozumně předvídat, že obsah typu „deep fake“ mohou v určitém okamžiku vnímat děti, starší osoby nebo jiné skupiny osob s nižší digitální gramotností, gramotností v oblasti umělé inteligence či nižší obecnou úrovní znalostí, protože tyto osoby mohou být snáze oklamány nebo uvedeny v omyl, pokud jde o autentičnost či pravdivost daného obsahu. V takových případech může k tomu, aby byl obsah klasifikován jako „deep fake“, postačovat již to, že se nepravdivě jeví jako autentický nebo pravdivý této části předvídatelného publika. Od zavádějících subjektů se však neočekává, že budou zohledňovat potenciální další šíření obsahu typu „deep fake“ třetími stranami nad rámec publika, které může zavádějící subjekt z hlediska zamýšlených distribučních kanálů rozumně předvídat (např. pokud je „deep fake“ zobrazován výhradně v části internetových stránek určené pouze pro předplatitele nebo v rámci firemního zpravodaje, neznamená to, že by zavádějící subjekt měl automaticky předpokládat širokou veřejnou dostupnost). |
|
116) |
V podobném duchu může být manipulace s nevýznamnými věcnými či technickými aspekty již existujícího obsahu, prováděná s podporou umělé inteligence, pro posouzení autenticity či pravdivosti daného obsahu z hlediska člověka jen okrajového významu, což neznamená, že by výsledný obsah byl považován za „deep fake“. To by mohlo zahrnovat například editaci detailů v pozadí (např. odstranění kolemjdoucích), úpravy osvětlení, přizpůsobení zvukových parametrů, korekci barev, redukci nebo odstranění šumu, zlepšení přístupnosti nebo kompresi souboru, kosmetické úpravy a vylepšení. To, zda manipulace bude spadat do této kategorie, závisí na kontextu a na tom, jaký dopad má v konkrétním případě na vnímání autenticity či pravdivosti obsahu ze strany dotčených osob. Například korekce barev využívající AI, rozšiřování pozadí u stávajícího obsahu, úpravy či výměny pozadí z čistě estetických důvodů, kompozice a uspořádání stávajících produktů nebo změna měřítka obrázků použitých v reklamách na produkty či na obalech budou mít pravděpodobně pouze nepatrný vliv na vnímání autenticity a pravdivosti reklamy a produktu ze strany jednotlivce. Naopak podstatná editace detailů v pozadí novinářských snímků s využitím AI přesahující rámec běžných technických a redakčních postupů může nepříznivě ovlivnit vnímání autenticity a pravdivosti obsahu určitou osobou.
|
6.1.2 Povinnost zveřejnění podle čl. 50 odst. 4 prvního pododstavce aktu o AI
|
117) |
Ustanovení čl. 50 odst. 4 prvního pododstavce aktu o AI ukládá subjektům zavádějícím systémy AI, které vytvářejí obrazový, zvukový nebo video obsah představující tzv. „deep fake“ nebo s ním manipulují, povinnost „zveřejnit, že obsah byl uměle vytvořen nebo s ním bylo manipulováno“. Ve 134. bodě odůvodnění aktu o AI se upřesňuje, že zavádějící subjekty, které používají systémy AI k vytváření obsahu typu „deep fake“ nebo k manipulaci s ním, by měly jasně a zřetelně uvádět, že tento obsah byl vytvořen uměle nebo s ním bylo manipulováno, a to tak, že odpovídajícím způsobem označí výstup AI a zveřejní jeho umělý původ. Způsoby označování nebo zveřejňování uplatňované v souladu s čl. 50 odst. 4 prvním pododstavcem aktu o AI by měly být pro fyzické osoby srozumitelné a zřetelné (např. pomocí viditelných nebo slyšitelných značek), aniž by musely být použity jakékoli konkrétní technické nástroje nebo prováděna zvláštní opatření. Zavádějící subjekty se proto nemohou spoléhat na strojově čitelné označení, které do obsahu vložil poskytovatel podle čl. 50 odst. 2 aktu o AI, jelikož tato označení nejsou pro fyzické osoby vystavené obsahu typu „deep fake“ okamžitě jasná a rozlišitelná. |
|
118) |
S ohledem na čl. 50 odst. 7 aktu o AI se mohou zavádějící subjekty řídit kodexem správné praxe, který byl podle čl. 50 odst. 7 aktu o AI posouzen jako přiměřený, aby prokázaly splnění této povinnosti zveřejnění. Další informace o účincích dodržování takového kodexu a o dohledu nad jinými zavádějícími subjekty, které se kodexem neřídí, naleznete v oddíle 8.1 níže. |
6.1.3 Transparentnost uměleckého, tvůrčího, satirického, fiktivního či obdobného obsahu typu „deep fake“
|
119) |
Ustanovení čl. 50 odst. 4 prvního pododstavce aktu o AI stanoví zmírněnou povinnost transparentnosti v případě „deep fakes“, které jsou součástí zjevně uměleckých, tvůrčích, satirických, fiktivních nebo podobných děl nebo programů. U takového obsahu se povinnost transparentnosti omezuje na zveřejnění informace o tom, že se jedná o „deep fake“, a to vhodným způsobem, který nebrání zobrazení díla nebo požitku z něj. |
|
120) |
Relevantní kategorie obsahu: aby bylo možné využít zmírněných požadavků na zveřejňování v rámci transparentnosti, musí „deep fake“ (obrázek, zvukový záznam nebo video) spadat alespoň do jedné z následujících kategorií obsahu: umělecká, tvůrčí, satirická, fiktivní nebo obdobná díla nebo programy. To, zda „deep fake“ spadá do jedné nebo více z těchto kategorií, musí posoudit zavádějící subjekt v každém jednotlivém případě. Pro účely čl. 50 odst. 4 aktu o AI se tyto kategorie vykládají takto:
|
|
121) |
Výše uvedené kategorie obsahu se mohou vztahovat také na pořady, jimiž se rozumějí jednotlivé položky v rámci programové skladby nebo katalogu sestavených poskytovatelem mediálních služeb a které jsou svou formou a obsahem srovnatelné s televizním vysíláním (33). Odkaz na „díla“ v kontextu čl. 50 odst. 4 aktu o AI nemá žádný vliv na to, zda daný obsah splňuje podmínky pro ochranu podle práva Unie v oblasti autorského práva a práv s ním souvisejících. |
|
122) |
Zjevně: skutečnost, že „deep fake“ spadá do jedné (nebo více) z výše uvedených kategorií obsahu, by měla být zjevná fyzickým osobám, které jsou mu vystaveny. Z toho vyplývá, že tyto kategorie by měly být vykládány striktně, což je odůvodněno tím, že vzhledem k možnému dopadu na svobodu projevu a svobodu umění a vědy se uplatňuje méně přísný režim zveřejňování, přičemž je stále třeba adekvátně řešit rizika dezinformací, manipulace a klamání. Z tohoto důvodu je obsah, jehož povaha může být pro příjemce nejasná nebo nejednoznačná, z působnosti tohoto méně přísného režimu transparentnosti vyloučen. Mezi faktory relevantní pro posouzení zjevného charakteru uměleckého, tvůrčího, satirického nebo fiktivního obsahu patří: i) zda obsah vykazuje formáty či styly, které jsou charakteristické pro dané kategorie obsahu (např. ironie či nadsázka u satirických děl, určité umělecké styly, zobrazování výrazných témat, technik či estetiky atd.); ii) kontext, v němž je obsah prezentován (např. zda je platforma, médium nebo místo, kde je obsah prezentován, zpřístupněn nebo šířen, spojeny s uměleckým, tvůrčím, satirickým nebo fiktivním použitím); a iii) očekávání příjemců (např. film, herní prostředí nebo scéna ve virtuální realitě). Podmínka, že obsah by měl „zjevně“ spadat do jedné z výše uvedených kategorií obsahu, navíc vylučuje z působnosti těchto kategorií obsah, jehož povaha je výlučně informativní nebo komerční a který je jako takový rozpoznatelný (např. zpravodajství). V tomto ohledu lze některé druhy obsahu (např. reklamy nebo dokumentární filmy) obsahující „deep fakes“ v určitých konkrétních situacích považovat za zjevně tvůrčí nebo fiktivní díla, v jiných situacích však nikoli, protože posouzení závisí na konkrétním případu. Pokud „deep fake“ kombinuje více charakterů (např. informativní a tvůrčí), měl by vždy převážit jeho informativní charakter a mělo by být vyžadováno splnění standardních požadavků na označování. |
|
123) |
Vhodné zveřejnění, které nebrání zobrazení díla nebo požitku z něj „Deep fakes“, které jsou součástí zjevně uměleckých, tvůrčích, satirických nebo fiktivních děl či programů, nejsou vyňaty z povinnosti transparentnosti podle čl. 50 odst. 4 prvního pododstavce aktu o AI. Zavádějící subjekty jsou stále povinny zveřejnit, že obsah byl vytvořen umělou inteligencí nebo s ním bylo manipulováno, mohou tak však učinit vhodným způsobem, který nebrání zobrazení díla nebo požitku z něj. Ve 134. bodě odůvodnění aktu o AI se upřesňuje, že takové vhodné zveřejnění by nemělo bránit běžnému využívání a používání díla a zároveň by mělo umožňovat zachování jeho užitečnosti a kvality. Určení toho, která opatření pro zveřejnění lze považovat za vhodná, se provádí na základě posouzení každého jednotlivého případu, při němž mohou zavádějící subjekty zohlednit všechny relevantní faktory (včetně povahy díla, publika, kontextu apod.). V každém případě musí zavádějící subjekty dodržovat čl. 50 odst. 5 aktu o AI (viz oddíl 7). S ohledem na čl. 50 odst. 7 aktu o AI se mohou zavádějící subjekty řídit kodexem správné praxe, který byl podle uvedeného ustanovení posouzen jako přiměřený, aby prokázaly splnění této povinnosti zveřejnění. Další informace o účincích dodržování takového kodexu a o dohledu nad jinými zavádějícími subjekty, které se kodexem neřídí, naleznete v oddíle 8.1 níže. |
|
124) |
Vhodné záruky pro práva a svobody třetích stran: ve 134. bodě odůvodnění aktu o AI se upřesňuje, že splnění zmírněné povinnosti transparentnosti a používání uměleckých, tvůrčích, satirických nebo fiktivních „deep fakes“ musí být „s výhradou vhodných záruk práv a svobod třetích osob“. Zavádějící subjekty proto musí zajistit, aby při vytváření či zveřejňování „deep fakes“ byla náležitě chráněna a dodržována práva a svobody třetích stran (včetně např. jejich práva na ochranu osobních údajů nebo práv duševního vlastnictví), a to i v případě, že daný „deep fake“ má být považován za umělecký, tvůrčí, satirický nebo fiktivní. Odvolání se na zmírněnou povinnost transparentnosti nemůže sloužit jako ospravedlnění pro nedodržování základních práv fyzických osob nebo nositelů práv podle práva Unie v oblasti duševního vlastnictví nebo podle práva Unie v oblasti ochrany údajů (34).
|
6.1.4 Výjimka pro vymáhání práva
|
125) |
Je-li použití „deep fake“ (např. videa vytvořeného umělou inteligencí, které simuluje události, k nimž nikdy nedošlo) zákonem povoleno za účelem odhalování, prevence, vyšetřování nebo stíhání trestných činů, jsou zavádějící subjekty osvobozeny od povinnosti transparentnosti podle čl. 50 odst. 4 prvního pododstavce aktu o AI. Objasnění uvedená v bodech 46–48 výše, která se týkají podobné výjimky v čl. 50 odst. 1 aktu o AI, jsou relevantní i pro toto ustanovení. |
6.1.5 Vzájemné působení s jinými právními akty Unie
|
126) |
Povinnost transparentnosti podle čl. 50 odst. 4 prvního pododstavce aktu o AI se bude uplatňovat ve vzájemné souvislosti s povinnostmi poskytovatelů velmi velkých online platforem a velmi velkých internetových vyhledávačů určovat a zmírňovat systémová rizika podle článků 34 a 35 nařízení o digitálních službách, zejména podle čl. 35 odst. 1 písm. k) nařízení o digitálních službách (35). Posledně uvedené ustanovení uvádí mezi možnými opatřeními ke zmírnění rizika, která mohou přijmout poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů, opatření zajišťující, aby „informace, ať už představuje vytvořený nebo manipulovaný obrazový, zvukový nebo video obsah, který se znatelně podobá existujícím osobám, objektům, místům nebo jiným subjektům či událostem a který by se určité osobě mohl nepravdivě jevit jako autentický nebo pravdivý, byla při prezentaci na jejich online rozhraních rozpoznatelná díky viditelným označením“. Kromě toho mohou poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů nabízet také snadno použitelnou funkci, která umožňuje příjemcům služby takovou informaci označit. Ačkoli se toto ustanovení nařízení o digitálních službách zdá být podobné čl. 50 odst. 4 aktu o AI, doplňuje jej a obsahuje dvě důležité odlišnosti:
|
|
127) |
Pokud „deep fake“ obsahuje informace týkající se přímo či nepřímo identifikovatelné fyzické osoby (která je naživu), budou muset zavádějící subjekty jako správci údajů podle práva Unie v oblasti ochrany údajů rovněž dodržovat příslušné povinnosti vyplývající z tohoto práva (37). Sem patří například zajištění vhodného právního základu pro zpracování osobních údajů, informace ohledně zpracování údajů o zobrazených subjektech údajů atd. |
|
128) |
Subjekty, které zavádějí systémy AI vytvářející „deep fakes“, budou dále muset zajistit, aby dodržovaly příslušné právní předpisy Unie v oblasti duševního vlastnictví (například právo Unie v oblasti ochranných známek a právo Unie v oblasti autorských práv nebo práv souvisejících), pokud jejich „deep fake“ obsahuje předmět chráněný těmito právními předpisy. Použití štítku nebo ikony u „deep fake“ samo o sobě nemá žádný vliv na to, zda se na něj vztahuje autorskoprávní ochrana; to by mělo být posuzováno v souladu s platným právem Unie v oblasti autorského práva. |
|
129) |
Pokud jsou v „deep fakes“ zobrazeny existující osoby, budou zavádějící subjekty muset rovněž dodržovat příslušné právní předpisy na ochranu osobnostních práv týkajících se osobních obrazových záznamů či hlasů. Povinnost transparentnosti podle čl. 50 odst. 4 prvního pododstavce aktu o AI neznamená, že by bylo možné vytvářet a šířit „deep fakes“ vytvořené nebo manipulované umělou inteligencí, které jsou škodlivé a protiprávní podle platných unijních nebo vnitrostátních právních předpisů (např. jako klamavá reklama nebo podle trestního práva jako materiály zobrazující pohlavní zneužívání dětí a intimní snímky pořízené bez souhlasu) (viz také oddíl 4.4). |
6.2 Hlavní prvky, pojmy a související povinnosti týkající se transparentnosti u textů vytvořených nebo manipulovaných umělou inteligencí podle čl. 50 odst. 4 aktu o AI
|
130) |
Ustanovení čl. 50 odst. 4 druhého pododstavce aktu o AI se uplatní, je-li splněno několik podmínek:
|
6.2.1 Text zveřejněný za účelem informování veřejnosti o záležitostech veřejného zájmu
|
131) |
Za účelem vyjasnění rozsahu působnosti čl. 50 odst. 4 druhého pododstavce aktu o AI jsou níže zkoumány tři prvky: i) zveřejněný text ii) za účelem informování veřejnosti iii) o záležitostech veřejného zájmu.
|
6.2.2 Povinnost zveřejnění podle čl. 50 odst. 4 druhého pododstavce aktu o AI
|
132) |
Ustanovení čl. 50 odst. 4 druhého pododstavce aktu o AI ukládá subjektům zavádějícím systémy AI, jež vytvářejí text zveřejňovaný za účelem informování veřejnosti o záležitostech veřejného zájmu nebo s ním manipulují, aby zveřejnily, že takový text byl vytvořen uměle nebo s ním bylo manipulováno. Ve 134. bodě odůvodnění aktu o AI se upřesňuje, že podobně jako v případě obsahu typu „deep fake“ by zavádějící subjekty odpovědné za textové publikace spadající do působnosti tohoto ustanovení měly jasným a rozlišitelným způsobem uvádět, že obsah byl vytvořen uměle nebo s ním bylo manipulováno, a to tak, že odpovídajícím způsobem označí výstup AI a zveřejní jeho umělý původ. Jak je požadováno v případě „deep fakes“, způsoby označování nebo zveřejňování (včetně prohlášení o vyloučení odpovědnosti) uplatňované v souladu s čl. 50 odst. 4, druhým pododstavcem aktu o AI by měly být rovněž srozumitelné a zřetelné (např. viditelná nebo slyšitelná opatření) pro fyzické osoby, aniž by musely být použity jakékoli konkrétní technické nástroje nebo prováděna zvláštní opatření. S ohledem na čl. 50 odst. 7 aktu o AI se mohou zavádějící subjekty řídit kodexem správné praxe, který byl podle uvedeného ustanovení posouzen jako přiměřený, aby prokázaly splnění této povinnosti zveřejnění. Další informace o účincích dodržování takového kodexu a o dohledu nad zavádějícími subjekty, které se kodexem neřídí, naleznete v oddíle 8.1 níže. |
6.2.3 Výjimka z povinnosti transparentnosti u textů, které byly podrobeny přezkumu člověkem nebo redakční kontrole a za jejichž zveřejnění nese redakční odpovědnost fyzická nebo právnická osoba
|
133) |
Ustanovení čl. 50 odst. 4 druhého pododstavce aktu o AI stanoví výjimku z povinnosti transparentnosti stanovené v uvedeném ustanovení, jsou-li splněny dvě kumulativní podmínky: i) text vytvořený nebo manipulovaný umělou inteligencí musí být podroben přezkumu člověkem nebo redakční kontrole a ii) za zveřejnění musí nést redakční odpovědnost právnická nebo fyzická osoba. V příslušných případech se zavádějící subjekty mohou opírat o příslušné platné profesní nebo etické normy, aby prokázaly soulad s níže uvedenými požadavky. |
i.
|
134) |
První podmínka pro uplatnění výjimky podle čl. 50 odst. 4 druhého pododstavce aktu o AI vyžaduje, aby text vytvořený nebo manipulovaný umělou inteligencí podléhal přezkumu člověkem nebo redakční kontrole. Přezkumem člověkem se rozumí záměrné posouzení podstaty obsahu jednou nebo více fyzickými osobami, které disponují příslušnými znalostmi a odborným úsudkem v posuzované oblasti (např. akademické recenzní řízení nebo profesionální validační řetězce). Minimálním požadavkem, který by měl být součástí tohoto přezkumu, je ověření faktické správnosti obsahu. Redakční kontrolou se rozumí kontrola nad obsahem, kterou v praxi vykonává odpovědný redakční subjekt (např. šéfredaktor), jenž má pravomoc schvalovat, měnit nebo zamítat obsah textu na základě věcných důvodů (včetně ověřování informací a zajištění důvěryhodnosti zdrojů). Tím nejsou dotčeny stávající postupy při přezkumu a redakčním zpracování ani profesní normy pro poskytovatele mediálních služeb. |
|
135) |
Povrchní, čistě formální nebo procesní kontroly (např. kontrola pravopisu či gramatické opravy), pouhá existence redakční politiky, automatizované procesy posuzování nebo povrchní redakční schválení bez věcného zapojení lidského recenzenta či redakčního orgánu nemohou pro účely této výjimky splňovat podmínky přezkumu člověkem nebo redakční kontroly. |
|
136) |
V případech, kdy se systémy AI používají k úpravě, doplnění nebo přeformulování obsahu po redakčním schválení, musí být výsledný obsah pro účely čl. 50 odst. 4 aktu o AI považován za obsah vytvořený nebo manipulovaný umělou inteligencí. Jakýkoli podstatný zásah AI, k němuž dojde po provedení přezkumu člověkem nebo redakční kontroly, proto způsobí, že výjimka pozbude platnosti. |
|
137) |
S ohledem na čl. 50 odst. 7 aktu o AI se mohou zavádějící subjekty řídit kodexem správné praxe, který byl podle tohoto ustanovení posouzen jako přiměřený, aby prokázali splnění podmínky přezkumu člověkem nebo redakční kontroly (zejména v případě zavádějících subjektů, které nejsou poskytovateli mediálních služeb podléhajícími stávajícím redakčním profesním nebo deontologickým normám) stanovené v uvedeném ustanovení. Další informace o účincích dodržování takového kodexu a o dohledu nad zavádějícími subjekty, které se takovým kodexem neřídí, naleznete v oddíle 8.1. |
|
ii. |
|
138) |
Druhou podmínkou pro uplatnění výjimky podle čl. 50 odst. 4 druhého pododstavce aktu o AI je, aby za zveřejnění daného obsahu nesla redakční odpovědnost právnická nebo fyzická osoba. To znamená, že uvedená osoba musí nést konečnou právní odpovědnost za zveřejnění obsahu, včetně přezkumu člověkem nebo redakční kontroly (např. jednotlivec, redakční rada nebo vydavatelská společnost). V zájmu zajištění veřejné odpovědnosti a důvěry a v souladu se stávajícími profesními normami v oblasti médií by totožnost a kontaktní údaje právnické osoby, fyzické osoby nebo funkce s redakční odpovědností měly být zveřejněny na snadno dohledatelném místě (pokud již nejsou dostupné jiným způsobem). K tomu může dojít online, například prostřednictvím obchodních podmínek internetových stránek nebo jiných právních informací určených uživatelům. V offline režimu mohou být tyto informace uvedeny v tiráži nebo ve vydavatelské poznámce publikace.
|
6.2.4 Výjimka pro vymáhání práva
|
139) |
Je-li použití systémů AI k vytváření textu zveřejňovaného za účelem informování veřejnosti o záležitostech veřejného zájmu bez přezkumu člověkem (např. policejní varování týkající se teroristické hrozby vygenerované umělou inteligencí a zveřejněné na sociálních médiích) povoleno zákonem za účelem odhalování, prevence, vyšetřování nebo stíhání trestných činů, jsou zavádějící subjekty osvobozeny od povinnosti transparentnosti podle čl. 50 odst. 4 aktu o AI. Objasnění uvedená v bodech 46–48 výše, která se týkají podobné výjimky v čl. 50 odst. 1 aktu o AI, jsou relevantní i pro toto ustanovení. |
6.2.5 Vzájemné působení s jinými právními akty Unie
|
140) |
V rámci mediálního práva Unie je redakční odpovědnost klíčovým pojmem, který je definován v čl. 2 bodě 8 nařízení (EU) 2024/1083 (Evropský akt o svobodě médií) (39). V této souvislosti se „redakční odpovědností“ rozumí „provádění účinné kontroly výběru pořadů nebo tiskových publikací i jejich uspořádání pro účely poskytování mediální služby, a to bez ohledu na existenci odpovědnosti za poskytovanou službu podle vnitrostátního práva“. V určitých situacích se tato definice může překrývat s pojmem redakční odpovědnost použitým v čl. 50 odst. 4 druhém pododstavci aktu o AI, zejména v případech, kdy subjekty zavádějící systém AI splňují také podmínky pro status poskytovatelů mediálních služeb podle evropského aktu o svobodě médií. Redakční odpovědnost ve smyslu čl. 50 odst. 4 aktu o AI by proto měla být vykládána v souladu se stávajícím acquis v oblasti médií, bez ohledu na to, že se jedná o samostatný pojem, který se může vztahovat i na širší kontexty a na jiné zavádějící subjekty, pokud za zveřejnění textu přebírají redakční odpovědnost. Poskytovatelé mediálních služeb mohou vycházet ze svých stávajících redakčních postupů a norem, aby mohli využít výjimku podle čl. 50 odst. 4 druhého pododstavce aktu o AI. |
7. HORIZONTÁLNÍ POŽADAVKY NA INFORMACE POSKYTOVANÉ PODLE ČL. 50 ODST. 5 AKTU O AI
|
141) |
Podle čl. 50 odst. 5 aktu o AI mají být informace, jež mají být poskytovány v souladu s čl. 50 odst. 1 až 4 aktu o AI, dotčeným fyzickým osobám poskytnuty jasným a rozlišitelným způsobem nejpozději v době první interakce nebo expozice. Informace by měly být také v souladu s použitelnými požadavky na přístupnost. Mezi dotčené fyzické osoby v tomto kontextu patří osoby, které přímo interagují se systémem AI (čl. 50 odst. 1 aktu o AI), aktivní či pasivní uživatelé a další osoby vystavené syntetickému obsahu vytvořenému nebo manipulovanému umělou inteligencí (ať již s přímou interakcí se systémem AI, či bez ní (čl. 50 odst. 2 a 4 aktu o AI)), jakož i osoby, na které se vztahuje použití systémů rozpoznávání emocí nebo biometrické kategorizace (čl. 50 odst. 3 aktu o AI). |
7.1 Poskytování informací jasným a rozlišitelným způsobem
|
142) |
Informace se považují za poskytnuté jasným způsobem, jsou-li zřetelné, srozumitelné a přístupné pro dotčenou fyzickou osobu (včetně osob se zdravotním postižením). Informace se považují za poskytnuté rozlišitelným způsobem, pokud je možné je snadno odlišit od jiných informací a od prostředí, v němž je obsah prezentován. Musí být rovněž srozumitelné pro příjemce, včetně určitých skupin, jako jsou děti nebo osoby se zdravotním postižením, pokud patří mezi příjemce, kteří budou pravděpodobně vystaveni danému obsahu nebo budou se systémem interagovat (40). Aby byly informace poskytovány jasným a rozlišitelným způsobem, mohou být příslušné informace mimo jiné prezentovány v rámci interakce (podle čl. 50 odst. 1 aktu o AI) nebo v rámci příslušného obsahu (podle čl. 50 odst. 2 a 4 aktu o AI). Informace nebudou považovány za poskytnuté jasným a rozlišitelným způsobem, pokud je fyzické osoby za běžných podmínek expozice nebo interakce mohou snadno přehlédnout nebo opomenout (např. jsou uvedeny pouze v návodu k použití nebo skryty v několika úrovních nabídek v online rozhraní, nebo v podmínkách použití, které uživatelé často nečtou). |
7.2 První interakce nebo expozice
|
143) |
Ustanovení čl. 50 odst. 5 aktu o AI vyžaduje, aby byly informace dotčeným fyzickým osobám poskytnuty nejpozději v době první interakce nebo expozice. První interakce nebo expozice se vztahuje nejen na první fyzickou osobu, která interaguje se systémem AI nebo je mu (jeho výstupu) vystavena, ale také na jakoukoli následnou první interakci s tímto systémem AI nebo expozici tomuto systému (nebo jeho výstupu) ze strany jakékoli jiné fyzické osoby. Pokud jde o první interakci se systémem AI, měly by být informace poskytnuty alespoň jednou na začátku interaktivní relace, a to s ohledem na konkrétní kontexty uvedené v bodech 36 a 40 výše. Pokud jde o obsah vytvořený nebo manipulovaný umělou inteligencí, který spadá do působnosti čl. 50 odst. 2 a 4 aktu o AI, vztahuje se informační povinnost na každý výstup systému AI ve vztahu ke každé fyzické osobě, která je tomuto obsahu vystavena. Tento pojem by měl být chápán jako jakýkoli okamžik v čase, kdy je přiměřeně pravděpodobné, že fyzická osoba bude vystavena výstupu systému AI a bude zveřejnění vnímat, přičemž je třeba zohlednit zvláštní podmínky zveřejnění v případě zjevně tvůrčích, uměleckých a jiných děl (viz oddíl 6.1.3). Kromě toho mohou zavádějící subjekty informovat fyzické osoby ještě před první skutečnou interakcí nebo expozicí (např. na začátku obsahu zobrazujícího „deep fakes“). Pokud je však rozumně předvídatelné, že osoby nemusí obsah vnímat od začátku, pak pouhé zveřejnění na začátku obsahu tyto osoby dostatečně neinformuje a mělo by být, je-li to možné, doplněno o zveřejnění i v pozdějších fázích. Toto lze provést vhodným způsobem, s ohledem na cíl povinností v oblasti transparentnosti, jímž je zajistit účinné poskytování informací a smysluplnou informovanost uživatelů v čím dál tím více pohlcujících a realistických prostředích AI, kde mají uživatelé stále větší potíže rozlišit původ a pravdivost obsahu i interakce.
|
7.3 Splnění příslušných požadavků na přístupnost
|
144) |
Poskytovatelé systémů AI, na které se vztahují různé povinnosti v oblasti transparentnosti uvedené v čl. 50 odst. 1 až 4 aktu o AI, a subjekty zavádějící tyto systémy si musí být vědomi platných požadavků na přístupnost (např. podle směrnice 2016/2102 (41) a směrnice 2019/882 (42)) a musí posoudit, zda jejich produkt, služba nebo obsah musí být v souladu s těmito pravidly. V takovém případě musí zajistit přístupnost informací poskytovaných podle článku 50 aktu o AI, a to v souladu s platnými požadavky na přístupnost. Ustanovení článku 50 aktu o AI nestanoví žádné zvláštní nebo další požadavky na přístupnost. |
8. PROSAZOVÁNÍ ČLÁNKU 50 AKTU O AI
|
145) |
Cílem této části je objasnit: i) účinky dodržování kodexu správné praxe, pokud jde o plnění povinností v oblasti transparentnosti u obsahu vytvořeného umělou inteligencí; ii) úlohu příslušných dozorových orgánů při prosazování článku 50 aktu o AI; iii) použitelné sankce za porušení těchto povinností a iv) okamžik, kdy se povinnosti stanovené v článku 50 aktu o AI začnou uplatňovat. |
8.1 Účinky dodržování kodexu správné praxe, který byl posouzen jako přiměřený
|
146) |
Poskytovatelé systémů AI, na které se vztahuje čl. 50 odst. 2 a 4 aktu o AI, a subjekty zavádějící takové systémy mohou prokázat splnění svých příslušných povinností v oblasti transparentnosti týkajících se obsahu vytvořeného umělou inteligencí podle těchto ustanovení tím, že se budou řídit kodexem správné praxe, který byl posouzen jako přiměřený podle čl. 50 odst. 7 aktu o AI (43). Takový kodex nenahrazuje akt o AI ani tyto pokyny. Doplňuje je tím, že poskytuje jediný v rámci celé Unie uznávaný praktický rámec pro poskytovatele generativních systémů AI a subjekty zavádějící takové systémy, který jim umožňuje prokázat dodržování těchto povinností, a to bez ohledu na místo jejich usazení či provozu a na to, které orgány dozoru nad trhem jsou příslušné. |
|
147) |
Ačkoli poskytovatelé a zavádějící subjekty mohou splnění těchto povinností prokázat i vhodnými alternativními prostředky, dodržování kodexu správné praxe, který je považován za přiměřený, představuje přímočarý, předvídatelný a právně jistý způsob, jak toto splnění prokázat. V případě signatářů kodexu správné praxe, který byl podle čl. 50 odst. 7 aktu o AI (44) posouzen jako přiměřený, se Komise a příslušné orgány dozoru nad trhem ve své dozorové činnosti zaměří na posouzení, zda tito signatáři dodrželi kodex správné praxe a zavedli opatření v něm obsažená. Jelikož poskytovatelé a zavádějící subjekty, kteří se kodexem řídí, budou otevřeně informovat o opatřeních, která zavádějí za účelem splnění požadavků čl. 50 odst. 2, 4 a 5 aktu o AI, získají si větší důvěru ze strany Komise, ostatních příslušných orgánů dozoru nad trhem i dalších zúčastněných stran (včetně široké veřejnosti). Jakékoli vyvázání se z jednotlivých částí ze strany signatářů kodexu správné praxe, který je považován za přiměřený, bude mít za následek, že tito poskytovatelé a zavádějící subjekty přijdou o výhodu spočívající v usnadnění prokázání souladu v dané oblasti. |
|
148) |
Od poskytovatelů a zavádějících subjektů, kteří nejsou signatáři kodexu správné praxe považovaného za přiměřený podle čl. 50 odst. 7 aktu o AI, se očekává, že prokáží, jak splnili své povinnosti podle čl. 50 odst. 2, 4 a 5 aktu o AI jinými vhodnými prostředky. Od takových poskytovatelů a zavádějících subjektů se dále očekává, že vysvětlí, jakým způsobem jimi zavedená opatření zajišťují plnění jejich povinností vyplývajících z aktu o AI. Měli by například provést analýzu nedostatků, v níž porovnají opatření, která zavedli, s opatřeními stanovenými v kodexu správné praxe, který je posouzen jako přiměřený. Vzhledem k tomu, že příslušné orgány (včetně Úřadu pro AI) budou mít méně informací o tom, jak poskytovatelé a zavádějící subjekty, kteří nejsou signatáři kodexu správné praxe, zajišťují plnění svých povinností podle čl. 50 odst. 2, 4 a 5 aktu o AI, budou při sledování dodržování předpisů pravděpodobně potřebovat podrobnější informace. Například poskytovatelé, kteří se neřídí kodexem správné praxe, mohou být rovněž vystaveni většímu počtu žádostí o informace a žádostí o přístup za účelem posouzení účinnosti, interoperability, robustnosti a spolehlivosti technických řešení zavedených za účelem splnění požadavků čl. 50 odst. 2 aktu o AI. Zavádějící subjekty mohou být takovým žádostem vystaveny také v souvislosti se svými postupy při označování podle čl. 50 odst. 4 aktu o AI. |
|
149) |
Příslušné orgány mohou při stanovení výše pokut v závislosti na konkrétních okolnostech zohlednit jako polehčující okolnost závazky plněné v souladu s kodexem správné praxe, který je posouzen jako přiměřený (45). |
|
150) |
Není-li kodex správné praxe shledán přiměřeným podle čl. 50 odst. 7 aktu o AI, může Komise přijmout prováděcí akt, jímž stanoví společná pravidla pro plnění povinností podle čl. 50 odst. 2, 4 a 5 aktu o AI; tato pravidla by se vztahovala na všechny příslušné poskytovatele systémů AI spadajících do působnosti těchto ustanovení a na subjekty, které tyto systémy zavádějí (46). |
8.2 Orgány dozoru nad trhem
|
151) |
Za dohled nad systémy AI spadajícími do jejich působnosti a za prosazování příslušných pravidel, včetně povinností v oblasti transparentnosti stanovených v článku 50 aktu o AI, odpovídají orgány dozoru nad trhem určené členskými státy, úřad pro AI (47) a evropský inspektor ochrany údajů (48). Takové prosazování se uskutečňuje v rámci systému dozoru nad trhem a souladu výrobků s předpisy stanoveného nařízením (EU) 2019/1020 a aktem o AI. Donucovací pravomoci orgánů dozoru nad trhem ve vztahu k systémům AI jsou stanoveny v uvedených nařízeních. Uvedené orgány mohou přijmout donucovací opatření v souvislosti s povinnostmi uvedenými v článku 50 aktu o AI z vlastního podnětu nebo na základě stížnosti, kterou má právo podat každá dotčená osoba nebo jiná fyzická či právnická osoba, která má důvod se domnívat, že k takovému porušení došlo (49). Povinnosti orgánů dozoru nad trhem podle aktu o AI nemají vliv na pravomoci a úkoly jiných dozorových orgánů nebo orgánů pro ochranu základních práv vyplývající z jejich vlastního právního rámce v situacích, kdy se uplatňuje jak článek 50 aktu o AI, tak i tento rámec (např. ochrana údajů, ochrana spotřebitele). |
8.3 Sankce
|
152) |
Poskytovatelům a zavádějícím subjektům, kteří nedodržují příslušné povinnosti v oblasti transparentnosti stanovené v článku 50 aktu o AI, lze uložit pokuty až do výše 15 000 000 EUR nebo, dopustí-li se porušení podnik, až do výše 3 % jeho celkového celosvětového ročního obratu za předchozí finanční rok podle toho, která hodnota je vyšší. Orgánům, institucím a jiným subjektům EU lze za porušení povinností v oblasti transparentnosti uložit správní pokuty až do výše 750 000 EUR. V případě malých a středních podniků, včetně startupů, se výše každé pokuty omezuje na výše uvedené procentní sazby nebo částku podle toho, která hodnota je nižší. Pokuty musí být účinné, přiměřené a odrazující a musí zohledňovat zájmy malých a středních podniků a malých podniků se střední tržní kapitalizací, včetně startupů, a jejich ekonomickou životaschopnost. Při rozhodování o tom, zda uložit správní pokutu, a při stanovení výše správní pokuty v každém jednotlivém případě by příslušné orgány měly posoudit všechny relevantní okolnosti konkrétní situace a případně i řadu faktorů, které ovlivňují závažnost porušení (např. povahu, závažnost a trvání porušení a jeho důsledků, nedbalostní či úmyslný charakter, další přitěžující či polehčující okolnosti, míru spolupráce s orgány dozoru nad trhem atd.). |
8.4 Datum použitelnosti
|
153) |
Podle článku 113 aktu o AI se článek 50 aktu o AI použije ode dne 2. srpna 2026. To znamená, že všechny systémy AI spadající do oblasti působnosti tohoto nařízení, které jsou uvedeny na trh nebo do provozu v Unii, musí být k tomuto datu v souladu s tímto ustanovením, a to bez ohledu na datum jejich uvedení na trh nebo do provozu (50). Nařízení, kterým se mění akt o AI (souhrnný balíček pro digitální oblast týkající se umělé inteligence), které bylo nedávno přijato normotvůrcem Unie, stanoví cílené přechodné pravidlo pouze ve vztahu k povinnostem označování a zjišťování podle čl. 50 odst. 2 aktu o AI pro generativní systémy AI uvedené na trh nebo do provozu před 2. srpnem 2026. Poskytovatelům těchto stávajících systémů se tím poskytuje přechodné období, během něhož musí své systémy uvést do souladu s předpisy do 2. prosince 2026. Systémy, které jsou částečně interaktivní a částečně generativní, mohou toto přechodné období využít pouze v souvislosti s povinností označování podle čl. 50 odst. 2 aktu o AI, zatímco plnění informační povinnosti zveřejnění u systémů AI, které přímo interagují s fyzickými osobami, musí být zajištěno již od 2. srpna 2026. |
|
154) |
Výstupy vytvořené nebo manipulované umělou inteligencí, které spadají do působnosti čl. 50 odst. 2 aktu o AI, a „deep fakes“ spadající do působnosti čl. 50 odst. 4 prvního pododstavce aktu o AI, které byly vytvořeny nebo zmanipulovány před 2. srpnem 2026, nemusí být zpětně označeny ani opatřeny štítkem. Totéž platí pro texty týkající se záležitostí veřejného zájmu, které spadají do působnosti čl. 50 odst. 4 druhého pododstavce aktu o AI a které byly vytvořeny nebo zmanipulovány umělou inteligencí a zveřejněny před 2. srpnem 2026. Naopak, budou-li texty, které byly vytvořeny nebo zmanipulovány před 2. srpnem 2026, zveřejněny v tento den nebo později, musí být označeny. S ohledem na cíl transparentnosti a posílení důvěry a integrity informačního ekosystému, o který akt o AI usiluje, jsou subjekty zavádějící systémy AI a další subjekty, které mají v držení nebo šíří již existující neoznačené „deep fakes“, nicméně vyzývány, aby tyto „deep fakes“ označovaly, aniž by se od nich očekávalo vynaložení nepřiměřeného úsilí k tomuto účelu (jako je například prověřování stávajících databází obsahu nebo úprava již vytištěných obalů výrobků). |
9. PŘEZKUM A AKTUALIZACE POKYNŮ
|
155) |
Tyto pokyny představují první výklad s praktickými příklady povinností v oblasti transparentnosti stanovených v článku 50 aktu o AI. Komise tyto pokyny přezkoumá, jakmile to bude nutné, s ohledem na praktické zkušenosti získané při provádění povinností týkajících se transparentnosti a na tempo technologického, společenského a regulačního vývoje v této oblasti. To zahrnuje také veškeré relevantní zkušenosti s donucovacími opatřeními v oblasti dozoru nad trhem a výklady k článku 50 aktu o AI vydané Soudním dvorem Evropské unie. Během takového přezkumu může Komise rozhodnout o zrušení nebo změně těchto pokynů. Komise vybízí poskytovatele systémů AI a subjekty, které systémy zavádějí, vnitrostátní orgány dozoru nad trhem prostřednictvím rady pro AI, poradní fórum, výzkumnou obec a organizace občanské společnosti, aby k tomuto procesu přispěli reakcemi na budoucí výzvy k veřejné konzultaci. |
(1) Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) (Úř. věst. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
(2) Článek 1 aktu o AI.
(3) Ustanovení čl. 2 odst. 1 písm. a) a čl. 3 bodů 3, 9 a 11 aktu o AI. Další pokyny k pojmům „uvedení na trh“, „uvedení do provozu“ a „používání“ naleznete v pokynech Komise k zakázaným postupům v oblasti umělé inteligence, C(2025) 5052, a ve sdělení Komise – „Modrá příručka“ k provádění pravidel EU pro výrobky 2022, oddíl 2 (Úř. věst. C 247, 29.6.2022, s. 1).
(4) Ustanovení čl. 2 odst. 1 písm. c) a 22. bodu odůvodnění aktu o AI.
(5) Ustanovení čl. 3 bodu 4 aktu o AI.
(6) Ustanovení čl. 2 odst. 1 písm. b) a c) aktu o AI.
(7) Nařízení Evropského parlamentu a Rady (EU) 2022/2065 ze dne 19. října 2022 o jednotném trhu digitálních služeb (Úř. věst. L 277, 27.10.2022, s. 1).
(8) Viz oddíl 2.5 pokynů Komise k zakázaným postupům v oblasti umělé inteligence podle nařízení (EU) 2024/1689 (akt o AI), Brusel, 29.7.2025, C(2025) 5052 final.
(9) Definice zavádějícího subjektu rovněž vylučuje uživatele, kteří se těmito činnostmi zabývají (viz oddíl 2.3 výše).
(10) Ustanovení 25. bodu odůvodnění aktu o AI.
(11) Ve 102. bodě odůvodnění aktu o AI se vysvětluje, že zpřístupnění softwaru a dat na základě svobodné licence s otevřeným zdrojovým kódem „umožňuje jejich otevřené sdílení a v jejichž rámci mohou uživatelé k nim nebo jejich změněným verzím volně přistupovat, používat je, upravovat a přerozdělovat“.
(12) Další informace týkající se článku 5 aktu o AI naleznete v pokynech Komise k zakázaným postupům v oblasti umělé inteligence podle nařízení (EU) 2024/1689 (akt o AI), C(2025) 5052 final.
(13) Viz článek 6 aktu o AI.
(14) Zejména čl. 26 odst. 11 aktu o AI ukládá subjektům zavádějícím vysoce rizikové systémy AI, které přijímají rozhodnutí nebo pomáhají při přijímání rozhodnutí týkajících se fyzických osob, povinnost tyto fyzické osoby informovat o tom, že jsou vystaveny použití vysoce rizikového systému AI. Tyto povinnosti týkající se transparentnosti doplňují povinnosti uvedené v článku 50 aktu o AI, jelikož se týkají odlišných informací, které je třeba poskytnout fyzickým osobám, lze je však sloučit do jediného oznámení.
(15) Ustanovení čl. 3 bodu 66 aktu o AI definuje obecný systém AI jako systém AI založený na obecném modelu AI, který je schopen sloužit různým účelům, a to jak pro přímé použití, tak pro integraci do jiných systémů AI.
(16) Ustanovení čl. 50 odst. 2 aktu o AI obsahuje výslovný odkaz na obecné systémy AI.
(17) Ustanovení 133. bodu odůvodnění aktu o AI.
(18) Viz čl. 3 bod 1 aktu o AI. Další pokyny k pojmu „systém AI“ naleznete v pokynech Komise k definici systému umělé inteligence ze dne 29.7.2025, C(2025) 5053 final.
(19) Viz 132. bod odůvodnění aktu o AI. To neznamená, že by systém musel být zaměřen právě na tyto zranitelné skupiny. Pokud je systém určen k interakci s jakoukoli osobou z řad veřejnosti, zahrnuje to i příslušníky zranitelných skupin, které by poskytovatelé měli při zavádění oznamovacích opatření zohlednit.
(20) Příslušné požadavky na přístupnost najdete v oddíle 7.3.
(21) Například elektronická potvrzení atributů, jak jsou stanovena nařízením (EU) č. 910/2014 a jak jsou k dispozici v evropských peněženkách digitální identity zřízených podle téhož nařízení, jakož i v navrhovaných evropských podnikatelských peněženkách, mohou představovat bezpečný a účinný způsob identifikace agentů AI. Tyto peněženky umožňují ukládat a spravovat elektronická osvědčení, která ověřují totožnost, atributy a oprávnění agenta AI, a umožňují tak plynulé a důvěryhodné poskytování informací fyzickým osobám.
(22) To platí i pro obdobné výjimky ve prospěch donucovacích činností, které jsou stanoveny v čl. 50 odst. 2 až 4 aktu o AI.
(23) Směrnice Evropského parlamentu a Rady 2005/29/ES ze dne 11. května 2005 o nekalých obchodních praktikách vůči spotřebitelům na vnitřním trhu (Úř. věst. L 149, 11.6.2005, s. 2).
(24) Směrnice Evropského parlamentu a Rady 2011/83/EU ze dne 25. října 2011 o právech spotřebitelů (Úř. věst. L 304, 22.11.2011, s. 64).
(25) Směrnice Evropského parlamentu a Rady 2012/13/EU ze dne 22. května 2012 o právu na informace v trestním řízení (Úř. věst. L 142, 1.6.2012 s. 1); směrnice Evropského parlamentu a Rady 2012/29/EU ze dne 25. října 2012, kterou se zavádí minimální pravidla pro práva, podporu a ochranu obětí trestného činu (Úř. věst. L 315, 14.11.2012, s. 57).
(26) Jak jsou definovány v čl. 3 bodě 1 aktu o AI.
(27) Ve 133. bodě odůvodnění aktu o AI se upřesňuje, že je vhodné požadovat, aby poskytovatelé těchto systémů zavedli technická řešení, která umožňují označení ve strojově čitelném formátu a zjištění, že výstup vytvořil nebo s ním manipuloval systém AI, a nikoli člověk. Povinností týkající se zjišťování se zabývá 135. bod odůvodnění aktu o AI.
(28) Viz příloha II prováděcího rozhodnutí Komise C(2025) 3871 final o žádosti o normalizaci adresované Evropskému výboru pro normalizaci a Evropskému výboru pro normalizaci v elektrotechnice, pokud jde o vysoce rizikové systémy AI, na podporu nařízení Evropského parlamentu a Rady (EU) 2024/1689 a o zrušení prováděcího rozhodnutí C(2023) 3215 final.
(29) Viz také 11. bod odůvodnění aktu o AI.
(30) Viz také 137. bod odůvodnění aktu o AI.
(31) Ustanovení 136. bodu odůvodnění aktu o AI.
(32) Toto kritérium je proto třeba chápat samostatně a odlišně od pojmu „klamání“, jak je uveden ve směrnici 2005/29/ES o nekalých obchodních praktikách vůči spotřebitelům na vnitřním trhu (směrnice o nekalých obchodních praktikách), https://eur-lex.europa.eu/eli/dir/2005/29/oj/ces.
(33) V této souvislosti viz čl. 1 písm. b) směrnice o audiovizuálních mediálních službách.
(34) To platí stejně tak pro zveřejněné texty, které informují veřejnost o záležitostech veřejného zájmu.
(35) Další informace o vzájemném působení mezi článkem 50 aktu o AI a nařízením o digitálních službách naleznete také v oddíle 4.4.
(36) 2. bod odůvodnění nařízení o digitálních službách.
(37) Podrobnější vysvětlení naleznete ve společných pokynech Komise a Evropského sboru pro ochranu osobních údajů týkajících se vzájemného vztahu mezi aktem o AI a právem Unie v oblasti ochrany údajů (v přípravě).
(38) Analogicky viz věc C-89/04, Mediakabel, EU:C:2005:348, bod 33; C-192/04, Lagardère, EU:C:2005:475, bod 31; C-306/05, SGAE, EU:C:2006:764, body 37–40; C-527/15, Stichting Brein, EU:C:2017:300, body 43–44 a citovaná judikatura; věc C-135/23, GEMA, EU:C:2024:526, bod 38 a citovaná judikatura).
(39) Nařízení Evropského parlamentu a Rady (EU) 2024/1083 ze dne 11. dubna 2024, kterým se stanoví společný rámec pro mediální služby na vnitřním trhu a mění směrnice 2010/13/EU (Evropský akt o svobodě médií) (Úř. věst. L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).
(40) Pokud jsou součástí cílové skupiny daného obsahu děti, musí tato oznámení být: i) vůči dětem vstřícné, přiměřené jejich věku, snadno srozumitelné a snadno přístupné všem dětem, včetně dětí se zdravotním postižením a/nebo s dalšími potřebami v oblasti přístupnosti; ii) prezentovány jasně, srozumitelně a co nejjednodušeji a nejstručněji; iii) prezentovány způsobem, který je snadno přezkoumatelný a který umožňuje okamžitý a intuitivní přístup v okamžiku, kdy se stanou relevantními; iv) uváděny v úředním jazyce (úředních jazycích) členského státu, v němž je služba poskytována; v) poutavé pro děti. To může zahrnovat i použití grafiky, videí a/nebo postav či jiných technik; vi) předávány dětem postupně v průběhu času, aby si je uživatel co nejvíce zapamatoval.
(41) Směrnice Evropského parlamentu a Rady (EU) 2016/2102 ze dne 26. října 2016 o přístupnosti webových stránek a mobilních aplikací subjektů veřejného sektoru (Text s významem pro EHP) (Úř. věst L 327, 2.12.2016, s. 1).
(42) Směrnice Evropského parlamentu a Rady (EU) 2019/882 ze dne 17. dubna 2019 o požadavcích na přístupnost u výrobků a služeb (Text s významem pro EHP), PE/81/2018/REV/1 (Úř. věst. L 151, 7.6.2019, s. 70).
(43) Viz příslušné informace o Kodexu správné praxe pro transparentnost obsahu vytvořeného umělou inteligencí | Utváření digitální budoucnosti Evropy, zveřejněno dne 10. června 2026.
(44) Viz Stanovisko Komise k posouzení kodexu správné praxe pro transparentnost obsahu vytvořeného umělou inteligencí |Utváření digitální budoucnosti Evropy.
(45) Ustanovení čl. 99 odst. 7 písm. e) aktu o AI.
(46) Ustanovení čl. 50 odst. 7 aktu o AI.
(47) Jako orgán dozoru nad trhem v oblasti systémů AI založených na obecných modelech AI poskytovaných stejným poskytovatelem (čl. 75 odst. 1 aktu o AI). Toto ustanovení se vztahuje na povinnost poskytovatelů podle čl. 50 odst. 1 a 2 aktu o AI. Pokud jde o čl. 50 odst. 3 a 4 aktu o AI, úřad pro AI bude mít pravomoc pouze v případě, že příslušný poskytovatel obecného modelu a systému AI je zároveň subjektem zavádějícím daný systém.
(48) Jako orgán dozoru nad trhem pro orgány, instituce a další subjekty EU.
(49) Ustanovení článku 85 aktu o AI.
(50) Zvláštní pravidlo pro zachování dosavadních podmínek (tzv. grandfathering) podle čl. 111 odst. 2 aktu o AI se vztahuje na vysoce rizikové systémy AI uvedené na trh před datem použitelnosti pravidel pro vysoce rizikové systémy pouze z hlediska souladu těchto systémů s požadavky a povinnostmi kladenými na vysoce rizikové systémy AI. Pokud se na vysoce rizikový systém AI vztahuje také jedna nebo více povinností týkajících se transparentnosti podle článku 50 aktu o AI, toto zvláštní přechodné pravidlo se neuplatní, protože povinnosti týkající se vysoce rizikových systémů AI a povinnosti transparentnosti podle článku 50 se uplatňují kumulativně a přechodné pravidlo je odůvodněné a omezené pouze na soulad s ustanoveními týkajícími se vysoce rizikových systémů.
ELI: http://data.europa.eu/eli/C/2026/6005/oj
ISSN 1977-0863 (electronic edition)