European flag

Úřední věstník
Evropské unie

CS

Řada C


C/2026/6005

12.11.2026

SDĚLENÍ KOMISE

Pokyny k plnění povinností týkajících se transparentnosti u některých systémů AI podle článku 50 nařízení (EU) 2024/1689 (tzv. „akt o AI“)

(C/2026/6005)

Obsah

1.

SOUVISLOSTI A CÍLE 3

2.

PŘEHLED POVINNOSTÍ V OBLASTI TRANSPARENTNOSTI A HORIZONTÁLNÍCH TÉMAT 3

2.1

Přehled povinností v oblasti transparentnosti podle článku 50 aktu o AI 3

2.2

Odůvodnění a cíle 4

2.3

Odpovědné subjekty podle článku 50 aktu o AI 5

2.4

Výjimky z oblasti působnosti aktu o AI 7

2.4.1

Zavádějící subjekty jednající v rámci čistě osobní neprofesionální činnosti 7

2.4.2

Výzkum a vývoj 8

2.4.3

Systémy AI zpřístupněné na základě svobodných licencí a licencí s otevřeným zdrojovým kódem 8

2.5

Vzájemné působení se zakázanými postupy, požadavky na vysoce rizikové systémy AI a gramotností v oblasti AI 9

2.6

Vzájemné působení s pravidly platnými pro obecné modely a/nebo obecné systémy AI 9

3.

USTANOVENÍ ČL. 50 BODU 1 AKTU O AI: TRANSPARENTNOST INTERAKTIVNÍCH SYSTÉMŮ AI 9

3.1

Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti 10

3.1.1

Systémy AI určené k přímé interakci s fyzickými osobami 10

3.1.2

Informační povinnost podle čl. 50 odst. 1 aktu o AI 12

3.2

Výjimky z informační povinnosti podle čl. 50 odst. 1 aktu o AI 14

3.2.1

Výjimka v případě zřejmé interakce se systémem AI 14

3.2.2

Výjimka pro systémy AI, jejichž používání je zákonem povoleno pro účely vymáhání práva 16

3.3

Vzájemné působení s jinými právními akty Unie 17

4.

USTANOVENÍ ČL. 50 BODU 2 AKTU O AI: OZNAČOVÁNÍ A ZJIŠŤOVÁNÍ OBSAHU VYTVOŘENÉHO NEBO MANIPULOVANÉHO UMĚLOU INTELIGENCÍ 18

4.1

Hlavní prvky a pojmy čl. 50 odst. 2 aktu o AI 18

4.1.1

Systémy AI vytvářející syntetický obsah nebo s ním manipulující 18

4.1.2

Modality syntetického obsahu spadající do působnosti čl. 50 odst. 2 aktu o AI 19

4.1.3

Obsah, který nespadá do působnosti čl. 50 odst. 2 aktu o AI 20

4.2

Povinnost označování a zjišťování podle čl. 50 odst. 2 aktu o AI 21

4.2.1

Povinnost označování 21

4.2.2

Povinnost zjišťování 22

4.2.3

Dodržování požadavků na technická řešení: účinná, interoperabilní, robustní a spolehlivá 22

4.3

Výjimky z povinností podle čl. 50 odst. 2 aktu o AI 24

4.4

Vzájemné působení s jinými právními akty Unie 25

5.

USTANOVENÍ ČL. 50 ODST. 3 AKTU O AI: SYSTÉMY ROZPOZNÁVÁNÍ EMOCÍ A SYSTÉMY BIOMETRICKÉ KATEGORIZACE 26

5.1

Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti podle čl. 50 odst. 3 aktu o AI 27

5.1.1

Pojem systému rozpoznávání emocí 27

5.1.2

Pojem systému biometrické kategorizace 27

5.1.3

Informační povinnost podle čl. 50 odst. 3 aktu o AI 27

5.2

Výjimka pro účely vymáhání práva 28

5.3

Vzájemné působení s jinými právními akty Unie 28

6.

USTANOVENÍ ČL. 50 ODST. 4: OZNAČOVÁNÍ „DEEP FAKES“ A URČITÝCH TEXTOVÝCH PUBLIKACÍ 28

6.1

Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti týkající se „deep fakes“ podle čl. 50 odst. 4 aktu o AI 28

6.1.1

Pojem „deep fake“ 29

6.1.2

Povinnost zveřejnění podle čl. 50 odst. 4 prvního pododstavce aktu o AI 31

6.1.3

Transparentnost uměleckého, tvůrčího, satirického, fiktivního či obdobného obsahu typu „deep fake“ 32

6.1.4

Výjimka pro vymáhání práva 34

6.1.5

Vzájemné působení s jinými právními akty Unie 34

6.2

Hlavní prvky, pojmy a související povinnosti týkající se transparentnosti u textů vytvořených nebo manipulovaných umělou inteligencí podle čl. 50 odst. 4 aktu o AI 35

6.2.1

Text zveřejněný za účelem informování veřejnosti o záležitostech veřejného zájmu 36

6.2.2

Povinnost zveřejnění podle čl. 50 odst. 4 druhého pododstavce aktu o AI 37

6.2.3

Výjimka z povinnosti transparentnosti u textů, které byly podrobeny přezkumu člověkem nebo redakční kontrole a za jejichž zveřejnění nese redakční odpovědnost fyzická nebo právnická osoba 37

6.2.4

Výjimka pro vymáhání práva 38

6.2.5

Vzájemné působení s jinými právními akty Unie 39

7.

HORIZONTÁLNÍ POŽADAVKY NA INFORMACE POSKYTOVANÉ PODLE ČL. 50 ODST. 5 AKTU O AI 39

7.1

Poskytování informací jasným a rozlišitelným způsobem 39

7.2

První interakce nebo expozice 40

7.3

Splnění příslušných požadavků na přístupnost 40

8.

PROSAZOVÁNÍ ČLÁNKU 50 AKTU O AI 40

8.1

Účinky dodržování kodexu správné praxe, který byl posouzen jako přiměřený 41

8.2

Orgány dozoru nad trhem 42

8.3

Sankce 42

8.4

Datum použitelnosti 42

9.

PŘEZKUM A AKTUALIZACE POKYNŮ 43

1.   SOUVISLOSTI A CÍLE

1)

Dne 1. srpna 2024 vstoupilo v platnost nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění některá nařízení (1) (dále jen „akt o AI“). Akt o AI stanoví harmonizovaná pravidla pro uvádění umělé inteligence (dále jen „AI“) na trh a do provozu a pro její používání v Unii (2). Cílem aktu je podporovat inovace a zavádění důvěryhodné AI a zároveň zajistit vysokou úroveň ochrany zdraví, bezpečnosti a základních práv v Unii, včetně demokracie a právního státu.

2)

Akt o AI vychází z přístupu založeného na posouzení rizik a rozděluje systémy AI do čtyř různých rizikových kategorií, z nichž jednou jsou systémy AI představující rizika v oblasti transparentnosti, na které se vztahují povinnosti stanovené v článku 50 aktu o AI. Tyto povinnosti týkající se transparentnosti se uplatní dva roky po vstupu aktu o AI v platnost, tj. ode dne 2. srpna 2026.

3)

V souladu s čl. 96 odst. 1 písm. d) aktu o AI jsou tyto pokyny Komise vydány s cílem poskytnout praktické vodítko, které má pomoci příslušným orgánům, jakož i poskytovatelům systémů AI a subjektům, které tyto systémy zavádějí, zajistit splnění povinností v oblasti transparentnosti podle článku 50 aktu o AI konzistentním, účinným, přiměřeným a jednotným způsobem.

4)

Při vypracování těchto pokynů byly zohledněny připomínky různých zúčastněných stran shromážděné v rámci rozsáhlé konzultace zorganizované Komisí, připomínky členských států v rámci rady pro AI a rovněž připomínky zúčastněných stran k návrhu pokynů, který byl zveřejněn ke konzultaci.

5)

Tyto pokyny nejsou závazné. Závazný výklad aktu o AI může v konečném důsledku podat pouze Soudní dvůr Evropské unie (dále jen „SDEU“).

2.   PŘEHLED POVINNOSTÍ V OBLASTI TRANSPARENTNOSTI A HORIZONTÁLNÍCH TÉMAT

2.1   Přehled povinností v oblasti transparentnosti podle článku 50 aktu o AI

6)

Článek 50 aktu o AI obsahuje čtyři povinnosti týkající se transparentnosti, z nichž každá se vztahuje na různé typy systémů AI nebo jejich výstupy.

Ustanovení

Typ systému AI / výstup

Povinnost v oblasti transparentnosti

Výjimky nebo zvláštní režimy

Čl. 50 odst. 1

Systémy AI, které přímo interagují s fyzickými osobami

Poskytovatelé musí vyvinout a navrhnout systém AI tak, aby dotčené fyzické osoby byly vyrozuměny o tom, že interagují se systémem AI.

Výjimky v případě, že 1) umělý původ interakce je zřejmý, nebo 2) systém je ze zákona oprávněn odhalovat trestné činy, předcházet jim, vyšetřovat je nebo stíhat, s výjimkou případů, kdy je tento systém k dispozici veřejnosti za účelem hlášení trestných činů.

Čl. 50 odst. 2

Systémy AI, které vytvářejí syntetický obrazový, video, zvukový či textový obsah nebo s ním manipulují

Poskytovatelé musí zajistit, aby výstupy systému AI byly označeny ve strojově čitelném formátu a zjistitelné jako uměle vytvořené nebo manipulované pomocí technických řešení, která jsou účinná, interoperabilní, robustní a spolehlivá.

Výjimky v případě, že 1) systém AI plní asistenční funkci při standardní editaci nebo podstatně nemění vstupní údaje nebo jejich sémantiku, nebo 2) systém AI je ze zákona oprávněn odhalovat trestné činy, předcházet jim, vyšetřovat je nebo stíhat.

Čl. 50 odst. 3

Systémy AI pro rozpoznávání emocí nebo pro biometrickou kategorizaci

Zavádějící subjekty musí informovat o provozu systému fyzické osoby, které jsou mu vystaveny.

Výjimka v případě, že zákon systému AI umožňuje odhalovat trestné činy, předcházet jim nebo je vyšetřovat.

Čl. 50 odst. 4

Systémy AI, které vytvářejí tzv. deep fake nebo text, jenž je zveřejněn za účelem informování veřejnosti o záležitostech veřejného zájmu, nebo s ním manipulují

Zavádějící subjekty musí zveřejnit, že obsah byl uměle vytvořen nebo s ním bylo manipulováno.

Výjimky platí v případě, že 1) systém AI je ze zákona oprávněn odhalovat trestné činy, předcházet jim, vyšetřovat je nebo stíhat, nebo 2) byl zveřejněný text podroben přezkumu člověkem nebo redakční kontrole a vztahuje se na něj redakční odpovědnost.

Na „deep fakes“, které jsou součástí uměleckých, tvůrčích, fiktivních, satirických nebo obdobných děl nebo programů, se vztahuje zvláštní režim zveřejňování.

7)

Každá z těchto čtyř povinností je podrobněji zkoumána v oddílech 3 až 6 těchto pokynů. Ustanovení čl. 50 odst. 5 aktu o AI navíc ukládá, že informace uvedené v odstavcích 1 až 4 se dotčeným fyzickým osobám musí poskytnout jasným a rozlišitelným způsobem nejpozději v době první interakce nebo expozice a musí být v souladu s použitelnými požadavky na přístupnost. Tyto požadavky jsou upřesněny v oddíle 7.

8)

Různé povinnosti v oblasti transparentnosti stanovené v článku 50 aktu o AI se mohou na jeden systém AI (nebo jeho výstupy) vztahovat kumulativně, což může vést k odpovědnosti různých subjektů (poskytovatelů nebo zavádějících subjektů). Pokud například systém AI vytváří obrázky v rámci přímé interakce s fyzickou osobou, může být poskytovatel tohoto systému povinen dodržet ustanovení čl. 50 odst. 1 i odst. 2 aktu o AI. Pokud je tento systém schopen vytvářet také obrázky představující „deep fakes“ nebo texty zveřejňované ohledně záležitostí veřejného zájmu, může být zavádějící subjekt navíc povinen dodržovat i čl. 50 odst. 4 aktu o AI.

2.2   Odůvodnění a cíle

9)

Jak je vysvětleno ve 132. až 136. bodech odůvodnění aktu o AI, účelem povinností v oblasti transparentnosti je snížit rizika vydávání se za jinou osobu, klamání, zavádějících informací, manipulací ve velkém měřítku a podvodů a zmírnit potenciální nepříznivé dopady na demokratické procesy a důvěru společnosti způsobené obsahem vytvořeným nebo zmanipulovaným umělou inteligencí nebo interakcí s AI. Informování fyzických osob o tom, že interakce a obsah pocházejí od AI, jim pomůže činit informovaná rozhodnutí a zároveň přispěje k zajištění důvěry v informační ekosystém a jeho integrity. Transparentnost není pouze technickým požadavkem na dodržování předpisů, ale také nezbytnou podmínkou pro to, aby fyzické osoby mohly rozpoznat interakce a obsah zprostředkované umělou inteligencí či využití systémů rozpoznávání emocí nebo biometrické kategorizace. Zajištění transparentního a důvěryhodného využívání interaktivních a generativních systémů AI rovněž umožní zachovat osobní autonomii a evropské hodnoty, lidskou důstojnost a další základní práva (např. svobodu myšlení, soukromí, rovnost a nediskriminaci, ochranu spotřebitele, duševní vlastnictví atd.), a zároveň zachovat svobodu projevu a důvěryhodnost mediálního obsahu.

2.3   Odpovědné subjekty podle článku 50 aktu o AI

10)

Podle čl. 3 bodu 3 aktu o AI jsou poskytovateli fyzické nebo právnické osoby, veřejné orgány, agentury nebo jiné subjekty, které vyvíjejí nebo nechávají vyvíjet systémy AI a uvádějí je na trh Unie nebo je uvádějí do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou, ať už za úplatu, nebo zdarma. Poskytovatelé musí dodržovat příslušné povinnosti týkající se transparentnosti stanovené v čl. 50 odst. 1 a 2 aktu o AI, které se na ně vztahují, a to bez ohledu na to, zda jsou usazeni nebo se nacházejí v Unii či ve třetí zemi (3). Akt o AI se vztahuje i na poskytovatele, kteří jsou usazeni nebo se nacházejí mimo Unii, pokud se výstup jejich systému AI používá v Unii (4). Náhodné, nepředvídatelné nebo neoprávněné následné použití by však samo o sobě nemělo vést k uplatnění povinností vůči takovým poskytovatelům interaktivních nebo generativních systémů AI ze třetích zemí, jejichž systémy nejsou uvedeny na trh ani do provozu v Unii, aniž jsou tím dotčeny pravomoci příslušných orgánů dozoru nad trhem posoudit výstupy těchto systémů jako nesplňující požadavky aktu o AI.

11)

Poskytovatelé musí zajistit, aby jejich interaktivní nebo generativní systémy AI měly transparentnost zabudovanou do jejich návrhu a provozu, a zajistit, aby byly splněny všechny příslušné povinnosti v oblasti transparentnosti uvedené v čl. 50 odst. 1, 2 a 5 aktu o AI, a to nejpozději při uvedení těchto systémů na trh nebo do provozu. Všechny fyzické osoby, které interagují se systémem AI nebo jsou vystaveny jeho výstupům v oblasti působnosti aktu o AI, musí být po celou dobu životního cyklu systému AI, jenž byl uveden na trh nebo do provozu daným poskytovatelem, účinně a důsledně informovány (bez ohledu na to, kdo jsou zavádějící subjekty nebo ostatní uživatelé systému).

Například společnost poskytuje na trhu Unie pod svým vlastním jménem, názvem nebo ochrannou známkou generativní nebo interaktivní aplikaci AI (např. chatbot, generátor obrazu, AI agenta) spotřebitelům, profesionálním uživatelům nebo jiným právnickým osobám, které mohou systém AI přímo používat k interakci nebo tvorbě obsahu (včetně integrace systému do svých stávajících procesů a jeho následného využívání bez nutnosti úprav či dalších komponent). Společnost je poskytovatelem odpovědným za plnění povinností v oblasti transparentnosti podle čl. 50 odst. 1 a/nebo odst. 2 aktu o AI, a to bez ohledu na to, zda je systém AI poskytován bezplatně či za úplatu, a bez ohledu na to, zda je poskytovatel usazen nebo se nachází v Unii či ve třetí zemi.

Jiným příkladem poskytovatele je společnost nebo jiná organizace (např. orgán veřejné správy), která vyvinula interaktivní systém AI (např. chatbot) vlastními silami a uvádí jej do provozu v Unii pro vlastní potřebu a pod svým jménem nebo ochrannou známkou.

Pokud si společnost vezme již existující generativní systém AI, který na trh uvedl jiný poskytovatel, a tento systém změní (např. pomocí nových trénovacích dat) a následně jej uvede do provozu pod svým vlastním jménem nebo ochrannou známkou, stává se tato společnost poskytovatelem nového systému, aniž je tím dotčena odpovědnost poskytovatele původního systému AI za tento původní systém.

12)

Zavádějící subjekty nebo subjekty, které zavádějí, jsou fyzické nebo právnické osoby, veřejné orgány, agentury nebo jiné subjekty, které v rámci své pravomoci využívají systémy AI, s výjimkou případů, kdy je systém AI využíván při osobní neprofesionální činnosti (5). „Pravomoc“ nad systémem AI by měla být chápána jako převzetí odpovědnosti za rozhodnutí o zavedení systému a za způsob skutečného používání systému (včetně jeho výstupů). To nutně nevyžaduje technickou kontrolu nad fungováním systému AI, pokud zavádějící subjekt rozhoduje o tom, k jakým účelům a jakým způsobem bude systém AI využíván (včetně decentralizovaných pracovních postupů a skupinových podnikových struktur). Zavádějící subjekty zapojené do složitých hodnotových řetězců výroby a distribuce obsahu by měly přijmout přiměřená opatření k zajištění toho, aby označení obsahu, které zavedly v souladu s čl. 50 odst. 4 aktu o AI, bylo pro cílové a předvídatelné příjemce zobrazeno jasným a rozlišitelným způsobem v době první expozice v souladu s čl. 50 odst. 5 aktu o AI (např. prostřednictvím smluvních podmínek s distribučními partnery, nastavení uživatelského prostředí (UX) a zobrazovaných rozhraní).

13)

Na zavádějící subjekty se vztahují povinnosti v oblasti transparentnosti uvedené v čl. 50 odst. 3 a 4 aktu o AI v případě, že jsou usazeny nebo se nacházejí v Unii, nebo v případě, že jsou usazeny nebo se nacházejí ve třetí zemi, avšak výstup systému AI se používá v Unii (6). Ve druhém z uvedených případů se povinnosti týkající se transparentnosti vztahují na subjekty usazené nebo nacházející se mimo Unii, pokud zavádějící subjekt sám předpokládá šíření a využívání výstupů AI v Unii (tj. tím, že řídí nebo schvaluje jejich distribuci v rámci Unie, včetně zveřejňování „deep fakes“ na celosvětově přístupném internetu). Zavádějící subjekty ze třetích zemí však nejsou povinnostmi v oblasti transparentnosti vázány, pokud se obsah systému AI dostává k příjemcům v Unii prostřednictvím kanálů, které jsou nepředvídatelné a mimo jejich kontrolu.

14)

Je-li subjektem, který zavádí systém AI, právnická osoba, v rámci jejíž pravomoci je systém využíván (např. reklamní agentura), jednotliví zaměstnanci, kteří jednají na základě pokynů a pod dohledem této právnické osoby (např. tvůrci digitálních animací, weboví designéři, tvůrci obsahu, novináři), by neměli být považováni za samostatné subjekty zavádějící tento systém. Právnická osoba zůstává zavádějícím subjektem i tehdy, pokud do provozu systému svým jménem a na svou odpovědnost a pod svou kontrolou zapojí třetí strany (např. dodavatele, nezávislé profesionály).

Například médium usazené v Unii, jehož redaktoři využívají systém AI k doplnění svého písemného zpravodajství o aktuálním dění o textové publikace vytvořené umělou inteligencí, které se týkají záležitostí veřejného zájmu a jsou zveřejňovány na celosvětově přístupných internetových stránkách, je zavádějícím subjektem spadajícím do působnosti aktu o AI. Stejně tak společnost usazená ve třetí zemi, která použije systém AI k vytvoření „deep fake“ známé osobnosti vystupující v reklamě, kterou lze shlédnout v Unii, je rovněž zavádějícím subjektem spadajícím do oblasti působnosti aktu o AI.

Naopak společnost, která pouze zadá reklamní agentuře vytvoření reklamy, aniž by rozhodovala a vykonávala kontrolu nad tím, zda a jak reklamní agentura využívá AI v rámci výrobního procesu, není zavádějícím subjektem.

15)

Provozovatelé (např. poskytovatelé a zavádějící subjekty) mohou ve vztahu k systému AI plnit více úloh současně. Například by se mohlo stát, že společnost vyvine vlastní generativní systém AI a bude jej využívat k vytváření „deep fakes“. V takovém případě bude tento subjekt považován jak za poskytovatele, tak za zavádějící subjekt, který musí zajistit dodržování povinností týkajících se strojově čitelného označení podle čl. 50 odst. 2 a požadavků na jasné a zřetelné označení „deep fakes“ podle čl. 50 odst. 4 aktu o AI.

16)

Naproti tomu jiné subjekty (jako jsou poskytovatelé hostingových služeb, včetně online platforem, nebo vysílací společnosti), jejichž úloha se omezuje na šíření nebo přenos obsahu vytvořeného nebo zmanipulovaného umělou inteligencí, který vytvořily třetí strany, nebo kteří přijímají obsah vytvořený nebo manipulovaný umělou inteligencí či jsou mu vystaveni, aniž by měli pravomoc nad používáním systému AI za účelem jeho tvorby nebo manipulace s ním, nejsou zavádějícími subjekty ve smyslu aktu o AI. Ačkoli těmto subjektům akt o AI neukládá povinnosti ani podle něj nenesou odpovědnost, mohou přesto hrát důležitou úlohu v hodnotovém řetězci při zachovávání důvěry v informační ekosystém a jeho integrity. Proto se jim důrazně doporučuje, aby zachovaly označování a opatřování štítky zavedené v souladu s článkem 50 aktu o AI a přijaly přiměřená a technicky proveditelná opatření, která fyzickým osobám umožní rozpoznat obsah vytvořený nebo zmanipulovaný umělou inteligencí, aniž by tím byla dotčena odpovědnost poskytovatelů a subjektů zavádějících generativní systémy AI nebo jakékoli povinnosti či odpovědnost podle nařízení (EU) 2022/2065 (nařízení o digitálních službách) (7) nebo jiných platných předpisů unijního nebo vnitrostátního práva.

17)

Ostatní subjekty, které jednají v rámci své profesní činnosti a šíří obsah (i když se na ně článek 50 aktu o AI přímo nevztahuje), se rovněž vybízejí k přijetí přiměřených a vhodných opatření, aby fyzické osoby, které jsou tomuto obsahu nakonec vystaveny, byly účinně informovány a byly schopny rozpoznat jeho uměle vytvořený nebo zmanipulovaný původ. Kromě toho může být od těchto subjektů vyžadováno, aby příslušné „deep fakes“ nebo textové publikace týkající se záležitostí veřejného zájmu označily v souladu s dalšími platnými právními nebo etickými pravidly (např. pokud televizní stanice v rámci televizního pořadu označí a odvysílá „deep fake“ vytvořený soukromou osobou). Samotná skutečnost, že subjekt označuje obsah nebo využívá označený obsah, však neznamená, že tento subjekt lze považovat za „zavádějící subjekt“ ve smyslu aktu o AI. Akt o AI nerozšiřuje ani neovlivňuje právní odpovědnost těchto subjektů podle platných právních rámců, pokud nesplňují zároveň podmínky pro to, aby byly považovány za poskytovatele nebo subjekty zavádějící systémy AI.

2.4   Výjimky z oblasti působnosti aktu o AI

18)

Článek 2 aktu o AI stanoví řadu obecných výjimek z působnosti aktu o AI, které již byly objasněny v pokynech Komise k zakázaným postupům v oblasti umělé inteligence (8). V této části se proto budeme zabývat pouze těmi aspekty, které souvisejí s povinnostmi v oblasti transparentnosti stanovenými v článku 50 aktu o AI.

2.4.1   Zavádějící subjekty jednající v rámci čistě osobní neprofesionální činnosti

19)

Ustanovení čl. 2 odst. 10 aktu o AI stanoví, že akt o AI „se nevztahuje na povinnosti zavádějících subjektů, které jsou fyzickými osobami a používají systémy AI v rámci čistě osobní neprofesionální činnosti (9). Za „profesionální“ činnost by měla být považována jakákoli činnost, jejímž prostřednictvím fyzické osoby pravidelně získávají hospodářský prospěch nebo se jinak účastní profesní, podnikatelské, obchodní, pracovní či samostatně výdělečné činnosti. Přívlastek „čistě osobní“ blíže vymezuje pojem „neprofesionální“; aby se na osobu vztahovala tato výjimka, musí jednat zároveň v osobním a neprofesionálním postavení. Jakékoli použití systému fyzickými osobami, které jednají jménem zavádějícího subjektu vykonávajícího profesní činnost nebo v rámci pravomoci takového subjektu, spadá do rozsahu povinností tohoto zavádějícího subjektu v oblasti transparentnosti stanovených v čl. 50 odst. 3 a 4 aktu o AI.

Příklady osobního neprofesionálního používání systémů AI, které jsou z působnosti aktu o AI vyloučeny:

—

fyzické osoby používající systém AI k vytváření „deep fakes“ členů své domácnosti,

—

fyzické osoby používající systém AI jako soukromé osoby k vytváření textu na různá témata (např. studenti, kteří používají AI k psaní domácích úkolů);

—

fyzické osoby používající systém AI jako soukromé osoby k vytváření „deep fakes“ šířených na sociálních sítích.

20)

Výjimka podle čl. 2 odst. 10 aktu o AI se vztahuje pouze na povinnosti zavádějících subjektů při používání systému pro čistě osobní neprofesionální činnosti. Systém jako takový nadále zůstává v působnosti aktu o AI, pokud jde o povinnosti poskytovatelů, kteří systém uvádějí na trh nebo do provozu, a zavádějících subjektů, které systém využívají pro profesionální použití. Touto výjimkou není rovněž dotčeno uplatňování jiného příslušného práva Unie a vnitrostátního práva.

Například poskytovatel systému AI používaného k vytváření „deep fakes“ zobrazovaných na osobních vánočních přáních by měl tyto „deep fakes“ označit strojově čitelným způsobem v souladu s povinností transparentnosti stanovenou v čl. 50 odst. 2 aktu o AI. Zároveň se na používání systému fyzickými osobami v rámci čistě osobních neprofesionálních činností nebude vztahovat povinnost zavádějícího subjektu stanovená v čl. 50 odst. 4 aktu o AI.

2.4.2   Výzkum a vývoj

21)

Ustanovení čl. 2 odst. 6 aktu o AI stanoví výjimku pro systémy nebo modely AI, včetně jejich výstupů, které byly speciálně vyvinuty a uvedeny do provozu výhradně za účelem vědeckého výzkumu a vývoje. Tímto vyloučením nejsou dotčeny platné etické normy pro výzkum, právní předpisy EU o ochraně údajů ani další právní předpisy. V kontextu článku 50 aktu o AI se toto vyloučení vztahuje nejen na interaktivní systémy AI, ale také na výstupy generativních systémů AI (včetně obsahu typu „deep fake“) používané v rámci vědeckého výzkumu. Pokud jsou však tyto systémy uvedeny do provozu nebo jsou jejich výstupy využívány k jiným účelům než výhradně k účelům vědeckého výzkumu a vývoje, je i nadále nutné dodržovat příslušné povinnosti týkající se transparentnosti stanovené v článku 50 aktu o AI.

Pokud například výzkumníci vyvinou a uvedou na trh nebo do provozu interaktivní systém AI a chtějí zkoumat, zda jsou fyzické osoby schopny rozlišovat mezi systémy AI a lidmi při verbální interakci s tímto systémem AI, nemusí plnit příslušné povinnosti v oblasti transparentnosti podle čl. 50 odst. 1 a 2 aktu o AI. Pokud by však byl tentýž interaktivní systém AI uveden do provozu i pro jiné účely než pro výzkum a vývoj, bylo by nutné dodržet příslušné povinnosti týkající se transparentnosti stanovené v článku 50 aktu o AI.

22)

Ustanovení čl. 2 odst. 8 aktu o AI dále vylučuje z oblasti působnosti aktu o AI činnosti výzkumu, testování či vývoje v oblasti systémů AI nebo modelů AI před jejich uvedením na trh nebo do provozu. Na testování v reálných podmínkách (v rámci regulačních sandboxů pro AI i mimo ně) se tato výjimka nevztahuje. Kromě toho by systém AI, jakmile je v důsledku těchto výzkumných a testovacích činností uveden na trh nebo do provozu, měl i tak splňovat příslušné povinnosti týkající se transparentnosti podle článku 50 aktu o AI (10).

2.4.3   Systémy AI zpřístupněné na základě svobodných licencí a licencí s otevřeným zdrojovým kódem

23)

Podle čl. 2 odst. 12 aktu o AI nespadají do působnosti aktu o AI systémy AI zpřístupněné na základě svobodných licencí a licencí s otevřeným zdrojovým kódem, pokud se na ně nevztahují zákazy uvedené v článku 5 aktu o AI ani povinnosti v oblasti transparentnosti uvedené v článku 50 aktu o AI a pokud nejsou klasifikovány jako vysoce rizikové (11). To znamená, že poskytovatelé systémů AI s otevřeným zdrojovým kódem spadajících do působnosti článku 50 aktu o AI a subjekty, které tyto systémy zavádějí, stále musí zajistit dodržování svých příslušných povinností v oblasti transparentnosti.

24)

Naopak poskytovatelé svobodných komponent AI s otevřeným zdrojovým kódem, které zahrnují software, data, modely, nástroje, služby nebo procesy pro přizpůsobení a integraci do systému AI a které samy o sobě (částečně ani zcela) nepředstavují systém AI, nepodléhají povinnostem v oblasti transparentnosti stanoveným v článku 50 aktu o AI. Poskytovatelům těchto systémů se nicméně doporučuje, aby tyto modely, komponenty a služby navrhovali způsobem popsaným v bodě 27 níže, pokud je to přiměřené a proveditelné.

2.5   Vzájemné působení se zakázanými postupy, požadavky na vysoce rizikové systémy AI a gramotností v oblasti AI

25)

Ve 137. bodě odůvodnění aktu o AI se upřesňuje, že z dodržení povinností týkajících se transparentnosti podle článku 50 aktu o AI u konkrétního systému AI nelze dovozovat, že používání daného systému AI nebo jeho výstupu je podle aktu o AI zákonné. Zejména systémy AI, na které se vztahují povinnosti podle článku 50 aktu o AI, mohou spadat pod článek 5 téhož aktu, a tudíž může být jejich používání zakázáno (např. použití systémů rozpoznávání emocí na pracovišti nebo ve vzdělávacích institucích) (12). Kromě toho mohou být systémy AI spadající do působnosti článku 50 aktu o AI rovněž klasifikovány jako vysoce rizikové (13) a podléhat příslušným požadavkům a povinnostem kladeným na tyto systémy. Dodržování článku 50 aktu o AI proto nenahrazuje, neomezuje ani neovlivňuje povinnosti vyplývající z jiných ustanovení aktu o AI (14). Zároveň se může stát, že systémy AI spadají do působnosti článku 50 aktu o AI, aniž by byly podle článku 6 aktu o AI klasifikovány jako vysoce rizikové. Na poskytovatele systémů AI a na subjekty, které tyto systémy zavádějí, v působnosti článku 50 aktu o AI se vztahují také požadavky na gramotnost podle článku 4 aktu o AI.

2.6   Vzájemné působení s pravidly platnými pro obecné modely a/nebo obecné systémy AI

26)

Článek 50 aktu o AI se vztahuje na určité systémy AI, mezi něž patří obecné systémy AI (15), jako jsou chatboty podporující přímou interakci s fyzickými osobami nebo systémy AI schopné vytvářet syntetický obsah nebo s ním manipulovat (včetně „deep fakes“) (16).

27)

Na obecné modely AI se článek 50 aktu o AI výslovně nevztahuje. Pokud je však interaktivní nebo generativní systém AI, který spadá do působnosti čl. 50 odst. 1 nebo 2 aktu o AI, založen na obecném modelu AI poskytnutém týmž poskytovatelem, mohla by být opatření týkající se transparentnosti stanovená v těchto pokynech zavedena také na úrovni modelu (viz také oddíl 4 níže). Kromě toho se poskytovatelům jiných obecných modelů AI a jiných generativních modelů AI, přestože nespadají do působnosti článku 50 aktu o AI, rovněž doporučuje, aby na úrovni modelu zavedli vhodná opatření v oblasti transparentnosti za účelem identifikace interaktivních systémů AI a označování obsahu vytvořeného nebo zmanipulovaného umělou inteligencí. To je obzvláště přínosné, neboť to navazujícím poskytovatelům systémů AI usnadňuje plnění jejich povinností podle čl. 50 odst. 1 a 2 aktu o AI (17) a přispívá k zachování důvěry v informační ekosystém a jeho integrity. U obecných modelů AI představujících systémové riziko mohou bezpečnostní opatření na úrovni modelu zaměřená na identifikaci interakcí s AI a označování obsahu vytvořeného nebo zmanipulovaného umělou inteligencí v příslušných případech tvořit součást širšího souboru zmírňujících opatření, která mohou poskytovatelé přijmout v rámci své povinnosti zmírňovat systémová rizika podle čl. 55 odst. 1 písm. b) aktu o AI.

3.   USTANOVENÍ ČL. 50 BODU 1 AKTU O AI: TRANSPARENTNOST INTERAKTIVNÍCH SYSTÉMŮ AI

28)

Ustanovení čl. 50 odst. 1 aktu o AI se vztahuje na poskytovatele systémů AI, které přímo interagují s fyzickými osobami; tito poskytovatelé musí své systémy navrhovat a vyvíjet tak, aby dotčené fyzické osoby byly informovány o tom, že interagují se systémem AI. Jak je vysvětleno ve 132. bodě odůvodnění aktu o AI, účelem této informační povinnosti je umožnit těmto fyzickým osobám činit informovaná rozhodnutí ohledně výstupů systému, předejít přílišné závislosti na těchto systémech a umožnit těmto fyzickým osobám správně kalibrovat svou důvěru v obsah a interakce.

3.1   Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti

29)

Povinnost transparentnosti podle čl. 50 odst. 1 aktu o AI se vztahuje na poskytovatele systémů AI, pokud je systém určen k přímé interakci s fyzickými osobami a tato interakce nespadá pod žádnou z následujících výjimek: 1) je zřejmá z pohledu fyzické osoby, která je přiměřeně informovaná, pozorná a obezřetná, nebo 2) systém je ze zákona oprávněn odhalovat trestné činy, předcházet jim, vyšetřovat je nebo stíhat, s výjimkou případů, kdy je tento systém k dispozici veřejnosti za účelem hlášení trestných činů.

3.1.1   Systémy AI určené k přímé interakci s fyzickými osobami

30)

K tomu, aby systém spadal do působnosti čl. 50 odst. 1 aktu o AI, musí být splněny čtyři podmínky: i) systém musí být systémem AI, ii) určeným k interakci, iii) přímo, iv) s fyzickými osobami.

i)

Systém AI: systém musí splňovat prvky definice systému AI (18), která nezahrnuje jednoduché automatizované mechanismy reakce, jež nejsou systémy AI (např. standardní automatické odpovědi v případě nepřítomnosti, rychlé odpovědi na zprávy založené na pravidlech);

ii)

určený k interakci: systém AI musí být určen k interakci s fyzickými osobami. Interakce znamená schopnost obousměrné výměny informací nebo jednání mezi fyzickými osobami a systémem AI, která má skutečně konverzační nebo responzivní charakter. Může se vyskytovat v různých formách (např. sluchové, zrakové a fyzické). Fyzické osoby by měly mít možnost poskytnout vstupy (např. psaný text nebo jiné formy obsahu, hlas či fyzické akce) do systému AI (např. prostřednictvím technických komunikačních prostředků, včetně online rozhraní, telefonu či e-mailu, nebo přímo), přičemž systém AI by měl být schopen reagovat kontextovým výstupem (včetně jakéhokoli typu obsahu či akcí) a naopak. Tato interakce může zahrnovat jakýkoli typ výstupu nebo formátu, který je člověk schopen vnímat a pochopit. Nemusí být iniciována člověkem; může se také týkat obsahu vytvořeného umělou inteligencí nebo jejích činností, které vyvolávají lidskou reakci. Interakce může mít podobu jednorázové výměny (např. jeden podnět následovaný jednou odpovědí) nebo může probíhat po určitou dobu (vícekolová interakce). Systémy, které pouze pasivně shromažďují údaje a nejsou schopny komunikovat s fyzickými osobami (např. automatizované systémy kontroly přístupu s rozpoznáváním obličeje) nebo které shromažďují pouze jednorázovou zpětnou vazbu (např. antispamové filtry), se nepovažují za systémy, které interagují s fyzickými osobami;

iii)

přímá interakce: interakce mezi systémem AI a fyzickými osobami musí být přímá. To obvykle zahrnuje interakci v reálném čase nebo téměř v reálném čase (včetně funkcí systému, které umožňují psát a odesílat zprávy fyzickým osobám nebo jinak interagovat s fyzickým či virtuálním prostředím, které mohou fyzické osoby vnímat). Přímá interakce nezahrnuje nepřímou nebo zprostředkovanou interakci s člověkem, při níž je fyzická osoba vystavena výstupům umělé inteligence, aniž by se systémem přímo interagovala (například pokud pracovníci zákaznického servisu využívají asistenční nástroje AI, které jim pomáhají komunikovat s fyzickými osobami, nebo pokud výstup AI není dané osobě poskytován samotným systémem AI, ale jinou osobou, která tento obsah šíří). Samotná možnost, že lidé mohou zasáhnout do výstupů systému AI nebo je přezkoumat, by však neměla být využívána k obcházení informační povinnosti podle čl. 50 odst. 1 aktu o AI. Případy produktů a služeb, v nichž se kombinují odpovědi generované umělou inteligencí s obsahem sestaveným lidmi, spadají do působnosti čl. 50 odst. 1 aktu o AI a vyžadují, aby u konkrétních výstupů v rámci interakce, které jsou vytvořeny umělou inteligencí, byla tato skutečnost uvedena, pokud tyto výstupy AI nebyly řádně přezkoumány a odeslány lidmi jako hlavními partnery v komunikaci s fyzickými osobami;

iv)

s fyzickými osobami: ustanovení čl. 50 odst. 1 aktu o AI stanoví, že systém AI musí komunikovat s fyzickými osobami. Těmito osobami mohou být zavádějící subjekty jednající v rámci profesní činnosti, ostatní uživatelé (kteří systém používají i v rámci čistě osobních činností) nebo jiné osoby, které systém využívají jejich jménem. Z působnosti této povinnosti jsou vyloučeny systémy AI, které fungují v uzavřeném fyzickém prostředí (například jako součást průmyslového strojního zařízení), interní komunikace typu „stroj-stroj“ mezi systémy AI (včetně agentů AI), jejichž výstupy nejsou určeny k tomu, aby se dostaly k fyzické osobě, nebo virtuální prostředí bez jakéhokoli přímého kontaktu s fyzickými osobami.

31)

Na agenty AI se čl. 50 odst. 1 aktu o AI vztahuje, pokud jsou při plnění úkolů schopni komunikovat s osobami, které jim zadávají pokyny, nebo s jinými fyzickými osobami (např. provádění rezervací, vyřizování korespondence, vyjednávání nebo uzavírání smluv, realizace nákupů atd.). AI agenti musí být navrženi a vyvinuti tak, aby uváděli jak svou umělou povahu, tak i osobu, v jejímž jménu jednají, a to s ohledem na nutnost transparentnosti původu, delegování pravomocí a odpovědnosti za důsledky svých činů. To zahrnuje případy, kdy jsou agenti AI schopni v rámci složitých multiagentních architektur interagovat s jinými agenty AI, kteří při plnění úkolu přímo komunikují s fyzickými osobami. Nicméně nemusí být vždy možné, aby poskytovatel agenta AI předem identifikoval jednotlivé případy přímé interakce agenta s jinými fyzickými osobami, jakmile je tento agent nasazen v různých kontextech. Pokud poskytovatel nemůže před uvedením agenta AI na trh nebo do provozu spolehlivě určit, zda bude tento agent přímo interagovat s fyzickou osobou, měl by být tento agent navržen na úrovni architektury a opatřen pokyny tak, aby se jako takový identifikoval v každé situaci, kdy lze důvodně předpokládat, že by mohl interagovat s fyzickou osobou (včetně případů, kdy fyzická osoba může zastupovat právnickou osobu nebo jednat jejím jménem). Kromě toho by se agenti AI měli také identifikovat osobám, které jim vydávají pokyny, a to v klíčových fázích (např. při schvalování, podávání zpráv, validaci atd., včetně případů, kdy nasazený agent AI přijímá, zpracovává nebo využívá výstupy generované jinými systémy AI, nikoli přímo fyzickou osobou) a při každé nové interakci.

Příklady systémů AI určených k přímé interakci s fyzickými osobami, na které se vztahuje čl. 50 odst. 1 aktu o AI:

—

hlasoví asistenti využívající AI, chatboty a konverzační agenti v různých oblastech (např. veřejná správa, zákaznická podpora, vyřizování stížností, elektronický obchod, finance, zdravotnictví, školství atd.),

—

horká linka s AI pro hlášení incidentů, podvodů či jiných záležitostí, (humanoidní) roboti/koboti, společníci s AI; robotická domácí zvířata; avatary založené na AI (např. v prostředích virtuální reality),

—

AI boti na sociálních sítích a v médiích, programovací agenti a další agenti AI schopní přímo komunikovat s fyzickými osobami (včetně složitých multiagentních architektur).

3.2.1

Příklady systémů AI, které přímo neinteragují s fyzickými osobami a nespadají do působnosti čl. 50 odst. 1 aktu o AI:

—

tradiční průmysloví roboti vybavení AI, kteří fungují v uzavřeném průmyslovém prostředí a nejsou určeni k interakci s lidmi (např. roboti pro montáž elektroniky),

—

doporučovací systémy využívající AI, antispamové filtry, nástroje pro automatizovaný překlad nebo přepis,

—

techniky pro vyhledávání a získávání informací s využitím AI, aniž by docházelo k vytváření nebo úpravám obsahu,

—

techniky automatického doplňování textu a kódu využívající AI, systémy autentizace a biometrického rozpoznávání, backendové systémy pro podporu rozhodování, u nichž uživatel vidí pouze výstup AI bez možnosti přímé interakce se systémem,

—

systémy prediktivní údržby a optimalizace využívající AI v továrnách a průmyslových aplikacích, vizualizace produktů s podporou AI (např. virtuální vyzkoušení, návrh interiéru, renderování produktů), nástroje pro plánování tras v rámci jediné interakce využívající AI, přepis hovorů se zákazníky zpracovávaný pro účely analýzy chování atd.

3.1.2   Informační povinnost podle čl. 50 odst. 1 aktu o AI

32)

Článek 50 odst. 1 aktu o AI ukládá poskytovatelům systémů AI, které přímo interagují s fyzickými osobami, povinnost zajistit, aby jejich systémy AI (včetně agentů AI a obecných systémů AI) byly navrženy a vyvinuty tak, aby dotčené fyzické osoby byly informovány o tom, že interagují se systémem AI.

33)

Zatímco mechanismus informování by měl být začleněn do návrhu a vývoje systému a do způsobu, jakým systém interaguje s fyzickými osobami, k oznámení by mělo dojít během provozu systému AI, nejpozději však v době první interakce s fyzickou osobou (jak vyžaduje čl. 50 odst. 5 aktu o AI, viz oddíl 7 níže). Poskytovatelé jsou povinni zajistit, aby po uvedení systému AI na trh nebo do provozu byly fyzické osoby, které s tímto systémem interagují, účinně a soustavně informovány po celou dobu životního cyklu systému AI uvedeného na trh nebo do provozu daným poskytovatelem.2.2

34)

Způsob informování: Ustanovení čl. 50 odst. 1 aktu o AI nestanoví žádný konkrétní způsob informování. Poskytovatelé si proto mohou zvolit jakýkoli vhodný způsob, pokud jsou splněny dvě podmínky: i) jsou splněny požadavky stanovené v čl. 50 odst. 5 aktu o AI, pokud jde o poskytnutí jasných a rozlišitelných informací nejpozději v době první interakce (viz oddíl 7 níže), a ii) jsou zohledněny vlastnosti fyzických osob náležejících ke zranitelným skupinám vzhledem k jejich věku (např. děti nebo starší lidé) nebo zdravotnímu postižení, a to v rozsahu, v jakém je systém AI určen k interakci s fyzickými osobami náležejícími k těmto skupinám nebo je taková interakce přiměřeně pravděpodobná (např. včetně případů, kdy lze důvodně předpokládat, že systém AI bude interagovat se širokou veřejností) (19). Tyto informace musí být rovněž poskytnuty v přístupném formátu pro fyzické osoby se zdravotním postižením, jak je stanoveno v čl. 50 odst. 5 a ve 132. bodě odůvodnění aktu o AI (viz oddíl 7). V případech, kdy systém může komunikovat s dětmi, musí být tato oznámení přizpůsobena dětem, odpovídat jejich věku, být srozumitelná a snadno přístupná pro všechny děti, včetně dětí se zdravotním postižením nebo s dalšími potřebami v oblasti přístupnosti. Je-li to možné a vhodné, doporučuje se poskytovatelům, aby používali standardizované postupy informování a označení, a tím zajistili účinnost a jednotnost oznámení a zvýšili informovanost uživatelů.

35)

Obsah oznámení: Ustanovení čl. 50 odst. 1 aktu o AI ukládá poskytovatelům interaktivních systémů AI povinnost tyto systémy navrhovat a vyvíjet tak, aby všechny fyzické osoby, které s těmito systémy AI komunikují, byly výslovně informovány o umělé, nikoli lidské povaze protějšku, s nímž komunikují. Pokud je pro poskytovatele rozumně předvídatelné, že systém AI může komunikovat s fyzickými osobami náležejícími k výše uvedeným zranitelným skupinám, měly by být informace odpovídajícím způsobem přizpůsobeny a poskytnuty v přístupném formátu, jak to vyžadují platné právní předpisy Unie, aby bylo rovněž zajištěno, že tyto fyzické osoby informacím plně porozumějí (20).

36)

Oznámení by měla poskytovat informace o umělém původu interakce způsobem, který je přiměřený kontextu, v němž k interakci dochází. Mělo by to být provedeno takovým způsobem, který zajistí, aby byly dotčené osoby řádně a účinně informovány, přičemž je třeba zabránit jakémukoli riziku klamání nebo manipulace před interakcí i v jejím průběhu a zároveň zajistit proveditelné a přiměřené poskytování informací. Příklady poskytnutí těchto informací mohou zahrnovat písemná oznámení (např. chatbot, který na začátku konverzace uvede, že je založen na technologii AI), vizuální prostředky (např. e-mail vygenerovaný agentem AI a zaslaný fyzické osobě, který obsahuje v horní části označení AI), zvukové prostředky (např. hlasový asistent, který na začátku relace oznámí, že využívá AI), sdělení identifikátorů AI a pověření (např. agenti AI, kteří v rámci možností ověřitelným způsobem sdělí, že jde o AI (21)).

37)

Formát oznámení: Jako osvědčený postup se doporučuje návrh systému AI využívajícího multimodální a přístupné způsoby informování. Taková oznámení mohou v případě potřeby a v závislosti na kontextu, cílových a předpokládaných skupinách příjemců a dostupných zdrojích poskytovatelů, zejména malých a středních podniků, kombinovat různé postupy s cílem zlepšit porozumění uživatelů. Příklady vhodných technik mohou zahrnovat:

—

textové oznámení (v uživatelském rozhraní): výrazné popisky nebo bannery formulované srozumitelným jazykem (např. „Komunikujete se systémem AI“) a úvodní pozdravy v chatbotech, které lze podle potřeby kombinovat s trvalými označeními nebo popisky viditelnými po celou dobu interakce, a to v míře přiměřené konkrétnímu kontextu a rizikům. Dále se doporučuje umístit doprovodná oznámení v blízkosti interakčního rozhraní (např. poblíž pole se vstupy/výstupy) a používat zjednodušenou formulaci, zejména pro uživatele s nižší digitální gramotností a pro děti,

—

zvukové zveřejnění: v kontextu hlasových služeb nebo telefonie by měla být na začátku interakce podána jasná ústní informace (např. „Toto je asistent využívající AI“), případně doplněná o pravidelné připomínky v případě delších interakcí, zejména při přerušeních nebo při změně role systému AI v průběhu uživatelovy cesty. Zřetelné zvukové signály (např. tóny nebo znělky) mohou usnadnit rozpoznání, zejména u uživatelů se zrakovým postižením, ale samy o sobě nejsou považovány za dostačující,

—

vizuální/grafické podněty: návrh systému AI s trvale zobrazenými ikonami, vodoznaky, barevnými rámečky nebo rozpoznatelnými symboly „AI“, které doplňují textová oznámení. Doporučuje se používat standardizované vizuální indikátory, a to i v rámci jednotlivých služeb jednoho poskytovatele, protože takové indikátory mohou výrazně snížit kognitivní zátěž a zvýšit rozpoznatelnost,

—

multimodální kombinace: kombinace textových, zvukových a vizuálních podnětů (např. chatbot, který zobrazuje popisek a zároveň v prvním kole konverzace poskytuje textové oznámení) s cílem zajistit přístupnost a zvýšit srozumitelnost pro různé skupiny uživatelů.

38)

Určité techniky nejsou nezbytné a při samostatném použití nepostačují k účinnému splnění povinnosti transparentnosti stanovené v čl. 50 odst. 1 a 5 aktu o AI, a to zejména:

—

oznámení uvedená pouze v obchodních podmínkách, na internetových adresách (URL) nebo v dokumentaci (taková oznámení mohou informování v daném kontextu doplňovat, nikoli však nahradit),

—

strojově čitelné značky (např. metadata nebo vodoznaky), které nejsou pro uživatele v okamžiku interakce viditelné. Tím není dotčena vhodnost těchto značek z hlediska splnění čl. 50 odst. 2 aktu o AI (viz oddíl 4),

—

nejasné nebo nejednoznačné signály (např. obecné odkazy na „asistenta“) nebo zobrazení připomínající člověka, která by mohla uživatele uvést v omyl,

—

obecná zveřejnění, která nejsou dostatečně konkrétní s ohledem na výstupy a interakce systému AI (např. na platformě poskytující různé služby nebo jednotlivé vstupy je obecné oznámení jako „Služby na těchto internetových stránkách používají AI“ nedostatečné),

—

technické popisy nebo popisy založené na schopnostech: tvrzení, která se vztahují výhradně k základním technologiím (např. „tento systém využívá LLM“), aniž by vysvětlovala funkci nebo dopady systému na uživatele a jeho umělý původ.

39)

Oznámení by měla být přiměřená a přizpůsobená různým kontextům a cílovým skupinám systému AI, aby zůstala účinná a uživatelsky přívětivá a aby se v co největší míře zabránilo narušení uživatelského zážitku či vzniku účinku habituace (tzv. bannerová slepota).

40)

Jediné výrazné oznámení před první interakcí systému AI s konkrétní fyzickou osobou bude ve většině případů pravděpodobně stačit ke splnění povinnosti stanovené v čl. 50 odst. 1 aktu o AI. V určitých rizikovějších situacích však budou pravděpodobně nezbytná pravidelná upozornění a oznámení zohledňující daný kontext, aby bylo zajištěno trvalé povědomí uživatelů. To platí zejména u systémů AI, které interagují se zranitelnými osobami (např. s dětmi, staršími lidmi, osobami se zdravotním postižením a osobami s nižší gramotností), u dlouhodobých a vyvíjejících se interakcí v citlivých nebo imerzivních prostředích (např. tam, kde mohou uživatelé projevovat nebo prožívat emoční tíseň či zranitelnost nebo u nich může hrozit vznik chování podobného závislosti), v situacích se zvýšeným rizikem uvedení uživatelů v omyl (např. při finančním poradenství, pojištění, právní pomoci, zdravotním poradenství a vyřizování stížností), v situacích, kdy hrozí vznik emočních vazeb nebo závislosti (např. u společníků využívajících AI), jakož i v případech, kdy je třeba zajistit informovanost a kontrolu nad činností agentů AI. Poskytovatelé musí rovněž navrhnout a vyvinout systém AI tak, aby bylo zajištěno poskytnutí této informace ve všech situacích, kdy jsou systému kladeny otázky týkající se jeho povahy nebo původu interakce, nebo kdy lze na základě komunikace s fyzickou osobou důvodně předpokládat, že tato osoba by mohla být uvedena v omyl nebo být zmatená ohledně toho, že interakce pochází od AI.

3.2   Výjimky z informační povinnosti podle čl. 50 odst. 1 aktu o AI

41)

Ustanovení čl. 50 odst. 1 aktu o AI stanoví dvě výjimky z informační povinnosti týkající se interaktivních systémů AI, které jsou popsány níže.

3.2.1   Výjimka v případě zřejmé interakce se systémem AI

42)

Aby mohli poskytovatelé využít první výjimku, budou muset posoudit a prokázat: i) zřejmý umělý charakter interakce pro ii) fyzickou osobu, která musí být přiměřeně informovaná, pozorná a obezřetná, s přihlédnutím k okolnostem a kontextu použití.

43)

Tato norma vychází z ustáleného práva EU v oblasti ochrany spotřebitele, pokud jde o pojem „průměrný spotřebitel“, a měla by být vykládána jednotně, přičemž je třeba zohlednit specifické a rozmanité kontexty a způsoby použití systémů AI, které přímo interagují s fyzickými osobami, jakož i cíle stanovené v čl. 50 odst. 1 aktu o AI.

44)

Definice takové „průměrné“ fyzické osoby zahrnuje dva kroky. Za prvé by poskytovatelé měli zohlednit příjemce, kterým je systém AI určen a s nimiž bude s přiměřenou pravděpodobností komunikovat. Za druhé by měl poskytovatel posoudit, do jaké míry je průměrný člen dané skupiny příjemců informovaný, pozorný a obezřetný, a to s přihlédnutím k okolnostem a kontextu použití. Při provádění tohoto posouzení je třeba zohlednit několik faktorů:

—

Poskytovatelé by měli zohlednit cílovou skupinu systému AI, jakož i širší potenciální skupinu uživatelů, kterou lze rozumně předvídat. To bude platit zejména v případě, že k systému AI bude mít snadný přístup širší veřejnost, nebo pokud bude systém fungovat ve virtuálních či fyzických veřejných prostorech a bude moci komunikovat s fyzickými osobami, které se v těchto prostorech nacházejí. Příjemci, kteří mohou přijít do styku se systémem AI, se ne vždy shodují s cílovou skupinou.

—

Poskytovatelé by měli zohlednit potenciálně rozmanité složení cílové skupiny a rozumně předvídatelných příjemců v souladu se 132. bodem odůvodnění aktu o AI. Pokud je pravděpodobné, že mezi příjemci budou osoby se zdravotním postižením, starší lidé nebo nezletilí, budou očekávané úrovně informovanosti, pozornosti a obezřetnosti průměrného člena takového publika nižší ve srovnání s průměrným členem skupiny, ve které se tyto kategorie osob nevyskytují. Naopak, pokud je interaktivní systém AI k dispozici pouze odborné či specializované cílové skupině, mohlo by to pozitivně ovlivnit očekávanou úroveň znalostí, pozornosti a obezřetnosti, přičemž průměrného člena této skupiny lze považovat za lépe informovaného, pozornějšího a obezřetnějšího.

—

V rámci širších okolností a kontextu použití by poskytovatelé měli zohlednit úroveň digitální gramotnosti a gramotnosti v oblasti umělé inteligence u cílové a rozumně předvídatelné skupiny uživatelů, jakož i příslušné sociální, kulturní a jazykové faktory.

45)

Zřejmost: Po stanovení hypotetické přiměřeně informované, pozorné a obezřetné fyzické osoby by poskytovatelé měli posoudit, zda pro takovou osobu bude zřejmé, že přímo interaguje se systémem AI. Výjimku je třeba vykládat restriktivně, protože zbavuje fyzické osoby ochrany a práva být informovány prostřednictvím jasných a rozlišitelných oznámení o tom, že interagují se systémy AI. Skutečnost, že si spotřebitelé a jiné fyzické osoby obecně uvědomují existenci systémů AI (včetně chatbotů a agentů), neznamená, že je při interakcích rozpoznají. Při posuzování, zda je interakce zřejmá, lze zohlednit několik relevantních faktorů:

—

předpokládaná povaha interakce: V případech, kdy systém AI fyzicky interaguje s fyzickými osobami, mohou mezi relevantní prvky patřit viditelnost mechanických součástí (která by zřejmost zvyšovala) nebo míra, do jaké systém AI věrně napodobuje protějšek bez využití AI (která by zřejmost snižovala). U interakcí vizuální nebo zvukové povahy mohou mít na toto hodnocení vliv prvky, jako jsou styl psaní či řeči, intonace hlasu (robotický hlas versus hlas znějící jako skutečný lidský hlas), design uživatelského rozhraní (např. profilová fotografie chatbota zobrazující člověka) a schopnost pokročilé personalizované interakce,

—

složení cílové skupiny a předpokládaných příjemců: pokud je interaktivní systém AI dostupný pouze odborné či specializované veřejnosti, aniž by mu mohly být vystaveny zranitelné skupiny, mohlo by to zvýšit pravděpodobnost, že průměrnému členovi dané cílové skupiny bude umělá povaha interakce zřejmá. Naopak, pokud je systém AI přístupný široké veřejnosti nebo spotřebitelům, mezi nimiž se nacházejí i zranitelné osoby (např. děti, starší osoby, osoby s kognitivním, fyzickým nebo duševním postižením či osoby s nižší gramotností v oblasti AI), pro které není interakce s tímto systémem tak zřejmá, nelze se na tuto výjimku odvolat za účelem účinné ochrany těchto zranitelných uživatelů,

—

Je třeba také vzít v úvahu skutečnost, že pro fyzické osoby je stále obtížnější rozpoznat, zda komunikují se systémem AI, nebo se skutečným člověkem. Vzhledem k používání avatarů a agentů, obecné anonymitě interakcí online a schopnosti systémů AI psát a komunikovat způsobem podobným lidskému by se výjimka týkající se „zřejmosti“ měla omezit na případy, kdy pro průměrného člověka z cílové a rozumně předvídatelné skupiny příjemců neexistuje téměř žádná pochybnost o povaze dané interakce.

Příklady zřejmosti, na které se nevztahuje povinnost transparentnosti podle čl. 50 odst. 1 aktu o AI:

—

chatboty využívající AI pro pomoc při psaní kódu a kontrolu kódu, které jsou k dispozici pouze profesionálním vývojářům, u nichž vzhledem k jejich odborným znalostem a kontextu použití nelze rozumně předpokládat, že budou komunikovat s člověkem, a kteří snadno rozpoznají, že návrhy jsou generovány systémem AI,

—

interní asistent pro komunikaci se zaměstnanci určený pro řádně proškolené pracovníky, kteří mají znalosti v oblasti AI a jsou si vědomi toho, že používají systémy AI pro vnitřní účely organizace (např. v oblasti lidských zdrojů, právních záležitostí, nákupu, dodržování předpisů nebo IT podpory),

—

interaktivní systémy AI určené výhradně k použití řádně vyškolenými zdravotnickými pracovníky za účelem podpory lékařské diagnostiky a navrhování souvisejících léčebných postupů,

—

technologie Ambient-AI integrovaná do domácích spotřebičů, jejíž funkce jsou omezeny na podporu a ovládání těchto spotřebičů,

—

interakce s nehratelnými postavami (NPC) vybavenými AI v počítačové hře pro jednoho hráče, u níž je z povahy videohry zřejmé, že se na ní nemůže podílet a komunikovat s uživatelem žádná jiná fyzická osoba, přičemž povaha interakce založená na AI je rovněž zřejmá všem uživatelům (včetně zranitelných osob).

Příklady, které nesplňují podmínky výjimky z kritéria zřejmosti a na které se vztahuje povinnost transparentnosti podle čl. 50 odst. 1 aktu o AI:

—

robotický společník-mazlíček využívající AI, který se velmi podobá svému přirozenému ekvivalentu a je navržen tak, aby napodoboval typickou interakci člověka se zvířetem, čímž vzniká nejasnost, zda interakce probíhá se systémem AI,

—

systémy AI integrované do pohlcujících prostředí (např. virtuální nebo rozšířené reality), které používají realistické avatary nebo hlasy připomínající lidské, kde uživatelé – zejména děti, starší osoby nebo osoby se zdravotním postižením – nemusí být schopni snadno rozlišit mezi interakcí s člověkem a interakcí s AI,

—

chatboty využívající AI integrované do online platforem nebo nástrojů asistenční podpory (helpdesků), kde uživatelé přímo interagují s AI a přijímají výstupy systému AI (např. odpovědi na dotazy nebo jiný obsah generovaný AI), které mohou vnímat jako lidsky vytvořené.

3.2.2   Výjimka pro systémy AI, jejichž používání je zákonem povoleno pro účely vymáhání práva

46)

Poskytovatelé interaktivních systémů AI jsou osvobozeni od povinnosti transparentnosti podle čl. 50 odst. 1 aktu o AI, pokud jsou ze zákona oprávněni odhalovat trestné činy, předcházet jim, vyšetřovat je nebo stíhat, s výhradou příslušných záruk týkajících se práv a svobod třetích stran.

47)

Pojem „ze zákona oprávněny“ má být chápan tak, že zahrnuje právo Unie, jakož i vnitrostátní právní předpisy členských států přijaté v souladu s právem Unie. Právní předpisy, které povolují používání systému AI, musí jasně stanovit účely a okolnosti povoleného použití a musí zajistit příslušné záruky týkající se ochrany práv a svobod třetích stran. Vzhledem k technologicky neutrálnímu přístupu aktu o AI není nutné zákonem specifikovat ani schvalovat konkrétní systémy AI, pokud je jejich použití obecně předpokládáno v rámci zákonem povolené činnosti a je v souladu s platným právním rámcem.

48)

Aby se na daný případ vztahovala tato výjimka, musí být účelem systému AI odhalovat trestné činy, předcházet jim, vyšetřovat je nebo stíhat (např. agent v utajení využívající AI, systémy AI používané pod lidským dohledem vyšetřovatelů při online vyšetřováních nebo při komunikaci s osobami, které mohou být zapojeny do trestné činnosti). Tato výjimka se neomezuje pouze na používání těchto systémů AI donucovacími orgány vymezenými v čl. 3 bodě 48 aktu o AI, ale může se vztahovat i na interaktivní (nebo generativní) systémy AI používané jinými veřejnými orgány Unie nebo členských států, pokud je jejich použití ze zákona povoleno k odhalování trestných činů, jejich prevenci, vyšetřování nebo stíhání a podléhá příslušným zárukám ochrany práv a svobod třetích stran. Tato výjimka nevyžaduje, aby byl systém AI schopen provádět vyšetřování samostatně. Pokud lze příslušný systém využívat jak pro účely vymáhání práva, tak i pro jiné běžné účely, měla by být použitelnost výjimky posuzována s ohledem na konkrétní způsob jeho nasazení. Povinnosti týkající se transparentnosti platí i nadále v případech, kdy je tentýž systém AI nasazen k jiným účelům než k zákonem povolenému odhalování, prevenci, vyšetřování nebo stíhání trestných činů. Fyzickým osobám je třeba i nadále zajistit transparentnost, když se systémem komunikují v rámci jeho běžných účelů.

49)

Tato výjimka se neuplatní, pokud i) je systém umělé inteligence přístupný veřejnosti a ii) tento systém nabízí jednotlivcům funkci oznamovat trestné činy. Tyto systémy lze používat, podléhají však i nadále povinnosti transparentnosti podle čl. 50 odst. 1 aktu o AI, a fyzické osoby proto musí být informovány o tom, že s takovými systémy komunikují.

Pro větší jasnost se tato výjimka týká výhradně povinnosti podle čl. 50 odst. 1 informovat fyzické osoby o tom, že komunikují se systémem AI (22). Není tím dotčeno použitelné právo Unie a vnitrostátní právo, včetně procesních pravidel týkajících se dokumentace, zveřejňování, přípustnosti a posuzování důkazů.

Příklady systémů AI zpřístupněných veřejnosti za účelem oznamování trestných činů, na něž se nevztahuje výjimka a které spadají do působnosti čl. 50 odst. 1 aktu o AI:

—

policejní chatboty využívající AI nasazené na oficiálních internetových stránkách policie nebo v mobilních aplikacích, jež umožňují jednotlivcům oznamovat trestné činy nebo podávat stížnosti. Tyto systémy provádějí uživatele sérií strukturovaných otázek, shromažďují relevantní informace a provádějí předběžné třídění hlášení, než je předají lidským pracovníkům k posouzení,

—

telefonní horké linky s podporou AI provozované policií nebo jinými donucovacími orgány a určené pro dotazy široké veřejnosti,

—

horké linky nebo digitální portály pro hlášení podvodů s podporou AI provozované finančními institucemi nebo veřejnými orgány, kde mohou uživatelé nahlásit podezření na finanční trestné činy. Systém AI komunikuje s uživatelem za účelem shromáždění podrobností, zařazení hlášení do příslušné kategorie a stanovení priority jednotlivých případů, zatímco lidští vyšetřovatelé tyto informace ověřují ještě předtím, než jsou přijata jakákoli opatření,

—

virtuální asistenti využívaní ke shromažďování svědeckých výpovědí, kdy oběti nebo svědci mohou poskytovat informace prostřednictvím rozhraní založeného na AI. Takové systémy AI mohou podporovat vícejazyčné vstupy, funkce usnadňující přístupnost a strukturované předkládání důkazů, avšak konečné posouzení a vyšetřovací kroky nadále příslušejí pracovníkům daných orgánů.

3.3   Vzájemné působení s jinými právními akty Unie

50)

Povinnost transparentnosti podle čl. 50 odst. 1 aktu o AI se uplatní, aniž jsou dotčeny stávající právní předpisy Unie v oblasti ochrany spotřebitele, ochrany údajů, digitální oblasti nebo nediskriminace, jež mohou vyžadovat zveřejnění dalších informací, které se netýkají umělého původu interakce. Konkrétně podle směrnice 2005/29/ES (směrnice o nekalých obchodních praktikách) (23) jsou zakázána klamavá jednání nebo klamavá opomenutí, pokud jde o hlavní vlastnosti výrobku nebo služby. Směrnice 2011/83/ES (dále jen „směrnice o právech spotřebitelů“) (24) navíc ukládá obchodníkům povinnost poskytovat jasné a srozumitelné předsmluvní informace o hlavních vlastnostech zboží nebo služeb. Pokud je služba založena na AI (například chatbot poskytovaný na základě předplatného, aplikace společníka s AI nebo služba virtuálního koučování), může být funkce AI považována za podstatnou vlastnost, o které musí být spotřebitel informován předtím, než bude vázán smlouvou. Informační povinnosti vyplývající z práva Unie v oblasti ochrany spotřebitele platí bez ohledu na to, zda je interakce považována za „zřejmou“ ve smyslu čl. 50 odst. 1 aktu o AI. Tyto povinnosti rovněž doplňují obecné informační povinnosti v oblasti ochrany spotřebitele, zatímco oznamovací povinnost podle aktu o AI je spíše kontextová a jejím cílem je zajistit, aby si všechny fyzické osoby byly vědomy přímé interakce se systémem AI, a to nejpozději před jejím zahájením a po celou dobu trvání interakce.

51)

Nařízení o digitálních službách rovněž obsahuje požadavky na transparentnost doporučovacích systémů online platforem, včetně povinnosti vysvětlit hlavní parametry řazení výsledků. Tyto povinnosti doplňují povinnosti týkající se transparentnosti stanovené v čl. 50 odst. 1 aktu o AI, neboť mají odlišnou oblast působnosti a jiný účel a týkají se systémů, které v zásadě neinteragují přímo s uživateli ve smyslu čl. 50 odst. 1 aktu o AI.

52)

Pokud jde o informační povinnosti vůči subjektům údajů podle práva Unie v oblasti ochrany údajů, povinnost stanovená v čl. 50 odst. 1 aktu o AI sleduje jiný cíl než tyto povinnosti, a proto na ně nemá žádný vliv.

53)

Stejně tak se povinnost transparentnosti podle čl. 50 odst. 1 aktu o AI uplatní, aniž je tím dotčena právní úprava Unie a vnitrostátní právní úprava týkající se poskytování informací osobám v rámci trestního řízení (např. směrnice 2012/13/EU nebo směrnice 2012/29/EU, ve znění směrnice (EU) 2026/1472) (25).

4.   USTANOVENÍ ČL. 50 BODU 2 AKTU O AI: OZNAČOVÁNÍ A ZJIŠŤOVÁNÍ OBSAHU VYTVOŘENÉHO NEBO MANIPULOVANÉHO UMĚLOU INTELIGENCÍ

54)

Ustanovení čl. 50 odst. 2 aktu o AI ukládá poskytovatelům systémů AI, které vytvářejí syntetický obsah, povinnost zavést technická řešení splňující určité kvalitativní požadavky na strojově čitelné označování a zjišťování výstupů jejich systémů AI. Cílem je umožnit fyzickým osobám odlišit obsah vytvořený nebo manipulovaný umělou inteligencí od jiného obsahu (například obsahu vytvořeného lidmi) a ověřit jeho původ, což zároveň přispívá ke zvýšení integrity informačního ekosystému a důvěry v něj.

55)

Subjekty, které mají z této povinnosti transparentnosti prospěch, jsou proto všechny fyzické osoby, které budou pravděpodobně vystaveny obsahu vytvořenému nebo manipulovanému umělou inteligencí, jakož i klíčoví aktéři, kteří hrají významnou roli pro důvěru a integritu informačního ekosystému, například příslušné orgány dozoru nad trhem a jiné příslušné orgány, nezávislí výzkumníci, organizace občanské společnosti, média, důvěryhodní oznamovatelé, ochránci základních práv, poskytovatelé online platforem a online vyhledávačů, nositelé práv a další tvůrci a distributoři obsahu atd.

4.1   Hlavní prvky a pojmy čl. 50 odst. 2 aktu o AI

56)

Ustanovení čl. 50 odst. 2 aktu o AI se uplatní, pokud je splněno několik kumulativních podmínek:

i)

systém musí splňovat definici systému AI;

ii)

systém AI musí být schopen vytvářet syntetický obsah nebo s ním manipulovat;

iii)

obsah musí být v jedné nebo více z následujících modalit: zvuk, obrázek, video nebo text;

iv)

Na systém AI se nesmí vztahovat žádná z následujících výjimek: 1) systém AI plní asistenční funkci pro standardní editaci; 2) systém AI podstatně nemění vstupní údaje poskytnuté zavádějícím subjektem nebo jejich sémantiku nebo 3) systém AI je ze zákona oprávněn odhalovat trestné činy, předcházet jim, vyšetřovat je nebo stíhat.

4.1.1   Systémy AI vytvářející syntetický obsah nebo s ním manipulující

57)

Ustanovení čl. 50 odst. 2 aktu o AI se vztahuje na systémy AI (26), včetně obecných systémů AI, které vytvářejí syntetický zvukový, obrazový, video nebo textový obsah. Ustanovení čl. 50 odst. 2 aktu o AI se vztahuje na podskupinu systémů, které splňují definici systému AI uvedenou v čl. 3 bodě 1 aktu o AI a které vytvářejí takové výstupy. Ustanovení čl. 50 odst. 2 aktu o AI se vztahuje také na systémy AI používané k manipulaci s obsahem.

58)

Vytvářením obsahu se rozumí vytváření syntetického materiálu systémem AI (např. na základě zadání od člověka), jako je například generování syntetického obrázku nebo písně. V praxi to znamená, že čl. 50 odst. 2 aktu o AI se může vztahovat na generativní systémy AI, které jsou navrženy s úzce vymezeným účelem vytvářet konkrétní výstupy. Zároveň se čl. 50 odst. 2 aktu o AI vztahuje také na systémy AI, které mohou sloužit k více účelům, včetně obecných systémů AI, a mohou vytvářet různé druhy obsahu, jakož i na agentní systémy AI, pokud generují syntetický zvukový, obrazový, video nebo textový obsah.

59)

Naopak, pojem „manipulace s obsahem“ se vztahuje na již existující obsah (ať už syntetický, či nikoli), který je systémem AI změněn (např. existující obrázek nebo hlasová nahrávka, s nimiž systém umělé inteligence manipuluje podle pokynů člověka). Aby se na obsah vztahoval čl. 50 odst. 2 aktu o AI, stačí, aby byl vytvořen nebo s ním bylo manipulováno umělou inteligencí nad rámec standardních úprav ve smyslu výjimek stanovených v čl. 50 odst. 2 aktu o AI (viz oddíl 4.3). Kromě toho čl. 50 odst. 2 aktu o AI nevyžaduje, aby byl obsah výhradně vytvořen nebo manipulován umělou inteligencí. Obsah, který je smíšený s materiálem vytvořeným člověkem, se rovněž považuje za syntetický obsah, pokud s ním bylo manipulováno nebo byl vytvořen některým ze způsobů uvedených v čl. 50 odst. 2 aktu o AI.

4.1.2   Modality syntetického obsahu spadající do působnosti čl. 50 odst. 2 aktu o AI

60)

Ustanovení čl. 50 odst. 2 aktu o AI obsahuje vyčerpávající výčet modalit syntetického obsahu, na které se vztahuje povinnost týkající se transparentnosti: zvuk, obrázek, video nebo text. To zahrnuje také multimodální obsah, tedy obsah, který se skládá z kombinace těchto modalit. Pro účely čl. 50 odst. 2 aktu o AI je třeba jednotlivé modality vykládat v souladu s praktickým a technologickým vývojem, k němuž může v průběhu času docházet. V současné době by měly být chápány takto:

—

Textem se rozumí diskrétní symbolický obsah složený ze znaků nebo čísel uspořádaných v určitém pořadí, který jsou lidé schopni přečíst a sémanticky interpretovat.

—

Obrazem se rozumí statické prostorové znázornění kódující vizuální informace, které jsou lidé schopni vnímat zrakem.

—

Zvukem se rozumí časově proměnný signál kódující zvuk, který jsou lidé schopni vnímat sluchem. To může zahrnovat řeč, instrumentální hudbu nebo jiné zvukové signály.

—

Video je časově uspořádaná posloupnost snímků, která může být synchronizována se zvukem a kterou jsou lidé schopni vnímat zrakem. V takovém případě je nutné označit jak video, tak zvukový obsah a zajistit jejich zjistitelnost, jak je uvedeno níže.

61)

Systémy AI, které vytvářejí 3D obrázky, 3D videa a 3D zvuk, jakož i virtuální, rozšířenou nebo smíšenou realitu, nebo s nimi manipulují, spadají do působnosti čl. 50 odst. 2 aktu o AI. „Virtuální realita“ označuje technologie AI, které uživatelům umožňují vstoupit do počítačem vytvořeného prostředí simulující fyzickou přítomnost a interagovat s ním v reálném čase. Jelikož virtuální a rozšířená realita sestává z časově uspořádané posloupnosti snímků, případně synchronizovaných se zvukem, která znázorňuje vizuální změny v průběhu času, lze ji považovat za „video“ obsah. Relevantním „výstupem“, který má být označen, je konečná podoba jednotlivého aktiva generovaného umělou inteligencí, s výjimkou zvláštních případů krátkodobých interaktivních relací v reálném čase uvedených v bodě 88 níže. Digitální artefakty používané k vytváření 3D obrazů, 3D videí a 3D zvukového obsahu, jako jsou například mračno bodů nebo 3D síť, nemusí být označeny.

62)

Do působnosti čl. 50 odst. 2 aktu o AI spadají také digitální dvojčata, která představují virtuální repliku osob, fyzických objektů nebo systémů a integrují různé typy dat, pokud jsou vytvořena nebo je s nimi manipulováno umělou inteligencí a mají podobu zvuku, obrazu, videa nebo textu, ledaže by spadala do výjimek a splňovala podmínky pro „průmyslové aplikace“ nebo „mezipodnikové aplikace“ podle bodu 87 níže nebo pro dočasný obsah v reálném čase podle bodu 88 níže.

63)

Ustanovení čl. 50 odst. 2 aktu o AI se může vztahovat i na agenty AI, pokud agent AI provede úkon, jehož výstupem je obsah vytvořený nebo zmanipulovaný umělou inteligencí, který mohou vnímat fyzické osoby ve formě zvuku, obrazu, videa nebo textu. Tyto výstupy proto musí být označeny a zjistitelné, jak je popsáno níže. Naproti tomu jakýkoli úkon agenta AI, který nezahrnuje obsah vytvořený nebo zmanipulovaný umělou inteligencí (např. mezikroky zpracování, jako je uvažování a řetězení myšlenkových kroků), nebo úkon generovaný umělou inteligencí, který není určen k tomu, aby byl přímo vnímán fyzickými osobami (např. webový požadavek nebo akce prohlížeče), se nepovažuje za syntetický obsah ve smyslu čl. 50 odst. 2 aktu o AI a nemusí splňovat povinnosti týkající se označování a zjišťování.

4.1.3   Obsah, který nespadá do působnosti čl. 50 odst. 2 aktu o AI

64)

Obsah vytvořený systémem AI na základě jednoduchého zpracování dat, který nebyl výslovně vytvořen ani zmanipulován umělou inteligencí, například renderovaný snímek, nespadá do působnosti čl. 50 odst. 2 aktu o AI.

65)

Do působnosti čl. 50 odst. 2 aktu o AI rovněž nespadá výstup systému AI, který pouze reprodukuje stávající obsah nebo umožňuje prezentaci či uspořádání již existujícího obsahu. Může se jednat např. o seznamy hudby k přehrání nebo jiné doporučovací systémy, které pouze vybírají či řadí stávající obsah na základě preferencí nebo aktivity uživatelů, aniž by vytvářely cokoli nového nebo manipulovaly se samotným obsahem. Totéž platí pro systémy AI používané v interních analytických procesech, které data získávají a strukturují, ale neprovádějí jejich shrnutí.

66)

Patří sem rovněž vstupy a výstupy systému AI, které představují pouhá pozorování a záznamy dat z fyzického či virtuálního prostředí, která nejsou vytvořena ani zmanipulována umělou inteligencí (např. roboty či jinými senzory vybavenými AI), nebo přenosy dat prováděné systémy AI bez jakékoli změny. To zahrnuje celou řadu vstupů a výstupů systémů AI, zejména v průmyslovém prostředí, jako jsou například výrobní data pro roboty, které tato data sledují; spotřeba zaznamenaná inteligentními elektroměry založenými na AI, měření frekvence a napětí v síti a zaznamenávání údajů o poloze z GPS ve vozidlech atd.

67)

Vzhledem k tomu, že cílem povinnosti transparentnosti podle čl. 50 odst. 2 aktu o AI je umožnit lidem odlišit obsah vytvořený nebo zmanipulovaný umělou inteligencí, a tím řešit rizika klamání a manipulace a zajistit integritu informačního ekosystému a důvěru v něj, nevztahuje se toto ustanovení na žádný obsah, který s tímto cílem nesouvisí a který není vnímatelný ani není určen k tomu, aby jej fyzické osoby interpretovaly, ověřovaly nebo na jeho základě jednaly.

68)

Za obsah, který nespadá do působnosti čl. 50 odst. 2 aktu o AI, by měly být považovány zejména následující druhy obsahu:

—

výstupy generované ve formě krátké posloupnosti čísel, symbolů nebo písmen (např. jednotlivá slova, popisky obrázků, alternativní texty, označení uživatelského rozhraní a grafické prvky v měřítku ikon, popisky obrázků a jiné datové štítky),

—

zdrojový kód chápaný jako obsah psaný v programovacím, skriptovacím, značkovacím, dotazovacím nebo konfiguračním jazyce, který je určen k interpretaci, kompilaci nebo spuštění výpočetním systémem, bez ohledu na to, zda je tvořen textovými znaky. To může zahrnovat také komentáře v přirozeném jazyce a kontextové informace, které tvoří nedílnou součást zdrojového kódu. Stejně tak jsou vyloučeny sady pro vývoj softwaru (SDK), jazyk SQL (Structured Query Language), infrastruktura jako kód (Infrastructure-as-Code) a konfigurace ve formátu YAML (YAML Ain’t Markup Language) a JSON (JavaScript Object Notation), schémata, skripty, strojově čitelné specifikace, aplikační programovací rozhraní (API a softwarové knihovny),

—

výstupy systému AI určené výhradně k přenosu mezi stroji a k automatizovanému zpracování bez jakéhokoli kontaktu s lidmi, například komunikace mezi agenty, antispamové signály, pokud nejsou vnímány fyzickými osobami,

—

výstupy, které se používají pouze v uzavřených systémech v rámci průmyslových a vývojových procesů (například při výrobě filmů, animací, her nebo reklam), pokud se nejedná o konečný výstup systému AI ve formě textového, zvukového, obrazového nebo video obsahu vytvořeného či zmanipulovaného umělou inteligencí. V těchto případech musí být označen a zjistitelný pouze konečný výstup pracovního postupu.

4.2   Povinnost označování a zjišťování podle čl. 50 odst. 2 aktu o AI

69)

Ustanovení čl. 50 odst. 2 aktu o AI stanoví poskytovatelům generativních systémů AI spadajících do působnosti tohoto ustanovení povinnost transparentnosti, která zahrnuje dva odlišné, avšak vzájemně úzce provázané prvky. Za prvé musí poskytovatelé zajistit, aby výstupy systému AI byly označeny ve strojově čitelném formátu. Za druhé musí poskytovatelé zajistit, aby výstupy byly zjistitelné jako uměle vytvořený nebo manipulovaný obsah. U každého použitého řešení pro označování by poskytovatelé měli zajistit, aby byly k dispozici odpovídající prostředky pro zjišťování (jak je uvedeno níže), které umožní fyzickým osobám vystaveným tomuto obsahu a dalším příslušným subjektům identifikovat obsah uměle vytvořený systémem AI a odlišit ho od jiného obsahu. Technickým řešením se rozumí kombinace technik označování a prostředků pro zjišťování, které poskytovatel zavedl za účelem splnění povinnosti transparentnosti podle čl. 50 odst. 2 aktu o AI.

70)

K účinnému naplnění cílů povinností v oblasti transparentnosti podle čl. 50 odst. 2 aktu o AI musí být splněny oba výše uvedené prvky. Splnění pouze jednoho z těchto prvků (např. strojově čitelné označení výstupů, aniž by byly k dispozici prostředky pro jejich zjištění) ke splnění tohoto ustanovení nepostačuje (27).

4.2.1   Povinnost označování

71)

Rozsah povinnosti označování je omezen na zavedení značek ve strojově čitelném formátu. Strojově čitelný formát znamená, že značky jsou strukturovány tak, aby je softwarové aplikace mohly snadno identifikovat, rozpoznat a extrahovat bez zásahu člověka. Vnímatelné značky a štítky nejsou vyloučeny jako doplňkové opatření, je-li to vhodné, s cílem usnadnit zavádějícím subjektům splnění jejich povinnosti označovat „deep fakes“ v souladu s čl. 50 odst. 4 aktu o AI.

72)

K plnění povinnosti označování mohou poskytovatelé využít jednu techniku označování nebo kombinaci technik, pokud jejich celkové technické řešení je strojově čitelné a splňuje požadavky na účinnost, interoperabilitu, robustnost a spolehlivost v právem požadovaném rozsahu, jak stanoví čl. 50 odst. 2 druhá věta aktu o AI (viz oddíl 4.2.3 níže).

73)

Ustanovení 133. bodu odůvodnění aktu o AI uvádí příklady takových technik, mezi něž patří vodoznaky, identifikace metadat, kryptografické metody prokazování původu a pravosti obsahu, metody vedení protokolů, otisky prstů nebo jiné techniky a kombinace těchto technik. Ve 133. bodě odůvodnění aktu o AI jsou zmíněny metody prokazování původu a pravosti, avšak poskytovatelé nejsou povinni zaznamenávat ani uchovávat úplný řetězec původu obsahující informace o vzniku obsahu a jeho změnách ani jakékoli jiné relevantní tvrzení týkající se historie obsahu. Takové metody ověřování původu však mohou být rovněž využity pro plnění čl. 50 odst. 2 aktu o AI a mohou přispět k tomu, aby fyzické osoby mohly odlišit obsah vytvořený nebo manipulovaný umělou inteligencí od autentického obsahu.

74)

Poskytovatelé mohou řešení pro označování výstupů zavést v různých fázích hodnotového řetězce (např. dodatečně po vytvoření obsahu na úrovni systému AI, na úrovni podkladového modelu AI nebo přímo v procesu odvozování systému AI). Mohou se spolehnout na řešení označování zavedené poskytovatelem modelů na předchozí úrovni nebo třetí stranou, která toto řešení poskytuje (např. jako otevřený standard nebo specializovanou službu), a to v rozsahu, v jakém je dané řešení pro označování v souladu s čl. 50 odst. 2 aktu o AI. Takovým spoléháním není dotčena odpovědnost poskytovatele systému AI za prokázání souladu s čl. 50 odst. 2 aktu o AI.

4.2.2   Povinnost zjišťování

75)

Poskytovatelé systémů AI spadajících do působnosti čl. 50 odst. 2 aktu o AI musí zajistit, aby výstupy jejich systémů byly zjistitelné jako obsah vytvořený nebo manipulovaný umělou inteligencí. To znamená, že poskytovatel je povinen zajistit, aby prostředky pro zjišťování byly dostupné osobám, které mohou být tomuto obsahu potenciálně vystaveny. Dále by podle čl. 50 odst. 5 aktu o AI měla být tato řešení pro zjišťování schopna poskytovat výsledky srozumitelné pro člověka, které uvádějí, zda byl obsah vytvořen nebo manipulován umělou inteligencí.

76)

Detekční nástroj je mechanismus, který zjišťuje, zda byl obsah vytvořen nebo zmanipulován umělou inteligencí, obvykle na základě identifikace technických znaků nebo signatur, které ověřují jeho původ. Aby byla zajištěna plná interoperabilita, musí poskytovatelé využívat veřejně dostupná detekční řešení založená na průmyslových normách, která umožňují jakékoli třetí straně zavést zjišťování, jež je v ideálním případě spustitelné lokálně na digitálním zařízení a umožňuje bezproblémovou integraci do samostatných, izolovaných sítí. Pokud takové normy nejsou k dispozici, zejména v počáteční fázi provádění čl. 50 odst. 2 aktu o AI u technologií vodoznaků, může poskytovatel využít vlastní detekční řešení nebo řešení třetí strany či sdílené detekční řešení, pokud tato řešení zajišťují interoperabilitu s detekčními řešeními používanými jinými poskytovateli (viz oddíl 4.2.3). Tato možnost by měla být časově omezená, dokud nevzniknou harmonizované normy a standardizované, na poskytovateli nezávislé a interoperabilní detekční řešení, které je bezpečné, chrání soukromí a je lokálně spustitelné.

77)

Ustanovení čl. 50 odst. 5 aktu o AI dále stanoví, že informace uvedené v čl. 50 odst. 2 aktu o AI by měly být fyzickým osobám, které jsou vystaveny danému obsahu, poskytnuty jasným a rozlišitelným způsobem nejpozději v době první interakce nebo expozice. Tyto informace jsou především výsledkem zjišťování, které určuje, zda je obsah vytvořen nebo manipulován umělou inteligencí, a nikoli samotný obsah vytvořený či zmanipulovaný umělou inteligencí. „V době první expozice“ je třeba chápat jako okamžik, kdy jsou fyzické osoby ochotny ověřit původ konkrétního obsahu a využít detekční řešení k získání výsledků zjišťování.

78)

Pokud je poskytovatel systému AI při poskytování detekčního řešení nebo přístupu k takovému řešení závislý na jiném subjektu, musí zajistit, aby dané detekční řešení bylo v souladu s čl. 50 odst. 2 a 5 aktu o AI a aby tyto subjekty zobrazovaly výsledky zjišťování v souladu s čl. 50 odst. 5 aktu o AI (viz oddíl 7).

4.2.3   Dodržování požadavků na technická řešení: účinná, interoperabilní, robustní a spolehlivá

79)

Ustanovení čl. 50 odst. 2 druhé věty aktu o AI stanoví, že technická řešení pro označování a zjišťování musí být účinná, interoperabilní, robustní a spolehlivá. Tyto požadavky by měly být chápány takto:

—

účinností se rozumí schopnost technického řešení zavedeného poskytovateli zjistit jejich značky a umožnit fyzickým osobám rozlišit uměle vytvořený nebo manipulovaný obsah generovaný jejich systémem AI, a přispět tak k důvěře a integritě informačního ekosystému,

—

spolehlivostí se rozumí schopnost technického řešení přesně identifikovat a odlišit obsah vytvořený nebo zmanipulovaný umělou inteligencí od jiného obsahu za nominálních podmínek, a to v celé škále obsahu vytvořeného nebo manipulovaného systémem AI daného poskytovatele,

—

robustností se rozumí schopnost technického řešení přesně identifikovat a odlišit obsah vytvořený nebo zmanipulovaný umělou inteligencí vyprodukovaný systémem AI daného poskytovatele od jiného obsahu za různých podmínek, zahrnujících jak běžné změny, tak nepřátelské útoky,

—

interoperabilitou se rozumí schopnost různých technických řešení pro označování a zjišťování bezproblémově fungovat napříč různými systémy, subjekty, kontexty a technickými provedeními, aby bylo možné zjistit obsah vytvořený nebo manipulovaný umělou inteligencí, a to bez ohledu na způsob nebo způsoby označování zavedené poskytovateli různých systémů AI.

80)

Poskytovatelé musí zajistit, aby kombinace technických řešení pro označování a zjišťování komplexně splňovala všechny výše uvedené požadavky v zákonem stanovené míře, s přihlédnutím k omezením a vzájemné doplňkovosti různých zavedených řešení. Technická řešení musí splňovat všechny požadavky, pokud je to technicky proveditelné, s přihlédnutím ke zvláštnostem a omezením různých druhů obsahu, nákladům na provádění a obecně uznávanému nejmodernějšímu stavu technologií, tak jak mohou být zachyceny v příslušných technických normách.

81)

„Technicky proveditelná“ řešení ve smyslu čl. 50 odst. 2 aktu o AI jsou řešení, která lze realizovat pro modality spadající do působnosti tohoto ustanovení, s využitím v současnosti dostupných technických prostředků, metod a inženýrských postupů v rámci konkrétní technické architektury a příslušného operačního prostředí. Poskytovatel není povinen použít technické řešení, které dosud nebylo vyvinuto nebo není dostupné na trhu, případně jehož zavedení je technicky neproveditelné. Technická proveditelnost je objektivní pojem, který nezávisí na konkrétních zdrojích a schopnostech jednotlivých poskytovatelů.

82)

Ustanovení čl. 50 odst. 2 aktu o AI ukládá poskytovatelům povinnost zavést technicky proveditelná řešení, která odpovídají obecně uznávanému nejmodernějšímu stavu technologií, aby byly splněny čtyři kvalitativní požadavky, tj. účinnost, robustnost, spolehlivost a interoperabilita.

83)

„Nejmodernější stav technologií“ je třeba chápat jako vyspělou úroveň technických možností v dané době, pokud jde o výrobky, procesy a služby, vycházející z příslušných konsolidovaných poznatků vědy, techniky a zkušeností a uznávanou jako osvědčená technická praxe (28). Nejmodernější stav technologie nemusí nutně znamenat nejnovější vědecký výzkum, který se ještě nachází v experimentální fázi nebo nedosahuje dostatečné technologické vyspělosti. Poskytovatelé musí svá řešení pro označování a zjišťování průběžně, včas a přiměřeně přizpůsobovat technickému vývoji a nejmodernějšímu stavu technologie.

84)

S ohledem na čl. 50 odst. 7 aktu o AI se poskytovatelé mohou za účelem prokázání splnění povinností označování a zjišťování podle čl. 50 odst. 2 a 5 aktu o AI opírat o kodex správné praxe, který odpovídá nejmodernějšímu stavu technologií. Další informace o účincích dodržování takového kodexu a o dohledu nad jinými poskytovateli, kteří se kodexem neřídí, naleznete v oddíle 8.1 níže.

85)

Lze rovněž vzít v úvahu náklady na zavedení určitých technických řešení pro označování a zjišťování. V určitých případech, jak je popsáno v následujících bodech, mohou být náklady neúměrné nepatrným přínosům, které mají spíše omezenou hodnotu z hlediska umožnění lidem rozlišit obsah vytvořený nebo manipulovaný umělou inteligencí a z hlediska zajištění integrity informačního ekosystému a důvěry v něj.

86)

Mohou tedy existovat úzce vymezené případy, kdy je technické řešení založené na méně robustním označování metadat dostatečné pro účely splnění požadavků čl. 50 odst. 2 aktu o AI, a to s přihlédnutím ke zvláštnostem výstupů systému AI, pokud tyto výstupy ze své podstaty představují nižší riziko klamání, manipulace nebo negativních dopadů na informační ekosystém. To platí zejména v případě, kdy je generativní systém AI začleněn do fyzických výrobků a generuje výstupy v technicky kontrolovaném a uzavřeném prostředí, které má převážně instruktivní charakter (např. systém AI začleněný do navigačních systémů ve vozidlech), a to v rozsahu, v jakém jsou do výrobku zabudována účinná technická opatření, která zabraňují tomu, aby výstup opustil prostředí výrobku, například tím, že by byl zachycen nebo exportován a šířen navenek.

87)

Mohou se vyskytnout také ojedinělé případy „průmyslových aplikací AI“ nebo „aplikací ve vztazích mezi podniky“ (s výjimkou systémů AI určených veřejnosti a spotřebitelům), u nichž zásada přiměřenosti a omezený přínos pro cíle v oblasti transparentnosti znamenají, že není nutné označovat ani zjišťovat výstupy vytvořené nebo zmanipulované umělou inteligencí. To platí pouze v případě, že jsou splněny všechny následující podmínky:

i)

výstup generovaný systémem AI má výhradně technický charakter, například inženýrské návrhy, pracovní postupy v průmyslové výrobě, technické pokyny, výstupy vzniklé v rámci procesů prediktivní údržby systémů v průmyslovém prostředí, interní dokumentační procesy nebo výrobní kroky a pracovní postupy, a to předtím, než je výstup dokončen a zpřístupněn jiným externím osobám či veřejnosti;

ii)

výstup generovaný systémem AI je určen výhradně k vnímání a zpracování omezeným, předem stanoveným počtem fyzických osob, které jednají v rámci své profesní činnosti v organizaci poskytovatele a zavádějícího subjektu;

iii)

výstup generovaný systémem AI nesmí být určen ke sdílení mimo společnost ani k použití externími osobami, přičemž musí být zavedeny příslušné záruky, jež zabrání rozumně předvídatelnému zneužití (např. izolace v cloudu, kontroly založené na rolích).

88)

Vytváření obsahu v reálném čase, který je dočasný a je okamžitě spotřebován, aniž by byl zaznamenán, uložen nebo dále šířen (např. ve videohrách, aplikacích virtuální reality), může být rovněž vyňato z působnosti čl. 50 odst. 2 aktu o AI, pokud označení není technicky proveditelné a osoby vystavené tomuto obsahu jsou informovány o tom, že se jedná o obsah vytvořený nebo manipulovaný umělou inteligencí (např. informování přímo v daném prostředí, oznámení na úrovni relace).

4.3   Výjimky z povinností podle čl. 50 odst. 2 aktu o AI

89)

Ustanovení čl. 50 odst. 2 aktu o AI stanoví tři výslovné výjimky z povinností týkajících se transparentnosti stanovených v tomto ustanovení.

90)

První výjimka se týká systémů AI v rozsahu, v jakém plní asistenční funkci pro standardní editaci. Standardní editace by měla být chápána jako proces přípravy stávajícího obsahu k publikaci nebo distribuci (např. drobné úpravy za účelem zlepšení čtivosti a gramatiky, kvality a formátu), přičemž se nejedná o tvorbu nového obsahu. Cílem standardní editace je zajistit, aby obsah mimo jiné neobsahoval zjevné technické či gramatické jazykové chyby, aby odpovídal platným požadavkům na rozvržení, prezentaci, formátování či přístupnost a aby byl v souladu s oborovými zvyklostmi. Editace přesahuje rámec standardní editace, pokud dojde k podstatným změnám obsahu (věcné úpravy, strukturální změny atd.), které ovlivňují jeho význam, styl nebo záměr.

91)

Druhá výjimka se vztahuje na případy, kdy systém AI podstatně nemění vstupní data poskytnutá zavádějícím subjektem ani jejich sémantiku. Změna by měla být považována za podstatnou, pokud systém AI během procesu generování výstupu významně upravil vstupní data nebo jejich sémantiku. To musí vycházet z posouzení relevantních faktorů, jako je formát, typ mediálního obsahu, styl a změny v obsahu, které ovlivňují jeho význam, styl nebo záměr. Zda tomu tak skutečně je, je třeba posoudit v každém jednotlivém případě.

92)

Pokud lze systém AI použít jak k vytváření či manipulaci obsahu, tak k nepodstatným drobným změnám vstupních dat, pak se povinnost transparentnosti podle čl. 50 odst. 2 aktu o AI nevztahuje na obsah, který byl změněn drobným a nepodstatným způsobem.

Příklady standardní editace a drobných změn, na které se vztahuje výjimka podle čl. 50 odst. 2 aktu o AI:

—

gramatické opravy a kontrola pravopisu, jazykové a drobné stylistické úpravy, které nemění podstatu, význam, styl ani sdělení textu, překlady textu vytvořené umělou inteligencí,

—

formátování, převody formátů, technická komprese, redukce nebo odstranění šumu za účelem zvýšení srozumitelnosti, aniž by se měnil význam nebo podstata obsahu,

—

drobné ořezy, drobné úpravy nebo korekce barev, zesvětlení nebo ztmavení, zvýšení ostrosti pro lepší srozumitelnost či jiná standardní editace a technické korekce,

—

odstranění prachových skvrn způsobených znečištěným objektivem nebo snímačem, odstranění efektu „červených očí“ způsobeného fotografováním s bleskem; odstraňování a zakrývání pozadí, která jsou viditelná v původním souboru, pixelizace nebo rozmazání obličejů,

—

změna měřítka videozáznamu, komprese dynamického rozsahu a ekvalizace; omezená stabilizace videa,

—

standardní úpravy barev a kontrastu, drobné úpravy rychlosti přehrávání, drobné korekce pro vyrovnání horizontu na snímku, použití pixelových filtrů ke zvýraznění určitých částí obrázku nebo použití barevných map na černobílé snímky, doplnění okrajů obrázku, převod černobílého obrázku nebo videa na barevný a naopak,

—

doplňování pixelů pro přizpůsobení poměru stran nebo zvýšení srozumitelnosti, automatické přechodové klipy, jiné nepodstatné úpravy pro kosmetické a technické účely,

—

technické zpracování nebo rekonstrukce medicínských snímků v rámci zdravotnických prostředků (např. anotace, rámečky, obrysy, kruhy, teplotní mapy),

—

přepisy konverzací, obsah vytvořený umělou inteligencí, který pouze transformuje autentický lidský vstup prostřednictvím asistenčních technologií umožňujících osobám se zdravotním postižením komunikovat (např. augmentativní a alternativní komunikace (AAC) nebo přizpůsobené neuronové hlasy (CNV)), jelikož sémanticky nemění význam obsahu.

Příklady sémantických změn, které vyžadují označení podle čl. 50 odst. 2 aktu o AI:

—

souhrny textů vytvořené umělou inteligencí; parafrázování nebo přepracování textu, při kterém dochází ke změně stylu, struktury a významu nad rámec pouhých gramatických a drobných stylistických oprav,

—

odstranění, nahrazení nebo vložení objektů či osob do stávajících obrázků a videí, které mění význam a podstatu obsahu; změna obličeje nebo jeho podstatná úprava,

—

syntéza realistické řeči v hlasu konkrétní osoby nebo vytváření realistického videa zobrazujícího události, které se ve skutečnosti nestaly; změna tělesné stavby nebo barvy kůže člověka; extrémní zesvětlení, ztmavení, změny barev a kontrastu, které mění význam, záměr a sdělení obsahu,

—

vytváření kompozitních obrázků nebo videoklipů, které mění zobrazení osob, objektů, událostí nebo skutečností, jakákoli jiná podstatná změna obsahu.

93)

Třetí výjimka se vztahuje na generativní systémy AI, které jsou ze zákona oprávněny vytvářet syntetický obsah nebo s ním manipulovat za účelem odhalování trestných činů, předcházení jim, jejich vyšetřování nebo stíhání. Vysvětlení uvedená k této výjimce v bodech 46–48 výše jsou relevantní i v tomto případě.

4.4   Vzájemné působení s jinými právními akty Unie

94)

Povinnosti týkající se označování a zjišťování podle čl. 50 odst. 2 aktu o AI se zaměřují na to, jak byl obsah vytvořen, a na jeho umělý původ, a nikoli na to, kdo tento obsah vytvořil. Veškerá řešení v oblasti označování a zjišťování používaná poskytovateli systémů AI proto musí být v souladu s platným právem Unie v oblasti ochrany údajů, včetně zásad a povinností ochrany údajů, jako jsou zásady záměrné a standardní ochrany údajů, minimalizace údajů, zabezpečení a důvěrnosti. Například pro účely označování a zjišťování by se neměly zpracovávat informace týkající se tvůrce obsahu a jakékoli jiné osobní údaje, které jsou zpracovávány, by měly být vymazány, jakmile je účel zjišťování splněn; musí být zajištěno zabezpečení a důvěrnost atd.

95)

Ve 136. bodě odůvodnění aktu o AI se dále zdůrazňuje zvláštní význam povinností v oblasti transparentnosti podle čl. 50 odst. 1, 2 a 4 aktu o AI pro usnadnění účinného provádění nařízení o digitálních službách. Toto platí zejména pro povinnosti poskytovatelů velmi velkých online platforem nebo velmi velkých internetových vyhledávačů pečlivě určovat, analyzovat, posuzovat a zmírňovat systémová rizika, jež mohou vyplývat z šíření obsahu, který byl uměle vytvořen nebo s nímž bylo uměle manipulováno, zejména riziko skutečných nebo předvídatelných negativních dopadů na demokratické procesy, občanský diskurz a volební procesy, a to i prostřednictvím dezinformací (články 34 a 35 nařízení o digitálních službách). Strojově čitelné značky mohou těmto poskytovatelům umožnit zjistit obsah vytvořený nebo manipulovaný umělou inteligencí a zajistit jeho odpovídající označení a zveřejnění informací o něm, což sníží riziko šíření dezinformací generovaných umělou inteligencí v rámci jejich služeb.

96)

Povinnostmi označovat a opatřovat štítky obsah vytvořený nebo manipulovaný systémy AI podle čl. 50 odst. 2 a 4 aktu o AI není dotčena povinnost uvedená v čl. 16 odst. 6 nařízení o digitálních službách, která ukládá poskytovatelům hostingových služeb zpracovávat oznámení o nezákonném obsahu obdržená podle čl. 16 odst. 1 nařízení o digitálních službách (29). Označování nebo opatřování štítky u obsahu vytvořeného nebo manipulovaného umělou inteligencí by zejména nemělo ovlivnit posouzení konkrétního obsahu a rozhodnutí o jeho nezákonnosti podle jiných regulačních rámců. Toto posouzení by mělo být provedeno výhradně s odkazem na pravidla upravující zákonnost obsahu podle těchto rámců (30). Pokud je například označený obrázek typu „deep fake“ nahlášen jako potenciální materiál zobrazující pohlavní zneužívání dětí nebo jako obsah porušující právo ochranných známek či autorské právo, nemá použití značky žádný vliv na potenciální nezákonnost daného obsahu podle těchto právních rámců. Toto posouzení by mělo být provedeno výhradně na základě příslušných platných právních předpisů (např. trestněprávních předpisů či pravidel týkajících se ochranných známek nebo autorského práva).

97)

Naopak strojově čitelné označení vložené do obsahu podle čl. 50 odst. 2 aktu o AI může poskytovatelům velmi velkých online platforem a velmi velkých internetových vyhledávačů pomoci splnit jejich povinnosti podle článků 34 a 35 nařízení o digitálních službách určovat, analyzovat a posuzovat systémová rizika, která mohou vyplynout ze šíření obsahu, který byl uměle vytvořen nebo s nímž bylo manipulováno, zejména riziko skutečných nebo předvídatelných negativních dopadů na demokratické procesy, občanský diskurz a volební procesy, mimo jiné prostřednictvím dezinformací (31), a zavést rozumná, přiměřená a účinná zmírňující opatření přizpůsobená konkrétním zjištěným systémovým rizikům. Poskytovatelé služeb velmi velkých online platforem a velmi velkých internetových vyhledávačů mohou být rovněž považováni za poskytovatele systémů AI, pokud splňují příslušné podmínky stanovené v aktu o AI v případech, kdy začlení systémy AI do svých služeb (viz také oddíl 6.1.5).

98)

Provozovatelé online platforem, internetových vyhledávačů a další příslušné subjekty šířící obsah v rámci daného hodnotového řetězce jsou zejména vybízeni k tomu, aby zachovávali a umožňovali identifikaci značek zavedených poskytovateli podle čl. 50 odst. 2 aktu o AI, aby fyzické osoby, které jsou tomuto obsahu vystaveny, mohly být informovány o jeho původu.

5.   USTANOVENÍ ČL. 50 ODST. 3 AKTU O AI: SYSTÉMY ROZPOZNÁVÁNÍ EMOCÍ A SYSTÉMY BIOMETRICKÉ KATEGORIZACE

99)

Ustanovení čl. 50 odst. 3 aktu o AI ukládá subjektům zavádějícím systémy rozpoznávání emocí a systémy biometrické kategorizace povinnost informovat fyzické osoby, které jsou těmto systémům vystaveny, o fungování daného systému.

100)

Ve 132. bodě odůvodnění aktu o AI se vysvětluje, že účelem této povinnosti je zajistit, aby si fyzické osoby (včetně osob se zdravotním postižením) byly vědomy toho, že jsou vystaveny systémům rozpoznávání emocí a biometrické kategorizace, které mohou zasahovat do jejich soukromí. Tato povinnost se proto uplatní bez ohledu na to, zda jsou osoby těmto systémům vystaveny v reálném čase, nebo zda jsou tyto systémy provozovány dodatečně (ex post).

5.1   Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti podle čl. 50 odst. 3 aktu o AI

5.1.1   Pojem systému rozpoznávání emocí

101)

Ustanovení čl. 3 bodu 39 aktu o AI definuje „systém rozpoznávání emocí“ jako „systém AI pro účely zjišťování nebo odvozování emocí nebo záměrů fyzických osob na základě jejich biometrických údajů“. Podrobné vysvětlení tohoto pojmu obsažené v pokynech Komise ke klasifikaci vysoce rizikových systémů AI, včetně praktických příkladů v nich uvedených, je stejně relevantní v kontextu čl. 50 odst. 3 aktu o AI.

102)

Jelikož jsou všechny systémy rozpoznávání emocí rovněž klasifikovány jako vysoce rizikové, měla by se na ně – pokud nejsou zakázány na pracovišti a ve vzdělávacích institucích podle čl. 5 odst. 1 písm. f) aktu o AI – vztahovat povinnost transparentnosti uvedená v čl. 50 odst. 3 aktu o AI ve spojení s ostatními zárukami a požadavky platnými pro vysoce rizikové systémy AI.

5.1.2   Pojem systému biometrické kategorizace

103)

Ustanovení čl. 3 bodu 40 aktu o AI definuje „systém biometrické kategorizace“ jako „systém AI pro účely zařazení fyzických osob do určitých kategorií na základě jejich biometrických údajů, pokud není doplňkem k jiné komerční službě a není nezbytně nutný z objektivních technických důvodů“. Podrobné vysvětlení tohoto pojmu obsažené v pokynech Komise ke klasifikaci vysoce rizikových systémů AI, včetně jeho konkrétních prvků, jakož i praktických příkladů v nich uvedených, je stejně relevantní v kontextu čl. 50 odst. 3 aktu o AI.

104)

Je důležité poznamenat, že ustanovení čl. 50 odst. 3 aktu o AI se vztahuje na veškeré systémy biometrické kategorizace (např. klasifikaci podle věku nebo pohlaví na základě biometrických údajů), pokud nejsou zakázány podle čl. 5 odst. 1 písm. g) aktu o AI, a to bez ohledu na to, zda spadají mezi vysoce rizikové systémy AI podle tohoto aktu, či nikoli.

5.1.3   Informační povinnost podle čl. 50 odst. 3 aktu o AI

105)

Rozsah informací, které mají být poskytnuty: Zavádějící subjekty jsou povinny informovat dotčené fyzické osoby, které jsou vystaveny systému rozpoznávání emocí nebo systému biometrické kategorizace, o provozu tohoto systému. Akt o AI nevyžaduje uvádění informací o důvodech provozu systému ani o tom, zda systém zpracovává informace také pro jiné účely než rozpoznávání emocí nebo biometrickou kategorizaci; tyto informace je třeba zpřístupnit podle práva Unie v oblasti ochrany údajů (viz oddíl 5.3).

106)

Adresáti informací: Ustanovení čl. 50 odst. 3 aktu o AI ukládá zavádějícím subjektům povinnost informovat všechny fyzické osoby, které jsou provozu systému AI vystaveny, včetně dětí.

107)

Způsoby poskytování informací: Akt o AI nepředepisuje konkrétní způsob poskytování informací, s výjimkou čl. 50 odst. 5 aktu o AI, který vyžaduje, aby byly informace poskytovány jasným a rozlišitelným způsobem a v souladu s platnými požadavky na přístupnost (s ohledem na potřeby fyzických osob se zdravotním postižením). To, jak mají být fyzické osoby vystavené systému informovány, může záviset na místě jeho nasazení (např. virtuální herní platforma, kamenný obchod, nádraží), na možných adresátech (např. děti, starší lidé, osoby se zdravotním postižením, zákazníci), délce a typu vystavení (např. dlouhodobé, jednorázové, nepřetržité, přerušované) a případné existenci vztahu mezi zavádějícím subjektem a vystavenými osobami (např. zda existuje komunikační kanál s daným jednotlivcem). V závislosti na případu použití mohou být informace poskytnuty písemně, pomocí standardizovaných ikon (a to i v elektronické podobě), ústně nebo kombinací těchto způsobů.

Příklady informování fyzických osob:

—

vyskakovací okno umístěné uprostřed obrazovky, které se zobrazí před spuštěním počítačové hry a obsahuje uvítací zprávu s upozorněním, že se zaznamenává obličej hráče za účelem zachycení jeho emocí,

—

viditelné oznámení u každého možného vchodu do výstavní místnosti s informací, že při vstupu do místnosti jsou pořizovány snímky obličeje návštěvníků za účelem jejich zařazení do konkrétní věkové skupiny.

108)

Lhůta pro poskytnutí informací: Tyto informace musí být poskytnuty nejpozději v době prvního kontaktu se systémem AI nebo prvního vystavení tomuto systému v souladu s čl. 50 odst. 5 aktu o AI. Je-li to vhodné, není vyloučeno poskytnutí požadovaných informací předem.

5.2   Výjimka pro účely vymáhání práva

109)

Informační povinnost se nevztahuje na systémy AI používané pro rozpoznávání emocí a biometrickou kategorizaci, kterým zákon umožňuje odhalovat trestné činy, předcházet jim nebo je vyšetřovat, s výhradou příslušných záruk týkajících se práv a svobod třetích stran a v souladu s právem Unie. Vysvětlení týkající se této výjimky uvedená v bodech 46–48 výše platí i v tomto případě, s jedním rozdílem. Zatímco ostatní výjimky uvedené v článku 50 aktu o AI vyžadují výslovný právní předpis, který povoluje netransparentní používání systémů AI, ustanovení čl. 50 odst. 3 aktu o AI takové použití umožňuje, je-li podle právních předpisů upravujících pravomoci donucovacích orgánů povoleno používání systémů rozpoznávání emocí a biometrické kategorizace za účelem odhalování, prevence nebo vyšetřování trestných činů bez informování dotčených osob, s výhradou dodržení přiměřených záruk.

5.3   Vzájemné působení s jinými právními akty Unie

110)

Informační povinnost podle čl. 50 odst. 3 aktu o AI sama o sobě neznamená, že použití systému rozpoznávání emocí a biometrické kategorizace je zákonné. Stejně tak neopravňuje k invazivnímu či diskriminačnímu použití, které by mohlo být protiprávní a zakázané podle článku 5 aktu o AI nebo jiných právních předpisů Unie. Zavádějící subjekty musí dodržovat informační povinnost stanovenou v čl. 50 odst. 3 aktu o AI, a to vedle všech příslušných informačních požadavků vyplývajících z práva Unie v oblasti ochrany údajů. V určitých případech mohou zavádějící subjekty zvážit doplnění informací poskytovaných subjektům údajů podle práva Unie v oblasti ochrany údajů o oznámení podle čl. 50 odst. 3 aktu o AI.

6.   USTANOVENÍ ČL. 50 ODST. 4: OZNAČOVÁNÍ „DEEP FAKES“ A URČITÝCH TEXTOVÝCH PUBLIKACÍ

111)

Ustanovení čl. 50 odst. 4 aktu o AI stanoví dvě samostatné povinnosti určené zavádějícím subjektům generativních systémů AI: jasným a rozlišitelným způsobem označit i) obsah typu „deep fake“ a ii) text vytvořený nebo manipulovaný umělou inteligencí a zveřejněný za účelem informování veřejnosti o záležitostech veřejného zájmu, s výjimkou vymezených případů. Tyto povinnosti týkající se označování se uplatní vedle povinností strojově čitelného označování a zjišťování podle čl. 50 odst. 2 aktu o AI, které se vztahují na poskytovatele systémů AI vytvářející syntetický zvukový, obrazový, video či textový obsah nebo s ním manipulující, a nejsou jimi tyto povinnosti dotčeny.

6.1   Hlavní prvky, pojmy a související povinnosti v oblasti transparentnosti týkající se „deep fakes“ podle čl. 50 odst. 4 aktu o AI

112)

Ustanovení čl. 50 odst. 4 prvního pododstavce aktu o AI se uplatní, je-li splněno několik podmínek:

i)

systém musí být systémem AI;

ii)

používaný zavádějícími subjekty pro profesní účely (viz oddíly 2.3 a 2.4.1);

iii)

k vytváření obrazového, zvukového nebo video obsahu nebo k manipulaci s ním, který představuje „deep fake“;

iv)

systém AI nesmí spadat pod výjimku týkající se použití povoleného zákonem za účelem odhalování, prevence, vyšetřování nebo stíhání trestného činu.

6.1.1   Pojem „deep fake“

113)

Ustanovení čl. 3 bodu 60 aktu o AI definuje „deep fake“ jako „obrazový, zvukový nebo video obsah vytvořený nebo manipulovaný umělou inteligencí, který se podobá existujícím osobám, objektům, místům, subjektům či událostem a který by se dané osobě mohl nepravdivě jevit jako autentický nebo pravdivý“. Rozdíl mezi manipulací a vytvářením byl objasněn v oddíle 4.1 výše. Za účelem objasnění pojmu „deep fake“ jsou níže zkoumána čtyři kumulativní kritéria z uvedené definice: i) podobnost s ii) existujícími iii) osobami, objekty, místy, subjekty či událostmi, přičemž iv) obsah by se dané osobě mohl nepravdivě jevit jako autentický nebo pravdivý.

i)

podobnost: ustanovení čl. 3 bodu 60 aktu o AI stanoví, že obrazový, zvukový nebo video obsah vytvořený nebo manipulovaný umělou inteligencí se musí „podobat“ existujícím subjektům, aby představoval „deep fake“. Ve 134. bodě odůvodnění aktu o AI se dále uvádí, že tato podobnost by měla být „znatelná“. Obrazový, zvukový nebo video obsah vytvořený nebo manipulovaný umělou inteligencí se znatelně podobá danému subjektu, pokud existuje vysoká míra podobnosti mezi obsahem typu „deep fake“ a subjektem (včetně jakýchkoli jeho rozpoznatelných prvků), který „deep fake“ simuluje. Obsah nemusí být totožný se subjektem. To, zda je míra podobnosti znatelná, má v každém jednotlivém případě posoudit zavádějící subjekt na základě objektivního srovnání simulovaného subjektu s obsahem typu „deep fake“, přičemž má mimo jiné zohlednit, do jaké míry jsou v obsahu typu „deep fake“ zachyceny charakteristické nebo rozlišující rysy daného subjektu.

ii)

existující: ustanovení čl. 3 bodu 60 aktu o AI stanoví, že obrazový, zvukový nebo video obsah vytvořený nebo manipulovaný umělou inteligencí se musí podobat „existujícímu“ subjektu či existujícím subjektům, aby představoval „deep fake“. Aby bylo možné účinně naplnit účel čl. 50 odst. 4 aktu o AI, jímž je snížení rizik vydávání se za jinou osobu, klamání, dezinformací, manipulace a podvodů, vyplývá z charakteristiky „existence“, že obrazový, zvukový nebo video obsah vytvořený nebo manipulovaný umělou inteligencí by se měl podobat realistickým subjektům (např. osobám, objektům, místům). K tomu, aby byl obsah považován za „deep fake“, proto postačuje, aby se simulované osoby, objekty, místa, subjekty nebo události podobaly někomu či něčemu, co existuje, může věrohodně existovat nebo mohlo věrohodně existovat ve skutečnosti, neboť takový obsah může být významným zdrojem klamání, manipulace a dezinformací. Naproti tomu simulované osoby, objekty, místa, subjekty nebo události, které například porušují přírodní nebo fyzikální zákony nebo zobrazují formy života, které nejsou v biologii obecně uznávány (jako např. lidé létající bez mechanických pomůcek, draci nebo sloni řídící auta), a nemají potenciál uvádět v omyl, jsou považovány za nerealistické, a proto nespadají do působnosti povinnosti transparentnosti;

iii)

osoby, objekty, místa, subjekty nebo události: ustanovení čl. 3 bodu 60 aktu o AI stanoví, že obrazový, zvukový nebo video obsah vytvořený nebo manipulovaný umělou inteligencí se musí podobat existujícím „osobám, objektům, místům, subjektům nebo událostem“, aby představoval „deep fake“. „Osoby“ je třeba chápat jako realistické lidské bytosti (včetně digitálních replik skutečných osob, realistických lidských avatarů nebo postav vytvořených umělou inteligencí a osobních charakteristik nebo projevů, jako je vzhled, hlas, chování, vystupování apod.). „Objekty“ je třeba chápat jako realistické neživé hmotné věci, včetně budov, uměleckých děl, strojů, spotřebního zboží atd. „Místa“ je třeba chápat jako realistická místa. „Subjekty“ je třeba chápat jako realistické, nelidské, avšak živé bytosti, včetně zvířat nebo jiných biologických forem života. „Události“ je třeba chápat jako realistické scény nebo situace, jež mohou zahrnovat osoby, objekty, místa a subjekty (např. vyvolání historických událostí nebo zobrazení profesionálních či spotřebitelských služeb);

iv)

nepravdivě se dané osobě jevit jako autentický nebo pravdivý: Za čtvrté, čl. 3 bod 60 aktu o AI stanoví, že obrazový, zvukový nebo video obsah vytvořený nebo manipulovaný umělou inteligencí, který se podobá existujícím osobám, objektům, místům, subjektům či událostem, „by se dané osobě mohl nepravdivě jevit jako autentický nebo pravdivý“. Toto kritérium se týká zásadní vlastnosti obsahu typu „deep fake“ a jeho schopnosti potenciálně oklamat určitou osobu nebo uvést ji v omyl ohledně autenticity či pravdivosti tohoto obsahu (32). Autenticitou obsahu se rozumí, zda je obsah skutečně tím, za co se vydává, pokud jde o jeho zdroj nebo proces vzniku (včetně např. zapojení skutečných lidských bytostí nebo zvířat a jejich skutečného chování či jednání, skutečného vzhledu nebo použití objektů či poskytování služeb, přesného vývoje či průběhu události). Kritérium pravdivosti se týká toho, zda je obsah pravdivý (např. zda jsou tvrzení obsažená v obsahu typu „deep fake“ fakticky správná).

114)

To, zda se obsah „dané osobě nepravdivě jeví jako autentický nebo pravdivý“, by mělo být posuzováno komplexně, s přihlédnutím k míře podobnosti, potenciálnímu věcnému poselství obsahu, zamýšleným a předvídatelným kontextům použití, prostředí, v němž je obsah prezentován, a zamýšlenému a rozumně předvídatelnému složení příjemců a jejich očekáváním. Toto posouzení je však objektivní a k tomu, aby se jednalo o „deep fake“, není nutné, aby zavádějící subjekt měl v úmyslu oklamat nebo uvést v omyl fyzické osoby, které jsou tomuto obsahu vystaveny. Pokud jde o kontext použití a očekávání příjemců, znamená to, že je-li obsah používán v konkrétních kontextech, v nichž zamýšlení a rozumně předvídatelní příjemci neočekávají, že by obsah byl autentický či pravdivý, nemusí se obsah vytvořený nebo manipulovaný umělou inteligencí nepravdivě jevit jako autentický či pravdivý, i když ve skutečnosti je neautentický nebo nepravdivý. V takových případech nebude čtvrté kritérium definice „deep fake“ splněno. Například tvorba pozadí, speciálních efektů či technické předprodukční a postprodukční úpravy nebo manipulace s nimi umělou inteligencí v rámci standardních procesů filmové produkce pravděpodobně nezpůsobí, že by se obsah divákům nepravdivě jevil jako autentický nebo pravdivý. Naopak, je pravděpodobné, že k tomu dojde v případě použití AI k vytváření zásadních prvků, které ovlivňují vnímání diváků, nebo k manipulaci s nimi (jako jsou například herci vytvoření výhradně pomocí umělé inteligence, digitální repliky skutečných nebo již zesnulých herců, omlazování, simulované herecké výkony včetně jejich částí nebo neautentické či nepravdivé zobrazení osob, objektů, míst či událostí v dokumentárních filmech). U obrazového a video obsahu se uznává, že vysoká míra fotorealismu zvyšuje pravděpodobnost, že by takový obsah měl být považován za „deep fake“ (jelikož se pravděpodobně podobá existujícím subjektům), avšak samotný fotorealismus není pro posouzení rozhodující. Ještě je třeba posoudit, zda je takový obsah schopen oklamat nebo uvést osobu v omyl, pokud jde o jeho autentičnost či pravdivost, a to s přihlédnutím mimo jiné k zamýšlenému a předvídatelnému kontextu jeho použití.

115)

Na rozdíl od čl. 50 odst. 1 aktu o AI by posouzení toho, zda se obsah nepravdivě jeví určité osobě jako autentický nebo pravdivý, nemělo vycházet z hypotetické „průměrné“ osoby, u níž se předpokládá, že bude tomuto obsahu vystavena (viz oddíl 3.2.1), ale mělo by náležitě zohlednit možné rozmanité složení přiměřeně předvídatelného publika, které může být obsahu typu „deep fake“ vystaveno. Náležité zohlednění složení publika je zvláště důležité, pokud lze rozumně předvídat, že obsah typu „deep fake“ mohou v určitém okamžiku vnímat děti, starší osoby nebo jiné skupiny osob s nižší digitální gramotností, gramotností v oblasti umělé inteligence či nižší obecnou úrovní znalostí, protože tyto osoby mohou být snáze oklamány nebo uvedeny v omyl, pokud jde o autentičnost či pravdivost daného obsahu. V takových případech může k tomu, aby byl obsah klasifikován jako „deep fake“, postačovat již to, že se nepravdivě jeví jako autentický nebo pravdivý této části předvídatelného publika. Od zavádějících subjektů se však neočekává, že budou zohledňovat potenciální další šíření obsahu typu „deep fake“ třetími stranami nad rámec publika, které může zavádějící subjekt z hlediska zamýšlených distribučních kanálů rozumně předvídat (např. pokud je „deep fake“ zobrazován výhradně v části internetových stránek určené pouze pro předplatitele nebo v rámci firemního zpravodaje, neznamená to, že by zavádějící subjekt měl automaticky předpokládat širokou veřejnou dostupnost).

116)

V podobném duchu může být manipulace s nevýznamnými věcnými či technickými aspekty již existujícího obsahu, prováděná s podporou umělé inteligence, pro posouzení autenticity či pravdivosti daného obsahu z hlediska člověka jen okrajového významu, což neznamená, že by výsledný obsah byl považován za „deep fake“. To by mohlo zahrnovat například editaci detailů v pozadí (např. odstranění kolemjdoucích), úpravy osvětlení, přizpůsobení zvukových parametrů, korekci barev, redukci nebo odstranění šumu, zlepšení přístupnosti nebo kompresi souboru, kosmetické úpravy a vylepšení. To, zda manipulace bude spadat do této kategorie, závisí na kontextu a na tom, jaký dopad má v konkrétním případě na vnímání autenticity či pravdivosti obsahu ze strany dotčených osob. Například korekce barev využívající AI, rozšiřování pozadí u stávajícího obsahu, úpravy či výměny pozadí z čistě estetických důvodů, kompozice a uspořádání stávajících produktů nebo změna měřítka obrázků použitých v reklamách na produkty či na obalech budou mít pravděpodobně pouze nepatrný vliv na vnímání autenticity a pravdivosti reklamy a produktu ze strany jednotlivce. Naopak podstatná editace detailů v pozadí novinářských snímků s využitím AI přesahující rámec běžných technických a redakčních postupů může nepříznivě ovlivnit vnímání autenticity a pravdivosti obsahu určitou osobou.

Příklady „deep fakes“ podle čl. 3 bodu 60 aktu o AI:

—

obraz scény zmanipulovaný umělou inteligencí, na kterém jsou zachyceni dva skuteční profesionální fotbalisté před budovou připomínající fotbalový stadion,

—

zvukový záznam vytvořený umělou inteligencí, který využívá klonování hlasů stálých moderátorů novinového podcastu a hosta diskutujících o některých aktuálních událostech,

—

video vytvořené umělou inteligencí, na kterém je zachycena osoba podobající se určitému politikovi, která pronáší projev před publikem,

—

video vytvořené pomocí umělé inteligence, v němž se v reklamním či propagačním kontextu objevuje zobrazení známé influencerky vytvořené umělou inteligencí,

—

video vytvořené umělou inteligencí, v němž realistický syntetický avatar generálního ředitele společnosti blahopřeje zaměstnancům k jejich práci a k firemním výsledkům za uplynulý rok,

—

obrázek výrobku v reklamě nebo na obalu vytvořený umělou inteligencí, který může ovlivnit vnímání diváků a uvést je v omyl ohledně skutečného vzhledu, vlastností nebo použití výrobku (např. tím, že se vzhledově liší od skutečného výrobku, vypadá přitažlivěji nebo kvalitněji než ve skutečnosti).

Příklady, které nepředstavují „deep fakes“ ve smyslu čl. 3 bodu 60 aktu o AI:

—

obraz vytvořený umělou inteligencí, na kterém je zachycena scéna se sfingou letící nad Eiffelovou věží,

—

video vytvořené umělou inteligencí, na kterém se myši hovořící lidskou řečí hádají o to, jaký druh sýra je nejlepší, jako součást reklamní kampaně výrobce sýrů,

—

reprodukce hlasu fiktivních postav vytvořená umělou inteligencí (např. v audioknihách, hrách nebo animovaných filmech), pokud nedochází k uvádění v omyl ohledně totožnosti vypravěčů,

—

rozhlasové vysílání zmanipulované umělou inteligencí, při kterém dochází k úpravě technických zvukových parametrů (např. normalizace hlasitosti, potlačení šumu, komprese zvuku), aniž by došlo ke změně konkrétních slov vyslovovaných mluvčími nebo jejich způsobu vyjadřování,

—

kreslený obrázek vytvořený umělou inteligencí na základě již existujícího obrázku zachycujícího historickou událost,

—

video, na kterém moderátor vědeckého televizního pořadu prochází horskou oblastí a hovoří o ústupu ledovců; tento jev je ilustrován animací pozadí zmanipulovanou umělou inteligencí, která ukazuje, jak se ledovce stahovaly ze svých historických úrovní na současné úrovně,

—

fiktivní prostředí vytvořená umělou inteligencí (např. fiktivní lesy a hrady) ve videohrách,

—

filmy, ve kterých skuteční herci (nemanipulovaní umělou inteligencí) hrají před pozadím vytvořeným umělou inteligencí (např. znázorňujícím fiktivní úsek prérie, historické budovy starověkých měst atd.),

—

skutečný výrobek (např. automobil) zobrazený v reklamě na pozadí a v okolním prostředí vytvořeném umělou inteligencí, pokud není pravděpodobné, že by reklama mohla uvést diváky v omyl ohledně skutečného vzhledu výrobku, jeho vlastností a použití.

6.1.2   Povinnost zveřejnění podle čl. 50 odst. 4 prvního pododstavce aktu o AI

117)

Ustanovení čl. 50 odst. 4 prvního pododstavce aktu o AI ukládá subjektům zavádějícím systémy AI, které vytvářejí obrazový, zvukový nebo video obsah představující tzv. „deep fake“ nebo s ním manipulují, povinnost „zveřejnit, že obsah byl uměle vytvořen nebo s ním bylo manipulováno“. Ve 134. bodě odůvodnění aktu o AI se upřesňuje, že zavádějící subjekty, které používají systémy AI k vytváření obsahu typu „deep fake“ nebo k manipulaci s ním, by měly jasně a zřetelně uvádět, že tento obsah byl vytvořen uměle nebo s ním bylo manipulováno, a to tak, že odpovídajícím způsobem označí výstup AI a zveřejní jeho umělý původ. Způsoby označování nebo zveřejňování uplatňované v souladu s čl. 50 odst. 4 prvním pododstavcem aktu o AI by měly být pro fyzické osoby srozumitelné a zřetelné (např. pomocí viditelných nebo slyšitelných značek), aniž by musely být použity jakékoli konkrétní technické nástroje nebo prováděna zvláštní opatření. Zavádějící subjekty se proto nemohou spoléhat na strojově čitelné označení, které do obsahu vložil poskytovatel podle čl. 50 odst. 2 aktu o AI, jelikož tato označení nejsou pro fyzické osoby vystavené obsahu typu „deep fake“ okamžitě jasná a rozlišitelná.

118)

S ohledem na čl. 50 odst. 7 aktu o AI se mohou zavádějící subjekty řídit kodexem správné praxe, který byl podle čl. 50 odst. 7 aktu o AI posouzen jako přiměřený, aby prokázaly splnění této povinnosti zveřejnění. Další informace o účincích dodržování takového kodexu a o dohledu nad jinými zavádějícími subjekty, které se kodexem neřídí, naleznete v oddíle 8.1 níže.

6.1.3   Transparentnost uměleckého, tvůrčího, satirického, fiktivního či obdobného obsahu typu „deep fake“

119)

Ustanovení čl. 50 odst. 4 prvního pododstavce aktu o AI stanoví zmírněnou povinnost transparentnosti v případě „deep fakes“, které jsou součástí zjevně uměleckých, tvůrčích, satirických, fiktivních nebo podobných děl nebo programů. U takového obsahu se povinnost transparentnosti omezuje na zveřejnění informace o tom, že se jedná o „deep fake“, a to vhodným způsobem, který nebrání zobrazení díla nebo požitku z něj.

120)

Relevantní kategorie obsahu: aby bylo možné využít zmírněných požadavků na zveřejňování v rámci transparentnosti, musí „deep fake“ (obrázek, zvukový záznam nebo video) spadat alespoň do jedné z následujících kategorií obsahu: umělecká, tvůrčí, satirická, fiktivní nebo obdobná díla nebo programy. To, zda „deep fake“ spadá do jedné nebo více z těchto kategorií, musí posoudit zavádějící subjekt v každém jednotlivém případě. Pro účely čl. 50 odst. 4 aktu o AI se tyto kategorie vykládají takto:

—

umělecká díla je třeba chápat jako díla vytvořená za účelem umění, včetně hudby, filmových děl a výtvarného umění,

—

tvůrčí díla je třeba chápat jako díla, která zahrnují tvůrčí rozhodnutí. Díla, která jsou převážně motivována funkčními nebo technickými hledisky, nelze považovat za tvůrčí,

—

satirická díla je třeba chápat jako díla, jejichž cílem je kritizovat společnost, politiku, podnikatelskou sféru nebo veřejně známé osobnosti prostřednictvím humoristických technik (včetně ironie, sarkasmu, zesměšnění, pastiše apod.),

—

fiktivní díla je třeba chápat jako kulturní díla, v nichž se v imaginárním, avšak věrohodném prostředí objevují osoby, objekty, místa, subjekty nebo události,

—

obdobná díla je třeba chápat jako díla, která sdílejí základní rysy nebo podobné výrazové či funkční charakteristiky s výše uvedenými kategoriemi, avšak do žádné z nich se jednoznačně nezařazují.

121)

Výše uvedené kategorie obsahu se mohou vztahovat také na pořady, jimiž se rozumějí jednotlivé položky v rámci programové skladby nebo katalogu sestavených poskytovatelem mediálních služeb a které jsou svou formou a obsahem srovnatelné s televizním vysíláním (33). Odkaz na „díla“ v kontextu čl. 50 odst. 4 aktu o AI nemá žádný vliv na to, zda daný obsah splňuje podmínky pro ochranu podle práva Unie v oblasti autorského práva a práv s ním souvisejících.

122)

Zjevně: skutečnost, že „deep fake“ spadá do jedné (nebo více) z výše uvedených kategorií obsahu, by měla být zjevná fyzickým osobám, které jsou mu vystaveny. Z toho vyplývá, že tyto kategorie by měly být vykládány striktně, což je odůvodněno tím, že vzhledem k možnému dopadu na svobodu projevu a svobodu umění a vědy se uplatňuje méně přísný režim zveřejňování, přičemž je stále třeba adekvátně řešit rizika dezinformací, manipulace a klamání. Z tohoto důvodu je obsah, jehož povaha může být pro příjemce nejasná nebo nejednoznačná, z působnosti tohoto méně přísného režimu transparentnosti vyloučen. Mezi faktory relevantní pro posouzení zjevného charakteru uměleckého, tvůrčího, satirického nebo fiktivního obsahu patří: i) zda obsah vykazuje formáty či styly, které jsou charakteristické pro dané kategorie obsahu (např. ironie či nadsázka u satirických děl, určité umělecké styly, zobrazování výrazných témat, technik či estetiky atd.); ii) kontext, v němž je obsah prezentován (např. zda je platforma, médium nebo místo, kde je obsah prezentován, zpřístupněn nebo šířen, spojeny s uměleckým, tvůrčím, satirickým nebo fiktivním použitím); a iii) očekávání příjemců (např. film, herní prostředí nebo scéna ve virtuální realitě). Podmínka, že obsah by měl „zjevně“ spadat do jedné z výše uvedených kategorií obsahu, navíc vylučuje z působnosti těchto kategorií obsah, jehož povaha je výlučně informativní nebo komerční a který je jako takový rozpoznatelný (např. zpravodajství). V tomto ohledu lze některé druhy obsahu (např. reklamy nebo dokumentární filmy) obsahující „deep fakes“ v určitých konkrétních situacích považovat za zjevně tvůrčí nebo fiktivní díla, v jiných situacích však nikoli, protože posouzení závisí na konkrétním případu. Pokud „deep fake“ kombinuje více charakterů (např. informativní a tvůrčí), měl by vždy převážit jeho informativní charakter a mělo by být vyžadováno splnění standardních požadavků na označování.

123)

Vhodné zveřejnění, které nebrání zobrazení díla nebo požitku z něj „Deep fakes“, které jsou součástí zjevně uměleckých, tvůrčích, satirických nebo fiktivních děl či programů, nejsou vyňaty z povinnosti transparentnosti podle čl. 50 odst. 4 prvního pododstavce aktu o AI. Zavádějící subjekty jsou stále povinny zveřejnit, že obsah byl vytvořen umělou inteligencí nebo s ním bylo manipulováno, mohou tak však učinit vhodným způsobem, který nebrání zobrazení díla nebo požitku z něj. Ve 134. bodě odůvodnění aktu o AI se upřesňuje, že takové vhodné zveřejnění by nemělo bránit běžnému využívání a používání díla a zároveň by mělo umožňovat zachování jeho užitečnosti a kvality. Určení toho, která opatření pro zveřejnění lze považovat za vhodná, se provádí na základě posouzení každého jednotlivého případu, při němž mohou zavádějící subjekty zohlednit všechny relevantní faktory (včetně povahy díla, publika, kontextu apod.). V každém případě musí zavádějící subjekty dodržovat čl. 50 odst. 5 aktu o AI (viz oddíl 7). S ohledem na čl. 50 odst. 7 aktu o AI se mohou zavádějící subjekty řídit kodexem správné praxe, který byl podle uvedeného ustanovení posouzen jako přiměřený, aby prokázaly splnění této povinnosti zveřejnění. Další informace o účincích dodržování takového kodexu a o dohledu nad jinými zavádějícími subjekty, které se kodexem neřídí, naleznete v oddíle 8.1 níže.

124)

Vhodné záruky pro práva a svobody třetích stran: ve 134. bodě odůvodnění aktu o AI se upřesňuje, že splnění zmírněné povinnosti transparentnosti a používání uměleckých, tvůrčích, satirických nebo fiktivních „deep fakes“ musí být „s výhradou vhodných záruk práv a svobod třetích osob“. Zavádějící subjekty proto musí zajistit, aby při vytváření či zveřejňování „deep fakes“ byla náležitě chráněna a dodržována práva a svobody třetích stran (včetně např. jejich práva na ochranu osobních údajů nebo práv duševního vlastnictví), a to i v případě, že daný „deep fake“ má být považován za umělecký, tvůrčí, satirický nebo fiktivní. Odvolání se na zmírněnou povinnost transparentnosti nemůže sloužit jako ospravedlnění pro nedodržování základních práv fyzických osob nebo nositelů práv podle práva Unie v oblasti duševního vlastnictví nebo podle práva Unie v oblasti ochrany údajů (34).

Příklady „deep fakes“, které jsou tvůrčími, satirickými, fiktivními nebo obdobnými díly:

—

umělecké/fiktivní dílo: filmy (nebo filmové upoutávky) dostupné v kinech nebo na streamovacích platformách, v nichž se objevují umělou inteligencí vytvořené nebo zmanipulované „deep fakes“ omlazených existujících herců nebo digitální repliky již zesnulých herců nebo jiných osob,

—

umělecké/tvůrčí dílo: hudba generovaná umělou inteligencí v jakémkoli žánru, která se stylově podobá individuálnímu stylu existujících umělců,

—

satirické/fiktivní dílo: obraz existujícího politika zmanipulovaný umělou inteligencí, který ho umisťuje do scény, jejíž záměrem je zjevně humorně kritizovat určitá politická rozhodnutí, která tato osoba přijala nebo podpořila,

—

obdobné tvůrčí/fiktivní dílo: herní vizuální obsah generovaný umělou inteligencí, který zahrnuje simulace typu „deep fake“ skutečných, existujících osob.

Příklady „deep fakes“, které nepředstavují umělecké, tvůrčí, satirické, fiktivní ani obdobné dílo:

—

video zmanipulované umělou inteligencí ve stylu teleshoppingového kanálu, zahrnující simulaci typu „deep fake“ lidí propagujících výrobek ve scéně vytvořené umělou inteligencí, která znázorňuje praktické použití výrobku simulovanými spotřebiteli s cílem přesvědčit diváky k jeho koupi,

—

obrázky celebrit vytvořené umělou inteligencí, které naznačují jejich účast v činnostech, k nimž nikdy nedošlo, a které nemají žádný fiktivní, satirický ani obdobný účel,

—

video zmanipulované umělou inteligencí, v němž realistická syntetická influencerka testuje sponzorovaný skutečný výrobek, přičemž se zaměřuje výhradně na předvedení funkcí výrobku,

—

video vytvořené umělou inteligencí, které zobrazuje realistické scény z holocaustu sdílené na veřejně dostupných platformách sociálních sítí.

6.1.4   Výjimka pro vymáhání práva

125)

Je-li použití „deep fake“ (např. videa vytvořeného umělou inteligencí, které simuluje události, k nimž nikdy nedošlo) zákonem povoleno za účelem odhalování, prevence, vyšetřování nebo stíhání trestných činů, jsou zavádějící subjekty osvobozeny od povinnosti transparentnosti podle čl. 50 odst. 4 prvního pododstavce aktu o AI. Objasnění uvedená v bodech 46–48 výše, která se týkají podobné výjimky v čl. 50 odst. 1 aktu o AI, jsou relevantní i pro toto ustanovení.

6.1.5   Vzájemné působení s jinými právními akty Unie

126)

Povinnost transparentnosti podle čl. 50 odst. 4 prvního pododstavce aktu o AI se bude uplatňovat ve vzájemné souvislosti s povinnostmi poskytovatelů velmi velkých online platforem a velmi velkých internetových vyhledávačů určovat a zmírňovat systémová rizika podle článků 34 a 35 nařízení o digitálních službách, zejména podle čl. 35 odst. 1 písm. k) nařízení o digitálních službách (35). Posledně uvedené ustanovení uvádí mezi možnými opatřeními ke zmírnění rizika, která mohou přijmout poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů, opatření zajišťující, aby „informace, ať už představuje vytvořený nebo manipulovaný obrazový, zvukový nebo video obsah, který se znatelně podobá existujícím osobám, objektům, místům nebo jiným subjektům či událostem a který by se určité osobě mohl nepravdivě jevit jako autentický nebo pravdivý, byla při prezentaci na jejich online rozhraních rozpoznatelná díky viditelným označením“. Kromě toho mohou poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů nabízet také snadno použitelnou funkci, která umožňuje příjemcům služby takovou informaci označit. Ačkoli se toto ustanovení nařízení o digitálních službách zdá být podobné čl. 50 odst. 4 aktu o AI, doplňuje jej a obsahuje dvě důležité odlišnosti:

—

odlišná věcná působnost: ve srovnání s čl. 50 odst. 4 aktu o AI se čl. 35 odst. 1 písm. k) nařízení o digitálních službách vztahuje na širší škálu obsahu, který se může nepravdivě jevit jako autentický nebo pravdivý, a to bez ohledu na technologie použité k jeho vytvoření (tj. vztahuje se na obsah, který byl vytvořen nebo zmanipulován s použitím systémů AI nebo jakéhokoli jiného nástroje),

—

odlišná osobní působnost: ustanovení čl. 50 odst. 4 aktu o AI ukládá subjektům zavádějícím systémy AI, které vytvářejí „deep fakes“ nebo s nimi manipulují, aby takový obsah označily, zatímco čl. 35 odst. 1 písm. k) nařízení o digitálních službách se vztahuje na poskytovatele velmi velkých online platforem a velmi velkých internetových vyhledávačů, kteří tento obsah šíří nebo jej zpřístupňují prostřednictvím vyhledávání. Například subjekty zavádějící systémy AI integrované do velmi velkých online platforem podle aktu o AI lze považovat za „příjemce služby“ ve smyslu čl. 3 písm. b) nařízení o digitálních službách (36), pokud používají tyto platformy k šíření obsahu vytvořeného příslušným systémem AI, zatímco velmi velkou online platformu lze považovat za poskytovatele systému AI, jsou-li splněny podmínky čl. 3 bodu 3 aktu o AI. Pokud poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů zpřístupní těmto zavádějícím subjektům nástroje k označování, které jim umožní označovat svůj obsah typu „deep fake“ v souladu s čl. 50 odst. 4 aktu o AI (tj. zveřejnění jasným a rozlišitelným způsobem, že obsah pochází od AI), mohou tyto zavádějící subjekty tyto nástroje použít za účelem splnění své povinnosti transparentnosti podle uvedeného ustanovení v souvislosti s použitou velmi velkou online platformou nebo velmi velkým internetovým vyhledávačem. Poskytnutím této funkce není dotčena odpovědnost zavádějících subjektů vyplývající z aktu o AI za splnění jejich povinností týkajících se označování podle čl. 50 odst. 4 aktu o AI. Kromě toho budou poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů rovněž považováni za subjekty zavádějící systém AI podle aktu o AI, pokud budou v rámci své pravomoci využívat systém AI pro vlastní profesní účely (např. k vytváření vizuálních materiálů určených k použití v rámci marketingových materiálů).

127)

Pokud „deep fake“ obsahuje informace týkající se přímo či nepřímo identifikovatelné fyzické osoby (která je naživu), budou muset zavádějící subjekty jako správci údajů podle práva Unie v oblasti ochrany údajů rovněž dodržovat příslušné povinnosti vyplývající z tohoto práva (37). Sem patří například zajištění vhodného právního základu pro zpracování osobních údajů, informace ohledně zpracování údajů o zobrazených subjektech údajů atd.

128)

Subjekty, které zavádějí systémy AI vytvářející „deep fakes“, budou dále muset zajistit, aby dodržovaly příslušné právní předpisy Unie v oblasti duševního vlastnictví (například právo Unie v oblasti ochranných známek a právo Unie v oblasti autorských práv nebo práv souvisejících), pokud jejich „deep fake“ obsahuje předmět chráněný těmito právními předpisy. Použití štítku nebo ikony u „deep fake“ samo o sobě nemá žádný vliv na to, zda se na něj vztahuje autorskoprávní ochrana; to by mělo být posuzováno v souladu s platným právem Unie v oblasti autorského práva.

129)

Pokud jsou v „deep fakes“ zobrazeny existující osoby, budou zavádějící subjekty muset rovněž dodržovat příslušné právní předpisy na ochranu osobnostních práv týkajících se osobních obrazových záznamů či hlasů. Povinnost transparentnosti podle čl. 50 odst. 4 prvního pododstavce aktu o AI neznamená, že by bylo možné vytvářet a šířit „deep fakes“ vytvořené nebo manipulované umělou inteligencí, které jsou škodlivé a protiprávní podle platných unijních nebo vnitrostátních právních předpisů (např. jako klamavá reklama nebo podle trestního práva jako materiály zobrazující pohlavní zneužívání dětí a intimní snímky pořízené bez souhlasu) (viz také oddíl 4.4).

6.2   Hlavní prvky, pojmy a související povinnosti týkající se transparentnosti u textů vytvořených nebo manipulovaných umělou inteligencí podle čl. 50 odst. 4 aktu o AI

130)

Ustanovení čl. 50 odst. 4 druhého pododstavce aktu o AI se uplatní, je-li splněno několik podmínek:

i)

systém musí být systémem AI;

ii)

používaný k vytváření textu (viz oddíl 4.2.1) zveřejněného za účelem informování veřejnosti o záležitostech veřejného zájmu, nebo k manipulaci s takovým textem;

iii)

na použití systému AI se nevztahuje žádná z výjimek, kdy 1) obsah vytvořený umělou inteligencí byl podroben procesu přezkumu člověkem nebo redakční kontroly a pokud za zveřejnění obsahu nese redakční odpovědnost fyzická nebo právnická osoba nebo 2) je použití povoleno zákonem k odhalování, prevenci, vyšetřování nebo stíhání trestných činů.

6.2.1   Text zveřejněný za účelem informování veřejnosti o záležitostech veřejného zájmu

131)

Za účelem vyjasnění rozsahu působnosti čl. 50 odst. 4 druhého pododstavce aktu o AI jsou níže zkoumány tři prvky: i) zveřejněný text ii) za účelem informování veřejnosti iii) o záležitostech veřejného zájmu.

i)

zveřejněný text: text vytvořený nebo zmanipulovaný umělou inteligencí by měl být zveřejněn. To znamená, že text by měl být přístupný neurčitému, poměrně velkému počtu vzájemně nesouvisejících potenciálních čtenářů současně a/nebo postupně, a to bez ohledu na to, zda za úplatu (např. předplatné) či nikoli (38). Naopak se text nepovažuje za zveřejněný, pokud je přístup k němu omezen na konkrétní osoby náležící do uzavřené, soukromé skupiny (např. malé uzavřené skupiny v aplikaci pro rychlé zasílání zpráv, nebo pokud je skupina příliš malá či nevýznamná). Mezi příklady textů, které se nepovažují za zveřejněné, patří např. soukromá mezilidská korespondence (pro profesní účely) nebo texty či sdělení v rámci organizace (např. publikace na interních firemních sítích);

ii)

informování veřejnosti: cílem zveřejněných textů vytvořených nebo zmanipulovaných umělou inteligencí by mělo být informovat veřejnost. Z toho vyplývá, že text by měl být určen ke sdělení znalostí, názorů nebo skutečností. Naopak krátké texty, které podstatným způsobem nesdělují znalosti, názory ani skutečnosti, nelze považovat za texty sloužící k informování veřejnosti;

iii)

o záležitostech veřejného zájmu: text by měl informovat veřejnost „o záležitostech veřejného zájmu“. Obecně by se mělo mít za to, že takové záležitosti zahrnují otázky důležité pro celou společnost na místní, vnitrostátní, unijní či mezinárodní úrovni, které si zasluhují veřejnou diskusi nebo kontrolu. V této souvislosti by se mělo mít za to, že se texty zabývají záležitostmi veřejného zájmu, jestliže se týkají témat z oblasti politiky a demokratických procesů, veřejné správy a služeb, výkonu spravedlnosti a vymáhání práva, ochrany základních práv, veřejné bezpečnosti, veřejného zdraví, ochrany životního prostředí, bezpečnosti spotřebitelů a jakéhokoli hospodářského, finančního, politického, vědeckého nebo kulturního vývoje, který může být předmětem veřejné diskuse. Záležitosti, které lze považovat za záležitosti veřejného zájmu, se mohou v průběhu času a v různých kontextech měnit.

Příklady textů zveřejněných za účelem informování veřejnosti o záležitostech veřejného zájmu podle čl. 50 odst. 4 aktu o AI, které musí být označeny jako uměle vytvořené nebo zmanipulované, pokud nebyly podrobeny přezkumu člověkem nebo redakční kontrole (viz oddíl 6.2.3):

—

shrnutí článku napsaného člověkem, který pojednává o nedávném rozhodnutí městské rady a je umístěn na internetových stránkách novin; shrnutí bylo vytvořeno umělou inteligencí,

—

části článku na lifestylovém webu zmanipulované umělou inteligencí, které porovnávají účinky různých diet na konkrétní onemocnění u žen středního věku.

—

zprávy o společnosti zmanipulované umělou inteligencí, zveřejněné na internetových stránkách kótované společnosti a obsahující informace pro investory,

—

zpráva vytvořená umělou inteligencí na profilu meteorologického ústavu na sociálních sítích, která varuje občany před bouřlivým počasím a upozorňuje na preventivní opatření.

Příklady textů, které nejsou zveřejněny za účelem informování veřejnosti o záležitostech veřejného zájmu a nespadají do působnosti čl. 50 odst. 4 aktu o AI:

—

fantastické romány vytvořené umělou inteligencí,

—

text manipulovaný umělou inteligencí, který je součástí firemní reklamy nebo popisu produktu (neobsahující žádná tvrzení týkající se např. zdraví, bezpečnosti spotřebitelů nebo udržitelnosti),

—

souhrn zpráv vytvořený chatbotem, který je dostupný pouze uživateli, který chatbota oslovil,

—

text manipulovaný umělou inteligencí, sepsaný konzultantem pro klienta, který obsahuje doporučení ohledně opatření, která je třeba přijmout za účelem dodržení platných právních předpisů.

6.2.2   Povinnost zveřejnění podle čl. 50 odst. 4 druhého pododstavce aktu o AI

132)

Ustanovení čl. 50 odst. 4 druhého pododstavce aktu o AI ukládá subjektům zavádějícím systémy AI, jež vytvářejí text zveřejňovaný za účelem informování veřejnosti o záležitostech veřejného zájmu nebo s ním manipulují, aby zveřejnily, že takový text byl vytvořen uměle nebo s ním bylo manipulováno. Ve 134. bodě odůvodnění aktu o AI se upřesňuje, že podobně jako v případě obsahu typu „deep fake“ by zavádějící subjekty odpovědné za textové publikace spadající do působnosti tohoto ustanovení měly jasným a rozlišitelným způsobem uvádět, že obsah byl vytvořen uměle nebo s ním bylo manipulováno, a to tak, že odpovídajícím způsobem označí výstup AI a zveřejní jeho umělý původ. Jak je požadováno v případě „deep fakes“, způsoby označování nebo zveřejňování (včetně prohlášení o vyloučení odpovědnosti) uplatňované v souladu s čl. 50 odst. 4, druhým pododstavcem aktu o AI by měly být rovněž srozumitelné a zřetelné (např. viditelná nebo slyšitelná opatření) pro fyzické osoby, aniž by musely být použity jakékoli konkrétní technické nástroje nebo prováděna zvláštní opatření. S ohledem na čl. 50 odst. 7 aktu o AI se mohou zavádějící subjekty řídit kodexem správné praxe, který byl podle uvedeného ustanovení posouzen jako přiměřený, aby prokázaly splnění této povinnosti zveřejnění. Další informace o účincích dodržování takového kodexu a o dohledu nad zavádějícími subjekty, které se kodexem neřídí, naleznete v oddíle 8.1 níže.

6.2.3   Výjimka z povinnosti transparentnosti u textů, které byly podrobeny přezkumu člověkem nebo redakční kontrole a za jejichž zveřejnění nese redakční odpovědnost fyzická nebo právnická osoba

133)

Ustanovení čl. 50 odst. 4 druhého pododstavce aktu o AI stanoví výjimku z povinnosti transparentnosti stanovené v uvedeném ustanovení, jsou-li splněny dvě kumulativní podmínky: i) text vytvořený nebo manipulovaný umělou inteligencí musí být podroben přezkumu člověkem nebo redakční kontrole a ii) za zveřejnění musí nést redakční odpovědnost právnická nebo fyzická osoba. V příslušných případech se zavádějící subjekty mohou opírat o příslušné platné profesní nebo etické normy, aby prokázaly soulad s níže uvedenými požadavky.

i.   Text podrobený přezkumu člověkem nebo redakční kontrole

134)

První podmínka pro uplatnění výjimky podle čl. 50 odst. 4 druhého pododstavce aktu o AI vyžaduje, aby text vytvořený nebo manipulovaný umělou inteligencí podléhal přezkumu člověkem nebo redakční kontrole. Přezkumem člověkem se rozumí záměrné posouzení podstaty obsahu jednou nebo více fyzickými osobami, které disponují příslušnými znalostmi a odborným úsudkem v posuzované oblasti (např. akademické recenzní řízení nebo profesionální validační řetězce). Minimálním požadavkem, který by měl být součástí tohoto přezkumu, je ověření faktické správnosti obsahu. Redakční kontrolou se rozumí kontrola nad obsahem, kterou v praxi vykonává odpovědný redakční subjekt (např. šéfredaktor), jenž má pravomoc schvalovat, měnit nebo zamítat obsah textu na základě věcných důvodů (včetně ověřování informací a zajištění důvěryhodnosti zdrojů). Tím nejsou dotčeny stávající postupy při přezkumu a redakčním zpracování ani profesní normy pro poskytovatele mediálních služeb.

135)

Povrchní, čistě formální nebo procesní kontroly (např. kontrola pravopisu či gramatické opravy), pouhá existence redakční politiky, automatizované procesy posuzování nebo povrchní redakční schválení bez věcného zapojení lidského recenzenta či redakčního orgánu nemohou pro účely této výjimky splňovat podmínky přezkumu člověkem nebo redakční kontroly.

136)

V případech, kdy se systémy AI používají k úpravě, doplnění nebo přeformulování obsahu po redakčním schválení, musí být výsledný obsah pro účely čl. 50 odst. 4 aktu o AI považován za obsah vytvořený nebo manipulovaný umělou inteligencí. Jakýkoli podstatný zásah AI, k němuž dojde po provedení přezkumu člověkem nebo redakční kontroly, proto způsobí, že výjimka pozbude platnosti.

137)

S ohledem na čl. 50 odst. 7 aktu o AI se mohou zavádějící subjekty řídit kodexem správné praxe, který byl podle tohoto ustanovení posouzen jako přiměřený, aby prokázali splnění podmínky přezkumu člověkem nebo redakční kontroly (zejména v případě zavádějících subjektů, které nejsou poskytovateli mediálních služeb podléhajícími stávajícím redakčním profesním nebo deontologickým normám) stanovené v uvedeném ustanovení. Další informace o účincích dodržování takového kodexu a o dohledu nad zavádějícími subjekty, které se takovým kodexem neřídí, naleznete v oddíle 8.1.

ii.

Redakční odpovědnost

138)

Druhou podmínkou pro uplatnění výjimky podle čl. 50 odst. 4 druhého pododstavce aktu o AI je, aby za zveřejnění daného obsahu nesla redakční odpovědnost právnická nebo fyzická osoba. To znamená, že uvedená osoba musí nést konečnou právní odpovědnost za zveřejnění obsahu, včetně přezkumu člověkem nebo redakční kontroly (např. jednotlivec, redakční rada nebo vydavatelská společnost). V zájmu zajištění veřejné odpovědnosti a důvěry a v souladu se stávajícími profesními normami v oblasti médií by totožnost a kontaktní údaje právnické osoby, fyzické osoby nebo funkce s redakční odpovědností měly být zveřejněny na snadno dohledatelném místě (pokud již nejsou dostupné jiným způsobem). K tomu může dojít online, například prostřednictvím obchodních podmínek internetových stránek nebo jiných právních informací určených uživatelům. V offline režimu mohou být tyto informace uvedeny v tiráži nebo ve vydavatelské poznámce publikace.

Příklady textů, jež podléhají přezkumu člověkem nebo redakční kontrole a za jejichž obsah nese redakční odpovědnost právnická nebo fyzická osoba:

—

novinový článek manipulovaný umělou inteligencí nebo shrnutí článku vytvořené umělou inteligencí, které byly podrobeny redakční kontrole příslušného šéfredaktora, přičemž redakční odpovědnost nese právnická osoba, která noviny vydává,

—

akademický blog manipulovaný umělou inteligencí, který byl podroben recenznímu řízení a za jehož obsah nese redakční odpovědnost příslušné výzkumné centrum, které blog spravuje,

—

varování týkající se veřejné bezpečnosti vytvořené umělou inteligencí, která jsou před jejich rozesláním občanům schválena veřejným činitelem, a to v rámci odpovědnosti příslušného orgánu veřejné správy pro civilní ochranu,

—

zprávy o udržitelnosti vytvořené umělou inteligencí a zveřejněné na internetových stránkách kótované společnosti, které byly podrobeny přezkumu odborníky z příslušných útvarů (např. útvaru pro dodržování předpisů),

—

překlad článku napsaného člověkem pořízený s využitím AI, přičemž překlad byl podroben přezkumu člověkem.

Příklady textů, které nesplňují požadavek na přezkum člověkem nebo redakční kontrolu, aby na ně mohla být uplatněna výjimka:

—

internetové stránky, na nichž jsou zveřejňovány články o politice Unie vytvořené umělou inteligencí, aniž by prošly jakýmkoli záměrným přezkumem člověkem nebo redakční kontrolou,

—

články generované umělou inteligencí, které jsou přezkoumány a upraveny jiným systémem AI a u nichž lidský redaktor před zveřejněním provede pouze povrchní gramatickou kontrolu,

—

kniha o změně klimatu vytvořená pomocí umělé inteligence a vydaná vlastním nákladem, která je zpřístupněna na platformě pro elektronické obchodování a která neprošla žádným přezkumem ze strany příslušné fyzické nebo právnické osoby (ani ze strany platformy).

6.2.4   Výjimka pro vymáhání práva

139)

Je-li použití systémů AI k vytváření textu zveřejňovaného za účelem informování veřejnosti o záležitostech veřejného zájmu bez přezkumu člověkem (např. policejní varování týkající se teroristické hrozby vygenerované umělou inteligencí a zveřejněné na sociálních médiích) povoleno zákonem za účelem odhalování, prevence, vyšetřování nebo stíhání trestných činů, jsou zavádějící subjekty osvobozeny od povinnosti transparentnosti podle čl. 50 odst. 4 aktu o AI. Objasnění uvedená v bodech 46–48 výše, která se týkají podobné výjimky v čl. 50 odst. 1 aktu o AI, jsou relevantní i pro toto ustanovení.

6.2.5   Vzájemné působení s jinými právními akty Unie

140)

V rámci mediálního práva Unie je redakční odpovědnost klíčovým pojmem, který je definován v čl. 2 bodě 8 nařízení (EU) 2024/1083 (Evropský akt o svobodě médií) (39). V této souvislosti se „redakční odpovědností“ rozumí „provádění účinné kontroly výběru pořadů nebo tiskových publikací i jejich uspořádání pro účely poskytování mediální služby, a to bez ohledu na existenci odpovědnosti za poskytovanou službu podle vnitrostátního práva“. V určitých situacích se tato definice může překrývat s pojmem redakční odpovědnost použitým v čl. 50 odst. 4 druhém pododstavci aktu o AI, zejména v případech, kdy subjekty zavádějící systém AI splňují také podmínky pro status poskytovatelů mediálních služeb podle evropského aktu o svobodě médií. Redakční odpovědnost ve smyslu čl. 50 odst. 4 aktu o AI by proto měla být vykládána v souladu se stávajícím acquis v oblasti médií, bez ohledu na to, že se jedná o samostatný pojem, který se může vztahovat i na širší kontexty a na jiné zavádějící subjekty, pokud za zveřejnění textu přebírají redakční odpovědnost. Poskytovatelé mediálních služeb mohou vycházet ze svých stávajících redakčních postupů a norem, aby mohli využít výjimku podle čl. 50 odst. 4 druhého pododstavce aktu o AI.

7.   HORIZONTÁLNÍ POŽADAVKY NA INFORMACE POSKYTOVANÉ PODLE ČL. 50 ODST. 5 AKTU O AI

141)

Podle čl. 50 odst. 5 aktu o AI mají být informace, jež mají být poskytovány v souladu s čl. 50 odst. 1 až 4 aktu o AI, dotčeným fyzickým osobám poskytnuty jasným a rozlišitelným způsobem nejpozději v době první interakce nebo expozice. Informace by měly být také v souladu s použitelnými požadavky na přístupnost. Mezi dotčené fyzické osoby v tomto kontextu patří osoby, které přímo interagují se systémem AI (čl. 50 odst. 1 aktu o AI), aktivní či pasivní uživatelé a další osoby vystavené syntetickému obsahu vytvořenému nebo manipulovanému umělou inteligencí (ať již s přímou interakcí se systémem AI, či bez ní (čl. 50 odst. 2 a 4 aktu o AI)), jakož i osoby, na které se vztahuje použití systémů rozpoznávání emocí nebo biometrické kategorizace (čl. 50 odst. 3 aktu o AI).

7.1   Poskytování informací jasným a rozlišitelným způsobem

142)

Informace se považují za poskytnuté jasným způsobem, jsou-li zřetelné, srozumitelné a přístupné pro dotčenou fyzickou osobu (včetně osob se zdravotním postižením). Informace se považují za poskytnuté rozlišitelným způsobem, pokud je možné je snadno odlišit od jiných informací a od prostředí, v němž je obsah prezentován. Musí být rovněž srozumitelné pro příjemce, včetně určitých skupin, jako jsou děti nebo osoby se zdravotním postižením, pokud patří mezi příjemce, kteří budou pravděpodobně vystaveni danému obsahu nebo budou se systémem interagovat (40). Aby byly informace poskytovány jasným a rozlišitelným způsobem, mohou být příslušné informace mimo jiné prezentovány v rámci interakce (podle čl. 50 odst. 1 aktu o AI) nebo v rámci příslušného obsahu (podle čl. 50 odst. 2 a 4 aktu o AI). Informace nebudou považovány za poskytnuté jasným a rozlišitelným způsobem, pokud je fyzické osoby za běžných podmínek expozice nebo interakce mohou snadno přehlédnout nebo opomenout (např. jsou uvedeny pouze v návodu k použití nebo skryty v několika úrovních nabídek v online rozhraní, nebo v podmínkách použití, které uživatelé často nečtou).

7.2   První interakce nebo expozice

143)

Ustanovení čl. 50 odst. 5 aktu o AI vyžaduje, aby byly informace dotčeným fyzickým osobám poskytnuty nejpozději v době první interakce nebo expozice. První interakce nebo expozice se vztahuje nejen na první fyzickou osobu, která interaguje se systémem AI nebo je mu (jeho výstupu) vystavena, ale také na jakoukoli následnou první interakci s tímto systémem AI nebo expozici tomuto systému (nebo jeho výstupu) ze strany jakékoli jiné fyzické osoby. Pokud jde o první interakci se systémem AI, měly by být informace poskytnuty alespoň jednou na začátku interaktivní relace, a to s ohledem na konkrétní kontexty uvedené v bodech 36 a 40 výše. Pokud jde o obsah vytvořený nebo manipulovaný umělou inteligencí, který spadá do působnosti čl. 50 odst. 2 a 4 aktu o AI, vztahuje se informační povinnost na každý výstup systému AI ve vztahu ke každé fyzické osobě, která je tomuto obsahu vystavena. Tento pojem by měl být chápán jako jakýkoli okamžik v čase, kdy je přiměřeně pravděpodobné, že fyzická osoba bude vystavena výstupu systému AI a bude zveřejnění vnímat, přičemž je třeba zohlednit zvláštní podmínky zveřejnění v případě zjevně tvůrčích, uměleckých a jiných děl (viz oddíl 6.1.3). Kromě toho mohou zavádějící subjekty informovat fyzické osoby ještě před první skutečnou interakcí nebo expozicí (např. na začátku obsahu zobrazujícího „deep fakes“). Pokud je však rozumně předvídatelné, že osoby nemusí obsah vnímat od začátku, pak pouhé zveřejnění na začátku obsahu tyto osoby dostatečně neinformuje a mělo by být, je-li to možné, doplněno o zveřejnění i v pozdějších fázích. Toto lze provést vhodným způsobem, s ohledem na cíl povinností v oblasti transparentnosti, jímž je zajistit účinné poskytování informací a smysluplnou informovanost uživatelů v čím dál tím více pohlcujících a realistických prostředích AI, kde mají uživatelé stále větší potíže rozlišit původ a pravdivost obsahu i interakce.

Příklady poskytování informací při první interakci nebo expozici podle čl. 50 odst. 5 aktu o AI:

—

první interakce: při zahájení konverzace s chatbotem nebo při zahájení fyzické interakce se systémem AI,

—

první expozice: na začátku videa obsahujícího „deep fake“, na začátku publikace textu vytvořeného nebo zmanipulovaného umělou inteligencí, který se týká záležitostí veřejného zájmu, nebo při setkání s „deep fakes“ zmanipulovanými umělou inteligencí během procházení sociálních médií.

7.3   Splnění příslušných požadavků na přístupnost

144)

Poskytovatelé systémů AI, na které se vztahují různé povinnosti v oblasti transparentnosti uvedené v čl. 50 odst. 1 až 4 aktu o AI, a subjekty zavádějící tyto systémy si musí být vědomi platných požadavků na přístupnost (např. podle směrnice 2016/2102 (41) a směrnice 2019/882 (42)) a musí posoudit, zda jejich produkt, služba nebo obsah musí být v souladu s těmito pravidly. V takovém případě musí zajistit přístupnost informací poskytovaných podle článku 50 aktu o AI, a to v souladu s platnými požadavky na přístupnost. Ustanovení článku 50 aktu o AI nestanoví žádné zvláštní nebo další požadavky na přístupnost.

8.   PROSAZOVÁNÍ ČLÁNKU 50 AKTU O AI

145)

Cílem této části je objasnit: i) účinky dodržování kodexu správné praxe, pokud jde o plnění povinností v oblasti transparentnosti u obsahu vytvořeného umělou inteligencí; ii) úlohu příslušných dozorových orgánů při prosazování článku 50 aktu o AI; iii) použitelné sankce za porušení těchto povinností a iv) okamžik, kdy se povinnosti stanovené v článku 50 aktu o AI začnou uplatňovat.

8.1   Účinky dodržování kodexu správné praxe, který byl posouzen jako přiměřený

146)

Poskytovatelé systémů AI, na které se vztahuje čl. 50 odst. 2 a 4 aktu o AI, a subjekty zavádějící takové systémy mohou prokázat splnění svých příslušných povinností v oblasti transparentnosti týkajících se obsahu vytvořeného umělou inteligencí podle těchto ustanovení tím, že se budou řídit kodexem správné praxe, který byl posouzen jako přiměřený podle čl. 50 odst. 7 aktu o AI (43). Takový kodex nenahrazuje akt o AI ani tyto pokyny. Doplňuje je tím, že poskytuje jediný v rámci celé Unie uznávaný praktický rámec pro poskytovatele generativních systémů AI a subjekty zavádějící takové systémy, který jim umožňuje prokázat dodržování těchto povinností, a to bez ohledu na místo jejich usazení či provozu a na to, které orgány dozoru nad trhem jsou příslušné.

147)

Ačkoli poskytovatelé a zavádějící subjekty mohou splnění těchto povinností prokázat i vhodnými alternativními prostředky, dodržování kodexu správné praxe, který je považován za přiměřený, představuje přímočarý, předvídatelný a právně jistý způsob, jak toto splnění prokázat. V případě signatářů kodexu správné praxe, který byl podle čl. 50 odst. 7 aktu o AI (44) posouzen jako přiměřený, se Komise a příslušné orgány dozoru nad trhem ve své dozorové činnosti zaměří na posouzení, zda tito signatáři dodrželi kodex správné praxe a zavedli opatření v něm obsažená. Jelikož poskytovatelé a zavádějící subjekty, kteří se kodexem řídí, budou otevřeně informovat o opatřeních, která zavádějí za účelem splnění požadavků čl. 50 odst. 2, 4 a 5 aktu o AI, získají si větší důvěru ze strany Komise, ostatních příslušných orgánů dozoru nad trhem i dalších zúčastněných stran (včetně široké veřejnosti). Jakékoli vyvázání se z jednotlivých částí ze strany signatářů kodexu správné praxe, který je považován za přiměřený, bude mít za následek, že tito poskytovatelé a zavádějící subjekty přijdou o výhodu spočívající v usnadnění prokázání souladu v dané oblasti.

148)

Od poskytovatelů a zavádějících subjektů, kteří nejsou signatáři kodexu správné praxe považovaného za přiměřený podle čl. 50 odst. 7 aktu o AI, se očekává, že prokáží, jak splnili své povinnosti podle čl. 50 odst. 2, 4 a 5 aktu o AI jinými vhodnými prostředky. Od takových poskytovatelů a zavádějících subjektů se dále očekává, že vysvětlí, jakým způsobem jimi zavedená opatření zajišťují plnění jejich povinností vyplývajících z aktu o AI. Měli by například provést analýzu nedostatků, v níž porovnají opatření, která zavedli, s opatřeními stanovenými v kodexu správné praxe, který je posouzen jako přiměřený. Vzhledem k tomu, že příslušné orgány (včetně Úřadu pro AI) budou mít méně informací o tom, jak poskytovatelé a zavádějící subjekty, kteří nejsou signatáři kodexu správné praxe, zajišťují plnění svých povinností podle čl. 50 odst. 2, 4 a 5 aktu o AI, budou při sledování dodržování předpisů pravděpodobně potřebovat podrobnější informace. Například poskytovatelé, kteří se neřídí kodexem správné praxe, mohou být rovněž vystaveni většímu počtu žádostí o informace a žádostí o přístup za účelem posouzení účinnosti, interoperability, robustnosti a spolehlivosti technických řešení zavedených za účelem splnění požadavků čl. 50 odst. 2 aktu o AI. Zavádějící subjekty mohou být takovým žádostem vystaveny také v souvislosti se svými postupy při označování podle čl. 50 odst. 4 aktu o AI.

149)

Příslušné orgány mohou při stanovení výše pokut v závislosti na konkrétních okolnostech zohlednit jako polehčující okolnost závazky plněné v souladu s kodexem správné praxe, který je posouzen jako přiměřený (45).

150)

Není-li kodex správné praxe shledán přiměřeným podle čl. 50 odst. 7 aktu o AI, může Komise přijmout prováděcí akt, jímž stanoví společná pravidla pro plnění povinností podle čl. 50 odst. 2, 4 a 5 aktu o AI; tato pravidla by se vztahovala na všechny příslušné poskytovatele systémů AI spadajících do působnosti těchto ustanovení a na subjekty, které tyto systémy zavádějí (46).

8.2   Orgány dozoru nad trhem

151)

Za dohled nad systémy AI spadajícími do jejich působnosti a za prosazování příslušných pravidel, včetně povinností v oblasti transparentnosti stanovených v článku 50 aktu o AI, odpovídají orgány dozoru nad trhem určené členskými státy, úřad pro AI (47) a evropský inspektor ochrany údajů (48). Takové prosazování se uskutečňuje v rámci systému dozoru nad trhem a souladu výrobků s předpisy stanoveného nařízením (EU) 2019/1020 a aktem o AI. Donucovací pravomoci orgánů dozoru nad trhem ve vztahu k systémům AI jsou stanoveny v uvedených nařízeních. Uvedené orgány mohou přijmout donucovací opatření v souvislosti s povinnostmi uvedenými v článku 50 aktu o AI z vlastního podnětu nebo na základě stížnosti, kterou má právo podat každá dotčená osoba nebo jiná fyzická či právnická osoba, která má důvod se domnívat, že k takovému porušení došlo (49). Povinnosti orgánů dozoru nad trhem podle aktu o AI nemají vliv na pravomoci a úkoly jiných dozorových orgánů nebo orgánů pro ochranu základních práv vyplývající z jejich vlastního právního rámce v situacích, kdy se uplatňuje jak článek 50 aktu o AI, tak i tento rámec (např. ochrana údajů, ochrana spotřebitele).

8.3   Sankce

152)

Poskytovatelům a zavádějícím subjektům, kteří nedodržují příslušné povinnosti v oblasti transparentnosti stanovené v článku 50 aktu o AI, lze uložit pokuty až do výše 15 000 000 EUR nebo, dopustí-li se porušení podnik, až do výše 3 % jeho celkového celosvětového ročního obratu za předchozí finanční rok podle toho, která hodnota je vyšší. Orgánům, institucím a jiným subjektům EU lze za porušení povinností v oblasti transparentnosti uložit správní pokuty až do výše 750 000 EUR. V případě malých a středních podniků, včetně startupů, se výše každé pokuty omezuje na výše uvedené procentní sazby nebo částku podle toho, která hodnota je nižší. Pokuty musí být účinné, přiměřené a odrazující a musí zohledňovat zájmy malých a středních podniků a malých podniků se střední tržní kapitalizací, včetně startupů, a jejich ekonomickou životaschopnost. Při rozhodování o tom, zda uložit správní pokutu, a při stanovení výše správní pokuty v každém jednotlivém případě by příslušné orgány měly posoudit všechny relevantní okolnosti konkrétní situace a případně i řadu faktorů, které ovlivňují závažnost porušení (např. povahu, závažnost a trvání porušení a jeho důsledků, nedbalostní či úmyslný charakter, další přitěžující či polehčující okolnosti, míru spolupráce s orgány dozoru nad trhem atd.).

8.4   Datum použitelnosti

153)

Podle článku 113 aktu o AI se článek 50 aktu o AI použije ode dne 2. srpna 2026. To znamená, že všechny systémy AI spadající do oblasti působnosti tohoto nařízení, které jsou uvedeny na trh nebo do provozu v Unii, musí být k tomuto datu v souladu s tímto ustanovením, a to bez ohledu na datum jejich uvedení na trh nebo do provozu (50). Nařízení, kterým se mění akt o AI (souhrnný balíček pro digitální oblast týkající se umělé inteligence), které bylo nedávno přijato normotvůrcem Unie, stanoví cílené přechodné pravidlo pouze ve vztahu k povinnostem označování a zjišťování podle čl. 50 odst. 2 aktu o AI pro generativní systémy AI uvedené na trh nebo do provozu před 2. srpnem 2026. Poskytovatelům těchto stávajících systémů se tím poskytuje přechodné období, během něhož musí své systémy uvést do souladu s předpisy do 2. prosince 2026. Systémy, které jsou částečně interaktivní a částečně generativní, mohou toto přechodné období využít pouze v souvislosti s povinností označování podle čl. 50 odst. 2 aktu o AI, zatímco plnění informační povinnosti zveřejnění u systémů AI, které přímo interagují s fyzickými osobami, musí být zajištěno již od 2. srpna 2026.

154)

Výstupy vytvořené nebo manipulované umělou inteligencí, které spadají do působnosti čl. 50 odst. 2 aktu o AI, a „deep fakes“ spadající do působnosti čl. 50 odst. 4 prvního pododstavce aktu o AI, které byly vytvořeny nebo zmanipulovány před 2. srpnem 2026, nemusí být zpětně označeny ani opatřeny štítkem. Totéž platí pro texty týkající se záležitostí veřejného zájmu, které spadají do působnosti čl. 50 odst. 4 druhého pododstavce aktu o AI a které byly vytvořeny nebo zmanipulovány umělou inteligencí a zveřejněny před 2. srpnem 2026. Naopak, budou-li texty, které byly vytvořeny nebo zmanipulovány před 2. srpnem 2026, zveřejněny v tento den nebo později, musí být označeny. S ohledem na cíl transparentnosti a posílení důvěry a integrity informačního ekosystému, o který akt o AI usiluje, jsou subjekty zavádějící systémy AI a další subjekty, které mají v držení nebo šíří již existující neoznačené „deep fakes“, nicméně vyzývány, aby tyto „deep fakes“ označovaly, aniž by se od nich očekávalo vynaložení nepřiměřeného úsilí k tomuto účelu (jako je například prověřování stávajících databází obsahu nebo úprava již vytištěných obalů výrobků).

9.   PŘEZKUM A AKTUALIZACE POKYNŮ

155)

Tyto pokyny představují první výklad s praktickými příklady povinností v oblasti transparentnosti stanovených v článku 50 aktu o AI. Komise tyto pokyny přezkoumá, jakmile to bude nutné, s ohledem na praktické zkušenosti získané při provádění povinností týkajících se transparentnosti a na tempo technologického, společenského a regulačního vývoje v této oblasti. To zahrnuje také veškeré relevantní zkušenosti s donucovacími opatřeními v oblasti dozoru nad trhem a výklady k článku 50 aktu o AI vydané Soudním dvorem Evropské unie. Během takového přezkumu může Komise rozhodnout o zrušení nebo změně těchto pokynů. Komise vybízí poskytovatele systémů AI a subjekty, které systémy zavádějí, vnitrostátní orgány dozoru nad trhem prostřednictvím rady pro AI, poradní fórum, výzkumnou obec a organizace občanské společnosti, aby k tomuto procesu přispěli reakcemi na budoucí výzvy k veřejné konzultaci.

(1)  Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) (Úř. věst. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2)  Článek 1 aktu o AI.

(3)  Ustanovení čl. 2 odst. 1 písm. a) a čl. 3 bodů 3, 9 a 11 aktu o AI. Další pokyny k pojmům „uvedení na trh“, „uvedení do provozu“ a „používání“ naleznete v pokynech Komise k zakázaným postupům v oblasti umělé inteligence, C(2025) 5052, a ve sdělení Komise – „Modrá příručka“ k provádění pravidel EU pro výrobky 2022, oddíl 2 (Úř. věst. C 247, 29.6.2022, s. 1).

(4)  Ustanovení čl. 2 odst. 1 písm. c) a 22. bodu odůvodnění aktu o AI.

(5)  Ustanovení čl. 3 bodu 4 aktu o AI.

(6)  Ustanovení čl. 2 odst. 1 písm. b) a c) aktu o AI.

(7)  Nařízení Evropského parlamentu a Rady (EU) 2022/2065 ze dne 19. října 2022 o jednotném trhu digitálních služeb (Úř. věst. L 277, 27.10.2022, s. 1).

(8)  Viz oddíl 2.5 pokynů Komise k zakázaným postupům v oblasti umělé inteligence podle nařízení (EU) 2024/1689 (akt o AI), Brusel, 29.7.2025, C(2025) 5052 final.

(9)  Definice zavádějícího subjektu rovněž vylučuje uživatele, kteří se těmito činnostmi zabývají (viz oddíl 2.3 výše).

(10)  Ustanovení 25. bodu odůvodnění aktu o AI.

(11)  Ve 102. bodě odůvodnění aktu o AI se vysvětluje, že zpřístupnění softwaru a dat na základě svobodné licence s otevřeným zdrojovým kódem „umožňuje jejich otevřené sdílení a v jejichž rámci mohou uživatelé k nim nebo jejich změněným verzím volně přistupovat, používat je, upravovat a přerozdělovat“.

(12)  Další informace týkající se článku 5 aktu o AI naleznete v pokynech Komise k zakázaným postupům v oblasti umělé inteligence podle nařízení (EU) 2024/1689 (akt o AI), C(2025) 5052 final.

(13)  Viz článek 6 aktu o AI.

(14)  Zejména čl. 26 odst. 11 aktu o AI ukládá subjektům zavádějícím vysoce rizikové systémy AI, které přijímají rozhodnutí nebo pomáhají při přijímání rozhodnutí týkajících se fyzických osob, povinnost tyto fyzické osoby informovat o tom, že jsou vystaveny použití vysoce rizikového systému AI. Tyto povinnosti týkající se transparentnosti doplňují povinnosti uvedené v článku 50 aktu o AI, jelikož se týkají odlišných informací, které je třeba poskytnout fyzickým osobám, lze je však sloučit do jediného oznámení.

(15)  Ustanovení čl. 3 bodu 66 aktu o AI definuje obecný systém AI jako systém AI založený na obecném modelu AI, který je schopen sloužit různým účelům, a to jak pro přímé použití, tak pro integraci do jiných systémů AI.

(16)  Ustanovení čl. 50 odst. 2 aktu o AI obsahuje výslovný odkaz na obecné systémy AI.

(17)  Ustanovení 133. bodu odůvodnění aktu o AI.

(18)  Viz čl. 3 bod 1 aktu o AI. Další pokyny k pojmu „systém AI“ naleznete v pokynech Komise k definici systému umělé inteligence ze dne 29.7.2025, C(2025) 5053 final.

(19)  Viz 132. bod odůvodnění aktu o AI. To neznamená, že by systém musel být zaměřen právě na tyto zranitelné skupiny. Pokud je systém určen k interakci s jakoukoli osobou z řad veřejnosti, zahrnuje to i příslušníky zranitelných skupin, které by poskytovatelé měli při zavádění oznamovacích opatření zohlednit.

(20)  Příslušné požadavky na přístupnost najdete v oddíle 7.3.

(21)  Například elektronická potvrzení atributů, jak jsou stanovena nařízením (EU) č. 910/2014 a jak jsou k dispozici v evropských peněženkách digitální identity zřízených podle téhož nařízení, jakož i v navrhovaných evropských podnikatelských peněženkách, mohou představovat bezpečný a účinný způsob identifikace agentů AI. Tyto peněženky umožňují ukládat a spravovat elektronická osvědčení, která ověřují totožnost, atributy a oprávnění agenta AI, a umožňují tak plynulé a důvěryhodné poskytování informací fyzickým osobám.

(22)  To platí i pro obdobné výjimky ve prospěch donucovacích činností, které jsou stanoveny v čl. 50 odst. 2 až 4 aktu o AI.

(23)  Směrnice Evropského parlamentu a Rady 2005/29/ES ze dne 11. května 2005 o nekalých obchodních praktikách vůči spotřebitelům na vnitřním trhu (Úř. věst. L 149, 11.6.2005, s. 2).

(24)  Směrnice Evropského parlamentu a Rady 2011/83/EU ze dne 25. října 2011 o právech spotřebitelů (Úř. věst. L 304, 22.11.2011, s. 64).

(25)  Směrnice Evropského parlamentu a Rady 2012/13/EU ze dne 22. května 2012 o právu na informace v trestním řízení (Úř. věst. L 142, 1.6.2012 s. 1); směrnice Evropského parlamentu a Rady 2012/29/EU ze dne 25. října 2012, kterou se zavádí minimální pravidla pro práva, podporu a ochranu obětí trestného činu (Úř. věst. L 315, 14.11.2012, s. 57).

(26)  Jak jsou definovány v čl. 3 bodě 1 aktu o AI.

(27)  Ve 133. bodě odůvodnění aktu o AI se upřesňuje, že je vhodné požadovat, aby poskytovatelé těchto systémů zavedli technická řešení, která umožňují označení ve strojově čitelném formátu a zjištění, že výstup vytvořil nebo s ním manipuloval systém AI, a nikoli člověk. Povinností týkající se zjišťování se zabývá 135. bod odůvodnění aktu o AI.

(28)  Viz příloha II prováděcího rozhodnutí Komise C(2025) 3871 final o žádosti o normalizaci adresované Evropskému výboru pro normalizaci a Evropskému výboru pro normalizaci v elektrotechnice, pokud jde o vysoce rizikové systémy AI, na podporu nařízení Evropského parlamentu a Rady (EU) 2024/1689 a o zrušení prováděcího rozhodnutí C(2023) 3215 final.

(29)  Viz také 11. bod odůvodnění aktu o AI.

(30)  Viz také 137. bod odůvodnění aktu o AI.

(31)  Ustanovení 136. bodu odůvodnění aktu o AI.

(32)  Toto kritérium je proto třeba chápat samostatně a odlišně od pojmu „klamání“, jak je uveden ve směrnici 2005/29/ES o nekalých obchodních praktikách vůči spotřebitelům na vnitřním trhu (směrnice o nekalých obchodních praktikách), https://eur-lex.europa.eu/eli/dir/2005/29/oj/ces.

(33)  V této souvislosti viz čl. 1 písm. b) směrnice o audiovizuálních mediálních službách.

(34)  To platí stejně tak pro zveřejněné texty, které informují veřejnost o záležitostech veřejného zájmu.

(35)  Další informace o vzájemném působení mezi článkem 50 aktu o AI a nařízením o digitálních službách naleznete také v oddíle 4.4.

(36)  2. bod odůvodnění nařízení o digitálních službách.

(37)  Podrobnější vysvětlení naleznete ve společných pokynech Komise a Evropského sboru pro ochranu osobních údajů týkajících se vzájemného vztahu mezi aktem o AI a právem Unie v oblasti ochrany údajů (v přípravě).

(38)  Analogicky viz věc C-89/04, Mediakabel, EU:C:2005:348, bod 33; C-192/04, Lagardère, EU:C:2005:475, bod 31; C-306/05, SGAE, EU:C:2006:764, body 37–40; C-527/15, Stichting Brein, EU:C:2017:300, body 43–44 a citovaná judikatura; věc C-135/23, GEMA, EU:C:2024:526, bod 38 a citovaná judikatura).

(39)  Nařízení Evropského parlamentu a Rady (EU) 2024/1083 ze dne 11. dubna 2024, kterým se stanoví společný rámec pro mediální služby na vnitřním trhu a mění směrnice 2010/13/EU (Evropský akt o svobodě médií) (Úř. věst. L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).

(40)  Pokud jsou součástí cílové skupiny daného obsahu děti, musí tato oznámení být: i) vůči dětem vstřícné, přiměřené jejich věku, snadno srozumitelné a snadno přístupné všem dětem, včetně dětí se zdravotním postižením a/nebo s dalšími potřebami v oblasti přístupnosti; ii) prezentovány jasně, srozumitelně a co nejjednodušeji a nejstručněji; iii) prezentovány způsobem, který je snadno přezkoumatelný a který umožňuje okamžitý a intuitivní přístup v okamžiku, kdy se stanou relevantními; iv) uváděny v úředním jazyce (úředních jazycích) členského státu, v němž je služba poskytována; v) poutavé pro děti. To může zahrnovat i použití grafiky, videí a/nebo postav či jiných technik; vi) předávány dětem postupně v průběhu času, aby si je uživatel co nejvíce zapamatoval.

(41)  Směrnice Evropského parlamentu a Rady (EU) 2016/2102 ze dne 26. října 2016 o přístupnosti webových stránek a mobilních aplikací subjektů veřejného sektoru (Text s významem pro EHP) (Úř. věst L 327, 2.12.2016, s. 1).

(42)  Směrnice Evropského parlamentu a Rady (EU) 2019/882 ze dne 17. dubna 2019 o požadavcích na přístupnost u výrobků a služeb (Text s významem pro EHP), PE/81/2018/REV/1 (Úř. věst. L 151, 7.6.2019, s. 70).

(43)  Viz příslušné informace o Kodexu správné praxe pro transparentnost obsahu vytvořeného umělou inteligencí | Utváření digitální budoucnosti Evropy, zveřejněno dne 10. června 2026.

(44)  Viz Stanovisko Komise k posouzení kodexu správné praxe pro transparentnost obsahu vytvořeného umělou inteligencí |Utváření digitální budoucnosti Evropy.

(45)  Ustanovení čl. 99 odst. 7 písm. e) aktu o AI.

(46)  Ustanovení čl. 50 odst. 7 aktu o AI.

(47)  Jako orgán dozoru nad trhem v oblasti systémů AI založených na obecných modelech AI poskytovaných stejným poskytovatelem (čl. 75 odst. 1 aktu o AI). Toto ustanovení se vztahuje na povinnost poskytovatelů podle čl. 50 odst. 1 a 2 aktu o AI. Pokud jde o čl. 50 odst. 3 a 4 aktu o AI, úřad pro AI bude mít pravomoc pouze v případě, že příslušný poskytovatel obecného modelu a systému AI je zároveň subjektem zavádějícím daný systém.

(48)  Jako orgán dozoru nad trhem pro orgány, instituce a další subjekty EU.

(49)  Ustanovení článku 85 aktu o AI.

(50)  Zvláštní pravidlo pro zachování dosavadních podmínek (tzv. grandfathering) podle čl. 111 odst. 2 aktu o AI se vztahuje na vysoce rizikové systémy AI uvedené na trh před datem použitelnosti pravidel pro vysoce rizikové systémy pouze z hlediska souladu těchto systémů s požadavky a povinnostmi kladenými na vysoce rizikové systémy AI. Pokud se na vysoce rizikový systém AI vztahuje také jedna nebo více povinností týkajících se transparentnosti podle článku 50 aktu o AI, toto zvláštní přechodné pravidlo se neuplatní, protože povinnosti týkající se vysoce rizikových systémů AI a povinnosti transparentnosti podle článku 50 se uplatňují kumulativně a přechodné pravidlo je odůvodněné a omezené pouze na soulad s ustanoveními týkajícími se vysoce rizikových systémů.


ELI: http://data.europa.eu/eli/C/2026/6005/oj

ISSN 1977-0863 (electronic edition)