|
Úradný vestník |
SK Séria C |
|
C/2026/6005 |
12.11.2026 |
OZNÁMENIE KOMISIE
Usmernenia k plneniu povinností v oblasti transparentnosti v súvislosti s niektorými systémami AI podľa článku 50 nariadenia (EÚ) 2024/1689 („akt o AI“)
(C/2026/6005)
Obsah
|
1. |
KONTEXT A CIELE | 3 |
|
2. |
PREHĽAD POVINNOSTÍ V OBLASTI TRANSPARENTNOSTI A HORIZONTÁLNYCH TÉM | 3 |
|
2.1. |
Prehľad povinností v oblasti transparentnosti podľa článku 50 aktu o AI | 3 |
|
2.2. |
Odôvodnenie a ciele | 4 |
|
2.3. |
Zodpovední aktéri podľa článku 50 aktu o AI | 5 |
|
2.4. |
Vylúčenia z rozsahu pôsobnosti aktu o AI | 7 |
|
2.4.1. |
Nasadzujúce subjekty pôsobiace v rámci čisto osobnej neprofesionálnej činnosti | 7 |
|
2.4.2. |
Výskum a vývoj | 8 |
|
2.4.3. |
AI vydaná na základe bezplatných licencií s otvoreným zdrojovým kódom | 8 |
|
2.5. |
Vzájomný vzťah so zakázanými postupmi, požiadavkami na vysokorizikové systémy AI a gramotnosťou v oblasti AI | 9 |
|
2.6. |
Vzájomný vzťah s pravidlami platnými pre modely a/alebo systémy AI na všeobecné účely | 9 |
|
3. |
ČLÁNOK 50 ODS. 1 AKTU O AI: TRANSPARENTNOSŤ INTERAKTÍVNYCH SYSTÉMOV AI | 9 |
|
3.1. |
Hlavné zložky, pojmy a súvisiace povinnosti v oblasti transparentnosti | 10 |
|
3.1.1. |
Systémy AI určené na priamu interakciu s fyzickými osobami | 10 |
|
3.1.2. |
Informačná povinnosť podľa článku 50 ods. 1 aktu o AI | 12 |
|
3.2. |
Výnimky z informačnej povinnosti podľa článku 50 ods. 1 aktu o AI | 14 |
|
3.2.1. |
Výnimka v prípade zrejmej interakcie so systémom AI | 14 |
|
3.2.2. |
Výnimka pre systémy AI, ktorých používanie na účely presadzovania práva je povolené zákonom | 16 |
|
3.3. |
Vzájomný vzťah s inými právnymi aktmi Únie | 17 |
|
4. |
ČLÁNOK 50 BOD 2 AKTU O AI: OZNAČOVANIE A ODHAĽOVANIE OBSAHU VYGENEROVANÉHO ALEBO ZMANIPULOVANÉHO AI | 18 |
|
4.1. |
Hlavné prvky a pojmy článku 50 ods. 2 aktu o AI | 18 |
|
4.1.1. |
Systémy AI, ktoré generujú alebo manipulujú syntetický obsah | 18 |
|
4.1.2. |
Modality syntetického obsahu, ktoré patria do rozsahu pôsobnosti | 19 |
|
4.1.3. |
Obsah, na ktorý sa nevzťahuje článok 50 ods. 2 aktu o AI | 20 |
|
4.2. |
Povinnosť týkajúca sa označovania a odhaľovania podľa článku 50 ods. 2 aktu o AI | 21 |
|
4.2.1. |
Povinnosť označovania | 21 |
|
4.2.2. |
Povinnosť odhaľovania | 22 |
|
4.2.3. |
Dodržiavanie požiadaviek na technické riešenia: účinné, interoperabilné, odolné a spoľahlivé | 22 |
|
4.3. |
Výnimky z povinností podľa článku 50 ods. 2 aktu o AI | 24 |
|
4.4. |
Vzájomný vzťah s inými právnymi aktmi Únie | 25 |
|
5. |
ČLÁNOK 50 ODS. 3 AKTU O AI: SYSTÉMY NA ROZPOZNÁVANIE EMÓCIÍ A SYSTÉMY BIOMETRICKEJ KATEGORIZÁCIE | 26 |
|
5.1. |
Hlavné zložky, pojmy a súvisiace povinnosti v oblasti transparentnosti podľa článku 50 ods. 3 aktu o AI | 27 |
|
5.1.1. |
Pojem „systém na rozpoznávanie emócií“ | 27 |
|
5.1.2. |
Pojem „systém biometrickej kategorizácie“ | 27 |
|
5.1.3. |
Informačná povinnosť podľa článku 50 ods. 3 aktu o AI | 27 |
|
5.2. |
Výnimka na účely presadzovania práva | 28 |
|
5.3. |
Vzájomný vzťah s inými právnymi aktmi Únie | 28 |
|
6. |
ČLÁNOK 50 ODS. 4: OZNAČOVANIE DEEPFAKOV A URČITÝCH TEXTOVÝCH PUBLIKÁCIÍ | 28 |
|
6.1. |
Hlavné zložky, pojmy a súvisiace povinnosti v oblasti transparentnosti týkajúce sa deepfakov podľa článku 50 ods. 4 aktu o AI | 28 |
|
6.1.1. |
Pojem „deepfake“ | 29 |
|
6.1.2. |
Povinnosť zverejňovania podľa článku 50 ods. 4 prvého pododseku aktu o AI | 31 |
|
6.1.3. |
Transparentnosť umeleckého, tvorivého, satirického, fiktívneho alebo analogického obsahu, ktorý predstavuje deepfake | 32 |
|
6.1.4. |
Informácie na účely presadzovania práva | 34 |
|
6.1.5. |
Vzájomný vzťah s inými právnymi aktmi Únie | 34 |
|
6.2. |
Hlavné zložky, pojmy a súvisiace povinnosti v oblasti transparentnosti týkajúce sa textu vygenerovaného alebo zmanipulovaného AI podľa článku 50 ods. 4 aktu o AI | 35 |
|
6.2.1. |
Text uverejnený s cieľom informovať verejnosť o záležitostiach verejného záujmu | 36 |
|
6.2.2. |
Povinnosť zverejňovania podľa článku 50 ods. 4 druhého pododseku aktu o AI | 37 |
|
6.2.3. |
Výnimka z povinnosti v oblasti transparentnosti v prípade textov, ktoré podliehajú ľudskej alebo redakčnej kontrole a redakčnej zodpovednosti | 37 |
|
6.2.4. |
Informácie na účely presadzovania práva | 38 |
|
6.2.5. |
Vzájomný vzťah s inými právnymi aktmi Únie | 39 |
|
7. |
HORIZONTÁLNE POŽIADAVKY UPLATNITEĽNÉ NA INFORMÁCIE POSKYTOVANÉ PODĽA ČLÁNKU 50 ODS. 5 AKTU O AI | 39 |
|
7.1. |
Poskytovanie informácií jasným a rozlíšiteľným spôsobom | 39 |
|
7.2. |
Prvá interakcia alebo vystavenie | 40 |
|
7.3. |
Plnenie príslušných požiadaviek na prístupnosť | 40 |
|
8. |
PRESADZOVANIE ČLÁNKU 50 AKTU O AI | 40 |
|
8.1. |
Účinky dodržiavania kódexu postupov, ktorý je posúdený ako primeraný | 41 |
|
8.2. |
Orgány dohľadu nad trhom | 42 |
|
8.3. |
Sankcie | 42 |
|
8.4. |
Začiatok uplatňovania | 42 |
|
9. |
PRESKÚMANIE A AKTUALIZÁCIA USMERNENÍ | 43 |
1. KONTEXT A CIELE
|
1. |
Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia určité nariadenia (ďalej len „akt o AI“), nadobudlo účinnosť 1. augusta 2024 (1). V akte o AI sa stanovujú harmonizované pravidlá pre uvádzanie na trh, uvádzanie do prevádzky a používanie umelej inteligencie (ďalej len „AI“) v Únii (2). Jeho cieľom je podporovať inovácie a zavádzanie dôveryhodnej AI a zároveň zabezpečiť vysokú úroveň ochrany zdravia, bezpečnosti a základných práv v Únii vrátane demokracie a právneho štátu. |
|
2. |
Akt o AI vychádza z prístupu založeného na riziku a systémy AI sa v ňom klasifikujú do štyroch rôznych kategórií rizika, z ktorých jednou sú systémy AI predstavujúce riziká z hľadiska transparentnosti, na ktoré sa vzťahujú povinnosti stanovené v článku 50 aktu o AI. Tieto povinnosti v oblasti transparentnosti sa začali uplatňovať dva roky po nadobudnutí účinnosti aktu o AI, t. j. 2. augusta 2026. |
|
3. |
V súlade s článkom 96 ods. 1 písm. d) aktu o AI sa tieto usmernenia Komisie vydávajú, aby slúžili ako praktický návod, ktorý pomôže príslušným orgánom, ako aj poskytovateľom a nasadzujúcim subjektom systémov AI pri zabezpečovaní súladu s povinnosťami v oblasti transparentnosti podľa článku 50 aktu o AI konzistentným, účinným, primeraným a jednotným spôsobom. |
|
4. |
Pri vypracúvaní týchto usmernení sa vychádzalo z pripomienok rôznych zainteresovaných strán, ktoré sa zhromaždili v rámci rozsiahlej konzultácie zorganizovanej Komisiou, z pripomienok členských štátov v rámci Rady pre AI, ako aj z pripomienok zainteresovaných strán k návrhu usmernení, ktorý sa zverejnil na účely konzultácií. |
|
5. |
Tieto usmernenia nie sú záväzné. Záväzný výklad aktu o AI môže v konečnom dôsledku podať len Súdny dvor Európskej únie (ďalej len „SDEÚ“). |
2. PREHĽAD POVINNOSTÍ V OBLASTI TRANSPARENTNOSTI A HORIZONTÁLNYCH TÉM
2.1. Prehľad povinností v oblasti transparentnosti podľa článku 50 aktu o AI
|
6. |
V článku 50 aktu o AI sa uvádzajú štyri povinnosti v oblasti transparentnosti, z ktorých každá sa vzťahuje na iný druh systémov AI alebo na ich výstupy.
|
|
7. |
Každá z týchto štyroch povinností sa preskúmava v oddieloch 3 až 6 týchto usmernení. Okrem toho sa v článku 50 ods. 5 aktu o AI vyžaduje, aby sa informácie uvedené v odsekoch 1 až 4 dotknutým fyzickým osobám poskytli jasným a rozlíšiteľným spôsobom najneskôr v čase prvej interakcie alebo vystavenia sa systému a aby boli v súlade s uplatniteľnými požiadavkami na prístupnosť. Tieto požiadavky sa bližšie objasňujú v oddiele 7. |
|
8. |
Rôzne povinnosti v oblasti transparentnosti stanovené v článku 50 aktu o AI sa môžu kumulatívne vzťahovať na jediný systém AI (alebo jeho výstupy), pričom zodpovednosť môžu niesť rôzni aktéri (poskytovatelia alebo nasadzujúce subjekty). Napríklad ak systém AI generuje obrázky v rámci priamej interakcie s fyzickou osobou, poskytovateľ tohto systému môže byť povinný dodržiavať ustanovenia článku 50 ods. 1 a 2 aktu o AI. Ak je tento systém zároveň schopný generovať obrázky, ktoré predstavujú deepfaky, alebo zverejňované texty týkajúce sa záležitostí verejného záujmu, nasadzujúci subjekt môže byť navyše povinný dodržiavať ustanovenia článku 50 ods. 4 aktu o AI. |
2.2. Odôvodnenie a ciele
|
9. |
Ako sa objasňuje v odôvodneniach 132 až 136 aktu o AI, účelom povinností v oblasti transparentnosti je znížiť riziká podvodu predstieraním identity, klamania, mylných informácií, manipulácie vo veľkom rozsahu a podvodov, ako aj zmierniť potenciálne nepriaznivé vplyvy na demokratické procesy a dôveru spoločnosti spôsobené obsahom alebo interakciou generovanými umelou inteligenciou alebo ňou manipulovanými. Informovanie jednotlivcov o tom, že interakcia a obsah boli vygenerované umelou inteligenciou, im pomôže prijímať informované rozhodnutia a zároveň prispeje k zachovaniu dôvery a integrity informačného ekosystému. Transparentnosť nie je len technickou požiadavkou v oblasti dodržiavania predpisov, ale aj nevyhnutnou podmienkou na to, aby fyzické osoby mohli rozpoznať interakcie a obsah sprostredkované AI alebo používanie systémov na rozpoznávanie emócií alebo biometrickú kategorizáciu. Zabezpečením transparentného a dôveryhodného využívania interaktívnych a generatívnych systémov AI sa zároveň umožní zachovanie osobnej autonómie a európskych hodnôt, ľudskej dôstojnosti a ďalších základných práv (napr. slobody myslenia, súkromia, rovnosti a nediskriminácie, ochrany spotrebiteľa, duševného vlastníctva atď.), pričom sa zároveň zachová sloboda prejavu a dôveryhodnosť mediálneho obsahu. |
2.3. Zodpovední aktéri podľa článku 50 aktu o AI
|
10. |
Podľa článku 3 bodu 3 aktu o AI sú poskytovateľmi fyzické alebo právnické osoby, orgány verejnej moci, agentúry alebo iné subjekty, ktoré vyvíjajú systémy AI alebo si ich dávajú vyvinúť a uvádzajú ich na trh Únie, alebo ich uvádzajú do prevádzky pod vlastným menom alebo ochrannou známkou (či už za odplatu alebo bezodplatne). Poskytovatelia musia dodržiavať príslušné povinnosti v oblasti transparentnosti uvedené v článku 50 ods. 1 a 2 aktu o AI, ktoré sa na nich vzťahujú, bez ohľadu na to, či sú usadení alebo sa nachádzajú v Únii alebo v tretej krajine (3). Akt o AI sa vzťahuje aj na poskytovateľov usadených alebo nachádzajúcich sa mimo Únie, ak sa výstup ich systému AI využíva v Únii (4). Náhodné, nepredvídateľné alebo neoprávnené nadväzujúce použitie by však samo osebe nemalo viesť k uplatneniu povinností na takýchto poskytovateľov interaktívnych alebo generatívnych systémov AI z tretích krajín, ktoré sa neuvádzajú na trh ani do prevádzky v Únii, a to bez toho, aby boli dotknuté právomoci príslušných orgánov dohľadu nad trhom posúdiť ich výstupy ako nevyhovujúce požiadavkám aktu o AI. |
|
11. |
Poskytovatelia musia zabezpečiť, aby bola transparentnosť zabudovaná do dizajnu a prevádzky ich interaktívnych alebo generatívnych systémov AI, a musia zabezpečiť splnenie všetkých príslušných povinností v oblasti transparentnosti uvedených v článku 50 ods. 1, 2 a 5 aktu o AI najneskôr v čase, keď sa tieto systémy uvedú na trh alebo do prevádzky. Všetky fyzické osoby, ktoré interagujú so systémom AI alebo sú vystavené jeho výstupom, ktoré patria do rozsahu pôsobnosti, musia byť počas celého životného cyklu systému AI, tak ako ho daný poskytovateľ uviedol na trh alebo do prevádzky, účinne a dôsledne informované (bez ohľadu na to, kto sú nasadzujúce subjekty alebo iní používatelia systému).
|
|
12. |
Nasadzujúce subjekty sú fyzické alebo právnické osoby, orgány verejnej moci, agentúry alebo iné subjekty, ktoré používajú systémy AI v rámci svojej právomoci, pokiaľ uvedené systémy nepoužívajú na osobnú neprofesionálnu činnosť (5). „Právomoc“ nad systémom AI by sa mala chápať ako prevzatie zodpovednosti za rozhodnutie o nasadení systému a za spôsob jeho skutočného používania (vrátane jeho výstupov). To si nevyhnutne nevyžaduje technickú kontrolu nad prevádzkou systému AI, pokiaľ nasadzujúci subjekt rozhoduje o tom, na aké účely a akým spôsobom sa systém AI bude používať (vrátane decentralizovaných pracovných postupov a skupinových podnikových štruktúr). Nasadzujúce subjekty zapojené do zložitých hodnotových reťazcov výroby a distribúcie obsahu by mali prijať primerané opatrenia na zabezpečenie toho, aby označenie obsahu, ktoré implementovali v súlade s článkom 50 ods. 4 aktu o AI, bolo zobrazené jasným a zreteľným spôsobom pre cieľové a predvídateľné publikum v čase prvého vystavenia systému v súlade s článkom 50 ods. 5 aktu o AI [napr. prostredníctvom zmluvných podmienok s distribučnými partnermi, nastavení používateľskej skúsenosti (UX) a rozhraní, ktoré sa majú zobrazovať]. |
|
13. |
Nasadzujúce subjekty patria do rozsahu pôsobnosti povinností v oblasti transparentnosti uvedených v článku 50 bodoch 3 a 4 aktu o AI, ak sú usadené alebo sa nachádzajú v Únii alebo ak sú usadené alebo sa nachádzajú v tretej krajine, ak sa výstup systému AI používa v Únii (6). V druhom prípade sa povinnosti v oblasti transparentnosti vzťahujú na subjekty nachádzajúce sa alebo usadené mimo Únie, ak samotný nasadzujúci subjekt predpokladá šírenie a používanie výstupov AI v Únii (t. j. tým, že riadi alebo povoľuje distribúciu v rámci Únie, a to aj zverejňovaním deepfakov na celosvetovo prístupnom internete). Nasadzujúce subjekty z tretích krajín však nie sú viazané povinnosťami v oblasti transparentnosti, ak sa obsah systému AI dostáva k publiku v Únii prostredníctvom kanálov, ktoré sú nepredvídateľné a mimo ich kontroly. |
|
14. |
Ak je nasadzujúcim subjektom systému AI právnická osoba, v právomoci ktorej sa systém používa (napr. reklamná agentúra), jednotliví zamestnanci, ktorí konajú na základe pokynov a pod dohľadom tejto právnickej osoby (napr. digitálni animátori, tvorcovia internetových stránok, tvorcovia obsahu, novinári), by sa nemali považovať za samostatné nasadzujúce subjekty v súvislosti s daným systémom. Právnická osoba zostáva nasadzujúcim subjektom aj vtedy, ak do prevádzky systému vo svojom mene a na svoju zodpovednosť a pod svojou kontrolou zapojí tretie strany (napríklad dodávateľov, samostatne zárobkovo činné osoby).
|
|
15. |
Prevádzkovatelia (napr. poskytovatelia a nasadzujúce subjekty) môžu vo vzťahu k systému AI plniť viac ako jednu rolu súčasne. Napríklad spoločnosť by mohla vyvinúť vlastný generatívny systém AI a používať ho na generovanie deepfakov. V takom prípade sa bude považovať za poskytovateľa aj nasadzujúci subjekt, ktorý musí zabezpečiť splnenie povinností týkajúcich sa strojovo čitateľného označenia podľa článku 50 ods. 2 a požiadaviek na jasné a zreteľné označenie deepfakov podľa článku 50 ods. 4 aktu o AI. |
|
16. |
Naopak, iní aktéri (napríklad poskytovatelia hostingových služieb vrátane online platforiem alebo vysielatelia), ktorých úloha sa obmedzuje na šírenie alebo prenos obsahu vygenerovaného alebo zmanipulovaného AI vytvoreného tretími stranami alebo ktorí prijímajú obsah vygenerovaný alebo zmanipulovaný AI alebo sú mu vystavení bez toho, aby mali právomoc nad používaním systému AI na účely generovania alebo manipulácie obsahu vygenerovaného AI, nie sú nasadzujúcimi subjektmi v zmysle aktu o AI. Hoci títo aktéri nenesú zodpovednosť podľa aktu o AI, môžu zohrávať dôležitú úlohu v hodnotovom reťazci pri zachovávaní dôveryhodnosti a integrity informačného ekosystému. Preto sa im dôrazne odporúča, aby zachovali značenie a označovanie zavedené podľa článku 50 aktu o AI a aby prijali primerané a technicky realizovateľné opatrenia, ktoré umožnia fyzickým osobám odhaliť obsah vygenerovaný alebo zmanipulovaný AI, a to bez toho, aby bola dotknutá zodpovednosť poskytovateľov a nasadzujúcich subjektov generatívnych systémov AI alebo akékoľvek povinnosti či zodpovednosť vyplývajúce z nariadenia (EÚ) 2022/2065 (ďalej len „akt o digitálnych službách“) (7) alebo iných platných právnych predpisov Únie alebo vnútroštátnych právnych predpisov. |
|
17. |
Aj ostatní aktéri, ktorí konajú v rámci svojho profesionálneho postavenia a šíria obsah (aj keď nie sú priamo zapojení podľa článku 50 aktu o AI), sa vyzývajú, aby prijali primerané a vhodné opatrenia, aby fyzické osoby, ktoré sú obsahu v konečnom dôsledku vystavené, boli účinne informované a dokázali odhaliť, že ide o umelo vygenerovaný alebo zmanipulovaný obsah. Okrem toho sa od týchto strán môže vyžadovať, aby príslušné deepfaky alebo textové publikácie týkajúce sa záležitostí verejného záujmu označovali v súlade s inými platnými právnymi alebo deontologickými predpismi (napr. ak vysielateľ v rámci televízneho programu označí a odvysiela deepfake vytvorený súkromnou osobou). Samotná skutočnosť, že aktér označí obsah alebo používa označený obsah, však neznamená, že tento aktér možno považovať za „nasadzujúci subjekt“ v zmysle aktu o AI. Aktom o AI sa nerozširuje ani neovplyvňuje právna zodpovednosť týchto aktérov podľa platných právnych rámcov, ak ich zároveň nemožno považovať za poskytovateľov alebo nasadzujúce subjekty AI. |
2.4. Vylúčenia z rozsahu pôsobnosti aktu o AI
|
18. |
V článku 2 aktu o AI sa stanovuje viacero všeobecných vylúčení z rozsahu pôsobnosti aktu o AI, ktoré sa už objasnili v usmerneniach Komisie o zakázaných postupoch v oblasti umelej inteligencie (8). Tento oddiel sa preto bude venovať iba tým aspektom, ktoré sú relevantné pre povinnosti v oblasti transparentnosti uvedené v článku 50 aktu o AI. |
2.4.1. Nasadzujúce subjekty pôsobiace v rámci čisto osobnej neprofesionálnej činnosti
|
19. |
Podľa článku 2 ods. 10 aktu o AI sa nariadenie „neuplatňuje na povinnosti nasadzujúcich subjektov, ktoré sú fyzickými osobami používajúcimi systémy AI v rámci čisto osobnej neprofesionálnej činnosti“ (9). Za „profesionálnu“ činnosť by sa mala považovať každá činnosť, prostredníctvom ktorej fyzické osoby pravidelne získavajú majetkový prospech alebo sú inak zapojené do profesionálnej, podnikateľskej, obchodnej, pracovnej činnosti alebo činnosti v rámci slobodného povolania. Označenie „čisto osobná“ je kvalifikátorom označenia „neprofesionálna“, čo znamená, že osoba by mala konať v osobnom aj neprofesionálnom postavení, aby sa na ňu výnimka vzťahovala. Akékoľvek použitie fyzickými osobami konajúcimi v mene alebo z poverenia nasadzujúceho subjektu, ktorý koná v rámci svojho profesionálneho postavenia, bude patriť do rozsahu pôsobnosti povinností profesionálneho nasadzujúceho subjektu v oblasti transparentnosti stanovených v článku 50 ods. 3 a 4 aktu o AI.
|
|
20. |
Vylúčenie v článku 2 ods. 10 aktu o AI sa vzťahuje len na povinnosti nasadzujúcich subjektov pri používaní systému na čisto osobné neprofesionálne činnosti. Systém ako taký zostáva v rozsahu pôsobnosti aktu o AI, pokiaľ ide o povinnosti poskytovateľov, ktorí systém uvádzajú na trh alebo do prevádzky, a nasadzujúcich subjektov, ktoré systém používajú na profesionálne účely. Touto výnimkou takisto nie je dotknuté uplatňovanie iných príslušných právnych predpisov Únie a vnútroštátnych právnych predpisov.
|
2.4.2. Výskum a vývoj
|
21. |
V článku 2 ods. 6 aktu o AI sa uvádza vylúčenie, pokiaľ ide o systémy alebo modely AI vrátane ich výstupov, ktoré sú osobitne vyvinuté a uvedené do prevádzky výlučne na účely vedeckého výskumu a vývoja. Týmto vylúčením nie sú dotknuté platné etické normy v oblasti výskumu a právne predpisy EÚ o ochrane údajov ani iné právne predpisy EÚ. V súvislosti s článkom 50 aktu o AI sa toto vylúčenie vzťahuje nielen na interaktívne systémy AI, ale aj na výstupy generatívnych systémov AI (vrátane obsahu, ktorý predstavuje deepfake), ktoré sa používajú v rámci vedeckého výskumu. Ak sa však tieto systémy uvedú do prevádzky alebo sa ich výstupy používajú na iné účely než výlučne na účely vedeckého výskumu a vývoja, bude aj naďalej potrebné dodržiavať príslušné povinnosti v oblasti transparentnosti uvedené v článku 50 aktu o AI.
|
|
22. |
Článkom 2 ods. 8 sa ďalej vylučujú výskumné, testovacie a vývojové činnosti týkajúce sa systémov AI alebo modelov AI pred ich uvedením na trh alebo do prevádzky. Na testovanie v reálnych podmienkach (v rámci alebo mimo regulačných experimentálnych prostredí pre AI) sa táto výnimka nevzťahuje. Okrem toho, keď sa systém AI v nadväznosti na takéto výskumné a testovacie činnosti uvedie na trh alebo do prevádzky, mal by v každom prípade spĺňať príslušné povinnosti v oblasti transparentnosti podľa článku 50 aktu o AI (10). |
2.4.3. AI vydaná na základe bezplatných licencií s otvoreným zdrojovým kódom
|
23. |
Podľa článku 2 ods. 12 aktu o AI sa na systémy AI vydané na základe bezplatných licencií s otvoreným zdrojovým kódom akt o AI nevzťahuje, pokiaľ sa na ne nevzťahujú zákazy uvedené v článku 5 aktu o AI alebo povinnosti v oblasti transparentnosti uvedené v článku 50 aktu o AI alebo nie sú klasifikované ako vysokorizikové (11). To znamená, že poskytovatelia a nasadzujúce subjekty systémov AI s otvoreným zdrojovým kódom, na ktoré sa vzťahuje článok 50 aktu o AI, musia naďalej zabezpečovať plnenie svojich príslušných povinností v oblasti transparentnosti. |
|
24. |
Naopak, poskytovatelia bezplatných komponentov AI s otvoreným zdrojovým kódom, ktoré zahŕňajú softvér, údaje, modely, nástroje, služby alebo procesy na prispôsobenie a integráciu do systému AI a ktoré samy osebe (či už sčasti alebo v celom rozsahu) nepredstavujú systém AI, nepodliehajú povinnostiam v oblasti transparentnosti uvedeným v článku 50 aktu o AI. Poskytovatelia takýchto systémov sa však vyzývajú, aby tieto modely, komponenty a služby dizajnovali spôsobom opísaným v bode 27, pokiaľ je to primerané a realizovateľné. |
2.5. Vzájomný vzťah so zakázanými postupmi, požiadavkami na vysokorizikové systémy AI a gramotnosťou v oblasti AI
|
25. |
V odôvodnení 137 aktu o AI sa objasňuje, že plnenie povinností v oblasti transparentnosti podľa článku 50 aktu o AI v prípade konkrétneho systému AI nemožno vykladať ako naznačujúce to, že používanie daného systému AI alebo jeho výstupov je zákonné na základe aktu o AI. Konkrétne na systémy AI, na ktoré sa vzťahujú povinnosti uvedené v článku 50 aktu o AI, sa môže vzťahovať článok 5 aktu o AI, a teda môže byť ich používanie zakázané (napr. používanie systémov na rozpoznávanie emócií na pracovisku alebo vo vzdelávacích inštitúciách) (12). Okrem toho sa môžu systémy AI, na ktoré sa vzťahuje článok 50 aktu o AI, klasifikovať aj ako vysokorizikové systémy (13) a môžu podliehať príslušným požiadavkám a povinnostiam pre takéto systémy. Dodržiavaním článku 50 aktu o AI sa preto nenahrádzajú, neobmedzujú ani ním nie sú dotknuté povinnosti vyplývajúce z iných ustanovení aktu o AI (14). Zároveň sa na systémy AI môže vzťahovať článok 50 aktu o AI bez toho, aby boli klasifikované ako vysokorizikové podľa článku 6 aktu o AI. Požiadavky na gramotnosť podľa článku 4 aktu o AI sa vzťahujú aj na poskytovateľov a nasadzujúce subjekty systémov AI, na ktoré sa vzťahuje článok 50 aktu o AI. |
2.6. Vzájomný vzťah s pravidlami platnými pre modely a/alebo systémy AI na všeobecné účely
|
26. |
Článok 50 aktu o AI sa vzťahuje na určité systémy AI, medzi ktoré patria systémy AI na všeobecné účely (15), napríklad chatboty podporujúce priamu interakciu s fyzickými osobami alebo systémy AI schopné generovať alebo manipulovať syntetický obsah (vrátane deepfakov) (16). |
|
27. |
Článok 50 aktu o AI sa výslovne nevzťahuje na modely GPAI. Ak je však interaktívny alebo generatívny systém AI, na ktorý sa vzťahuje článok 50 ods. 1 alebo 2 aktu o AI, založený na modeli GPAI poskytnutom tým istým poskytovateľom, opatrenia v oblasti transparentnosti stanovené v týchto usmerneniach by sa mohli uplatňovať aj na úrovni modelu (pozri aj oddiel 4). Okrem toho, hoci sa na nich nevzťahuje článok 50 aktu o AI, poskytovatelia iných modelov GPAI a iných generatívnych modelov AI sa takisto vyzývajú, aby na úrovni modelov zaviedli primerané opatrenia týkajúce sa transparentnosti na identifikáciu interaktívnych systémov AI a označovanie obsahu generovaného a manipulovaného AI. To je zvlášť prospešné pre uľahčenie plnenia povinností vyplývajúcich z článku 50 ods. 1 a 2 aktu o AI (17) nadväzujúcimi poskytovateľmi systémov AI a pre prispievanie k zachovaniu dôveryhodnosti a integrity informačného ekosystému. V prípade modelov GPAI, ktoré predstavujú systémové riziko, môžu bezpečnostné opatrenia na úrovni modelu na identifikáciu interakcií s AI a označovanie obsahu generovaného a manipulovaného AI v prípade potreby tvoriť súčasť širšieho súboru zmierňujúcich opatrení, ktoré môžu poskytovatelia prijať v rámci svojej povinnosti zmierňovať systémové riziká podľa článku 55 ods. 1 písm. b) aktu o AI. |
3. ČLÁNOK 50 ODS. 1 AKTU O AI: TRANSPARENTNOSŤ INTERAKTÍVNYCH SYSTÉMOV AI
|
28. |
Článok 50 ods. 1 aktu o AI je určený poskytovateľom systémov AI, ktoré priamo interagujú s fyzickými osobami, ktorí musia svoje systémy dizajnovať a vyvíjať tak, aby boli dotknuté fyzické osoby informované o tom, že interagujú so systémom AI. Ako sa uvádza v odôvodnení 132 aktu o AI, účelom tejto informačnej povinnosti je umožniť týmto fyzickým osobám prijímať informované rozhodnutia týkajúce sa výstupov systému, zabrániť nadmernému spoliehaniu sa na takéto systémy a umožniť týmto fyzickým osobám primerane prispôsobiť svoju dôveru v obsah a interakcie. |
3.1. Hlavné zložky, pojmy a súvisiace povinnosti v oblasti transparentnosti
|
29. |
Povinnosť v oblasti transparentnosti uvedená v článku 50 ods. 1 aktu o AI sa vzťahuje na poskytovateľov systémov AI v prípade, že je systém určený na priamu interakciu s fyzickými osobami a na túto interakciu sa nevzťahuje žiadna z nasledujúcich výnimiek: 1. je zrejmá z pohľadu fyzickej osoby, ktorá je primerane informovaná, pozorná a obozretná; alebo 2. systém sa podľa zákona môže používať na odhaľovanie, prevenciu, vyšetrovanie alebo stíhanie trestných činov, pokiaľ tento systém nie je k dispozícii verejnosti na oznamovanie trestných činov. |
3.1.1. Systémy AI určené na priamu interakciu s fyzickými osobami
|
30. |
Aby sa na systém vzťahoval článok 50 ods. 1 aktu o AI, musia sa uplatňovať štyri prvky: i) systém musí byť systémom AI; ii) určeným na interakciu; iii) priamo; iv) s fyzickými osobami.
|
|
31. |
Na agentov AI sa vzťahuje článok 50 ods. 1 aktu o AI, ak sú schopní pri plnení úloh (napr. pri vytváraní rezervácií, správe korešpondencie, rokovaní alebo uzatváraní zmlúv, realizácii nákupov atď.) interagovať s osobami, ktoré im zadávajú pokyny, alebo s inými fyzickými osobami. Agentov AI je potrebné dizajnovať a vyvíjať tak, aby zverejňovali nielen svoju umelú povahu, ale aj osobu, v mene ktorej konajú, a to pri zohľadnení potreby transparentnosti pôvodu, delegovania právomocí a zodpovednosti za dôsledky ich činov. Patria sem prípady, keď sú agenti AI schopní v rámci zložitých multiagentových architektúr spolupracovať s inými agentmi AI, ktorí pri vykonávaní úlohy priamo interagujú s fyzickými osobami. Napriek tomu však nemusí byť pre poskytovateľa agenta AI vždy možné vopred identifikovať jednotlivé prípady priamej interakcie agenta AI s inými fyzickými osobami, keď je tento agent nasadený v rôznych kontextoch. Ak poskytovateľ nedokáže spoľahlivo určiť, či bude agent AI priamo interagovať s fyzickou osobou pred tým, ako ho uvedie na trh alebo do prevádzky, mal by byť tento agent nadizajnovaný na úrovni architektúry a naprogramovaný tak, aby sa ako taký identifikoval v každej situácii, v ktorej je primerane pravdepodobné, že agent môže interagovať s fyzickou osobou (vrátane prípadov, keď fyzická osoba zastupuje právnickú osobu alebo koná v jej mene). Okrem toho by sa agenti AI mali identifikovať aj osobám, ktoré im dávajú pokyny, a to v kľúčových fázach (napr. pri autorizácii, podávaní správ, validácii atď. vrátane prípadov, keď nasadený agent AI prijíma, spracúva alebo sa opiera o výstupy vygenerované inými systémami AI, a nie priamo fyzickou osobou) a pri každej novej interakcii.
|
3.1.2. Informačná povinnosť podľa článku 50 ods. 1 aktu o AI
|
32. |
Článkom 50 ods. 1 aktu o AI sa prevádzkovateľom systémov AI, ktoré priamo interagujú s fyzickými osobami, ukladá povinnosť zabezpečiť, aby sa ich systémy AI (vrátane agentov AI a systémov AI na všeobecné účely) dizajnovali a vyvíjali tak, aby boli dotknuté fyzické osoby informované o tom, že interagujú so systémom AI. |
|
33. |
Zatiaľ čo mechanizmus informovania by mal byť zapracovaný do dizajnu a vývoja systému, ako aj do spôsobu, akým systém interaguje s fyzickými osobami, oznámenie by sa malo poskytnúť počas prevádzky systému AI a najneskôr v čase prvej interakcie s fyzickou osobou (ako sa vyžaduje v článku 50 ods. 5 aktu o AI, pozri oddiel 7). Poskytovatelia sú zodpovední za to, aby po uvedení systému AI na trh alebo do prevádzky boli fyzické osoby, ktoré s týmto systémom interagujú, počas celého životného cyklu systému AI, tak ako ho uviedol na trh alebo do prevádzky daný poskytovateľ, účinne a dôsledne informované.2.2 |
|
34. |
Formát zverejnenia: V článku 50 ods. 1 aktu o AI sa nestanovuje žiadna konkrétna technika zverejňovania. Poskytovatelia si preto môžu zvoliť akúkoľvek vhodnú techniku, pokiaľ sú splnené dve požiadavky: i) sú splnené požiadavky uvedené v článku 50 ods. 5 aktu o AI, pokiaľ ide o poskytnutie jasných a zreteľných informácií najneskôr v čase prvej interakcie (pozri oddiel 7); a ii) zohľadňujú sa charakteristiky fyzických osôb patriacich do zraniteľných skupín z dôvodu ich veku (napr. deti alebo staršie osoby) alebo zdravotného postihnutia v rozsahu, v akom je systém AI určený na interakciu s fyzickými osobami patriacimi do týchto skupín alebo je takáto interakcia primerane pravdepodobná (napr. vrátane prípadov, keď je primerane pravdepodobné, že systém umelej inteligencie bude interagovať so širokou verejnosťou) (19). Informácie sa musia poskytovať aj vo formáte prístupnom pre fyzické osoby so zdravotným postihnutím, ako sa uvádza v článku 50 ods. 5 a odôvodnení 132 aktu o AI (pozri oddiel 7). Ak systém môže interagovať s deťmi, tieto oznámenia musia byť prispôsobené deťom, vekovo primerané, zrozumiteľné a ľahko prístupné pre všetky deti vrátane detí so zdravotným postihnutím alebo s ďalšími potrebami z hľadiska prístupnosti. Ak je to možné a vhodné, poskytovateľom sa odporúča používať štandardizované postupy zverejňovania a označenia, aby sa zabezpečila účinnosť a jednotnosť oznámení a zvýšilo povedomie používateľov. |
|
35. |
Obsah oznámenia: V článku 50 ods. 1 aktu o AI sa vyžaduje, aby poskytovatelia interaktívnych systémov AI dizajnovali a vyvíjali tieto systémy tak, aby všetky fyzické osoby, ktoré s takýmito systémami AI interagujú, boli výslovne informované o umelej, neľudskej povahe partnera, s ktorým interagujú. Ak je pre poskytovateľa primerane predvídateľné, že systém AI môže interagovať s fyzickými osobami patriacimi do uvedených zraniteľných skupín, mali by sa informácie zodpovedajúcim spôsobom prispôsobiť a poskytnúť v prístupnom formáte, ako sa to vyžaduje v uplatniteľnom práve Únie, aby sa zároveň zabezpečilo plné pochopenie zo strany týchto fyzických osôb (20). |
|
36. |
Oznámeniami by sa mali poskytovať informácie o umelom pôvode interakcie spôsobom, ktorý je primeraný kontextu, v ktorom k interakcii dochádza. Toto by sa malo uskutočniť spôsobom, ktorým sa zaručí, že dotknuté osoby budú riadne a účinne informované, pričom sa pred interakciou aj počas nej zabráni akémukoľvek riziku klamania alebo manipulácie a zároveň sa zabezpečí uskutočniteľné a primerané zverejňovanie. Medzi príklady poskytovania takýchto informácií patria písomné oznámenia (napr. chatbot, ktorý na začiatku konverzácie uvedie, že jeho technológia je založená na AI), vizuálne prostriedky (napr. e-mail vygenerovaný agentom AI zaslaný fyzickej osobe, ktorý obsahuje v hornej časti označenie AI), zvukové prostriedky (napr. hlasový asistent, ktorý na začiatku relácie oznámi, že je založený na AI), zverejnenie identifikátorov AI a poverení (napr. agenti AI, ktorí overiteľnou formou zverejňujú svoju identitu založenú na AI v rozsahu, v akom je to možné) (21). |
|
37. |
Formát oznámení: Ako najlepší postup sa odporúča dizajn systému AI s multimodálnymi a prístupnými spôsobmi zverejňovania. V takýchto oznámeniach sa môžu vo vhodných prípadoch a v závislosti od kontextu, cieľových a predpokladaných cieľových skupín, ako aj dostupných zdrojov poskytovateľov, najmä malých a stredných podnikov (ďalej len „MSP“), kombinovať rôzne techniky s cieľom zlepšiť pochopenie používateľmi. Medzi príklady vhodných techník môžu patriť:
|
|
38. |
Niektoré techniky nie sú nevyhnutné a pri samostatnom použití nestačia na účinné splnenie povinnosti v oblasti transparentnosti uvedenej v článku 50 ods. 1 a 5 aktu o AI, a to najmä:
|
|
39. |
Zverejnené informácie o umelom pôvode by mali byť primerané a prispôsobené rôznym situáciám a cieľovému publiku systému AI, aby zostali účinné a používateľsky ústretové a aby sa v čo najväčšej miere zabránilo narušeniam používateľskej skúsenosti alebo vzniku efektov privyknutia (tzv. bannerová slepota). |
|
40. |
Jedno výrazné oznámenie pred prvou interakciou systému AI s konkrétnou fyzickou osobou bude vo väčšine prípadov pravdepodobne postačovať na splnenie povinnosti uvedenej v článku 50 ods. 1 aktu o AI. V niektorých rizikovejších situáciách však budú pravdepodobne potrebné pravidelné pripomienky a kontextovo orientované zverejnené informácie o umelom pôvode, aby sa zabezpečila trvalá informovanosť používateľov. To platí najmä v súvislosti so systémami AI, ktoré interagujú so zraniteľnými osobami (napr. deťmi, staršími osobami, osobami so zdravotným postihnutím a osobami s nižšou gramotnosťou), dlhodobými a vyvíjajúcimi sa interakciami v citlivých alebo imerzívnych kontextoch (napr. tam, kde môžu používatelia prejavovať alebo zažívať emocionálne vypätie či zraniteľnosť alebo im môže hroziť vznik správania podobného závislosti), kde existuje zvýšené riziko zavádzania používateľov (napr. finančné poradenstvo, poistenie, právna pomoc, zdravotné poradenstvo a vybavovanie sťažností) alebo riziko vytvorenia emocionálnych väzieb či závislostí (napr. AI spoločníci), ako aj v prípadoch, keď je potrebné zabezpečiť informovanosť a kontrolu nad činnosťou agentov AI. Poskytovatelia musia takisto nadizajnovať a vyvinúť systém AI tak, aby zabezpečili zverejnenie vo všetkých situáciách, keď sú systému AI kladené otázky týkajúce sa jeho povahy alebo pôvodu interakcie alebo keď sa na základe komunikácie s fyzickou osobou dá odôvodnene predpokladať, že táto osoba môže byť obeťou zavádzania alebo mať zmätok v tom, či je interakcia založená na AI. |
3.2. Výnimky z informačnej povinnosti podľa článku 50 ods. 1 aktu o AI
|
41. |
V článku 50 ods. 1 aktu o AI sa stanovujú dve výnimky z informačnej povinnosti týkajúcej sa interaktívnych systémov AI, ktoré sa skúmajú ďalej v texte. |
3.2.1. Výnimka v prípade zrejmej interakcie so systémom AI
|
42. |
Aby sa poskytovatelia mohli odvolať na prvú výnimku, budú musieť posúdiť a preukázať: i) zrejmý umelý charakter interakcie s ii) fyzickou osobou, ktorá musí byť primerane informovaná, pozorná a obozretná, pri zohľadnení okolností a kontextu použitia. |
|
43. |
Táto norma vychádza z ustálených právnych predpisov EÚ v oblasti ochrany spotrebiteľa, pokiaľ ide o pojem „priemerný spotrebiteľ“, a mala by sa vykladať jednotne, pričom je potrebné zohľadniť špecifické a rôznorodé kontexty a spôsoby použitia systémov AI, ktoré priamo interagujú s fyzickými osobami, ako aj ciele stanovené v článku 50 ods. 1 aktu o AI. |
|
44. |
Vytvorenie predstavy o takejto „priemernej“ fyzickej osobe pozostáva z dvoch krokov. V prvom rade by poskytovatelia mali zohľadniť publikum, pre ktoré je systém AI určený a s ktorým bude s primeranou pravdepodobnosťou interagovať. V druhom rade by poskytovateľ mal posúdiť, do akej miery je priemerný člen daného publika primerane informovaný, pozorný a obozretný, pričom by mal zohľadniť okolnosti a kontext použitia. Pri vykonávaní tohto posúdenia je potrebné zohľadniť viacero faktorov:
|
|
45. |
Zrejmosť: Po stanovení hypotetickej primerane informovanej, pozornej a obozretnej fyzickej osoby by poskytovatelia mali zhodnotiť, či bude pre takúto osobu zrejmé, že priamo interaguje so systémom AI. Táto výnimka by sa mala vykladať reštriktívne, keďže zbavuje fyzické osoby ochrany a práva na informovanie prostredníctvom jasných a rozlíšiteľných zverejnených informácií o tom, že interagujú so systémami AI. To, že spotrebitelia a iné fyzické osoby vo všeobecnosti vedia o existencii systémov AI (vrátane chatbotov a agentov), ešte neznamená, že ich počas interakcií rozpoznávajú. Pri posudzovaní toho, či je táto interakcia zrejmá, môže byť relevantných viacero faktorov, ktoré je potrebné zohľadniť:
|
3.2.2. Výnimka pre systémy AI, ktorých používanie na účely presadzovania práva je povolené zákonom
|
46. |
Poskytovatelia interaktívnych systémov AI sú oslobodení od povinnosti v oblasti transparentnosti podľa článku 50 ods. 1 aktu o AI, ak majú zákonom povolené odhaľovať trestné činy, predchádzať im, vyšetrovať ich alebo stíhať ich, a to s výhradou primeraných záruk práv a slobôd tretích osôb. |
|
47. |
Pod pojmom „povolené zákonom“ sa rozumie právo Únie, ako aj vnútroštátne právne predpisy členských štátov prijaté v súlade s právom Únie. V právnych predpisoch, ktorými sa povoľuje používanie systému umelej inteligencie, musia byť jasne uvedené účely a okolnosti povoleného používania a stanovené primerané záruky na ochranu práv a slobôd tretích strán. Vzhľadom na technologicky neutrálny prístup aktu o AI nie je potrebné zákonom identifikovať ani povoľovať konkrétne systémy AI, ak sa používanie takéhoto systému vo všeobecnosti predpokladá v rámci zákonom povolených činností a je v súlade s uplatniteľným právnym rámcom. |
|
48. |
Aby sa na systém umelej inteligencie vzťahovala táto výnimka, jeho účelom musí byť odhaľovanie trestných činov, predchádzanie trestným činom, ich vyšetrovanie alebo stíhanie (napr. agent v utajení založený na AI, systémy AI používané pod ľudským dohľadom vyšetrovateľov na účely online vyšetrovaní alebo komunikácie s osobami, ktoré môžu byť zapojené do trestnej činnosti). Táto výnimka sa neobmedzuje len na používanie takýchto systémov AI orgánmi presadzovania práva v zmysle článku 3 ods. 48 aktu o AI, ale môže sa vzťahovať aj na interaktívne (alebo generatívne) systémy AI používané inými orgánmi verejnej moci Únie alebo členských štátov, pokiaľ je ich používanie povolené zákonom na účely odhaľovania trestných činov, predchádzania trestným činom, ich vyšetrovania alebo stíhania a podlieha primeraným zárukám na ochranu práv a slobôd tretích strán. Pri tejto výnimke sa nevyžaduje, aby bol systém AI schopný viesť vyšetrovania samostatne. Ak sa príslušný systém môže používať na účely presadzovania práva, ako aj na iné bežné účely, uplatniteľnosť výnimky by sa mala posudzovať s ohľadom na konkrétne nasadenie. Povinnosti v oblasti transparentnosti sa naďalej uplatňujú v prípadoch, keď sa ten istý systém AI nasadzuje na iné účely ako na zákonom povolené odhaľovanie trestných činov, predchádzanie trestným činom, ich vyšetrovanie alebo stíhanie. Pre fyzické osoby je potrebné aj naďalej zabezpečovať transparentnosť, keď so systémom interagujú v rámci jeho bežných účelov. |
|
49. |
Táto výnimka sa neuplatňuje, ak i) je systém AI prístupný verejnosti a ii) systém ponúka jednotlivcom funkcie na oznamovanie trestných činov. Takéto systémy sa môžu používať, naďalej však podliehajú povinnosti v oblasti transparentnosti podľa článku 50 ods. 1 aktu o AI, a preto je potrebné fyzické osoby informovať o tom, že interagujú s takýmito systémami.
Pre spresnenie je potrebné uviesť, že táto výnimka sa týka výlučne povinnosti podľa článku 50 ods. 1 informovať fyzické osoby o tom, že interagujú so systémom AI (22). Týmto nie sú dotknuté uplatniteľné právne predpisy Únie a vnútroštátne právne predpisy vrátane procesných pravidiel týkajúcich sa dokumentácie, zverejňovania, prípustnosti a posudzovania dôkazov.
|
3.3. Vzájomný vzťah s inými právnymi aktmi Únie
|
50. |
Povinnosť v oblasti transparentnosti podľa článku 50 ods. 1 aktu o AI sa uplatňuje bez toho, aby boli dotknuté uplatniteľné právne predpisy Únie v oblasti ochrany spotrebiteľa, ochrany údajov, digitálnych technológií alebo nediskriminácie, ktorými sa môže vyžadovať zverejnenie ďalších informácií, ktoré sa netýkajú konkrétne toho, či je interakcia založená na AI. Konkrétne, podľa smernice 2005/29/ES (ďalej len „smernica o nekalých obchodných praktikách“) (23) je zakázané klamlivé konanie alebo klamlivé opomenutie konania, pokiaľ ide o hlavné vlastnosti výrobku alebo služby. Okrem toho sa v smernici 2011/83/ES (ďalej len „smernica o právach spotrebiteľov“) (24) vyžaduje, aby obchodníci poskytovali jasné a zrozumiteľné predzmluvné informácie o hlavných vlastnostiach tovaru alebo služieb. Ak je na AI založená služba (napríklad chatbot na báze predplatného, aplikácia AI spoločníka alebo služba virtuálneho koučovania), funkcia umelej inteligencie sa môže považovať za podstatnú vlastnosť, ktorú je potrebné zverejniť ešte pred tým, ako spotrebiteľ uzavrie zmluvu. Informačné povinnosti vyplývajúce z právnych predpisov Únie v oblasti ochrany spotrebiteľa sa uplatňujú bez ohľadu na to, či sa daná interakcia považuje za „zrejmú“ podľa článku 50 ods. 1 aktu o AI. Tieto povinnosti sú zároveň doplňujúce ako všeobecné informačné povinnosti v oblasti ochrany spotrebiteľa, zatiaľ čo oznamovacia povinnosť podľa aktu o AI je kontextovejšia a jej cieľom je zabezpečiť, aby všetky fyzické osoby boli priebežne informované o priamej interakcii so systémom AI, a to minimálne pred jeho spustením a počas celej interakcie. |
|
51. |
Akt o digitálnych službách obsahuje aj požiadavky na transparentnosť odporúčacích systémov online platforiem vrátane povinnosti vysvetliť hlavné parametre určujúce poradie. Týmito povinnosťami sa dopĺňajú povinnosti v oblasti transparentnosti stanovené v článku 50 ods. 1 aktu o AI, keďže majú odlišný rozsah pôsobnosti a účel a týkajú sa systémov, ktoré v zásade neinteragujú priamo s používateľmi v zmysle článku 50 ods. 1 aktu o AI. |
|
52. |
Pokiaľ ide o informačné povinnosti voči dotknutým osobám podľa právnych predpisov Únie v oblasti ochrany údajov, povinnosť uvedená v článku 50 ods. 1 aktu o AI slúži na iný účel ako uvedené povinnosti a ako taká nemá vplyv na tieto informačné povinnosti. |
|
53. |
Podobne sa povinnosť v oblasti transparentnosti podľa článku 50 ods. 1 aktu o AI uplatňuje bez toho, aby boli dotknuté právne predpisy Únie a vnútroštátne právne predpisy týkajúce sa poskytovania informácií osobám v rámci trestného konania [napr. smernica 2012/13/EÚ alebo smernica 2012/29/EÚ zmenená smernicou (EÚ) 2026/1472] (25). |
4. ČLÁNOK 50 BOD 2 AKTU O AI: OZNAČOVANIE A ODHAĽOVANIE OBSAHU VYGENEROVANÉHO ALEBO ZMANIPULOVANÉHO AI
|
54. |
V článku 50 ods. 2 aktu o AI sa vyžaduje, aby poskytovatelia systémov AI generujúcich syntetický obsah zaviedli technické riešenia, ktoré spĺňajú určité požiadavky na kvalitu, pokiaľ ide o strojovo čitateľné označovanie a odhaľovanie výstupov ich systémov AI. Cieľom je umožniť fyzickým osobám rozlíšiť obsah vygenerovaný alebo zmanipulovaný AI od iného obsahu (napríklad obsahu vytvoreného ľuďmi) a overiť jeho pôvod, čím sa zároveň prispeje k zvýšeniu integrity a dôvery v informačný ekosystém. |
|
55. |
Z plnenia tejto povinnosti v oblasti transparentnosti majú preto úžitok všetky fyzické osoby, ktoré môžu byť vystavené obsahu vygenerovanému alebo zmanipulovanému AI, ako aj kľúčoví aktéri, ktorí zohrávajú dôležitú úlohu, pokiaľ ide o dôveryhodnosť a integritu informačného ekosystému, ako sú príslušné orgány dohľadu nad trhom a iné príslušné orgány, nezávislí výskumníci, organizácie občianskej spoločnosti, médiá, dôveryhodní nahlasovatelia, obhajcovia základných práv, poskytovatelia online platforiem a online vyhľadávačov, nositelia práv a ďalší tvorcovia a distribútori obsahu atď. |
4.1. Hlavné prvky a pojmy článku 50 ods. 2 aktu o AI
|
56. |
Článok 50 ods. 2 aktu o AI sa uplatňuje, ak sú splnené viaceré kumulatívne podmienky:
|
4.1.1. Systémy AI, ktoré generujú alebo manipulujú syntetický obsah
|
57. |
Článok 50 ods. 2 aktu o AI sa vzťahuje na systémy umelej inteligencie (26) vrátane systémov AI na všeobecné účely, ktoré generujú syntetický zvukový, obrazový, video alebo textový obsah. Článok 50 ods. 2 aktu o AI sa vzťahuje na podskupinu systémov, ktoré spĺňajú vymedzenie systému AI uvedené v článku 3 bode 1 aktu o AI a ktoré generujú takéto výstupy. Článok 50 ods. 2 aktu o AI sa vzťahuje aj na systémy AI používané na manipuláciu obsahu. |
|
58. |
Generovanie obsahu je generovanie syntetického materiálu systémom AI (napr. na základe ľudskej požiadavky), ako je napríklad vygenerovanie syntetického obrázku alebo piesne. V praxi to znamená, že článok 50 ods. 2 aktu o AI sa môže vzťahovať na generatívne systémy AI, ktoré sú navrhnuté s úzkym určeným účelom na vytváranie konkrétnych výstupov. Zároveň sa článok 50 ods. 2 aktu o AI vzťahuje aj na systémy AI, ktoré môžu slúžiť na viaceré účely vrátane systémov AI na všeobecné účely a môžu vytvárať rôzne druhy obsahu, ako aj na systémy agentovej umelej inteligencie, pokiaľ generujú syntetický zvukový, obrazový, videoobsah alebo textový obsah. |
|
59. |
Naopak, manipulácia obsahu sa vzťahuje na už existujúci obsah (či už syntetický, alebo nie), ktorý je upravený systémom AI (napr. existujúci obrázok alebo hlasový záznam, ktoré systém umelej inteligencie manipuluje podľa pokynov človeka). Na to, aby sa obsah mohol považovať za obsah, na ktorý sa vzťahuje článok 50 ods. 2 aktu o AI, stačí, ak je vygenerovaný alebo zmanipulovaný AI nad rámec bežnej redakčnej úpravy v súlade s výnimkami stanovenými v článku 50 ods. 2 aktu o AI (pozri oddiel 4.3). Okrem toho sa v článku 50 ods. 2 aktu o AI nevyžaduje, aby bol obsah vygenerovaný alebo zmanipulovaný výlučne AI. Obsah, ktorý je skombinovaný s materiálom vytvoreným človekom, sa takisto považuje za syntetický obsah, ak bol zmanipulovaný alebo vygenerovaný jedným zo spôsobov uvedených v článku 50 ods. 2 aktu o AI. |
4.1.2. Modality syntetického obsahu, ktoré patria do rozsahu pôsobnosti
|
60. |
V článku 50 ods. 2 aktu o AI sa uvádza vyčerpávajúci zoznam modalít syntetického obsahu, na ktoré sa vzťahuje povinnosť transparentnosti: zvuk, obrázky, video alebo text. To zahŕňa aj multimodálny obsah, teda obsah, ktorý pozostáva z kombinácie týchto modalít. Na účely článku 50 ods. 2 aktu o AI sa jednotlivé modality majú vykladať v súlade s praktickým a technologickým vývojom, ktorý sa môže v priebehu času meniť. Zatiaľ by sa mali chápať takto:
|
|
61. |
Na systémy AI, ktoré slúžia na generovanie alebo manipuláciu 3D obrázkov, 3D videí a 3D zvuku, ako aj virtuálnej, rozšírenej alebo zmiešanej reality, sa vzťahuje článok 50 ods. 2 aktu o AI. Pojem „virtuálna realita“ zahŕňa technológie AI, ktoré používateľom umožňujú zažívať počítačom vygenerované prostredie simulujúce fyzickú prítomnosť a interagovať s takýmto prostredím a ktoré umožňujú interakciu používateľa s takýmto prostredím v reálnom čase. Keďže virtuálna a rozšírená realita pozostáva zo sekvencie obrazov založenej na čase, prípadne synchronizovaných so zvukom, ktorá znázorňuje vizuálnu zmenu v priebehu času, možno ju považovať za „videoobsah“. Za relevantný „výstup“, ktorý sa má označiť, sa považuje konečná podoba jednotlivých aktív vygenerovaných AI, pričom osobitné výnimky sa uplatňujú na krátkodobé interaktívne relácie v reálnom čase uvedené ďalej v bode 88. Digitálne artefakty používané na generovanie 3D obrázkov, 3D videí a 3D zvukového obsahu, ako je napríklad mračno bodov alebo 3D sieť, nemusia byť označené. |
|
62. |
Článok 50 ods. 2 aktu o AI sa vzťahuje aj digitálne dvojčatá, ktoré poskytujú virtuálnu repliku osôb, fyzických objektov alebo systémov a integrujú viaceré typy údajov, ak sú vygenerované alebo zmanipulované AI a majú formu zvuku, obrazu, videa alebo textu, pokiaľ sa na ne nevzťahujú výnimky a nemôžu sa považovať za „priemyselné aplikácie“ alebo „medzipodnikové aplikácie“ podľa bodu 87 alebo za krátkodobý obsah v reálnom čase podľa bodu 88. |
|
63. |
Článok 50 ods. 2 aktu o AI sa môže vzťahovať aj na agentov AI, ak takýto agent vykonáva činnosť, ktorej výstupom je obsah vygenerovaný alebo zmanipulovaný AI, ktorý je vnímateľný fyzickými osobami vo forme zvuku, obrazu, videa alebo textu. Tieto výstupy musia byť preto označené a musia byť zistiteľné tak, ako sa uvádza ďalej. Naopak, akákoľvek akcia agenta AI, ktorá nezahŕňa obsah vygenerovaný alebo zmanipulovaný AI (napr. medzistupne spracovania, ako je uvažovanie a myšlienkový reťazec), ani akcia vygenerovaná AI, ktorá nie je určená na priame vnímanie fyzickými osobami (napr. webová požiadavka alebo akcia prehliadača), sa nepovažuje za syntetický obsah v zmysle článku 50 ods. 2 aktu o AI a nemusí spĺňať povinnosti týkajúce sa označenia a odhaľovania. |
4.1.3. Obsah, na ktorý sa nevzťahuje článok 50 ods. 2 aktu o AI
|
64. |
Na obsah vygenerovaný systémom AI založený na jednoduchom spracovaní údajov, ktorý nie je špecificky vygenerovaný alebo zmanipulovaný AI, napríklad renderovaný snímok, sa článok 50 ods. 2 aktu o AI nevzťahuje. |
|
65. |
Okrem toho sa článok 50 ods. 2 aktu o AI nevzťahuje na výstup systému AI, ktorý iba reprodukuje existujúci obsah alebo umožňuje prezentáciu či usporiadanie už existujúceho obsahu. To môže platiť napríklad pre zoznamy skladieb alebo iné odporúčacie systémy, ktoré iba vyberajú alebo zoraďujú existujúci obsah na základe preferencií alebo aktivity používateľa bez toho, aby vytvárali niečo nové alebo akýmkoľvek spôsobom manipulovali samotný obsah. To isté platí aj pre systémy AI používané v interných analytických procesoch, ktoré extrahujú a štruktúrujú údaje, ale nesumarizujú ich. |
|
66. |
To isté platí aj pre vstupy a výstupy systému AI, ktoré predstavujú iba pozorovania a záznamy údajov z fyzického alebo virtuálneho prostredia, ktoré nie sú vygenerované ani zmanipulované systémom AI (napr. robotmi alebo inými snímačmi založenými na AI), alebo pre prenosy údajov systémami AI bez akejkoľvek úpravy. Toto sa týka rôznych vstupov a výstupov systémov AI, najmä v priemyselnom prostredí, ako sú napríklad výrobné údaje pre roboty, ktoré sledujú údaje, spotreba zaznamenaná inteligentnými meradlami založenými na AI, merania frekvencie a napätia v sieti; zaznamenávanie údajov GPS o polohe z vozidiel atď. |
|
67. |
Navyše, keďže cieľom povinnosti v oblasti transparentnosti uvedenej v článku 50 ods. 2 aktu o AI je umožniť ľuďom rozlíšiť obsah vygenerovaný alebo zmanipulovaný AI s cieľom riešiť riziká klamania, manipulácie a zabezpečiť integritu informačného ekosystému a dôveru v informačný ekosystém, akýkoľvek obsah, ktorý nesúvisí s týmto cieľom a ktorý nie je vnímateľný fyzickými osobami alebo nie je určený na to, aby ho fyzické osoby interpretovali, overovali alebo na základe neho konali, nie je predmetom tohto ustanovenia. |
|
68. |
Konkrétne by sa mal nasledujúci obsah považovať za obsah, na ktorý sa nevzťahuje článok 50 ods. 2 aktu o AI:
|
4.2. Povinnosť týkajúca sa označovania a odhaľovania podľa článku 50 ods. 2 aktu o AI
|
69. |
V článku 50 ods. 2 aktu o AI sa stanovuje povinnosť v oblasti transparentnosti pre poskytovateľov generatívnych systémov AI, na ktorých sa vzťahuje toto ustanovenie, pričom táto povinnosť zahŕňa dva odlišné, ale prirodzene prepojené prvky. Po prvé musia poskytovatelia zabezpečiť, aby boli výstupy systému AI označené v strojovo čitateľnom formáte. Po druhé musia poskytovatelia zabezpečiť, aby boli výstupy zistiteľné ako umelo vygenerovaný alebo zmanipulovaný obsah. Pri každom použitom riešení označovania by mali poskytovatelia zabezpečiť, aby boli k dispozícii príslušné prostriedky na odhalenie (ako sa uvádza ďalej), ktoré fyzickým osobám vystaveným tomuto obsahu a ďalším príslušným aktérom umožnia identifikovať umelo vygenerovaný obsah systému AI a odlíšiť ho od ostatného obsahu. Technickým riešením sa rozumie kombinácia techník označovania a prostriedkov na odhaľovanie, ktoré poskytovateľ zaviedol s cieľom splniť povinnosť v oblasti transparentnosti podľa článku 50 ods. 2 aktu o AI. |
|
70. |
Na to, aby sa účinne dosiahli ciele vyplývajúce z povinností v oblasti transparentnosti podľa článku 50 ods. 2 aktu o AI, musia byť splnené oba vyššie uvedené prvky. Splnenie iba jedného z týchto prvkov (napr. v prípade strojovo čitateľného označenia výstupov bez dostupnosti prostriedkov na ich odhalenie) nebude na splnenie tohto ustanovenia stačiť (27). |
4.2.1. Povinnosť označovania
|
71. |
Rozsah povinnosti označovania sa obmedzuje na zavedenie označení v strojovo čitateľnom formáte. Strojovo čitateľný formát znamená, že značky sú štruktúrované tak, aby ich softvérové aplikácie mohli ľahko identifikovať, rozpoznať a extrahovať bez zásahu človeka. Zreteľné označenia a štítky nie sú vo vhodných prípadoch vylúčené ako doplnkové opatrenie s cieľom uľahčiť nasadzujúcim subjektom splnenie ich povinnosti označovať deepfaky v súlade s článkom 50 ods. 4 aktu o AI. |
|
72. |
Pri plnení povinnosti označovania sa poskytovatelia môžu spoliehať na jednu techniku označovania alebo na kombináciu techník, pokiaľ je ich celkové technické riešenie strojovo čitateľné a spĺňa požiadavky na účinnosť, interoperabilitu, odolnosť a spoľahlivosť v zákonne požadovanom rozsahu, ako sa stanovuje v článku 50 ods. 2 druhej vete aktu o AI (pozri oddiel 4.2.3). |
|
73. |
V odôvodnení 133 aktu o AI sa uvádzajú príklady takýchto techník, medzi ktoré patria vodoznaky, identifikácia metaúdajov, kryptografické metódy na preukázanie pôvodu a pravosti obsahu, metódy logovania, odtlačky prstov alebo iné techniky, ako aj kombinácia týchto techník. Hoci sa v odôvodnení 133 aktu o AI uvádzajú metódy na preukázanie pôvodu a pravosti, od poskytovateľov sa nevyžaduje, aby zaznamenávali alebo uchovávali úplný reťazec pôvodu obsahujúci informácie o pôvode obsahu a jeho úpravách ani žiadne iné relevantné tvrdenia týkajúce sa histórie obsahu. Takéto metódy overovania pôvodu sa však môžu použiť aj na účely splnenia požiadaviek článku 50 ods. 2 aktu o AI a môžu prispieť k tomu, aby fyzické osoby dokázali rozlíšiť obsah vygenerovaný alebo zmanipulovaný AI od autentického obsahu. |
|
74. |
Poskytovatelia môžu riešenie označovania výstupov zaviesť v rôznych fázach hodnotového reťazca (napr. dodatočne po vygenerovaní obsahu na úrovni systému AI, na úrovni základného modelu AI alebo integrované do procesu odvodzovania systému AI). Môžu sa spoliehať na riešenie označovania zavedené poskytovateľom modelu v predchádzajúcich stupňoch dodávateľského reťazca alebo treťou stranou poskytujúcou toto riešenie (napr. vo forme otvorenej normy alebo špecializovanej služby) v rozsahu, v akom je dané riešenie označovania v súlade s článkom 50 ods. 2 aktu o AI. Takýmto spoliehaním sa nie je dotknutá povinnosť poskytovateľa systému AI preukázať súlad s článkom 50 ods. 2 aktu o AI. |
4.2.2. Povinnosť odhaľovania
|
75. |
Poskytovatelia systémov AI, na ktoré sa vzťahuje článok 50 ods. 2 aktu o AI, musia zabezpečiť, aby bolo možné zistiť, že výstupy ich systémov sú obsahom vygenerovaným alebo zmanipulovaným AI. To znamená, že poskytovateľ je povinný zabezpečiť, aby osoby, ktoré môžu byť vystavené obsahu, mali k dispozícii prostriedky na odhalenie tejto skutočnosti. Okrem toho by takéto riešenia na odhaľovanie mali v súlade s článkom 50 ods. 5 aktu o AI byť schopné poskytovať výsledky čitateľné ľudským okom, prostredníctvom ktorých sa bude uvádzať, či bol obsah vygenerovaný alebo zmanipulovaný AI. |
|
76. |
Nástroj na odhaľovanie je mechanizmus, pomocou ktorého sa zisťuje, či bol obsah vygenerovaný alebo zmanipulovaný AI, pričom sa ním spravidla identifikujú technické označenia alebo podpisy, ktorými sa overuje jeho pôvod. Na zabezpečenie plnej interoperability musia mať poskytovatelia k dispozícii verejne dostupné riešenia na odhaľovanie zodpovedajúce priemyselným normám, ktoré umožňujú akejkoľvek tretej strane realizovať proces odhaľovania, ktorý je v ideálnom prípade možné spustiť lokálne na digitálnom zariadení, a ktoré umožňujú bezproblémovú integráciu do samostatných, izolovaných sietí. Ak takéto normy nie sú k dispozícii, najmä v počiatočnej fáze vykonávania článku 50 ods. 2 aktu o AI v súvislosti s technológiami vodoznakov, môže poskytovateľ využiť na odhaľovanie svoje vlastné riešenie alebo riešenie tretej strany či spoločné riešenie, pokiaľ tieto riešenia zabezpečujú interoperabilitu s riešeniami na odhaľovanie používanými inými poskytovateľmi (pozri oddiel 4.2.3). Táto možnosť by mala byť časovo obmedzená, kým nevzniknú harmonizované normy a štandardizované, interoperabilné riešenie na odhaľovanie nezávislé od poskytovateľa, ktoré bude bezpečné, bude sa pri ňom chrániť súkromie a bude možné ho spúšťať lokálne. |
|
77. |
V článku 50 ods. 5 aktu o AI sa ďalej uvádza, že informácie uvedené v článku 50 ods. 2 aktu o AI by sa mali fyzickým osobám vystaveným obsahu poskytnúť jasným a rozlíšiteľným spôsobom najneskôr v čase prvej interakcie alebo prvého vystavenia. Tieto informácie sú predovšetkým výsledkom odhaľovania, prostredníctvom ktorého sa uvádza, či je obsah vygenerovaný alebo zmanipulovaný AI, a nie samotného obsahu vygenerovaného alebo zmanipulovaného AI. Pojem „v čase prvého vystavenia“ je potrebné chápať ako okamih, v ktorom sú fyzické osoby ochotné overiť pôvod konkrétneho obsahu a využiť riešenie na odhaľovanie na získanie výsledkov odhaľovania. |
|
78. |
Ak je poskytovateľ systému AI pri poskytovaní riešenia na odhaľovanie alebo prístupe k nemu závislý od iného aktéra, musí zabezpečiť, aby dané riešenia na odhaľovanie bolo v súlade s článkom 50 ods. 2 a 5 aktu o AI a aby uvedení aktéri zobrazovali výsledky odhaľovania v súlade s článkom 50 ods. 5 aktu o AI (pozri oddiel 7). |
4.2.3. Dodržiavanie požiadaviek na technické riešenia: účinné, interoperabilné, odolné a spoľahlivé
|
79. |
V druhej vete článku 50 ods. 2 aktu o AI sa stanovuje, že technické riešenia na označovanie a odhaľovanie musia byť účinné, interoperabilné, odolné a spoľahlivé. Tieto požiadavky je potrebné chápať takto:
|
|
80. |
Poskytovatelia musia zabezpečiť, aby kombinácia technických riešení označovania a odhaľovania komplexne spĺňala všetky uvedené požiadavky v zákonne stanovenom rozsahu pri zohľadnení obmedzení a komplementárnosti jednotlivých nasadených riešení. Technické riešenia musia spĺňať všetky požiadavky, pokiaľ je to technicky možné, s prihliadnutím na osobitosti a obmedzenia rozličných druhov obsahu, náklady na implementáciu a všeobecne uznávaný aktuálny stav vývoja, ktoré sa môžu odzrkadľovať v príslušných technických normách. |
|
81. |
„Technicky možné“ riešenia v zmysle článku 50 ods. 2 aktu o AI sú riešenia, ktoré je možné implementovať pre modality, na ktoré sa vzťahuje toto ustanovenie, s využitím v súčasnosti dostupných technológií, metód a technických postupov v rámci konkrétnej technickej architektúry a príslušného prevádzkového prostredia. Poskytovateľ nie je povinný používať technické riešenie, ktoré ešte nebolo vyvinuté alebo nie je dostupné na trhu, alebo ktorého implementácia nie je z technického hľadiska možná. Technická realizovateľnosť je objektívny pojem, ktorý nezávisí od konkrétnych zdrojov a spôsobilostí jednotlivých poskytovateľov. |
|
82. |
V článku 50 ods. 2 aktu o AI sa vyžaduje, aby poskytovatelia implementovali technicky možné riešenia, ktoré zodpovedajú všeobecne uznávanému aktuálnemu stavu vývoja, s cieľom splniť štyri požiadavky na kvalitu, a to účinnosť, odolnosť, spoľahlivosť a interoperabilita. |
|
83. |
Pod pojmom „aktuálny stav vývoja“ sa rozumie pokročilá úroveň technických spôsobilostí v danom čase, pokiaľ ide o výrobky, procesy a služby, založená na relevantných konsolidovaných poznatkoch v oblasti vedy, techniky a skúseností, ktorá je v danej technickej oblasti uznávaná ako osvedčená prax (28). Aktuálny stav vývoja nemusí nutne znamenať najnovší vedecký výskum, ktorý sa ešte nachádza v experimentálnej fáze alebo nemá dostatočnú technologickú vyspelosť. Poskytovatelia musia svoje riešenia v oblasti označovania a odhaľovania včas a primeraným spôsobom priebežne prispôsobovať v súlade s vývojom technológií a aktuálnym stavom vývoja. |
|
84. |
V súlade s článkom 50 ods. 7 aktu o AI sa poskytovatelia pri preukazovaní splnenia povinností týkajúcich sa označovania a odhaľovania uvedených v článku 50 ods. 2 a 5 aktu o AI môžu opierať o kódex postupov, ktorý bol na základe uvedeného ustanovenia posúdený ako primeraný, pričom tento kódex zodpovedá aktuálnemu stavu vývoja. Ďalšie informácie týkajúce sa účinkov dodržiavania takéhoto kódexu a dohľadu nad ostatnými poskytovateľmi, ktorí sa kódexom neriadia, nájdete ďalej v oddiele 8.1. |
|
85. |
Je možné zohľadniť aj náklady na implementáciu určitých technických riešení označovania a odhaľovania. V určitých prípadoch, ako sa opisuje v nasledujúcich bodoch, môžu byť náklady neprimerané vzhľadom na marginálne prínosy, ktoré majú pomerne obmedzenú hodnotu, pokiaľ ide o to, aby sa ľuďom umožnilo rozlíšiť obsah vygenerovaný alebo zmanipulovaný AI, a o zabezpečenie integrity informačného ekosystému a dôvery v informačný ekosystém. |
|
86. |
Môžu teda existovať úzko vymedzené prípady, v ktorých je technické riešenie založené na menej odolných označeniach metadát dostatočné na účely splnenia požiadaviek článku 50 ods. 2 aktu o AI, a to s ohľadom na špecifiká výstupov systému AI, ak tieto výstupy svojou podstatou predstavujú nižšie riziko podvodu, manipulácie alebo negatívnych účinkov na informačný ekosystém. Ide konkrétne o prípady, keď je generatívny systém AI zabudovaný do fyzických výrobkov a generuje výstupy v technicky kontrolovanom a uzavretom prostredí, ktoré má prevažne inštruktívny charakter (napr. systém AI zabudovaný do navigačných systémov vo vozidlách), a to v rozsahu, v akom sú do výrobku zabudované účinné technické opatrenia na zabránenie tomu, aby výstup opustil prostredie výrobku, napríklad prostredníctvom zachytenia alebo exportu a externého šírenia. |
|
87. |
Môžu existovať aj ojedinelé prípady „priemyselných aplikácií AI“ alebo „medzipodnikových aplikácií“ (s výnimkou systémov AI určených pre verejnosť a spotrebiteľov), v ktorých zásada proporcionality a obmedzený prínos pre ciele v oblasti transparentnosti znamenajú, že nie je potrebné označovať ani odhaľovať výstupy vygenerované alebo zmanipulované AI. To platí len vtedy, ak sú kumulatívne splnené tieto požiadavky:
|
|
88. |
Generovanie obsahu v reálnom čase, ktorý je krátkodobý a okamžite sa spotrebuje bez toho, aby sa zaznamenal, uložil alebo šíril ďalej (napr. vo videohrách, aplikáciách virtuálnej reality), môže byť takisto vyňaté z pôsobnosti, ak označenie nie je technicky možné a osoby vystavené tomuto obsahu sú informované o tom, že ide o obsah vygenerovaný alebo zmanipulovaný AI (napr. zverejnenie počas zážitku, oznámenia na úrovni relácie). |
4.3. Výnimky z povinností podľa článku 50 ods. 2 aktu o AI
|
89. |
V článku 50 ods. 2 aktu o AI sa stanovujú tri výslovné výnimky z povinností v oblasti transparentnosti stanovených v tomto ustanovení |
|
90. |
Prvá výnimka sa týka systémov AI v rozsahu, v ktorom vykonávajú pomocnú funkciu pri štandardných redakčných úpravách. Štandardnými redakčnými úpravami sa rozumie proces prípravy existujúceho obsahu na uverejnenie alebo distribúciu (napr. menšie úpravy zamerané na zlepšenie čitateľnosti, gramatiky, kvality a formátu), pričom táto činnosť nezahŕňa generovanie nového obsahu. Cieľom štandardných redakčných úprav je zabezpečiť, aby obsah okrem iného neobsahoval zjavné technické alebo gramatické jazykové chyby, aby zodpovedal príslušným požiadavkám na rozloženie, prezentáciu, formátovanie alebo prístupnosť, resp. aby zodpovedal odvetvovým postupom. Redakčné úpravy presahujú rámec štandardných redakčných úprav, ak dôjde k podstatnej zmene obsahu (podstatným úpravám, štrukturálnym zmenám atď.), ktorá ovplyvňuje jeho význam, štýl alebo zámer. |
|
91. |
Druhá výnimka sa uplatňuje v prípade, že systém AI podstatným spôsobom nemení vstupné údaje poskytnuté nasadzujúcim subjektom ani ich sémantiku. Zmenu je potrebné považovať za podstatnú, ak systém AI počas procesu generovania výstupu významným spôsobom zmanipuloval vstupné údaje alebo ich sémantiku. Musí to byť založené na posúdení relevantných faktorov, ako sú formát, druh mediálneho obsahu, štýl a zmeny v obsahu, ktoré ovplyvňujú jeho význam, štýl alebo zámer. Či je to tak, sa musí posúdiť v jednotlivých prípadoch. |
|
92. |
Ak je možné systém AI použiť na generovanie alebo manipuláciu obsahu, ako aj na nepodstatné menšie úpravy vstupných údajov, povinnosť v oblasti transparentnosti podľa článku 50 ods. 2 aktu o AI sa nebude vzťahovať na obsah upravený menej významným nepodstatným spôsobom.
|
|
93. |
Tretia výnimka sa vzťahuje na generatívny systém AI, ktorým je na základe zákona povolené generovať alebo manipulovať syntetický obsah na účely odhaľovania, prevencie, vyšetrovania alebo stíhania trestných činov. Vysvetlenia uvedené v bodoch 46 až 48, ktoré sa týkajú tejto výnimky, platia aj v tomto prípade. |
4.4. Vzájomný vzťah s inými právnymi aktmi Únie
|
94. |
Povinnosti týkajúce sa označovania a odhaľovania podľa článku 50 ods. 2 aktu o AI sú zamerané na spôsob vytvorenia obsahu a na jeho umelý pôvod, nie na to, kto tento obsah vytvoril. Všetky riešenia týkajúce sa označovania a odhaľovania, ktoré používajú poskytovatelia systémov AI, musia preto byť v súlade s príslušnými právnymi predpismi Únie v oblasti ochrany údajov vrátane zásad a povinností týkajúcich sa ochrany údajov, ako je povinnosť zabezpečiť špecificky navrhnutú a štandardnú ochranu údajov, minimalizácia údajov a zásady bezpečnosti a dôvernosti. Napríklad na účely označovania a odhaľovania by sa nemali spracúvať informácie týkajúce sa tvorcu obsahu a akékoľvek ďalšie spracúvané osobné údaje by sa mali vymazať ihneď po splnení účelu odhalenia, pričom zároveň je potrebné zabezpečiť bezpečnosť a dôvernosť atď. |
|
95. |
V odôvodnení 136 aktu o AI sa ďalej zdôrazňuje osobitný význam povinností v oblasti transparentnosti podľa článku 50 ods. 1, 2 a 4 aktu o AI s cieľom uľahčiť účinné vykonávanie aktu o digitálnych službách. Týka sa to najmä povinností poskytovateľov veľmi veľkých online platforiem alebo veľmi veľkých internetových vyhľadávačov dôkladne identifikovať, analyzovať, posudzovať a zmierňovať systémové riziká, ktoré môžu vyplynúť zo šírenia obsahu, ktorý bol umelo vygenerovaný alebo zmanipulovaný, najmä riziko skutočných alebo predvídateľných negatívnych účinkov na demokratické procesy, občiansku diskusiu a volebné procesy, a to aj prostredníctvom dezinformácií (články 34 a 35 aktu o digitálnych službách). Strojovo čitateľné označenia môžu týmto poskytovateľom umožniť odhaliť obsah, ktorý je vygenerovaný alebo zmanipulovaný AI, a zabezpečiť jeho primerané označenie a zverejnenie príslušných informácií, čím sa zníži riziko šírenia dezinformácií generovaných AI v rámci ich služieb. |
|
96. |
Povinnosťami označovať a značiť obsah vygenerovaný alebo zmanipulovaný systémami AI podľa článku 50 ods. 2 a 4 aktu o AI nie sú dotknuté povinnosti poskytovateľov hostingových služieb podľa článku 16 ods. 6 aktu o digitálnych službách spracovávať oznámenia o nezákonnom obsahu prijaté v súlade s článkom 16 ods. 1 aktu o digitálnych službách (29). Označovanie alebo značenie obsahu vygenerovaného alebo zmanipulovaného AI by predovšetkým nemalo mať vplyv na posúdenie zákonnosti konkrétneho obsahu ani na rozhodnutie o tejto zákonnosti na základe iných regulačných rámcov. Toto posúdenie by sa malo vykonať výlučne s odkazom na pravidlá upravujúce zákonnosť obsahu v súlade s týmito rámcami (30). Ak je napríklad označený obrazový deepfake nahlásený ako materiál potenciálne obsahujúci sexuálne zneužívanie detí alebo ako materiál, ktorým dochádza k porušovaniu právnych predpisov týkajúcich sa ochranných známok alebo autorských práv, samotné umiestnenie označenia nemá vplyv na potenciálnu nezákonnosť obsahu na základe týchto regulačných rámcov. Toto posúdenie by sa malo vykonať výlučne na základe príslušných uplatniteľných právnych predpisov (napr. trestného práva, predpisov v oblasti ochranných známok alebo autorských práv). |
|
97. |
Naopak, strojovo čitateľné označenie zabudované do obsahu podľa článku 50 ods. 2 aktu o AI môže pomôcť poskytovateľom veľmi veľkých online platforiem a veľmi veľkých internetových vyhľadávačov splniť si povinnosti podľa článkov 34 a 35 aktu o digitálnych službách identifikovať, analyzovať a posúdiť systémové riziká, ktoré môžu vyplynúť zo šírenia obsahu, ktorý bol umelo vygenerovaný alebo zmanipulovaný, najmä riziko skutočných alebo predvídateľných negatívnych účinkov na demokratické procesy, občiansku diskusiu a volebné procesy, a to aj prostredníctvom dezinformácií (31), a zaviesť primerané, proporcionálne a účinné opatrenia na zmiernenie týchto rizík prispôsobené konkrétnym identifikovaným systémovým rizikám. Poskytovatelia veľmi veľkých online platforiem a veľmi veľkých internetových vyhľadávačov sa môžu takisto považovať za poskytovateľov systémov AI, ak spĺňajú príslušné podmienky stanovené v akte o AI v prípadoch, keď do svojich služieb integrujú systémy AI (pozri aj oddiel 6.1.5). |
|
98. |
Poskytovatelia online platforiem, online vyhľadávačov a ďalší príslušní aktéri, ktorí distribuujú obsah v rámci hodnotového reťazca, sa osobitne nabádajú k tomu, aby zachovávali a umožňovali identifikáciu označení, ktoré poskytovatelia implementovali podľa článku 50 ods. 2 aktu o AI, aby fyzické osoby vystavené tomuto obsahu mohli byť informované o jeho pôvode. |
5. ČLÁNOK 50 ODS. 3 AKTU O AI: SYSTÉMY NA ROZPOZNÁVANIE EMÓCIÍ A SYSTÉMY BIOMETRICKEJ KATEGORIZÁCIE
|
99. |
Článkom 50 ods. 3 aktu o AI sa nasadzujúcim subjektom systémov na rozpoznávanie emócií a systémov biometrickej kategorizácie ukladá povinnosť informovať fyzické osoby, ktoré sú týmto systémom vystavené, o prevádzke systému. |
|
100. |
V odôvodnení 132 aktu o AI sa vysvetľuje, že účelom tejto povinnosti je zabezpečiť, aby si fyzické osoby (vrátane osôb so zdravotným postihnutím) boli vedomé toho, že sú vystavené systémom na rozpoznávanie emócií a systémom biometrickej kategorizácie, ktoré môžu zasahovať do ich súkromia. Táto povinnosť sa teda uplatňuje bez ohľadu na to, či sú osoby vystavené pôsobeniu takýchto systémov v reálnom čase alebo či sa tieto systémy prevádzkujú ex post. |
5.1. Hlavné zložky, pojmy a súvisiace povinnosti v oblasti transparentnosti podľa článku 50 ods. 3 aktu o AI
5.1.1. Pojem „systém na rozpoznávanie emócií“
|
101. |
V článku 3 bode 39 aktu o AI sa „systém na rozpoznávanie emócií“ vymedzuje ako „systém AI na účely identifikácie alebo odvodenia emócií alebo úmyslov fyzických osôb na základe ich biometrických údajov“. Podrobné vysvetlenie tohto pojmu uvedené v usmerneniach Komisie o klasifikácii vysokorizikových systémov AI vrátane praktických príkladov, ktoré sú v nich uvedené, je rovnako relevantné v kontexte článku 50 ods. 3 aktu o AI. |
|
102. |
Keďže všetky systémy na rozpoznávanie emócií sú zároveň klasifikované ako vysokorizikové, pokiaľ nie je ich používanie v priestoroch pracoviska a vzdelávacích inštitúcií zakázané podľa článku 5 ods. 1 písm. f) aktu o AI, mala by sa povinnosť v oblasti transparentnosti uvedená v článku 50 ods. 3 aktu o AI uplatňovať v spojení s ostatnými zárukami a požiadavkami uplatniteľnými na vysokorizikové systémy AI. |
5.1.2. Pojem „systém biometrickej kategorizácie“
|
103. |
V článku 3 bode 40 aktu o AI sa systém biometrickej kategorizácie vymedzuje ako „systém AI na účely zaraďovania fyzických osôb do špecifických kategórií na základe ich biometrických údajov, pokiaľ to nie je pomocný úkon pre inú komerčnú službu a nevyhnutne potrebné z objektívnych technických dôvodov“. Podrobné vysvetlenie tohto pojmu uvedené v usmerneniach Komisie o klasifikácii vysokorizikových systémov AI vrátane jeho konkrétnych prvkov, ako aj praktických príkladov, ktoré sú v nich uvedené, je rovnako relevantné v kontexte článku 50 ods. 3 aktu o AI. |
|
104. |
Je dôležité poznamenať, že pokiaľ sa to nezakazuje článkom 5 ods. 1 písm. g) aktu o AI, článok 50 ods. 3 aktu o AI sa vzťahuje na všetky systémy biometrickej kategorizácie (napr. klasifikácia podľa veku alebo pohlavia na základe biometrických údajov) bez ohľadu na to, či patria do rozsahu vysokorizikových systémov AI podľa aktu o AI. |
5.1.3. Informačná povinnosť podľa článku 50 ods. 3 aktu o AI
|
105. |
Rozsah informácií, ktoré je potrebné poskytnúť: Nasadzujúce subjekty sú povinné informovať dotknuté fyzické osoby o tom, že sú vystavené systému na rozpoznávanie emócií alebo systému biometrickej kategorizácie, ktorý sa prevádzkuje. V akte o AI sa nevyžaduje, aby sa uvádzali informácie o dôvodoch prevádzkovania systému ani o tom, či systém spracúva informácie aj na iné účely ako na rozpoznávanie emócií alebo biometrickú kategorizáciu, ktoré sa musia zverejniť podľa právnych predpisov Únie v oblasti ochrany údajov (pozri oddiel 5.3). |
|
106. |
Adresáti týchto informácií: V článku 50 ods. 3 aktu o AI sa vyžaduje, aby nasadzujúce subjekty informovali všetky fyzické osoby, ktoré sú vystavené prevádzke systému AI, a to vrátane detí. |
|
107. |
Spôsob poskytovania informácií: V akte o AI sa nepredpisuje konkrétny spôsob poskytovania informácií okrem toho, že v článku 50 ods. 5 aktu o AI sa vyžaduje, aby sa informácie poskytovali jasným a rozlíšiteľným spôsobom a v súlade s uplatniteľnými požiadavkami na prístupnosť (pri zohľadnení potrieb fyzických osôb so zdravotným postihnutím). Spôsob informovania fyzických osôb vystavených systému môže závisieť od miesta nasadenia (napr. virtuálna herná platforma, kamenný obchod, železničná stanica), potenciálnych adresátov (napr. deti, staršie osoby, osoby so zdravotným postihnutím, zákazníci), dĺžky a typu vystavenia (napr. dlhodobé, jednorazové, nepretržité, prerušované) a prípadnej existencie vzťahu medzi nasadzujúcim subjektom a vystavenými osobami (napr. ak existuje komunikačný kanál s daným jednotlivcom). V závislosti od konkrétneho prípadu použitia sa informácie môžu poskytovať písomne, prostredníctvom štandardizovaných ikon (aj pri predkladaní v elektronickej podobe), ústne alebo kombináciou týchto spôsobov.
|
|
108. |
Lehota na poskytnutie informácií: Tieto informácie sa musia poskytnúť najneskôr v čase prvej interakcie so systémom AI alebo prvého vystavenia tomuto systému v súlade s článkom 50 ods. 5 aktu o AI. Vo vhodných prípadoch nie je vylúčené poskytnutie požadovaných informácií vopred. |
5.2. Výnimka na účely presadzovania práva
|
109. |
Táto informačná povinnosť sa nevzťahuje na systémy na rozpoznávanie emócií a systémy biometrickej kategorizácie, ktoré zákon povoľuje na odhaľovanie, prevenciu, vyšetrovanie alebo stíhanie trestných činov, s výhradou primeraných záruk ochrany práv a slobôd tretích strán a v súlade s právom Únie. Vysvetlenia týkajúce sa tejto výnimky uvedené v bodoch 46 až 48 platia aj v tomto prípade, a to s jedným rozdielom. Zatiaľ čo v rámci ostatných výnimiek uvedených v článku 50 aktu o AI sa vyžaduje výslovný zákon, ktorým sa povoľuje netransparentné používanie systémov AI, v článku 50 ods. 3 aktu o AI sa takéto použitie umožňuje, ak ho povoľujú právne predpisy upravujúce právomoci orgánov presadzovania práva pri používaní systémov na rozpoznávanie emócií a systémov biometrickej kategorizácie na odhaľovanie, prevenciu alebo vyšetrovanie trestných činov bez informovania dotknutých osôb, a to s výhradou primeraných záruk. |
5.3. Vzájomný vzťah s inými právnymi aktmi Únie
|
110. |
Informačná povinnosť podľa článku 50 ods. 3 aktu o AI sama osebe nezaručuje zákonnosť používania systému na rozpoznávanie emócií a systému biometrickej kategorizácie. Neoprávňuje ani na rušivé alebo diskriminačné spôsoby použitia, ktoré by mohli byť nezákonné a zakázané podľa článku 5 aktu o AI alebo iných právnych predpisov Únie. Nasadzujúce subjekty musia dodržiavať informačnú povinnosť uvedenú v článku 50 ods. 3 aktu o AI spoločne s akýmikoľvek príslušnými informačnými požiadavkami vyplývajúcimi z právnych predpisov Únie v oblasti ochrany údajov. V určitých prípadoch môžu nasadzujúce subjekty zvážiť doplnenie informácií poskytovaných dotknutým osobám v súlade s právnymi predpismi Únie v oblasti ochrany údajov o oznámenia podľa článku 50 ods. 3 aktu o AI. |
6. ČLÁNOK 50 ODS. 4: OZNAČOVANIE DEEPFAKOV A URČITÝCH TEXTOVÝCH PUBLIKÁCIÍ
|
111. |
V článku 50 ods. 4 aktu o AI sa stanovujú dve samostatné povinnosti pre subjekty nasadzujúce generatívne systémy AI, ktorými sa vyžaduje jasné a rozlíšiteľné zverejnenie i) deepfakov a ii) textov vygenerovaných alebo zmanipulovaných AI, ktoré sú zverejnené s cieľom informovať verejnosť o záležitostiach verejného záujmu, s výnimkou vymedzených prípadov. Tieto povinnosti týkajúce sa označovania sa uplatňujú dodatočne k povinnostiam týkajúcim sa strojovo čitateľného označovania a odhaľovania podľa článku 50 ods. 2 aktu o AI, ktoré sa vzťahujú na poskytovateľov systémov AI generujúcich alebo manipulujúcich syntetické obrázky, video, zvuk alebo textový obsah, a bez toho, aby boli tieto povinnosti dotknuté. |
6.1. Hlavné zložky, pojmy a súvisiace povinnosti v oblasti transparentnosti týkajúce sa deepfakov podľa článku 50 ods. 4 aktu o AI
|
112. |
Článok 50 ods. 4 prvý pododsek aktu o AI sa uplatňuje, ak je splnených niekoľko podmienok:
|
6.1.1. Pojem „deepfake“
|
113. |
V článku 3 bode 60 aktu o AI sa „deepfake“ vymedzuje ako „obrazový obsah, audioobsah alebo videoobsah vytvorený alebo zmanipulovaný pomocou AI, ktorý sa podobá na existujúce osoby, objekty, miesta, subjekty alebo udalosti a osobe by sa falošne javil ako autentický alebo pravdivý“. Rozdiel medzi manipuláciou a generovaním sa vysvetlil v oddiele 4.1. Na objasnenie pojmu „deepfake“ sa ďalej posudzujú štyri kumulatívne kritériá uvedené v tomto vymedzení: i) podoba ii) existujúcich iii) osôb, objektov, miest, subjektov alebo udalostí, iv) ktoré by sa osobe falošne javili ako autentické alebo pravdivé.
|
|
114. |
To, či sa obsah „osobe falošne javí ako autentický alebo pravdivý“, by sa malo posudzovať komplexne, pričom je potrebné zohľadniť mieru podobnosti, potenciálny základný odkaz daného obsahu, zamýšľané a predvídateľné kontexty nasadenia, prostredie, v ktorom sa obsah prezentuje, ako aj zamýšľané a primerane predvídateľné zloženie publika a jeho očakávania. Toto posúdenie je však objektívne a na to, aby sa obsah považoval za deepfake, nie je potrebný úmysel nasadzujúceho subjektu, ktorý ho zverejnil, klamať alebo zavádzať fyzické osoby, ktoré sú tomuto obsahu vystavené. Pokiaľ ide o kontext nasadenia a očakávania publika, znamená to, že ak sa obsah používa v špecifických kontextoch nasadenia, v ktorých zamýšľané a primerane predvídateľné publikum neočakáva, že obsah bude autentický alebo pravdivý, obsah vygenerovaný alebo zmanipulovaný AI sa nemusí falošne javiť ako autentický alebo pravdivý, aj keď v skutočnosti je neautentický alebo nepravdivý. V takýchto prípadoch nebude splnené štvrté kritérium vymedzenia deepfaku. Napríklad generovanie alebo manipulácia scén na pozadí a špeciálnych efektov či technické predbežné a následné spracovanie pomocou AI v rámci bežných procesov filmovej produkcie pravdepodobne nespôsobia, že by sa obsah divákom falošne javil ako autentický alebo pravdivý. Naopak, použitie AI na generovanie alebo manipuláciu základných prvkov, ktoré ovplyvňujú vnímanie publika, to pravdepodobne spôsobí (napríklad herci vytvorení výlučne pomocou AI, digitálne repliky skutočných alebo mŕtvych hercov, omladzovanie, simulované vystúpenia vrátane ich častí alebo neautentické či nepravdivé zobrazenie osôb, objektov, miest alebo udalostí v dokumentárnych filmoch). V prípade obrazového a videoobsahu sa uznáva, že vysoká miera fotorealizmu zvyšuje pravdepodobnosť, že takýto obsah by sa mal považovať za deepfake (keďže sa pravdepodobne podobá na existujúce predlohy), samotný fotorealizmus však nie je pre posúdenie rozhodujúci. V každom prípade je potrebné posúdiť, či je takýto obsah schopný oklamať alebo zavádzať osobu, pokiaľ ide o jeho autentickosť alebo pravdivosť, pri zohľadnení okrem iného aj zamýšľaného a predvídateľného kontextu nasadenia. |
|
115. |
Na rozdiel od článku 50 ods. 1 aktu o AI by posúdenie toho, či sa obsah javí osobe ako autentický alebo pravdivý, nemalo byť založené na hypotetickej „priemernej“ osobe, u ktorej sa predpokladá, že bude vystavená danému obsahu (pozri oddiel 3.2.1), ale malo by sa v rámci neho riadne zohľadňovať možné rôznorodé zloženie primerane predvídateľného publika, ktoré môže byť vystavené obsahu, ktorý predstavuje deepfake. Dôkladné zohľadnenie zloženia publika je zvlášť dôležité, ak možno odôvodnene predpokladať, že obsah, ktorý predstavuje deepfake, môžu v určitom momente vnímať deti, starší ľudia alebo iné skupiny osôb s nižšou digitálnou gramotnosťou, gramotnosťou v oblasti AI alebo nižšou úrovňou všeobecných vedomostí, keďže takýchto ľudí možno jednoduchšie oklamať alebo zavádzať, pokiaľ ide o autentickosť alebo pravdivosť obsahu. V takýchto prípadoch môže už to, že sa obsah tejto časti predvídateľného publika falošne javí ako autentický alebo pravdivý, stačiť na to, aby sa obsah mohol považovať za deepfake. Od nasadzujúcich subjektov sa však neočakáva, že budú zohľadňovať potenciálne ďalšie šírenie obsahu, ktorý predstavuje deepfake, tretími stranami nad rámec publika, ktoré nasadzujúci subjekt môže odôvodnene predvídať, a to pri zohľadnení zamýšľaných distribučných kanálov (napr. ak sa obsah, ktorý predstavuje deepfake, zobrazuje výlučne v časti webového sídla určenej len pre predplatiteľov alebo ako súčasť firemného spravodajstva, neznamená to, že nasadzujúci subjekt by mal automaticky predpokladať širokú verejnú dostupnosť). |
|
116. |
V podobnom duchu môže byť manipulácia nepodstatných vecných alebo technických aspektov už existujúceho obsahu pomocou AI pre posúdenie autentickosti alebo pravdivosti tohto obsahu osobou relevantná len okrajovo, pričom výsledný obsah sa tým nestáva deepfakom. Môže to zahŕňať napríklad úpravu detailov pozadia (napr. odstránenie okoloidúcich), úpravy osvetlenia, prispôsobenie zvukových parametrov, korekciu farieb, zníženie alebo odstránenie šumu, zlepšenie prístupnosti alebo kompresiu súborov, estetické úpravy a vylepšenia. To, či daná manipulácia bude patriť do tejto kategórie, závisí od kontextu a od toho, aký vplyv má v konkrétnom prípade na vnímanie autentickosti alebo pravdivosti obsahu dotknutými osobami. Napríklad korekcia farieb pomocou AI, rozširovanie pozadia existujúceho obsahu, úpravy alebo nahradenie pozadia z čisto estetických dôvodov, kompozície a usporiadanie existujúcich výrobkov alebo zmena mierky obrázkov použitých v reklamách na výrobky alebo na obaloch bude mať pravdepodobne len minimálny vplyv na vnímanie autentickosti a pravdivosti reklamy a výrobku osobou. Naopak, rozsiahla úprava detailov v pozadí novinárskych snímok pomocou AI, ktorá presahuje rámec bežných technických a redakčných postupov, môže negatívne ovplyvniť vnímanie autentickosti a pravdivosti obsahu osobou.
|
6.1.2. Povinnosť zverejňovania podľa článku 50 ods. 4 prvého pododseku aktu o AI
|
117. |
Článkom 50 ods. 4 prvým pododsekom aktu o AI sa subjektom nasadzujúcim systémy AI, ktoré generujú alebo manipulujú obrazový, zvukový alebo videoobsah, ktorý predstavuje deepfake, ukladá povinnosť zverejniť, „že obsah, ktorý predstavuje deepfake, bol umelo vytvorený alebo manipulovaný“. V odôvodnení 134 aktu o AI sa objasňuje, že nasadzujúce subjekty, ktoré používajú systémy AI na generovanie alebo manipuláciu obsahu, ktorý predstavuje deepfake, by mali jasne a zreteľne zverejniť, že takýto obsah bol umelo vytvorený alebo zmanipulovaný, a to zodpovedajúcim označením výstupu AI a zverejnením jeho umelého pôvodu. Spôsoby označovania alebo zverejňovania uplatňované v súlade s článkom 50 ods. 4 prvým pododsekom aktu o AI by mali byť pre fyzické osoby zrozumiteľné a vnímateľné (napr. prostredníctvom viditeľných alebo počuteľných označení), bez toho, aby sa museli spoliehať na akékoľvek špecifické technické nástroje alebo vykonávať osobitné úkony. Preto sa nasadzujúce subjekty nemôžu spoliehať na strojovo čitateľné označenia, ktoré poskytovateľ zabudoval do obsahu podľa článku 50 ods. 2 aktu o AI, keďže tieto označenia nie sú pre fyzické osoby vystavené obsahu, ktorý predstavuje deepfake, na prvý pohľad jasné a rozlíšiteľné. |
|
118. |
V súlade s článkom 50 ods. 7 aktu o AI sa nasadzujúce subjekty môžu pri preukazovaní splnenia tejto povinnosti zverejňovania riadiť kódexom postupov, ktorý bol posúdený ako primeraný podľa článku 50 ods. 7 aktu o AI. Ďalšie informácie týkajúce sa účinkov dodržiavania takéhoto kódexu a dohľadu nad ostatnými nasadzujúcimi subjektmi, ktoré sa kódexom neriadia, nájdete ďalej v oddiele 8.1. |
6.1.3. Transparentnosť umeleckého, tvorivého, satirického, fiktívneho alebo analogického obsahu, ktorý predstavuje deepfake
|
119. |
Článkom 50 ods. 4 prvým pododsekom aktu o AI sa stanovuje zmiernená povinnosť v oblasti transparentnosti v prípade deepfakov, ktoré tvoria súčasť zjavne umeleckých, tvorivých, satirických, fiktívnych alebo analogických diel či programov. V prípade takéhoto obsahu sa povinnosť v oblasti transparentnosti obmedzuje na zverejnenie informácie o tom, že ide o deepfake, a to primeraným spôsobom, ktorý nebráni zobrazeniu diela ani zážitku z neho. |
|
120. |
Príslušné kategórie obsahu: Aby bolo možné uplatniť zmiernené pravidlá zverejňovania na účely transparentnosti, mal by deepfake (obrázok, zvuk alebo video) patriť aspoň do jednej z týchto kategórií obsahu: umelecké, tvorivé, satirické, fiktívne alebo analogické diela alebo programy. Určenie toho, či deepfake patrí do jednej alebo viacerých z týchto kategórií, si vyžaduje posúdenie jednotlivých prípadov nasadzujúcim subjektom. Na účely článku 50 ods. 4 aktu o AI sa tieto kategórie chápu takto:
|
|
121. |
Uvedené kategórie obsahu sa môžu vzťahovať aj na programy, ktoré by sa mali chápať ako samostatné položky v rámci programovej skladby alebo katalógu, ktorý zostavil poskytovateľ mediálnej služby a ktorého forma a obsah sú porovnateľné s formou a obsahom televízneho vysielania (33). Odkaz na „diela“ v kontexte článku 50 ods. 4 aktu o AI nemá vplyv na to, či daný obsah spĺňa podmienky na ochranu podľa práva Únie v oblasti autorských práv a súvisiacich práv. |
|
122. |
Zjavne: Skutočnosť, že deepfake patrí do jednej (alebo viacerých) z uvedených kategórií obsahu, by mala byť pre fyzické osoby, ktoré sú mu vystavené, zrejmá. Z toho vyplýva, že tieto kategórie by sa mali vykladať striktne, čo je odôvodnené skutočnosťou, že vzhľadom na potenciálny vplyv na slobodu prejavu a slobodu umenia a vedy sa uplatňuje menej prísny režim zverejňovania, pričom riziká mylných informácií, manipulácie a klamania je naďalej potrebné primerane riešiť. Preto je obsah, ktorého povaha je pre publikum potenciálne nejasná alebo nejednoznačná, vylúčený z rozsahu pôsobnosti tohto menej prísneho režimu transparentnosti. Relevantné faktory pri posudzovaní zjavnej povahy umeleckého, tvorivého, satirického alebo fiktívneho obsahu: i) či sa v rámci obsahu zobrazujú formáty alebo štýly, ktoré sú charakteristické pre dané kategórie obsahu (napr. irónia alebo preháňanie v prípade satirických diel, určité umelecké štýly, vyjadrenie charakteristických tém, techník alebo estetiky atď.); ii) kontext, v ktorom sa obsah prezentuje (napr. či sa platforma, médium alebo miesto, kde sa obsah prezentuje, sprístupňuje alebo distribuuje, spájajú s umeleckým, tvorivým, satirickým alebo beletristickým využitím); a iii) očakávania publika (napr. film, herné prostredie alebo scéna vo virtuálnej realite). Okrem toho sa na základe podmienky, podľa ktorej by mal obsah „zjavne“ patriť do jednej z uvedených kategórií obsahu, vylučuje z rozsahu týchto kategórií obsah, ktorý má výlučne informatívny alebo komerčný charakter a je ako taký rozpoznateľný (napr. spravodajstvo). V tejto súvislosti by sa niektoré druhy obsahu (napr. reklamy alebo dokumentárne filmy) obsahujúce deepfaky mohli v určitých konkrétnych situáciách považovať za zjavne tvorivé alebo fiktívne diela, v iných situáciách však nie, keďže posúdenie závisí od konkrétneho prípadu. Ak sú v deepfaku skombinované viaceré charakteristiky (napr. informatívna a tvorivá), informatívna charakteristika by mala vždy prevážiť a malo by sa na jej základe vyžadovať dodržiavanie štandardných požiadaviek na označovanie. |
|
123. |
Primerané zverejnenie, ktoré nebráni zobrazeniu diela alebo zážitku z neho: Deepfaky, ktoré tvoria súčasť zjavne umeleckých, tvorivých, satirických alebo fiktívnych diel alebo programov, nie sú vyňaté z povinnosti v oblasti transparentnosti podľa článku 50 ods. 4 prvého pododseku aktu o AI. Nasadzujúce subjekty sú naďalej povinné zverejniť, že obsah bol vygenerovaný alebo zmanipulovaný AI, môžu to však urobiť primeraným spôsobom, ktorým sa nebráni zobrazeniu diela ani zážitku z neho. V odôvodnení 134 aktu o AI sa objasňuje, že takéto primerané zverejnenie by nemalo brániť bežnému využívaniu a používaniu diela a malo by umožňovať zachovanie jeho užitočnosti a kvality. Rozhodnutie o tom, ktoré opatrenia na zverejňovanie sa majú považovať za primerané, sa posudzuje individuálne v každom jednotlivom prípade, pričom nasadzujúce subjekty môžu zohľadniť všetky relevantné faktory (vrátane povahy diela, publika, kontextu atď.). V každom prípade musia nasadzujúce subjekty dodržiavať článok 50 ods. 5 aktu o AI (pozri oddiel 7). V súlade s článkom 50 ods. 7 aktu o AI sa nasadzujúce subjekty môžu pri preukazovaní splnenia tejto povinnosti zverejňovania riadiť kódexom postupov, ktorý bol posúdený ako primeraný podľa daného ustanovenia. Ďalšie informácie týkajúce sa účinkov dodržiavania takéhoto kódexu a dohľadu nad ostatnými nasadzujúcimi subjektmi, ktoré sa kódexom neriadia, nájdete ďalej v oddiele 8.1. |
|
124. |
Príslušné záruky pre práva a slobody tretích strán: V odôvodnení 134 aktu o AI sa objasňuje, že dodržiavanie zmiernených povinností v oblasti transparentnosti a používanie umeleckých, tvorivých, satirických alebo fiktívnych deepfakov musí prebiehať „s výhradou primeraných záruk ochrany práv a slobôd tretích strán“. Preto musia nasadzujúce subjekty zabezpečiť, aby boli pri vytváraní alebo zverejňovaní deepfakov primerane zaručené a dodržiavané práva a slobody tretích strán (vrátane napr. ich práva na ochranu osobných údajov alebo práv duševného vlastníctva), a to aj v prípade, že sa deepfake má považovať za umelecké, tvorivé, satirické alebo fiktívne dielo. Odvolávanie sa na zmiernenú povinnosť v oblasti transparentnosti nemôže slúžiť ako odôvodnenie nedodržiavania základných práv jednotlivcov alebo nositeľov práv podľa práva Únie v oblasti duševného vlastníctva alebo práva Únie v oblasti ochrany údajov (34).
|
6.1.4. Informácie na účely presadzovania práva
|
125. |
Ak je použitie deepfaku (napr. videa vygenerovaného AI, ktoré simuluje udalosti, ku ktorým nikdy nedošlo) povolené zákonom na účely odhaľovania, prevencie, vyšetrovania alebo stíhania trestných činov, nasadzujúce subjekty sú oslobodené od povinnosti v oblasti transparentnosti podľa článku 50 ods. 4 prvého pododseku aktu o AI. Vysvetlenia uvedené v bodoch 46 až 48, ktoré sa týkajú podobnej výnimky v článku 50 ods. 1 aktu o AI, sú relevantné aj pre toto ustanovenie. |
6.1.5. Vzájomný vzťah s inými právnymi aktmi Únie
|
126. |
Povinnosť v oblasti transparentnosti podľa článku 50 ods. 4 prvého pododseku aktu o AI bude v interakcii s povinnosťami poskytovateľov veľmi veľkých online platforiem a veľmi veľkých internetových vyhľadávačov identifikovať a zmierňovať systémové riziká podľa článkov 34 a 35 aktu o digitálnych službách, najmä podľa článku 35 ods. 1 písm. k) aktu o digitálnych službách (35). V uvedenom ustanovení sa medzi možnými opatreniami na zmiernenie rizika, ktoré môžu prijať poskytovatelia veľmi veľkých online platforiem a veľmi veľkých internetových vyhľadávačov, uvádzajú opatrenia na zabezpečenie toho, aby „informácia, či už ide o vytvorený alebo zmanipulovaný obrazový, audio alebo videoobsah, ktorý sa výrazne podobá na existujúce osoby, objekty, miesta či iné subjekty alebo udalosti a osobe sa mylne javí ako autentický alebo pravdivý, sa dala rozlíšiť vďaka nápadnému označeniu pri jej zobrazovaní na online rozhraniach“. Okrem toho môžu poskytovatelia veľmi veľkých online platforiem a veľmi veľkých internetových vyhľadávačov ponúkať aj používateľsky ústretovú funkciu, ktorá umožňuje príjemcom služby uvádzať takéto informácie. Hoci sa zdá, že je toto ustanovenie aktu o digitálnych službách podobné článku 50 ods. 4 aktu o AI, dopĺňa ho a obsahuje dva dôležité rozdiely:
|
|
127. |
Ak deepfake zahŕňa informácie týkajúce sa priamo alebo nepriamo identifikovateľnej fyzickej osoby (ktorá je nažive), nasadzujúce subjekty ako prevádzkovatelia podľa právnych predpisov Únie v oblasti ochrany údajov budú musieť dodržiavať aj príslušné povinnosti vyplývajúce z právnych predpisov Únie v oblasti ochrany údajov (37). Patrí sem napríklad opieranie sa o primeraný právny základ, pokiaľ ide o spracúvanie osobných údajov, informácie týkajúce sa spracúvania údajov o zobrazených dotknutých osobách atď. |
|
128. |
Subjekty nasadzujúce systémy AI, ktoré generujú deepfaky, budú navyše musieť zabezpečiť, aby dodržiavali príslušné právne predpisy Únie v oblasti duševného vlastníctva (napríklad právne predpisy Únie týkajúce sa ochranných známok a právne predpisy Únie týkajúce sa autorských alebo súvisiacich práv), ak ich deepfake zahŕňa predmet chránený podľa týchto právnych predpisov. Umiestnenie označenia alebo ikony na deepfaku ako také nemá žiadny vplyv na jeho oprávnenosť na ochranu autorských práv, čo by sa malo posudzovať v súlade s príslušnými právnymi predpismi Únie v oblasti autorských práv. |
|
129. |
Ak sú v deepfakoch zobrazené existujúce osoby, nasadzujúce subjekty budú musieť dodržiavať aj príslušné právne režimy na ochranu práv na ochranu osobnosti týkajúcich sa osobných podobizní alebo hlasov. Povinnosť v oblasti transparentnosti podľa článku 50 ods. 4 prvého pododseku aktu o AI neznamená, že deepfaky vygenerované alebo zmanipulované AI, ktoré sú škodlivé a nezákonné podľa príslušných právnych predpisov Únie alebo vnútroštátnych právnych predpisov (napr. právnych predpisov týkajúcich sa zavádzajúcej reklamy alebo trestného práva týkajúceho sa materiálov zobrazujúcich sexuálne zneužívanie detí a intímnych záberov bez súhlasu), možno generovať a šíriť (pozri aj oddiel 4.4). |
6.2. Hlavné zložky, pojmy a súvisiace povinnosti v oblasti transparentnosti týkajúce sa textu vygenerovaného alebo zmanipulovaného AI podľa článku 50 ods. 4 aktu o AI
|
130. |
Článok 50 ods. 4 druhý pododsek aktu o AI sa uplatňuje, ak je splnených niekoľko podmienok:
|
6.2.1. Text uverejnený s cieľom informovať verejnosť o záležitostiach verejného záujmu
|
131. |
S cieľom objasniť rozsah pôsobnosti článku 50 ods. 4 druhého pododseku aktu o AI sa ďalej analyzujú tri prvky: i) text uverejnený ii) s cieľom informovať verejnosť iii) o záležitostiach verejného záujmu.
|
6.2.2. Povinnosť zverejňovania podľa článku 50 ods. 4 druhého pododseku aktu o AI
|
132. |
Podľa článku 50 ods. 4 druhého pododseku aktu o AI musia subjekty nasadzujúce systémy AI, ktoré generujú alebo manipulujú text uverejnený s cieľom informovať verejnosť o záležitostiach verejného záujmu, zverejniť, že text bol umelo vygenerovaný alebo zmanipulovaný. V odôvodnení 134 aktu o AI sa objasňuje, že podobne ako v prípade deepfakov by subjekty nasadzujúce textové publikácie, na ktoré sa vzťahuje toto ustanovenie, mali jasne a zreteľne zverejniť, že takýto obsah bol umelo vytvorený alebo zmanipulovaný, a to zodpovedajúcim označením výstupu AI a zverejnením jeho umelého pôvodu. Ako sa vyžaduje v prípade deepfakov, spôsoby označovania alebo zverejňovania (vrátane vyhlásení o odmietnutí zodpovednosti) uplatňované v súlade s článkom 50 ods. 4 druhým pododsekom aktu o AI by mali takisto byť pre fyzické osoby jasné a vnímateľné (napr. viditeľné alebo počuteľné opatrenia), a to bez toho, aby sa museli spoliehať na akékoľvek špecifické technické nástroje alebo vykonávať osobitné úkony. V súlade s článkom 50 ods. 7 aktu o AI sa nasadzujúce subjekty môžu pri preukazovaní splnenia tejto povinnosti zverejňovania riadiť kódexom postupov, ktorý bol posúdený ako primeraný podľa tohto ustanovenia. Ďalšie informácie týkajúce sa účinkov dodržiavania takéhoto kódexu a dohľadu nad nasadzujúcimi subjektmi, ktoré sa kódexom neriadia, nájdete ďalej v oddiele 8.1. |
6.2.3. Výnimka z povinnosti v oblasti transparentnosti v prípade textov, ktoré podliehajú ľudskej alebo redakčnej kontrole a redakčnej zodpovednosti
|
133. |
V článku 50 ods. 4 druhom pododseku aktu o AI sa stanovuje výnimka z povinnosti transparentnosti stanovenej v danom ustanovení, ak sú splnené dve kumulatívne podmienky: i) text vygenerovaný alebo zmanipulovaný AI musel prejsť ľudskou alebo redakčnou kontrolou a ii) za uverejnenie musí niesť redakčnú zodpovednosť právnická alebo fyzická osoba. V relevantných prípadoch sa nasadzujúce subjekty môžu pri preukazovaní súladu s uvedenými požiadavkami opierať o príslušné platné odborné alebo deontologické normy, ako sa uvádza ďalej. |
i)
|
134. |
Prvou podmienkou na uplatnenie výnimky z článku 50 ods. 4 druhého pododseku aktu o AI je, aby text vygenerovaný alebo zmanipulovaný AI prešiel ľudskou alebo redakčnou kontrolou. Ľudská kontrola je zámerné preskúmanie podstaty obsahu jednou alebo viacerými fyzickými osobami, ktoré disponujú príslušnými vedomosťami a odborným úsudkom týkajúcimi sa predmetu posudzovania (napr. reťazce akademického recenzovania alebo odborného overovania). Overenie správnosti obsahu je minimálnou požiadavkou, ktorá by mala byť súčasťou tejto kontroly. Redakčná kontrola je kontrola, ktorú v praxi vykonáva zodpovedný redakčný subjekt (napr. šéfredaktor) nad obsahom, pričom má právomoc schvaľovať, meniť alebo zamietnuť podstatu textu na základe vecných dôvodov (vrátane overovania informácií a zabezpečenia dôveryhodnosti zdrojov). Tým nie sú dotknuté existujúce postupy kontroly a redakčné postupy ani profesijné normy, ktoré sa vzťahujú na poskytovateľov mediálnych služieb. |
|
135. |
Zbežné, čisto formálne alebo procedurálne kontroly (napr. kontrola pravopisu alebo gramatická korektúra), samotná existencia redakčnej politiky, automatizované procesy posudzovania alebo zbežné redakčné schválenie bez vecného zapojenia ľudského kontrolóra alebo redakčného subjektu nemôžu spĺňať podmienky ľudskej alebo redakčnej kontroly na účely tejto výnimky. |
|
136. |
Ak sa systémy AI používajú na úpravu, doplnenie alebo preformulovanie obsahu po redakčnom schválení, výsledný obsah sa musí na účely článku 50 ods. 4 aktu o AI považovať za obsah vygenerovaný alebo zmanipulovaný AI. Akýkoľvek obsahový zásah AI, ku ktorému dôjde po vykonaní ľudskej alebo redakčnej kontroly, bude mať za následok, že výnimka stratí platnosť. |
|
137. |
V súlade s článkom 50 ods. 7 aktu o AI môžu nasadzujúce subjekty dodržiavať kódex postupov, ktorý bol na základe uvedeného ustanovenia posúdený ako primeraný, na preukázanie splnenia podmienky ľudskej alebo redakčnej kontroly (najmä nasadzujúcimi subjektmi, ktoré nie sú poskytovateľmi mediálnych služieb podliehajúcimi existujúcim redakčným profesijným alebo deontologickým normám) stanovenej v uvedenom ustanovení. Ďalšie informácie týkajúce sa účinkov dodržiavania takéhoto kódexu a dohľadu nad nasadzujúcimi subjektmi, ktorí sa takýmto kódexom neriadia, nájdete v oddiele 8.1. |
|
ii) |
|
138. |
Druhou podmienkou na uplatnenie výnimky z článku 50 ods. 4 druhého pododseku aktu o AI je, aby za uverejnenie obsahu niesla redakčnú zodpovednosť právnická alebo fyzická osoba. To znamená, že uvedená osoba musí niesť konečnú právnu zodpovednosť za uverejnenie obsahu vrátane ľudskej alebo redakčnej kontroly (napr. fyzická osoba, redakčná rada alebo vydavateľstvo). S cieľom zabezpečiť verejnú zodpovednosť a dôveru a v súlade s existujúcimi profesijnými normami by mali byť identita a kontaktné údaje právnickej osoby, fyzickej osoby alebo funkcia s redakčnou zodpovednosťou verejne dostupné na mieste, ktoré možno ľahko nájsť (ak ešte nie sú k dispozícii iným spôsobom). K tomu môže dôjsť online, napríklad prostredníctvom obchodných podmienok webového sídla alebo iných právnych informácií určených pre používateľov. V offline prostredí môžu byť takéto informácie uvedené v znaku vydavateľstva alebo v informáciách o publikácii.
|
6.2.4. Informácie na účely presadzovania práva
|
139. |
Ak je používanie systémov AI na generovanie textu uverejneného s cieľom informovať verejnosť o záležitostiach verejného záujmu bez ľudskej kontroly (napr. policajné varovanie týkajúce sa teroristickej hrozby vygenerované AI a uverejnené na sociálnych médiách) povolené zákonom na účely odhaľovania, prevencie, vyšetrovania alebo stíhania trestných činov, nasadzujúce subjekty sú oslobodené od povinnosti transparentnosti podľa článku 50 ods. 4 aktu o AI. Vysvetlenia uvedené v bodoch 46 až 48, ktoré sa týkajú podobnej výnimky v článku 50 ods. 1 aktu o AI, sú relevantné aj pre toto ustanovenie. |
6.2.5. Vzájomný vzťah s inými právnymi aktmi Únie
|
140. |
V rámci právnych predpisov Únie v oblasti médií je redakčná zodpovednosť kľúčovým pojmom, ktorý je vymedzený v článku 2 bode 8 nariadenia (EÚ) 2024/1083 (ďalej len „európsky akt o slobode médií“) (39). V tomto kontexte je „redakčná zodpovednosť“ „vykonávanie účinnej kontroly tak nad výberom programov alebo tlačových publikácií, ako aj nad ich usporiadaním na účely poskytovania mediálnej služby bez ohľadu na existenciu zodpovednosti podľa vnútroštátneho práva za poskytnutú službu“. V určitých situáciách sa toto vymedzenie môže prekrývať s pojmom redakčnej zodpovednosti použitým v článku 50 ods. 4 druhom pododseku aktu o AI, a to najmä v prípadoch, keď sa subjekty nasadzujúce systém AI zároveň môžu považovať za poskytovateľov mediálnych služieb podľa európskeho aktu o slobode médií. Redakčná zodpovednosť v zmysle článku 50 ods. 4 aktu o AI by sa preto mala vykladať v súlade s existujúcim acquis v oblasti médií, a to napriek skutočnosti, že zostáva samostatným pojmom, ktorý sa môže uplatňovať aj v širších súvislostiach a na iné nasadzujúce subjekty, pokiaľ prevezmú redakčnú zodpovednosť za uverejnenie textu. Poskytovatelia mediálnych služieb sa môžu opierať o svoje existujúce redakčné procesy a normy, aby mohli využiť výnimku podľa článku 50 ods. 4 druhého pododseku aktu o AI. |
7. HORIZONTÁLNE POŽIADAVKY UPLATNITEĽNÉ NA INFORMÁCIE POSKYTOVANÉ PODĽA ČLÁNKU 50 ODS. 5 AKTU O AI
|
141. |
Podľa článku 50 ods. 5 aktu o AI sa informácie, ktoré sa majú poskytnúť podľa článku 50 ods. 1 až 4 aktu o AI, dotknutým fyzickým osobám majú poskytnúť jasným a rozlíšiteľným spôsobom najneskôr v čase prvej interakcie alebo vystavenia sa systému. Informácie musia byť aj v súlade s uplatniteľnými požiadavkami na prístupnosť. Medzi dotknuté fyzické osoby v tejto súvislosti patria osoby, ktoré priamo interagujú so systémom AI (článok 50 ods. 1 aktu o AI), aktívni alebo pasívni používatelia a ďalšie osoby vystavené syntetickému obsahu vygenerovanému alebo zmanipulovanému systémom AI [bez ohľadu na to, či priamo interagujú so systémom AI alebo nie (článok 50 ods. 2 a 4 aktu o AI)], ako aj osoby, na ktoré sa vzťahuje používanie systémov na rozpoznávanie emócií alebo systémov biometrickej kategorizácie (článok 50 ods. 3 aktu o AI). |
7.1. Poskytovanie informácií jasným a rozlíšiteľným spôsobom
|
142. |
Informácie sa budú považovať za poskytnuté jasným spôsobom, ak budú viditeľné, ľahko zrozumiteľné a prístupné pre dotknutú fyzickú osobu (vrátane osôb so zdravotným postihnutím). Informácie sa budú považovať za poskytnuté rozlíšiteľným spôsobom, ak bude možné ľahko ich odlíšiť od ostatných informácií a od prostredia, v ktorom sa obsah prezentuje. Takisto musí byť ľahko zrozumiteľný pre publikum vrátane konkrétnych skupín, ako sú deti alebo osoby so zdravotným postihnutím, ak sú súčasťou publika, o ktorom možno predpokladať, že bude tomuto obsahu vystavené alebo bude interagovať so systémom (40). S cieľom poskytovať informácie jasným a rozlíšiteľným spôsobom sa príslušné informácie môžu okrem iného prezentovať ako súčasť interakcie (podľa článku 50 ods. 1 aktu o AI) alebo príslušného obsahu (podľa článku 50 ods. 2 a 4 aktu o AI). Informácie sa nebudú považovať za poskytnuté jasným a rozlíšiteľným spôsobom, ak ich fyzické osoby za bežných podmienok vystavenia alebo interakcie môžu ľahko prehliadnuť alebo premeškať (napr. ak sú uvedené iba ako súčasť príručky alebo skryté pod viacerými úrovňami možností ponúk v online rozhraní, alebo ak tvoria súčasť podmienok používania, ktoré používatelia často nečítajú). |
7.2. Prvá interakcia alebo vystavenie
|
143. |
V článku 50 ods. 5 aktu o AI sa vyžaduje, aby boli dotknutým fyzickým osobám poskytnuté informácie najneskôr v čase prvej interakcie alebo vystavenia. Prvá interakcia alebo vystavenie sa nevzťahuje len na prvú fyzickú osobu, ktorá interaguje so systémom AI alebo je vystavená tomuto systému (resp. jeho výstupu), ale aj na akúkoľvek následnú prvú interakciu so systémom AI alebo vystavenie tomuto systému (resp. jeho výstupu) zo strany akejkoľvek inej fyzickej osoby. Pokiaľ ide o prvú interakciu so systémom AI, informácie by sa mali poskytnúť aspoň raz na začiatku interaktívnej relácie, pričom je potrebné zohľadniť konkrétne situácie uvedené v bodoch 36 a 40. Pokiaľ ide o obsah vygenerovaný alebo zmanipulovaný AI, na ktorý sa vzťahuje článok 50 ods. 2 a 4 aktu o AI, informačná povinnosť sa vzťahuje na každý výstup systému AI vo vzťahu ku každej fyzickej osobe, ktorá je tomuto obsahu vystavená. Malo by sa to chápať v zmysle akéhokoľvek okamihu v čase, v ktorom je primerane pravdepodobné, že fyzická osoba bude vystavená výstupu systému AI a bude vnímať toto zverejnenie, pričom sa zohľadňujú špecifiká zverejnenia v prípade zjavne tvorivých, umeleckých a iných diel (pozri oddiel 6.1.3). Okrem toho môžu nasadzujúce subjekty informovať fyzické osoby ešte pred prvou skutočnou interakciou alebo vystavením (napr. na začiatku obsahu obsahujúceho deepfaky). Ak však možno odôvodnene predpokladať, že niektoré osoby nemusia obsah vnímať od samého začiatku, potom samotné zverejnenie na začiatku obsahu nepostačuje na dostatočné informovanie týchto osôb a malo by sa podľa možnosti doplniť o zverejnenie aj v neskorších fázach. To sa môže implementovať vo vhodných prípadoch, pričom sa zohľadní cieľ povinností v oblasti transparentnosti, ktorým je zabezpečiť účinné poskytovanie informácií a dostatočnú informovanosť používateľov v čoraz viac imerzívnych a realistických prostrediach AI, kde majú používatelia čoraz väčšie ťažkosti rozlíšiť pôvod a pravdivosť obsahu a interakcie.
|
7.3. Plnenie príslušných požiadaviek na prístupnosť
|
144. |
Poskytovatelia a nasadzujúce subjekty systémov AI, na ktoré sa vzťahujú rôzne povinnosti v oblasti transparentnosti uvedené v článku 50 ods. 1 – 4 aktu o AI, musia poznať príslušné požiadavky na prístupnosť [napr. podľa smernice 2016/2102 (41) a smernice 2019/882 (42)] a posúdiť, či ich produkt, služba alebo obsah musia spĺňať tieto pravidlá. V takom prípade musia zabezpečiť prístupnosť poskytovaných informácií v súlade s článkom 50 aktu o AI a príslušnými požiadavkami na prístupnosť. Článkom 50 aktu o AI sa nestanovujú žiadne osobitné ani dodatočné požiadavky na prístupnosť. |
8. PRESADZOVANIE ČLÁNKU 50 AKTU O AI
|
145. |
Cieľom tohto oddielu je objasniť: i) účinky dodržiavania kódexu postupov, pokiaľ ide o plnenie povinností v oblasti transparentnosti v súvislosti s obsahom vygenerovaným AI; ii) úlohu príslušných dozorných orgánov pri presadzovaní článku 50 aktu o AI; iii) príslušné sankcie za porušenie týchto povinností a iv) okamih, od ktorého nadobúdajú účinnosť povinnosti uvedené v článku 50 aktu o AI. |
8.1. Účinky dodržiavania kódexu postupov, ktorý je posúdený ako primeraný
|
146. |
Poskytovatelia a nasadzujúce subjekty systémov AI, na ktoré sa vzťahuje článok 50 ods. 2 a 4 aktu o AI, môžu preukázať splnenie svojich príslušných povinností v oblasti transparentnosti týkajúcich sa obsahu vygenerovaného AI podľa týchto ustanovení dodržiavaním kódexu postupov, ktorý je posúdený ako primeraný podľa článku 50 ods. 7 aktu o AI (43). Takýmto kódexom sa nenahrádza akt o AI ani tieto usmernenia. Dopĺňa ich tým, že poskytuje jediný celoúnijný uznávaný praktický rámec pre poskytovateľov a nasadzujúce subjekty generatívnych systémov AI, ktorý im umožňuje preukázať súlad s uvedenými povinnosťami bez ohľadu na ich miesto usadenia, prevádzku a príslušné orgány dohľadu nad trhom. |
|
147. |
Hoci poskytovatelia a nasadzujúce subjekty môžu splnenie týchto povinností preukázať aj primeranými alternatívnymi prostriedkami, dodržiavanie kódexu postupov, ktorý sa považuje za primeraný, predstavuje priamy, predvídateľný a právne istý spôsob preukázania súladu. Pokiaľ ide o signatárov kódexu postupov, ktorý bol podľa článku 50 ods. 7 aktu o AI (44) posúdený ako primeraný, Komisia a príslušné orgány dohľadu nad trhom sa vo svojich dozorných činnostiach zamerajú na posúdenie toho, či sa títo signatári riadili kódexom postupov a či vykonali opatrenia v ňom obsiahnuté. Keďže poskytovatelia a nasadzujúce subjekty, ktoré sa riadia takýmto kódexom, budú otvorene informovať o opatreniach, ktoré zavádzajú na účely splnenia požiadaviek článku 50 ods. 2, 4 a 5 aktu o AI, získajú si väčšiu dôveru Komisie, ostatných príslušných orgánov dohľadu nad trhom a ďalších zainteresovaných strán (vrátane širokej verejnosti). Akékoľvek neuplatnenie niektorých oddielov signatármi kódexu postupov, ktorý sa považuje za primeraný, bude mať za následok to, že títo poskytovatelia a nasadzujúce subjekty prídu o výhodu uľahčenia preukázania súladu v danej oblasti. |
|
148. |
Od poskytovateľov a nasadzujúcich subjektov, ktoré nie sú signatármi kódexu postupov považovaného za primeraný podľa článku 50 ods. 7 aktu o AI, sa očakáva, že preukážu, ako splnili svoje povinnosti podľa článku 50 ods. 2, 4 a 5 aktu o AI inými primeranými prostriedkami. Okrem toho sa od týchto poskytovateľov a nasadzujúcich subjektov očakáva, že vysvetlia, ako sa opatreniami, ktoré zavádzajú, zabezpečuje splnenie ich povinností vyplývajúcich z aktu o AI. Mali by napríklad vykonať diferenčnú analýzu, v rámci ktorej porovnajú opatrenia, ktoré zaviedli, s opatreniami stanovenými v kódexe postupov, ktorý sa považuje za primeraný. Keďže pre príslušné orgány (vrátane úradu pre AI) bude menej jasné, ako poskytovatelia a nasadzujúce subjekty, ktoré nie sú signatármi kódexu postupov, zabezpečujú plnenie svojich povinností podľa článku 50 ods. 2, 4 a 5 aktu o AI, budú pri monitorovaní súladu pravdepodobne potrebovať podrobnejšie informácie. Napríklad poskytovatelia, ktorí sa neriadia kódexom postupov, môžu byť takisto vystavení väčšiemu počtu žiadostí o informácie a žiadostí o prístup s cieľom posúdiť účinnosť, interoperabilitu, odolnosť a spoľahlivosť technických riešení zavedených na účely splnenia požiadaviek článku 50 ods. 2 aktu o AI. Takéto požiadavky sa môžu vzťahovať aj na nasadzujúce subjekty v súvislosti s ich postupmi pri označovaní podľa článku 50 ods. 4 aktu o AI. |
|
149. |
Príslušné orgány môžu pri stanovovaní výšky pokút zohľadniť záväzky vykonané v súlade s kódexom postupov, ktorý je posúdený ako primeraný, ako poľahčujúcu okolnosť v závislosti od konkrétnych okolností (45). |
|
150. |
Ak sa kódex postupov nepovažuje za primeraný podľa článku 50 ods. 7 aktu o AI, Komisia môže prijať vykonávací akt, v ktorom sa stanovia spoločné pravidlá na plnenie povinností vyplývajúcich z článku 50 ods. 2, 4 a 5 aktu o AI, ktoré by sa uplatňovali na všetkých príslušných poskytovateľov a nasadzujúce subjekty systémov AI, na ktoré sa vzťahujú tieto ustanovenia (46). |
8.2. Orgány dohľadu nad trhom
|
151. |
Orgány dohľadu nad trhom určené členskými štátmi, úrad pre AI (47) a európsky dozorný úradník pre ochranu údajov (48) sú zodpovední za dohľad nad dodržiavaním pravidiel týkajúcich sa systémov AI, ktoré patria do ich pôsobnosti, a za ich presadzovanie vrátane povinností v oblasti transparentnosti stanovených v článku 50 aktu o AI. Takéto presadzovanie sa uskutočňuje v rámci systému dohľadu nad trhom a súladu výrobkov s predpismi stanoveného nariadením (EÚ) 2019/1020 a aktom o AI. Právomoci orgánov dohľadu nad trhom v oblasti presadzovania v súvislosti so systémami AI sú stanovené v uvedených nariadeniach. Uvedené orgány môžu v súvislosti s povinnosťami uvedenými v článku 50 aktu o AI prijať opatrenia na presadzovanie z vlastnej iniciatívy alebo na základe sťažnosti, ktorú má právo podať každá dotknutá osoba alebo akákoľvek iná fyzická alebo právnická osoba, ktorá má dôvod domnievať sa, že došlo k takémuto porušeniu (49). Povinnosti orgánov dohľadu nad trhom podľa aktu o AI nemajú vplyv na právomoci a úlohy iných dozorných orgánov ani orgánov na ochranu základných práv v rámci ich vlastného právneho rámca v situáciách, keď sa uplatňuje zároveň článok 50 aktu o AI aj tento rámec (napr. ochrana údajov, ochrana spotrebiteľa). |
8.3. Sankcie
|
152. |
Poskytovateľom a nasadzujúcim subjektom, ktoré nespĺňajú príslušné povinnosti v oblasti transparentnosti stanovené v článku 50 aktu o AI, sa môže uložiť pokuta až do výšky 15 000 000 EUR, alebo ak je páchateľom podnik, až do výšky 3 % jeho celkového celosvetového ročného obratu za predchádzajúci finančný rok, podľa toho, ktorá suma je vyššia. Inštitúciám, orgánom a agentúram EÚ, ktoré si nesplnia povinnosti v oblasti transparentnosti, sa môžu uložiť správne pokuty až do výšky 750 000 EUR. V prípade malých a stredných podnikov (ďalej len „MSP“) vrátane startupov sa každá pokuta ukladá až do uvedeného percentuálneho podielu alebo sumy, podľa toho, ktorá z týchto hodnôt je nižšia. Pokuty musia byť účinné, primerané a odrádzajúce a musia sa v nich zohľadňovať záujmy MSP a malých podnikov so strednou trhovou kapitalizáciou vrátane startupov a ich hospodárska životaschopnosť. Pri rozhodovaní o tom, či uložiť správnu pokutu, a pri rozhodovaní o výške správnej pokuty v každom jednotlivom prípade by príslušné orgány mali posúdiť všetky relevantné okolnosti konkrétnej situácie a vo vhodných prípadoch aj celý rad faktorov, ktoré ovplyvňujú závažnosť porušenia (napr. povahu, závažnosť a trvanie porušenia a jeho dôsledkov, nedbanlivostný alebo úmyselný charakter, ďalšie priťažujúce alebo poľahčujúce okolnosti, mieru spolupráce s orgánmi dohľadu nad trhom atď.). |
8.4. Začiatok uplatňovania
|
153. |
Podľa článku 113 aktu o AI sa článok 50 aktu o AI začne uplatňovať od 2. augusta 2026. To znamená, že všetky systémy AI v rozsahu pôsobnosti uvedené na trh alebo do prevádzky v Únii musia byť k tomuto dátumu v súlade s uvedeným ustanovením, a to bez ohľadu na dátum ich uvedenia na trh alebo do prevádzky (50). V nariadení, ktorým sa mení akt o AI (súhrnný akt o AI), ktoré nedávno prijal zákonodarca Únie, sa stanovuje cielené pravidlo o zachovaní predchádzajúceho stavu výlučne v súvislosti s povinnosťami označovania a odhaľovania podľa článku 50 ods. 2 aktu o AI pre generatívne systémy umelej inteligencie uvedené na trh alebo do prevádzky pred 2. augustom 2026. Poskytovateľom týchto existujúcich systémov sa tým poskytuje prechodné obdobie na to, aby do 2. decembra 2026 svoje systémy uviedli do súladu. Systémy, ktoré sú čiastočne interaktívne a čiastočne generatívne, môžu toto prechodné obdobie využiť iba v súvislosti s povinnosťou označovania podľa článku 50 ods. 2 aktu o AI, zatiaľ čo splnenie povinnosti zverejňovania v prípade systémov AI, ktoré priamo interagujú s fyzickými osobami, musí byť zabezpečené už od 2. augusta 2026. |
|
154. |
Výstupy vygenerované alebo zmanipulované AI, na ktoré sa vzťahuje článok 50 ods. 2 aktu o AI, a deepfaky, na ktoré sa vzťahuje článok 50 ods. 4 prvý pododsek aktu o AI a ktoré boli vygenerované alebo zmanipulované AI pred 2. augustom 2026, sa nemusia spätne označovať a značiť. To isté platí pre texty o záležitostiach verejného záujmu, na ktoré sa vzťahuje článok 50 ods. 4 druhý pododsek aktu o AI a ktoré boli vygenerované alebo zmanipulované AI pred 2. augustom 2026. Naopak, ak sa texty, ktoré boli vygenerované alebo zmanipulované pred 2. augustom 2026, uverejnia v tento deň alebo po ňom, musia byť označené. Vzhľadom na cieľ transparentnosti a posilnenia dôveryhodnosti a integrity informačného ekosystému, ktorý sa sleduje aktom o AI, sa subjekty nasadzujúce systémy AI a ďalší aktéri, ktorí majú v držbe alebo šíria už existujúce neoznačené deepfaky, napriek tomu vyzývajú, aby to urobili bez toho, aby sa od nich očakávalo vynaloženie neprimeraného úsilia na tento účel (napríklad kontrola už existujúcich databáz obsahu alebo úprava už vytlačených obalov výrobkov). |
9. PRESKÚMANIE A AKTUALIZÁCIA USMERNENÍ
|
155. |
Tieto usmernenia predstavujú prvý výklad povinností v oblasti transparentnosti stanovených v článku 50 aktu o AI s praktickými príkladmi. Komisia preskúma tieto usmernenia, hneď ako to bude potrebné vzhľadom na praktické skúsenosti získané pri vykonávaní povinností v oblasti transparentnosti a tempo technologického, spoločenského a regulačného vývoja v tejto oblasti. Patria sem aj všetky relevantné skúsenosti s opatreniami presadzovania práva v rámci dohľadu nad trhom a výklady článku 50 aktu o AI, ktoré poskytol SDEÚ. Počas takéhoto preskúmania môže Komisia rozhodnúť o zrušení alebo zmene týchto usmernení. Komisia vyzýva poskytovateľov a nasadzujúce subjekty systémov AI, vnútroštátne orgány dohľadu nad trhom prostredníctvom Rady pre AI, poradné fórum pre AI, výskumnú komunitu a organizácie občianskej spoločnosti, aby prispeli k tomuto procesu odpovedaním na budúce výzvy na verejnú konzultáciu. |
(1) Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii) (Ú. v. EÚ L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
(2) Článok 1 aktu o AI.
(3) Článok 2 ods. 1 písm. a), článok 3 body 3, 9 a 11 aktu o AI. Ďalšie usmernenia týkajúce sa pojmov „uvedenie na trh“, „uvedenie do prevádzky“ a „používanie“ nájdete v usmerneniach Komisie o zakázaných postupoch v oblasti umelej inteligencie, C(2025) 5052, a v oznámení Komisie s názvom „Modrá príručka“ na vykonávanie právnych predpisov EÚ týkajúcich sa výrobkov 2022, oddiel 2 (Ú. v. EÚ C 247, 29.6.2022, s. 1).
(4) Článok 2 ods. 1 písm. c) a odôvodnenie 22 aktu o AI.
(5) Článok 3 bod 4 aktu o AI.
(6) Článok 2 ods. 1 písm. b) a c) aktu o AI.
(7) Nariadenie Európskeho parlamentu a Rady (EÚ) 2022/2065 z 19. októbra 2022 o jednotnom trhu s digitálnymi službami (Ú. v. EÚ L 277, 27.10.2022, s. 1).
(8) Pozri oddiel 2.5 usmernení Komisie o zakázaných postupoch v oblasti umelej inteligencie stanovených nariadením (EÚ) 2024/1689 (akt o AI), Brusel, 29. 7. 2025, C(2025) 5052 final.
(9) Na základe vymedzenia pojmu nasadzujúci subjekt sú takisto vylúčení používatelia, ktorí vykonávajú takéto činnosti (pozri oddiel 2.3).
(10) Odôvodnenie 25 aktu o AI.
(11) V odôvodnení 102 aktu o AI sa vysvetľuje, že vydanie softvéru a údajov na základe bezplatnej licencie s otvoreným zdrojovým kódom „umožňuje ich otvorené zdieľanie a v rámci [uvedenej licencie] majú používatelia voľný prístup k nim alebo ich upraveným verziám, môžu ich voľne používať, upravovať a redistribuovať“.
(12) Ďalšie informácie o článku 5 aktu o AI nájdete v usmerneniach Komisie o zakázaných postupoch v oblasti umelej inteligencie stanovených nariadením (EÚ) 2024/1689 (akt o AI), C(2025) 5052 final.
(13) Pozri článok 6 aktu o AI.
(14) Konkrétne sa článkom 26 ods. 11 aktu o AI ukladá subjektom nasadzujúcim vysokorizikové systémy AI, ktoré prijímajú rozhodnutia alebo pomáhajú pri prijímaní rozhodnutí týkajúcich sa fyzických osôb, povinnosť v oblasti transparentnosti informovať fyzické osoby o tom, že sa na ne vzťahuje používanie vysokorizikového systému AI. Týmito povinnosťami v oblasti transparentnosti sa dopĺňajú povinnosti uvedené v článku 50 aktu o AI, keďže sa týkajú rôznych informácií, ktoré je potrebné poskytnúť fyzickým osobám, môžu byť však zahrnuté v jedinom oznámení.
(15) V článku 3 bode 66 aktu o AI sa systém AI na všeobecné účely („GPAI“) vymedzuje ako systém AI, ktorý je založený na modeli AI na všeobecné účely a ktorý je spôsobilý slúžiť na rôzne účely, a to na priame použitie, ako aj na integráciu do iných systémov AI.
(16) Článok 50 ods. 2 aktu o AI obsahuje výslovný odkaz na systémy AI na všeobecné účely.
(17) Odôvodnenie 133 aktu o AI.
(18) Pozri článok 3 bod 1 aktu o AI. Ďalšie informácie o pojme „systém AI“ nájdete v usmerneniach Komisie o vymedzení pojmu systém AI, 29. 7. 2025, C(2025) 5053 final.
(19) Pozri odôvodnenie 132 aktu o AI. To neznamená, že systém musí byť zameraný práve na tieto zraniteľné skupiny. Ak je systém určený na interakciu s akoukoľvek osobou z radov verejnosti, zahŕňa to aj príslušníkov zraniteľných skupín, ktorých by mali poskytovatelia pri zavádzaní oznamovacích opatrení zohľadniť.
(20) Príslušné požiadavky na prístupnosť nájdete v oddiele 7.3.
(21) Napríklad elektronické osvedčenia atribútov, ktoré sú stanovené v nariadení (EÚ) č. 910/2014 a ktoré sú sprístupnené v peňaženkách digitálnej identity EÚ zriadených na základe toho istého nariadenia, ako aj v navrhovaných európskych podnikových peňaženkách, môžu poskytovať bezpečný a účinný spôsob identifikácie agentov AI. V peňaženkách sa môžu ukladať a spravovať elektronické osvedčenia, ktorými sa overuje identita, atribúty a oprávnenia agenta AI, čo umožňuje plynulé a dôveryhodné zverejňovanie informácií pre fyzické osoby.
(22) To platí aj pre podobné výnimky v prospech činností presadzovania práva stanovené v článku 50 ods. 2 až 4 aktu o AI.
(23) Smernica Európskeho parlamentu a Rady 2005/29/ES z 11. mája 2005 o nekalých obchodných praktikách podnikateľov voči spotrebiteľom na vnútornom trhu (Ú. v. EÚ L 149, 11.6.2005, s. 2).
(24) Smernica Európskeho parlamentu a Rady 2011/83/EÚ z 25. októbra 2011 o právach spotrebiteľov (Ú. v. EÚ L 304, 22.11.2011, s. 64).
(25) Smernica Európskeho parlamentu a Rady 2012/13/EÚ z 22. mája 2012 o práve na informácie v trestnom konaní (Ú. v. EÚ L 142, 1.6.2012, s. 1), smernica Európskeho parlamentu a Rady 2012/29/EÚ z 25. októbra 2012, ktorou sa stanovujú minimálne normy v oblasti práv, podpory a ochrany obetí trestných činov (Ú. v. EÚ L 315, 14.11.2012, s. 57).
(26) V zmysle vymedzenia v článku 3 bode 1 aktu o AI.
(27) V odôvodnení 133 aktu o AI sa objasňuje, že je vhodné vyžadovať od poskytovateľov týchto systémov, aby začlenili technické riešenia, ktoré umožnia označovanie v strojovo čitateľnom formáte a odhalenie toho, že výstup bol vytvorený alebo manipulovaný systémom AI, a nie človekom. Odôvodnenie 135 aktu o AI sa týka povinnosti v súvislosti s odhaľovaním.
(28) Pozri prílohu II k vykonávaciemu rozhodnutiu Komisie C(2025) 3871 final o normalizačnej žiadosti určenej Európskemu výboru pre normalizáciu a Európskemu výboru pre normalizáciu v elektrotechnike, pokiaľ ide o vysokorizikové systémy AI, na podporu nariadenia Európskeho parlamentu a Rady (EÚ) 2024/1689, a o zrušení vykonávacieho rozhodnutia C(2023)3215 final.
(29) Pozri aj odôvodnenie 11 aktu o AI.
(30) Pozri aj odôvodnenie 137 aktu o AI.
(31) Odôvodnenie 136 aktu o AI.
(32) Toto kritérium je preto potrebné chápať nezávisle a rozdielne od pojmu „uvedenie do omylu“, ako sa uvádza v smernici 2005/29/ES v súvislosti s nekalými obchodnými praktikami podnikov voči spotrebiteľom na vnútornom trhu (smernica o nekalých obchodných praktikách), https://eur-lex.europa.eu/eli/dir/2005/29/oj/slk.
(33) V podobnom duchu pozri článok 1 písm. b) smernice o audiovizuálnych mediálnych službách.
(34) To platí rovnako aj pre uverejnené texty, ktorými sa verejnosť informuje o záležitostiach verejného záujmu.
(35) Ďalšie informácie o vzájomnom vzťahu článku 50 aktu o AI a aktu o digitálnych službách nájdete v oddiele 4.4.
(36) Odôvodnenie 2 aktu o digitálnych službách.
(37) Podrobnejšie vysvetlenie nájdete v spoločných usmerneniach Komisie a EDPB o vzájomnom vzťahu medzi aktom o AI a právnymi predpismi EÚ v oblasti ochrany údajov (pripravuje sa).
(38) Pozri analogicky vec C-89/04, Mediakabel, EU:C:2005:348, bod 33; C-192/04, Lagardère, EU:C:2005:475, bod 31; C-306/05, SGAE, EU:C:2006:764, body 37 – 40; C-527/15, Stichting Brein, EU:C:2017:300, body 43 – 44 a citovaná judikatúra; vec C-135/23, GEMA, EU:C:2024:526, bod 38 a citovaná judikatúra.
(39) Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1083 z 11. apríla 2024, ktorým sa stanovuje spoločný rámec pre mediálne služby na vnútornom trhu a mení smernica 2010/13/EÚ (európsky akt o slobode médií) (Ú. v. EÚ L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).
(40) Ak sú súčasťou cieľového publika daného obsahu deti, tieto upozornenia musia byť: i) vhodné pre deti, primerané veku, ľahko zrozumiteľné a ľahko prístupné pre všetky deti vrátane osôb so zdravotným postihnutím a/alebo s ďalšími potrebami v oblasti prístupnosti; ii) prezentované jasne, zrozumiteľne a čo najjednoduchšie a najvýstižnejšie; iii) prezentované spôsobom, ktorý je ľahko preskúmateľný a ktorý umožňuje okamžitý a intuitívny prístup k nim v okamihoch, keď sa stanú relevantnými; iv) prezentované v úradnom jazyku (jazykoch) členského štátu, v ktorom sa služba poskytuje; v) pútavé pre deti. To môže zahŕňať aj použitie grafiky, videí a/alebo postáv, prípadne iných techník; vi) poskytované deťom postupne a v priebehu času, aby si ich používateľ čo najlepšie zapamätal.
(41) Smernica Európskeho parlamentu a Rady (EÚ) 2016/2102 z 26. októbra 2016 o prístupnosti webových sídel a mobilných aplikácií subjektov verejného sektora (Text s významom pre EHP), (Ú. v. EÚ L 327, 2.12.2016, s. 1).
(42) Smernica Európskeho parlamentu a Rady (EÚ) 2019/882 zo 17. apríla 2019 o požiadavkách na prístupnosť výrobkov a služieb (Text s významom pre EHP), PE/81/2018/REV/1, (Ú. v. EÚ L 151, 7.6.2019, s. 70).
(43) Pozri príslušné informácie o kódexe postupov pre transparentnosť obsahu vygenerovaného AI |. Formovanie digitálnej budúcnosti Európy uverejnené 10. júna 2026.
(44) Pozri stanovisko Komisie ku kódexu postupov pre transparentnosť obsahu vygenerovaného AI |. Formovanie digitálnej budúcnosti Európy.
(45) Článok 99 ods. 7 písm. e) aktu o AI.
(46) Článok 50 ods. 7 aktu o AI.
(47) Ako orgán dohľadu nad trhom pre systémy AI založené na modeloch GPAI poskytované tým istým poskytovateľom (článok 75 ods. 1 aktu o AI). Toto sa týka povinnosti, ktorá sa uplatňuje na poskytovateľov podľa článku 50 ods. 1 a 2 aktu o AI. Pokiaľ ide o článok 50 ods. 3 a 4 aktu o AI, úrad pre AI bude príslušný len vtedy, ak príslušný poskytovateľ modelu GPAI a systému je zároveň nasadzujúcim subjektom daného systému.
(48) Ako orgán dohľadu nad trhom pre inštitúcie, agentúry a orgány EÚ.
(49) Článok 85 aktu o AI.
(50) Osobitné pravidlo o zachovaní predchádzajúceho stavu uvedené v článku 111 ods. 2 aktu o AI sa vzťahuje na vysokorizikové systémy AI uvedené na trh pred dátumom začatia uplatňovania pravidiel pre vysokorizikové systémy, a to výlučne z hľadiska súladu týchto systémov s požiadavkami a povinnosťami platnými pre vysokorizikové systémy AI. Ak sa na vysokorizikové systémy AI vzťahuje aj jedna alebo viaceré povinnosti v oblasti transparentnosti podľa článku 50 aktu o AI, toto osobitné pravidlo o zachovaní predchádzajúceho stavu sa neuplatňuje, keďže uplatňovanie rôznych povinností v súvislosti s vysokorizikovými systémami a povinností v oblasti transparentnosti podľa článku 50 je kumulatívne a zachovanie predchádzajúceho stavu je odôvodnené a obmedzené výlučne na dodržiavanie ustanovení týkajúcich sa vysokorizikových systémov.
ELI: http://data.europa.eu/eli/C/2026/6005/oj
ISSN 1977-1037 (electronic edition)