European flag

Az Európai Unió
Hivatalos Lapja

HU

C sorozat


C/2026/6005

2026.11.12.

A BIZOTTSÁG KÖZLEMÉNYE

Iránymutatás az egyes MI-rendszerekre vonatkozó, az (EU) 2024/1689 rendelet (a mesterséges intelligenciáról szóló rendelet) 50. cikke szerinti átláthatósági kötelezettségek végrehajtásához

(C/2026/6005)

Tartalomjegyzék

1.

HÁTTÉR ÉS CÉLKITŰZÉSEK 3

2.

Az átláthatósági kötelezettségek és a horizontális témák áttekintése 3

2.1.

Az MI-rendelet 50. cikkében foglalt átláthatósági kötelezettségek áttekintése 3

2.2.

Indokolás és célkitűzések 4

2.3.

Az MI-rendelet 50. cikke szerinti felelős szereplők 5

2.4.

Az MI-rendelet hatálya alól történő kizárások 7

2.4.1.

Pusztán személyes, nem szakmai tevékenység keretében eljáró alkalmazók 7

2.4.2.

Kutatás és fejlesztés 8

2.4.3.

Szabad és nyílt forráskódú licencek alapján kibocsátott MI 8

2.5.

Kölcsönhatás a tiltott gyakorlatokkal, valamint a nagy kockázatú MI-rendszerekre és az MI-jártasságra vonatkozó követelményekkel 9

2.6.

Kölcsönhatás az általános célú MI-modellekre és/vagy -rendszerekre alkalmazandó szabályokkal 9

3.

AZ MI-RENDELET 50. CIKKÉNEK (1) BEKEZDÉSE: AZ ÁTLÁTHATÓSÁG AZ INTERAKTÍV MI-RENDSZEREK ESETÉBEN 9

3.1.

Fő alkotóelemek, fogalmak és a kapcsolódó átláthatósági kötelezettség(ek) 10

3.1.1.

A természetes személyekkel való közvetlen interakcióra szánt MI-rendszerek 10

3.1.2.

Az MI-rendelet 50. cikkének (1) bekezdése szerinti tájékoztatási kötelezettség 12

3.2.

Az MI-rendelet 50. cikkének (1) bekezdése szerinti tájékoztatási kötelezettség alóli kivételek 14

3.2.1.

A nyilvánvalóan MI-rendszerrel történő interakcióra vonatkozó kivétel 14

3.2.2.

A törvény által bűnüldözési célokra engedélyezett MI-rendszerekre vonatkozó kivétel 16

3.3.

Kölcsönhatás más uniós jogi aktusokkal 17

4.

AZ MI-RENDELET 50. CIKKÉNEK (2) BEKEZDÉSE: AZ MI ÁLTAL GENERÁLT VAGY MANIPULÁLT TARTALMAK JELÖLÉSE ÉS ÉSZLELÉSE 18

4.1.

Az MI-rendelet 50. cikke (2) bekezdésének fő alkotóelemei és koncepciói 18

4.1.1.

Szintetikus tartalmat létrehozó vagy manipuláló MI-rendszerek 18

4.1.2.

A hatály alá tartozó szintetikus tartalom modalitásai 19

4.1.3.

Az MI-rendelet 50. cikke (2) bekezdésének hatályán kívül eső tartalmak 20

4.2.

Az MI-rendelet 50. cikke (2) bekezdése szerinti jelölésre és észlelésre vonatkozó kötelezettség 21

4.2.1.

A jelölési kötelezettség 21

4.2.2.

Az észlelésre vonatkozó kötelezettség 22

4.2.3.

A műszaki megoldásokra vonatkozó követelményeknek való megfelelés: hatékony, interoperábilis, robusztus és megbízható 22

4.3.

Az MI-rendelet 50. cikkének (2) bekezdése szerinti kötelezettségek alóli kivételek 24

4.4.

Kölcsönhatás más uniós jogi aktusokkal 25

5.

AZ MI-RENDELET 50. CIKKÉNEK (3) BEKEZDÉSE: ÉRZELEMFELISMERŐ RENDSZEREK ÉS BIOMETRIKUS KATEGORIZÁLÁSI RENDSZEREK 26

5.1.

A fő alkotóelemek, fogalmak és a kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (3) bekezdése értelmében 27

5.1.1.

Az érzelemfelismerő rendszer fogalma 27

5.1.2.

A biometrikus kategorizálási rendszer fogalma 27

5.1.3.

Az MI-rendelet 50. cikkének (3) bekezdése szerinti tájékoztatási kötelezettség 27

5.2.

A bűnüldözési célból való felhasználásra vonatkozó kivétel 28

5.3.

Kölcsönhatás más uniós jogi aktusokkal 28

6.

50. CIKK (4) BEKEZDÉS: A DEEPFAKE-EK ÉS BIZONYOS SZÖVEGES KIADVÁNYOK CÍMKÉZÉSE 28

6.1.

A deepfake-ekkel kapcsolatos fő alkotóelemek, fogalmak és kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (4) bekezdése értelmében 28

6.1.1.

A „deepfake” fogalma 29

6.1.2.

Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése szerinti tájékoztatási kötelezettség 31

6.1.3.

A művészeti, kreatív, szatirikus, fiktív vagy hasonló deepfake tartalmak átláthatósága 32

6.1.4.

A bűnüldözésre való felhasználásra vonatkozó kivétel 34

6.1.5.

Kölcsönhatás más uniós jogi aktusokkal 34

6.2.

Az MI-vel létrehozott vagy manipulált szöveggel kapcsolatos fő alkotóelemek, fogalmak és kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (4) bekezdése értelmében 35

6.2.1.

A nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szöveg 36

6.2.2.

Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése szerinti tájékoztatási kötelezettség 37

6.2.3.

Kivétel az átláthatósági kötelezettség alól az emberi felülvizsgálaton vagy szerkesztői ellenőrzésen áteső, valamint szerkesztői felelősség alatt álló szövegek esetében 37

6.2.4.

A bűnüldözésre való felhasználásra vonatkozó kivétel 38

6.2.5.

Kölcsönhatás más uniós jogi aktusokkal 39

7.

AZ MI-RENDELET 50. CIKKÉNEK (5) BEKEZDÉSE ALAPJÁN SZOLGÁLTATOTT INFORMÁCIÓKRA ALKALMAZANDÓ HORIZONTÁLIS KÖVETELMÉNYEK 39

7.1.

Egyértelmű és jól megkülönböztethető módon nyújtott tájékoztatás 39

7.2.

Első interakció vagy kitettség 40

7.3.

Az alkalmazandó akadálymentességi követelményeknek való megfelelés 40

8.

AZ MI-RENDELET 50. CIKKÉNEK VÉGREHAJTÁSA 40

8.1.

A megfelelőnek értékelt gyakorlati kódex betartásának hatásai 41

8.2.

Piacfelügyeleti hatóságok 42

8.3.

Szankciók 42

8.4.

Hatálybalépés 42

9.

AZ IRÁNYMUTATÁS FELÜLVIZSGÁLATA ÉS AKTUALIZÁLÁSA 43

1.   HÁTTÉR ÉS CÉLKITŰZÉSEK

1.

A mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról és egyes rendeletek módosításáról szóló, 2024. június 13-i (EU) 2024/1689 európai parlamenti és tanácsi rendelet (a továbbiakban: MI-rendelet) 2024. augusztus 1-jén lépett hatályba (1). Az MI-rendelet harmonizált szabályokat állapít meg a mesterséges intelligencia (a továbbiakban: MI) Unión belüli forgalomba hozatalára, üzembe helyezésére és használatára vonatkozóan (2). A rendelet célja, hogy előmozdítsa az innovációt és a megbízható MI elterjedését, miközben biztosítja az Unióban az egészség, a biztonság és az alapvető jogok – többek között a demokrácia és a jogállamiság – magas szintű védelmét.

2.

Az MI-rendelet kockázatalapú megközelítést követ, és az MI-rendszereket négy különböző kockázati kategóriába sorolja, amelyek egyikébe az átláthatósági kockázatot jelentő MI-rendszerek tartoznak, amelyekre az MI-rendelet 50. cikkében meghatározott kötelezettségek vonatkoznak. Ezek az átláthatósági kötelezettségek két évvel az MI-rendelet hatálybalépését követően, azaz 2026. augusztus 2-ától alkalmazandók.

3.

Az MI-rendelet 96. cikke (1) bekezdésének d) pontja értelmében e bizottsági iránymutatások célja, hogy gyakorlati iránymutatásként szolgáljanak az illetékes hatóságok, valamint az MI-rendszerek szolgáltatói és alkalmazói számára az MI-rendelet 50. cikke szerinti átláthatósági kötelezettségeknek való következetes, hatékony, arányos és egységes módon történő megfeleléshez.

4.

Ezen iránymutatások kidolgozása során figyelembe vették a Bizottság által szervezett, széles körű konzultáció során összegyűjtött, különböző érdekelt felektől származó észrevételeket, a tagállamok által a Mesterséges Intelligenciával Foglalkozó Európai Testületben tett észrevételeket, valamint az érdekelt feleknek a konzultáció céljából közzétett iránymutatás-tervezettel kapcsolatos észrevételeit.

5.

Ezek az iránymutatások nem kötelező erejűek. Az MI-rendeletre vonatkozó bármilyen hivatalos értelmezést végső soron csak az Európai Unió Bírósága (a továbbiakban: EUB) adhat.

2.   AZ ÁTLÁTHATÓSÁGI KÖTELEZETTSÉGEK ÉS A HORIZONTÁLIS TÉMÁK ÁTTEKINTÉSE

2.1.   Az MI-rendelet 50. cikkében foglalt átláthatósági kötelezettségek áttekintése

6.

Az MI-rendelet 50. cikke négy átláthatósági kötelezettséget tartalmaz, amelyek mindegyike különböző típusú MI-rendszerekre vagy azok kimeneteire vonatkozik.

Rendelkezés

Az MI-rendszer/-kimenet típusa

Átláthatósági kötelezettség

Kivételek vagy speciális előírások

50. cikk (1) bekezdés

Természetes személyekkel közvetlen interakcióba lépő MI-rendszerek

A szolgáltatóknak úgy kell kifejleszteniük és megtervezniük az MI-rendszert, hogy az érintett természetes személyek tájékoztatást kapjanak arról, hogy egy MI-rendszerrel állnak interakcióban.

Kivétel, 1. ha az interakció mesterséges eredete nyilvánvaló, vagy 2. ha a rendszer használatát törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljára, kivéve, ha a rendszer bűncselekmény bejelentése céljából a nyilvánosság rendelkezésére áll.

50. cikk (2) bekezdés

Szintetikus kép-, video-, hang- vagy szöveges tartalmat létrehozó vagy manipuláló MI-rendszerek

A szolgáltatóknak biztosítaniuk kell, hogy az MI-rendszer kimenetei géppel olvasható formátumban meg legyenek jelölve, és azokról hatékony, interoperábilis, robusztus és megbízható műszaki megoldásokkal megállapítható legyen, hogy mesterségesen hozták őket létre vagy manipulálták őket.

Kivétel, 1. ha az MI-rendszer támogató funkciót tölt be hagyományos szerkesztés céljára, vagy nem változtatja meg lényegesen a bemeneti adatokat vagy azok szemantikáját, vagy 2. ha az MI-rendszert törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából.

50. cikk (3) bekezdés

Érzelemfelismerő vagy biometrikus kategorizálási MI-rendszerek

Az alkalmazóknak tájékoztatniuk kell az MI-rendszer működéséről az annak kitett természetes személyeket.

Kivétel, ha az MI-rendszert törvény engedélyezi bűncselekmények felderítése, megelőzése vagy nyomozása céljából.

50. cikk (4) bekezdés

Eredetinek vagy valóságosnak tűnő („deepfake”) tartalmat létrehozó vagy manipuláló, illetve a nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szöveget generáló vagy manipuláló MI-rendszerek

Az alkalmazóknak közölniük kell, hogy a tartalmat mesterségesen hozták létre vagy manipulálták.

Kivétel, 1. ha az MI-rendszert törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából, vagy 2. ha a szöveg a közzététele során emberi felülvizsgálaton vagy szerkesztői ellenőrzésen esett át, és szerkesztői felelősség alá tartozik.

A művészeti, kreatív, fiktív, szatirikus vagy hasonló művek vagy programok részét képező deepfake-ekre speciális tájékoztatási előírások vonatkoznak.

7.

E négy kötelezettség mindegyike ezen iránymutatások 3–6. szakaszában lesz vizsgálva. Ezeken túl az MI-rendelet 50. cikkének (5) bekezdése azt is előírja, hogy a rendelet (1)–(4) bekezdésében említett tájékoztatást legkésőbb az első interakció vagy kitettség alkalmával, egyértelmű és jól megkülönböztethető módon kell az érintett természetes személyek számára nyújtani, és hogy a tájékoztatásnak meg kell felelnie az alkalmazandó akadálymentesítési követelményeknek. Ezek a követelmények a 7. szakaszban kerülnek tisztázásra.

8.

Előfordulhat, hogy az MI-rendelet 50. cikkében meghatározott különböző átláthatósági kötelezettségeket együttesen kell alkalmazni egyetlen MI-rendszerre (vagy annak kimenetére), adott esetben különböző szereplők (szolgáltatók vagy alkalmazók) felelősségét vonva maguk után. Ha például egy MI-rendszer egy természetes személlyel való közvetlen interakció részeként képeket hoz létre, előfordulhat, hogy a rendszer szolgáltatójának meg kell felelnie az MI-rendelet 50. cikke (1) és (2) bekezdésének is. Amennyiben az említett rendszer deepfake-nek minősülő képeket vagy közérdekű ügyekről közzétett szöveget is képes előállítani, előfordulhat, hogy az alkalmazónak meg kell felelnie az MI-rendelet 50. cikke (4) bekezdésének is.

2.2.   Indokolás és célkitűzések

9.

Az MI-rendelet (132)–(136) preambulumbekezdésében kifejtettek szerint az átláthatósági kötelezettségek célja csökkenteni a hasonmássággal való visszaélés, a megtévesztés, a félretájékoztatás, a nagy léptékű manipuláció és a csalás kockázatát, valamint enyhíteni az MI által generált vagy manipulált tartalmak vagy interakció által a demokratikus folyamatokra és a társadalmi bizalomra gyakorolt lehetséges káros hatásokat. Ha az egyének tájékoztatást kapnak arról, hogy egy interakció és egy tartalom MI-n alapul, az segíteni fogja őket abban, hogy megalapozott döntéseket hozzanak, miközben a bizalom és az információs ökoszisztéma integritásának megőrzéséhez is hozzájárul. Az átláthatóság nemcsak technikai megfelelési követelmény, hanem annak is előfeltétele, hogy a természetes személyek felismerjék az MI által közvetített interakciókat és tartalmakat, illetve az érzelemfelismerő vagy biometrikus kategorizálási rendszerek használatát. Az interaktív és generatív MI-rendszerek átlátható és megbízható használatának biztosítása lehetővé teszi a személyes autonómia és az európai értékek, az emberi méltóság és más alapvető emberi jogok (pl. a gondolatszabadság, a magánélethez való jog, az egyenlőség és a megkülönböztetésmentesség, a fogyasztóvédelem, a szellemi tulajdon stb.) fenntartását is, továbbá a véleménynyilvánítás szabadságának és a médiatartalmak hitelességének megőrzését.

2.3.   Az MI-rendelet 50. cikke szerinti felelős szereplők

10.

Az MI-rendelet 3. cikkének 3. pontja szerint a szolgáltatók olyan természetes vagy jogi személyek, hatóságok, ügynökségek vagy egyéb szervek, akik vagy amelyek MI-rendszereket fejlesztenek vagy fejlesztetnek, és azokat a saját nevük vagy védjegyük alatt – akár fizetés ellenében, akár ingyenesen – az Unió piacán forgalomba hozzák vagy üzembe helyezik. A szolgáltatóknak meg kell felelniük az MI-rendelet 50. cikkének (1) és (2) bekezdésében foglalt, rájuk alkalmazandó átláthatósági kötelezettségeknek, függetlenül attól, hogy az Unióban vagy harmadik országban telepedtek-e le vagy tartózkodnak-e (3). Az Unión kívül letelepedett vagy ott tartózkodó szolgáltatók is az MI-rendelet hatálya alá tartoznak, ha MI-rendszerük kimenetét az Unióban használják (4). Az esetleges, előre nem látható vagy jogosulatlan továbbfelhasználás azonban önmagában nem vonhatja maga után az Unióban forgalomba nem hozott vagy üzembe nem helyezett interaktív vagy generatív MI-rendszerek ilyen harmadik országbeli szolgáltatóira vonatkozó kötelezettségek alkalmazását, az illetékes piacfelügyeleti hatóságok azon hatáskörének sérelme nélkül, hogy kimeneteiket az MI-rendeletnek meg nem felelőnek tekintsék.

11.

A szolgáltatóknak biztosítaniuk kell, hogy interaktív vagy generatív MI-rendszereik a rendszer tervezésébe és működésébe ágyazott átláthatósággal rendelkezzenek, és biztosítaniuk kell, hogy az MI-rendelet 50. cikkének (1), (2) és (5) bekezdésében foglalt valamennyi vonatkozó átláthatósági kötelezettség legkésőbb e rendszerek forgalomba hozatalakor vagy üzembe helyezésekor teljesüljön. Az MI-rendszerrel interakcióba lépő vagy a rendelkezések hatálya alá tartozó kimeneteinek kitett valamennyi természetes személyt hatékonyan és következetesen tájékoztatni kell az MI-rendszer teljes életciklusa során onnantól fogva, hogy az adott szolgáltató forgalomba hozza vagy üzembe helyezi a rendszert (függetlenül attól, hogy kik a rendszer alkalmazói vagy más felhasználói).

Például egy vállalat a saját neve vagy védjegye alatt generatív vagy interaktív MI-alkalmazást (pl. csevegőrobotot, képgenerátort, MI-ügynököt) biztosít az uniós piacon a fogyasztók, a foglalkozásszerű felhasználók vagy más jogi személyek számára, akik az MI-rendszert közvetlenül használhatják interakcióra vagy tartalomgenerálásra (többek között azáltal, hogy a rendszert a meglévő folyamataikba integrálják, és ennek megfelelően használják azt anélkül, hogy módosításokra vagy további alkotóelemekre lenne szükség). A vállalat olyan szolgáltató, amely felelős az MI-rendelet 50. cikkének (1) és/vagy (2) bekezdésében foglalt átláthatósági kötelezettségeknek való megfelelésért, függetlenül attól, hogy az MI-rendszer ingyenesen vagy fizetés ellenében használható-e, valamint, hogy a szolgáltató az Unióban vagy harmadik országban telepedett-e le vagy tartózkodik-e.

Egy másik példa a szolgáltatóra az a vállalat vagy más szervezet (pl. hatóság), amely házon belül interaktív MI-rendszert (pl. csevegőrobotot) fejlesztett ki, és azt saját használatra, saját neve vagy védjegye alatt üzembe helyezi az Unióban.

Ha egy vállalat átvesz egy másik szolgáltató által forgalomba hozott, már meglévő generatív MI-rendszert, és módosítja ezt a rendszert (pl. új tanítóadatokkal), majd saját neve vagy kereskedelmi piaca alatt üzembe helyezi, az adott vállalat az új rendszer szolgáltatójává válik, az eredeti MI-rendszer szolgáltatójának ez utóbbival kapcsolatos felelősségének sérelme nélkül.

12.

Az alkalmazók a felügyeletük alá tartozó MI-rendszereket használó természetes vagy jogi személyek, hatóságok, ügynökségek vagy egyéb szervek, kivéve, ha a használat személyes, nem szakmai tevékenység céljából történik (5). Az MI-rendszer feletti „felügyelet” alatt a rendszer telepítésére vonatkozó döntést és a rendszer (valamint annak kimenetei) tényleges használatának módja feletti felelősségvállalást kell érteni. Ehhez nincs feltétlenül szükség technikai ellenőrzésre az MI-rendszer működése felett, elegendő az, hogy az alkalmazó dönt arról, hogy milyen célokra és hogyan használja az MI-rendszert (többek között decentralizált munkafolyamatokban és csoportos vállalati struktúrákban). Az összetett tartalomelőállítási és -forgalmazási értékláncokban részt vevő alkalmazóknak arányos intézkedéseket kell hozniuk annak biztosítása érdekében, hogy az MI-rendelet 50. cikkének (4) bekezdése alapján általuk végrehajtott tartalomcímkézés egyértelmű és jól megkülönböztethető módon jelenjen meg a célközönség és az előre látható közönség számára az első kitettség alkalmával az MI-rendelet 50. cikkének (5) bekezdésével összhangban (pl. a terjesztő partnerekkel kötött szerződéses feltételek, a felhasználói élménnyel kapcsolatos beállítások és a megjelenítendő interfészek révén).

13.

Az alkalmazók az MI-rendelet 50. cikkének (3) és (4) bekezdésében foglalt átláthatósági kötelezettségek hatálya alá tartoznak, ha letelepedési vagy tartózkodási helyük az Unióban van, vagy ha letelepedési vagy tartózkodási helyük harmadik országban van, amennyiben az MI-rendszer által előállított kimenet használatára az Unióban kerül sor (6). Ez utóbbi esetben az Unión kívül tartózkodó vagy letelepedett szervezetekre akkor vonatkoznak az átláthatósági kötelezettségek, amennyiben maga az alkalmazó előre látja, hogy az MI-kimeneteket az Unión belül fogják terjeszteni és felhasználni (azaz az Unión belüli terjesztés irányítása vagy engedélyezése által, többek között a deepfake-eknek a globálisan hozzáférhető interneten való közzététele révén). A harmadik országbeli alkalmazókat azonban nem kötik az átláthatósági kötelezettségek, amennyiben az MI-rendszer tartalma előre nem látható és általuk nem befolyásolható csatornákon keresztül jut el az uniós közönséghez.

14.

Amennyiben egy MI-rendszer alkalmazója olyan jogi személy, amelynek a felügyelete alatt használják a rendszert (pl. reklámcég), az adott jogi személy utasításai alapján és ellenőrzése alatt eljáró egyes alkalmazottak (pl. digitális animátorok, webtervezők, tartalomalkotók, újságírók) nem tekintendők az adott rendszer különálló alkalmazóinak. A jogi személy marad akkor is az alkalmazó, ha harmadik feleket (pl. vállalkozókat, szabadúszókat) von be a rendszer üzemeltetésébe a nevében, a felelőssége és ellenőrzése mellett.

Egy, az Unióban letelepedett médiaorgánum például, amelynek szerkesztői MI-rendszert használnak arra, hogy egy globálisan hozzáférhető weboldalon közzétett, közérdekű ügyekről szóló, MI által generált szöveges kiadványokkal támogassák az aktuális eseményekről szóló írásbeli tudósításukat, az MI-rendelet hatálya alá tartozó alkalmazónak minősül. Hasonlóképpen, az a harmadik országban letelepedett vállalat, amely MI-rendszert használ arra, hogy deepfake-et hozzon létre egy hírességről, aki az Unióban megjelenített hirdetésében szerepel, szintén az MI-rendelet hatálya alá tartozó alkalmazónak minősül.

Ezzel szemben nem minősül alkalmazónak az a társaság, amely csupán megbíz egy reklámügynökséget egy hirdetés elkészítésével anélkül, hogy döntéseket hozna és ellenőrzést gyakorolna afölött, hogy a reklámügynökség használ-e mesterséges intelligenciát a gyártási folyamatban, és ha igen, hogyan.

15.

Az üzemeltetők (például a szolgáltatók és az alkalmazók) egyidejűleg több szerepet is betölthetnek egy MI-rendszerrel kapcsolatban. Előfordulhat például, hogy egy vállalat kifejleszt egy házon belüli generatív MI-rendszert, és azt deepfake-ek előállítására használja. Ebben az esetben szolgáltatónak és alkalmazónak is minősül, amelynek biztosítania kell a géppel olvasható jelölésre vonatkozó, az MI-rendelet 50. cikkének (2) bekezdése szerinti kötelezettségeknek, valamint a deepfake-ek egyértelmű és észlelhető címkézésére vonatkozó, az MI-rendelet 50. cikkének (4) bekezdése szerinti követelményeknek való megfelelést.

16.

Ezzel szemben más szereplők (például a tárhelyszolgáltatók, beleértve az online platformokat is, vagy a műsorszolgáltatók), amelyek szerepe a harmadik felek által létrehozott, MI által generált vagy manipulált tartalmak terjesztésére vagy továbbítására korlátozódik, vagy amelyek MI által generált vagy manipulált tartalmakat fogadnak, vagy ilyen tartalmaknak vannak kitéve anélkül, hogy hatáskörrel rendelkeznének az MI-rendszernek az MI által történő tartalomgenerálás vagy -manipulálás céljából történő használata felett, nem minősülnek az MI-rendelet értelmében vett alkalmazóknak. Ezek a szereplők – anélkül, hogy az MI-rendelet értelmében felelősséggel tartoznának – mindazonáltal fontos szerepet játszhatnak az értékláncban az információs ökoszisztéma integritásának és a bele vetett bizalomnak a megőrzésében. Ezért esetükben határozottan ajánlott, hogy megőrizzék az MI-rendelet 50. cikke alapján bevezetett jelölést és címkézést, valamint arányos és technikailag megvalósítható intézkedéseket hajtsanak végre annak érdekében, hogy a természetes személyek képesek legyenek észlelni az MI által generált vagy manipulált tartalmakat, a generatív MI-rendszerek szolgáltatói és alkalmazói felelősségének, illetve az (EU) 2022/2065 rendelet (a digitális szolgáltatásokról szóló rendelet) (7) vagy más alkalmazandó uniós vagy nemzeti jog szerinti kötelezettségek vagy felelősség sérelme nélkül.

17.

A Bizottság a szakmai minőségükben eljáró és tartalmakat terjesztő egyéb szereplőket is arra ösztönzi (még akkor is, ha rájuk nem is vonatkozik közvetlenül az MI-rendelet 50. cikke), hogy hozzanak arányos és megfelelő intézkedéseket annak érdekében, hogy a tartalomnak végső soron kitett természetes személyek hatékony tájékoztatást kapjanak, és képesek legyenek észlelni a mesterségesen létrehozott vagy manipulált eredetű tartalmakat. Ezen túlmenően az is előfordulhat, hogy ezeknek a feleknek más alkalmazandó jogi vagy etikai szabályok alapján kell megcímkézniük a deepfake-eket vagy a közérdekű ügyekkel kapcsolatban közzétett szövegeket (pl. egy műsorszolgáltató megcímkéz és a televíziós műsor részeként megjelenít egy magánszemély által létrehozott deepfake-et). Önmagában azonban az a tény, hogy egy szereplő tartalmakat címkéz meg vagy címkézett tartalmakat használ, nem jelenti azt, hogy ez utóbbiak az MI-rendelet értelmében „alkalmazónak” minősülnek. Az MI-rendelet nem terjeszti ki vagy nem érinti e szereplőknek az alkalmazandó jogi keretek szerinti jogi felelősségét, ha nem minősülnek egyidejűleg MI-rendszerek szolgáltatóinak vagy alkalmazóinak is.

2.4.   Az MI-rendelet hatálya alól történő kizárások

18.

Az MI-rendelet 2. cikke számos általános kizárást ír elő az MI-rendelet hatálya alól, amelyeket a tiltott mesterségesintelligencia-gyakorlatokról szóló bizottsági iránymutatásban már tisztáztak (8). Ez a szakasz ennek megfelelően csak azokkal a szempontokkal foglalkozik, amelyek az MI-rendelet 50. cikkében foglalt átláthatósági kötelezettségek szempontjából relevánsak.

2.4.1.   Pusztán személyes, nem szakmai tevékenység keretében eljáró alkalmazók

19.

Az MI-rendelet 2. cikkének (10) bekezdése szerint az MI-rendelet „nem alkalmazandó azon alkalmazók kötelezettségeire, akik az MI-rendszereket pusztán személyes, nem szakmai tevékenység során használó természetes személyek” (9). „Szakmai” tevékenységnek kell tekinteni minden olyan tevékenységet, amelynek révén a természetes személyek rendszeresen gazdasági előnyhöz jutnak, vagy más módon szakmai, üzleti, kereskedelmi, jövedelemszerző vagy szabadfoglalkozású tevékenységet folytatnak. A „pusztán személyes” megjelölés a nem szakmai tevékenység minősítésére szolgál, ami azt jelenti, hogy a személynek egyszerre kell személyes és nem szakmai minőségben eljárnia, hogy a kizárás hatálya alá tartozzon. A szakmai minőségben eljáró alkalmazó nevében vagy felügyelete alatt eljáró természetes személyek általi felhasználás a hivatásos alkalmazónak az MI-rendelet 50. cikkének (3) és (4) bekezdésében meghatározott átláthatósági kötelezettségei hatálya alá tartozik.

Példák az MI-rendszereknek a rendelet hatálya alól kizárt személyes, nem szakmai használatára:

—

a háztartásuk tagjairól deepfake-ek létrehozására MI-rendszert használó egyének,

—

olyan egyének, akik személyes minőségükben MI-rendszert használnak arra, hogy különböző témákban szövegeket generáljanak (pl. diákok, akik mesterséges intelligenciát használnak házi feladatuk megírására),

—

olyan egyének, akik személyes minőségükben MI-rendszert használnak a közösségi médiában terjesztett deepfake-ek létrehozására.

20.

Az MI-rendelet 2. cikkének (10) bekezdésében foglalt kizárás az alkalmazók kötelezettségei tekintetében csak alkalmazandó, ha a rendszert pusztán személyes, nem szakmai tevékenység céljából használják. A rendszert forgalomba hozó vagy üzembe helyező szolgáltatók, valamint a rendszert foglalkozásszerű felhasználás keretében alkalmazók kötelezettségei tekintetében a rendszer mint olyan továbbra is az MI-rendelet hatálya alá tartozik. A kivétel nem érinti az egyéb vonatkozó uniós és nemzeti jog alkalmazását sem.

Ha egy MI-rendszer szolgáltatója például egy személyes karácsonyi képeslapon megjelenítendő deepfake-ek előállítására használja a rendszert, az MI-rendelet 50. cikkének (2) bekezdésében meghatározott átláthatósági kötelezettséggel összhangban géppel olvasható módon meg kell jelölnie ezeket a deepfake-eket. A rendszernek ugyanakkor a természetes személyek által pusztán személyes, nem szakmai tevékenységek céljából történő használatára nem vonatkozik az MI-rendelet 50. cikkének (4) bekezdésében meghatározott alkalmazói kötelezettség.

2.4.2.   Kutatás és fejlesztés

21.

Az MI-rendelet 2. cikkének (6) bekezdése kizárja a rendelet hatálya alól a kifejezetten a tudományos kutatás-fejlesztés kizárólagos céljára kifejlesztett és üzembe helyezett MI-rendszereket vagy MI-modelleket, és azok kimenetét. Ez a kizárás nem érinti az alkalmazandó kutatási etikai normákat, valamint az uniós adatvédelmi és egyéb jogszabályokat. Az MI-rendelet 50. cikkével összefüggésben ez a kizárás nemcsak az interaktív MI-rendszerekre terjed ki, hanem a tudományos kutatással összefüggésben használt generatív MI-rendszerek kimeneteire is (beleértve a deepfake tartalmakat is). Ha azonban ezeket a rendszereket üzembe helyezik, vagy kimeneteiket a tudományos kutatástól és fejlesztéstől eltérő célokra használják, az MI-rendelet 50. cikkében foglalt vonatkozó átláthatósági kötelezettségeknek továbbra is meg kell felelni.

Ha például a kutatók kifejlesztenek, forgalomba hoznak vagy üzembe helyeznek egy interaktív MI-rendszert, és meg kívánják vizsgálni vele, hogy a természetes személyek képesek-e különbséget tenni az MI-rendszerek és az emberek között az adott MI-rendszerrel való szóbeli interakció során, nem kell végrehajtaniuk az MI-rendelet 50. cikkének (1) és (2) bekezdése szerinti vonatkozó átláthatósági kötelezettségeket. Ha azonban ugyanezt az interaktív MI-rendszert a kutatástól és fejlesztéstől eltérő célokra is üzembe helyezik, be kell tartaniuk az MI-rendelet 50. cikkében foglalt vonatkozó átláthatósági kötelezettségeket.

22.

Az MI-rendelet 2. cikkének (8) bekezdése kizárja továbbá a rendelet hatálya alól az MI-rendszerekkel vagy MI-modellekkel kapcsolatos, a forgalomba hozatalt vagy üzembe helyezést megelőzően folytatott kutatási, tesztelési és fejlesztési tevékenységeket. Ez a kizárás nem vonatkozik a(z MI-szabályozói tesztkörnyezetekben vagy azokon kívül végzett) valós körülmények közötti tesztelésre. Továbbá, amint egy MI-rendszert ilyen kutatási és tesztelési tevékenységek eredményeként forgalomba hoznak vagy üzembe helyeznek, annak mindazonáltal meg kell felelnie az MI-rendelet 50. cikke szerinti vonatkozó átláthatósági kötelezettségeknek (10).

2.4.3.   Szabad és nyílt forráskódú licencek alapján kibocsátott MI

23.

Az MI-rendelet 2. cikkének (12) bekezdése szerint a szabad és nyílt forráskódú licencek alapján kiadott MI-rendszerek nem tartoznak az MI-rendelet hatálya alá, feltéve, hogy nem tartoznak az MI-rendelet 5. cikkében foglalt tilalmak vagy az MI-rendelet 50. cikkében foglalt átláthatósági kötelezettségek hatálya alá, vagy nem minősülnek nagy kockázatúnak (11). Ez azt jelenti, hogy az MI-rendelet 50. cikkének hatálya alá tartozó nyílt forráskódú MI-rendszerek szolgáltatóinak és alkalmazóinak továbbra is gondoskodniuk kell arról, hogy megfeleljenek a vonatkozó átláthatósági kötelezettségeiknek.

24.

Ezzel szemben az olyan, szabad és nyílt forráskódú MI-alkotóelemek szolgáltatóira, amelyek közé a testreszabásra és az MI-rendszerbe való integrálásra szolgáló szoftverek, adatok, modellek, eszközök, szolgáltatások vagy folyamatok tartoznak, és amelyek önmagukban (részben vagy egészben) nem minősülnek MI-rendszernek, nem vonatkoznak az MI-rendelet 50. cikkében foglalt átláthatósági kötelezettségek. Az ilyen rendszerek szolgáltatóit mindazonáltal arra ösztönzik, hogy ezeket a modelleket, alkotóelemeket és szolgáltatásokat az alábbi 27. pontban leírt módon tervezzék meg, amennyiben ez arányos és megvalósítható.

2.5.   Kölcsönhatás a tiltott gyakorlatokkal, valamint a nagy kockázatú MI-rendszerekre és az MI-jártasságra vonatkozó követelményekkel

25.

Az MI-rendelet (137) preambulumbekezdése egyértelművé teszi, hogy egy adott MI-rendszer esetében az MI-rendelet 50. cikke szerinti átláthatósági kötelezettségeknek való megfelelés nem értelmezhető úgy, mint amely azt jelzi, hogy az adott MI-rendszer használata vagy annak kimenete jogszerű az MI-rendelet értelmében. Különösen az MI-rendelet 50. cikkében foglalt kötelezettségek hatálya alá tartozó MI-rendszerek esetében előfordulhat, hogy azok az MI-rendelet 5. cikkének hatálya alá tartoznak, és így tiltottak (például az érzelemfelismerő rendszerek használata a munkahelyeken vagy az oktatási intézményekben) (12). Emellett az MI-rendelet 50. cikkének hatálya alá tartozó MI-rendszerek nagy kockázatúnak is minősíthetők (13), és az ilyen rendszerekre vonatkozó követelmények és kötelezettségek hatálya alá tartozhatnak. Az MI-rendelet 50. cikkének való megfelelés ezért nem helyettesíti, korlátozza vagy érinti az MI-rendelet egyéb rendelkezéseiből eredő kötelezettségeket (14). Az MI-rendszerek ugyanakkor anélkül is az MI-rendelet 50. cikkének hatálya alá tartozhatnak, hogy az MI-rendelet 6. cikke értelmében nagy kockázatúnak minősülnének. Az MI-rendelet 4. cikke szerinti MI-jártassági követelmények az MI-rendelet 50. cikkének hatálya alá tartozó MI-rendszerek szolgáltatóira és alkalmazóira is vonatkoznak.

2.6.   Kölcsönhatás az általános célú MI-modellekre és/vagy -rendszerekre alkalmazandó szabályokkal

26.

Az MI-rendelet 50. cikke bizonyos MI-rendszerekre alkalmazandó, amelyekbe általános célú MI-rendszerek (15), például a természetes személyekkel való közvetlen interakciót támogató csevegőrobotok vagy a szintetikus tartalom (beleértve a deepfake-eket is) előállítására vagy manipulálására alkalmas MI-rendszerek is tartoznak (16).

27.

Az MI-rendelet 50. cikke nem kifejezetten az általános célú MI-modellekre alkalmazandó. Ha azonban az MI-rendelet 50. cikke (1) vagy (2) bekezdésének hatálya alá tartozó interaktív vagy generatív MI-rendszer egy ugyanazon szolgáltató által biztosított általános célú MI-modellre épül, az ezen iránymutatásban meghatározott átláthatósági intézkedések a modell szintjén is végrehajthatók (lásd még az alábbi 4. szakaszt). Továbbá, bár nem tartoznak az MI-rendelet 50. cikkének hatálya alá, az egyéb általános célú MI-modellek és más generatív MI-modellek szolgáltatóit is arra ösztönzik, hogy hajtsanak végre megfelelő átláthatósági intézkedéseket a modell szintjén az interaktív MI-rendszerek azonosítása, valamint az MI által generált és manipulált tartalmak jelölése érdekében. Ez különösen előnyös abból a szempontból, hogy megkönnyíti a downstream MI-rendszerszolgáltatók számára az MI-rendelet 50. cikkének (1) és (2) bekezdése szerinti kötelezettségeik teljesítését (17), valamint hozzájárul az információs ökoszisztémába vetett bizalomnak és az ökoszisztéma integritásának a megőrzéséhez. A rendszerszintű kockázatot jelentő általános célú MI-modellek esetében a mesterséges intelligenciával való interakciók azonosítására, valamint az MI által generált vagy manipulált tartalmak jelölésére szolgáló modellszintű biztonsági intézkedések adott esetben részét képezhetik azon kockázatenyhítési intézkedések szélesebb körének, amelyeket a szolgáltatók az MI-rendelet 55. cikke (1) bekezdésének b) pontja szerinti, a rendszerszintű kockázatok enyhítésére vonatkozó kötelezettségük részeként hozhatnak.

3.   AZ MI-RENDELET 50. CIKKÉNEK (1) BEKEZDÉSE: AZ ÁTLÁTHATÓSÁG AZ INTERAKTÍV MI-RENDSZEREK ESETÉBEN

28.

Az MI-rendelet 50. cikkének (1) bekezdése a természetes személyekkel közvetlenül interakcióba lépő MI-rendszerek szolgáltatóinak szól, akiknek úgy kell megtervezniük és kifejleszteniük rendszereiket, hogy az érintett természetes személyek tájékoztatást kapjanak arról, hogy MI-rendszerrel állnak interakcióban. Amint azt az MI-rendelet (132) preambulumbekezdése kifejti, e tájékoztatási kötelezettség célja, hogy lehetővé tegye az említett természetes személyek számára, hogy megalapozott döntéseket hozzanak a rendszer kimeneteivel kapcsolatban, elkerüljék az ilyen rendszerekre való túlzott támaszkodást, és lehetővé tegye az említett természetes személyek számára, hogy ennek megfelelően vessék bizalmukat a tartalomba és az interakciókba.

3.1.   Fő alkotóelemek, fogalmak és a kapcsolódó átláthatósági kötelezettség(ek)

29.

Az MI-rendelet 50. cikkének (1) bekezdésében foglalt átláthatósági kötelezettség az MI-rendszerek szolgáltatóira vonatkozik, amennyiben a rendszert természetes személyekkel való közvetlen interakcióra szánják, és az interakció nem tartozik az alábbi kivételek egyikének hatálya alá sem: 1. egy észszerűen jól tájékozott, figyelmes és körültekintő természetes személy szempontjából nyilvánvaló, hogy az interakció mesterséges eredetű, vagy 2. a rendszert törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából, kivéve, ha a rendszer bűncselekmény bejelentése céljából a nyilvánosság rendelkezésére áll.

3.1.1.   A természetes személyekkel való közvetlen interakcióra szánt MI-rendszerek

30.

Ahhoz, hogy egy rendszer az MI-rendelet 50. cikke (1) bekezdésének hatálya alá tartozzon, négy elemnek kell jelen lennie: i. a rendszernek MI-rendszernek kell lennie, ii. amely rendeltetése szerint interakcióba lép, iii. közvetlenül, iv. természetes személyekkel.

i.

MI-rendszer: A rendszernek meg kell felelnie az MI-rendszerre vonatkozó fogalommeghatározás elemeinek (18), amelybe nem tartoznak bele az egyszerű, nem mesterséges intelligencián alapuló, automatizált reagálási mechanizmusok (pl. a hagyományos automatikus e-mailek, amikor valaki házon kívül van, a szabályokon alapuló gyorsüzenet-válaszok).

ii.

Rendeltetése szerint interakcióba lép: Az MI-rendszert azzal a céllal kellett, hogy létrehozzák, hogy interakcióba lépjen természetes személyekkel. Az interakció a természetes személyek, valamint a valódi beszélgetésre vagy reagálásra képes MI-rendszer közötti kétirányú információcsere vagy tevékenységek képességét foglalja magában. Ez különböző formákat (pl. hallható, vizuális és fizikai) ölthet. A természetes személyeknek lehetőségük kell, hogy legyen bemeneti adatokat (pl. írott szöveget vagy a tartalom, hang vagy fizikai műveletek egyéb formáit) megadni az MI-rendszernek (pl. technikai kommunikációs eszközökön keresztül, többek között online interfészeken, telefonon vagy e-mailben, illetve közvetlenül), míg az MI-rendszernek képesnek kell lennie arra, hogy kontextuális kimenettel reagáljon (amelybe bármely típusú tartalom vagy művelet beletartozhat), és fordítva. Az interakció bármely olyan kimenettel vagy formátumban történhet, amelyet az emberek képesek érzékelni és megérteni. Nem szükséges, hogy ember kezdeményezze; történhet emberi reakciót kiváltó, MI által generált tartalmak vagy tevékenységek révén is. Az interakció lehet egyszeri információcsere (pl. egyetlen prompt, amelyet egyetlen válasz követ) vagy végbemehet egy bizonyos időszak alatt (többfordulós). Azok a rendszerek, amelyek csak passzívan gyűjtenek adatokat, és nem képesek természetes személyekkel való információcserére (pl. automatizált arcfelismerést használó belépési ellenőrzések) vagy csak egyszeri visszajelzéseket gyűjtenek (pl. spamszűrők), nem tekintendők úgy, hogy természetes személyekkel interakcióba lépnek.

iii.

Közvetlen interakció: Az MI-rendszer és a természetes személyek közötti interakciónak közvetlennek kell lennie. Ez jellemzően valós idejű vagy közel valós idejű interakciót jelent (többek között a rendszer azon képessége révén, hogy üzeneteket írjon és küldjön természetes személyeknek, vagy más módon interakcióba lépjen a természetes személyek által érzékelt fizikai vagy virtuális környezettel). A közvetlen interakcióba nem tartozik bele az olyan közvetett vagy közvetített emberi interakció, amely során a természetes személy a rendszerrel való közvetlen interakció nélkül van kitéve MI-kimeneteknek (például ha ügyfélszolgálati munkatársak MI-n alapuló támogató eszközöket használnak a természetes személyekkel való kommunikáció segítésére, vagy ha az MI-kimenetet nem maga az MI-rendszer, hanem a tartalmat terjesztő másik személy bocsátja az adott személy rendelkezésére). Önmagában az a lehetőség azonban, hogy emberek beavatkozhatnak az MI-rendszer kimeneteibe vagy felülvizsgálhatják azokat, nem használható fel az MI-rendelet 50. cikkének (1) bekezdése szerinti tájékoztatási követelmény alkalmazásának megkerülésére. Az MI által generált válaszokat ember által válogatott tartalommal ötvöző termékek és szolgáltatások esetei az MI-rendelet 50. cikke (1) bekezdésének hatálya alá tartoznak, és az interakcióban szereplő azon konkrét kimenetek esetében igényelnek tájékoztatást, amelyeket mesterséges intelligenciával generáltak, kivéve, ha ezeket az MI-kimeneteket emberek mint a természetes személyek fő beszélgetőpartnerei megfelelően felülvizsgálták és ők küldték.

iv.

Természetes személyekkel: Az MI-rendelet 50. cikkének (1) bekezdése előírja, hogy az MI-rendszernek természetes személyekkel kell interakcióba lépnie. Ezek a személyek lehetnek foglalkozásszerű alkalmazók, egyéb felhasználók (azok is, akik a rendszert kizárólag személyes tevékenységekre használják) vagy a rendszert a nevükben használó egyéb személyek. Nem tartoznak a kötelezettség hatálya alá azok az MI-rendszerek, amelyek zárt fizikai környezetben (például egy ipari gépezet részeként) működnek, az MI-rendszerek (köztük az MI-ügynökök) között megvalósuló, gépek közötti backend hívások, amelyek kimenetei nem arra szolgálnak, hogy természetes személyeket érjenek el, vagy a természetes személyekkel való közvetlen kapcsolat nélküli virtuális környezetek.

31.

Az MI-ügynökök akkor tartoznak az MI-rendelet 50. cikke (1) bekezdésének hatálya alá, ha képesek interakcióba lépni az őket utasító személyekkel vagy más természetes személyekkel a feladatok (pl. foglalások készítése, levelezés kezelése, szerződések megtárgyalása vagy megkötése, beszerzések végrehajtása stb.) végrehajtása során. Az MI-ügynököket úgy kell megtervezni és kifejleszteni, hogy felfedjék mind mesterséges jellegüket, mind azt a személyt, akinek a nevében eljárnak, figyelembe véve az eredet átláthatóságának, valamint a tevékenységük következményeivel kapcsolatos hatáskör-átruházásnak és elszámoltathatóságnak a szükségességét. Ide tartoznak azok az esetek is, amikor az MI-ügynökök képesek összetett, többszereplős architektúrákban együttműködni más olyan MI-ügynökökkel, amelyek a feladat végrehajtása során közvetlen interakcióba lépnek a természetes személyekkel. Mindazonáltal az MI-ügynök szolgáltatója nem feltétlenül tudja mindig előre azonosítani az MI-ügynök más természetes személyekkel való közvetlen interakciójának egyedi eseteit, amint az MI-ügynököt különböző kontextusokban alkalmazzák. Amennyiben a szolgáltató nem tudja megbízhatóan meghatározni az MI-ügynök forgalomba hozatala vagy üzembe helyezése előtt, hogy az MI-ügynök közvetlenül interakcióba fog-e lépni egy természetes személlyel, az ügynököt architektúra-szinten úgy kell megtervezni és arra kell utasítani, hogy tájékoztatást nyújtson saját magáról minden olyan helyzetben, amikor észszerűen valószínűsíthető, hogy az ügynök kapcsolatba léphet egy természetes személlyel (beleértve azt is, amikor egy természetes személy jogi személyt képviselhet vagy jogi személy nevében járhat el). Ezen túlmenően az MI-ügynököknek a kulcsfontosságú lépések (pl. az engedélyezés, a jelentéstétel, a validálás stb. alkalmával, beleértve azt az esetet is, amikor az alkalmazott MI-ügynök nem közvetlenül egy természetes személy által, hanem más MI-rendszerek által generált kimeneteket kap, dolgoz fel, vagy azokra támaszkodik) alkalmával és minden új interakció során tájékoztatást kell nyújtaniuk saját magukról az őket utasító személyek számára.

Példák az MI-rendelet 50. cikke (1) bekezdésének hatálya alá tartozó, természetes személyekkel való közvetlen interakcióra szánt MI-rendszerekre:

—

MI-n alapuló hangasszisztensek, csevegőrobotok/beszélgető ügynökök különböző kontextusokban (pl. közszolgáltatás, ügyfélszolgálat, panaszkezelés, e-kereskedelem, pénzügyek, egészségügy, oktatás stb.),

—

incidensek, csalások vagy egyéb bejelentések megtételére szolgáló MI-forródrót, (humanoid) robotok/kobotok, MI-társak; kedvtelésből tartott robotállatok; MI-avatárok (pl. virtuálisvalóság-környezetekben),

—

MI-robotok a közösségi hálózatokon és a médiában, kódoló ügynökök és más MI-ügynökök, amelyek képesek közvetlenül interakcióba lépni természetes személyekkel (akár összetett, többszereplős architektúrákban is).

3.2.1.

Példák az MI-rendelet 50. cikke (1) bekezdésének hatályán kívül eső olyan Mi-rendszerekre, amelyek nem állnak természetes személyekkel közvetlen interakcióban:

—

MI-n alapuló hagyományos ipari robotok, amelyek zárt ipari környezetben működnek, és amelyeket nem emberekkel való interakcióra szántak (pl. elektronikus összeszerelő robotok),

—

MI-n alapuló ajánlórendszerek, spamszűrők, automatizált fordító vagy átíró eszközök,

—

MI-n alapuló keresés és információlekérdezés tartalom létrehozása vagy módosítása nélkül,

—

MI-n alapuló, szöveg és kód automatikus kiegészítésére szolgáló technikák, hitelesítő/biometrikus felismerő rendszerek, backend döntéstámogató rendszerek, ahol a felhasználó csak úgy látja az MI kimenetét, hogy nincs lehetősége a rendszerrel való közvetlen interakcióra,

—

MI-n alapuló prediktív karbantartási és optimalizálási rendszerek gyárakban és ipari alkalmazásokban, MI-n alapuló termékvizualizáció (pl. virtuális felpróbálás, szobatervezés, termékvizualizáció), MI-n alapuló, egykörös útvonaltervező eszközök, a viselkedés elemzése céljából feldolgozott ügyfélhívások átírása stb.

3.1.2.   Az MI-rendelet 50. cikkének (1) bekezdése szerinti tájékoztatási kötelezettség

32.

Az MI-rendelet 50. cikkének (1) bekezdése arra kötelezi a természetes személyekkel közvetlenül interakcióba lépő MI-rendszerek szolgáltatóit, hogy MI-rendszereiket (beleértve az MI-ügynököket és az általános célú MI-rendszereket) úgy tervezzék meg és fejlesszék ki, hogy az érintett természetes személyek tájékoztatást kapjanak arról, hogy MI-rendszerrel állnak interakcióban.

33.

Bár a tájékoztatási mechanizmust be kell építeni a rendszer tervezésébe és fejlesztésébe, valamint a rendszernek a természetes személyekkel való interakciójának módjába, az értesítést az MI-rendszer működése során, de legkésőbb a természetes személlyel való első interakció időpontjában kell nyújtani (az MI-rendelet 50. cikkének (5) bekezdésében előírtak szerint, lásd az alábbi 7. szakaszt). A szolgáltatók felelősek annak biztosításáért, hogy az MI-rendszer forgalomba hozatalát vagy üzembe helyezését követően az MI-rendszerrel kapcsolatba kerülő természetes személyek hatékony és következetes tájékoztatást kapjanak az MI-rendszer teljes életciklusa során annak az adott szolgáltató által történő forgalomba hozatalától vagy üzembe helyezésétől kezdve (2.2.).

34.

A tájékoztatás formátuma: Az MI-rendelet 50. cikkének (1) bekezdése nem határoz meg konkrét tájékoztatási technikát. A szolgáltatók ezért bármilyen, a célnak megfelelő technikát választhatnak, amennyiben teljesül a következő két követelmény: i. teljesülnek az MI-rendelet 50. cikkének (5) bekezdésében meghatározott követelmények az egyértelmű és jól megkülönböztethető módon nyújtott információ legkésőbb az első interakció alkalmával történő biztosítása tekintetében (lásd az alábbi 7. szakaszt), valamint ii. figyelembe veszik az életkoruk (pl. gyermekek vagy idősek) vagy fogyatékosságuk miatt kiszolgáltatott csoportokhoz tartozó természetes személyek jellemzőit olyan mértékben, amennyire az MI-rendszert az e csoportokhoz tartozó természetes személyekkel való interakcióra szánják, vagy észszerűen valószínűsíthető, hogy sor kerül ilyen interakcióra (pl. olyan esetekben is, ha az MI-rendszer észszerűen valószínűsíthető, hogy interakcióba lép a nagyközönséggel) (19). Az információkat az MI-rendelet 50. cikkének (5) bekezdésében és (132) preambulumbekezdésében meghatározottak szerint a fogyatékossággal élő természetes személyek számára akadálymentes formátumban is rendelkezésre kell bocsátani (lásd a 7. szakaszt). Amennyiben a rendszer interakcióba léphet gyermekekkel, ezeknek az értesítéseknek gyermekbarátnak, az életkornak megfelelőnek, könnyen érthetőnek és könnyen hozzáférhetőnek kell lenniük minden gyermek számára, beleértve a fogyatékossággal élő vagy további akadálymentességi igényekkel rendelkező gyermekeket is. Ajánlott, hogy az értesítések hatékonyságának és következetességének, valamint a felhasználók nagyobb tudatosságának biztosítása érdekében a szolgáltatók szabványosított tájékoztatási gyakorlatokat és címkéket alkalmazzanak, amennyiben rendelkezésre állnak ilyenek és megfelelőek.

35.

Az értesítés tartalma: Az MI-rendelet 50. cikkének (1) bekezdése előírja az interaktív MI-rendszerek szolgáltatói számára, hogy azokat úgy tervezzék meg és fejlesszék ki, hogy az ilyen MI-rendszerekkel interakcióba lépő valamennyi természetes személy egyértelmű tájékoztatást kapjon az interakcióban részt vevő partnere mesterséges, nem emberi jellegéről. Ha a szolgáltató számára észszerűen előrelátható, hogy az MI-rendszer kapcsolatba léphet a fent említett kiszolgáltatott csoportokhoz tartozó természetes személyekkel, az információkat ehhez kell igazítani, és akadálymentes formátumban kell rendelkezésre bocsátani, az alkalmazandó uniós jogban előírtak szerint, annak érdekében, hogy azt az említett természetes személyek is teljeskörűen megértsék (20).

36.

Az értesítéseknek az interakció kontextusának megfelelő módon kell tájékoztatást nyújtaniuk az interakció mesterséges eredetéről. Ezt oly módon kell megtenni, amellyel megfelelően és hatékonyan lehet tájékoztatni az érintett személyeket, elkerülve a megtévesztés vagy manipuláció kockázatát az interakció előtt és alatt, ugyanakkor megvalósítható és arányos tájékoztatást biztosítva. Az értesítés lehet például írásbeli értesítés (pl. egy csevegőrobot, amely a beszélgetést annak megemlítésével indítja el, hogy az MI-technológián alapul), vizuális eszköz (pl. egy MI-ügynök által generált, a természetes személynek címzett e-mail, amelynek elején MI-címke szerepel), hallható eszköz (pl. egy hangasszisztens, aki a munkamenet elején közli, hogy mesterséges intelligencián alapul), az MI-azonosítók és a hitelesítő adatok közzététele (pl. olyan MI-ügynökök, akik a lehetőségekhez mérten ellenőrizhető módon felfedik MI-személyazonosságukat) (21).

37.

Az értesítések formátuma: Az ajánlott bevált gyakorlat az MI-rendszer multimodális és hozzáférhető tájékoztatási megközelítésekkel történő kialakítása. Az ilyen értesítéseknél lehet különböző technikákat ötvözni a felhasználói megértés javítása érdekében, bizonyos esetekben, valamint a kontextustól, a célközönségtől és az előre látható közönségcsoportoktól, valamint a szolgáltatók, különösen a kis- és középvállalkozások (a továbbiakban: kkv-k) rendelkezésre álló erőforrásaitól függően. A megfelelő technikák közé tartozhatnak például a következők:

—

Szöveges tájékoztatás (amely a felhasználói interfészen alapul): feltűnő, közérthető címkék vagy bannerek (pl. „Ön egy MI-rendszerrel kommunikál”), valamint a csevegőrobotoktól az első pillanatban kapott köszöntések, amelyek szükség esetén kombinálhatók az interakció során végig látható, állandó jelvényekkel vagy címkékkel, az adott kontextussal és kockázatokkal arányos mértékben. Ajánlott továbbá a kapcsolódó tájékoztatásokat az interakciós felület közelében elhelyezni (pl. a bemeneti/kimeneti mező közelében), és egyszerűsített megfogalmazást használni, különösen az alacsonyabb digitális jártassággal rendelkező felhasználók és a gyermekek esetében.

—

Hallható tájékoztatás: hangalapú vagy telefonos környezetben az interakció kezdetén tett, egyértelmű szóbeli nyilatkozatok (pl. „Ez egy mesterséges intelligencián alapuló asszisztens”), amelyeket adott esetben, hosszabb interakciók során rendszeres emlékeztetőkkel lehet kombinálni, különösen abban az esetben, ha a felhasználói út során megszakítások vannak vagy megváltozik az MI-rendszer szerepe. Jellegzetes hangjelzésekkel (pl. hangokkal vagy eseményjelző hangokkal) is lehet támogatni a felismerést, különösen a látássérült felhasználók esetében, ezek azonban önmagukban nem tekinthetők elegendőnek.

—

Vizuális/grafikus jelek: az MI-rendszer oly módon történő tervezése, hogy az állandó ikonokat, vízjeleket, színes kereteket vagy felismerhető „MI” szimbólumokat tartalmazzon a szöveges tájékoztatások kiegészítése érdekében. Szabványosított vizuális jelzések használata ajánlott, többek között a szolgáltató szolgáltatásai között, mivel ezek a jelzések jelentősen csökkenthetik a kognitív terhet és növelhetik a felismerhetőséget.

—

Multimodális kombinációk: szöveges, audio- és vizuális jelek kombinálása (pl. egy címkét megjelenítő csevegőrobot, amely egyúttal az első interakciónál szöveges tájékoztatást is nyújt) az akadálymentesség érdekében, valamint a különböző felhasználói csoportok számára való egyértelműség megerősítése érdekében.

38.

Bizonyos technikák nem szükségesek, és önmagukban használva nem is elegendők az MI-rendelet 50. cikkének (1) és (5) bekezdésében foglalt átláthatósági kötelezettség hatékony teljesítéséhez, nevezetesen:

—

a kizárólag a szerződési feltételekben, URL-ekben vagy dokumentációban szereplő tájékoztatások (az ilyen tájékoztatások kiegészíthetik, de nem helyettesíthetik a kontextusban történő tájékoztatást),

—

olyan, géppel olvasható jelölések (pl. metaadatok vagy vízjelek), amelyeket a felhasználók az interakció közben nem észlelnek. Ez nem érinti az ilyen jelölések megfelelőségét az MI-rendelet 50. cikke (2) bekezdésének való megfelelés szempontjából (lásd a 4. szakaszt),

—

nem egyértelmű vagy többértelmű jelzések (pl. az „asszisztensre” való általános hivatkozások) vagy emberszerű ábrázolások, amelyek félrevezethetik a felhasználókat,

—

olyan általános tájékoztatások, amelyek nem kellően konkrétak az MI-rendszer kimeneteire és interakcióira vonatkozóan (pl. egy olyan platformon, amely számos különféle szolgáltatást vagy egyedi bemenetet nyújt, az olyan általános tájékoztatás, mint például „Az ezen a weboldalon nyújtott szolgáltatások MI-t használnak”, nem elegendő),

—

műszaki vagy képességalapú leírások: olyan állítások, amelyek kizárólag az alapul szolgáló technológiákra utalnak (pl. „ez a rendszer nagy nyelvi modelleket használ”), anélkül, hogy elmagyaráznák a rendszer funkcióját vagy a felhasználóra gyakorolt hatásait és mesterséges eredetét.

39.

A tájékoztatásoknak arányosnak kell lenniük, és azokat az MI-rendszer különböző kontextusaihoz és célközönségeihez kell igazítani annak érdekében, hogy hatékonyak és felhasználóbarátak maradjanak, és hogy a lehető legnagyobb mértékben el lehessen kerülni a felhasználói élményben tapasztalható esetleges fennakadásokat vagy a habituáció hatásait (az úgynevezett „bannervakságot”).

40.

Az MI-rendszernek egy adott természetes személlyel való első interakciója előtti egyetlen, jól látható értesítés a legtöbb esetben valószínűleg elegendő az MI-rendelet 50. cikkének (1) bekezdésében foglalt kötelezettség teljesítéséhez. Bizonyos kockázatosabb helyzetekben azonban a felhasználó folyamatos tudatosságának biztosítása érdekében valószínűleg időszakos emlékeztetőkre és a kontextust figyelembe vevő tájékoztatásokra lesz szükség. Ez különösen igaz a kiszolgáltatott személyekkel (pl. gyermekekkel, idősekkel, fogyatékossággal élő személyekkel és alacsonyabb szintű írástudással rendelkező személyekkel) interakcióban álló MI-rendszerek esetében, az érzékeny vagy immerzív környezetekben (pl. ahol a felhasználók érzelmi megrázkódtatást vagy kiszolgáltatottságot fejezhetnek ki vagy tapasztalhatnak, vagy függőséghez hasonló magatartás kockázatának lehetnek kitéve), ahol fokozott a kockázata annak, hogy a felhasználókat félrevezetik (pl. pénzügyi tanácsadás, biztosítás, jogi segítségnyújtás, egészségügyi tanácsadás és panaszkezelés), illetve érzelmi kötődéseket vagy függőségeket alakítanak ki (pl. MI-társak), valamint amikor tudatosságot és ellenőrzést kell biztosítani az MI-ügynök tevékenységei fölött. A szolgáltatóknak továbbá úgy kell megtervezniük és kifejleszteniük az MI-rendszert, hogy gondoskodjanak a tájékoztatásról minden olyan helyzetben, amikor az MI-rendszert a jellegével vagy az interakció eredetével kapcsolatban kérdezik, vagy amikor a természetes személlyel folytatott információcserékből észszerűen feltételezhető, hogy az adott személyt valószínűleg félrevezethetik vagy megtéveszthetik az interakció MI-forrásával kapcsolatban.

3.2.   Az MI-rendelet 50. cikkének (1) bekezdése szerinti tájékoztatási kötelezettség alóli kivételek

41.

Az MI-rendelet 50. cikkének (1) bekezdése két kivételt ír elő az interaktív MI-rendszerekre vonatkozó tájékoztatási kötelezettség alól, amelyeket az alábbiakban vizsgálunk.

3.2.1.   A nyilvánvalóan MI-rendszerrel történő interakcióra vonatkozó kivétel

42.

Ahhoz, hogy az első kivételre hivatkozhassanak, a szolgáltatóknak értékelniük és bizonyítaniuk kell a következőket: i. nyilvánvalóan mesterséges jellegű interakció történik, ii. amely egy természetes személlyel zajlik, akinek észszerűen elvárható szinten jól tájékozottnak, figyelmesnek és körültekintőnek kell lennie, figyelembe véve a körülményeket és a felhasználási kontextust.

43.

Ez a szabály az „átlagfogyasztó” fogalmára vonatkozó meglévő uniós fogyasztóvédelmi jogszabályokra támaszkodik, és következetesen kell értelmezni, figyelembe véve a természetes személyekkel közvetlenül interakcióba lépő MI-rendszerek sajátos és változatos kontextusait és felhasználásait, valamint az MI-rendelet 50. cikkének (1) bekezdésében kitűzött célokat.

44.

Az ilyen „átlagos” természetes személy fogalmának meghatározásához két lépés szükséges. Először is, a szolgáltatóknak figyelembe kell venniük azt a közönséget, amelynek az MI-rendszert szánják, és amellyel észszerűen valószínűsíthető, hogy az MI-rendszer interakcióba lép. Másodszor, a szolgáltatónak meg kell vizsgálnia, hogy az adott közönségnek egy átlagos tagja mennyire észszerűen elvárható szinten jól tájékozott, figyelmes és körültekintő, figyelembe véve a körülményeket és a felhasználási kontextust. Ezek értékelése során több tényezőt is figyelembe kell venni:

—

A szolgáltatóknak figyelembe kell venniük az MI-rendszer célközönségét, valamint az észszerűen előre látható szélesebb potenciális közönséget. Erre különösen akkor van szükség, ha a nagyközönség könnyen hozzáférhet az MI-rendszerhez, vagy ha a rendszer virtuális vagy fizikai nyilvános helyeken működik, és képes interakcióba lépni az e terekben tartózkodó természetes személyekkel. Az MI-rendszernek esetlegesen kitett közönség nem mindig egyezik meg a célközönséggel.

—

A szolgáltatóknak az MI-rendelet (132) preambulumbekezdésével összhangban figyelembe kell venniük a célközönség és az észszerűen előre látható közönség esetlegesen változatos összetételét. Amennyiben valószínű, hogy fogyatékossággal élő személyek, idősek vagy kiskorúak is e közönség részét képezik, az ilyen közönség átlagos tagjaitól elvárható tájékozottság, figyelem és körültekintés szintje alacsonyabb lesz, mint egy olyan közönség átlagos tagjai esetében, amelyben nincsenek jelen a személyeknek e kategóriái. Ezzel szemben, ha az interaktív MI-rendszer csak egy szakmai vagy szakosodott célközönség számára érhető el, ez pozitív hatással lehet a tudás, a figyelem és a körültekintés várható szintjére, így e közönség átlagos tagja tájékozottabbnak, figyelmesebbnek és körültekintőbbnek tekinthető.

—

A tágabb körülmények és felhasználási kontextus részeként a szolgáltatóknak figyelembe kell venniük a célközönség és az észszerűen előrelátható közönség digitális jártasságának és mesterséges intelligenciával kapcsolatos jártasságának a szintjét, valamint a releváns társadalmi, kulturális és nyelvi tényezőket.

45.

Nyilvánvalóság: A feltételezett, észszerűen elvárható szinten jól tájékozott, figyelmes és körültekintő természetes személy megállapításakor a szolgáltatóknak értékelniük kell, hogy az ilyen személy számára nyilvánvaló lesz-e, hogy egy MI-rendszerrel áll közvetlen interakcióban. A kivételt megszorítóan kell értelmezni, mivel megfosztja a természetes személyeket a védelemtől és az ahhoz való jogtól, hogy egyértelmű és jól megkülönböztethető tájékoztatást nyújtsanak számukra arról, hogy MI-rendszerekkel állnak interakcióban. A fogyasztók és más természetes személyek azzal kapcsolatos általános tudatossága, hogy léteznek MI-rendszerek (többek között csevegőrobotok és ügynökök), nem jelenti azt, hogy fel is ismerik azokat az interakciókban. Annak értékelése során, hogy az interakció jellege nyilvánvaló-e, több tényező is releváns lehet és figyelembe vehető:

—

Az interakció várható jellege: Azokban az esetekben, amikor az MI-rendszer fizikailag lép interakcióba természetes személyekkel, a releváns elemek közé tartozhat a mechanikus alkotóelemek láthatósága (ami növelné a nyilvánvalóságot) vagy az, hogy az MI-rendszer milyen mértékben másolja hitelesen a nem mesterséges megfelelőjét (ami csökkentené a nyilvánvalóságot). A vizuális vagy hallható jellegű interakciók esetében az olyan elemek, mint az írás- vagy beszédminták, a hanghordozás (robothang a valódi emberi hanggal szemben), a felhasználói felület kialakítása (pl. egy csevegőrobot embert megjelenítő profilképe) és a fejlett, személyre szabott interakcióra való képesség lehetnek hatással erre az értékelésre.

—

A célközönség és az előrelátható közönség összetétele: Ha az interaktív MI-rendszer csak egy szakmai vagy szakosodott közönség számára érhető el, anélkül, hogy potenciálisan kiszolgáltatott csoportok lennének kitéve neki, ez növelheti az interakció mesterséges jellegének esetleges nyilvánvalóságát az adott közönség egy átlagos tagja számára. Ezzel szemben, ha az MI-rendszerhez a nagyközönség vagy olyan fogyasztók is hozzáférhetnek, akik között kiszolgáltatott személyek (például gyermekek, idősek, kognitív, fizikai vagy mentális fogyatékossággal élő személyek, illetve alacsonyabb MI-jártassággal rendelkező személyek) is lehetnek, akik számára az interakció jellege kevésbé nyilvánvaló, e kiszolgáltatott felhasználók hatékony védelme érdekében nem lehet a kivételre hivatkozni.

—

Azt is figyelembe kell venni, hogy a természetes személyek számára egyre nehezebb megállapítani, hogy MI-rendszerrel vagy tényleges emberrel való interakcióra kerül-e sor. Az avatárok és ügynökök használata, az online interakciók általános anonimitása, valamint amiatt, hogy az MI-rendszerek képesek emberszerű módon írni és kommunikálni, a „nyilvánvalósági” kivételt azokra az esetekre kell korlátozni, amikor a megcélzott és észszerűen előrelátható közönséghez tartozó átlagos személy számára szinte semmilyen kétség nem merül fel az interakció jellegével kapcsolatban.

Példák a nyilvánvalóságra, amely miatt az MI-rendelet 50. cikkének (1) bekezdése szerinti átláthatósági kötelezettség nem alkalmazandó:

—

MI-n alapuló, a kódolást segítő és a kódot felülvizsgáló csevegőrobotok, amelyek csak olyan hivatásos fejlesztők számára állnak rendelkezésre, akik szakértelmük és a felhasználás körülményei miatt észszerűen nem várhatják el, hogy emberrel lépjenek kapcsolatba, és képesek könnyen felismerni, hogy a javaslatokat egy MI-rendszer generálja.

—

Egy megfelelően képzett, a mesterséges intelligenciában jártas személyzet munkavállalói számára rendelkezésre álló, belső asszisztens, akik tudatában vannak annak, hogy MI-rendszereket használnak belső szervezeti célokra (pl. HR, jog, közbeszerzés, megfelelés vagy informatikai támogatás).

—

Interaktív MI-rendszerek, amelyeket kizárólag megfelelően képzett egészségügyi szakemberek használhatnak az orvosi diagnózis támogatására és kapcsolódó kezelések javaslására.

—

A háztartási készülékekbe beépített, a háztartási készülékek segítésére és üzemeltetésére korlátozódó funkciókkal rendelkező, ambient, vagyis mindenütt jelenlévő mesterséges intelligencia.

—

Az MI-n alapuló nem játékos karakterekkel (NPC-kkel) való interakciók egy egy játékos által játszható videojátékban, ahol a videojáték jellege egyértelművé teszi, hogy más természetes személy nem vehet részt benne és nem léphet interakcióba a felhasználóval, valamint az interakció MI-jellege valamennyi felhasználó számára (beleértve a kiszolgáltatott személyeket is) nyilvánvaló.

Példák, amelyek nem tesznek eleget a nyilvánvalósággal kapcsolatos kivétel feltételeinek, és amelyekre alkalmazandó az MI-rendelet 50. cikkének (1) bekezdése szerinti átláthatósági kötelezettség:

—

Mesterséges intelligenciával működő, kedvtelésből tartott robotállat, amely a természetes megfelelőjéhez nagyon hasonló kinézettel rendelkezik, és amelyet úgy terveztek, hogy utánozza az ember és a kedvtelésből tartott állatok közötti tipikus interakciót, ami miatt nem egyértelmű, hogy az interakció egy MI-rendszerrel történik-e vagy sem.

—

Immerzív környezetekbe (pl. virtuális vagy kiterjesztett valóságba) ágyazott MI-rendszerek, amelyek emberekre hasonlító realisztikus avatárokat vagy hangokat használnak, ahol a felhasználók, különösen a gyermekek, az idősek vagy a fogyatékossággal élő személyek nem feltétlenül képesek könnyen megkülönböztetni, hogy az interakció emberrel vagy a mesterséges intelligenciával zajlik.

—

Olyan, online platformokba vagy segítségnyújtó támogatási eszközökbe (ügyfélszolgálatokba) ágyazott MI-csevegőrobotok, amelyek révén a felhasználók olyan közvetlen interakcióba léphetnek és olyan MI-kimeneteket (pl. kérdésekre adott válaszokat vagy más, MI által generált tartalmakat) kaphatnak, amelyeket ember által generáltnak tekinthetnek.

3.2.2.   A törvény által bűnüldözési célokra engedélyezett MI-rendszerekre vonatkozó kivétel

46.

Az interaktív MI-rendszerek szolgáltatói mentesülnek az MI-rendelet 50. cikkének (1) bekezdése szerinti átláthatósági kötelezettség alól, ha törvény engedélyezi őket bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából, a harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok mellett.

47.

„Törvény által engedélyezett” alatt az uniós jogot, valamint az uniós joggal összhangban elfogadott tagállami nemzeti jogot kell érteni. Az MI-rendszer használatát engedélyező törvénynek egyértelműen meg kell határoznia az engedélyezett használat céljait és körülményeit, valamint megfelelő biztosítékokat kell nyújtania a harmadik felek jogainak és szabadságainak védelme érdekében. Tekintettel az MI-rendelet technológiasemleges megközelítésére, nem szükséges törvényben azonosítani vagy engedélyezni konkrét MI-rendszereket, amennyiben az MI-rendszer használatát általában a jogszerűen engedélyezett tevékenység keretében tervezik, és az megfelel az alkalmazandó jogi keretnek.

48.

Ahhoz, hogy e kivétel hatálya alá tartozzon, az MI-rendszer célja bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása kell, hogy legyen (pl. fedett MI-nyomozó, a nyomozók emberi ellenőrzése alatt online nyomozásokhoz vagy a bűncselekményekben esetlegesen részt vevő személyekkel folytatott kommunikációhoz használt MI-rendszerek). A kivétel nem korlátozódik az ilyen MI-rendszereknek kizárólag az MI-rendelet 3. cikkének 48. pontjában meghatározott bűnüldöző hatóságok általi használatára, hanem kiterjedhet a más uniós vagy nemzeti hatóságok által használt interaktív (vagy generatív) MI-rendszerekre is, amennyiben azok használatát törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából, a harmadik felek jogainak és szabadságainak védelmét szolgáló megfelelő biztosítékok mellett. A mentesség nem követeli meg, hogy az MI-rendszer képes legyen függetlenül lefolytatni a nyomozásokat. Ha egy adott rendszer bűnüldözési célokra és más, szokványos célokra is használható, a mentesség alkalmazhatóságát az adott használat fényében kell értékelni. Továbbra is alkalmazandók az átláthatósági kötelezettségek, ha ugyanazt az MI-rendszert a bűncselekmények jogszerűen engedélyezett felderítésétől, megelőzésétől, nyomozásától vagy büntetőeljárás alá vonásától eltérő célokra használják. Továbbra is átláthatóságot kell biztosítani a természetes személyek számára, ha interakcióba lépnek a rendszerrel annak szokványos céljaival összefüggésben.

49.

A kivétel nem alkalmazandó, ha i. az MI-rendszer a nyilvánosság rendelkezésére áll; és ii. a rendszer bűncselekmények bejelentésére szolgáló funkciót kínál az egyének számára. Használhatók ilyen rendszerek, de továbbra is az MI-rendelet 50. cikkének (1) bekezdése szerinti átláthatósági kötelezettség hatálya alá tartoznak, ezért a természetes személyeket tájékoztatni kell arról, hogy ilyen rendszerekkel lépnek interakcióba.

A nagyobb egyértelműség érdekében ez a kivétel kizárólag az 50. cikk (1) bekezdése szerinti azon kötelezettségre vonatkozik, hogy tájékoztatni kell a természetes személyeket arról, hogy MI-rendszerrel állnak interakcióban (22). Ez nem érinti az alkalmazandó uniós és nemzeti jogot, beleértve a bizonyítékok dokumentálására, ismertetésére, elfogadhatóságára és értékelésére vonatkozó eljárási szabályokat.

Példák olyan, bűncselekmények bejelentése céljából a nyilvánosság rendelkezésére bocsátott MI-rendszerekre, amelyek nem mentesülnek a kötelezettségek alól és az MI-rendelet 50. cikke (1) bekezdésének hatálya alá tartoznak:

—

MI-n alapuló rendőrségi csevegőrobotok, amelyeket olyan hivatalos rendőrségi weboldalakon vagy mobilalkalmazásokban alkalmaznak, amelyek bűncselekmények vagy panaszok bejelentését teszik lehetővé az egyének számára. Ezek a rendszerek strukturált kérdéseken keresztül vezetik a felhasználókat, releváns információkat gyűjtenek és priorizálják a bejelentéseket, mielőtt értékelés céljából emberi tisztségviselőknek továbbítanák őket.

—

A rendőrség vagy más bűnüldöző hatóság által működtetett, általános közérdekű vizsgálatokra szolgáló, MI-n alapuló telefonos forródrótok.

—

A csalások bejelentésére szolgáló, mesterséges intelligenciával támogatott, pénzügyi intézmények vagy hatóságok által működtetett forródrótok vagy digitális portálok, ahol a felhasználók feltételezett gazdasági bűncselekményeket jelenthetnek be. Az MI-rendszer interakcióba lép a felhasználóval az adatok összegyűjtése, a bejelentés kategorizálása és az ügyek rangsorolása érdekében, míg az emberi nyomozók validálják az információkat, mielőtt bármilyen intézkedés történne.

—

Tanúvallomások gyűjtéséhez használt virtuális asszisztensek, amelyekhez az áldozatok vagy tanúk MI-n alapuló interfészen keresztül nyújthatnak be információkat. Az ilyen MI-rendszerek támogathatják a többnyelvű adatbevitelt, az akadálymentességi funkciókat és a bizonyítékok strukturált benyújtását, de a végső értékelés és a nyomozás lépései továbbra is az emberi hatóságoknál maradnak.

3.3.   Kölcsönhatás más uniós jogi aktusokkal

50.

Az MI-rendelet 50. cikkének (1) bekezdése szerinti átláthatósági kötelezettség a meglévő uniós fogyasztóvédelmi, adatvédelmi, digitális vagy megkülönböztetésmentességi jogszabályok sérelme nélkül alkalmazandó, amelyek előírhatják más, nem kifejezetten az interakció MI-forrására vonatkozó információk közzétételét. Különösen a 2005/29/EK irányelv (a továbbiakban: a tisztességtelen kereskedelmi gyakorlatokról szóló irányelv) (23) tiltja a termék vagy szolgáltatás lényeges tulajdonságaival kapcsolatos megtévesztő tevékenységeket vagy mulasztásokat. Ezenkívül a 2011/83/EU irányelv (a továbbiakban: a fogyasztók jogairól szóló irányelv) (24) előírja a kereskedők számára, hogy a szerződéskötést megelőzően nyújtsanak egyértelmű és átfogó tájékoztatást az áru vagy szolgáltatás lényeges tulajdonságairól. Amennyiben egy szolgáltatás MI-n alapul (mint amilyen például egy előfizetéses csevegőrobot, MI-társ alkalmazás vagy virtuális coaching szolgáltatás), az MI-funkció olyan alapvető tulajdonságnak minősülhet, amelyről tájékoztatást kell nyújtani, mielőtt a fogyasztót szerződés kötné. Az uniós fogyasztóvédelmi jog szerinti tájékoztatási kötelezettségek attól függetlenül is alkalmazandók, hogy az interakció az MI-rendelet 50. cikkének (1) bekezdése értelmében „nyilvánvalónak” minősül-e. Ezek a kötelezettségek általános fogyasztóvédelmi tájékoztatási kötelezettségként kiegészítő jellegűek is, míg az MI-rendelet szerinti értesítési kötelezettség kontextuálisabb, és célja annak biztosítása, hogy minden természetes személy folyamatosan tisztában legyen azzal, hogy egy MI-rendszerrel van közvetlen interakcióban, legalább annak megkezdése előtt és az interakció során.

51.

A digitális szolgáltatásokról szóló rendelet is tartalmaz átláthatósági követelményeket az online platformok ajánlórendszereire vonatkozóan, ilyen többek között a fő rangsorolási paraméterek magyarázatára vonatkozó követelmény. Ezek a kötelezettségek kiegészítik az MI-rendelet 50. cikkének (1) bekezdésében meghatározott átláthatósági kötelezettségeket, mivel eltérő hatállyal és céllal rendelkeznek, valamint olyan rendszerekre vonatkoznak, amelyek elvben nem lépnek közvetlen interakcióba a felhasználókkal az MI-rendelet 50. cikkének (1) bekezdése értelmében.

52.

Ami az uniós adatvédelmi jog által az érintettek irányába előírt tájékoztatási kötelezettségeket illeti, az MI-rendelet 50. cikkének (1) bekezdésében foglalt kötelezettség az említett kötelezettségektől eltérő célt szolgál, és mint ilyen, nincs hatással ezekre a tájékoztatási kötelezettségekre.

53.

Hasonlóképpen, az MI-rendelet 50. cikkének (1) bekezdése szerinti átláthatósági kötelezettség a büntetőeljárás keretében a személyek tájékoztatására vonatkozó uniós és nemzeti jog (pl. a 2012/13/EU irányelv vagy az (EU) 2026/1472 irányelvvel módosított 2012/29/EU irányelv) sérelme nélkül alkalmazandó (25).

4.   AZ MI-RENDELET 50. CIKKÉNEK (2) BEKEZDÉSE: AZ MI ÁLTAL GENERÁLT VAGY MANIPULÁLT TARTALMAK JELÖLÉSE ÉS ÉSZLELÉSE

54.

Az MI-rendelet 50. cikkének (2) bekezdése előírja a szintetikus tartalmat létrehozó MI-rendszerek szolgáltatói számára, hogy olyan műszaki megoldásokat alkalmazzanak, amelyek megfelelnek a géppel olvasható jelölésre és az MI-rendszereik kimeneteinek észlelésére vonatkozó bizonyos minőségi követelményeknek. A cél az, hogy a természetes személyek meg tudják különböztetni az MI által létrehozott vagy manipulált tartalmakat más tartalmaktól (például az emberek által létrehozott tartalmaktól), és ellenőrizhessék azok eredetét, hozzájárulva ezáltal az információs ökoszisztéma integritásának és az ökoszisztémába vetett bizalomnak a növekedéséhez.

55.

Ezen átláthatósági kötelezettség kedvezményezettje ezért minden olyan természetes személy, aki valószínűleg ki van téve az MI által létrehozott vagy manipulált tartalmaknak, valamint az információs ökoszisztémába vetett bizalom és az ökoszisztéma integritása szempontjából fontos szerepet játszó kulcsfontosságú szereplők, például az illetékes piacfelügyeleti hatóságok és más illetékes hatóságok, a független kutatók, a civil társadalmi szervezetek, a média, a megbízható bejelentők, az alapvető jogok védelmezői, az online platformokat és online keresőprogramokat üzemeltető szolgáltatók, a jogosultak és más tartalomalkotók és -terjesztők stb.

4.1.   Az MI-rendelet 50. cikke (2) bekezdésének fő alkotóelemei és koncepciói

56.

Az MI-rendelet 50. cikkének (2) bekezdése akkor alkalmazandó, ha több kumulatív feltétel teljesül:

i.

a rendszernek MI-rendszernek kell minősülnie;

ii.

az MI-rendszernek képesnek kell lennie szintetikus tartalom létrehozására vagy manipulálására;

iii.

a tartalmak modalitásának az alábbiak közül egynek vagy többnek kell lennie: hang, kép, videó vagy szöveg;

iv.

az MI-rendszerre nem vonatkozhatnak a következő kivételek: 1. az MI-rendszer a standard szerkesztést segítő funkciót lát el, 2. az MI-rendszer nem módosítja lényegesen az alkalmazó által szolgáltatott bemeneti adatokat vagy azok szemantikáját, vagy 3. az MI-rendszert törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából.

4.1.1.   Szintetikus tartalmat létrehozó vagy manipuláló MI-rendszerek

57.

Az MI-rendelet 50. cikkének (2) bekezdése szintetikus hang-, kép-, video- vagy szöveges tartalmat létrehozó MI-rendszerekre (26) (köztük általános célú MI-rendszerekre) alkalmazandó. Az MI-rendelet 50. cikkének (2) bekezdése olyan rendszerek egy alcsoportjára terjed ki, amelyek megfelelnek az MI-rendszernek az MI-rendelet 3. cikkének 1. pontjában szereplő fogalommeghatározásának, és amelyek ilyen kimeneteket hoznak létre. Az MI-rendelet 50. cikkének (2) bekezdése emellett a tartalmak manipulálására használt MI-rendszerekre is kiterjed.

58.

A tartalom-létrehozás azt jelenti, hogy az MI-rendszer szintetikus anyagot állít elő (pl. emberi prompt alapján), például szintetikus képet vagy dalt hoz létre. A gyakorlatban ez azt jelenti, hogy az MI-rendelet 50. cikkének (2) bekezdése a szűk rendeltetésű, specifikus kimenetek előállítására tervezett generatív MI-rendszerekre alkalmazható. Az MI-rendelet 50. cikkének (2) bekezdése ugyanakkor azokra az MI-rendszerekre is alkalmazandó, amelyek többféle célt is szolgálhatnak (többek között az általános célú MI-rendszerekre), és többféle típusú tartalmat is előállíthatnak, valamint az ügynökszerű MI-rendszerekre, amennyiben szintetikus hang-, kép-, video- vagy szöveges tartalmat hoznak létre.

59.

A tartalommanipuláció ezzel szemben olyan, már meglévő (akár szintetikus, akár nem) tartalomra utal, amelyet egy MI-rendszer módosít (pl. egy meglévő kép vagy hangfelvétel, amelyet egy MI-rendszer emberi utasításoknak megfelelően manipulál). Ahhoz, hogy a tartalom az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartozzon, elegendő, ha azt az MI-rendelet 50. cikkének (2) bekezdésében meghatározott kivételek alapján a standard szerkesztésen túl mesterséges intelligencia hozza létre vagy manipulálja (lásd a 4.3. szakaszt). Emellett az MI-rendelet 50. cikkének (2) bekezdése nem írja elő, hogy a tartalom kizárólag mesterséges intelligencia által generált vagy manipulált lehet. Az ember által létrehozott anyagokkal kevert tartalom is szintetikus tartalomnak minősül, ha azt az MI-rendelet 50. cikkének (2) bekezdésében említett valamelyik modalitásban manipulálják vagy hozzák létre.

4.1.2.   A hatály alá tartozó szintetikus tartalom modalitásai

60.

Az MI-rendelet 50. cikkének (2) bekezdésében kimerítő lista található az átláthatósági kötelezettség hatálya alá tartozó szintetikus tartalmak modalitásairól: hang, kép, videó vagy szöveg. Ebbe a multimodális tartalmak, vagyis az e modalitások kombinációjából álló tartalmak is beletartoznak. Az MI-rendelet 50. cikke (2) bekezdésének alkalmazásában a különböző modalitásokat az idővel esetlegesen változó gyakorlati és technológiai fejleményekkel összhangban kell értelmezni. Jelenleg a következőképpen kell őket értelmezni:

—

A szöveg olyan, egy adott sorrendben elrendezett karakterekből vagy számokból álló egyedi, szimbolikus tartalomra utal, amelyet az emberek képesek elolvasni és szemantikailag értelmezni.

—

A képek olyan statikus térbeli ábrázolások, amelyek emberi szemmel látható vizuális információkat alakítanak át.

—

A hang egy hangot átalakító, időben változó jel, amelyet az emberek képesek hallással érzékelni. Ebbe beletartozhat a beszéd, a hangszeres zene vagy más hangjelzések.

—

A videó olyan, időalapú képsorozatra utal, amely hanggal szinkronizálható, és amelyet az emberek képesek látni. Ebben az esetben mind a video-, mind a hangtartalmat meg kell jelölni, és mindkettő esetében biztosítani kell az észlelhetőséget, az alábbiak szerint.

61.

A 3D képeket, 3D videókat és 3D hangokat, valamint virtuális, kiterjesztett vagy vegyes valóságot létrehozó vagy manipuláló MI-rendszerek az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartoznak. „Virtuális valóság”: olyan MI-technológiák, amelyek lehetővé teszik a felhasználók számára, hogy megtapasztaljanak egy fizikai jelenlétet szimuláló, számítógép által generált környezetet, és interakcióba lépjenek azzal, valamint amelyek lehetővé teszik a felhasználók számára az e környezettel való valós idejű interakciót. Mivel a virtuális és kiterjesztett valóság képek időalapú sorozatából áll, amelyet opcionálisan hanggal szinkronizálnak, és amely az idő múlásával vizuális változást mutat be, „videó” típusú tartalomnak tekinthető. A releváns „kimenet”, amelyet meg kell jelölni, az egyes MI által létrehozott eszközök végleges formája, az alábbi 88. pont szerinti valós idejű, eltűnő interaktív munkamenetekre vonatkozó különleges kivételekkel. A 3D képek, 3D videók és 3D hangtartalmak (például egy pontfelhő, 3D háló) létrehozásához használt digitális műtermékeket nem kell megjelölni.

62.

A több adattípust integráló, személyek, fizikai tárgyak vagy rendszerek virtuális másolatait biztosító digitális ikermodellek szintén az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartoznak, ha mesterséges intelligencia által hozták létre vagy manipulálták őket, formátumuk pedig hang, kép, videó vagy szöveg, kivéve, ha a kivételek hatálya alá tartoznak, és az alábbi 87. pont szerinti „ipari alkalmazásoknak” vagy „vállalkozások közötti alkalmazásoknak”, vagy az alábbi 88. pont szerinti valós idejű, eltűnő tartalomnak minősülnek.

63.

Az MI-rendelet 50. cikkének (2) bekezdése az MI-ügynökökre is alkalmazható, ha az MI-ügynök olyan tevékenységet végez, amelynek kimenete MI által létrehozott vagy manipulált tartalom, amelyet természetes személyek hang, kép, videó vagy szöveg formájában észlelnek. Ezeket a kimeneteket ezért az alábbiak szerint kell megjelölni és észlelhetővé tenni. Ezzel szemben az MI-ügynökök bármely olyan tevékenysége, amely nem foglal magában az MI által létrehozott vagy manipulált tartalmat (pl. a képszegmentálás lépései, például érvelés és gondolatlánc), vagy az MI által létrehozott olyan tevékenység, amelyet nem természetes személyek általi közvetlen észlelésre szántak (pl. webes kérés vagy böngészőművelet), nem minősül az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartozó szintetikus tartalomnak, és nem kell megfelelnie a jelölésre és észlelésre vonatkozó kötelezettségeknek.

4.1.3.   Az MI-rendelet 50. cikke (2) bekezdésének hatályán kívül eső tartalmak

64.

Az MI-rendelet 50. cikke (2) bekezdésének hatálya nem terjed ki az olyan, egyszerű adatkezelésen alapuló MI-rendszer által generált tartalmakra, amelyeket nem kifejezetten MI hoz létre vagy manipulál (például egy renderelt képkocka).

65.

Emellett az MI-rendszer olyan kimenete, amely pusztán meglévő tartalmakat reprodukál, vagy lehetővé teszi már meglévő tartalmak megjelenítését vagy elrendezését, szintén nem tartozik az MI-rendelet 50. cikke (2) bekezdésének hatálya alá. Ez lehet a helyzet például a zenei lejátszási listák vagy más ajánlórendszerek esetében, amelyek csak kiválasztanak vagy rangsorolnak meglévő tartalmakat a felhasználói preferenciák vagy tevékenységek alapján, anélkül, hogy új tartalmat hoznának létre vagy manipulálnák magát a tartalmat. Ugyanez vonatkozik a belső analitikai folyamatokban használt MI-rendszerekre is, amelyek adatokat nyernek ki és strukturálnak, de azokat nem foglalják össze.

66.

Ugyanez igaz egy MI-rendszer olyan bemenetére és kimenetére is, amely fizikai vagy virtuális környezetekből származó adatok egyszerű megfigyelésének és rögzítésének minősül, és amely nem MI által létrehozott vagy manipulált (pl. robotok vagy más, MI-n alapuló érzékelők által), vagy amely MI-rendszerek általi, módosítás nélküli adatátvitel. Ebbe az MI-rendszerek számos bemenete és kimenete beletartozik, különösen az olyan ipari környezetekben, mint az adatokat megfigyelő robotok gyártási adatai; az MI-n alapuló, intelligens fogyasztásmérők által rögzített fogyasztás, hálózati frekvencia és feszültségmérések; valamint a GPS-helymeghatározó adatok rögzítése a járművekből, stb.

67.

Továbbá, mivel az MI-rendelet 50. cikkének (2) bekezdésében foglalt átláthatósági kötelezettség célja, hogy lehetővé tegye az emberek számára az MI által létrehozott vagy manipulált tartalmak megkülönböztetését a megtévesztés és a manipuláció kockázatának kezelése, valamint az információs ökoszisztéma integritásának és a bele vetett bizalomnak a biztosítása érdekében, ez a rendelkezés nem vonatkozik az olyan tartalmakra, amelyek nem kapcsolódnak ehhez a célkitűzéshez, és amelyek nem észlelhetők, vagy amelyeket nem arra szántak, hogy természetes személyek értelmezzék, ellenőrizzék vagy eljárjanak velük.

68.

Különösen a következő tartalmakat kell úgy tekinteni, hogy nem tartoznak az MI-rendelet 50. cikke (2) bekezdésének hatálya alá:

—

számok, szimbólumok vagy betűk rövid sorozata formájában létrehozott kimenetek (pl. szavak önmagukban, képaláírások, helyettesítő szövegek, a felhasználói felület címkéi és ikonszintű grafikus elemei, képaláírások és egyéb adatcímkék),

—

forráskód mint valamely számítástechnikai rendszer általi értelmezésre, összeállításra vagy végrehajtásra szánt, programozási nyelven, parancsfájlokkal történő, jelölőnyelven, lekérdezési vagy konfigurációs nyelven írt tartalom, függetlenül attól, hogy szöveges karakterekből áll-e. Ide tartozhatnak a forráskód szerves részét képező természetes nyelvi megjegyzések és háttér-információk is. Nem tartoznak ide továbbá a szoftverfejlesztési eszköztárak (SDK-k), a strukturált lekérdezési nyelv (SQL), az „infrastruktúra mint kód” és a YAML nyelv, a JavaScript Objektum Jelölés (JSON), a konfigurációs sémák, a szkriptek, a géppel olvasható specifikációk, az alkalmazásprogramozási felületek (API-k és szoftverkönyvtárak);

—

egy MI-rendszer kimenetei, amelyeket kizárólag gépek közötti kommunikációra szántak, és automatikusan, embereknek való kitettség nélkül dolgozzák fel őket (például ügynökök közötti kommunikáció, kéretlen üzenetek elleni jelek, amennyiben azokat természetes személyek nem észlelik),

—

olyan kimenetek, amelyeket csak zárt rendszerű környezetekben használnak ipari és termékfejlesztési munkafolyamatokban (például film-, animációs, játék- vagy reklámgyártáshoz), kivéve, ha ezek az MI-rendszer végső kimenetei mesterséges intelligencia által létrehozott vagy manipulált szöveg, hang-, kép- vagy videotartalom formájában. Ezekben az esetekben csak a munkafolyamat szakaszaiból származó végkimenetet kell megjelölni és észlelhetővé tenni.

4.2.   Az MI-rendelet 50. cikke (2) bekezdése szerinti jelölésre és észlelésre vonatkozó kötelezettség

69.

Az MI-rendelet 50. cikkének (2) bekezdése átláthatósági kötelezettséget ír elő az e rendelkezés hatálya alá tartozó generatív MI-rendszerek szolgáltatói számára, amely két különálló, de szervesen összefüggő elemből áll. Először is, a szolgáltatóknak biztosítaniuk kell, hogy az MI-rendszer kimenetei géppel olvasható formátumban meg legyenek jelölve. Másodszor, a szolgáltatóknak biztosítaniuk kell, hogy a kimenetek mesterségesen létrehozott vagy manipulált tartalom jellege észlelhető legyen. A szolgáltatóknak minden bevezetett jelölési megoldás esetében biztosítaniuk kell, hogy ezek észleléséhez rendelkezésre álljanak a megfelelő eszközök (az alábbiakban vázoltak szerint), amelyek lehetővé teszik a tartalomnak kitett természetes személyek és más érintett szereplők számára, hogy az MI-rendszer által mesterségesen létrehozott tartalmat azonosítani tudják és meg tudják különböztetni más tartalmaktól. A műszaki megoldást a jelölési technikák és az észlelésre szolgáló eszközök olyan kombinációjaként kell értelmezni, amelyet a szolgáltató az MI-rendelet 50. cikkének (2) bekezdése szerinti átláthatósági kötelezettség teljesítése érdekében hajtott végre.

70.

Az MI-rendelet 50. cikkének (2) bekezdésében foglalt átláthatósági kötelezettségek célkitűzéseinek hatékony eléréséhez mindkét fent említett elemnek teljesülnie kell. Csak egy elem teljesítése (pl. a kimenetek géppel olvasható jelölése anélkül, hogy az észlelésükhöz szükséges eszközök rendelkezésre állnának) nem elegendő az említett rendelkezésnek való megfeleléshez (27).

4.2.1.   A jelölési kötelezettség

71.

A jelölési kötelezettség hatálya a jelölések géppel olvasható formátumban történő bevezetésére korlátozódik. A géppel olvasható formátum azt jelenti, hogy a jelölések szerkezete lehetővé teszi a szoftveralkalmazások számára, hogy emberi beavatkozás nélkül, könnyen azonosítsák, felismerjék és kinyerjék azokat. Kiegészítő intézkedésként az észlelhető jelölések és címkék sincsenek kizárva, adott esetben annak megkönnyítése érdekében, hogy az alkalmazók megfeleljenek az MI-rendelet 50. cikkének (4) bekezdése szerinti, a deepfake-ek címkézésére vonatkozó kötelezettségüknek.

72.

A jelölési kötelezettségnek való megfelelés érdekében a szolgáltatók egyetlen jelölési technikára vagy több különböző technika kombinációjára is támaszkodhatnak, feltéve, hogy műszaki megoldásuk összességében géppel olvasható, és megfelel a jogszabályban előírt mértékben a hatékonyságra, az interoperabilitásra, a robusztusságra és a megbízhatóságra vonatkozó követelményeknek, az MI-rendelet 50. cikke (2) bekezdésének második mondatában előírtak szerint (lásd az alábbi 4.2.3. szakaszt).

73.

Az MI-rendelet (133) preambulumbekezdése példákkal szolgál az ilyen technikákra; többek között vízjelek, metaadat-azonosítások, a tartalom eredetének és hitelességének bizonyítására szolgáló kriptográfiai módszerek, naplózási módszerek, ujjnyomatok vagy egyéb technikák, illetve az ilyen technikák kombinációjának bevezetését javasolja. Bár az MI-rendelet (133) preambulumbekezdése említ az eredet és a hitelesség bizonyítására szolgáló módszereket, a szolgáltatók nem kötelesek rögzíteni vagy megőrizni a tartalom eredetére és módosítására vonatkozó információkat, illetve a tartalom előzményeire vonatkozó bármely más releváns állítást tartalmazó teljes származási láncot. Az ilyen, az eredet bizonyítására szolgáló módszerek azonban az MI-rendelet 50. cikke (2) bekezdésének való megfelelés céljából is alkalmazhatók, és elősegíthetik, hogy a természetes személyek meg tudják különböztetni az MI által létrehozott vagy manipulált tartalmat az autentikus tartalomtól.

74.

A szolgáltatók az értéklánc különböző szakaszaiban vezethetnek be a kimenetek jelölésére szolgáló megoldást (pl. utólagosan, a tartalom létrehozását követően az MI-rendszer szintjén, az alapul szolgáló MI-modell szintjén vagy az MI-rendszer következtetési folyamatába integrálva). Támaszkodhatnak a modell upstream szolgáltatója vagy a megoldást nyújtó harmadik fél által alkalmazott jelölési megoldásra (pl. nyílt szabványként vagy speciális szolgáltatásként), amennyiben a jelölési megoldás megfelel az MI-rendelet 50. cikke (2) bekezdésének. Az, hogy ilyen megoldásra támaszkodik, nem érinti az MI-rendszer szolgáltatójának azon felelősségét, hogy bizonyítsa az MI-rendelet 50. cikke (2) bekezdésének való megfelelést.

4.2.2.   Az észlelésre vonatkozó kötelezettség

75.

Az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartozó MI-rendszerek szolgáltatóinak biztosítaniuk kell, hogy rendszereik kimenete kapcsán észlelhető legyen, hogy az MI által létrehozott vagy manipulált tartalom. Ez azt jelenti, hogy a szolgáltató köteles biztosítani, hogy a tartalomnak potenciálisan kitett személyek rendelkezésére álljanak az észleléshez szükséges eszközök. Továbbá az MI-rendelet 50. cikkének (5) bekezdése értelmében az ilyen, észlelésre szolgáló megoldásoknak képesnek kell lenniük arra, hogy ember által olvasható olyan eredményeket hozzanak létre, amelyek jelzik, hogy a tartalmat mesterséges intelligencia hozta létre vagy manipulálta.

76.

Az észlelésre szolgáló eszköz olyan mechanizmus, amely észleli, hogy a tartalmat mesterséges intelligencia hozta-e létre vagy manipulálta-e, amit jellemzően úgy ér el, hogy felismeri a tartalom eredetét igazoló műszaki jelöléseket vagy aláírásokat. Ahhoz, hogy teljes interoperabilitást biztosíthassanak, a szolgáltatóknak nyilvánosan elérhető, az ágazati szabványoknak megfelelő, észlelésre szolgáló megoldásokra kell támaszkodniuk, amelyek bármely harmadik fél számára lehetővé teszik, hogy olyan észlelési folyamatot vezessen be, amely ideális esetben lokálisan végrehajtható a digitális eszközön, és amely zökkenőmentesen integrálható önálló, elszigetelt hálózatokba. Amennyiben ilyen szabványok nem állnak rendelkezésre, különösen az MI-rendelet 50. cikke (2) bekezdése végrehajtásának kezdeti szakaszában a vízjelezési technológiák tekintetében, a szolgáltató támaszkodhat saját, észlelésre szolgáló megoldására, illetve egy harmadik fél vagy egy közös, észlelésre szolgáló megoldásra, feltéve, hogy ezek a megoldások interoperabilitást biztosítanak a más szolgáltatók által használt, észlelésre szolgáló megoldásokkal (lásd a 4.2.3. szakaszt). Ezt a lehetőséget arra az időre kell korlátozni, amíg létre nem jönnek a harmonizált szabványok és egy olyan szabványosított, szolgáltatófüggetlen, interoperábilis megoldás az észlelésre, amely biztonságos, gondoskodik a magánélet védelméről és lokálisan futtatható.

77.

Az MI-rendelet 50. cikkének (5) bekezdése emellett azt is kiköti, hogy az MI-rendelet 50. cikkének (2) bekezdésben említett tájékoztatást legkésőbb az első interakció vagy kitettség alkalmával, egyértelmű és jól megkülönböztethető módon kell a tartalomnak kitett természetes személyek számára nyújtani. Ez a tájékoztatás különösen az észlelés eredménye, amely azt jelzi, hogy a tartalom mesterséges intelligencia által létrehozott vagy manipulált-e, nem pedig magát az MI által létrehozott vagy manipulált tartalmat. „Az első kitettség alkalmával” kifejezést úgy kell értelmezni, mint az az időpont, amikor a természetes személyek ellenőrizni akarják egy adott tartalom eredetét, és hozzá akarnak férni az észlelésre szolgáló megoldáshoz az észlelés eredményeinek elérése érdekében.

78.

Ha az MI-rendszer szolgáltatója az észlelésre szolgáló megoldás biztosítása vagy az ahhoz való hozzáférés tekintetében egy másik szereplőtől függ, biztosítania kell, hogy az észlelésre szolgáló megoldás megfeleljen az MI-rendelet 50. cikke (2) és (5) bekezdésének, és hogy ezek a szereplők az észlelés eredményeit az MI-rendelet 50. cikke (5) bekezdésének megfelelően jelenítsék meg (lásd a 7. szakaszt).

4.2.3.   A műszaki megoldásokra vonatkozó követelményeknek való megfelelés: hatékony, interoperábilis, robusztus és megbízható

79.

Az MI-rendelet 50. cikke (2) bekezdésének második mondata úgy rendelkezik, hogy a jelölésre és az észlelésre szolgáló műszaki megoldásoknak hatékonynak, interoperábilisnak, robusztusnak és megbízhatónak kell lenniük. Ezeket a követelményeket a következőképpen kell értelmezni:

—

A hatékonyság azt jelenti, hogy a szolgáltatók által alkalmazott műszaki megoldás képes észlelni jelöléseiket, valamint lehetővé tenni a természetes személyek számára, hogy megkülönböztessék az MI-rendszerük által mesterségesen létrehozott vagy manipulált tartalmakat, és ezáltal hozzájárul az információs ökoszisztéma integritásához és az abba vetett bizalomhoz.

—

A megbízhatóság a műszaki megoldás azon képességére utal, hogy névleges feltételek mellett pontosan azonosítsa és megkülönböztesse az MI által létrehozott vagy manipulált tartalmat más tartalmaktól a szolgáltató MI-rendszere által létrehozott vagy manipulált tartalmak sokféleségében.

—

A robusztusság a műszaki megoldás azon képességére utal, hogy különböző feltételek mellett pontosan azonosítsa és megkülönböztesse a szolgáltató MI-rendszere által létrehozott vagy manipulált tartalmat más tartalmaktól, lefedve mind a gyakori módosításokat, mind az ellenséges támadásokat.

—

Az interoperabilitás azt jelenti, hogy a különböző jelölésre és észlelésre szolgáló műszaki megoldások képesek zökkenőmentesen működni több rendszer, szereplő, kontextus és műszaki alkalmazás esetében is, hogy lehetővé tegyék az MI által létrehozott vagy manipulált tartalom észlelését, függetlenül attól, hogy a különböző MI-rendszerek szolgáltatói milyen jelölési techniká(ka)t alkalmaznak.

80.

A szolgáltatóknak biztosítaniuk kell, hogy a jelölésre és az észlelésre szolgáló műszaki megoldások kombinációja holisztikusan, a jogilag előírt mértékben megfeleljen az összes fent említett követelménynek, figyelembe véve a különböző alkalmazott megoldások korlátait és egymást kiegészítő jellegét. A műszaki megoldásoknak valamennyi követelménynek meg kell felelniük, amennyire ez műszakilag megvalósítható, figyelembe véve a különböző tartalomtípusok sajátosságait és korlátait, a megvalósítás költségeit, valamint a technika általánosan elismert állását, ahogyan azt a vonatkozó műszaki szabványok tükrözhetik.

81.

Az MI-rendelet 50. cikkének (2) bekezdése értelmében vett „műszakilag megvalósítható” megoldások olyan megoldások, amelyek az érintett konkrét műszaki architektúrán és működési környezeten belül megvalósíthatók a rendelkezés hatálya alá tartozó modalitások tekintetében, a jelenleg rendelkezésre álló technológiák, módszerek és tervezési gyakorlatok felhasználásával. A szolgáltató nem köteles olyan műszaki megoldást igénybe venni, amelyet még nem fejlesztettek ki vagy nem érhető el a piacon, vagy amely műszakilag alkalmatlan a végrehajtáshoz. A műszaki megvalósíthatóság objektív fogalom, amely nem függ az egyes szolgáltatók konkrét erőforrásaitól és képességeitől.

82.

Az MI-rendelet 50. cikkének (2) bekezdése előírja a szolgáltatók számára, hogy a hatékonyságra, a robusztusságra, a megbízhatóságra és az interoperabilitásra vonatkozó négy minőségi követelménynek való megfelelés érdekében olyan, műszakilag megvalósítható megoldás(oka)t alkalmazzanak, amelyek igazodnak a technika általánosan elismert állásához.

83.

A „technika állása” kifejezés a termékek, eljárások és szolgáltatások tekintetében egy adott időpontban jellemző műszaki alkalmasság fejlett állapotát jelenti, amely a tudomány, a technológia és a tapasztalatok vonatkozó konszolidált eredményein alapul, és amelyet bevált gyakorlatként fogadnak el a technológia terén (28). A technika állása nem feltétlenül jelenti a még kísérleti szakaszban lévő vagy még nem kellően kiforrott technológiával rendelkező, legújabb tudományos kutatást. A szolgáltatóknak annak megfelelően, ahogy a technológia és a technika fejlődik, időben és arányosan folyamatosan ki kell igazítaniuk a jelölésre és észlelésre szolgáló megoldásaikat.

84.

Az MI-rendelet 50. cikkének (7) bekezdése fényében a szolgáltatók támaszkodhatnak egy olyan, az említett rendelkezés értelmében arra megfelelőnek ítélt és a technika állásának megfelelelő gyakorlati kódexre, hogy bizonyítsák megfelelésüket az MI-rendelet 50. cikkének (2) és (5) bekezdésében foglalt, a megjelölésre és észlelésre vonatkozó kötelezettségeknek. Az ilyen kódex betartásának hatásaival és a kódexet be nem tartó egyéb szolgáltatók felügyeletével kapcsolatos további információkért lásd az alábbi 8.1. szakaszt.

85.

Figyelembe lehet venni a jelölésre és az észlelésre szolgáló egyes műszaki megoldások megvalósításának költségeit is. Bizonyos esetekben, amint azt a következő pontokban ismertetjük, a költségek a marginális nyereséghez képest aránytalanok lehetnek, és az, hogy lehetővé teszik az emberek számára az MI által létrehozott vagy manipulált tartalmak megkülönböztetését, valamint biztosítják az információs ökoszisztéma integritását és az abba vetett bizalmat, korlátozottabb értéket képvisel.

86.

Ezért előfordulhatnak olyan szűken meghatározott esetek, amikor egy kevésbé robusztus metaadat-jelöléseken alapuló műszaki megoldás is elegendő az MI-rendelet 50. cikke (2) bekezdésének való megfeleléshez, figyelembe véve az MI-rendszer kimeneteinek sajátosságait, ha eredendően alacsonyabb kockázatot jelentenek a megtévesztés, a manipuláció vagy az információs ökoszisztémára gyakorolt negatív hatások tekintetében. Különösen ez a helyzet akkor, ha egy generatív MI-rendszer olyan fizikai termékekbe van beágyazva, amelyek főként utasító jellegű, műszakilag ellenőrzött és zárt környezetben generálnak kimeneteket (pl. járművek navigációs rendszereibe ágyazott MI-rendszer), amennyiben a termékbe hatékony technikai intézkedéseket építettek be annak megakadályozására, hogy a kimenet elhagyja a termékkörnyezetet, például azáltal, hogy rögzítik vagy exportálják és a rendszeren kívül terjesztik.

87.

Az „ipari MI-alkalmazások” vagy a „vállalkozások közötti alkalmazások” (kivéve a nyilvános és a fogyasztóknak szánt MI-rendszereket) terén korlátozott számban előfordulhatnak olyan esetek is, amikor az arányosság elve és az átláthatósági célkitűzések szempontjából jelentkező korlátozott előnyök azt jelentik, hogy nincs szükség az MI által létrehozott vagy manipulált kimenetek megjelölésére és észlelésére. Ez csak akkor alkalmazandó, ha az alábbi követelmények együttesen teljesülnek:

i.

Az MI-rendszer által generált kimenet szigorúan technikai jellegű, például műszaki tervezés, ipari termelési munkafolyamatok, műszaki utasítások, ipari környezetben végzett prediktív rendszerkarbantartási folyamatok, belső dokumentációs folyamatok vagy termelési lépések és a kimenet véglegesítése és más külső személyek vagy a nyilvánosság rendelkezésére bocsátása előtti munkafolyamatok eredményeként generált kimenet.

ii.

Az MI-rendszer által létrehozott kimenetet csak korlátozott számú, előre meghatározott, a szolgáltató és az alkalmazó szervezetén belül szakmai minőségében eljáró természetes személy általi észlelésre és feldolgozásra szánják.

iii.

Az MI-rendszer által létrehozott kimenetet nem szabad arra szánni, hogy azt a vállalaton kívül megosszák vagy külső személyek használhassák, amihez megfelelő biztosítékokat (pl. felhőbeli elkülönítés, szerepalapú szabályozások) kell nyújtani az észszerűen előrelátható rendellenes használat elkerülése érdekében.

88.

A valós idejű tartalom-létrehozás, amely során eltűnő és azonnal fogyasztandó tartalmat generálnak – anélkül, hogy azt rögzítenék, tárolnák vagy tovább terjesztenék (pl. videojátékokban, virtuálisvalóság-alkalmazásokban) – szintén mentesülhet, ha a megjelölés műszakilag nem megvalósítható, és a tartalomnak kitett személyeket tájékoztatják arról, hogy a tartalmat mesterséges intelligencia hozta létre vagy manipulálta (pl. az élmény közben végrehajtott tájékoztatással, munkamenet szintű értesítésekkel).

4.3.   Az MI-rendelet 50. cikkének (2) bekezdése szerinti kötelezettségek alóli kivételek

89.

Az MI-rendelet 50. cikkének (2) bekezdése három kifejezett kivételt ír elő az e rendelkezésben meghatározott átláthatósági kötelezettségek alól.

90.

Az első kivétel az MI-rendszerekre vonatkozik, amennyiben azok a standard szerkesztést segítő funkciót látnak el. Standard szerkesztés alatt a meglévő tartalom közzétételre vagy terjesztésre való előkészítésének folyamatát kell érteni (pl. kisebb szerkesztések az olvashatóság, a nyelvtan, a minőség és a formátum javítása érdekében), amely nem jár új tartalom létrehozásával. A standard szerkesztés célja annak biztosítása, hogy a tartalom többek között mentes legyen nyilvánvaló technikai vagy nyelvtani, nyelvi hibáktól, összhangban legyen az alkalmazandó elrendezési, megjelenítési, formázási vagy akadálymentességi követelményekkel, vagy megfeleljen az ágazati gyakorlatoknak. A szerkesztés túlmutat a standard szerkesztésen, ha a tartalmat olyan lényeges módon változtatják meg (lényeges módosításokkal, strukturális változásokkal stb.), amely befolyásolja annak jelentését, stílusát vagy szándékát.

91.

A második kivétel akkor érvényes, ha az MI-rendszer nem módosítja lényegesen az alkalmazó által szolgáltatott bemeneti adatokat vagy azok szemantikáját. A módosítás akkor tekintendő lényegesnek, ha a bemeneti adatokat vagy azok szemantikáját az MI-rendszer a kimeneti adatok létrehozási folyamata során jelentősen manipulálta. Ennek olyan releváns tényezők értékelésén kell alapulnia, mint a formátum, a médiatartalom típusa, a stílus és a tartalom olyan változásai, amelyek befolyásolják annak jelentését, stílusát vagy szándékát. Annak megállapítása, hogy ez a helyzet áll-e fenn, esetspecifikus értékelést igényel.

92.

Ha egy MI-rendszer tartalmak létrehozására vagy manipulációjára, valamint a bemeneti adatok kisebb, lényegesnek nem minősülő módosítására is használható, akkor az MI-rendelet 50. cikkének (2) bekezdése szerinti átláthatósági kötelezettség nem alkalmazandó a kisebb mértékben, nem lényeges mértékben módosított tartalomra.

Példák az MI-rendelet 50. cikkének (2) bekezdése szerinti kivétel hatálya alá tartozó standard szerkesztésre és kisebb módosításokra:

—

Nyelvtani helyesbítés és helyesírás-ellenőrzés, nyelvi és kisebb stilisztikai csiszolás, amely nem változtatja meg a szöveg lényegét, jelentését, stílusát vagy üzeneteit, szövegek mesterséges intelligencia által létrehozott fordításai.

—

Formázás, formátumátalakítás, műszaki tömörítés, zajcsillapítás vagy -eltávolítás a nagyobb egyértelműség érdekében a tartalom jelentésének vagy tartalmának megváltoztatása nélkül.

—

Kisebb vágások, kisebb színbeállítások vagy -korrekciók, világosítás vagy sötétítés, élesítés a nagyobb tisztaság érdekében vagy egyéb standard szerkesztési és technikai javítások.

—

Szennyezett lencse vagy érzékelő által okozott porszemcsék eltávolítása, a vakuval történő fényképezés által okozott vörösszem-effektus eltávolítása; az eredeti fájlban látható háttér törlése és elhomályosítása, az arcok pixelesítése vagy elmosása.

—

Videoklip átméretezése, dinamikakompresszió és kiegyenlítés; korlátozott videostabilizálás.

—

Szabványos szín- és kontrasztbeállítások, a lejátszási sebesség kisebb módosításai, kisebb javítások a kép horizontjának kiegyenesítése érdekében, pixelszűrők alkalmazása a kép bizonyos részeinek kiemelésére, színtérképek alkalmazása szürkeárnyalatos képekre, élek menti kép-helyreállítás, fekete-fehér kép vagy videó színessé alakítása és fordítva.

—

Pixelkitöltés képarány-adaptációhoz vagy a tisztább kép érdekében, automatikus átmenetek a klipek között, egyéb, nem lényeges szerkesztések szépítő és műszaki célokra.

—

Orvosi képek technikai feldolgozása vagy rekonstrukciója orvostechnikai eszközökön (pl. annotációk, dobozok, körvonalak, körök, hőtérképek).

—

Beszélgetések átiratai; MI által létrehozott tartalom, amely csak segítő technológiák révén átalakítja az autentikus emberi bemenetet, lehetővé téve a fogyatékossággal élő személyek számára a kommunikációt (pl. alternatív és augmentatív kommunikáció [AAK] vagy személyre szabott neurális hangok), mivel ezek nem változtatják meg szemantikailag a tartalom jelentését.

Példák az MI-rendelet 50. cikkének (2) bekezdése szerinti jelölést igénylő szemantikai változásokra:

—

MI által létrehozott szövegösszefoglalók; szöveg olyan jellegű átfogalmazása vagy átírása, amely a pusztán nyelvtani és kisebb stilisztikai javításon túl a stílust, a szerkezetet és a jelentést is megváltoztatja.

—

Tárgyak vagy személyek eltávolítása vagy cseréje meglévő képeken és videókban, illetve az azokba történő beillesztésük, amitől megváltozik a tartalom jelentése és tartalma; az arc cseréje vagy az arc jelentős módosítása.

—

Egy realisztikus beszéd szintézise egy adott személy hangján, vagy olyan eseményeket ábrázoló, realisztikus videó létrehozása, amelyek nem történtek meg; valamely személy testformájának vagy bőrszínének megváltoztatása; szélsőséges világosítás, sötétítés, szín- és kontrasztváltozások, amelyek megváltoztatják a tartalom jelentését, szándékát és üzenetét.

—

Kompozit képek vagy videoklipek készítése, amelyek módosítják személyek, tárgyak, események vagy tények megjelenítését, vagy bármilyen más, lényeges módosítást eredményeznek a tartalomban.

93.

A harmadik kivétel a törvény által a bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából szintetikus tartalom előállítására vagy manipulálására engedélyezett generatív MI-rendszerekre vonatkozik. Az e kivételre vonatkozóan a fenti 46–48. pontban adott pontosítások ebben az esetben is relevánsak.

4.4.   Kölcsönhatás más uniós jogi aktusokkal

94.

Az MI-rendelet 50. cikkének (2) bekezdése szerinti, a jelölésre és az észlelésre vonatkozó kötelezettségek a tartalom létrehozásának módjára és mesterséges eredetére összpontosítanak, nem pedig arra, hogy ki hozta létre a tartalmat. Az MI-rendszerek szolgáltatói által alkalmazott jelölési és észlelésre szolgáló megoldásoknak ezért meg kell felelniük az alkalmazandó uniós adatvédelmi jogszabályoknak, beleértve az adatvédelmi elveket és kötelezettségeket, például a beépített és alapértelmezett adatvédelem kötelezettségét, az adattakarékosság elvét, valamint a biztonsági és titoktartási elveket. A jelölés és az észlelés céljából például nem szabad a tartalom létrehozójával kapcsolatos információkat kezelni, és törölni kell minden más kezelt személyes adatot, amint az észlelés mint cél teljesül; biztonságot és titoktartást kell biztosítani stb.

95.

Az MI-rendelet (136) preambulumbekezdése még jobban kiemeli az MI-rendelet 50. cikkének (1), (2) és (4) bekezdése szerinti átláthatósági kötelezettségek különös jelentőségét a digitális szolgáltatásokról szóló rendelet hatékony végrehajtásának megkönnyítése szempontjából. Ez különösen igaz az online óriásplatformokat vagy nagyon népszerű online keresőprogramokat üzemeltető szolgáltatók azon kötelezettségeire, hogy gondosan azonosítsák, elemezzék, értékeljék és enyhítsék a mesterségesen előállított vagy manipulált tartalom terjesztéséből eredő rendszerszintű kockázatokat, különösen a demokratikus folyamatokra, a civil párbeszédre és a választási folyamatokra – többek között dezinformáció révén – gyakorolt tényleges vagy előrelátható negatív hatások kockázatát (a digitális szolgáltatásokról szóló rendelet 34. és 35. cikke). A géppel olvasható jelölések lehetővé tehetik e szolgáltatók számára, hogy felismerjék az MI által létrehozott vagy manipulált tartalmakat, valamint megfelelő címkézést és tájékoztatást biztosítsanak, ezáltal csökkentve a szolgáltatásaik körében az MI által létrehozott dezinformáció kockázatát.

96.

Az MI-rendszerek által létrehozott vagy manipulált tartalom megjelölésére és címkézésére vonatkozó, az MI-rendelet 50. cikkének (2) és (4) bekezdése szerinti kötelezettségek nem érintik a tárhelyszolgáltatóknak a digitális szolgáltatásokról szóló rendelet 16. cikkének (6) bekezdésében foglalt azon kötelezettségét, hogy feldolgozzák a digitális szolgáltatásokról szóló rendelet 16. cikkének (1) bekezdése alapján kapott, jogellenes tartalomra vonatkozó bejelentéseket (29). Különösen az MI által létrehozott vagy manipulált tartalomra alkalmazott jelölés vagy címkézés nem befolyásolhatja az adott tartalom más szabályozási keretek szerinti jogellenességének értékelését és az arra vonatkozó döntést. Ezt az értékelést kizárólag a tartalom jogszerűségére vonatkozó szabályokra tekintettel kell elvégezni ezekkel a keretekkel összhangban (30). Ha például egy címkézett deepfake képet potenciálisan gyermekek szexuális bántalmazását ábrázoló anyagként jelölnek meg, vagy olyan anyagként, amely sérti a védjegyjogot vagy a szerzői jogot, a címke alkalmazása nincs hatással a tartalomnak az említett szabályozási keretek szerinti esetleges jogellenességére. Ezt az értékelést kizárólag a vonatkozó alkalmazandó jogszabályok (pl. büntetőjogi, védjegy- vagy szerzői jogi szabályok) alapján kell elvégezni.

97.

Ezzel szemben a tartalomba az MI-rendelet 50. cikkének (2) bekezdése alapján beágyazott, géppel olvasható jelölés segítheti az online óriásplatformot és a nagyon népszerű online keresőprogramot üzemeltető szolgáltatókat a digitális szolgáltatásokról szóló rendelet 34. és 35. cikke szerinti kötelezettségeik teljesítésében, hogy azonosítsák, elemezzék és értékeljék a mesterségesen előállított vagy manipulált tartalom terjesztéséből eredő rendszerszintű kockázatokat, különösen a demokratikus folyamatokra, a civil párbeszédre és a választási folyamatokra – többek között dezinformáció révén – gyakorolt tényleges vagy előre látható negatív hatások kockázatát (31), valamint hogy észszerű, arányos és hatékony intézkedéseket vezessenek be e kockázatok csökkentése érdekében, az azonosított egyes rendszerszintű kockázatokra szabva. Az online óriásplatformot és nagyon népszerű online keresőprogramot üzemeltető szolgáltatók akkor is MI-rendszerek szolgáltatójának minősülhetnek, ha megfelelnek az MI-rendelet vonatkozó feltételeinek, amennyiben MI-rendszereket integrálnak szolgáltatásaikba (lásd még a 6.1.5. szakaszt).

98.

Az online platformokat, online keresőprogramokat üzemeltető szolgáltatókat és az értéklánc mentén tartalmakat terjesztő egyéb releváns szereplőket különösen arra ösztönzik, hogy őrizzék meg és tegyék lehetővé a szolgáltatók által az MI-rendelet 50. cikkének (2) bekezdése alapján alkalmazott jelölések azonosítását annak érdekében, hogy a tartalomnak kitett természetes személyek tájékoztatást kaphassanak annak eredetéről.

5.   AZ MI-RENDELET 50. CIKKÉNEK (3) BEKEZDÉSE: ÉRZELEMFELISMERŐ RENDSZEREK ÉS BIOMETRIKUS KATEGORIZÁLÁSI RENDSZEREK

99.

Az MI-rendelet 50. cikkének (3) bekezdése arra kötelezi az érzelemfelismerő rendszerek és a biometrikus kategorizálási rendszerek alkalmazóit, hogy tájékoztassák az e rendszereknek kitett természetes személyeket a rendszer működéséről.

100.

Az MI-rendelet (132) preambulumbekezdése kifejti, hogy e kötelezettség célja annak biztosítása, hogy a természetes személyek (beleértve a fogyatékossággal élő személyeket is) tisztában legyenek azzal, hogy érzelemfelismerő és biometrikus kategorizálási rendszereknek vannak kitéve, amelyek sérthetik magánéletüket. A kötelezettség tehát attól függetlenül alkalmazandó, hogy a személyek valós időben vannak-e kitéve az ilyen rendszereknek, vagy e rendszereket utólag üzemeltetik.

5.1.   A fő alkotóelemek, fogalmak és a kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (3) bekezdése értelmében

5.1.1.   Az érzelemfelismerő rendszer fogalma

101.

Az MI-rendelet 3. cikkének 39. pontja az „érzelemfelismerő rendszert” „a természetes személyek érzelmeinek vagy szándékainak a biometrikus adataik alapján történő azonosítására vagy kikövetkeztetésére szolgáló” MI-rendszerként határozza meg. E fogalomnak a nagy kockázatú MI-rendszerek besorolására vonatkozó bizottsági iránymutatásokban szereplő részletes magyarázata, beleértve az azokban meghatározott gyakorlati példákat is, az MI-rendelet 50. cikkének (3) bekezdésével összefüggésben is ugyanilyen releváns.

102.

Mivel minden érzelemfelismerő rendszer egyben nagy kockázatúnak is minősül, kivéve, ha azt tiltja az MI-rendelet 5. cikke (1) bekezdésének f) pontja a munkahelyek és az oktatás területén, az MI-rendelet 50. cikkének (3) bekezdésében foglalt átláthatósági kötelezettséget a nagy kockázatú MI-rendszerekre alkalmazandó egyéb biztosítékokkal és követelményekkel együtt kell alkalmazni.

5.1.2.   A biometrikus kategorizálási rendszer fogalma

103.

Az MI-rendelet 3. cikkének 40. pontja szerint a „biometrikus kategorizálási rendszer (…) a természetes személyeknek a biometrikus adataik alapján meghatározott kategóriákba sorolására szolgáló MI-rendszer, kivéve, ha az egy másik kereskedelmi szolgáltatás mellett kiegészítő jellegű, és objektív technikai okokból feltétlenül szükséges”. E fogalomnak a nagy kockázatú MI-rendszerek besorolására vonatkozó bizottsági iránymutatásokban szereplő részletes magyarázata, beleértve annak konkrét elemeit, valamint az azokban meghatározott gyakorlati példákat is, az MI-rendelet 50. cikkének (3) bekezdésével összefüggésben is ugyanilyen releváns.

104.

Fontos megjegyezni, hogy amennyiben az MI-rendelet 5. cikke (1) bekezdésének g) pontja nem tiltja, az MI-rendelet 50. cikkének (3) bekezdése minden biometrikus kategorizálási rendszerre (pl. biometrikus adatokon alapuló életkori vagy nemi besorolásra) alkalmazandó, függetlenül attól, hogy azok az MI-rendelet szerinti nagy kockázatú MI-rendszerek hatálya alá tartoznak-e vagy sem.

5.1.3.   Az MI-rendelet 50. cikkének (3) bekezdése szerinti tájékoztatási kötelezettség

105.

A szolgáltatandó információk köre: Az alkalmazóknak tájékoztatniuk kell az érintett természetes személyeket arról, hogy működő érzelemfelismerő rendszernek vagy biometrikus kategorizálási rendszernek vannak kitéve. Az MI-rendelet nem írja elő a rendszer működésének okaira vonatkozó információk feltüntetését, vagy azt, hogy a rendszer az érzelemfelismeréstől vagy a biometrikus kategorizálástól eltérő célokból is kezel-e olyan információkat, amelyeket az uniós adatvédelmi jog értelmében nyilvánosságra kell hozni (lásd az 5.3. szakaszt).

106.

A tájékoztatás címzettjei: Az MI-rendelet 50. cikkének (3) bekezdése előírja, hogy az alkalmazóknak az MI-rendszer működésének kitett valamennyi természetes személyt tájékoztatniuk kell, beleértve a gyermekeket is.

107.

A tájékoztatás módja: Az MI-rendelet nem ír elő konkrét eszközt, amellyel a tájékoztatást nyújtani kell, kivéve, hogy az MI-rendelet 50. cikkének (5) bekezdése előírja, hogy a tájékoztatást egyértelmű és jól megkülönböztethető módon, valamint az alkalmazandó akadálymentességi követelményekkel összhangban kell nyújtani (a fogyatékossággal élő természetes személyek igényeinek megfelelően). A rendszernek kitett természetes személyek tájékoztatásának módja függhet a telepítés helyétől (pl. virtuális játékplatform, hagyományos üzlethelyiség, vasútállomás), a lehetséges címzettektől (pl. gyermekek, idősek, fogyatékossággal élő személyek, vevők), a kitettség hosszától és típusától (pl. hosszú távú, egyszeri, folyamatos, időszakos), valamint az alkalmazó és a kitett személyek közötti kapcsolat esetleges meglététől (pl. ha van meglévő kommunikációs csatorna az egyénnel). A felhasználási esettől függően az információk megadhatók írásban, szabványosított ikonokkal (elektronikus megjelenítés esetén is), szóban vagy e módok kombinációjával.

Példák természetes személyek tájékoztatására:

—

Egy középen elhelyezett felugró ablak, amely a számítógépes játék indítása előtt bevezető üzenetet tartalmaz, amely jelzi, hogy felveszik a játékos arcát, hogy rögzítsék érzelmeit.

—

Egy, a kiállítóterem minden lehetséges bejáratánál látható figyelmeztetés, amely tájékoztatást nyújt arról, hogy rögzítik a látogatók arcképmását a terembe való belépéskor, hogy egy meghatározott korcsoporthoz rendeljék őket.

108.

Az információszolgáltatás ütemezése: Az információkat legkésőbb az MI-rendszerrel való első interakció vagy a rendszernek való kitettség időpontjában kell megadni az MI-rendelet 50. cikkének (5) bekezdésével összhangban. Adott esetben az sincs kizárva, hogy a szükséges információkat előzetesen adják meg.

5.2.   A bűnüldözési célból való felhasználásra vonatkozó kivétel

109.

A tájékoztatási kötelezettség nem alkalmazandó az olyan, biometrikus kategorizálásra és érzelemfelismerésre használt MI-rendszerekre, amelyeket a törvény megenged bűncselekmények felderítése, megelőzése és nyomozása céljából, a harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok mellett, és az uniós jognak megfelelően. Az e kivételre vonatkozóan a fenti 46–48. pontban adott pontosítások ebben az esetben is relevánsak, egy különbséggel. Míg az MI-rendelet 50. cikkében foglalt egyéb kivételek olyan kifejezett jogszabályt írnak elő, amely engedélyezi az MI-rendszerek nem átlátható használatát, az MI-rendelet 50. cikkének (3) bekezdése abban az esetben lehetővé teszi az ilyen használatot, ha azt a bűnüldöző hatóságok érzelemfelismerő és biometrikus kategorizálási rendszerek bűncselekmények felderítése, megelőzése vagy nyomozása céljából való, az érintett személyek tájékoztatása nélküli használatára vonatkozó hatáskörére vonatkozó jogi szabályok lehetővé teszik, megfelelő biztosítékok mellett.

5.3.   Kölcsönhatás más uniós jogi aktusokkal

110.

Az MI-rendelet 50. cikkének (3) bekezdése szerinti tájékoztatási kötelezettség önmagában nem teszi jogszerűvé az érzelemfelismerő és a biometrikus kategorizálási rendszerek használatát. Nem legitimálja továbbá az olyan tolakodó vagy diszkriminatív felhasználást sem, amely az MI-rendelet 5. cikke vagy más uniós jog alapján jogellenes és tiltott lehet. Az alkalmazóknak az uniós adatvédelmi jog szerinti alkalmazandó tájékoztatási követelmények mellett meg kell felelniük az MI-rendelet 50. cikkének (3) bekezdésében foglalt tájékoztatási kötelezettségnek is. Bizonyos esetekben az alkalmazók mérlegelhetik, hogy az MI-rendelet 50. cikkének (3) bekezdése alapján hozzáadnak-e értesítéseket az uniós adatvédelmi jog alapján az érintettek számára nyújtott információkhoz.

6.   50. CIKK (4) BEKEZDÉS: A DEEPFAKE-EK ÉS BIZONYOS SZÖVEGES KIADVÁNYOK CÍMKÉZÉSE

111.

Az MI-rendelet 50. cikkének (4) bekezdése két külön kötelezettséget állapít meg a generatív MI-rendszerek alkalmazói számára, amelyek – meghatározott esetek kivételével – megkövetelik, hogy i. a deepfake-ek és ii. a nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett, mesterséges intelligencia által létrehozott vagy manipulált szövegek esetében egyértelmű és jól megkülönböztethető módon nyújtsanak tájékoztatást. Ezek a címkézési kötelezettségek az MI-rendelet 50. cikkének (2) bekezdése szerinti, géppel olvasható jelölésre és az észlelésre vonatkozó kötelezettségek mellett és azok sérelme nélkül alkalmazandók a szintetikus kép-, video-, hang- vagy szöveges tartalmat létrehozó vagy manipuláló MI-rendszerek szolgáltatóira.

6.1.   A deepfake-ekkel kapcsolatos fő alkotóelemek, fogalmak és kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (4) bekezdése értelmében

112.

Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése akkor alkalmazandó, ha több feltétel teljesül:

i.

a rendszernek MI-rendszernek kell lennie;

ii.

amelyet az alkalmazók szakmai célokra használnak (lásd a 2.3. és a 2.4.1. szakaszt);

iii.

deepfake-nek minősülő kép-, hang- vagy videotartalom létrehozására vagy manipulálására;

iv.

az MI-rendszerre nem vonatkozhat az azzal kapcsolatos kivétel, hogy használatát törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából.

6.1.1.   A „deepfake” fogalma

113.

Az MI-rendelet 3. cikkének 60. pontja úgy határozza meg a „deepfake” fogalmát, hogy az „az MI által generált vagy manipulált kép, audio- vagy videotartalom, amely hasonlít létező személyekre, tárgyakra, helyekre, entitásokra vagy eseményekre, és amely egy személy számára megtévesztő módon autentikusnak vagy valóságosnak tűnne”. A manipuláció és a generálás közötti különbséget a fenti 4.1. szakasz tisztázta. A deepfake fogalmának tisztázása érdekében az alábbiakban e fogalommeghatározás négy kumulatív kritériumát vizsgáljuk meg: i. hasonlít ii. létező iii. személyekre, tárgyakra, helyekre, entitásokra vagy eseményekre, és iv. egy személy számára megtévesztő módon autentikusnak vagy valóságosnak tűnne.

i.

Hasonlóság: Az MI-rendelet 3. cikkének 60. pontja előírja, hogy a mesterséges intelligencia által generált vagy manipulált képnek, hang- vagy videotartalomnak „hasonlítania” kell létező alanyokhoz ahhoz, hogy deepfake-nek minősüljön. Az MI-rendelet (134) preambulumbekezdése azt is hozzáteszi, hogy az ilyen hasonlóságnak „érzékelhetőnek” kell lennie. Az MI által létrehozott vagy manipulált kép, hang- vagy videotartalom észrevehetően hasonlít egy alanyra, ha nagy fokú hasonlóság áll fenn a deepfake tartalom és a deepfake által szimulált alany (beleértve annak bármely felismerhető elemét) között. A tartalomnak nem kell azonosnak lennie az alannyal. Azt, hogy a hasonlóság szintje érzékelhető-e, az alkalmazó által elvégzendő eseti értékeléssel kell eldönteni, amely a szimulált alany és a deepfake tartalom objektív összehasonlításán alapul, amelyhez többek között azt kell figyelembe venni, hogy a deepfake milyen mértékben jelenít meg jellemzőket vagy megkülönböztető jegyeket.

ii.

Létező: Az MI-rendelet 3. cikkének 60. pontja előírja, hogy a mesterséges intelligencia által generált vagy manipulált képnek, hang- vagy videotartalomnak „létező” alany(ok)hoz kell hasonlítania ahhoz, hogy deepfake-nek minősüljön. Az MI-rendelet 50. cikkének (4) bekezdésében foglalt, a hasonmássággal való visszaélés, a megtévesztés, a félretájékoztatás, a manipuláció és a csalás kockázatának csökkentésére irányuló cél hatékony elérése érdekében a létezés mint olyan azt jelenti, hogy az MI által létrehozott vagy manipulált képnek, hang- vagy videotartalomnak realisztikus alanyokra (pl. személyekre, tárgyakra, helyekre) kell hasonlítania. Ezért ahhoz, hogy deepfake-nek minősüljenek, elegendő, ha a szimulált személyek, tárgyak, helyek, entitások vagy események olyasvalakire vagy olyasvalamire hasonlítanak, aki vagy amely létezik, valószínűsíthetően létezhet vagy valószínűsíthetően létezhetett volna a valóságban, mivel az ilyen tartalom a megtévesztés, a manipuláció és a dezinformáció egyik fő forrása lehet. Ezzel szemben irreálisnak minősülnek azok a szimulált személyek, tárgyak, helyek, entitások vagy események, amelyek például ellentmondanak a természet vagy a fizika törvényeinek, vagy olyan életformákat ábrázolnak, amelyek a biológiában nem általánosan elfogadottak (például gépi segédeszközök nélkül repülő emberek, sárkányok vagy autót vezető elefántok), és amelyek nem alkalmasak a megtévesztésre, ezért nem tartoznak az átláthatósági kötelezettség hatálya alá.

iii.

Személyek, tárgyak, helyek, entitások vagy események: Az MI-rendelet 3. cikkének 60. pontja előírja, hogy a mesterséges intelligencia által generált vagy manipulált képnek, hang- vagy videotartalomnak létező „személyekre, tárgyakra, helyekre, entitásokra vagy eseményekre” kell hasonlítania ahhoz, hogy deepfake-nek minősüljön. „Személyek” alatt realisztikus emberi lények értendők (beleértve valós személyek digitális másolatait, az MI által létrehozott, realisztikus emberi avatárokat vagy perszónákat, valamint személyes jellemzőket vagy kifejezéseket, például képet, hangot, viselkedést, előadásokat stb.). „Tárgyak” alatt realisztikus, élettelen anyagi javak értendők, többek között épületek, műalkotások, gépek, fogyasztási cikkek stb. „Helyek” alatt realisztikus helyszínek értendők. „Entitások” alatt realisztikus, nem emberi, de élő lények értendők, többek között állatok vagy más biológiai életformák. „Események” alatt olyan realisztikus jelenetek vagy helyzetek értendők, amelyek személyeket, tárgyakat, helyeket és entitásokat érinthetnek (pl. történelmi eseményeket idéznek meg, illetve szakmai vagy fogyasztói szolgáltatásokat ábrázolnak).

iv.

Egy személy számára megtévesztő módon autentikusnak vagy valóságosnak tűnés: Az MI-rendelet 3. cikkének 60. pontja konkretizálja, hogy az MI által generált vagy manipulált, létező személyekre, tárgyakra, helyekre, entitásokra vagy eseményekre hasonlító kép, audio- vagy videotartalom „egy személy számára megtévesztő módon autentikusnak vagy valóságosnak tűnne”. Ez a kritérium a deepfake tartalmak alapvető jellemzőjére, valamint arra vonatkozik, hogy képes potenciálisan megtéveszteni vagy félrevezetni egy személyt a tartalom autentikussága vagy valóságossága tekintetében (32). A tartalom autentikussága arra utal, hogy a tartalom valóban az-e, ami a forrását vagy az alkotási folyamatát tekintve feltételezhető (beleértve például a valódi emberek vagy állatok bevonását, valamint azok tényleges magatartását vagy cselekedeteit, a tárgyak tényleges megjelenését vagy használatát, vagy szolgáltatások nyújtását, egy esemény pontos kibontakozását vagy lefolyását). A valóságosság a tartalom igaz voltához kapcsolódik (pl. a deepfake-ben szereplő ábrázolások ténybeli helytállósága).

114.

Azt, hogy vajon a tartalom „egy személy számára megtévesztő módon autentikusnak vagy valóságosnak tűnne”-e, egészében kell értékelni, figyelembe véve a hasonlóság szintjét, a tartalom potenciális lényegi üzenetét, a tervezett és előre látható felhasználási körülményeket, azt a környezetet, amelyben a tartalmat megjelenítik, valamint a közönség tervezett és észszerűen előre látható összetételét és elvárásait. Ez az értékelés azonban objektív, és ahhoz, hogy deepfake-nek minősüljön, nem követel az alkalmazótól olyan szándékot, hogy az meg akarja téveszteni vagy félre akarja vezetni a tartalomnak kitett természetes személyeket. Ami a felhasználás körülményeit és a közönség elvárásait illeti, ez azt jelenti, hogy ha a tartalmat olyan konkrét felhasználási környezetben használják, ahol a tervezett és észszerűen előrelátható közönség nem várja el, hogy a tartalom autentikus vagy valóságos legyen, az MI által létrehozott vagy manipulált tartalom nem tűnhet megtévesztő módon autentikusnak vagy valóságosnak, még akkor sem, ha tényleg nem autentikus vagy tényleg valótlan. Ilyen esetekben a deepfake fogalommeghatározásának negyedik kritériuma nem teljesül. A háttérjelenetek, speciális effektusok vagy a standard filmgyártási folyamatok részeként végzett technikai elő- és utófeldolgozás mesterséges intelligencia által történő létrehozása vagy manipulálása például nem valószínű, hogy megtévesztő módon autentikusnak vagy valóságosnak tűnővé tenné a tartalmat a közönség számára. Ezzel szemben, ha az MI-t a közönség észlelését befolyásoló alapvető elemek (például teljes mértékben MI által generált színészek, valós vagy elhunyt színészek digitális másolatai, fiatalítás, szimulált előadások, beleértve azok egyes szerepeit is, vagy személyek, tárgyak, helyek vagy események nem autentikus vagy valótlan megjelenítése dokumentumfilmekben) létrehozására vagy manipulálására használják fel, az valószínűleg ezt eredményezné. A kép és a videotartalom esetében elismert tény, hogy a nagy fokú fotorealizmus miatt valószínűbb, hogy az ilyen tartalmat deepfake-nek kell tekinteni (mivel valószínűleg meglévő alanyokhoz hasonlít), de a fotorealizmus önmagában nem meghatározó az értékelés szempontjából. Azt kell még értékelni, hogy az ilyen tartalom alkalmas-e arra, hogy megtévesszen vagy félrevezessen egy személyt a tartalom autentikussága vagy valóságossága tekintetében, figyelembe véve többek között a tervezett és előre látható felhasználási körülményeket.

115.

Az MI-rendelet 50. cikkének (1) bekezdésével ellentétben annak értékelése, hogy egy személy hamis megjelenése autentikus vagy valóságos-e, nem alapulhat egy olyan feltételezett „átlagos” személyen, aki várhatóan ki lesz téve a tartalomnak (lásd a 3.2.1. szakaszt), hanem kellően figyelembe kell venni a lehetséges sokféleségét annak az észszerűen előrelátható közönségnek, amely ki lehet téve a deepfake tartalomnak. A közönség összetételének a megfelelő figyelembevétele különösen fontos, ha észszerűen előre látható, hogy gyermekek, idősek vagy más, alacsonyabb szintű digitális és MI-jártassággal, illetve általános ismeretekkel rendelkező személyek csoportjai valamikor észlelhetik a deepfake tartalmat, mivel ők könnyebben megtéveszthetők vagy félrevezethetők a tartalom autentikussága vagy valóságossága tekintetében. Ilyen esetekben az is elegendő lehet ahhoz, hogy a tartalom deepfake-nek minősüljön, ha a tartalom megtévesztő módon autentikusnak vagy valóságosnak tűnik az előrelátható közönség e része számára. Az azonban nem várható el az alkalmazóktól, hogy a deepfake tartalmak harmadik felek általi, az alkalmazó által észszerűen előrelátható közönségen túli esetleges további terjesztését is mérlegeljék, figyelembe véve a tervezett terjesztési csatornákat (pl. ha a deepfake tartalmat egy weboldal kizárólag előfizetők számára elérhető részén vagy egy vállalati hírlevél részeként jelenítik meg, ez nem jelenti azt, hogy az alkalmazónak alapértelmezetten figyelembe kellene vennie a széles körű nyilvános hozzáférhetőséget).

116.

Hasonlóképpen, a már létező tartalmak jelentéktelen tartalmi vagy technikai vonatkozásainak mesterséges intelligenciával támogatott manipulálása is csekély jelentőséggel bírhat arra, hogy a személy hogyan értékeli a tartalom autentikusságát vagy valóságosságát, és nem válik tőle az így kapott tartalom deepfake-ké. Ilyen lehet például a háttérben lévő részletek szerkesztése (pl. a járókelők eltávolítása), a megvilágítás módosításai, a hangparaméterek adaptálása, a színkorrekció, a zaj csillapítása vagy eltávolítása, az akadálymentesség vagy a fájltömörítés javítása, a szépítő jellegű módosítások és fejlesztések. Az, hogy a manipuláció ebbe a kategóriába tartozik-e, a kontextustól és az adott esetben a tartalom autentikusságának vagy valóságosságának a személyek általi megítélésére gyakorolt hatásától függ. Az MI-n alapuló színkorrekció, a meglévő tartalom hátterének bővítései, a hátterek egyértelműen esztétikai célból végzett módosításai vagy cseréi, a meglévő termékek kompozíciója és elrendezése, vagy a termékhirdetésekben vagy -csomagolásokon alkalmazott képek átméretezése valószínűleg csak csekély hatással van arra, hogy az adott személy hogyan érzékeli a reklám és a termék autentikusságát és valóságosságát. Ezzel szemben, ha az újságírói képek hátterének részletein végeznek a standard technikai, szerkesztői gyakorlatokon túlmutató, MI-n alapuló, jelentős szerkesztést, az negatívan befolyásolhatja az adott személy megítélését a tartalom autentikusságát és valóságosságát illetően.

Példák az MI-rendelet 3. cikkének 60. pontja szerinti deepfake-ekre:

—

MI által manipulált kép egy jelenetről, amelyben két valódi, hivatásos labdarúgó szerepel egy labdarúgó-stadionhoz hasonló épület előtt.

—

MI által létrehozott hang, amelyhez leklónozták egy sajtó-podcast rendszeres műsorvezetőinek és egy vendég beszélgetőpartnernek a hangját, akik néhány hírt vitatnak meg.

—

MI által létrehozott videó egy politikusra hasonlító személyről, aki beszédet tart egy közönség előtt.

—

MI által létrehozott videó, amely egy véleményvezér híresség MI által generált ábrázolását tartalmazza reklám- vagy promóciós összefüggésben.

—

MI által létrehozott videó, amelyben egy vállalat vezérigazgatójának realisztikus szintetikus avatárja szerepel, ahogy gratulál a munkavállalóknak a munkájukhoz és az elmúlt év vállalati eredményeihez.

—

Egy termék MI által létrehozott képe egy reklámban vagy csomagoláson, amely képes befolyásolni a közönség észlelését és félrevezetheti őket a termék tényleges megjelenését, jellemzőit vagy használatát illetően (pl. azáltal, hogy a termék nem ugyanúgy néz ki, mint a valódi termék, vonzóbb vagy jobb minőségű, mint a való életben).

Példák olyan tartalmakra, amelyek nem minősülnek deepfake-nek az MI-rendelet 3. cikkének 60. pontja szerint:

—

MI által létrehozott kép egy olyan jelenetről, amelyben átrepül egy szfinx az Eiffel-torony felett.

—

MI által létrehozott videó egerekről, amelyek egy sajtgyártó reklámkampányának részeként emberi nyelven vitatkoznak a legjobb sajttípusról.

—

Fiktív karakterek hangjának MI-vel történő lemásolása (pl. hangoskönyvekhez, játékokhoz vagy animációkhoz), amikor a narrátorok személyazonosságát illetően nem áll fenn megtévesztés.

—

MI-vel manipulált rádióműsor, amelyben anélkül módosítják a műszaki hangparamétereket (pl. normalizálják a hangerőszintet, csökkentik a zajt, hangtömörítést hajtanak végre), hogy megváltoztatnák a beszélők tényleges szavait vagy beszédmódját.

—

Egy történelmi eseményt ábrázoló, már meglévő képből MI által létrehozott rajz.

—

Videó egy tudományos tévéműsor műsorvezetőjéről, aki egy hegyvidéki régióban sétál, miközben a gleccserek visszahúzódásáról beszél, amit egy MI által manipulált animáció illusztrál a háttérben, amely bemutatja, hogy a gleccserek hogyan húzódtak vissza történelmi szintjükről a jelenlegi szintre.

—

MI által létrehozott fiktív környezetek (pl. fiktív erdők és kastélyok) videojátékokban.

—

Olyan filmek, amelyekben (MI által nem manipulált) valódi színészek játszanak egy MI által létrehozott háttér előtt (amely pl. egy fiktív pusztát, ókori városok történelmi épületeit stb. ábrázolja).

—

Egy valós termék (pl. autó), amelyet egy reklámban mutatnak egy MI által létrehozott háttér és a körülvevő környezet előtt, feltéve, hogy a reklám valószínűsíthetően nem téveszti meg a közönséget a termék tényleges megjelenítésével, jellemzőivel és használatával kapcsolatban.

6.1.2.   Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése szerinti tájékoztatási kötelezettség

117.

Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése kötelezi az olyan MI-rendszerek alkalmazóit, amelyek eredetinek vagy valóságosnak tűnő („deepfake”) kép-, hang- vagy videotartalmat hoznak létre vagy manipulálnak, hogy közöljék, a deepfake „tartalmat mesterségesen hozták létre vagy manipulálták”. Az MI-rendelet (134) preambulumbekezdése egyértelművé teszi, hogy azoknak az alkalmazóknak, akik MI-rendszereket használnak deepfake tartalom létrehozására vagy manipulálására, egyértelműen és megkülönböztethetően fel kell tüntetniük, hogy az ilyen tartalmat mesterségesen hozták létre vagy manipulálták, azáltal, hogy ennek megfelelően megcímkézik az MI kimenetét, és közzéteszik annak mesterséges eredetét. Az MI-rendelet 50. cikke (4) bekezdésének első albekezdésével összhangban alkalmazott címkézési vagy közlési módszereknek a természetes személyek által érthetőnek és észlelhetőnek kell lenniük (pl. látható vagy hallható címkékkel), anélkül, hogy bármilyen konkrét technikai eszközre kellene támaszkodniuk vagy célzott intézkedéseket kellene végrehajtaniuk. Ezért az alkalmazók nem támaszkodhatnak a szolgáltató által az MI-rendelet 50. cikkének (2) bekezdése alapján a tartalomba ágyazott, géppel olvasható jelölésre, mivel ezek a jelölések nem egyértelműek és megkülönböztethetők azonnal a deepfake tartalomnak kitett természetes személyek számára.

118.

Az MI-rendelet 50. cikkének (7) bekezdése fényében az e tájékoztatási kötelezettségnek való megfelelés bizonyítása céljából az alkalmazók betarthatják az MI-rendelet 50. cikkének (7) bekezdése alapján megfelelőnek értékelt gyakorlati kódexet. Az ilyen kódex betartásának hatásaival és a kódexet be nem tartó egyéb alkalmazók felügyeletével kapcsolatos további információkért lásd az alábbi 8.1. szakaszt.

6.1.3.   A művészeti, kreatív, szatirikus, fiktív vagy hasonló deepfake tartalmak átláthatósága

119.

Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése enyhébb átláthatósági kötelezettséget ír elő a nyilvánvalóan művészeti, kreatív, szatirikus, fiktív vagy hasonló művek vagy programok részét képező deepfake-ekre vonatkozóan. Az ilyen tartalmak esetében az átláthatósági kötelezettség a deepfake megfelelő módon történő közlésére korlátozódik, amely nem akadályozza a mű megjelenítését vagy élvezetét.

120.

A tartalmak releváns kategóriái: Ahhoz, hogy kihasználhassa az átláthatósággal kapcsolatos enyhébb tájékoztatási kötelezettség előnyeit, a deepfake (kép, hang vagy videó) legalább az alábbi tartalomkategóriák egyikének a részét kell, hogy képezze: művészeti, kreatív, szatirikus, fiktív vagy hasonló művek vagy programok. Azt, hogy egy deepfake e kategóriák közül egybe vagy többe tartozik-e, az alkalmazónak eseti alapon kell értékelnie. Az MI-rendelet 50. cikke (4) bekezdésének alkalmazásában ezek alatt a kategóriák alatt a következők értendők:

—

művészeti alkotások alatt a művészet céljára létrehozott alkotásokat kell érteni, többek között a zenét, a filmművészeti alkotásokat és a képzőművészetet,

—

kreatív alkotások alatt olyan alkotásokat kell érteni, amelyeknek elkészítése kreatív döntéseket igényel. Azok a művek, amelyeket főként funkcionális vagy műszaki megfontolásból hoznak létre, nem tekinthetők kreatívnak,

—

szatirikus művek alatt olyan műveket kell érteni, amelyek célja a társadalom, a politika, az üzleti élet vagy a közéleti személyiségek kritizálása humoros technikák (többek között irónia, szarkazmus, gúny, pastiche stb.) alkalmazásával,

—

fiktív művek alatt olyan kulturális műveket kell érteni, amelyekben személyek, tárgyak, helyek, entitások vagy események szerepelnek képzeletbeli, de valószerű környezetben,

—

hasonló művek alatt olyan műveket kell érteni, amelyek a fenti kategóriákkal közös alaptulajdonságokkal, illetve hasonló kifejező vagy funkcionális jellemzőkkel rendelkeznek, de nem illeszkednek pontosan egyik kategóriába sem.

121.

A fenti tartalomkategóriák olyan program(ok)ra is vonatkozhatnak, amely(ek) egy médiaszolgáltató által létrehozott műsorrendben vagy katalógusban szereplő önálló elemként értendő(k), amely(ek) formájukat és tartalmukat tekintve összehasonlítható(k) a televíziós műsorszolgáltatással (33). A „művekre” való hivatkozás az MI-rendelet 50. cikkének (4) bekezdésével összefüggésben nincs hatással arra, hogy a tartalom jogosult-e a szerzői és szomszédos jogokra vonatkozó uniós jog szerinti védelemre.

122.

Nyilvánvalóan: Az a tény, hogy egy deepfake a fenti tartalomkategóriák egyikébe (vagy közülük többe) tartozik, nyilvánvaló kell, hogy legyen az annak kitett természetes személyek számára. Ez azt jelenti, hogy a kategóriákat szigorúan kell értelmezni, amit az indokol, hogy a véleménynyilvánítás szabadságára, valamint a művészet és a tudomány szabadságára gyakorolt lehetséges hatás miatt enyhébb közzétételi szabályok alkalmazandók rájuk, ám közben a félretájékoztatás, a manipuláció és a megtévesztés kockázatát továbbra is megfelelően kezelni kell. Ezért azok a tartalmak, amelyek jellege a közönség számára potenciálisan nem világos vagy nem egyértelmű, nem tartoznak ennek az enyhített átláthatósági rendszernek a hatálya alá. A művészeti, kreatív, szatirikus vagy fiktív tartalom nyilvánvaló jellegének értékelése szempontjából releváns tényezők a következők: i. a tartalom olyan formátumokat vagy stílusokat jelenít-e meg, amelyek a tartalomkategóriákra jellemzőek (pl. szatirikus művek esetében irónia vagy túlzás, bizonyos művészeti stílusok, jellegzetes témák, technikák vagy esztétika megjelenítése stb.), ii. a kontextus, amelyben a tartalmat bemutatják (pl. a tartalom megjelenítésének, rendelkezésre bocsátásának vagy terjesztésének platformja, médiuma vagy helye művészeti, kreatív, szatirikus vagy fiktív felhasználáshoz kapcsolódik), valamint iii. a közönség elvárásai (pl. film, játékkörnyezet vagy virtuális valóság jelenete). Ezenkívül az a feltétel, hogy a tartalomnak „nyilvánvalóan” a fenti tartalomkategóriák valamelyikébe kell tartoznia, kizárja a tartalmat e tartalomkategóriákból, ha az kizárólag tájékoztató vagy kereskedelmi jellegű, és ilyenként felismerhető (pl. híradás). E tekintetben néhány olyan tartalom, amely deepfake-eket tartalmaz (pl. hirdetések vagy dokumentumfilmek), bizonyos specifikus helyzetekben nyilvánvalóan kreatív vagy fiktív műnek tekinthető, más helyzetekben azonban nem, mivel ennek az értékelése esetspecifikus. Ha a deepfake több tulajdonságot is ötvöz (pl. informatív és kreatív), mindig az informatív jellegnek kell érvényesülnie, és a tartalomnak meg kell felelnie a standard címkézési követelményeknek.

123.

Megfelelő, a mű megjelenítését vagy élvezetét nem akadályozó közlés: A nyilvánvalóan művészeti, kreatív, szatirikus vagy fiktív művek vagy programok részét képező deepfake-ek nincsenek kizárva az MI-rendelet 50. cikke (4) bekezdésének első albekezdésében foglalt átláthatósági kötelezettség alól. Az alkalmazóknak ezek esetében is tájékoztatást kell nyújtaniuk arról, hogy a tartalom MI-eredetű vagy MI által manipulált, de ezt olyan, megfelelő módon tehetik meg, hogy az ne akadályozza a mű megjelenítését vagy élvezetét. Az MI-rendelet (134) preambulumbekezdése egyértelművé teszi, hogy az ilyen megfelelő módon történő felfedés nem akadályozhatja a rendes kiaknázást és használatot, miközben lehetővé teszi a mű hasznosságának és minőségének fenntartását is. Annak meghatározása, hogy az adatok felfedésére milyen intézkedések tekinthetők megfelelőnek, eseti értékeléssel történik, amelynek során az alkalmazók figyelembe vehetnek minden releváns tényezőt (beleértve a mű jellegét, a közönséget, a kontextust stb.). Az alkalmazóknak minden esetben meg kell felelniük az MI-rendelet 50. cikke (5) bekezdésének (lásd a 7. szakaszt). Az MI-rendelet 50. cikkének (7) bekezdése fényében az alkalmazók betarthatják az említett rendelkezés alapján megfelelőnek értékelt gyakorlati kódexet az e tájékoztatási kötelezettségnek való megfelelés bizonyítása céljából. Az ilyen kódex betartásának hatásaival és a kódexet be nem tartó egyéb alkalmazók felügyeletével kapcsolatos további információkért lásd az alábbi 8.1. szakaszt.

124.

A harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok: Az MI-rendelet (134) preambulumbekezdése egyértelművé teszi, hogy az enyhített átláthatósági kötelezettségnek való megfelelésre, valamint a művészeti, kreatív, szatirikus vagy fiktív deepfake-ek használatára csak „a harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok mellett” van lehetőség. Ezért az alkalmazóknak biztosítaniuk kell, hogy a deepfake-ek létrehozásakor vagy közzétételekor megfelelően védjék és tiszteletben tartsák a harmadik felek jogait és szabadságait (többek között például a személyes adatok védelméhez való jogukat vagy a szellemi tulajdonhoz fűződő jogukat), még akkor is, ha a deepfake művészeti, kreatív, szatirikus vagy fiktív jellegűnek tekintendő. Az enyhített átláthatósági kötelezettségre való hivatkozás nem lehet indok arra, hogy ne tartsák tiszteletben az egyéneknek vagy a jogosultaknak a szellemi tulajdonhoz fűződő uniós jog vagy az uniós adatvédelmi jog szerinti alapvető jogait (34).

Példák olyan deepfake-ekre, amelyek kreatív, szatirikus, fiktív vagy hasonló művek:

—

Művészeti/fiktív mű: mozikban vagy streaming platformokon elérhető filmekben (vagy filmelőzetesekben) látható, MI által létrehozott vagy manipulált deepfake-ek megfiatalított, létező színészekről, illetve digitális másolatok elhunyt színészekről vagy más személyekről.

—

Művészeti/kreatív mű: MI által létrehozott zene bármilyen műfajban, amely hasonlít a létező művészek egyedi stílusára.

—

Szatirikus/fiktív mű: MI által manipulált kép egy létező politikusról olyan jelenetben, amelynek egyértelmű célja, hogy humoros módon kritizáljon bizonyos, az adott személy által hozott vagy támogatott politikai döntéseket.

—

Hasonló kreatív/fiktív mű: egy játék MI által generált képvilága, amely valós, létező személyek deepfake szimulációit tartalmazza.

Példák olyan deepfake-ekre, amelyek nem minősülnek kreatív, szatirikus, fiktív vagy hasonló műnek:

—

MI-vel manipulált videó egy televíziós vásárlási csatorna stílusában, amelyben egy MI által generált jelenetben a terméknek a szimulált fogyasztók általi funkcionális használatát ábrázolják a terméket reklámozó emberek deepfake szimulációjával, azzal a céllal, hogy meggyőzzék a nézőket a termék megvásárlásáról.

—

Hírességek MI által generált képe, amely olyan tevékenységekben való részvételükre utal, amelyekre soha nem került sor, és amelynek nincs fiktív, szatirikus vagy hasonló célja.

—

MI által manipulált videó, amelyben egy realisztikus, szintetikus véleményvezér tesztel egy szponzorált, valódi terméket, kizárólag a termék funkcióinak megjelenítésére összpontosítva.

—

MI által létrehozott videó, amely a nyilvánosan elérhető közösségimédia-platformokon megosztott, realisztikus holokausztjeleneteket ábrázol.

6.1.4.   A bűnüldözésre való felhasználásra vonatkozó kivétel

125.

Ha a deepfake (pl. egy MI által létrehozott, soha meg sem történt eseményeket szimuláló videó) használatát törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából, az alkalmazók mentesülnek az MI-rendelet 50. cikke (4) bekezdésének első albekezdése szerinti átláthatósági kötelezettség alól. A fenti 46–48. pontban az MI-rendelet 50. cikkének (1) bekezdésében foglalt hasonló kivételre vonatkozóan nyújtott pontosítások e rendelkezés szempontjából is relevánsak.

6.1.5.   Kölcsönhatás más uniós jogi aktusokkal

126.

Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése szerinti átláthatósági kötelezettség kölcsönhatásban lesz az online óriásplatformot és nagyon népszerű online keresőprogramot üzemeltető szolgáltatóknak a digitális szolgáltatásokról szóló rendelet 34. és 35. cikke, különösen a digitális szolgáltatásokról szóló rendelet 35. cikke (1) bekezdésének k) pontja szerinti, a rendszerszintű kockázatok azonosítására és csökkentésére vonatkozó kötelezettségeivel (35). Ez utóbbi rendelkezés az online óriásplatformot és nagyon népszerű online keresőprogramot üzemeltető szolgáltatók által elfogadható lehetséges kockázatcsökkentési intézkedések között felsorol olyan intézkedéseket, amelyek biztosítják, hogy „valamely információ, amely olyan generált vagy manipulált kép, audio- vagy videotartalom lehet, amely számottevően hasonlít létező személyekre, tárgyakra, helyekre vagy más entitásokra vagy eseményekre, és az eredetiség vagy a hitelesség hamis látszatát kelti valaki számára, megjelenítésekor jól látható jelzések révén megkülönböztethető legyen online interfészeiken”. Emellett az online óriásplatformot és nagyon népszerű online keresőprogramot üzemeltető szolgáltatók egy könnyen használható funkciót is biztosíthatnak, amely lehetővé teszi a szolgáltatás igénybe vevői számára az ilyen információ megjelölését. Bár a digitális szolgáltatásokról szóló rendelet e rendelkezése hasonlónak tűnik az MI-rendelet 50. cikkének (4) bekezdéséhez, kiegészíti azt, és két fontos különbséget tartalmaz:

—

Eltérő tárgyi hatály: Az MI-rendelet 50. cikkének (4) bekezdéséhez képest a digitális szolgáltatásokról szóló rendelet 35. cikke (1) bekezdésének k) pontja a tartalmak szélesebb körére terjed ki, amelyek az autentikusság vagy valóságosság hamis látszatát keltik, függetlenül a tartalom létrehozásához használt technológiáktól (azaz olyan tartalmakra terjed ki, amelyeket MI-rendszerek vagy bármely más eszköz használatával hoztak létre vagy manipuláltak).

—

Eltérő személyi hatály: Az MI-rendelet 50. cikkének (4) bekezdése arra kötelezi a deepfake-eket létrehozó vagy manipuláló MI-rendszerek alkalmazóit, hogy címkézzék meg az ilyen tartalmakat, míg a digitális szolgáltatásokról szóló rendelet 35. cikke (1) bekezdésének k) pontja a tartalmat terjesztő vagy az ilyen tartalmat keresés útján felfedezhetővé tevő online óriásplatformok és nagyon népszerű online keresőprogramok szolgáltatóira vonatkozik. Az MI-rendelet szerint egy online óriásplatformba integrált MI-rendszerek alkalmazói például a digitális szolgáltatásokról szóló rendelet 3. cikkének b) pontja (36) értelmében „a szolgáltatás igénybe vevőinek” tekinthetők, ha az online óriásplatformot az adott MI-rendszerrel létrehozott tartalom terjesztésére használják, míg az online óriásplatform az MI-rendszer szolgáltatójának tekinthető, ha az MI-rendelet 3. cikkének (3) bekezdésében foglalt feltételek teljesülnek. Amennyiben az online óriásplatformot vagy nagyon népszerű online keresőprogramot üzemeltető szolgáltatók címkézésre szolgáló eszközöket bocsátanak az ilyen alkalmazók rendelkezésére, amelyek lehetővé teszik számukra, hogy az MI-rendelet 50. cikkének (4) bekezdésével összhangban felcímkézzék deepfake tartalmaikat (azaz egyértelmű és jól megkülönböztethető módon felfedjék, hogy a tartalom MI-től származik), ezek az alkalmazók a használt online óriásplatform vagy nagyon népszerű online keresőprogram kontextusában támaszkodhatnak ezekre az eszközökre az említett rendelkezés szerinti átláthatósági kötelezettségük teljesítése érdekében. Az, hogy ilyen funkciót nyújtanak, nem érinti az alkalmazók MI-rendelet szerinti azon felelősségét, hogy teljesítsék címkézési kötelezettségeiket az MI-rendelet 50. cikke (4) bekezdése értelmében. Ezen túlmenően az online óriásplatformot és nagyon népszerű online keresőprogramot üzemeltető szolgáltatók akkor is az MI-rendelet szerinti MI-rendszer alkalmazóinak minősülnek, ha a felügyeletük alá tartozó MI-rendszert saját szakmai céljaikra használják (pl. marketinganyagok részeként használandó vizuális elemek létrehozására).

127.

Ha a deepfake egy közvetlenül vagy közvetve azonosítható (élő) természetes személyre vonatkozó információkat tartalmaz, akkor az alkalmazóknak mint az uniós adatvédelmi jog szerinti adatkezelőknek az uniós adatvédelmi jog szerinti vonatkozó kötelezettségeknek is meg kell felelniük (37). Ez magában foglalja például a személyes adatok kezelése esetében az ahhoz szükséges, megfelelő jogalapra való hivatkozást, az ábrázolt érintettekre vonatkozó adatok kezelésével kapcsolatos információkat stb.

128.

A deepfake-eket létrehozó MI-rendszerek alkalmazóinak továbbá biztosítaniuk kell azt is, hogy megfeleljenek a szellemi tulajdonra vonatkozó releváns uniós jogszabályoknak (például az uniós védjegyjognak és a szerzői jogra vagy a szomszédos jogokra vonatkozó uniós jognak), amennyiben deepfake-jeik az említett jogszabályok által védett tartalmakat tartalmaznak. Ha egy deepfake-en elhelyeznek egy címkét vagy egy ikont, az önmagában még nincs hatással a tartalom szerzői jogi védelemre való jogosultságára, amelyet az alkalmazandó uniós szerzői joggal összhangban kell értékelni.

129.

Amennyiben létező személyeket ábrázolnak deepfake-ekben, az alkalmazóknak meg kell felelniük a személyes képekhez vagy hangokhoz kapcsolódó személyiségi jogokat védő vonatkozó jogi rendszereknek is. Az MI-rendelet 50. cikke (4) bekezdésének első albekezdésében foglalt átláthatósági kötelezettség nem jelenti azt, hogy az MI által generált vagy manipulált, az alkalmazandó uniós vagy nemzeti jog értelmében káros és jogellenes deepfake-eket (pl. megtévesztő reklámokat, vagy büntetőjog értelmében jogellenes anyagokat, például gyermekek szexuális bántalmazását ábrázoló anyagokat és beleegyezés nélküli intim képeket) lehet létrehozni és terjeszteni (lásd még a 4.4. szakaszt).

6.2.   Az MI-vel létrehozott vagy manipulált szöveggel kapcsolatos fő alkotóelemek, fogalmak és kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (4) bekezdése értelmében

130.

Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése akkor alkalmazandó, ha több feltétel teljesül:

i.

a rendszernek MI-rendszernek kell lennie;

ii.

a nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szöveg létrehozására vagy manipulálására (lásd a 4.2.1. szakaszt) használták;

iii.

az MI-rendszer használata nem tartozik egyik kivétel hatálya alá sem, amennyiben 1. az MI által létrehozott tartalmon emberi felülvizsgálatra vagy szerkesztési ellenőrzésre került sor, és amennyiben a tartalom közzétételéért természetes vagy jogi személy szerkesztői felelősséget visel, vagy 2. a felhasználást törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából.

6.2.1.   A nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szöveg

131.

Az MI-rendelet 50. cikke (4) bekezdése második albekezdése hatályának pontosítása céljából az alábbiakban három elem vizsgálatára kerül sor: i. közzétett szöveg, ii. a nyilvánosság tájékoztatása céljából, iii. közérdekű ügyekről.

i.

Közzétett szöveg: Az MI által létrehozott vagy manipulált szöveget közzé kell tenni. Ez azt jelenti, hogy a szövegnek meghatározatlan, meglehetősen nagy számú, egymással kapcsolatban nem álló potenciális olvasó számára egyidejűleg és/vagy egymást követően hozzáférhetőnek kell lennie, függetlenül attól, hogy ez fizetés ellenében (pl. előfizetéseken keresztül) történik-e (38). Ezzel szemben a szöveg nem tekinthető közzétettnek, ha a hozzáférés egy zárt, magánjellegű csoporthoz tartozó konkrét személyekre korlátozódik (pl. egy kis, zárt csoport egy azonnali üzenetküldésre szolgáló alkalmazásban, vagy ha a csoport túl kicsi vagy jelentéktelen). A közzétettnek nem minősülő szövegek közé tartoznak például a magánjellegű, személyközi (szakmai célú) levelezések vagy a szervezeten belüli szövegek vagy közlemények (pl. belső szervezeti hálózatokról szóló kiadványok).

ii.

A nyilvánosság tájékoztatása: Az MI által létrehozott vagy manipulált, közzétett szöveg célja a nyilvánosság tájékoztatása kell, hogy legyen. Ez azt jelenti, hogy a szövegnek ismeretek, vélemények vagy tények közlésére kell irányulnia. Ezzel szemben az olyan rövid szövegek, amelyek nem közvetítenek ténylegesen ismereteket, véleményeket vagy tényeket, nem tekinthetők a nyilvánosság tájékoztatásának.

iii.

Közérdekű ügyekről: A szövegnek „közérdekű ügyekről” kell tájékoztatnia a nyilvánosságot. Az ilyen ügyeket általában úgy kell értelmezni, hogy azok a társadalom egésze számára releváns kérdéseket foglalnak magukban, akár helyi, nemzeti, uniós vagy nemzetközi szinten, és nyilvános vitát vagy vizsgálatot érdemelnek. Ennek fényében úgy kell tekinteni, hogy a szövegek akkor foglalkoznak közérdekű ügyekkel, ha olyan témákat érintenek, mint a politika és a demokratikus folyamatok, a közigazgatás és a közszolgáltatások, az igazságszolgáltatás és a bűnüldözés, az alapvető jogok védelme, a közbiztonság, a népegészségügy, a környezetvédelem, a fogyasztói biztonság, valamint bármely olyan gazdasági, pénzügyi, politikai, tudományos vagy kulturális fejlemény, amely nyilvános vita tárgyát képezheti. A közérdekűnek tekinthető ügyek idővel és különböző kontextusokban változhatnak.

Példák az MI-rendelet 50. cikkének (4) bekezdése alapján, a nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szövegre, amelyet mesterségesen létrehozottként vagy manipuláltként kell címkézni, kivéve, ha emberi felülvizsgálaton/szerkesztői ellenőrzésen esik át (lásd a 6.2.3. szakaszt):

—

Egy újság weboldalán megjelent, egy városi tanács közelmúltbeli döntését megvitató, ember által készített cikk MI által létrehozott összefoglalója.

—

Egy életmóddal foglalkozó weboldal cikkének MI által manipulált részei, amelyekben különböző étrendek egy adott betegségre gyakorolt hatásait hasonlítják össze középkorú nőknél.

—

Egy tőzsdén jegyzett társaság weboldalán közzétett, MI-vel manipulált vállalati jelentések, amelyek befektetői információkat tartalmaznak.

—

MI által létrehozott üzenet egy meteorológiai intézet közösségimédia-profilján, amely a viharos időjárásra és a kapcsolódó óvintézkedésekre hívja fel a polgárok figyelmét.

Példák olyan szövegre, amelyet nem azzal a céllal tettek közzé, hogy közérdekű ügyekről tájékoztassák a nyilvánosságot, és így az MI-rendelet 50. cikke (4) bekezdésének hatályán kívül esik:

—

MI által létrehozott fantasy regények.

—

MI-vel manipulált szöveg, amely egy vállalat hirdetésének vagy termékleírásának részét képezi (kivéve például az egészséggel, a fogyasztói biztonsággal vagy a fenntarthatósággal kapcsolatos állításokat).

—

Egy csevegőrobot által generált hírösszefoglaló, amely csak a csevegőrobotot promptoló felhasználó számára érhető el.

—

Az alkalmazandó jogszabályoknak való megfelelés érdekében meghozandó intézkedésekkel kapcsolatos ügyféltanácsadás céljából egy tanácsadó által MI-vel manipulált szöveg.

6.2.2.   Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése szerinti tájékoztatási kötelezettség

132.

Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése arra kötelezi a nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szöveget generáló vagy manipuláló MI-rendszerek alkalmazóit, hogy közöljék, hogy ezt a szöveget mesterségesen hozták létre vagy manipulálták. Az MI-rendelet (134) preambulumbekezdése egyértelművé teszi, hogy a deepfake-ekhez hasonlóan a rendelkezés hatálya alá tartozó szöveges kiadványok alkalmazóinak is egyértelműen és megkülönböztethetően fel kell tüntetniük, hogy az ilyen tartalmat mesterségesen hozták létre vagy manipulálták azáltal, hogy ennek megfelelően megcímkézik az MI kimenetét, és közzéteszik annak mesterséges eredetét. Ahogy a deepfake-ek esetében is kötelező, az MI-rendelet 50. cikke (4) bekezdésének második albekezdésével összhangban alkalmazott címkézési vagy közlési módszereknek (beleértve a jogi nyilatkozatokat is) a természetes személyek által egyértelműnek és észlelhetőnek kell lenniük (pl. látható vagy hallható eszközökkel), anélkül, hogy bármilyen konkrét technikai eszközre kellene támaszkodniuk vagy célzott intézkedéseket kellene végrehajtaniuk. Az MI-rendelet 50. cikkének (7) bekezdése fényében az alkalmazók betarthatják az említett rendelkezés alapján megfelelőnek értékelt gyakorlati kódexet az e tájékoztatási kötelezettségnek való megfelelés bizonyítása érdekében. További információkért az ilyen kódex betartásának hatásairól és az ilyen kódexet be nem tartó alkalmazók felügyeletéről lásd az alábbi 8.1. szakaszt.

6.2.3.   Kivétel az átláthatósági kötelezettség alól az emberi felülvizsgálaton vagy szerkesztői ellenőrzésen áteső, valamint szerkesztői felelősség alatt álló szövegek esetében

133.

Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése kivételt ír elő az említett rendelkezésben meghatározott átláthatósági kötelezettség alól, amennyiben teljesül két kumulatív feltétel: i. az MI által létrehozott vagy manipulált szöveget emberi felülvizsgálatnak vagy szerkesztői ellenőrzésnek kell alávetni, és ii. egy jogi vagy természetes személynek szerkesztői felelősséget kell vállalnia a kiadványért. Adott esetben az alkalmazók támaszkodhatnak a vonatkozó alkalmazandó szakmai vagy etikai normákra az említett követelményeknek való megfelelés bizonyítása érdekében, az alábbiakban vázoltak szerint.

i.   Emberi felülvizsgálat vagy szerkesztői ellenőrzés alatt álló szöveg

134.

Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése alóli kivétel alkalmazásának első feltétele megköveteli, hogy az MI által létrehozott vagy manipulált szöveget emberi felülvizsgálatnak vagy szerkesztői ellenőrzésnek vessék alá. Az emberi felülvizsgálat a tartalom anyagának egy vagy több, a vizsgálat tárgyára vonatkozó releváns ismeretekkel és szakmai megítéléssel rendelkező természetes személy általi körültekintő vizsgálatát jelenti (pl. tudományos kollegiális lektorálás vagy szakmai hitelesítési láncok). A tartalom pontosságának tényellenőrzése minimumkövetelmény, amelynek e felülvizsgálat részét kell képeznie. A szerkesztői ellenőrzés azt jelenti, hogy egy felelős szerkesztői entitás (pl. főszerkesztő) a gyakorlatban ellenőrzést gyakorol a tartalom felett, és felhatalmazással rendelkezik arra, hogy érdemi indokok alapján jóváhagyja, módosítsa vagy elutasítsa a szöveg anyagát (beleértve az információk tényellenőrzését és a források megbízhatóságának biztosítását). Ez nem érinti a médiaszolgáltatókra alkalmazandó meglévő felülvizsgálati és szerkesztési eljárásokat, valamint szakmai normákat.

135.

A felületes, kizárólag formai vagy eljárási tényezőkre szorítkozó ellenőrzések (pl. helyesírás-ellenőrzés vagy nyelvtani helyesbítés), a szerkesztői irányvonal, az automatizált felülvizsgálati folyamatok vagy a felületes szerkesztői jóváhagyás puszta megléte az emberi felülvizsgáló vagy a szerkesztőség érdemi bevonása nélkül nem felelhet meg az emberi felülvizsgálat vagy a szerkesztői ellenőrzés feltételeinek e kivétel alkalmazásában.

136.

Amennyiben szerkesztői jóváhagyást követően használnak MI-rendszereket tartalmak módosítására, kiegészítésére vagy átfogalmazására, az így kapott tartalmat az MI-rendelet 50. cikke (4) bekezdésének alkalmazásában MI által létrehozott vagy manipulált tartalomnak kell tekinteni. Az emberi felülvizsgálatot vagy a szerkesztői ellenőrzési folyamatot követően bekövetkező lényeges MI-beavatkozás ezért a kivétel semmisségét eredményezi.

137.

Az MI-rendelet 50. cikkének (7) bekezdése fényében az alkalmazók betarthatnak egy, az említett rendelkezés alapján megfelelőnek értékelt gyakorlati kódexet annak bizonyítása érdekében, hogy megfelelnek az emberi felülvizsgálatra vagy szerkesztői ellenőrzésre vonatkozó, az említett rendelkezésben meghatározott feltételnek (különösen, ha ezeket olyan alkalmazók hajtják végre, amelyek nem a létező szerkesztői szakmai vagy etikai normák hatálya alá tartozó médiaszolgáltatók). Az ilyen kódex betartásának hatásaival és az ilyen kódexet be nem tartó alkalmazók felügyeletével kapcsolatos további információkért lásd az alábbi 8.1. szakaszt.

ii.

Szerkesztői felelősség

138.

Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése alóli kivétel alkalmazásának második feltétele előírja, hogy a tartalom közzétételéért valamely jogi vagy természetes személynek szerkesztői felelősséget kell vállalnia. Ez azt jelenti, hogy az említett személynek kell viselnie a végső jogi felelősséget a tartalom közzétételéért, beleértve az emberi felülvizsgálatot vagy a szerkesztői ellenőrzést is (pl. magánszemély, szerkesztőbizottság vagy kiadó). A nyilvános elszámoltathatóság és a bizalom biztosítása érdekében, valamint a meglévő médiaszakmai normákkal összhangban a jogi személy, a természetes személy vagy a szerkesztői felelősséggel járó szerep személyazonosságát és elérhetőségét könnyen megtalálható helyen nyilvánosan hozzáférhetővé kell tenni (ha még nem áll rendelkezésre). Ez történhet online, például a weboldal szerződési feltételein vagy más, a felhasználóknak szóló jogi információkon keresztül. Offline az ilyen információk a kiadvány kolofonjában vagy impresszumában szerepelhetnek.

Példák olyan szövegekre, amelyek esetében egy szerkesztői felelősséget viselő jogi vagy természetes személy emberi felülvizsgálatot vagy szerkesztői ellenőrzést végzett:

—

Egy MI-vel manipulált cikk egy újságban vagy egy cikk MI által létrehozott összefoglalója, amely átesett az újságot kiadó jogi személy szerkesztői felelősséggel rendelkező főszerkesztőjének szerkesztői ellenőrzésén.

—

MI által manipulált tudományos blog, amelyet belső szakértői értékelésnek vetettek alá, és amelyért a blogot kezelő kutatóközpont szerkesztői felelősséget visel.

—

MI által generált közbiztonsági figyelmeztetések, amelyeket jóváhagy egy tisztviselő, mielőtt azokat a polgárok körében terjesztenék, az illetékes polgári védelmi állami ügynökség felelőssége mellett.

—

Egy tőzsdén jegyzett vállalat weboldalán közzétett, MI által létrehozott fenntarthatósági beszámolók, amelyeket releváns feladatkörökben (pl. megfelelőség) dolgozó szakemberek emberi felülvizsgálatnak vetettek alá.

—

Egy ember által írt cikk MI által támogatott fordítása, amely során a fordítást emberi felülvizsgálatnak vetették alá.

Példák olyan szövegekre, amelyek nem felelnek meg a kivétel igénybevételéhez szükséges, emberi felülvizsgálatra vagy szerkesztői ellenőrzésre vonatkozó feltételnek:

—

Egy weboldal, amelyen MI által létrehozott, uniós szakpolitikáról szóló cikkeket tesznek közzé körültekintő emberi felülvizsgálat vagy szerkesztői ellenőrzés nélkül.

—

MI által létrehozott cikkek, amelyeket egy másik MI-rendszer vizsgált felül és szerkesztett, és amelyek esetében egy emberi szerkesztő a közzététel előtt pusztán felületes, nyelvtani ellenőrzést végez.

—

MI által létrehozott, saját kiadású könyv az éghajlatváltozásról, amelyet olyan e-kereskedelmi platformon tettek elérhetővé, amelyet nem vizsgált felül kompetens természetes vagy jogi személy (és a platform sem).

6.2.4.   A bűnüldözésre való felhasználásra vonatkozó kivétel

139.

Ha az MI-rendszereknek a nyilvánosság közérdekű ügyekről való, emberi felülvizsgálat nélküli tájékoztatása céljából közzétett szöveg létrehozására való használatát (pl. a közösségi médiában közzétett, terrorfenyegetésre vonatkozó, MI által generált rendőrségi figyelmeztetést) törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából, az alkalmazók mentesülnek az MI-rendelet 50. cikkének (4) bekezdése szerinti átláthatósági kötelezettség alól. A fenti 46–48. pontban az MI-rendelet 50. cikkének (1) bekezdésében foglalt hasonló kivételre vonatkozóan nyújtott pontosítások e rendelkezés szempontjából is relevánsak.

6.2.5.   Kölcsönhatás más uniós jogi aktusokkal

140.

Az uniós médiajog szempontjából a szerkesztői felelősség az (EU) 2024/1083 rendelet (a továbbiakban: a tömegtájékoztatás szabadságáról szóló európai rendelet) 2. cikkének 8. pontjában meghatározott kulcsfontosságú fogalom (39). Ebben a kontextusban a „szerkesztői felelősség” fogalmát úgy határozták meg, mint „a műsorszámoknak vagy a sajtókiadványok tartalmának a kiválasztása és az azok összeállítása során megvalósuló, médiaszolgáltatás nyújtása céljából történő tényleges ellenőrzés gyakorlása, függetlenül attól, hogy a nyújtott szolgáltatás tekintetében fennáll-e a nemzeti jog szerinti felelősség”. Bizonyos helyzetekben ez a fogalommeghatározás átfedésben lehet az MI-rendelet 50. cikke (4) bekezdésének második albekezdésében használt szerkesztői felelősségnek a fogalmával, különösen akkor, ha az MI-rendszer alkalmazói a tömegtájékoztatás szabadságáról szóló európai rendelet értelmében médiaszolgáltatónak is minősülnek. Az MI-rendelet 50. cikkének (4) bekezdése értelmében vett szerkesztői felelősséget ezért a médiával kapcsolatos meglévő vívmányokkal összhangban kell értelmezni, függetlenül attól, hogy az továbbra is különálló fogalom, amely tágabb összefüggésben és más alkalmazókra is alkalmazható, amennyiben szerkesztői felelősséget vállalnak a szöveg közzétételéért. A médiaszolgáltatók az MI-rendelet 50. cikke (4) bekezdésének második albekezdése szerinti kivétel igénybevételéhez támaszkodhatnak meglévő szerkesztői folyamataikra és normáikra.

7.   AZ MI-RENDELET 50. CIKKÉNEK (5) BEKEZDÉSE ALAPJÁN SZOLGÁLTATOTT INFORMÁCIÓKRA ALKALMAZANDÓ HORIZONTÁLIS KÖVETELMÉNYEK

141.

Az MI-rendelet 50. cikke (5) bekezdésének megfelelően az MI-rendelet 50. cikkének (1)–(4) bekezdésével összhangban szolgáltatandó információkat legkésőbb az első interakció vagy kitettség alkalmával, egyértelmű és jól megkülönböztethető módon kell az érintett természetes személyek számára nyújtani. A tájékoztatásnak az alkalmazandó akadálymentesítési követelményeknek is meg kell felelnie. Ebben az összefüggésben az érintett természetes személyek közé az MI-rendszerrel közvetlen interakcióba lépő személyek (az MI-rendelet 50. cikkének (1) bekezdése), az aktív vagy passzív felhasználók és az MI által létrehozott vagy manipulált szintetikus tartalomnak kitett egyéb személyek tartoznak (az MI-rendszerrel való közvetlen interakcióval vagy anélkül [az MI-rendelet 50. cikkének (2) és (4) bekezdése]), valamint azok a személyek, akiken érzelemfelismerő vagy biometrikus kategorizálási rendszereket használnak (az MI-rendelet 50. cikkének (3) bekezdése).

7.1.   Egyértelmű és jól megkülönböztethető módon nyújtott tájékoztatás

142.

A tájékoztatás akkor tekintendő egyértelműnek, ha az észrevehető, könnyen érthető és hozzáférhető az érintett természetes személy számára (beleértve a fogyatékossággal élő személyeket is). A tájékoztatás akkor tekintendő jól megkülönböztethető módon nyújtottnak, ha könnyen azonosítható, mivel elkülönül más információktól és attól a környezettől, amelyben a tartalmat megjelenítik. A közönség számára is könnyen érthetőnek kell lennie, többek között bizonyos csoportok, például a gyermekek vagy a fogyatékossággal élő személyek számára is, amennyiben előreláthatóan a tartalomnak kitett vagy a rendszerrel interakcióban álló közönség részét képezik (40). Az egyértelmű és jól megkülönböztethető módon történő tájékoztatás érdekében a releváns információk bemutathatók többek között az interakció részeként (az MI-rendelet 50. cikkének (1) bekezdése alapján) vagy a releváns tartalom részeként (az MI-rendelet 50. cikkének (2) és (4) bekezdése alapján). Nem tekinthető úgy, hogy a tájékoztatás egyértelmű és jól megkülönböztethető módon van nyújtva, ha azt a természetes személyek a szokványos kitettség vagy interakció körülményei között könnyen figyelmen kívül hagyhatják vagy lemaradhatnak róla (pl. csak egy kézikönyv részeként jelenítik meg vagy egy online interfész menüopcióinak a rétegeibe van rejtve, a felhasználási feltételek olyan részeiben található, amelyeket a felhasználók gyakran nem olvasnak el).

7.2.   Első interakció vagy kitettség

143.

Az MI-rendelet 50. cikkének (5) bekezdése előírja, hogy a tájékoztatást legkésőbb az első interakció vagy kitettség alkalmával kell az érintett természetes személyek számára nyújtani. Az első interakció vagy kitettség nemcsak az MI-rendszerrel interakcióba lépő vagy annak (a kimenetének) kitett első természetes személyre vonatkozik, hanem bármely más természetes személynek az MI-rendszernek (a kimenetének) való, utána következő első interakciójára vagy kitettségére is. Ami az MI-rendszerrel való első interakciót illeti, az információkat legalább egyszer, az interaktív munkamenet kezdetén rendelkezésre kell bocsátani, figyelembe véve a fenti 36. és 40. pontban említett sajátos körülményeket. Az MI-rendelet 50. cikke (2) és (4) bekezdésének hatálya alá tartozó, MI által létrehozott vagy manipulált tartalom tekintetében a tájékoztatási kötelezettség az MI-rendszer minden egyes kimenetére vonatkozik a tartalomnak kitett bármely természetes személy tekintetében. Olyan időpontként kell értelmezni, amikor észszerűen valószínűsíthető, hogy egy természetes személy ki van téve az MI-rendszer kimenetének, és észleli a tájékoztatást, figyelembe véve a tájékoztatás sajátosságait a nyilvánvalóan kreatív, művészeti és egyéb művek esetében (lásd a 6.1.3. szakaszt). Ezen túlmenően az alkalmazók az első tényleges interakciót vagy kitettséget megelőzően is tájékoztathatják a természetes személyeket (pl. a deepfake-eket szerepeltető tartalmak elején). Ha azonban észszerűen előrelátható, hogy a személyek nem biztos, hogy észlelni fogják a tartalmat annak az elejétől fogva, akkor a csupán a tartalom elején történő tájékoztatás nem nyújt megfelelő tájékoztatást ezeknek a személyeknek, és azt lehetőség szerint ki kell egészíteni későbbi időpontokban történő tájékoztatással. Ez adott esetben végrehajtható, figyelembe véve az átláthatósági kötelezettségek azon célkitűzését, hogy hatékony információszolgáltatást és érdemi tudatosságot biztosítsanak a felhasználóknak az egyre immerzívebb és realisztikusabb MI-környezetekben, ahol a felhasználók egyre nehezebben tudják megkülönböztetni a tartalom és az interakció eredetét és valóságosságát.

Példák az MI-rendelet 50. cikkének (5) bekezdése szerinti első interakció vagy kitettség során történő tájékoztatásra:

—

Első interakció: beszélgetés indítása egy csevegőrobottal vagy fizikai interakció megkezdése egy MI-rendszerrel.

—

Első kitettség: egy deepfake-et tartalmazó videó elején, egy MI által létrehozott vagy manipulált, közérdekű ügyekről közzétett szöveg kezdetén, vagy amikor a közösségi médiában való görgetés során MI által manipulált deepfake-kel találkozunk.

7.3.   Az alkalmazandó akadálymentességi követelményeknek való megfelelés

144.

Az MI-rendelet 50. cikkének (1)–(4) bekezdésében felsorolt különböző átláthatósági kötelezettségek hatálya alá tartozó MI-rendszerek szolgáltatóinak és alkalmazóinak ismerniük kell az alkalmazandó akadálymentességi követelményeket (pl. az (EU) 2016/2102 irányelv (41) és az (EU) 2019/882 irányelv alapján (42)), és értékelniük kell, hogy terméküknek, szolgáltatásuknak vagy tartalmuknak meg kell-e felelnie ezeknek a szabályoknak. Ilyen esetben biztosítaniuk kell az MI-rendelet 50. cikkével összhangban nyújtott tájékoztatás akadálymentességét az alkalmazandó akadálymentességi követelményekkel összhangban. Az MI-rendelet 50. cikke nem ír elő különálló vagy további akadálymentességi követelményeket.

8.   AZ MI-RENDELET 50. CIKKÉNEK VÉGREHAJTÁSA

145.

E szakasz célja a következők tisztázása: i. a gyakorlati kódex betartásának hatásai az MI által létrehozott tartalomra vonatkozó átláthatósági kötelezettségeknek való megfelelés tekintetében, ii. az illetékes felügyeleti hatóságok szerepe az MI-rendelet 50. cikkének végrehajtásában, iii. az említett kötelezettségek megsértése esetén alkalmazandó szankciók, valamint iv. az MI-rendelet 50. cikkében foglalt kötelezettségek alkalmazásának kezdőnapja.

8.1.   A megfelelőnek értékelt gyakorlati kódex betartásának hatásai

146.

Az MI-rendelet 50. cikke (2) és (4) bekezdésének hatálya alá tartozó MI-rendszerek szolgáltatói és alkalmazói az MI-rendelet 50. cikkének (7) bekezdése alapján megfelelőnek értékelt gyakorlati kódex betartásával bizonyíthatják az említett rendelkezések szerinti, MI által létrehozott tartalomra vonatkozó átláthatósági kötelezettségeiknek való megfelelést (43). Egy ilyen kódex nem helyettesíti az MI-rendeletet vagy ezt az iránymutatást. Kiegészíti ezeket azáltal, hogy az egyetlen, uniós szinten elismert gyakorlati keretet biztosít a generatív MI-rendszerek szolgáltatói és alkalmazói számára az említett kötelezettségeknek való megfelelés bizonyításához, függetlenül letelepedési helyüktől, működésük helyétől és az illetékes piacfelügyeleti hatóságoktól.

147.

Bár a szolgáltatók és az alkalmazók megfelelő alternatív eszközökkel is bizonyíthatják az említett kötelezettségeknek való megfelelést, a megfelelőnek ítélt gyakorlati kódex betartása egyértelmű, kiszámítható és jogilag biztos módja a megfelelés bizonyításának. Az MI-rendelet 50. cikkének (7) bekezdése (44) alapján megfelelőnek értékelt gyakorlati kódex aláírói esetében a Bizottság és az illetékes piacfelügyeleti hatóságok felügyeleti tevékenységeiket annak értékelésére összpontosítják, hogy az említett aláírók betartották-e a gyakorlati kódexet, és végrehajtották-e az abban foglalt intézkedéseket. Mivel a kódexet betartó szolgáltatók és alkalmazók átláthatóak lesznek az MI-rendelet 50. cikke (2), (4) és (5) bekezdésének való megfelelés érdekében végrehajtott intézkedéseket illetően, a Bizottság, a többi illetékes piacfelügyeleti hatóság és más érdekelt felek (beleértve a nagyközönséget is) fokozott bizalmát fogják élvezni. Ha a megfelelőnek ítélt gyakorlati kódex aláírói kívül maradnak bármely szekcióból, az azt eredményezi, hogy ezek a szolgáltatók és alkalmazók elveszítik az e tekintetben való megfelelés bizonyításának megkönnyítéséből származó előnyöket.

148.

Azoknak a szolgáltatóknak és alkalmazóknak, amelyek nem aláíró felei az MI-rendelet 50. cikkének (7) bekezdése alapján megfelelőnek ítélt gyakorlati kódexnek, más megfelelő eszközökkel kell bizonyítaniuk, hogy hogyan teljesítették az MI-rendelet 50. cikkének (2), (4) és (5) bekezdése szerinti kötelezettségeiket. Az ilyen szolgáltatóknak és alkalmazóknak továbbá ki kell fejteniük, hogy az általuk végrehajtott intézkedések hogyan biztosítják az MI-rendelet szerinti kötelezettségeik teljesítését. Hiányelemzést kell például végezniük, amely összehasonlítja az általuk végrehajtott intézkedéseket a megfelelőnek értékelt gyakorlati kódexben meghatározott intézkedésekkel. Mivel az illetékes hatóságok (beleértve az MI-hivatalt is) kevésbé fogják tudni, hogy a gyakorlati kódexet alá nem író szolgáltatók és alkalmazók hogyan biztosítják az MI-rendelet 50. cikkének (2), (4) és (5) bekezdése szerinti kötelezettségeik teljesítését, valószínűleg részletesebb információkra lesz szükségük a megfelelés nyomon követése során. Előfordulhat például, hogy a gyakorlati kódexet be nem tartó szolgáltatók felé például nagyobb számú tájékoztatási kérelmet és hozzáférés iránti kérelmet nyújtanak be az MI-rendelet 50. cikke (2) bekezdésének való megfelelés érdekében bevezetett műszaki megoldások hatékonyságának, interoperabilitásának, robusztusságának és megbízhatóságának értékelése céljából. Az alkalmazók is kaphatnak ilyen kérelmeket az MI-rendelet 50. cikkének (4) bekezdése szerinti címkézési gyakorlataik tekintetében.

149.

Az illetékes hatóságok a konkrét körülményektől függően enyhítő körülményként figyelembe vehetik a megfelelőnek ítélt gyakorlati kódexszel összhangban végrehajtott kötelezettségvállalásokat a pénzbírságok összegének meghatározásakor (45).

150.

Amennyiben egy gyakorlati kódexet az MI-rendelet 50. cikkének (7) bekezdése értelmében nem ítélnek megfelelőnek, a Bizottság végrehajtási jogi aktust fogadhat el, amelyben az MI-rendelet 50. cikkének (2), (4) és (5) bekezdésében foglalt kötelezettségek végrehajtására vonatkozó közös szabályokat határozhat meg, amelyek az említett rendelkezések hatálya alá tartozó MI-rendszerek valamennyi érintett szolgáltatójára és alkalmazójára alkalmazandók lennének (46).

8.2.   Piacfelügyeleti hatóságok

151.

A tagállamok által kijelölt piacfelügyeleti hatóságok, az MI-hivatal (47) és az európai adatvédelmi biztos (48) felelősek a hatáskörükbe tartozó, MI-rendszerekre vonatkozó szabályok, többek között az MI-rendelet 50. cikkében meghatározott átláthatósági kötelezettségek felügyeletéért és végrehajtásáért. Erre a végrehajtásra az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és a termékmegfelelőségi rendszeren belül, az MI-rendelettel összhangban kerül sor. A piacfelügyeleti hatóságok MI-rendszerekkel kapcsolatos végrehajtási hatásköreit ezek a rendeletek határozzák meg. Ezek a hatóságok az MI-rendelet 50. cikkében felsorolt kötelezettségekkel kapcsolatos végrehajtási intézkedéseket hozhatnak saját kezdeményezésükre vagy olyan panasz alapján, amelyet minden érintett személy vagy más olyan természetes vagy jogi személy, akinek oka van feltételezni, hogy a tilalmakat megsértették, jogosult benyújtani (49). A piacfelügyeleti hatóságoknak az MI-rendelet szerinti felelősségi körei nem érintik más felügyeleti hatóságoknak vagy alapjogi hatóságoknak a saját jogi keretük szerinti hatásköreit és feladatait olyan helyzetekben, amikor mind az MI-rendelet 50. cikke, mind az említett keret alkalmazandó (pl. adatvédelem, fogyasztóvédelem).

8.3.   Szankciók

152.

Azok a szolgáltatók és alkalmazók, akik nem felelnek meg az MI-rendelet 50. cikkében lefektetett, alkalmazandó átláthatósági kötelezettségeknek, legfeljebb 15 000 000 EUR összegű, vagy ha az elkövető vállalkozás, az előző pénzügyi év teljes globális éves árbevételének legfeljebb 3 %-át kitevő összegű pénzbírsággal sújtandók, a kettő közül a magasabb összegűt figyelembe véve. Az átláthatósági kötelezettségeket megsértő uniós intézményekre, szervekre és ügynökségekre legfeljebb 750 000 EUR összegű közigazgatási bírság szabható ki. A kis- és középvállalkozások (kkv-k), köztük az induló innovatív vállalkozások esetében az egyes bírságok a fenti százalékok vagy összegek közül az alacsonyabb összegig terjedhetnek. A bírságoknak hatékonynak, arányosnak és visszatartó erejűeknek kell lenniük, és figyelembe kell venni esetükben a kkv-k és a kis méretű, közepes piaci tőkeértékű vállalatok – köztük az induló innovatív vállalkozások – érdekeit, valamint gazdasági életképességüket. Annak eldöntésekor, hogy kiszabjanak-e közigazgatási bírságot, valamint a közigazgatási bírság összegének meghatározásakor az illetékes hatóságoknak minden egyes esetben értékelniük kell az adott helyzet valamennyi releváns körülményét, és adott esetben a jogsértés súlyosságát befolyásoló tényezők széles körét (pl. a jogsértés és következményeinek jellegét, súlyosságát és időtartamát, hogy jellege szerint gondatlan vagy szándékos, egyéb súlyosbító vagy enyhítő körülményeket, a piacfelügyeleti hatóságokkal való együttműködés mértékét stb.).

8.4.   Hatálybalépés

153.

A mesterséges intelligenciáról szóló rendelet 113. cikke szerint az MI-rendelet 50. cikke 2026. augusztus 2-ától alkalmazandó. Ehhez valamennyi, az Unióban forgalomba hozott vagy üzembe helyezett, a rendelkezés hatálya alá tartozó MI-rendszernek meg kell felelnie az említett időpontban az említett rendelkezésnek, függetlenül a forgalomba hozataluk vagy üzembe helyezésük időpontjától (50). Az uniós jogalkotó által a közelmúltban elfogadott, a mesterséges intelligenciáról szóló rendeletet módosító rendelet (a mesterséges intelligenciáról szóló omnibusz csomag) csak a 2026. augusztus 2. előtt forgalomba hozott vagy üzembe helyezett generatív MI-rendszerekre vonatkozó, az MI-rendelet 50. cikkének (2) bekezdése szerinti jelölési és észlelésre szolgáló kötelezettségek tekintetében irányoz elő célzott szerzett jogi szabályt. Átmeneti időszakot biztosít az említett meglévő rendszerek szolgáltatói számára ahhoz, hogy 2026. december 2-ig összhangba hozzák rendszereiket a követelményekkel. A részben interaktív és részben generatív rendszerek csak az MI-rendelet 50. cikkének (2) bekezdése szerinti jelölési kötelezettség tekintetében részesülhetnek ebben az átmeneti időszakban, míg a természetes személyekkel közvetlenül interakcióba lépő MI-rendszerek esetében 2026. augusztus 2-tól biztosítani kell a tájékoztatási kötelezettségnek való megfelelést.

154.

Az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartozó olyan, MI által létrehozott vagy manipulált kimeneteket, valamint az MI-rendelet 50. cikke (4) bekezdése első albekezdésének hatálya alá tartozó olyan deepfake-eket, amelyeket 2026. augusztus 2. előtt hoztak létre vagy manipuláltak, nem kell visszamenőlegesen megjelölni vagy címkézni. Ugyanez vonatkozik az MI-rendelet 50. cikke (4) bekezdése második albekezdésének hatálya alá tartozó, közérdekű ügyekkel kapcsolatos, 2026. augusztus 2. előtt létrehozott vagy manipulált, valamint közzétett szövegekre is. Ezzel szemben, ha a 2026. augusztus 2. előtt létrehozott vagy manipulált szövegeket az említett időpontban vagy azt követően teszik közzé, azokat címkével kell ellátni. Tekintettel az MI-rendelet által követett, az átláthatóságra, valamint az információs ökoszisztéma iránti fokozott bizalomra és annak nagyobb integritására vonatkozó célkitűzésre, az MI-rendszerek alkalmazóit és a már meglévő, nem címkézett deepfake-eket birtokló vagy terjesztő egyéb szereplőket mindazonáltal arra ösztönzik, hogy ezt tegyék meg, anélkül, hogy e célból aránytalan erőfeszítéseket kellene tenniük (például a már meglévő tartalomadatbázisok ellenőrzése vagy a már kinyomtatott termékcsomagolás módosítása).

9.   AZ IRÁNYMUTATÁS FELÜLVIZSGÁLATA ÉS AKTUALIZÁLÁSA

155.

Ez az iránymutatás a mesterséges intelligenciáról szóló rendelet 50. cikkében meghatározott átláthatósági kötelezettségek első értelmezésének minősül, amely gyakorlati példákat tartalmaz. A Bizottság felülvizsgálja ezen iránymutatást, amint ez az átláthatósági kötelezettségek végrehajtása során szerzett gyakorlati tapasztalatok, valamint az e területen bekövetkező technológiai, társadalmi és szabályozási fejlemények ütemére tekintettel szükségessé válik. Ebbe beletartoznak a piacfelügyeleti végrehajtási intézkedésekkel kapcsolatos releváns tapasztalatok és az MI-rendelet 50. cikkével kapcsolatban az EUB által adott értelmezések is. A felülvizsgálat során a Bizottság dönthet úgy, hogy visszavonja vagy módosítja ezen iránymutatást. A Bizottság arra ösztönzi az MI-rendszerek szolgáltatóit és alkalmazóit, a Mesterséges Intelligenciával Foglalkozó Európai Testületen keresztül a nemzeti piacfelügyeleti hatóságokat, az MI-vel foglalkozó tanácsadó fórumot, a kutatói közösséget és a civil társadalmi szervezeteket, hogy a jövőbeli nyilvános konzultációs felhívásokra reagálva járuljanak hozzá ehhez a folyamathoz.

(1)  Az Európai Parlament és a Tanács (EU) 2024/1689 rendelete (2024. június 13.) a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról (a mesterséges intelligenciáról szóló rendelet) (HL L, 2024/1689, 2024.7.12., ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2)  Az MI-rendelet 1. cikke.

(3)  Az MI-rendelet 2. cikke (1) bekezdésének a) pontja, valamint a 3. cikkének a 3., 9. és 11. pontja. A forgalomba hozatal, az üzembe helyezés és a használat fogalmával kapcsolatos további iránymutatásért lásd a tiltott mesterségesintelligencia-gyakorlatokról szóló bizottsági iránymutatást (C(2025) 5052), valamint a termékekre vonatkozó uniós szabályozásról szóló 2022. évi útmutató (A kék útmutató) című bizottsági közlemény 2. szakaszát (HL C 247, 2022.6.29, 1. o.).

(4)  Az MI-rendelet 2. cikke (1) bekezdésének c) pontja és a (22) preambulumbekezdése.

(5)  Az MI-rendelet 3. cikkének (4) bekezdése.

(6)  Az MI-rendelet 2. cikke (1) bekezdésének b) és c) pontja.

(7)  Az Európai Parlament és a Tanács (EU) 2022/2065 rendelete (2022. október 19.) a digitális szolgáltatások egységes piacáról (HL L 277., 2022.10.27., 1. o.).

(8)  Lásd az (EU) 2024/1689 rendeletben (a mesterséges intelligenciáról szóló rendelet) meghatározott, tiltott mesterségesintelligencia-gyakorlatokról szóló bizottsági iránymutatás 2.5. szakaszát, Brüsszel, 2025.7.29., C(2025) 5052 final.

(9)  Az alkalmazó fogalommeghatározása is kizárja az ilyen tevékenységet folytató felhasználókat (lásd a fenti 2.3. szakaszt).

(10)  Az MI-rendelet (25) preambulumbekezdése.

(11)  Az MI-rendelet (102) preambulumbekezdése szerint a szoftverek és adatok szabad és nyílt forráskódú licenc alapján történő kibocsátása „a nyílt megosztást, és a felhasználók általi szabad hozzáférést, használatot, módosítást és terjesztést mind eredeti, mind módosított formában lehetővé” teszi.

(12)  Az MI-rendelet 5. cikkével kapcsolatos további információkért lásd az (EU) 2024/1689 rendeletben (a mesterséges intelligenciáról szóló rendelet) meghatározott, tiltott mesterségesintelligencia-gyakorlatokról szóló bizottsági iránymutatást, C(2025) 5052 final.

(13)  Lásd az MI-rendelet 6. cikkét.

(14)  Az MI-rendelet 26. cikkének (11) bekezdése a döntéseket hozó vagy döntések meghozatalát segítő, nagy kockázatú MI-rendszerek alkalmazói számára olyan átláthatósági kötelezettséget ír elő, amelynek értelmében a természetes személyeket tájékoztatni kell arról, hogy nagy kockázatú MI-rendszer használatára kerül sor. Ezek az átláthatósági kötelezettségek kiegészítik az MI-rendelet 50. cikkében foglaltakat, mivel eltérő információkra vonatkoznak, amelyeket a természetes személyek rendelkezésére kell bocsátani, ezek azonban összevonhatók egyetlen értesítésben.

(15)  Az MI-rendelet 3. cikkének 66. pontja értelmében az általános célú MI-rendszer általános célú MI-modellen alapuló MI-rendszer, amely – mind közvetlen felhasználás, mind más MI-rendszerekbe való integráció céljából – többféle célt képes szolgálni.

(16)  Az MI-rendelet 50. cikkének (2) bekezdése kifejezetten hivatkozik az általános célú MI-rendszerekre.

(17)  Az MI-rendelet (133) preambulumbekezdése.

(18)  Lásd az MI-rendelet 3. cikkének (1) bekezdését. Az MI-rendszer fogalmával kapcsolatos további iránymutatásért lásd: A Bizottság iránymutatása a mesterségesintelligencia-rendszerek fogalommeghatározásáról, 2025.7.29., C(2025) 5053 final.

(19)  Lásd az MI-rendelet (132) preambulumbekezdését. Ehhez nem szükséges, hogy a rendszer ezekre a kiszolgáltatott csoportokra irányuljon. Ha egy rendszert arra szántak, hogy a nyilvánosság bármely tagjával interakcióba lépjen, abba a kiszolgáltatott csoportok tagjai is beletartoznak, és a szolgáltatóknak figyelembe kell venniük őket az értesítési intézkedések végrehajtása során.

(20)  Az alkalmazandó akadálymentességi követelményeket lásd a 7.3. szakaszban.

(21)  A 910/2014/EU rendelet alapján létrehozott és az ugyanazon rendelet alapján létrehozott európai digitális személyiadat-tárcákban rendelkezésre bocsátott elektronikus attribútumtanúsítványok, valamint a javasolt európai üzleti tárcák például biztonságos és hatékony eszközt biztosíthatnak az MI-ügynökök azonosításához. A tárcákban olyan elektronikus tanúsítványokat lehet tárolni és kezelni, amelyek ellenőrzik az MI-ügynök személyazonosságát, attribútumait és engedélyeit, ezáltal pedig zökkenőmentes és megbízható tájékoztatást tesznek lehetővé a természetes személyek számára.

(22)  Ez az MI-rendelet 50. cikkének (2)–(4) bekezdésében előírt, a bűnüldözési tevékenységek javát szolgáló hasonló kivételekre is vonatkozik.

(23)  Az Európai Parlament és a Tanács 2005/29/EK irányelve (2005. május 11.) a belső piacon az üzleti vállalkozások fogyasztókkal szemben folytatott tisztességtelen kereskedelmi gyakorlatairól (HL L 149., 2005.6.11., 2. o.).

(24)  Az Európai Parlament és a Tanács 2011/83/EU irányelve (2011. október 25.) a fogyasztók jogairól (HL L 304., 2011.11.22., 64. o.).

(25)  Az Európai Parlament és a Tanács 2012/13/EU irányelve (2012. május 22.) a büntetőeljárás során a tájékoztatáshoz való jogról (HL L 142., 2012.6.1., 1. o.). Az Európai Parlament és a Tanács 2012/29/EU irányelve (2012. október 25.) a bűncselekmények áldozatainak jogaira, támogatására és védelmére vonatkozó minimumszabályok megállapításáról (HL L 315., 2012.11.14., 57. o.).

(26)  Az MI-rendelet 3. cikkének (1) bekezdésében található meghatározás szerint.

(27)  Az MI-rendelet (133) preambulumbekezdése tisztázza, hogy helyénvaló előírni az említett rendszerek szolgáltatói számára, hogy olyan műszaki megoldásokat építsenek be, amelyek lehetővé teszik a géppel olvasható formátumban történő jelölést és annak észlelését, hogy a kimenetet nem ember, hanem MI-rendszer hozta létre vagy manipulálta. Az MI-rendelet (135) preambulumbekezdése utal az észlelésre vonatkozó kötelezettségre.

(28)  Lásd a Bizottság C(2025) 3871 final végrehajtási határozatának II. mellékletét az (EU) 2024/1689 európai parlamenti és tanácsi rendelet és a C(2023) 3215 final végrehajtási határozat hatályon kívül helyezésének támogatása érdekében a nagy kockázatú MI-rendszer tekintetében az Európai Szabványügyi Bizottsághoz és az Európai Elektrotechnikai Szabványügyi Bizottsághoz intézett szabványosítási kérelemről.

(29)  Lásd még az MI-rendelet (11) preambulumbekezdését.

(30)  Lásd még az MI-rendelet (137) preambulumbekezdését.

(31)  Az MI-rendelet (136) preambulumbekezdése.

(32)  Ezért ezt a kritériumot a belső piacon az üzleti vállalkozások fogyasztókkal szemben folytatott tisztességtelen kereskedelmi gyakorlatairól szóló 2005/29/EK irányelvben (a tisztességtelen kereskedelmi gyakorlatokról szóló irányelv) említett megtévesztés fogalmától függetlenül és attól elkülönülten kell értelmezni, https://eur-lex.europa.eu/eli/dir/2005/29/oj/hun.

(33)  Lásd hasonlóképpen az audiovizuális médiaszolgáltatásokról szóló irányelv 1. cikkének b) pontját.

(34)  Ugyanez vonatkozik a nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szövegekre is.

(35)  Az MI-rendelet 50. cikke és a digitális szolgáltatásokról szóló rendelet közötti kölcsönhatással kapcsolatos további információkért lásd még a 4.4. szakaszt.

(36)  A digitális szolgáltatásokról szóló rendelet (2) preambulumbekezdése.

(37)  Részletesebb pontosításért lásd a Bizottság és az Európai Adatvédelmi Testület közös iránymutatását a mesterséges intelligenciáról szóló rendelet és az uniós adatvédelmi jog közötti kölcsönhatásról (előkészületben).

(38)  Lásd analógia útján: Mediakabel, C-89/04, ECLI:EU:C:2005:348, 33. pont; Lagardère, C-192/04, ECLI:EU:C:2005:475, 31. pont; SGAE, C-306/05, ECLI:EU:C:2006:764, 37–40. pont; Stichting Brein, C-527/15, ECLI:EU:C:2017:300, 43–44. pont, valamint az ott hivatkozott ítélkezési gyakorlat; GEMA, C-135/23, ECLI:EU:C:2024:526, 38. pont, valamint az ott hivatkozott ítélkezési gyakorlat.

(39)  Az Európai Parlament és a Tanács (EU) 2024/1083 rendelete (2024. április 11.) a belső piaci médiaszolgáltatások közös keretének létrehozásáról és a 2010/13/EU irányelv módosításáról (a tömegtájékoztatás szabadságáról szóló európai rendelet) (HL L, 2024/1083, 2024.4.17., ELI: http://data.europa.eu/eli/reg/2024/1083/oj).

(40)  Amennyiben a gyermekek a tartalom célközönségének a részét képezik, az értesítések tekintetében előírás, hogy: i. gyermekbarátak, az életkornak megfelelőek, könnyen érthetőek és könnyen hozzáférhetőek legyenek valamennyi gyermek számára, beleértve a fogyatékossággal élő és/vagy további akadálymentességi igényekkel rendelkezőket is, ii. egyértelmű, könnyen érthető, a lehető legegyszerűbb és legtömörebb módon kerüljenek bemutatásra, iii. olyan módon kerüljenek bemutatásra, hogy könnyen áttekinthetőek legyenek, és azonnali, intuitív hozzáférést biztosítsanak azokon a pontokon, amikor azok relevánssá válnak, iv. a szolgáltatásnyújtás helye szerinti tagállam hivatalos nyelvén (nyelvein) kerüljenek bemutatásra, v. ragadják meg a gyermekek figyelmét. Ehhez grafikákat, videókat és/vagy karaktereket vagy egyéb technikákat is lehet használni, vi. fokozatosan és időben elnyújtva kerüljenek átadásra a gyermekeknek, hogy a felhasználók minél nagyobb mértékben megjegyezzék őket.

(41)  Az Európai Parlament és a Tanács (EU) 2016/2102 irányelve (2016. október 26.) a közszférabeli szervezetek honlapjainak és mobilalkalmazásainak akadálymentesítéséről (EGT-vonatkozású szöveg) (HL L 327., 2016.12.2., 1. o.).

(42)  Az Európai Parlament és a Tanács (EU) 2019/882 irányelve (2019. április 17.) a termékekre és a szolgáltatásokra vonatkozó akadálymentességi követelményekről (EGT-vonatkozású szöveg), PE/81/2018/REV/1 (HL L 151., 2019.6.7., 70. o.).

(43)  Lásd a releváns információkat itt: Az MI által létrehozott tartalmak átláthatóságára vonatkozó gyakorlati kódex | Európa digitális jövőjének megtervezése (közzététel: 2026. június 10.).

(44)  Lásd: A Bizottság véleménye az MI által létrehozott tartalmak átláthatóságára vonatkozó gyakorlati kódex értékeléséről | Európa digitális jövőjének megtervezése.

(45)  A mesterséges intelligenciáról szóló rendelet 99. cikke (7) bekezdésének e) pontja.

(46)  Az MI-rendelet 50. cikkének (7) bekezdése.

(47)  Mint az ugyanazon szolgáltató által biztosított általános célú MI-modellekre épülő MI-rendszerek piacfelügyeleti hatósága (az MI-rendelet 75. cikkének (1) bekezdése). Ez kiterjed az MI-rendelet 50. cikkének (1) és (2) bekezdése alapján a szolgáltatókra alkalmazandó kötelezettségre. Az MI-rendelet 50. cikkének (3) és (4) bekezdése tekintetében az MI-hivatal csak akkor lesz illetékes, ha az adott általános célú MI-modellnek és a rendszernek a szolgáltatója a rendszer alkalmazója is egyben.

(48)  Mint az Unió intézményeinek, ügynökségeinek és szerveinek piacfelügyeleti hatósága.

(49)  Az MI-rendelet 85. cikke.

(50)  Az MI-rendelet 111. cikkének (2) bekezdésében foglalt különleges szerzett jogi szabály azokra a nagy kockázatú MI-rendszerekre vonatkozik, amelyeket a nagy kockázatú MI-rendszerekre vonatkozó szabályok alkalmazásának kezdőnapja előtt hoztak forgalomba, csak az említett rendszereknek a nagy kockázatú rendszerekre vonatkozó követelményeknek és kötelezettségeknek való megfelelése tekintetében. Ha a nagy kockázatú MI-rendszerre az MI-rendelet 50. cikke szerinti egy vagy több átláthatósági kötelezettség is vonatkozik, ez a különös szerzett jogi szabály nem alkalmazandó, mivel a nagy kockázatra és az 50. cikk szerinti átláthatóságra vonatkozó különböző kötelezettségek alkalmazása kumulatív, és a szerzett jogi rendelkezések csak a nagy kockázatra vonatkozó rendelkezéseknek való megfelelés tekintetében indokoltak és csak ezekre korlátozódnak.


ELI: http://data.europa.eu/eli/C/2026/6005/oj

ISSN 1977-0979 (electronic edition)