|
Az Európai Unió |
HU C sorozat |
|
C/2026/6005 |
2026.11.12. |
A BIZOTTSÁG KÖZLEMÉNYE
Iránymutatás az egyes MI-rendszerekre vonatkozó, az (EU) 2024/1689 rendelet (a mesterséges intelligenciáról szóló rendelet) 50. cikke szerinti átláthatósági kötelezettségek végrehajtásához
(C/2026/6005)
Tartalomjegyzék
|
1. |
HÁTTÉR ÉS CÉLKITŰZÉSEK | 3 |
|
2. |
Az átláthatósági kötelezettségek és a horizontális témák áttekintése | 3 |
|
2.1. |
Az MI-rendelet 50. cikkében foglalt átláthatósági kötelezettségek áttekintése | 3 |
|
2.2. |
Indokolás és célkitűzések | 4 |
|
2.3. |
Az MI-rendelet 50. cikke szerinti felelős szereplők | 5 |
|
2.4. |
Az MI-rendelet hatálya alól történő kizárások | 7 |
|
2.4.1. |
Pusztán személyes, nem szakmai tevékenység keretében eljáró alkalmazók | 7 |
|
2.4.2. |
Kutatás és fejlesztés | 8 |
|
2.4.3. |
Szabad és nyílt forráskódú licencek alapján kibocsátott MI | 8 |
|
2.5. |
Kölcsönhatás a tiltott gyakorlatokkal, valamint a nagy kockázatú MI-rendszerekre és az MI-jártasságra vonatkozó követelményekkel | 9 |
|
2.6. |
Kölcsönhatás az általános célú MI-modellekre és/vagy -rendszerekre alkalmazandó szabályokkal | 9 |
|
3. |
AZ MI-RENDELET 50. CIKKÉNEK (1) BEKEZDÉSE: AZ ÁTLÁTHATÓSÁG AZ INTERAKTÍV MI-RENDSZEREK ESETÉBEN | 9 |
|
3.1. |
Fő alkotóelemek, fogalmak és a kapcsolódó átláthatósági kötelezettség(ek) | 10 |
|
3.1.1. |
A természetes személyekkel való közvetlen interakcióra szánt MI-rendszerek | 10 |
|
3.1.2. |
Az MI-rendelet 50. cikkének (1) bekezdése szerinti tájékoztatási kötelezettség | 12 |
|
3.2. |
Az MI-rendelet 50. cikkének (1) bekezdése szerinti tájékoztatási kötelezettség alóli kivételek | 14 |
|
3.2.1. |
A nyilvánvalóan MI-rendszerrel történő interakcióra vonatkozó kivétel | 14 |
|
3.2.2. |
A törvény által bűnüldözési célokra engedélyezett MI-rendszerekre vonatkozó kivétel | 16 |
|
3.3. |
Kölcsönhatás más uniós jogi aktusokkal | 17 |
|
4. |
AZ MI-RENDELET 50. CIKKÉNEK (2) BEKEZDÉSE: AZ MI ÁLTAL GENERÁLT VAGY MANIPULÁLT TARTALMAK JELÖLÉSE ÉS ÉSZLELÉSE | 18 |
|
4.1. |
Az MI-rendelet 50. cikke (2) bekezdésének fő alkotóelemei és koncepciói | 18 |
|
4.1.1. |
Szintetikus tartalmat létrehozó vagy manipuláló MI-rendszerek | 18 |
|
4.1.2. |
A hatály alá tartozó szintetikus tartalom modalitásai | 19 |
|
4.1.3. |
Az MI-rendelet 50. cikke (2) bekezdésének hatályán kívül eső tartalmak | 20 |
|
4.2. |
Az MI-rendelet 50. cikke (2) bekezdése szerinti jelölésre és észlelésre vonatkozó kötelezettség | 21 |
|
4.2.1. |
A jelölési kötelezettség | 21 |
|
4.2.2. |
Az észlelésre vonatkozó kötelezettség | 22 |
|
4.2.3. |
A műszaki megoldásokra vonatkozó követelményeknek való megfelelés: hatékony, interoperábilis, robusztus és megbízható | 22 |
|
4.3. |
Az MI-rendelet 50. cikkének (2) bekezdése szerinti kötelezettségek alóli kivételek | 24 |
|
4.4. |
Kölcsönhatás más uniós jogi aktusokkal | 25 |
|
5. |
AZ MI-RENDELET 50. CIKKÉNEK (3) BEKEZDÉSE: ÉRZELEMFELISMERŐ RENDSZEREK ÉS BIOMETRIKUS KATEGORIZÁLÁSI RENDSZEREK | 26 |
|
5.1. |
A fő alkotóelemek, fogalmak és a kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (3) bekezdése értelmében | 27 |
|
5.1.1. |
Az érzelemfelismerő rendszer fogalma | 27 |
|
5.1.2. |
A biometrikus kategorizálási rendszer fogalma | 27 |
|
5.1.3. |
Az MI-rendelet 50. cikkének (3) bekezdése szerinti tájékoztatási kötelezettség | 27 |
|
5.2. |
A bűnüldözési célból való felhasználásra vonatkozó kivétel | 28 |
|
5.3. |
Kölcsönhatás más uniós jogi aktusokkal | 28 |
|
6. |
50. CIKK (4) BEKEZDÉS: A DEEPFAKE-EK ÉS BIZONYOS SZÖVEGES KIADVÁNYOK CÍMKÉZÉSE | 28 |
|
6.1. |
A deepfake-ekkel kapcsolatos fő alkotóelemek, fogalmak és kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (4) bekezdése értelmében | 28 |
|
6.1.1. |
A „deepfake” fogalma | 29 |
|
6.1.2. |
Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése szerinti tájékoztatási kötelezettség | 31 |
|
6.1.3. |
A művészeti, kreatív, szatirikus, fiktív vagy hasonló deepfake tartalmak átláthatósága | 32 |
|
6.1.4. |
A bűnüldözésre való felhasználásra vonatkozó kivétel | 34 |
|
6.1.5. |
Kölcsönhatás más uniós jogi aktusokkal | 34 |
|
6.2. |
Az MI-vel létrehozott vagy manipulált szöveggel kapcsolatos fő alkotóelemek, fogalmak és kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (4) bekezdése értelmében | 35 |
|
6.2.1. |
A nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szöveg | 36 |
|
6.2.2. |
Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése szerinti tájékoztatási kötelezettség | 37 |
|
6.2.3. |
Kivétel az átláthatósági kötelezettség alól az emberi felülvizsgálaton vagy szerkesztői ellenőrzésen áteső, valamint szerkesztői felelősség alatt álló szövegek esetében | 37 |
|
6.2.4. |
A bűnüldözésre való felhasználásra vonatkozó kivétel | 38 |
|
6.2.5. |
Kölcsönhatás más uniós jogi aktusokkal | 39 |
|
7. |
AZ MI-RENDELET 50. CIKKÉNEK (5) BEKEZDÉSE ALAPJÁN SZOLGÁLTATOTT INFORMÁCIÓKRA ALKALMAZANDÓ HORIZONTÁLIS KÖVETELMÉNYEK | 39 |
|
7.1. |
Egyértelmű és jól megkülönböztethető módon nyújtott tájékoztatás | 39 |
|
7.2. |
Első interakció vagy kitettség | 40 |
|
7.3. |
Az alkalmazandó akadálymentességi követelményeknek való megfelelés | 40 |
|
8. |
AZ MI-RENDELET 50. CIKKÉNEK VÉGREHAJTÁSA | 40 |
|
8.1. |
A megfelelőnek értékelt gyakorlati kódex betartásának hatásai | 41 |
|
8.2. |
Piacfelügyeleti hatóságok | 42 |
|
8.3. |
Szankciók | 42 |
|
8.4. |
Hatálybalépés | 42 |
|
9. |
AZ IRÁNYMUTATÁS FELÜLVIZSGÁLATA ÉS AKTUALIZÁLÁSA | 43 |
1. HÁTTÉR ÉS CÉLKITŰZÉSEK
|
1. |
A mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról és egyes rendeletek módosításáról szóló, 2024. június 13-i (EU) 2024/1689 európai parlamenti és tanácsi rendelet (a továbbiakban: MI-rendelet) 2024. augusztus 1-jén lépett hatályba (1). Az MI-rendelet harmonizált szabályokat állapít meg a mesterséges intelligencia (a továbbiakban: MI) Unión belüli forgalomba hozatalára, üzembe helyezésére és használatára vonatkozóan (2). A rendelet célja, hogy előmozdítsa az innovációt és a megbízható MI elterjedését, miközben biztosítja az Unióban az egészség, a biztonság és az alapvető jogok – többek között a demokrácia és a jogállamiság – magas szintű védelmét. |
|
2. |
Az MI-rendelet kockázatalapú megközelítést követ, és az MI-rendszereket négy különböző kockázati kategóriába sorolja, amelyek egyikébe az átláthatósági kockázatot jelentő MI-rendszerek tartoznak, amelyekre az MI-rendelet 50. cikkében meghatározott kötelezettségek vonatkoznak. Ezek az átláthatósági kötelezettségek két évvel az MI-rendelet hatálybalépését követően, azaz 2026. augusztus 2-ától alkalmazandók. |
|
3. |
Az MI-rendelet 96. cikke (1) bekezdésének d) pontja értelmében e bizottsági iránymutatások célja, hogy gyakorlati iránymutatásként szolgáljanak az illetékes hatóságok, valamint az MI-rendszerek szolgáltatói és alkalmazói számára az MI-rendelet 50. cikke szerinti átláthatósági kötelezettségeknek való következetes, hatékony, arányos és egységes módon történő megfeleléshez. |
|
4. |
Ezen iránymutatások kidolgozása során figyelembe vették a Bizottság által szervezett, széles körű konzultáció során összegyűjtött, különböző érdekelt felektől származó észrevételeket, a tagállamok által a Mesterséges Intelligenciával Foglalkozó Európai Testületben tett észrevételeket, valamint az érdekelt feleknek a konzultáció céljából közzétett iránymutatás-tervezettel kapcsolatos észrevételeit. |
|
5. |
Ezek az iránymutatások nem kötelező erejűek. Az MI-rendeletre vonatkozó bármilyen hivatalos értelmezést végső soron csak az Európai Unió Bírósága (a továbbiakban: EUB) adhat. |
2. AZ ÁTLÁTHATÓSÁGI KÖTELEZETTSÉGEK ÉS A HORIZONTÁLIS TÉMÁK ÁTTEKINTÉSE
2.1. Az MI-rendelet 50. cikkében foglalt átláthatósági kötelezettségek áttekintése
|
6. |
Az MI-rendelet 50. cikke négy átláthatósági kötelezettséget tartalmaz, amelyek mindegyike különböző típusú MI-rendszerekre vagy azok kimeneteire vonatkozik.
|
|
7. |
E négy kötelezettség mindegyike ezen iránymutatások 3–6. szakaszában lesz vizsgálva. Ezeken túl az MI-rendelet 50. cikkének (5) bekezdése azt is előírja, hogy a rendelet (1)–(4) bekezdésében említett tájékoztatást legkésőbb az első interakció vagy kitettség alkalmával, egyértelmű és jól megkülönböztethető módon kell az érintett természetes személyek számára nyújtani, és hogy a tájékoztatásnak meg kell felelnie az alkalmazandó akadálymentesítési követelményeknek. Ezek a követelmények a 7. szakaszban kerülnek tisztázásra. |
|
8. |
Előfordulhat, hogy az MI-rendelet 50. cikkében meghatározott különböző átláthatósági kötelezettségeket együttesen kell alkalmazni egyetlen MI-rendszerre (vagy annak kimenetére), adott esetben különböző szereplők (szolgáltatók vagy alkalmazók) felelősségét vonva maguk után. Ha például egy MI-rendszer egy természetes személlyel való közvetlen interakció részeként képeket hoz létre, előfordulhat, hogy a rendszer szolgáltatójának meg kell felelnie az MI-rendelet 50. cikke (1) és (2) bekezdésének is. Amennyiben az említett rendszer deepfake-nek minősülő képeket vagy közérdekű ügyekről közzétett szöveget is képes előállítani, előfordulhat, hogy az alkalmazónak meg kell felelnie az MI-rendelet 50. cikke (4) bekezdésének is. |
2.2. Indokolás és célkitűzések
|
9. |
Az MI-rendelet (132)–(136) preambulumbekezdésében kifejtettek szerint az átláthatósági kötelezettségek célja csökkenteni a hasonmássággal való visszaélés, a megtévesztés, a félretájékoztatás, a nagy léptékű manipuláció és a csalás kockázatát, valamint enyhíteni az MI által generált vagy manipulált tartalmak vagy interakció által a demokratikus folyamatokra és a társadalmi bizalomra gyakorolt lehetséges káros hatásokat. Ha az egyének tájékoztatást kapnak arról, hogy egy interakció és egy tartalom MI-n alapul, az segíteni fogja őket abban, hogy megalapozott döntéseket hozzanak, miközben a bizalom és az információs ökoszisztéma integritásának megőrzéséhez is hozzájárul. Az átláthatóság nemcsak technikai megfelelési követelmény, hanem annak is előfeltétele, hogy a természetes személyek felismerjék az MI által közvetített interakciókat és tartalmakat, illetve az érzelemfelismerő vagy biometrikus kategorizálási rendszerek használatát. Az interaktív és generatív MI-rendszerek átlátható és megbízható használatának biztosítása lehetővé teszi a személyes autonómia és az európai értékek, az emberi méltóság és más alapvető emberi jogok (pl. a gondolatszabadság, a magánélethez való jog, az egyenlőség és a megkülönböztetésmentesség, a fogyasztóvédelem, a szellemi tulajdon stb.) fenntartását is, továbbá a véleménynyilvánítás szabadságának és a médiatartalmak hitelességének megőrzését. |
2.3. Az MI-rendelet 50. cikke szerinti felelős szereplők
|
10. |
Az MI-rendelet 3. cikkének 3. pontja szerint a szolgáltatók olyan természetes vagy jogi személyek, hatóságok, ügynökségek vagy egyéb szervek, akik vagy amelyek MI-rendszereket fejlesztenek vagy fejlesztetnek, és azokat a saját nevük vagy védjegyük alatt – akár fizetés ellenében, akár ingyenesen – az Unió piacán forgalomba hozzák vagy üzembe helyezik. A szolgáltatóknak meg kell felelniük az MI-rendelet 50. cikkének (1) és (2) bekezdésében foglalt, rájuk alkalmazandó átláthatósági kötelezettségeknek, függetlenül attól, hogy az Unióban vagy harmadik országban telepedtek-e le vagy tartózkodnak-e (3). Az Unión kívül letelepedett vagy ott tartózkodó szolgáltatók is az MI-rendelet hatálya alá tartoznak, ha MI-rendszerük kimenetét az Unióban használják (4). Az esetleges, előre nem látható vagy jogosulatlan továbbfelhasználás azonban önmagában nem vonhatja maga után az Unióban forgalomba nem hozott vagy üzembe nem helyezett interaktív vagy generatív MI-rendszerek ilyen harmadik országbeli szolgáltatóira vonatkozó kötelezettségek alkalmazását, az illetékes piacfelügyeleti hatóságok azon hatáskörének sérelme nélkül, hogy kimeneteiket az MI-rendeletnek meg nem felelőnek tekintsék. |
|
11. |
A szolgáltatóknak biztosítaniuk kell, hogy interaktív vagy generatív MI-rendszereik a rendszer tervezésébe és működésébe ágyazott átláthatósággal rendelkezzenek, és biztosítaniuk kell, hogy az MI-rendelet 50. cikkének (1), (2) és (5) bekezdésében foglalt valamennyi vonatkozó átláthatósági kötelezettség legkésőbb e rendszerek forgalomba hozatalakor vagy üzembe helyezésekor teljesüljön. Az MI-rendszerrel interakcióba lépő vagy a rendelkezések hatálya alá tartozó kimeneteinek kitett valamennyi természetes személyt hatékonyan és következetesen tájékoztatni kell az MI-rendszer teljes életciklusa során onnantól fogva, hogy az adott szolgáltató forgalomba hozza vagy üzembe helyezi a rendszert (függetlenül attól, hogy kik a rendszer alkalmazói vagy más felhasználói).
|
|
12. |
Az alkalmazók a felügyeletük alá tartozó MI-rendszereket használó természetes vagy jogi személyek, hatóságok, ügynökségek vagy egyéb szervek, kivéve, ha a használat személyes, nem szakmai tevékenység céljából történik (5). Az MI-rendszer feletti „felügyelet” alatt a rendszer telepítésére vonatkozó döntést és a rendszer (valamint annak kimenetei) tényleges használatának módja feletti felelősségvállalást kell érteni. Ehhez nincs feltétlenül szükség technikai ellenőrzésre az MI-rendszer működése felett, elegendő az, hogy az alkalmazó dönt arról, hogy milyen célokra és hogyan használja az MI-rendszert (többek között decentralizált munkafolyamatokban és csoportos vállalati struktúrákban). Az összetett tartalomelőállítási és -forgalmazási értékláncokban részt vevő alkalmazóknak arányos intézkedéseket kell hozniuk annak biztosítása érdekében, hogy az MI-rendelet 50. cikkének (4) bekezdése alapján általuk végrehajtott tartalomcímkézés egyértelmű és jól megkülönböztethető módon jelenjen meg a célközönség és az előre látható közönség számára az első kitettség alkalmával az MI-rendelet 50. cikkének (5) bekezdésével összhangban (pl. a terjesztő partnerekkel kötött szerződéses feltételek, a felhasználói élménnyel kapcsolatos beállítások és a megjelenítendő interfészek révén). |
|
13. |
Az alkalmazók az MI-rendelet 50. cikkének (3) és (4) bekezdésében foglalt átláthatósági kötelezettségek hatálya alá tartoznak, ha letelepedési vagy tartózkodási helyük az Unióban van, vagy ha letelepedési vagy tartózkodási helyük harmadik országban van, amennyiben az MI-rendszer által előállított kimenet használatára az Unióban kerül sor (6). Ez utóbbi esetben az Unión kívül tartózkodó vagy letelepedett szervezetekre akkor vonatkoznak az átláthatósági kötelezettségek, amennyiben maga az alkalmazó előre látja, hogy az MI-kimeneteket az Unión belül fogják terjeszteni és felhasználni (azaz az Unión belüli terjesztés irányítása vagy engedélyezése által, többek között a deepfake-eknek a globálisan hozzáférhető interneten való közzététele révén). A harmadik országbeli alkalmazókat azonban nem kötik az átláthatósági kötelezettségek, amennyiben az MI-rendszer tartalma előre nem látható és általuk nem befolyásolható csatornákon keresztül jut el az uniós közönséghez. |
|
14. |
Amennyiben egy MI-rendszer alkalmazója olyan jogi személy, amelynek a felügyelete alatt használják a rendszert (pl. reklámcég), az adott jogi személy utasításai alapján és ellenőrzése alatt eljáró egyes alkalmazottak (pl. digitális animátorok, webtervezők, tartalomalkotók, újságírók) nem tekintendők az adott rendszer különálló alkalmazóinak. A jogi személy marad akkor is az alkalmazó, ha harmadik feleket (pl. vállalkozókat, szabadúszókat) von be a rendszer üzemeltetésébe a nevében, a felelőssége és ellenőrzése mellett.
|
|
15. |
Az üzemeltetők (például a szolgáltatók és az alkalmazók) egyidejűleg több szerepet is betölthetnek egy MI-rendszerrel kapcsolatban. Előfordulhat például, hogy egy vállalat kifejleszt egy házon belüli generatív MI-rendszert, és azt deepfake-ek előállítására használja. Ebben az esetben szolgáltatónak és alkalmazónak is minősül, amelynek biztosítania kell a géppel olvasható jelölésre vonatkozó, az MI-rendelet 50. cikkének (2) bekezdése szerinti kötelezettségeknek, valamint a deepfake-ek egyértelmű és észlelhető címkézésére vonatkozó, az MI-rendelet 50. cikkének (4) bekezdése szerinti követelményeknek való megfelelést. |
|
16. |
Ezzel szemben más szereplők (például a tárhelyszolgáltatók, beleértve az online platformokat is, vagy a műsorszolgáltatók), amelyek szerepe a harmadik felek által létrehozott, MI által generált vagy manipulált tartalmak terjesztésére vagy továbbítására korlátozódik, vagy amelyek MI által generált vagy manipulált tartalmakat fogadnak, vagy ilyen tartalmaknak vannak kitéve anélkül, hogy hatáskörrel rendelkeznének az MI-rendszernek az MI által történő tartalomgenerálás vagy -manipulálás céljából történő használata felett, nem minősülnek az MI-rendelet értelmében vett alkalmazóknak. Ezek a szereplők – anélkül, hogy az MI-rendelet értelmében felelősséggel tartoznának – mindazonáltal fontos szerepet játszhatnak az értékláncban az információs ökoszisztéma integritásának és a bele vetett bizalomnak a megőrzésében. Ezért esetükben határozottan ajánlott, hogy megőrizzék az MI-rendelet 50. cikke alapján bevezetett jelölést és címkézést, valamint arányos és technikailag megvalósítható intézkedéseket hajtsanak végre annak érdekében, hogy a természetes személyek képesek legyenek észlelni az MI által generált vagy manipulált tartalmakat, a generatív MI-rendszerek szolgáltatói és alkalmazói felelősségének, illetve az (EU) 2022/2065 rendelet (a digitális szolgáltatásokról szóló rendelet) (7) vagy más alkalmazandó uniós vagy nemzeti jog szerinti kötelezettségek vagy felelősség sérelme nélkül. |
|
17. |
A Bizottság a szakmai minőségükben eljáró és tartalmakat terjesztő egyéb szereplőket is arra ösztönzi (még akkor is, ha rájuk nem is vonatkozik közvetlenül az MI-rendelet 50. cikke), hogy hozzanak arányos és megfelelő intézkedéseket annak érdekében, hogy a tartalomnak végső soron kitett természetes személyek hatékony tájékoztatást kapjanak, és képesek legyenek észlelni a mesterségesen létrehozott vagy manipulált eredetű tartalmakat. Ezen túlmenően az is előfordulhat, hogy ezeknek a feleknek más alkalmazandó jogi vagy etikai szabályok alapján kell megcímkézniük a deepfake-eket vagy a közérdekű ügyekkel kapcsolatban közzétett szövegeket (pl. egy műsorszolgáltató megcímkéz és a televíziós műsor részeként megjelenít egy magánszemély által létrehozott deepfake-et). Önmagában azonban az a tény, hogy egy szereplő tartalmakat címkéz meg vagy címkézett tartalmakat használ, nem jelenti azt, hogy ez utóbbiak az MI-rendelet értelmében „alkalmazónak” minősülnek. Az MI-rendelet nem terjeszti ki vagy nem érinti e szereplőknek az alkalmazandó jogi keretek szerinti jogi felelősségét, ha nem minősülnek egyidejűleg MI-rendszerek szolgáltatóinak vagy alkalmazóinak is. |
2.4. Az MI-rendelet hatálya alól történő kizárások
|
18. |
Az MI-rendelet 2. cikke számos általános kizárást ír elő az MI-rendelet hatálya alól, amelyeket a tiltott mesterségesintelligencia-gyakorlatokról szóló bizottsági iránymutatásban már tisztáztak (8). Ez a szakasz ennek megfelelően csak azokkal a szempontokkal foglalkozik, amelyek az MI-rendelet 50. cikkében foglalt átláthatósági kötelezettségek szempontjából relevánsak. |
2.4.1. Pusztán személyes, nem szakmai tevékenység keretében eljáró alkalmazók
|
19. |
Az MI-rendelet 2. cikkének (10) bekezdése szerint az MI-rendelet „nem alkalmazandó azon alkalmazók kötelezettségeire, akik az MI-rendszereket pusztán személyes, nem szakmai tevékenység során használó természetes személyek” (9). „Szakmai” tevékenységnek kell tekinteni minden olyan tevékenységet, amelynek révén a természetes személyek rendszeresen gazdasági előnyhöz jutnak, vagy más módon szakmai, üzleti, kereskedelmi, jövedelemszerző vagy szabadfoglalkozású tevékenységet folytatnak. A „pusztán személyes” megjelölés a nem szakmai tevékenység minősítésére szolgál, ami azt jelenti, hogy a személynek egyszerre kell személyes és nem szakmai minőségben eljárnia, hogy a kizárás hatálya alá tartozzon. A szakmai minőségben eljáró alkalmazó nevében vagy felügyelete alatt eljáró természetes személyek általi felhasználás a hivatásos alkalmazónak az MI-rendelet 50. cikkének (3) és (4) bekezdésében meghatározott átláthatósági kötelezettségei hatálya alá tartozik.
|
|
20. |
Az MI-rendelet 2. cikkének (10) bekezdésében foglalt kizárás az alkalmazók kötelezettségei tekintetében csak alkalmazandó, ha a rendszert pusztán személyes, nem szakmai tevékenység céljából használják. A rendszert forgalomba hozó vagy üzembe helyező szolgáltatók, valamint a rendszert foglalkozásszerű felhasználás keretében alkalmazók kötelezettségei tekintetében a rendszer mint olyan továbbra is az MI-rendelet hatálya alá tartozik. A kivétel nem érinti az egyéb vonatkozó uniós és nemzeti jog alkalmazását sem.
|
2.4.2. Kutatás és fejlesztés
|
21. |
Az MI-rendelet 2. cikkének (6) bekezdése kizárja a rendelet hatálya alól a kifejezetten a tudományos kutatás-fejlesztés kizárólagos céljára kifejlesztett és üzembe helyezett MI-rendszereket vagy MI-modelleket, és azok kimenetét. Ez a kizárás nem érinti az alkalmazandó kutatási etikai normákat, valamint az uniós adatvédelmi és egyéb jogszabályokat. Az MI-rendelet 50. cikkével összefüggésben ez a kizárás nemcsak az interaktív MI-rendszerekre terjed ki, hanem a tudományos kutatással összefüggésben használt generatív MI-rendszerek kimeneteire is (beleértve a deepfake tartalmakat is). Ha azonban ezeket a rendszereket üzembe helyezik, vagy kimeneteiket a tudományos kutatástól és fejlesztéstől eltérő célokra használják, az MI-rendelet 50. cikkében foglalt vonatkozó átláthatósági kötelezettségeknek továbbra is meg kell felelni.
|
|
22. |
Az MI-rendelet 2. cikkének (8) bekezdése kizárja továbbá a rendelet hatálya alól az MI-rendszerekkel vagy MI-modellekkel kapcsolatos, a forgalomba hozatalt vagy üzembe helyezést megelőzően folytatott kutatási, tesztelési és fejlesztési tevékenységeket. Ez a kizárás nem vonatkozik a(z MI-szabályozói tesztkörnyezetekben vagy azokon kívül végzett) valós körülmények közötti tesztelésre. Továbbá, amint egy MI-rendszert ilyen kutatási és tesztelési tevékenységek eredményeként forgalomba hoznak vagy üzembe helyeznek, annak mindazonáltal meg kell felelnie az MI-rendelet 50. cikke szerinti vonatkozó átláthatósági kötelezettségeknek (10). |
2.4.3. Szabad és nyílt forráskódú licencek alapján kibocsátott MI
|
23. |
Az MI-rendelet 2. cikkének (12) bekezdése szerint a szabad és nyílt forráskódú licencek alapján kiadott MI-rendszerek nem tartoznak az MI-rendelet hatálya alá, feltéve, hogy nem tartoznak az MI-rendelet 5. cikkében foglalt tilalmak vagy az MI-rendelet 50. cikkében foglalt átláthatósági kötelezettségek hatálya alá, vagy nem minősülnek nagy kockázatúnak (11). Ez azt jelenti, hogy az MI-rendelet 50. cikkének hatálya alá tartozó nyílt forráskódú MI-rendszerek szolgáltatóinak és alkalmazóinak továbbra is gondoskodniuk kell arról, hogy megfeleljenek a vonatkozó átláthatósági kötelezettségeiknek. |
|
24. |
Ezzel szemben az olyan, szabad és nyílt forráskódú MI-alkotóelemek szolgáltatóira, amelyek közé a testreszabásra és az MI-rendszerbe való integrálásra szolgáló szoftverek, adatok, modellek, eszközök, szolgáltatások vagy folyamatok tartoznak, és amelyek önmagukban (részben vagy egészben) nem minősülnek MI-rendszernek, nem vonatkoznak az MI-rendelet 50. cikkében foglalt átláthatósági kötelezettségek. Az ilyen rendszerek szolgáltatóit mindazonáltal arra ösztönzik, hogy ezeket a modelleket, alkotóelemeket és szolgáltatásokat az alábbi 27. pontban leírt módon tervezzék meg, amennyiben ez arányos és megvalósítható. |
2.5. Kölcsönhatás a tiltott gyakorlatokkal, valamint a nagy kockázatú MI-rendszerekre és az MI-jártasságra vonatkozó követelményekkel
|
25. |
Az MI-rendelet (137) preambulumbekezdése egyértelművé teszi, hogy egy adott MI-rendszer esetében az MI-rendelet 50. cikke szerinti átláthatósági kötelezettségeknek való megfelelés nem értelmezhető úgy, mint amely azt jelzi, hogy az adott MI-rendszer használata vagy annak kimenete jogszerű az MI-rendelet értelmében. Különösen az MI-rendelet 50. cikkében foglalt kötelezettségek hatálya alá tartozó MI-rendszerek esetében előfordulhat, hogy azok az MI-rendelet 5. cikkének hatálya alá tartoznak, és így tiltottak (például az érzelemfelismerő rendszerek használata a munkahelyeken vagy az oktatási intézményekben) (12). Emellett az MI-rendelet 50. cikkének hatálya alá tartozó MI-rendszerek nagy kockázatúnak is minősíthetők (13), és az ilyen rendszerekre vonatkozó követelmények és kötelezettségek hatálya alá tartozhatnak. Az MI-rendelet 50. cikkének való megfelelés ezért nem helyettesíti, korlátozza vagy érinti az MI-rendelet egyéb rendelkezéseiből eredő kötelezettségeket (14). Az MI-rendszerek ugyanakkor anélkül is az MI-rendelet 50. cikkének hatálya alá tartozhatnak, hogy az MI-rendelet 6. cikke értelmében nagy kockázatúnak minősülnének. Az MI-rendelet 4. cikke szerinti MI-jártassági követelmények az MI-rendelet 50. cikkének hatálya alá tartozó MI-rendszerek szolgáltatóira és alkalmazóira is vonatkoznak. |
2.6. Kölcsönhatás az általános célú MI-modellekre és/vagy -rendszerekre alkalmazandó szabályokkal
|
26. |
Az MI-rendelet 50. cikke bizonyos MI-rendszerekre alkalmazandó, amelyekbe általános célú MI-rendszerek (15), például a természetes személyekkel való közvetlen interakciót támogató csevegőrobotok vagy a szintetikus tartalom (beleértve a deepfake-eket is) előállítására vagy manipulálására alkalmas MI-rendszerek is tartoznak (16). |
|
27. |
Az MI-rendelet 50. cikke nem kifejezetten az általános célú MI-modellekre alkalmazandó. Ha azonban az MI-rendelet 50. cikke (1) vagy (2) bekezdésének hatálya alá tartozó interaktív vagy generatív MI-rendszer egy ugyanazon szolgáltató által biztosított általános célú MI-modellre épül, az ezen iránymutatásban meghatározott átláthatósági intézkedések a modell szintjén is végrehajthatók (lásd még az alábbi 4. szakaszt). Továbbá, bár nem tartoznak az MI-rendelet 50. cikkének hatálya alá, az egyéb általános célú MI-modellek és más generatív MI-modellek szolgáltatóit is arra ösztönzik, hogy hajtsanak végre megfelelő átláthatósági intézkedéseket a modell szintjén az interaktív MI-rendszerek azonosítása, valamint az MI által generált és manipulált tartalmak jelölése érdekében. Ez különösen előnyös abból a szempontból, hogy megkönnyíti a downstream MI-rendszerszolgáltatók számára az MI-rendelet 50. cikkének (1) és (2) bekezdése szerinti kötelezettségeik teljesítését (17), valamint hozzájárul az információs ökoszisztémába vetett bizalomnak és az ökoszisztéma integritásának a megőrzéséhez. A rendszerszintű kockázatot jelentő általános célú MI-modellek esetében a mesterséges intelligenciával való interakciók azonosítására, valamint az MI által generált vagy manipulált tartalmak jelölésére szolgáló modellszintű biztonsági intézkedések adott esetben részét képezhetik azon kockázatenyhítési intézkedések szélesebb körének, amelyeket a szolgáltatók az MI-rendelet 55. cikke (1) bekezdésének b) pontja szerinti, a rendszerszintű kockázatok enyhítésére vonatkozó kötelezettségük részeként hozhatnak. |
3. AZ MI-RENDELET 50. CIKKÉNEK (1) BEKEZDÉSE: AZ ÁTLÁTHATÓSÁG AZ INTERAKTÍV MI-RENDSZEREK ESETÉBEN
|
28. |
Az MI-rendelet 50. cikkének (1) bekezdése a természetes személyekkel közvetlenül interakcióba lépő MI-rendszerek szolgáltatóinak szól, akiknek úgy kell megtervezniük és kifejleszteniük rendszereiket, hogy az érintett természetes személyek tájékoztatást kapjanak arról, hogy MI-rendszerrel állnak interakcióban. Amint azt az MI-rendelet (132) preambulumbekezdése kifejti, e tájékoztatási kötelezettség célja, hogy lehetővé tegye az említett természetes személyek számára, hogy megalapozott döntéseket hozzanak a rendszer kimeneteivel kapcsolatban, elkerüljék az ilyen rendszerekre való túlzott támaszkodást, és lehetővé tegye az említett természetes személyek számára, hogy ennek megfelelően vessék bizalmukat a tartalomba és az interakciókba. |
3.1. Fő alkotóelemek, fogalmak és a kapcsolódó átláthatósági kötelezettség(ek)
|
29. |
Az MI-rendelet 50. cikkének (1) bekezdésében foglalt átláthatósági kötelezettség az MI-rendszerek szolgáltatóira vonatkozik, amennyiben a rendszert természetes személyekkel való közvetlen interakcióra szánják, és az interakció nem tartozik az alábbi kivételek egyikének hatálya alá sem: 1. egy észszerűen jól tájékozott, figyelmes és körültekintő természetes személy szempontjából nyilvánvaló, hogy az interakció mesterséges eredetű, vagy 2. a rendszert törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából, kivéve, ha a rendszer bűncselekmény bejelentése céljából a nyilvánosság rendelkezésére áll. |
3.1.1. A természetes személyekkel való közvetlen interakcióra szánt MI-rendszerek
|
30. |
Ahhoz, hogy egy rendszer az MI-rendelet 50. cikke (1) bekezdésének hatálya alá tartozzon, négy elemnek kell jelen lennie: i. a rendszernek MI-rendszernek kell lennie, ii. amely rendeltetése szerint interakcióba lép, iii. közvetlenül, iv. természetes személyekkel.
|
|
31. |
Az MI-ügynökök akkor tartoznak az MI-rendelet 50. cikke (1) bekezdésének hatálya alá, ha képesek interakcióba lépni az őket utasító személyekkel vagy más természetes személyekkel a feladatok (pl. foglalások készítése, levelezés kezelése, szerződések megtárgyalása vagy megkötése, beszerzések végrehajtása stb.) végrehajtása során. Az MI-ügynököket úgy kell megtervezni és kifejleszteni, hogy felfedjék mind mesterséges jellegüket, mind azt a személyt, akinek a nevében eljárnak, figyelembe véve az eredet átláthatóságának, valamint a tevékenységük következményeivel kapcsolatos hatáskör-átruházásnak és elszámoltathatóságnak a szükségességét. Ide tartoznak azok az esetek is, amikor az MI-ügynökök képesek összetett, többszereplős architektúrákban együttműködni más olyan MI-ügynökökkel, amelyek a feladat végrehajtása során közvetlen interakcióba lépnek a természetes személyekkel. Mindazonáltal az MI-ügynök szolgáltatója nem feltétlenül tudja mindig előre azonosítani az MI-ügynök más természetes személyekkel való közvetlen interakciójának egyedi eseteit, amint az MI-ügynököt különböző kontextusokban alkalmazzák. Amennyiben a szolgáltató nem tudja megbízhatóan meghatározni az MI-ügynök forgalomba hozatala vagy üzembe helyezése előtt, hogy az MI-ügynök közvetlenül interakcióba fog-e lépni egy természetes személlyel, az ügynököt architektúra-szinten úgy kell megtervezni és arra kell utasítani, hogy tájékoztatást nyújtson saját magáról minden olyan helyzetben, amikor észszerűen valószínűsíthető, hogy az ügynök kapcsolatba léphet egy természetes személlyel (beleértve azt is, amikor egy természetes személy jogi személyt képviselhet vagy jogi személy nevében járhat el). Ezen túlmenően az MI-ügynököknek a kulcsfontosságú lépések (pl. az engedélyezés, a jelentéstétel, a validálás stb. alkalmával, beleértve azt az esetet is, amikor az alkalmazott MI-ügynök nem közvetlenül egy természetes személy által, hanem más MI-rendszerek által generált kimeneteket kap, dolgoz fel, vagy azokra támaszkodik) alkalmával és minden új interakció során tájékoztatást kell nyújtaniuk saját magukról az őket utasító személyek számára.
|
3.1.2. Az MI-rendelet 50. cikkének (1) bekezdése szerinti tájékoztatási kötelezettség
|
32. |
Az MI-rendelet 50. cikkének (1) bekezdése arra kötelezi a természetes személyekkel közvetlenül interakcióba lépő MI-rendszerek szolgáltatóit, hogy MI-rendszereiket (beleértve az MI-ügynököket és az általános célú MI-rendszereket) úgy tervezzék meg és fejlesszék ki, hogy az érintett természetes személyek tájékoztatást kapjanak arról, hogy MI-rendszerrel állnak interakcióban. |
|
33. |
Bár a tájékoztatási mechanizmust be kell építeni a rendszer tervezésébe és fejlesztésébe, valamint a rendszernek a természetes személyekkel való interakciójának módjába, az értesítést az MI-rendszer működése során, de legkésőbb a természetes személlyel való első interakció időpontjában kell nyújtani (az MI-rendelet 50. cikkének (5) bekezdésében előírtak szerint, lásd az alábbi 7. szakaszt). A szolgáltatók felelősek annak biztosításáért, hogy az MI-rendszer forgalomba hozatalát vagy üzembe helyezését követően az MI-rendszerrel kapcsolatba kerülő természetes személyek hatékony és következetes tájékoztatást kapjanak az MI-rendszer teljes életciklusa során annak az adott szolgáltató által történő forgalomba hozatalától vagy üzembe helyezésétől kezdve (2.2.). |
|
34. |
A tájékoztatás formátuma: Az MI-rendelet 50. cikkének (1) bekezdése nem határoz meg konkrét tájékoztatási technikát. A szolgáltatók ezért bármilyen, a célnak megfelelő technikát választhatnak, amennyiben teljesül a következő két követelmény: i. teljesülnek az MI-rendelet 50. cikkének (5) bekezdésében meghatározott követelmények az egyértelmű és jól megkülönböztethető módon nyújtott információ legkésőbb az első interakció alkalmával történő biztosítása tekintetében (lásd az alábbi 7. szakaszt), valamint ii. figyelembe veszik az életkoruk (pl. gyermekek vagy idősek) vagy fogyatékosságuk miatt kiszolgáltatott csoportokhoz tartozó természetes személyek jellemzőit olyan mértékben, amennyire az MI-rendszert az e csoportokhoz tartozó természetes személyekkel való interakcióra szánják, vagy észszerűen valószínűsíthető, hogy sor kerül ilyen interakcióra (pl. olyan esetekben is, ha az MI-rendszer észszerűen valószínűsíthető, hogy interakcióba lép a nagyközönséggel) (19). Az információkat az MI-rendelet 50. cikkének (5) bekezdésében és (132) preambulumbekezdésében meghatározottak szerint a fogyatékossággal élő természetes személyek számára akadálymentes formátumban is rendelkezésre kell bocsátani (lásd a 7. szakaszt). Amennyiben a rendszer interakcióba léphet gyermekekkel, ezeknek az értesítéseknek gyermekbarátnak, az életkornak megfelelőnek, könnyen érthetőnek és könnyen hozzáférhetőnek kell lenniük minden gyermek számára, beleértve a fogyatékossággal élő vagy további akadálymentességi igényekkel rendelkező gyermekeket is. Ajánlott, hogy az értesítések hatékonyságának és következetességének, valamint a felhasználók nagyobb tudatosságának biztosítása érdekében a szolgáltatók szabványosított tájékoztatási gyakorlatokat és címkéket alkalmazzanak, amennyiben rendelkezésre állnak ilyenek és megfelelőek. |
|
35. |
Az értesítés tartalma: Az MI-rendelet 50. cikkének (1) bekezdése előírja az interaktív MI-rendszerek szolgáltatói számára, hogy azokat úgy tervezzék meg és fejlesszék ki, hogy az ilyen MI-rendszerekkel interakcióba lépő valamennyi természetes személy egyértelmű tájékoztatást kapjon az interakcióban részt vevő partnere mesterséges, nem emberi jellegéről. Ha a szolgáltató számára észszerűen előrelátható, hogy az MI-rendszer kapcsolatba léphet a fent említett kiszolgáltatott csoportokhoz tartozó természetes személyekkel, az információkat ehhez kell igazítani, és akadálymentes formátumban kell rendelkezésre bocsátani, az alkalmazandó uniós jogban előírtak szerint, annak érdekében, hogy azt az említett természetes személyek is teljeskörűen megértsék (20). |
|
36. |
Az értesítéseknek az interakció kontextusának megfelelő módon kell tájékoztatást nyújtaniuk az interakció mesterséges eredetéről. Ezt oly módon kell megtenni, amellyel megfelelően és hatékonyan lehet tájékoztatni az érintett személyeket, elkerülve a megtévesztés vagy manipuláció kockázatát az interakció előtt és alatt, ugyanakkor megvalósítható és arányos tájékoztatást biztosítva. Az értesítés lehet például írásbeli értesítés (pl. egy csevegőrobot, amely a beszélgetést annak megemlítésével indítja el, hogy az MI-technológián alapul), vizuális eszköz (pl. egy MI-ügynök által generált, a természetes személynek címzett e-mail, amelynek elején MI-címke szerepel), hallható eszköz (pl. egy hangasszisztens, aki a munkamenet elején közli, hogy mesterséges intelligencián alapul), az MI-azonosítók és a hitelesítő adatok közzététele (pl. olyan MI-ügynökök, akik a lehetőségekhez mérten ellenőrizhető módon felfedik MI-személyazonosságukat) (21). |
|
37. |
Az értesítések formátuma: Az ajánlott bevált gyakorlat az MI-rendszer multimodális és hozzáférhető tájékoztatási megközelítésekkel történő kialakítása. Az ilyen értesítéseknél lehet különböző technikákat ötvözni a felhasználói megértés javítása érdekében, bizonyos esetekben, valamint a kontextustól, a célközönségtől és az előre látható közönségcsoportoktól, valamint a szolgáltatók, különösen a kis- és középvállalkozások (a továbbiakban: kkv-k) rendelkezésre álló erőforrásaitól függően. A megfelelő technikák közé tartozhatnak például a következők:
|
|
38. |
Bizonyos technikák nem szükségesek, és önmagukban használva nem is elegendők az MI-rendelet 50. cikkének (1) és (5) bekezdésében foglalt átláthatósági kötelezettség hatékony teljesítéséhez, nevezetesen:
|
|
39. |
A tájékoztatásoknak arányosnak kell lenniük, és azokat az MI-rendszer különböző kontextusaihoz és célközönségeihez kell igazítani annak érdekében, hogy hatékonyak és felhasználóbarátak maradjanak, és hogy a lehető legnagyobb mértékben el lehessen kerülni a felhasználói élményben tapasztalható esetleges fennakadásokat vagy a habituáció hatásait (az úgynevezett „bannervakságot”). |
|
40. |
Az MI-rendszernek egy adott természetes személlyel való első interakciója előtti egyetlen, jól látható értesítés a legtöbb esetben valószínűleg elegendő az MI-rendelet 50. cikkének (1) bekezdésében foglalt kötelezettség teljesítéséhez. Bizonyos kockázatosabb helyzetekben azonban a felhasználó folyamatos tudatosságának biztosítása érdekében valószínűleg időszakos emlékeztetőkre és a kontextust figyelembe vevő tájékoztatásokra lesz szükség. Ez különösen igaz a kiszolgáltatott személyekkel (pl. gyermekekkel, idősekkel, fogyatékossággal élő személyekkel és alacsonyabb szintű írástudással rendelkező személyekkel) interakcióban álló MI-rendszerek esetében, az érzékeny vagy immerzív környezetekben (pl. ahol a felhasználók érzelmi megrázkódtatást vagy kiszolgáltatottságot fejezhetnek ki vagy tapasztalhatnak, vagy függőséghez hasonló magatartás kockázatának lehetnek kitéve), ahol fokozott a kockázata annak, hogy a felhasználókat félrevezetik (pl. pénzügyi tanácsadás, biztosítás, jogi segítségnyújtás, egészségügyi tanácsadás és panaszkezelés), illetve érzelmi kötődéseket vagy függőségeket alakítanak ki (pl. MI-társak), valamint amikor tudatosságot és ellenőrzést kell biztosítani az MI-ügynök tevékenységei fölött. A szolgáltatóknak továbbá úgy kell megtervezniük és kifejleszteniük az MI-rendszert, hogy gondoskodjanak a tájékoztatásról minden olyan helyzetben, amikor az MI-rendszert a jellegével vagy az interakció eredetével kapcsolatban kérdezik, vagy amikor a természetes személlyel folytatott információcserékből észszerűen feltételezhető, hogy az adott személyt valószínűleg félrevezethetik vagy megtéveszthetik az interakció MI-forrásával kapcsolatban. |
3.2. Az MI-rendelet 50. cikkének (1) bekezdése szerinti tájékoztatási kötelezettség alóli kivételek
|
41. |
Az MI-rendelet 50. cikkének (1) bekezdése két kivételt ír elő az interaktív MI-rendszerekre vonatkozó tájékoztatási kötelezettség alól, amelyeket az alábbiakban vizsgálunk. |
3.2.1. A nyilvánvalóan MI-rendszerrel történő interakcióra vonatkozó kivétel
|
42. |
Ahhoz, hogy az első kivételre hivatkozhassanak, a szolgáltatóknak értékelniük és bizonyítaniuk kell a következőket: i. nyilvánvalóan mesterséges jellegű interakció történik, ii. amely egy természetes személlyel zajlik, akinek észszerűen elvárható szinten jól tájékozottnak, figyelmesnek és körültekintőnek kell lennie, figyelembe véve a körülményeket és a felhasználási kontextust. |
|
43. |
Ez a szabály az „átlagfogyasztó” fogalmára vonatkozó meglévő uniós fogyasztóvédelmi jogszabályokra támaszkodik, és következetesen kell értelmezni, figyelembe véve a természetes személyekkel közvetlenül interakcióba lépő MI-rendszerek sajátos és változatos kontextusait és felhasználásait, valamint az MI-rendelet 50. cikkének (1) bekezdésében kitűzött célokat. |
|
44. |
Az ilyen „átlagos” természetes személy fogalmának meghatározásához két lépés szükséges. Először is, a szolgáltatóknak figyelembe kell venniük azt a közönséget, amelynek az MI-rendszert szánják, és amellyel észszerűen valószínűsíthető, hogy az MI-rendszer interakcióba lép. Másodszor, a szolgáltatónak meg kell vizsgálnia, hogy az adott közönségnek egy átlagos tagja mennyire észszerűen elvárható szinten jól tájékozott, figyelmes és körültekintő, figyelembe véve a körülményeket és a felhasználási kontextust. Ezek értékelése során több tényezőt is figyelembe kell venni:
|
|
45. |
Nyilvánvalóság: A feltételezett, észszerűen elvárható szinten jól tájékozott, figyelmes és körültekintő természetes személy megállapításakor a szolgáltatóknak értékelniük kell, hogy az ilyen személy számára nyilvánvaló lesz-e, hogy egy MI-rendszerrel áll közvetlen interakcióban. A kivételt megszorítóan kell értelmezni, mivel megfosztja a természetes személyeket a védelemtől és az ahhoz való jogtól, hogy egyértelmű és jól megkülönböztethető tájékoztatást nyújtsanak számukra arról, hogy MI-rendszerekkel állnak interakcióban. A fogyasztók és más természetes személyek azzal kapcsolatos általános tudatossága, hogy léteznek MI-rendszerek (többek között csevegőrobotok és ügynökök), nem jelenti azt, hogy fel is ismerik azokat az interakciókban. Annak értékelése során, hogy az interakció jellege nyilvánvaló-e, több tényező is releváns lehet és figyelembe vehető:
|
3.2.2. A törvény által bűnüldözési célokra engedélyezett MI-rendszerekre vonatkozó kivétel
|
46. |
Az interaktív MI-rendszerek szolgáltatói mentesülnek az MI-rendelet 50. cikkének (1) bekezdése szerinti átláthatósági kötelezettség alól, ha törvény engedélyezi őket bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából, a harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok mellett. |
|
47. |
„Törvény által engedélyezett” alatt az uniós jogot, valamint az uniós joggal összhangban elfogadott tagállami nemzeti jogot kell érteni. Az MI-rendszer használatát engedélyező törvénynek egyértelműen meg kell határoznia az engedélyezett használat céljait és körülményeit, valamint megfelelő biztosítékokat kell nyújtania a harmadik felek jogainak és szabadságainak védelme érdekében. Tekintettel az MI-rendelet technológiasemleges megközelítésére, nem szükséges törvényben azonosítani vagy engedélyezni konkrét MI-rendszereket, amennyiben az MI-rendszer használatát általában a jogszerűen engedélyezett tevékenység keretében tervezik, és az megfelel az alkalmazandó jogi keretnek. |
|
48. |
Ahhoz, hogy e kivétel hatálya alá tartozzon, az MI-rendszer célja bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása kell, hogy legyen (pl. fedett MI-nyomozó, a nyomozók emberi ellenőrzése alatt online nyomozásokhoz vagy a bűncselekményekben esetlegesen részt vevő személyekkel folytatott kommunikációhoz használt MI-rendszerek). A kivétel nem korlátozódik az ilyen MI-rendszereknek kizárólag az MI-rendelet 3. cikkének 48. pontjában meghatározott bűnüldöző hatóságok általi használatára, hanem kiterjedhet a más uniós vagy nemzeti hatóságok által használt interaktív (vagy generatív) MI-rendszerekre is, amennyiben azok használatát törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából, a harmadik felek jogainak és szabadságainak védelmét szolgáló megfelelő biztosítékok mellett. A mentesség nem követeli meg, hogy az MI-rendszer képes legyen függetlenül lefolytatni a nyomozásokat. Ha egy adott rendszer bűnüldözési célokra és más, szokványos célokra is használható, a mentesség alkalmazhatóságát az adott használat fényében kell értékelni. Továbbra is alkalmazandók az átláthatósági kötelezettségek, ha ugyanazt az MI-rendszert a bűncselekmények jogszerűen engedélyezett felderítésétől, megelőzésétől, nyomozásától vagy büntetőeljárás alá vonásától eltérő célokra használják. Továbbra is átláthatóságot kell biztosítani a természetes személyek számára, ha interakcióba lépnek a rendszerrel annak szokványos céljaival összefüggésben. |
|
49. |
A kivétel nem alkalmazandó, ha i. az MI-rendszer a nyilvánosság rendelkezésére áll; és ii. a rendszer bűncselekmények bejelentésére szolgáló funkciót kínál az egyének számára. Használhatók ilyen rendszerek, de továbbra is az MI-rendelet 50. cikkének (1) bekezdése szerinti átláthatósági kötelezettség hatálya alá tartoznak, ezért a természetes személyeket tájékoztatni kell arról, hogy ilyen rendszerekkel lépnek interakcióba.
A nagyobb egyértelműség érdekében ez a kivétel kizárólag az 50. cikk (1) bekezdése szerinti azon kötelezettségre vonatkozik, hogy tájékoztatni kell a természetes személyeket arról, hogy MI-rendszerrel állnak interakcióban (22). Ez nem érinti az alkalmazandó uniós és nemzeti jogot, beleértve a bizonyítékok dokumentálására, ismertetésére, elfogadhatóságára és értékelésére vonatkozó eljárási szabályokat.
|
3.3. Kölcsönhatás más uniós jogi aktusokkal
|
50. |
Az MI-rendelet 50. cikkének (1) bekezdése szerinti átláthatósági kötelezettség a meglévő uniós fogyasztóvédelmi, adatvédelmi, digitális vagy megkülönböztetésmentességi jogszabályok sérelme nélkül alkalmazandó, amelyek előírhatják más, nem kifejezetten az interakció MI-forrására vonatkozó információk közzétételét. Különösen a 2005/29/EK irányelv (a továbbiakban: a tisztességtelen kereskedelmi gyakorlatokról szóló irányelv) (23) tiltja a termék vagy szolgáltatás lényeges tulajdonságaival kapcsolatos megtévesztő tevékenységeket vagy mulasztásokat. Ezenkívül a 2011/83/EU irányelv (a továbbiakban: a fogyasztók jogairól szóló irányelv) (24) előírja a kereskedők számára, hogy a szerződéskötést megelőzően nyújtsanak egyértelmű és átfogó tájékoztatást az áru vagy szolgáltatás lényeges tulajdonságairól. Amennyiben egy szolgáltatás MI-n alapul (mint amilyen például egy előfizetéses csevegőrobot, MI-társ alkalmazás vagy virtuális coaching szolgáltatás), az MI-funkció olyan alapvető tulajdonságnak minősülhet, amelyről tájékoztatást kell nyújtani, mielőtt a fogyasztót szerződés kötné. Az uniós fogyasztóvédelmi jog szerinti tájékoztatási kötelezettségek attól függetlenül is alkalmazandók, hogy az interakció az MI-rendelet 50. cikkének (1) bekezdése értelmében „nyilvánvalónak” minősül-e. Ezek a kötelezettségek általános fogyasztóvédelmi tájékoztatási kötelezettségként kiegészítő jellegűek is, míg az MI-rendelet szerinti értesítési kötelezettség kontextuálisabb, és célja annak biztosítása, hogy minden természetes személy folyamatosan tisztában legyen azzal, hogy egy MI-rendszerrel van közvetlen interakcióban, legalább annak megkezdése előtt és az interakció során. |
|
51. |
A digitális szolgáltatásokról szóló rendelet is tartalmaz átláthatósági követelményeket az online platformok ajánlórendszereire vonatkozóan, ilyen többek között a fő rangsorolási paraméterek magyarázatára vonatkozó követelmény. Ezek a kötelezettségek kiegészítik az MI-rendelet 50. cikkének (1) bekezdésében meghatározott átláthatósági kötelezettségeket, mivel eltérő hatállyal és céllal rendelkeznek, valamint olyan rendszerekre vonatkoznak, amelyek elvben nem lépnek közvetlen interakcióba a felhasználókkal az MI-rendelet 50. cikkének (1) bekezdése értelmében. |
|
52. |
Ami az uniós adatvédelmi jog által az érintettek irányába előírt tájékoztatási kötelezettségeket illeti, az MI-rendelet 50. cikkének (1) bekezdésében foglalt kötelezettség az említett kötelezettségektől eltérő célt szolgál, és mint ilyen, nincs hatással ezekre a tájékoztatási kötelezettségekre. |
|
53. |
Hasonlóképpen, az MI-rendelet 50. cikkének (1) bekezdése szerinti átláthatósági kötelezettség a büntetőeljárás keretében a személyek tájékoztatására vonatkozó uniós és nemzeti jog (pl. a 2012/13/EU irányelv vagy az (EU) 2026/1472 irányelvvel módosított 2012/29/EU irányelv) sérelme nélkül alkalmazandó (25). |
4. AZ MI-RENDELET 50. CIKKÉNEK (2) BEKEZDÉSE: AZ MI ÁLTAL GENERÁLT VAGY MANIPULÁLT TARTALMAK JELÖLÉSE ÉS ÉSZLELÉSE
|
54. |
Az MI-rendelet 50. cikkének (2) bekezdése előírja a szintetikus tartalmat létrehozó MI-rendszerek szolgáltatói számára, hogy olyan műszaki megoldásokat alkalmazzanak, amelyek megfelelnek a géppel olvasható jelölésre és az MI-rendszereik kimeneteinek észlelésére vonatkozó bizonyos minőségi követelményeknek. A cél az, hogy a természetes személyek meg tudják különböztetni az MI által létrehozott vagy manipulált tartalmakat más tartalmaktól (például az emberek által létrehozott tartalmaktól), és ellenőrizhessék azok eredetét, hozzájárulva ezáltal az információs ökoszisztéma integritásának és az ökoszisztémába vetett bizalomnak a növekedéséhez. |
|
55. |
Ezen átláthatósági kötelezettség kedvezményezettje ezért minden olyan természetes személy, aki valószínűleg ki van téve az MI által létrehozott vagy manipulált tartalmaknak, valamint az információs ökoszisztémába vetett bizalom és az ökoszisztéma integritása szempontjából fontos szerepet játszó kulcsfontosságú szereplők, például az illetékes piacfelügyeleti hatóságok és más illetékes hatóságok, a független kutatók, a civil társadalmi szervezetek, a média, a megbízható bejelentők, az alapvető jogok védelmezői, az online platformokat és online keresőprogramokat üzemeltető szolgáltatók, a jogosultak és más tartalomalkotók és -terjesztők stb. |
4.1. Az MI-rendelet 50. cikke (2) bekezdésének fő alkotóelemei és koncepciói
|
56. |
Az MI-rendelet 50. cikkének (2) bekezdése akkor alkalmazandó, ha több kumulatív feltétel teljesül:
|
4.1.1. Szintetikus tartalmat létrehozó vagy manipuláló MI-rendszerek
|
57. |
Az MI-rendelet 50. cikkének (2) bekezdése szintetikus hang-, kép-, video- vagy szöveges tartalmat létrehozó MI-rendszerekre (26) (köztük általános célú MI-rendszerekre) alkalmazandó. Az MI-rendelet 50. cikkének (2) bekezdése olyan rendszerek egy alcsoportjára terjed ki, amelyek megfelelnek az MI-rendszernek az MI-rendelet 3. cikkének 1. pontjában szereplő fogalommeghatározásának, és amelyek ilyen kimeneteket hoznak létre. Az MI-rendelet 50. cikkének (2) bekezdése emellett a tartalmak manipulálására használt MI-rendszerekre is kiterjed. |
|
58. |
A tartalom-létrehozás azt jelenti, hogy az MI-rendszer szintetikus anyagot állít elő (pl. emberi prompt alapján), például szintetikus képet vagy dalt hoz létre. A gyakorlatban ez azt jelenti, hogy az MI-rendelet 50. cikkének (2) bekezdése a szűk rendeltetésű, specifikus kimenetek előállítására tervezett generatív MI-rendszerekre alkalmazható. Az MI-rendelet 50. cikkének (2) bekezdése ugyanakkor azokra az MI-rendszerekre is alkalmazandó, amelyek többféle célt is szolgálhatnak (többek között az általános célú MI-rendszerekre), és többféle típusú tartalmat is előállíthatnak, valamint az ügynökszerű MI-rendszerekre, amennyiben szintetikus hang-, kép-, video- vagy szöveges tartalmat hoznak létre. |
|
59. |
A tartalommanipuláció ezzel szemben olyan, már meglévő (akár szintetikus, akár nem) tartalomra utal, amelyet egy MI-rendszer módosít (pl. egy meglévő kép vagy hangfelvétel, amelyet egy MI-rendszer emberi utasításoknak megfelelően manipulál). Ahhoz, hogy a tartalom az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartozzon, elegendő, ha azt az MI-rendelet 50. cikkének (2) bekezdésében meghatározott kivételek alapján a standard szerkesztésen túl mesterséges intelligencia hozza létre vagy manipulálja (lásd a 4.3. szakaszt). Emellett az MI-rendelet 50. cikkének (2) bekezdése nem írja elő, hogy a tartalom kizárólag mesterséges intelligencia által generált vagy manipulált lehet. Az ember által létrehozott anyagokkal kevert tartalom is szintetikus tartalomnak minősül, ha azt az MI-rendelet 50. cikkének (2) bekezdésében említett valamelyik modalitásban manipulálják vagy hozzák létre. |
4.1.2. A hatály alá tartozó szintetikus tartalom modalitásai
|
60. |
Az MI-rendelet 50. cikkének (2) bekezdésében kimerítő lista található az átláthatósági kötelezettség hatálya alá tartozó szintetikus tartalmak modalitásairól: hang, kép, videó vagy szöveg. Ebbe a multimodális tartalmak, vagyis az e modalitások kombinációjából álló tartalmak is beletartoznak. Az MI-rendelet 50. cikke (2) bekezdésének alkalmazásában a különböző modalitásokat az idővel esetlegesen változó gyakorlati és technológiai fejleményekkel összhangban kell értelmezni. Jelenleg a következőképpen kell őket értelmezni:
|
|
61. |
A 3D képeket, 3D videókat és 3D hangokat, valamint virtuális, kiterjesztett vagy vegyes valóságot létrehozó vagy manipuláló MI-rendszerek az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartoznak. „Virtuális valóság”: olyan MI-technológiák, amelyek lehetővé teszik a felhasználók számára, hogy megtapasztaljanak egy fizikai jelenlétet szimuláló, számítógép által generált környezetet, és interakcióba lépjenek azzal, valamint amelyek lehetővé teszik a felhasználók számára az e környezettel való valós idejű interakciót. Mivel a virtuális és kiterjesztett valóság képek időalapú sorozatából áll, amelyet opcionálisan hanggal szinkronizálnak, és amely az idő múlásával vizuális változást mutat be, „videó” típusú tartalomnak tekinthető. A releváns „kimenet”, amelyet meg kell jelölni, az egyes MI által létrehozott eszközök végleges formája, az alábbi 88. pont szerinti valós idejű, eltűnő interaktív munkamenetekre vonatkozó különleges kivételekkel. A 3D képek, 3D videók és 3D hangtartalmak (például egy pontfelhő, 3D háló) létrehozásához használt digitális műtermékeket nem kell megjelölni. |
|
62. |
A több adattípust integráló, személyek, fizikai tárgyak vagy rendszerek virtuális másolatait biztosító digitális ikermodellek szintén az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartoznak, ha mesterséges intelligencia által hozták létre vagy manipulálták őket, formátumuk pedig hang, kép, videó vagy szöveg, kivéve, ha a kivételek hatálya alá tartoznak, és az alábbi 87. pont szerinti „ipari alkalmazásoknak” vagy „vállalkozások közötti alkalmazásoknak”, vagy az alábbi 88. pont szerinti valós idejű, eltűnő tartalomnak minősülnek. |
|
63. |
Az MI-rendelet 50. cikkének (2) bekezdése az MI-ügynökökre is alkalmazható, ha az MI-ügynök olyan tevékenységet végez, amelynek kimenete MI által létrehozott vagy manipulált tartalom, amelyet természetes személyek hang, kép, videó vagy szöveg formájában észlelnek. Ezeket a kimeneteket ezért az alábbiak szerint kell megjelölni és észlelhetővé tenni. Ezzel szemben az MI-ügynökök bármely olyan tevékenysége, amely nem foglal magában az MI által létrehozott vagy manipulált tartalmat (pl. a képszegmentálás lépései, például érvelés és gondolatlánc), vagy az MI által létrehozott olyan tevékenység, amelyet nem természetes személyek általi közvetlen észlelésre szántak (pl. webes kérés vagy böngészőművelet), nem minősül az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartozó szintetikus tartalomnak, és nem kell megfelelnie a jelölésre és észlelésre vonatkozó kötelezettségeknek. |
4.1.3. Az MI-rendelet 50. cikke (2) bekezdésének hatályán kívül eső tartalmak
|
64. |
Az MI-rendelet 50. cikke (2) bekezdésének hatálya nem terjed ki az olyan, egyszerű adatkezelésen alapuló MI-rendszer által generált tartalmakra, amelyeket nem kifejezetten MI hoz létre vagy manipulál (például egy renderelt képkocka). |
|
65. |
Emellett az MI-rendszer olyan kimenete, amely pusztán meglévő tartalmakat reprodukál, vagy lehetővé teszi már meglévő tartalmak megjelenítését vagy elrendezését, szintén nem tartozik az MI-rendelet 50. cikke (2) bekezdésének hatálya alá. Ez lehet a helyzet például a zenei lejátszási listák vagy más ajánlórendszerek esetében, amelyek csak kiválasztanak vagy rangsorolnak meglévő tartalmakat a felhasználói preferenciák vagy tevékenységek alapján, anélkül, hogy új tartalmat hoznának létre vagy manipulálnák magát a tartalmat. Ugyanez vonatkozik a belső analitikai folyamatokban használt MI-rendszerekre is, amelyek adatokat nyernek ki és strukturálnak, de azokat nem foglalják össze. |
|
66. |
Ugyanez igaz egy MI-rendszer olyan bemenetére és kimenetére is, amely fizikai vagy virtuális környezetekből származó adatok egyszerű megfigyelésének és rögzítésének minősül, és amely nem MI által létrehozott vagy manipulált (pl. robotok vagy más, MI-n alapuló érzékelők által), vagy amely MI-rendszerek általi, módosítás nélküli adatátvitel. Ebbe az MI-rendszerek számos bemenete és kimenete beletartozik, különösen az olyan ipari környezetekben, mint az adatokat megfigyelő robotok gyártási adatai; az MI-n alapuló, intelligens fogyasztásmérők által rögzített fogyasztás, hálózati frekvencia és feszültségmérések; valamint a GPS-helymeghatározó adatok rögzítése a járművekből, stb. |
|
67. |
Továbbá, mivel az MI-rendelet 50. cikkének (2) bekezdésében foglalt átláthatósági kötelezettség célja, hogy lehetővé tegye az emberek számára az MI által létrehozott vagy manipulált tartalmak megkülönböztetését a megtévesztés és a manipuláció kockázatának kezelése, valamint az információs ökoszisztéma integritásának és a bele vetett bizalomnak a biztosítása érdekében, ez a rendelkezés nem vonatkozik az olyan tartalmakra, amelyek nem kapcsolódnak ehhez a célkitűzéshez, és amelyek nem észlelhetők, vagy amelyeket nem arra szántak, hogy természetes személyek értelmezzék, ellenőrizzék vagy eljárjanak velük. |
|
68. |
Különösen a következő tartalmakat kell úgy tekinteni, hogy nem tartoznak az MI-rendelet 50. cikke (2) bekezdésének hatálya alá:
|
4.2. Az MI-rendelet 50. cikke (2) bekezdése szerinti jelölésre és észlelésre vonatkozó kötelezettség
|
69. |
Az MI-rendelet 50. cikkének (2) bekezdése átláthatósági kötelezettséget ír elő az e rendelkezés hatálya alá tartozó generatív MI-rendszerek szolgáltatói számára, amely két különálló, de szervesen összefüggő elemből áll. Először is, a szolgáltatóknak biztosítaniuk kell, hogy az MI-rendszer kimenetei géppel olvasható formátumban meg legyenek jelölve. Másodszor, a szolgáltatóknak biztosítaniuk kell, hogy a kimenetek mesterségesen létrehozott vagy manipulált tartalom jellege észlelhető legyen. A szolgáltatóknak minden bevezetett jelölési megoldás esetében biztosítaniuk kell, hogy ezek észleléséhez rendelkezésre álljanak a megfelelő eszközök (az alábbiakban vázoltak szerint), amelyek lehetővé teszik a tartalomnak kitett természetes személyek és más érintett szereplők számára, hogy az MI-rendszer által mesterségesen létrehozott tartalmat azonosítani tudják és meg tudják különböztetni más tartalmaktól. A műszaki megoldást a jelölési technikák és az észlelésre szolgáló eszközök olyan kombinációjaként kell értelmezni, amelyet a szolgáltató az MI-rendelet 50. cikkének (2) bekezdése szerinti átláthatósági kötelezettség teljesítése érdekében hajtott végre. |
|
70. |
Az MI-rendelet 50. cikkének (2) bekezdésében foglalt átláthatósági kötelezettségek célkitűzéseinek hatékony eléréséhez mindkét fent említett elemnek teljesülnie kell. Csak egy elem teljesítése (pl. a kimenetek géppel olvasható jelölése anélkül, hogy az észlelésükhöz szükséges eszközök rendelkezésre állnának) nem elegendő az említett rendelkezésnek való megfeleléshez (27). |
4.2.1. A jelölési kötelezettség
|
71. |
A jelölési kötelezettség hatálya a jelölések géppel olvasható formátumban történő bevezetésére korlátozódik. A géppel olvasható formátum azt jelenti, hogy a jelölések szerkezete lehetővé teszi a szoftveralkalmazások számára, hogy emberi beavatkozás nélkül, könnyen azonosítsák, felismerjék és kinyerjék azokat. Kiegészítő intézkedésként az észlelhető jelölések és címkék sincsenek kizárva, adott esetben annak megkönnyítése érdekében, hogy az alkalmazók megfeleljenek az MI-rendelet 50. cikkének (4) bekezdése szerinti, a deepfake-ek címkézésére vonatkozó kötelezettségüknek. |
|
72. |
A jelölési kötelezettségnek való megfelelés érdekében a szolgáltatók egyetlen jelölési technikára vagy több különböző technika kombinációjára is támaszkodhatnak, feltéve, hogy műszaki megoldásuk összességében géppel olvasható, és megfelel a jogszabályban előírt mértékben a hatékonyságra, az interoperabilitásra, a robusztusságra és a megbízhatóságra vonatkozó követelményeknek, az MI-rendelet 50. cikke (2) bekezdésének második mondatában előírtak szerint (lásd az alábbi 4.2.3. szakaszt). |
|
73. |
Az MI-rendelet (133) preambulumbekezdése példákkal szolgál az ilyen technikákra; többek között vízjelek, metaadat-azonosítások, a tartalom eredetének és hitelességének bizonyítására szolgáló kriptográfiai módszerek, naplózási módszerek, ujjnyomatok vagy egyéb technikák, illetve az ilyen technikák kombinációjának bevezetését javasolja. Bár az MI-rendelet (133) preambulumbekezdése említ az eredet és a hitelesség bizonyítására szolgáló módszereket, a szolgáltatók nem kötelesek rögzíteni vagy megőrizni a tartalom eredetére és módosítására vonatkozó információkat, illetve a tartalom előzményeire vonatkozó bármely más releváns állítást tartalmazó teljes származási láncot. Az ilyen, az eredet bizonyítására szolgáló módszerek azonban az MI-rendelet 50. cikke (2) bekezdésének való megfelelés céljából is alkalmazhatók, és elősegíthetik, hogy a természetes személyek meg tudják különböztetni az MI által létrehozott vagy manipulált tartalmat az autentikus tartalomtól. |
|
74. |
A szolgáltatók az értéklánc különböző szakaszaiban vezethetnek be a kimenetek jelölésére szolgáló megoldást (pl. utólagosan, a tartalom létrehozását követően az MI-rendszer szintjén, az alapul szolgáló MI-modell szintjén vagy az MI-rendszer következtetési folyamatába integrálva). Támaszkodhatnak a modell upstream szolgáltatója vagy a megoldást nyújtó harmadik fél által alkalmazott jelölési megoldásra (pl. nyílt szabványként vagy speciális szolgáltatásként), amennyiben a jelölési megoldás megfelel az MI-rendelet 50. cikke (2) bekezdésének. Az, hogy ilyen megoldásra támaszkodik, nem érinti az MI-rendszer szolgáltatójának azon felelősségét, hogy bizonyítsa az MI-rendelet 50. cikke (2) bekezdésének való megfelelést. |
4.2.2. Az észlelésre vonatkozó kötelezettség
|
75. |
Az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartozó MI-rendszerek szolgáltatóinak biztosítaniuk kell, hogy rendszereik kimenete kapcsán észlelhető legyen, hogy az MI által létrehozott vagy manipulált tartalom. Ez azt jelenti, hogy a szolgáltató köteles biztosítani, hogy a tartalomnak potenciálisan kitett személyek rendelkezésére álljanak az észleléshez szükséges eszközök. Továbbá az MI-rendelet 50. cikkének (5) bekezdése értelmében az ilyen, észlelésre szolgáló megoldásoknak képesnek kell lenniük arra, hogy ember által olvasható olyan eredményeket hozzanak létre, amelyek jelzik, hogy a tartalmat mesterséges intelligencia hozta létre vagy manipulálta. |
|
76. |
Az észlelésre szolgáló eszköz olyan mechanizmus, amely észleli, hogy a tartalmat mesterséges intelligencia hozta-e létre vagy manipulálta-e, amit jellemzően úgy ér el, hogy felismeri a tartalom eredetét igazoló műszaki jelöléseket vagy aláírásokat. Ahhoz, hogy teljes interoperabilitást biztosíthassanak, a szolgáltatóknak nyilvánosan elérhető, az ágazati szabványoknak megfelelő, észlelésre szolgáló megoldásokra kell támaszkodniuk, amelyek bármely harmadik fél számára lehetővé teszik, hogy olyan észlelési folyamatot vezessen be, amely ideális esetben lokálisan végrehajtható a digitális eszközön, és amely zökkenőmentesen integrálható önálló, elszigetelt hálózatokba. Amennyiben ilyen szabványok nem állnak rendelkezésre, különösen az MI-rendelet 50. cikke (2) bekezdése végrehajtásának kezdeti szakaszában a vízjelezési technológiák tekintetében, a szolgáltató támaszkodhat saját, észlelésre szolgáló megoldására, illetve egy harmadik fél vagy egy közös, észlelésre szolgáló megoldásra, feltéve, hogy ezek a megoldások interoperabilitást biztosítanak a más szolgáltatók által használt, észlelésre szolgáló megoldásokkal (lásd a 4.2.3. szakaszt). Ezt a lehetőséget arra az időre kell korlátozni, amíg létre nem jönnek a harmonizált szabványok és egy olyan szabványosított, szolgáltatófüggetlen, interoperábilis megoldás az észlelésre, amely biztonságos, gondoskodik a magánélet védelméről és lokálisan futtatható. |
|
77. |
Az MI-rendelet 50. cikkének (5) bekezdése emellett azt is kiköti, hogy az MI-rendelet 50. cikkének (2) bekezdésben említett tájékoztatást legkésőbb az első interakció vagy kitettség alkalmával, egyértelmű és jól megkülönböztethető módon kell a tartalomnak kitett természetes személyek számára nyújtani. Ez a tájékoztatás különösen az észlelés eredménye, amely azt jelzi, hogy a tartalom mesterséges intelligencia által létrehozott vagy manipulált-e, nem pedig magát az MI által létrehozott vagy manipulált tartalmat. „Az első kitettség alkalmával” kifejezést úgy kell értelmezni, mint az az időpont, amikor a természetes személyek ellenőrizni akarják egy adott tartalom eredetét, és hozzá akarnak férni az észlelésre szolgáló megoldáshoz az észlelés eredményeinek elérése érdekében. |
|
78. |
Ha az MI-rendszer szolgáltatója az észlelésre szolgáló megoldás biztosítása vagy az ahhoz való hozzáférés tekintetében egy másik szereplőtől függ, biztosítania kell, hogy az észlelésre szolgáló megoldás megfeleljen az MI-rendelet 50. cikke (2) és (5) bekezdésének, és hogy ezek a szereplők az észlelés eredményeit az MI-rendelet 50. cikke (5) bekezdésének megfelelően jelenítsék meg (lásd a 7. szakaszt). |
4.2.3. A műszaki megoldásokra vonatkozó követelményeknek való megfelelés: hatékony, interoperábilis, robusztus és megbízható
|
79. |
Az MI-rendelet 50. cikke (2) bekezdésének második mondata úgy rendelkezik, hogy a jelölésre és az észlelésre szolgáló műszaki megoldásoknak hatékonynak, interoperábilisnak, robusztusnak és megbízhatónak kell lenniük. Ezeket a követelményeket a következőképpen kell értelmezni:
|
|
80. |
A szolgáltatóknak biztosítaniuk kell, hogy a jelölésre és az észlelésre szolgáló műszaki megoldások kombinációja holisztikusan, a jogilag előírt mértékben megfeleljen az összes fent említett követelménynek, figyelembe véve a különböző alkalmazott megoldások korlátait és egymást kiegészítő jellegét. A műszaki megoldásoknak valamennyi követelménynek meg kell felelniük, amennyire ez műszakilag megvalósítható, figyelembe véve a különböző tartalomtípusok sajátosságait és korlátait, a megvalósítás költségeit, valamint a technika általánosan elismert állását, ahogyan azt a vonatkozó műszaki szabványok tükrözhetik. |
|
81. |
Az MI-rendelet 50. cikkének (2) bekezdése értelmében vett „műszakilag megvalósítható” megoldások olyan megoldások, amelyek az érintett konkrét műszaki architektúrán és működési környezeten belül megvalósíthatók a rendelkezés hatálya alá tartozó modalitások tekintetében, a jelenleg rendelkezésre álló technológiák, módszerek és tervezési gyakorlatok felhasználásával. A szolgáltató nem köteles olyan műszaki megoldást igénybe venni, amelyet még nem fejlesztettek ki vagy nem érhető el a piacon, vagy amely műszakilag alkalmatlan a végrehajtáshoz. A műszaki megvalósíthatóság objektív fogalom, amely nem függ az egyes szolgáltatók konkrét erőforrásaitól és képességeitől. |
|
82. |
Az MI-rendelet 50. cikkének (2) bekezdése előírja a szolgáltatók számára, hogy a hatékonyságra, a robusztusságra, a megbízhatóságra és az interoperabilitásra vonatkozó négy minőségi követelménynek való megfelelés érdekében olyan, műszakilag megvalósítható megoldás(oka)t alkalmazzanak, amelyek igazodnak a technika általánosan elismert állásához. |
|
83. |
A „technika állása” kifejezés a termékek, eljárások és szolgáltatások tekintetében egy adott időpontban jellemző műszaki alkalmasság fejlett állapotát jelenti, amely a tudomány, a technológia és a tapasztalatok vonatkozó konszolidált eredményein alapul, és amelyet bevált gyakorlatként fogadnak el a technológia terén (28). A technika állása nem feltétlenül jelenti a még kísérleti szakaszban lévő vagy még nem kellően kiforrott technológiával rendelkező, legújabb tudományos kutatást. A szolgáltatóknak annak megfelelően, ahogy a technológia és a technika fejlődik, időben és arányosan folyamatosan ki kell igazítaniuk a jelölésre és észlelésre szolgáló megoldásaikat. |
|
84. |
Az MI-rendelet 50. cikkének (7) bekezdése fényében a szolgáltatók támaszkodhatnak egy olyan, az említett rendelkezés értelmében arra megfelelőnek ítélt és a technika állásának megfelelelő gyakorlati kódexre, hogy bizonyítsák megfelelésüket az MI-rendelet 50. cikkének (2) és (5) bekezdésében foglalt, a megjelölésre és észlelésre vonatkozó kötelezettségeknek. Az ilyen kódex betartásának hatásaival és a kódexet be nem tartó egyéb szolgáltatók felügyeletével kapcsolatos további információkért lásd az alábbi 8.1. szakaszt. |
|
85. |
Figyelembe lehet venni a jelölésre és az észlelésre szolgáló egyes műszaki megoldások megvalósításának költségeit is. Bizonyos esetekben, amint azt a következő pontokban ismertetjük, a költségek a marginális nyereséghez képest aránytalanok lehetnek, és az, hogy lehetővé teszik az emberek számára az MI által létrehozott vagy manipulált tartalmak megkülönböztetését, valamint biztosítják az információs ökoszisztéma integritását és az abba vetett bizalmat, korlátozottabb értéket képvisel. |
|
86. |
Ezért előfordulhatnak olyan szűken meghatározott esetek, amikor egy kevésbé robusztus metaadat-jelöléseken alapuló műszaki megoldás is elegendő az MI-rendelet 50. cikke (2) bekezdésének való megfeleléshez, figyelembe véve az MI-rendszer kimeneteinek sajátosságait, ha eredendően alacsonyabb kockázatot jelentenek a megtévesztés, a manipuláció vagy az információs ökoszisztémára gyakorolt negatív hatások tekintetében. Különösen ez a helyzet akkor, ha egy generatív MI-rendszer olyan fizikai termékekbe van beágyazva, amelyek főként utasító jellegű, műszakilag ellenőrzött és zárt környezetben generálnak kimeneteket (pl. járművek navigációs rendszereibe ágyazott MI-rendszer), amennyiben a termékbe hatékony technikai intézkedéseket építettek be annak megakadályozására, hogy a kimenet elhagyja a termékkörnyezetet, például azáltal, hogy rögzítik vagy exportálják és a rendszeren kívül terjesztik. |
|
87. |
Az „ipari MI-alkalmazások” vagy a „vállalkozások közötti alkalmazások” (kivéve a nyilvános és a fogyasztóknak szánt MI-rendszereket) terén korlátozott számban előfordulhatnak olyan esetek is, amikor az arányosság elve és az átláthatósági célkitűzések szempontjából jelentkező korlátozott előnyök azt jelentik, hogy nincs szükség az MI által létrehozott vagy manipulált kimenetek megjelölésére és észlelésére. Ez csak akkor alkalmazandó, ha az alábbi követelmények együttesen teljesülnek:
|
|
88. |
A valós idejű tartalom-létrehozás, amely során eltűnő és azonnal fogyasztandó tartalmat generálnak – anélkül, hogy azt rögzítenék, tárolnák vagy tovább terjesztenék (pl. videojátékokban, virtuálisvalóság-alkalmazásokban) – szintén mentesülhet, ha a megjelölés műszakilag nem megvalósítható, és a tartalomnak kitett személyeket tájékoztatják arról, hogy a tartalmat mesterséges intelligencia hozta létre vagy manipulálta (pl. az élmény közben végrehajtott tájékoztatással, munkamenet szintű értesítésekkel). |
4.3. Az MI-rendelet 50. cikkének (2) bekezdése szerinti kötelezettségek alóli kivételek
|
89. |
Az MI-rendelet 50. cikkének (2) bekezdése három kifejezett kivételt ír elő az e rendelkezésben meghatározott átláthatósági kötelezettségek alól. |
|
90. |
Az első kivétel az MI-rendszerekre vonatkozik, amennyiben azok a standard szerkesztést segítő funkciót látnak el. Standard szerkesztés alatt a meglévő tartalom közzétételre vagy terjesztésre való előkészítésének folyamatát kell érteni (pl. kisebb szerkesztések az olvashatóság, a nyelvtan, a minőség és a formátum javítása érdekében), amely nem jár új tartalom létrehozásával. A standard szerkesztés célja annak biztosítása, hogy a tartalom többek között mentes legyen nyilvánvaló technikai vagy nyelvtani, nyelvi hibáktól, összhangban legyen az alkalmazandó elrendezési, megjelenítési, formázási vagy akadálymentességi követelményekkel, vagy megfeleljen az ágazati gyakorlatoknak. A szerkesztés túlmutat a standard szerkesztésen, ha a tartalmat olyan lényeges módon változtatják meg (lényeges módosításokkal, strukturális változásokkal stb.), amely befolyásolja annak jelentését, stílusát vagy szándékát. |
|
91. |
A második kivétel akkor érvényes, ha az MI-rendszer nem módosítja lényegesen az alkalmazó által szolgáltatott bemeneti adatokat vagy azok szemantikáját. A módosítás akkor tekintendő lényegesnek, ha a bemeneti adatokat vagy azok szemantikáját az MI-rendszer a kimeneti adatok létrehozási folyamata során jelentősen manipulálta. Ennek olyan releváns tényezők értékelésén kell alapulnia, mint a formátum, a médiatartalom típusa, a stílus és a tartalom olyan változásai, amelyek befolyásolják annak jelentését, stílusát vagy szándékát. Annak megállapítása, hogy ez a helyzet áll-e fenn, esetspecifikus értékelést igényel. |
|
92. |
Ha egy MI-rendszer tartalmak létrehozására vagy manipulációjára, valamint a bemeneti adatok kisebb, lényegesnek nem minősülő módosítására is használható, akkor az MI-rendelet 50. cikkének (2) bekezdése szerinti átláthatósági kötelezettség nem alkalmazandó a kisebb mértékben, nem lényeges mértékben módosított tartalomra.
|
|
93. |
A harmadik kivétel a törvény által a bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából szintetikus tartalom előállítására vagy manipulálására engedélyezett generatív MI-rendszerekre vonatkozik. Az e kivételre vonatkozóan a fenti 46–48. pontban adott pontosítások ebben az esetben is relevánsak. |
4.4. Kölcsönhatás más uniós jogi aktusokkal
|
94. |
Az MI-rendelet 50. cikkének (2) bekezdése szerinti, a jelölésre és az észlelésre vonatkozó kötelezettségek a tartalom létrehozásának módjára és mesterséges eredetére összpontosítanak, nem pedig arra, hogy ki hozta létre a tartalmat. Az MI-rendszerek szolgáltatói által alkalmazott jelölési és észlelésre szolgáló megoldásoknak ezért meg kell felelniük az alkalmazandó uniós adatvédelmi jogszabályoknak, beleértve az adatvédelmi elveket és kötelezettségeket, például a beépített és alapértelmezett adatvédelem kötelezettségét, az adattakarékosság elvét, valamint a biztonsági és titoktartási elveket. A jelölés és az észlelés céljából például nem szabad a tartalom létrehozójával kapcsolatos információkat kezelni, és törölni kell minden más kezelt személyes adatot, amint az észlelés mint cél teljesül; biztonságot és titoktartást kell biztosítani stb. |
|
95. |
Az MI-rendelet (136) preambulumbekezdése még jobban kiemeli az MI-rendelet 50. cikkének (1), (2) és (4) bekezdése szerinti átláthatósági kötelezettségek különös jelentőségét a digitális szolgáltatásokról szóló rendelet hatékony végrehajtásának megkönnyítése szempontjából. Ez különösen igaz az online óriásplatformokat vagy nagyon népszerű online keresőprogramokat üzemeltető szolgáltatók azon kötelezettségeire, hogy gondosan azonosítsák, elemezzék, értékeljék és enyhítsék a mesterségesen előállított vagy manipulált tartalom terjesztéséből eredő rendszerszintű kockázatokat, különösen a demokratikus folyamatokra, a civil párbeszédre és a választási folyamatokra – többek között dezinformáció révén – gyakorolt tényleges vagy előrelátható negatív hatások kockázatát (a digitális szolgáltatásokról szóló rendelet 34. és 35. cikke). A géppel olvasható jelölések lehetővé tehetik e szolgáltatók számára, hogy felismerjék az MI által létrehozott vagy manipulált tartalmakat, valamint megfelelő címkézést és tájékoztatást biztosítsanak, ezáltal csökkentve a szolgáltatásaik körében az MI által létrehozott dezinformáció kockázatát. |
|
96. |
Az MI-rendszerek által létrehozott vagy manipulált tartalom megjelölésére és címkézésére vonatkozó, az MI-rendelet 50. cikkének (2) és (4) bekezdése szerinti kötelezettségek nem érintik a tárhelyszolgáltatóknak a digitális szolgáltatásokról szóló rendelet 16. cikkének (6) bekezdésében foglalt azon kötelezettségét, hogy feldolgozzák a digitális szolgáltatásokról szóló rendelet 16. cikkének (1) bekezdése alapján kapott, jogellenes tartalomra vonatkozó bejelentéseket (29). Különösen az MI által létrehozott vagy manipulált tartalomra alkalmazott jelölés vagy címkézés nem befolyásolhatja az adott tartalom más szabályozási keretek szerinti jogellenességének értékelését és az arra vonatkozó döntést. Ezt az értékelést kizárólag a tartalom jogszerűségére vonatkozó szabályokra tekintettel kell elvégezni ezekkel a keretekkel összhangban (30). Ha például egy címkézett deepfake képet potenciálisan gyermekek szexuális bántalmazását ábrázoló anyagként jelölnek meg, vagy olyan anyagként, amely sérti a védjegyjogot vagy a szerzői jogot, a címke alkalmazása nincs hatással a tartalomnak az említett szabályozási keretek szerinti esetleges jogellenességére. Ezt az értékelést kizárólag a vonatkozó alkalmazandó jogszabályok (pl. büntetőjogi, védjegy- vagy szerzői jogi szabályok) alapján kell elvégezni. |
|
97. |
Ezzel szemben a tartalomba az MI-rendelet 50. cikkének (2) bekezdése alapján beágyazott, géppel olvasható jelölés segítheti az online óriásplatformot és a nagyon népszerű online keresőprogramot üzemeltető szolgáltatókat a digitális szolgáltatásokról szóló rendelet 34. és 35. cikke szerinti kötelezettségeik teljesítésében, hogy azonosítsák, elemezzék és értékeljék a mesterségesen előállított vagy manipulált tartalom terjesztéséből eredő rendszerszintű kockázatokat, különösen a demokratikus folyamatokra, a civil párbeszédre és a választási folyamatokra – többek között dezinformáció révén – gyakorolt tényleges vagy előre látható negatív hatások kockázatát (31), valamint hogy észszerű, arányos és hatékony intézkedéseket vezessenek be e kockázatok csökkentése érdekében, az azonosított egyes rendszerszintű kockázatokra szabva. Az online óriásplatformot és nagyon népszerű online keresőprogramot üzemeltető szolgáltatók akkor is MI-rendszerek szolgáltatójának minősülhetnek, ha megfelelnek az MI-rendelet vonatkozó feltételeinek, amennyiben MI-rendszereket integrálnak szolgáltatásaikba (lásd még a 6.1.5. szakaszt). |
|
98. |
Az online platformokat, online keresőprogramokat üzemeltető szolgáltatókat és az értéklánc mentén tartalmakat terjesztő egyéb releváns szereplőket különösen arra ösztönzik, hogy őrizzék meg és tegyék lehetővé a szolgáltatók által az MI-rendelet 50. cikkének (2) bekezdése alapján alkalmazott jelölések azonosítását annak érdekében, hogy a tartalomnak kitett természetes személyek tájékoztatást kaphassanak annak eredetéről. |
5. AZ MI-RENDELET 50. CIKKÉNEK (3) BEKEZDÉSE: ÉRZELEMFELISMERŐ RENDSZEREK ÉS BIOMETRIKUS KATEGORIZÁLÁSI RENDSZEREK
|
99. |
Az MI-rendelet 50. cikkének (3) bekezdése arra kötelezi az érzelemfelismerő rendszerek és a biometrikus kategorizálási rendszerek alkalmazóit, hogy tájékoztassák az e rendszereknek kitett természetes személyeket a rendszer működéséről. |
|
100. |
Az MI-rendelet (132) preambulumbekezdése kifejti, hogy e kötelezettség célja annak biztosítása, hogy a természetes személyek (beleértve a fogyatékossággal élő személyeket is) tisztában legyenek azzal, hogy érzelemfelismerő és biometrikus kategorizálási rendszereknek vannak kitéve, amelyek sérthetik magánéletüket. A kötelezettség tehát attól függetlenül alkalmazandó, hogy a személyek valós időben vannak-e kitéve az ilyen rendszereknek, vagy e rendszereket utólag üzemeltetik. |
5.1. A fő alkotóelemek, fogalmak és a kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (3) bekezdése értelmében
5.1.1. Az érzelemfelismerő rendszer fogalma
|
101. |
Az MI-rendelet 3. cikkének 39. pontja az „érzelemfelismerő rendszert” „a természetes személyek érzelmeinek vagy szándékainak a biometrikus adataik alapján történő azonosítására vagy kikövetkeztetésére szolgáló” MI-rendszerként határozza meg. E fogalomnak a nagy kockázatú MI-rendszerek besorolására vonatkozó bizottsági iránymutatásokban szereplő részletes magyarázata, beleértve az azokban meghatározott gyakorlati példákat is, az MI-rendelet 50. cikkének (3) bekezdésével összefüggésben is ugyanilyen releváns. |
|
102. |
Mivel minden érzelemfelismerő rendszer egyben nagy kockázatúnak is minősül, kivéve, ha azt tiltja az MI-rendelet 5. cikke (1) bekezdésének f) pontja a munkahelyek és az oktatás területén, az MI-rendelet 50. cikkének (3) bekezdésében foglalt átláthatósági kötelezettséget a nagy kockázatú MI-rendszerekre alkalmazandó egyéb biztosítékokkal és követelményekkel együtt kell alkalmazni. |
5.1.2. A biometrikus kategorizálási rendszer fogalma
|
103. |
Az MI-rendelet 3. cikkének 40. pontja szerint a „biometrikus kategorizálási rendszer (…) a természetes személyeknek a biometrikus adataik alapján meghatározott kategóriákba sorolására szolgáló MI-rendszer, kivéve, ha az egy másik kereskedelmi szolgáltatás mellett kiegészítő jellegű, és objektív technikai okokból feltétlenül szükséges”. E fogalomnak a nagy kockázatú MI-rendszerek besorolására vonatkozó bizottsági iránymutatásokban szereplő részletes magyarázata, beleértve annak konkrét elemeit, valamint az azokban meghatározott gyakorlati példákat is, az MI-rendelet 50. cikkének (3) bekezdésével összefüggésben is ugyanilyen releváns. |
|
104. |
Fontos megjegyezni, hogy amennyiben az MI-rendelet 5. cikke (1) bekezdésének g) pontja nem tiltja, az MI-rendelet 50. cikkének (3) bekezdése minden biometrikus kategorizálási rendszerre (pl. biometrikus adatokon alapuló életkori vagy nemi besorolásra) alkalmazandó, függetlenül attól, hogy azok az MI-rendelet szerinti nagy kockázatú MI-rendszerek hatálya alá tartoznak-e vagy sem. |
5.1.3. Az MI-rendelet 50. cikkének (3) bekezdése szerinti tájékoztatási kötelezettség
|
105. |
A szolgáltatandó információk köre: Az alkalmazóknak tájékoztatniuk kell az érintett természetes személyeket arról, hogy működő érzelemfelismerő rendszernek vagy biometrikus kategorizálási rendszernek vannak kitéve. Az MI-rendelet nem írja elő a rendszer működésének okaira vonatkozó információk feltüntetését, vagy azt, hogy a rendszer az érzelemfelismeréstől vagy a biometrikus kategorizálástól eltérő célokból is kezel-e olyan információkat, amelyeket az uniós adatvédelmi jog értelmében nyilvánosságra kell hozni (lásd az 5.3. szakaszt). |
|
106. |
A tájékoztatás címzettjei: Az MI-rendelet 50. cikkének (3) bekezdése előírja, hogy az alkalmazóknak az MI-rendszer működésének kitett valamennyi természetes személyt tájékoztatniuk kell, beleértve a gyermekeket is. |
|
107. |
A tájékoztatás módja: Az MI-rendelet nem ír elő konkrét eszközt, amellyel a tájékoztatást nyújtani kell, kivéve, hogy az MI-rendelet 50. cikkének (5) bekezdése előírja, hogy a tájékoztatást egyértelmű és jól megkülönböztethető módon, valamint az alkalmazandó akadálymentességi követelményekkel összhangban kell nyújtani (a fogyatékossággal élő természetes személyek igényeinek megfelelően). A rendszernek kitett természetes személyek tájékoztatásának módja függhet a telepítés helyétől (pl. virtuális játékplatform, hagyományos üzlethelyiség, vasútállomás), a lehetséges címzettektől (pl. gyermekek, idősek, fogyatékossággal élő személyek, vevők), a kitettség hosszától és típusától (pl. hosszú távú, egyszeri, folyamatos, időszakos), valamint az alkalmazó és a kitett személyek közötti kapcsolat esetleges meglététől (pl. ha van meglévő kommunikációs csatorna az egyénnel). A felhasználási esettől függően az információk megadhatók írásban, szabványosított ikonokkal (elektronikus megjelenítés esetén is), szóban vagy e módok kombinációjával.
|
|
108. |
Az információszolgáltatás ütemezése: Az információkat legkésőbb az MI-rendszerrel való első interakció vagy a rendszernek való kitettség időpontjában kell megadni az MI-rendelet 50. cikkének (5) bekezdésével összhangban. Adott esetben az sincs kizárva, hogy a szükséges információkat előzetesen adják meg. |
5.2. A bűnüldözési célból való felhasználásra vonatkozó kivétel
|
109. |
A tájékoztatási kötelezettség nem alkalmazandó az olyan, biometrikus kategorizálásra és érzelemfelismerésre használt MI-rendszerekre, amelyeket a törvény megenged bűncselekmények felderítése, megelőzése és nyomozása céljából, a harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok mellett, és az uniós jognak megfelelően. Az e kivételre vonatkozóan a fenti 46–48. pontban adott pontosítások ebben az esetben is relevánsak, egy különbséggel. Míg az MI-rendelet 50. cikkében foglalt egyéb kivételek olyan kifejezett jogszabályt írnak elő, amely engedélyezi az MI-rendszerek nem átlátható használatát, az MI-rendelet 50. cikkének (3) bekezdése abban az esetben lehetővé teszi az ilyen használatot, ha azt a bűnüldöző hatóságok érzelemfelismerő és biometrikus kategorizálási rendszerek bűncselekmények felderítése, megelőzése vagy nyomozása céljából való, az érintett személyek tájékoztatása nélküli használatára vonatkozó hatáskörére vonatkozó jogi szabályok lehetővé teszik, megfelelő biztosítékok mellett. |
5.3. Kölcsönhatás más uniós jogi aktusokkal
|
110. |
Az MI-rendelet 50. cikkének (3) bekezdése szerinti tájékoztatási kötelezettség önmagában nem teszi jogszerűvé az érzelemfelismerő és a biometrikus kategorizálási rendszerek használatát. Nem legitimálja továbbá az olyan tolakodó vagy diszkriminatív felhasználást sem, amely az MI-rendelet 5. cikke vagy más uniós jog alapján jogellenes és tiltott lehet. Az alkalmazóknak az uniós adatvédelmi jog szerinti alkalmazandó tájékoztatási követelmények mellett meg kell felelniük az MI-rendelet 50. cikkének (3) bekezdésében foglalt tájékoztatási kötelezettségnek is. Bizonyos esetekben az alkalmazók mérlegelhetik, hogy az MI-rendelet 50. cikkének (3) bekezdése alapján hozzáadnak-e értesítéseket az uniós adatvédelmi jog alapján az érintettek számára nyújtott információkhoz. |
6. 50. CIKK (4) BEKEZDÉS: A DEEPFAKE-EK ÉS BIZONYOS SZÖVEGES KIADVÁNYOK CÍMKÉZÉSE
|
111. |
Az MI-rendelet 50. cikkének (4) bekezdése két külön kötelezettséget állapít meg a generatív MI-rendszerek alkalmazói számára, amelyek – meghatározott esetek kivételével – megkövetelik, hogy i. a deepfake-ek és ii. a nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett, mesterséges intelligencia által létrehozott vagy manipulált szövegek esetében egyértelmű és jól megkülönböztethető módon nyújtsanak tájékoztatást. Ezek a címkézési kötelezettségek az MI-rendelet 50. cikkének (2) bekezdése szerinti, géppel olvasható jelölésre és az észlelésre vonatkozó kötelezettségek mellett és azok sérelme nélkül alkalmazandók a szintetikus kép-, video-, hang- vagy szöveges tartalmat létrehozó vagy manipuláló MI-rendszerek szolgáltatóira. |
6.1. A deepfake-ekkel kapcsolatos fő alkotóelemek, fogalmak és kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (4) bekezdése értelmében
|
112. |
Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése akkor alkalmazandó, ha több feltétel teljesül:
|
6.1.1. A „deepfake” fogalma
|
113. |
Az MI-rendelet 3. cikkének 60. pontja úgy határozza meg a „deepfake” fogalmát, hogy az „az MI által generált vagy manipulált kép, audio- vagy videotartalom, amely hasonlít létező személyekre, tárgyakra, helyekre, entitásokra vagy eseményekre, és amely egy személy számára megtévesztő módon autentikusnak vagy valóságosnak tűnne”. A manipuláció és a generálás közötti különbséget a fenti 4.1. szakasz tisztázta. A deepfake fogalmának tisztázása érdekében az alábbiakban e fogalommeghatározás négy kumulatív kritériumát vizsgáljuk meg: i. hasonlít ii. létező iii. személyekre, tárgyakra, helyekre, entitásokra vagy eseményekre, és iv. egy személy számára megtévesztő módon autentikusnak vagy valóságosnak tűnne.
|
|
114. |
Azt, hogy vajon a tartalom „egy személy számára megtévesztő módon autentikusnak vagy valóságosnak tűnne”-e, egészében kell értékelni, figyelembe véve a hasonlóság szintjét, a tartalom potenciális lényegi üzenetét, a tervezett és előre látható felhasználási körülményeket, azt a környezetet, amelyben a tartalmat megjelenítik, valamint a közönség tervezett és észszerűen előre látható összetételét és elvárásait. Ez az értékelés azonban objektív, és ahhoz, hogy deepfake-nek minősüljön, nem követel az alkalmazótól olyan szándékot, hogy az meg akarja téveszteni vagy félre akarja vezetni a tartalomnak kitett természetes személyeket. Ami a felhasználás körülményeit és a közönség elvárásait illeti, ez azt jelenti, hogy ha a tartalmat olyan konkrét felhasználási környezetben használják, ahol a tervezett és észszerűen előrelátható közönség nem várja el, hogy a tartalom autentikus vagy valóságos legyen, az MI által létrehozott vagy manipulált tartalom nem tűnhet megtévesztő módon autentikusnak vagy valóságosnak, még akkor sem, ha tényleg nem autentikus vagy tényleg valótlan. Ilyen esetekben a deepfake fogalommeghatározásának negyedik kritériuma nem teljesül. A háttérjelenetek, speciális effektusok vagy a standard filmgyártási folyamatok részeként végzett technikai elő- és utófeldolgozás mesterséges intelligencia által történő létrehozása vagy manipulálása például nem valószínű, hogy megtévesztő módon autentikusnak vagy valóságosnak tűnővé tenné a tartalmat a közönség számára. Ezzel szemben, ha az MI-t a közönség észlelését befolyásoló alapvető elemek (például teljes mértékben MI által generált színészek, valós vagy elhunyt színészek digitális másolatai, fiatalítás, szimulált előadások, beleértve azok egyes szerepeit is, vagy személyek, tárgyak, helyek vagy események nem autentikus vagy valótlan megjelenítése dokumentumfilmekben) létrehozására vagy manipulálására használják fel, az valószínűleg ezt eredményezné. A kép és a videotartalom esetében elismert tény, hogy a nagy fokú fotorealizmus miatt valószínűbb, hogy az ilyen tartalmat deepfake-nek kell tekinteni (mivel valószínűleg meglévő alanyokhoz hasonlít), de a fotorealizmus önmagában nem meghatározó az értékelés szempontjából. Azt kell még értékelni, hogy az ilyen tartalom alkalmas-e arra, hogy megtévesszen vagy félrevezessen egy személyt a tartalom autentikussága vagy valóságossága tekintetében, figyelembe véve többek között a tervezett és előre látható felhasználási körülményeket. |
|
115. |
Az MI-rendelet 50. cikkének (1) bekezdésével ellentétben annak értékelése, hogy egy személy hamis megjelenése autentikus vagy valóságos-e, nem alapulhat egy olyan feltételezett „átlagos” személyen, aki várhatóan ki lesz téve a tartalomnak (lásd a 3.2.1. szakaszt), hanem kellően figyelembe kell venni a lehetséges sokféleségét annak az észszerűen előrelátható közönségnek, amely ki lehet téve a deepfake tartalomnak. A közönség összetételének a megfelelő figyelembevétele különösen fontos, ha észszerűen előre látható, hogy gyermekek, idősek vagy más, alacsonyabb szintű digitális és MI-jártassággal, illetve általános ismeretekkel rendelkező személyek csoportjai valamikor észlelhetik a deepfake tartalmat, mivel ők könnyebben megtéveszthetők vagy félrevezethetők a tartalom autentikussága vagy valóságossága tekintetében. Ilyen esetekben az is elegendő lehet ahhoz, hogy a tartalom deepfake-nek minősüljön, ha a tartalom megtévesztő módon autentikusnak vagy valóságosnak tűnik az előrelátható közönség e része számára. Az azonban nem várható el az alkalmazóktól, hogy a deepfake tartalmak harmadik felek általi, az alkalmazó által észszerűen előrelátható közönségen túli esetleges további terjesztését is mérlegeljék, figyelembe véve a tervezett terjesztési csatornákat (pl. ha a deepfake tartalmat egy weboldal kizárólag előfizetők számára elérhető részén vagy egy vállalati hírlevél részeként jelenítik meg, ez nem jelenti azt, hogy az alkalmazónak alapértelmezetten figyelembe kellene vennie a széles körű nyilvános hozzáférhetőséget). |
|
116. |
Hasonlóképpen, a már létező tartalmak jelentéktelen tartalmi vagy technikai vonatkozásainak mesterséges intelligenciával támogatott manipulálása is csekély jelentőséggel bírhat arra, hogy a személy hogyan értékeli a tartalom autentikusságát vagy valóságosságát, és nem válik tőle az így kapott tartalom deepfake-ké. Ilyen lehet például a háttérben lévő részletek szerkesztése (pl. a járókelők eltávolítása), a megvilágítás módosításai, a hangparaméterek adaptálása, a színkorrekció, a zaj csillapítása vagy eltávolítása, az akadálymentesség vagy a fájltömörítés javítása, a szépítő jellegű módosítások és fejlesztések. Az, hogy a manipuláció ebbe a kategóriába tartozik-e, a kontextustól és az adott esetben a tartalom autentikusságának vagy valóságosságának a személyek általi megítélésére gyakorolt hatásától függ. Az MI-n alapuló színkorrekció, a meglévő tartalom hátterének bővítései, a hátterek egyértelműen esztétikai célból végzett módosításai vagy cseréi, a meglévő termékek kompozíciója és elrendezése, vagy a termékhirdetésekben vagy -csomagolásokon alkalmazott képek átméretezése valószínűleg csak csekély hatással van arra, hogy az adott személy hogyan érzékeli a reklám és a termék autentikusságát és valóságosságát. Ezzel szemben, ha az újságírói képek hátterének részletein végeznek a standard technikai, szerkesztői gyakorlatokon túlmutató, MI-n alapuló, jelentős szerkesztést, az negatívan befolyásolhatja az adott személy megítélését a tartalom autentikusságát és valóságosságát illetően.
|
6.1.2. Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése szerinti tájékoztatási kötelezettség
|
117. |
Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése kötelezi az olyan MI-rendszerek alkalmazóit, amelyek eredetinek vagy valóságosnak tűnő („deepfake”) kép-, hang- vagy videotartalmat hoznak létre vagy manipulálnak, hogy közöljék, a deepfake „tartalmat mesterségesen hozták létre vagy manipulálták”. Az MI-rendelet (134) preambulumbekezdése egyértelművé teszi, hogy azoknak az alkalmazóknak, akik MI-rendszereket használnak deepfake tartalom létrehozására vagy manipulálására, egyértelműen és megkülönböztethetően fel kell tüntetniük, hogy az ilyen tartalmat mesterségesen hozták létre vagy manipulálták, azáltal, hogy ennek megfelelően megcímkézik az MI kimenetét, és közzéteszik annak mesterséges eredetét. Az MI-rendelet 50. cikke (4) bekezdésének első albekezdésével összhangban alkalmazott címkézési vagy közlési módszereknek a természetes személyek által érthetőnek és észlelhetőnek kell lenniük (pl. látható vagy hallható címkékkel), anélkül, hogy bármilyen konkrét technikai eszközre kellene támaszkodniuk vagy célzott intézkedéseket kellene végrehajtaniuk. Ezért az alkalmazók nem támaszkodhatnak a szolgáltató által az MI-rendelet 50. cikkének (2) bekezdése alapján a tartalomba ágyazott, géppel olvasható jelölésre, mivel ezek a jelölések nem egyértelműek és megkülönböztethetők azonnal a deepfake tartalomnak kitett természetes személyek számára. |
|
118. |
Az MI-rendelet 50. cikkének (7) bekezdése fényében az e tájékoztatási kötelezettségnek való megfelelés bizonyítása céljából az alkalmazók betarthatják az MI-rendelet 50. cikkének (7) bekezdése alapján megfelelőnek értékelt gyakorlati kódexet. Az ilyen kódex betartásának hatásaival és a kódexet be nem tartó egyéb alkalmazók felügyeletével kapcsolatos további információkért lásd az alábbi 8.1. szakaszt. |
6.1.3. A művészeti, kreatív, szatirikus, fiktív vagy hasonló deepfake tartalmak átláthatósága
|
119. |
Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése enyhébb átláthatósági kötelezettséget ír elő a nyilvánvalóan művészeti, kreatív, szatirikus, fiktív vagy hasonló művek vagy programok részét képező deepfake-ekre vonatkozóan. Az ilyen tartalmak esetében az átláthatósági kötelezettség a deepfake megfelelő módon történő közlésére korlátozódik, amely nem akadályozza a mű megjelenítését vagy élvezetét. |
|
120. |
A tartalmak releváns kategóriái: Ahhoz, hogy kihasználhassa az átláthatósággal kapcsolatos enyhébb tájékoztatási kötelezettség előnyeit, a deepfake (kép, hang vagy videó) legalább az alábbi tartalomkategóriák egyikének a részét kell, hogy képezze: művészeti, kreatív, szatirikus, fiktív vagy hasonló művek vagy programok. Azt, hogy egy deepfake e kategóriák közül egybe vagy többe tartozik-e, az alkalmazónak eseti alapon kell értékelnie. Az MI-rendelet 50. cikke (4) bekezdésének alkalmazásában ezek alatt a kategóriák alatt a következők értendők:
|
|
121. |
A fenti tartalomkategóriák olyan program(ok)ra is vonatkozhatnak, amely(ek) egy médiaszolgáltató által létrehozott műsorrendben vagy katalógusban szereplő önálló elemként értendő(k), amely(ek) formájukat és tartalmukat tekintve összehasonlítható(k) a televíziós műsorszolgáltatással (33). A „művekre” való hivatkozás az MI-rendelet 50. cikkének (4) bekezdésével összefüggésben nincs hatással arra, hogy a tartalom jogosult-e a szerzői és szomszédos jogokra vonatkozó uniós jog szerinti védelemre. |
|
122. |
Nyilvánvalóan: Az a tény, hogy egy deepfake a fenti tartalomkategóriák egyikébe (vagy közülük többe) tartozik, nyilvánvaló kell, hogy legyen az annak kitett természetes személyek számára. Ez azt jelenti, hogy a kategóriákat szigorúan kell értelmezni, amit az indokol, hogy a véleménynyilvánítás szabadságára, valamint a művészet és a tudomány szabadságára gyakorolt lehetséges hatás miatt enyhébb közzétételi szabályok alkalmazandók rájuk, ám közben a félretájékoztatás, a manipuláció és a megtévesztés kockázatát továbbra is megfelelően kezelni kell. Ezért azok a tartalmak, amelyek jellege a közönség számára potenciálisan nem világos vagy nem egyértelmű, nem tartoznak ennek az enyhített átláthatósági rendszernek a hatálya alá. A művészeti, kreatív, szatirikus vagy fiktív tartalom nyilvánvaló jellegének értékelése szempontjából releváns tényezők a következők: i. a tartalom olyan formátumokat vagy stílusokat jelenít-e meg, amelyek a tartalomkategóriákra jellemzőek (pl. szatirikus művek esetében irónia vagy túlzás, bizonyos művészeti stílusok, jellegzetes témák, technikák vagy esztétika megjelenítése stb.), ii. a kontextus, amelyben a tartalmat bemutatják (pl. a tartalom megjelenítésének, rendelkezésre bocsátásának vagy terjesztésének platformja, médiuma vagy helye művészeti, kreatív, szatirikus vagy fiktív felhasználáshoz kapcsolódik), valamint iii. a közönség elvárásai (pl. film, játékkörnyezet vagy virtuális valóság jelenete). Ezenkívül az a feltétel, hogy a tartalomnak „nyilvánvalóan” a fenti tartalomkategóriák valamelyikébe kell tartoznia, kizárja a tartalmat e tartalomkategóriákból, ha az kizárólag tájékoztató vagy kereskedelmi jellegű, és ilyenként felismerhető (pl. híradás). E tekintetben néhány olyan tartalom, amely deepfake-eket tartalmaz (pl. hirdetések vagy dokumentumfilmek), bizonyos specifikus helyzetekben nyilvánvalóan kreatív vagy fiktív műnek tekinthető, más helyzetekben azonban nem, mivel ennek az értékelése esetspecifikus. Ha a deepfake több tulajdonságot is ötvöz (pl. informatív és kreatív), mindig az informatív jellegnek kell érvényesülnie, és a tartalomnak meg kell felelnie a standard címkézési követelményeknek. |
|
123. |
Megfelelő, a mű megjelenítését vagy élvezetét nem akadályozó közlés: A nyilvánvalóan művészeti, kreatív, szatirikus vagy fiktív művek vagy programok részét képező deepfake-ek nincsenek kizárva az MI-rendelet 50. cikke (4) bekezdésének első albekezdésében foglalt átláthatósági kötelezettség alól. Az alkalmazóknak ezek esetében is tájékoztatást kell nyújtaniuk arról, hogy a tartalom MI-eredetű vagy MI által manipulált, de ezt olyan, megfelelő módon tehetik meg, hogy az ne akadályozza a mű megjelenítését vagy élvezetét. Az MI-rendelet (134) preambulumbekezdése egyértelművé teszi, hogy az ilyen megfelelő módon történő felfedés nem akadályozhatja a rendes kiaknázást és használatot, miközben lehetővé teszi a mű hasznosságának és minőségének fenntartását is. Annak meghatározása, hogy az adatok felfedésére milyen intézkedések tekinthetők megfelelőnek, eseti értékeléssel történik, amelynek során az alkalmazók figyelembe vehetnek minden releváns tényezőt (beleértve a mű jellegét, a közönséget, a kontextust stb.). Az alkalmazóknak minden esetben meg kell felelniük az MI-rendelet 50. cikke (5) bekezdésének (lásd a 7. szakaszt). Az MI-rendelet 50. cikkének (7) bekezdése fényében az alkalmazók betarthatják az említett rendelkezés alapján megfelelőnek értékelt gyakorlati kódexet az e tájékoztatási kötelezettségnek való megfelelés bizonyítása céljából. Az ilyen kódex betartásának hatásaival és a kódexet be nem tartó egyéb alkalmazók felügyeletével kapcsolatos további információkért lásd az alábbi 8.1. szakaszt. |
|
124. |
A harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok: Az MI-rendelet (134) preambulumbekezdése egyértelművé teszi, hogy az enyhített átláthatósági kötelezettségnek való megfelelésre, valamint a művészeti, kreatív, szatirikus vagy fiktív deepfake-ek használatára csak „a harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok mellett” van lehetőség. Ezért az alkalmazóknak biztosítaniuk kell, hogy a deepfake-ek létrehozásakor vagy közzétételekor megfelelően védjék és tiszteletben tartsák a harmadik felek jogait és szabadságait (többek között például a személyes adatok védelméhez való jogukat vagy a szellemi tulajdonhoz fűződő jogukat), még akkor is, ha a deepfake művészeti, kreatív, szatirikus vagy fiktív jellegűnek tekintendő. Az enyhített átláthatósági kötelezettségre való hivatkozás nem lehet indok arra, hogy ne tartsák tiszteletben az egyéneknek vagy a jogosultaknak a szellemi tulajdonhoz fűződő uniós jog vagy az uniós adatvédelmi jog szerinti alapvető jogait (34).
|
6.1.4. A bűnüldözésre való felhasználásra vonatkozó kivétel
|
125. |
Ha a deepfake (pl. egy MI által létrehozott, soha meg sem történt eseményeket szimuláló videó) használatát törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából, az alkalmazók mentesülnek az MI-rendelet 50. cikke (4) bekezdésének első albekezdése szerinti átláthatósági kötelezettség alól. A fenti 46–48. pontban az MI-rendelet 50. cikkének (1) bekezdésében foglalt hasonló kivételre vonatkozóan nyújtott pontosítások e rendelkezés szempontjából is relevánsak. |
6.1.5. Kölcsönhatás más uniós jogi aktusokkal
|
126. |
Az MI-rendelet 50. cikke (4) bekezdésének első albekezdése szerinti átláthatósági kötelezettség kölcsönhatásban lesz az online óriásplatformot és nagyon népszerű online keresőprogramot üzemeltető szolgáltatóknak a digitális szolgáltatásokról szóló rendelet 34. és 35. cikke, különösen a digitális szolgáltatásokról szóló rendelet 35. cikke (1) bekezdésének k) pontja szerinti, a rendszerszintű kockázatok azonosítására és csökkentésére vonatkozó kötelezettségeivel (35). Ez utóbbi rendelkezés az online óriásplatformot és nagyon népszerű online keresőprogramot üzemeltető szolgáltatók által elfogadható lehetséges kockázatcsökkentési intézkedések között felsorol olyan intézkedéseket, amelyek biztosítják, hogy „valamely információ, amely olyan generált vagy manipulált kép, audio- vagy videotartalom lehet, amely számottevően hasonlít létező személyekre, tárgyakra, helyekre vagy más entitásokra vagy eseményekre, és az eredetiség vagy a hitelesség hamis látszatát kelti valaki számára, megjelenítésekor jól látható jelzések révén megkülönböztethető legyen online interfészeiken”. Emellett az online óriásplatformot és nagyon népszerű online keresőprogramot üzemeltető szolgáltatók egy könnyen használható funkciót is biztosíthatnak, amely lehetővé teszi a szolgáltatás igénybe vevői számára az ilyen információ megjelölését. Bár a digitális szolgáltatásokról szóló rendelet e rendelkezése hasonlónak tűnik az MI-rendelet 50. cikkének (4) bekezdéséhez, kiegészíti azt, és két fontos különbséget tartalmaz:
|
|
127. |
Ha a deepfake egy közvetlenül vagy közvetve azonosítható (élő) természetes személyre vonatkozó információkat tartalmaz, akkor az alkalmazóknak mint az uniós adatvédelmi jog szerinti adatkezelőknek az uniós adatvédelmi jog szerinti vonatkozó kötelezettségeknek is meg kell felelniük (37). Ez magában foglalja például a személyes adatok kezelése esetében az ahhoz szükséges, megfelelő jogalapra való hivatkozást, az ábrázolt érintettekre vonatkozó adatok kezelésével kapcsolatos információkat stb. |
|
128. |
A deepfake-eket létrehozó MI-rendszerek alkalmazóinak továbbá biztosítaniuk kell azt is, hogy megfeleljenek a szellemi tulajdonra vonatkozó releváns uniós jogszabályoknak (például az uniós védjegyjognak és a szerzői jogra vagy a szomszédos jogokra vonatkozó uniós jognak), amennyiben deepfake-jeik az említett jogszabályok által védett tartalmakat tartalmaznak. Ha egy deepfake-en elhelyeznek egy címkét vagy egy ikont, az önmagában még nincs hatással a tartalom szerzői jogi védelemre való jogosultságára, amelyet az alkalmazandó uniós szerzői joggal összhangban kell értékelni. |
|
129. |
Amennyiben létező személyeket ábrázolnak deepfake-ekben, az alkalmazóknak meg kell felelniük a személyes képekhez vagy hangokhoz kapcsolódó személyiségi jogokat védő vonatkozó jogi rendszereknek is. Az MI-rendelet 50. cikke (4) bekezdésének első albekezdésében foglalt átláthatósági kötelezettség nem jelenti azt, hogy az MI által generált vagy manipulált, az alkalmazandó uniós vagy nemzeti jog értelmében káros és jogellenes deepfake-eket (pl. megtévesztő reklámokat, vagy büntetőjog értelmében jogellenes anyagokat, például gyermekek szexuális bántalmazását ábrázoló anyagokat és beleegyezés nélküli intim képeket) lehet létrehozni és terjeszteni (lásd még a 4.4. szakaszt). |
6.2. Az MI-vel létrehozott vagy manipulált szöveggel kapcsolatos fő alkotóelemek, fogalmak és kapcsolódó átláthatósági kötelezettség(ek) az MI-rendelet 50. cikkének (4) bekezdése értelmében
|
130. |
Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése akkor alkalmazandó, ha több feltétel teljesül:
|
6.2.1. A nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szöveg
|
131. |
Az MI-rendelet 50. cikke (4) bekezdése második albekezdése hatályának pontosítása céljából az alábbiakban három elem vizsgálatára kerül sor: i. közzétett szöveg, ii. a nyilvánosság tájékoztatása céljából, iii. közérdekű ügyekről.
|
6.2.2. Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése szerinti tájékoztatási kötelezettség
|
132. |
Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése arra kötelezi a nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szöveget generáló vagy manipuláló MI-rendszerek alkalmazóit, hogy közöljék, hogy ezt a szöveget mesterségesen hozták létre vagy manipulálták. Az MI-rendelet (134) preambulumbekezdése egyértelművé teszi, hogy a deepfake-ekhez hasonlóan a rendelkezés hatálya alá tartozó szöveges kiadványok alkalmazóinak is egyértelműen és megkülönböztethetően fel kell tüntetniük, hogy az ilyen tartalmat mesterségesen hozták létre vagy manipulálták azáltal, hogy ennek megfelelően megcímkézik az MI kimenetét, és közzéteszik annak mesterséges eredetét. Ahogy a deepfake-ek esetében is kötelező, az MI-rendelet 50. cikke (4) bekezdésének második albekezdésével összhangban alkalmazott címkézési vagy közlési módszereknek (beleértve a jogi nyilatkozatokat is) a természetes személyek által egyértelműnek és észlelhetőnek kell lenniük (pl. látható vagy hallható eszközökkel), anélkül, hogy bármilyen konkrét technikai eszközre kellene támaszkodniuk vagy célzott intézkedéseket kellene végrehajtaniuk. Az MI-rendelet 50. cikkének (7) bekezdése fényében az alkalmazók betarthatják az említett rendelkezés alapján megfelelőnek értékelt gyakorlati kódexet az e tájékoztatási kötelezettségnek való megfelelés bizonyítása érdekében. További információkért az ilyen kódex betartásának hatásairól és az ilyen kódexet be nem tartó alkalmazók felügyeletéről lásd az alábbi 8.1. szakaszt. |
6.2.3. Kivétel az átláthatósági kötelezettség alól az emberi felülvizsgálaton vagy szerkesztői ellenőrzésen áteső, valamint szerkesztői felelősség alatt álló szövegek esetében
|
133. |
Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése kivételt ír elő az említett rendelkezésben meghatározott átláthatósági kötelezettség alól, amennyiben teljesül két kumulatív feltétel: i. az MI által létrehozott vagy manipulált szöveget emberi felülvizsgálatnak vagy szerkesztői ellenőrzésnek kell alávetni, és ii. egy jogi vagy természetes személynek szerkesztői felelősséget kell vállalnia a kiadványért. Adott esetben az alkalmazók támaszkodhatnak a vonatkozó alkalmazandó szakmai vagy etikai normákra az említett követelményeknek való megfelelés bizonyítása érdekében, az alábbiakban vázoltak szerint. |
i.
|
134. |
Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése alóli kivétel alkalmazásának első feltétele megköveteli, hogy az MI által létrehozott vagy manipulált szöveget emberi felülvizsgálatnak vagy szerkesztői ellenőrzésnek vessék alá. Az emberi felülvizsgálat a tartalom anyagának egy vagy több, a vizsgálat tárgyára vonatkozó releváns ismeretekkel és szakmai megítéléssel rendelkező természetes személy általi körültekintő vizsgálatát jelenti (pl. tudományos kollegiális lektorálás vagy szakmai hitelesítési láncok). A tartalom pontosságának tényellenőrzése minimumkövetelmény, amelynek e felülvizsgálat részét kell képeznie. A szerkesztői ellenőrzés azt jelenti, hogy egy felelős szerkesztői entitás (pl. főszerkesztő) a gyakorlatban ellenőrzést gyakorol a tartalom felett, és felhatalmazással rendelkezik arra, hogy érdemi indokok alapján jóváhagyja, módosítsa vagy elutasítsa a szöveg anyagát (beleértve az információk tényellenőrzését és a források megbízhatóságának biztosítását). Ez nem érinti a médiaszolgáltatókra alkalmazandó meglévő felülvizsgálati és szerkesztési eljárásokat, valamint szakmai normákat. |
|
135. |
A felületes, kizárólag formai vagy eljárási tényezőkre szorítkozó ellenőrzések (pl. helyesírás-ellenőrzés vagy nyelvtani helyesbítés), a szerkesztői irányvonal, az automatizált felülvizsgálati folyamatok vagy a felületes szerkesztői jóváhagyás puszta megléte az emberi felülvizsgáló vagy a szerkesztőség érdemi bevonása nélkül nem felelhet meg az emberi felülvizsgálat vagy a szerkesztői ellenőrzés feltételeinek e kivétel alkalmazásában. |
|
136. |
Amennyiben szerkesztői jóváhagyást követően használnak MI-rendszereket tartalmak módosítására, kiegészítésére vagy átfogalmazására, az így kapott tartalmat az MI-rendelet 50. cikke (4) bekezdésének alkalmazásában MI által létrehozott vagy manipulált tartalomnak kell tekinteni. Az emberi felülvizsgálatot vagy a szerkesztői ellenőrzési folyamatot követően bekövetkező lényeges MI-beavatkozás ezért a kivétel semmisségét eredményezi. |
|
137. |
Az MI-rendelet 50. cikkének (7) bekezdése fényében az alkalmazók betarthatnak egy, az említett rendelkezés alapján megfelelőnek értékelt gyakorlati kódexet annak bizonyítása érdekében, hogy megfelelnek az emberi felülvizsgálatra vagy szerkesztői ellenőrzésre vonatkozó, az említett rendelkezésben meghatározott feltételnek (különösen, ha ezeket olyan alkalmazók hajtják végre, amelyek nem a létező szerkesztői szakmai vagy etikai normák hatálya alá tartozó médiaszolgáltatók). Az ilyen kódex betartásának hatásaival és az ilyen kódexet be nem tartó alkalmazók felügyeletével kapcsolatos további információkért lásd az alábbi 8.1. szakaszt. |
|
ii. |
|
138. |
Az MI-rendelet 50. cikke (4) bekezdésének második albekezdése alóli kivétel alkalmazásának második feltétele előírja, hogy a tartalom közzétételéért valamely jogi vagy természetes személynek szerkesztői felelősséget kell vállalnia. Ez azt jelenti, hogy az említett személynek kell viselnie a végső jogi felelősséget a tartalom közzétételéért, beleértve az emberi felülvizsgálatot vagy a szerkesztői ellenőrzést is (pl. magánszemély, szerkesztőbizottság vagy kiadó). A nyilvános elszámoltathatóság és a bizalom biztosítása érdekében, valamint a meglévő médiaszakmai normákkal összhangban a jogi személy, a természetes személy vagy a szerkesztői felelősséggel járó szerep személyazonosságát és elérhetőségét könnyen megtalálható helyen nyilvánosan hozzáférhetővé kell tenni (ha még nem áll rendelkezésre). Ez történhet online, például a weboldal szerződési feltételein vagy más, a felhasználóknak szóló jogi információkon keresztül. Offline az ilyen információk a kiadvány kolofonjában vagy impresszumában szerepelhetnek.
|
6.2.4. A bűnüldözésre való felhasználásra vonatkozó kivétel
|
139. |
Ha az MI-rendszereknek a nyilvánosság közérdekű ügyekről való, emberi felülvizsgálat nélküli tájékoztatása céljából közzétett szöveg létrehozására való használatát (pl. a közösségi médiában közzétett, terrorfenyegetésre vonatkozó, MI által generált rendőrségi figyelmeztetést) törvény engedélyezi bűncselekmények felderítése, megelőzése, nyomozása vagy büntetőeljárás alá vonása céljából, az alkalmazók mentesülnek az MI-rendelet 50. cikkének (4) bekezdése szerinti átláthatósági kötelezettség alól. A fenti 46–48. pontban az MI-rendelet 50. cikkének (1) bekezdésében foglalt hasonló kivételre vonatkozóan nyújtott pontosítások e rendelkezés szempontjából is relevánsak. |
6.2.5. Kölcsönhatás más uniós jogi aktusokkal
|
140. |
Az uniós médiajog szempontjából a szerkesztői felelősség az (EU) 2024/1083 rendelet (a továbbiakban: a tömegtájékoztatás szabadságáról szóló európai rendelet) 2. cikkének 8. pontjában meghatározott kulcsfontosságú fogalom (39). Ebben a kontextusban a „szerkesztői felelősség” fogalmát úgy határozták meg, mint „a műsorszámoknak vagy a sajtókiadványok tartalmának a kiválasztása és az azok összeállítása során megvalósuló, médiaszolgáltatás nyújtása céljából történő tényleges ellenőrzés gyakorlása, függetlenül attól, hogy a nyújtott szolgáltatás tekintetében fennáll-e a nemzeti jog szerinti felelősség”. Bizonyos helyzetekben ez a fogalommeghatározás átfedésben lehet az MI-rendelet 50. cikke (4) bekezdésének második albekezdésében használt szerkesztői felelősségnek a fogalmával, különösen akkor, ha az MI-rendszer alkalmazói a tömegtájékoztatás szabadságáról szóló európai rendelet értelmében médiaszolgáltatónak is minősülnek. Az MI-rendelet 50. cikkének (4) bekezdése értelmében vett szerkesztői felelősséget ezért a médiával kapcsolatos meglévő vívmányokkal összhangban kell értelmezni, függetlenül attól, hogy az továbbra is különálló fogalom, amely tágabb összefüggésben és más alkalmazókra is alkalmazható, amennyiben szerkesztői felelősséget vállalnak a szöveg közzétételéért. A médiaszolgáltatók az MI-rendelet 50. cikke (4) bekezdésének második albekezdése szerinti kivétel igénybevételéhez támaszkodhatnak meglévő szerkesztői folyamataikra és normáikra. |
7. AZ MI-RENDELET 50. CIKKÉNEK (5) BEKEZDÉSE ALAPJÁN SZOLGÁLTATOTT INFORMÁCIÓKRA ALKALMAZANDÓ HORIZONTÁLIS KÖVETELMÉNYEK
|
141. |
Az MI-rendelet 50. cikke (5) bekezdésének megfelelően az MI-rendelet 50. cikkének (1)–(4) bekezdésével összhangban szolgáltatandó információkat legkésőbb az első interakció vagy kitettség alkalmával, egyértelmű és jól megkülönböztethető módon kell az érintett természetes személyek számára nyújtani. A tájékoztatásnak az alkalmazandó akadálymentesítési követelményeknek is meg kell felelnie. Ebben az összefüggésben az érintett természetes személyek közé az MI-rendszerrel közvetlen interakcióba lépő személyek (az MI-rendelet 50. cikkének (1) bekezdése), az aktív vagy passzív felhasználók és az MI által létrehozott vagy manipulált szintetikus tartalomnak kitett egyéb személyek tartoznak (az MI-rendszerrel való közvetlen interakcióval vagy anélkül [az MI-rendelet 50. cikkének (2) és (4) bekezdése]), valamint azok a személyek, akiken érzelemfelismerő vagy biometrikus kategorizálási rendszereket használnak (az MI-rendelet 50. cikkének (3) bekezdése). |
7.1. Egyértelmű és jól megkülönböztethető módon nyújtott tájékoztatás
|
142. |
A tájékoztatás akkor tekintendő egyértelműnek, ha az észrevehető, könnyen érthető és hozzáférhető az érintett természetes személy számára (beleértve a fogyatékossággal élő személyeket is). A tájékoztatás akkor tekintendő jól megkülönböztethető módon nyújtottnak, ha könnyen azonosítható, mivel elkülönül más információktól és attól a környezettől, amelyben a tartalmat megjelenítik. A közönség számára is könnyen érthetőnek kell lennie, többek között bizonyos csoportok, például a gyermekek vagy a fogyatékossággal élő személyek számára is, amennyiben előreláthatóan a tartalomnak kitett vagy a rendszerrel interakcióban álló közönség részét képezik (40). Az egyértelmű és jól megkülönböztethető módon történő tájékoztatás érdekében a releváns információk bemutathatók többek között az interakció részeként (az MI-rendelet 50. cikkének (1) bekezdése alapján) vagy a releváns tartalom részeként (az MI-rendelet 50. cikkének (2) és (4) bekezdése alapján). Nem tekinthető úgy, hogy a tájékoztatás egyértelmű és jól megkülönböztethető módon van nyújtva, ha azt a természetes személyek a szokványos kitettség vagy interakció körülményei között könnyen figyelmen kívül hagyhatják vagy lemaradhatnak róla (pl. csak egy kézikönyv részeként jelenítik meg vagy egy online interfész menüopcióinak a rétegeibe van rejtve, a felhasználási feltételek olyan részeiben található, amelyeket a felhasználók gyakran nem olvasnak el). |
7.2. Első interakció vagy kitettség
|
143. |
Az MI-rendelet 50. cikkének (5) bekezdése előírja, hogy a tájékoztatást legkésőbb az első interakció vagy kitettség alkalmával kell az érintett természetes személyek számára nyújtani. Az első interakció vagy kitettség nemcsak az MI-rendszerrel interakcióba lépő vagy annak (a kimenetének) kitett első természetes személyre vonatkozik, hanem bármely más természetes személynek az MI-rendszernek (a kimenetének) való, utána következő első interakciójára vagy kitettségére is. Ami az MI-rendszerrel való első interakciót illeti, az információkat legalább egyszer, az interaktív munkamenet kezdetén rendelkezésre kell bocsátani, figyelembe véve a fenti 36. és 40. pontban említett sajátos körülményeket. Az MI-rendelet 50. cikke (2) és (4) bekezdésének hatálya alá tartozó, MI által létrehozott vagy manipulált tartalom tekintetében a tájékoztatási kötelezettség az MI-rendszer minden egyes kimenetére vonatkozik a tartalomnak kitett bármely természetes személy tekintetében. Olyan időpontként kell értelmezni, amikor észszerűen valószínűsíthető, hogy egy természetes személy ki van téve az MI-rendszer kimenetének, és észleli a tájékoztatást, figyelembe véve a tájékoztatás sajátosságait a nyilvánvalóan kreatív, művészeti és egyéb művek esetében (lásd a 6.1.3. szakaszt). Ezen túlmenően az alkalmazók az első tényleges interakciót vagy kitettséget megelőzően is tájékoztathatják a természetes személyeket (pl. a deepfake-eket szerepeltető tartalmak elején). Ha azonban észszerűen előrelátható, hogy a személyek nem biztos, hogy észlelni fogják a tartalmat annak az elejétől fogva, akkor a csupán a tartalom elején történő tájékoztatás nem nyújt megfelelő tájékoztatást ezeknek a személyeknek, és azt lehetőség szerint ki kell egészíteni későbbi időpontokban történő tájékoztatással. Ez adott esetben végrehajtható, figyelembe véve az átláthatósági kötelezettségek azon célkitűzését, hogy hatékony információszolgáltatást és érdemi tudatosságot biztosítsanak a felhasználóknak az egyre immerzívebb és realisztikusabb MI-környezetekben, ahol a felhasználók egyre nehezebben tudják megkülönböztetni a tartalom és az interakció eredetét és valóságosságát.
|
7.3. Az alkalmazandó akadálymentességi követelményeknek való megfelelés
|
144. |
Az MI-rendelet 50. cikkének (1)–(4) bekezdésében felsorolt különböző átláthatósági kötelezettségek hatálya alá tartozó MI-rendszerek szolgáltatóinak és alkalmazóinak ismerniük kell az alkalmazandó akadálymentességi követelményeket (pl. az (EU) 2016/2102 irányelv (41) és az (EU) 2019/882 irányelv alapján (42)), és értékelniük kell, hogy terméküknek, szolgáltatásuknak vagy tartalmuknak meg kell-e felelnie ezeknek a szabályoknak. Ilyen esetben biztosítaniuk kell az MI-rendelet 50. cikkével összhangban nyújtott tájékoztatás akadálymentességét az alkalmazandó akadálymentességi követelményekkel összhangban. Az MI-rendelet 50. cikke nem ír elő különálló vagy további akadálymentességi követelményeket. |
8. AZ MI-RENDELET 50. CIKKÉNEK VÉGREHAJTÁSA
|
145. |
E szakasz célja a következők tisztázása: i. a gyakorlati kódex betartásának hatásai az MI által létrehozott tartalomra vonatkozó átláthatósági kötelezettségeknek való megfelelés tekintetében, ii. az illetékes felügyeleti hatóságok szerepe az MI-rendelet 50. cikkének végrehajtásában, iii. az említett kötelezettségek megsértése esetén alkalmazandó szankciók, valamint iv. az MI-rendelet 50. cikkében foglalt kötelezettségek alkalmazásának kezdőnapja. |
8.1. A megfelelőnek értékelt gyakorlati kódex betartásának hatásai
|
146. |
Az MI-rendelet 50. cikke (2) és (4) bekezdésének hatálya alá tartozó MI-rendszerek szolgáltatói és alkalmazói az MI-rendelet 50. cikkének (7) bekezdése alapján megfelelőnek értékelt gyakorlati kódex betartásával bizonyíthatják az említett rendelkezések szerinti, MI által létrehozott tartalomra vonatkozó átláthatósági kötelezettségeiknek való megfelelést (43). Egy ilyen kódex nem helyettesíti az MI-rendeletet vagy ezt az iránymutatást. Kiegészíti ezeket azáltal, hogy az egyetlen, uniós szinten elismert gyakorlati keretet biztosít a generatív MI-rendszerek szolgáltatói és alkalmazói számára az említett kötelezettségeknek való megfelelés bizonyításához, függetlenül letelepedési helyüktől, működésük helyétől és az illetékes piacfelügyeleti hatóságoktól. |
|
147. |
Bár a szolgáltatók és az alkalmazók megfelelő alternatív eszközökkel is bizonyíthatják az említett kötelezettségeknek való megfelelést, a megfelelőnek ítélt gyakorlati kódex betartása egyértelmű, kiszámítható és jogilag biztos módja a megfelelés bizonyításának. Az MI-rendelet 50. cikkének (7) bekezdése (44) alapján megfelelőnek értékelt gyakorlati kódex aláírói esetében a Bizottság és az illetékes piacfelügyeleti hatóságok felügyeleti tevékenységeiket annak értékelésére összpontosítják, hogy az említett aláírók betartották-e a gyakorlati kódexet, és végrehajtották-e az abban foglalt intézkedéseket. Mivel a kódexet betartó szolgáltatók és alkalmazók átláthatóak lesznek az MI-rendelet 50. cikke (2), (4) és (5) bekezdésének való megfelelés érdekében végrehajtott intézkedéseket illetően, a Bizottság, a többi illetékes piacfelügyeleti hatóság és más érdekelt felek (beleértve a nagyközönséget is) fokozott bizalmát fogják élvezni. Ha a megfelelőnek ítélt gyakorlati kódex aláírói kívül maradnak bármely szekcióból, az azt eredményezi, hogy ezek a szolgáltatók és alkalmazók elveszítik az e tekintetben való megfelelés bizonyításának megkönnyítéséből származó előnyöket. |
|
148. |
Azoknak a szolgáltatóknak és alkalmazóknak, amelyek nem aláíró felei az MI-rendelet 50. cikkének (7) bekezdése alapján megfelelőnek ítélt gyakorlati kódexnek, más megfelelő eszközökkel kell bizonyítaniuk, hogy hogyan teljesítették az MI-rendelet 50. cikkének (2), (4) és (5) bekezdése szerinti kötelezettségeiket. Az ilyen szolgáltatóknak és alkalmazóknak továbbá ki kell fejteniük, hogy az általuk végrehajtott intézkedések hogyan biztosítják az MI-rendelet szerinti kötelezettségeik teljesítését. Hiányelemzést kell például végezniük, amely összehasonlítja az általuk végrehajtott intézkedéseket a megfelelőnek értékelt gyakorlati kódexben meghatározott intézkedésekkel. Mivel az illetékes hatóságok (beleértve az MI-hivatalt is) kevésbé fogják tudni, hogy a gyakorlati kódexet alá nem író szolgáltatók és alkalmazók hogyan biztosítják az MI-rendelet 50. cikkének (2), (4) és (5) bekezdése szerinti kötelezettségeik teljesítését, valószínűleg részletesebb információkra lesz szükségük a megfelelés nyomon követése során. Előfordulhat például, hogy a gyakorlati kódexet be nem tartó szolgáltatók felé például nagyobb számú tájékoztatási kérelmet és hozzáférés iránti kérelmet nyújtanak be az MI-rendelet 50. cikke (2) bekezdésének való megfelelés érdekében bevezetett műszaki megoldások hatékonyságának, interoperabilitásának, robusztusságának és megbízhatóságának értékelése céljából. Az alkalmazók is kaphatnak ilyen kérelmeket az MI-rendelet 50. cikkének (4) bekezdése szerinti címkézési gyakorlataik tekintetében. |
|
149. |
Az illetékes hatóságok a konkrét körülményektől függően enyhítő körülményként figyelembe vehetik a megfelelőnek ítélt gyakorlati kódexszel összhangban végrehajtott kötelezettségvállalásokat a pénzbírságok összegének meghatározásakor (45). |
|
150. |
Amennyiben egy gyakorlati kódexet az MI-rendelet 50. cikkének (7) bekezdése értelmében nem ítélnek megfelelőnek, a Bizottság végrehajtási jogi aktust fogadhat el, amelyben az MI-rendelet 50. cikkének (2), (4) és (5) bekezdésében foglalt kötelezettségek végrehajtására vonatkozó közös szabályokat határozhat meg, amelyek az említett rendelkezések hatálya alá tartozó MI-rendszerek valamennyi érintett szolgáltatójára és alkalmazójára alkalmazandók lennének (46). |
8.2. Piacfelügyeleti hatóságok
|
151. |
A tagállamok által kijelölt piacfelügyeleti hatóságok, az MI-hivatal (47) és az európai adatvédelmi biztos (48) felelősek a hatáskörükbe tartozó, MI-rendszerekre vonatkozó szabályok, többek között az MI-rendelet 50. cikkében meghatározott átláthatósági kötelezettségek felügyeletéért és végrehajtásáért. Erre a végrehajtásra az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és a termékmegfelelőségi rendszeren belül, az MI-rendelettel összhangban kerül sor. A piacfelügyeleti hatóságok MI-rendszerekkel kapcsolatos végrehajtási hatásköreit ezek a rendeletek határozzák meg. Ezek a hatóságok az MI-rendelet 50. cikkében felsorolt kötelezettségekkel kapcsolatos végrehajtási intézkedéseket hozhatnak saját kezdeményezésükre vagy olyan panasz alapján, amelyet minden érintett személy vagy más olyan természetes vagy jogi személy, akinek oka van feltételezni, hogy a tilalmakat megsértették, jogosult benyújtani (49). A piacfelügyeleti hatóságoknak az MI-rendelet szerinti felelősségi körei nem érintik más felügyeleti hatóságoknak vagy alapjogi hatóságoknak a saját jogi keretük szerinti hatásköreit és feladatait olyan helyzetekben, amikor mind az MI-rendelet 50. cikke, mind az említett keret alkalmazandó (pl. adatvédelem, fogyasztóvédelem). |
8.3. Szankciók
|
152. |
Azok a szolgáltatók és alkalmazók, akik nem felelnek meg az MI-rendelet 50. cikkében lefektetett, alkalmazandó átláthatósági kötelezettségeknek, legfeljebb 15 000 000 EUR összegű, vagy ha az elkövető vállalkozás, az előző pénzügyi év teljes globális éves árbevételének legfeljebb 3 %-át kitevő összegű pénzbírsággal sújtandók, a kettő közül a magasabb összegűt figyelembe véve. Az átláthatósági kötelezettségeket megsértő uniós intézményekre, szervekre és ügynökségekre legfeljebb 750 000 EUR összegű közigazgatási bírság szabható ki. A kis- és középvállalkozások (kkv-k), köztük az induló innovatív vállalkozások esetében az egyes bírságok a fenti százalékok vagy összegek közül az alacsonyabb összegig terjedhetnek. A bírságoknak hatékonynak, arányosnak és visszatartó erejűeknek kell lenniük, és figyelembe kell venni esetükben a kkv-k és a kis méretű, közepes piaci tőkeértékű vállalatok – köztük az induló innovatív vállalkozások – érdekeit, valamint gazdasági életképességüket. Annak eldöntésekor, hogy kiszabjanak-e közigazgatási bírságot, valamint a közigazgatási bírság összegének meghatározásakor az illetékes hatóságoknak minden egyes esetben értékelniük kell az adott helyzet valamennyi releváns körülményét, és adott esetben a jogsértés súlyosságát befolyásoló tényezők széles körét (pl. a jogsértés és következményeinek jellegét, súlyosságát és időtartamát, hogy jellege szerint gondatlan vagy szándékos, egyéb súlyosbító vagy enyhítő körülményeket, a piacfelügyeleti hatóságokkal való együttműködés mértékét stb.). |
8.4. Hatálybalépés
|
153. |
A mesterséges intelligenciáról szóló rendelet 113. cikke szerint az MI-rendelet 50. cikke 2026. augusztus 2-ától alkalmazandó. Ehhez valamennyi, az Unióban forgalomba hozott vagy üzembe helyezett, a rendelkezés hatálya alá tartozó MI-rendszernek meg kell felelnie az említett időpontban az említett rendelkezésnek, függetlenül a forgalomba hozataluk vagy üzembe helyezésük időpontjától (50). Az uniós jogalkotó által a közelmúltban elfogadott, a mesterséges intelligenciáról szóló rendeletet módosító rendelet (a mesterséges intelligenciáról szóló omnibusz csomag) csak a 2026. augusztus 2. előtt forgalomba hozott vagy üzembe helyezett generatív MI-rendszerekre vonatkozó, az MI-rendelet 50. cikkének (2) bekezdése szerinti jelölési és észlelésre szolgáló kötelezettségek tekintetében irányoz elő célzott szerzett jogi szabályt. Átmeneti időszakot biztosít az említett meglévő rendszerek szolgáltatói számára ahhoz, hogy 2026. december 2-ig összhangba hozzák rendszereiket a követelményekkel. A részben interaktív és részben generatív rendszerek csak az MI-rendelet 50. cikkének (2) bekezdése szerinti jelölési kötelezettség tekintetében részesülhetnek ebben az átmeneti időszakban, míg a természetes személyekkel közvetlenül interakcióba lépő MI-rendszerek esetében 2026. augusztus 2-tól biztosítani kell a tájékoztatási kötelezettségnek való megfelelést. |
|
154. |
Az MI-rendelet 50. cikke (2) bekezdésének hatálya alá tartozó olyan, MI által létrehozott vagy manipulált kimeneteket, valamint az MI-rendelet 50. cikke (4) bekezdése első albekezdésének hatálya alá tartozó olyan deepfake-eket, amelyeket 2026. augusztus 2. előtt hoztak létre vagy manipuláltak, nem kell visszamenőlegesen megjelölni vagy címkézni. Ugyanez vonatkozik az MI-rendelet 50. cikke (4) bekezdése második albekezdésének hatálya alá tartozó, közérdekű ügyekkel kapcsolatos, 2026. augusztus 2. előtt létrehozott vagy manipulált, valamint közzétett szövegekre is. Ezzel szemben, ha a 2026. augusztus 2. előtt létrehozott vagy manipulált szövegeket az említett időpontban vagy azt követően teszik közzé, azokat címkével kell ellátni. Tekintettel az MI-rendelet által követett, az átláthatóságra, valamint az információs ökoszisztéma iránti fokozott bizalomra és annak nagyobb integritására vonatkozó célkitűzésre, az MI-rendszerek alkalmazóit és a már meglévő, nem címkézett deepfake-eket birtokló vagy terjesztő egyéb szereplőket mindazonáltal arra ösztönzik, hogy ezt tegyék meg, anélkül, hogy e célból aránytalan erőfeszítéseket kellene tenniük (például a már meglévő tartalomadatbázisok ellenőrzése vagy a már kinyomtatott termékcsomagolás módosítása). |
9. AZ IRÁNYMUTATÁS FELÜLVIZSGÁLATA ÉS AKTUALIZÁLÁSA
|
155. |
Ez az iránymutatás a mesterséges intelligenciáról szóló rendelet 50. cikkében meghatározott átláthatósági kötelezettségek első értelmezésének minősül, amely gyakorlati példákat tartalmaz. A Bizottság felülvizsgálja ezen iránymutatást, amint ez az átláthatósági kötelezettségek végrehajtása során szerzett gyakorlati tapasztalatok, valamint az e területen bekövetkező technológiai, társadalmi és szabályozási fejlemények ütemére tekintettel szükségessé válik. Ebbe beletartoznak a piacfelügyeleti végrehajtási intézkedésekkel kapcsolatos releváns tapasztalatok és az MI-rendelet 50. cikkével kapcsolatban az EUB által adott értelmezések is. A felülvizsgálat során a Bizottság dönthet úgy, hogy visszavonja vagy módosítja ezen iránymutatást. A Bizottság arra ösztönzi az MI-rendszerek szolgáltatóit és alkalmazóit, a Mesterséges Intelligenciával Foglalkozó Európai Testületen keresztül a nemzeti piacfelügyeleti hatóságokat, az MI-vel foglalkozó tanácsadó fórumot, a kutatói közösséget és a civil társadalmi szervezeteket, hogy a jövőbeli nyilvános konzultációs felhívásokra reagálva járuljanak hozzá ehhez a folyamathoz. |
(1) Az Európai Parlament és a Tanács (EU) 2024/1689 rendelete (2024. június 13.) a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról (a mesterséges intelligenciáról szóló rendelet) (HL L, 2024/1689, 2024.7.12., ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
(2) Az MI-rendelet 1. cikke.
(3) Az MI-rendelet 2. cikke (1) bekezdésének a) pontja, valamint a 3. cikkének a 3., 9. és 11. pontja. A forgalomba hozatal, az üzembe helyezés és a használat fogalmával kapcsolatos további iránymutatásért lásd a tiltott mesterségesintelligencia-gyakorlatokról szóló bizottsági iránymutatást (C(2025) 5052), valamint a termékekre vonatkozó uniós szabályozásról szóló 2022. évi útmutató (A kék útmutató) című bizottsági közlemény 2. szakaszát (HL C 247, 2022.6.29, 1. o.).
(4) Az MI-rendelet 2. cikke (1) bekezdésének c) pontja és a (22) preambulumbekezdése.
(5) Az MI-rendelet 3. cikkének (4) bekezdése.
(6) Az MI-rendelet 2. cikke (1) bekezdésének b) és c) pontja.
(7) Az Európai Parlament és a Tanács (EU) 2022/2065 rendelete (2022. október 19.) a digitális szolgáltatások egységes piacáról (HL L 277., 2022.10.27., 1. o.).
(8) Lásd az (EU) 2024/1689 rendeletben (a mesterséges intelligenciáról szóló rendelet) meghatározott, tiltott mesterségesintelligencia-gyakorlatokról szóló bizottsági iránymutatás 2.5. szakaszát, Brüsszel, 2025.7.29., C(2025) 5052 final.
(9) Az alkalmazó fogalommeghatározása is kizárja az ilyen tevékenységet folytató felhasználókat (lásd a fenti 2.3. szakaszt).
(10) Az MI-rendelet (25) preambulumbekezdése.
(11) Az MI-rendelet (102) preambulumbekezdése szerint a szoftverek és adatok szabad és nyílt forráskódú licenc alapján történő kibocsátása „a nyílt megosztást, és a felhasználók általi szabad hozzáférést, használatot, módosítást és terjesztést mind eredeti, mind módosított formában lehetővé” teszi.
(12) Az MI-rendelet 5. cikkével kapcsolatos további információkért lásd az (EU) 2024/1689 rendeletben (a mesterséges intelligenciáról szóló rendelet) meghatározott, tiltott mesterségesintelligencia-gyakorlatokról szóló bizottsági iránymutatást, C(2025) 5052 final.
(13) Lásd az MI-rendelet 6. cikkét.
(14) Az MI-rendelet 26. cikkének (11) bekezdése a döntéseket hozó vagy döntések meghozatalát segítő, nagy kockázatú MI-rendszerek alkalmazói számára olyan átláthatósági kötelezettséget ír elő, amelynek értelmében a természetes személyeket tájékoztatni kell arról, hogy nagy kockázatú MI-rendszer használatára kerül sor. Ezek az átláthatósági kötelezettségek kiegészítik az MI-rendelet 50. cikkében foglaltakat, mivel eltérő információkra vonatkoznak, amelyeket a természetes személyek rendelkezésére kell bocsátani, ezek azonban összevonhatók egyetlen értesítésben.
(15) Az MI-rendelet 3. cikkének 66. pontja értelmében az általános célú MI-rendszer általános célú MI-modellen alapuló MI-rendszer, amely – mind közvetlen felhasználás, mind más MI-rendszerekbe való integráció céljából – többféle célt képes szolgálni.
(16) Az MI-rendelet 50. cikkének (2) bekezdése kifejezetten hivatkozik az általános célú MI-rendszerekre.
(17) Az MI-rendelet (133) preambulumbekezdése.
(18) Lásd az MI-rendelet 3. cikkének (1) bekezdését. Az MI-rendszer fogalmával kapcsolatos további iránymutatásért lásd: A Bizottság iránymutatása a mesterségesintelligencia-rendszerek fogalommeghatározásáról, 2025.7.29., C(2025) 5053 final.
(19) Lásd az MI-rendelet (132) preambulumbekezdését. Ehhez nem szükséges, hogy a rendszer ezekre a kiszolgáltatott csoportokra irányuljon. Ha egy rendszert arra szántak, hogy a nyilvánosság bármely tagjával interakcióba lépjen, abba a kiszolgáltatott csoportok tagjai is beletartoznak, és a szolgáltatóknak figyelembe kell venniük őket az értesítési intézkedések végrehajtása során.
(20) Az alkalmazandó akadálymentességi követelményeket lásd a 7.3. szakaszban.
(21) A 910/2014/EU rendelet alapján létrehozott és az ugyanazon rendelet alapján létrehozott európai digitális személyiadat-tárcákban rendelkezésre bocsátott elektronikus attribútumtanúsítványok, valamint a javasolt európai üzleti tárcák például biztonságos és hatékony eszközt biztosíthatnak az MI-ügynökök azonosításához. A tárcákban olyan elektronikus tanúsítványokat lehet tárolni és kezelni, amelyek ellenőrzik az MI-ügynök személyazonosságát, attribútumait és engedélyeit, ezáltal pedig zökkenőmentes és megbízható tájékoztatást tesznek lehetővé a természetes személyek számára.
(22) Ez az MI-rendelet 50. cikkének (2)–(4) bekezdésében előírt, a bűnüldözési tevékenységek javát szolgáló hasonló kivételekre is vonatkozik.
(23) Az Európai Parlament és a Tanács 2005/29/EK irányelve (2005. május 11.) a belső piacon az üzleti vállalkozások fogyasztókkal szemben folytatott tisztességtelen kereskedelmi gyakorlatairól (HL L 149., 2005.6.11., 2. o.).
(24) Az Európai Parlament és a Tanács 2011/83/EU irányelve (2011. október 25.) a fogyasztók jogairól (HL L 304., 2011.11.22., 64. o.).
(25) Az Európai Parlament és a Tanács 2012/13/EU irányelve (2012. május 22.) a büntetőeljárás során a tájékoztatáshoz való jogról (HL L 142., 2012.6.1., 1. o.). Az Európai Parlament és a Tanács 2012/29/EU irányelve (2012. október 25.) a bűncselekmények áldozatainak jogaira, támogatására és védelmére vonatkozó minimumszabályok megállapításáról (HL L 315., 2012.11.14., 57. o.).
(26) Az MI-rendelet 3. cikkének (1) bekezdésében található meghatározás szerint.
(27) Az MI-rendelet (133) preambulumbekezdése tisztázza, hogy helyénvaló előírni az említett rendszerek szolgáltatói számára, hogy olyan műszaki megoldásokat építsenek be, amelyek lehetővé teszik a géppel olvasható formátumban történő jelölést és annak észlelését, hogy a kimenetet nem ember, hanem MI-rendszer hozta létre vagy manipulálta. Az MI-rendelet (135) preambulumbekezdése utal az észlelésre vonatkozó kötelezettségre.
(28) Lásd a Bizottság C(2025) 3871 final végrehajtási határozatának II. mellékletét az (EU) 2024/1689 európai parlamenti és tanácsi rendelet és a C(2023) 3215 final végrehajtási határozat hatályon kívül helyezésének támogatása érdekében a nagy kockázatú MI-rendszer tekintetében az Európai Szabványügyi Bizottsághoz és az Európai Elektrotechnikai Szabványügyi Bizottsághoz intézett szabványosítási kérelemről.
(29) Lásd még az MI-rendelet (11) preambulumbekezdését.
(30) Lásd még az MI-rendelet (137) preambulumbekezdését.
(31) Az MI-rendelet (136) preambulumbekezdése.
(32) Ezért ezt a kritériumot a belső piacon az üzleti vállalkozások fogyasztókkal szemben folytatott tisztességtelen kereskedelmi gyakorlatairól szóló 2005/29/EK irányelvben (a tisztességtelen kereskedelmi gyakorlatokról szóló irányelv) említett megtévesztés fogalmától függetlenül és attól elkülönülten kell értelmezni, https://eur-lex.europa.eu/eli/dir/2005/29/oj/hun.
(33) Lásd hasonlóképpen az audiovizuális médiaszolgáltatásokról szóló irányelv 1. cikkének b) pontját.
(34) Ugyanez vonatkozik a nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szövegekre is.
(35) Az MI-rendelet 50. cikke és a digitális szolgáltatásokról szóló rendelet közötti kölcsönhatással kapcsolatos további információkért lásd még a 4.4. szakaszt.
(36) A digitális szolgáltatásokról szóló rendelet (2) preambulumbekezdése.
(37) Részletesebb pontosításért lásd a Bizottság és az Európai Adatvédelmi Testület közös iránymutatását a mesterséges intelligenciáról szóló rendelet és az uniós adatvédelmi jog közötti kölcsönhatásról (előkészületben).
(38) Lásd analógia útján: Mediakabel, C-89/04, ECLI:EU:C:2005:348, 33. pont; Lagardère, C-192/04, ECLI:EU:C:2005:475, 31. pont; SGAE, C-306/05, ECLI:EU:C:2006:764, 37–40. pont; Stichting Brein, C-527/15, ECLI:EU:C:2017:300, 43–44. pont, valamint az ott hivatkozott ítélkezési gyakorlat; GEMA, C-135/23, ECLI:EU:C:2024:526, 38. pont, valamint az ott hivatkozott ítélkezési gyakorlat.
(39) Az Európai Parlament és a Tanács (EU) 2024/1083 rendelete (2024. április 11.) a belső piaci médiaszolgáltatások közös keretének létrehozásáról és a 2010/13/EU irányelv módosításáról (a tömegtájékoztatás szabadságáról szóló európai rendelet) (HL L, 2024/1083, 2024.4.17., ELI: http://data.europa.eu/eli/reg/2024/1083/oj).
(40) Amennyiben a gyermekek a tartalom célközönségének a részét képezik, az értesítések tekintetében előírás, hogy: i. gyermekbarátak, az életkornak megfelelőek, könnyen érthetőek és könnyen hozzáférhetőek legyenek valamennyi gyermek számára, beleértve a fogyatékossággal élő és/vagy további akadálymentességi igényekkel rendelkezőket is, ii. egyértelmű, könnyen érthető, a lehető legegyszerűbb és legtömörebb módon kerüljenek bemutatásra, iii. olyan módon kerüljenek bemutatásra, hogy könnyen áttekinthetőek legyenek, és azonnali, intuitív hozzáférést biztosítsanak azokon a pontokon, amikor azok relevánssá válnak, iv. a szolgáltatásnyújtás helye szerinti tagállam hivatalos nyelvén (nyelvein) kerüljenek bemutatásra, v. ragadják meg a gyermekek figyelmét. Ehhez grafikákat, videókat és/vagy karaktereket vagy egyéb technikákat is lehet használni, vi. fokozatosan és időben elnyújtva kerüljenek átadásra a gyermekeknek, hogy a felhasználók minél nagyobb mértékben megjegyezzék őket.
(41) Az Európai Parlament és a Tanács (EU) 2016/2102 irányelve (2016. október 26.) a közszférabeli szervezetek honlapjainak és mobilalkalmazásainak akadálymentesítéséről (EGT-vonatkozású szöveg) (HL L 327., 2016.12.2., 1. o.).
(42) Az Európai Parlament és a Tanács (EU) 2019/882 irányelve (2019. április 17.) a termékekre és a szolgáltatásokra vonatkozó akadálymentességi követelményekről (EGT-vonatkozású szöveg), PE/81/2018/REV/1 (HL L 151., 2019.6.7., 70. o.).
(43) Lásd a releváns információkat itt: Az MI által létrehozott tartalmak átláthatóságára vonatkozó gyakorlati kódex | Európa digitális jövőjének megtervezése (közzététel: 2026. június 10.).
(44) Lásd: A Bizottság véleménye az MI által létrehozott tartalmak átláthatóságára vonatkozó gyakorlati kódex értékeléséről | Európa digitális jövőjének megtervezése.
(45) A mesterséges intelligenciáról szóló rendelet 99. cikke (7) bekezdésének e) pontja.
(46) Az MI-rendelet 50. cikkének (7) bekezdése.
(47) Mint az ugyanazon szolgáltató által biztosított általános célú MI-modellekre épülő MI-rendszerek piacfelügyeleti hatósága (az MI-rendelet 75. cikkének (1) bekezdése). Ez kiterjed az MI-rendelet 50. cikkének (1) és (2) bekezdése alapján a szolgáltatókra alkalmazandó kötelezettségre. Az MI-rendelet 50. cikkének (3) és (4) bekezdése tekintetében az MI-hivatal csak akkor lesz illetékes, ha az adott általános célú MI-modellnek és a rendszernek a szolgáltatója a rendszer alkalmazója is egyben.
(48) Mint az Unió intézményeinek, ügynökségeinek és szerveinek piacfelügyeleti hatósága.
(49) Az MI-rendelet 85. cikke.
(50) Az MI-rendelet 111. cikkének (2) bekezdésében foglalt különleges szerzett jogi szabály azokra a nagy kockázatú MI-rendszerekre vonatkozik, amelyeket a nagy kockázatú MI-rendszerekre vonatkozó szabályok alkalmazásának kezdőnapja előtt hoztak forgalomba, csak az említett rendszereknek a nagy kockázatú rendszerekre vonatkozó követelményeknek és kötelezettségeknek való megfelelése tekintetében. Ha a nagy kockázatú MI-rendszerre az MI-rendelet 50. cikke szerinti egy vagy több átláthatósági kötelezettség is vonatkozik, ez a különös szerzett jogi szabály nem alkalmazandó, mivel a nagy kockázatra és az 50. cikk szerinti átláthatóságra vonatkozó különböző kötelezettségek alkalmazása kumulatív, és a szerzett jogi rendelkezések csak a nagy kockázatra vonatkozó rendelkezéseknek való megfelelés tekintetében indokoltak és csak ezekre korlátozódnak.
ELI: http://data.europa.eu/eli/C/2026/6005/oj
ISSN 1977-0979 (electronic edition)