European flag

Официален вестник
на Европейския съюз

BG

Cерия C


C/2026/6005

12.11.2026

СЪОБЩЕНИЕ НА КОМИСИЯТА

Насоки относно изпълнението на задълженията за прозрачност за някои системи с ИИ съгласно член 50 от Регламент (ЕС) 2024/1689 („Акт за изкуствения интелект“)

(C/2026/6005)

Съдържание

1.

КОНТЕКСТ И ЦЕЛИ 3

2.

ПРЕГЛЕД НА ЗАДЪЛЖЕНИЯТА ЗА ПРОЗРАЧНОСТ И ХОРИЗОНТАЛНИТЕ ТЕМИ 3

2.1.

Преглед на задълженията за прозрачност по член 50 от Акта за ИИ 3

2.2.

Обосновка и цели 4

2.3.

Отговорни участници съгласно член 50 от Акта за ИИ 5

2.4.

Изключения от обхвата на Акта за ИИ 7

2.4.1.

Внедрители, действащи в рамките на изцяло лична непрофесионална дейност 7

2.4.2.

Научноизследователска и развойна дейност 8

2.4.3.

ИИ, предоставен с безплатен лиценз с отворен код 8

2.5.

Взаимовръзка със забранените практики, изискванията за високорисковите системи с ИИ и грамотността в областта на ИИ 9

2.6.

Взаимодействие с правилата, приложими за модели и/или системи с ИИ с общо предназначение 9

3.

ЧЛЕН 50, ПАРАГРАФ 1 ОТ АКТА ЗА ИИ: ПРОЗРАЧНОСТ НА ИНТЕРАКТИВНИТЕ СИСТЕМИ С ИИ 9

3.1.

Основни компоненти, понятия и свързано(и) задължение(я) за прозрачност 10

3.1.1.

Системи с ИИ, предназначени да взаимодействат пряко с физически лица 10

3.1.2.

Задължение за предоставяне на информация съгласно член 50, параграф 1 от Акта за ИИ 12

3.2.

Изключения от задължението за предоставяне на информация съгласно член 50, параграф 1 от Акта за ИИ 14

3.2.1.

Изключение за очевидно взаимодействие със система с ИИ 14

3.2.2.

Изключение за разрешени от закона системи с ИИ за правоохранителни цели 16

3.3.

Взаимодействие с други правни актове на Съюза 17

4.

ЧЛЕН 50, ПАРАГРАФ 2 ОТ АКТА ЗА ИИ: МАРКИРАНЕ И ОТКРИВАНЕ НА ГЕНЕРИРАНО ИЛИ ОБРАБОТЕНО ОТ ИИ СЪДЪРЖАНИЕ 18

4.1.

Основни компоненти и концепции по член 50, параграф 2 от Акта за ИИ 18

4.1.1.

Системи с ИИ, които генерират или обработват синтетично съдържание 18

4.1.2.

Условия за синтетично съдържание в обхвата 19

4.1.3.

Съдържание, което не попада в приложното поле на член 50, параграф 2 от Акта за ИИ 20

4.2.

Задължението за маркировка и откриване съгласно член 50, параграф 2 от Акта за ИИ 21

4.2.1.

Задължение за маркировка 21

4.2.2.

Задължения за откриване 22

4.2.3.

Съответствие с изискванията за технически решения: ефективни, оперативно съвместими, сигурни и надеждни 22

4.3.

Изключения от задълженията по член 50, параграф 2 от Акта за ИИ 24

4.4.

Взаимодействие с други правни актове на Съюза 25

5.

ЧЛЕН 50, ПАРАГРАФ 3 ОТ АКТА ЗА ИИ: СИСТЕМИ ЗА РАЗПОЗНАВАНЕ НА ЕМОЦИИ И СИСТЕМИ ЗА БИОМЕТРИЧНО КАТЕГОРИЗИРАНЕ 26

5.1.

Основни компоненти, концепции и свързано(и) задължение(я) за прозрачност съгласно член 50, параграф 3 от Акта за ИИ 27

5.1.1.

Понятието за система за разпознаване на емоции 27

5.1.2.

Понятието за система за биометрично категоризиране 27

5.1.3.

Задължението за предоставяне на информация съгласно член 50, параграф 3 от Акта за ИИ 27

5.2.

Изключение за правоохранителни цели 28

5.3.

Взаимодействие с други правни актове на Съюза 28

6.

ЧЛЕН 50, ПАРАГРАФ 4: ОБОЗНАЧАВАНЕ НА УБЕДИТЕЛНИ ФАЛШИФИКАТИ (DEEP FAKES) И ОПРЕДЕЛЕНИ ТЕКСТОВИ ПУБЛИКАЦИИ 28

6.1.

Основни компоненти, концепции и свързани задължения за прозрачност за убедителни фалшификати съгласно член 50, параграф 4 от Акта за ИИ 28

6.1.1.

Понятието „убедителен фалшификат“ 29

6.1.2.

Задължението за оповестяване съгласно член 50, параграф 4, първа алинея от Акта за ИИ 31

6.1.3.

Прозрачност на съдържание, което представлява убедителен фалшификат, с артистичен, творчески, сатиричен, художествен или подобен характер. 32

6.1.4.

Изключение във връзка с правоприлагането 34

6.1.5.

Взаимодействие с други правни актове на Съюза 34

6.2.

Основни компоненти, концепции и свързани задължения за прозрачност за генериран или обработен от ИИ текст съгласно член 50, параграф 4 от Акта за ИИ 35

6.2.1.

Текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес 36

6.2.2.

Задължението за оповестяване съгласно член 50, параграф 4, втора алинея от Акта за ИИ 37

6.2.3.

Изключение от задължението за прозрачност за текст, който е преминал през процес на преглед от човек или редакционен контрол и за който се носи редакционна отговорност 37

6.2.4.

Изключение във връзка с правоприлагането 38

6.2.5.

Взаимодействие с други правни актове на Съюза 39

7.

ХОРИЗОНТАЛНИ ИЗИСКВАНИЯ, ПРИЛОЖИМИ ПО ОТНОШЕНИЕ НА ИНФОРМАЦИЯТА, ПРЕДОСТАВЕНА СЪГЛАСНО ЧЛЕН 50, ПАРАГРАФ 5 ОТ АКТА ЗА ИИ 39

7.1.

Предоставяне на информация по ясен и различим начин 39

7.2.

Първо взаимодействие или първи контакт 40

7.3.

Съответствие с приложимите изисквания за достъпност 40

8.

ПРИЛАГАНЕ НА ЧЛЕН 50 ОТ АКТА ЗА ИИ 40

8.1.

Ефекти от спазването на кодекс за добри практики, оценен като подходящ 41

8.2.

Органи за надзор на пазара 42

8.3.

Санкции 42

8.4.

Влизане в сила 42

9.

ПРЕГЛЕД И АКТУАЛИЗИРАНЕ НА НАСОКИТЕ 43

1.   КОНТЕКСТ И ЦЕЛИ

(1)

Регламент (ЕС) 2024/1689 на Европейския парламент и на Съвета от 13 юни 2024 г. за установяване на хармонизирани правила относно изкуствения интелект и за изменение на някои регламенти („Акт за изкуствения интелект“ или „Акт за ИИ“) влезе в сила на 1 август 2024 г. (1). С Акта за ИИ се установяват хармонизирани правила за пускането на пазара, пускането в действие и използването на изкуствен интелект (ИИ) в Съюза (2). Целта му е да се насърчат иновациите и навлизането на ИИ, като същевременно се осигурява високо равнище на защита на здравето, безопасността, основните права в Съюза, включително демокрацията и принципите на правовата държава.

(2)

В Акта за ИИ се следва основан на риска подход, като системите с ИИ се класифицират в четири различни категории по отношение на риска, една от които са системите с ИИ, пораждащи рискове за прозрачността, които са предмет на задълженията, предвидени в член 50 от Акта за ИИ. Тези задължения за прозрачност са приложими две години след влизането в сила на Акта за ИИ, т.е. от 2 август 2026 г.

(3)

В съответствие с член 96, параграф 1, буква г) от Акта за ИИ настоящите насоки на Комисията се издават с цел да послужат като практическо ръководство за подпомагане на компетентните органи, както и на доставчиците и внедрителите на системи с ИИ, при гарантиране на спазването на задълженията за прозрачност съгласно член 50 от Акта за ИИ по последователен, ефективен, пропорционален и еднакъв начин.

(4)

При изготвянето на настоящите насоки беше използвана информация от различни заинтересовани страни, събрана по време на организираната от Комисията широка консултация, както и информация от държавите членки в Европейския съвет по ИИ и информация от заинтересованите страни относно проекта на насоки, публикуван за консултация.

(5)

Настоящите насоки нямат задължителен характер. Авторитетно тълкуване на Акта за ИИ в крайна сметка може да бъде дадено само от Съда на Европейския съюз („Съда“).

2.   ПРЕГЛЕД НА ЗАДЪЛЖЕНИЯТА ЗА ПРОЗРАЧНОСТ И ХОРИЗОНТАЛНИТЕ ТЕМИ

2.1.   Преглед на задълженията за прозрачност по член 50 от Акта за ИИ

(6)

В член 50 от Акта за ИИ са включени четири задължения за прозрачност, всяко от които се прилага за различни видове системи с ИИ или резултатите от тях.

Разпоредба

Вид система с ИИ/резултат от система с ИИ

Задължение за прозрачност

Изключения или специални режими

Член 50, параграф 1

Системи с ИИ, които взаимодействат пряко с физически лица

Доставчиците трябва да разработват и проектират системата с ИИ по такъв начин, че съответните физически лица да бъдат информирани, че взаимодействат със система с ИИ.

Изключения: 1) ако изкуственият произход на взаимодействието е очевиден, или 2) системата е разрешена по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления, освен когато системата е общодостъпна с цел подаване на сигнали за престъпление.

Член 50, параграф 2

Системи с ИИ, които генерират или обработват синтетично изображения, видео, аудио или текстово съдържание

Доставчиците трябва да гарантират, че резултатите от системата с ИИ са представени в машинночетим формат и са разпознаваеми като изкуствено генерирани или обработени чрез технически решения, които са ефективни, оперативно съвместими, сигурни и надеждни.

Изключения: ако 1) системата с ИИ изпълнява помощна функция при стандартно редактиране или не променя съществено входящите данни или семантиката им, или 2) системата с ИИ е разрешена по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления.

Член 50, параграф 3

Системи с ИИ за разпознаване на емоции или за биометрично категоризиране

Внедрителите трябва да информират физическите лица, които са изложени на съответната система, за функционирането на системата с ИИ.

Изключение: ако използването на системата с ИИ е разрешено по закон за разкриване, предотвратяване или разследване на престъпления.

Член 50, параграф 4

Системи с ИИ, които генерират или обработват убедителен фалшификат или текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес

Внедрителите трябва да оповестят обстоятелството, че съдържанието е изкуствено генерирано или обработено.

Изключения: 1) ако системата с ИИ е разрешена по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления, или 2) ако публикуването на текста е преминало през процес на преглед от човек или редакционен контрол и подлежи на редакционна отговорност.

Специален режим на оповестяване се прилага за убедителни фалшификати, които са част от произведения или програми, които имат артистичен, творчески, художествен, сатиричен или подобен характер.

(7)

Всяко от тези четири задължения е разгледано в раздели 3—6 от настоящите насоки. Освен това съгласно член 50, параграф 5 от Акта за ИИ се изисква информацията, посочена в неговите параграфи 1—4, да се предоставя на засегнатите физически лица по ясен и добре различим начин най-късно в момента на първото взаимодействие или първия контакт и да отговаря на приложимите изисквания за достъпност. Тези изисквания се поясняват в раздел 7.

(8)

Различните задължения за прозрачност, предвидени в член 50 от Акта за ИИ, могат да се прилагат кумулативно към (резултата от) една система с ИИ, за което евентуално ще носят отговорност различни участници (доставчици или внедрители). Например, ако система с ИИ генерира изображения като част от пряко взаимодействие с физическо лице, доставчикът на системата може да е задължен да спазва както член 50, параграф 1, така и параграф 2 от същия член от Акта за ИИ. Когато тази система е в състояние да генерира и изображения, представляващи убедителен фалшификат или текст, публикуван по въпроси от обществен интерес, внедрителят може допълнително да е задължен да спазва член 50, параграф 4 от Акта за ИИ.

2.2.   Обосновка и цели

(9)

Както е пояснено в съображения 132—136 от Акта за ИИ, целта на задълженията за прозрачност е да се намалят рисковете от измама на основата на прилика, заблуда, масивно навлизане на невярна информация, манипулиране и измами, и да се ограничат потенциалните неблагоприятни въздействия върху демократичните процеси и общественото доверие, причинени от генерирано или обработено от изкуствен интелект съдържание или взаимодействие. Информирането на физическите лица относно произхода на взаимодействието и съдържанието от система с ИИ ще им помогне да вземат информирани решения, като същевременно ще допринесе за запазване на доверието и целостта на информационната екосистема. Прозрачността не е само техническо изискване за съответствие, а предпоставка за това физическите лица да могат да разпознават обработените с ИИ взаимодействия и съдържание или използването на системи за разпознаване на емоции или за биометрично категоризиране. Осигуряването на прозрачно и надеждно използване на интерактивни системи с ИИ и системи с генеративен ИИ също така ще позволи да се защитят личната автономност и европейските ценности, човешкото достойнство и други основни права (например свободата на мисълта, неприкосновеността на личния живот, равенството и недискриминацията, защитата на потребителите, интелектуалната собственост и др.), като същевременно се запазват свободата на изразяване и достоверността на медийното съдържание.

2.3.   Отговорни участници съгласно член 50 от Акта за ИИ

(10)

Съгласно член 3, точка 3 от Акта за ИИ доставчици са физически или юридически лица, публични органи, агенции или други организации, които разработват система с ИИ или възлагат разработването ѝ и я пускат на пазара на Съюза, или я пускат в действие със своето име или търговска марка, срещу заплащане или безплатно. Доставчиците трябва да спазват съответните задължения за прозрачност по член 50, параграфи 1 и 2 от Акта за ИИ, приложими за тях, независимо дали са установени, или се намират на територията на Съюза, или в трета държава (3). Доставчиците, установени или намиращи се извън Съюза, също подлежат на разпоредбите на Акта за ИИ, ако резултатът от тяхната система с ИИ се използва в Съюза (4). Въпреки това инцидентната, непредвидима или неразрешена последваща употреба не следва сама по себе си да задейства прилагането на задълженията за такива доставчици от трети държави на интерактивни системи с ИИ и системи с генеративен ИИ, които не са пуснати на пазара или пуснати в действие в Съюза, без да се засягат правомощията на компетентните органи за пазарен надзор да считат техните резултати за несъответстващи на Акта за ИИ.

(11)

Доставчиците трябва да гарантират, че техните интерактивни системи с ИИ и системи с генеративен ИИ притежават вградена прозрачност при проектирането и работата на системата, и да гарантират, че всички съответни задължения за прозрачност по член 50, параграфи 1, 2 и 5 от Акта за ИИ са изпълнени най-късно към момента, в който тези системи бъдат пуснати на пазара или пуснати в действие. Всички физически лица, които взаимодействат със системата с ИИ или са изложени на резултати от нея, трябва да бъдат ефективно и последователно информирани през целия жизнен цикъл на системата с ИИ, пусната на пазара или пусната в действие от този доставчик (независимо кои са внедрителите или другите ползватели на системата).

Например дружество предоставя генеративно или интерактивно приложение с ИИ (например чатбот, генератор на изображения, ИИ агент) на пазара на Съюза със своето име или търговска марка на потребители, професионални ползватели или други правни субекти, които могат пряко да използват системата с ИИ за взаимодействие или генериране на съдържание (включително чрез интегриране на системата в съществуващите си процеси и използването ѝ съответно, без да се налагат изменения или допълнителни компоненти). Дружеството е доставчик, отговорен за спазването на задълженията за прозрачност по член 50, параграфи 1 и/или 2 от Акта за ИИ, независимо дали системата с ИИ се предоставя безплатно, или срещу заплащане и независимо дали доставчикът е установен, или се намира в Съюза, или в трета държава.

Друг пример за доставчик са дружество или друга организация (например публичен орган), която е разработила вътрешно интерактивна система с ИИ (например чатбот) и я пуска в действие в Съюза за собствена употреба и със своето име или търговска марка.

Ако дружество вземе вече съществуваща система с генеративен ИИ, пусната на пазара от друг доставчик, и ако измени тази система (например с нови данни за обучение), която след това пуска в действие със своето име или търговска марка, тогава това дружество става доставчик на новата система, без да се засяга отговорността на доставчика на първоначалната система с ИИ по отношение на последната.

(12)

Внедрители са физически или юридически лица, публични органи, агенции или други организации, използващи системи с ИИ, по отношение на които упражняват контрол, освен когато системата с ИИ се използва в процеса на лична непрофесионална дейност (5). „Упражняване на контрол“ по отношение на система с ИИ следва да се разбира като поемане на отговорност за решението да бъде внедрена системата и за начина на действителното ѝ използване (включително резултатите от нея). Това не изисква непременно упражняването на технически контрол върху работата на системата с ИИ, стига внедрителят да взема решението за целите и начина на използване на системата с ИИ (включително в децентрализирани работни процеси и групови корпоративни структури). Внедрителите, участващи в сложни вериги за създаване и разпространение на съдържание, следва да предприемат пропорционални мерки, за да гарантират, че обозначаването на съдържанието, което са приложили съгласно член 50, параграф 4 от Акта за ИИ, се показва по ясен и различим начин за целевата и предвидима аудитория в момента на първия контакт в съответствие с член 50, параграф 5 от Акта за ИИ (например чрез договорни условия с партньори по разпространението, настройки на потребителското преживяване (ПП) и интерфейси, които да бъдат показани).

(13)

Внедрителите попадат в обхвата на задълженията за прозрачност по член 50, параграфи 3 и 4 от Акта за ИИ, когато мястото им на установяване или местоположението им е на територията на Съюза, или ако са установени или се намират в трета държава, когато резултатът от системата с ИИ се използва в Съюза (6). В последния случай задълженията за прозрачност се прилагат за субекти, намиращи се или установени извън Съюза, когато самият внедрител предвижда разпространение и използване на резултатите от системата с ИИ в Съюза (т.е. чрез насочване или разрешаване на разпространението в рамките на Съюза, включително чрез публикуване на убедителни фалшификати в глобално достъпния интернет). Внедрителите от трети държави обаче не са обвързани от задълженията за прозрачност, когато съдържанието на системата с ИИ достига до аудитории в Съюза чрез канали, които са непредвидими и извън техния контрол.

(14)

Когато внедрителят на система с ИИ е юридическо лице, под чийто контрол се използва системата (например рекламна агенция), отделните служители, които действат съобразно инструкциите и под контрола на това юридическо лице (например цифрови аниматори, уебдизайнери, създатели на съдържание, журналисти), не следва да се считат за отделни внедрители на тази система. Юридическо лице остава внедрител дори когато е свързано с трети лица (например изпълнители, лица, упражняващи свободни професии) при експлоатацията на системата от негово име и под неговата отговорност и контрол.

Например медия, установена в Съюза, чиито редактори използват система с ИИ, за да подпомогнат писменото отразяване на текущи събития с генерирани от ИИ текстови публикации по въпроси от обществен интерес, публикувани на глобално достъпен уебсайт, е внедрител, попадащ в приложното поле на Акта за ИИ. По същия начин дружество, установено в трета държава, която използва система с ИИ за генериране на убедителен фалшификат на знаменитост, включен в показвана в Съюза реклама, също е внедрител, попадащ в приложното поле на Акта за ИИ.

От друга страна, дружество, което просто възлага на рекламна агенция да създаде реклама, без да взема решения и да упражнява контрол върху това дали и как рекламната агенция използва ИИ в производствения процес, не е внедрител.

(15)

Операторите (например доставчици и внедрители) могат да изпълняват едновременно повече от една роля по отношение на дадена система с ИИ. Например дадено дружество може да разработи вътрешна система с генеративен ИИ и да я използва за генериране на убедителен фалшификат. В такъв случай то ще бъде квалифицирано едновременно като доставчик и внедрител, който трябва да осигури съответствие със задълженията за машинночетима маркировка съгласно член 50, параграф 2 и с изискванията за ясно и лесно възприемащо се обозначаване на убедителните фалшификати съгласно член 50, параграф 4 от Акта за ИИ.

(16)

За разлика от него, други участници (като доставчици на хостинг услуги, включително онлайн платформи, или радио- и телевизионни оператори), чиято роля се ограничава до разпространението или предаването на генерирано или обработено от ИИ съдържание, създадено от трети страни, или които получават или са изложени на генерирано или обработено от ИИ съдържание, без да имат контрол върху използването на системата с ИИ за целите на генерирането или обработването на съдържанието с ИИ, не са внедрители по смисъла на Акта за ИИ. Без да носят отговорност съгласно Акта за ИИ, тези участници все пак могат да играят важна роля във веригата за създаване на стойност за запазване на доверието и целостта на информационната екосистема. Поради това те са силно насърчавани да запазят маркировката и обозначаването, прилагани в съответствие с член 50 от Акта за ИИ, и да прилагат пропорционални и технически осъществими мерки, които да позволяват на физическите лица да откриват генерираното или обработено от ИИ съдържание, без да се засяга отговорността на доставчиците и внедрителите на системи с генеративен ИИ или каквито и да било задължения или отговорност съгласно Регламент (ЕС) 2022/2065 („Акта за цифровите услуги“ или „АЦУ“) (7) или друго приложимо право на Съюза или национално право.

(17)

Други участници, действащи в професионално качество и разпространяващи съдържание (дори ако не са пряко ангажирани съгласно член 50 от Акта за ИИ), също се насърчават да предприемат пропорционални и подходящи мерки, така че физическите лица, които в крайна сметка са изложени на съдържанието, да бъдат ефективно информирани и да могат да установят неговия изкуствено генериран или обработен произход. Освен това от тези страни може да се изисква да обозначават съответните убедителни фалшификати или текстови публикации по въпроси от обществен интерес съгласно други приложими правни или деонтологични правила (например радио- или телевизионен оператор, който обозначава и показва като част от телевизионна програма убедителен фалшификат, създаден от частно лице). Самият факт обаче, че даден участник обозначава съдържание или използва обозначено съдържание, не означава, че последният се квалифицира като „внедрител“ по смисъла на Акта за ИИ. Актът за ИИ не разширява и не засяга правната отговорност на тези участници съгласно приложимата нормативна уредба, ако те същевременно не се квалифицират като доставчици или внедрители на системи с ИИ.

2.4.   Изключения от обхвата на Акта за ИИ

(18)

В член 2 от Акта за ИИ се предвиждат редица общи изключения от приложното поле на акта, които вече бяха разяснени в Насоките на Комисията относно забранените практики в областта на изкуствения интелект (8). Поради това в настоящия раздел ще бъдат разгледани само онези аспекти, които са от значение за задълженията за прозрачност по член 50 от Акта за ИИ.

2.4.1.   Внедрители, действащи в рамките на изцяло лична непрофесионална дейност

(19)

Съгласно член 2, параграф 10 от Акта за ИИ, регламентът „не се прилага за задълженията на внедрители, които са физически лица, използващи системи с ИИ в рамките на изцяло лична непрофесионална дейност“ (9). Всяка дейност, чрез която физическо лице редовно придобива икономическа полза или по друг начин участва в професионална, стопанска или търговска дейност като заето на щатна длъжност или като свободна професия, следва да се счита за „професионална“ дейност. Уточнението „изцяло лична“ е квалификация към „непрофесионална“ и означава, че за да попадне в обхвата на това изключение, лицето следва да действа едновременно в качеството на физическо лице и в непрофесионално качество. Всяко използване от физически лица, действащи от името или под контрола на внедрител, действащ в професионално качество, попада в обхвата на задълженията за прозрачност на професионалния внедрител, предвидени в член 50, параграфи 3 и 4 от Акта за ИИ.

Примери за лична непрофесионална употреба на системи с ИИ, изключени от приложното поле:

—

лица, използващи система с ИИ за генериране на убедителни фалшификати на членове на своето домакинство;

—

физически лица, използващи система с ИИ в лично качество за генериране на текст по различни теми (например ученици, използващи ИИ, за да пишат домашните си работи);

—

лица, използващи система с ИИ в лично качество за генериране на убедителни фалшификати, разпространявани в социалните медии.

(20)

Изключението по член 2, параграф 10 от Акта за ИИ се прилага само по отношение на задълженията на внедрителите, когато използват системата за изцяло лични, непрофесионални дейности. Системата сама по себе си остава в приложното поле на Акта за ИИ, що се отнася до задълженията на доставчиците, които пускат системата на пазара или я пускат в действие, както и за внедрители, използващи системата за професионална употреба. Изключението не засяга и прилагането на друго съответно право на Съюза и национално право.

Например доставчикът на системата с ИИ, използвана за генериране на убедителни фалшификати, които да бъдат включени в лична коледна картичка, следва да маркира тези убедителни фалшификати по машинночетим начин в съответствие със задължението за прозрачност, предвидено в член 50, параграф 2 от Акта за ИИ. Същевременно използването на системата от физически лица за изцяло лични, непрофесионални дейности няма да бъде обхванато от задължението за внедрителите, предвидено в член 50, параграф 4 от Акта за ИИ.

2.4.2.   Научноизследователска и развойна дейност

(21)

В член 2, параграф 6 от Акта за ИИ се предвижда изключение за системите с ИИ или моделите на ИИ, които са специално разработени и пуснати в действие единствено с цел научноизследователска и развойна дейност, включително за техните резултати. Това изключение не засяга приложимите етични стандарти за научни изследвания, законодателството на ЕС относно защитата на данните и друго законодателство. В контекста на член 50 от Акта за ИИ това изключение обхваща не само интерактивните системи с ИИ, но и резултатите от системите с генеративен ИИ (включително съдържание, представляващо убедителен фалшификат), използвани в контекста на научни изследвания. Ако обаче тези системи бъдат пуснати в действие или резултатите от тях се използват за цели, различни от единствената цел на научноизследователската и развойната дейност, съответните задължения за прозрачност по член 50 от Акта за ИИ все пак ще трябва да бъдат спазени.

Например, ако изследователи разработват и пускат на пазара или пускат в действие интерактивна система с ИИ и желаят да проучат дали физическите лица са в състояние да правят разлика между системи с ИИ и хора при устно взаимодействие с тази система с ИИ, те не е необходимо да изпълняват съответните задължения за прозрачност съгласно член 50, параграфи 1 и 2 от Акта за ИИ. Ако обаче същата интерактивна система с ИИ се пуска в действие и за цели, различни от научноизследователска и развойна дейност, съответните задължения за прозрачност по член 50 от Акта за ИИ ще трябва да бъдат спазени.

(22)

Освен това в обхвата на член 2, параграф 8 от Акта за ИИ не попадат научноизследователски дейности, изпитвания или развойни дейности по отношение на системи с ИИ или модели на ИИ преди пускането на пазара или пускането в действие на тези системи или модели. Изпитването в реални условия (в рамките на регулаторните лаборатории в областта на ИИ или извън тях) не попада в обхвата на това изключение. Освен това, след като система с ИИ бъде пусната на пазара или пусната в действие в резултат на такива изследователски дейности и дейности по изпитвания, тя все пак следва да спазва съответните задължения за прозрачност съгласно член 50 от Акта за ИИ (10).

2.4.3.   ИИ, предоставен с безплатен лиценз с отворен код

(23)

Съгласно член 2, параграф 12 от Акта за ИИ системите с ИИ, предоставени с безплатен лиценз с отворен код, не попадат в приложното поле на Акта за ИИ, при условие че не попадат в обхвата на забраните по член 5 от Акта за ИИ или на задълженията за прозрачност по член 50 от Акта за ИИ, или не са класифицирани като високорискови (11). Това означава, че доставчиците и внедрителите на системи с ИИ с отворен код, попадащи в приложното поле на член 50 от Акта за ИИ, все още трябва да осигурят спазването на съответните си задължения за прозрачност.

(24)

От друга страна, доставчиците на безплатни компоненти с ИИ с отворен код, които обхващат софтуер, данни, модели, инструменти, услуги или процеси за персонализиране и интегриране в система с ИИ и които сами по себе си (частично или изцяло) не представляват система с ИИ, не са обект на задълженията за прозрачност по член 50 от Акта за ИИ. Въпреки това доставчиците на такива системи се насърчават да проектират тези модели, компоненти и услуги по начина, описан в точка 27 по-долу, доколкото това е пропорционално и осъществимо.

2.5.   Взаимовръзка със забранените практики, изискванията за високорисковите системи с ИИ и грамотността в областта на ИИ

(25)

В съображение 137 от Акта за ИИ се разяснява, че спазването на задълженията за прозрачност съгласно член 50 от Акта за ИИ за конкретна система с ИИ не следва да се тълкува като указване, че използването на системата с ИИ или на резултатите от нея е законосъобразно съгласно Акта за ИИ. По-специално системите с ИИ, подлежащи на задълженията по член 50 от Акта за ИИ, могат да попаднат в приложното поле на член 5 от Акта за ИИ и по този начин да бъдат забранени (например използването на системи за разпознаване на емоции на работното място или в образователни институции) (12). Освен това системите с ИИ, попадащи в приложното поле на член 50 от Акта за ИИ, могат също да бъдат класифицирани като високорискови (13) и да подлежат на съответните изисквания и задължения за такива системи. Поради това спазването на член 50 от Акта за ИИ не замества, не ограничава и не засяга задълженията, произтичащи от други разпоредби на Акта за ИИ (14). Същевременно системите с ИИ могат също да попаднат в приложното поле на член 50 от Акта за ИИ, без да бъдат класифицирани като високорискови съгласно член 6 от Акта за ИИ. Изискванията за грамотност съгласно член 4 от Акта за ИИ се прилагат както за доставчиците, така и за внедрителите на системи с ИИ в приложното поле на член 50 от Акта за ИИ.

2.6.   Взаимодействие с правилата, приложими за модели и/или системи с ИИ с общо предназначение

(26)

Член 50 от Акта за ИИ се прилага за определени системи с ИИ, което включва системи с ИИ с общо предназначение (15), като например чатботове, поддържащи пряко взаимодействие с физически лица, или системи с ИИ, способни да генерират или обработват синтетично съдържание (включително убедителни фалшификати) (16).

(27)

Член 50 от Акта за ИИ не се прилага изрично за моделите на ИИ с общо предназначение. Ако обаче интерактивна система с ИИ или система с генеративен ИИ, която попада в приложното поле на член 50, параграфи 1 или 2 от Акта за ИИ, е изградена върху модел на ИИ с общо предназначение, предоставен от същия доставчик, посочените в настоящите насоки мерки за прозрачност биха могли да бъдат приложени и на равнището на модела (вж. също раздел 4 по-долу). Освен това, въпреки че попадат извън приложното поле на член 50 от Акта за ИИ, доставчиците на други модели на ИИ с общо предназначение и на други генеративни модели с ИИ също се насърчават да прилагат подходящи мерки за прозрачност на равнището на модел за идентифициране на интерактивни системи с ИИ и маркировка на генерирано и обработено от ИИ съдържание. Това е особено полезно за улесняване на спазването от страна на доставчиците на системи с ИИ надолу по веригата на техните задължения съгласно член 50, параграфи 1 и 2 от Акта за ИИ (17) и за допринасяне за запазването на доверието и целостта на информационната екосистема. За моделите на ИИ с общо предназначение, пораждащи системен риск, мерките за безопасност на равнището на модел за идентифициране на взаимодействия с ИИ и маркиране на генерирано или обработено от ИИ съдържание могат, когато е целесъобразно, да представляват част от по-широк набор от мерки за ограничаване, които доставчиците могат да предприемат като част от задължението си за ограничаване на системните рискове съгласно член 55, параграф 1, буква б) от Акта за ИИ.

3.   ЧЛЕН 50, ПАРАГРАФ 1 ОТ АКТА ЗА ИИ: ПРОЗРАЧНОСТ НА ИНТЕРАКТИВНИТЕ СИСТЕМИ С ИИ

(28)

Член 50, параграф 1 от Акта за ИИ се отнася до доставчиците на системи с ИИ, взаимодействащи пряко с физически лица, които трябва да проектират и разработват своите системи по такъв начин, че съответните физически лица да бъдат информирани, че взаимодействат със система с ИИ. Както е пояснено в съображение 132 от Акта за ИИ, целта на това задължение за предоставяне на информация е да се даде възможност на тези физически лица да вземат информирани решения относно резултатите от системата, да се избегне прекомерното разчитане на такива системи и да се позволи на тези физически лица съответно да съобразят доверието си в съдържанието и взаимодействията.

3.1.   Основни компоненти, понятия и свързано(и) задължение(я) за прозрачност

(29)

Задължението за прозрачност по член 50, параграф 1 от Акта за ИИ се прилага за доставчици на системи с ИИ, когато системата е предназначена да взаимодейства пряко с физически лица и това взаимодействие не попада в обхвата на нито едно от следните изключения: 1) това е очевидно от гледна точка на физическо лице, което е в разумни граници осведомено, наблюдателно и съобразително, или 2) системата е разрешена по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления, освен когато тази система е общодостъпна с цел подаване на сигнали за престъпление.

3.1.1.   Системи с ИИ, предназначени да взаимодействат пряко с физически лица

(30)

За да попадне една система в обхвата на член 50, параграф 1 от Акта за ИИ, трябва да са налице четири елемента: i) системата трябва да бъде система с ИИ, ii) предназначена да взаимодейства, iii) пряко, iv) с физически лица.

i)

Система с ИИ: системата трябва да отговаря на елементите на определението за система с ИИ (18), изключващо прости автоматизирани механизми за отговор, които не са основани на ИИ (например традиционни електронни писма за отсъствие от служба, основани на правила бързи отговори на съобщения).

ii)

Предназначена да взаимодейства: системата с ИИ трябва да е предназначена да взаимодейства с физически лица. Взаимодействието предполага способността за двупосочен обмен на информация или действия между физически лица и системата с ИИ, който има истински разговорен или адаптивен характер. То може да стане в различни форми (напр. слухови, визуални и физически). Физическите лица следва да могат да дадат своя принос (например писмен текст или други форми на съдържание, глас или физически действия) към системата с ИИ (например чрез технически средства за комуникация, включително онлайн интерфейси, телефон или електронна поща, или пряко), докато системата с ИИ следва да бъде способна да отговаря с контекстуални резултати (включително всякакъв вид съдържание или действия) и обратно. Взаимодействието може да обхваща всякакъв вид резултат или формат, който може да бъде възприет и разбран от хора. Не е задължително да бъде инициирано от човек; то може също да обхваща съдържание или действия на ИИ, които предизвикват реакция от човек. Взаимодействието може да бъде еднократен обмен (например единична подкана, последвана от единичен отговор) или да се осъществява за определен период от време (многооборотно). Системи, които събират данни само пасивно и не са способни да участват в обмен с физически лица (например автоматизирани системи за контрол на достъпа чрез разпознаване на лица) или само събират еднократна обратна връзка (например филтри за спам), не се считат за взаимодействащи с физически лица.

iii)

Пряко взаимодействие: взаимодействието между системата с ИИ и физическите лица трябва да бъде пряко. Това обикновено включва взаимодействие в реално време или почти в реално време (включително чрез възможности на системата да пише и изпраща съобщения до физически лица или по друг начин да взаимодейства с физическа или виртуална среда, която може да бъде възприета от физически лица). Прякото взаимодействие изключва непрякото или опосредено взаимодействие с човек, при което физическо лице е изложено на резултати от ИИ, без пряко да взаимодейства със системата (например, ако представителите на отдел за обслужване на клиенти използват инструменти на основата на ИИ, за да им помагат да комуникират с физически лица, или ако резултатът от ИИ не е предоставен на лицето от самата система с ИИ, а от друго лице, разпространяващо съдържанието). Самата възможност обаче хората да се намесват или да преглеждат резултатите от системата с ИИ не следва да се използва за заобикаляне на прилагането на изискването за оповестяване съгласно член 50, параграф 1 от Акта за ИИ. Случаите на продукти и услуги, съчетаващи генерирани от ИИ отговори с подбрано от хора съдържание, попадат в обхвата на член 50, параграф 1 от Акта за ИИ и изискват оповестяване за конкретните резултати при взаимодействието, които са генерирани от ИИ, освен ако тези резултати от ИИ не са били надлежно прегледани и изпратени от хора като основни събеседници с физическите лица.

iv)

С физически лица: член 50, параграф 1 от Акта за ИИ изисква системата с ИИ да взаимодейства с физически лица. Тези лица могат да бъдат професионални внедрители, други ползватели (също използващи системата за изцяло лични дейности) или други лица, използващи системата от тяхно име. Системи с ИИ, които работят в затворена физическа среда (като част от настройка на промишлени машини), бекенд повиквания между машини (machine-to-machine) между системи с ИИ (включително ИИ агенти), чиито резултати не са предназначени да достигнат до физическо лице, или виртуални среди без никакъв пряк контакт с физически лица, са изключени от обхвата на задължението.

(31)

ИИ агентите попадат в приложното поле на член 50, параграф 1 от Акта за ИИ, ако са способни да взаимодействат с лицата, които ги инструктират, или с други физически лица при изпълнението на задачите (например извършване на резервации, управление на кореспонденция, договаряне или сключване на договори, извършване на покупки и др.). ИИ агентите трябва да бъдат проектирани и разработени по такъв начин, че да разкриват както своята изкуствена природа, така и лицето, от чието име действат, като се вземат предвид необходимостта от прозрачност на произхода и делегирането на правомощия и отчетност за последствията от техните действия. Това включва случаи, при които ИИ агентите са способни да взаимодействат в сложни мултиагентни архитектури с други ИИ агенти, които пряко взаимодействат с физическите лица при изпълнението на задачата. Въпреки това доставчикът на ИИ агента невинаги може да установи предварително отделни случаи на пряко взаимодействие на ИИ агент с други физически лица след внедряването на ИИ агента в различен контекст. Когато доставчикът не може надеждно да определи дали ИИ агентът ще взаимодейства пряко с физическо лице, преди ИИ агентът да бъде пуснат на пазара или пуснат в действие, агентът следва да бъде проектиран на равнището на архитектурата и инструктиран да се разкрива като такъв във всяка ситуация, в която има разумна вероятност агентът да взаимодейства с физическо лице (включително когато физическо лице може да представлява или действа от името на юридическо лице). Освен това ИИ агентите следва също да се разкриват като такива пред лицата, които ги инструктират, на ключови етапи (например в момента на разрешение, докладване, валидиране и др., включително когато внедреният ИИ агент получава, обработва или разчита на резултати, генерирани от други системи с ИИ, вместо пряко от физическо лице) и при всяко ново взаимодействие.

Примери за системи с ИИ, предназначени да взаимодействат пряко с физически лица, попадащи в приложното поле на член 50, параграф 1 от Акта за ИИ:

—

гласови асистенти, използващи ИИ, чатботове/разговорни агенти в различни контексти (например обществени услуги, обслужване на клиенти, управление на жалби, електронна търговия, финанси, здравеопазване, образование и др.),

—

гореща линия с ИИ за инциденти, измами или други сигнали, (хуманоидни) роботи/коботи, компаньони с ИИ; роботизирани домашни любимци компаньони; аватари с ИИ (например в среди за виртуална реалност),

—

ботове с ИИ в социални мрежи и медии, агенти за програмиране и други ИИ агенти, способни да взаимодействат пряко с физически лица (включително в сложни мултиагентни архитектури).

3.2.1.

Примери за системи с ИИ, които не взаимодействат пряко с физически лица и попадат извън приложното поле на член 50, параграф 1 от Акта за ИИ:

—

традиционни промишлени роботи, използващи ИИ, които работят в затворена индустриална среда и не са предназначени да взаимодействат с хора (например роботи за електронен монтаж),

—

препоръчващи системи, използващи ИИ, филтри за спам, инструменти за автоматизиран превод или транскрипция,

—

търсене и извличане на информация с помощта на ИИ без генериране или изменение на съдържание,

—

техники за автоматично довършване на текст и код, използващи ИИ, системи за удостоверяване/биометрично разпознаване, бекенд системи за подпомагане на вземането на решения, при които ползвателят вижда само резултата от ИИ без възможност за пряко взаимодействие със системата;

—

системи за прогнозна поддръжка и оптимизация с ИИ във фабрики и промишлени приложения, визуализация на продукти с помощта на ИИ (например виртуално пробване, обзавеждане на помещения, рендиране на продукти), използващи ИИ инструменти за планиране на маршрути с една стъпка, транскрипция на повиквания на клиенти, обработени за поведенчески анализ и др.

3.1.2.   Задължение за предоставяне на информация съгласно член 50, параграф 1 от Акта за ИИ

(32)

Съгласно член 50, параграф 1 от Акта за ИИ доставчиците на системи с ИИ, взаимодействащи пряко с физически лица, се задължават да гарантират, че техните системи с ИИ (включително ИИ агенти и системи с ИИ с общо предназначение) са проектирани и разработени по такъв начин, че съответните физически лица да бъдат информирани, че взаимодействат със система с ИИ.

(33)

Макар че механизмът за информиране трябва да бъде вграден при проектирането и разработването на системата и в начина, по който системата взаимодейства с физическите лица, уведомлението трябва да бъде предоставено по време на работата на системата с ИИ и най-късно в момента на първото взаимодействие с физическото лице (както се изисква в член 50, параграф 5 от Акта за ИИ, вж. раздел 7 по-долу). Доставчиците са отговорни за това да гарантират, че след пускането на системата с ИИ на пазара или пускането ѝ в действие, физическите лица, взаимодействащи със системата с ИИ, са ефективно и последователно информирани през целия жизнен цикъл на системата с ИИ, така както е пусната на пазара или пусната в действие от въпросния доставчик.2.2

(34)

Формат на оповестяването: В член 50, параграф 1 от Акта за ИИ не се уточнява конкретна техника за оповестяване. Поради това доставчиците могат да изберат всяка подходяща техника, при условие че са изпълнени две изисквания: i) изискванията, предвидени в член 50, параграф 5 от Акта за ИИ, са изпълнени по отношение на предоставянето на ясна и добре различима информация най-късно в момента на първото взаимодействие (вж. раздел 7 по-долу); и ii) характеристиките на физическите лица, принадлежащи към уязвими групи поради тяхната възраст (например деца или възрастни хора) или увреждане, се вземат предвид, доколкото е предвидено или е разумно вероятно системата с ИИ да взаимодейства с физически лица, принадлежащи към тези групи (например включително когато е разумно вероятно системата с ИИ да взаимодейства с широката общественост) (19). Информацията трябва също така да се предоставя в достъпен формат за физически лица с увреждания, както е посочено в член 50, параграф 5 и съображение 132 от Акта за ИИ (вж. раздел 7). Когато системата може да взаимодейства с деца, тези уведомления трябва да бъдат подходящи за деца, съобразени с възрастта, лесни за разбиране и леснодостъпни за всички малолетни или непълнолетни лица, включително лицата с увреждания или с допълнителни нужди по отношение на достъпността. Когато е възможно и подходящо, на доставчиците се препоръчва да използват стандартизирани практики за оповестяване и обозначения, за да се гарантират ефективността и последователността на уведомленията и да се повиши осведомеността на ползвателите.

(35)

Същност на уведомлението: Съгласно член 50, параграф 1 от Акта за ИИ от доставчиците на интерактивни системи с ИИ се изисква да ги проектират и разработват по такъв начин, че всички физически лица, взаимодействащи с такива системи с ИИ, да бъдат изрично информирани за изкуствения, нечовешки характер на взаимодействащия насрещен субект. Ако за доставчика е разумно предвидимо, че системата с ИИ може да взаимодейства с физически лица, принадлежащи към горепосочените уязвими групи, информацията следва да бъде адаптирана съответно и предоставена в достъпен формат, както се изисква съгласно приложимото право на Съюза, за да се гарантира също така пълното разбиране от страна на тези физически лица (20).

(36)

Уведомленията следва да предоставят информация за изкуствения произход на взаимодействието по начини, които са подходящи за контекста, в който се осъществява взаимодействието. Това следва да се извършва по начин, който гарантира, че засегнатите лица са правилно и ефективно информирани, като се избягват всякакви рискове от заблуда или обработване преди и по време на взаимодействието, като същевременно се осигуряват осъществими и пропорционални оповестявания. Примерите за предоставяне на информацията включват писмени уведомления (например чатбот, който започва разговор, като посочва, че се основава на технология с ИИ), визуални средства (например електронна поща, генерирана от ИИ агент, изпратена до физическо лице, която съдържа обозначение за ИИ в горната част), слухови средства (например гласов асистент, който посочва в началото на сесията, че се захранва от ИИ), оповестяване на идентификатори на ИИ и идентификационни данни (например ИИ агенти, които разкриват своята идентичност на ИИ, доколкото е възможно по проверим начин (21).

(37)

Формат на уведомленията: Като най-добра практика се препоръчва проектирането на системата с ИИ с мултимодални и достъпни подходи за оповестяване. Такива уведомления могат да комбинират различни техники за засилване на разбирането от страна на ползвателите, когато е подходящо и в зависимост от контекста, целевите и предвидимите групи от аудиторията и наличните ресурси на доставчиците, по-специално малките и средните предприятия (МСП). Примери за подходящи техники може да включват:

—

Текстово оповестяване (основано на потребителски интерфейс (UI): Видими обозначения или банери на достъпен език (например „Вие взаимодействате със система с ИИ“) и поздрави при първо включване в чатботове, които могат да бъдат комбинирани, според случая, с постоянни емблеми или обозначения, видими по време на цялото взаимодействие, пропорционално на конкретния контекст и рискове. Освен това се препоръчва придружаващите оповестявания да се поставят близо до интерфейса за взаимодействие (например близо до полето за входящи/изходящи данни) и да се използва опростена формулировка, особено за ползвателите с по-ниска цифрова грамотност и децата.

—

Слухово оповестяване: в контекста на гласови или телефонни услуги — изрични устни изявления в началото на взаимодействието (например „Това е асистент на основата на ИИ“), комбинирани, според случая, с периодични напомняния при по-продължителни взаимодействия, по-специално в случай на прекъсвания или промяна на ролята на системата с ИИ по време на потребителския път. Отличителни аудио сигнали (например тонове или звукови икони) могат да подпомогнат разпознаването, особено за ползвателите с увредено зрение, но сами по себе си не се считат за достатъчни.

—

Визуални/графични сигнали: проектиране на системата с ИИ с постоянни икони, водни знаци, цветни рамки или разпознаваеми символи „ИИ“ за допълване на текстовите оповестявания. Препоръчва се използването на стандартизирани визуални показатели, включително в услугите на даден доставчик, тъй като такива показатели могат значително да намалят когнитивното натоварване и да увеличат разпознаваемостта.

—

Мултимодални комбинации: комбиниране на текстови, аудио и визуални сигнали (например чатбот, показващ обозначение, същевременно предоставяйки текстово оповестяване при първо взаимодействие), за да се осигури достъпност и да се засили яснотата сред различните групи ползватели.

(38)

Някои техники не са необходими и, когато се използват самостоятелно, са недостатъчни за ефективно изпълнение на задължението за прозрачност съгласно член 50, параграфи 1 и 5 от Акта за ИИ, по-специално:

—

оповестявания, съдържащи се само в общите условия, URL адреси или документация (такива оповестявания могат да допълват, но не и да заменят оповестяването в контекст);

—

машинночетими маркировки (например метаданни или водни знаци), които не се възприемат от ползвателите в момента на взаимодействието. Това не засяга целесъобразността на такива маркировки за спазване на член 50, параграф 2 от Акта за ИИ (вж. раздел 4);

—

Неясни или двусмислени сигнали (например общи препратки към „асистент“) или представяния, подобни на човешките, които могат да подведат ползвателите;

—

Обобщени оповестявания, които не са достатъчно специфични за резултатите и взаимодействията на системата с ИИ (например в платформа, предоставяща разнообразни услуги или индивидуални входящи данни, общо оповестяване като „Услугите на този уебсайт използват ИИ“ не е достатъчно);

—

технически описания или описания, основаващи се на способностите: изявления, отнасящи се единствено до основните технологии (например „тази система използва LLM“), без да се обясняват функцията или последиците от системата за ползвателя и нейният изкуствен произход.

(39)

С цел да останат ефективни, удобни за ползвателя и да се избегнат, доколкото е възможно, прекъсвания на потребителското преживяване или ефекти на привикване (т.нар. „банерна слепота“), оповестяванията следва да бъдат пропорционални и съобразени с различните контексти и целеви аудитории на системата с ИИ.

(40)

Вероятно в повечето случаи, за да се изпълни задължението по член 50, параграф 1 от Акта за ИИ, е достатъчно еднократно, видимо уведомление преди първото взаимодействие на системата с ИИ с конкретно физическо лице. При определен по-рисков контекст вероятно ще бъдат необходими обаче периодичните напомняния и оповестяванията, съобразени с контекста, за да се гарантира постоянна информираност на потребителите. Това е особено важно в контекста на системи с ИИ, взаимодействащи с уязвими лица (например деца, възрастни хора, лица с увреждания и лица с по-ниска грамотност), продължителни и развиващи се взаимодействия в чувствителен или потапящ контекст (например когато потребителите могат да изразят или изпитат емоционален стрес или уязвимост, или да са изложени на риск от поведение, подобно на пристрастяване), когато съществува повишен риск от подвеждане на потребителите (например финансови съвети, застраховане, правна помощ, здравни съвети и разглеждане на жалби) или от формиране на емоционални привързаности или зависимости (напр. компаньони с ИИ), както и когато е необходимо да се гарантират информираност и контрол върху действията на ИИ агентите. Доставчиците трябва също така да проектират и разработят системата с ИИ, за да осигурят оповестяване във всички ситуации, в които към системата с ИИ се отправят въпроси, свързани с нейната природа или с произхода на взаимодействието, или когато от обмена с физическото лице може разумно да се предположи, че това лице вероятно ще бъде подведено или объркано относно изкуствения произход на взаимодействието.

3.2.   Изключения от задължението за предоставяне на информация съгласно член 50, параграф 1 от Акта за ИИ

(41)

В член 50, параграф 1 от Акта за ИИ се предвиждат две изключения от задължението за предоставяне на информация относно интерактивни системи с ИИ, разгледани по-долу.

3.2.1.   Изключение за очевидно взаимодействие със система с ИИ

(42)

За да могат да се позоват на първото изключение, доставчиците ще трябва да оценят и докажат: i) очевидния изкуствен характер на взаимодействието ii) за физическо лице, което трябва да бъде сравнително добре информирано, наблюдателно и съобразително, като взема предвид обстоятелствата и контекста на употреба.

(43)

Този стандарт се основава на установеното право на ЕС за защита на потребителите по отношение на понятието „средностатистически потребител“ и следва да се тълкува последователно, като същевременно се вземат предвид специфичните и разнообразните видове контекст и употреба на системи с ИИ, взаимодействащи пряко с физически лица, и целите, преследвани с член 50, параграф 1 от Акта за ИИ.

(44)

Определянето на такова „средностатистическо“ физическо лице включва две стъпки. Първо, доставчиците следва да вземат предвид аудиторията, с която е предвидено и има разумна вероятност системата с ИИ да взаимодейства. Второ, доставчикът следва да прецени доколко средностатистическият член на тази аудитория е осведомен, наблюдателен и съобразителен в разумни граници, като вземе предвид обстоятелствата и контекста на използване. При извършването на тази оценка следва да се вземат предвид няколко фактора:

—

Доставчиците следва да вземат предвид целевата аудитория на системата с ИИ, както и по-широка потенциална аудитория, която е разумно предвидима. Това ще бъде особено важно, ако широката общественост има лесен достъп до системата с ИИ или ако системата функционира във виртуални или физически обществени пространства и е способна да взаимодейства с физически лица, присъстващи в тези пространства. Аудиторията, която може да бъде изложена на въздействието на система с ИИ, невинаги съвпада с целевата аудитория.

—

Доставчиците следва да вземат предвид потенциалния разнообразен състав на целевата и разумно предвидимата аудитория в съответствие със съображение 132 от Акта за ИИ. Когато е вероятно лица с увреждания, възрастни хора или ненавършили пълнолетие лица да бъдат част от тази аудитория, очакваните нива на информираност, внимание и предпазливост на средностатистическия представител на такава аудитория ще бъдат по-ниски в сравнение със средностатистическия представител на аудитория, която не включва тези категории лица. От друга страна, ако интерактивната система с ИИ е достъпна само за професионална или специализирана целева аудитория, това би могло да повлияе положително на очакваните равнища на знания, наблюдателност и съобразителност и средностатистическият представител на тази аудитория може да се счита за по-добре информиран и по-наблюдателен и съобразителен.

—

Като част от по-широките обстоятелства и контекста на употреба доставчиците следва да вземат предвид нивото на цифровата грамотност и грамотността в областта на ИИ на целевата и разумно предвидимата аудитория, както и съответните социални, културни и езикови фактори.

(45)

Очевидност: при установяването на физическо лице, което хипотетично е в разумни граници осведомено, наблюдателно и съобразително, доставчиците следва да оценят дали за такова лице ще бъде очевидно, че взаимодейства пряко със система с ИИ. Изключението следва да се тълкува в тесен смисъл, като се има предвид, че то лишава физическите лица от защитата и правото да бъдат информирани чрез ясно и добре различимо оповестяване, че взаимодействат със системи с ИИ. Общата осведоменост на потребителите и другите физически лица, че съществуват системи с ИИ (включително чатботове и агенти), не означава, че те ги разпознават при взаимодействие. Няколко фактора могат да бъдат от значение и да бъдат взети предвид като част от оценката дали взаимодействието е очевидно:

—

Очакваното естество на взаимодействието: в случаите, когато системата с ИИ взаимодейства физически с физически лица, относимите елементи могат да включват видимостта на механичните компоненти (което би увеличило очевидността) или степента, в която системата с ИИ автентично възпроизвежда своя неизкуствен еквивалент (което би намалило очевидността). При взаимодействия, които са от визуален или слухов характер, тази оценка може да бъде повлияна от елементи като модели на писане или реч, тон на гласа (роботизиран глас срещу истински, звучащ като човешки глас), проектиране на потребителския интерфейс (например профилна снимка, свързана с чатбот, която показва човек) и способността за усъвършенствано персонализирано взаимодействие.

—

Състав на целевата и предвидимата аудитория: Ако интерактивната система с ИИ е достъпна само за професионална или специализирана аудитория, без потенциално излагане на уязвими групи, това би могло да увеличи възможната очевидност на изкуствения характер на взаимодействието за средностатистическия член на съответната аудитория. От друга страна, ако до системата с ИИ може да има достъп широката общественост или потребители, които включват и уязвими лица (например деца, възрастни хора, лица с когнитивни, физически или психически увреждания или лица с по-ниска грамотност в областта на ИИ), за които взаимодействието е по-малко очевидно, изключението не може да бъде използвано за осигуряването на ефективна защита на тези уязвими ползватели.

—

Следва да се обърне внимание и на факта, че за физическите лица става все по-трудно да разберат дали взаимодействат със система с ИИ, или с реално човешко същество. Поради използването на аватари и агенти, общата анонимност на взаимодействията онлайн и възможностите на системите с ИИ да пишат и взаимодействат по човешки начин изключението за „очевидност“ следва да бъде ограничено до случаи, в които почти няма съмнение относно характера на взаимодействието за средностатистическо лице от целевата и разумно предвидимата аудитория.

Примери за очевидност, за които задължението за прозрачност съгласно член 50, параграф 1 от Акта за ИИ не се прилага:

—

чатботове за помощ при писане на код и преглед на код, основани на ИИ, достъпни само за професионални разработчици, които поради своя опит и контекста на употреба нямат разумно очакване да взаимодействат с човек и могат лесно да разпознаят, че предложенията са генерирани от система с ИИ;

—

вътрешен асистент за служители, предназначен за подходящо обучен персонал, който притежава грамотност в областта на ИИ и е наясно, че използва системи с ИИ за вътрешни организационни цели (например човешки ресурси, правни въпроси, обществени поръчки, съответствие или ИТ поддръжка);

—

интерактивни системи с ИИ, предназначени да се използват само от подходящо обучени здравни специалисти за подпомагане на медицинската диагностика и предлагане на свързани лечения;

—

ИИ за околната среда (Ambient-AI), вграден в домакински уреди с функционалности, ограничени до подпомагане и работа с домакинския уред;

—

взаимодействия с неигрови персонажи (NPC), поддържани от ИИ, във видеоигра за един играч, при които естеството на видеоиграта показва ясно, че никое друго физическо лице не може да участва и да взаимодейства с потребителя, а ИИ естеството на взаимодействието също е очевидно за всички ползватели (включително уязвими лица).

Примери, които не отговарят на изключението за очевидност и за които се прилага задължението за прозрачност съгласно член 50, параграф 1 от Акта за ИИ:

—

роботизиран домашен любимец компаньон на основата на ИИ, който изглежда много подобен на своя естествен еквивалент и е проектиран да имитира типично взаимодействие между човек и домашен любимец, създавайки неяснота дали взаимодействието е със система с ИИ, или не;

—

системи с ИИ, вградени в потапящи среди (например виртуална или добавена реалност), използващи реалистични аватари или гласове, наподобяващи човешки, при които потребителите, и по-специално децата, възрастните хора или лицата с увреждания, може да не са в състояние лесно да разграничат взаимодействието между човек и ИИ;

—

чатботове с ИИ, вградени в онлайн платформи или инструменти за поддръжка, при които ползвателите взаимодействат пряко и получават резултати от ИИ (например отговори на запитвания или друго генерирано от ИИ съдържание), които те могат да възприемат като генерирани от човек.

3.2.2.   Изключение за разрешени от закона системи с ИИ за правоохранителни цели

(46)

Доставчиците на интерактивни системи с ИИ са освободени от задължението за прозрачност съгласно член 50, параграф 1 от Акта за ИИ, ако са разрешени по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления, при спазване на подходящи гаранции за правата и свободите на трети лица.

(47)

Изразът „разрешени по закон“ следва да се разбира като включващ правото на Съюза, както и националното право на държавите членки, прието в съответствие с правото на Съюза. В закона, разрешаващ използването на системата с ИИ, трябва ясно да се определят целите и обстоятелствата на разрешеното използване и да се предвиждат подходящи гаранции за защита на правата и свободите на трети лица. Предвид технологично неутралния подход на Акта за ИИ не е необходимо да се установяват или разрешават конкретни системи с ИИ по закон, когато използването на системата с ИИ е общо предвидено в обхвата на законово разрешената дейност и е в съответствие с приложимата правна рамка.

(48)

За да попадне в обхвата на това изключение, целта на системата с ИИ трябва да бъде разкриване, предотвратяване, разследване или наказателно преследване на престъпления (например ИИ агент под прикритие, системи с ИИ, използвани под човешки контрол от разследващи органи за онлайн разследвания или комуникация с лица, които могат да бъдат замесени в престъпни дейности). Изключението не е ограничено до използването на такива системи с ИИ само от правоохранителни органи, както са определени в член 3, точка 48 от Акта за ИИ, а може да обхваща и интерактивни системи с ИИ (системи с генеративен ИИ), използвани от други органи на Съюза или национални публични органи, стига използването им да е разрешено по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления и при спазване на подходящи гаранции за защита на правата и свободите на трети лица. Изключението не изисква системата с ИИ да може да провежда разследванията независимо. Ако съответна система може да се използва както за правоохранителни цели, така и за други обичайни цели, приложимостта на освобождаването следва да се оценява с оглед на конкретното внедряване. Задълженията за прозрачност продължават да се прилагат, когато същата система с ИИ се внедрява за цели, различни от разрешено по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления. Прозрачността все още трябва да бъде осигурена на физическите лица, когато те взаимодействат със системата в контекста на нейните обичайни цели.

(49)

Изключението не се прилага, ако i) системата с ИИ е добщодостъпна и ii) системата предлага функционалност на лицата да подават сигнали за престъпления. Такива системи могат да се използват, но те остават предмет на задължението за прозрачност съгласно член 50, параграф 1 от Акта за ИИ, така че физическите лица трябва да бъдат информирани, че взаимодействат с такива системи.

За по-голяма яснота това изключение се отнася единствено до задължението по член 50, параграф 1, съгласно което физическите лица трябва да бъдат информирани, че взаимодействат със система с ИИ (22). Това не засяга приложимото право на Съюза и националното право, включително процесуалните правила относно документирането, разкриването, допустимостта и оценката на доказателствата.

Примери за общодостъпни системи с ИИ за подаване на сигнали за престъпления, които не са освободени и попадат в приложното поле на член 50, параграф 1 от Акта за ИИ:

—

полицейски чатботове с ИИ, внедрени на официални полицейски уебсайтове или мобилни приложения, които позволяват на лицата да подават сигнали за престъпления или жалби. Тези системи насочват потребителите чрез структурирани въпроси, събират съответната информация и сортират сигналите, преди да ги препратят към служители за оценка;

—

· телефонни горещи линии на основата на ИИ, управлявани от полицията или друг правоохранителен орган за запитвания от широката общественост;

—

подпомагани от ИИ горещи линии или цифрови портали за подаване на сигнали за измами, управлявани от финансови институции или публични органи, чрез които потребителите могат да подават сигнали за подозрения за финансови престъпления. Системата с ИИ взаимодейства с ползвателя, за да събере подробности, да класифицира сигнала и да приоритизира случаите, докато следователите валидират информацията, преди да бъдат предприети каквито и да е действия;

—

виртуални асистенти, използвани за събиране на показания от свидетели, при които жертви или свидетели могат да подават информация чрез интерфейс, управляван от ИИ. Такива системи с ИИ могат да поддържат многоезично въвеждане, функции за достъпност и структурирано представяне на доказателства, но окончателната оценка и следствените действия остават в правомощията на органи, създадени от хора.

3.3.   Взаимодействие с други правни актове на Съюза

(50)

Задължението за прозрачност съгласно член 50, параграф 1 от Акта за ИИ се прилага, без да се засяга действащото законодателство на Съюза в областта на защитата на потребителите, защитата на данните, цифровите технологии или недискриминацията, което може да изисква предоставянето на друга информация, която не е специфична за свързания с ИИ произход на взаимодействието. По-специално съгласно Директива 2005/29/ЕО (Директивата за нелоялни търговски практики, ДНТП) (23) заблуждаващите действия или пропуски по отношение на основните характеристики на продукт или услуга са забранени. Освен това с Директива 2011/83/ЕС (Директивата за правата на потребителите) (24) от търговците се изисква да предоставят ясна и разбираема преддоговорна информация относно основните характеристики на стоките или услугите. Когато дадена услуга е на основата на ИИ (като чатбот на абонаментен принцип, приложение за компаньони с ИИ или услуга за виртуални напътствия), функционалността на ИИ може да се квалифицира като съществена характеристика, която трябва да бъде разкрита, преди потребителят да бъде обвързан с договор. Задълженията за предоставяне на информация съгласно законодателството на Съюза за защита на потребителите се прилагат независимо от това дали взаимодействието се счита за „очевидно“ съгласно член 50, параграф 1 от Акта за ИИ. Тези задължения се допълват и като общи информационни задължения за защита на потребителите, докато задължението за уведомяване съгласно Акта за ИИ е по-контекстуално и има за цел да гарантира текуща осведоменост на всички физически лица относно прякото взаимодействие със система с ИИ най-малко преди началото му и по време на цялото взаимодействие.

(51)

Актът за цифровите услуги (АЦУ) включва също изисквания за прозрачност за препоръчващите системи на онлайн платформите, включително изискване за обяснение на основните параметри за класиране. Тези задължения допълват задълженията за прозрачност, предвидени в член 50, параграф 1 от Акта за ИИ, тъй като те имат различен обхват и цел и се отнасят до системи, които по принцип не взаимодействат пряко с ползвателите по смисъла на член 50, параграф 1 от Акта за ИИ.

(52)

Що се отнася до задълженията за предоставяне на информация на субектите на данни съгласно правото на Съюза в областта на защитата на данните, задължението по член 50, параграф 1 от Акта за ИИ изпълнява различна от тези задължения цел и като такова не засяга задълженията за предоставяне на информация.

(53)

По същия начин задължението за прозрачност съгласно член 50, параграф 1 от Акта за ИИ се прилага, без да се засяга правото на Съюза и националното право относно предоставянето на информация на лица в контекста на наказателни производства (напр. Директива 2012/13/ЕС или Директива 2012/29/ЕС, изменена с Директива (ЕС) 2026/1472) (25).

4.   ЧЛЕН 50, ПАРАГРАФ 2 ОТ АКТА ЗА ИИ: МАРКИРАНЕ И ОТКРИВАНЕ НА ГЕНЕРИРАНО ИЛИ ОБРАБОТЕНО ОТ ИИ СЪДЪРЖАНИЕ

(54)

С член 50, параграф 2 от Акта за ИИ от доставчиците на системи с ИИ, генериращи синтетично съдържание, се изисква да прилагат технически решения, които отговарят на определени изисквания за качество за машинночетимо маркиране и откриване на резултатите от техните системи с ИИ. Целта е да се даде възможност на физическите лица да разграничават генерираното или обработено от ИИ съдържание от друго съдържание (например съдържание, създадено от хора) и да проверяват неговия произход, като по този начин се допринася и за повишаване на целостта и доверието в информационната екосистема.

(55)

Бенефициери на това задължение за прозрачност са следователно всички физически лица, които вероятно ще бъдат изложени на генерираното или обработено от ИИ съдържание, както и ключови участници, които играят важна роля за доверието и целостта на информационната екосистема, като например компетентни органи за надзор на пазара и други компетентни органи, независими изследователи, организации на гражданското общество, медии, доверени податели на сигнали, защитници на основните права, доставчици на онлайн платформи и онлайн търсачки, носители на права и други създатели и разпространители на съдържание и др.

4.1.   Основни компоненти и концепции по член 50, параграф 2 от Акта за ИИ

(56)

Член 50, параграф 2 от Акта за ИИ се прилага, ако са изпълнени няколко кумулативни условия:

i)

системата трябва да се квалифицира като система с ИИ;

ii)

системата с ИИ трябва да бъде способна да генерира или обработва синтетично съдържание;

iii)

съдържанието трябва да бъде в една или повече от следните форми: аудио съдържание, изображения, видео или текстово съдържание;

iv)

системата с ИИ не трябва да попада в нито едно от следните изключения: 1) системата с ИИ изпълнява помощна функция за стандартно редактиране; 2) системата с ИИ не променя съществено въведените от внедрителя входящи данни или семантиката им; или 3) системата с ИИ е разрешена по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления.

4.1.1.   Системи с ИИ, които генерират или обработват синтетично съдържание

(57)

Член 50, параграф 2 от Акта за ИИ се прилага за системи с ИИ (26), включително системи с ИИ с общо предназначение, генериращи синтетично аудио съдържание, изображения, видео или текстово съдържание. Член 50, параграф 2 от Акта за ИИ обхваща подгрупа от системи, които отговарят на определението за „система с ИИ“ в член 3, точка 1 от Акта за ИИ и които генерират такива резултати. Член 50, параграф 2 от Акта за ИИ обхваща и системи с ИИ, използвани за обработване на съдържание.

(58)

Генерирането на съдържание се отнася до генерирането на синтетичен материал от система с ИИ (например въз основа на подкана от човек), като например генериране на синтетично изображение или песен. На практика това означава, че член 50, параграф 2 от Акта за ИИ може да се прилага за системи с генеративен ИИ, проектирани с тясна предвидена цел за генериране на конкретни резултати. В същото време член 50, параграф 2 от Акта за ИИ се прилага и за системи с ИИ, които могат да служат за множество цели, включително системи с ИИ с общо предназначение, и могат да произвеждат разнообразни видове съдържание, както и системи с ИИ агент, стига те да генерират синтетично аудио съдържание, изображения, видео или текстово съдържание.

(59)

От друга страна, обработването на съдържание се отнася до вече съществуващо съдържание (независимо дали е синтетично, или не), което се променя от система с ИИ (например съществуващо изображение или звукозапис, който се обработва от система с ИИ в съответствие с инструкции от човек). За да попадне съдържанието в обхвата на член 50, параграф 2 от Акта за ИИ, е достатъчно то да бъде генерирано или обработено от ИИ извън стандартното редактиране съгласно изключенията, предвидени в член 50, параграф 2 от Акта за ИИ (вж. раздел 4.3). Освен това съгласно член 50, параграф 2 от Акта за ИИ не се изисква съдържанието да бъде генерирано или обработено единствено от ИИ. Съдържание, което е смесено с материал, създаден от човек, също се квалифицира като синтетично съдържание, ако е обработено или генерирано в рамките на едно от условията, посочени в член 50, параграф 2 от Акта за ИИ.

4.1.2.   Условия за синтетично съдържание в обхвата

(60)

В член 50, параграф 2 от Акта за ИИ се предоставя изчерпателен списък на условията за синтетичното съдържание, обхванати от задължението за прозрачност: аудио съдържание, изображения, видео или текстово съдържание Това включва и мултимодално съдържание, т.е. съдържание, съставено от комбинация от тези условия. За целите на член 50, параграф 2 от Акта за ИИ различните условия следва да се тълкуват в съответствие с практическите и технологичните развития, които могат да се променят с течение на времето. За момента те следва да се разбират, както следва:

—

Под „текст“ се разбира дискретно символно съдържание, съставено от знаци или числа, подредени в определена последователност, които могат да бъдат прочетени и семантично интерпретирани от хора.

—

Изображенията се отнасят до статични пространствени представяния, с които се кодира визуална информация и които могат да бъдат видени от хора.

—

Под „аудио“ се разбира променящ се във времето сигнал, кодиращ звук, който може да бъде възприет чрез слуха от хора. Това може да обхваща реч, инструментална музика или други аудиосигнали.

—

Под „видео“ се разбира базирана на времето последователност от изображения, които могат да бъдат синхронизирани с аудио и които могат да бъдат възприети от хора. В този случай както видео, така и аудио съдържанието трябва да бъдат маркирани и трябва да се осигури възможност за тяхното разпознаване, както е посочено по-долу.

(61)

Системите с ИИ, с които се генерират или обработват 3D изображения, 3D видеоклипове и 3D аудио, както и виртуална, добавена или смесена реалност, попадат в приложното поле на член 50, параграф 2 от Акта за ИИ. С израза „виртуална реалност“ се обхващат технологиите с ИИ, които позволяват на ползвателите да придобиват опит и да взаимодействат с компютърно генерирана среда, симулираща физическо присъствие, и които позволяват взаимодействие на ползвателя в реално време с тази среда. Тъй като виртуалната и добавената реалност се състоят от базирана на времето последователност от изображения, евентуално синхронизирани с аудио, които представляват визуална промяна във времето, те могат да се считат за „видео“ съдържание. Съответният „резултат“, който трябва да бъде маркиран, е окончателната форма на индивидуалния актив, генериран от ИИ, със специални изключения за ефимерните интерактивни сесии в реално време съгласно точка 88 по-долу. Не е необходимо цифровите артефакти, използвани за генериране на 3D изображения, 3D видеоклипове и 3D аудио съдържание, като облак от точки или 3D мрежа, да бъдат маркирани.

(62)

Цифровите близнаци, които предоставят виртуално копие на лица, физически обекти или системи, интегриращи множество типове данни, също попадат в приложното поле на член 50, параграф 2 от Акта за ИИ, ако са генерирани или обработени от ИИ и са под формата на аудио, изображение, видео или текст, освен ако не попадат в изключенията и не се квалифицират като „промишлени приложения“ или „приложения между предприятия“ съгласно точка 87 по-долу, или ефимерно съдържание в реално време съгласно точка 88 по-долу.

(63)

Член 50, параграф 2 от Акта за ИИ може да се прилага и за ИИ агенти, ако ИИ агентът предприема действие, чийто резултат е изкуствено генерирано или обработено съдържание, което може да се възприема от физически лица под формата на аудио, изображение, видео или текст. Поради това тези резултати трябва да бъдат обозначени и откриваеми, както е описано по-долу. От друга страна, всяко действие на ИИ агент, което не включва генерирано или обработено от ИИ съдържание (например междинни етапи на обработка като разсъждение и мисловна верига), или генерирано от ИИ действие, което не е предназначено да бъде пряко възприето от физически лица (например уеб заявка или действие в браузър), не се квалифицира като синтетично съдържание в приложното поле на член 50, параграф 2 от Акта за ИИ и не е необходимо да спазва задълженията за маркировка и откриване.

4.1.3.   Съдържание, което не попада в приложното поле на член 50, параграф 2 от Акта за ИИ

(64)

Съдържание, генерирано от система с ИИ въз основа на проста обработка на данни, което не е специално генерирано или обработено от ИИ, например рендиран кадър, попада извън приложното поле на член 50, параграф 2 от Акта за ИИ.

(65)

Освен това резултат от система с ИИ, който просто възпроизвежда съществуващо съдържание или позволява представянето или подреждането на вече съществуващо съдържание, не попада в приложното поле на член 50, параграф 2 от Акта за ИИ. Това например може да бъде случаят при музикални плейлисти или други системи за препоръки, които само избират или класират съществуващо съдържание въз основа на предпочитанията или активността на ползвателите, без да създават нищо ново или да обработват самото съдържание. Това се прилага и за системите с ИИ, използвани във вътрешни аналитични процеси, които извличат и структурират данни, но не ги обобщават.

(66)

То важи също така и за входящите и изходящите данни на система с ИИ, които представляват просто наблюдения и записи на данни от физически или виртуални среди, които не са генерирани или обработени от ИИ (например от роботи или други сензори, използващи ИИ), или предавания на данни от системи с ИИ без никаква промяна. Това обхваща голямо разнообразие от входящи и изходящи данни на системи с ИИ, по-специално в промишлени условия, като например производствени данни за роботи, наблюдаващи данни; потребление, отчетено от интелигентни измервателни уреди, използващи ИИ, измервания на честотата и напрежението на мрежата; както и записване на данни за GPS местоположение от превозни средства и др.

(67)

Освен това, тъй като целта на задължението за прозрачност по член 50, параграф 2 от Акта за ИИ е да позволи на хората да разграничават генерираното или обработеното от ИИ съдържание, така че да се справят с рисковете от заблуда и манипулация и да се гарантират почтеността и доверието в информационната екосистема, всяко съдържание, което не е свързано с тази цел и което не може да се възприема или не е предназначено да бъде тълкувано, проверявано или използвано от физически лица, не е цел на тази разпоредба.

(68)

По-специално следното съдържание следва да се счита за попадащо извън приложното поле на член 50, параграф 2 от Акта за ИИ:

—

резултати, генерирани под формата на кратка поредица от числа, символи или букви (например отделни думи, надписи към изображения, алтернативен текст, етикети на потребителския интерфейс и графики с размер на икони, надписи към изображения и други обозначения на данни);

—

изходен код, разбиран като съдържание, написано на език за програмиране, скриптиране, маркиране, заявяване или конфигуриране, което е предназначено да бъде тълкувано, компилирано или изпълнено от компютърна система, независимо дали се състои от текстови знаци. Това може също да включва коментари на естествен език и контекстуална информация, които са неразделна част от изходния код. По подобен начин са изключени комплекти за разработка на софтуер (SDK), език за структурирани заявки (SQL), инфраструктура като код и конфигурации на „YAML Ain’t Markup Language“ (YAML) и JavaScript Object Notation (JSON), схеми, скриптове, машинночетими спецификации, интерфейси за програмиране на приложения (API) и софтуерни библиотеки;

—

резултати от система с ИИ, предназначени изключително за комуникация между машини и за автоматична обработка без какво и да е излагане на физически лица, например комуникация между агенти, сигнали срещу спам, доколкото не се възприемат от физически лица;

—

резултати, които се използват само в среди със затворен цикъл в работни процеси за промишлено развитие и разработване на продукти (например за производство на филми, анимация, игри или реклама), освен ако не са крайният резултат от системата с ИИ под формата на генерирано или обработено от ИИ текстово, аудио, графично или видео съдържание. В тези случаи само крайният резултат от етапите на работния процес трябва да бъде маркиран и откриваем.

4.2.   Задължението за маркировка и откриване съгласно член 50, параграф 2 от Акта за ИИ

(69)

В член 50, параграф 2 от Акта за ИИ се определя задължение за прозрачност за доставчиците на системи с генеративен ИИ, които попадат в приложното поле на посочената разпоредба, състоящо се от два отделни, но неразривно свързани елемента. Първо, доставчиците трябва да гарантират, че резултатите от системата с ИИ са представени в машинночетим формат. Второ, доставчиците трябва да гарантират, че резултатите са разпознаваеми като изкуствено генерирано или обработено съдържание. За всяко внедрено решение за маркиране доставчиците следва да гарантират, че са налични съответни средства за откриване (както е посочено по-долу), за да се даде възможност на изложените на съдържанието физически лица и на други съответни участници да установят и разграничат изкуствено генерираното от системата с ИИ съдържание от друго съдържание. Под „техническо решение“ следва да се разбира комбинация от техники за маркиране и средства за откриване, които доставчикът е приложил, за да изпълни задължението за прозрачност съгласно член 50, параграф 2 от Акта за ИИ.

(70)

Всеки от двата горепосочени елемента трябва да бъде изпълнен, за да се постигнат ефективно целите на задълженията за прозрачност съгласно член 50, параграф 2 от Акта за ИИ. Изпълнението само на един елемент (например за машинночетимо маркиране на изходни резултати без наличие на средства за тяхното откриване) няма да бъде достатъчно за спазване на тази разпоредба (27).

4.2.1.   Задължение за маркировка

(71)

Обхватът на задължението за маркировка е ограничен до прилагане на марки в машинночетим формат. Изразът „машинночетим формат“ означава, че маркировките са структурирани по начин, който позволява на софтуерните приложения лесно да ги идентифицират, разпознават и извличат без човешка намеса. Маркировки и обозначения, които лесно се възприемат, не са изключени като допълнителна мярка, когато е целесъобразно, с оглед улесняване на спазването от страна на внедрителите на тяхното задължение да обозначават убедителни фалшификати съгласно член 50, параграф 4 от Акта за ИИ.

(72)

За да спазят задължението за маркировка, доставчиците могат да разчитат на единна техника за маркиране или на комбинация от техники, стига цялостното им техническо решение да е машинночетимо и да отговаря на изискванията за ефективност, оперативна съвместимост, стабилност и надеждност в законово изискваната степен, както е предвидено в член 50, параграф 2, второ изречение от Акта за ИИ (вж. раздел 4.2.3. по-долу).

(73)

В съображение 133 от Акта за ИИ се предоставят примери за такива техники, включващи водни знаци, идентификации въз основа на метаданни, криптографски методи за доказване на произхода и автентичността на съдържанието, методи за водене на регистри, пръстови отпечатъци или други техники, както и комбинация от такива техники. Въпреки че в съображение 133 от Регламента за ИИ са посочени методите за доказване на произход и автентичност, от доставчиците не се изисква да записват или съхраняват пълна верига на произход, съдържаща информация за произхода на съдържанието и модификациите или всяко друго съответно твърдение относно историята на съдържанието. Такива методи за установяване на произхода могат обаче да се използват и за спазване на член 50, параграф 2 от Акта за ИИ и да допринесат за това физическите лица да могат да разграничават генерираното или обработеното от ИИ съдържание от автентичното съдържание.

(74)

Доставчиците могат да прилагат решението за маркировка на резултатите на различни етапи от веригата на стойността (напр. постфактум след генерирането на съдържанието на равнището на системата с ИИ, на равнището на основния модел с ИИ или интегрирано в процеса на извеждане на системата с ИИ). Те могат да се позоват на решението за маркировка, прилагано от доставчик на модел нагоре по веригата или от трето лице, предоставящо решението (например като отворен стандарт или специализирана услуга), доколкото решението за маркировка е в съответствие с член 50, параграф 2 от Акта за ИИ. Такова позоваване не засяга отговорността на доставчика на системата с ИИ да докаже съответствие с член 50, параграф 2 от Акта за ИИ.

4.2.2.   Задължения за откриване

(75)

Доставчиците на системи с ИИ, попадащи в приложното поле на член 50, параграф 2 от Акта за ИИ, трябва да гарантират, че резултатите от техните системи са разпознаваеми като изкуствено генерирано или обработено съдържание. Това означава, че доставчикът е задължен да гарантира, че средствата за откриване са достъпни за лицата, потенциално изложени на съдържанието. Освен това, в съответствие с член 50, параграф 5 от Акта за ИИ, такива решения за откриване следва да могат да предоставят резултати, които са четими от хора и показват дали съдържанието е изкуствено генерирано, или обработено.

(76)

Инструментът за откриване е механизъм, с който се установява дали съдържанието е генерирано, или обработено от ИИ, като обикновено се установяват технически маркери или подписи, които потвърждават неговия произход. За да се осигури пълна оперативна съвместимост, доставчиците трябва да разчитат на публично достъпни промишлени стандартни решения за откриване, които позволяват на всяко трето лице да приложи откриване, което в идеалния случай е локално изпълнимо на цифровото устройство и позволява безпроблемна интеграция в самостоятелни, изолирани мрежи. Когато такива стандарти не са налице, по-специално на първоначалния етап от прилагането на член 50, параграф 2 от Акта за ИИ по отношение на технологиите за поставяне на водни знаци, доставчикът може да разчита на собствено решение за откриване или на решение за откриване от трето лице или споделено решение, стига тези решения да осигуряват оперативна съвместимост с решенията за откриване, използвани от други доставчици (вж. раздел 4.2.3.). Тази възможност следва да бъде ограничена във времето, докато се появят хармонизирани стандарти и стандартизирано, независимо от доставчика, оперативно съвместимо решение за откриване, което е сигурно, запазва неприкосновеността на личния живот и е локално изпълнимо.

(77)

В член 50, параграф 5 от Акта за ИИ допълнително се уточнява, че информацията, посочена в член 50, параграф 2 от Акта за ИИ, следва да се предоставя на засегнатите физически лица по ясен и добре различим начин най-късно в момента на първото взаимодействие или първия контакт. Тази информация е по-специално резултатът от откриването, който показва дали съдържанието е изкуствено генерирано, или обработено, а не самото изкуствено генерирано или обработено съдържание. Изразът „в момента на първия контакт“ следва да се разбира като момента, в който физическите лица желаят да проверят произхода на конкретно съдържание и да получат достъп до решението за откриване, за да получат резултатите от откриването.

(78)

Ако доставчикът на системата с ИИ зависи от друг субект за предоставянето или достъпа до решение за откриване, той трябва да гарантира, че решението за откриване е в съответствие с член 50, параграфи 2 и 5 от Акта за ИИ и че тези субекти показват резултатите от откриването в съответствие с член 50, параграф 5 от Акта за ИИ (вж. раздел 7).

4.2.3.   Съответствие с изискванията за технически решения: ефективни, оперативно съвместими, сигурни и надеждни

(79)

В член 50, параграф 2, второ изречение от Акта за ИИ се предвижда, че техническите решения за маркиране и откриване трябва да бъдат ефективни, оперативно съвместими, сигурни и надеждни. Тези изисквания следва да се разбират, както следва:

—

Ефективността се отнася до способността на прилаганото от доставчиците техническо решение да открива техните маркировки и да дава възможност на физическите лица да различават изкуствено генерирано или обработено съдържание, произведено от тяхната система с ИИ, като по този начин да допринася за доверието и целостта на информационната екосистема.

—

Надеждността се отнася до способността на техническото решение да установява и различава точно генерирано или обработено от ИИ съдържание от друго съдържание при номинални условия в рамките на разнообразието от съдържание, генерирано или обработено от системата с ИИ на доставчика.

—

Надеждността се отнася до способността на техническото решение точно да установи и различава генерирано или обработено от ИИ съдържание, произведено от системата с ИИ на доставчика, от друго съдържание при променящи се условия, обхващащи както често срещани промени, така и състезателни атаки.

—

Оперативната съвместимост се отнася до способността на различните технически решения за маркиране и откриване да работят безпроблемно в множество системи, субекти, контекст и технически изпълнения, за да позволят разпознаването на генерирано или обработено от ИИ съдържание, независимо от техниката(ите) за маркировка, внедрена(и) от доставчиците на различни системи с ИИ.

(80)

Доставчиците трябва да гарантират, че комбинацията от технически решения за маркиране и откриване отговаря в своята цялост на всички гореспоменати изисквания в законово изискваната степен, като се вземат предвид ограниченията и допълняемостта на различните внедрени решения. Техническите решения трябва да отговарят на всички изисквания, доколкото това е технически осъществимо, като се вземат предвид особеностите и ограниченията на различните видове съдържание, разходите за прилагане и общопризнатите съвременни технически постижения, като това може да бъде отразено в подходящи технически стандарти.

(81)

„Технически осъществими“ решения по смисъла на член 50, параграф 2 от Акта за ИИ са решения, които могат да бъдат прилагани за условията, обхванати от приложното поле на разпоредбата, като се използват наличните към момента технологии, методи и инженерни практики, в рамките на конкретната техническа архитектура и оперативна среда. Доставчикът не е длъжен да използва техническо решение, което все още не е разработено или налично на пазара, или чието прилагане е технически неосъществимо. Техническата осъществимост е обективно понятие, което не зависи от специфичните ресурси и възможности на отделните доставчици.

(82)

С член 50, параграф 2 от Акта за ИИ от доставчиците се изисква да прилагат технически осъществимо(и) решение(я), които са в съответствие с общопризнатите съвременни технически постижения, за да отговорят на четирите изисквания за качество: ефективност, стабилност, надеждност и оперативна съвместимост.

(83)

Под „съвременните технически постижения“ следва да се разбира развит етап на техническите възможности в даден момент по отношение на продукти, процеси и услуги, основан на съответните консолидирани научни, технологични и практически открития и който е приет като добра практика в технологиите (28). „Съвременните технически постижения“ не предполагат непременно най-новите научни изследвания, които все още са в експериментален етап или с недостатъчна технологична зрялост. Доставчиците трябва непрекъснато да адаптират своите решения за маркиране и откриване своевременно и пропорционално с развитието на технологиите и общопризнатите съвременни технически постижения.

(84)

С оглед на член 50, параграф 7 от Акта за ИИ доставчиците могат да се основават на кодекс за добри практики, оценен като подходящ в съответствие с посочената разпоредба, за да докажат спазването на задълженията за маркировка и откриване по член 50, параграфи 2 и 5 от Акта за ИИ, който е в съответствие със съвременните технически постижения. За допълнителна информация относно последиците от придържането към такъв кодекс и надзора върху други доставчици, които не се придържат към кодекс, вж. раздел 8.1 по-долу.

(85)

Разходите за прилагане на някои технически решения за маркиране и откриване също могат да бъдат взети предвид. В определени случаи, както е описано в следните точки, разходите могат да бъдат непропорционални спрямо маргиналните ползи, които имат по-ограничена стойност за това хората да различават генерирано или обработено от ИИ съдържание и за осигуряване на целостта и доверието в информационната екосистема.

(86)

Ето защо може да има строго определени случаи, в които техническо решение, основано на по-малко стабилни маркировки на метаданни, е достатъчно за целите на спазването на член 50, параграф 2 от Акта за ИИ, като се вземат предвид спецификите на резултатите от системата с ИИ, ако те носят по своята същност по-ниски рискове от заблуда, манипулация или отрицателни ефекти върху информационната екосистема. Това е конкретно случаят, когато генеративна система с ИИ е вградена във физически продукти, генериращи резултати в технически контролирана и затворена среда, която е предимно с инструктивен характер (например система с ИИ, вградена в навигационни системи в превозни средства), доколкото в продукта са вградени ефективни технически мерки за предотвратяване на излизането на резултата от средата на продукта, например чрез улавяне или експортиране и разпространение извън него.

(87)

Може също да има ограничени случаи на „промишлени приложения на ИИ“ или „приложения между предприятия“ (с изключение на публични и насочени към потребителите системи с ИИ), при които принципът на пропорционалност и ограничените ползи за целите на прозрачността означават, че не се изискват маркиране и откриване на генерирани или манипулирани от ИИ резултати. Това важи само ако следните изисквания са изпълнени кумулативно:

i)

генерираният от системата с ИИ резултат е строго технически по характер, например инженерни проекти, работни процеси в промишленото производство, технически инструкции, резултати, генерирани в резултат на процеси на прогнозна поддръжка на системи в промишлени условия, вътрешни процеси на документиране или производствени стъпки и работни процеси, преди резултатът да бъде финализиран и предоставен на други външни лица или на обществеността;

ii)

генерираният от системата с ИИ резултат е предназначен да бъде възприеман и обработван само от ограничен, предварително определен брой физически лица, действащи в професионално качество в рамките на организацията на доставчика и внедрителя;

iii)

генерираният от системата с ИИ резултат не трябва да бъде предназначен за споделяне извън дружеството или за използване от външни лица, като са въведени подходящи гаранции за избягване на разумно предвидима злоупотреба (например изолация в облак, проверки въз основа на ролята).

(88)

Генерирането на съдържание в реално време, което е ефимерно и се консумира незабавно, без да бъде записвано, съхранявано или разпространявано допълнително (например във видеоигри, приложения за виртуална реалност), може също да бъде освободено, когато маркирането не е технически осъществимо и лицата, изложени на съдържанието, са информирани, че съдържанието е генерирано или обработено от ИИ (например оповестяване в рамките на преживяването, известия на равнище сесия).

4.3.   Изключения от задълженията по член 50, параграф 2 от Акта за ИИ

(89)

В член 50, параграф 2 от Акта за ИИ се предвиждат три изрични изключения от задълженията за прозрачност, установени в посочената разпоредба

(90)

Първото изключение се отнася до системи с ИИ, доколкото те изпълняват помощна функция за стандартно редактиране. Стандартното редактиране следва да се разбира като процес на подготовка на съществуващо съдържание за публикуване или разпространение (например малки редакции за подобряване на четливостта и граматиката, качеството и формата), който не включва генериране на ново съдържание. Стандартното редактиране има за цел да гарантира, че съдържанието, наред с другото, е без очевидни технически или граматически езикови грешки, е в съответствие с приложимите изисквания за оформление, представяне, форматиране или достъпност, или е в съответствие със секторните практики. Редактирането надхвърля стандартното редактиране, ако съдържанието е променено по съществен начин (съществени изменения, структурни промени и др.), които засягат неговото значение, стил или намерение.

(91)

Второто изключение се прилага, когато система с ИИ не променя съществено въведените от внедрителя входящи данни или семантиката им. Една промяна следва да се счита за съществена, ако входящите данни или тяхната семантика са били значително обработени от системата с ИИ по време на процеса на генериране на изходящи данни. Това следва да се основава на оценка на съответните фактори, като например формат, тип медийно съдържание, стил и промени в съдържанието, които засягат неговото значение, стил или намерение. Изисква се оценка на всеки отделен случай, за да се определи дали случаят е такъв.

(92)

В случай че дадена система с ИИ може да се използва както за генериране или обработване на съдържание, така и за несъществени, незначителни промени на входящи данни, задължението за прозрачност съгласно член 50, параграф 2 от Акта за ИИ няма да се прилага за съдържанието, променено по незначителен, несъществен начин.

Примери за стандартно редактиране и незначителни промени, попадащи в обхвата на изключението съгласно член 50, параграф 2 от Акта за ИИ:

—

граматически и правописни корекции, езиково и незначително стилистично редактиране, без да се променят същността, значението, стила или посланието на текста, генерирани от ИИ преводи на текст;

—

форматиране, преобразуване на формати, техническо компресиране, намаляване или премахване на шума за по-голяма яснота без промяна на съдържанието или значението на съдържанието;

—

незначително изрязване, незначителни корекции на цветовете, изсветляване или потъмняване, коригиране за по-голяма яснота или други стандартни редакции и технически корекции;

—

премахване на прашинки, причинени от замърсени обективи или сензор, премахване на ефекта „червени очи“, причинен от светкавица при фотографиране; изтриване и скриване на фонове, които се виждат в оригиналния файл, пикселизиране или размазване на лица;

—

преоразмеряване на видеоклип, компресия на динамичния обхват и изравняване; ограничена видео стабилизация;

—

стандартни корекции на цветовете и контраста, незначителни корекции на скоростта на възпроизвеждане, незначителни корекции за нивелиране на хоризонта на изображение, прилагане на пикселни филтри за усилване на определени части от изображение или прилагане на цветови карти към изображения в сивата скала, довършване на краищата на изображение, преобразуване на черно-бяло изображение или видео в цветно и обратно;

—

запълване на пиксели за адаптиране на съотношението на страните или подобрена яснота, автоматични преходни клипове, други несъществени редакции за формални и технически цели;

—

техническа обработка или реконструкция на медицински изображения в медицински изделия (например анотации, рамки, контури, кръгове, топлинни карти);

—

транскрипции на разговори; генерирано от ИИ съдържание, с което само се трансформира автентичен човешки принос чрез помощни технологии, позволяващи на хора с увреждания да комуникират (например допълващи и алтернативни способи на комуникация (AAC) или персонализирани невронни гласове (CNV), тъй като с тях не се променя семантично значението на съдържанието.

Примери за семантични промени, които изискват маркиране съгласно член 50, параграф 2 от Акта за ИИ:

—

генерирани от ИИ резюмета на текст; перифразиране или пренаписване на текст, което променя стила, структурата и значението извън обикновените граматически и незначителни стилистични корекции;

—

премахване, замяна или вмъкване на обекти или лица в съществуващи изображения и видеоклипове, което променя значението и същността на съдържанието; замяна на лице или съществено изменение на лицето,

—

синтез на реалистична реч с гласа на конкретно лице или генериране на реалистично видео, изобразяващо събития, които не са се случили; промяна на формата на тялото или цвета на кожата на дадено лице; екстремно изсветляване, потъмняване, промени в цветовете и контраста, които променят значението, намерението и посланието на съдържанието;

—

създаване на композитни изображения или видеоклипове, които променят представянето на лица, обекти, събития или факти, или всяка друга съществена промяна на съдържанието.

(93)

Третото изключение се прилага за системи с генеративен ИИ, разрешени по закон за генериране или обработване на синтетично съдържание с цел разкриване, предотвратяване, разследване или наказателно преследване на престъпления. От значение и в този случай са разясненията, предоставени в точки 46—48 по-горе за това изключение.

4.4.   Взаимодействие с други правни актове на Съюза

(94)

Задълженията за маркировка и откриване съгласно член 50, параграф 2 от Акта за ИИ са насочени към начина на създаване на съдържанието и неговия изкуствен произход, а не върху това кой е създал съдържанието. Следователно всякакви решения за маркиране и откриване, използвани от доставчиците на системи с ИИ, трябва да бъдат в съответствие с приложимото право на Съюза в областта на защитата на данните, включително принципите и задълженията за защита на данните, като например задължението за защита на данните при проектирането и по подразбиране, принципите на свеждане на данните до минимум и на сигурност и поверителност. Например за целите на маркирането и откриването информацията, свързана със създателя на съдържанието, не следва да се обработва, а всички други обработвани лични данни следва да бъдат заличени веднага след като целта на откриването е изпълнена, като трябва да се гарантират сигурност и поверителност и др.

(95)

В съображение 136 от Акта за ИИ допълнително се подчертава особеното значение на задълженията за прозрачност съгласно член 50, параграфи 1, 2 и 4 от Акта за ИИ за улесняване на ефективното прилагане на АЦУ. Това се отнася по-специално за задълженията на доставчиците на много големи онлайн платформи (МГОП) или много големи онлайн търсачки (МГОТ) добросъвестно да установяват, анализират, оценяват и ограничават системните рискове, които могат да възникнат поради разпространението на съдържание, което е било изкуствено генерирано или обработено, и по-специално риска от действителни или предвидими отрицателни последици за демократичните процеси, гражданския дебат и изборните процеси, включително чрез дезинформация (членове 34 и 35 от АЦУ). Машинночетимите маркировки могат да позволят на тези доставчици да откриват съдържание, което е генерирано или обработено от ИИ, и да предоставят подходящо обозначаване и оповестяване, като по този начин намаляват риска от генерирана от ИИ дезинформация в техните услуги.

(96)

Задълженията за обозначаване и етикетиране на съдържание, генерирано или обработено от системи с ИИ съгласно член 50, параграфи 2 и 4 от Акта за ИИ, не засягат задължението по член 16, параграф 6 от АЦУ на доставчиците на хостинг услуги да обработват уведомления за незаконно съдържание, получени съгласно член 16, параграф 1 от АЦУ (29). По-специално маркирането или обозначаването, приложено към генерирано или обработено от ИИ съдържание, не следва да влияе на оценката и решението относно незаконния характер на конкретното съдържание съгласно други регулаторни рамки. Тази преценка следва да се извършва единствено с оглед на правилата, уреждащи законосъобразността на съдържанието в съответствие с тези рамки (30). Например, ако обозначено изображение, представляващо убедителен фалшификат, бъде маркирано като потенциален материал, съдържащ сексуално насилие над деца (CSAM), или като нарушаващо правото на търговска марка или авторското право, тогава поставянето на обозначение не засяга потенциалната незаконност на съдържанието съгласно тези регулаторни рамки. Тази оценка следва да се извършва единствено въз основа на съответните приложими закони (например наказателно право, правила относно търговските марки или авторското право).

(97)

Обратно, машинночетимата маркировка, вградена в съдържанието съгласно член 50, параграф 2 от Акта за ИИ, може да помогне на доставчиците на МГОП и МГОТ да изпълнят задълженията си съгласно членове 34 и 35 от АЦУ за установяване, анализиране и оценяване на системни рискове, които могат да възникнат поради разпространението на съдържание, което е било изкуствено генерирано или обработено, по-специално риска от действителни или предвидими отрицателни последици за демократичните процеси, гражданския дебат и изборните процеси, включително чрез дезинформация (31), както и да въведат разумни, пропорционални и ефективни мерки за смекчаване на тези рискове, съобразени с конкретните идентифицирани системни рискове. Доставчиците на МГОП и МГОТ могат също така да бъдат квалифицирани като доставчици на системи с ИИ, ако отговарят на съответните условия съгласно Акта за ИИ, когато интегрират системи с ИИ в своите услуги (вж. също раздел 6.1.5).

(98)

Доставчиците на онлайн платформи, онлайн търсачки и други съответни участници, разпространяващи съдържание по веригата на стойността, се насърчават по-специално да запазват и да дават възможност за идентифициране на маркировките, прилагани от доставчиците съгласно член 50, параграф 2 от Акта за ИИ, така че физическите лица, изложени на съдържанието, да могат да бъдат информирани за неговия произход.

5.   ЧЛЕН 50, ПАРАГРАФ 3 ОТ АКТА ЗА ИИ: СИСТЕМИ ЗА РАЗПОЗНАВАНЕ НА ЕМОЦИИ И СИСТЕМИ ЗА БИОМЕТРИЧНО КАТЕГОРИЗИРАНЕ

(99)

С член 50, параграф 3 от Акта за ИИ на внедрителите на системи за разпознаване на емоции и на системи за биометрично категоризиране се налага задължението да информират физическите лица, които са изложени на тези системи, за функционирането на системата.

(100)

В съображение 132 от Акта за ИИ се разяснява, че целта на това задължение е да се гарантира, че физическите лица (включително лицата с увреждания) са запознати, че са изложени на системи за разпознаване на емоции и за биометрично категоризиране, които може да нарушават неприкосновеността на личния им живот. Поради това задължението се прилага независимо от това дали лицата са изложени на такива системи в реално време или тези системи се използват впоследствие.

5.1.   Основни компоненти, концепции и свързано(и) задължение(я) за прозрачност съгласно член 50, параграф 3 от Акта за ИИ

5.1.1.   Понятието за система за разпознаване на емоции

(101)

В член 3, точка 39 от Акта за ИИ „система за разпознаване на емоции“ се определя като „система с ИИ, чието предназначение е да определя или да прави заключения за емоциите или намеренията на физически лица на базата на техните биометрични данни“. Подробното обяснение на това понятие, предоставено в насоките на Комисията относно класификацията на високорискови системи с ИИ, включително посочените в тях практически примери, са еднакво подходящи в контекста на член 50, параграф 3 от Акта за ИИ.

(102)

Тъй като всички системи за разпознаване на емоции също се класифицират като високорискови, освен ако не са забранени съгласно член 5, параграф 1, буква е) от Акта за ИИ в областта на работното място и образованието, задължението за прозрачност по член 50, параграф 3 от Акта за ИИ следва да се прилага заедно с другите гаранции и изисквания, приложими за високорисковите системи с ИИ.

5.1.2.   Понятието за система за биометрично категоризиране

(103)

В член 3, точка 40 от Акта за ИИ „система за биометрично категоризиране“ се определя като „система с ИИ, предназначена да отнася физически лица към конкретни категории въз основа на техните биометрични данни, освен когато тази система е чисто спомагателна по отношение на друга търговска услуга и е строго необходима по обективни технически причини“. Подробното обяснение на това понятие, предоставено в насоките на Комисията относно класифицирането на високорисковите системи с ИИ, включително неговите специфични елементи, както и практическите примери, посочени в тях, са еднакво уместни в контекста на член 50, параграф 3 от Акта за ИИ.

(104)

Важно е да се отбележи, че освен ако не е забранено съгласно член 5, параграф 1, буква ж) от Акта за ИИ, член 50, параграф 3 от Акта за ИИ се прилага за всякакви системи за биометрично категоризиране (например класификация по възраст или пол въз основа на биометрични данни), независимо дали те попадат или не в обхвата на високорисковите системи с ИИ съгласно Акта за ИИ.

5.1.3.   Задължението за предоставяне на информация съгласно член 50, параграф 3 от Акта за ИИ

(105)

Обхватът на информацията, която трябва да се предостави: Внедрителите са длъжни да информират засегнатите физически лица, че са изложени на система за разпознаване на емоции или на система за биометрично категоризиране, която се използва. В Акта за ИИ не се изисква включването на информация относно причините за функционирането на системата или информация дали системата обработва информация и за цели, различни от разпознаване на емоции или биометрично категоризиране, които трябва да бъдат оповестени съгласно правото на Съюза в областта на защитата на данните (вж. раздел 5.3.).

(106)

Адресати на информацията: С член 50, параграф 3 от Акта за ИИ от внедрителите се изисква да информират всички физически лица, които са изложени на функционирането на системата с ИИ, включително деца.

(107)

Начини за предоставяне на информация: В Акта за ИИ не се посочва специфичен начин за предоставяне на информацията, освен че в член 50, параграф 5 от Акта за ИИ се изисква информацията да бъде предоставена по ясен и различим начин и в съответствие с приложимите изисквания за достъпност (отговарящи на нуждите на физическите лица с увреждания). Начинът, по който трябва да бъдат информирани физическите лица, изложени на въздействието на системата, може да зависи от мястото на внедряване (например виртуална платформа за игри, физически магазин, железопътна гара), възможните адресати (например деца, възрастни хора, лица с увреждания, клиенти), продължителността и вида на излагането (например дългосрочно, еднократно, непрекъснато, периодично) и евентуалното съществуване на връзка между внедрителя и изложените лица (например ако съществува канал за комуникация с лицето). В зависимост от случая на употреба информацията може да бъде предоставена в писмен вид, чрез стандартизирани икони (също когато се представя по електронен път), устно или чрез използване на комбинации от такива начини.

Примери за информиране на физически лица:

—

централно разположен изскачащ прозорец с приветствено съобщение преди стартиране на компютърна игра, указващ, че лицето на играча се записва, за да се разпознаят емоциите му;

—

видимо известие на всеки възможен вход към изложбена зала с информация, че изображенията на лицата на посетителите се заснемат при влизане в залата, за да бъдат отнесени към конкретна възрастова група.

(108)

Срокът за предоставяне на информацията: В съответствие с член 50, параграф 5 от Акта за ИИ информацията трябва да бъде предоставена най-късно в момента на първото взаимодействие с или първия контакт със системата с ИИ. Когато е целесъобразно, не се изключва възможността необходимата информация да бъде предоставена предварително.

5.2.   Изключение за правоохранителни цели

(109)

Задължението за информация не се прилага по отношение на системите за разпознаване на емоции и системите за биометрично категоризиране, които са разрешени по закон за разкриване, предотвратяване или разследване на престъпления, при спазване на подходящи гаранции за правата и свободите на трети лица и в съответствие с правото на Съюза. Разясненията, предвидени за това изключение в точки 46—48 по-горе, са от значение и в този случай с една разлика. Докато другите изключения по член 50 от Акта за ИИ изискват изричен закон, разрешаващ непрозрачното използване на системите с ИИ, с член 50, параграф 3 от Акта за ИИ такова използване става възможно, когато е разрешено съгласно правните норми, уреждащи правомощията на правоохранителните органи да използват системи за разпознаване на емоции и биометрично категоризиране за разкриване, предотвратяване или разследване на престъпления, без да информират засегнатите лица, при спазването на подходящи гаранции.

5.3.   Взаимодействие с други правни актове на Съюза

(110)

Само по себе си задължението за предоставяне на информация съгласно член 50, параграф 3 от Акта за ИИ не прави законосъобразно използването на система за разпознаване на емоции и биометрично категоризиране. То също така не легитимира накърняваща или дискриминационна употреба, която би могла да бъде незаконосъобразна и забранена съгласно член 5 от Акта за ИИ или друго право на Съюза. Внедрителите трябва да спазват задължението за предоставяне на информация по член 50, параграф 3 от Акта за ИИ в допълнение към всички приложими изисквания за информация съгласно правото на Съюза в областта на защитата на данните. В определени случаи внедрителите могат да обмислят добавянето на уведомления съгласно член 50, параграф 3 от Акта за ИИ към информацията, предоставяна на субектите на данни съгласно правото на Съюза в областта на защитата на данните.

6.   ЧЛЕН 50, ПАРАГРАФ 4: ОБОЗНАЧАВАНЕ НА УБЕДИТЕЛНИ ФАЛШИФИКАТИ (DEEP FAKES) И ОПРЕДЕЛЕНИ ТЕКСТОВИ ПУБЛИКАЦИИ

(111)

С член 50, параграф 4 от Акта за ИИ се установяват две отделни задължения, предназначени за внедрителите на системи с генеративен ИИ, изискващи ясно и различимо оповестяване на i) убедителни фалшификати и ii) генериран или обработен от ИИ текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес, с изключение на определени случаи. Тези задължения за обозначаване се прилагат в допълнение към и без да се засягат задълженията за машинночетимо маркиране и откриване съгласно член 50, параграф 2 от Акта за ИИ, приложими за доставчиците на системи с ИИ, генериращи или обработващи синтетично съдържание под формата на изображения, видео, аудио или текст.

6.1.   Основни компоненти, концепции и свързани задължения за прозрачност за убедителни фалшификати съгласно член 50, параграф 4 от Акта за ИИ

(112)

Член 50, параграф 4, първа алинея от Акта за ИИ се прилага, ако са изпълнени няколко условия:

i)

системата трябва да бъде система с ИИ;

ii)

използва се от внедрители за професионални цели (вж. раздели 2.3. и 2.4.1.);

iii)

за генериране или обработка на изображения, аудио- или видео съдържание, които представляват убедителен фалшификат;

iv)

системата с ИИ не трябва да попада в обхвата на изключението за употреба, разрешена по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления.

6.1.1.   Понятието „убедителен фалшификат“

(113)

В член 3, точка 60 от Акта за ИИ „убедителен фалшификат“ се определя като „генерирано или обработено изображение, аудио- или видео съдържание, което наподобява съществуващи лица, предмети, места, субекти или събития и създава погрешно впечатление у дадено лице, че е автентично или достоверно“; Разликата между обработването и генерирането е разяснена в раздел 4.1 по-горе. За целите на изясняването на понятието „убедителни фалшификати“ по-долу са разгледани четири кумулативни критерия от това определение: i) наподобяване на ii) съществуващи iii) лица, предмети, места, субекти или събития, iv) които създават погрешно впечатление у дадено лице, че са автентични или достоверни.

i)

Наподобяване: в член 3, точка 60 от Акта за ИИ се уточнява, че за да представлява убедителен фалшификат, генерираното или обработено от ИИ изображение, аудио- или видео съдържание трябва да „наподобява“ съществуващи субекти. В съображение 134 от Акта за ИИ се добавя, че такова наподобяване следва да бъде „значително“. Генерираното или обработено от ИИ изображение, аудио- или видео съдържание значително наподобява субект, ако има висока степен на сходство между съдържанието, представляващо убедителен фалшификат, и субекта (включително всички негови разпознаваеми елементи), симулиран от убедителния фалшификат. Не е необходимо съдържанието да бъде идентично със субекта. Дали нивото на наподобяване е значително, подлежи във всеки отделен случай на оценка, която трябва да бъде направена от внедрителя въз основа на обективно сравнение между симулирания субект и съдържанието, което представлява убедителен фалшификат, въз основа на, наред с другото, степента, в която с убедителния фалшификат са представени характерни или отличителни черти.

ii)

Съществуващи: в член 3, точка 60 от Акта за ИИ се уточнява, че за да представлява убедителен фалшификат, генерираното или обработено от ИИ изображение, аудио- или видео съдържание трябва да наподобява „съществуващи“ субекти. Що се отнася до ефективно изпълнение на целта на член 50, параграф 4 от Акта за ИИ за намаляване на рисковете от представяне под чужда самоличност, заблуда, невярна информация, манипулация и измама, характеристиката на съществуване предполага, че генерираното или обработеното от ИИ изображение, аудио или видео съдържание трябва да наподобява на реалистични субекти (например лица, обекти, места). Поради това е достатъчно симулираните лица, обекти, места, субекти или събития да наподобяват някой или нещо, което съществува, може правдоподобно да съществува или би могло правдоподобно да е съществувало в действителност, за да се счита за убедителен фалшификат, тъй като такова съдържание може да бъде основен източник на измама, манипулация и дезинформация. От друга страна, симулирани лица, обекти, места, субекти или събития, които например противоречат на законите на природата или физиката или изобразяват форми на живот, които не са общоприети в биологията (като например хора, летящи без механични помощни средства, дракони или слонове, каращи коли) и нямат потенциал да подвеждат, се считат за нереалистични и следователно попадат извън обхвата на задължението за прозрачност.

iii)

Лица, обекти, места, субекти или събития: в член 3, точка 60 от Акта за ИИ се уточнява, че генерираното или обработено от ИИ изображение, аудио- или видео съдържание трябва да наподобява съществуващи „лица, предмети, места, субекти или събития“, за да представлява убедителен фалшификат. Под „лица“ следва да се разбират реалистични човешки същества (включително цифрови копия на действителни лица, реалистични генерирани от ИИ човешки аватари или личности, както и лични характеристики или изражения, като например изображение, глас, поведение, изпълнения и др.). Под „обекти“ следва да се разбират реалистични, неодушевени материални предмети, включително сгради, произведения на изкуството, машини, потребителски стоки и др. Под „места“ следва да се разбират реални местоположения. Под „субекти“ следва да се разбират реалистични, нечовешки, но живи същества, включително животни или други биологични форми на живот. Под „събития“ следва да се разбират реалистични сцени или ситуации, които могат да включват лица, обекти, места и субекти (например пресъздаване на исторически събития или представяне на професионални или потребителски услуги).

iv)

Създаване на погрешно впечатление у дадено лице, че е автентично или достоверно: четвърто, в член 3, точка 60 от Законодателния акт за ИИ се уточнява, че генерирано или обработено от ИИ изображение, аудио- или видео съдържание, което наподобява съществуващи лица, предмети, места, субекти или събития, „създава погрешно впечатление у дадено лице, че е автентично или достоверно“. Този критерий се отнася до съществената характеристика на съдържанието тип убедителен фалшификат и способността му потенциално да заблуди или подведе дадено лице относно автентичността или достоверността на съдържанието (32). Автентичността на съдържанието се отнася до това дали съдържанието е действително това, за което се представя по отношение на своя източник или процес на създаване (включително например участието на реални човешки същества или животни и тяхното действително поведение или действия, действителния външен вид или използването на обекти или предоставянето на услуги, точното развитие или ход на дадено събитие). Достоверността се отнася до верността на съдържанието (например фактическата правилност на представянията в убедителния фалшификат).

(114)

Въпросът дали съдържанието „създава погрешно впечатление у дадено лице, че е автентично или достоверно“ следва да се оценява като цяло, като се вземат предвид степента на наподобяване, потенциалното съдържателно послание на съдържанието, предвиденият и предвидимия контекст на внедряване, средата, в която се представя съдържанието, както и предвиденият и разумно предвидим състав на аудиторията и нейните очаквания. Тази оценка обаче е обективна и не изисква намерение от страна на внедрителя да заблуди или подведе физическите лица, изложени на съдържанието, за да се квалифицира като убедителен фалшификат. Що се отнася до контекста на внедряване и очакванията на аудиторията, това означава, че ако съдържанието се използва при специфичен контекст на внедряване, при който предвидената и разумно предвидима аудитория не очаква съдържанието да бъде автентично или достоверно, генерираното или обработено от ИИ съдържание може да не изглежда погрешно като автентично или достоверно, дори ако в действителност не е автентично или достоверно. В такива случаи няма да бъде изпълнен четвъртият критерий от определението за убедителен фалшификат. Например генерирането или манипулирането от ИИ на фонови сцени, специални ефекти или техническа предварителна и последваща обработка като част от стандартните процеси на филмопроизводство вероятно няма да доведат до това съдържанието погрешно да изглежда пред аудиторията като автентично или достоверно. Обратно, използването на ИИ за генериране или обработване на съществени елементи, които влияят на възприятието на аудиторията, вероятно ще доведе до това (като например напълно генерирани от ИИ актьори, цифрови копия на реални или починали актьори, подмладяване, симулирани изпълнения, включително части от тях, или неавтентично или невярно представяне на лица, обекти, места или събития в документални филми). По отношение на изображенията и видео съдържанието се признава, че високата степен на фотореализъм прави по-вероятно такова съдържание да се счита за убедителен фалшификат (тъй като вероятно наподобява съществуващи субекти), но фотореализмът сам по себе си не е определящ за оценката. Това, което все още следва да се оцени, е дали такова съдържание е способно да заблуди или подведе дадено лице относно автентичността или истинността на съдържанието, като се вземе предвид, наред с другото, предвиденият и предвидим контекст на внедряване.

(115)

За разлика от член 50, параграф 1 от Акта за ИИ, оценката за създаването на погрешно впечатление у дадено лице като автентично или достоверно не следва да се основава на хипотетично „средностатистическо“ лице, за което се очаква да бъде изложено на съдържанието (вж. раздел 3.2.1), а следва надлежно да се вземе предвид възможният разнообразен състав на разумно предвидимата аудитория, която може да бъде изложена на съдържание, представляващо убедителен фалшификат. Надлежното отчитане на състава на аудиторията е особено важно, ако е разумно предвидимо, че съдържанието тип „убедителен фалшификат“ може в даден момент да бъде възприето от деца, възрастни хора или други групи лица с по-ниска цифрова и ИИ грамотност или общи познания, тъй като те могат по-лесно да бъдат заблудени или подведени относно автентичността или достоверността на съдържанието. В такива случаи създаването на погрешно впечатление, че съдържанието е автентично или достоверно за тази част от предвидимата аудитория, може да бъде достатъчно, за да се квалифицира съдържанието като убедителен фалшификат. От внедрителите обаче не се очаква да вземат предвид потенциално по-нататъшно разпространение на съдържанието, което представлява убедителен фалшификат, от трети лица извън разумно предвидимата от внедрителя аудитория, като се вземат предвид предвидените канали за разпространение (например ако съдържанието, което представлява убедителен фалшификат, се показва единствено в част от уебсайт, достъпна само за абонати, или като част от корпоративен бюлетин, това не означава, че внедрителят трябва по подразбиране да предвиди широка обществена достъпност).

(116)

В същия дух, подпомогнатото от ИИ обработване на незначителни съдържателни или технически аспекти на вече съществуващо съдържание може да бъде от второстепенно значение за оценката на лицето относно автентичността или достоверността на съдържанието, без полученото съдържание да се превръща в убедителен фалшификат. Това може да включва например редактиране на подробности във фона (например премахване на минувачи), корекции на осветлението, адаптиране на аудио параметри, коригиране на цветовете, намаляване или премахване на шума, подобряване на достъпността или компресия на файлове, формални корекции и подобрения. Дали обработването ще попадне в тази категория зависи от контекста и въздействието върху възприятието на лицата за автентичността или достоверността на съдържанието в конкретния случай. Например коригирането на цветовете чрез ИИ, разширяването на фона на съществуващо съдържание, корекциите или замените на фонове за чисто естетически цели, композициите и подредбите на съществуващи продукти или преоразмеряването на изображения, приложени в реклами на продукти или опаковки, вероятно ще имат само незначително въздействие върху възприятието на лицето за автентичността и достоверността на рекламата и продукта. Обратно, значителното редактиране на основата на ИИ на подробности от фона на журналистически изображения извън стандартните технически и редакционни практики може да повлияе отрицателно на възприятието на дадено лице за автентичността и достоверността на съдържанието.

Примери за убедителни фалшификати съгласно член 3, точка 60 от Акта за ИИ:

—

Обработено от ИИ изображение на сцена, включваща двама действителни професионални футболисти пред сграда, наподобяваща футболен стадион.

—

Генерирано от ИИ аудио, включващо клониране на гласове на редовни водещи на подкаст на вестник и гост-събеседник, обсъждащи новинарски събития.

—

Генерирано от изкуствен интелект видео на лице, наподобяващо политик, което държи реч пред публика.

—

Генерирано от ИИ видео, включващо генерирано от ИИ изображение на инфлуенсър — знаменитост, в рекламен или промоционален контекст.

—

Генерирано от ИИ видео, включващо реалистичен синтетичен аватар на изпълнителен директор на дружество, който поздравява служителите за тяхната работа и корпоративните резултати от изминалата година.

—

Генерирано от ИИ изображение на продукт в реклама или опаковка, което може да повлияе на възприятието на аудиторията и да подвежда относно действителния външен вид, характеристиките или употребата на продукта (например като прави продукта да изглежда различен от реалния, по-привлекателен или с по-добро качество, отколкото в действителност).

Примери, които не представляват убедителни фалшификати съгласно член 3, точка 60 от Акта за ИИ:

—

Генерирано от ИИ изображение на сцена, включваща сфинкс, летящ над Айфеловата кула.

—

Генерирано от ИИ видео на мишки, спорещи на човешки език за най-добрия вид сирене като част от рекламна кампания на производител на сирене.

—

Възпроизвеждане от ИИ на глас за измислени герои (например за аудиокниги, игри или анимация), когато няма заблуда относно самоличността на разказвачите.

—

Обработено от ИИ радиопредаване чрез коригиране на технически аудио параметри (например нормализиране на нивата на силата на звука, намаляване на шума, компресия на аудиоматериали), без да се променят действителните думи, изречени от говорещите, или техният начин на говорене.

—

Генерирана от ИИ карикатура на вече съществуващо изображение, изобразяващо историческо събитие.

—

Видео на водещ на научно телевизионно предаване, който се разхожда из планински район, докато говори за топенето на ледниците, което е представено нагледно чрез обработена от ИИ фонова анимация, показваща как ледниците са се отдръпнали от историческите си нива до сегашните си нива.

—

Генерирани от ИИ измислени среди (например измислени гори и замъци) във видеоигри.

—

Филми, в които реални съществуващи актьори (които не са обработени от ИИ) играят на фона на генериран от ИИ декор (например изобразяващ измислен участък от прерия, исторически сгради на древни градове и др.).

—

Действителен продукт (например автомобил), показан в реклама на фона на генериран от ИИ фон и заобикаляща среда, стига естеството на рекламата да не е да подвежда аудиторията относно действителното представяне на продукта и неговите характеристики и употреба.

6.1.2.   Задължението за оповестяване съгласно член 50, параграф 4, първа алинея от Акта за ИИ

(117)

Член 50, параграф 4, първа алинея от Законодателния акт за ИИ задължава внедрителите на системи с ИИ, които генерират или обработват изображения, аудио- или видео съдържание, представляващо убедителен фалшификат, да „оповестяват обстоятелството, че съдържанието е изкуствено генерирано или обработено“. В съображение 134 от Акта за ИИ се пояснява, че внедрителите, които използват системи с ИИ за генериране или обработване на съдържание, което представлява убедителен фалшификат, следва по ясен и разпознаваем начин да оповестят обстоятелството, че такова съдържание е изкуствено създадено или обработено, като обозначат по подходящ начин продукта от работата на ИИ и разкрият неговия изкуствен произход. Методите за обозначаване или оповестяване, приложени в съответствие с член 50, параграф 4, първа алинея от Акта за ИИ, трябва да бъдат разбираеми и лесно възприемащи се от физическите лица (например чрез видими или чуваеми обозначения), без те да трябва да разчитат на специфични технически инструменти или да извършват специални действия. Поради това внедрителите не могат да разчитат на машинночетимата маркировка, вградена в съдържанието от доставчика съгласно член 50, параграф 2 от Акта за ИИ, тъй като тези маркировки не са веднага ясни и различими за физическите лица, изложени на съдържанието, което представлява убедителен фалшификат.

(118)

В съответствие с член 50, параграф 7 от Акта за ИИ, внедрителите могат да се придържат към кодекс за добри практики, оценен като подходящ съгласно член 50, параграф 7 от Акта за ИИ, за да докажат спазването на това задължение за оповестяване. За допълнителна информация относно последиците от придържането към такъв кодекс и надзора върху други внедрители, които не се придържат към кодекс, вж. раздел 8.1 по-долу.

6.1.3.   Прозрачност на съдържание, което представлява убедителен фалшификат, с артистичен, творчески, сатиричен, художествен или подобен характер.

(119)

В член 50, параграф 4, първа алинея от Акта за ИИ се предвижда смекчено задължение за прозрачност за убедителни фалшификати, които са част от произведение или програми с очевидно творчески, артистичен, сатиричен, художествен или подобен характер. За такова съдържание задължението за прозрачност се ограничава до оповестяване на наличието на убедителен фалшификат по подходящ начин, който не възпрепятства показването или използването на произведението.

(120)

Съответни категории съдържание: За да се възползва от смекченото оповестяване на прозрачността, убедителният фалшификат (изображение, аудио или видео) трябва да бъде част от поне една от следните категории съдържание: произведения или програми с артистичен, творчески, сатиричен, художествен или подобен характер. Определянето дали даден убедителен фалшификат попада в една или повече от тези категории, изисква оценка на всеки отделен случай от страна на внедрителя. За целите на член 50, параграф 4 от Акта за ИИ тези категории се разбират, както следва:

—

под „артистични произведения“ следва да се разбират произведения, създадени за целите на изкуството, включително музика, кинематографични произведения и визуални изкуства;

—

под творчески произведения следва да се разбират произведения, които включват творчески избор. Произведения, които са обусловени основно от функционални или технически съображения, не могат да се считат за творчески;

—

под „сатирични произведения“ следва да се разбират произведения, които имат за цел да критикуват обществото, политиката, бизнеса или обществени фигури чрез използване на хумористични техники (включително ирония, сарказъм, подигравка, имитация и др.);

—

под „художествени произведения“ следва да се разбират културни произведения, които включват лица, предмети, места, субекти или събития в измислена, но правдоподобна обстановка;

—

под „подобни произведения“ следва да се разбират произведения, които споделят основни черти или сходни изразителни или функционални характеристики с горните категории, но които не се вписват точно в нито една от тях.

(121)

Горепосочените категории съдържание могат да се прилагат и за програма, която следва да се разбира като отделен елемент в рамките на график или каталог, установен от доставчик на медийни услуги, който е сравним по форма и съдържание с телевизионното излъчване (33). Препратката към „произведения“ в контекста на член 50, параграф 4 от Акта за ИИ няма отношение към това дали съдържанието отговаря на условията за закрила съгласно правото на Съюза в областта на авторското право и сродните му права.

(122)

Очевиден: фактът, че даден убедителен фалшификат попада в една (или повече) от горепосочените категории съдържание, следва да бъде очевиден за физическите лица, изложени на него. Това предполага, че категориите следва да се тълкуват в тесен смисъл, което е оправдано от факта, че се прилага по-лек режим на оповестяване поради потенциалното въздействие върху свободата на изразяване на мнение и свободата на изкуствата и науките, докато рисковете от невярна информация, манипулация и заблуда все още трябва да бъдат разгледани по подходящ начин. Поради това съдържание, чийто характер е потенциално неясен или двусмислен за аудиторията, е изключено от обхвата на този по-лек режим на прозрачност. Съответните фактори за оценка на очевидния характер на съдържание с артистичен, творчески, сатиричен или художествен характер включват: i) дали съдържанието показва формати или стилове, които са характерни за категориите съдържание (например ирония или преувеличение при сатирични произведения, определени художествени стилове, представяне на отличителни теми, техники или естетика и др.); ii) контекста, в който е представено съдържанието (например ако платформата, медията или мястото, където съдържанието е представено, предоставено или разпространено, са свързани с употреба с артистичен, творчески, сатиричен или художествен характер); и iii) очакванията на аудиторията (например филм, среда за игри или сцена във виртуална реалност). Освен това условието съдържанието „очевидно“ да попада в една от горепосочените категории съдържание изключва съдържанието от обхвата на тези категории, ако неговият характер е изключително информативен или търговски и е разпознаваем като такъв (например новинарски репортажи). В това отношение някои видове съдържание (например реклами или документални филми), съдържащи убедителни фалшификати, могат да се считат за произведения с очевидно творчески или художествен характер в определени, специфични ситуации, но не и в други, тъй като оценката е специфична за всеки отделен случай. Когато убедителният фалшификат съчетава множество характеристики (например информативни и творчески), информативната характеристика винаги трябва да надделява и да изисква спазване на стандартните изисквания за обозначаване.

(123)

Подходящо оповестяване, което не възпрепятства показването или използването на произведението: Убедителните фалшификати, които са част от произведения и програми с очевидно артистичен, творчески, сатиричен или художествен характер, не са изключени от задължението за прозрачност по член 50, параграф 4, първа алинея от Акта за ИИ. Внедрителите все още трябва да оповестят, че съдържанието произхожда или е обработено от ИИ, но могат да го направят по подходящ начин, който не възпрепятства показването или използването на произведението. В съображение 134 от Акта за ИИ се пояснява, че такова подходящо оповестяване не следва да възпрепятства нормалната експлоатация и употреба, като същевременно позволява да се запазят полезността и качеството на произведението. Определянето на това кои мерки за оповестяване следва да се считат за подходящи, изисква оценка на всеки отделен случай, при която внедрителите могат да вземат предвид всички съответни фактори (включително естеството на работата, аудиторията, контекста и др.). Във всеки случай внедрителите трябва да спазват член 50, параграф 5 от Акта за ИИ (вж. раздел 7). С оглед на член 50, параграф 7 от Акта за ИИ внедрителите могат да се придържат към кодекс за добри практики, оценен като подходящ съгласно посочената разпоредба, за да докажат спазването на това задължение за оповестяване. За допълнителна информация относно последиците от придържането към такъв кодекс и надзора върху други внедрители, които не се придържат към кодекс, вж. раздел 8.1 по-долу.

(124)

Подходящи гаранции за правата и свободите на трети страни: В съображение 134 от Акта за ИИ се пояснява, че спазването на смекченото задължение за прозрачност и използването на убедителни фалшификати с артистичен, творчески, сатиричен или художествен характер трябва да става „при прилагане на подходящи гаранции за правата и свободите на трети лица“. Следователно внедрителите трябва да гарантират, че правата и свободите на трети лица (включително например тяхното право на защита на личните данни или правата върху интелектуалната собственост) са подходящо защитени и спазени при създаването или публикуването на убедителни фалшификати, дори ако убедителният фалшификат трябва да се счита за артистичен, творчески, сатиричен или художествен. Позоваването на смекченото задължение за прозрачност не може да бъде оправдание за неспазване на основните права на лицата или на носителите на права съгласно правото на Съюза в областта на интелектуалната собственост или правото на Съюза за защита на данните (34).

Примери за убедителни фалшификати, които са произведения с творчески, сатиричен, художествен или подобен характер:

—

Произведение с артистичен/художествен характер: филми (или филмови трейлъри), включващи генерирани или обработени от ИИ убедителни фалшификати на подмладени съществуващи актьори или цифрови копия на починали актьори или други лица, достъпни в кино или на стрийминг платформа.

—

Произведение с артистичен/творчески характер: генерирана от ИИ музика във всякакъв жанр, наподобяваща индивидуалния стил на съществуващи изпълнители.

—

Произведение със сатиричен/художествен характер: обработено от ИИ изображение на съществуващ политик, поставящо го в сцена, която е ясно предназначена да критикува по хумористичен начин определени политически решения, взети или подкрепени от това лице.

—

Произведение с подобен творчески/художествен характер: генерирани от ИИ изображения за игри, включващи симулации тип „убедителен фалшификат“ на реални, съществуващи лица.

Примери за убедителни фалшификати, които не представляват произведение с артистичен, творчески, сатиричен, художествен или подобен характер:

—

обработен от ИИ клип в стила на канал за телепазаруване, който включва представляваща убедителен фалшификат симулация на хора, рекламиращи продукт в генерирана от ИИ сцена, на която е изобразена функционалната употреба на продукта от симулираните потребители с цел убеждаване на зрителите да купят продукта;

—

генерирано от ИИ изображение на знаменитости, с което се внушава тяхното участие в дейности, които никога не са се състояли, без каквато и да е художествена, сатирична или аналогична цел;

—

обработено от ИИ видео, включващо реалистичен синтетичен инфлуенсър, който изпробва спонсориран реален продукт, фокусирано единствено върху показването на функционалностите на продукта;

—

генерирано от ИИ видео, изобразяващо реалистични сцени от Холокоста, споделяно в публично достъпни платформи на социални медии.

6.1.4.   Изключение във връзка с правоприлагането

(125)

Ако използването на убедителен фалшификат (например генерирано от ИИ видео, симулиращо събития, които никога не са се случвали) е разрешено по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления, внедрителите са освободени от задължението за прозрачност съгласно член 50, параграф 4, първа алинея от Акта за ИИ. Разясненията, предоставени в точки 46—48 по-горе за подобно изключение в член 50, параграф 1 от Акта за ИИ, са уместни и за тази разпоредба.

6.1.5.   Взаимодействие с други правни актове на Съюза

(126)

Задължението за прозрачност съгласно член 50, параграф 4, първа алинея от Акта за ИИ ще взаимодейства със задълженията на доставчиците на МГОП и МГОТ да установяват и ограничават системните рискове съгласно членове 34 и 35 от АЦУ, по-специално член 35, параграф 1, буква к) от АЦУ (35). В последната разпоредба сред възможните мерки за смекчаване на риска, които доставчиците на МГОП и МГОТ могат да приемат, се изброяват мерки, с които се гарантира, че „дадена информация, независимо дали представлява генерирано или манипулирано изображение, аудио- или видео съдържание, което значително наподобява съществуващи лица, обекти, места или други субекти или събития и създава погрешно впечатление на дадено лице, че е истинско или достоверно, е различимо чрез явна маркировка, когато е представено на техните онлайн интерфейси“. Освен това доставчиците на МГОП и МГОТ могат да предоставят и лесна за използване функционалност, която позволява на получателите на услугата да посочват такава информация. Макар че тази разпоредба от АЦУ изглежда подобна на член 50, параграф 4 от Акта за ИИ, тя го допълва и съдържа две важни разграничения:

—

Различен материален обхват на приложение: В сравнение с член 50, параграф 4 от Акта за ИИ, член 35, параграф 1, буква к) от АЦУ обхваща по-широк спектър от съдържание, което може погрешно да изглежда истинско или достоверно, независимо от технологиите, използвани за създаването на съдържанието (т.е. обхваща съдържание, което е генерирано или обработено чрез използване на системи с ИИ или чрез друг инструмент).

—

Различно персонално приложно поле: С член 50, параграф 4 от Акта за ИИ внедрителите на системи с ИИ, генериращи или обработващи убедителни фалшификати, се задължават да обозначават такова съдържание, докато член 35, параграф 1, буква к) от АЦУ се прилага за доставчиците на много големи онлайн платформи и много големи онлайн търсачки, които разпространяват съдържанието или правят такова съдържание достъпно чрез търсене. Например внедрителите на системи с ИИ, интегрирани в МГОП съгласно Акта за ИИ, могат да се считат за „получатели на услугата“ съгласно член 3, буква б) от АЦУ (36), ако използват МГОП за разпространение на съдържание, генерирано със съответната система с ИИ, докато МГОП може да се счита за доставчик на системата с ИИ, ако са изпълнени условията на член 3, точка 3 от Акта за ИИ. Когато доставчиците на МГОП или МГОТ предоставят на такива внедрители инструменти за обозначаване, които им позволяват да етикетират своето съдържание, представляващо убедителен фалшификат, в съответствие с член 50, параграф 4 от Акта за ИИ (т.е. ясно и различимо оповестяване на произхода от ИИ), тези внедрители могат да разчитат на такива инструменти, за да изпълнят задължението си за прозрачност съгласно тази разпоредба в контекста на използваните МГОП или МГОТ. Предоставянето на такава функционалност не засяга отговорността на внедрителите съгласно Акта за ИИ да изпълняват своите задължения за обозначаване съгласно член 50, параграф 4 от Акта за ИИ. Освен това доставчиците на МГОП и МГОТ също ще се считат за внедрители на система с ИИ съгласно Акта за ИИ, ако използват система с ИИ, по отношение на която упражняват контрол за свои собствени професионални цели (например създаване на визуални материали, които да се използват като част от маркетингови материали).

(127)

Ако убедителният фалшификат включва информация, отнасяща се до пряко или косвено установимо физическо лице (което е живо), тогава внедрителите, в качеството си на администратори съгласно правото на Съюза за защита на данните, също ще трябва да спазват съответните задължения съгласно правото на Съюза за защита на данните (37). Това включва, наред с другото, позоваване на подходящо правно основание за обработването на личните данни, информация относно обработването на данни, отнасящи се до изобразените субекти на данни и др.

(128)

Освен това внедрителите на системи с ИИ, генериращи убедителни фалшификати, ще трябва да гарантират, че спазват съответното законодателство на Съюза в областта на интелектуалната собственост (като законодателството на Съюза за търговските марки и законодателството на Съюза относно авторското право или сродните му права), ако техният убедителен фалшификат включва обект, защитен съгласно тези закони. Поставянето на обозначение или икона върху „убедителен фалшификат“ само по себе си няма никакво отражение върху неговата допустимост за закрила от авторското право, която следва да се оценява в съответствие с приложимото законодателство на Съюза в областта на авторското право.

(129)

Когато чрез убедителни фалшификати са изобразени съществуващи лица, внедрителите също така ще трябва да спазват съответните правни режими, защитаващи правата на личността върху лични изображения или гласове. Задължението за прозрачност по член 50, параграф 4, първа алинея от Акта за ИИ не означава, че генерирани или обработени от ИИ убедителни фалшификати, които са вредни и незаконни съгласно приложимото право на Съюза или националното право (например подвеждаща реклама или наказателно право, като например материали, съдържащи сексуално насилие над деца, и интимни изображения без съгласие), могат да бъдат генерирани и разпространявани (вж. също раздел 4.4).

6.2.   Основни компоненти, концепции и свързани задължения за прозрачност за генериран или обработен от ИИ текст съгласно член 50, параграф 4 от Акта за ИИ

(130)

Член 50, параграф 4, втора алинея от Акта за ИИ се прилага, ако са изпълнени няколко условия:

i)

системата трябва да бъде система с ИИ;

ii)

използвана за генериране или обработване на текст (вж. раздел 4.2.1.), публикуван с цел информиране на обществеността по въпроси от обществен интерес;

iii)

използването на системата с ИИ не попада в никое от изключенията, при които 1) генерираното от ИИ съдържание е преминало през процес на преглед от човек или редакционен контрол и при които физическо или юридическо лице носи редакционна отговорност за публикуването на съдържанието или 2) използването е разрешено по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления.

6.2.1.   Текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес

(131)

За целите на изясняване на приложното поле на член 50, параграф 4, втора алинея от Акта за ИИ, по-долу са разгледани три елемента: i) публикуван текст ii) с цел информиране на обществеността iii) по въпроси от обществен интерес.

i)

Публикуван текст: генерираният или обработен от ИИ текст следва да бъде публикуван. Това означава, че текстът следва да бъде достъпен за неопределен, сравнително голям брой несвързани потенциални читатели едновременно и/или последователно, независимо дали срещу заплащане (например абонаменти) (38). От друга страна, текстът не се счита за публикуван, ако достъпът е ограничен до конкретни лица, принадлежащи към затворена, частна група (например малка, затворена група в приложение за незабавни съобщения или ако групата е твърде малка или незначителна). Примери за текст, който не се счита за публикуван, включват например частна, междуличностна кореспонденция (за професионални цели) или вътрешноорганизационни текстове или съобщения (например публикации във вътрешни корпоративни мрежи).

ii)

Информиране на обществеността: публикуваният текст, генериран или обработен от ИИ, следва да има за цел информиране на обществеността. Това означава, че текстът следва да има за цел да съобщава знания, мнения или факти. От друга страна, кратки текстове, които не съобщават по същество знания, мнения или факти, не могат да се считат за информиращи обществеността.

iii)

По въпроси от обществен интерес: текстът следва да информира обществеността „по въпроси от обществен интерес“. Като цяло следва да се счита, че такива въпроси обхващат въпроси от значение за обществото като цяло, независимо дали на местно, национално, съюзно или международно равнище, които заслужават обществен дебат или контрол. В това отношение следва да се счита, че текстовете засягат въпроси от обществен интерес, ако обхващат теми относно политиката и демократичните процеси, публичната администрация и услугите, правораздаването и правоприлагането, защитата на основните права, обществената сигурност, общественото здраве, опазването на околната среда, безопасността на потребителите и всяко икономическо, финансово, политическо, научно или културно развитие, което може да бъде подходящ предмет на обществен дебат. Въпросите, които могат да се считат за въпроси от обществен интерес, могат да се променят с течение на времето и в различни видове контекст.

Примери за текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес съгласно член 50, параграф 4 от Акта за изкуствения интелект, който трябва да бъде обозначен като изкуствено генериран или обработен, освен ако не е преминал преглед от човек или подложен на редакторски контрол (вж. раздел 6.2.3):

—

генерирано от ИИ резюме на статия, написана от човек, публикувана на уебсайта на вестник и обсъждаща скорошно решение на градския съвет;

—

обработени от ИИ части от статия в уебсайт за начин на живот, в която се сравняват ефектите от различни диети върху конкретно заболяване при жени на средна възраст;

—

обработени от ИИ корпоративни отчети, публикувани на уебсайта на публично дружество, съдържащи информация за инвеститорите;

—

генерирано от ИИ съобщение в профила на метеорологичен институт в социалните мрежи, с което гражданите се предупреждават за бурно време и свързаните с това предпазни мерки.

Примери за текст, който не е публикуван с цел информиране на обществеността по въпроси от обществен интерес, попадащи извън приложното поле на член 50, параграф 4 от Акта за ИИ:

—

генерирани от ИИ фентъзи романи;

—

обработен от ИИ текст, който е част от реклама или описание на продукт на дружество (с изключение на претенции, свързани например със здравето, безопасността на потребителите или устойчивостта);

—

резюме на новини, генерирано от чатбот, което е достъпно само за ползвателя, който е подал заявката към чатбота;

—

обработен от ИИ текст, изготвен от консултант, за съвет към клиент относно мерките, които трябва да бъдат предприети за постигане на регулаторно съответствие с приложимото законодателство.

6.2.2.   Задължението за оповестяване съгласно член 50, параграф 4, втора алинея от Акта за ИИ

(132)

С член 50, параграф 4, втора алинея от Акта за ИИ внедрителите на системи с ИИ, които генерират или обработват текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес, се задължават да оповестяват обстоятелството, че такъв текст е бил изкуствено генериран или обработен. В съображение 134 от Акта за ИИ се пояснява, че подобно на убедителните фалшификати, внедрителите на текстови публикации, попадащи в обхвата на разпоредбата, следва по ясен и разпознаваем начин да оповестят обстоятелството, че такова съдържание е изкуствено създадено или обработено, като обозначат по подходящ начин продукта от работата на ИИ и разкрият неговия изкуствен произход. Както се изисква по отношение на убедителните фалшификати, методите за обозначаване или оповестяване (включително отказ от отговорност), приложени в съответствие с член 50, параграф 4, втора алинея от Акта за ИИ, следва също да бъдат ясни и лесно възприемащи се от физически лица (например видими или звукови мерки), без те да трябва да разчитат на специфични технически инструменти или да извършват специални действия. С оглед на член 50, параграф 7 от Акта за ИИ, лицата, които внедряват системи, могат да се придържат към кодекс за добри практики, оценен като подходящ съгласно тази разпоредба, за да докажат спазването на това задължение за оповестяване. За допълнителна информация относно последиците от придържането към такъв кодекс и надзора над лицата, които не се придържат към него, вж. раздел 8.1 по-долу.

6.2.3.   Изключение от задължението за прозрачност за текст, който е преминал през процес на преглед от човек или редакционен контрол и за който се носи редакционна отговорност

(133)

В член 50, параграф 4, втора алинея от Акта за ИИ се предвижда изключение от задължението за прозрачност, установено в посочената разпоредба, когато са изпълнени две кумулативни условия: i) генерираният или обработен от ИИ текст трябва да е преминал през преглед от човек или редакционен контрол и ii) физическо или юридическо лице трябва да носи редакционна отговорност за публикуването. Когато е уместно, внедрителите могат да се позоват на съответните приложими професионални или деонтологични стандарти, за да докажат спазването на тези изисквания, както е посочено по-долу.

i.   Текст, подложен на преглед от човек или редакционен контрол

(134)

Първото условие за прилагане на изключението по член 50, параграф 4, втора алинея от Акта за ИИ изисква генерираният или обработеният с ИИ текст да е бил подложен на преглед от човек или редакционен контрол. Прегледът от човек се отнася до съзнателната проверка на същността на съдържанието от едно или повече физически лица, притежаващи съответните знания и професионална преценка, отнасящи се до разглеждания предмет (например академична партньорска проверка или професионални вериги за валидиране). Проверката на фактите по отношение на точността на съдържанието е минимално изискване, което трябва да бъде част от този преглед. Редакционният контрол се отнася до упражнявания на практика контрол от отговорен редакционен субект (например главен редактор) върху съдържанието, който има правомощието да одобрява, променя или отхвърля същността на текста въз основа на съществени основания (включително проверка на фактите и осигуряване на надеждността на източниците). Това не засяга съществуващите процедури за преглед и редакционни процедури, както и професионалните стандарти, приложими за доставчиците на медийни услуги.

(135)

Повърхностни, чисто формални или процедурни проверки (например проверка на правописа или граматически корекции), самото съществуване на редакционна политика, автоматизирани процеси на преглед или бегло редакционно одобрение, извършени без съществено участие от страна на човека, извършващ прегледа, или на редакционния орган, не могат да изпълнят изискванията за преглед от човек или редакционен контрол за целите на това изключение.

(136)

Когато се използват системи с ИИ за изменение, допълване или преформулиране на съдържание след редакционно одобрение, полученото съдържание трябва да се третира като генерирано или обработено от ИИ за целите на член 50, параграф 4 от Акта за ИИ. Следователно всяка съществена намеса на ИИ, настъпила след приключването на процеса на преглед от човек или редакционен контрол, ще доведе до невалидност на изключението.

(137)

С оглед на член 50, параграф 7 от Акта за ИИ, внедрителите могат да се придържат към кодекс за добри практики, оценен като подходящ съгласно посочената разпоредба, за да докажат спазването на условието за преглед от човек или редакционен контрол (особено от внедрители, които не са доставчици на медийни услуги, подлежащи на съществуващи редакционни професионални или деонтологични стандарти), предвидено в тази разпоредба. За допълнителна информация относно последиците от придържането към такъв кодекс и надзора над внедрителите, които не се придържат към такъв кодекс, вж. раздел 8.1.

ii.

Редакционна отговорност

(138)

Съгласно второто условие за прилагане на изключението по член 50, параграф 4, втора алинея от Акта за ИИ се изисква физическо или юридическо лице да носи редакционна отговорност за публикуването на съдържанието. Това означава, че посоченото лице трябва да носи крайната правна отговорност за публикуването на съдържанието, включително за прегледа от човек или редакционния контрол (например физическо лице, редакционен съвет или издателство). За да се гарантират публичната отчетност и доверие, и в съответствие със съществуващите професионални медийни стандарти, самоличността и данните за контакт на юридическото лице, физическото лице или функцията с редакционна отговорност следва да бъдат публично достъпни на лесно откриваемо място (ако не са налични по друг начин). Това може да стане онлайн например чрез общите условия на уебсайт или друга правна информация, предназначена за ползвателите. В офлайн среда такава информация може да бъде включена в колофона или в карето с данни за изданието на публикацията.

Примери за съдържание, подлежащо на преглед от човек или редакционен контрол, при което физическо или юридическо лице носи редакционна отговорност:

—

Обработена от ИИ статия във вестник или генерирано от ИИ резюме на статия, която е била обект на редакционен контрол от съответния главен редактор, като редакционната отговорност се носи от юридическото лице, което публикува вестника.

—

Академичен блог, обработен от ИИ, който е преминал вътрешна партньорска проверка и за който съответният изследователски център, управляващ блога, носи редакционна отговорност.

—

Генерирани от ИИ предупреждения за обществена безопасност, одобрени от длъжностно лице преди разпространението им до гражданите, под отговорността на съответната публична агенция за гражданска защита.

—

Генерирани от ИИ доклади за устойчивостта, публикувани на уебсайта на публично дружество, преминали през преглед от човек, извършен от специалисти на съответни длъжности (например съответствие).

—

Превод на написана от човек статия, подпомогнат от ИИ, при който преводът е преминал през преглед от човек.

Примери за текст, който не отговаря на изискванията за преглед от човек или редакционен контрол, за да се възползва от изключението:

—

Уебсайт, в който се публикуват генерирани от ИИ статии относно политиката на Съюза без какъвто и да е съзнателен преглед от човек или редакционен контрол.

—

Генерирани от ИИ статии, които се преглеждат и редактират от друга система с ИИ и при които редакторът човек извършва само повърхностна, граматическа проверка преди публикуване.

—

Генерирана от ИИ самостоятелно публикувана книга за изменението на климата, предоставена на платформа за електронна търговия, която не е преминала през какъвто и да е преглед от компетентно физическо или юридическо лице (нито от платформата).

6.2.4.   Изключение във връзка с правоприлагането

(139)

Ако използването на системи с ИИ за генериране на текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес без преглед от човек (например генерирано от ИИ полицейско предупреждение относно терористична заплаха, публикувано в социалните медии), е разрешено по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления, внедрителите са освободени от задължението за прозрачност съгласно член 50, параграф 4 от Акта за ИИ. Разясненията, предоставени в точки 46—48 по-горе за подобно изключение в член 50, параграф 1 от Акта за ИИ, са уместни и за тази разпоредба.

6.2.5.   Взаимодействие с други правни актове на Съюза

(140)

Що се отнася до медийното право на Съюза, редакционната отговорност е ключова концепция, определена в член 2, точка 8 от Регламент (ЕС) 2024/1083 (Европейски акт за свободата на медиите, ЕАСМ) (39). В този контекст „редакционна отговорност“ означава „упражняването на ефективен контрол както върху подбора на предавания или публикации в пресата, така и върху тяхната организация за целите на предоставянето на медийна услуга, независимо от наличието на отговорност съгласно националното право за предоставяната услуга“. В определени ситуации това определение може да се припокрива с понятието за „редакционна отговорност“, използвано в член 50, параграф 4, втора алинея от Акта за ИИ, по-специално когато лицата, които внедряват системата с ИИ, също се квалифицират като доставчици на медийни услуги съгласно ЕАСМ. Следователно редакционната отговорност по смисъла на член 50, параграф 4 от Акта за ИИ следва да се тълкува в съответствие със съществуващите достижения на правото на Съюза в областта на медиите, независимо от факта, че тя остава отделна концепция, която може да се прилага и в по-широк контекст и по отношение на други лица, които внедряват системи, стига те да поемат редакционна отговорност за публикуването на текста. Доставчиците на медийни услуги могат да разчитат на своите съществуващи редакционни процеси и стандарти, за да се възползват от изключението съгласно член 50, параграф 4, втора алинея от Акта за ИИ.

7.   ХОРИЗОНТАЛНИ ИЗИСКВАНИЯ, ПРИЛОЖИМИ ПО ОТНОШЕНИЕ НА ИНФОРМАЦИЯТА, ПРЕДОСТАВЕНА СЪГЛАСНО ЧЛЕН 50, ПАРАГРАФ 5 ОТ АКТА ЗА ИИ

(141)

Съгласно член 50, параграф 5 от Акта за ИИ, информацията, която трябва да бъде предоставена в съответствие с член 50, параграфи 1—4 от Акта за ИИ, следва да се предоставя на засегнатите физически лица по ясен и добре различим начин най-късно в момента на първото взаимодействие или първия контакт и да отговаря на приложимите изисквания за достъпност. Информацията следва също така да отговаря на приложимите изисквания за достъпност. Изразът „съответните физически лица“ в този контекст включва лицата, които взаимодействат пряко със системата с ИИ (член 50, параграф 1 от Акта за ИИ), активните или пасивните ползватели и други лица, изложени на генерираното или обработено от ИИ синтетично съдържание (със или без пряко взаимодействие със системата с ИИ (член 50, параграфи 2 и 4 от Акта за ИИ), и лицата, които използват системи за разпознаване на емоции или биометрично категоризиране (член 50, параграф 3 от Акта за ИИ).

7.1.   Предоставяне на информация по ясен и различим начин

(142)

Информацията ще се счита за предоставена по ясен начин, когато тя е забележима, лесна за разбиране и достъпна за съответното физическо лице (включително лицата с увреждания). Информацията ще се счита за предоставена по добре различим начин, когато тя лесно може да бъде установена като отделна от друга информация и от средата, в която е представено съдържанието. Тя трябва също така да бъде лесно разбираема за аудиторията, включително за специфични групи, като деца или хора с увреждания, когато те са част от аудиторията, която предвидимо е изложена на съдържанието или взаимодейства със системата (40). За да се предостави информация по ясен и добре различим начин, съответната информация може, наред с другото, да бъде представена като част от взаимодействието (съгласно член 50, параграф 1 от Акта за ИИ) или съответното съдържание (съгласно член 50, параграфи 2 и 4 от Акта за ИИ). Информацията няма да се счита за предоставена по ясен и добре различим начин, когато тя лесно може да бъде пренебрегната или пропусната от физически лица при нормални условия на излагане или взаимодействие (например включена само като част от ръководство или скрита под слоеве от опции в менюто на онлайн интерфейс, или като част от условия за ползване, които често не се четат от потребителите).

7.2.   Първо взаимодействие или първи контакт

(143)

Съгласно член 50, параграф 5 от Акта за ИИ се изисква информацията да се предоставя на засегнатите физически лица най-късно в момента на първото взаимодействие или първия контакт. Първото взаимодействие или първият контакт се отнасят не само до първото физическо лице, което взаимодейства със система с ИИ или е изложено на нея (на резултата от нея), но и до всяко последващо първо взаимодействие със системата с ИИ или излагане на нея (на резултата от нея) от страна на всяко друго физическо лице. Що се отнася до първото взаимодействие със система с ИИ, информацията следва най-малкото да бъде предоставена веднъж в началото на интерактивна сесия, като се вземе предвид специфичният контекст, посочен в точки 36 и 40 по-горе. Що се отнася до генерирано или обработено от ИИ съдържание, попадащо в приложното поле на член 50, параграфи 2 и 4 от Акта за ИИ, задължението за предоставяне на информация се прилага за всеки резултат от система с ИИ по отношение на всяко физическо лице, изложено на съдържанието. То следва да се разбира в смисъла на всеки момент от времето, в който е разумно вероятно физическо лице да бъде изложено на резултата от системата с ИИ и да възприеме оповестяването, като се вземат предвид спецификите на оповестяването в случай на произведения с очевидно творчески, художествен и друг характер (вж. раздел 6.1.3.). Освен това на внедрителите е позволено да информират физическите лица по-рано от момента на първото действително взаимодействие или първия контакт (например в началото на съдържание, включващо убедителни фалшификати). Ако обаче е разумно предвидимо, че лицата може да не възприемат съдържанието от самото начало, тогава оповестяването само в началото на съдържанието не информира по подходящ начин тези лица и следва да бъде допълнено с оповестяване в по-късни моменти, когато е възможно. Това може да бъде приложено по подходящ начин, като се вземе предвид целта на задълженията за прозрачност да се осигури ефективно предоставяне на информацията и значима осведоменост на ползвателите във все по-потапящи и реалистични среди с ИИ, в които ползвателите срещат все по-големи трудности да различат произхода и достоверността на съдържанието и взаимодействието.

Примери за предоставяне на информация при първо взаимодействие или първи контакт съгласно член 50, параграф 5 от Акта за ИИ:

—

Първо взаимодействие: при започване на разговор с чатбот или при започване на физическо взаимодействие със система с ИИ.

—

Първи контакт: в началото на видеоклип, включващ убедителен фалшификат, в началото на генерирана или обработена от ИИ текстова публикация по въпроси от обществен интерес, или при среща с обработени от ИИ убедителни фалшификати при превъртане в социалните медии.

7.3.   Съответствие с приложимите изисквания за достъпност

(144)

Доставчиците и внедрителите на системи с ИИ, попадащи в обхвата на различните задължения за прозрачност, посочени в член 50, параграфи 1—4 от Акта за ИИ, трябва да са запознати с приложимите изисквания за достъпност (например съгласно Директива 2016/2102 (41) и Директива 2019/882 (42) и да преценят дали техният продукт, услуга или съдържание трябва да отговарят на тези правила. В такъв случай те трябва да осигурят достъпност на информацията, предоставена в съответствие с член 50 от Акта за ИИ в съответствие с приложимите изисквания за достъпност. С член 50 от Акта за ИИ не се налагат отделни или допълнителни изисквания за достъпност.

8.   ПРИЛАГАНЕ НА ЧЛЕН 50 ОТ АКТА ЗА ИИ

(145)

С настоящия раздел се цели разясняване на: i) ефектите от придържането към кодекс за добри практики по отношение на спазването на задълженията за прозрачност за генерирано от ИИ съдържание; ii) ролята на компетентните надзорни органи при прилагането на член 50 от Акта за ИИ; iii) приложимите санкции за нарушения на тези задължения; и iv) момента, в който задълженията по член 50 от Акта за ИИ влизат в сила.

8.1.   Ефекти от спазването на кодекс за добри практики, оценен като подходящ

(146)

Доставчиците и внедрителите на системи с ИИ, попадащи в приложното поле на член 50, параграфи 2 и 4 от Акта за ИИ, могат да докажат спазването на съответните си задължения за прозрачност по отношение на генерирано от ИИ съдържание съгласно тези разпоредби, като се придържат към кодекс за добри практики, който е оценен като подходящ съгласно член 50, параграф 7 от Акта за ИИ (43). Такъв кодекс не заменя Акта за ИИ или тези насоки. Той ги допълва, като предоставя единствената призната в целия Съюз практическа рамка за доставчиците и внедрителите на системи с генеративен ИИ за доказване на съответствие с тези задължения, независимо от тяхното място на установяване, дейност и компетентните органи за надзор на пазара.

(147)

Макар че доставчиците и внедрителите могат също да докажат спазването на тези задължения чрез алтернативни подходящи средства, придържането към кодекс за добри практики, който е оценен като подходящ, е лесен, предвидим и правно сигурен начин за доказване на спазването. За подписващите страни по кодекс за добри практики, който е оценен като подходящ съгласно член 50, параграф 7 от Акта за ИИ (44), Комисията и компетентните органи за надзор на пазара ще съсредоточат своите надзорни дейности върху оценката дали тези подписващи страни са се придържали към кодекса за добри практики и са приложили съдържащите се в него мерки. Тъй като придържащите се доставчици и внедрители ще бъдат прозрачни по отношение на мерките, които прилагат за спазване на член 50, параграфи 2, 4 и 5 от Акта за ИИ, те ще се ползват от повишено доверие от страна на Комисията, другите компетентни органи за надзор на пазара и други заинтересовани страни (включително широката общественост). Всяко изключване от раздели от страна на подписващите страни по кодекс за добри практики, който се счита за подходящ, ще доведе до това, че тези доставчици и внедрители ще загубят ползата от улесняването на доказването на съответствие в това отношение.

(148)

Доставчиците и внедрителите, които не са подписващи страни по кодекс за добри практики, счетен за подходящ съгласно член 50, параграф 7 от Акта за ИИ, се очаква да покажат как са изпълнили задълженията си по член 50, параграфи 2, 4 и 5 от Акта за ИИ чрез други подходящи средства. Освен това от тези доставчици и внедрители се очаква да обяснят как прилаганите от тях мерки осигуряват спазването на задълженията им по Акта за ИИ. Например те следва да извършат анализ на пропуските, при който се сравняват прилаганите от тях мерки с мерките, предвидени в кодекс за добри практики, който е оценен като подходящ. Тъй като компетентните органи (включително Службата по ИИ) ще са запознати в по-малка степен от начина, по който доставчиците и внедрителите, които не са подписващи страни по кодекс за добри практики, осигуряват спазването на задълженията си съгласно член 50, параграфи 2, 4 и 5 от Акта за ИИ, те вероятно ще се нуждаят от по-подробна информация при наблюдение на спазване на изискванията. Например доставчиците, които не се придържат към кодекс за добри практики, могат също да бъдат обект на по-голям брой искания за информация и искания за достъп, за да се оценят ефективността, оперативната съвместимост, стабилността и надеждността на техническите решения, приложени за спазването на член 50, параграф 2 от Акта за ИИ. Внедрителите също могат да бъдат обект на такива искания по отношение на своите практики за обозначаване съгласно член 50, параграф 4 от Акта за ИИ.

(149)

Компетентните органи могат да вземат предвид ангажиментите, изпълнени в съответствие с кодекс за добри практики, който се счита за подходящ, като смекчаващ фактор при определянето на размера на глобите в зависимост от конкретните обстоятелства (45).

(150)

Ако кодекс за добри практики не се счита за подходящ съгласно член 50, параграф 7 от Акта за ИИ, Комисията може да приеме акт за изпълнение, в който се установяват общите правила за изпълнението на задълженията по член 50, параграфи 2, 4 и 5 от Акта за ИИ, които ще бъдат приложими за всички съответни доставчици и внедрители на системи с ИИ, попадащи в приложното поле на тези разпоредби (46).

8.2.   Органи за надзор на пазара

(151)

Органите за надзор на пазара, определени от държавите членки, Службата по ИИ (47) и Европейския надзорен орган по защита на данните (48) отговарят за надзора и прилагането на правилата за системите с ИИ, попадащи в рамките на тяхната компетентност, включително задълженията за прозрачност, предвидени в член 50 от Акта за ИИ. Това правоприлагане се осъществява в рамките на системата относно надзора на пазара и съответствието на продуктите, създадена с Регламент (ЕС) 2019/1020 и Акта за ИИ. Правомощията на органите за надзор на пазара по отношение на системите с ИИ са определени в тези разпоредби. Тези органи могат да предприемат действия по прилагане на задълженията, изброени в член 50 от Акта за ИИ, по собствена инициатива или след подаване на жалба, която всяко засегнато лице или всяко друго физическо или юридическо лице, което има основание да счита, че са извършени такива нарушения, има право да подаде (49). Отговорностите на органите за надзор на пазара съгласно Акта за ИИ не засягат правомощията и задачите на други надзорни органи или органи за защита на основните права съгласно тяхната собствена правна рамка в ситуации, в които се прилагат както член 50 от Акта за ИИ, така и тази рамка (например защита на данните, защита на потребителите).

8.3.   Санкции

(152)

На доставчиците и внедрителите, които не спазват приложимите задължения за прозрачност, предвидени в член 50 от Акта за ИИ, може да бъдат наложени глоби в размер до 15 000 000 EUR или, ако нарушителят е предприятие, до 3 % от общия му годишен световен оборот за предходната финансова година, като се прилага по-големият размер. На институциите, органите, службите и агенциите на ЕС, които нарушават задълженията за прозрачност, могат да бъдат наложени административни глоби в размер до 750 000 EUR. В случая на малки и средни предприятия (МСП), включително стартиращи предприятия, всяка глоба е в размер до горепосочените проценти или сума, като се прилага по-ниският размер. Глобите трябва да бъдат ефективни, пропорционални и възпиращи и да отчитат интересите на МСП и малките предприятия със средна пазарна капитализация (МПСПК), включително новосъздадените предприятия, както и тяхната икономическа жизнеспособност. При вземането на решение дали да бъде наложена административна глоба и при определянето на размера на административната глоба във всеки отделен случай компетентните органи следва да преценят всички обстоятелства от значение за конкретната ситуация и, доколкото е приложимо, редица фактори, които влияят върху сериозността на нарушението (например естество, тежест и продължителност на нарушението и неговите последици, дали е извършено умишлено или поради небрежност, други утежняващи или смекчаващи обстоятелства, степен на сътрудничество с органите за надзор на пазара и др.).

8.4.   Влизане в сила

(153)

Съгласно член 113 от Акта за изкуствения интелект член 50 от Акта за ИИ се прилага от 2 август 2026 г. Това изисква всички попадащи в обхвата системи с ИИ, пуснати на пазара или пуснати в действие в Съюза, да бъдат в съответствие с тази разпоредба към тази дата, независимо от датата на пускането им на пазара или пускането им в действие (50). В регламента за изменение на Акта за ИИ (т.нар. „сборен пакет от мерки в областта на цифровите технологии за ИИ“), който наскоро беше приет от законодателя на Съюза, се предвижда целево правило за „заварено положение“ само по отношение на задълженията за маркировка и откриване съгласно член 50, параграф 2 от Акта за ИИ за системи с генеративен ИИ, пуснати на пазара или пуснати в действие преди 2 август 2026 г. С него на доставчиците на тези съществуващи системи се предоставя преходен период, за да приведат системите си в съответствие до 2 декември 2026 г. Системите, които са частично интерактивни и частично генеративни, могат да се възползват от този преходен период само по отношение на задължението за маркировка съгласно член 50, параграф 2 от Акта за ИИ, докато спазването на задължението за оповестяване за системи с ИИ, които взаимодействат пряко с физически лица, трябва да бъде осигурено от 2 август 2026 г.

(154)

Не е необходимо генерираните или обработени от ИИ резултати, попадащи в приложното поле на член 50, параграф 2 от Акта за ИИ, и убедителните фалшификати в приложното поле на член 50, параграф 4, първа алинея от Акта за ИИ, които са били генерирани или обработени преди 2 август 2026 г., да бъдат маркирани или обозначени със задна дата. Същото се отнася и за текстове по въпроси от обществен интерес, попадащи в приложното поле на член 50, параграф 4, втора алинея от Акта за ИИ, които са били изкуствено генерирани или обработени и публикувани преди 2 август 2026 г. Обратно, ако текстове, които са били генерирани или обработени преди 2 август 2026 г., бъдат публикувани на или след тази дата, те трябва да бъдат обозначени. Като се има предвид целта за прозрачност и повишено доверие и почтеност на информационната екосистема, залегнала в Акта за ИИ, внедрителите на системи с ИИ и други участници, които притежават или разпространяват съществуващи необозначени убедителни фалшификати, все пак се насърчават да ги обозначат, без да се очаква от тях да полагат непропорционални усилия за тази цел (като например одит на съществуващи бази данни със съдържание или промяна на вече отпечатани опаковки на продукти).

9.   ПРЕГЛЕД И АКТУАЛИЗИРАНЕ НА НАСОКИТЕ

(155)

Настоящите насоки представляват първо тълкуване с практически примери на задълженията за прозрачност, предвидени в член 50 от Акта за ИИ. Комисията ще преразгледа настоящите насоки веднага щом това се наложи с оглед на практическия опит, натрупан при прилагането на задълженията за прозрачност, и темпото на технологично, обществено и регулаторно развитие в тази област. Това включва и всякакъв имащ отношение опит от действия по прилагане на надзора на пазара и тълкувания на член 50 от Акта за ИИ от страна на Съда на ЕС. По време на този преглед Комисията може да реши да оттегли или измени настоящите насоки. Комисията насърчава доставчиците и внедрителите на системи с ИИ, националните органи за надзор на пазара чрез Съвета по ИИ, Консултативния форум за ИИ, научноизследователската общност и организациите на гражданското общество да допринесат за този процес, като отговорят на бъдещите покани за обществени консултации.

(1)  Регламент (ЕС) 2024/1689 на Европейския парламент и на Съвета от 13 юни 2024 г. за установяване на хармонизирани правила относно изкуствения интелект (Акт за изкуствения интелект) (OВ L, 2024/1689, 12.7.2024 г., ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2)  Член 1 от Акта за ИИ.

(3)  Член 2, параграф 1, буква а), член 3, точки 3, 9 и 11 от Акта за ИИ. За допълнителни насоки относно понятията „пускане на пазара“, „пускане в действие“ и „използване“ вж. Насоките на Комисията относно забранените практики в областта на изкуствения интелект, C(2025) 5052, и известието на Комисията „Синьото ръководство“ за прилагане на правилата на ЕС относно продуктите — 2022 г., раздел 2 (ОВ C 247, 29.6.2022г., стр. 1).

(4)  Член 2, параграф 1, буква в) и съображение 22 от Акта за ИИ.

(5)  Член 3, точка 4 от Акта за ИИ.

(6)  Член 2, параграф 1, букви б) и в) от Акта за ИИ.

(7)  Регламент (ЕС) 2022/2065 на Европейския парламент и на Съвета от 19 октомври 2022 г. относно единния пазар на цифрови услуги (OВ L 277, 27.10.2022 г., стр. 1).

(8)  Вж. раздел 2.5 от Насоките на Комисията относно забранените практики в областта на изкуствения интелект, установени в Регламент (ЕС) 2024/1689 (Акта за ИИ), Брюксел, 29.7.2025 г., C(2025) 5052 final.

(9)  Определението за внедрител също така изключва ползвателите, ангажирани в такива дейности (вж. раздел 2.3 по-горе).

(10)  Съображение 25 от Акта за ИИ.

(11)  В съображение 102 от Акта за ИИ се пояснява, че предоставянето на софтуер и данни с безплатен лиценз с отворен код „им позволява да бъдат споделяни свободно и [...] ползвателите могат свободно да ги достъпват, използват, променят и разпространяват в променен или непроменен вид“.

(12)  За допълнителна информация относно член 5 от Акта за ИИ вж. Насоките на Комисията относно забранените практики в областта на изкуствения интелект, установени в Регламент (ЕС) 2024/1689 (Акта за ИИ), C(2025) 5052 final.

(13)  вж. член 6 от Акта за ИИ.

(14)  По-специално с член 26, параграф 11 от Закона за изкуствения интелект се налага задължение за прозрачност на внедрителите на високорискови системи с ИИ, които вземат решения или подпомагат вземането на решения, свързани с информирането на физически лица, че спрямо тях се използва високорискова система с ИИ. Тези задължения за прозрачност допълват задълженията по член 50 от Акта за ИИ, тъй като се отнасят до различна информация, която трябва да бъде предоставена на физическите лица, но те могат да бъдат комбинирани в единни уведомления.

(15)  В член 3, точка 66 от Акта за ИИ „система с ИИ с общо предназначение“ се определя като система с ИИ, основана на модел на ИИ с общо предназначение, която може да служи за различни цели и може да се използва пряко, както и да се интегрира в други системи с ИИ.

(16)  Член 50, параграф 2 от Акта за ИИ съдържа изрично позоваване на системите с ИИ с общо предназначение (GPAI).

(17)  Съображение 133 от Акта за ИИ.

(18)  Вж. член 3, точка 1 от Акта за ИИ. За допълнителни насоки относно понятието „система с ИИ“ вж. Насоките на Комисията относно определението за система с ИИ, 29.7.2025 г., C(2025) 5053 final.

(19)  Вж. съображение 132 от Акта за ИИ. Това не изисква системата да бъде насочена към тези уязвими групи. Ако е предвидено системата да взаимодейства с който и да е член на обществеността, тогава членовете на уязвимите групи също са включени и следва да бъдат взети предвид от доставчиците при прилагането на мерките за уведомяване.

(20)  Вж. раздел 7.3 за приложимите изисквания за достъпност.

(21)  Например електронните удостоверения за атрибути, установени съгласно Регламент (ЕС) № 910/2014 и предоставени в портфейлите за цифрова идентичност на ЕС, създадени съгласно същия регламент, както и предложените европейски бизнес портфейли, могат да осигурят сигурни и ефективни средства за идентифициране на ИИ агенти. Портфейлите могат да съхраняват и управляват електронни удостоверения, които потвърждават идентичността, атрибутите и разрешенията на ИИ агента, като по този начин позволяват безпроблемно и надеждно оповестяване пред физически лица.

(22)  Това се прилага и за подобните изключения в полза на дейностите по правоприлагане, предвидени в член 50, параграфи 2—4 от Акта за ИИ.

(23)  Директива 2005/29/ЕО на Европейския парламент и на Съвета от 11 май 2005 г. относно нелоялни търговски практики от страна на търговци към потребители на вътрешния пазар (ОВ L 149, 11.6.2005 г., стр. 2).

(24)  Директива 2011/83/ЕС на Европейския парламент и на Съвета от 25 октомври 2011 г. относно правата на потребителите (ОВ L 304, 22.11.2011 г., стр. 64).

(25)  Директива 2012/13/ЕС на Европейския парламент и на Съвета от 22 май 2012 г. относно правото на информация в наказателното производство (ОВ L 142, 1.6.2012 г., стр. 1); Директива 2012/29/ЕС на Европейския парламент и на Съвета от 25 октомври 2012 г. за установяване на минимални стандарти за правата, подкрепата и защитата на жертвите на престъпления (ОВ L 315, 14.11.2012 г., стр. 57).

(26)  Съгласно определението в член 3, точка 1 от Акта за ИИ.

(27)  В съображение 133 от Актa за изкуствения интелект се пояснява, че е целесъобразно да се изисква от доставчиците на тези системи да вграждат технически решения, позволяващи маркиране в машинночетим формат и разпознаване, че резултатът е генериран или обработен от система с ИИ, а не от човек. Съображение 135 от Акта за ИИ се отнася до задължението относно откриването.

(28)  Вж. приложение II към Решение за изпълнение C(2025) 3871 final на Комисията относно искане за стандартизация до Европейския комитет по стандартизация и Европейския комитет по електротехническа стандартизация по отношение на високорискови системи с ИИ в подкрепа на Регламент (ЕС) 2024/1689 на Европейския парламент и на Съвета и за отмяна на Решение за изпълнение C(2023)3215 final.

(29)  Вж. също съображение 11 от Акта за ИИ.

(30)  Вж. също съображение 137 от Акта за ИИ.

(31)  Съображение 136 от Акта за ИИ.

(32)  Поради това този критерий трябва да се разбира независимо и отделно от концепцията за заблуда, посочена в Директива 2005/29/ЕО относно нелоялни търговски практики от страна на търговци към потребители на вътрешния пазар (Директивата за нелоялни търговски практики), https://eur-lex.europa.eu/eli/dir/2005/29/oj/bul.

(33)  Вж. в подобен смисъл член 1, буква б) от Директивата за аудио-визуалните медийни услуги.

(34)  Това се прилага в еднаква степен и за публикувани текстове, с които обществеността се информира по въпроси от обществен интерес.

(35)  Вж. също раздел 4.4 за допълнителна информация относно взаимодействието между член 50 от Акта за ИИ и АЦУ.

(36)  Съображение 2 от АЦУ.

(37)  За по-подробни разяснения вж. съвместните насоки на Комисията и ЕКЗД относно взаимодействието между Акта за ИИ и законодателството на ЕС за защита на данните (в процес на подготовка).

(38)  Вж. по аналогия C-89/04, Mediakabel, EU:C:2005:348, т. 33; C-192/04, Lagardère, EU:C:2005:475, т. 31; C-306/05, SGAE, EU:C:2006:764, т. 37—40; C-527/15, Stichting Brein, EU:C:2017:300, т. 43 и 44 и цитираната съдебна практика; Дело C-135/23, GEMA, EU:C:2024:526, т. 38 и цитираната съдебна практика).

(39)  Регламент (ЕС) 2024/1083 на Европейския парламент и на Съвета от 11 април 2024 г. за създаване на обща рамка за медийните услуги на вътрешния пазар и за изменение на Директива 2010/13/ЕС (Европейски акт за свободата на медиите) (ОВ L, 2024/1083, 17.4.2024 г., ELI: http://data.europa.eu/eli/reg/2024/1083/oj).

(40)  Когато децата са част от целевата аудитория на съдържанието, тези уведомления трябва да бъдат: i) подходящи за деца, съобразени с възрастта, лесни за разбиране и леснодостъпни за всички деца, включително тези с увреждания и/или с допълнителни нужди по отношение на достъпността; ii) представени ясно по начин, който е лесен за разбиране и е възможно най-прост и кратък; iii) представени по начин, който дава възможност за лесен преглед и осигурява незабавен и интуитивен достъп, в момента, в който това стане уместно; iv) представени на официалния език/официалните езици на държавата членка, в която се предоставя услугата; v) привлекателни за децата. Това може да включва също и използването на графики, видеоклипове и/или персонажи, или други техники; vi) предоставени на децата постепенно, като е отделено достатъчно време за това, за да се увеличи максимално запаметяването им от ползвателя.

(41)  Директива (ЕС) 2016/2102 на Европейския парламент и на Съвета от 26 октомври 2016 г. относно достъпността на уебсайтовете и мобилните приложения на организациите от обществения сектор (Текст от значение за ЕИП) (ОВ L 327, 2.12.2016 г., стр. 1).

(42)  Директива (ЕС) 2019/882 на Европейския парламент и на Съвета от 17 април 2019 г. за изискванията за достъпност на продукти и услуги (текст от значение за ЕИП), PE/81/2018/REV/1 (ОВ L 151, 7.6.2019 г., стр. 70).

(43)  Вж. съответната информация относно Кодекса за поведение във връзка с прозрачността на генерираното от ИИ съдържание |Изграждане на цифровото бъдеще на Европа, публикувано на 10 юни 2026 г.

(44)  Вж. Становище на Комисията относно оценката на Кодекса за поведение за прозрачност на генерираното от ИИ съдържание | Изграждане на цифровото бъдеще на Европа.

(45)  Член 99, параграф 7, буква д) от Акта за ИИ.

(46)  Член 50, параграф 7 от Акта за ИИ.

(47)  Като орган за надзор на пазара за системи с ИИ, изградени върху модели с ИИ с общо предназначение, предоставени от същия доставчик (член 75, параграф 1 от Акта за ИИ). Това обхваща приложимото по отношение на доставчиците задължение съгласно член 50, параграфи 1 и 2 от Акта за ИИ. По отношение на член 50, параграфи 3 и 4 от Акта за ИИ, Службата по ИИ ще бъде компетентна само ако съответният доставчик на модел и система с ИИ с общо предназначение е също така и ползвател на системата.

(48)  Като орган за надзор на пазара за институциите, агенциите и органите на ЕС.

(49)  Член 85 от Акта за ИИ.

(50)  Специалното правило за заварено положение в член 111, параграф 2 от Акта за ИИ се прилага за високорискови системи с ИИ, пуснати на пазара преди датата на прилагане на правилата за високорискови системи, само по отношение на съответствието на тези системи с изискванията и задълженията за високорискови системи с ИИ. Ако високорисковата система с ИИ също така подлежи на едно или повече задължения за прозрачност съгласно член 50 от Акта за ИИ, това специално правило за заварено положение не се прилага, тъй като прилагането на различните задължения за високорискови системи и задълженията за прозрачност по член 50 е кумулативно, а завареното положение е обосновано и ограничено само по отношение на съответствието с разпоредбите за високорискови системи.


ELI: http://data.europa.eu/eli/C/2026/6005/oj

ISSN 1977-0855 (electronic edition)