|
Официален вестник |
BG Cерия C |
|
C/2026/6005 |
12.11.2026 |
СЪОБЩЕНИЕ НА КОМИСИЯТА
Насоки относно изпълнението на задълженията за прозрачност за някои системи с ИИ съгласно член 50 от Регламент (ЕС) 2024/1689 („Акт за изкуствения интелект“)
(C/2026/6005)
Съдържание
|
1. |
КОНТЕКСТ И ЦЕЛИ | 3 |
|
2. |
ПРЕГЛЕД НА ЗАДЪЛЖЕНИЯТА ЗА ПРОЗРАЧНОСТ И ХОРИЗОНТАЛНИТЕ ТЕМИ | 3 |
|
2.1. |
Преглед на задълженията за прозрачност по член 50 от Акта за ИИ | 3 |
|
2.2. |
Обосновка и цели | 4 |
|
2.3. |
Отговорни участници съгласно член 50 от Акта за ИИ | 5 |
|
2.4. |
Изключения от обхвата на Акта за ИИ | 7 |
|
2.4.1. |
Внедрители, действащи в рамките на изцяло лична непрофесионална дейност | 7 |
|
2.4.2. |
Научноизследователска и развойна дейност | 8 |
|
2.4.3. |
ИИ, предоставен с безплатен лиценз с отворен код | 8 |
|
2.5. |
Взаимовръзка със забранените практики, изискванията за високорисковите системи с ИИ и грамотността в областта на ИИ | 9 |
|
2.6. |
Взаимодействие с правилата, приложими за модели и/или системи с ИИ с общо предназначение | 9 |
|
3. |
ЧЛЕН 50, ПАРАГРАФ 1 ОТ АКТА ЗА ИИ: ПРОЗРАЧНОСТ НА ИНТЕРАКТИВНИТЕ СИСТЕМИ С ИИ | 9 |
|
3.1. |
Основни компоненти, понятия и свързано(и) задължение(я) за прозрачност | 10 |
|
3.1.1. |
Системи с ИИ, предназначени да взаимодействат пряко с физически лица | 10 |
|
3.1.2. |
Задължение за предоставяне на информация съгласно член 50, параграф 1 от Акта за ИИ | 12 |
|
3.2. |
Изключения от задължението за предоставяне на информация съгласно член 50, параграф 1 от Акта за ИИ | 14 |
|
3.2.1. |
Изключение за очевидно взаимодействие със система с ИИ | 14 |
|
3.2.2. |
Изключение за разрешени от закона системи с ИИ за правоохранителни цели | 16 |
|
3.3. |
Взаимодействие с други правни актове на Съюза | 17 |
|
4. |
ЧЛЕН 50, ПАРАГРАФ 2 ОТ АКТА ЗА ИИ: МАРКИРАНЕ И ОТКРИВАНЕ НА ГЕНЕРИРАНО ИЛИ ОБРАБОТЕНО ОТ ИИ СЪДЪРЖАНИЕ | 18 |
|
4.1. |
Основни компоненти и концепции по член 50, параграф 2 от Акта за ИИ | 18 |
|
4.1.1. |
Системи с ИИ, които генерират или обработват синтетично съдържание | 18 |
|
4.1.2. |
Условия за синтетично съдържание в обхвата | 19 |
|
4.1.3. |
Съдържание, което не попада в приложното поле на член 50, параграф 2 от Акта за ИИ | 20 |
|
4.2. |
Задължението за маркировка и откриване съгласно член 50, параграф 2 от Акта за ИИ | 21 |
|
4.2.1. |
Задължение за маркировка | 21 |
|
4.2.2. |
Задължения за откриване | 22 |
|
4.2.3. |
Съответствие с изискванията за технически решения: ефективни, оперативно съвместими, сигурни и надеждни | 22 |
|
4.3. |
Изключения от задълженията по член 50, параграф 2 от Акта за ИИ | 24 |
|
4.4. |
Взаимодействие с други правни актове на Съюза | 25 |
|
5. |
ЧЛЕН 50, ПАРАГРАФ 3 ОТ АКТА ЗА ИИ: СИСТЕМИ ЗА РАЗПОЗНАВАНЕ НА ЕМОЦИИ И СИСТЕМИ ЗА БИОМЕТРИЧНО КАТЕГОРИЗИРАНЕ | 26 |
|
5.1. |
Основни компоненти, концепции и свързано(и) задължение(я) за прозрачност съгласно член 50, параграф 3 от Акта за ИИ | 27 |
|
5.1.1. |
Понятието за система за разпознаване на емоции | 27 |
|
5.1.2. |
Понятието за система за биометрично категоризиране | 27 |
|
5.1.3. |
Задължението за предоставяне на информация съгласно член 50, параграф 3 от Акта за ИИ | 27 |
|
5.2. |
Изключение за правоохранителни цели | 28 |
|
5.3. |
Взаимодействие с други правни актове на Съюза | 28 |
|
6. |
ЧЛЕН 50, ПАРАГРАФ 4: ОБОЗНАЧАВАНЕ НА УБЕДИТЕЛНИ ФАЛШИФИКАТИ (DEEP FAKES) И ОПРЕДЕЛЕНИ ТЕКСТОВИ ПУБЛИКАЦИИ | 28 |
|
6.1. |
Основни компоненти, концепции и свързани задължения за прозрачност за убедителни фалшификати съгласно член 50, параграф 4 от Акта за ИИ | 28 |
|
6.1.1. |
Понятието „убедителен фалшификат“ | 29 |
|
6.1.2. |
Задължението за оповестяване съгласно член 50, параграф 4, първа алинея от Акта за ИИ | 31 |
|
6.1.3. |
Прозрачност на съдържание, което представлява убедителен фалшификат, с артистичен, творчески, сатиричен, художествен или подобен характер. | 32 |
|
6.1.4. |
Изключение във връзка с правоприлагането | 34 |
|
6.1.5. |
Взаимодействие с други правни актове на Съюза | 34 |
|
6.2. |
Основни компоненти, концепции и свързани задължения за прозрачност за генериран или обработен от ИИ текст съгласно член 50, параграф 4 от Акта за ИИ | 35 |
|
6.2.1. |
Текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес | 36 |
|
6.2.2. |
Задължението за оповестяване съгласно член 50, параграф 4, втора алинея от Акта за ИИ | 37 |
|
6.2.3. |
Изключение от задължението за прозрачност за текст, който е преминал през процес на преглед от човек или редакционен контрол и за който се носи редакционна отговорност | 37 |
|
6.2.4. |
Изключение във връзка с правоприлагането | 38 |
|
6.2.5. |
Взаимодействие с други правни актове на Съюза | 39 |
|
7. |
ХОРИЗОНТАЛНИ ИЗИСКВАНИЯ, ПРИЛОЖИМИ ПО ОТНОШЕНИЕ НА ИНФОРМАЦИЯТА, ПРЕДОСТАВЕНА СЪГЛАСНО ЧЛЕН 50, ПАРАГРАФ 5 ОТ АКТА ЗА ИИ | 39 |
|
7.1. |
Предоставяне на информация по ясен и различим начин | 39 |
|
7.2. |
Първо взаимодействие или първи контакт | 40 |
|
7.3. |
Съответствие с приложимите изисквания за достъпност | 40 |
|
8. |
ПРИЛАГАНЕ НА ЧЛЕН 50 ОТ АКТА ЗА ИИ | 40 |
|
8.1. |
Ефекти от спазването на кодекс за добри практики, оценен като подходящ | 41 |
|
8.2. |
Органи за надзор на пазара | 42 |
|
8.3. |
Санкции | 42 |
|
8.4. |
Влизане в сила | 42 |
|
9. |
ПРЕГЛЕД И АКТУАЛИЗИРАНЕ НА НАСОКИТЕ | 43 |
1. КОНТЕКСТ И ЦЕЛИ
|
(1) |
Регламент (ЕС) 2024/1689 на Европейския парламент и на Съвета от 13 юни 2024 г. за установяване на хармонизирани правила относно изкуствения интелект и за изменение на някои регламенти („Акт за изкуствения интелект“ или „Акт за ИИ“) влезе в сила на 1 август 2024 г. (1). С Акта за ИИ се установяват хармонизирани правила за пускането на пазара, пускането в действие и използването на изкуствен интелект (ИИ) в Съюза (2). Целта му е да се насърчат иновациите и навлизането на ИИ, като същевременно се осигурява високо равнище на защита на здравето, безопасността, основните права в Съюза, включително демокрацията и принципите на правовата държава. |
|
(2) |
В Акта за ИИ се следва основан на риска подход, като системите с ИИ се класифицират в четири различни категории по отношение на риска, една от които са системите с ИИ, пораждащи рискове за прозрачността, които са предмет на задълженията, предвидени в член 50 от Акта за ИИ. Тези задължения за прозрачност са приложими две години след влизането в сила на Акта за ИИ, т.е. от 2 август 2026 г. |
|
(3) |
В съответствие с член 96, параграф 1, буква г) от Акта за ИИ настоящите насоки на Комисията се издават с цел да послужат като практическо ръководство за подпомагане на компетентните органи, както и на доставчиците и внедрителите на системи с ИИ, при гарантиране на спазването на задълженията за прозрачност съгласно член 50 от Акта за ИИ по последователен, ефективен, пропорционален и еднакъв начин. |
|
(4) |
При изготвянето на настоящите насоки беше използвана информация от различни заинтересовани страни, събрана по време на организираната от Комисията широка консултация, както и информация от държавите членки в Европейския съвет по ИИ и информация от заинтересованите страни относно проекта на насоки, публикуван за консултация. |
|
(5) |
Настоящите насоки нямат задължителен характер. Авторитетно тълкуване на Акта за ИИ в крайна сметка може да бъде дадено само от Съда на Европейския съюз („Съда“). |
2. ПРЕГЛЕД НА ЗАДЪЛЖЕНИЯТА ЗА ПРОЗРАЧНОСТ И ХОРИЗОНТАЛНИТЕ ТЕМИ
2.1. Преглед на задълженията за прозрачност по член 50 от Акта за ИИ
|
(6) |
В член 50 от Акта за ИИ са включени четири задължения за прозрачност, всяко от които се прилага за различни видове системи с ИИ или резултатите от тях.
|
|
(7) |
Всяко от тези четири задължения е разгледано в раздели 3—6 от настоящите насоки. Освен това съгласно член 50, параграф 5 от Акта за ИИ се изисква информацията, посочена в неговите параграфи 1—4, да се предоставя на засегнатите физически лица по ясен и добре различим начин най-късно в момента на първото взаимодействие или първия контакт и да отговаря на приложимите изисквания за достъпност. Тези изисквания се поясняват в раздел 7. |
|
(8) |
Различните задължения за прозрачност, предвидени в член 50 от Акта за ИИ, могат да се прилагат кумулативно към (резултата от) една система с ИИ, за което евентуално ще носят отговорност различни участници (доставчици или внедрители). Например, ако система с ИИ генерира изображения като част от пряко взаимодействие с физическо лице, доставчикът на системата може да е задължен да спазва както член 50, параграф 1, така и параграф 2 от същия член от Акта за ИИ. Когато тази система е в състояние да генерира и изображения, представляващи убедителен фалшификат или текст, публикуван по въпроси от обществен интерес, внедрителят може допълнително да е задължен да спазва член 50, параграф 4 от Акта за ИИ. |
2.2. Обосновка и цели
|
(9) |
Както е пояснено в съображения 132—136 от Акта за ИИ, целта на задълженията за прозрачност е да се намалят рисковете от измама на основата на прилика, заблуда, масивно навлизане на невярна информация, манипулиране и измами, и да се ограничат потенциалните неблагоприятни въздействия върху демократичните процеси и общественото доверие, причинени от генерирано или обработено от изкуствен интелект съдържание или взаимодействие. Информирането на физическите лица относно произхода на взаимодействието и съдържанието от система с ИИ ще им помогне да вземат информирани решения, като същевременно ще допринесе за запазване на доверието и целостта на информационната екосистема. Прозрачността не е само техническо изискване за съответствие, а предпоставка за това физическите лица да могат да разпознават обработените с ИИ взаимодействия и съдържание или използването на системи за разпознаване на емоции или за биометрично категоризиране. Осигуряването на прозрачно и надеждно използване на интерактивни системи с ИИ и системи с генеративен ИИ също така ще позволи да се защитят личната автономност и европейските ценности, човешкото достойнство и други основни права (например свободата на мисълта, неприкосновеността на личния живот, равенството и недискриминацията, защитата на потребителите, интелектуалната собственост и др.), като същевременно се запазват свободата на изразяване и достоверността на медийното съдържание. |
2.3. Отговорни участници съгласно член 50 от Акта за ИИ
|
(10) |
Съгласно член 3, точка 3 от Акта за ИИ доставчици са физически или юридически лица, публични органи, агенции или други организации, които разработват система с ИИ или възлагат разработването ѝ и я пускат на пазара на Съюза, или я пускат в действие със своето име или търговска марка, срещу заплащане или безплатно. Доставчиците трябва да спазват съответните задължения за прозрачност по член 50, параграфи 1 и 2 от Акта за ИИ, приложими за тях, независимо дали са установени, или се намират на територията на Съюза, или в трета държава (3). Доставчиците, установени или намиращи се извън Съюза, също подлежат на разпоредбите на Акта за ИИ, ако резултатът от тяхната система с ИИ се използва в Съюза (4). Въпреки това инцидентната, непредвидима или неразрешена последваща употреба не следва сама по себе си да задейства прилагането на задълженията за такива доставчици от трети държави на интерактивни системи с ИИ и системи с генеративен ИИ, които не са пуснати на пазара или пуснати в действие в Съюза, без да се засягат правомощията на компетентните органи за пазарен надзор да считат техните резултати за несъответстващи на Акта за ИИ. |
|
(11) |
Доставчиците трябва да гарантират, че техните интерактивни системи с ИИ и системи с генеративен ИИ притежават вградена прозрачност при проектирането и работата на системата, и да гарантират, че всички съответни задължения за прозрачност по член 50, параграфи 1, 2 и 5 от Акта за ИИ са изпълнени най-късно към момента, в който тези системи бъдат пуснати на пазара или пуснати в действие. Всички физически лица, които взаимодействат със системата с ИИ или са изложени на резултати от нея, трябва да бъдат ефективно и последователно информирани през целия жизнен цикъл на системата с ИИ, пусната на пазара или пусната в действие от този доставчик (независимо кои са внедрителите или другите ползватели на системата).
|
|
(12) |
Внедрители са физически или юридически лица, публични органи, агенции или други организации, използващи системи с ИИ, по отношение на които упражняват контрол, освен когато системата с ИИ се използва в процеса на лична непрофесионална дейност (5). „Упражняване на контрол“ по отношение на система с ИИ следва да се разбира като поемане на отговорност за решението да бъде внедрена системата и за начина на действителното ѝ използване (включително резултатите от нея). Това не изисква непременно упражняването на технически контрол върху работата на системата с ИИ, стига внедрителят да взема решението за целите и начина на използване на системата с ИИ (включително в децентрализирани работни процеси и групови корпоративни структури). Внедрителите, участващи в сложни вериги за създаване и разпространение на съдържание, следва да предприемат пропорционални мерки, за да гарантират, че обозначаването на съдържанието, което са приложили съгласно член 50, параграф 4 от Акта за ИИ, се показва по ясен и различим начин за целевата и предвидима аудитория в момента на първия контакт в съответствие с член 50, параграф 5 от Акта за ИИ (например чрез договорни условия с партньори по разпространението, настройки на потребителското преживяване (ПП) и интерфейси, които да бъдат показани). |
|
(13) |
Внедрителите попадат в обхвата на задълженията за прозрачност по член 50, параграфи 3 и 4 от Акта за ИИ, когато мястото им на установяване или местоположението им е на територията на Съюза, или ако са установени или се намират в трета държава, когато резултатът от системата с ИИ се използва в Съюза (6). В последния случай задълженията за прозрачност се прилагат за субекти, намиращи се или установени извън Съюза, когато самият внедрител предвижда разпространение и използване на резултатите от системата с ИИ в Съюза (т.е. чрез насочване или разрешаване на разпространението в рамките на Съюза, включително чрез публикуване на убедителни фалшификати в глобално достъпния интернет). Внедрителите от трети държави обаче не са обвързани от задълженията за прозрачност, когато съдържанието на системата с ИИ достига до аудитории в Съюза чрез канали, които са непредвидими и извън техния контрол. |
|
(14) |
Когато внедрителят на система с ИИ е юридическо лице, под чийто контрол се използва системата (например рекламна агенция), отделните служители, които действат съобразно инструкциите и под контрола на това юридическо лице (например цифрови аниматори, уебдизайнери, създатели на съдържание, журналисти), не следва да се считат за отделни внедрители на тази система. Юридическо лице остава внедрител дори когато е свързано с трети лица (например изпълнители, лица, упражняващи свободни професии) при експлоатацията на системата от негово име и под неговата отговорност и контрол.
|
|
(15) |
Операторите (например доставчици и внедрители) могат да изпълняват едновременно повече от една роля по отношение на дадена система с ИИ. Например дадено дружество може да разработи вътрешна система с генеративен ИИ и да я използва за генериране на убедителен фалшификат. В такъв случай то ще бъде квалифицирано едновременно като доставчик и внедрител, който трябва да осигури съответствие със задълженията за машинночетима маркировка съгласно член 50, параграф 2 и с изискванията за ясно и лесно възприемащо се обозначаване на убедителните фалшификати съгласно член 50, параграф 4 от Акта за ИИ. |
|
(16) |
За разлика от него, други участници (като доставчици на хостинг услуги, включително онлайн платформи, или радио- и телевизионни оператори), чиято роля се ограничава до разпространението или предаването на генерирано или обработено от ИИ съдържание, създадено от трети страни, или които получават или са изложени на генерирано или обработено от ИИ съдържание, без да имат контрол върху използването на системата с ИИ за целите на генерирането или обработването на съдържанието с ИИ, не са внедрители по смисъла на Акта за ИИ. Без да носят отговорност съгласно Акта за ИИ, тези участници все пак могат да играят важна роля във веригата за създаване на стойност за запазване на доверието и целостта на информационната екосистема. Поради това те са силно насърчавани да запазят маркировката и обозначаването, прилагани в съответствие с член 50 от Акта за ИИ, и да прилагат пропорционални и технически осъществими мерки, които да позволяват на физическите лица да откриват генерираното или обработено от ИИ съдържание, без да се засяга отговорността на доставчиците и внедрителите на системи с генеративен ИИ или каквито и да било задължения или отговорност съгласно Регламент (ЕС) 2022/2065 („Акта за цифровите услуги“ или „АЦУ“) (7) или друго приложимо право на Съюза или национално право. |
|
(17) |
Други участници, действащи в професионално качество и разпространяващи съдържание (дори ако не са пряко ангажирани съгласно член 50 от Акта за ИИ), също се насърчават да предприемат пропорционални и подходящи мерки, така че физическите лица, които в крайна сметка са изложени на съдържанието, да бъдат ефективно информирани и да могат да установят неговия изкуствено генериран или обработен произход. Освен това от тези страни може да се изисква да обозначават съответните убедителни фалшификати или текстови публикации по въпроси от обществен интерес съгласно други приложими правни или деонтологични правила (например радио- или телевизионен оператор, който обозначава и показва като част от телевизионна програма убедителен фалшификат, създаден от частно лице). Самият факт обаче, че даден участник обозначава съдържание или използва обозначено съдържание, не означава, че последният се квалифицира като „внедрител“ по смисъла на Акта за ИИ. Актът за ИИ не разширява и не засяга правната отговорност на тези участници съгласно приложимата нормативна уредба, ако те същевременно не се квалифицират като доставчици или внедрители на системи с ИИ. |
2.4. Изключения от обхвата на Акта за ИИ
|
(18) |
В член 2 от Акта за ИИ се предвиждат редица общи изключения от приложното поле на акта, които вече бяха разяснени в Насоките на Комисията относно забранените практики в областта на изкуствения интелект (8). Поради това в настоящия раздел ще бъдат разгледани само онези аспекти, които са от значение за задълженията за прозрачност по член 50 от Акта за ИИ. |
2.4.1. Внедрители, действащи в рамките на изцяло лична непрофесионална дейност
|
(19) |
Съгласно член 2, параграф 10 от Акта за ИИ, регламентът „не се прилага за задълженията на внедрители, които са физически лица, използващи системи с ИИ в рамките на изцяло лична непрофесионална дейност“ (9). Всяка дейност, чрез която физическо лице редовно придобива икономическа полза или по друг начин участва в професионална, стопанска или търговска дейност като заето на щатна длъжност или като свободна професия, следва да се счита за „професионална“ дейност. Уточнението „изцяло лична“ е квалификация към „непрофесионална“ и означава, че за да попадне в обхвата на това изключение, лицето следва да действа едновременно в качеството на физическо лице и в непрофесионално качество. Всяко използване от физически лица, действащи от името или под контрола на внедрител, действащ в професионално качество, попада в обхвата на задълженията за прозрачност на професионалния внедрител, предвидени в член 50, параграфи 3 и 4 от Акта за ИИ.
|
|
(20) |
Изключението по член 2, параграф 10 от Акта за ИИ се прилага само по отношение на задълженията на внедрителите, когато използват системата за изцяло лични, непрофесионални дейности. Системата сама по себе си остава в приложното поле на Акта за ИИ, що се отнася до задълженията на доставчиците, които пускат системата на пазара или я пускат в действие, както и за внедрители, използващи системата за професионална употреба. Изключението не засяга и прилагането на друго съответно право на Съюза и национално право.
|
2.4.2. Научноизследователска и развойна дейност
|
(21) |
В член 2, параграф 6 от Акта за ИИ се предвижда изключение за системите с ИИ или моделите на ИИ, които са специално разработени и пуснати в действие единствено с цел научноизследователска и развойна дейност, включително за техните резултати. Това изключение не засяга приложимите етични стандарти за научни изследвания, законодателството на ЕС относно защитата на данните и друго законодателство. В контекста на член 50 от Акта за ИИ това изключение обхваща не само интерактивните системи с ИИ, но и резултатите от системите с генеративен ИИ (включително съдържание, представляващо убедителен фалшификат), използвани в контекста на научни изследвания. Ако обаче тези системи бъдат пуснати в действие или резултатите от тях се използват за цели, различни от единствената цел на научноизследователската и развойната дейност, съответните задължения за прозрачност по член 50 от Акта за ИИ все пак ще трябва да бъдат спазени.
|
|
(22) |
Освен това в обхвата на член 2, параграф 8 от Акта за ИИ не попадат научноизследователски дейности, изпитвания или развойни дейности по отношение на системи с ИИ или модели на ИИ преди пускането на пазара или пускането в действие на тези системи или модели. Изпитването в реални условия (в рамките на регулаторните лаборатории в областта на ИИ или извън тях) не попада в обхвата на това изключение. Освен това, след като система с ИИ бъде пусната на пазара или пусната в действие в резултат на такива изследователски дейности и дейности по изпитвания, тя все пак следва да спазва съответните задължения за прозрачност съгласно член 50 от Акта за ИИ (10). |
2.4.3. ИИ, предоставен с безплатен лиценз с отворен код
|
(23) |
Съгласно член 2, параграф 12 от Акта за ИИ системите с ИИ, предоставени с безплатен лиценз с отворен код, не попадат в приложното поле на Акта за ИИ, при условие че не попадат в обхвата на забраните по член 5 от Акта за ИИ или на задълженията за прозрачност по член 50 от Акта за ИИ, или не са класифицирани като високорискови (11). Това означава, че доставчиците и внедрителите на системи с ИИ с отворен код, попадащи в приложното поле на член 50 от Акта за ИИ, все още трябва да осигурят спазването на съответните си задължения за прозрачност. |
|
(24) |
От друга страна, доставчиците на безплатни компоненти с ИИ с отворен код, които обхващат софтуер, данни, модели, инструменти, услуги или процеси за персонализиране и интегриране в система с ИИ и които сами по себе си (частично или изцяло) не представляват система с ИИ, не са обект на задълженията за прозрачност по член 50 от Акта за ИИ. Въпреки това доставчиците на такива системи се насърчават да проектират тези модели, компоненти и услуги по начина, описан в точка 27 по-долу, доколкото това е пропорционално и осъществимо. |
2.5. Взаимовръзка със забранените практики, изискванията за високорисковите системи с ИИ и грамотността в областта на ИИ
|
(25) |
В съображение 137 от Акта за ИИ се разяснява, че спазването на задълженията за прозрачност съгласно член 50 от Акта за ИИ за конкретна система с ИИ не следва да се тълкува като указване, че използването на системата с ИИ или на резултатите от нея е законосъобразно съгласно Акта за ИИ. По-специално системите с ИИ, подлежащи на задълженията по член 50 от Акта за ИИ, могат да попаднат в приложното поле на член 5 от Акта за ИИ и по този начин да бъдат забранени (например използването на системи за разпознаване на емоции на работното място или в образователни институции) (12). Освен това системите с ИИ, попадащи в приложното поле на член 50 от Акта за ИИ, могат също да бъдат класифицирани като високорискови (13) и да подлежат на съответните изисквания и задължения за такива системи. Поради това спазването на член 50 от Акта за ИИ не замества, не ограничава и не засяга задълженията, произтичащи от други разпоредби на Акта за ИИ (14). Същевременно системите с ИИ могат също да попаднат в приложното поле на член 50 от Акта за ИИ, без да бъдат класифицирани като високорискови съгласно член 6 от Акта за ИИ. Изискванията за грамотност съгласно член 4 от Акта за ИИ се прилагат както за доставчиците, така и за внедрителите на системи с ИИ в приложното поле на член 50 от Акта за ИИ. |
2.6. Взаимодействие с правилата, приложими за модели и/или системи с ИИ с общо предназначение
|
(26) |
Член 50 от Акта за ИИ се прилага за определени системи с ИИ, което включва системи с ИИ с общо предназначение (15), като например чатботове, поддържащи пряко взаимодействие с физически лица, или системи с ИИ, способни да генерират или обработват синтетично съдържание (включително убедителни фалшификати) (16). |
|
(27) |
Член 50 от Акта за ИИ не се прилага изрично за моделите на ИИ с общо предназначение. Ако обаче интерактивна система с ИИ или система с генеративен ИИ, която попада в приложното поле на член 50, параграфи 1 или 2 от Акта за ИИ, е изградена върху модел на ИИ с общо предназначение, предоставен от същия доставчик, посочените в настоящите насоки мерки за прозрачност биха могли да бъдат приложени и на равнището на модела (вж. също раздел 4 по-долу). Освен това, въпреки че попадат извън приложното поле на член 50 от Акта за ИИ, доставчиците на други модели на ИИ с общо предназначение и на други генеративни модели с ИИ също се насърчават да прилагат подходящи мерки за прозрачност на равнището на модел за идентифициране на интерактивни системи с ИИ и маркировка на генерирано и обработено от ИИ съдържание. Това е особено полезно за улесняване на спазването от страна на доставчиците на системи с ИИ надолу по веригата на техните задължения съгласно член 50, параграфи 1 и 2 от Акта за ИИ (17) и за допринасяне за запазването на доверието и целостта на информационната екосистема. За моделите на ИИ с общо предназначение, пораждащи системен риск, мерките за безопасност на равнището на модел за идентифициране на взаимодействия с ИИ и маркиране на генерирано или обработено от ИИ съдържание могат, когато е целесъобразно, да представляват част от по-широк набор от мерки за ограничаване, които доставчиците могат да предприемат като част от задължението си за ограничаване на системните рискове съгласно член 55, параграф 1, буква б) от Акта за ИИ. |
3. ЧЛЕН 50, ПАРАГРАФ 1 ОТ АКТА ЗА ИИ: ПРОЗРАЧНОСТ НА ИНТЕРАКТИВНИТЕ СИСТЕМИ С ИИ
|
(28) |
Член 50, параграф 1 от Акта за ИИ се отнася до доставчиците на системи с ИИ, взаимодействащи пряко с физически лица, които трябва да проектират и разработват своите системи по такъв начин, че съответните физически лица да бъдат информирани, че взаимодействат със система с ИИ. Както е пояснено в съображение 132 от Акта за ИИ, целта на това задължение за предоставяне на информация е да се даде възможност на тези физически лица да вземат информирани решения относно резултатите от системата, да се избегне прекомерното разчитане на такива системи и да се позволи на тези физически лица съответно да съобразят доверието си в съдържанието и взаимодействията. |
3.1. Основни компоненти, понятия и свързано(и) задължение(я) за прозрачност
|
(29) |
Задължението за прозрачност по член 50, параграф 1 от Акта за ИИ се прилага за доставчици на системи с ИИ, когато системата е предназначена да взаимодейства пряко с физически лица и това взаимодействие не попада в обхвата на нито едно от следните изключения: 1) това е очевидно от гледна точка на физическо лице, което е в разумни граници осведомено, наблюдателно и съобразително, или 2) системата е разрешена по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления, освен когато тази система е общодостъпна с цел подаване на сигнали за престъпление. |
3.1.1. Системи с ИИ, предназначени да взаимодействат пряко с физически лица
|
(30) |
За да попадне една система в обхвата на член 50, параграф 1 от Акта за ИИ, трябва да са налице четири елемента: i) системата трябва да бъде система с ИИ, ii) предназначена да взаимодейства, iii) пряко, iv) с физически лица.
|
|
(31) |
ИИ агентите попадат в приложното поле на член 50, параграф 1 от Акта за ИИ, ако са способни да взаимодействат с лицата, които ги инструктират, или с други физически лица при изпълнението на задачите (например извършване на резервации, управление на кореспонденция, договаряне или сключване на договори, извършване на покупки и др.). ИИ агентите трябва да бъдат проектирани и разработени по такъв начин, че да разкриват както своята изкуствена природа, така и лицето, от чието име действат, като се вземат предвид необходимостта от прозрачност на произхода и делегирането на правомощия и отчетност за последствията от техните действия. Това включва случаи, при които ИИ агентите са способни да взаимодействат в сложни мултиагентни архитектури с други ИИ агенти, които пряко взаимодействат с физическите лица при изпълнението на задачата. Въпреки това доставчикът на ИИ агента невинаги може да установи предварително отделни случаи на пряко взаимодействие на ИИ агент с други физически лица след внедряването на ИИ агента в различен контекст. Когато доставчикът не може надеждно да определи дали ИИ агентът ще взаимодейства пряко с физическо лице, преди ИИ агентът да бъде пуснат на пазара или пуснат в действие, агентът следва да бъде проектиран на равнището на архитектурата и инструктиран да се разкрива като такъв във всяка ситуация, в която има разумна вероятност агентът да взаимодейства с физическо лице (включително когато физическо лице може да представлява или действа от името на юридическо лице). Освен това ИИ агентите следва също да се разкриват като такива пред лицата, които ги инструктират, на ключови етапи (например в момента на разрешение, докладване, валидиране и др., включително когато внедреният ИИ агент получава, обработва или разчита на резултати, генерирани от други системи с ИИ, вместо пряко от физическо лице) и при всяко ново взаимодействие.
|
3.1.2. Задължение за предоставяне на информация съгласно член 50, параграф 1 от Акта за ИИ
|
(32) |
Съгласно член 50, параграф 1 от Акта за ИИ доставчиците на системи с ИИ, взаимодействащи пряко с физически лица, се задължават да гарантират, че техните системи с ИИ (включително ИИ агенти и системи с ИИ с общо предназначение) са проектирани и разработени по такъв начин, че съответните физически лица да бъдат информирани, че взаимодействат със система с ИИ. |
|
(33) |
Макар че механизмът за информиране трябва да бъде вграден при проектирането и разработването на системата и в начина, по който системата взаимодейства с физическите лица, уведомлението трябва да бъде предоставено по време на работата на системата с ИИ и най-късно в момента на първото взаимодействие с физическото лице (както се изисква в член 50, параграф 5 от Акта за ИИ, вж. раздел 7 по-долу). Доставчиците са отговорни за това да гарантират, че след пускането на системата с ИИ на пазара или пускането ѝ в действие, физическите лица, взаимодействащи със системата с ИИ, са ефективно и последователно информирани през целия жизнен цикъл на системата с ИИ, така както е пусната на пазара или пусната в действие от въпросния доставчик.2.2 |
|
(34) |
Формат на оповестяването: В член 50, параграф 1 от Акта за ИИ не се уточнява конкретна техника за оповестяване. Поради това доставчиците могат да изберат всяка подходяща техника, при условие че са изпълнени две изисквания: i) изискванията, предвидени в член 50, параграф 5 от Акта за ИИ, са изпълнени по отношение на предоставянето на ясна и добре различима информация най-късно в момента на първото взаимодействие (вж. раздел 7 по-долу); и ii) характеристиките на физическите лица, принадлежащи към уязвими групи поради тяхната възраст (например деца или възрастни хора) или увреждане, се вземат предвид, доколкото е предвидено или е разумно вероятно системата с ИИ да взаимодейства с физически лица, принадлежащи към тези групи (например включително когато е разумно вероятно системата с ИИ да взаимодейства с широката общественост) (19). Информацията трябва също така да се предоставя в достъпен формат за физически лица с увреждания, както е посочено в член 50, параграф 5 и съображение 132 от Акта за ИИ (вж. раздел 7). Когато системата може да взаимодейства с деца, тези уведомления трябва да бъдат подходящи за деца, съобразени с възрастта, лесни за разбиране и леснодостъпни за всички малолетни или непълнолетни лица, включително лицата с увреждания или с допълнителни нужди по отношение на достъпността. Когато е възможно и подходящо, на доставчиците се препоръчва да използват стандартизирани практики за оповестяване и обозначения, за да се гарантират ефективността и последователността на уведомленията и да се повиши осведомеността на ползвателите. |
|
(35) |
Същност на уведомлението: Съгласно член 50, параграф 1 от Акта за ИИ от доставчиците на интерактивни системи с ИИ се изисква да ги проектират и разработват по такъв начин, че всички физически лица, взаимодействащи с такива системи с ИИ, да бъдат изрично информирани за изкуствения, нечовешки характер на взаимодействащия насрещен субект. Ако за доставчика е разумно предвидимо, че системата с ИИ може да взаимодейства с физически лица, принадлежащи към горепосочените уязвими групи, информацията следва да бъде адаптирана съответно и предоставена в достъпен формат, както се изисква съгласно приложимото право на Съюза, за да се гарантира също така пълното разбиране от страна на тези физически лица (20). |
|
(36) |
Уведомленията следва да предоставят информация за изкуствения произход на взаимодействието по начини, които са подходящи за контекста, в който се осъществява взаимодействието. Това следва да се извършва по начин, който гарантира, че засегнатите лица са правилно и ефективно информирани, като се избягват всякакви рискове от заблуда или обработване преди и по време на взаимодействието, като същевременно се осигуряват осъществими и пропорционални оповестявания. Примерите за предоставяне на информацията включват писмени уведомления (например чатбот, който започва разговор, като посочва, че се основава на технология с ИИ), визуални средства (например електронна поща, генерирана от ИИ агент, изпратена до физическо лице, която съдържа обозначение за ИИ в горната част), слухови средства (например гласов асистент, който посочва в началото на сесията, че се захранва от ИИ), оповестяване на идентификатори на ИИ и идентификационни данни (например ИИ агенти, които разкриват своята идентичност на ИИ, доколкото е възможно по проверим начин (21). |
|
(37) |
Формат на уведомленията: Като най-добра практика се препоръчва проектирането на системата с ИИ с мултимодални и достъпни подходи за оповестяване. Такива уведомления могат да комбинират различни техники за засилване на разбирането от страна на ползвателите, когато е подходящо и в зависимост от контекста, целевите и предвидимите групи от аудиторията и наличните ресурси на доставчиците, по-специално малките и средните предприятия (МСП). Примери за подходящи техники може да включват:
|
|
(38) |
Някои техники не са необходими и, когато се използват самостоятелно, са недостатъчни за ефективно изпълнение на задължението за прозрачност съгласно член 50, параграфи 1 и 5 от Акта за ИИ, по-специално:
|
|
(39) |
С цел да останат ефективни, удобни за ползвателя и да се избегнат, доколкото е възможно, прекъсвания на потребителското преживяване или ефекти на привикване (т.нар. „банерна слепота“), оповестяванията следва да бъдат пропорционални и съобразени с различните контексти и целеви аудитории на системата с ИИ. |
|
(40) |
Вероятно в повечето случаи, за да се изпълни задължението по член 50, параграф 1 от Акта за ИИ, е достатъчно еднократно, видимо уведомление преди първото взаимодействие на системата с ИИ с конкретно физическо лице. При определен по-рисков контекст вероятно ще бъдат необходими обаче периодичните напомняния и оповестяванията, съобразени с контекста, за да се гарантира постоянна информираност на потребителите. Това е особено важно в контекста на системи с ИИ, взаимодействащи с уязвими лица (например деца, възрастни хора, лица с увреждания и лица с по-ниска грамотност), продължителни и развиващи се взаимодействия в чувствителен или потапящ контекст (например когато потребителите могат да изразят или изпитат емоционален стрес или уязвимост, или да са изложени на риск от поведение, подобно на пристрастяване), когато съществува повишен риск от подвеждане на потребителите (например финансови съвети, застраховане, правна помощ, здравни съвети и разглеждане на жалби) или от формиране на емоционални привързаности или зависимости (напр. компаньони с ИИ), както и когато е необходимо да се гарантират информираност и контрол върху действията на ИИ агентите. Доставчиците трябва също така да проектират и разработят системата с ИИ, за да осигурят оповестяване във всички ситуации, в които към системата с ИИ се отправят въпроси, свързани с нейната природа или с произхода на взаимодействието, или когато от обмена с физическото лице може разумно да се предположи, че това лице вероятно ще бъде подведено или объркано относно изкуствения произход на взаимодействието. |
3.2. Изключения от задължението за предоставяне на информация съгласно член 50, параграф 1 от Акта за ИИ
|
(41) |
В член 50, параграф 1 от Акта за ИИ се предвиждат две изключения от задължението за предоставяне на информация относно интерактивни системи с ИИ, разгледани по-долу. |
3.2.1. Изключение за очевидно взаимодействие със система с ИИ
|
(42) |
За да могат да се позоват на първото изключение, доставчиците ще трябва да оценят и докажат: i) очевидния изкуствен характер на взаимодействието ii) за физическо лице, което трябва да бъде сравнително добре информирано, наблюдателно и съобразително, като взема предвид обстоятелствата и контекста на употреба. |
|
(43) |
Този стандарт се основава на установеното право на ЕС за защита на потребителите по отношение на понятието „средностатистически потребител“ и следва да се тълкува последователно, като същевременно се вземат предвид специфичните и разнообразните видове контекст и употреба на системи с ИИ, взаимодействащи пряко с физически лица, и целите, преследвани с член 50, параграф 1 от Акта за ИИ. |
|
(44) |
Определянето на такова „средностатистическо“ физическо лице включва две стъпки. Първо, доставчиците следва да вземат предвид аудиторията, с която е предвидено и има разумна вероятност системата с ИИ да взаимодейства. Второ, доставчикът следва да прецени доколко средностатистическият член на тази аудитория е осведомен, наблюдателен и съобразителен в разумни граници, като вземе предвид обстоятелствата и контекста на използване. При извършването на тази оценка следва да се вземат предвид няколко фактора:
|
|
(45) |
Очевидност: при установяването на физическо лице, което хипотетично е в разумни граници осведомено, наблюдателно и съобразително, доставчиците следва да оценят дали за такова лице ще бъде очевидно, че взаимодейства пряко със система с ИИ. Изключението следва да се тълкува в тесен смисъл, като се има предвид, че то лишава физическите лица от защитата и правото да бъдат информирани чрез ясно и добре различимо оповестяване, че взаимодействат със системи с ИИ. Общата осведоменост на потребителите и другите физически лица, че съществуват системи с ИИ (включително чатботове и агенти), не означава, че те ги разпознават при взаимодействие. Няколко фактора могат да бъдат от значение и да бъдат взети предвид като част от оценката дали взаимодействието е очевидно:
|
3.2.2. Изключение за разрешени от закона системи с ИИ за правоохранителни цели
|
(46) |
Доставчиците на интерактивни системи с ИИ са освободени от задължението за прозрачност съгласно член 50, параграф 1 от Акта за ИИ, ако са разрешени по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления, при спазване на подходящи гаранции за правата и свободите на трети лица. |
|
(47) |
Изразът „разрешени по закон“ следва да се разбира като включващ правото на Съюза, както и националното право на държавите членки, прието в съответствие с правото на Съюза. В закона, разрешаващ използването на системата с ИИ, трябва ясно да се определят целите и обстоятелствата на разрешеното използване и да се предвиждат подходящи гаранции за защита на правата и свободите на трети лица. Предвид технологично неутралния подход на Акта за ИИ не е необходимо да се установяват или разрешават конкретни системи с ИИ по закон, когато използването на системата с ИИ е общо предвидено в обхвата на законово разрешената дейност и е в съответствие с приложимата правна рамка. |
|
(48) |
За да попадне в обхвата на това изключение, целта на системата с ИИ трябва да бъде разкриване, предотвратяване, разследване или наказателно преследване на престъпления (например ИИ агент под прикритие, системи с ИИ, използвани под човешки контрол от разследващи органи за онлайн разследвания или комуникация с лица, които могат да бъдат замесени в престъпни дейности). Изключението не е ограничено до използването на такива системи с ИИ само от правоохранителни органи, както са определени в член 3, точка 48 от Акта за ИИ, а може да обхваща и интерактивни системи с ИИ (системи с генеративен ИИ), използвани от други органи на Съюза или национални публични органи, стига използването им да е разрешено по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления и при спазване на подходящи гаранции за защита на правата и свободите на трети лица. Изключението не изисква системата с ИИ да може да провежда разследванията независимо. Ако съответна система може да се използва както за правоохранителни цели, така и за други обичайни цели, приложимостта на освобождаването следва да се оценява с оглед на конкретното внедряване. Задълженията за прозрачност продължават да се прилагат, когато същата система с ИИ се внедрява за цели, различни от разрешено по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления. Прозрачността все още трябва да бъде осигурена на физическите лица, когато те взаимодействат със системата в контекста на нейните обичайни цели. |
|
(49) |
Изключението не се прилага, ако i) системата с ИИ е добщодостъпна и ii) системата предлага функционалност на лицата да подават сигнали за престъпления. Такива системи могат да се използват, но те остават предмет на задължението за прозрачност съгласно член 50, параграф 1 от Акта за ИИ, така че физическите лица трябва да бъдат информирани, че взаимодействат с такива системи.
За по-голяма яснота това изключение се отнася единствено до задължението по член 50, параграф 1, съгласно което физическите лица трябва да бъдат информирани, че взаимодействат със система с ИИ (22). Това не засяга приложимото право на Съюза и националното право, включително процесуалните правила относно документирането, разкриването, допустимостта и оценката на доказателствата.
|
3.3. Взаимодействие с други правни актове на Съюза
|
(50) |
Задължението за прозрачност съгласно член 50, параграф 1 от Акта за ИИ се прилага, без да се засяга действащото законодателство на Съюза в областта на защитата на потребителите, защитата на данните, цифровите технологии или недискриминацията, което може да изисква предоставянето на друга информация, която не е специфична за свързания с ИИ произход на взаимодействието. По-специално съгласно Директива 2005/29/ЕО (Директивата за нелоялни търговски практики, ДНТП) (23) заблуждаващите действия или пропуски по отношение на основните характеристики на продукт или услуга са забранени. Освен това с Директива 2011/83/ЕС (Директивата за правата на потребителите) (24) от търговците се изисква да предоставят ясна и разбираема преддоговорна информация относно основните характеристики на стоките или услугите. Когато дадена услуга е на основата на ИИ (като чатбот на абонаментен принцип, приложение за компаньони с ИИ или услуга за виртуални напътствия), функционалността на ИИ може да се квалифицира като съществена характеристика, която трябва да бъде разкрита, преди потребителят да бъде обвързан с договор. Задълженията за предоставяне на информация съгласно законодателството на Съюза за защита на потребителите се прилагат независимо от това дали взаимодействието се счита за „очевидно“ съгласно член 50, параграф 1 от Акта за ИИ. Тези задължения се допълват и като общи информационни задължения за защита на потребителите, докато задължението за уведомяване съгласно Акта за ИИ е по-контекстуално и има за цел да гарантира текуща осведоменост на всички физически лица относно прякото взаимодействие със система с ИИ най-малко преди началото му и по време на цялото взаимодействие. |
|
(51) |
Актът за цифровите услуги (АЦУ) включва също изисквания за прозрачност за препоръчващите системи на онлайн платформите, включително изискване за обяснение на основните параметри за класиране. Тези задължения допълват задълженията за прозрачност, предвидени в член 50, параграф 1 от Акта за ИИ, тъй като те имат различен обхват и цел и се отнасят до системи, които по принцип не взаимодействат пряко с ползвателите по смисъла на член 50, параграф 1 от Акта за ИИ. |
|
(52) |
Що се отнася до задълженията за предоставяне на информация на субектите на данни съгласно правото на Съюза в областта на защитата на данните, задължението по член 50, параграф 1 от Акта за ИИ изпълнява различна от тези задължения цел и като такова не засяга задълженията за предоставяне на информация. |
|
(53) |
По същия начин задължението за прозрачност съгласно член 50, параграф 1 от Акта за ИИ се прилага, без да се засяга правото на Съюза и националното право относно предоставянето на информация на лица в контекста на наказателни производства (напр. Директива 2012/13/ЕС или Директива 2012/29/ЕС, изменена с Директива (ЕС) 2026/1472) (25). |
4. ЧЛЕН 50, ПАРАГРАФ 2 ОТ АКТА ЗА ИИ: МАРКИРАНЕ И ОТКРИВАНЕ НА ГЕНЕРИРАНО ИЛИ ОБРАБОТЕНО ОТ ИИ СЪДЪРЖАНИЕ
|
(54) |
С член 50, параграф 2 от Акта за ИИ от доставчиците на системи с ИИ, генериращи синтетично съдържание, се изисква да прилагат технически решения, които отговарят на определени изисквания за качество за машинночетимо маркиране и откриване на резултатите от техните системи с ИИ. Целта е да се даде възможност на физическите лица да разграничават генерираното или обработено от ИИ съдържание от друго съдържание (например съдържание, създадено от хора) и да проверяват неговия произход, като по този начин се допринася и за повишаване на целостта и доверието в информационната екосистема. |
|
(55) |
Бенефициери на това задължение за прозрачност са следователно всички физически лица, които вероятно ще бъдат изложени на генерираното или обработено от ИИ съдържание, както и ключови участници, които играят важна роля за доверието и целостта на информационната екосистема, като например компетентни органи за надзор на пазара и други компетентни органи, независими изследователи, организации на гражданското общество, медии, доверени податели на сигнали, защитници на основните права, доставчици на онлайн платформи и онлайн търсачки, носители на права и други създатели и разпространители на съдържание и др. |
4.1. Основни компоненти и концепции по член 50, параграф 2 от Акта за ИИ
|
(56) |
Член 50, параграф 2 от Акта за ИИ се прилага, ако са изпълнени няколко кумулативни условия:
|
4.1.1. Системи с ИИ, които генерират или обработват синтетично съдържание
|
(57) |
Член 50, параграф 2 от Акта за ИИ се прилага за системи с ИИ (26), включително системи с ИИ с общо предназначение, генериращи синтетично аудио съдържание, изображения, видео или текстово съдържание. Член 50, параграф 2 от Акта за ИИ обхваща подгрупа от системи, които отговарят на определението за „система с ИИ“ в член 3, точка 1 от Акта за ИИ и които генерират такива резултати. Член 50, параграф 2 от Акта за ИИ обхваща и системи с ИИ, използвани за обработване на съдържание. |
|
(58) |
Генерирането на съдържание се отнася до генерирането на синтетичен материал от система с ИИ (например въз основа на подкана от човек), като например генериране на синтетично изображение или песен. На практика това означава, че член 50, параграф 2 от Акта за ИИ може да се прилага за системи с генеративен ИИ, проектирани с тясна предвидена цел за генериране на конкретни резултати. В същото време член 50, параграф 2 от Акта за ИИ се прилага и за системи с ИИ, които могат да служат за множество цели, включително системи с ИИ с общо предназначение, и могат да произвеждат разнообразни видове съдържание, както и системи с ИИ агент, стига те да генерират синтетично аудио съдържание, изображения, видео или текстово съдържание. |
|
(59) |
От друга страна, обработването на съдържание се отнася до вече съществуващо съдържание (независимо дали е синтетично, или не), което се променя от система с ИИ (например съществуващо изображение или звукозапис, който се обработва от система с ИИ в съответствие с инструкции от човек). За да попадне съдържанието в обхвата на член 50, параграф 2 от Акта за ИИ, е достатъчно то да бъде генерирано или обработено от ИИ извън стандартното редактиране съгласно изключенията, предвидени в член 50, параграф 2 от Акта за ИИ (вж. раздел 4.3). Освен това съгласно член 50, параграф 2 от Акта за ИИ не се изисква съдържанието да бъде генерирано или обработено единствено от ИИ. Съдържание, което е смесено с материал, създаден от човек, също се квалифицира като синтетично съдържание, ако е обработено или генерирано в рамките на едно от условията, посочени в член 50, параграф 2 от Акта за ИИ. |
4.1.2. Условия за синтетично съдържание в обхвата
|
(60) |
В член 50, параграф 2 от Акта за ИИ се предоставя изчерпателен списък на условията за синтетичното съдържание, обхванати от задължението за прозрачност: аудио съдържание, изображения, видео или текстово съдържание Това включва и мултимодално съдържание, т.е. съдържание, съставено от комбинация от тези условия. За целите на член 50, параграф 2 от Акта за ИИ различните условия следва да се тълкуват в съответствие с практическите и технологичните развития, които могат да се променят с течение на времето. За момента те следва да се разбират, както следва:
|
|
(61) |
Системите с ИИ, с които се генерират или обработват 3D изображения, 3D видеоклипове и 3D аудио, както и виртуална, добавена или смесена реалност, попадат в приложното поле на член 50, параграф 2 от Акта за ИИ. С израза „виртуална реалност“ се обхващат технологиите с ИИ, които позволяват на ползвателите да придобиват опит и да взаимодействат с компютърно генерирана среда, симулираща физическо присъствие, и които позволяват взаимодействие на ползвателя в реално време с тази среда. Тъй като виртуалната и добавената реалност се състоят от базирана на времето последователност от изображения, евентуално синхронизирани с аудио, които представляват визуална промяна във времето, те могат да се считат за „видео“ съдържание. Съответният „резултат“, който трябва да бъде маркиран, е окончателната форма на индивидуалния актив, генериран от ИИ, със специални изключения за ефимерните интерактивни сесии в реално време съгласно точка 88 по-долу. Не е необходимо цифровите артефакти, използвани за генериране на 3D изображения, 3D видеоклипове и 3D аудио съдържание, като облак от точки или 3D мрежа, да бъдат маркирани. |
|
(62) |
Цифровите близнаци, които предоставят виртуално копие на лица, физически обекти или системи, интегриращи множество типове данни, също попадат в приложното поле на член 50, параграф 2 от Акта за ИИ, ако са генерирани или обработени от ИИ и са под формата на аудио, изображение, видео или текст, освен ако не попадат в изключенията и не се квалифицират като „промишлени приложения“ или „приложения между предприятия“ съгласно точка 87 по-долу, или ефимерно съдържание в реално време съгласно точка 88 по-долу. |
|
(63) |
Член 50, параграф 2 от Акта за ИИ може да се прилага и за ИИ агенти, ако ИИ агентът предприема действие, чийто резултат е изкуствено генерирано или обработено съдържание, което може да се възприема от физически лица под формата на аудио, изображение, видео или текст. Поради това тези резултати трябва да бъдат обозначени и откриваеми, както е описано по-долу. От друга страна, всяко действие на ИИ агент, което не включва генерирано или обработено от ИИ съдържание (например междинни етапи на обработка като разсъждение и мисловна верига), или генерирано от ИИ действие, което не е предназначено да бъде пряко възприето от физически лица (например уеб заявка или действие в браузър), не се квалифицира като синтетично съдържание в приложното поле на член 50, параграф 2 от Акта за ИИ и не е необходимо да спазва задълженията за маркировка и откриване. |
4.1.3. Съдържание, което не попада в приложното поле на член 50, параграф 2 от Акта за ИИ
|
(64) |
Съдържание, генерирано от система с ИИ въз основа на проста обработка на данни, което не е специално генерирано или обработено от ИИ, например рендиран кадър, попада извън приложното поле на член 50, параграф 2 от Акта за ИИ. |
|
(65) |
Освен това резултат от система с ИИ, който просто възпроизвежда съществуващо съдържание или позволява представянето или подреждането на вече съществуващо съдържание, не попада в приложното поле на член 50, параграф 2 от Акта за ИИ. Това например може да бъде случаят при музикални плейлисти или други системи за препоръки, които само избират или класират съществуващо съдържание въз основа на предпочитанията или активността на ползвателите, без да създават нищо ново или да обработват самото съдържание. Това се прилага и за системите с ИИ, използвани във вътрешни аналитични процеси, които извличат и структурират данни, но не ги обобщават. |
|
(66) |
То важи също така и за входящите и изходящите данни на система с ИИ, които представляват просто наблюдения и записи на данни от физически или виртуални среди, които не са генерирани или обработени от ИИ (например от роботи или други сензори, използващи ИИ), или предавания на данни от системи с ИИ без никаква промяна. Това обхваща голямо разнообразие от входящи и изходящи данни на системи с ИИ, по-специално в промишлени условия, като например производствени данни за роботи, наблюдаващи данни; потребление, отчетено от интелигентни измервателни уреди, използващи ИИ, измервания на честотата и напрежението на мрежата; както и записване на данни за GPS местоположение от превозни средства и др. |
|
(67) |
Освен това, тъй като целта на задължението за прозрачност по член 50, параграф 2 от Акта за ИИ е да позволи на хората да разграничават генерираното или обработеното от ИИ съдържание, така че да се справят с рисковете от заблуда и манипулация и да се гарантират почтеността и доверието в информационната екосистема, всяко съдържание, което не е свързано с тази цел и което не може да се възприема или не е предназначено да бъде тълкувано, проверявано или използвано от физически лица, не е цел на тази разпоредба. |
|
(68) |
По-специално следното съдържание следва да се счита за попадащо извън приложното поле на член 50, параграф 2 от Акта за ИИ:
|
4.2. Задължението за маркировка и откриване съгласно член 50, параграф 2 от Акта за ИИ
|
(69) |
В член 50, параграф 2 от Акта за ИИ се определя задължение за прозрачност за доставчиците на системи с генеративен ИИ, които попадат в приложното поле на посочената разпоредба, състоящо се от два отделни, но неразривно свързани елемента. Първо, доставчиците трябва да гарантират, че резултатите от системата с ИИ са представени в машинночетим формат. Второ, доставчиците трябва да гарантират, че резултатите са разпознаваеми като изкуствено генерирано или обработено съдържание. За всяко внедрено решение за маркиране доставчиците следва да гарантират, че са налични съответни средства за откриване (както е посочено по-долу), за да се даде възможност на изложените на съдържанието физически лица и на други съответни участници да установят и разграничат изкуствено генерираното от системата с ИИ съдържание от друго съдържание. Под „техническо решение“ следва да се разбира комбинация от техники за маркиране и средства за откриване, които доставчикът е приложил, за да изпълни задължението за прозрачност съгласно член 50, параграф 2 от Акта за ИИ. |
|
(70) |
Всеки от двата горепосочени елемента трябва да бъде изпълнен, за да се постигнат ефективно целите на задълженията за прозрачност съгласно член 50, параграф 2 от Акта за ИИ. Изпълнението само на един елемент (например за машинночетимо маркиране на изходни резултати без наличие на средства за тяхното откриване) няма да бъде достатъчно за спазване на тази разпоредба (27). |
4.2.1. Задължение за маркировка
|
(71) |
Обхватът на задължението за маркировка е ограничен до прилагане на марки в машинночетим формат. Изразът „машинночетим формат“ означава, че маркировките са структурирани по начин, който позволява на софтуерните приложения лесно да ги идентифицират, разпознават и извличат без човешка намеса. Маркировки и обозначения, които лесно се възприемат, не са изключени като допълнителна мярка, когато е целесъобразно, с оглед улесняване на спазването от страна на внедрителите на тяхното задължение да обозначават убедителни фалшификати съгласно член 50, параграф 4 от Акта за ИИ. |
|
(72) |
За да спазят задължението за маркировка, доставчиците могат да разчитат на единна техника за маркиране или на комбинация от техники, стига цялостното им техническо решение да е машинночетимо и да отговаря на изискванията за ефективност, оперативна съвместимост, стабилност и надеждност в законово изискваната степен, както е предвидено в член 50, параграф 2, второ изречение от Акта за ИИ (вж. раздел 4.2.3. по-долу). |
|
(73) |
В съображение 133 от Акта за ИИ се предоставят примери за такива техники, включващи водни знаци, идентификации въз основа на метаданни, криптографски методи за доказване на произхода и автентичността на съдържанието, методи за водене на регистри, пръстови отпечатъци или други техники, както и комбинация от такива техники. Въпреки че в съображение 133 от Регламента за ИИ са посочени методите за доказване на произход и автентичност, от доставчиците не се изисква да записват или съхраняват пълна верига на произход, съдържаща информация за произхода на съдържанието и модификациите или всяко друго съответно твърдение относно историята на съдържанието. Такива методи за установяване на произхода могат обаче да се използват и за спазване на член 50, параграф 2 от Акта за ИИ и да допринесат за това физическите лица да могат да разграничават генерираното или обработеното от ИИ съдържание от автентичното съдържание. |
|
(74) |
Доставчиците могат да прилагат решението за маркировка на резултатите на различни етапи от веригата на стойността (напр. постфактум след генерирането на съдържанието на равнището на системата с ИИ, на равнището на основния модел с ИИ или интегрирано в процеса на извеждане на системата с ИИ). Те могат да се позоват на решението за маркировка, прилагано от доставчик на модел нагоре по веригата или от трето лице, предоставящо решението (например като отворен стандарт или специализирана услуга), доколкото решението за маркировка е в съответствие с член 50, параграф 2 от Акта за ИИ. Такова позоваване не засяга отговорността на доставчика на системата с ИИ да докаже съответствие с член 50, параграф 2 от Акта за ИИ. |
4.2.2. Задължения за откриване
|
(75) |
Доставчиците на системи с ИИ, попадащи в приложното поле на член 50, параграф 2 от Акта за ИИ, трябва да гарантират, че резултатите от техните системи са разпознаваеми като изкуствено генерирано или обработено съдържание. Това означава, че доставчикът е задължен да гарантира, че средствата за откриване са достъпни за лицата, потенциално изложени на съдържанието. Освен това, в съответствие с член 50, параграф 5 от Акта за ИИ, такива решения за откриване следва да могат да предоставят резултати, които са четими от хора и показват дали съдържанието е изкуствено генерирано, или обработено. |
|
(76) |
Инструментът за откриване е механизъм, с който се установява дали съдържанието е генерирано, или обработено от ИИ, като обикновено се установяват технически маркери или подписи, които потвърждават неговия произход. За да се осигури пълна оперативна съвместимост, доставчиците трябва да разчитат на публично достъпни промишлени стандартни решения за откриване, които позволяват на всяко трето лице да приложи откриване, което в идеалния случай е локално изпълнимо на цифровото устройство и позволява безпроблемна интеграция в самостоятелни, изолирани мрежи. Когато такива стандарти не са налице, по-специално на първоначалния етап от прилагането на член 50, параграф 2 от Акта за ИИ по отношение на технологиите за поставяне на водни знаци, доставчикът може да разчита на собствено решение за откриване или на решение за откриване от трето лице или споделено решение, стига тези решения да осигуряват оперативна съвместимост с решенията за откриване, използвани от други доставчици (вж. раздел 4.2.3.). Тази възможност следва да бъде ограничена във времето, докато се появят хармонизирани стандарти и стандартизирано, независимо от доставчика, оперативно съвместимо решение за откриване, което е сигурно, запазва неприкосновеността на личния живот и е локално изпълнимо. |
|
(77) |
В член 50, параграф 5 от Акта за ИИ допълнително се уточнява, че информацията, посочена в член 50, параграф 2 от Акта за ИИ, следва да се предоставя на засегнатите физически лица по ясен и добре различим начин най-късно в момента на първото взаимодействие или първия контакт. Тази информация е по-специално резултатът от откриването, който показва дали съдържанието е изкуствено генерирано, или обработено, а не самото изкуствено генерирано или обработено съдържание. Изразът „в момента на първия контакт“ следва да се разбира като момента, в който физическите лица желаят да проверят произхода на конкретно съдържание и да получат достъп до решението за откриване, за да получат резултатите от откриването. |
|
(78) |
Ако доставчикът на системата с ИИ зависи от друг субект за предоставянето или достъпа до решение за откриване, той трябва да гарантира, че решението за откриване е в съответствие с член 50, параграфи 2 и 5 от Акта за ИИ и че тези субекти показват резултатите от откриването в съответствие с член 50, параграф 5 от Акта за ИИ (вж. раздел 7). |
4.2.3. Съответствие с изискванията за технически решения: ефективни, оперативно съвместими, сигурни и надеждни
|
(79) |
В член 50, параграф 2, второ изречение от Акта за ИИ се предвижда, че техническите решения за маркиране и откриване трябва да бъдат ефективни, оперативно съвместими, сигурни и надеждни. Тези изисквания следва да се разбират, както следва:
|
|
(80) |
Доставчиците трябва да гарантират, че комбинацията от технически решения за маркиране и откриване отговаря в своята цялост на всички гореспоменати изисквания в законово изискваната степен, като се вземат предвид ограниченията и допълняемостта на различните внедрени решения. Техническите решения трябва да отговарят на всички изисквания, доколкото това е технически осъществимо, като се вземат предвид особеностите и ограниченията на различните видове съдържание, разходите за прилагане и общопризнатите съвременни технически постижения, като това може да бъде отразено в подходящи технически стандарти. |
|
(81) |
„Технически осъществими“ решения по смисъла на член 50, параграф 2 от Акта за ИИ са решения, които могат да бъдат прилагани за условията, обхванати от приложното поле на разпоредбата, като се използват наличните към момента технологии, методи и инженерни практики, в рамките на конкретната техническа архитектура и оперативна среда. Доставчикът не е длъжен да използва техническо решение, което все още не е разработено или налично на пазара, или чието прилагане е технически неосъществимо. Техническата осъществимост е обективно понятие, което не зависи от специфичните ресурси и възможности на отделните доставчици. |
|
(82) |
С член 50, параграф 2 от Акта за ИИ от доставчиците се изисква да прилагат технически осъществимо(и) решение(я), които са в съответствие с общопризнатите съвременни технически постижения, за да отговорят на четирите изисквания за качество: ефективност, стабилност, надеждност и оперативна съвместимост. |
|
(83) |
Под „съвременните технически постижения“ следва да се разбира развит етап на техническите възможности в даден момент по отношение на продукти, процеси и услуги, основан на съответните консолидирани научни, технологични и практически открития и който е приет като добра практика в технологиите (28). „Съвременните технически постижения“ не предполагат непременно най-новите научни изследвания, които все още са в експериментален етап или с недостатъчна технологична зрялост. Доставчиците трябва непрекъснато да адаптират своите решения за маркиране и откриване своевременно и пропорционално с развитието на технологиите и общопризнатите съвременни технически постижения. |
|
(84) |
С оглед на член 50, параграф 7 от Акта за ИИ доставчиците могат да се основават на кодекс за добри практики, оценен като подходящ в съответствие с посочената разпоредба, за да докажат спазването на задълженията за маркировка и откриване по член 50, параграфи 2 и 5 от Акта за ИИ, който е в съответствие със съвременните технически постижения. За допълнителна информация относно последиците от придържането към такъв кодекс и надзора върху други доставчици, които не се придържат към кодекс, вж. раздел 8.1 по-долу. |
|
(85) |
Разходите за прилагане на някои технически решения за маркиране и откриване също могат да бъдат взети предвид. В определени случаи, както е описано в следните точки, разходите могат да бъдат непропорционални спрямо маргиналните ползи, които имат по-ограничена стойност за това хората да различават генерирано или обработено от ИИ съдържание и за осигуряване на целостта и доверието в информационната екосистема. |
|
(86) |
Ето защо може да има строго определени случаи, в които техническо решение, основано на по-малко стабилни маркировки на метаданни, е достатъчно за целите на спазването на член 50, параграф 2 от Акта за ИИ, като се вземат предвид спецификите на резултатите от системата с ИИ, ако те носят по своята същност по-ниски рискове от заблуда, манипулация или отрицателни ефекти върху информационната екосистема. Това е конкретно случаят, когато генеративна система с ИИ е вградена във физически продукти, генериращи резултати в технически контролирана и затворена среда, която е предимно с инструктивен характер (например система с ИИ, вградена в навигационни системи в превозни средства), доколкото в продукта са вградени ефективни технически мерки за предотвратяване на излизането на резултата от средата на продукта, например чрез улавяне или експортиране и разпространение извън него. |
|
(87) |
Може също да има ограничени случаи на „промишлени приложения на ИИ“ или „приложения между предприятия“ (с изключение на публични и насочени към потребителите системи с ИИ), при които принципът на пропорционалност и ограничените ползи за целите на прозрачността означават, че не се изискват маркиране и откриване на генерирани или манипулирани от ИИ резултати. Това важи само ако следните изисквания са изпълнени кумулативно:
|
|
(88) |
Генерирането на съдържание в реално време, което е ефимерно и се консумира незабавно, без да бъде записвано, съхранявано или разпространявано допълнително (например във видеоигри, приложения за виртуална реалност), може също да бъде освободено, когато маркирането не е технически осъществимо и лицата, изложени на съдържанието, са информирани, че съдържанието е генерирано или обработено от ИИ (например оповестяване в рамките на преживяването, известия на равнище сесия). |
4.3. Изключения от задълженията по член 50, параграф 2 от Акта за ИИ
|
(89) |
В член 50, параграф 2 от Акта за ИИ се предвиждат три изрични изключения от задълженията за прозрачност, установени в посочената разпоредба |
|
(90) |
Първото изключение се отнася до системи с ИИ, доколкото те изпълняват помощна функция за стандартно редактиране. Стандартното редактиране следва да се разбира като процес на подготовка на съществуващо съдържание за публикуване или разпространение (например малки редакции за подобряване на четливостта и граматиката, качеството и формата), който не включва генериране на ново съдържание. Стандартното редактиране има за цел да гарантира, че съдържанието, наред с другото, е без очевидни технически или граматически езикови грешки, е в съответствие с приложимите изисквания за оформление, представяне, форматиране или достъпност, или е в съответствие със секторните практики. Редактирането надхвърля стандартното редактиране, ако съдържанието е променено по съществен начин (съществени изменения, структурни промени и др.), които засягат неговото значение, стил или намерение. |
|
(91) |
Второто изключение се прилага, когато система с ИИ не променя съществено въведените от внедрителя входящи данни или семантиката им. Една промяна следва да се счита за съществена, ако входящите данни или тяхната семантика са били значително обработени от системата с ИИ по време на процеса на генериране на изходящи данни. Това следва да се основава на оценка на съответните фактори, като например формат, тип медийно съдържание, стил и промени в съдържанието, които засягат неговото значение, стил или намерение. Изисква се оценка на всеки отделен случай, за да се определи дали случаят е такъв. |
|
(92) |
В случай че дадена система с ИИ може да се използва както за генериране или обработване на съдържание, така и за несъществени, незначителни промени на входящи данни, задължението за прозрачност съгласно член 50, параграф 2 от Акта за ИИ няма да се прилага за съдържанието, променено по незначителен, несъществен начин.
|
|
(93) |
Третото изключение се прилага за системи с генеративен ИИ, разрешени по закон за генериране или обработване на синтетично съдържание с цел разкриване, предотвратяване, разследване или наказателно преследване на престъпления. От значение и в този случай са разясненията, предоставени в точки 46—48 по-горе за това изключение. |
4.4. Взаимодействие с други правни актове на Съюза
|
(94) |
Задълженията за маркировка и откриване съгласно член 50, параграф 2 от Акта за ИИ са насочени към начина на създаване на съдържанието и неговия изкуствен произход, а не върху това кой е създал съдържанието. Следователно всякакви решения за маркиране и откриване, използвани от доставчиците на системи с ИИ, трябва да бъдат в съответствие с приложимото право на Съюза в областта на защитата на данните, включително принципите и задълженията за защита на данните, като например задължението за защита на данните при проектирането и по подразбиране, принципите на свеждане на данните до минимум и на сигурност и поверителност. Например за целите на маркирането и откриването информацията, свързана със създателя на съдържанието, не следва да се обработва, а всички други обработвани лични данни следва да бъдат заличени веднага след като целта на откриването е изпълнена, като трябва да се гарантират сигурност и поверителност и др. |
|
(95) |
В съображение 136 от Акта за ИИ допълнително се подчертава особеното значение на задълженията за прозрачност съгласно член 50, параграфи 1, 2 и 4 от Акта за ИИ за улесняване на ефективното прилагане на АЦУ. Това се отнася по-специално за задълженията на доставчиците на много големи онлайн платформи (МГОП) или много големи онлайн търсачки (МГОТ) добросъвестно да установяват, анализират, оценяват и ограничават системните рискове, които могат да възникнат поради разпространението на съдържание, което е било изкуствено генерирано или обработено, и по-специално риска от действителни или предвидими отрицателни последици за демократичните процеси, гражданския дебат и изборните процеси, включително чрез дезинформация (членове 34 и 35 от АЦУ). Машинночетимите маркировки могат да позволят на тези доставчици да откриват съдържание, което е генерирано или обработено от ИИ, и да предоставят подходящо обозначаване и оповестяване, като по този начин намаляват риска от генерирана от ИИ дезинформация в техните услуги. |
|
(96) |
Задълженията за обозначаване и етикетиране на съдържание, генерирано или обработено от системи с ИИ съгласно член 50, параграфи 2 и 4 от Акта за ИИ, не засягат задължението по член 16, параграф 6 от АЦУ на доставчиците на хостинг услуги да обработват уведомления за незаконно съдържание, получени съгласно член 16, параграф 1 от АЦУ (29). По-специално маркирането или обозначаването, приложено към генерирано или обработено от ИИ съдържание, не следва да влияе на оценката и решението относно незаконния характер на конкретното съдържание съгласно други регулаторни рамки. Тази преценка следва да се извършва единствено с оглед на правилата, уреждащи законосъобразността на съдържанието в съответствие с тези рамки (30). Например, ако обозначено изображение, представляващо убедителен фалшификат, бъде маркирано като потенциален материал, съдържащ сексуално насилие над деца (CSAM), или като нарушаващо правото на търговска марка или авторското право, тогава поставянето на обозначение не засяга потенциалната незаконност на съдържанието съгласно тези регулаторни рамки. Тази оценка следва да се извършва единствено въз основа на съответните приложими закони (например наказателно право, правила относно търговските марки или авторското право). |
|
(97) |
Обратно, машинночетимата маркировка, вградена в съдържанието съгласно член 50, параграф 2 от Акта за ИИ, може да помогне на доставчиците на МГОП и МГОТ да изпълнят задълженията си съгласно членове 34 и 35 от АЦУ за установяване, анализиране и оценяване на системни рискове, които могат да възникнат поради разпространението на съдържание, което е било изкуствено генерирано или обработено, по-специално риска от действителни или предвидими отрицателни последици за демократичните процеси, гражданския дебат и изборните процеси, включително чрез дезинформация (31), както и да въведат разумни, пропорционални и ефективни мерки за смекчаване на тези рискове, съобразени с конкретните идентифицирани системни рискове. Доставчиците на МГОП и МГОТ могат също така да бъдат квалифицирани като доставчици на системи с ИИ, ако отговарят на съответните условия съгласно Акта за ИИ, когато интегрират системи с ИИ в своите услуги (вж. също раздел 6.1.5). |
|
(98) |
Доставчиците на онлайн платформи, онлайн търсачки и други съответни участници, разпространяващи съдържание по веригата на стойността, се насърчават по-специално да запазват и да дават възможност за идентифициране на маркировките, прилагани от доставчиците съгласно член 50, параграф 2 от Акта за ИИ, така че физическите лица, изложени на съдържанието, да могат да бъдат информирани за неговия произход. |
5. ЧЛЕН 50, ПАРАГРАФ 3 ОТ АКТА ЗА ИИ: СИСТЕМИ ЗА РАЗПОЗНАВАНЕ НА ЕМОЦИИ И СИСТЕМИ ЗА БИОМЕТРИЧНО КАТЕГОРИЗИРАНЕ
|
(99) |
С член 50, параграф 3 от Акта за ИИ на внедрителите на системи за разпознаване на емоции и на системи за биометрично категоризиране се налага задължението да информират физическите лица, които са изложени на тези системи, за функционирането на системата. |
|
(100) |
В съображение 132 от Акта за ИИ се разяснява, че целта на това задължение е да се гарантира, че физическите лица (включително лицата с увреждания) са запознати, че са изложени на системи за разпознаване на емоции и за биометрично категоризиране, които може да нарушават неприкосновеността на личния им живот. Поради това задължението се прилага независимо от това дали лицата са изложени на такива системи в реално време или тези системи се използват впоследствие. |
5.1. Основни компоненти, концепции и свързано(и) задължение(я) за прозрачност съгласно член 50, параграф 3 от Акта за ИИ
5.1.1. Понятието за система за разпознаване на емоции
|
(101) |
В член 3, точка 39 от Акта за ИИ „система за разпознаване на емоции“ се определя като „система с ИИ, чието предназначение е да определя или да прави заключения за емоциите или намеренията на физически лица на базата на техните биометрични данни“. Подробното обяснение на това понятие, предоставено в насоките на Комисията относно класификацията на високорискови системи с ИИ, включително посочените в тях практически примери, са еднакво подходящи в контекста на член 50, параграф 3 от Акта за ИИ. |
|
(102) |
Тъй като всички системи за разпознаване на емоции също се класифицират като високорискови, освен ако не са забранени съгласно член 5, параграф 1, буква е) от Акта за ИИ в областта на работното място и образованието, задължението за прозрачност по член 50, параграф 3 от Акта за ИИ следва да се прилага заедно с другите гаранции и изисквания, приложими за високорисковите системи с ИИ. |
5.1.2. Понятието за система за биометрично категоризиране
|
(103) |
В член 3, точка 40 от Акта за ИИ „система за биометрично категоризиране“ се определя като „система с ИИ, предназначена да отнася физически лица към конкретни категории въз основа на техните биометрични данни, освен когато тази система е чисто спомагателна по отношение на друга търговска услуга и е строго необходима по обективни технически причини“. Подробното обяснение на това понятие, предоставено в насоките на Комисията относно класифицирането на високорисковите системи с ИИ, включително неговите специфични елементи, както и практическите примери, посочени в тях, са еднакво уместни в контекста на член 50, параграф 3 от Акта за ИИ. |
|
(104) |
Важно е да се отбележи, че освен ако не е забранено съгласно член 5, параграф 1, буква ж) от Акта за ИИ, член 50, параграф 3 от Акта за ИИ се прилага за всякакви системи за биометрично категоризиране (например класификация по възраст или пол въз основа на биометрични данни), независимо дали те попадат или не в обхвата на високорисковите системи с ИИ съгласно Акта за ИИ. |
5.1.3. Задължението за предоставяне на информация съгласно член 50, параграф 3 от Акта за ИИ
|
(105) |
Обхватът на информацията, която трябва да се предостави: Внедрителите са длъжни да информират засегнатите физически лица, че са изложени на система за разпознаване на емоции или на система за биометрично категоризиране, която се използва. В Акта за ИИ не се изисква включването на информация относно причините за функционирането на системата или информация дали системата обработва информация и за цели, различни от разпознаване на емоции или биометрично категоризиране, които трябва да бъдат оповестени съгласно правото на Съюза в областта на защитата на данните (вж. раздел 5.3.). |
|
(106) |
Адресати на информацията: С член 50, параграф 3 от Акта за ИИ от внедрителите се изисква да информират всички физически лица, които са изложени на функционирането на системата с ИИ, включително деца. |
|
(107) |
Начини за предоставяне на информация: В Акта за ИИ не се посочва специфичен начин за предоставяне на информацията, освен че в член 50, параграф 5 от Акта за ИИ се изисква информацията да бъде предоставена по ясен и различим начин и в съответствие с приложимите изисквания за достъпност (отговарящи на нуждите на физическите лица с увреждания). Начинът, по който трябва да бъдат информирани физическите лица, изложени на въздействието на системата, може да зависи от мястото на внедряване (например виртуална платформа за игри, физически магазин, железопътна гара), възможните адресати (например деца, възрастни хора, лица с увреждания, клиенти), продължителността и вида на излагането (например дългосрочно, еднократно, непрекъснато, периодично) и евентуалното съществуване на връзка между внедрителя и изложените лица (например ако съществува канал за комуникация с лицето). В зависимост от случая на употреба информацията може да бъде предоставена в писмен вид, чрез стандартизирани икони (също когато се представя по електронен път), устно или чрез използване на комбинации от такива начини.
|
|
(108) |
Срокът за предоставяне на информацията: В съответствие с член 50, параграф 5 от Акта за ИИ информацията трябва да бъде предоставена най-късно в момента на първото взаимодействие с или първия контакт със системата с ИИ. Когато е целесъобразно, не се изключва възможността необходимата информация да бъде предоставена предварително. |
5.2. Изключение за правоохранителни цели
|
(109) |
Задължението за информация не се прилага по отношение на системите за разпознаване на емоции и системите за биометрично категоризиране, които са разрешени по закон за разкриване, предотвратяване или разследване на престъпления, при спазване на подходящи гаранции за правата и свободите на трети лица и в съответствие с правото на Съюза. Разясненията, предвидени за това изключение в точки 46—48 по-горе, са от значение и в този случай с една разлика. Докато другите изключения по член 50 от Акта за ИИ изискват изричен закон, разрешаващ непрозрачното използване на системите с ИИ, с член 50, параграф 3 от Акта за ИИ такова използване става възможно, когато е разрешено съгласно правните норми, уреждащи правомощията на правоохранителните органи да използват системи за разпознаване на емоции и биометрично категоризиране за разкриване, предотвратяване или разследване на престъпления, без да информират засегнатите лица, при спазването на подходящи гаранции. |
5.3. Взаимодействие с други правни актове на Съюза
|
(110) |
Само по себе си задължението за предоставяне на информация съгласно член 50, параграф 3 от Акта за ИИ не прави законосъобразно използването на система за разпознаване на емоции и биометрично категоризиране. То също така не легитимира накърняваща или дискриминационна употреба, която би могла да бъде незаконосъобразна и забранена съгласно член 5 от Акта за ИИ или друго право на Съюза. Внедрителите трябва да спазват задължението за предоставяне на информация по член 50, параграф 3 от Акта за ИИ в допълнение към всички приложими изисквания за информация съгласно правото на Съюза в областта на защитата на данните. В определени случаи внедрителите могат да обмислят добавянето на уведомления съгласно член 50, параграф 3 от Акта за ИИ към информацията, предоставяна на субектите на данни съгласно правото на Съюза в областта на защитата на данните. |
6. ЧЛЕН 50, ПАРАГРАФ 4: ОБОЗНАЧАВАНЕ НА УБЕДИТЕЛНИ ФАЛШИФИКАТИ (DEEP FAKES) И ОПРЕДЕЛЕНИ ТЕКСТОВИ ПУБЛИКАЦИИ
|
(111) |
С член 50, параграф 4 от Акта за ИИ се установяват две отделни задължения, предназначени за внедрителите на системи с генеративен ИИ, изискващи ясно и различимо оповестяване на i) убедителни фалшификати и ii) генериран или обработен от ИИ текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес, с изключение на определени случаи. Тези задължения за обозначаване се прилагат в допълнение към и без да се засягат задълженията за машинночетимо маркиране и откриване съгласно член 50, параграф 2 от Акта за ИИ, приложими за доставчиците на системи с ИИ, генериращи или обработващи синтетично съдържание под формата на изображения, видео, аудио или текст. |
6.1. Основни компоненти, концепции и свързани задължения за прозрачност за убедителни фалшификати съгласно член 50, параграф 4 от Акта за ИИ
|
(112) |
Член 50, параграф 4, първа алинея от Акта за ИИ се прилага, ако са изпълнени няколко условия:
|
6.1.1. Понятието „убедителен фалшификат“
|
(113) |
В член 3, точка 60 от Акта за ИИ „убедителен фалшификат“ се определя като „генерирано или обработено изображение, аудио- или видео съдържание, което наподобява съществуващи лица, предмети, места, субекти или събития и създава погрешно впечатление у дадено лице, че е автентично или достоверно“; Разликата между обработването и генерирането е разяснена в раздел 4.1 по-горе. За целите на изясняването на понятието „убедителни фалшификати“ по-долу са разгледани четири кумулативни критерия от това определение: i) наподобяване на ii) съществуващи iii) лица, предмети, места, субекти или събития, iv) които създават погрешно впечатление у дадено лице, че са автентични или достоверни.
|
|
(114) |
Въпросът дали съдържанието „създава погрешно впечатление у дадено лице, че е автентично или достоверно“ следва да се оценява като цяло, като се вземат предвид степента на наподобяване, потенциалното съдържателно послание на съдържанието, предвиденият и предвидимия контекст на внедряване, средата, в която се представя съдържанието, както и предвиденият и разумно предвидим състав на аудиторията и нейните очаквания. Тази оценка обаче е обективна и не изисква намерение от страна на внедрителя да заблуди или подведе физическите лица, изложени на съдържанието, за да се квалифицира като убедителен фалшификат. Що се отнася до контекста на внедряване и очакванията на аудиторията, това означава, че ако съдържанието се използва при специфичен контекст на внедряване, при който предвидената и разумно предвидима аудитория не очаква съдържанието да бъде автентично или достоверно, генерираното или обработено от ИИ съдържание може да не изглежда погрешно като автентично или достоверно, дори ако в действителност не е автентично или достоверно. В такива случаи няма да бъде изпълнен четвъртият критерий от определението за убедителен фалшификат. Например генерирането или манипулирането от ИИ на фонови сцени, специални ефекти или техническа предварителна и последваща обработка като част от стандартните процеси на филмопроизводство вероятно няма да доведат до това съдържанието погрешно да изглежда пред аудиторията като автентично или достоверно. Обратно, използването на ИИ за генериране или обработване на съществени елементи, които влияят на възприятието на аудиторията, вероятно ще доведе до това (като например напълно генерирани от ИИ актьори, цифрови копия на реални или починали актьори, подмладяване, симулирани изпълнения, включително части от тях, или неавтентично или невярно представяне на лица, обекти, места или събития в документални филми). По отношение на изображенията и видео съдържанието се признава, че високата степен на фотореализъм прави по-вероятно такова съдържание да се счита за убедителен фалшификат (тъй като вероятно наподобява съществуващи субекти), но фотореализмът сам по себе си не е определящ за оценката. Това, което все още следва да се оцени, е дали такова съдържание е способно да заблуди или подведе дадено лице относно автентичността или истинността на съдържанието, като се вземе предвид, наред с другото, предвиденият и предвидим контекст на внедряване. |
|
(115) |
За разлика от член 50, параграф 1 от Акта за ИИ, оценката за създаването на погрешно впечатление у дадено лице като автентично или достоверно не следва да се основава на хипотетично „средностатистическо“ лице, за което се очаква да бъде изложено на съдържанието (вж. раздел 3.2.1), а следва надлежно да се вземе предвид възможният разнообразен състав на разумно предвидимата аудитория, която може да бъде изложена на съдържание, представляващо убедителен фалшификат. Надлежното отчитане на състава на аудиторията е особено важно, ако е разумно предвидимо, че съдържанието тип „убедителен фалшификат“ може в даден момент да бъде възприето от деца, възрастни хора или други групи лица с по-ниска цифрова и ИИ грамотност или общи познания, тъй като те могат по-лесно да бъдат заблудени или подведени относно автентичността или достоверността на съдържанието. В такива случаи създаването на погрешно впечатление, че съдържанието е автентично или достоверно за тази част от предвидимата аудитория, може да бъде достатъчно, за да се квалифицира съдържанието като убедителен фалшификат. От внедрителите обаче не се очаква да вземат предвид потенциално по-нататъшно разпространение на съдържанието, което представлява убедителен фалшификат, от трети лица извън разумно предвидимата от внедрителя аудитория, като се вземат предвид предвидените канали за разпространение (например ако съдържанието, което представлява убедителен фалшификат, се показва единствено в част от уебсайт, достъпна само за абонати, или като част от корпоративен бюлетин, това не означава, че внедрителят трябва по подразбиране да предвиди широка обществена достъпност). |
|
(116) |
В същия дух, подпомогнатото от ИИ обработване на незначителни съдържателни или технически аспекти на вече съществуващо съдържание може да бъде от второстепенно значение за оценката на лицето относно автентичността или достоверността на съдържанието, без полученото съдържание да се превръща в убедителен фалшификат. Това може да включва например редактиране на подробности във фона (например премахване на минувачи), корекции на осветлението, адаптиране на аудио параметри, коригиране на цветовете, намаляване или премахване на шума, подобряване на достъпността или компресия на файлове, формални корекции и подобрения. Дали обработването ще попадне в тази категория зависи от контекста и въздействието върху възприятието на лицата за автентичността или достоверността на съдържанието в конкретния случай. Например коригирането на цветовете чрез ИИ, разширяването на фона на съществуващо съдържание, корекциите или замените на фонове за чисто естетически цели, композициите и подредбите на съществуващи продукти или преоразмеряването на изображения, приложени в реклами на продукти или опаковки, вероятно ще имат само незначително въздействие върху възприятието на лицето за автентичността и достоверността на рекламата и продукта. Обратно, значителното редактиране на основата на ИИ на подробности от фона на журналистически изображения извън стандартните технически и редакционни практики може да повлияе отрицателно на възприятието на дадено лице за автентичността и достоверността на съдържанието.
|
6.1.2. Задължението за оповестяване съгласно член 50, параграф 4, първа алинея от Акта за ИИ
|
(117) |
Член 50, параграф 4, първа алинея от Законодателния акт за ИИ задължава внедрителите на системи с ИИ, които генерират или обработват изображения, аудио- или видео съдържание, представляващо убедителен фалшификат, да „оповестяват обстоятелството, че съдържанието е изкуствено генерирано или обработено“. В съображение 134 от Акта за ИИ се пояснява, че внедрителите, които използват системи с ИИ за генериране или обработване на съдържание, което представлява убедителен фалшификат, следва по ясен и разпознаваем начин да оповестят обстоятелството, че такова съдържание е изкуствено създадено или обработено, като обозначат по подходящ начин продукта от работата на ИИ и разкрият неговия изкуствен произход. Методите за обозначаване или оповестяване, приложени в съответствие с член 50, параграф 4, първа алинея от Акта за ИИ, трябва да бъдат разбираеми и лесно възприемащи се от физическите лица (например чрез видими или чуваеми обозначения), без те да трябва да разчитат на специфични технически инструменти или да извършват специални действия. Поради това внедрителите не могат да разчитат на машинночетимата маркировка, вградена в съдържанието от доставчика съгласно член 50, параграф 2 от Акта за ИИ, тъй като тези маркировки не са веднага ясни и различими за физическите лица, изложени на съдържанието, което представлява убедителен фалшификат. |
|
(118) |
В съответствие с член 50, параграф 7 от Акта за ИИ, внедрителите могат да се придържат към кодекс за добри практики, оценен като подходящ съгласно член 50, параграф 7 от Акта за ИИ, за да докажат спазването на това задължение за оповестяване. За допълнителна информация относно последиците от придържането към такъв кодекс и надзора върху други внедрители, които не се придържат към кодекс, вж. раздел 8.1 по-долу. |
6.1.3. Прозрачност на съдържание, което представлява убедителен фалшификат, с артистичен, творчески, сатиричен, художествен или подобен характер.
|
(119) |
В член 50, параграф 4, първа алинея от Акта за ИИ се предвижда смекчено задължение за прозрачност за убедителни фалшификати, които са част от произведение или програми с очевидно творчески, артистичен, сатиричен, художествен или подобен характер. За такова съдържание задължението за прозрачност се ограничава до оповестяване на наличието на убедителен фалшификат по подходящ начин, който не възпрепятства показването или използването на произведението. |
|
(120) |
Съответни категории съдържание: За да се възползва от смекченото оповестяване на прозрачността, убедителният фалшификат (изображение, аудио или видео) трябва да бъде част от поне една от следните категории съдържание: произведения или програми с артистичен, творчески, сатиричен, художествен или подобен характер. Определянето дали даден убедителен фалшификат попада в една или повече от тези категории, изисква оценка на всеки отделен случай от страна на внедрителя. За целите на член 50, параграф 4 от Акта за ИИ тези категории се разбират, както следва:
|
|
(121) |
Горепосочените категории съдържание могат да се прилагат и за програма, която следва да се разбира като отделен елемент в рамките на график или каталог, установен от доставчик на медийни услуги, който е сравним по форма и съдържание с телевизионното излъчване (33). Препратката към „произведения“ в контекста на член 50, параграф 4 от Акта за ИИ няма отношение към това дали съдържанието отговаря на условията за закрила съгласно правото на Съюза в областта на авторското право и сродните му права. |
|
(122) |
Очевиден: фактът, че даден убедителен фалшификат попада в една (или повече) от горепосочените категории съдържание, следва да бъде очевиден за физическите лица, изложени на него. Това предполага, че категориите следва да се тълкуват в тесен смисъл, което е оправдано от факта, че се прилага по-лек режим на оповестяване поради потенциалното въздействие върху свободата на изразяване на мнение и свободата на изкуствата и науките, докато рисковете от невярна информация, манипулация и заблуда все още трябва да бъдат разгледани по подходящ начин. Поради това съдържание, чийто характер е потенциално неясен или двусмислен за аудиторията, е изключено от обхвата на този по-лек режим на прозрачност. Съответните фактори за оценка на очевидния характер на съдържание с артистичен, творчески, сатиричен или художествен характер включват: i) дали съдържанието показва формати или стилове, които са характерни за категориите съдържание (например ирония или преувеличение при сатирични произведения, определени художествени стилове, представяне на отличителни теми, техники или естетика и др.); ii) контекста, в който е представено съдържанието (например ако платформата, медията или мястото, където съдържанието е представено, предоставено или разпространено, са свързани с употреба с артистичен, творчески, сатиричен или художествен характер); и iii) очакванията на аудиторията (например филм, среда за игри или сцена във виртуална реалност). Освен това условието съдържанието „очевидно“ да попада в една от горепосочените категории съдържание изключва съдържанието от обхвата на тези категории, ако неговият характер е изключително информативен или търговски и е разпознаваем като такъв (например новинарски репортажи). В това отношение някои видове съдържание (например реклами или документални филми), съдържащи убедителни фалшификати, могат да се считат за произведения с очевидно творчески или художествен характер в определени, специфични ситуации, но не и в други, тъй като оценката е специфична за всеки отделен случай. Когато убедителният фалшификат съчетава множество характеристики (например информативни и творчески), информативната характеристика винаги трябва да надделява и да изисква спазване на стандартните изисквания за обозначаване. |
|
(123) |
Подходящо оповестяване, което не възпрепятства показването или използването на произведението: Убедителните фалшификати, които са част от произведения и програми с очевидно артистичен, творчески, сатиричен или художествен характер, не са изключени от задължението за прозрачност по член 50, параграф 4, първа алинея от Акта за ИИ. Внедрителите все още трябва да оповестят, че съдържанието произхожда или е обработено от ИИ, но могат да го направят по подходящ начин, който не възпрепятства показването или използването на произведението. В съображение 134 от Акта за ИИ се пояснява, че такова подходящо оповестяване не следва да възпрепятства нормалната експлоатация и употреба, като същевременно позволява да се запазят полезността и качеството на произведението. Определянето на това кои мерки за оповестяване следва да се считат за подходящи, изисква оценка на всеки отделен случай, при която внедрителите могат да вземат предвид всички съответни фактори (включително естеството на работата, аудиторията, контекста и др.). Във всеки случай внедрителите трябва да спазват член 50, параграф 5 от Акта за ИИ (вж. раздел 7). С оглед на член 50, параграф 7 от Акта за ИИ внедрителите могат да се придържат към кодекс за добри практики, оценен като подходящ съгласно посочената разпоредба, за да докажат спазването на това задължение за оповестяване. За допълнителна информация относно последиците от придържането към такъв кодекс и надзора върху други внедрители, които не се придържат към кодекс, вж. раздел 8.1 по-долу. |
|
(124) |
Подходящи гаранции за правата и свободите на трети страни: В съображение 134 от Акта за ИИ се пояснява, че спазването на смекченото задължение за прозрачност и използването на убедителни фалшификати с артистичен, творчески, сатиричен или художествен характер трябва да става „при прилагане на подходящи гаранции за правата и свободите на трети лица“. Следователно внедрителите трябва да гарантират, че правата и свободите на трети лица (включително например тяхното право на защита на личните данни или правата върху интелектуалната собственост) са подходящо защитени и спазени при създаването или публикуването на убедителни фалшификати, дори ако убедителният фалшификат трябва да се счита за артистичен, творчески, сатиричен или художествен. Позоваването на смекченото задължение за прозрачност не може да бъде оправдание за неспазване на основните права на лицата или на носителите на права съгласно правото на Съюза в областта на интелектуалната собственост или правото на Съюза за защита на данните (34).
|
6.1.4. Изключение във връзка с правоприлагането
|
(125) |
Ако използването на убедителен фалшификат (например генерирано от ИИ видео, симулиращо събития, които никога не са се случвали) е разрешено по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления, внедрителите са освободени от задължението за прозрачност съгласно член 50, параграф 4, първа алинея от Акта за ИИ. Разясненията, предоставени в точки 46—48 по-горе за подобно изключение в член 50, параграф 1 от Акта за ИИ, са уместни и за тази разпоредба. |
6.1.5. Взаимодействие с други правни актове на Съюза
|
(126) |
Задължението за прозрачност съгласно член 50, параграф 4, първа алинея от Акта за ИИ ще взаимодейства със задълженията на доставчиците на МГОП и МГОТ да установяват и ограничават системните рискове съгласно членове 34 и 35 от АЦУ, по-специално член 35, параграф 1, буква к) от АЦУ (35). В последната разпоредба сред възможните мерки за смекчаване на риска, които доставчиците на МГОП и МГОТ могат да приемат, се изброяват мерки, с които се гарантира, че „дадена информация, независимо дали представлява генерирано или манипулирано изображение, аудио- или видео съдържание, което значително наподобява съществуващи лица, обекти, места или други субекти или събития и създава погрешно впечатление на дадено лице, че е истинско или достоверно, е различимо чрез явна маркировка, когато е представено на техните онлайн интерфейси“. Освен това доставчиците на МГОП и МГОТ могат да предоставят и лесна за използване функционалност, която позволява на получателите на услугата да посочват такава информация. Макар че тази разпоредба от АЦУ изглежда подобна на член 50, параграф 4 от Акта за ИИ, тя го допълва и съдържа две важни разграничения:
|
|
(127) |
Ако убедителният фалшификат включва информация, отнасяща се до пряко или косвено установимо физическо лице (което е живо), тогава внедрителите, в качеството си на администратори съгласно правото на Съюза за защита на данните, също ще трябва да спазват съответните задължения съгласно правото на Съюза за защита на данните (37). Това включва, наред с другото, позоваване на подходящо правно основание за обработването на личните данни, информация относно обработването на данни, отнасящи се до изобразените субекти на данни и др. |
|
(128) |
Освен това внедрителите на системи с ИИ, генериращи убедителни фалшификати, ще трябва да гарантират, че спазват съответното законодателство на Съюза в областта на интелектуалната собственост (като законодателството на Съюза за търговските марки и законодателството на Съюза относно авторското право или сродните му права), ако техният убедителен фалшификат включва обект, защитен съгласно тези закони. Поставянето на обозначение или икона върху „убедителен фалшификат“ само по себе си няма никакво отражение върху неговата допустимост за закрила от авторското право, която следва да се оценява в съответствие с приложимото законодателство на Съюза в областта на авторското право. |
|
(129) |
Когато чрез убедителни фалшификати са изобразени съществуващи лица, внедрителите също така ще трябва да спазват съответните правни режими, защитаващи правата на личността върху лични изображения или гласове. Задължението за прозрачност по член 50, параграф 4, първа алинея от Акта за ИИ не означава, че генерирани или обработени от ИИ убедителни фалшификати, които са вредни и незаконни съгласно приложимото право на Съюза или националното право (например подвеждаща реклама или наказателно право, като например материали, съдържащи сексуално насилие над деца, и интимни изображения без съгласие), могат да бъдат генерирани и разпространявани (вж. също раздел 4.4). |
6.2. Основни компоненти, концепции и свързани задължения за прозрачност за генериран или обработен от ИИ текст съгласно член 50, параграф 4 от Акта за ИИ
|
(130) |
Член 50, параграф 4, втора алинея от Акта за ИИ се прилага, ако са изпълнени няколко условия:
|
6.2.1. Текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес
|
(131) |
За целите на изясняване на приложното поле на член 50, параграф 4, втора алинея от Акта за ИИ, по-долу са разгледани три елемента: i) публикуван текст ii) с цел информиране на обществеността iii) по въпроси от обществен интерес.
|
6.2.2. Задължението за оповестяване съгласно член 50, параграф 4, втора алинея от Акта за ИИ
|
(132) |
С член 50, параграф 4, втора алинея от Акта за ИИ внедрителите на системи с ИИ, които генерират или обработват текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес, се задължават да оповестяват обстоятелството, че такъв текст е бил изкуствено генериран или обработен. В съображение 134 от Акта за ИИ се пояснява, че подобно на убедителните фалшификати, внедрителите на текстови публикации, попадащи в обхвата на разпоредбата, следва по ясен и разпознаваем начин да оповестят обстоятелството, че такова съдържание е изкуствено създадено или обработено, като обозначат по подходящ начин продукта от работата на ИИ и разкрият неговия изкуствен произход. Както се изисква по отношение на убедителните фалшификати, методите за обозначаване или оповестяване (включително отказ от отговорност), приложени в съответствие с член 50, параграф 4, втора алинея от Акта за ИИ, следва също да бъдат ясни и лесно възприемащи се от физически лица (например видими или звукови мерки), без те да трябва да разчитат на специфични технически инструменти или да извършват специални действия. С оглед на член 50, параграф 7 от Акта за ИИ, лицата, които внедряват системи, могат да се придържат към кодекс за добри практики, оценен като подходящ съгласно тази разпоредба, за да докажат спазването на това задължение за оповестяване. За допълнителна информация относно последиците от придържането към такъв кодекс и надзора над лицата, които не се придържат към него, вж. раздел 8.1 по-долу. |
6.2.3. Изключение от задължението за прозрачност за текст, който е преминал през процес на преглед от човек или редакционен контрол и за който се носи редакционна отговорност
|
(133) |
В член 50, параграф 4, втора алинея от Акта за ИИ се предвижда изключение от задължението за прозрачност, установено в посочената разпоредба, когато са изпълнени две кумулативни условия: i) генерираният или обработен от ИИ текст трябва да е преминал през преглед от човек или редакционен контрол и ii) физическо или юридическо лице трябва да носи редакционна отговорност за публикуването. Когато е уместно, внедрителите могат да се позоват на съответните приложими професионални или деонтологични стандарти, за да докажат спазването на тези изисквания, както е посочено по-долу. |
i.
|
(134) |
Първото условие за прилагане на изключението по член 50, параграф 4, втора алинея от Акта за ИИ изисква генерираният или обработеният с ИИ текст да е бил подложен на преглед от човек или редакционен контрол. Прегледът от човек се отнася до съзнателната проверка на същността на съдържанието от едно или повече физически лица, притежаващи съответните знания и професионална преценка, отнасящи се до разглеждания предмет (например академична партньорска проверка или професионални вериги за валидиране). Проверката на фактите по отношение на точността на съдържанието е минимално изискване, което трябва да бъде част от този преглед. Редакционният контрол се отнася до упражнявания на практика контрол от отговорен редакционен субект (например главен редактор) върху съдържанието, който има правомощието да одобрява, променя или отхвърля същността на текста въз основа на съществени основания (включително проверка на фактите и осигуряване на надеждността на източниците). Това не засяга съществуващите процедури за преглед и редакционни процедури, както и професионалните стандарти, приложими за доставчиците на медийни услуги. |
|
(135) |
Повърхностни, чисто формални или процедурни проверки (например проверка на правописа или граматически корекции), самото съществуване на редакционна политика, автоматизирани процеси на преглед или бегло редакционно одобрение, извършени без съществено участие от страна на човека, извършващ прегледа, или на редакционния орган, не могат да изпълнят изискванията за преглед от човек или редакционен контрол за целите на това изключение. |
|
(136) |
Когато се използват системи с ИИ за изменение, допълване или преформулиране на съдържание след редакционно одобрение, полученото съдържание трябва да се третира като генерирано или обработено от ИИ за целите на член 50, параграф 4 от Акта за ИИ. Следователно всяка съществена намеса на ИИ, настъпила след приключването на процеса на преглед от човек или редакционен контрол, ще доведе до невалидност на изключението. |
|
(137) |
С оглед на член 50, параграф 7 от Акта за ИИ, внедрителите могат да се придържат към кодекс за добри практики, оценен като подходящ съгласно посочената разпоредба, за да докажат спазването на условието за преглед от човек или редакционен контрол (особено от внедрители, които не са доставчици на медийни услуги, подлежащи на съществуващи редакционни професионални или деонтологични стандарти), предвидено в тази разпоредба. За допълнителна информация относно последиците от придържането към такъв кодекс и надзора над внедрителите, които не се придържат към такъв кодекс, вж. раздел 8.1. |
|
ii. |
|
(138) |
Съгласно второто условие за прилагане на изключението по член 50, параграф 4, втора алинея от Акта за ИИ се изисква физическо или юридическо лице да носи редакционна отговорност за публикуването на съдържанието. Това означава, че посоченото лице трябва да носи крайната правна отговорност за публикуването на съдържанието, включително за прегледа от човек или редакционния контрол (например физическо лице, редакционен съвет или издателство). За да се гарантират публичната отчетност и доверие, и в съответствие със съществуващите професионални медийни стандарти, самоличността и данните за контакт на юридическото лице, физическото лице или функцията с редакционна отговорност следва да бъдат публично достъпни на лесно откриваемо място (ако не са налични по друг начин). Това може да стане онлайн например чрез общите условия на уебсайт или друга правна информация, предназначена за ползвателите. В офлайн среда такава информация може да бъде включена в колофона или в карето с данни за изданието на публикацията.
|
6.2.4. Изключение във връзка с правоприлагането
|
(139) |
Ако използването на системи с ИИ за генериране на текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес без преглед от човек (например генерирано от ИИ полицейско предупреждение относно терористична заплаха, публикувано в социалните медии), е разрешено по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления, внедрителите са освободени от задължението за прозрачност съгласно член 50, параграф 4 от Акта за ИИ. Разясненията, предоставени в точки 46—48 по-горе за подобно изключение в член 50, параграф 1 от Акта за ИИ, са уместни и за тази разпоредба. |
6.2.5. Взаимодействие с други правни актове на Съюза
|
(140) |
Що се отнася до медийното право на Съюза, редакционната отговорност е ключова концепция, определена в член 2, точка 8 от Регламент (ЕС) 2024/1083 (Европейски акт за свободата на медиите, ЕАСМ) (39). В този контекст „редакционна отговорност“ означава „упражняването на ефективен контрол както върху подбора на предавания или публикации в пресата, така и върху тяхната организация за целите на предоставянето на медийна услуга, независимо от наличието на отговорност съгласно националното право за предоставяната услуга“. В определени ситуации това определение може да се припокрива с понятието за „редакционна отговорност“, използвано в член 50, параграф 4, втора алинея от Акта за ИИ, по-специално когато лицата, които внедряват системата с ИИ, също се квалифицират като доставчици на медийни услуги съгласно ЕАСМ. Следователно редакционната отговорност по смисъла на член 50, параграф 4 от Акта за ИИ следва да се тълкува в съответствие със съществуващите достижения на правото на Съюза в областта на медиите, независимо от факта, че тя остава отделна концепция, която може да се прилага и в по-широк контекст и по отношение на други лица, които внедряват системи, стига те да поемат редакционна отговорност за публикуването на текста. Доставчиците на медийни услуги могат да разчитат на своите съществуващи редакционни процеси и стандарти, за да се възползват от изключението съгласно член 50, параграф 4, втора алинея от Акта за ИИ. |
7. ХОРИЗОНТАЛНИ ИЗИСКВАНИЯ, ПРИЛОЖИМИ ПО ОТНОШЕНИЕ НА ИНФОРМАЦИЯТА, ПРЕДОСТАВЕНА СЪГЛАСНО ЧЛЕН 50, ПАРАГРАФ 5 ОТ АКТА ЗА ИИ
|
(141) |
Съгласно член 50, параграф 5 от Акта за ИИ, информацията, която трябва да бъде предоставена в съответствие с член 50, параграфи 1—4 от Акта за ИИ, следва да се предоставя на засегнатите физически лица по ясен и добре различим начин най-късно в момента на първото взаимодействие или първия контакт и да отговаря на приложимите изисквания за достъпност. Информацията следва също така да отговаря на приложимите изисквания за достъпност. Изразът „съответните физически лица“ в този контекст включва лицата, които взаимодействат пряко със системата с ИИ (член 50, параграф 1 от Акта за ИИ), активните или пасивните ползватели и други лица, изложени на генерираното или обработено от ИИ синтетично съдържание (със или без пряко взаимодействие със системата с ИИ (член 50, параграфи 2 и 4 от Акта за ИИ), и лицата, които използват системи за разпознаване на емоции или биометрично категоризиране (член 50, параграф 3 от Акта за ИИ). |
7.1. Предоставяне на информация по ясен и различим начин
|
(142) |
Информацията ще се счита за предоставена по ясен начин, когато тя е забележима, лесна за разбиране и достъпна за съответното физическо лице (включително лицата с увреждания). Информацията ще се счита за предоставена по добре различим начин, когато тя лесно може да бъде установена като отделна от друга информация и от средата, в която е представено съдържанието. Тя трябва също така да бъде лесно разбираема за аудиторията, включително за специфични групи, като деца или хора с увреждания, когато те са част от аудиторията, която предвидимо е изложена на съдържанието или взаимодейства със системата (40). За да се предостави информация по ясен и добре различим начин, съответната информация може, наред с другото, да бъде представена като част от взаимодействието (съгласно член 50, параграф 1 от Акта за ИИ) или съответното съдържание (съгласно член 50, параграфи 2 и 4 от Акта за ИИ). Информацията няма да се счита за предоставена по ясен и добре различим начин, когато тя лесно може да бъде пренебрегната или пропусната от физически лица при нормални условия на излагане или взаимодействие (например включена само като част от ръководство или скрита под слоеве от опции в менюто на онлайн интерфейс, или като част от условия за ползване, които често не се четат от потребителите). |
7.2. Първо взаимодействие или първи контакт
|
(143) |
Съгласно член 50, параграф 5 от Акта за ИИ се изисква информацията да се предоставя на засегнатите физически лица най-късно в момента на първото взаимодействие или първия контакт. Първото взаимодействие или първият контакт се отнасят не само до първото физическо лице, което взаимодейства със система с ИИ или е изложено на нея (на резултата от нея), но и до всяко последващо първо взаимодействие със системата с ИИ или излагане на нея (на резултата от нея) от страна на всяко друго физическо лице. Що се отнася до първото взаимодействие със система с ИИ, информацията следва най-малкото да бъде предоставена веднъж в началото на интерактивна сесия, като се вземе предвид специфичният контекст, посочен в точки 36 и 40 по-горе. Що се отнася до генерирано или обработено от ИИ съдържание, попадащо в приложното поле на член 50, параграфи 2 и 4 от Акта за ИИ, задължението за предоставяне на информация се прилага за всеки резултат от система с ИИ по отношение на всяко физическо лице, изложено на съдържанието. То следва да се разбира в смисъла на всеки момент от времето, в който е разумно вероятно физическо лице да бъде изложено на резултата от системата с ИИ и да възприеме оповестяването, като се вземат предвид спецификите на оповестяването в случай на произведения с очевидно творчески, художествен и друг характер (вж. раздел 6.1.3.). Освен това на внедрителите е позволено да информират физическите лица по-рано от момента на първото действително взаимодействие или първия контакт (например в началото на съдържание, включващо убедителни фалшификати). Ако обаче е разумно предвидимо, че лицата може да не възприемат съдържанието от самото начало, тогава оповестяването само в началото на съдържанието не информира по подходящ начин тези лица и следва да бъде допълнено с оповестяване в по-късни моменти, когато е възможно. Това може да бъде приложено по подходящ начин, като се вземе предвид целта на задълженията за прозрачност да се осигури ефективно предоставяне на информацията и значима осведоменост на ползвателите във все по-потапящи и реалистични среди с ИИ, в които ползвателите срещат все по-големи трудности да различат произхода и достоверността на съдържанието и взаимодействието.
|
7.3. Съответствие с приложимите изисквания за достъпност
|
(144) |
Доставчиците и внедрителите на системи с ИИ, попадащи в обхвата на различните задължения за прозрачност, посочени в член 50, параграфи 1—4 от Акта за ИИ, трябва да са запознати с приложимите изисквания за достъпност (например съгласно Директива 2016/2102 (41) и Директива 2019/882 (42) и да преценят дали техният продукт, услуга или съдържание трябва да отговарят на тези правила. В такъв случай те трябва да осигурят достъпност на информацията, предоставена в съответствие с член 50 от Акта за ИИ в съответствие с приложимите изисквания за достъпност. С член 50 от Акта за ИИ не се налагат отделни или допълнителни изисквания за достъпност. |
8. ПРИЛАГАНЕ НА ЧЛЕН 50 ОТ АКТА ЗА ИИ
|
(145) |
С настоящия раздел се цели разясняване на: i) ефектите от придържането към кодекс за добри практики по отношение на спазването на задълженията за прозрачност за генерирано от ИИ съдържание; ii) ролята на компетентните надзорни органи при прилагането на член 50 от Акта за ИИ; iii) приложимите санкции за нарушения на тези задължения; и iv) момента, в който задълженията по член 50 от Акта за ИИ влизат в сила. |
8.1. Ефекти от спазването на кодекс за добри практики, оценен като подходящ
|
(146) |
Доставчиците и внедрителите на системи с ИИ, попадащи в приложното поле на член 50, параграфи 2 и 4 от Акта за ИИ, могат да докажат спазването на съответните си задължения за прозрачност по отношение на генерирано от ИИ съдържание съгласно тези разпоредби, като се придържат към кодекс за добри практики, който е оценен като подходящ съгласно член 50, параграф 7 от Акта за ИИ (43). Такъв кодекс не заменя Акта за ИИ или тези насоки. Той ги допълва, като предоставя единствената призната в целия Съюз практическа рамка за доставчиците и внедрителите на системи с генеративен ИИ за доказване на съответствие с тези задължения, независимо от тяхното място на установяване, дейност и компетентните органи за надзор на пазара. |
|
(147) |
Макар че доставчиците и внедрителите могат също да докажат спазването на тези задължения чрез алтернативни подходящи средства, придържането към кодекс за добри практики, който е оценен като подходящ, е лесен, предвидим и правно сигурен начин за доказване на спазването. За подписващите страни по кодекс за добри практики, който е оценен като подходящ съгласно член 50, параграф 7 от Акта за ИИ (44), Комисията и компетентните органи за надзор на пазара ще съсредоточат своите надзорни дейности върху оценката дали тези подписващи страни са се придържали към кодекса за добри практики и са приложили съдържащите се в него мерки. Тъй като придържащите се доставчици и внедрители ще бъдат прозрачни по отношение на мерките, които прилагат за спазване на член 50, параграфи 2, 4 и 5 от Акта за ИИ, те ще се ползват от повишено доверие от страна на Комисията, другите компетентни органи за надзор на пазара и други заинтересовани страни (включително широката общественост). Всяко изключване от раздели от страна на подписващите страни по кодекс за добри практики, който се счита за подходящ, ще доведе до това, че тези доставчици и внедрители ще загубят ползата от улесняването на доказването на съответствие в това отношение. |
|
(148) |
Доставчиците и внедрителите, които не са подписващи страни по кодекс за добри практики, счетен за подходящ съгласно член 50, параграф 7 от Акта за ИИ, се очаква да покажат как са изпълнили задълженията си по член 50, параграфи 2, 4 и 5 от Акта за ИИ чрез други подходящи средства. Освен това от тези доставчици и внедрители се очаква да обяснят как прилаганите от тях мерки осигуряват спазването на задълженията им по Акта за ИИ. Например те следва да извършат анализ на пропуските, при който се сравняват прилаганите от тях мерки с мерките, предвидени в кодекс за добри практики, който е оценен като подходящ. Тъй като компетентните органи (включително Службата по ИИ) ще са запознати в по-малка степен от начина, по който доставчиците и внедрителите, които не са подписващи страни по кодекс за добри практики, осигуряват спазването на задълженията си съгласно член 50, параграфи 2, 4 и 5 от Акта за ИИ, те вероятно ще се нуждаят от по-подробна информация при наблюдение на спазване на изискванията. Например доставчиците, които не се придържат към кодекс за добри практики, могат също да бъдат обект на по-голям брой искания за информация и искания за достъп, за да се оценят ефективността, оперативната съвместимост, стабилността и надеждността на техническите решения, приложени за спазването на член 50, параграф 2 от Акта за ИИ. Внедрителите също могат да бъдат обект на такива искания по отношение на своите практики за обозначаване съгласно член 50, параграф 4 от Акта за ИИ. |
|
(149) |
Компетентните органи могат да вземат предвид ангажиментите, изпълнени в съответствие с кодекс за добри практики, който се счита за подходящ, като смекчаващ фактор при определянето на размера на глобите в зависимост от конкретните обстоятелства (45). |
|
(150) |
Ако кодекс за добри практики не се счита за подходящ съгласно член 50, параграф 7 от Акта за ИИ, Комисията може да приеме акт за изпълнение, в който се установяват общите правила за изпълнението на задълженията по член 50, параграфи 2, 4 и 5 от Акта за ИИ, които ще бъдат приложими за всички съответни доставчици и внедрители на системи с ИИ, попадащи в приложното поле на тези разпоредби (46). |
8.2. Органи за надзор на пазара
|
(151) |
Органите за надзор на пазара, определени от държавите членки, Службата по ИИ (47) и Европейския надзорен орган по защита на данните (48) отговарят за надзора и прилагането на правилата за системите с ИИ, попадащи в рамките на тяхната компетентност, включително задълженията за прозрачност, предвидени в член 50 от Акта за ИИ. Това правоприлагане се осъществява в рамките на системата относно надзора на пазара и съответствието на продуктите, създадена с Регламент (ЕС) 2019/1020 и Акта за ИИ. Правомощията на органите за надзор на пазара по отношение на системите с ИИ са определени в тези разпоредби. Тези органи могат да предприемат действия по прилагане на задълженията, изброени в член 50 от Акта за ИИ, по собствена инициатива или след подаване на жалба, която всяко засегнато лице или всяко друго физическо или юридическо лице, което има основание да счита, че са извършени такива нарушения, има право да подаде (49). Отговорностите на органите за надзор на пазара съгласно Акта за ИИ не засягат правомощията и задачите на други надзорни органи или органи за защита на основните права съгласно тяхната собствена правна рамка в ситуации, в които се прилагат както член 50 от Акта за ИИ, така и тази рамка (например защита на данните, защита на потребителите). |
8.3. Санкции
|
(152) |
На доставчиците и внедрителите, които не спазват приложимите задължения за прозрачност, предвидени в член 50 от Акта за ИИ, може да бъдат наложени глоби в размер до 15 000 000 EUR или, ако нарушителят е предприятие, до 3 % от общия му годишен световен оборот за предходната финансова година, като се прилага по-големият размер. На институциите, органите, службите и агенциите на ЕС, които нарушават задълженията за прозрачност, могат да бъдат наложени административни глоби в размер до 750 000 EUR. В случая на малки и средни предприятия (МСП), включително стартиращи предприятия, всяка глоба е в размер до горепосочените проценти или сума, като се прилага по-ниският размер. Глобите трябва да бъдат ефективни, пропорционални и възпиращи и да отчитат интересите на МСП и малките предприятия със средна пазарна капитализация (МПСПК), включително новосъздадените предприятия, както и тяхната икономическа жизнеспособност. При вземането на решение дали да бъде наложена административна глоба и при определянето на размера на административната глоба във всеки отделен случай компетентните органи следва да преценят всички обстоятелства от значение за конкретната ситуация и, доколкото е приложимо, редица фактори, които влияят върху сериозността на нарушението (например естество, тежест и продължителност на нарушението и неговите последици, дали е извършено умишлено или поради небрежност, други утежняващи или смекчаващи обстоятелства, степен на сътрудничество с органите за надзор на пазара и др.). |
8.4. Влизане в сила
|
(153) |
Съгласно член 113 от Акта за изкуствения интелект член 50 от Акта за ИИ се прилага от 2 август 2026 г. Това изисква всички попадащи в обхвата системи с ИИ, пуснати на пазара или пуснати в действие в Съюза, да бъдат в съответствие с тази разпоредба към тази дата, независимо от датата на пускането им на пазара или пускането им в действие (50). В регламента за изменение на Акта за ИИ (т.нар. „сборен пакет от мерки в областта на цифровите технологии за ИИ“), който наскоро беше приет от законодателя на Съюза, се предвижда целево правило за „заварено положение“ само по отношение на задълженията за маркировка и откриване съгласно член 50, параграф 2 от Акта за ИИ за системи с генеративен ИИ, пуснати на пазара или пуснати в действие преди 2 август 2026 г. С него на доставчиците на тези съществуващи системи се предоставя преходен период, за да приведат системите си в съответствие до 2 декември 2026 г. Системите, които са частично интерактивни и частично генеративни, могат да се възползват от този преходен период само по отношение на задължението за маркировка съгласно член 50, параграф 2 от Акта за ИИ, докато спазването на задължението за оповестяване за системи с ИИ, които взаимодействат пряко с физически лица, трябва да бъде осигурено от 2 август 2026 г. |
|
(154) |
Не е необходимо генерираните или обработени от ИИ резултати, попадащи в приложното поле на член 50, параграф 2 от Акта за ИИ, и убедителните фалшификати в приложното поле на член 50, параграф 4, първа алинея от Акта за ИИ, които са били генерирани или обработени преди 2 август 2026 г., да бъдат маркирани или обозначени със задна дата. Същото се отнася и за текстове по въпроси от обществен интерес, попадащи в приложното поле на член 50, параграф 4, втора алинея от Акта за ИИ, които са били изкуствено генерирани или обработени и публикувани преди 2 август 2026 г. Обратно, ако текстове, които са били генерирани или обработени преди 2 август 2026 г., бъдат публикувани на или след тази дата, те трябва да бъдат обозначени. Като се има предвид целта за прозрачност и повишено доверие и почтеност на информационната екосистема, залегнала в Акта за ИИ, внедрителите на системи с ИИ и други участници, които притежават или разпространяват съществуващи необозначени убедителни фалшификати, все пак се насърчават да ги обозначат, без да се очаква от тях да полагат непропорционални усилия за тази цел (като например одит на съществуващи бази данни със съдържание или промяна на вече отпечатани опаковки на продукти). |
9. ПРЕГЛЕД И АКТУАЛИЗИРАНЕ НА НАСОКИТЕ
|
(155) |
Настоящите насоки представляват първо тълкуване с практически примери на задълженията за прозрачност, предвидени в член 50 от Акта за ИИ. Комисията ще преразгледа настоящите насоки веднага щом това се наложи с оглед на практическия опит, натрупан при прилагането на задълженията за прозрачност, и темпото на технологично, обществено и регулаторно развитие в тази област. Това включва и всякакъв имащ отношение опит от действия по прилагане на надзора на пазара и тълкувания на член 50 от Акта за ИИ от страна на Съда на ЕС. По време на този преглед Комисията може да реши да оттегли или измени настоящите насоки. Комисията насърчава доставчиците и внедрителите на системи с ИИ, националните органи за надзор на пазара чрез Съвета по ИИ, Консултативния форум за ИИ, научноизследователската общност и организациите на гражданското общество да допринесат за този процес, като отговорят на бъдещите покани за обществени консултации. |
(1) Регламент (ЕС) 2024/1689 на Европейския парламент и на Съвета от 13 юни 2024 г. за установяване на хармонизирани правила относно изкуствения интелект (Акт за изкуствения интелект) (OВ L, 2024/1689, 12.7.2024 г., ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
(2) Член 1 от Акта за ИИ.
(3) Член 2, параграф 1, буква а), член 3, точки 3, 9 и 11 от Акта за ИИ. За допълнителни насоки относно понятията „пускане на пазара“, „пускане в действие“ и „използване“ вж. Насоките на Комисията относно забранените практики в областта на изкуствения интелект, C(2025) 5052, и известието на Комисията „Синьото ръководство“ за прилагане на правилата на ЕС относно продуктите — 2022 г., раздел 2 (ОВ C 247, 29.6.2022г., стр. 1).
(4) Член 2, параграф 1, буква в) и съображение 22 от Акта за ИИ.
(5) Член 3, точка 4 от Акта за ИИ.
(6) Член 2, параграф 1, букви б) и в) от Акта за ИИ.
(7) Регламент (ЕС) 2022/2065 на Европейския парламент и на Съвета от 19 октомври 2022 г. относно единния пазар на цифрови услуги (OВ L 277, 27.10.2022 г., стр. 1).
(8) Вж. раздел 2.5 от Насоките на Комисията относно забранените практики в областта на изкуствения интелект, установени в Регламент (ЕС) 2024/1689 (Акта за ИИ), Брюксел, 29.7.2025 г., C(2025) 5052 final.
(9) Определението за внедрител също така изключва ползвателите, ангажирани в такива дейности (вж. раздел 2.3 по-горе).
(10) Съображение 25 от Акта за ИИ.
(11) В съображение 102 от Акта за ИИ се пояснява, че предоставянето на софтуер и данни с безплатен лиценз с отворен код „им позволява да бъдат споделяни свободно и [...] ползвателите могат свободно да ги достъпват, използват, променят и разпространяват в променен или непроменен вид“.
(12) За допълнителна информация относно член 5 от Акта за ИИ вж. Насоките на Комисията относно забранените практики в областта на изкуствения интелект, установени в Регламент (ЕС) 2024/1689 (Акта за ИИ), C(2025) 5052 final.
(13) вж. член 6 от Акта за ИИ.
(14) По-специално с член 26, параграф 11 от Закона за изкуствения интелект се налага задължение за прозрачност на внедрителите на високорискови системи с ИИ, които вземат решения или подпомагат вземането на решения, свързани с информирането на физически лица, че спрямо тях се използва високорискова система с ИИ. Тези задължения за прозрачност допълват задълженията по член 50 от Акта за ИИ, тъй като се отнасят до различна информация, която трябва да бъде предоставена на физическите лица, но те могат да бъдат комбинирани в единни уведомления.
(15) В член 3, точка 66 от Акта за ИИ „система с ИИ с общо предназначение“ се определя като система с ИИ, основана на модел на ИИ с общо предназначение, която може да служи за различни цели и може да се използва пряко, както и да се интегрира в други системи с ИИ.
(16) Член 50, параграф 2 от Акта за ИИ съдържа изрично позоваване на системите с ИИ с общо предназначение (GPAI).
(17) Съображение 133 от Акта за ИИ.
(18) Вж. член 3, точка 1 от Акта за ИИ. За допълнителни насоки относно понятието „система с ИИ“ вж. Насоките на Комисията относно определението за система с ИИ, 29.7.2025 г., C(2025) 5053 final.
(19) Вж. съображение 132 от Акта за ИИ. Това не изисква системата да бъде насочена към тези уязвими групи. Ако е предвидено системата да взаимодейства с който и да е член на обществеността, тогава членовете на уязвимите групи също са включени и следва да бъдат взети предвид от доставчиците при прилагането на мерките за уведомяване.
(20) Вж. раздел 7.3 за приложимите изисквания за достъпност.
(21) Например електронните удостоверения за атрибути, установени съгласно Регламент (ЕС) № 910/2014 и предоставени в портфейлите за цифрова идентичност на ЕС, създадени съгласно същия регламент, както и предложените европейски бизнес портфейли, могат да осигурят сигурни и ефективни средства за идентифициране на ИИ агенти. Портфейлите могат да съхраняват и управляват електронни удостоверения, които потвърждават идентичността, атрибутите и разрешенията на ИИ агента, като по този начин позволяват безпроблемно и надеждно оповестяване пред физически лица.
(22) Това се прилага и за подобните изключения в полза на дейностите по правоприлагане, предвидени в член 50, параграфи 2—4 от Акта за ИИ.
(23) Директива 2005/29/ЕО на Европейския парламент и на Съвета от 11 май 2005 г. относно нелоялни търговски практики от страна на търговци към потребители на вътрешния пазар (ОВ L 149, 11.6.2005 г., стр. 2).
(24) Директива 2011/83/ЕС на Европейския парламент и на Съвета от 25 октомври 2011 г. относно правата на потребителите (ОВ L 304, 22.11.2011 г., стр. 64).
(25) Директива 2012/13/ЕС на Европейския парламент и на Съвета от 22 май 2012 г. относно правото на информация в наказателното производство (ОВ L 142, 1.6.2012 г., стр. 1); Директива 2012/29/ЕС на Европейския парламент и на Съвета от 25 октомври 2012 г. за установяване на минимални стандарти за правата, подкрепата и защитата на жертвите на престъпления (ОВ L 315, 14.11.2012 г., стр. 57).
(26) Съгласно определението в член 3, точка 1 от Акта за ИИ.
(27) В съображение 133 от Актa за изкуствения интелект се пояснява, че е целесъобразно да се изисква от доставчиците на тези системи да вграждат технически решения, позволяващи маркиране в машинночетим формат и разпознаване, че резултатът е генериран или обработен от система с ИИ, а не от човек. Съображение 135 от Акта за ИИ се отнася до задължението относно откриването.
(28) Вж. приложение II към Решение за изпълнение C(2025) 3871 final на Комисията относно искане за стандартизация до Европейския комитет по стандартизация и Европейския комитет по електротехническа стандартизация по отношение на високорискови системи с ИИ в подкрепа на Регламент (ЕС) 2024/1689 на Европейския парламент и на Съвета и за отмяна на Решение за изпълнение C(2023)3215 final.
(29) Вж. също съображение 11 от Акта за ИИ.
(30) Вж. също съображение 137 от Акта за ИИ.
(31) Съображение 136 от Акта за ИИ.
(32) Поради това този критерий трябва да се разбира независимо и отделно от концепцията за заблуда, посочена в Директива 2005/29/ЕО относно нелоялни търговски практики от страна на търговци към потребители на вътрешния пазар (Директивата за нелоялни търговски практики), https://eur-lex.europa.eu/eli/dir/2005/29/oj/bul.
(33) Вж. в подобен смисъл член 1, буква б) от Директивата за аудио-визуалните медийни услуги.
(34) Това се прилага в еднаква степен и за публикувани текстове, с които обществеността се информира по въпроси от обществен интерес.
(35) Вж. също раздел 4.4 за допълнителна информация относно взаимодействието между член 50 от Акта за ИИ и АЦУ.
(36) Съображение 2 от АЦУ.
(37) За по-подробни разяснения вж. съвместните насоки на Комисията и ЕКЗД относно взаимодействието между Акта за ИИ и законодателството на ЕС за защита на данните (в процес на подготовка).
(38) Вж. по аналогия C-89/04, Mediakabel, EU:C:2005:348, т. 33; C-192/04, Lagardère, EU:C:2005:475, т. 31; C-306/05, SGAE, EU:C:2006:764, т. 37—40; C-527/15, Stichting Brein, EU:C:2017:300, т. 43 и 44 и цитираната съдебна практика; Дело C-135/23, GEMA, EU:C:2024:526, т. 38 и цитираната съдебна практика).
(39) Регламент (ЕС) 2024/1083 на Европейския парламент и на Съвета от 11 април 2024 г. за създаване на обща рамка за медийните услуги на вътрешния пазар и за изменение на Директива 2010/13/ЕС (Европейски акт за свободата на медиите) (ОВ L, 2024/1083, 17.4.2024 г., ELI: http://data.europa.eu/eli/reg/2024/1083/oj).
(40) Когато децата са част от целевата аудитория на съдържанието, тези уведомления трябва да бъдат: i) подходящи за деца, съобразени с възрастта, лесни за разбиране и леснодостъпни за всички деца, включително тези с увреждания и/или с допълнителни нужди по отношение на достъпността; ii) представени ясно по начин, който е лесен за разбиране и е възможно най-прост и кратък; iii) представени по начин, който дава възможност за лесен преглед и осигурява незабавен и интуитивен достъп, в момента, в който това стане уместно; iv) представени на официалния език/официалните езици на държавата членка, в която се предоставя услугата; v) привлекателни за децата. Това може да включва също и използването на графики, видеоклипове и/или персонажи, или други техники; vi) предоставени на децата постепенно, като е отделено достатъчно време за това, за да се увеличи максимално запаметяването им от ползвателя.
(41) Директива (ЕС) 2016/2102 на Европейския парламент и на Съвета от 26 октомври 2016 г. относно достъпността на уебсайтовете и мобилните приложения на организациите от обществения сектор (Текст от значение за ЕИП) (ОВ L 327, 2.12.2016 г., стр. 1).
(42) Директива (ЕС) 2019/882 на Европейския парламент и на Съвета от 17 април 2019 г. за изискванията за достъпност на продукти и услуги (текст от значение за ЕИП), PE/81/2018/REV/1 (ОВ L 151, 7.6.2019 г., стр. 70).
(43) Вж. съответната информация относно Кодекса за поведение във връзка с прозрачността на генерираното от ИИ съдържание |Изграждане на цифровото бъдеще на Европа, публикувано на 10 юни 2026 г.
(44) Вж. Становище на Комисията относно оценката на Кодекса за поведение за прозрачност на генерираното от ИИ съдържание | Изграждане на цифровото бъдеще на Европа.
(45) Член 99, параграф 7, буква д) от Акта за ИИ.
(46) Член 50, параграф 7 от Акта за ИИ.
(47) Като орган за надзор на пазара за системи с ИИ, изградени върху модели с ИИ с общо предназначение, предоставени от същия доставчик (член 75, параграф 1 от Акта за ИИ). Това обхваща приложимото по отношение на доставчиците задължение съгласно член 50, параграфи 1 и 2 от Акта за ИИ. По отношение на член 50, параграфи 3 и 4 от Акта за ИИ, Службата по ИИ ще бъде компетентна само ако съответният доставчик на модел и система с ИИ с общо предназначение е също така и ползвател на системата.
(48) Като орган за надзор на пазара за институциите, агенциите и органите на ЕС.
(49) Член 85 от Акта за ИИ.
(50) Специалното правило за заварено положение в член 111, параграф 2 от Акта за ИИ се прилага за високорискови системи с ИИ, пуснати на пазара преди датата на прилагане на правилата за високорискови системи, само по отношение на съответствието на тези системи с изискванията и задълженията за високорискови системи с ИИ. Ако високорисковата система с ИИ също така подлежи на едно или повече задължения за прозрачност съгласно член 50 от Акта за ИИ, това специално правило за заварено положение не се прилага, тъй като прилагането на различните задължения за високорискови системи и задълженията за прозрачност по член 50 е кумулативно, а завареното положение е обосновано и ограничено само по отношение на съответствието с разпоредбите за високорискови системи.
ELI: http://data.europa.eu/eli/C/2026/6005/oj
ISSN 1977-0855 (electronic edition)