European flag

Euroopan unionin
virallinen lehti

FI

C-sarja


C/2026/6005

12.11.2026

KOMISSION TIEDONANTO

Ohjeita tietyille tekoälyjärjestelmille asetuksen (EU) 2024/1689 (”tekoälysäädös”) 50 artiklassa asetettujen avoimuusvelvoitteiden noudattamisesta

(C/2026/6005)

Sisällysluettelo

1.

TAUSTA JA TAVOITTEET 3

2.

YLEISKATSAUS AVOIMUUSVELVOITTEISIIN JA HORISONTAALISET KYSYMYKSET 3

2.1

Yleiskatsaus tekoälysäädöksen 50 artiklan avoimuusvelvoitteisiin 3

2.2

Perustelut ja tavoitteet 4

2.3

Tekoälysäädöksen 50 artiklan mukaan vastuussa olevat toimijat 5

2.4

Tekoälysäädöksen soveltamisalan ulkopuolelle jätetyt toiminnot 7

2.4.1

Pelkästään henkilökohtaisessa muussa kuin ammattitoiminnassa toimivat käyttöönottajat 7

2.4.2

Tutkimus ja kehittäminen 8

2.4.3

Vapaalla ja avoimen lähdekoodin lisenssillä julkaistut tekoälyjärjestelmät 8

2.5

Vuorovaikutus kiellettyjen käytäntöjen sekä suuririskisiä tekoälyjärjestelmiä ja tekoälylukutaitoa koskevien vaatimusten kanssa 9

2.6

Vuorovaikutus yleiskäyttöisiin tekoälymalleihin ja/tai -järjestelmiin sovellettavien sääntöjen kanssa 9

3.

TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN 1 ALAKOHTA: VUOROVAIKUTTEISTEN TEKOÄLYJÄRJESTELMIEN AVOIMUUS 9

3.1

Keskeiset osatekijät, käsitteet ja niihin liittyvät avoimuusvelvoitteet 10

3.1.1

Luonnollisten henkilöiden kanssa suoraan vuorovaikutukseen tarkoitetut tekoälyjärjestelmät 10

3.1.2

Tekoälysäädöksen 50 artiklan 1 kohdan mukainen ilmoitusvelvoite 12

3.2

Poikkeukset tekoälysäädöksen 50 artiklan 1 kohdan mukaiseen ilmoitusvelvoitteeseen 14

3.2.1

Ilmeistä vuorovaikutusta tekoälyjärjestelmän kanssa koskeva poikkeus 14

3.2.2

Lain mukaan lainvalvontatarkoituksiin sallittuja tekoälyjärjestelmiä koskeva poikkeus 16

3.3

Vuorovaikutus unionin muiden säädösten kanssa 17

4.

TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN 2 ALAKOHTA: TEKOÄLYN TUOTTAMAN TAI MANIPULOIMAN SISÄLLÖN MERKITSEMINEN JA TUNNISTAMINEN 18

4.1

Tekoälysäädöksen 50 artiklan 2 kohdan keskeiset osatekijät ja käsitteet 18

4.1.1

Synteettistä sisältöä tuottavat tai manipuloivat tekoälyjärjestelmät 18

4.1.2

Soveltamisalaan kuuluvat synteettisen sisällön muodot 19

4.1.3

Tekoälysäädöksen 50 artiklan 2 kohdan ulkopuolelle jäävä sisältö 20

4.2

Tekoälysäädöksen 50 artiklan 2 kohdassa säädetyt merkintää ja tunnistamista koskevat velvoitteet 21

4.2.1

Merkintävelvoite 21

4.2.2

Tunnistettavuutta koskeva velvoite 22

4.2.3

Teknisiä ratkaisuja koskevien vaatimusten mukaisuus: tehokkuus, yhteentoimivuus, vakaus ja luotettavuus 22

4.3

Poikkeukset tekoälysäädöksen 50 artiklan 2 kohdan mukaisiin velvoitteisiin 24

4.4

Vuorovaikutus unionin muiden säädösten kanssa 25

5.

TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN 3 ALAKOHTA: TUNTEENTUNNISTUSJÄRJESTELMÄT JA BIOMETRISET LUOKITTELUJÄRJESTELMÄT 26

5.1

Keskeiset osatekijät, käsitteet ja asiaan liittyvät tekoälysäädöksen 50 artiklan 3 kohdan mukaiset avoimuusvelvoitteet 27

5.1.1

Tunteentunnistusjärjestelmän käsite 27

5.1.2

Biometrisen luokittelujärjestelmän käsite 27

5.1.3

Tekoälysäädöksen 50 artiklan 3 kohdan mukainen ilmoitusvelvoite 27

5.2

Lainvalvontatarkoituksessa sovellettava poikkeus 28

5.3

Vuorovaikutus unionin muiden säädösten kanssa 28

6.

TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN 4 KOHTA: SYVÄVÄÄRENNÖSTEN JA TIETTYJEN TEKSTIJULKAISUJEN MERKITSEMINEN 28

6.1

Keskeiset osatekijät, käsitteet ja asiaan liittyvät tekoälysäädöksen 50 artiklan 4 kohdan mukaiset syväväärennöksiä koskevat avoimuusvelvoitteet 28

6.1.1

Syväväärennöksen käsite 29

6.1.2

Tekoälysäädöksen 50 artiklan 4 kohdan ensimmäisen alakohdan mukainen ilmoitusvelvoite 31

6.1.3

Taiteellisen, luovan, satiirisen, fiktiivisen tai vastaavan syväväärennetyn sisällön avoimuus 32

6.1.4

Lainvalvontatarkoituksessa sovellettava poikkeus 34

6.1.5

Vuorovaikutus unionin muiden säädösten kanssa 34

6.2

Keskeiset osatekijät, käsitteet ja tekoälysäädöksen 50 artiklan 4 kohdan mukaiset, tekoälyn tuottamaa tai manipuloimaa tekstiä koskevat asiaan liittyvät avoimuusvelvoitteet 35

6.2.1

Teksti, jonka julkaisemisen tarkoituksena on tiedottaa yleisölle yleistä etua koskevista asioista 36

6.2.2

Tekoälysäädöksen 50 artiklan 4 kohdan toisen alakohdan mukainen ilmoitusvelvoite 37

6.2.3

Ihmisen suorittaman arvioinnin tai toimituksellisen valvonnan läpikäyneitä ja toimituksellisen vastuun kohteena olevia tekstejä koskeva poikkeus avoimuusvelvoitteeseen 37

6.2.4

Lainvalvontatarkoituksessa sovellettava poikkeus 38

6.2.5

Vuorovaikutus unionin muiden säädösten kanssa 39

7.

TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN 5 KOHDAN MUKAISESTI ANNETTAVIIN TIETOIHIN SOVELLETTAVAT HORISONTAALISET VAATIMUKSET 39

7.1

Tietojen antaminen selkeällä ja selvästi erottuvalla tavalla 39

7.2

Ensimmäinen vuorovaikutus tai altistuminen 40

7.3

Sovellettavien esteettömyysvaatimusten mukaisuus 40

8.

TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN NOUDATTAMISEN VALVONTA 40

8.1

Riittäviksi arvioitujen käytännesääntöjen noudattamisen vaikutukset 41

8.2

Markkinavalvontaviranomaiset 42

8.3

Seuraamukset 42

8.4

Soveltamispäivä 42

9.

OHJEIDEN UUDELLEENTARKASTELU JA PÄIVITTÄMINEN 43

1.   TAUSTA JA TAVOITTEET

(1)

Tekoälyä koskevista yhdenmukaistetuista säännöistä ja tiettyjen asetusten muuttamisesta 13 päivänä kesäkuuta 2024 annettu Euroopan parlamentin ja neuvoston asetus (EU) 2024/1689 (1), jäljempänä ’tekoälysäädös’, tuli voimaan 1. elokuuta 2024. Tekoälysäädöksessä asetetaan yhdenmukaistettuja sääntöjä tekoälyn markkinoille saattamiselle, käyttöönotolle ja käytölle unionissa (2). Sen tavoitteena on edistää tekoälyyn liittyvää innovointia ja luotettavan tekoälyn käyttöönottoa varmistaen samalla terveyden, turvallisuuden ja perusoikeuksien, myös demokratian ja oikeusvaltion, suojelun korkea taso unionissa.

(2)

Tekoälysäädöksessä noudatetaan riskiperusteista lähestymistapaa, jossa tekoälyjärjestelmät luokitellaan neljään riskiluokkaan. Näistä yksi on tekoälyjärjestelmät, jotka aiheuttavat avoimuuteen kohdistuvia riskejä ja joihin sovelletaan tekoälysäädöksen 50 artiklan mukaisia avoimuusvelvoitteita. Näitä avoimuusvelvoitteita sovelletaan kahden vuoden kuluttua tekoälysäädöksen voimaantulosta eli 2. elokuuta 2026 alkaen.

(3)

Tekoälysäädöksen 96 artiklan 1 kohdan d alakohdan mukaisesti näiden komission ohjeiden on tarkoitus toimia käytännön apuna toimivaltaisille viranomaisille sekä tekoälyjärjestelmien tarjoajille ja käyttöönottajille pyrittäessä varmistamaan, että tekoälysäädöksen 50 artiklan mukaiset avoimuusvaatimukset täytetään johdonmukaisella, tuloksekkaalla, oikeasuhteisella ja yhdenmukaisella tavalla.

(4)

Nämä ohjeet perustuvat eri sidosryhmiltä komission järjestämässä laajassa kuulemisessa kerättyihin tietoihin ja jäsenvaltioiden tekoälyneuvostossa antamaan palautteeseen sekä sidosryhmien näkemyksiin ohjeiden luonnoksesta, joka julkaistiin kuulemista varten.

(5)

Nämä ohjeet eivät ole sitovia. Viime kädessä ainoastaan Euroopan unionin tuomioistuin voi antaa sitovia tulkintoja tekoälysäädöksestä.

2.   YLEISKATSAUS AVOIMUUSVELVOITTEISIIN JA HORISONTAALISET KYSYMYKSET

2.1   Yleiskatsaus tekoälysäädöksen 50 artiklan avoimuusvelvoitteisiin

(6)

Tekoälysäädöksen 50 artikla sisältää neljä avoimuusvelvoitetta, joista jokaista sovelletaan erityyppisiin tekoälyjärjestelmiin tai niiden tuotoksiin.

Säännös

Tekoälyjärjestelmän / tekoälyn tuotoksen tyyppi

Avoimuusvelvoite

Poikkeukset tai erityisjärjestelyt

50 artiklan 1 kohta

Tekoälyjärjestelmät, jotka ovat suoraan vuorovaikutuksessa luonnollisten henkilöiden kanssa

Tarjoajien on suunniteltava ja toteutettava tekoälyjärjestelmät siten, että asianomaisille luonnollisille henkilöille ilmoitetaan, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa.

Tästä avoimuusvelvoitteesta voidaan poiketa, jos 1) vuorovaikutuksen keinotekoinen alkuperä on ilmeinen tai 2) järjestelmää on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen tai tutkimiseen ja rikoksiin liittyviin syytetoimiin, paitsi jos kyseinen järjestelmä on julkisesti saatavilla rikosilmoitusten tekemistä varten.

50 artiklan 2 kohta

Synteettistä ääni-, kuva-, video- tai tekstisisältöä tuottavat tai manipuloivat tekoälyjärjestelmät

Tarjoajien on varmistettava, että tekoälyjärjestelmän tuotokset merkitään koneellisesti luettavassa muodossa ja että ne voidaan tunnistaa keinotekoisesti tuotetuiksi tai manipuloiduiksi tehokkailla, yhteentoimivilla, vakailla ja luotettavilla teknisillä ratkaisuilla.

Tästä avoimuusvelvoitteesta voidaan poiketa, jos 1) tekoälyjärjestelmä avustaa vakiomuokkaamista tai ei olennaisesti muuta syöttödataa tai sen semantiikkaa, tai jos 2) tekoälyjärjestelmää on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen tai tutkimiseen ja rikoksiin liittyviin syytetoimiin.

50 artiklan 3 kohta

Tunteentunnistusjärjestelmät tai biometriset luokitusjärjestelmät

Käyttöönottajien on tiedotettava tekoälyjärjestelmän toiminnasta kaikille sille altistuville luonnollisille henkilöille.

Tästä avoimuusvelvoitteesta voidaan poiketa, jos tekoälyjärjestelmää on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen tai tutkimiseen.

50 artiklan 4 kohta

Tekoälyjärjestelmät, jotka tuottavat tai manipuloivat syväväärennöksiä tai tekstiä, jonka julkaisemisen tarkoituksena on tiedottaa yleisölle yleistä etua koskevista asioista

Käyttöönottajien on ilmoitettava, että sisältö on keinotekoisesti tuotettu tai että sitä on manipuloitu.

Tästä avoimuusvelvoitteesta voidaan poiketa, jos 1) tekoälyjärjestelmää on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen tai tutkimiseen ja rikoksiin liittyviin syytetoimiin tai 2) jos tekstijulkaisu on läpikäynyt ihmisen suorittaman arviointiprosessin tai toimituksellisen valvonnan ja se on toimituksellisen vastuun alainen.

Erityistä ilmoitusvelvoitetta sovelletaan syväväärennöksiin, jotka ovat osa taiteellista, luovaa, satiirista, fiktiivistä tai vastaavaa teosta tai ohjelmaa.

(7)

Näitä neljää velvoitetta tarkastellaan näiden ohjeiden jaksoissa 3–6. Lisäksi tekoälysäädöksen 50 artiklan 5 alakohdan mukaan artiklan 1–4 kohdassa tarkoitetut tiedot on esitettävä asianomaisille luonnollisille henkilöille selkeällä ja selvästi erottuvalla tavalla viimeistään ensimmäisen vuorovaikutuksen tai altistumisen yhteydessä, ja tietojen on oltava sovellettavien esteettömyysvaatimusten mukaisia. Näitä vaatimuksia selvennetään näiden ohjeiden jaksossa 7.

(8)

Tekoälysäädöksen 50 artiklassa säädettyjä eri avoimuusvelvoitteita voidaan soveltaa kumulatiivisesti yksittäiseen tekoälyjärjestelmään (tai sen tuotokseen), jolloin vastuu saattaa jakautua useille eri toimijoille (tarjoajille tai käyttöönottajille). Jos esimerkiksi tekoälyjärjestelmä tuottaa kuvia osana suoraa vuorovaikutusta luonnollisen henkilön kanssa, tekoälyjärjestelmän tarjoajan on mahdollisesti noudatettava 50 artiklan 1 ja 2 kohtaa. Jos järjestelmä pystyy myös tuottamaan kuvia, jotka ovat syväväärennöksiä, tai tekstiä, jonka julkaisemisen tarkoituksena on tiedottaa yleisölle yleistä etua koskevista asioista, käyttöönottajan on lisäksi mahdollisesti noudatettava tekoälysäädöksen 50 artiklan 4 kohtaa.

2.2   Perustelut ja tavoitteet

(9)

Kuten tekoälysäädöksen johdanto-osan 132–136 kappaleessa selitetään, avoimuusvelvoitteiden tarkoituksena on vähentää riskejä, joita liittyy toisena henkilönä esiintymiseen, harhaanjohtamiseen, väärän tiedon levittämiseen, laajamittaiseen tiedonmanipulointiin ja petoksiin, sekä lieventää tekoälyn tuottaman tai manipuloiman sisällön tai vuorovaikutuksen mahdollisia haitallisia vaikutuksia demokraattisiin prosesseihin ja yhteiskunnalliseen luottamukseen. Kun yksilöille ilmoitetaan vuorovaikutuksen ja sisällön tekoälyalkuperästä, he voivat tehdä tietoon perustuvia päätöksiä. Samalla edistetään tietoekosysteemin luotettavuutta ja eheyttä. Avoimuus ei ole vain tekninen vaatimustenmukaisuusvaatimus, vaan edellytys sille, että luonnolliset henkilöt voivat tunnistaa tekoälyvälitteisen vuorovaikutuksen ja sisällön tai tunteentunnistusjärjestelmien tai biometristen luokitusjärjestelmien käytön. Vuorovaikutteisten ja generatiivisten tekoälyjärjestelmien avoin ja luotettava käyttö auttaa myös varmistamaan henkilökohtaisen itsemääräämisoikeuden ja eurooppalaisten arvojen, ihmisarvon ja muiden perusoikeuksien (kuten ajatuksen vapauden, yksityisyyden, tasa-arvon ja syrjimättömyyden sekä kuluttajansuojan ja teollis- ja tekijänoikeuksien) toteutumisen sekä sananvapauden ja mediasisällön luotettavuuden säilymisen.

2.3   Tekoälysäädöksen 50 artiklan mukaan vastuussa olevat toimijat

(10)

Tekoälysäädöksen 3 artiklan 3 alakohdan mukaan tarjoajat ovat luonnollisia tai oikeushenkilöitä, viranomaisia, virastoja tai muita elimiä, jotka kehittävät tai kehityttävät tekoälyjärjestelmiä ja saattavat niitä unionin markkinoille tai ottavat niitä käyttöön omalla nimellään tai tavaramerkillään joko maksua vastaan tai maksutta. Tarjoajien on noudatettava niihin sovellettavia tekoälysäädöksen 50 artiklan 1 ja 2 kohdan mukaisia avoimuusvelvoitteita riippumatta siitä, ovatko kyseiset tarjoajat sijoittautuneet unioniin tai kolmanteen maahan tai sijaitsevatko ne unionissa tai kolmannessa maassa (3). Myös unionin ulkopuolelle sijoittautuneisiin tai siellä sijaitseviin tarjoajiin sovelletaan tekoälysäädöstä, jos niiden tekoälyjärjestelmän tuotoksia käytetään unionissa (4). Tahaton, ennakoimaton tai luvaton ketjun loppupään käyttö ei kuitenkaan yksinään saisi johtaa siihen, että velvoitteita sovelletaan kolmansien maiden tarjoajiin, joiden tarjoamia vuorovaikutteisia tai generatiivisia tekojärjestelmiä ei ole saatettu markkinoille tai otettu käyttöön unionissa, sanotun kuitenkaan rajoittamatta toimivaltaisten markkinavalvontaviranomaisten valtuuksia pitää tällaisten tekoälyjärjestelmien tuotoksia tekoälysäädöksen vaatimusten vastaisina.

(11)

Tarjoajien on varmistettava, että niiden vuorovaikutteiset tai generatiiviset tekoälyjärjestelmät on suunniteltu jo lähtökohtaisesti läpinäkyviksi. Niiden on myös varmistettava, että kaikki tekoälysäädöksen 50 artiklan 1, 2 ja 5 kohdassa säädetyt sovellettavat avoimuusvelvoitteet täyttyvät viimeistään, kun kyseiset järjestelmät saatetaan markkinoille tai otetaan käyttöön. Kaikille luonnollisille henkilöille, jotka ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa tai altistuvat sen tuotoksille, on tiedotettava asiasta tehokkaasti ja johdonmukaisesti tekoälyjärjestelmän, sellaisena kuin kyseisen tekoälyjärjestelmän tarjoaja on saattanut sen markkinoille tai ottanut sen käyttöön, koko elinkaaren ajan (riippumatta siitä, keitä järjestelmän käyttöönottajat tai muut käyttäjät ovat).

Yritys voi esimerkiksi tarjota unionin markkinoilla generatiivisen tai vuorovaikutteisen tekoälysovelluksen (esimerkiksi asiointibotin, kuvageneraattorin tai tekoälyagentin) omalla nimellään tai tavaramerkillään kuluttajille, ammattikäyttäjille tai muille oikeushenkilöille, jotka voivat suoraan käyttää tekoälyjärjestelmää vuorovaikutukseen tai sisällön tuottamiseen (mukaan lukien integroimalla järjestelmän nykyisiin prosesseihinsa ja käyttämällä sitä ilman muutoksia tai lisäkomponentteja). Yritys on tällöin tarjoaja, joka vastaa tekoälysäädöksen 50 artiklan 1 ja/tai 2 kohdan avoimuusvelvoitteiden noudattamisesta riippumatta siitä, onko tekoälyjärjestelmä tarjottu maksutta vai maksua vastaan, sekä riippumatta siitä, onko tarjoaja sijoittautunut unioniin vai kolmanteen maahan tai sijaitseeko se unionissa vai kolmannessa maassa.

Toinen esimerkki tarjoajasta on yritys tai muunlainen organisaatio (esimerkiksi viranomainen), joka on kehittänyt itse vuorovaikutteisen tekoälyjärjestelmän (kuten asiointibotin) ja ottaa sen unionissa omaan käyttöönsä omalla nimellään tai tavaramerkillään.

Jos yritys ottaa käyttöön toisen tarjoajan markkinoille saattaman jo olemassa olevan generatiivisen tekoälyjärjestelmän, tekee muutoksia kyseiseen järjestelmään (esimerkiksi kouluttaa sitä uusilla tiedoilla) ja ottaa sen myöhemmin käyttöön omalla nimellään tai tavaramerkillään, yrityksestä tulee uuden järjestelmän tarjoaja, sanotun kuitenkaan rajoittamatta alkuperäisen tekoälyjärjestelmän tarjoajan vastuuta alkuperäisestä järjestelmästä.

(12)

Käyttöönottajat ovat luonnollisia tai oikeushenkilöitä, viranomaisia, virastoja tai muita tahoja, jotka käyttävät valvonnassaan olevia tekoälyjärjestelmiä, paitsi jos tekoälyjärjestelmää käytetään henkilökohtaisessa muussa kuin ammattitoiminnassa (5). Sen, että tekoälyjärjestelmä on käyttöönottajan ”valvonnassa”, olisi katsottava tarkoittavan sitä, että kyseisellä toimijalla on vastuu järjestelmän käyttöönottoa koskevasta päätöksestä ja järjestelmän (mukaan lukien sen tuotosten) tosiasiallisesta käytöstä. Tämä ei välttämättä edellytä tekoälyjärjestelmän toiminnan teknistä valvontaa, kunhan käyttöönottaja päättää siitä, mihin tarkoituksiin ja miten tekoälyjärjestelmää käytetään (myös hajautetuissa työnkuluissa ja konsernin yritysrakenteissa). Monimutkaisiin sisällön tuotannon ja jakelun arvoketjuihin osallistuvien käyttöönottajien olisi toteutettava oikeasuhteisia toimenpiteitä sen varmistamiseksi, että sisältö on merkitty tekoälysäädöksen 50 artiklan 4 kohdan mukaisesti kohdeyleisölle ja ennakoitavissa olevalle yleisölle selkeällä ja selvästi erottuvalla tavalla jo ensimmäisen altistumisen yhteydessä 50 artiklan 5 kohdan mukaisesti (esimerkiksi jakelijoiden kanssa tehtyjen sopimusehtojen, käyttäjäkokemusasetusten ja näytettävien käyttöliittymien avulla).

(13)

Käyttöönottajat kuuluvat tekoälysäädöksen 50 artiklan 3 ja 4 kohdassa säädettyjen avoimuusvelvoitteiden piiriin, jos niiden sijoittautumis- tai sijaintipaikka sijaitsee unionissa tai, mikäli ne sijaitsevat kolmannessa maassa tai ovat sijoittautuneet kolmanteen maahan, tekoälyjärjestelmän tuotosta käytetään unionissa (6). Jälkimmäisessä tapauksessa avoimuusvelvoitteita sovelletaan unionin ulkopuolella sijaitseviin tai unionin ulkopuolelle sijoittautuneisiin yhteisöihin, jos käyttöönottaja itse suunnittelee tekoälyn tuotosten levittämistä ja käyttöä unionissa (eli suuntaa jakamisen unioniin tai sallii jakamisen unionissa, mukaan lukien julkaisee syväväärennöksiä maailmanlaajuisesti saatavilla olevassa internetissä). Avoimuusvelvoitteet eivät kuitenkaan sido kolmansien maiden käyttöönottajia, jos tekoälyjärjestelmän sisältö tavoittaa yleisöjä unionissa sellaisten kanavien kautta, joita ei voida ennakoida ja joihin käyttöönottajat eivät voi vaikuttaa.

(14)

Jos tekoälyjärjestelmän käyttöönottaja on oikeushenkilö (esimerkiksi mainosyhtiö), jonka valvonnassa järjestelmää käytetään, kyseisen oikeushenkilön ohjeiden mukaan ja valvonnassa toimivia yksittäisiä työntekijöitä (kuten digitaalisia animaattoreita, verkkosivujen suunnittelijoita, sisällöntuottajia tai toimittajia) ei tulisi pitää erillisinä tekoälyjärjestelmän käyttöönottajina. Oikeushenkilö on käyttöönottaja myös, jos se ottaa järjestelmän toimintaan mukaan kolmansia osapuolia (esimerkiksi toimeksisaajia tai freelancereita), jotka toimivat sen puolesta ja sen vastuulla ja valvonnassa.

Esimerkiksi unioniin sijoittautuneen tiedotusvälineen katsotaan olevan tekoälysäädöksen piiriin kuuluva käyttöönottaja, jos sen toimittajat raportoivat ajankohtaisista tapahtumista käyttäen apuna tekoälyjärjestelmää siten, että tekoäly tuottaa yleistä etua koskevia asioita käsitteleviä tekstijulkaisuja, jotka julkaistaan maailmanlaajuisesti saatavilla olevalla verkkosivustolla. Vastaavasti kolmanteen maahan sijoittautunut yritys, joka käyttää tekoälyjärjestelmää tuottaakseen syväväärennöksen julkisuuden henkilöstä unionissa näytettävää mainosta varten, on myös tekoälysäädöksen piiriin kuuluva käyttöönottaja.

Sen sijaan yritys, joka vain tilaa mainostoimiston tuottaman mainoksen eikä tee päätöstä tekoälyjärjestelmän käytöstä tai valvo, käyttääkö mainostoimisto tekoälyä tuotantoprosessissa tai miten se käyttää sitä, ei ole tekoälysäädöksen soveltamisalaan kuuluva käyttöönottaja.

(15)

Toimijoilla (esimerkiksi tarjoajilla ja käyttöönottajilla) voi olla samanaikaisesti useampi kuin yksi tekoälyjärjestelmään liittyvä rooli. Yritys voisi esimerkiksi kehittää omaan käyttöönsä generatiivisen tekoälyjärjestelmän ja käyttää sitä syväväärennösten tuottamiseen. Tällaisessa tapauksessa yrityksen katsotaan olevan sekä tarjoaja että käyttöönottaja, jonka on noudatettava tekoälysäädöksen 50 artiklan 2 kohdan mukaisia koneellisesti luettavia merkintöjä koskevia velvoitteita ja 50 artiklan 4 kohdan mukaisia vaatimuksia, jotka koskevat syväväärennösten selkeää ja näkyvää merkitsemistä.

(16)

Sen sijaan muut toimijat (kuten hosting-palvelujen tarjoajat, mukaan lukien verkkoalustat, tai yleislähetystoiminnan harjoittajat), jotka ainoastaan jakavat tai lähettävät kolmansien osapuolten tekoälyllä tuottamaa tai manipuloimaa sisältöä tai jotka vastaanottavat tekoälyllä tuotettua tai manipuloitua sisältöä tai altistuvat sille ilman, että ne valvovat tekoälyjärjestelmän käyttöä sisällön tuottamiseen tai manipulointiin, eivät ole tekoälysäädöksessä tarkoitettuja käyttöönottajia. Kyseisillä toimijoilla voi kuitenkin olla arvoketjussa tärkeä asema tietoekosysteemin luotettavuuden ja eheyden säilyttämisessä, vaikka ne eivät ole tekoälysäädöksen mukaan vastuussa olevia osapuolia. Sen vuoksi niitä kannustetaan voimakkaasti säilyttämään tekoälysäädöksen 50 artiklan nojalla tehdyt merkinnät ja toteuttamaan oikeasuhteisia ja teknisesti mahdollisia toimenpiteitä, jotta luonnolliset henkilöt voivat tunnistaa tekoälyllä tuotetun tai manipuloidun sisällön, sanotun kuitenkaan rajoittamatta generatiivisten tekoälyjärjestelmien tarjoajien ja käyttöönottajien vastuuta tai asetuksen (EU) 2022/2065 (digipalvelusäädös) (7) tai muun sovellettavan unionin tai kansallisen lainsäädännön mukaisia velvoitteita tai vastuita.

(17)

Myös muita toimijoita, jotka toimivat ammatillisessa ominaisuudessaan ja levittävät sisältöä (vaikka ne eivät olisi suoraan vastuussa tekoälysäädöksen 50 artiklan nojalla), kannustetaan toteuttamaan oikeasuhteisia ja asianmukaisia toimenpiteitä, jotta luonnollisille henkilöille, jotka viime kädessä altistuvat sisällölle, tiedotetaan toimivalla tavalla tekoälyn käytöstä ja jotta luonnolliset henkilöt pystyvät tunnistamaan sisällön keinotekoisen tai manipuloidun alkuperän. Lisäksi näitä osapuolia voidaan vaatia merkitsemään syväväärennökset tai yleistä etua koskevia asioita käsittelevät tekstijulkaisut muiden sovellettavien oikeudellisten tai deontologisten sääntöjen mukaisesti (esimerkiksi yksityishenkilön luoman syväväärennöksen merkitseminen ja näyttäminen osana yleisradiopalvelun harjoittajan lähettämää televisio-ohjelmaa). Pelkästään se, että toimija merkitsee sisältöä tai hyödyntää merkittyä sisältöä, ei kuitenkaan tarkoita, että toimija katsotaan tekoälysäädöksessä tarkoitetuksi käyttöönottajaksi. Tekoälysäädös ei laajenna oikeudellista vastuuta tai vaikuta oikeudelliseen vastuuseen, joka kyseisillä toimijoilla on sovellettavien oikeudellisten kehysten nojalla, jos toimijoita ei katsota tekoälyjärjestelmien tarjoajiksi tai käyttöönottajiksi.

2.4   Tekoälysäädöksen soveltamisalan ulkopuolelle jätetyt toiminnot

(18)

Tekoälysäädöksen 2 artiklassa säädetään useista yleisistä poikkeuksista tekoälysäädöksen soveltamisalaan. Näitä poikkeuksia on jo selvennetty komission ohjeissa kielletyistä tekoälyyn liittyvistä käytännöistä (8). Tässä kohdassa käsitellään näin ollen vain niitä näkökohtia, jotka ovat olennaisia tekoälysäädöksen 50 artiklan avoimuusvelvoitteiden kannalta.

2.4.1   Pelkästään henkilökohtaisessa muussa kuin ammattitoiminnassa toimivat käyttöönottajat

(19)

Tekoälysäädöksen 2 artiklan 10 kohdan mukaan tekoälysäädöstä ”ei sovelleta niiden käyttöönottajien velvoitteisiin, jotka ovat luonnollisia henkilöitä, jotka käyttävät tekoälyjärjestelmiä pelkästään henkilökohtaisessa muussa kuin ammattitoiminnassa” (9). Kaikenlaista toimintaa, jonka avulla luonnollinen henkilö saa säännöllisesti taloudellista hyötyä tai muutoin harjoittaa ammattitoimintaa, liiketoimintaa, kauppaa, elinkeinoa tai freelance-toimintaa, olisi pidettävä ”ammattitoimintana”. ”Pelkästään henkilökohtainen” täsmentää ilmaisua ”muu kuin ammattitoiminta”. Näin ollen poikkeusta sovelletaan vain, jos henkilö toimii sekä henkilökohtaisessa että muussa kuin ammatillisessa ominaisuudessa. Kaikenlainen tekoälyn käyttö ammatillisessa ominaisuudessa toimivan käyttöönottajan puolesta tai tämän alaisuudessa toimivien luonnollisten henkilöiden toimesta kuuluu tekoälysäädöksen 50 artiklan 3 ja 4 kohdassa säädettyjen ammatillisissa tehtävissä toimivan käyttöönottajan avoimuusvelvoitteiden piiriin.

Esimerkkejä soveltamisalan ulkopuolelle jäävästä tekoälyjärjestelmien käytöstä henkilökohtaisessa muussa kuin ammattitoiminnassa:

—

henkilöt, jotka käyttävät tekoälyjärjestelmää tuottaakseen syväväärennöksiä kotitaloutensa jäsenistä;

—

henkilöt, jotka käyttävät tekoälyjärjestelmää henkilökohtaisessa ominaisuudessaan tuottaakseen tekstiä eri aiheista (esimerkiksi opiskelijat, jotka käyttävät tekoälyä kotitehtäviinsä);

—

henkilöt, jotka käyttävät tekoälyjärjestelmää henkilökohtaisessa ominaisuudessaan tuottaakseen syväväärennöksiä sosiaalista mediaa varten.

(20)

Tekoälysäädöksen 2 artiklan 10 alakohdassa säädetty poikkeus koskee käyttöönottajien velvollisuuksia ainoastaan silloin, kun ne käyttävät järjestelmää pelkästään henkilökohtaiseen muuhun kuin ammattitoimintaan. Järjestelmä sinänsä kuuluu edelleen tekoälysäädöksen soveltamisalaan järjestelmän markkinoille saattavien tai käyttöön ottavien tarjoajien ja järjestelmää ammattitoimintaan käyttävien käyttöönottajien velvoitteiden osalta. Poikkeus ei myöskään rajoita muun asiaa koskevan unionin ja kansallisen lainsäädännön soveltamista.

Jos tarjoajan tekoälyjärjestelmää käytetään esimerkiksi syväväärennösten tuottamiseen henkilökohtaisia joulukortteja varten, tarjoajan olisi merkittävä tällaiset syväväärennökset koneellisesti luettavalla tavalla tekoälysäädöksen 50 artiklan 2 kohdassa säädetyn avoimuusvelvoitteen mukaisesti. Tekoälysäädöksen 50 artiklan 4 kohdassa säädetty käyttöönottajia koskeva velvoite ei kuitenkaan koske luonnollisia henkilöitä, jotka käyttävät tällaista tekoälyjärjestelmää pelkästään henkilökohtaiseen muuhun kuin ammattitoimintaan.

2.4.2   Tutkimus ja kehittäminen

(21)

Tekoälysäädöksen 2 artiklan 6 kohdassa säädetään, että tekoälysäädöstä ”ei sovelleta tekoälyjärjestelmiin tai tekoälymalleihin, jotka on erityisesti kehitetty ja otettu käyttöön yksinomaan tieteellistä tutkimusta ja kehittämistä varten, eikä myöskään niiden tuotoksiin”. Tämä poikkeus ei vaikuta sovellettaviin tutkimuksen eettisiin periaatteisiin, EU:n tietosuojaan tai muuhun lainsäädäntöön. Tekoälysäädöksen 50 artiklan yhteydessä tämä poikkeus koskee vuorovaikutteisten tekoälyjärjestelmien lisäksi myös tieteellisessä tutkimuksessa käytettyjen generatiivisten tekoälyjärjestelmien tuotoksia (mukaan lukien syväväärennetty sisältö). Jos tällaisia tekoälyjärjestelmiä kuitenkin tarjotaan käyttöön tai niiden tuotoksia käytetään muihin tarkoituksiin kuin yksinomaan tieteelliseen tutkimukseen ja kehittämiseen, tekoälysäädöksen 50 artiklan mukaisia avoimuusvelvoitteita olisi edelleen noudatettava.

Tutkijat voivat esimerkiksi kehittää ja saattaa markkinoille tai ottaa käyttöön vuorovaikutteisen tekoälyjärjestelmän tutkiakseen, pystyvätkö luonnolliset henkilöt erottamaan tekoälyjärjestelmän ja ihmisen toisistaan suullisessa vuorovaikutuksessa tekoälyjärjestelmän kanssa. Tällöin heidän ei tarvitse noudattaa tekoälysäädöksen 50 artiklan 1 ja 2 kohdan mukaisia avoimuusvelvoitteita. Jos sama vuorovaikutteinen tekoälyjärjestelmää tarjotaan käyttöön myös muuta tarkoitusta kuin tutkimusta ja kehittämistä varten, tekoälysäädöksen 50 artiklan avoimuusvelvoitteita olisi kuitenkin noudatettava.

(22)

Tekoälysäädöksen 2 artiklan 8 alakohdan mukaan asetusta ei myöskään sovelleta mihinkään tekoälyjärjestelmiä tai tekoälymalleja koskevaan tutkimus-, testaus- ja kehittämistoimintaan ennen niiden markkinoille saattamista tai käyttöönottoa. Tämä poikkeus ei koske testausta tosielämän olosuhteissa (tekoälyn sääntelyn testiympäristöissä tai niiden ulkopuolella). Lisäksi kun tekoälyjärjestelmä saatetaan markkinoille tai otetaan käyttöön tällaisen tutkimus- ja testaustoiminnan tuloksena, sen osalta on noudatettava tekoälysäädöksen 50 artiklan mukaisia avoimuusvelvoitteita (10).

2.4.3   Vapaalla ja avoimen lähdekoodin lisenssillä julkaistut tekoälyjärjestelmät

(23)

Tekoälysäädöksen 2 artiklan 12 kohdan mukaan tekoälysäädöstä ei sovelleta vapaisiin ja avoimeen lähdekoodiin perustuviin tekoälyjärjestelmiin, jolleivat ne kuulu tekoälysäädöksen 5 artiklassa säädettyjen kieltojen tai 50 artiklassa säädettyjen avoimuusvelvoitteiden piiriin tai jos niitä ei ole luokiteltu suuririskisiksi (11). Tämä tarkoittaa, että tekoälysäädöksen 50 artiklan soveltamisalaan kuuluvien avoimen lähdekoodin tekoälyjärjestelmien tarjoajien ja käyttöönottajien on edelleen varmistettava avoimuusvelvoitteidensa noudattaminen.

(24)

Sitä vastoin sellaisten vapaan ja avoimen lähdekoodin tekoälykomponenttien tarjoajiin, jotka tarjoavat ohjelmistoja, dataa, malleja, työkaluja, palveluja tai prosesseja, joita käytetään tekoälyjärjestelmään mukauttamiseen ja integrointiin ja jotka eivät itsessään (osittain tai kokonaan) muodosta tekoälyjärjestelmää, ei sovelleta tekoälysäädöksen 50 artiklan avoimuusvelvoitteita. Tällaisten järjestelmien tarjoajia kannustetaan kuitenkin suunnittelemaan kyseiset mallit, komponentit ja palvelut jäljempänä kappaleessa 27 kuvatulla tavalla, sikäli kuin se on oikeasuhteista ja mahdollista.

2.5   Vuorovaikutus kiellettyjen käytäntöjen sekä suuririskisiä tekoälyjärjestelmiä ja tekoälylukutaitoa koskevien vaatimusten kanssa

(25)

Tekoälysäädöksen johdanto-osan 137 kappaleessa selvennetään, että tekoälysäädöksen 50 artiklan mukaisten avoimuusvelvoitteiden noudattamisen tietyn tekoälyjärjestelmän osalta ei voida tulkita merkitsevän sitä, että tekoälyjärjestelmän tai sen tuotoksen käyttö on lainmukaista tekoälysäädöksen nojalla. Erityisesti on huomattava, että tekoälyjärjestelmät, joihin sovelletaan tekoälysäädöksen 50 artiklan velvoitteita, voivat kuulua myös tekoälysäädöksen 5 artiklan soveltamisalaan ja olla siten kiellettyjä (esimerkiksi tunteentunnistusjärjestelmien käyttö työelämässä tai oppilaitoksissa) (12). Lisäksi tekoälysäädöksen 50 artiklan soveltamisalaan kuuluvat tekoälyjärjestelmät voidaan myös luokitella suuririskisiksi (13), jolloin niihin sovelletaan tällaisia järjestelmiä koskevia vaatimuksia ja velvoitteita. Tekoälysäädöksen 50 artiklan noudattaminen ei näin ollen korvaa tekoälysäädöksen muista säännöksistä johtuvia velvoitteita, rajoita niitä tai vaikuta niihin (14). Toisaalta tekoälyjärjestelmät voivat kuulua tekoälysäädöksen 50 artiklan soveltamisalaan, vaikka niitä ei ole luokiteltu tekoälysäädöksen 6 artiklan mukaisesti suuririskisiksi. Tekoälysäädöksen 4 artiklan mukaisia tekoälylukutaitoa koskevia vaatimuksia sovelletaan myös tekoälysäädöksen 50 artiklan soveltamisalaan kuuluvien tekoälyjärjestelmien tarjoajiin ja käyttöönottajiin.

2.6   Vuorovaikutus yleiskäyttöisiin tekoälymalleihin ja/tai -järjestelmiin sovellettavien sääntöjen kanssa

(26)

Tekoälysäädöksen 50 artiklaa sovelletaan tiettyihin tekoälyjärjestelmiin, joihin kuuluvat yleiskäyttöiset tekoälyjärjestelmät (15), kuten asiointibotit, jotka tukevat suoraa vuorovaikutusta luonnollisten henkilöiden kanssa, tai tekoälyjärjestelmät, jotka pystyvät synteettisesti tuottamaan tai manipuloimaan sisältöä (mukaan lukien syväväärennökset) (16).

(27)

Tekoälysäädöksen 50 artiklaa ei lähtökohtaisesti sovelleta yleiskäyttöisiin tekoälymalleihin. Jos kuitenkin vuorovaikutteinen tai generatiivinen tekoälyjärjestelmä, joka kuuluu tekoälysäädöksen 50 artiklan 1 tai 2 kohdan soveltamisalaan, perustuu saman tarjoajan tarjoamaan yleiskäyttöiseen tekoälymalliin, näissä ohjeissa esitetyt avoimuutta koskevat toimenpiteet voidaan toteuttaa myös mallitasolla (ks. myös jäljempänä jakso 4). Muiden yleiskäyttöisten tekoälymallien ja muiden generatiivisten tekoälymallien tarjoajat eivät kuulu tekoälysäädöksen 50 artiklan soveltamisalaan, mutta myös niitä kannustetaan toteuttamaan mallitasolla asianmukaisia avoimuutta koskevia toimenpiteitä vuorovaikutteisten tekoälyjärjestelmien tunnistamiseksi sekä tekoälyllä tuotetun ja manipuloidun sisällön merkitsemiseksi. Tämä auttaa erityisesti tekoälyjärjestelmän tarjontaketjun myöhemmän vaiheen tarjoajia täyttämään tekoälysäädöksen 50 artiklan 1 ja 2 kohdan mukaiset velvoitteensa (17) ja auttaa osaltaan ylläpitämään informaatioekosysteemin luotettavuutta ja aitoutta. Sellaisten yleiskäyttöisten tekoälymallien osalta, joihin liittyy systeemisiä riskejä, mallitason turvallisuustoimenpiteet tekoälyllä tuotetun vuorovaikutuksen tunnistamiseksi ja tekoälyllä tuotetun tai manipuloidun sisällön merkitsemiseksi voivat tarvittaessa olla osa laajempaa lieventävien toimenpiteiden kokonaisuutta, jonka tarjoajat voivat toteuttaa osana tekoälysäädöksen 55 artiklan 1 kohdan b alakohdan mukaista velvoitettaan lieventää systeemisiä riskejä.

3.   TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN 1 ALAKOHTA: VUOROVAIKUTTEISTEN TEKOÄLYJÄRJESTELMIEN AVOIMUUS

(28)

Tekoälysäädöksen 50 artiklan 1 kohta koskee sellaisten tekoälyjärjestelmien tarjoajia, jotka ovat suoraan vuorovaikutuksessa luonnollisten henkilöiden kanssa. Näiden tarjoajien on suunniteltava ja toteutettava järjestelmänsä siten, että asianomaisille luonnollisille henkilöille ilmoitetaan, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa. Kuten tekoälysäädöksen johdanto-osan 132 kappaleessa selitetään, tämän ilmoitusvelvoitteen tarkoituksena on antaa kyseisille luonnollisille henkilöille mahdollisuus tehdä tietoon perustuvia päätöksiä järjestelmän tuotoksista, välttää liiallista tukeutumista tällaisiin järjestelmiin ja mahdollistaa se, että luonnolliset henkilöt voivat suhteuttaa luottamustaan tekoälyllä tuotettuun sisältöön ja vuorovaikutukseen.

3.1   Keskeiset osatekijät, käsitteet ja niihin liittyvät avoimuusvelvoitteet

(29)

Tekoälysäädöksen 50 artiklan 1 kohdan avoimuusvelvoitetta sovelletaan sellaisten tekoälyjärjestelmien tarjoajiin, joiden on tarkoitus olla suoraan vuorovaikutuksessa luonnollisten henkilöiden kanssa silloin, kun vuorovaikutusta ei koske mikään seuraavista poikkeuksista: 1) tekoälyn käyttö on ilmeistä sellaisen luonnollisen henkilön näkökulmasta, joka on suhteellisen valistunut, tarkkaavainen ja huolellinen, tai 2) järjestelmää on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen tai tutkimiseen ja rikoksiin liittyviin syytetoimiin, paitsi jos kyseinen järjestelmä on julkisesti saatavilla rikosilmoitusten tekemistä varten.

3.1.1   Luonnollisten henkilöiden kanssa suoraan vuorovaikutukseen tarkoitetut tekoälyjärjestelmät

(30)

Neljän edellytyksen on täytyttävä, jotta järjestelmä kuuluu tekoälysäädöksen 50 artiklan 1 kohdan soveltamisalaan: i) järjestelmän on oltava tekoälyjärjestelmä, joka on ii) tarkoitettu vuorovaikutukseen iii) suoraan iv) luonnollisten henkilöiden kanssa.

i)

Tekoälyjärjestelmä: Järjestelmän on vastattava tekoälyjärjestelmän määritelmän kaikkia osatekijöitä (18). Määritelmä ei kata yksinkertaisia muita kuin tekoälypohjaisia automaattisia vastausmekanismeja (kuten tavanomaiset poissaoloviestit tai sääntöihin perustuvat pikavastaukset).

ii)

Vuorovaikutustarkoitus: Tekoälyjärjestelmän on oltava tarkoitettu vuorovaikutukseen luonnollisten henkilöiden kanssa. Vuorovaikutus edellyttää mahdollisuutta kaksisuuntaiseen tiedonvaihtoon tai toimintaan luonnollisten henkilöiden ja tekoälyjärjestelmän, joilla on aito keskustelu- tai reagointikyky, välillä. Vuorovaikutus voi tapahtua eri muodoissa (esimerkiksi äänen tai kuvan muodossa tai fyysisessä muodossa). Luonnollisten henkilöiden olisi voitava antaa tekoälyjärjestelmälle syötteitä (kuten teksti tai muu sisältö, ääni tai fyysinen toiminta) esimerkiksi teknisten viestintävälineiden kautta (mukaan lukien verkkorajapinnat, puhelin tai sähköposti) tai suoraan. Tekoälyjärjestelmän olisi puolestaan kyettävä reagoimaan tuottamalla asiayhteyteen sopiva tuotos (mukaan lukien kaikentyyppinen sisältö tai toiminta), ja päinvastoin. Vuorovaikutus voi tarkoittaa mitä tahansa tuotosta tai muotoa, jonka ihminen voi havaita ja ymmärtää. Sen ei tarvitse olla ihmisen aloittama. Vuorovaikutus voi kattaa myös tekoälyn tuottaman sisällön tai toiminnan, joka saa ihmisessä aikaan reaktion. Vuorovaikutus voi olla kertaluonteinen sananvaihto (esimerkiksi yksi kehote ja siihen annettu vastaus) tai tapahtua tietyn ajanjakson aikana (monirepliikkinen keskustelu). Järjestelmien, jotka keräävät tietoja ainoastaan passiivisesti eivätkä pysty keskustelemaan luonnollisten henkilöiden kanssa (esimerkiksi automaattiset kasvontunnistusjärjestelmät) tai jotka keräävät vain kertapalautetta (esimerkiksi roskapostisuodattimet), ei katsota olevan vuorovaikutuksessa luonnollisten henkilöiden kanssa.

iii)

Suora vuorovaikutus: Tekoälyjärjestelmän ja luonnollisten henkilöiden välisen vuorovaikutuksen on oltava suoraa. Tämä tarkoittaa tavallisesti reaaliaikaista tai lähes reaaliaikaista vuorovaikutusta (mukaan lukien järjestelmän kyky kirjoittaa ja lähettää viestejä luonnollisille henkilöille tai olla muuten vuorovaikutuksessa luonnollisten henkilöiden havaitseman fyysisen tai virtuaalisen ympäristön kanssa). Suoraa vuorovaikutusta ei ole epäsuora tai välitetty vuorovaikutus, jossa luonnollinen henkilö altistuu tekoälyn tuotoksille ilman suoraa vuorovaikutusta itse järjestelmän kanssa (esimerkiksi jos asiakaspalvelijat käyttävät tekoälytyökaluja apuna viestinnässä luonnollisten henkilöiden kanssa tai jos tekoälyjärjestelmä ei itse aseta tekoälyn tuotosta henkilön saataville, vaan sisällön levittää toinen henkilö). Pelkkää ihmisen mahdollisuutta puuttua tekoälyjärjestelmän tuotoksiin tai arvioida niitä ei kuitenkaan tulisi käyttää tekoälysäädöksen 50 artiklan 1 kohdan mukaisen ilmoittamisvaatimuksen kiertämiseen. Tapaukset, joissa tuotteet tai palvelut yhdistävät tekoälyn tuottamia vastauksia ihmisen kuratoimaan sisältöön, kuuluvat tekoälysäädöksen 50 artiklan 1 kohdan soveltamisalaan ja edellyttävät ilmoitusta vuorovaikutuksen yhteydessä tuotetuista tekoälyn tuotoksista, ellei ihminen ole arvioinut näitä tekoälyn tuotoksia asianmukaisesti ja lähettänyt niitä luonnolliselle henkilölle ja toiminut siten pääasiallisena keskustelukumppanina.

iv)

Vuorovaikutus luonnollisten henkilöiden kanssa: Tekoälysäädöksen 50 artiklan 1 kohdan soveltamista varten tekoälyjärjestelmän on oltava vuorovaikutuksessa luonnollisten henkilöiden kanssa. Nämä henkilöt voivat olla ammatillisissa tehtävissä toimivia käyttöönottajia, muita käyttäjiä (jotka käyttävät järjestelmää myös pelkästään henkilökohtaiseen toimintaan) tai muita järjestelmää heidän puolestaan käyttäviä henkilöitä. Velvoitteen soveltamisalan ulkopuolelle jäävät tekoälyjärjestelmät, jotka toimivat suljetussa fyysisessä ympäristössä (kuten osana teollisuuskoneistoa), taustalla tapahtuvat laitteidenväliset kutsut sellaisten tekoälyjärjestelmien (kuten tekoälyagenttien) välillä, joiden tuotoksia ei ole tarkoitettu luonnollisten henkilöiden saataville, tai virtuaaliympäristöt, jotka eivät ole suoraan yhteydessä luonnollisiin henkilöihin.

(31)

Tekoälyagentit kuuluvat tekoälysäädöksen 50 artiklan 1 kohdan soveltamisalaan, jos ne pystyvät toimimaan vuorovaikutuksessa niitä ohjaavien henkilöiden tai muiden luonnollisten henkilöiden kanssa suorittaessaan tehtäviään (esimerkiksi varausten tekeminen, sähköpostien hallinnointi, sopimusten neuvotteleminen tai tekeminen, ostot jne.). Tekoälyagentit on suunniteltava ja toteutettava siten, että ne ilmoittavat luonnolliselle henkilölle keinotekoisen luonteensa ja nimeävät henkilön, jonka puolesta ne toimivat, ottaen huomioon tarve varmistaa avoimuus alkuperän, toimivallan siirron ja tekoälyagentin toimien seurauksia koskevan vastuun osalta. Tämä koskee myös tapauksia, joissa tekoälyagentit pystyvät toimimaan vuorovaikutuksessa monimutkaisissa moniagenttirakenteissa muiden tekoälyagenttien kanssa, jotka ovat tehtäviään suorittaessaan suoraan vuorovaikutuksessa luonnollisten henkilöiden kanssa. Tekoälyagentin tarjoaja ei välttämättä voi etukäteen tunnistaa kaikkia yksittäisiä tapauksia, joissa tekoälyagentti on suoraan vuorovaikutuksessa muiden luonnollisten henkilöiden kanssa silloin, kun sitä käytetään erilaisissa asiayhteyksissä. Jos tarjoaja ei pysty ennen tekoälyagentin markkinoille saattamista tai käyttöönottoa luotettavasti määrittämään, onko tekoälyagentti suoraan vuorovaikutuksessa luonnollisten henkilöiden kanssa, tekoälyagentti olisi suunniteltava rakennetasolla ja sitä olisi ohjeistettava ilmoittamaan luonnollisille henkilöille keinotekoisuudestaan kaikissa tilanteissa, joissa on kohtuullisen todennäköistä, että se voi olla vuorovaikutuksessa luonnollisen henkilön kanssa (myös silloin, kun luonnollinen henkilö saattaa edustaa oikeushenkilöä tai toimia oikeushenkilön puolesta). Lisäksi tekoälyagenttien olisi ilmoitettava keinotekoisesta luonteestaan henkilöille, jotka ohjeistavat niitä keskeisissä vaiheissa prosessia (esimerkiksi lupa-, raportointi- ja validointitilanteessa, myös silloin, kun käyttöön otettu tekoälyagentti vastaanottaa muiden tekoälyjärjestelmien tuotoksia tai käsittelee tai käyttää niitä suoraan luonnollisen henkilön antamien tietojen sijaan) ja jokaisessa uudessa vuorovaikutuksessa.

Esimerkkejä tekoälysäädöksen 50 artiklan 1 kohdan soveltamisalaan kuuluvista luonnollisten henkilöiden kanssa suoraan vuorovaikutukseen tarkoitetuista tekoälyjärjestelmistä:

—

tekoälyä hyödyntävät äänikomennoilla ohjattavat avustajat, asiointibotit/keskusteluagentit eri asiayhteyksissä (esimerkiksi julkinen palvelu, asiakastuki, valitusten hallinta, sähköinen kaupankäynti, rahoitus, terveydenhuolto tai koulutus);

—

tekoälyä hyödyntävä tukipalvelulinja, johon voi raportoida vaaratilanteita, petoksia tai muita tapahtumia, (ihmisen kaltaiset) robotit / yhteistyörobotit, tekoälykumppanit, robottilemmikit, tekoälyllä tuotetut avatarit (esimerkiksi virtuaalitodellisuusympäristöissä);

—

tekoälybotit sosiaalisissa verkostoissa ja sosiaalisessa mediassa, koodausagentit ja muut tekoälyagentit, jotka pystyvät toimimaan suoraan vuorovaikutuksessa luonnollisten henkilöiden kanssa (myös monimutkaisissa moniagenttirakenteissa).

3.2.1

Esimerkkejä tekoälysäädöksen 50 artiklan 1 kohdan soveltamisalaan kuulumattomista tekoälyjärjestelmistä, jotka eivät ole suoraan vuorovaikutuksessa luonnollisten henkilöiden kanssa:

—

tekoälyä hyödyntävät perinteiset teollisuusrobotit, jotka toimivat suljetussa teollisessa ympäristössä ja joita ei ole tarkoitettu vuorovaikutukseen ihmisten kanssa (esimerkiksi elektroniset kokoonpanorobotit);

—

tekoälyä hyödyntävät suositusjärjestelmät, roskapostisuodattimet, automaattiset käännös- tai transkriptiotyökalut;

—

tekoälyä hyödyntävä haku ja tiedonhaku, jossa ei tuoteta tai muokata sisältöä;

—

tekoälyä hyödyntävät tekstin ja koodin automaattisen täydentämisen tekniikat, todentamis-/biometriset tunnistusjärjestelmät, taustalla toimivat päätöksenteon tukijärjestelmät, joissa käyttäjä näkee vain tekoälyn tuotoksen ilman mahdollisuutta suoraan vuorovaikutukseen järjestelmän kanssa;

—

tekoälyä hyödyntävät tehtaiden ja teollisten sovellusten ennakoivat ylläpito- ja optimointijärjestelmät, tekoälyavusteinen tuotteiden visualisointi (kuten virtuaalinen sovittaminen tai sisustus, tuoterenderointi), tekoälypohjaiset yhden repliikin reittisuunnittelutyökalut, käyttäytymisanalyysiä varten käsiteltyjen asiakaspuhelujen transkriptio jne.

3.1.2   Tekoälysäädöksen 50 artiklan 1 kohdan mukainen ilmoitusvelvoite

(32)

Tekoälysäädöksen 50 artiklan 1 kohdan mukaan luonnollisten henkilöiden kanssa suoraan vuorovaikutuksessa olevien tekoälyjärjestelmien tarjoajien on varmistettava, että niiden tekoälyjärjestelmät (mukaan lukien tekoälyagentit ja yleiskäyttöiset tekoälyjärjestelmät) suunnitellaan ja toteutetaan siten, että asianomaisille luonnollisille henkilöille ilmoitetaan, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa.

(33)

Ilmoitusmekanismi olisi sisällytettävä tekoälyjärjestelmän rakenteeseen ja toteutukseen ja tapaan, jolla järjestelmä on vuorovaikutuksessa luonnollisten henkilöiden kanssa. Ilmoitus olisi puolestaan tehtävä tekoälyjärjestelmän käytön aikana ja viimeistään silloin, kun luonnollinen henkilö on ensimmäisen kerran vuorovaikutuksessa tekoälyjärjestelmän kanssa (kuten tekoälysäädöksen 50 artiklan 5 kohdassa edellytetään, ks. jäljempänä jakso 7). Tarjoajien vastuulla on varmistaa, että tekoälyjärjestelmän markkinoille saattamisen tai käyttöönoton jälkeen tekoälyjärjestelmän kanssa vuorovaikutuksessa oleville luonnollisille henkilöille tiedotetaan asiasta tehokkaasti ja johdonmukaisesti tekoälyjärjestelmän, sellaisena kuin kyseisen tekoälyjärjestelmän tarjoaja on saattanut sen markkinoille tai ottanut sen käyttöön, koko elinkaaren ajan.2.2

(34)

Ilmoitusten muoto: Tekoälysäädöksen 50 artiklan 1 kohdassa ei täsmennetä erityistä ilmoitustekniikkaa. Tarjoajat voivat näin ollen valita minkä tahansa sopivan tekniikan, kunhan seuraavat kaksi vaatimusta täyttyvät: i) tekoälyjärjestelmä täyttää tekoälysäädöksen 50 artiklan 5 kohdassa säädetyt vaatimukset, joiden mukaan luonnollisille henkilöille on annettava tiedot selkeällä ja selvästi erottuvalla tavalla viimeistään ensimmäisen vuorovaikutuksen yhteydessä (ks. jäljempänä jakso 7), ja ii) ikänsä (lapset tai ikääntyneet) tai vammaisuutensa vuoksi haavoittuvassa asemassa oleviin ryhmiin kuuluvien luonnollisten henkilöiden ominaisuuspiirteet on otettu huomioon siltä osin kuin tekoälyjärjestelmä on tarkoitettu vuorovaikutukseen kyseisten ryhmien kanssa (myös silloin, kun tekoälyjärjestelmä on kohtalaisen todennäköisesti vuorovaikutuksessa suuren yleisön kanssa) (19). Lisäksi tiedot on annettava vammaisille soveltuvassa muodossa, kuten täsmennetään tekoälysäädöksen 50 artiklan 5 kohdassa ja johdanto-osan 132 kappaleessa (ks. jakso 7). Jos tekoälyjärjestelmä voi olla vuorovaikutuksessa lasten kanssa, ilmoitusten on oltava lapsiystävällisiä, ikätasolle sopivia, helposti ymmärrettäviä ja helposti kaikkien lasten, myös vammaisten tai sellaisten lasten, joilla on ylimääräisiä saavutettavuustarpeita, saatavilla. Tarjoajia kehotetaan käyttämään standardoituja ilmoituskäytäntöjä ja -merkintöjä ilmoitusten tehokkuuden ja johdonmukaisuuden varmistamiseksi ja käyttäjien tietoisuuden lisäämiseksi, jos tällaisia käytäntöjä on saatavilla ja ne ovat tarkoituksenmukaisia.

(35)

Ilmoitusten sisältö: Tekoälysäädöksen 50 artiklan 1 kohdassa edellytetään, että vuorovaikutteisten tekoälyjärjestelmien tarjoajat suunnittelevat ja toteuttavat tekoälyjärjestelmät siten, että kaikille luonnollisille henkilöille, jotka ovat vuorovaikutuksessa tällaisten tekoälyjärjestelmien kanssa, ilmoitetaan nimenomaisesti vuorovaikutuksessa olevan vastapuolen keinotekoisesta ja muusta kuin inhimillisestä luonteesta. Jos tarjoaja voi kohtuudella ennakoida, että tekoälyjärjestelmä saattaa olla vuorovaikutuksessa edellä mainittuihin haavoittuvassa asemassa oleviin ryhmiin kuuluvien luonnollisten henkilöiden kanssa, tietoja olisi mukautettava kyseisille luonnollisille henkilöille sopiviksi, ja ne olisi annettava esteettömässä muodossa, kuten sovellettavassa unionin lainsäädännössä edellytetään, jotta voidaan varmistaa, että myös kyseiset luonnolliset henkilöt ymmärtävät viestin täysin (20).

(36)

Ilmoituksissa olisi annettava tietoa vuorovaikutuksen keinotekoisesta alkuperästä tavalla, joka soveltuu vuorovaikutuksen asiayhteyteen. Asianomaisille henkilöille on tiedotettava asiasta asianmukaisesti ja tuloksellisesti ja välttäen harhaanjohtamisen tai manipuloinnin riskit ennen vuorovaikutusta ja sen aikana. Lisäksi on varmistettava ilmoituksen toteuttamiskelpoisuus ja oikeasuhteisuus. Tiedottaminen voi tapahtua esimerkiksi kirjallisilla ilmoituksilla (esimerkiksi asiointibotti, joka aloittaa keskustelun kertomalla, että sen toiminta perustuu tekoälyteknologiaan), visuaalisesti (esimerkiksi tekoälyagentin luonnolliselle henkilölle lähettämä sähköpostiviesti, jonka yläreunassa on tekoälymerkintä), hyödyntäen ääntä (esimerkiksi äänikomennoilla ohjattava avustaja, joka ilmoittaa istunnon alussa toimivansa tekoälyn avulla), tai tekoälytunnisteiden ja tunnistetietojen avulla (esimerkiksi tekoälyagentit, jotka ilmaisevat tekoälyidentiteettinsä siinä määrin kuin se on mahdollista todennettavissa olevalla tavalla) (21).

(37)

Ilmoitusten muoto: Parhaana käytäntönä suositellaan tekoälyjärjestelmän suunnittelua siten, että tiedot voidaan ilmoittaa multimodaalisesti ja saavutettavasti. Tällaisissa ilmoituksissa voidaan tarvittaessa, asiayhteydestä sekä kohdeyleisöstä ja ennakoitavissa olevista yleisöryhmistä sekä järjestelmien tarjoajien, erityisesti pienten ja keskisuurten yritysten, käytettävissä olevista resursseista riippuen yhdistää erilaisia menetelmiä, jotta käyttäjien on helpompi ymmärtää ilmoituksia. Sopivia menetelmiä voivat olla esimerkiksi seuraavat:

—

Tekstuaalinen ilmoitus (käyttöliittymäpohjainen): Näkyvät, selkokieliset merkinnät tai bannerit (esimerkiksi ”Olet vuorovaikutuksessa tekoälyjärjestelmän kanssa”) ja chattibottien aloitustervehdykset, jotka voidaan tarvittaessa yhdistää koko vuorovaikutuksen ajan näkyvillä oleviin merkkeihin tai merkintöihin, jos se on oikeasuhtaista asiayhteyteen ja riskeihin nähden. Lisäksi on suositeltavaa sijoittaa ilmoituksiin liittyvät tiedot lähelle vuorovaikutusrajapintaa (kuten syöttö-/tuotostietokentän läheisyyteen) ja käyttää yksinkertaistettua sanamuotoa erityisesti lapsille ja käyttäjille, joilla on heikompi digitaalinen lukutaito.

—

Ääni-ilmoitus: Ääni- tai puhelinpohjaisissa yhteyksissä selkeät puhutut ilmoitukset vuorovaikutuksen alussa (esimerkiksi ”Tämä on tekoälyavustaja”) tarvittaessa yhdistettynä säännöllisiin muistutuksiin pidemmän vuorovaikutuksen aikana, erityisesti jos tekoälyjärjestelmän käyttö käyttäjäpolun aikana on keskeytynyt tai sen rooli on vaihtunut. Selvästi erottuvat äänimerkit voivat tukea havaittavuutta erityisesti näkövammaisten osalta, mutta niitä ei itsessään pidetä riittävinä.

—

Visuaaliset/graafiset merkit: Tekoälyjärjestelmän suunnittelu siten, että tekstuaalisia ilmoituksia täydennetään pysyvillä kuvakkeilla, vesileimoilla, värillisillä kehyksillä tai tunnistettavilla ”AI”-symboleilla. On suositeltavaa käyttää standardoituja visuaalisia indikaattoreita, myös järjestelmän tarjoajan kaikissa palveluissa, koska tällaiset indikaattorit voivat merkittävästi vähentää kognitiivista taakkaa ja lisätä tunnistettavuutta.

—

Multimodaaliset yhdistelmät: Tekstin, äänen ja visuaalisten merkkien yhdistäminen (esimerkiksi keskustelubotti, jossa on merkintä ja joka antaa käytön alussa tekstuaalisen ilmoituksen) helppokäyttöisyyden varmistamiseksi ja selkeyden lisäämiseksi eri käyttäjäryhmille.

(38)

Tietyt menetelmät eivät ole tarpeen tai yksinään käytettyinä riittäviä tekoälysäädöksen 50 artiklan 1 ja 5 kohdassa säädetyn avoimuusvelvoitteen tosiasialliseen täyttämiseen. Tällaisia ovat erityisesti

—

ainoastaan ehtoihin, URL-osoitteisiin tai dokumentaatioon sisältyvät tiedot (tällaiset ilmoitukset voivat täydentää asiayhteyteen liittyviä ilmoituksia, mutta eivät korvaa niitä),

—

koneluettavat merkinnät (kuten metatiedot tai vesileimat), joita käyttäjät eivät voi havaita vuorovaikutuksessa. Tämä ei vaikuta tällaisten merkintöjen soveltuvuuteen tekoälysäädöksen 50 artiklan 2 kohdan noudattamisen osalta (ks. jakso 4),

—

epäselvät tai monitulkintaiset signaalit (esimerkiksi yleiset viittaukset ”avustajaan”) tai ihmisen kaltaiset esitykset, jotka voivat johtaa käyttäjiä harhaan,

—

yleisluonteiset ilmoitukset, jotka eivät ole riittävän täsmällisiä tekoälyjärjestelmän tuotosten ja vuorovaikutuksen osalta (esimerkiksi jos alusta tarjoaa erilaisia palveluja tai yksittäisiä syötteitä, yleinen ilmoitus, kuten ”Tämän verkkosivuston palvelut käyttävät tekoälyä”, on riittämätön),

—

tekniset tai kykyihin perustuvat kuvaukset: ilmoitukset, jotka viittaavat yksinomaan taustateknologioihin (esimerkiksi ”Tässä järjestelmässä käytetään suuria kielimalleja”) selittämättä järjestelmän toimintaa, käyttäjään kohdistuvia vaikutuksia tai keinotekoista alkuperää.

(39)

Ilmoitusten olisi oltava oikeasuhteisia ja ne olisi mukautettava tekoälyjärjestelmän eri käyttöyhteyksiin ja kohdeyleisöille, jotta ne säilyvät tehokkaina ja käyttäjäystävällisinä ja jotta vältetään mahdollisuuksien mukaan käyttäjäkokemuksen häiriöt tai tottumusvaikutukset (niin kutsuttu ”bannerisokeus”).

(40)

Yksi näkyvä ilmoitus ennen tekoälyjärjestelmän ensimmäistä vuorovaikutusta tietyn luonnollisen henkilön kanssa riittää todennäköisesti täyttämään tekoälysäädöksen 50 artiklan 1 kohdan velvoitteen useimmissa tapauksissa. Tietyissä riskialttiimmissa yhteyksissä tarvitaan todennäköisesti kuitenkin säännöllisiä muistutuksia ja tilannekohtaisia ilmoituksia käyttäjien jatkuvan tietoisuuden varmistamiseksi. Tämä koskee erityisesti tekoälyjärjestelmiä, jotka ovat vuorovaikutuksessa haavoittuvassa asemassa olevien henkilöiden (kuten lasten, ikääntyneiden sekä vammaisten tai lukutaidoltaan heikompien henkilöiden) kanssa, jatkuvaa ja kehittyvää vuorovaikutusta herkissä tai immersiivisissä yhteyksissä (esimerkiksi silloin, kun käyttäjät voivat ilmaista tai kokea emotionaalista ahdistusta tai haavoittuvuutta tai on olemassa riski riippuvuuden kaltaisesta käyttäytymisestä), tilanteita, joissa on suurempi riski siitä, että käyttäjiä johdetaan harhaan (esimerkiksi rahoitusneuvonta, vakuutukset, oikeusapu, terveysneuvonta ja valitusten käsittely) tai siitä, että käyttäjät muodostavat tunnetason siteitä tai riippuvuuksia (esimerkiksi tekoälykumppanit), sekä silloin, kun on tarpeen varmistaa tietoisuus tekoälyagenttien toiminnasta ja niiden toiminnan valvonta. Järjestelmien tarjoajien on myös suunniteltava ja toteutettava tekoälyjärjestelmä siten, että tiedot ilmoitetaan kaikissa tilanteissa, joissa tekoälyjärjestelmälle esitetään kysymyksiä sen luonteesta tai vuorovaikutuksen alkuperästä tai joissa luonnollisen henkilön kanssa käydyn keskustelun perusteella voidaan kohtuudella olettaa, että kyseinen henkilö todennäköisesti tulee johdetuksi harhaan tai erehtyy vuorovaikutuksen alkuperästä.

3.2   Poikkeukset tekoälysäädöksen 50 artiklan 1 kohdan mukaiseen ilmoitusvelvoitteeseen

(41)

Tekoälysäädöksen 50 artiklan 1 kohdassa säädetään kahdesta poikkeuksesta vuorovaikutteisia tekoälyjärjestelmiä koskevaan ilmoitusvelvoitteeseen. Niitä tarkastellaan seuraavassa.

3.2.1   Ilmeistä vuorovaikutusta tekoälyjärjestelmän kanssa koskeva poikkeus

(42)

Voidakseen vedota ensimmäiseen poikkeukseen järjestelmän tarjoajan on arvioitava ja osoitettava i) vuorovaikutuksen ilmeinen keinotekoisuus ii) sellaisen luonnollisen henkilön näkökulmasta, joka on suhteellisen valistunut, tarkkaavainen ja huolellinen ottaen huomioon olosuhteet ja käytön asiayhteys.

(43)

Tämä periaate perustuu vakiintuneessa EU:n kuluttajansuojaoikeudessa esiintyvään keskivertokuluttajan käsitteeseen, ja sitä olisi tulkittava johdonmukaisesti ottaen samalla huomioon luonnollisten henkilöiden kanssa suorassa vuorovaikutuksessa olevien tekoälyjärjestelmien erityiset ja vaihtelevat asiayhteydet ja käyttötarkoitukset sekä tekoälysäädöksen 50 artiklan 1 kohdan tavoitteet.

(44)

Tällaisen luonnollisen ”keskivertohenkilön” määrittely koostuu kahdesta vaiheesta. Ensinnäkin järjestelmien tarjoajien olisi otettava huomioon yleisö, jonka kanssa tekoälyjärjestelmä on tarkoitettu olemaan vuorovaikutuksessa ja jonka kanssa se kohtuullisen todennäköisesti on vuorovaikutuksessa. Toiseksi järjestelmän tarjoajan olisi tutkittava, kuinka suhteellisen valistunut, tarkkaavainen ja huolellinen tuon yleisön keskivertojäsen on olosuhteet ja käytön asiayhteys huomioon ottaen. Tätä arviointia tehtäessä olisi otettava huomioon useita tekijöitä:

—

Tarjoajien olisi otettava huomioon tekoälyjärjestelmän kohdeyleisö sekä kohtuudella ennakoitavissa oleva laajempi potentiaalinen kohdeyleisö. Näin on erityisesti, jos suuri yleisö voi helposti käyttää tekoälyjärjestelmää tai jos järjestelmä toimii virtuaalisissa tai fyysisissä julkisissa tiloissa ja kykenee vuorovaikutukseen kyseisissä tiloissa oleskelevien luonnollisten henkilöiden kanssa. Tekoälyjärjestelmälle mahdollisesti altistuva yleisö ei aina vastaa sen kohdeyleisöä.

—

Tarjoajien olisi otettava huomioon kohdeyleisön ja kohtuudella ennakoitavissa olevan yleisön mahdollinen monimuotoisuus tekoälysäädöksen johdanto-osan 132 kappaleen mukaisesti. Jos yleisöön todennäköisesti kuuluu vammaisia, ikääntyneitä tai alaikäisiä henkilöitä, sen keskivertojäsenen odotettu valistuneisuuden, tarkkaavaisuuden ja huolellisuuden taso on alhaisempi kuin sellaisen yleisön keskivertojäsenen, johon ei kuulu kyseisiä henkilöryhmiä. Jos vuorovaikutteinen tekoälyjärjestelmä on sitä vastoin vain ammatillisen tai erikoistuneen kohdeyleisön käytettävissä, tämä voi vaikuttaa myönteisesti odotettuun valistuneisuuden, tarkkaavaisuuden ja huolellisuuden tasoon, ja kyseisen kohdeyleisön keskivertojäsenen voidaan katsoa olevan tavallista valistuneempi, tarkkaavaisempi ja huolellisempi.

—

Järjestelmien tarjoajien olisi otettava huomioon kohdeyleisön ja kohtuudella ennakoitavissa olevan yleisön digi- ja tekoälylukutaidon taso sekä merkitykselliset sosiaaliset, kulttuuriset ja kielelliset tekijät osana laajempia olosuhteita ja järjestelmän käyttöyhteyttä.

(45)

Ilmeisyys: Kun järjestelmän tarjoaja on määrittänyt hypoteettisen kohtuullisen valistuneen, tarkkaavaisen ja huolellisen luonnollisen henkilön, sen olisi arvioitava, onko tällaiselle luonnolliselle henkilölle ilmeistä, että hän on suoraan vuorovaikutuksessa tekoälyjärjestelmän kanssa. Poikkeusta olisi tulkittava suppeasti, koska se vie luonnollisilta henkilöiltä suojelun ja oikeuden saada selkeä ja selkeästi erottuva ilmoitus siitä, että he ovat vuorovaikutuksessa tekoälyjärjestelmien kanssa. Kuluttajien ja muiden luonnollisten henkilöiden yleinen tietoisuus tekoälyjärjestelmien (mukaan lukien chattibotit ja agentit) olemassaolosta ei tarkoita, että he tunnistaisivat ne vuorovaikutuksessa. Vuorovaikutuksen ilmeisyyden arvioinnissa voi olla useita merkityksellisiä ja huomioon otettavia tekijöitä:

—

Vuorovaikutuksen ennakoitu luonne: Tapauksissa, joissa tekoälyjärjestelmä on fyysisesti vuorovaikutuksessa luonnollisten henkilöiden kanssa, olennaisia elementtejä voivat olla mekaanisten komponenttien näkyvyys (mikä lisää ilmeisyyttä) tai se, miten todentuntuisesti tekoälyjärjestelmä jäljittelee ei-keinotekoista vastinettaan (mikä vähentää ilmeisyyttä). Jos vuorovaikutus tapahtuu kuvan tai äänen muodossa, arviointiin voivat tältä osin vaikuttaa esimerkiksi kirjoittamis- tai puhetavat, äänensävy (robottiääni vai aidolta ihmiseltä kuulostava ääni), käyttöliittymän suunnittelu (esimerkiksi chattibottiin liittyvä ihmistä esittävä profiilikuva) ja kyky edistyneeseen yksilölliseen vuorovaikutukseen.

—

Kohdeyleisön ja ennakoitavissa olevan yleisön rakenne: Jos vuorovaikutteinen tekoälyjärjestelmä on vain ammatillisen tai erikoistuneen kohdeyleisön käytettävissä eikä haavoittuvassa asemassa olevilla ryhmillä ole mahdollisuutta altistua sille, vuorovaikutuksen keinotekoisuus voi olla ilmeisempää kyseisen kohdeyleisön keskivertojäsenelle. Jos taas tekoälyjärjestelmä on saatavilla suurelle yleisölle tai kuluttajille, joihin kuuluu myös haavoittuvassa asemassa olevia henkilöitä (esimerkiksi lapsia, ikääntyneitä tai henkilöitä, joilla on kognitiivinen, fyysinen tai psyykkinen vamma taikka heikompi tekoälylukutaito), joille vuorovaikutus on vähemmän ilmeistä, tähän poikkeukseen ei saa vedota näiden haavoittuvassa asemassa olevien käyttäjien tehokkaan suojelun vuoksi.

—

Lisäksi on otettava huomioon, että luonnollisten henkilöiden on yhä vaikeampaa tietää, tapahtuuko vuorovaikutus tekoälyjärjestelmän vai todellisen ihmisen kanssa. Koska vuorovaikutuksessa käytetään avatareja ja agentteja, vuorovaikutus verkossa on yleisesti ottaen anonyymia ja tekoälyjärjestelmät kykenevät kirjoittamaan ja toimimaan ihmisen kaltaisella tavalla, ilmeisyyttä koskeva poikkeus olisi rajoitettava tapauksiin, joissa kohdeyleisöön ja kohtuudella ennakoitavissa olevaan yleisöön kuuluvalle keskivertohenkilölle ei jää juuri lainkaan epäilystä vuorovaikutuksen luonteesta.

Esimerkkejä ilmeisyydestä, joihin tekoälysäädöksen 50 artiklan 1 kohdan mukaista avoimuusvelvoitetta ei sovelleta:

—

Tekoälypohjaiset koodausavustajat ja koodikatselmointiin tarkoitetut chattibotit, joita voivat käyttää vain ohjelmistokehityksen ammattilaiset, jotka eivät asiantuntemuksensa ja käyttöyhteyden vuoksi kohtuudella odota olevansa vuorovaikutuksessa ihmisen kanssa ja jotka pystyvät helposti tunnistamaan, että ehdotukset ovat tekoälyjärjestelmän tuottamia.

—

Sisäinen henkilöstöavustaja asianmukaisesti koulutetulle henkilöstölle, joka on tekoälylukutaitoista ja tietää käyttävänsä tekoälyjärjestelmiä organisaation sisäisiin tarkoituksiin (esimerkiksi henkilöstöhallintoon, lakiasioihin, hankintoihin, vaatimustenmukaisuuteen tai tietotekniseen tukeen).

—

Vuorovaikutteiset tekoälyjärjestelmät, jotka on tarkoitettu vain asianmukaisesti koulutettujen terveydenhuollon ammattilaisten käyttöön lääketieteellisten diagnoosien tukemiseksi ja niihin liittyvien hoitojen ehdottamiseksi.

—

Kodinkoneisiin sulautettu taustalla toimiva tekoäly, jonka toiminnot rajoittuvat kodinkoneen käytössä avustamiseen ja toimintaan.

—

Vuorovaikutus tekoälyä hyödyntävien ei-pelaajahahmojen (NPC) kanssa yksinpelattavassa videopelissä, kun videopelin luonne tekee selväksi, että kukaan muu luonnollinen henkilö ei voi osallistua peliin ja olla vuorovaikutuksessa käyttäjän kanssa, ja kaikille käyttäjille (myös haavoittuvassa asemassa oleville henkilöille) on ilmeistä, että vuorovaikutus tapahtuu tekoälyn kanssa.

Esimerkkejä, jotka eivät täytä ilmeisyyttä koskevan poikkeuksen vaatimuksia ja joihin sovelletaan tekoälysäädöksen 50 artiklan 1 kohdan mukaista avoimuusvelvoitetta:

—

Tekoälyyn perustuva robottilemmikki, joka näyttää hyvin luonnollisen vastineensa kaltaiselta ja on suunniteltu jäljittelemään tyypillistä ihmisen ja lemmikin välistä vuorovaikutusta, mikä luo epäselvyyttä siitä, tapahtuuko vuorovaikutus tekoälyjärjestelmän kanssa vai ei.

—

Tekoälyjärjestelmät, jotka on sulautettu immersiivisiin ympäristöihin (kuten virtuaaliseen tai lisättyyn todellisuuteen) ja jotka käyttävät realistisia avatareja tai joiden ääni muistuttaa ihmisen ääntä siten, että käyttäjät ja erityisesti lapset, ikääntyneet tai vammaiset henkilöt eivät välttämättä pysty helposti erottamaan, tapahtuuko vuorovaikutus ihmisen vai tekoälyn kanssa.

—

Verkkoalustoihin tai neuvontatukivälineisiin sulautetut tekoälychattibotit (helpdesk), joiden kanssa käyttäjät ovat suoraan vuorovaikutuksessa ja vastaanottavat niiltä tekoälyn tuotoksia (kuten vastauksia kyselyihin tai muuta tekoälyn tuottamaa sisältöä), joita he saattavat pitää ihmisen tuottamina.

3.2.2   Lain mukaan lainvalvontatarkoituksiin sallittuja tekoälyjärjestelmiä koskeva poikkeus

(46)

Vuorovaikutteisten tekoälyjärjestelmien tarjoajat vapautetaan tekoälysäädöksen 50 artiklan 1 kohdan mukaisesta avoimuusvelvoitteesta, jos tekoälyjärjestelmää on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen tai tutkimiseen ja rikoksiin liittyviin syytetoimiin, edellyttäen, että kolmansien osapuolten oikeudet ja vapaudet turvataan asianmukaisesti.

(47)

”Lain mukaan sallitulla” tarkoitetaan unionin oikeutta sekä unionin oikeuden mukaisesti annettua jäsenvaltioiden kansallista lainsäädäntöä. Tekoälyjärjestelmän käytön sallivassa laissa on selkeästi määriteltävä sallitun käytön tarkoitukset ja olosuhteet sekä säädettävä asianmukaisista suojatoimista kolmansien osapuolten oikeuksien ja vapauksien turvaamiseksi. Tekoälysäädöksen teknologianeutraali lähestymistapa huomion ottaen ei ole tarpeen yksilöidä tai sallia tiettyjä tekoälyjärjestelmiä lailla, jos tekoälyjärjestelmää käytetään yleisesti lain salliman toiminnan puitteissa ja sovellettavan oikeudellisen kehyksen mukaisesti.

(48)

Jotta tekoälyjärjestelmä kuuluisi tämän poikkeuksen soveltamisalaan, sen tarkoituksena on oltava rikosten paljastaminen, estäminen tai tutkiminen ja rikokseen liittyvät syytetoimet (esimerkiksi tekoälypeiteagentti tai tekoälyjärjestelmät, joita käytetään tutkijoiden valvonnassa verkossa tapahtuvissa tutkinnoissa tai yhteydenpitoon sellaisten henkilöiden kanssa, jotka voivat olla osallisia rikolliseen toimintaan). Poikkeus ei rajoitu tällaisten tekoälyjärjestelmien käyttöön ainoastaan tekoälysäädöksen 3 artiklan 48 kohdassa määriteltyjen lainvalvontaviranomaisten toimesta, vaan se voi kattaa myös muiden unionin tai kansallisten viranomaisten käyttämät vuorovaikutteiset (tai generatiiviset) tekoälyjärjestelmät edellyttäen, että niiden käyttö on lain mukaan sallittua rikosten paljastamiseen, estämiseen tai tutkimiseen ja rikoksiin liittyviin syytetoimiin ja että kolmansien osapuolten oikeudet ja vapaudet turvataan asianmukaisesti. Poikkeus ei edellytä, että tekoälyjärjestelmä kykenee suorittamaan tutkimuksia itsenäisesti. Jos järjestelmää voidaan käyttää sekä lainvalvontatarkoituksiin että muihin tavanomaisiin tarkoituksiin, poikkeuksen sovellettavuutta olisi arvioitava käyttökohteen mukaan. Avoimuusvelvoitteita sovelletaan edelleen, jos samaa tekoälyjärjestelmää käytetään muihin tarkoituksiin kuin laissa sallittuun rikosten paljastamiseen, estämiseen tai tutkimiseen ja rikoksiin liittyviin laissa sallittuihin syytetoimin. Avoimuus on edelleen taattava luonnollisille henkilöille, jotka ovat vuorovaikutuksessa järjestelmän kanssa sen tavanomaisten käyttötarkoituksien yhteydessä.

(49)

Poikkeusta ei sovelleta, jos i) tekoälyjärjestelmä on julkisesti saatavilla ja ii) järjestelmä tarjoaa yksityishenkilöille mahdollisuuden ilmoittaa rikoksista. Tällaisia järjestelmiä on sallittua käyttää, mutta niihin sovelletaan edelleen tekoälysäädöksen 50 artiklan 1 kohdan mukaista avoimuusvelvoitetta, joten luonnollisille henkilöille on ilmoitettava, että he ovat vuorovaikutuksessa tällaisten järjestelmien kanssa.

Selkeyden vuoksi todetaan, että tämä poikkeus koskee yksinomaan 50 artiklan 1 kohdan mukaista velvoitetta ilmoittaa luonnollisille henkilöille, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa (22). Se ei rajoita sovellettavan unionin ja kansallisen lainsäädännön soveltamista, mukaan lukien todisteiden dokumentointia, ilmoittamista, hyväksymistä ja arviointia koskevien menettelysääntöjen soveltaminen.

Esimerkkejä tekoälyjärjestelmistä, jotka ovat julkisesti saatavilla rikosilmoitusten tekemistä varten, joita poikkeus ei koske ja jotka kuuluvat tekoälysäädöksen 50 artiklan 1 kohdan soveltamisalaan:

—

Poliisin virallisilla verkkosivuilla tai virallisissa mobiilisovelluksissa käytettävät tekoälyä hyödyntävät poliisin asiointibotit, joiden avulla henkilöt voivat ilmoittaa rikoksista tai tehdä kanteluja. Nämä järjestelmät ohjaavat käyttäjiä jäsenneltyjen kysymysten läpi, keräävät asiaankuuluvia tietoja ja luokittelevat ilmoitukset ennen niiden välittämistä ihmisille arviointia varten.

—

Poliisin tai muun lainvalvontaviranomaisen yleisiä tiedusteluja varten ylläpitämät, tekoälyä käyttävät tukipalvelulinjat.

—

Rahoituslaitosten tai viranomaisten ylläpitämät, tekoälyavusteiset tukipalvelulinjat petosten ilmoittamista varten tai digitaaliset portaalit, joiden kautta käyttäjät voivat ilmoittaa epäillyistä talousrikoksista. Tekoälyjärjestelmä on vuorovaikutuksessa käyttäjän kanssa, jotta se voi kerätä tietoja, luokitella ilmoitukset ja asettaa tapaukset tärkeysjärjestykseen, ja ihmistutkijat validoivat tiedot ennen toimenpiteisiin ryhtymistä.

—

Virtuaaliavustajat, joita käytetään todistajanlausuntojen keräämiseen ja joiden avulla uhrit tai todistajat voivat toimittaa tietoja tekoälyyn perustuvan käyttöliittymän kautta. Tällaiset tekoälyjärjestelmät voivat tukea monikielisiä syöttötietoja, esteettömyysominaisuuksia ja jäsenneltyä todisteiden toimittamista, mutta viranomaiset suorittavat edelleen lopullisen arvioinnin ja tutkintavaiheet.

3.3   Vuorovaikutus unionin muiden säädösten kanssa

(50)

Tekoälysäädöksen 50 artiklan 1 kohdan mukaista avoimuusvelvoitetta sovelletaan rajoittamatta kuluttajansuojaa, tietosuojaa, digitaalialaa tai syrjimättömyyttä koskevaa voimassa olevaa unionin lainsäädäntöä, joka voi edellyttää muiden kuin vuorovaikutuksen tekoälyalkuperää koskevien tietojen ilmoittamista. Erityisesti voidaan mainita direktiivi 2005/29/EY (sopimattomia kaupallisia menettelyjä koskeva direktiivi) (23), jonka nojalla on kielletty harhaanjohtavat toimet tai harhaanjohtavat mainitsematta jättämiset, jotka liittyvät tuotteen tai palvelun pääominaisuuksiin. Lisäksi direktiivin 2011/83/EY (kuluttajan oikeuksia koskeva direktiivi) (24) mukaan elinkeinonharjoittajan on toimitettava ennen sopimuksen tekoa selkeät ja ymmärrettävät tiedot tuotteiden tai palvelujen pääominaisuuksista. Jos palvelu perustuu tekoälyyn (kuten tilauspohjainen chattibotti, tekoälykumppanisovellus tai virtuaalinen valmennuspalvelu), tekoälytoimintoa voidaan pitää olennaisena ominaisuutena, josta on ilmoitettava kuluttajalle ennen kuin sopimus alkaa sitoa tätä. Unionin kuluttajansuojalainsäädännön mukaisia tiedonantovelvoitteita sovelletaan riippumatta siitä, pidetäänkö vuorovaikutusta ”ilmeisenä” tekoälysäädöksen 50 artiklan 1 kohdan mukaisesti. Nämä ovat täydentäviä, yleistä kuluttajansuojaa koskevia tiedonantovelvoitteita, kun taas tekoälysäädöksen mukainen ilmoitusvelvoite on kontekstuaalisempi ja sillä pyritään varmistamaan, että kaikki luonnolliset henkilöt ovat jatkuvasti tietoisia suorasta vuorovaikutuksesta tekoälyjärjestelmän kanssa vähintään ennen sen aloittamista ja koko vuorovaikutuksen ajan.

(51)

Lisäksi digipalvelusäädös sisältää avoimuusvaatimukset verkkoalustojen suosittelujärjestelmille, mukaan lukien vaatimuksen selittää keskeiset järjestystä määrittävät muuttujat. Nämä velvoitteet täydentävät tekoälysäädöksen 50 artiklan 1 kohdassa säädettyjä avoimuusvelvoitteita, koska niillä on erilainen soveltamisala ja tarkoitus ja ne koskevat järjestelmiä, jotka eivät periaatteessa ole suoraan vuorovaikutuksessa käyttäjien kanssa tekoälysäädöksen 50 artiklan 1 kohdassa tarkoitetulla tavalla.

(52)

Tekoälysäädöksen 50 artiklan 1 kohdan velvoitteella on eri tavoite kuin unionin tietosuojalainsäädännön mukaisilla velvollisuuksilla antaa tietoja rekisteröidyille, eikä se sellaisenaan vaikuta kyseisiin tiedonantovelvollisuuksiin.

(53)

Samoin tekoälysäädöksen 50 artiklan 1 kohdan mukaista avoimuusvelvoitetta sovelletaan rajoittamatta unionin ja kansallista lainsäädäntöä, joka koskee tietojen antamista henkilöille rikosoikeudellisissa menettelyissä (esimerkiksi direktiivi 2012/13/EU tai direktiivi 2012/29/EU, sellaisena kuin se on muutettuna direktiivillä (EU) 2026/1472) (25).

4.   TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN 2 ALAKOHTA: TEKOÄLYN TUOTTAMAN TAI MANIPULOIMAN SISÄLLÖN MERKITSEMINEN JA TUNNISTAMINEN

(54)

Tekoälysäädöksen 50 artiklan 2 kohdassa edellytetään, että synteettistä sisältöä tuottavien tekoälyjärjestelmien tarjoajat toteuttavat teknisiä ratkaisuja, joilla tekoälyjärjestelmien tuotokset voidaan merkitä koneellisesti luettavassa muodossa ja tunnistaa. Näiden ratkaisujen on täytettävä tietyt laatuvaatimukset. Tavoitteena on, että luonnolliset henkilöt voivat erottaa tekoälyn tuottaman tai manipuloidun sisällön muusta sisällöstä (esimerkiksi ihmisen luomasta sisällöstä) ja todentaa sen alkuperän, millä osaltaan lisätään luottamusta tietoekosysteemiin ja sen eheyttä.

(55)

Tästä avoimuusvelvoitteesta hyötyvät näin ollen kaikki luonnolliset henkilöt, jotka todennäköisesti altistuvat tekoälyn tuottamalle tai manipuloimalle sisällölle, sekä keskeiset toimijat, joilla on tärkeä rooli tietoekosysteemin luotettavuuden ja eheyden kannalta. Näitä ovat esimerkiksi toimivaltaiset markkinavalvontaviranomaiset ja muut toimivaltaiset viranomaiset, riippumattomat tutkijat, kansalaisjärjestöt, tiedotusvälineet, luotetut ilmoittajat, perusoikeuksien puolustajat, verkkoalustojen ja verkossa toimivien hakukoneiden tarjoajat, oikeudenhaltijat sekä muut sisällöntuottajat ja jakelijat.

4.1   Tekoälysäädöksen 50 artiklan 2 kohdan keskeiset osatekijät ja käsitteet

(56)

Tekoälysäädöksen 50 artiklan 2 kohtaa sovelletaan, jos tietyt kumulatiiviset edellytykset täyttyvät:

i)

järjestelmän on oltava tekoälyjärjestelmä,

ii)

tekoälyjärjestelmän on kyettävä tuottamaan tai manipuloimaan synteettistä sisältöä,

iii)

sisällön on oltava yhdessä tai useammassa seuraavista muodoista: ääni, kuva, video tai teksti,

iv)

tekoälyjärjestelmään ei sovelleta mitään seuraavista poikkeuksista: 1) tekoälyjärjestelmä avustaa vakiomuokkaamista, 2) tekoälyjärjestelmä ei muuta käyttöönottajan toimittamaa syöttödataa tai sen semantiikkaa olennaisesti tai 3) tekoälyjärjestelmää on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen tai tutkimiseen.

4.1.1   Synteettistä sisältöä tuottavat tai manipuloivat tekoälyjärjestelmät

(57)

Tekoälysäädöksen 50 artiklan 2 kohtaa sovelletaan tekoälyjärjestelmiin (26), myös yleiskäyttöisiin tekoälyjärjestelmiin, jotka tuottavat synteettistä ääni-, kuva-, video- tai tekstisisältöä. Tekoälysäädöksen 50 artiklan 2 kohta kattaa tietyn järjestelmien osajoukon, joka täyttää tekoälysäädöksen 3 artiklan 1 kohdassa annetun tekoälyjärjestelmän määritelmän ja tuottaa tällaisia tuotoksia. Tekoälysäädöksen 50 artiklan 2 kohta kattaa myös sisällön manipulointiin käytettävät tekoälyjärjestelmät.

(58)

Sisällön tuottamisella tarkoitetaan synteettisen materiaalin tuottamista tekoälyjärjestelmällä (esimerkiksi ihmisen antaman kehotteen perusteella), kuten synteettisen kuvan tai laulun tuottamista. Käytännössä tämä tarkoittaa, että tekoälysäädöksen 50 artiklan 2 kohtaa voidaan soveltaa generatiivisiin tekoälyjärjestelmiin, jotka on suunniteltu kapea-alaiseen käyttötarkoitukseen tiettyjen tuotosten tuottamiseksi. Toisaalta tekoälysäädöksen 50 artiklan 2 kohtaa sovelletaan myös tekoälyjärjestelmiin, joilla voi olla useita tarkoituksia, kuten on yleiskäyttöisillä tekoälyjärjestelmillä, ja jotka voivat tuottaa monentyyppistä sisältöä. Sitä sovelletaan myös agenttisiin tekoälyjärjestelmiin, mikäli ne tuottavat synteettistä ääni-, kuva-, video- tai tekstisisältöä.

(59)

Sisällön manipulointi viittaa sitä vastoin jo olemassa olevaan sisältöön (synteettiseen tai ei-synteettiseen), jota tekoälyjärjestelmä muuttaa (esimerkiksi olemassa oleva kuva tai äänitallenne, jota tekoälyjärjestelmä manipuloi ihmisen ohjeiden mukaisesti). Sisältö kuuluu tekoälysäädöksen 50 artiklan 2 kohdan piiriin, kunhan se on tekoälyllä tuotettua tai sitä on manipuloitu tekoälyllä tekoälysäädöksen 50 artiklan 2 kohdassa säädettyjen poikkeusten mukaista vakiomuokkausta pidemmälle (ks. kohta 4.3). Tekoälysäädöksen 50 artiklan 2 kohdassa ei myöskään edellytetä, että sisältö on yksinomaan tekoälyllä tuotettua tai manipuloitua. Sisältö, jota yhdistetään ihmisen luomaan materiaaliin, katsotaan myös synteettiseksi sisällöksi, jos sitä on manipuloitu tai se on tuotettu jossakin tekoälysäädöksen 50 artiklan 2 kohdassa tarkoitetussa muodossa.

4.1.2   Soveltamisalaan kuuluvat synteettisen sisällön muodot

(60)

Tekoälysäädöksen 50 artiklan 2 kohdassa esitetään tyhjentävä luettelo avoimuusvelvoitteen piiriin kuuluvan synteettisen sisällön muodoista: ääni, kuva, video tai teksti. Tähän sisältyy myös multimodaalinen sisältö, toisin sanoen sisältö, joka koostuu näiden muotojen yhdistelmästä. Tekoälysäädöksen 50 artiklan 2 kohdan soveltamiseksi eri muotoja on tulkittava ajan myötä mahdollisesti tapahtuvan käytännöllisen ja teknologisen kehityksen mukaisesti. Toistaiseksi ne olisi ymmärrettävä seuraavasti:

—

Tekstillä tarkoitetaan diskreettiä symbolista sisältöä, joka koostuu merkeistä, tai numeroita, jotka on järjestetty tiettyyn järjestykseen, ja joita ihmiset voivat lukea ja tulkita semanttisesti.

—

Kuvilla tarkoitetaan staattisia spatiaalisia esityksiä, joihin on koodattu visuaalista tietoa ja jotka ihminen voi nähdä.

—

Äänellä tarkoitetaan ajallisesti vaihtelevaa signaalia, johon on koodattu ääntä, jonka ihminen voi havaita kuulemalla. Tämä voi kattaa puheen, instrumentaalimusiikin ja muut äänisignaalit.

—

Videolla tarkoitetaan aikaperusteista kuvasarjaa, joka voidaan synkronoida äänen kanssa ja joka on ihmisen nähtävissä. Tällöin sekä video- että äänisisältö on merkittävä ja niiden tunnistettavuus on varmistettava jäljempänä kuvatulla tavalla.

(61)

Tekoälyjärjestelmät, jotka tuottavat tai manipuloivat kolmiulotteisia kuvia, kolmiulotteisia videoita ja kolmiulotteista ääntä sekä virtuaalista, täydennettyä tai yhdistettyä todellisuutta, kuuluvat tekoälysäädöksen 50 artiklan 2 kohdan soveltamisalaan. ”Virtuaalitodellisuus” kattaa tekoälyteknologiat, joiden avulla käyttäjät voivat kokea fyysistä läsnäoloa simuloivan tietokoneympäristön ja olla vuorovaikutuksessa sen kanssa ja jotka mahdollistavat reaaliaikaisen vuorovaikutuksen kyseisen ympäristön kanssa. Koska virtuaalinen ja täydennetty todellisuus koostuu aikaperusteisesta kuvasarjasta, joka voidaan synkronoida äänen kanssa ja joka esittää ajan mittaan tapahtuvaa visuaalista muutosta, sitä voidaan pitää videosisältönä. Merkittävä ”tuotos” on tekoälyn tuottaman yksittäisen kokonaisuuden lopullinen muoto, lukuun ottamatta erityispoikkeuksia, jotka koskevat jäljempänä kappaleessa 88 tarkoitettua lyhytaikaisen interaktiivisen sisällön reaaliaikaista tuotantoa. Kolmiulotteisten kuvien, kolmiulotteisten videoiden ja kolmiulotteisen äänisisällön tuottamiseen käytettäviä digitaalisia artefakteja, kuten pistepilveä tai kolmiulotteista verkkoa, ei tarvitse merkitä.

(62)

Digitaaliset kaksoset, jotka tuottavat virtuaalisen kopion henkilöistä, fyysisistä esineistä tai järjestelmistä ja yhdistävät useita datatyyppejä, kuuluvat myös tekoälysäädöksen 50 artiklan 2 kohdan piiriin, jos ne on tuotettu tai niitä on manipuloitu tekoälyllä ja ne ovat ääni-, kuva-, video- tai tekstimuodossa. Poikkeuksia ovat kappaleessa 87 tarkoitetut ”teolliset sovellukset” tai ”yritysten väliset sovellukset” ja kappaleessa 88 tarkoitettu reaaliaikaisesti tuotettava lyhytaikainen sisältö.

(63)

Tekoälysäädöksen 50 artiklan 2 kohtaa voidaan soveltaa myös tekoälyagentteihin, jos tekoälyagentin toimen tuotos on tekoälyn tuottamaa tai manipuloimaa sisältöä, jonka luonnolliset henkilöt voivat havaita äänen, kuvan, videon tai tekstin muodossa. Näin ollen nämä tuotokset on merkittävä ja ne on voitava tunnistaa jäljempänä kuvatulla tavalla. Sitä vastoin tekoälyagentin toimia, jotka eivät sisällä tekoälyn tuottamaa tai manipuloimaa sisältöä (esimerkiksi prosessoinnin välivaiheet, kuten päättely ja ajatusketju (Chain of Thought), tai tekoälyn toimintaa, jota ei ole tarkoitettu suoraan luonnollisten henkilöiden havaittavaksi (esimerkiksi verkkopalvelupyyntö tai selaimen toimenpide), ei pidetä tekoälysäädöksen 50 artiklan 2 kohdan soveltamisalaan kuuluvana synteettisenä sisältönä eikä sen osalta tarvitse noudattaa merkintää ja tunnistamista koskevia velvoitteita.

4.1.3   Tekoälysäädöksen 50 artiklan 2 kohdan ulkopuolelle jäävä sisältö

(64)

Tekoälyjärjestelmän tuottama yksinkertaiseen tietojenkäsittelyyn perustuva sisältö, joka ei ole nimenomaisesti tekoälyn tuottamaa tai manipuloimaa, kuten renderoitu kehys, ei kuulu tekoälysäädöksen 50 artiklan 2 kohdan soveltamisalaan.

(65)

Tekoälyjärjestelmän tuotos, joka pelkästään toistaa olemassa olevaa sisältöä tai mahdollistaa jo olemassa olevan sisällön esittämisen tai järjestämisen, ei myöskään kuulu tekoälysäädöksen 50 artiklan 2 kohdan piiriin. Tämä voi koskea esimerkiksi musiikkisoittolistoja tai muita suosittelijajärjestelmiä, jotka vain valitsevat tai luokittelevat olemassa olevaa sisältöä käyttäjän mieltymysten tai toiminnan perusteella luomatta mitään uutta tai manipuloimatta itse sisältöä. Sama koskee sisäisissä analyysiprosesseissa käytettäviä tekoälyjärjestelmiä, jotka poimivat ja jäsentävät tietoja, mutta eivät tee niistä tiivistelmiä.

(66)

Sama pätee tekoälyjärjestelmän syötteisiin ja tuotoksiin, jotka koostuvat pelkistä sellaista dataa koskevista havainnoista ja tallenteista, joka on fyysisistä tai virtuaalisista ympäristöistä peräisin olevaa eikä tekoälyn tuottamaa tai manipuloimaa (esimerkiksi robottien tai muiden tekoälyä hyödyntävien antureiden tapauksessa), tai tekoälyjärjestelmien suorittamista tiedonsiirroista, joissa tiedot eivät muutu. Tämä kattaa useita tekoälyjärjestelmien syötteitä ja tuotoksia erityisesti teollisissa ympäristöissä, kuten datan tuottamisen dataa havainnoiville roboteille; tekoälyä hyödyntävien älymittareiden mittaaman kulutuksen, verkkotaajuuden ja jännitteen mittaukset; sekä ajoneuvojen GPS-sijaintitietojen tallentamisen.

(67)

Koska tekoälysäädöksen 50 artiklan 2 kohdan avoimuusvelvoitteen tavoitteena on antaa ihmisille mahdollisuus erottaa tekoälyn tuottama tai manipuloima sisältö, jotta voidaan vähentää harhaanjohtamisen ja manipuloinnin riskiä ja varmistaa informaatioekosysteemin aitous ja luotettavuus, kyseinen säännös ei koske sisältöä, joka ei liity tähän tavoitteeseen ja joka ei ole havaittavissa tai tarkoitettu luonnollisten henkilöiden tulkittavaksi, todennettavaksi tai käytettäväksi.

(68)

Erityisesti seuraavanlaisen sisällön olisi katsottava jäävän tekoälysäädöksen 50 artiklan 2 kohdan soveltamisalan ulkopuolelle:

—

tuotokset, jotka ovat lyhyitä numeroiden, symbolien tai kirjainten sarjoja (esimerkiksi yksittäiset sanat, kuvatekstit, alt-tekstit, käyttöliittymän merkinnät sekä kuvaketason grafiikka ja muut tietojen merkinnät);

—

lähdekoodi, jolla tarkoitetaan ohjelmointi-, komentosarja-, merkintä-, kysely- tai määrityskielellä kirjoitettua sisältöä, joka on tarkoitettu tietokonejärjestelmän tulkittavaksi, koottavaksi tai suoritettavaksi riippumatta siitä, koostuuko se tekstimerkeistä. Tähän voi sisältyä myös luonnollisella kielellä kirjoitettuja kommentteja ja kontekstitietoja, jotka ovat erottamaton osa lähdekoodia. Soveltamisalan ulkopuolelle jäävät myös ohjelmistokehityspaketit (Software Development Kits, SDK), standardoitu kyselykieli (Structured Query Language, SQL), infrastruktuuri koodina (Infrastructure-as-Code) ja ”YAML Ain’t Markup Language” (YAML), JavaScript Object Notation (JSON) -määritykset, konfiguraatioskeemat, komentosarjat, koneluettavat määritykset, sovellusrajapinnat ja ohjelmistokirjastot;

—

tekoälyjärjestelmän tuotokset, jotka on tarkoitettu yksinomaan laitteidenväliseen viestintään ja automaattiseen käsittelyyn eivätkä näy ihmisille, esimerkiksi agenttien välinen viestintä ja roskapostin torjuntasignaalit, kunhan luonnolliset henkilöt eivät havaitse niitä;

—

tuotokset, joita käytetään vain suljetun kierron ympäristöissä teollisuuden ja tuotekehityksen työnkuluissa (esimerkiksi elokuva-, animaatio-, peli- tai mainostuotannossa), elleivät ne ole tekoälyjärjestelmän lopullisia tuotoksia tekoälyn tuottaman tai manipuloiman teksti-, ääni-, kuva- tai videosisällön muodossa. Tällöin vain työnkulun vaiheiden lopullinen tuotos on merkittävä ja sen on oltava tunnistettavissa.

4.2   Tekoälysäädöksen 50 artiklan 2 kohdassa säädetyt merkintää ja tunnistamista koskevat velvoitteet

(69)

Tekoälysäädöksen 50 artiklan 2 kohdassa asetetaan sen soveltamisalaan kuuluvien generatiivisten tekoälyjärjestelmien tarjoajille avoimuusvelvoite, joka koostuu kahdesta erillisestä mutta olennaisesti toisiinsa liittyvästä tekijästä. Ensinnäkin järjestelmien tarjoajien on varmistettava, että tekoälyjärjestelmän tuotokset merkitään koneellisesti luettavassa muodossa. Toiseksi tarjoajien on varmistettava, että tuotokset voidaan tunnistaa keinotekoisesti tuotetuksi tai manipuloiduksi sisällöksi. Tarjoajien olisi varmistettava, että jokaiselle käyttöön otetulle merkintäratkaisulle on saatavilla vastaavat havaitsemismenetelmät (kuten jäljempänä esitetään), jotta sisällölle altistuvat luonnolliset henkilöt ja muut asiaankuuluvat toimijat voivat tunnistaa ja erottaa tekoälyjärjestelmän keinotekoisesti tuottaman sisällön muusta sisällöstä. ”Tekninen ratkaisu” on ymmärrettävä merkintätekniikoiden ja tunnistamismenetelmien yhdistelmäksi, jonka tarjoaja on toteuttanut tekoälysäädöksen 50 artiklan 2 kohdan mukaisen avoimuusvelvoitteen täyttämiseksi.

(70)

Kumpikin edellä mainituista elementeistä on toteutettava, jotta tekoälysäädöksen 50 artiklan 2 kohdan avoimuusvelvoitteiden tavoitteet voidaan tosiasiallisesti saavuttaa. Vain yhden elementin toteuttaminen (esimerkiksi tuotosten koneellisesti luettavat merkinnät ilman tarjolla olevia keinoja niiden tunnistamiseksi) ei riitä (27).

4.2.1   Merkintävelvoite

(71)

Merkintävelvoitteen soveltamisala rajoittuu koneellisesti luettavassa muodossa olevien merkintöjen toteuttamiseen. ”Koneellisesti luettava muoto” tarkoittaa, että merkit on jäsennelty siten, että ohjelmistosovellukset voivat helposti havaita, tunnistaa ja poimia ne ilman ihmisen toimia. Havaittavissa olevia merkkejä ja merkintöjä voidaan käyttää täydentävänä toimenpiteenä, jos ne ovat tarkoituksenmukaisia, jotta autetaan käyttöönottajia noudattamaan velvoitettaan merkitä syväväärennökset tekoälysäädöksen 50 artiklan 4 kohdan mukaisesti.

(72)

Järjestelmien tarjoajat voivat käyttää yhtä merkintätekniikkaa tai tekniikoiden yhdistelmää merkintävelvoitteen noudattamiseksi, edellyttäen että tekninen kokonaisratkaisu on koneellisesti luettavissa ja täyttää 50 artiklan 2 kohdan toisessa virkkeessä säädetyt tehokkuutta, yhteentoimivuutta, vakautta ja luotettavuutta koskevat vaatimukset lain vaatimassa laajuudessa (ks. kohta 4.2.3 jäljempänä).

(73)

Tekoälysäädöksen johdanto-osan 133 kappaleessa annetaan esimerkkejä tällaisista tekniikoista, joihin kuuluvat vesileimat, metatietotunnisteet, salausmenetelmät sisällön alkuperän ja aitouden osoittamiseksi, lokikirjausmenetelmät, sormenjäljet tai muut tekniikat sekä näiden tekniikoiden yhdistelmät. Vaikka alkuperän ja aitouden osoittamismenetelmät mainitaan tekoälysäädöksen johdanto-osan 133 kappaleessa, tarjoajien ei tarvitse kirjata tai säilyttää täydellistä alkuperäketjua, joka sisältäisi tiedot sisällön alkuperästä ja muutoksista, tai muita merkityksellisiä väitteitä sisällön historiasta. Tällaisia alkuperän osoittamisen menetelmiä voidaan kuitenkin käyttää myös tekoälysäädöksen 50 artiklan 2 kohdan noudattamiseen, ja ne voivat olla omiaan auttamaan luonnollisia henkilöitä erottamaan tekoälyn tuottaman tai manipuloiman sisällön aidosta sisällöstä.

(74)

Järjestelmien tarjoajat voivat toteuttaa tuotosten merkintäratkaisun arvoketjun eri vaiheissa (esimerkiksi sisällön tuottamisen jälkeen tekoälyjärjestelmän tasolla, taustalla olevan tekoälymallin tasolla tai integroituna tekoälyjärjestelmän päättelyprosessiin). Ne voivat käyttää merkintäratkaisua, jonka on toteuttanut toimitusketjun alkupään mallin tarjoaja tai ratkaisun tarjoava kolmas osapuoli (esimerkiksi avoimena standardina tai erikoistuneena palveluna), siltä osin kuin merkintäratkaisu on tekoälysäädöksen 50 artiklan 2 kohdan mukainen. Tällainen käyttö ei rajoita tekoälyjärjestelmän tarjoajan velvollisuutta osoittaa, että se noudattaa tekoälysäädöksen 50 artiklan 2 kohtaa.

4.2.2   Tunnistettavuutta koskeva velvoite

(75)

Tekoälysäädöksen 50 artiklan 2 kohdan soveltamisalaan kuuluvien tekoälyjärjestelmien tarjoajien on varmistettava, että järjestelmien tuotokset ovat tunnistettavissa tekoälyn tuottamaksi tai manipuloimaksi sisällöksi. Tämä tarkoittaa, että järjestelmän tarjoaja on velvollinen varmistamaan, että tunnistamiskeinot ovat niiden henkilöiden käytettävissä, jotka mahdollisesti altistuvat sisällölle. Lisäksi tekoälysäädöksen 50 artiklan 5 kohdan mukaan tällaisilla tunnistamisratkaisuilla olisi voitava tuottaa ihmisen luettavissa olevia tuloksia, joista käy ilmi, onko sisältö tekoälyllä tuotettua tai manipuloitua.

(76)

Tunnistustyökalu on mekanismi, joka havaitsee, onko sisältö tekoälyllä tuotettua tai manipuloitua. Tämä tapahtuu yleensä tunnistamalla tekniset merkit tai allekirjoitukset, jotka todentavat sisällön alkuperän. Täydellisen yhteentoimivuuden varmistamiseksi järjestelmien tarjoajien on tukeuduttava julkisesti saatavilla oleviin ja teollisuusstandardien mukaisiin tunnistamisratkaisuihin, joiden avulla mikä tahansa kolmas osapuoli voi toteuttaa tunnistamisen, ihannetapauksessa paikallisesti digitaalisessa laitteessa, ja joka mahdollistaa saumattoman integroinnin itsenäisiin, erillisiin verkkoihin. Jos tällaisia standardeja ei ole saatavilla, erityisesti tekoälysäädöksen 50 artiklan 2 kohdan täytäntöönpanon alkuvaiheessa vesileimateknologioiden osalta, tarjoaja voi käyttää omaa tunnistamisratkaisuaan tai kolmannen osapuolen tarjoamaa tai jaettua ratkaisua edellyttäen, että näillä ratkaisuilla varmistetaan yhteentoimivuus muiden tarjoajien käyttämien tunnistamisratkaisujen kanssa (ks. kohta 4.2.3). Tämä mahdollisuus olisi sallittava rajatun ajan siihen saakka, kunnes käytössä on yhdenmukaistetut standardit ja standardoitu, tarjoajasta riippumaton ja yhteentoimiva tunnistamisratkaisu, joka on turvallinen, yksityisyyttä suojaava ja paikallisesti toteutettavissa.

(77)

Tekoälysäädöksen 50 artiklan 5 kohdassa säädetään lisäksi, että tekoälysäädöksen 50 artiklan 2 kohdassa tarkoitetut tiedot olisi esitettävä sisällölle altistuville luonnollisille henkilöille selkeällä ja selvästi erottuvalla tavalla viimeistään ensimmäisen vuorovaikutuksen tai altistumisen yhteydessä. Nämä tiedot syntyvät erityisesti tunnistamisesta, joka osoittaa, onko sisältö tekoälyn tuottamaa tai manipuloimaa, eivätkä tekoälyn tuottamasta tai manipuloimasta sisällöstä itsestään. ”Ensimmäisen altistumisen yhteydessä” olisi ymmärrettävä ajankohdaksi, jolloin luonnolliset henkilöt haluavat tarkistaa tietyn sisällön alkuperän ja käyttävät tunnistamisratkaisua sen tulosten saamiseksi.

(78)

Jos tekoälyjärjestelmän tarjoaja on riippuvainen toisesta toimijasta tunnistamisratkaisun tarjoamisessa tai saatavuudessa, sen on varmistettava, että tunnistamisratkaisu on tekoälysäädöksen 50 artiklan 2 ja 5 kohdan mukainen ja että kyseiset toimijat esittävät tunnistamisen tulokset tekoälysäädöksen 50 artiklan 5 kohdan mukaisesti (ks. jakso 7).

4.2.3   Teknisiä ratkaisuja koskevien vaatimusten mukaisuus: tehokkuus, yhteentoimivuus, vakaus ja luotettavuus

(79)

Tekoälysäädöksen 50 artiklan 2 kohdan toisessa virkkeessä säädetään, että merkitsemistä ja tunnistamista koskevien teknisten ratkaisujen on oltava tehokkaita, yhteentoimivia, vakaita ja luotettavia. Nämä vaatimukset olisi ymmärrettävä seuraavasti:

—

Tehokkuudella tarkoitetaan tarjoajan toteuttaman teknisen ratkaisun kykyä tunnistaa tarjoajan merkinnät, mahdollistaa se, että luonnolliset henkilöt voivat erottaa tarjoajan tekoälyjärjestelmällä keinotekoisesti tuotetun tai manipuloidun sisällön, ja siten edistää tietoekosysteemin luotettavuutta ja eheyttä.

—

Luotettavuudella tarkoitetaan teknisen ratkaisun kykyä tunnistaa ja erottaa tarkasti tekoälyn tuottama tai manipuloima sisältö muusta sisällöstä tavallisissa olosuhteissa tarjoajan tekoälyjärjestelmän tuottaman tai manipuloiman sisällön koko kirjon osalta.

—

Vakaudella tarkoitetaan teknisen ratkaisun kykyä tunnistaa ja erottaa tarkasti tarjoajan tekoälyjärjestelmän tuottama tai manipuloima sisältö muusta sisällöstä vaihtelevissa olosuhteissa, mukaan lukien sekä yleiset muutokset että adversariaaliset hyökkäykset.

—

Yhteentoimivuudella tarkoitetaan eri teknisten merkintä- ja tunnistamisratkaisujen kykyä toimia saumattomasti useiden eri järjestelmien, toimijoiden, asiayhteyksien ja teknisten toteutustapojen yhteydessä tekoälyn tuottaman tai manipuloiman sisällön tunnistamisen mahdollistamiseksi riippumatta eri tekoälyjärjestelmien tarjoajien käyttöönottamista merkintätekniikoista.

(80)

Tarjoajien on varmistettava, että koko teknisten merkintä- ja tunnistamisratkaisujen yhdistelmä täyttää kaikki edellämainitut vaatimukset lain vaatimassa laajuudessa ottaen huomioon eri käyttöönotettujen ratkaisujen rajoitukset ja täydentävyydet. Teknisten ratkaisujen on täytettävä kaikki vaatimukset – siinä määrin kuin se on teknisesti mahdollista – ottaen huomioon monenlaisten sisältöjen erityispiirteet ja rajoitukset, toteuttamiskustannukset ja yleisesti tunnustettu uusin teknologia, jotka voidaan huomioida asianmukaisissa teknisissä standardeissa.

(81)

Tekoälysäädöksen 50 artiklan 2 kohdassa tarkoitetut ”teknisesti mahdolliset” ratkaisut ovat ratkaisuja, jotka voidaan toteuttaa säännöksen soveltamisalaan kuuluvien muotojen osalta asianomaisessa teknisessä arkkitehtuurissa ja toimintaympäristössä käyttäen kulloinkin saatavilla olevia teknologioita, menetelmiä ja teknisiä käytäntöjä. Tarjoaja ei ole velvollinen hyödyntämään teknistä ratkaisua, jota ei ole vielä kehitetty, jota ei ole vielä saatavilla markkinoilla tai joka ei ole teknisesti toteutettavissa. Tekninen toteutettavuus on objektiivinen käsite, joka ei riipu yksittäisten tarjoajien omista resursseista ja valmiuksista.

(82)

Tekoälysäädöksen 50 artiklan 2 kohdassa edellytetään, että tarjoajat toteuttavat teknisesti mahdollisia ratkaisuja, jotka ovat yhdenmukaisia yleisesti tunnustetun uusimman teknologin kanssa, täyttääkseen tehokkuuden, vakauden, luotettavuuden ja yhteentoimivuuden laatuvaatimukset.

(83)

”Uusimmalla teknologialla” tarkoitetaan tiettynä ajankohtana saavutettua tuotteiden, prosessien ja palvelujen teknisten valmiuksien kehittynyttä vaihetta, joka perustuu tieteen, teknologian ja kokemuksen tuottamiin asiaa koskeviin yhdistettyihin tuloksiin ja jota pidetään teknologian alalla hyvänä käytäntönä (28). Uusin teknologia ei välttämättä tarkoita uusimpia tieteellisiä tutkimustuloksia, jotka ovat vielä kokeiluvaiheessa tai joiden osalta teknologian kypsyysaste on riittämätön. Tarjoajien on mukautettava jatkuvasti merkintä- ja tunnistamisratkaisujaan oikea-aikaisesti ja oikeasuhteisesti teknologian ja teknologisen tason kehittyessä.

(84)

Tarjoajat voivat hyödyntää tekoälysäädöksen 50 artiklan 7 kohdan perusteella käytännesääntöjä, jotka on arvioitu riittäviksi kyseisen säännöksen mukaisesti ja jotka on saatettu uusimman teknologian mukaisiksi, osoittaakseen noudattavansa tekoälysäädöksen 50 artiklan 2 ja 5 kohdassa säädettyjä merkitsemistä ja tunnistamista koskevia velvoitteita. Lisätietoja tällaisten käytännesääntöjen noudattamisen vaikutuksista sekä sellaisten muiden tarjoajien valvonnasta, jotka eivät noudata käytännesääntöjä, on jäljempänä kohdassa 8.1.

(85)

Huomioon voidaan ottaa myös tiettyjen teknisten merkintä- ja tunnistamisratkaisujen toteuttamisen kustannukset. Kuten seuraavissa kappaleissa kuvataan, kustannukset voivat olla tietyissä tapauksissa suhteettomia siihen nähden, että ne tuottavat vain vähäistä hyötyä ja rajallisempaa arvoa tekoälyn tuottaman ja manipuloiman sisällön erottamisen mahdollistamisen sekä tietoekosysteemin eheyden ja luotettavuuden varmistamisen kannalta.

(86)

Tarkkaan määritellyissä tapauksissa voi näin ollen olla mahdollista, että vähemmän vakaisiin metatietomerkintöihin perustuva tekninen ratkaisu on riittävä tekoälysäädöksen 50 artiklan 2 kohdan noudattamiseksi, ottaen huomioon tekoälyjärjestelmän tuotosten erityispiirteet, jos ne muodostavat luontaisesti pienemmän riskin harhaanjohtamiseen, manipulointiin taikka kielteisiin informaatioekosysteemiin kohdistuviin vaikutuksiin. Näin on erityisesti silloin, jos generatiivinen tekoälyjärjestelmä on sulautettu fyysisiin tuotteisiin ja tuottaa tuotoksia teknisesti valvotussa ja suljetussa, luonteeltaan pääasiassa ohjeistavassa ympäristössä (esimerkiksi ajoneuvojen navigointijärjestelmiin sulautettu tekoälyjärjestelmä) – siltä osin kuin tuotteeseen on sulautettu tehokkaita teknisiä toimenpiteitä sen estämiseksi, että tuotokset poistuvat tuoteympäristöstä esimerkiksi siten, että ne kerätään sieltä taikka viedään ja levitetään sen ulkopuolelle.

(87)

Lisäksi voi olla rajallisia ”teollisiin tekoälysovelluksiin” tai ”yritysten välisiin sovelluksiin” liittyviä tapauksia (pois lukien julkiset ja kuluttajien kanssa vuorovaikutuksessa olevat tekoälyjärjestelmät), joissa tekoälyn tuottamien tai manipuloimien tuotosten merkitsemistä ja tunnistamista ei edellytetä avoimuustavoitteiden saavuttamisen kannalta rajallisten hyötyjen sekä suhteellisuusperiaatteen vuoksi. Tämä pätee vain, jos seuraavat vaatimukset täyttyvät kumulatiivisesti:

i)

Tekoälyjärjestelmän tuottama tuotos on luonteeltaan puhtaasti tekninen, kuten tekniset suunnitelmat, teollisuustuotannon työnkulut, tekniset ohjeet tai tuotokset, jotka syntyvät järjestelmien kunnossapitoon liittyvien teollisuusympäristöissä toteuttavien ennakoivien prosessien, sisäisten dokumentointiprosessien taikka tuotannon vaiheiden ja työnkulkujen tuloksena, ennen kuin tuotokset viimeistellään ja asetetaan muiden, ulkopuolisten henkilöiden tai yleisön saataville.

ii)

Tekoälyjärjestelmän tuottama tuotos on tarkoitettu ainoastaan sellaisten luonnollisten henkilöiden havaittavaksi ja käsiteltäväksi, joiden määrä on rajallinen ja ennalta määritelty ja jotka toimivat ammatillisessa ominaisuudessa tarjoajan ja käyttöönottajan organisaatiossa.

iii)

Tekoälyjärjestelmän tuottamaa tuotosta ei saa olla tarkoitettu jaettavaksi yrityksen ulkopuolelle tai sellaiseksi, että ulkopuoliset henkilöt voivat käyttää sitä. Käytössä on oltava asianmukaisia suojatoimia, joilla vältetään kohtuudella ennakoitavissa oleva väärinkäyttö (esimerkiksi pilven eristäminen tai tehtäväperusteinen pääsynvalvonta).

(88)

Myös sellaisen lyhytaikaisen sisällön reaaliaikainen tuotanto, joka kulutetaan välittömästi tallentamatta, säilyttämättä tai levittämättä sitä edelleen (esimerkiksi videopeleissä tai virtuaalitodellisuussovelluksissa), voidaan vapauttaa kyseisistä velvoitteista silloin, kun merkitseminen ei ole teknisesti mahdollista ja kun sisällölle altistuville henkilöille ilmoitetaan, että sisältö on tekoälyn tuottamaa tai manipuloimaa (esimerkiksi kokemuksen yhteydessä annettavat taikka istuntotason ilmoitukset).

4.3   Poikkeukset tekoälysäädöksen 50 artiklan 2 kohdan mukaisiin velvoitteisiin

(89)

Tekoälysäädöksen 50 artiklan 2 kohdassa säädetään kolmesta nimenomaisesta poikkeuksesta kyseisessä säännöksessä säädettyihin avoimuusvelvoitteisiin.

(90)

Ensimmäinen poikkeus koskee tekoälyjärjestelmiä siltä osin kuin ne avustavat vakiomuokkaamista. Vakiomuokkaamisella tarkoitetaan olemassa olevan sisällön valmistelua julkaisemista tai jakelemista varten (esimerkiksi pienet muokkaukset luettavuuden, kieliopin, laadun ja muodon parantamiseksi), eikä siihen liity uuden sisällön tuottamista. Vakiomuokkaamisella pyritään varmistamaan, että sisällössä ei ole muun muassa ilmeisiä teknisiä tai kieliopillisia kielellisiä virheitä, että se on sopusoinnussa sovellettavien asettelu-, esitys-, muotoilu- tai esteettömyysvaatimusten kanssa tai että se on alakohtaisten käytäntöjen mukainen. Muokkaaminen menee vakiomuokkaamista pidemmälle, jos sisältöä muutetaan olennaisella tavalla (esimerkiksi huomattavat muokkaukset ja rakenteelliset muutokset), joka vaikuttaa sen merkitykseen, tyyliin tai tarkoitukseen.

(91)

Toista poikkeusta sovelletaan, jos tekoälyjärjestelmä ei muuta käyttöönottajan toimittamaa syöttödataa tai sen semantiikkaa olennaisesti. Muutosta olisi pidettävä olennaisena, jos tekoälyjärjestelmä on manipuloinut syöttödataa tai sen semantiikkaa merkittävästi tuotosten tuottamisen aikana. Tämän on perustuttava merkityksellisten tekijöiden arviointiin. Tällaisia tekijöitä ovat esimerkiksi sisällön muoto, mediasisältötyyppi, tyyli ja sisällön merkitykseen, tyyliin tai tarkoitukseen vaikuttavat muutokset. Tämä edellyttää tapauskohtaista arviointia.

(92)

Jos tekoälyjärjestelmää voidaan käyttää sekä sisällön tuottamiseen ja manipulointiin että syöttödatan vähäisiin, ei-olennaisiin muutoksiin, tekoälysäädöksen 50 artiklan 2 kohdan mukaista avoimuusvelvoitetta ei sovelleta sisältöön, jota on muutettu vähäisellä, ei-olennaisella tavalla.

Esimerkkejä vakiomuokkaamisesta ja vähäisistä muutoksista, joihin sovelletaan tekoälysäädöksen 50 artiklan 2 kohdan mukaista poikkeusta:

—

kieliopin korjaaminen, oikeinkirjoituksen tarkistaminen, kielellinen ja vähäinen tyylillinen hiominen, joka ei muuta tekstin ydinsisältöä, merkitystä, tyyliä tai sanomaa, tekstin tekoälyllä tuotetut käännökset;

—

muotoilu, muodon muuntaminen, tekninen pakkaaminen, kohinan vähentäminen tai poistaminen selkeyden lisäämiseksi sisällön merkitystä tai ydinsisältöä muuttamatta;

—

vähäinen rajaaminen, värien vähäinen säätäminen tai korjaaminen, kirkkauden lisääminen tai vähentäminen, terävöittäminen selkeyden parantamiseksi tai muut vakiomuokkaukset ja tekniset korjaukset;

—

likaisen linssin tai anturin aiheuttamien pölypisteiden poistaminen, salamavalon aiheuttaman punasilmäisyyden poistaminen; alkuperäisessä tiedostossa näkyvien taustojen poistaminen ja hämärtäminen, kasvojen pikselöinti tai sumentaminen;

—

videoleikkeen uudelleenskaalaus, dynaamisen vaihtelun pienentäminen ja taajuuskorjaaminen; videon rajallinen vakauttaminen;

—

värien ja kontrastin vakiosäätäminen, toistonopeuden vähäinen säätäminen, vähäiset korjaukset kuvan horisontin suoristamiseksi, pikselisuodattimien käyttäminen kuvan tiettyjen osien korostamiseksi taikka värikarttojen käyttäminen harmaasävykuvissa, kuvan reunojen täydentäminen, mustavalkoisen kuvan tai videon muuntaminen värilliseksi ja toisinpäin;

—

pikselitäyttö kuvasuhteen mukauttamista tai selkeyden parantamista varten, automaattiset siirtymäleikkeet, muut ei-olennaiset muokkaukset kosmeettisia ja teknisiä tarkoituksia varten;

—

lääketieteellisen kuvan tekninen käsittely tai rekonstruointi lääkinnällisissä laitteissa (esimerkiksi merkinnät, laatikot, ääriviivat, ympyrät, lämpökartat);

—

keskustelujen litteroinnit; tekoälyn tuottama sisältö, joka muuttaa aitoa ihmisen tuotosta ainoastaan avustavien teknologioiden avulla mahdollistaen vammaisten henkilöiden viestinnän (esimerkiksi puhetta tukeva ja korvaava viestintä (AAC) tai räätälöidyt neuroäänet (CNV)), sillä ne eivät muuta sisällön merkitystä semanttisesti.

Esimerkkejä semanttisista muutoksista, jotka edellyttävät tekoälysäädöksen 50 artiklan 2 kohdan mukaista merkitsemistä:

—

tekoälyn tuottamat yhteenvedot teksteistä; tekstien mukailu tai uudelleenkirjoittaminen, jossa muutetaan tyyliä, rakennetta ja merkitystä pelkkää kieliopillista ja vähäistä tyylillistä korjaamista enemmän;

—

esineiden tai henkilöiden poistaminen, korvaaminen tai lisääminen olemassa oleviin kuviin ja videoihin siten, että sisällön merkitys ja ydinsisältö muuttuu; kasvojen korvaaminen tai kasvojen olennainen muuttaminen;

—

synteesi realistisesta puheesta tietyn henkilön äänellä taikka realistisen videon tuottaminen tapahtumista, joita ei ole tapahtunut; henkilön kehon muodon tai ihon värin muuttaminen; äärimmäiset kirkastamis-, tummentamis-, väri- ja kontrastimuutokset, jotka muuttavat sisällön merkitystä, tarkoitusta ja sanomaa;

—

sellaisten yhdistelmäkuvien tai -videoleikkeiden luominen, jotka muuttavat henkilöiden, esineiden, tapahtumien tai tosiseikkojen esitystapaa, muut sisällön olennaiset muutokset.

(93)

Kolmatta poikkeusta sovelletaan generatiivisiin tekoälyjärjestelmiin, joita on lain mukaan sallittua käyttää synteettisen sisällön tuottamiseen tai manipuloimiseen rikosten paljastamiseksi, estämiseksi tai tutkimiseksi tai rikoksiin liittyvien syytetoimien toteuttamiseksi. Edellä kappaleissa 46–48 esitetyt, tätä poikkeusta koskevat selvennykset ovat merkityksellisiä myös tässä tapauksessa.

4.4   Vuorovaikutus unionin muiden säädösten kanssa

(94)

Tekoälysäädöksen 50 artiklan 2 kohdan mukaisissa merkitsemistä ja tunnistamista koskevissa velvoitteissa keskitytään sisällön luontitapaan ja keinotekoiseen alkuperään, ei sisällön luojaan. Tekoälyjärjestelmien tarjoajien käyttämien merkitsemis- ja tunnistamisratkaisujen on näin ollen oltava sovellettavan unionin tietosuojalainsäädännön mukaisia, mukaan lukien tietosuojaperiaatteet ja -velvoitteet, kuten sisäänrakennetun ja oletusarvoisen tietosuojan velvoite, tietojen minimoinnin periaate sekä turvallisuus- ja luottamuksellisuusperiaatteet. Esimerkiksi sisällön luojaan liittyviä tietoja ei pitäisi käsitellä sisällön merkitsemistä ja tunnistamista varten, kaikki muut käsiteltävät henkilötiedot olisi poistettava heti, kun tunnistamistarkoitus on täytetty, ja turvallisuus ja luottamuksellisuus on varmistettava.

(95)

Tekoälysäädöksen johdanto-osan 136 kappaleessa korostetaan lisäksi sen 50 artiklan 1, 2 ja 4 kohdan mukaisten avoimuusvelvoitteiden erityistä merkitystä digipalvelusäädöksen tuloksellisen täytäntöönpanon kannalta. Tämä koskee erityisesti erittäin suurten verkkoalustojen tai erittäin suurten verkkohakukoneiden tarjoajien velvoitteita tunnistaa, analysoida, arvioida ja lieventää huolellisesti systeemisiä riskejä, joita voi aiheutua keinotekoisesti tuotetun tai manipuloidun sisällön levittämisestä, erityisesti myös disinformaatiosta johtuvaa demokraattisiin prosesseihin, kansalaiskeskusteluun ja vaaliprosesseihin kohdistuvien tosiasiallisten tai ennakoitavien kielteisten vaikutusten riskiä (digipalvelusäädöksen 34 ja 35 artikla). Koneellisesti luettavat merkinnät voivat mahdollistaa sen, että nämä tarjoajat voivat tunnistaa tekoälyn tuottaman tai manipuloiman sisällön ja antaa asianmukaiset merkinnät ja ilmoitukset, mikä vähentää tekoälyn tuottaman disinformaation riskiä niiden palveluissa.

(96)

Tekoälysäädöksen 50 artiklan 2 ja 4 kohdan mukaiset velvoitteet merkitä tekoälyjärjestelmien tuottama tai manipuloima sisältö eivät rajoita digipalvelusäädöksen 16 artiklan 6 kohdassa säädettyä säilytyspalvelujen tarjoajien velvoitetta käsitellä digipalvelusäädöksen 16 artiklan 1 kohdan mukaisesti saamansa ilmoitukset laittomasta sisällöstä (29). Tekoälyn tuottaman tai manipuloiman sisällön merkitsemisen ei etenkään pitäisi vaikuttaa tietyn sisällön laittomuudesta muiden sääntelykehysten nojalla tehtävään arviointiin ja päätökseen. Kyseinen arviointi olisi tehtävä yksinomaan sisällön laillisuutta koskevien sääntöjen perusteella kyseisten kehysten mukaisesti (30). Esimerkiksi jos merkitty syväväärennetty kuva ilmoitetaan materiaaliksi, joka saattaa olla lapsiin kohdistuvaa seksuaaliväkivaltaa todistavaa kuvamateriaalia, tai sen ilmoitetaan rikkovan tavaramerkki- tai tekijänoikeuslainsäädäntöä, merkinnän käyttö ei vaikuta sisällön mahdolliseen lainvastaisuuteen kyseisissä sääntelykehyksissä. Kyseinen arviointi olisi tehtävä yksinomaan asiaankuuluvan sovellettavan lainsäädännön perusteella (esimerkiksi rikoslainsäädäntö tai tavaramerkki- tai tekijänoikeussäännöt).

(97)

Sitä vastoin tekoälysäädöksen 50 artiklan 2 kohdan mukaisesti sisältöön sisällytetty koneellisesti luettava merkintä voi auttaa erittäin suurten verkkoalustojen ja erittäin suurten verkkohakukoneiden tarjoajia täyttämään digipalvelusäädöksen 34 ja 35 artiklan mukaiset velvoitteensa tunnistaa, analysoida ja arvioida systeemisiä riskejä, joita voi syntyä keinotekoisesti tuotetun tai manipuloidun sisällön levittämisestä, erityisesti myös disinformaatiosta johtuvaa demokraattisiin prosesseihin, kansalaiskeskusteluun ja vaaliprosesseihin kohdistuvien tosiasiallisten tai ennakoitavien kielteisten vaikutusten riskiä (31), ja ottamaan käyttöön näiden riskien lieventämiseksi kohtuullisia, oikeasuhteisia ja tehokkaita toimenpiteitä, jotka räätälöidään yksilöityjen systeemisten riskien mukaisesti. Erittäin suurten verkkoalustojen ja erittäin suurten verkossa toimivien hakukoneiden tarjoajat voidaan katsoa myös tekoälyjärjestelmien tarjoajiksi, jos ne täyttävät tekoälysäädöksessä säädetyt asiaankuuluvat edellytykset ja sisällyttävät tekoälyjärjestelmiä palveluihinsa (ks. myös kohta 6.1.5).

(98)

Verkkoalustojen ja verkkohakukoneiden tarjoajia ja muita merkityksellisiä toimijoita, jotka jakavat sisältöä arvoketjussa, kannustetaan erityisesti säilyttämään tarjoajien tekoälysäädöksen 50 artiklan 2 kohdan mukaisesti toteuttamat merkinnät ja mahdollistamaan niiden tunnistaminen, jotta sisällölle altistuville luonnollisille henkilöille voidaan tiedottaa sen alkuperästä.

5.   TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN 3 ALAKOHTA: TUNTEENTUNNISTUSJÄRJESTELMÄT JA BIOMETRISET LUOKITTELUJÄRJESTELMÄT

(99)

Tekoälysäädöksen 50 artiklan 3 kohdan mukaan tunteentunnistusjärjestelmien ja biometristen luokittelujärjestelmien käyttöönottajien on ilmoitettava kyseisille järjestelmille altistuville luonnollisille henkilöille järjestelmän toiminnasta.

(100)

Tekoälysäädöksen johdanto-osan 132 kappaleessa selitetään, että kyseisen velvoitteen tarkoituksena on varmistaa, että luonnolliset henkilöt (myös toimintarajoitteiset) ovat tietoisia siitä, että he altistuvat tunteentunnistusjärjestelmille ja biometrisille luokittelujärjestelmille, jotka voivat loukata heidän yksityisyyttään. Velvoitetta sovelletaan näin ollen riippumatta siitä, altistuvatko henkilöt tällaisille järjestelmille reaaliaikaisesti vai käytetäänkö niitä jälkikäteen.

5.1   Keskeiset osatekijät, käsitteet ja asiaan liittyvät tekoälysäädöksen 50 artiklan 3 kohdan mukaiset avoimuusvelvoitteet

5.1.1   Tunteentunnistusjärjestelmän käsite

(101)

Tekoälysäädöksen 3 artiklan 39 alakohdan mukaan ”tunteentunnistusjärjestelmällä” tarkoitetaan ”tekoälyjärjestelmää, jonka avulla luonnollisten henkilöiden tunteita tai aikomuksia voidaan tunnistaa tai päätellä heidän biometristen tietojensa perusteella”. Yhtä merkityksellinen tekoälysäädöksen 50 artiklan 3 kohdan yhteydessä on suuririskisten tekoälyjärjestelmien luokittelua koskevissa komission ohjeissa (Commission guidelines on the classification of high-risk AI systems) esitetty yksityiskohtainen selitys tästä käsitteestä, mukaan lukien siinä annetut käytännön esimerkit.

(102)

Koska kaikki tunteentunnistusjärjestelmät luokitellaan myös suuririskisiksi, tekoälysäädöksen 50 artiklan 3 kohdassa säädettyä avoimuusvelvoitetta olisi sovellettava yhdessä muiden suuririskisiin tekoälyjärjestelmiin sovellettavien suojatoimien ja vaatimusten kanssa, jollei tunteentunnistusjärjestelmää ole kielletty tekoälysäädöksen 5 artiklan 1 kohdan f alakohdan nojalla työpaikojen ja oppilaitosten osalta.

5.1.2   Biometrisen luokittelujärjestelmän käsite

(103)

Tekoälysäädöksen 3 artiklan 40 alakohdan mukaan ”biometrisellä luokittelujärjestelmällä” tarkoitetaan ”tekoälyjärjestelmää, jonka avulla luonnolliset henkilöt luokitellaan heidän biometristen tietojensa perusteella tiettyihin ryhmiin, paitsi jos se on toisen kaupallisen palvelun oheistoiminto ja se on ehdottoman välttämätön objektiivisista teknisistä syistä”. Yhtä merkityksellinen tekoälysäädöksen 50 artiklan 3 kohdan yhteydessä on suuririskisten tekoälyjärjestelmien luokittelua koskevissa komission ohjeissa (Commission guidelines on the classification of high-risk AI systems) esitetty yksityiskohtainen selitys tästä käsitteestä, mukaan lukien käsitteen erityiset osatekijät ja annetut käytännön esimerkit.

(104)

Tärkeää on, että tekoälysäädöksen 50 artiklan 3 kohtaa sovelletaan kaikkiin biometrisiin luokittelujärjestelmiin (esimerkiksi biometrisiin tietoihin perustuvaan ikä- tai sukupuoliluokitteluun), ellei niitä ole kielletty tekoälysäädöksen 5 artiklan 1 kohdan g alakohdassa, riippumatta siitä, ovatko ne tekoälysäädöksen mukaisia suuririskisiä tekoälyjärjestelmiä.

5.1.3   Tekoälysäädöksen 50 artiklan 3 kohdan mukainen ilmoitusvelvoite

(105)

Ilmoitettavien tietojen laajuus: Käyttöönottajien on ilmoitettava asianomaisille luonnollisille henkilöille, että nämä altistuvat käytössä olevalle tunteentunnistusjärjestelmälle tai biometriselle luokittelujärjestelmälle. Tekoälysäädöksessä ei edellytetä tietojen ilmoittamista järjestelmän käytön syistä tai siitä, käsitteleekö järjestelmä tietoja myös muita tarkoituksia kuin tunteiden tunnistamista tai biometristä luokittelua varten. Näistä on ilmoitettava unionin tietosuojalainsäädännön mukaisesti (ks. kohta 5.3).

(106)

Tietojen vastaanottajat: Tekoälysäädöksen 50 artiklan 3 kohdassa edellytetään, että käyttöönottajat tiedottavat tekoälyjärjestelmän toiminnasta kaikille sille altistuville luonnollisille henkilöille, myös lapsille.

(107)

Ilmoituskeinot: Tekoälysäädöksessä ei säädetä keinosta, jolla tiedot on ilmoitettava, lukuun ottamatta sen 50 artiklan 5 kohtaa, jonka mukaan tiedot on annettava selkeällä ja selvästi erottuvalla tavalla ja sovellettavien esteettömyysvaatimusten mukaisesti (vastaten toimintarajoitteisten luonnollisten henkilöiden tarpeisiin). Se, miten järjestelmälle altistuville luonnollisille henkilöille ilmoitetaan asiasta, voi riippua käyttöönottopaikasta (esimerkiksi virtuaalinen pelialusta, fyysinen myyntipiste tai rautatieasema), mahdollisista vastaanottajista (esimerkiksi lapset, ikääntyneet, vammaiset henkilöt tai kaupan asiakkaat), altistumisen kestosta ja tyypistä (esimerkiksi pitkäaikainen, kertaluonteinen, jatkuva tai ajoittainen) sekä mahdollisesta suhteesta käyttöönottajan ja altistuvien henkilöiden välillä (esimerkiksi jos on jo olemassa kanava, jonka kautta henkilön kanssa viestitään). Käyttötapauksesta riippuen tiedot voidaan antaa kirjallisesti, standardoiduilla kuvakkeilla (myös sähköisesti esitettäessä), suullisesti tai käyttämällä tällaisten tapojen yhdistelmiä.

Esimerkkejä tietojen ilmoittamisesta luonnollisille henkilöille:

—

ennen tietokonepelin käynnistämistä ruudun keskelle ilmestyvä ponnahdusikkuna, jossa esitetyssä liittymisviestissä ilmoitetaan, että pelaajan kasvot ja tunteet tallennetaan;

—

näyttelytilan jokaisella mahdollisella sisäänkäynnillä esitettävä näkyvä ilmoitus siitä, että vierailijoiden kasvoista otetaan kuva heidän tullessaan tilaan, jotta heidät voidaan luokitella tiettyyn ikäryhmään.

(108)

Tietojen ilmoittamisen aikataulu: Tiedot on annettava tekoälysäädöksen 50 artiklan 5 kohdan mukaisesti viimeistään silloin, kun henkilö ensimmäisen kerran on vuorovaikutuksessa tekoälyjärjestelmän kanssa tai altistuu sille. Mahdollisuutta antaa vaaditut tiedot tarvittaessa etukäteen ei ole suljettu pois.

5.2   Lainvalvontatarkoituksessa sovellettava poikkeus

(109)

Ilmoitusvelvoitetta ei sovelleta tunteentunnistusjärjestelmiin ja biometrisiin luokittelujärjestelmiin, joita on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen tai tutkimiseen unionin oikeuden mukaisesti, edellyttäen, että kolmansien osapuolten oikeudet ja vapaudet turvataan asianmukaisesti. Edellä kappaleissa 46–48 esitetyt tätä poikkeusta koskevat selvennykset ovat merkityksellisiä myös tässä tapauksessa yhdellä erolla. Muut tekoälysäädöksen 50 artiklassa säädetyt poikkeukset edellyttävät nimenomaista lakia, jolla sallitaan tekoälyjärjestelmien läpinäkymätön käyttö. Tekoälysäädöksen 50 artiklan 3 kohdassa puolestaan mahdollistetaan tällainen käyttö silloin, kun se sallitaan oikeudellisissa säännöissä, jotka koskevat lainvalvontaviranomaisten valtuuksia käyttää tunteentunnistusjärjestelmiä ja biometrisiä luokittelujärjestelmiä rikosten havaitsemiseksi, estämiseksi tai tutkimiseksi ilmoittamatta asiasta asianomaisille henkilöille, edellyttäen, että asianmukaisia suojatoimia toteutetaan.

5.3   Vuorovaikutus unionin muiden säädösten kanssa

(110)

Tekoälysäädöksen 50 artiklan 3 kohdan mukainen ilmoitusvelvoite ei itsessään tee tunteentunnistusjärjestelmien ja biometristen luokittelujärjestelmien käytöstä laillista. Se ei myöskään oikeuta tunkeilevaa tai syrjivää käyttöä, joka voi olla laitonta ja kiellettyä tekoälysäädöksen 5 artiklan tai muun unionin lainsäädännön nojalla. Käyttöönottajien on noudatettava tekoälysäädöksen 50 artiklan 3 kohdan mukaista ilmoitusvelvoitetta kaikkien unionin tietosuojalainsäädännön mukaisten sovellettavien ilmoitusvaatimusten lisäksi. Tietyissä tapauksissa käyttöönottajat voivat harkita tekoälysäädöksen 50 artiklan 3 kohdan mukaisten ilmoitusten lisäämistä tietoihin, joita rekisteröidyille annetaan unionin tietosuojalainsäädännön mukaisesti.

6.   TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN 4 KOHTA: SYVÄVÄÄRENNÖSTEN JA TIETTYJEN TEKSTIJULKAISUJEN MERKITSEMINEN

(111)

Tekoälysäädöksen 50 artiklan 4 kohdassa asetetaan generatiivisten tekoälyjärjestelmien käyttöönottajille kaksi erillistä velvoitetta: niiden on ilmoitettava selkeällä ja selvästi erottuvalla tavalla i) syväväärennöksistä ja ii) tekoälyn tuottamasta tai manipuloimasta tekstistä, jonka julkaisemisen tarkoituksena on tiedottaa yleisölle yleistä etua koskevista asioista, lukuun ottamatta tiettyjä määriteltyjä tapauksia. Näitä merkintävelvoitteita sovelletaan tekoälysäädöksen 50 artiklan 2 kohdassa säädettyjen, synteettistä kuva-, video-, ääni- tai tekstisisältöä tuottavien tai manipuloivien tekoälyjärjestelmien tarjoajiin sovellettavien, koneellisesti luettavia merkintöjä ja tunnistamista koskevien velvoitteiden lisäksi ja rajoittamatta niiden soveltamista.

6.1   Keskeiset osatekijät, käsitteet ja asiaan liittyvät tekoälysäädöksen 50 artiklan 4 kohdan mukaiset syväväärennöksiä koskevat avoimuusvelvoitteet

(112)

Tekoälysäädöksen 50 artiklan 4 kohdan ensimmäistä alakohtaa sovelletaan, jos tietyt edellytykset täyttyvät:

i)

järjestelmän on oltava tekoälyjärjestelmä;

ii)

jota käyttöönottajat käyttävät ammatillisiin tarkoituksiin (ks. kohdat 2.3 ja 2.4.1)

iii)

syväväärennöksen muodostavan kuva-, ääni- tai videosisällön tuottamiseksi tai manipuloimiseksi;

iv)

tekoälyjärjestelmä ei saa kuulua sen poikkeuksen soveltamisalaan, joka koskee laissa sallittua käyttöä rikosten havaitsemiseksi, estämiseksi tai tutkimiseksi tai rikoksiin liittyvien syytetoimien toteuttamiseksi.

6.1.1   Syväväärennöksen käsite

(113)

Tekoälysäädöksen 3 artiklan 60 kohdan mukaan ”syväväärennöksellä” tarkoitetaan ”tekoälyllä tuotettua tai käsiteltyä kuva-, ääni- tai videosisältöä, joka muistuttaa olemassa olevia henkilöitä, esineitä, paikkoja, toimijoita tai tapahtumia ja joka antaa henkilölle valheellisen vaikutelman siitä, että se on aito tai totuudenmukainen”. Käsittelyn ja tuottamisen välinen ero on selitetty edellä kohdassa 4.1. Syväväärennöksen käsitteen selventämiseksi alla tarkastellaan määritelmässä esitettyjä neljää kumulatiivista kriteeriä: i) muistuttaa ii) olemassa olevia iii) henkilöitä, esineitä, paikkoja, toimijoita tai tapahtumia ja iv) antaa henkilölle valheellisen vaikutelman siitä, että se on aito tai totuudenmukainen.

i)

Muistuttaminen: Tekoälysäädöksen 3 artiklan 60 kohdassa täsmennetään, että tekoälyllä tuotetun tai käsitellyn kuva-, ääni- tai videosisällön on ”muistutettava” olemassa olevia kohteita ollakseen syväväärennös. Tekoälysäädöksen johdanto-osan 134 kappaleessa todetaan lisäksi, että tällaisen muistuttamisen olisi oltava ”selvää”. Tekoälyllä tuotettu tai käsitelty kuva-, ääni- tai videosisältö muistuttaa kohdetta selvästi, jos syväväärennetty sisältö ja syväväärennöksen simuloima kohde (mukaan lukien mikä tahansa sen tunnistettavista osista) ovat hyvin samankaltaisia. Sisällön ei tarvitse olla identtinen kohteen kanssa. Käyttöönottajan on arvioitava tapauskohtaisesti simuloidun kohteen ja syväväärennetyn sisällön objektiivisen vertailun perusteella, muistuttaako sisältö selvästi simuloitua kohdetta. Vertailun on perustuttava muun muassa siihen, missä määrin syväväärennöksessä esitetään ominaisuuksia tai erityispiirteitä.

ii)

Olemassaolo: Tekoälysäädöksen 3 artiklan 60 kohdassa täsmennetään, että tekoälyllä tuotetun tai käsitellyn kuva-, ääni- tai videosisällön on muistutettava ”olemassa olevaa” kohdetta (tai olemassa olevia kohteita) ollakseen syväväärennös. Jotta täytetään tosiasiallisesti tekoälysäädöksen 50 artiklan 4 kohdan tarkoitus, joka on toisena henkilönä esiintymisen, harhaanjohtamisen, väärän tiedon levittämisen, manipuloinnin ja petosten riskien vähentäminen, olemassaoloa koskevalla kriteerillä tarkoitetaan, että tekoälyllä tuotetun tai käsitellyn kuva-, ääni- tai videosisällön olisi muistutettava realistisia kohteita (esimerkiksi henkilöitä, esineitä tai paikkoja). Näin ollen jotta simuloituja henkilöitä, esineitä, paikkoja, toimijoita tai tapahtumia voidaan pitää syväväärennöksinä, riittää, että ne muistuttavat jotakuta tai jotakin, joka on olemassa, voi todennäköisesti olla olemassa tai olisi todennäköisesti voinut olla olemassa todellisuudessa, sillä tällainen sisältö voi olla merkittävä harhaanjohtamisen, manipuloinnin ja disinformaation lähde. Sitä vastoin epärealistisina pidetään simuloituja henkilöitä, esineitä, paikkoja, toimijoita tai tapahtumia, jotka esimerkiksi uhmaavat luonnon tai fysiikan lakeja tai esittävät elämänmuotoja, joita ei biologian alalla ole yleisesti hyväksytty (esimerkiksi ilman mekaanisia apuvälineitä lentävät ihmiset, lohikäärmeet tai autoja ajavat norsut), ja jotka eivät voi olla harhaanjohtavia. Näin ollen ne eivät kuulu avoimuusvelvoitteen soveltamisalaan.

iii)

Henkilöt, esineet, paikat, toimijat tai tapahtumat: Tekoälysäädöksen 3 artiklan 60 kohdassa täsmennetään, että tekoälyllä tuotetun tai käsitellyn kuva-, ääni- tai videosisällön olisi muistutettava olemassa olevia ”henkilöitä, esineitä, paikkoja, toimijoita tai tapahtumia” ollakseen syväväärennös. ”Henkilöillä” tarkoitetaan realistisia ihmisiä (mukaan lukien todellisten henkilöiden digitaaliset kopiot, realistiset tekoälyllä tuotetut ihmisavatarit tai -persoonat sekä henkilökohtaiset ominaisuudet tai ilmaisutavat, kuten kuva, ääni, käyttäytyminen tai esiintyminen). ”Esineillä” tarkoitetaan realistisia, elottomia, aineellisia kappaleita, kuten rakennuksia, taideteoksia, koneita ja kulutustavaroita. ””Paikoilla” tarkoitetaan realistisia sijainteja. ”Toimijoilla” tarkoitetaan realistisia elollisia olentoja, jotka eivät ole ihmisiä, mukaan lukien eläimet tai muut biologiset elämänmuodot. ”Tapahtumilla” tarkoitetaan realistisia kohtauksia tai tilanteita, joissa voi olla mukana henkilöitä, esineitä, paikkoja ja toimijoita (esimerkiksi historiallisten tapahtumien esittäminen tai ammattihenkilöille tai kuluttajille tarkoitettujen palvelujen kuvaaminen).

iv)

Valheellisen vaikutelman antaminen henkilölle siitä, että sisältö on aito tai totuudenmukainen: Tekoälysäädöksen 3 artiklan 60 kohdan mukaan syväväärennöksellä tarkoitetaan tekoälyllä tuotettua tai käsiteltyä kuva-, ääni- tai videosisältöä, joka muistuttaa olemassa olevia henkilöitä, esineitä, paikkoja, toimijoita tai tapahtumia ja joka ”antaa henkilölle valheellisen vaikutelman siitä, että se on aito tai totuudenmukainen”. Tämä neljäs kriteeri liittyy syväväärennetyn sisällön olennaiseen ominaisuuteen ja siihen, että se voi johtaa henkilöä harhaan sisällön aitouden tai totuudenmukaisuuden suhteen (32). Sisällön aitoudella tarkoitetaan sitä, onko sisältö aidosti sitä, mitä se esittää olevansa lähteen tai luomisprosessin osalta (mukaan lukien esimerkiksi todellisten ihmisten tai eläinten osallistuminen, niiden tosiasiallinen käyttäytyminen tai toiminta, esineiden todellinen ulkonäkö tai käyttö, palvelujen toimittaminen taikka tapahtuman paikkansapitävä kuvaaminen tai kulku). Totuudenmukaisuus liittyy sisällön todenperäisyyteen (esimerkiksi syväväärennöksessä esitettyjen asioiden paikkansapitävyyteen).

(114)

Sitä, antaako sisältö ”henkilölle valheellisen vaikutelman siitä, että se on aito tai totuudenmukainen”, olisi arvioitava kokonaisuutena ottaen huomioon se, miten paljon sisältö muistuttaa simuloitua kohdetta, sisällön mahdollinen olennainen sanoma, aiotut ja ennakoitavissa olevat käyttöönottoyhteydet, ympäristö, jossa sisältö esitetään, aiottu ja kohtuudella ennakoitavissa oleva yleisörakenne sekä yleisön odotukset. Tämä arviointi on kuitenkin objektiivinen, ja sisältö voi olla syväväärennös, vaikka käyttöönottajalla ei olisi aikomusta johtaa sisällölle altistuvia luonnollisia henkilöitä harhaan. Käyttöönottoyhteyden ja yleisön odotusten osalta tämä tarkoittaa, että jos sisältöä käytetään tietyissä käyttöönottoyhteyksissä, joissa aiottu ja kohtuudella ennakoitavissa oleva yleisö ei odota sisällön olevan aitoa tai totuudenmukaista, tekoälyllä tuotettu tai käsitelty sisältö ei välttämättä anna valheellista vaikutelmaa siitä, että se on aito tai totuudenmukainen, vaikka se ei tosiasiassa olisikaan sellainen. Tällaisissa tapauksissa syväväärennöksen määritelmän neljäs kriteeri ei täyty. Esimerkiksi taustakuvien tai erityistehosteiden tuottaminen tai käsittely tai tekninen esi- ja jälkikäsittely tekoälyllä osana elokuvatuotannon vakioprosesseja ei todennäköisesti tee sisällöstä sellaista, että se antaisi yleisölle valheellisen vaikutelman siitä, että se on aitoa tai totuudenmukaista. Sitä vastoin tekoälyn käyttö yleisön käsitykseen vaikuttavien olennaisten elementtien tuottamiseen tai käsittelemiseen tekee siitä todennäköisesti sellaista (kuten täysin tekoälyllä luodut näyttelijät, todellisten tai kuolleiden näyttelijöiden digitaaliset kopiot, nuorentaminen, simuloidut esitykset ja niiden osat tai henkilöiden, esineiden, paikkojen tai tapahtumien epäaito tai totuudenvastainen esittäminen dokumenttielokuvissa). Kuva- ja videosisällön osalta on todettu, että mitä fotorealistisempaa sisältö on, sitä todennäköisemmin sitä olisi pidettävä syväväärennöksenä (koska se todennäköisesti muistuttaa olemassa olevia kohteita), mutta fotorealismi ei yksinään ole arvioinnin kannalta ratkaisevaa. Olisi lisäksi arvioitava, pystyykö tällainen sisältö johtamaan henkilöä harhaan sisällön aitouden tai totuudenmukaisuuden suhteen, ottaen samalla huomioon muun muassa aiottu ja ennakoitavissa oleva käyttöönottoyhteys.

(115)

Toisin kuin tekoälysäädöksen 50 artiklan 1 kohdassa säädetään, sen arvioiminen, antaako sisältö henkilölle valheellisen vaikutelman siitä, että se on aito tai totuudenmukainen, ei saisi perustua hypoteettiseen ”keskivertohenkilöön”, jonka odotetaan altistuvan sisällölle (ks. kohta 3.2.1). Sen sijaan arvioinnissa olisi otettava asianmukaisesti huomioon kohtuudella ennakoitavissa olevan, syväväärennetylle sisällölle mahdollisesti altistuvan yleisön mahdollinen monimuotoisuus. Yleisörakenteen asianmukainen huomioon ottaminen on erityisen tärkeää, jos on kohtuudella ennakoitavissa, että lapset, ikääntyneet tai muut henkilöryhmät, joilla on heikompi digi- ja tekoälylukutaito tai yleinen tietotaso, voivat jossain vaiheessa havaita syväväärennetyn sisällön, sillä heitä on helpompi johtaa harhaan sisällön aitouden ja totuudenmukaisuuden suhteen. Tällaisissa tapauksissa se, että sisältö antaa kyseiselle ennakoitavissa olevan yleisön osalle valheellisen vaikutelman siitä, että se on aito tai totuudenmukainen, voi riittää siihen, että sisältö katsotaan syväväärennökseksi. Käyttöönottajien ei kuitenkaan odoteta ottavan huomioon sitä, että kolmannet osapuolet voivat levittää syväväärennetyn sisällön eteenpäin laajemmalle yleisölle kuin mikä on ollut käyttöönottajan kohtuudella ennakoitavissa, suunnitellut jakelukanavat huomioon ottaen (esimerkiksi jos syväväärennetty sisältö esitetään pelkästään tilaajille tarkoitetussa verkkosivuston osassa tai yrityksen uutiskirjeen osana, käyttöönottajan ei tarvitse ottaa oletusarvoisesti huomioon laajaa julkista saatavuutta).

(116)

Vastaavasti sillä, että jo aiemmin olemassa olleen sisällön vähäisiä sisällöllisiä tai teknisiä seikkoja on käsitelty tekoälyn tuella, voi olla vain vähäistä merkitystä, kun henkilö arvioi sisällön aitoutta tai totuudenmukaisuutta, eikä se tee tuloksena saadusta sisällöstä syväväärennöstä. Tällaista käsittelyä voivat olla esimerkiksi taustan yksityiskohtien muokkaaminen (esimerkiksi ohikulkijan poistaminen), kirkkauden säätäminen, ääniparametrien mukauttaminen, värien korjaaminen, kohinan vähentäminen tai poistaminen, esteettömyyden tai tiedostojen pakkaamisen parantaminen sekä kosmeettiset säädöt ja parannukset. Se, kuuluuko käsittely tähän kategoriaan, riippuu asiayhteydestä ja vaikutuksesta henkilöiden käsitykseen sisällön aitoudesta tai todenmukaisuudesta kyseisessä tapauksessa. Esimerkiksi värien korjaaminen, olemassa olevan sisällön taustan laajentaminen, taustojen säätäminen tai korvaaminen selvästi esteettisiä tarkoituksia varten, olemassa olevien tuotteiden kokoonpano tai järjestely tai tuotemainoksissa tai -pakkauksissa käytettävien kuvien koon muuttaminen tekoälyllä vaikuttavat todennäköisesti vain vähän henkilön käsitykseen mainoksen ja tuotteen aitoudesta ja totuudenmukaisuudesta. Sitä vastoin journalististen kuvien taustojen yksityiskohtien olennainen muokkaaminen tekoälyn avulla tavalla, joka ylittää luonteeltaan tekniset toimitukselliset vakiokäytännöt, voi vaikuttaa kielteisesti henkilön käsitykseen sisällön aitoudesta ja totuudenmukaisuudesta.

Esimerkkejä tekoälysäädöksen 3 artiklan 60 kohdan mukaisista syväväärennöksistä:

—

tekoälyllä käsitelty kuva tilanteesta, jossa on kaksi todellista ammattijalkapalloilijaa jalkapallostadionia muistuttavan rakennuksen edessä;

—

tekoälyllä tuotettu äänisisältö, jossa sanomalehden podcastin vakioesiintyjien ja vierailevan keskustelijan kloonatut äänet keskustelevat uutistapahtumista;

—

tekoälyllä tuotettu video, jossa poliitikkoa muistuttava henkilö pitää puheen yleisön edessä;

—

tekoälyllä tuotettu video, jossa on tekoälyllä tuotettu esitys kuuluisasta vaikuttajasta mainonta- tai myynninedistämisyhteydessä;

—

tekoälyllä tuotettu video, jossa yrityksen toimitusjohtajan realistinen synteettinen avatar onnittelee työntekijöitä näiden työstä ja yrityksen kuluneen vuoden tuloksista;

—

tekoälyllä tuotettu mainoksessa tai pakkauksessa oleva tuotetta esittävä kuva, joka voi vaikuttaa yleisön käsitykseen ja johtaa harhaan tuotteen todellisen ulkonäön, ominaisuuksien tai käytön suhteen (esimerkiksi jos tuote näyttää kuvassa erilaiselta kuin todellinen tuote – todellista houkuttelevammalta tai laadukkaammalta).

Esimerkkejä, jotka eivät ole tekoälysäädöksen 3 artiklan 60 kohdan mukaisia syväväärennöksiä:

—

tekoälyllä tuotettu kuva tilanteesta, jossa sfinksi lentää Eiffel-tornin yli;

—

tekoälyllä tuotettu video hiiristä, jotka väittelevät ihmiskielellä parhaasta juustotyypistä osana juustonvalmistajan mainoskampanjaa;

—

kuvitteellisten hahmojen äänten toistaminen tekoälyn avulla (esimerkiksi äänikirjoja, pelejä tai animaatioita varten), kun puhujien henkilöllisyyden suhteen ei tapahdu harhaanjohtamista;

—

radiolähetys, jonka teknisiä ääniparametreja on säädetty tekoälyllä (esimerkiksi äänenvoimakkuuden normalisointi, kohinan vähentäminen tai äänenpakkaus) muuttamatta puhujien todellisia sanoja tai puhetapaa;

—

tekoälyllä tuotettu piirros olemassa olevasta kuvasta, joka kuvaa historiallista tapahtumaa;

—

video, jossa tieteellisen tv-ohjelman esittäjä kävelee vuoristoalueen halki ja käsittelee samalla jäätiköiden vetäytymistä, jota kuvaa tekoälyllä käsitelty tausta-animaatio siitä, miten jäätiköt vetäytyivät aiemmalta tasoltaan nykyiselle;

—

tekoälyllä tuotetut kuvitteelliset ympäristöt (esimerkiksi kuvitteelliset metsät ja linnat) videopeleissä;

—

elokuvat, joissa todelliset olemassa olevat näyttelijät (joita ei ole käsitelty tekoälyllä) näyttelevät tekoälyllä tuotettua taustaa vasten (jossa esimerkiksi kuvataan kuvitteellinen preeria-alue tai muinaisten kaupunkien historiallisia rakennuksia);

—

todellinen tuote (esimerkiksi auto), joka esitetään mainoksessa tekoälyllä tuotettua taustaa ja ympäristöä vasten, kunhan mainos ei todennäköisesti johda yleisöä harhaan tuotteen todellisen ulkonäön, ominaisuuksien ja käytön suhteen.

6.1.2   Tekoälysäädöksen 50 artiklan 4 kohdan ensimmäisen alakohdan mukainen ilmoitusvelvoite

(117)

Tekoälysäädöksen 50 artiklan 4 kohdan ensimmäisessä alakohdassa velvoitetaan sellaisten tekoälyjärjestelmien käyttöönottajat, jotka tuottavat tai manipuloivat kuva-, ääni- tai videosisältöä muodostaen syväväärennettyä sisältöä, ilmoittamaan, ”että sisältö on keinotekoisesti tuotettu tai että sitä on manipuloitu”. Tekoälysäädöksen johdanto-osan 134 kappaleessa selvennetään, että tekoälyjärjestelmiä syväväärennetyn sisällön tuottamiseen tai käsittelemiseen käyttävien käyttöönottajien olisi ilmoitettava selkeästi ja erikseen, että tällainen sisältö on tuotettu tai käsitelty keinotekoisesti, merkitsemällä tekoälyn tuotos vastaavasti ja ilmoittamalla sen keinotekoinen alkuperä. Tekoälysäädöksen 50 artiklan 4 kohdan ensimmäisen alakohdan mukaisesti sovellettujen merkintä- tai ilmoitusmenetelmien olisi oltava luonnollisten henkilöiden ymmärrettävissä ja havaittavissa (esimerkiksi visuaalisten tai äänimerkkien avulla) ilman, että henkilöiden tarvitsee käyttää erityisiä teknisiä välineitä tai toteuttaa erityisiä toimia. Näin ollen käyttöönottajat eivät voi tukeutua tarjoajan tekoälysäädöksen 50 artiklan 2 kohdan mukaisesti sisältöön sisällyttämiin koneellisesti luettaviin merkintöihin, koska nämä merkinnät eivät ole välittömästi selkeitä ja selvästi erottuvia syväväärennetylle sisällölle altistuvien luonnollisten henkilöiden kannalta.

(118)

Käyttöönottajat voivat noudattaa tekoälysäädöksen 50 artiklan 7 kohdan perusteella käytännesääntöjä, jotka on arvioitu riittäviksi kyseisen kohdan mukaisesti, osoittaakseen noudattavansa tätä ilmoitusvelvoitetta. Lisätietoja tällaisten käytännesääntöjen noudattamisen vaikutuksista ja sellaisten muiden käyttöönottajien valvonnasta, jotka eivät noudata käytännesääntöjä, on jäljempänä kohdassa 8.1.

6.1.3   Taiteellisen, luovan, satiirisen, fiktiivisen tai vastaavan syväväärennetyn sisällön avoimuus

(119)

Tekoälysäädöksen 50 artiklan 4 kohdan ensimmäisessä alakohdassa säädetään sellaisia syväväärennöksiä koskevasta kevennetystä avoimuusvelvoitteesta, jotka ovat osa selvästi taiteellista, luovaa, satiirista, fiktiivistä tai vastaavaa teosta tai ohjelmaa. Tällaisen sisällön osalta avoimuusvelvoite rajoittuu siihen, että syväväärennöksestä ilmoitetaan asianmukaisesti tavalla, joka ei haittaa teoksen esittämistä tai sen käyttöä.

(120)

Asiaankuuluvat sisältöluokat: Jotta syväväärennökseen (kuvaan, ääneen tai videoon) voitaisiin soveltaa ilmoittamista koskevaa kevennettyä avoimuusvelvoitetta, sen olisi kuuluttava vähintään yhteen seuraavista sisältöluokista: taiteelliset, luovat, satiiriset, fiktiiviset tai vastaavat teokset tai ohjelmat. Se, kuuluuko syväväärennös yhteen tai useampaan näistä luokista, edellyttää käyttöönottajan suorittamaa tapauskohtaista arviointia. Sovellettaessa tekoälysäädöksen 50 artiklan 4 kohtaa nämä luokat ymmärretään seuraavasti:

—

Taiteellisilla teoksilla tarkoitetaan teoksia, jotka on luotu taidetarkoituksessa, mukaan lukien musiikki, elokuvateokset ja kuvataide.

—

Luovilla teoksilla tarkoitetaan teoksia, joihin liittyy luovia valintoja. Teoksia, joita ovat motivoineet pääasiassa toiminnalliset tai tekniset näkökohdat, ei voida pitää luovina.

—

Satiirisilla teoksilla tarkoitetaan teoksia, joiden tarkoituksena on kritisoida yhteiskuntaa, politiikkaa, liike-elämää tai julkisuuden henkilöitä käyttämällä humoristisia tekniikoita (kuten ironiaa, sarkasmia, pilkkaamista tai pastissia).

—

Fiktiivisillä teoksilla tarkoitetaan kulttuurisia teoksia, joihin sisältyy henkilöitä, esineitä, paikkoja, toimijoita tai tapahtumia kuvitteellisessa mutta todentuntuisessa ympäristössä.

—

Vastaavilla teoksilla tarkoitetaan teoksia, joilla on edellä mainittujen luokkien kanssa samoja ydinpiirteitä tai samanlaisia ilmaisullisia tai toiminnallisia ominaisuuksia mutta jotka eivät sovi täysin yhteenkään kyseisistä luokista.

(121)

Edellä mainittuja sisältöluokkia voidaan soveltaa myös ohjelmiin, joilla tarkoitetaan sellaista yhtä yksittäistä osaa mediapalvelun tarjoajan laatimassa ohjelma-aikataulussa tai ohjelmaluettelossa, joka on muodoltaan ja sisällöltään verrattavissa televisiolähetykseen (33). Viittaus ”teoksiin” tekoälysäädöksen 50 artiklan 4 kohdan yhteydessä ei vaikuta siihen, voidaanko sisältö suojata tekijänoikeutta ja lähioikeuksia koskevan unionin lainsäädännön nojalla.

(122)

Luokkaan kuulumisen selvyys: Syväväärennöksen kuuluminen yhteen (tai useampaan) edellä mainituista sisältöluokista olisi oltava selvää sille altistuville luonnollisille henkilöille. Tämä tarkoittaa, että luokkia olisi tulkittava tiukasti, mikä on perusteltua siksi, että sovelletaan kevyempää ilmoitusvelvoitetta sananvapauteen ja taiteen ja tutkimuksen vapauteen mahdollisesti kohdistuvien vaikutusten vuoksi. Samalla on kuitenkin puututtava asianmukaisesti väärän tiedon levittämisen, manipuloinnin ja harhaanjohtamisen riskeihin. Näin ollen sisältö, jonka luonne on yleisölle mahdollisesti epäselvä tai moniselitteinen, ei kuulu tämän kevyemmän avoimuusvelvoitteen soveltamisalaan. Merkityksellisiä tekijöitä sen arvioimisessa, onko sisältö luonteeltaan selvästi taiteellinen, luova, satiirinen tai fiktiivinen, ovat: i) se, esitetäänkö sisällössä muotoja tai tyylejä, jotka ovat ominaisia sisältöluokille (esimerkiksi ironia tai liioittelu satiiristen teosten osalta, tietyt taidetyylit tai ominaisten teemojen, tekniikoiden tai estetiikan esittäminen); ii) asiayhteys, jossa sisältö esitetään (esimerkiksi yhdistetäänkö alusta, väline tai paikka, jossa sisältö esitetään, asetetaan saataville tai jaetaan, taiteelliseen, luovaan, satiiriseen tai fiktiiviseen käyttöön); ja iii) yleisön odotukset (esimerkiksi elokuva, peliympäristö tai virtuaalitodellisuustilanne). Lisäksi edellytys, jonka mukaan sisällön olisi kuuluttava ”selvästi” johonkin edellä mainituista sisältöluokista, sulkee kyseisten sisältöluokkien soveltamisalan ulkopuolelle sisällön, joka on luonteeltaan yksinomaan informatiivista tai kaupallista ja joka on tunnistettavissa sellaiseksi (esimerkiksi uutisraportointi). Tältä osin joitakin sisältötyyppejä (esimerkiksi mainoksia tai dokumentteja), jotka sisältävät syväväärennöksiä, voidaan pitää selvästi luovina tai fiktiivisinä teoksina tietyissä erityistilanteissa mutta ei toisissa, koska arviointi tehdään tapauskohtaisesti. Jos syväväärennöksessä yhdistyy useita eri ominaisuuksia (esimerkiksi informatiivisia ja luovia), informatiivisen ominaisuuden olisi oltava aina ratkaiseva ja edellytettävä merkitsemistä koskevien vakiovaatimusten noudattamista.

(123)

Asianmukainen ilmoitus, joka ei haittaa teoksen esittämistä tai käyttöä: Syväväärennöksiä, jotka ovat osa selvästi taiteellisia, luovia, satiirisia tai fiktiivisiä teoksia tai ohjelmia, ei ole suljettu tekoälysäädöksen 50 artiklan 4 kohdan ensimmäisessä alakohdassa säädetyn avoimuusvelvoitteen ulkopuolelle. Käyttöönottajien on edelleen ilmoitettava sisällön tekoälyalkuperästä tai sen manipuloinnista, mutta ne voivat tehdä niin asianmukaisesti tavalla, joka ei haittaa teoksen esittämistä tai sen käyttöä. Tekoälysäädöksen johdanto-osan 134 kappaleessa selvennetään, että tällainen asianmukainen ilmoittaminen ei saisi haitata tavanomaista hyödyntämistä ja käyttöä ja että sen olisi samalla mahdollistettava teoksen hyödyllisyyden ja laadun säilyttäminen. Se, mitkä ilmoitustoimenpiteet katsotaan asianmukaisiksi, määritetään tapauskohtaisella arvioinnilla, jonka yhteydessä käyttöönottajat voivat ottaa huomioon kaikki merkitykselliset tekijät (kuten teoksen luonteen, yleisön sekä asiayhteyden). Käyttöönottajien on joka tapauksessa noudatettava tekoälysäädöksen 50 artiklan 5 kohtaa (ks. jakso 7). Käyttöönottajat voivat noudattaa tekoälysäädöksen 50 artiklan 7 kohdan perusteella käytännesääntöjä, jotka on arvioitu riittäviksi kyseisen säännöksen mukaisesti, osoittaakseen noudattavansa tätä ilmoitusvelvoitetta. Lisätietoja tällaisten käytännesääntöjen noudattamisen vaikutuksista ja sellaisten muiden käyttöönottajien valvonnasta, jotka eivät noudata käytännesääntöjä, on jäljempänä kohdassa 8.1.

(124)

Kolmansien osapuolten oikeuksien ja vapauksien asianmukainen turvaaminen: Tekoälysäädöksen johdanto-osan 134 kappaleessa selvennetään, että kevennetyn avoimuusvelvoitteen noudattaminen sekä taiteellisten, luovien, satiiristen tai fiktiivisten syväväärennösten käyttö edellyttävät, että ”kolmansien osapuolten oikeudet ja vapaudet turvataan asianmukaisesti”. Näin ollen käyttöönottajien on varmistettava, että kolmansien osapuolten oikeudet ja vapaudet (mukaan lukien esimerkiksi heidän oikeutensa henkilötietojen suojaan tai teollis- ja tekijänoikeudet) turvataan asianmukaisesti ja niitä kunnioitetaan luotaessa tai julkaistaessa syväväärennöksiä, vaikka syväväärennöstä pidettäisiin taiteellisena, luovana, satiirisena tai fiktiivisenä. Kevennetyn avoimuusvelvoitteen soveltaminen ei voi olla peruste sille, että teollis- ja tekijänoikeuksia koskevan unionin lainsäädännön tai unionin tietosuojalainsäädännön mukaisia yksilöiden tai oikeudenhaltijoiden perusoikeuksia ei kunnioiteta (34).

Esimerkkejä syväväärennöksistä, jotka ovat taiteellisia, luovia, satiirisia, fiktiivisiä tai vastaavia teoksia:

—

taiteellinen/fiktiivinen teos: elokuvat (tai elokuvatrailerit), jotka sisältävät tekoälyn tuottamia tai manipuloimia syväväärennöksiä nuorennetuista olemassa olevista näyttelijöistä tai digitaalisia kopioita kuolleista näyttelijöistä tai muista henkilöistä ja jotka ovat saatavilla elokuvateattereissa tai suoratoistoalustoilla;

—

taiteellinen/luova teos: tekoälyn tuottama minkä tahansa tyylilajin musiikki, joka muistuttaa olemassa olevien artistien yksilöllistä tyyliä;

—

satiirinen/fiktiivinen teos: tekoälyn manipuloima kuva, jossa olemassa oleva poliitikko on sijoitettu tilanteeseen, jonka on selvästi tarkoitus kritisoida humoristisesti tiettyjä kyseisen henkilön tekemiä tai tukemia poliittisia päätöksiä;

—

vastaava luova/fiktiivinen teos: tekoälyn tuottama pelikuvasto, johon sisältyy syväväärennettyjä simulaatioita todellisista, olemassa olevista henkilöistä.

Esimerkkejä syväväärennöksistä, jotka eivät ole taiteellisia, luovia, satiirisia, fiktiivisiä tai vastaavia teoksia:

—

tekoälyn manipuloima ostoskanavan tyylisesti toteutettu video, joka sisältää syväväärennettyjä simulaatioita ihmisistä mainostamassa tuotetta tekoälyn tuottamassa kohtauksessa, jossa simuloidut kuluttajat käyttävät tuotetta käytännössä, katsojien suostuttelemiseksi ostamaan tuotteen;

—

julkisuuden henkilöitä esittävä tekoälyn tuottama kuva, joka esittää heidän osallistuneen toimiin, joita ei ole koskaan tapahtunut, ja jolla ei ole fiktiivistä, satiirista tai vastaavaa tarkoitusta;

—

tekoälyn manipuloima video realistisesta synteettisestä vaikuttajasta, joka testaa todellista sponsoroitua tuotetta ja keskittyy ainoastaan tuotteen toiminnallisuuksien esittelemiseen;

—

realistisia holokaustikohtauksia esittävä tekoälyn tuottama video, jota jaetaan julkisesti saatavilla olevilla sosiaalisen median alustoilla.

6.1.4   Lainvalvontatarkoituksessa sovellettava poikkeus

(125)

Jos syväväärennöstä (esimerkiksi tekoälyn tuottamaa sellaisia tapahtumia simuloivaa videota, joita ei ole koskaan tapahtunut) on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen tai tutkimiseen ja rikoksiin liittyviin syytetoimiin, käyttöönottajat vapautetaan tekoälysäädöksen 50 artiklan 4 kohdan ensimmäisen alakohdan mukaisesta avoimuusvelvoitteesta. Tämän säännöksen kannalta merkityksellisiä ovat myös edellä kappaleissa 46–48 esitetyt, tekoälysäädöksen 50 artiklan 1 kohdassa säädettyä samankaltaista poikkeusta koskevat selvennykset.

6.1.5   Vuorovaikutus unionin muiden säädösten kanssa

(126)

Tekoälysäädöksen 50 artiklan 4 kohdan ensimmäisen alakohdan mukainen avoimuusvelvoite liittyy erittäin suurten verkkoalustojen ja verkkohakukoneiden tarjoajien velvoitteisiin tunnistaa ja vähentää systeemisiä riskejä digipalvelusäädöksen 34 ja 35 artiklan, erityisesti sen 35 artiklan 1 kohdan k alakohdan mukaisesti (35). Jälkimmäisessä säännöksessä luetellaan – niiden mahdollisten riskinvähentämistoimenpiteiden joukossa, joita erittäin suurten verkkoalustojen ja erittäin suurten verkossa toimivien hakukoneiden tarjoajat voivat toteuttaa – toimenpiteet, joilla varmistetaan, että ”tietty tieto on erotettavissa selvästi erottuvien merkintöjen avulla, kun se esitetään niiden verkkorajapinnoilla, jos se on tuotettua tai manipuloitua kuva-, ääni- tai videosisältöä, joka selvästi muistuttaa olemassa olevia henkilöitä, esineitä, paikkoja tai muita tahoja tai tapahtumia ja antaa henkilölle valheellisen vaikutelman siitä, että se on aito tai totuudenmukainen”. Lisäksi erittäin suurten verkkoalustojen ja erittäin suurten verkossa toimivien hakukoneiden tarjoajat voivat tarjota myös helppokäyttöisen toiminnon, jonka avulla palvelun vastaanottajien on mahdollista ilmoittaa tällaisista tiedoista. Vaikka tämä digipalvelusäädöksen säännös vaikuttaa samanlaiselta kuin tekoälysäädöksen 50 artiklan 4 kohta, se täydentää sitä ja sisältää kaksi tärkeää eroa:

—

Eri aineellinen soveltamisala: Tekoälysäädöksen 50 artiklan 4 kohtaan verrattuna digipalvelusäädöksen 35 artiklan 1 kohdan k alakohta kattaa laajemman joukon sisältöjä, jotka voivat antaa valheellisen vaikutelman siitä, että ne ovat aitoja tai totuudenmukaisia, riippumatta sisällön luomiseen käytetystä teknologiasta (eli se kattaa sisällöt, jotka on tuotettu tai joita on manipuloitu tekoälyjärjestelmillä tai millä tahansa muulla välineellä).

—

Eri henkilöllinen soveltamisala: Tekoälysäädöksen 50 artiklan 4 kohdassa velvoitetaan syväväärennöksiä tuottavien tai manipuloivien tekoälyjärjestelmien käyttöönottajat merkitsemään tällainen sisältö. Digipalvelusäädöksen 35 artiklan 1 kohdan k alakohtaa puolestaan sovelletaan sellaisten erittäin suurten verkkoalustojen ja hakukoneiden tarjoajiin, jotka levittävät sisältöä tai mahdollistavat tällaisen sisällön löytämisen haun avulla. Esimerkiksi tekoälysäädöksen mukaisia erittäin suureen verkkoalustaan integroitujen tekoälyjärjestelmien käyttöönottajia voidaan pitää digipalvelusäädöksen 3 artiklan b alakohdan mukaisina ”palvelun vastaanottajina” (36), jos ne käyttävät erittäin suurta verkkoalustaa kyseisellä tekoälyjärjestelmällä tuotetun sisällön levittämiseen. Erittäin suurta verkkoalustaa voidaan puolestaan pitää tekoälyjärjestelmän tarjoajana, jos tekoälysäädöksen 3 artiklan 3 kohdan edellytykset täyttyvät. Jos erittäin suurten verkkoalustojen tai verkkohakukoneiden tarjoajat asettavat tällaisten käyttöönottajien saataville merkintävälineitä, joiden avulla ne voivat merkitä syväväärennetyn sisältönsä tekoälysäädöksen 50 artiklan 4 kohdan mukaisesti (eli ilmoittaa tekoälyalkuperästä selkeällä ja selvästi erottuvalla tavalla), kyseiset käyttöönottajat voivat käyttää tällaisia välineitä täyttääkseen kyseisen säännöksen mukaisen avoimuusvelvoitteensa kyseisen erittäin suuren verkkoalustan tai verkkohakukoneen yhteydessä. Tällaisen toiminnon tarjoaminen ei rajoita tekoälysäädöksen mukaisten käyttöönottajien velvollisuutta täyttää tekoälysäädöksen 50 artiklan 4 kohdan mukaiset merkintävelvoitteensa. Lisäksi erittäin suurten verkkoalustojen ja erittäin suurten verkossa toimivien hakukoneiden tarjoajia pidetään myös tekoälysäädöksen mukaisina tekoälyjärjestelmän käyttöönottajina, jos ne käyttävät valvonnassaan olevaa tekoälyjärjestelmää omiin ammatillisiin tarkoituksiinsa (esimerkiksi luovat visuaalista materiaalia käytettäväksi osana markkinointimateriaalia).

(127)

Jos syväväärennös sisältää tietoja suoraan tai välillisesti tunnistettavissa olevasta luonnollisesta henkilöstä (joka on elossa), käyttöönottajien on unionin tietosuojalainsäädännön mukaisina rekisterinpitäjinä noudatettava myös unionin tietosuojalainsäädännön mukaisia velvoitteita (37). Tämä kattaa esimerkiksi henkilötietojen käsittelyä sekä kuvattuihin rekisteröityihin liittyvien tietojen käsittelytietoja koskevan asianmukaisen oikeusperustan käytön.

(128)

Syväväärennöksiä tuottavien tekoälyjärjestelmien käyttöönottajien on lisäksi varmistettava, että ne noudattavat unionin asiaankuuluvaa teollis- ja tekijänoikeuksia koskevaa lainsäädäntöä (kuten unionin tavaramerkkilainsäädäntöä sekä tekijänoikeutta tai lähioikeuksia koskevaa unionin lainsäädäntöä), jos niiden syväväärennöksiin sisältyy tämän lainsäädännön nojalla suojattuja kohteita. Merkinnän tai kuvakkeen lisääminen syväväärennökseen ei sellaisenaan vaikuta mahdollisuuteen suojata se tekijänoikeudella. Tätä mahdollisuutta olisi arvioitava sovellettavan unionin tekijänoikeuslainsäädännön mukaisesti.

(129)

Jos syväväärennöksissä kuvataan olemassa olevia henkilöitä, käyttöönottajien on noudatettava myös asiaankuuluvia oikeudellisia järjestelmiä, joilla suojellaan henkilöiden kuviin tai ääniin liittyviä henkilöoikeuksia. Tekoälysäädöksen 50 artiklan 4 kohdan ensimmäisen alakohdan avoimuusvelvoite ei tarkoita, että voidaan tuottaa ja levittää tekoälyn tuottamia tai manipuloimia syväväärennöksiä, jotka ovat sovellettavan unionin tai kansallisen lainsäädännön (esimerkiksi harhaanjohtavaa mainontaa koskevan lainsäädännön tai rikoslainsäädännön) mukaan haitallisia ja lainvastaisia (kuten lapsiin kohdistuvaa seksuaaliväkivaltaa todistava kuvamateriaali ja suostumukseen perustumattomat intiimit kuvat) (ks. myös kohta 4.4).

6.2   Keskeiset osatekijät, käsitteet ja tekoälysäädöksen 50 artiklan 4 kohdan mukaiset, tekoälyn tuottamaa tai manipuloimaa tekstiä koskevat asiaan liittyvät avoimuusvelvoitteet

(130)

Tekoälysäädöksen 50 artiklan 4 kohdan toista alakohtaa sovelletaan, jos tietyt edellytykset täyttyvät:

i)

järjestelmän on oltava tekoälyjärjestelmä;

ii)

järjestelmää käytetään sellaisen tekstin tuottamiseen tai manipuloimiseen (ks. kohta 4.2.1), jonka julkaisemisen tarkoituksena on tiedottaa yleisölle yleistä etua koskevista asioista;

iii)

tekoälyjärjestelmän käyttö ei kuulu minkään niistä poikkeuksista soveltamisalaan, joita sovelletaan, jos 1) tekoälyn tuottama sisältö on läpikäynyt ihmisen suorittaman arviointiprosessin tai toimituksellisen valvonnan ja luonnollisella henkilöllä tai oikeushenkilöllä on toimituksellinen vastuu sisällön julkaisemisesta tai 2) käyttö on lain mukaan sallittua rikosten paljastamiseksi, estämiseksi tai tutkimiseksi ja rikoksiin liittyvien syytetoimien toteuttamiseksi.

6.2.1   Teksti, jonka julkaisemisen tarkoituksena on tiedottaa yleisölle yleistä etua koskevista asioista

(131)

Tekoälysäädöksen 50 artiklan 4 kohdan toisen alakohdan soveltamisalan selventämiseksi alla tarkastellaan kolmea osatekijää: i) teksti, jonka julkaisemisen ii) tarkoituksena on tiedottaa yleisölle iii) yleistä etua koskevista asioista.

i)

Tekstin julkaiseminen: Tekoälyn tuottaman tai manipuloiman tekstin on oltava julkaistu. Tämä tarkoittaa, että määrittelemättömän, melko suuren määrän toisiinsa liittymättömiä mahdollisia lukijoita olisi voitava tutustua tekstiin yhtäaikaisesti ja/tai peräkkäisesti joko maksua vastaan tai maksutta (esimerkiksi tilaukset) (38). Tekstiä ei sitä vastoin pidetä julkaistuna, jos mahdollisuus tutustua tekstiin on rajoitettu tiettyihin henkilöihin, jotka kuuluvat suljettuun yksityiseen ryhmään (esimerkiksi pieneen suljettuun ryhmään pikaviestisovelluksessa tai liian pieneen tai merkityksettömään ryhmään). Tekstejä, joita ei pidetä julkaistuina, ovat esimerkiksi henkilöiden välinen yksityinen viestinvaihto (ammatillisia tarkoituksia varten) tai organisaation sisäiset tekstit tai viestintä (esimerkiksi julkaisut yrityksen sisäisissä verkoissa).

ii)

Tiedottaminen yleisölle: Tekoälyn tuottaman tai manipuloiman tekstin julkaisemisen tarkoituksena olisi oltava yleisölle tiedottaminen. Tämä tarkoittaa, että tekstin tarkoituksena olisi oltava tiedon, mielipiteiden tai tosiseikkojen välittäminen. Sitä vastoin lyhyiden tekstien, joilla ei olennaisesti välitetä tietoa, mielipiteitä tai tosiseikkoja, ei voida katsoa tiedottavan yleisölle.

iii)

Yleistä etua koskevat asiat: Tekstillä olisi tiedotettava yleisölle ”yleistä etua koskevista asioista”. Yleisesti ottaen tällaisilla asioilla tarkoitetaan koko yhteiskunnan kannalta – joko paikallisella, kansallisella, unionin tai kansainvälisellä tasolla – merkityksellisiä asioita, joiden suhteen julkinen keskustelu tai valvonta on perusteltua. Tältä osin tekstien olisi katsottava käsittelevän yleistä etua koskevia asioita, jos ne koskevat politiikkaa ja demokraattisia prosesseja, julkishallintoa ja julkisia palveluja, oikeudenkäyttöä ja lainvalvontaa, perusoikeuksien suojelua, yleistä turvallisuutta, kansanterveyttä, ympäristönsuojelua, kuluttajien turvallisuutta tai mitä tahansa taloudellista, rahoitukseen liittyvää, poliittista, tieteellistä tai kulttuurista kehitystä, joka saattaa olla merkityksellinen julkisen keskustelun aihe. Asiat, joita voidaan pitää yleistä etua koskevina, voivat muuttua ajan mittaan ja eri yhteyksissä.

Esimerkkejä tekoälysäädöksen 50 artiklan 4 kohdan mukaisista teksteistä, joiden julkaisemisen tarkoituksena on tiedottaa yleisölle yleistä etua koskevista asioista ja jotka on merkittävä keinotekoisesti tuotetuiksi tai manipuloiduiksi, elleivät ne ole läpikäyneet ihmisen suorittamaa arviointiprosessia tai toimituksellista valvontaa (ks. kohta 6.2.3):

—

sanomalehden verkkosivustolla julkaistu tekoälyn tuottama tiivistelmä ihmisen kirjoittamasta artikkelista, jossa käsitellään kaupunginvaltuuston hiljattain tekemää päätöstä;

—

lifestyle-verkkosivuston artikkelin tekoälyllä manipuloidut osat, joissa vertaillaan eri ruokavalioiden vaikutuksia tiettyyn sairauteen keski-ikäisillä naisilla;

—

tekoälyn manipuloimat yritysraportit, jotka on julkaistu pörssiyhtiön verkkosivustolla ja jotka sisältävät sijoittajatietoja;

—

ilmatieteen laitoksen sosiaalisen median profiilissa julkaistu tekoälyn tuottama viesti, jossa varoitetaan kansalaisia myrskystä ja kerrotaan siihen liittyvistä varotoimista.

Esimerkkejä teksteistä, joiden julkaisemisen tarkoituksena ei ole tiedottaa yleisölle yleistä etua koskevista asioista ja jotka eivät kuulu tekoälysäädöksen 50 artiklan 4 kohdan soveltamisalaan:

—

tekoälyn tuottamat fantasiaromaanit;

—

tekoälyn manipuloima teksti, joka on osa yrityksen mainontaa tai tuotekuvauksia (ja joka ei sisällä esimerkiksi terveyteen, kuluttajien turvallisuuteen tai kestävän kehityksen mukaisuuteen liittyviä väitteitä);

—

chattibotin tuottama uutisyhteenveto, joka on saatavilla vain kyseiselle chattibotin käyttäjälle;

—

konsultin laatima tekoälyllä manipuloitu teksti asiakkaan neuvomiseksi toimenpiteistä, jotka on toteutettava sovellettavan lainsäädännön noudattamiseksi.

6.2.2   Tekoälysäädöksen 50 artiklan 4 kohdan toisen alakohdan mukainen ilmoitusvelvoite

(132)

Tekoälysäädöksen 50 artiklan 4 kohdan toisessa alakohdassa velvoitetaan sellaisten tekoälyjärjestelmien käyttöönottajat, jotka tuottavat tai manipuloivat tekstiä, jonka julkaisemisen tarkoituksena on tiedottaa yleisölle yleistä etua koskevista asioista, ilmoittamaan, että tällainen teksti on keinotekoisesti tuotettu tai sitä on manipuloitu. Tekoälysäädöksen johdanto-osan 134 kappaleessa selvennetään, että – samoin kuin syväväärennösten osalta – säännöksen soveltamisalaan kuuluvien tekstijulkaisujen käyttöönottajien olisi ilmoitettava selkeästi ja erikseen, että tällainen sisältö on tuotettu tai käsitelty keinotekoisesti, merkitsemällä tekoälyn tuotos vastaavasti ja ilmoittamalla sen keinotekoinen alkuperä. Samoin kuin syväväärennösten osalta vaaditaan, tekoälysäädöksen 50 artiklan 4 kohdan toisen alakohdan mukaisesti sovellettujen merkintä- tai ilmoitusmenetelmien (myös vastuuvapauslausekkeiden) olisi oltava selkeitä ja luonnollisten henkilöiden havaittavissa (esimerkiksi visuaalisesti tai auditiivisesti) ilman, että heidän tarvitsee käyttää erityisiä teknisiä välineitä tai toteuttaa erityisiä toimia. Käyttöönottajat voivat tekoälysäädöksen 50 artiklan 7 kohdan perusteella noudattaa käytännesääntöjä, jotka on arvioitu riittäviksi kyseisen säännöksen mukaisesti, osoittaakseen noudattavansa tätä ilmoitusvelvoitetta. Lisätietoja tällaisten käytännesääntöjen noudattamisen vaikutuksista ja sellaisten käyttöönottajien valvonnasta, jotka eivät noudata tällaisia käytännesääntöjä, on jäljempänä kohdassa 8.1.

6.2.3   Ihmisen suorittaman arvioinnin tai toimituksellisen valvonnan läpikäyneitä ja toimituksellisen vastuun kohteena olevia tekstejä koskeva poikkeus avoimuusvelvoitteeseen

(133)

Tekoälysäädöksen 50 artiklan 4 kohdan toisessa alakohdassa säädetään poikkeuksesta kyseisessä säännöksessä säädettyyn avoimuusvelvoitteeseen. Tällaista poikkeusta sovelletaan, jos kaksi kumulatiivista edellytystä täyttyvät: i) tekoälyn tuottaman tai manipuloiman tekstin on oltava läpikäynyt ihmisen suorittama arviointi tai toimituksellinen valvonta, ja ii) oikeushenkilöllä tai luonnollisella henkilöllä on oltava toimituksellinen vastuu julkaisusta. Käyttöönottajat voivat tarvittaessa käyttää asiaankuuluvia sovellettavia ammatillisia tai deontologisia standardeja osoittaakseen kyseisten vaatimusten noudattamisen jäljempänä esitetyn mukaisesti.

i.   Ihmisen suorittaman arvioinnin tai toimituksellisen valvonnan läpikäynyt teksti

(134)

Tekoälysäädöksen 50 artiklan 4 kohdan toiseen alakohtaan sovellettavan poikkeuksen soveltamisen ensimmäinen edellytys on, että tekoälyn tuottama tai manipuloima teksti on läpikäynyt ihmisen suorittaman arvioinnin tai toimituksellisen valvonnan. Ihmisen suorittamalla arvioinnilla tarkoitetaan sisällön ydinsisällön tietoista tutkimista, jonka suorittaa yksi tai useampi luonnollinen henkilö, jolla on tarkasteltavaan aiheeseen liittyvää merkityksellistä tietoa ja ammatillista harkintakykyä (esimerkiksi akateeminen vertaisarviointi tai ammatilliset validointiketjut). Kyseisessä arvioinnissa olisi suoritettava vähimmäisvaatimuksena ainakin faktantarkistus sisällön paikkansapitävyyden osalta. Toimituksellisella valvonnalla tarkoitetaan sellaisen vastuussa olevan toimituksellisen tahon (esimerkiksi päätoimittajan) käytännössä harjoittamaa sisällön valvontaa, jolla on valtuudet hyväksyä tai hylätä tekstin ydinsisältö tai muuttaa sitä asiasisältöön liittyvistä syistä (mukaan lukien faktantarkistus ja lähteiden luotettavuuden varmistaminen). Tämä ei rajoita olemassa olevien arviointi- ja toimitusmenettelyjen eikä mediapalvelujen tarjoajiin sovellettavien ammatillisten standardien soveltamista.

(135)

Pintapuolisilla, yksinomaan muodollisilla tai menettelyllisillä tarkistuksilla (esimerkiksi oikeinkirjoituksen tarkistuksella tai kieliopillisilla korjauksilla), pelkällä toimituspolitiikan olemassaololla, automaattisilla tarkistusprosesseilla tai nopealla toimituksellisella hyväksynnällä ilman ihmisarvioijan tai toimituksellisen tahon merkittävää osallistumista ei voida täyttää ihmisen suorittamaa arviointia tai toimituksellista valvontaa koskevia edellytyksiä tämän poikkeuksen soveltamiseksi.

(136)

Jos tekoälyjärjestelmiä käytetään sisällön muokkaamiseen, täydentämiseen tai uudelleenmuotoilemiseen toimituksellisen hyväksynnän jälkeen, tuloksena olevaa sisältöä on käsiteltävä tekoälyn tuottamana tai manipuloimana tekoälysäädöksen 50 artiklan 4 kohdan soveltamiseksi. Kaikenlainen olennainen tekoälyn käyttö, joka tapahtuu ihmisten suorittaman arviointiprosessin tai toimituksellisen valvontaprosessin jälkeen, johtaa siihen, että poikkeusta ei voida soveltaa.

(137)

Käyttöönottajat voivat noudattaa tekoälysäädöksen 50 artiklan 7 kohdan perusteella kyseisen säännöksen mukaisesti riittäviksi arvioituja käytännesääntöjä osoittaakseen kyseisessä säännöksessä säädetyn, ihmisen suorittamaa arviointia tai toimituksellista valvontaa koskevan edellytyksen täyttymisen (tämä koskee erityisesti käyttöönottajia, jotka eivät ole mediapalvelujen tarjoajia, joihin sovelletaan olemassa olevia toimituksellisia ammatillisia tai deontologisia standardeja). Lisätietoja tällaisten käytännesääntöjen noudattamisen vaikutuksista ja sellaisten käyttöönottajien valvonnasta, jotka eivät noudata käytännesääntöjä, on kohdassa 8.1.

ii.

Toimituksellinen vastuu

(138)

Tekoälysäädöksen 50 artiklan 4 kohdan toiseen alakohtaan sovellettavan poikkeuksen soveltamisen toisena edellytyksenä on, että oikeushenkilöllä tai luonnollisella henkilöllä on toimituksellinen vastuu sisällön julkaisemisesta. Tämä tarkoittaa, että kyseisellä henkilöllä (esimerkiksi yksittäisellä henkilöllä, toimituskunnalla tai kustannusyhtiöllä) on oltava lopullinen oikeudellinen vastuu sisällön julkaisemisesta, myös ihmisen suorittamasta arvioinnista tai toimituksellisesta valvonnasta. Julkisen vastuuvelvollisuuden ja luottamuksen varmistamiseksi ja olemassa olevien tiedotusvälineitä koskevien ammatillisten standardien mukaisesti toimituksellisesti vastuussa olevan oikeushenkilön, luonnollisen henkilön tai tehtävänimikkeen haltijan tunniste- ja yhteystiedot olisi asetettava julkisesti saataville helposti löydettävään paikkaan (jos ne eivät muutoin vielä ole saatavilla). Tämä voidaan toteuttaa verkossa esimerkiksi verkkosivuston käyttöehtojen tai muiden käyttäjille esitettävien oikeudellisten tietojen avulla. Verkon ulkopuolella tällaiset tiedot voidaan sisällyttää julkaisun kolofoniin tai toimitustietoihin.

Esimerkkejä teksteistä, jotka ovat läpikäyneet ihmisen suorittaman arvioinnin tai toimituksellisen valvonnan ja joista oikeushenkilöllä tai luonnollisella henkilöllä on toimituksellinen vastuu:

—

tekoälyn manipuloima sanomalehdessä julkaistu artikkeli tai tekoälyn tuottama artikkelin tiivistelmä, joka on läpikäynyt päätoimittajan toimituksellisen valvonnan ja josta sanomalehden julkaisevalla oikeushenkilöllä on toimituksellinen vastuu;

—

tekoälyn manipuloima akateeminen blogi, joka on läpikäynyt sisäisen vertaisarvioinnin ja josta blogia hallinnoivalla tutkimuskeskuksella on toimituksellinen vastuu;

—

tekoälyn tuottamat yleiseen turvallisuuteen liittyvät varoitukset, jotka virkamies on hyväksynyt ennen niiden jakamista kansalaisille ja joista asiaankuuluva julkinen pelastuspalvelu on vastuussa;

—

tekoälyn tuottamat kestävyysraportit, jotka on julkaistu pörssiyhtiön verkkosivustolla ja jotka ovat läpikäyneet asiaankuuluvissa tehtävissä (esimerkiksi vaatimustenmukaisuus) toimivien ihmisammattilaisten suorittaman arvioinnin;

—

ihmisen kirjoittamasta artikkelista tekoälyn avulla tehty käännös, joka on käynyt läpi ihmisen suorittaman arvioinnin.

Esimerkkejä teksteistä, jotka eivät täytä vaadittua ihmisen suorittamaa arviointia tai toimituksellista valvontaa koskevaa edellytystä poikkeuksen soveltamiseksi:

—

verkkosivusto, jolla julkaistaan tekoälyn tuottamia artikkeleita unionin politiikasta ilman tietoista ihmisen suorittamaa arviointia tai toimituksellista valvontaa;

—

tekoälyn tuottamat artikkelit, jotka toinen tekoälyjärjestelmä arvioi ja editoi ja jotka ihmistoimittaja tarkistaa pelkästään pintapuolisesti kieliopin suhteen ennen julkaisemista;

—

tekoälyn tuottama omakustanteinen ilmastonmuutosta käsittelevä kirja, joka on asetettu saataville sähköisellä kaupankäyntialustalla ja jota pätevä luonnollinen henkilö tai oikeushenkilö (tai kaupankäyntialusta) ei ole arvioinut.

6.2.4   Lainvalvontatarkoituksessa sovellettava poikkeus

(139)

Jos tekoälyjärjestelmien käyttö sellaisten tekstien tuottamiseksi, joiden julkaisemisen tarkoituksena on tiedottaa yleisölle yleistä etua koskevista asioista, ilman ihmisen suorittamaa arviointia (esimerkiksi tekoälyn tuottama terrorismin uhkaa koskeva poliisin varoitus, joka julkaistaan sosiaalisessa mediassa) on lain mukaan sallittua rikosten paljastamiseksi, estämiseksi tai tutkimiseksi tai rikoksiin liittyvien syytetoimien toteuttamiseksi, käyttöönottajat vapautetaan tekoälysäädöksen 50 artiklan 4 kohdan mukaisesta avoimuusvelvoitteesta. Tämän säännöksen kannalta merkityksellisiä ovat myös edellä kappaleissa 46–48 esitetyt, tekoälysäädöksen 50 artiklan 1 kohdassa säädettyä samankaltaista poikkeusta koskevat selvennykset.

6.2.5   Vuorovaikutus unionin muiden säädösten kanssa

(140)

Unionin medialainsäädännön osalta toimituksellinen vastuu on ratkaisevan tärkeä käsite, joka määritellään asetuksen (EU) 2024/1083 (eurooppalainen medianvapaussäädös) (39) 2 artiklan 8 kohdassa. Siinä ”toimituksellisella vastuulla” tarkoitetaan ”ohjelmien tai lehtijulkaisujen valinnan ja niiden organisoinnin tosiasiallista valvontaa mediapalvelujen tarjoamista varten riippumatta siitä, onko taho vastuussa tarjotusta palvelusta kansallisen lainsäädännön nojalla”. Tämä määritelmä voi tietyissä tilanteissa olla päällekkäinen tekoälysäädöksen 50 artiklan 4 kohdan toisessa alakohdassa käytetyn toimituksellisen vastuun käsitteen kanssa, erityisesti silloin, kun tekoälyjärjestelmän käyttöönottajat katsotaan myös eurooppalaisen medianvapaussäädöksen mukaisiksi mediapalvelujen tarjoajiksi. Tekoälysäädöksen 50 artiklan 4 kohdassa tarkoitettua toimituksellista vastuuta olisi sen vuoksi tulkittava voimassa olevan mediasäännöstön mukaisesti huolimatta siitä, että se on edelleen erillinen käsite, jota voidaan soveltaa myös laajemmissa yhteyksissä ja muihin käyttöönottajiin, kunhan niillä on toimituksellinen vastuu tekstijulkaisusta. Mediapalvelujen tarjoajat voivat käyttää olemassa olevia toimituksellisia prosessejaan ja standardejaan hyötyäkseen tekoälysäädöksen 50 artiklan 4 kohdan toisen alakohdan mukaisesta poikkeuksesta.

7.   TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN 5 KOHDAN MUKAISESTI ANNETTAVIIN TIETOIHIN SOVELLETTAVAT HORISONTAALISET VAATIMUKSET

(141)

Tekoälysäädöksen 50 artiklan 5 kohdan mukaan tekoälysäädöksen 50 artiklan 1–4 kohdan mukaisesti annettavat tiedot olisi esitettävä asiaankuuluville luonnollisille henkilöille selkeällä ja selvästi erottuvalla tavalla viimeistään ensimmäisen vuorovaikutuksen tai altistumisen yhteydessä. Tietojen olisi oltava myös sovellettavien esteettömyysvaatimusten mukaisia. Asiaankuuluvia luonnollisia henkilöitä ovat tässä yhteydessä henkilöt, jotka ovat suoraan vuorovaikutuksessa tekoälyjärjestelmän kanssa (tekoälysäädöksen 50 artiklan 1 kohta), aktiiviset tai passiiviset käyttäjät ja muut henkilöt, jotka altistuvat tekoälyn tuottamalle tai manipuloimalle synteettiselle sisällölle (ja jotka ovat tai eivät ole suorassa vuorovaikutuksessa tekoälyjärjestelmän kanssa (tekoälysäädöksen 50 artiklan 2 ja 4 kohta)), sekä henkilöt, joihin sovelletaan tunteentunnistusjärjestelmiä tai biometrisiä luokittelujärjestelmiä (tekoälysäädöksen 50 artiklan 3 kohta).

7.1   Tietojen antaminen selkeällä ja selvästi erottuvalla tavalla

(142)

Tiedot katsotaan annetuiksi selkeällä tavalla, jos ne ovat asiaankuuluvan luonnollisen henkilön havaittavissa, helposti ymmärrettävissä ja saatavissa (vammaiset henkilöt mukaan lukien). Tiedot katsotaan annetuiksi selvästi erottuvalla tavalla, jos ne on helppo tunnistaa erillisiksi muista tiedoista ja ympäristöstä, jossa sisältö esitetään. Yleisön on lisäksi voitava ymmärtää tiedot helposti. Tämä koskee myös erityisryhmiä, kuten lapsia tai vammaisia henkilöitä, jos he ovat osa yleisöä, jonka ennakoidaan altistuvan sisällölle tai olevan vuorovaikutuksessa järjestelmän kanssa (40). Tietojen esittämiseksi selkeällä ja selvästi erottuvalla tavalla asiaankuuluvat tiedot voidaan tarjota muun muassa osana vuorovaikutusta (tekoälysäädöksen 50 artiklan 1 kohdan mukaisesti) tai osana kyseistä sisältöä (tekoälysäädöksen 50 artiklan 2 ja 4 kohdan mukaisesti). Tietoja ei katsota annetuiksi selkeällä ja selvästi erottuvalla tavalla, jos ne voivat jäädä luonnollisilta henkilöiltä helposti huomaamatta tavanomaisissa altistumis- tai vuorovaikutusolosuhteissa (esimerkiksi jos ne on sisällytetty ainoastaan osaksi käyttöohjeita tai piilotettu verkkorajapinnan valikkovaihtoehtojen eri kerrosten alle taikka osaksi käyttöehtoja, joita käyttäjät eivät useinkaan lue).

7.2   Ensimmäinen vuorovaikutus tai altistuminen

(143)

Tekoälysäädöksen 50 artiklan 5 kohdassa edellytetään, että tiedot esitetään asiaomaisille luonnollisille henkilöille viimeistään ensimmäisen vuorovaikutuksen tai altistumisen yhteydessä. Ensimmäisellä vuorovaikutuksella tai altistumisella ei tarkoiteta ainoastaan ensimmäistä luonnollista henkilöä, joka on vuorovaikutuksessa tekoälyjärjestelmän (sen tuotoksen) kanssa tai altistuu sille (sen tuotokselle), vaan myös kenen tahansa toisen luonnollisen henkilön myöhemmin tapahtuvaa ensimmäistä vuorovaikutusta tekoälyjärjestelmän (sen tuotoksen) kanssa tai altistumista sille (sen tuotokselle). Tekoälyjärjestelmän kanssa tapahtuvan ensimmäisen vuorovaikutuksen osalta tiedot olisi annettava vähintään kerran vuorovaikutteisen istunnon alussa ottaen samalla huomioon edellä kappaleissa 36 ja 40 mainitut erityistilanteet. Tekoälysäädöksen 50 artiklan 2 ja 4 kohdan soveltamisalaan kuuluvan tekoälyn tuottaman tai manipuloiman sisällön suhteen ilmoitusvelvoitetta sovelletaan jokaiseen tekoälyjärjestelmän tuotokseen kaikkien sisällölle altistuvien luonnollisten henkilöiden osalta. Tällä tarkoitetaan mitä tahansa ajankohtaa, jolloin luonnollinen henkilö altistuu kohtuullisen todennäköisesti tekoälyjärjestelmän tuotokselle ja havaitsee ilmoituksen, ottaen huomioon ilmoittamisen erityispiirteet selvästi luovien, taiteellisten ja muiden teosten tapauksessa (ks. kohta 6.1.3). Lisäksi käyttöönottajat voivat antaa tiedot luonnollisille henkilöille ennen ensimmäistä varsinaista vuorovaikutusta tai altistumista (esimerkiksi syväväärennöksiä sisältävän sisällön alussa). Jos on kuitenkin kohtuudella ennakoitavissa, että henkilöt eivät näe tai kuule sisältöä sen alusta alkaen, ainoastaan sisällön alussa annettava ilmoitus ei ole riittävä kyseisten henkilöiden kannalta ja sitä olisi täydennettävä mahdollisuuksien mukaan myöhemmin annettavalla ilmoituksella. Tämä voidaan toteuttaa tarpeen mukaan ottaen huomioon avoimuusvelvoitteiden tavoite varmistaa tietojen tosiasiallinen antaminen ja käyttäjien merkityksellinen tietoisuus yhä immersiivisemmissä ja realistisemmissa tekoäly-ympäristöissä, joissa käyttäjillä on yhä suurempia vaikeuksia erottaa sisällön ja vuorovaikutuksen alkuperä ja totuudenmukaisuus.

Esimerkkejä tietojen esittämisestä ensimmäisen vuorovaikutuksen tai altistumisen yhteydessä tekoälysäädöksen 50 artiklan 5 kohdan mukaisesti:

—

ensimmäinen vuorovaikutus: aloitettaessa keskustelu chattibotin kanssa tai fyysinen vuorovaikutus tekoälyjärjestelmän kanssa;

—

ensimmäinen altistus: syväväärennöksen sisältävän videon alussa, tekoälyn tuottaman tai manipuloiman yleistä etua koskevia asioita käsittelevän tekstijulkaisun alussa taikka kohdattaessa tekoälyn manipuloimia syväväärennöksiä sosiaalisen median näkymää vieritettäessä.

7.3   Sovellettavien esteettömyysvaatimusten mukaisuus

(144)

Tekoälysäädöksen 50 artiklan 1–4 kohdassa lueteltujen eri avoimuusvelvoitteiden piiriin kuuluvien tekoälyjärjestelmien tarjoajien ja käyttöönottajien on oltava tietoisia sovellettavista esteettömyysvaatimuksista (esimerkiksi direktiivin 2016/2102 (41) ja direktiivin 2019/882 (42) vaatimuksista) ja arvioitava, onko niiden tuotteen, palvelun tai sisällön oltava kyseisten sääntöjen mukaisia. Tällaisessa tapauksessa niiden on varmistettava tekoälysäädöksen 50 artiklan mukaisesti välitettyjen tietojen esteettömyys sovellettavien esteettömyysvaatimusten mukaisesti. Tekoälysäädöksen 50 artiklassa ei aseteta erillisiä tai ylimääräisiä esteettömyysvaatimuksia.

8.   TEKOÄLYSÄÄDÖKSEN 50 ARTIKLAN NOUDATTAMISEN VALVONTA

(145)

Tämän jakson tarkoituksena on selventää i) käytännesääntöjen noudattamisen vaikutuksia tekoälyn tuottamaa sisältöä koskevien avoimuusvelvoitteiden noudattamiseen; ii) toimivaltaisten valvontaviranomaisten roolia tekoälysäädöksen 50 artiklan noudattamisen valvonnassa; iii) kyseisten velvoitteiden rikkomiseen sovellettavia seuraamuksia; ja iv) ajankohtaa, jolloin tekoälysäädöksen 50 artiklassa säädettyjä velvoitteita aletaan soveltaa.

8.1   Riittäviksi arvioitujen käytännesääntöjen noudattamisen vaikutukset

(146)

Tekoälysäädöksen 50 artiklan 2 ja 4 kohdan piiriin kuuluvat tekoälyjärjestelmien tarjoajat ja käyttöönottajat voivat osoittaa noudattavansa kyseisten säännösten mukaisia tekoälyn tuottamaa sisältöä koskevia avoimuusvelvoitteitaan noudattamalla käytännesääntöjä, jotka on arvioitu riittäviksi tekoälysäädöksen 50 artiklan 7 kohdan mukaisesti (43). Tällaiset käytännesäännöt eivät korvaa tekoälysäädöstä tai näitä ohjeita. Ne täydentävät niitä tarjoamalla ainoan unioninlaajuisen tunnustetun käytännön kehyksen, jonka avulla generatiivisten tekoälyjärjestelmien tarjoajat ja käyttöönottajat voivat osoittaa noudattavansa kyseisiä velvoitteita riippumatta sijoittautumispaikastaan, toiminnastaan ja toimivaltaisista markkinavalvontaviranomaisista.

(147)

Vaikka tarjoajat ja käyttöönottajat voivat osoittaa noudattavansa kyseisiä velvoitteita myös asianmukaisilla vaihtoehtoisilla menetelmillä, riittäviksi arvioitujen käytännesääntöjen noudattaminen on yksinkertainen, ennakoitavissa oleva ja oikeudellisesti varma tapa osoittaa velvoitteiden noudattaminen. Tekoälysäädöksen 50 artiklan 7 kohdan mukaisesti riittäviksi arvioitujen käytännesääntöjen (44) allekirjoittajien osalta komissio ja toimivaltaiset markkinavalvontaviranomaiset keskittyvät valvontatoimissaan arvioimaan, ovatko kyseiset allekirjoittajat noudattaneet käytännesääntöjä ja toteuttaneet niissä esitetyt toimenpiteet. Koska käytännesääntöjä noudattavat tarjoajat ja käyttöönottajat kertovat avoimesti toimenpiteistä, joita ne toteuttavat tekoälysäädöksen 50 artiklan 2, 4 ja 5 kohdan noudattamiseksi, ne hyötyvät komission, muiden toimivaltaisten markkinavalvontaviranomaisten ja muiden sidosryhmien (myös suuren yleisön) luottamuksen lisääntymisestä. Jos allekirjoittajat päättävät olla noudattamatta joitakin riittäväksi katsottujen käytännesääntöjen osia, kyseiset tarjoajat ja käyttöönottajat menettävät tältä osin hyödyn, joka saadaan siitä, että vaatimusten täyttyminen on helpompi osoittaa.

(148)

Tarjoajien ja käyttöönottajien, jotka eivät ole allekirjoittaneet tekoälysäädöksen 50 artiklan 7 kohdan mukaisesti riittäviksi arvioituja käytännesääntöjä, odotetaan osoittavan muilla asianmukaisilla menetelmillä, miten ne ovat noudattaneet tekoälysäädöksen 50 artiklan 2, 4 ja 5 kohdan mukaisia velvoitteitaan. Lisäksi tällaisten tarjoajien ja käyttöönottajien odotetaan selittävän, miten niiden toteuttamilla toimenpiteillä varmistetaan niiden tekoälysäädöksen mukaisten velvoitteiden noudattaminen. Niiden olisi esimerkiksi tehtävä eroanalyysi, jossa verrataan niiden toteuttamia toimenpiteitä riittäviksi arvioiduissa käytännesäännöissä esitettyihin toimenpiteisiin. Koska toimivaltaisille viranomaisille (mukaan lukien tekoälytoimisto) on vähemmän selvää, miten tarjoajat ja käyttöönottajat, jotka eivät ole allekirjoittaneet käytännesääntöjä, varmistavat tekoälysäädöksen 50 artiklan 2, 4 ja 5 kohdan mukaisten velvoitteidensa noudattamisen, ne tarvitsevat todennäköisesti yksityiskohtaisempia tietoja valvoessaan velvoitteiden noudattamista. Käytännesääntöjä noudattamattomille tarjoajille voidaan esimerkiksi myös esittää enemmän tietopyyntöjä ja pääsyoikeuspyyntöjä tekoälysäädöksen 50 artiklan 2 kohdan noudattamiseksi toteutettujen teknisten ratkaisujen tehokkuuden, yhteentoimivuuden, vakauden ja luotettavuuden arvioimiseksi. Myös käyttöönottajille voidaan esittää tällaisia pyyntöjä tekoälysäädöksen 50 artiklan 4 kohdan mukaisten merkintäkäytäntöjen osalta.

(149)

Toimivaltaiset viranomaiset voivat myös tapauksen olosuhteista riippuen huomioida sakon suuruutta vahvistaessaan lieventävänä tekijänä sitoumukset, jotka on tehty riittäviksi arvioitujen käytännesääntöjen mukaisesti (45).

(150)

Jos käytännesääntöjä ei katsota riittäviksi tekoälysäädöksen 50 artiklan 7 kohdan mukaisesti, komissio voi hyväksyä täytäntöönpanosäädöksen, jossa täsmennetään tekoälysäädöksen 50 artiklan 2, 4 ja 5 kohdan mukaisten velvoitteiden täyttämistä koskevat yhteiset säännöt ja jota sovellettaisiin kaikkiin kyseisten säännösten soveltamisalaan kuuluviin tekoälyjärjestelmien tarjoajiin ja käyttöönottajiin (46).

8.2   Markkinavalvontaviranomaiset

(151)

Jäsenvaltioiden nimeämät markkinavalvontaviranomaiset, tekoälytoimisto (47) ja Euroopan tietosuojavaltuutettu (48) vastaavat toimivaltaansa kuuluvia tekoälyjärjestelmiä koskevien sääntöjen, myös tekoälysäädöksen 50 artiklassa säädettyjen avoimuusvelvoitteiden, valvonnasta ja täytäntöönpanosta. Tällainen täytäntöönpano tapahtuu asetuksella (EU) 2019/1020 perustetun markkinavalvontaa ja tuotteiden vaatimustenmukaisuutta koskevan järjestelmän ja tekoälysäädöksen puitteissa. Kyseissä säädöksissä säädetään tekoälyjärjestelmiin liittyvistä markkinavalvontaviranomaisten täytäntöönpanovaltuuksista. Kyseiset viranomaiset voivat toteuttaa tekoälysäädöksen 50 artiklassa lueteltuihin velvoitteisiin liittyviä täytäntöönpanotoimia omasta aloitteestaan tai valituksen perusteella. Kaikilla vaikutuksen kohteena olevilla henkilöllä tai muilla luonnollisilla henkilöillä tai oikeushenkilöillä, joilla on perusteita katsoa, että kyseisiä velvoitteita on rikottu, on oikeus tehdä valitus (49). Tekoälysäädöksessä säädetyt markkinavalvontaviranomaisten velvollisuudet eivät vaikuta muiden valvontaviranomaisten tai perusoikeuksia suojelevien viranomaisten niitä koskevassa oikeudellisessa kehyksessä säädettyihin toimivaltuuksiin ja tehtäviin tilanteissa, joissa sovelletaan sekä tekoälysäädöksen 50 artiklaa että kyseistä kehystä (esimerkiksi tietosuoja tai kuluttajansuoja).

8.3   Seuraamukset

(152)

Tarjoajille ja käyttöönottajille, jotka eivät noudata tekoälysäädöksen 50 artiklassa säädettyjä sovellettavia avoimuusvelvoitteita, voidaan määrätä sakko, joka on enimmillään 15 000 000 euroa tai, jos rikkomiseen syyllistynyt on yritys, enimmillään 3 prosenttia sen edeltävän tilikauden vuotuisesta maailmanlaajuisesta kokonaisliikevaihdosta sen mukaan, kumpi näistä määristä on suurempi. Avoimuusvelvoitteita rikkoville unionin toimielimille, elimille ja laitoksille voidaan määrätä enintään 750 000 euron suuruinen hallinnollinen sakko. Pienten ja keskisuurten yritysten (pk-yritysten), myös startup-yritysten, osalta kukin sakko on enintään edellä mainitun prosenttiosuuden tai määrän suuruinen sen mukaan, kumpi niistä on pienempi. Sakkojen on oltava tehokkaita, oikeasuhteisia ja varoittavia, ja niissä on otettava huomioon pk-yritysten ja pienten midcap-yritysten, myös startup-yritysten, edut ja niiden taloudellinen elinkelpoisuus. Päättäessään hallinnollisen sakon määräämisestä ja sen määrästä kussakin yksittäisessä tapauksessa toimivaltaisten viranomaisten olisi arvioitava kaikki kyseisen tilanteen merkitykselliset olosuhteet ja tapauksen mukaan eri tekijät, jotka vaikuttavat rikkomisen vakavuuteen (esimerkiksi rikkomisen luonne, vakavuus, kesto, seuraukset, tuottamuksellisuus tai tahallisuus ja muut raskauttavat tai lieventävät olosuhteet sekä markkinavalvontaviranomaisten kanssa tehdyn yhteistyön määrä).

8.4   Soveltamispäivä

(153)

Tekoälysäädöksen 113 artiklan mukaan tekoälysäädöksen 50 artiklaa sovelletaan 2. elokuuta 2026 alkaen. Tämä edellyttää, että kaikkien soveltamisalaan kuuluvien unionissa markkinoille saatettujen tai käyttöön otettujen tekoälyjärjestelmien on oltava kyseisenä päivänä kyseisen säännöksen mukaisia riippumatta siitä, milloin ne on saatettu markkinoille tai otettu käyttöön (50). Unionin lainsäätäjän hiljattain hyväksymässä tekoälysäädöksen muuttamisesta annetussa asetuksessa (tekoälyä koskevassa koontiasetuksessa) vahvistetaan kohdennettu saavutettujen oikeuksien säilyttämistä koskeva sääntö. Tämä sääntö koskee ainoastaan tekoälysäädöksen 50 artiklan 2 kohdassa säädettyjä merkitsemistä ja tunnistamista koskevia velvoitteita ennen 2. elokuuta 2026 markkinoille saatettujen tai käyttöön otettujen generatiivisten tekoälyjärjestelmien osalta. Siinä säädetään siirtymäajasta, jonka kuluessa kyseisten olemassa olevien järjestelmien tarjoajien on saatettava järjestelmänsä vaatimustenmukaisiksi. Siirtymäaika päättyy 2. joulukuuta 2026. Tätä siirtymäaikaa voidaan soveltaa järjestelmiin, jotka ovat osittain vuorovaikutteisia ja osittain generatiivisia, ainoastaan tekoälysäädöksen 50 artiklan 2 kohdan mukaisen merkintävelvoitteen osalta. Luonnollisten henkilöiden kanssa suoraan vuorovaikutuksessa olevia tekoälyjärjestelmiä koskevan ilmoitusvelvoitteen noudattaminen on puolestaan varmistettava 2. elokuuta 2026 mennessä.

(154)

Tekoälysäädöksen 50 artiklan 2 kohdan soveltamisalaan kuuluvia tekoälyn tuottamia tai manipuloimia tuotoksia ja tekoälysäädöksen 50 artiklan 4 kohdan ensimmäisen alakohdan soveltamisalaan kuuluvia syväväärennöksiä, jotka on tuotettu tai joita on manipuloitu ennen 2. elokuuta 2026, ei tarvitse merkitä takautuvasti. Sama koskee tekoälysäädöksen 50 artiklan 4 kohdan toisen alakohdan soveltamisalaan kuuluvia tekstejä, jotka koskevat yleistä etua koskevia asioita ja jotka on tuotettu tai manipuloitu tekoälyllä ja julkaistu ennen 2. elokuuta 2026. Sitä vastoin jos tekstit, jotka on tuotettu tai joita on manipuloitu ennen 2. elokuuta 2026, julkaistaan kyseisenä päivänä tai sen jälkeen, ne on merkittävä. Kun otetaan huomioon tekoälysäädöksen tavoite lisätä avoimuutta ja tietoekosysteemin luotettavuutta ja eheyttä, tekoälyjärjestelmien käyttöönottajia ja muita toimijoita, joiden hallussa on olemassa olevia merkitsemättömiä syväväärennöksiä tai jotka levittävät niitä, kannustetaan kuitenkin merkitsemään tällaiset tuotokset. Niiden ei kuitenkaan odoteta toteuttavan suhteettomia toimia tätä varten (kuten tarkistamaan olemassa olevia sisältötietokantoja tai muuttamaan jo painettuja tuotepakkauksia).

9.   OHJEIDEN UUDELLEENTARKASTELU JA PÄIVITTÄMINEN

(155)

Nämä ohjeet muodostavat ensimmäisen tulkinnan, jossa esitetään käytännön esimerkkejä tekoälysäädöksen 50 artiklassa säädetyistä avoimuusvelvoitteista. Komissio tarkastelee näitä ohjeita uudelleen niin pian kuin se on tarpeen avoimuusvelvoitteiden noudattamisesta saatujen käytännön kokemusten sekä alan teknologisen, yhteiskunnallisen ja sääntelyyn liittyvän kehityksen valossa. Tähän sisältyvät myös kaikki markkinavalvonnasta saadut kokemukset sekä Euroopan unionin tuomioistuimen antamat tulkinnat tekoälysäädöksen 50 artiklasta. Komissio voi tällaisen uudelleentarkastelun yhteydessä päättää peruuttaa nämä ohjeet tai muuttaa niitä. Komissio kehottaa tekoälyjärjestelmien tarjoajia ja käyttöönottajia, tekoälyneuvostossa edustettuina olevia kansallisia markkinavalvontaviranomaisia, tekoälyä käsittelevää neuvoa-antavaa foorumia, tutkimusyhteisöä ja kansalaisyhteiskunnan organisaatioita osallistumaan tähän prosessiin vastaamalla tuleviin julkisiin kuulemisiin.

(1)  Euroopan parlamentin ja neuvoston asetus (EU) 2024/1689, annettu 13 päivänä kesäkuuta 2024, tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös) (EUVL L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2)  Tekoälysäädöksen 1 artikla.

(3)  Tekoälysäädöksen 2 artiklan 1 kohdan a alakohta, 3 artiklan 3 kohta, 9 artikla ja 11 artikla. Lisäohjeistusta markkinoille saattamisen, käyttöönoton ja käytön käsitteistä on kiellettyjä tekoälyyn liittyviä käytäntöjä koskevissa komission ohjeissa C(2025) 5052 ja komission tiedonannossa The ”Blue Guide” on the implementation of EU product rules 2022, jakso 2 (EUVL C 247, 29.6.2022, s. 1).

(4)  Tekoälysäädöksen 2 artiklan 1 kohdan c alakohta ja johdanto-osan 22 kappale.

(5)  Tekoälysäädöksen 3 artiklan 4 alakohdan mukaan.

(6)  Tekoälysäädöksen 2 artiklan 1 kohdan b ja c alakohta.

(7)  Euroopan parlamentin ja neuvoston asetus (EU) 2022/2065, annettu 19 päivänä lokakuuta 2022, digitaalisten palvelujen sisämarkkinoista (EUVL L 277, 27.10.2022, s. 1).

(8)  Ks. Komission ohjeet Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), kohta 2.5, Bryssel, 29.7.2025 C(2025) 5052 final.

(9)  Käyttöönottajan määritelmän ulkopuolelle jäävät myös tällaiseen toimintaan osallistuvat käyttäjät (ks. edellä oleva kohta 2.3).

(10)  Tekoälysäädöksen johdanto-osan 25 kappale.

(11)  Tekoälysäädöksen johdanto-osan 102 kappaleessa selitetään, että ohjelmistojen ja datan julkaiseminen vapaalla ja avoimen lähdekoodin lisenssillä ”mahdollistaa niiden avoimen jakamisen ja [...] käyttäjät voivat vapaasti saada, käyttää, muokata ja jakaa niitä tai niiden muutettuja versioita”.

(12)  Lisätietoja tekoälysäädöksen 5 artiklasta on komission ohjeissa Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 5052 final.

(13)  Ks. tekoälysäädöksen 6 artikla.

(14)  On erityisesti huomattava, että tekoälysäädöksen 26 artiklan 11 kohdassa asetetaan avoimuusvelvoite suuririskisten tekoälyjärjestelmien käyttöönottajille, jotka tekevät tai auttavat tekemään luonnollisiin henkilöihin liittyviä päätöksiä. Tällaisten käyttöönottajien on ilmoitettava luonnollisille henkilöille, että heihin sovelletaan suuririskistä tekoälyjärjestelmää. Nämä avoimuusvelvoitteet täydentävät tekoälysäädöksen 50 artiklan säännöksiä, sillä ne koskevat muunlaisia luonnollisille henkilöille annettavia tietoja. Ne voidaan kuitenkin yhdistää yhdeksi ilmoitukseksi.

(15)  Tekoälysäädöksen 3 artiklan 66 kohdan mukaan ”yleiskäyttöisellä tekoälyjärjestelmällä” tarkoitetaan tekoälyjärjestelmää, joka perustuu yleiskäyttöiseen tekoälymalliin ja joka kykenee palvelemaan erilaisia tarkoituksia sekä suorassa käytössä että muihin tekoälyjärjestelmiin integroituna.

(16)  Tekoälysäädöksen 50 artiklan 2 kohdassa viitataan nimenomaisesti yleiskäyttöisiin tekoälyjärjestelmiin.

(17)  Tekoälysäädöksen johdanto-osan 133 kappale.

(18)  Ks. tekoälysäädöksen 3 artiklan 1 kohta. Lisätietoja tekoälyjärjestelmän käsitteestä on komission ohjeissa Guidelines on the definition of an AI system, 29.7.2025, C(2025) 5053 final.

(19)  Ks. tekoälysäädöksen johdanto-osan 132 kappale. Tämä ei edellytä, että tekoälyjärjestelmä on kohdennettu haavoittuvassa asemassa oleville ryhmille. Jos järjestelmän on tarkoitus olla vuorovaikutuksessa minkä tahansa yleisön kanssa, tarjoajien on huomioitava myös haavoittuvassa asemassa olevat ryhmät toteuttaessaan ilmoituksiin liittyviä toimenpiteitä.

(20)  Sovellettavia esteettömyysvaatimuksia käsitellään kohdassa 7.3.

(21)  Esimerkiksi asetuksessa (EU) N:o 910/2014 vahvistetut ja saman asetuksen nojalla perustetuissa eurooppalaisen digitaalisen identiteetin lompakoissa saataville asetetut sähköiset attribuuttitodistukset sekä ehdotetut eurooppalaiset yrityslompakot voivat tarjota turvallisen ja tehokkaan keinon tunnistaa tekoälyagentit. Lompakoihin voi tallentaa sähköisiä todistuksia, joilla todennetaan tekoälyagentin identiteetti, ominaisuudet ja valtuudet, ja niitä voi hallita lompakoissa. Tämä mahdollistaa saumattoman ja luotettavan tiedottamisen luonnollisille henkilöille.

(22)  Tämä koskee myös samankaltaisia lainvalvontatoimien osalta myönnettyjä poikkeuksia, joista säädetään tekoälysäädöksen 50 artiklan 2–4 kohdassa.

(23)  Euroopan parlamentin ja neuvoston direktiivi 2005/29/EY, annettu 11. toukokuuta 2005, sopimattomista elinkeinonharjoittajien ja kuluttajien välisistä kaupallisista menettelyistä sisämarkkinoilla (EUVL L 149, 11.6.2005, s. 2).

(24)  Euroopan parlamentin ja neuvoston direktiivi 2011/83/EU, annettu 25 päivänä lokakuuta 2011, kuluttajan oikeuksista (EUVL L 304, 22.11.2011, s. 64).

(25)  Euroopan parlamentin ja neuvoston direktiivi 2012/13/EU, annettu 22 päivänä toukokuuta 2012, tiedonsaantioikeudesta rikosoikeudellisissa menettelyissä (EUVL L 142, 1.6.2012, s. 1). Euroopan parlamentin ja neuvoston direktiivi 2012/29/EU, annettu 25. lokakuuta 2012, rikoksen uhrien oikeuksia, tukea ja suojelua koskevista vähimmäisvaatimuksista (EUVL L 315, 14.11.2012, s. 57).

(26)  Tekoälysäädöksen 3 artiklan 1 kohdassa olevan määritelmän mukaisesti.

(27)  Tekoälysäädöksen johdanto-osan 133 kappaleessa selvennetään, että on aiheellista edellyttää, että näiden järjestelmien tarjoajat sulauttavat niihin ratkaisuja, joilla tuotokset voidaan merkitä koneellisesti luettavassa muodossa ja joilla ne voidaan tunnistaa ihmisen sijasta tekoälyn tuottamiksi tai käsittelemiksi. Tekoälysäädöksen johdanto-osan 135 kappaleessa viitataan havaitsemista koskevaan velvoitteeseen.

(28)  Ks. ”Commission Implementing Decision C(2025) 3871 final on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI-systems in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215”, liite II.

(29)  Ks. myös tekoälysäädöksen johdanto-osan 11 kappale.

(30)  Ks. myös tekoälysäädöksen johdanto-osan 137 kappale.

(31)  Tekoälysäädöksen johdanto-osan 136 kappale.

(32)  Näin ollen tämä kriteeri on ymmärrettävä siten, että se on riippumaton ja erillinen harhaanjohtamisen käsitteestä, sellaisena kuin se mainitaan sopimattomia elinkeinonharjoittajien ja kuluttajien välisiä kaupallisia menettelyjä sisämarkkinoilla koskevassa direktiivissä 2005/29/EY (sopimattomia kaupallisia menettelyjä koskeva direktiivi) (https://eur-lex.europa.eu/eli/dir/2005/29/oj/fin).

(33)  Ks. vastaavasti audiovisuaalisia mediapalveluja koskevan direktiivin 1 artiklan 1 kohdan b alakohta.

(34)  Tämä koskee yhtä lailla julkaistuja tekstejä, joissa tiedotetaan yleisölle yleistä etua koskevista asioista.

(35)  Ks. lisätietoja tekoälysäädöksen 50 artiklan ja digipalvelusäädöksen välisestä vuorovaikutuksesta on kohdassa 4.4.

(36)  Digipalvelusäädöksen johdanto-osan 2 kappale.

(37)  Lisätietoja on komission ja Euroopan tietosuojaneuvoston yhteisissä suuntaviivoissa tekoälysäädöksen ja EU:n tietosuojalainsäädännön välisestä vuorovaikutuksesta (valmisteilla).

(38)  Ks. vastaavasti asia C-89/04, Mediakabel, EU:C:2005:348, 33 kohta; asia C-192/04, Lagardère, EU:C:2005:475, 31 kohta; asia C-306/05, SGAE, EU:C:2006:764, 37–40 kohta; asia C-527/15, Stichting Brein, EU:C:2017:300, 43–44 kohta oikeuskäytäntöviittauksineen; asia C-135/23, GEMA, EU:C:2024:526, 38 kohta oikeuskäytäntöviittauksineen.

(39)  Euroopan parlamentin ja neuvoston asetus (EU) 2024/1083, annettu 11 päivänä huhtikuuta 2024, mediapalvelujen yhteisestä kehyksestä sisämarkkinoilla ja direktiivin 2010/13/EU muuttamisesta (eurooppalainen medianvapaussäädös) (EUVL L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj)).

(40)  Kun sisällön kohdeyleisöön kuuluu lapsia, kyseisten ilmoitusten on täytettävä seuraavat vaatimukset: i) niiden on oltava lapsiystävällisiä, ikätasolle sopivia, helposti ymmärrettäviä ja helposti kaikkien lasten, myös vammaisten ja/tai sellaisten lasten, joilla on ylimääräisiä saavutettavuustarpeita, saavutettavissa; ii) ne on esitettävä selkeästi ymmärrettävällä, mahdollisimman yksinkertaisella ja ytimekkäällä tavalla; iii) ne on esitettävä helposti arvioitavalla tavalla, joka mahdollistaa välittömän ja intuitiivisen siirtymisen niihin alustan osioihin, joissa kyseiset tiedot ovat merkityksellisiä; iv) ne on esitettävä sen jäsenvaltion virallisella kielellä tai virallisilla kielillä, jossa palvelu tarjotaan; v) niiden on oltava lasten kannalta kiinnostavia, mikä saattaa edellyttää grafiikan, videoiden ja/tai hahmojen tai muiden tekniikoiden käyttöä; vi) ne on esitettävä lapsille vähitellen ja ajan mittaan, jotta käyttäjät muistaisivat ne mahdollisimman hyvin.

(41)  Euroopan parlamentin ja neuvoston direktiivi (EU) 2016/2102, annettu 26 päivänä lokakuuta 2016, julkisen sektorin elinten verkkosivustojen ja mobiilisovellusten saavutettavuudesta (ETA:n kanalta merkityksellinen teksti) (EUVL L 327, 2.12.2016, s. 1).

(42)  Euroopan parlamentin ja neuvoston direktiivi (EU) 2019/882, annettu 17 päivänä huhtikuuta 2019, tuotteiden ja palvelujen esteettömyysvaatimuksista (ETA:n kannalta merkityksellinen teksti) –PE/81/2018/REV/1 (EUVL L 151, 7.6.2019, s. 70).

(43)  Ks. olennaista tietoa tekoälyn tuottaman sisällön avoimuutta koskevista käytännesäännöistä (Code of Practice on Transparency of AI-generated Content | Euroopan digitaalista tulevaisuutta rakentamassa, julkaistu 10. kesäkuuta 2026).

(44)  Ks. komission lausunto tekoälyn tuottamaan sisältöön liittyvää avoimuutta koskevien käytännesääntöjen arvioinnista (Commission Opinion on the assessment of the Code of Practice on Transparency of AI-generated content |). Euroopan digitaalista tulevaisuutta rakentamassa).

(45)  Tekoälysäädöksen 99 artiklan 7 kohdan e alakohta.

(46)  Tekoälysäädöksen 50 artiklan 7 alakohdan mukaan.

(47)  Sellaisten tekoälyjärjestelmien markkinavalvontaviranomaisena, jotka perustuvat saman tarjoajan tarjoamiin yleiskäyttöisiin tekoälymalleihin (tekoälysäädöksen 75 artiklan 1 kohta). Tämä koskee tekoälysäädöksen 50 artiklan 1 ja 2 kohdan mukaista tarjoajiin sovellettavaa velvoitetta. Tekoälysäädöksen 50 artiklan 3 ja 4 kohdan osalta tekoälytoimisto on toimivaltainen vain, jos kyseinen yleiskäyttöisen tekoälymallin ja järjestelmän tarjoaja on myös järjestelmän käyttöönottaja.

(48)  EU:n toimielinten, laitosten ja elinten markkinavalvontaviranomaisena.

(49)  Tekoälysäädöksen 85 artikla.

(50)  Tekoälysäädöksen 111 artiklan 2 kohdassa säädettyä erityistä saavutettujen oikeuksien säilyttämistä koskevaa sääntöä sovelletaan suuririskisiin tekoälyjärjestelmiin, jotka on saatettu markkinoille ennen suuririskisiä tekoälyjärjestelmiä koskevien sääntöjen soveltamispäivää, ainoastaan kyseisten järjestelmien suuririskisiä tekoälyjärjestelmiä koskevien vaatimusten ja velvoitteiden mukaisuuden osalta. Jos suuririskiseen tekoälyjärjestelmään sovelletaan myös yhtä tai useampaa tekoälysäädöksen 50 artiklan mukaista avoimuusvelvoitetta, tätä erityistä saavutettujen oikeuksien säilyttämistä koskevaa sääntöä ei sovelleta, koska eri suuririskisiä tekoälyjärjestelmiä koskevien velvoitteiden ja 50 artiklan mukaisten avoimuusvelvoitteiden soveltaminen on kumulatiivista ja saavutettujen oikeuksien säilyttäminen on perusteltua ja rajoitettua vain suuririskisiä tekoälyjärjestelmiä koskevien säännösten noudattamisen osalta.


ELI: http://data.europa.eu/eli/C/2026/6005/oj

ISSN 1977-1053 (electronic edition)