Bryssel 26.6.2024

COM(2024) 264 final

2024/0150(NLE)

Ehdotus

NEUVOSTON PÄÄTÖS

tekoälyä ja ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevan Euroopan neuvoston puiteyleissopimuksen allekirjoittamisesta Euroopan unionin puolesta


PERUSTELUT

1.EHDOTUKSEN TAUSTA

•Ehdotuksen perustelut ja tavoitteet

Tekoäly tarjoaa suuria mahdollisuuksia, mutta tietyt sovellukset ja käyttötavat voivat myös aiheuttaa haittaa ja riskejä yksilöiden perusoikeuksille ja muille yleisille eduille.

Tekoälyä koskevista yhdenmukaistetuista säännöistä annetulla Euroopan parlamentin ja neuvoston asetuksella (EU) 2024/[...], jäljempänä ’tekoälysäädös’, unioni on hyväksynyt ensimmäisen tekoälyä koskevan kattavan säädöksen, jossa asetetaan maailmanlaajuinen standardi. Tekoälysäädös hyväksyttiin 12. kesäkuuta 2024 1 , ja se tulee voimaan 20 päivän kuluttua sen julkaisemisesta Euroopan unionin virallisessa lehdessä. Tekoälysäädöksellä yhdenmukaistetaan täysin tekoälyjärjestelmien markkinoille saattamista, käyttöönottoa ja käyttöä koskevat säännöt jäsenvaltioissa 2 . Tavoitteena on edistää innovointia ja luotettavan tekoälyn käyttöönottoa ja samalla suojella terveyttä, turvallisuutta ja perusoikeuksia, kuten demokratiaa, oikeusvaltiota ja ympäristöä.

Monet kansainväliset järjestöt, Euroopan neuvosto niiden joukossa, ovat myös tehostaneet toimintaansa tekoälyn sääntelyn alalla ja tunnustaneet tekoälyn rajatylittävän luonteen sekä kansainvälisen yhteistyön tarpeen, jotta näiden teknologioiden aiheuttamiin yhteisiin haasteisiin voidaan vastata.

Euroopan neuvoston tekoälykomitea (CAI) 3 on kesäkuusta 2022 lähtien laatinut oikeudellisesti sitovaa puiteyleissopimusta, jäljempänä ’yleissopimus’, jolla voidaan puuttua mahdollisiin riskeihin, joita tekoäly aiheuttaa ihmisoikeuksille, demokratialle ja oikeusvaltioperiaatteelle. Unioni neuvotteli yleissopimuksen Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT-sopimus) 216 artiklan 1 kohdassa mainitun neljännen vaihtoehdon perusteella. Sen mukaan unioni voi neuvotella 4 ja tehdä kansainvälisen sopimuksen, jos tämä ”[...] voi vaikuttaa yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta”. Euroopan komissio edusti unionia yleissopimusta koskevissa neuvotteluissa SEUT-sopimuksen 218 artiklan 3 kohdan mukaisesti ja neuvoston päätöksen perusteella, jolla annettiin lupa aloittaa neuvottelut Euroopan unionin puolesta 5 .

Unioni on osallistunut aktiivisesti neuvotteluihin ja pyrkinyt varmistamaan yleissopimuksen yhteensopivuuden unionin oikeuden kanssa, sen johdonmukaisuuden tekoälysäädöksen kanssa sekä yleissopimuksen laadun ja lisäarvon ensimmäisenä tekoälyä koskevana kansainvälisenä sopimuksena. Tässä yhteydessä unionin tavoitteena on ollut myös yleissopimuksen kansainvälinen ulottuvuus.

Useiden neuvottelukierrosten jälkeen tekoälykomitea hyväksyi yleissopimuksen tekstin 10. istunnossaan, joka järjestettiin 11.–14. maaliskuuta 2024. Euroopan neuvoston ministerikomitea hyväksyi yleissopimuksen 17. toukokuuta 2024, päätti avata sen allekirjoittamista varten Vilnassa (Liettua) 5. syyskuuta 2024 oikeusministerien epävirallisen konferenssin yhteydessä ja kehotti Euroopan neuvoston jäseniä, muita yleissopimuksen laatimiseen osallistuneita kolmansia maita ja unionia harkitsemaan sen allekirjoittamista tässä yhteydessä. Samalla se muistutti, että yleissopimus on avoinna myös muiden kolmansien maiden liittymistä varten 6 .

Tätä taustaa vasten tämän ehdotuksen tarkoituksena on käynnistää prosessi sitä varten, että unioni voi allekirjoittaa yleissopimuksen tarkoituksenaan ratifioida se myöhemmin, ja ehdottaa neuvostolle päätöksen hyväksymistä unionin valtuuttamisesta allekirjoittamaan yleissopimus SEUT-sopimuksen 218 artiklan 5 kohdan mukaisesti. Yleissopimus on täysin yhdenmukainen unionin oikeuden ja erityisesti tekoälysäädöksen kanssa, ja sillä edistetään tekoälyn sääntelyä koskevan unionin lähestymistavan keskeisiä käsitteitä maailmanlaajuisesti muiden Euroopan neuvoston jäsenten ja keskeisten kansainvälisten kumppaneiden keskuudessa, jotka voivat tulla yleissopimuksen sopimuspuoliksi.

Yleissopimuksen sisältö

Yleissopimuksen tavoitteena on varmistaa, että tekoälyjärjestelmien elinkaareen kuuluvat toimet ovat täysin yhdenmukaisia ihmisoikeuksien, demokratian ja oikeusvaltioperiaatteen kanssa.

Yleissopimuksen sopimuspuolten on pantava yleissopimus täytäntöön asianmukaisilla lainsäädännöllisillä, hallinnollisilla tai muilla toimenpiteillä noudattaen haittavaikutusten vakavuuteen ja todennäköisyyteen perustuvaa porrastettua ja eriytettyä lähestymistapaa. Yleissopimus olisi pantava unionissa täytäntöön yksinomaan tekoälysäädöksellä, jolla yhdenmukaistetaan täysin tekoälyjärjestelmien markkinoille saattamista, käyttöönottoa ja käyttöä koskevat säännöt, sekä tarvittaessa muulla merkityksellisellä unionin säännöstöllä. 

Yleissopimuksen soveltamisalaan kuuluvat tekoälyjärjestelmät, jotka saattavat vaikuttaa ihmisoikeuksiin, demokratiaan ja oikeusvaltioperiaatteeseen, eriytetyn lähestymistavan mukaisesti. Yleissopimuksessa esitettyjä periaatteita ja velvoitteita sovelletaan toimiin, joita viranomaiset tai niiden puolesta toimivat yksityiset toimijat toteuttavat tekoälyjärjestelmien elinkaaren aikana. Yksityisen sektorin osalta sopimuspuolten on puututtava yksityisten toimijoiden tekoälyjärjestelmien elinkaaren aikana toteuttamista toimista aiheutuviin riskeihin ja vaikutuksiin yleissopimuksen tavoitetta ja tarkoitusta vastaavalla tavalla, mutta ne voivat valita, soveltavatko ne yleissopimuksen velvoitteita vai toteuttavatko ne muita asianmukaisia toimenpiteitä. Sopimuspuolten on annettava selitys tältä osin tekemästään valinnasta allekirjoittaessaan yleissopimuksen tai liittyessään siihen. Unionin olisi annettava yleissopimuksen tekemisen yhteydessä selitys siitä, että unioni panee yleissopimuksen II–VI luvussa vahvistetut periaatteet ja velvoitteet täytäntöön tekoälysäädöksellä ja muulla merkityksellisellä unionin säännöstöllä sellaisten yksityisten toimijoiden toimien osalta, jotka saattavat markkinoille, ottavat käyttöön ja käyttävät tekoälyjärjestelmiä unionissa.

Kansalliseen turvallisuuteen liittyvät tekoälytoimet eivät kuulu yleissopimuksen soveltamisalaan sillä oletuksella, että ne on joka tapauksessa toteutettava ihmisoikeuksia koskevan kansainvälisen oikeuden mukaisesti ja demokraattisia instituutioita ja prosesseja kunnioittaen. Yleissopimuksen soveltamisalan ulkopuolelle jätetään myös sellaisia tekoälyjärjestelmiä koskeva tutkimus- ja kehitystoiminta, joita ei ole vielä asetettu saataville käyttöä varten, paitsi jos niiden testaus tai vastaava toiminta voi vaikuttaa ihmisoikeuksiin, demokratiaan ja oikeusvaltioperiaatteeseen. Euroopan neuvoston perussäännön mukaisesti maanpuolustusta koskevat asiat eivät kuulu yleissopimuksen soveltamisalaan.

Yleissopimuksessa määrätään yleisistä velvoitteista ja perusperiaatteista, mukaan lukien ihmisarvon ja yksilön itsemääräämisoikeuden suojelu sekä tasa-arvon ja syrjimättömyyden edistäminen. Lisäksi siinä määrätään yksityisyyden ja henkilötietojen suojasta sekä avoimuudesta ja valvonnasta vastuullisuuden varmistamiseksi. Yhtenä periaatteena on myös turvallinen innovointi ja kokeilut valvotuissa ympäristöissä.

Oikeussuojakeinoja koskevassa luvussa määrätään toimenpiteistä, joilla pyritään varmistamaan esteettömien ja tehokkaiden oikeussuojakeinojen saatavuus tekoälyjärjestelmien elinkaareen kuuluvista toimista johtuvien ihmisoikeusloukkausten varalta. Se sisältää myös tehokkaat menettelylliset takeet henkilöille, joiden oikeuksiin tekoälyjärjestelmien käyttö on vaikuttanut merkittävästi. Lisäksi henkilöille olisi ilmoitettava, että he ovat vuorovaikutuksessa tekoälyjärjestelmän eivätkä ihmisen kanssa.

Yleissopimukseen sisältyy myös luku toimenpiteistä riskien ja haittavaikutusten arvioimiseksi ja lieventämiseksi. Tämä on tehtävä iteratiivisesti, jotta voidaan tunnistaa ihmisoikeuksiin, demokratiaan ja oikeusvaltioperiaatteeseen kohdistuvat tosiasialliset ja mahdolliset vaikutukset ja toteuttaa asianmukaisia ennaltaehkäisy- ja lieventämistoimenpiteitä.

Lisäksi yleissopimuksessa määrätään, että sopimuspuolten olisi arvioitava, onko tarpeellista kieltää tietyt tekoälyjärjestelmien sovellukset tai lykätä niiden käyttöönottoa, jos niiden katsotaan olevan ristiriidassa ihmisoikeuksien kunnioittamisen, demokratian toiminnan tai oikeusvaltioperiaatteen kanssa.

Yleissopimuksessa määrätään seurantamekanismista, joka toteutetaan sopimuspuolten konferenssissa. Se koostuu sopimuspuolten edustajista ja kokoontuu määräajoin keskustelemaan tavoista helpottaa yleissopimuksen tehokasta soveltamista ja täytäntöönpanoa. Siinä määrätään myös kansainvälisestä yhteistyömekanismista sekä yleissopimuksen sopimuspuolten välillä että suhteissa kolmansiin maihin ja asianomaisiin sidosryhmiin yleissopimuksen tavoitteen saavuttamiseksi.

Kunkin sopimuspuolen olisi lisäksi perustettava tai nimettävä kansallisella tasolla yksi tai useampi tehokas mekanismi, jolla valvotaan, että sopimuspuolet noudattavat yleissopimuksen velvoitteita.

•Yhdenmukaisuus muiden alaa koskevien politiikkojen säännösten kanssa

Yleissopimuksessa vahvistetaan ihmisoikeuksien, demokratian ja oikeusvaltioperiaatteen suojelua koskevat yleiset periaatteet ja velvoitteet, jotka ovat täysin johdonmukaisia ja linjassa tekoälysäädöksen tavoitteiden sekä tekoälyjärjestelmiä koskevien yksityiskohtaisten vaatimusten ja tällaisten järjestelmien tarjoajille ja käyttöönottajille asetettujen velvoitteiden kanssa.

Yleissopimuksessa oleva tekoälyjärjestelmän määritelmä on täysin yhdenmukainen tekoälysäädöksessä annetun määritelmän kanssa, koska molemmat perustuvat tällaisten järjestelmien määritelmään Taloudellisen yhteistyön ja kehityksen järjestön tekoälyperiaatteissa 7 . Näin varmistetaan yhteinen käsitys siitä, mitkä digitaaliteknologiat ovat tekoälyä.

Sekä yleissopimuksessa että tekoälysäädöksessä noudatetaan myös riskiperusteista lähestymistapaa tekoälyjärjestelmien sääntelyyn, ja niihin sisältyy erityisiä säännöksiä riskin- ja vaikutustenarvioinneista sekä riskinvähentämistoimenpiteistä. Tekoälysäädös sisältää erityisesti useita tekoälyjärjestelmien kieltoja ja suuririskisiä käyttötapauksia kaikilla julkisilla ja yksityisillä sektoreilla, myös demokratian ja oikeuden alalla. Tekoälysäädöksen yksityiskohtaisilla säännöillä ja menettelyillä, jotka koskevat tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöönottoa näillä aloilla, varmistetaan siten, että perusoikeuksia, demokratiaa ja oikeusvaltioperiaatetta kunnioitetaan tekoälyn koko elinkaaren ajan.

Yleissopimus sisältää tekoälysäädöksen jo kattamia periaatteita ja velvoitteita, kuten toimenpiteitä, jotka koskevat ihmisoikeuksien suojelua, turvallisuutta ja luotettavuutta, vastuuvelvollisuutta ja vastuuta, datanhallintaa ja tietosuojaa, avoimuutta ja valvontaa, tasa-arvoa ja syrjimättömyyttä, digitaalisia taitoja ja digilukutaitoa.

Läpinäkyvyys on toinen molemmille oikeudellisille välineille yhteinen elementti. Siihen sisältyvät toimenpiteet, jotka koskevat tekoälyn tuottaman sisällön tunnistamista sekä ilmoittamista henkilöille siitä, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa. Molempiin oikeudellisiin välineisiin sisältyy myös säännöksiä, jotka koskevat riskien ja vaikutusten arviointia ja riskinhallintaa, tietojen säilyttämistä, tietojen luovuttamista (valtuutetuille elimille ja viranomaisille ja tarvittaessa asianomaisille henkilöille), jäljitettävyyttä ja selitettävyyttä sekä turvallista innovointia ja kokeiluja valvotuissa ympäristöissä. Niihin sisältyy myös toimenpiteitä tehokkaiden oikeussuojakeinojen mahdollistamiseksi, mukaan lukien oikeus pyytää ja saada tietoja ja tehdä valitus toimivaltaiselle viranomaiselle sekä menettelytakeet.

Yleissopimuksessa vahvistettu valvontajärjestelmä on myös täysin johdonmukainen tekoälysäädöksen kattavan hallinto- ja täytäntöönpanojärjestelmän kanssa. Siihen sisältyy täytäntöönpanon valvonta unionin ja jäsenvaltioiden tasolla sekä menettelyt, joilla varmistetaan unionin sääntöjen yhdenmukainen täytäntöönpano jäsenvaltioissa. Yleissopimuksessa määrätään yhdestä tai useammasta tehokkaasta kansallisen tason valvontamekanismista, jonka on hoidettava tehtävänsä riippumattomasti ja puolueettomasti ja jolla on oltava tarvittavat valtuudet, asiantuntemus ja resurssit, jotta se voi tehokkaasti hoitaa tehtävät, jotka liittyvät yleissopimuksen velvoitteiden noudattamiseen, sellaisina kuin sopimuspuolet ovat panneet ne täytäntöön.

Tekoälysäädöstä sovelletaan tekoälyjärjestelmiin, jotka saatetaan markkinoille tai otetaan käyttöön tai joita käytetään unionissa, mutta yleissopimuksella on laajempi maantieteellinen ulottuvuus, joka kattaa Euroopan neuvoston jäsenet ja eri puolella maailmaa olevat kolmannet valtiot, jotka voivat tulla yleissopimuksen sopimuspuoliksi. Yleissopimus tarjoaa näin ollen ainutlaatuisen tilaisuuden edistää luotettavaa tekoälyä unionin ulkopuolella ensimmäisessä kansainvälisessä oikeudellisesti sitovassa sopimuksessa, joka perustuu vahvaan ihmisoikeuksia suojaavaan lähestymistapaan tekoälyn sääntelyssä.

Sekä yleissopimus että tekoälysäädös ovat erottamaton osa tekoälyn sääntelyä. Ne sisältävät johdonmukaisia ja toisiaan vahvistavia sitoumuksia useilla kansainvälisillä tasoilla, ja niiden yhteisenä tavoitteena varmistaa luotettava tekoäly.

•Yhdenmukaisuus unionin muiden politiikkojen kanssa

Yleissopimuksella on myös yhteisiä tavoitteita muiden sellaisten unionin politiikkojen ja säädösten kanssa, joilla pyritään panemaan täytäntöön Euroopan unionin perusoikeuskirjassa 8 vahvistetut perusoikeudet.

Erityisesti yleissopimuksessa vahvistettu tasa-arvon ja syrjimättömyyden periaate on täysin yhdenmukainen unionin syrjinnän vastaisen lainsäädännön kanssa, ja sillä edistetään tasa-arvonäkökohtien huomioon ottamista tekoälyjärjestelmien suunnittelussa, kehittämisessä ja käytössä sekä syrjintäkiellon tehokasta täytäntöönpanoa sopimuspuolten sovellettavan kansainvälisen ja kansallisen lainsäädännön mukaisesti.

Yleissopimus on lisäksi yksityisyyden ja henkilötietojen suojaa koskevien perusoikeuksien osalta yhdenmukainen unionin tietosuojasäännöstön, myös yleisen tietosuoja-asetuksen 9 , kanssa, ja se sisältää tehokkaat takeet ja suojatoimet, jotka on otettava käyttöön yksityishenkilöiden osalta sopimuspuolten sovellettavien kansallisten ja kansainvälisten oikeudellisten velvoitteiden mukaisesti.

Yleissopimuksessa määrätyt toimenpiteet, joiden tarkoituksena on suojella sopimuspuolten demokraattisia prosesseja tekoälyjärjestelmän elinkaareen kuuluvien toimien yhteydessä, ovat täysin yhdenmukaisia digipalvelusäädöksen 10 tavoitteiden ja yksityiskohtaisten sääntöjen kanssa. Digipalvelusäädöksellä säännellään välityspalvelujen tarjoamista unionissa, jotta voidaan varmistaa turvallinen, ennakoitava ja luotettava verkkoympäristö, jossa kunnioitetaan perusoikeuksia, mukaan lukien sananvapaus sekä oikeus vastaanottaa ja levittää tietoja. Ne ovat yhdenmukaisia myös poliittisen mainonnan avoimuutta ja kohdentamista koskevan asetuksen 11 , disinformaatiota koskevien käytännesääntöjen 12 sekä demokratiaan ja vapaisiin, rehellisiin ja häiriönsietokykyisiin vaaleihin liittyvien unionin politiikkojen 13 kanssa. Viimeksi mainittuihin kuuluvat muun muassa vuoden 2020 Euroopan demokratiatoimintasuunnitelma 14 , vaalien koskemattomuutta koskeva paketti 15 ja hiljattain vuoden 2023 demokratian puolustuspaketti 16 .

Yleissopimus on myös yhdenmukainen unionin yleisen digitaalistrategian kanssa, koska sillä edistetään ihmisen hyväksi toimivaa teknologiaa, joka on yksi tiedonannossa ”Euroopan digitaalista tulevaisuutta rakentamassa” 17 esitettyjen poliittisten suuntaviivojen ja tavoitteiden kolmesta pääpilarista. Tiedonannon tavoitteena on varmistaa, että tekoälyn kehityksessä kunnioitetaan ihmisoikeuksia ja pystytään ansaitsemaan ihmisten luottamus. Näin kehitetään Euroopan digitaalista valmiutta ja tehdään seuraavasta vuosikymmenestä digitaalinen vuosikymmenen 18 .

Myös eurooppalainen julistus digitaalisen vuosikymmenen digitaalisista oikeuksista ja periaatteista 19 sisältää useita digitaalisia oikeuksia ja periaatteita, jotka ovat linjassa yleissopimuksen tavoitteiden ja periaatteiden kanssa, ja molemmilla välineillä edistetään vahvaa ihmisoikeuksiin perustuvaa lähestymistapaa teknologiaan.

Yleissopimus on myös yhdenmukainen lasten oikeuksia koskevan EU:n strategian 20 ja parempaa internetiä lapsille koskevan eurooppalaisen strategian (BIK+) 21 kanssa. Parempi internet lapsille -strategian tavoitteena on varmistaa, että lapsilla on parempi suoja ja paremmat mahdollisuudet vaikuttaa ja tulla kunnioitetuksi verkossa, jotta he voivat kohdata uusien virtuaalisten maailmojen ja tekoälyn asettamat haasteet.

2.OIKEUSPERUSTA, TOISSIJAISUUSPERIAATE JA SUHTEELLISUUSPERIAATE

•Oikeusperusta

Ehdotus päätökseksi luvan antamisesta yleissopimuksen allekirjoittamiseen unionin puolesta toimitetaan neuvostolle SEUT-sopimuksen 218 artiklan 5 kohdan mukaisesti.

SEUT-sopimuksen 218 artiklan 5 kohdan nojalla annettavan päätöksen aineellinen oikeusperusta määräytyy ensisijaisesti sopimuksen tavoitteen ja sisällön perusteella. Jos unionin toimen tarkastelusta ilmenee, että sillä on kaksi tarkoitusta tai että siinä on kahdenlaisia tekijöitä, ja jos toinen näistä on yksilöitävissä pääasialliseksi tai määrääväksi tarkoitukseksi tai tekijäksi, kun taas toinen on ainoastaan liitännäinen, on oikeuskäytännön mukaan käytettävä vain yhtä oikeudellista perustaa, toisin sanoen sitä, jota pääasiallinen tai määräävä tarkoitus tai tekijä edellyttää.

Aineellisen oikeusperustan osalta voidaan todeta, että yleissopimuksen aineellinen soveltamisala on sama kuin tekoälysäädöksellä 22 , myös siltä osin, että tutkimus- ja kehitystoiminta ja kansalliseen turvallisuuteen ja puolustukseen liittyvä toimintaa on jätetty soveltamisalan ulkopuolelle. Yleissopimuksen periaatteet ja velvoitteet vastaavat tekoälysäädöksessä ja muussa merkityksellisessä unionin lainsäädännössä säädettyjä tekoälyjärjestelmiä koskevia yksityiskohtaisempia vaatimuksia ja tällaisten järjestelmien tarjoajille ja käyttöönottajille asetettuja erityisiä velvoitteita. Jos neuvosto hyväksyy ehdotetun päätöksen ja unioni allekirjoittaa yleissopimuksen, tekoälysäädös muodostaa unionin primaarilainsäädännön, jolla yleissopimus saatetaan osaksi unionin oikeusjärjestystä täysin yhdenmukaistetuilla säännöillä, jotka koskevat tekoälyjärjestelmien markkinoille saattamista, käyttöönottoa ja käyttöä unionissa ja joita sovelletaan sellaisenaan jäsenvaltioissa, ellei tekoälysäädöksessä nimenomaisesti toisin säädetä 23 .

Kun otetaan huomioon, että yleissopimuksen soveltamisala ja tavoitteet ovat linjassa ja täysin yhdenmukaiset tekoälysäädöksen tavoitteiden kanssa ja että molempien oikeudellisten välineiden henkilölliset ja aineelliset soveltamisalat vastaavat toisiaan, yleissopimuksen tekemisen aineellinen oikeusperusta on SEUT-sopimuksen 114 artikla, joka on tekoälysäädöksen ensisijainen oikeusperusta.

Kansainvälisten sopimusten luonne (yksinomaan unionin sopimus vai sekasopimus) riippuu siitä, kuuluuko niiden kohde unionin toimivaltaan.

SEUT-sopimuksen 3 artiklan 2 kohdan mukaan unionilla on yksinomainen toimivalta ”tehdä kansainvälinen sopimus [...] siltä osin kuin se voi vaikuttaa yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta”. Kansainvälinen sopimus voi vaikuttaa yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta, jos unionin lainsäädäntö kattaa sopimuksen soveltamisalan suurelta osin 24 .

Yleissopimuksen henkilöllinen soveltamisala on täysin yhdenmukainen tekoälysäädöksen kanssa, sillä molemmat oikeudelliset välineet kattavat periaatteessa sekä julkiset että yksityiset toimijat (yleissopimuksen periaatteita ja velvoitteita sovelletaan vapaaehtoisesti muihin kuin viranomaisten puolesta toimiviin yksityisiin toimijoihin), kun taas molempien oikeudellisten välineiden aineellinen soveltamisala jättää sovellettavien sääntöjen soveltamisalan ulkopuolelle kansalliseen turvallisuuteen, puolustukseen ja tutkimukseen liittyvät tekoälytoimet.

Kun otetaan huomioon, että yleissopimuksen henkilöllinen ja aineellinen soveltamisala ovat samat kuin tekoälysäädöksellä, yleissopimuksen tekeminen voi vaikuttaa unionin yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta SEUT-sopimuksen 3 artiklan 2 kohdassa tarkoitetulla tavalla. Näin ollen unionilla olisi katsottava olevan yksinomainen ulkoinen toimivalta tehdä yleissopimus, ja yleissopimus olisi allekirjoitettava unionin puolesta sopimuksena, jonka sopimuspuolena on yksinomaan EU, sillä varauksella, että sopimuksen tekeminen saatetaan myöhemmin päätökseen.

•Suhteellisuusperiaate

Yleissopimuksessa ei ylitetä sitä, mikä on tarpeen toimintapoliittisten tavoitteiden saavuttamiseksi kehittämällä johdonmukainen lähestymistapa tekoälyn sääntelyyn kansainvälisellä tasolla.

Yleissopimuksessa vahvistetaan tekoälyä koskeva yleinen oikeudellinen kehys, joka mahdollistaa joustavuuden ja antaa sopimuspuolille mahdollisuuden suunnitella konkreettiset täytäntöönpanokehykset. Riskiperusteisella lähestymistavalla varmistetaan myös sääntöjen oikeasuhteisuus ja mahdollistetaan täytäntöönpanotoimenpiteiden eriyttäminen riskeihin suhteutetulla tavalla, samalla tavoin kuin tekoälysäädöksessä.

•Toimintatavan valinta

Toimintatapana on ehdotus neuvoston päätökseksi SEUT-sopimuksen 218 artiklan 5 kohdan mukaisesti.

3.JÄLKIARVIOINTIEN, SIDOSRYHMIEN KUULEMISTEN JA VAIKUTUSTENARVIOINTIEN TULOKSET

•Jälkiarvioinnit/toimivuustarkastukset

Ei sovelleta.

•Sidosryhmien kuuleminen

Euroopan komissio ei ole järjestänyt tästä ehdotuksesta erillistä sidosryhmien kuulemista.

Yleissopimus laadittiin yhteistyönä Euroopan neuvoston tekoälykomiteassa, jossa olivat mukana kaikki 46 Euroopan neuvoston jäsenvaltiota sekä tarkkailijavaltiot, kuten Kanada, Japani, Meksiko, Pyhä istuin ja Yhdysvallat, sekä Euroopan unioni. Työhön osallistui myös useita muita kolmansia maita, jotka eivät ole jäsenvaltioita, kuten Australia, Argentiina, Costa Rica, Israel, Peru ja Uruguay.

Euroopan neuvosto on sitoutunut tekemään yhteistyötä eri sidosryhmien kanssa, ja tämän sitoumuksen mukaisesti yleissopimuksen laatimiseen osallistui myös 68 kansalaisyhteiskunnan, tiedemaailman, teollisuuden ja muiden kansainvälisten järjestöjen kansainvälistä edustajaa. Näin varmistettiin kattava ja osallistava lähestymistapa. Yleissopimuksen laatimiseen kuului myös yhteistyö useiden muiden kansainvälisten järjestöjen, kuten Euroopan turvallisuus- ja yhteistyöjärjestön (Etyj), Taloudellisen yhteistyön ja kehityksen järjestön (OECD) ja Yhdistyneiden kansakuntien kasvatus-, tiede- ja kulttuurijärjestön (UNESCO) kanssa. Prosessiin osallistuivat myös Euroopan neuvoston asiaankuuluvat elimet ja komiteat. Unionin osallistumista johti Euroopan komissio. Tarkkailijoina olivat myös Euroopan unionin perusoikeusviraston ja Euroopan tietosuojavaltuutetun edustajat.

•Asiantuntijatiedon keruu ja käyttö

Yleissopimusta koskevat unionin neuvottelukannat on laadittu neuvoston nimeämää erityiskomiteaa (neuvoston televiestintä- ja tietoyhteiskuntatyöryhmää) kuullen.

•Vaikutustenarviointi

Ei sovelleta.

•Sääntelyn toimivuus ja yksinkertaistaminen

Ei sovelleta.

•Perusoikeudet

Yleissopimuksella pyritään puuttumaan ihmisoikeuksiin kohdistuviin mahdollisiin riskeihin ja haittoihin varmistamalla, että tekoälyjärjestelmien elinkaareen kuuluvissa toimissa kunnioitetaan ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta, samalla kun tunnustetaan tekoälyn tarjoamat mahdollisuudet suojella näitä oikeuksia ja helpottaa niiden käyttöä digitaalisessa ympäristössä sekä parantaa yhteiskunnallista ja ympäristöön liittyvää hyvinvointia ja teknologian kehitystä.

Yleissopimuksessa vahvistettujen konkreettisten periaatteiden ja velvoitteiden tarkoituksena on suojella ja kunnioittaa ihmisoikeuksia, jotka on vahvistettu useissa kansainvälisissä ja alueellisissa asiakirjoissa 25 , sellaisina kuin niitä sovelletaan sopimuspuoliin, mukaan lukien unionin perusoikeuskirja ja ihmisoikeuksia koskevat kansainväliset asiakirjat, jotka unioni on tehnyt.

Yleissopimuksessa vahvistetaan siten yhteiset vähimmäisnormit ihmisoikeuksien suojelulle tekoälyn yhteydessä. Samalla turvataan nykyinen ihmisoikeuksien suojelu ja annetaan sopimuspuolille mahdollisuus tarjota laajempaa suojelua tiukemmilla suojatoimilla.

4.TALOUSARVIOVAIKUTUKSET

Yleissopimuksessa määrätään valtioiden, jotka eivät ole Euroopan neuvoston jäseniä, osallistumisesta sopimuspuolten konferenssin toiminnan rahoitukseen. Kaikki Euroopan neuvoston jäsenet maksavat osuutensa Euroopan neuvoston tavanomaisen talousarvion kautta Euroopan neuvoston perussäännön mukaisesti, mutta sopimuspuolet, jotka eivät ole jäseniä, suorittavat talousarvion ulkopuolisia rahoitusosuuksia. Ministerikomitea ja Euroopan neuvostoon kuulumaton valtio vahvistavat yhdessä kyseisen valtion rahoitusosuuden.

Yleissopimus ei vaikuta sopimuspuolten kansallisiin lakeihin ja asetuksiin, joissa säädetään talousarviomäärärahoja koskevasta toimivallasta ja menettelyistä. Siinä annetaan myös muille kuin jäsenvaltioille mahdollisuus suorittaa maksuosuutensa niiden lainsäädäntävallan käyttäjän hyväksymän talousarvion rajoissa, sanotun kuitenkaan rajoittamatta mahdollisten ennakkosopimusten soveltamista.

5.LISÄTIEDOT

•Toteuttamissuunnitelmat, seuranta, arviointi ja raportointijärjestelyt

Sopimuspuolten edustajista koostuva sopimuspuolten konferenssi valvoo, että yleissopimuksen tavoitteet tosiasiallisesti saavutetaan ja että sopimuspuolet panevat sen määräykset täytäntöön.

Kunkin sopimuspuolen on toimitettava sopimuspuolten konferenssille kahden ensimmäisen vuoden kuluessa liittymisestä ja sen jälkeen säännöllisin väliajoin raportti, jossa esitetään yksityiskohtaisesti yleissopimuksen täytäntöönpanemiseksi toteutetut toimenpiteet.

Sopimuspuolia kannustetaan lisäksi tekemään yhteistyötä yleissopimuksen tavoitteiden saavuttamiseksi. Tähän kansainväliseen yhteistyöhön voi sisältyä asiaankuuluvien tietojen jakaminen tekoälystä ja sen mahdollisuuksista vaikuttaa kielteisesti tai myönteisesti ihmisoikeuksiin, demokratiaan ja oikeusvaltioperiaatteeseen.

Tehokkaan seurannan ja täytäntöönpanon varmistamiseksi kunkin sopimuspuolen on nimettävä yksi tai useampi tehokas valvontamekanismi kansallisella tasolla.

2024/0150 (NLE)

Ehdotus

NEUVOSTON PÄÄTÖS

tekoälyä ja ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevan Euroopan neuvoston puiteyleissopimuksen allekirjoittamisesta Euroopan unionin puolesta

EUROOPAN UNIONIN NEUVOSTO, joka

ottaa huomioon Euroopan unionin toiminnasta tehdyn sopimuksen ja erityisesti sen 114 artiklan yhdessä sen 218 artiklan 5 kohdan kanssa,

ottaa huomioon Euroopan komission ehdotuksen,

sekä katsoo seuraavaa:

(1)Neuvosto antoi 21 päivänä marraskuuta 2022 Euroopan komissiolle luvan aloittaa unionin puolesta neuvottelut tekoälyä ja ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevasta Euroopan neuvoston yleissopimuksesta, jäljempänä ’yleissopimus’. Euroopan komissio on neuvotellut yleissopimuksen unionin puolesta. Neuvottelut saatiin menestyksekkäästi päätökseen 17 päivänä toukokuuta 2024, kun yleissopimus parafoitiin ja Euroopan neuvoston ministerikomitea hyväksyi sen 26 .

(2)Yleissopimuksessa vahvistetaan yleiset periaatteet ja velvoitteet, joita yleissopimuksen sopimuspuolten olisi noudatettava varmistaakseen ihmisoikeuksien, demokratian ja oikeusvaltioperiaatteen suojelun tekoälyjärjestelmien elinkaareen kuuluvissa toimissa.

(3)Unioni hyväksyi 12 päivänä kesäkuuta 2024 asetuksen (EU) 2024/..., jäljempänä ’tekoälysäädös’ 27 , pääasiassa SEUT-sopimuksen 114 artiklan perusteella. Siinä vahvistetaan täysin yhdenmukaistetut säännöt, joilla säännellään tekoälyjärjestelmien markkinoille saattamista, käyttöönottoa ja käyttöä unionissa ja joita sovelletaan sellaisinaan jäsenvaltioissa, ellei tekoälysäädöksessä nimenomaisesti toisin säädetä. Yleissopimus on määrä panna unionissa täytäntöön yksinomaan tekoälysäädöksellä ja tarvittaessa muulla merkityksellisellä unionin säännöstöllä.

(4)Kun otetaan huomioon, että yleissopimuksen henkilöllinen ja aineellinen soveltamisala vastaavat tekoälysäädöstä ja muuta merkityksellistä unionin säännöstöä, yleissopimuksen tekeminen voi vaikuttaa unionin yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta Euroopan unionin toiminnasta tehdyn sopimuksen 3 artiklan 2 kohdassa tarkoitetulla tavalla. Unionilla on näin ollen yksinomainen ulkoinen toimivalta allekirjoittaa yleissopimus, ja sen vuoksi ainoastaan unionista olisi tultava yleissopimuksen sopimuspuoli, sillä varauksella, että sopimuksen tekeminen saatetaan päätökseen myöhemmin.

(5)Perussopimusten mukaisesti Euroopan komission olisi varmistettava yleissopimuksen allekirjoittaminen sillä varauksella, että sen tekeminen saatetaan päätökseen myöhemmin,

ON HYVÄKSYNYT TÄMÄN PÄÄTÖKSEN:

1 artikla

Hyväksytään tekoälyä ja ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevan Euroopan neuvoston puiteyleissopimuksen, jäljempänä ’yleissopimus’, allekirjoittaminen unionin puolesta sillä varauksella, että mainitun yleissopimuksen tekeminen saatetaan päätökseen myöhemmin.

Allekirjoitettavan yleissopimuksen teksti on tämän päätöksen liitteenä.

2 artikla

Tämä päätös tulee voimaan [...].

Tehty Brysselissä

   Neuvoston puolesta

   Puheenjohtaja

(1)     EUROOPAN PARLAMENTIN JA NEUVOSTON ASETUS (EU) 2024/… tekoälyä koskevista yhdenmukaistetuista säännöistä ja asetusten (EY) N:o 300/2008, (EU) N:o 167/2013, (EU) N:o 168/2013, (EU) 2018/858, (EU) 2018/1139 ja (EU) 2019/2144 sekä direktiivien 2014/90/EU, (EU) 2016/797 ja (EU) 2020/1828 muuttamisesta (tekoälysäädös), EUVL 2024 L …..
(2)    Tekoälysäädös, johdanto-osan 1 ja 8 kappale.
(3)     Tekoälykomitean työtä koskeva päätös ministerikomitean 132. istunnossa – Seurantaraportti, CM/Inf(2022)20, DD(2022)245 .
(4)    Unionin tuomioistuimen tuomio, 20.11.2018, yhdistetyt asiat C-626/15 ja C-659/16, komissio v. neuvosto (Antartic MPAs), ECLI:EU:C:2018:925, 112 kohta.
(5)     Neuvoston päätös (EU) 2022/2349, annettu 21 päivänä marraskuuta 2022, luvan antamisesta aloittaa neuvottelut Euroopan unionin puolesta tekoälyä, ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevan Euroopan neuvoston yleissopimuksen tekemiseksi , EUVL L 311, 2.12.2022, s. 138 .
(6)    CM/Del/Dec(2024)133/4.
(7)    OECD:n ’tekoälyjärjestelmän’ määritelmää päivitettiin 8. marraskuuta 2023 [C(2023)151 ja C/M(2023)14, kohta 218] sen varmistamiseksi, että se on edelleen teknisesti tarkka ja että siinä otetaan huomioon teknologian kehitys, myös generatiivisen tekoälyn osalta.
(8)

   Euroopan unionin perusoikeuskirja, EUVL C 326, 26.10.2012, s. 391–407.

(9)    Euroopan parlamentin ja neuvoston asetus (EU) 2016/679, annettu 27 päivänä huhtikuuta 2016, luonnollisten henkilöiden suojelusta henkilötietojen käsittelyssä sekä näiden tietojen vapaasta liikkuvuudesta ja direktiivin 95/46/EY kumoamisesta (yleinen tietosuoja-asetus) (EUVL L 119, 4.5.2016, s. 1).
(10)    Euroopan parlamentin ja neuvoston asetus (EU) 2022/2065, annettu 19 päivänä lokakuuta 2022, digitaalisten palvelujen sisämarkkinoista ja direktiivin 2000/31/EY muuttamisesta (digipalvelusäädös) (EUVL L 277, 27.10.2022, s. 1–102).
(11)    Euroopan parlamentin ja neuvoston asetus (EU) 2024/900, annettu 13 päivänä maaliskuuta 2024, poliittisen mainonnan avoimuudesta ja kohdentamisesta, PE/90/2023/REV/1, EUVL L, 2024/900, 20.3.2024.
(12)     https://disinfocode.eu/introduction-to-the-code/
(13)     Demokratian suojelu - Euroopan komissio (europa.eu)
(14)     https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_en
(15)     https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en
(16)    Komission tiedonanto – Demokratian puolustaminen, COM(2023) 630 final.
(17)    Komission tiedonanto – Euroopan digitaalista tulevaisuutta rakentamassa, COM(2020) 67 final.
(18)    Komission tiedonanto, 2030 digitaalinen kompassi: eurooppalainen lähestymistapa digitaalista vuosikymmentä varten , COM(2021)118 final.
(19)     Eurooppalainen julistus digitaalisista oikeuksista ja periaatteista digitaalista vuosikymmentä varten , COM(2022) 28 final.
(20)    Komission tiedonanto – Lasten oikeuksia koskeva EU:n strategia, COM(2021) 142 final.
(21)    Komission tiedonanto ”Lasten ja nuorten digitaalinen vuosikymmen: uusi eurooppalainen Parempi internet lapsille -strategia (BIK+)”, COM(2022) 212 final
(22)    Neuvosto on hyväksynyt säädöksen 21. toukokuuta 2024, ja se on määrä julkaista Euroopan unionin virallisessa lehdessä heinäkuussa 2024.
(23)    Ks. tekoälysäädöksen johdanto-osan 1 kappale ja 1 artikla.
(24)    Esim. asia C‑114/12, komissio v. neuvosto (yleisradio-organisaatioiden lähioikeuksien suoja), ECLI:EU:C:2014:2151, 68–69 kohta; lausunto 1/13, Kolmansien valtioiden liittyminen Haagin yleissopimukseen, EU:C:2014:2303, 71–74 kohta; asia C‑66/13 Green Network EU:C:2014:2399, 27–33 kohta; lausunto 3/15, Marrakeshin sopimus julkaistujen teosten saatavuuden helpottamisesta sokeiden, heikkonäköisten tai muulla tavoin lukemisesteisten hyväksi, ECLI:EU:C:2017:114, 105–108 kohta.
(25)    Kuten vuonna 1948 annettu ihmisoikeuksien yleismaailmallinen julistus, vuoden 1950 yleissopimus ihmisoikeuksien ja perusvapauksien suojaamiseksi (ETS N:o 5), kansalaisoikeuksia ja poliittisia oikeuksia koskeva vuoden 1966 kansainvälinen yleissopimus, taloudellisia, sosiaalisia ja sivistyksellisiä oikeuksia koskeva vuoden 1966 kansainvälinen yleissopimus, vuonna 1961 tehty Euroopan sosiaalinen peruskirja (ETS N:o 35) ja niihin liittyvät pöytäkirjat sekä vuonna 1996 tehty Euroopan sosiaalinen peruskirja (tarkistettu) (ETS N:o 163), vuonna 1989 tehty Yhdistyneiden Kansakuntien yleissopimus lapsen oikeuksista ja vuonna 2006 tehty Yhdistyneiden Kansakuntien yleissopimus vammaisten henkilöiden oikeuksista.
(26)    NEUVOSTON PÄÄTÖS (EU) 2022/2349, annettu 21 päivänä marraskuuta 2022, luvan antamisesta aloittaa neuvottelut Euroopan unionin puolesta tekoälyä, ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevan Euroopan neuvoston yleissopimuksen tekemiseksi , EUVL L 311, 2.12.2022, s. 138 .
(27)    Euroopan parlamentin ja neuvoston asetus (EU) 2024/… tekoälyä koskevista yhdenmukaistetuista säännöistä ja asetusten (EY) N:o 300/2008, (EU) N:o 167/2013, (EU) N:o 168/2013, (EU) 2018/858, (EU) 2018/1139 ja (EU) 2019/2144 sekä direktiivien 2014/90/EU, (EU) 2016/797 ja (EU) 2020/1828 muuttamisesta (tekoälysäädös), EUVL 2024 L …..