EUROOPAN KOMISSIO
Bryssel 26.6.2024
COM(2024) 264 final
2024/0150(NLE)
Ehdotus
NEUVOSTON PÄÄTÖS
tekoälyä ja ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevan Euroopan neuvoston puiteyleissopimuksen allekirjoittamisesta Euroopan unionin puolesta
PERUSTELUT
1.EHDOTUKSEN TAUSTA
•Ehdotuksen perustelut ja tavoitteet
Tekoäly tarjoaa suuria mahdollisuuksia, mutta tietyt sovellukset ja käyttötavat voivat myös aiheuttaa haittaa ja riskejä yksilöiden perusoikeuksille ja muille yleisille eduille.
Tekoälyä koskevista yhdenmukaistetuista säännöistä annetulla Euroopan parlamentin ja neuvoston asetuksella (EU) 2024/[...], jäljempänä ’tekoälysäädös’, unioni on hyväksynyt ensimmäisen tekoälyä koskevan kattavan säädöksen, jossa asetetaan maailmanlaajuinen standardi. Tekoälysäädös hyväksyttiin 12. kesäkuuta 2024, ja se tulee voimaan 20 päivän kuluttua sen julkaisemisesta Euroopan unionin virallisessa lehdessä. Tekoälysäädöksellä yhdenmukaistetaan täysin tekoälyjärjestelmien markkinoille saattamista, käyttöönottoa ja käyttöä koskevat säännöt jäsenvaltioissa. Tavoitteena on edistää innovointia ja luotettavan tekoälyn käyttöönottoa ja samalla suojella terveyttä, turvallisuutta ja perusoikeuksia, kuten demokratiaa, oikeusvaltiota ja ympäristöä.
Monet kansainväliset järjestöt, Euroopan neuvosto niiden joukossa, ovat myös tehostaneet toimintaansa tekoälyn sääntelyn alalla ja tunnustaneet tekoälyn rajatylittävän luonteen sekä kansainvälisen yhteistyön tarpeen, jotta näiden teknologioiden aiheuttamiin yhteisiin haasteisiin voidaan vastata.
Euroopan neuvoston tekoälykomitea (CAI) on kesäkuusta 2022 lähtien laatinut oikeudellisesti sitovaa puiteyleissopimusta, jäljempänä ’yleissopimus’, jolla voidaan puuttua mahdollisiin riskeihin, joita tekoäly aiheuttaa ihmisoikeuksille, demokratialle ja oikeusvaltioperiaatteelle. Unioni neuvotteli yleissopimuksen Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT-sopimus) 216 artiklan 1 kohdassa mainitun neljännen vaihtoehdon perusteella. Sen mukaan unioni voi neuvotella ja tehdä kansainvälisen sopimuksen, jos tämä ”[...] voi vaikuttaa yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta”. Euroopan komissio edusti unionia yleissopimusta koskevissa neuvotteluissa SEUT-sopimuksen 218 artiklan 3 kohdan mukaisesti ja neuvoston päätöksen perusteella, jolla annettiin lupa aloittaa neuvottelut Euroopan unionin puolesta.
Unioni on osallistunut aktiivisesti neuvotteluihin ja pyrkinyt varmistamaan yleissopimuksen yhteensopivuuden unionin oikeuden kanssa, sen johdonmukaisuuden tekoälysäädöksen kanssa sekä yleissopimuksen laadun ja lisäarvon ensimmäisenä tekoälyä koskevana kansainvälisenä sopimuksena. Tässä yhteydessä unionin tavoitteena on ollut myös yleissopimuksen kansainvälinen ulottuvuus.
Useiden neuvottelukierrosten jälkeen tekoälykomitea hyväksyi yleissopimuksen tekstin 10. istunnossaan, joka järjestettiin 11.–14. maaliskuuta 2024. Euroopan neuvoston ministerikomitea hyväksyi yleissopimuksen 17. toukokuuta 2024, päätti avata sen allekirjoittamista varten Vilnassa (Liettua) 5. syyskuuta 2024 oikeusministerien epävirallisen konferenssin yhteydessä ja kehotti Euroopan neuvoston jäseniä, muita yleissopimuksen laatimiseen osallistuneita kolmansia maita ja unionia harkitsemaan sen allekirjoittamista tässä yhteydessä. Samalla se muistutti, että yleissopimus on avoinna myös muiden kolmansien maiden liittymistä varten.
Tätä taustaa vasten tämän ehdotuksen tarkoituksena on käynnistää prosessi sitä varten, että unioni voi allekirjoittaa yleissopimuksen tarkoituksenaan ratifioida se myöhemmin, ja ehdottaa neuvostolle päätöksen hyväksymistä unionin valtuuttamisesta allekirjoittamaan yleissopimus SEUT-sopimuksen 218 artiklan 5 kohdan mukaisesti. Yleissopimus on täysin yhdenmukainen unionin oikeuden ja erityisesti tekoälysäädöksen kanssa, ja sillä edistetään tekoälyn sääntelyä koskevan unionin lähestymistavan keskeisiä käsitteitä maailmanlaajuisesti muiden Euroopan neuvoston jäsenten ja keskeisten kansainvälisten kumppaneiden keskuudessa, jotka voivat tulla yleissopimuksen sopimuspuoliksi.
Yleissopimuksen sisältö
Yleissopimuksen tavoitteena on varmistaa, että tekoälyjärjestelmien elinkaareen kuuluvat toimet ovat täysin yhdenmukaisia ihmisoikeuksien, demokratian ja oikeusvaltioperiaatteen kanssa.
Yleissopimuksen sopimuspuolten on pantava yleissopimus täytäntöön asianmukaisilla lainsäädännöllisillä, hallinnollisilla tai muilla toimenpiteillä noudattaen haittavaikutusten vakavuuteen ja todennäköisyyteen perustuvaa porrastettua ja eriytettyä lähestymistapaa. Yleissopimus olisi pantava unionissa täytäntöön yksinomaan tekoälysäädöksellä, jolla yhdenmukaistetaan täysin tekoälyjärjestelmien markkinoille saattamista, käyttöönottoa ja käyttöä koskevat säännöt, sekä tarvittaessa muulla merkityksellisellä unionin säännöstöllä.
Yleissopimuksen soveltamisalaan kuuluvat tekoälyjärjestelmät, jotka saattavat vaikuttaa ihmisoikeuksiin, demokratiaan ja oikeusvaltioperiaatteeseen, eriytetyn lähestymistavan mukaisesti. Yleissopimuksessa esitettyjä periaatteita ja velvoitteita sovelletaan toimiin, joita viranomaiset tai niiden puolesta toimivat yksityiset toimijat toteuttavat tekoälyjärjestelmien elinkaaren aikana. Yksityisen sektorin osalta sopimuspuolten on puututtava yksityisten toimijoiden tekoälyjärjestelmien elinkaaren aikana toteuttamista toimista aiheutuviin riskeihin ja vaikutuksiin yleissopimuksen tavoitetta ja tarkoitusta vastaavalla tavalla, mutta ne voivat valita, soveltavatko ne yleissopimuksen velvoitteita vai toteuttavatko ne muita asianmukaisia toimenpiteitä. Sopimuspuolten on annettava selitys tältä osin tekemästään valinnasta allekirjoittaessaan yleissopimuksen tai liittyessään siihen. Unionin olisi annettava yleissopimuksen tekemisen yhteydessä selitys siitä, että unioni panee yleissopimuksen II–VI luvussa vahvistetut periaatteet ja velvoitteet täytäntöön tekoälysäädöksellä ja muulla merkityksellisellä unionin säännöstöllä sellaisten yksityisten toimijoiden toimien osalta, jotka saattavat markkinoille, ottavat käyttöön ja käyttävät tekoälyjärjestelmiä unionissa.
Kansalliseen turvallisuuteen liittyvät tekoälytoimet eivät kuulu yleissopimuksen soveltamisalaan sillä oletuksella, että ne on joka tapauksessa toteutettava ihmisoikeuksia koskevan kansainvälisen oikeuden mukaisesti ja demokraattisia instituutioita ja prosesseja kunnioittaen. Yleissopimuksen soveltamisalan ulkopuolelle jätetään myös sellaisia tekoälyjärjestelmiä koskeva tutkimus- ja kehitystoiminta, joita ei ole vielä asetettu saataville käyttöä varten, paitsi jos niiden testaus tai vastaava toiminta voi vaikuttaa ihmisoikeuksiin, demokratiaan ja oikeusvaltioperiaatteeseen. Euroopan neuvoston perussäännön mukaisesti maanpuolustusta koskevat asiat eivät kuulu yleissopimuksen soveltamisalaan.
Yleissopimuksessa määrätään yleisistä velvoitteista ja perusperiaatteista, mukaan lukien ihmisarvon ja yksilön itsemääräämisoikeuden suojelu sekä tasa-arvon ja syrjimättömyyden edistäminen. Lisäksi siinä määrätään yksityisyyden ja henkilötietojen suojasta sekä avoimuudesta ja valvonnasta vastuullisuuden varmistamiseksi. Yhtenä periaatteena on myös turvallinen innovointi ja kokeilut valvotuissa ympäristöissä.
Oikeussuojakeinoja koskevassa luvussa määrätään toimenpiteistä, joilla pyritään varmistamaan esteettömien ja tehokkaiden oikeussuojakeinojen saatavuus tekoälyjärjestelmien elinkaareen kuuluvista toimista johtuvien ihmisoikeusloukkausten varalta. Se sisältää myös tehokkaat menettelylliset takeet henkilöille, joiden oikeuksiin tekoälyjärjestelmien käyttö on vaikuttanut merkittävästi. Lisäksi henkilöille olisi ilmoitettava, että he ovat vuorovaikutuksessa tekoälyjärjestelmän eivätkä ihmisen kanssa.
Yleissopimukseen sisältyy myös luku toimenpiteistä riskien ja haittavaikutusten arvioimiseksi ja lieventämiseksi. Tämä on tehtävä iteratiivisesti, jotta voidaan tunnistaa ihmisoikeuksiin, demokratiaan ja oikeusvaltioperiaatteeseen kohdistuvat tosiasialliset ja mahdolliset vaikutukset ja toteuttaa asianmukaisia ennaltaehkäisy- ja lieventämistoimenpiteitä.
Lisäksi yleissopimuksessa määrätään, että sopimuspuolten olisi arvioitava, onko tarpeellista kieltää tietyt tekoälyjärjestelmien sovellukset tai lykätä niiden käyttöönottoa, jos niiden katsotaan olevan ristiriidassa ihmisoikeuksien kunnioittamisen, demokratian toiminnan tai oikeusvaltioperiaatteen kanssa.
Yleissopimuksessa määrätään seurantamekanismista, joka toteutetaan sopimuspuolten konferenssissa. Se koostuu sopimuspuolten edustajista ja kokoontuu määräajoin keskustelemaan tavoista helpottaa yleissopimuksen tehokasta soveltamista ja täytäntöönpanoa. Siinä määrätään myös kansainvälisestä yhteistyömekanismista sekä yleissopimuksen sopimuspuolten välillä että suhteissa kolmansiin maihin ja asianomaisiin sidosryhmiin yleissopimuksen tavoitteen saavuttamiseksi.
Kunkin sopimuspuolen olisi lisäksi perustettava tai nimettävä kansallisella tasolla yksi tai useampi tehokas mekanismi, jolla valvotaan, että sopimuspuolet noudattavat yleissopimuksen velvoitteita.
•Yhdenmukaisuus muiden alaa koskevien politiikkojen säännösten kanssa
Yleissopimuksessa vahvistetaan ihmisoikeuksien, demokratian ja oikeusvaltioperiaatteen suojelua koskevat yleiset periaatteet ja velvoitteet, jotka ovat täysin johdonmukaisia ja linjassa tekoälysäädöksen tavoitteiden sekä tekoälyjärjestelmiä koskevien yksityiskohtaisten vaatimusten ja tällaisten järjestelmien tarjoajille ja käyttöönottajille asetettujen velvoitteiden kanssa.
Yleissopimuksessa oleva tekoälyjärjestelmän määritelmä on täysin yhdenmukainen tekoälysäädöksessä annetun määritelmän kanssa, koska molemmat perustuvat tällaisten järjestelmien määritelmään Taloudellisen yhteistyön ja kehityksen järjestön tekoälyperiaatteissa. Näin varmistetaan yhteinen käsitys siitä, mitkä digitaaliteknologiat ovat tekoälyä.
Sekä yleissopimuksessa että tekoälysäädöksessä noudatetaan myös riskiperusteista lähestymistapaa tekoälyjärjestelmien sääntelyyn, ja niihin sisältyy erityisiä säännöksiä riskin- ja vaikutustenarvioinneista sekä riskinvähentämistoimenpiteistä. Tekoälysäädös sisältää erityisesti useita tekoälyjärjestelmien kieltoja ja suuririskisiä käyttötapauksia kaikilla julkisilla ja yksityisillä sektoreilla, myös demokratian ja oikeuden alalla. Tekoälysäädöksen yksityiskohtaisilla säännöillä ja menettelyillä, jotka koskevat tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöönottoa näillä aloilla, varmistetaan siten, että perusoikeuksia, demokratiaa ja oikeusvaltioperiaatetta kunnioitetaan tekoälyn koko elinkaaren ajan.
Yleissopimus sisältää tekoälysäädöksen jo kattamia periaatteita ja velvoitteita, kuten toimenpiteitä, jotka koskevat ihmisoikeuksien suojelua, turvallisuutta ja luotettavuutta, vastuuvelvollisuutta ja vastuuta, datanhallintaa ja tietosuojaa, avoimuutta ja valvontaa, tasa-arvoa ja syrjimättömyyttä, digitaalisia taitoja ja digilukutaitoa.
Läpinäkyvyys on toinen molemmille oikeudellisille välineille yhteinen elementti. Siihen sisältyvät toimenpiteet, jotka koskevat tekoälyn tuottaman sisällön tunnistamista sekä ilmoittamista henkilöille siitä, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa. Molempiin oikeudellisiin välineisiin sisältyy myös säännöksiä, jotka koskevat riskien ja vaikutusten arviointia ja riskinhallintaa, tietojen säilyttämistä, tietojen luovuttamista (valtuutetuille elimille ja viranomaisille ja tarvittaessa asianomaisille henkilöille), jäljitettävyyttä ja selitettävyyttä sekä turvallista innovointia ja kokeiluja valvotuissa ympäristöissä. Niihin sisältyy myös toimenpiteitä tehokkaiden oikeussuojakeinojen mahdollistamiseksi, mukaan lukien oikeus pyytää ja saada tietoja ja tehdä valitus toimivaltaiselle viranomaiselle sekä menettelytakeet.
Yleissopimuksessa vahvistettu valvontajärjestelmä on myös täysin johdonmukainen tekoälysäädöksen kattavan hallinto- ja täytäntöönpanojärjestelmän kanssa. Siihen sisältyy täytäntöönpanon valvonta unionin ja jäsenvaltioiden tasolla sekä menettelyt, joilla varmistetaan unionin sääntöjen yhdenmukainen täytäntöönpano jäsenvaltioissa. Yleissopimuksessa määrätään yhdestä tai useammasta tehokkaasta kansallisen tason valvontamekanismista, jonka on hoidettava tehtävänsä riippumattomasti ja puolueettomasti ja jolla on oltava tarvittavat valtuudet, asiantuntemus ja resurssit, jotta se voi tehokkaasti hoitaa tehtävät, jotka liittyvät yleissopimuksen velvoitteiden noudattamiseen, sellaisina kuin sopimuspuolet ovat panneet ne täytäntöön.
Tekoälysäädöstä sovelletaan tekoälyjärjestelmiin, jotka saatetaan markkinoille tai otetaan käyttöön tai joita käytetään unionissa, mutta yleissopimuksella on laajempi maantieteellinen ulottuvuus, joka kattaa Euroopan neuvoston jäsenet ja eri puolella maailmaa olevat kolmannet valtiot, jotka voivat tulla yleissopimuksen sopimuspuoliksi. Yleissopimus tarjoaa näin ollen ainutlaatuisen tilaisuuden edistää luotettavaa tekoälyä unionin ulkopuolella ensimmäisessä kansainvälisessä oikeudellisesti sitovassa sopimuksessa, joka perustuu vahvaan ihmisoikeuksia suojaavaan lähestymistapaan tekoälyn sääntelyssä.
Sekä yleissopimus että tekoälysäädös ovat erottamaton osa tekoälyn sääntelyä. Ne sisältävät johdonmukaisia ja toisiaan vahvistavia sitoumuksia useilla kansainvälisillä tasoilla, ja niiden yhteisenä tavoitteena varmistaa luotettava tekoäly.
•Yhdenmukaisuus unionin muiden politiikkojen kanssa
Yleissopimuksella on myös yhteisiä tavoitteita muiden sellaisten unionin politiikkojen ja säädösten kanssa, joilla pyritään panemaan täytäntöön Euroopan unionin perusoikeuskirjassa vahvistetut perusoikeudet.
Erityisesti yleissopimuksessa vahvistettu tasa-arvon ja syrjimättömyyden periaate on täysin yhdenmukainen unionin syrjinnän vastaisen lainsäädännön kanssa, ja sillä edistetään tasa-arvonäkökohtien huomioon ottamista tekoälyjärjestelmien suunnittelussa, kehittämisessä ja käytössä sekä syrjintäkiellon tehokasta täytäntöönpanoa sopimuspuolten sovellettavan kansainvälisen ja kansallisen lainsäädännön mukaisesti.
Yleissopimus on lisäksi yksityisyyden ja henkilötietojen suojaa koskevien perusoikeuksien osalta yhdenmukainen unionin tietosuojasäännöstön, myös yleisen tietosuoja-asetuksen, kanssa, ja se sisältää tehokkaat takeet ja suojatoimet, jotka on otettava käyttöön yksityishenkilöiden osalta sopimuspuolten sovellettavien kansallisten ja kansainvälisten oikeudellisten velvoitteiden mukaisesti.
Yleissopimuksessa määrätyt toimenpiteet, joiden tarkoituksena on suojella sopimuspuolten demokraattisia prosesseja tekoälyjärjestelmän elinkaareen kuuluvien toimien yhteydessä, ovat täysin yhdenmukaisia digipalvelusäädöksen tavoitteiden ja yksityiskohtaisten sääntöjen kanssa. Digipalvelusäädöksellä säännellään välityspalvelujen tarjoamista unionissa, jotta voidaan varmistaa turvallinen, ennakoitava ja luotettava verkkoympäristö, jossa kunnioitetaan perusoikeuksia, mukaan lukien sananvapaus sekä oikeus vastaanottaa ja levittää tietoja. Ne ovat yhdenmukaisia myös poliittisen mainonnan avoimuutta ja kohdentamista koskevan asetuksen, disinformaatiota koskevien käytännesääntöjen sekä demokratiaan ja vapaisiin, rehellisiin ja häiriönsietokykyisiin vaaleihin liittyvien unionin politiikkojen kanssa. Viimeksi mainittuihin kuuluvat muun muassa vuoden 2020 Euroopan demokratiatoimintasuunnitelma, vaalien koskemattomuutta koskeva paketti ja hiljattain vuoden 2023 demokratian puolustuspaketti.
Yleissopimus on myös yhdenmukainen unionin yleisen digitaalistrategian kanssa, koska sillä edistetään ihmisen hyväksi toimivaa teknologiaa, joka on yksi tiedonannossa ”Euroopan digitaalista tulevaisuutta rakentamassa” esitettyjen poliittisten suuntaviivojen ja tavoitteiden kolmesta pääpilarista. Tiedonannon tavoitteena on varmistaa, että tekoälyn kehityksessä kunnioitetaan ihmisoikeuksia ja pystytään ansaitsemaan ihmisten luottamus. Näin kehitetään Euroopan digitaalista valmiutta ja tehdään seuraavasta vuosikymmenestä digitaalinen vuosikymmenen.
Myös eurooppalainen julistus digitaalisen vuosikymmenen digitaalisista oikeuksista ja periaatteista sisältää useita digitaalisia oikeuksia ja periaatteita, jotka ovat linjassa yleissopimuksen tavoitteiden ja periaatteiden kanssa, ja molemmilla välineillä edistetään vahvaa ihmisoikeuksiin perustuvaa lähestymistapaa teknologiaan.
Yleissopimus on myös yhdenmukainen lasten oikeuksia koskevan EU:n strategian ja parempaa internetiä lapsille koskevan eurooppalaisen strategian (BIK+) kanssa. Parempi internet lapsille -strategian tavoitteena on varmistaa, että lapsilla on parempi suoja ja paremmat mahdollisuudet vaikuttaa ja tulla kunnioitetuksi verkossa, jotta he voivat kohdata uusien virtuaalisten maailmojen ja tekoälyn asettamat haasteet.
2.OIKEUSPERUSTA, TOISSIJAISUUSPERIAATE JA SUHTEELLISUUSPERIAATE
•Oikeusperusta
Ehdotus päätökseksi luvan antamisesta yleissopimuksen allekirjoittamiseen unionin puolesta toimitetaan neuvostolle SEUT-sopimuksen 218 artiklan 5 kohdan mukaisesti.
SEUT-sopimuksen 218 artiklan 5 kohdan nojalla annettavan päätöksen aineellinen oikeusperusta määräytyy ensisijaisesti sopimuksen tavoitteen ja sisällön perusteella. Jos unionin toimen tarkastelusta ilmenee, että sillä on kaksi tarkoitusta tai että siinä on kahdenlaisia tekijöitä, ja jos toinen näistä on yksilöitävissä pääasialliseksi tai määrääväksi tarkoitukseksi tai tekijäksi, kun taas toinen on ainoastaan liitännäinen, on oikeuskäytännön mukaan käytettävä vain yhtä oikeudellista perustaa, toisin sanoen sitä, jota pääasiallinen tai määräävä tarkoitus tai tekijä edellyttää.
Aineellisen oikeusperustan osalta voidaan todeta, että yleissopimuksen aineellinen soveltamisala on sama kuin tekoälysäädöksellä, myös siltä osin, että tutkimus- ja kehitystoiminta ja kansalliseen turvallisuuteen ja puolustukseen liittyvä toimintaa on jätetty soveltamisalan ulkopuolelle. Yleissopimuksen periaatteet ja velvoitteet vastaavat tekoälysäädöksessä ja muussa merkityksellisessä unionin lainsäädännössä säädettyjä tekoälyjärjestelmiä koskevia yksityiskohtaisempia vaatimuksia ja tällaisten järjestelmien tarjoajille ja käyttöönottajille asetettuja erityisiä velvoitteita. Jos neuvosto hyväksyy ehdotetun päätöksen ja unioni allekirjoittaa yleissopimuksen, tekoälysäädös muodostaa unionin primaarilainsäädännön, jolla yleissopimus saatetaan osaksi unionin oikeusjärjestystä täysin yhdenmukaistetuilla säännöillä, jotka koskevat tekoälyjärjestelmien markkinoille saattamista, käyttöönottoa ja käyttöä unionissa ja joita sovelletaan sellaisenaan jäsenvaltioissa, ellei tekoälysäädöksessä nimenomaisesti toisin säädetä.
Kun otetaan huomioon, että yleissopimuksen soveltamisala ja tavoitteet ovat linjassa ja täysin yhdenmukaiset tekoälysäädöksen tavoitteiden kanssa ja että molempien oikeudellisten välineiden henkilölliset ja aineelliset soveltamisalat vastaavat toisiaan, yleissopimuksen tekemisen aineellinen oikeusperusta on SEUT-sopimuksen 114 artikla, joka on tekoälysäädöksen ensisijainen oikeusperusta.
Kansainvälisten sopimusten luonne (yksinomaan unionin sopimus vai sekasopimus) riippuu siitä, kuuluuko niiden kohde unionin toimivaltaan.
SEUT-sopimuksen 3 artiklan 2 kohdan mukaan unionilla on yksinomainen toimivalta ”tehdä kansainvälinen sopimus [...] siltä osin kuin se voi vaikuttaa yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta”. Kansainvälinen sopimus voi vaikuttaa yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta, jos unionin lainsäädäntö kattaa sopimuksen soveltamisalan suurelta osin.
Yleissopimuksen henkilöllinen soveltamisala on täysin yhdenmukainen tekoälysäädöksen kanssa, sillä molemmat oikeudelliset välineet kattavat periaatteessa sekä julkiset että yksityiset toimijat (yleissopimuksen periaatteita ja velvoitteita sovelletaan vapaaehtoisesti muihin kuin viranomaisten puolesta toimiviin yksityisiin toimijoihin), kun taas molempien oikeudellisten välineiden aineellinen soveltamisala jättää sovellettavien sääntöjen soveltamisalan ulkopuolelle kansalliseen turvallisuuteen, puolustukseen ja tutkimukseen liittyvät tekoälytoimet.
Kun otetaan huomioon, että yleissopimuksen henkilöllinen ja aineellinen soveltamisala ovat samat kuin tekoälysäädöksellä, yleissopimuksen tekeminen voi vaikuttaa unionin yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta SEUT-sopimuksen 3 artiklan 2 kohdassa tarkoitetulla tavalla. Näin ollen unionilla olisi katsottava olevan yksinomainen ulkoinen toimivalta tehdä yleissopimus, ja yleissopimus olisi allekirjoitettava unionin puolesta sopimuksena, jonka sopimuspuolena on yksinomaan EU, sillä varauksella, että sopimuksen tekeminen saatetaan myöhemmin päätökseen.
•Suhteellisuusperiaate
Yleissopimuksessa ei ylitetä sitä, mikä on tarpeen toimintapoliittisten tavoitteiden saavuttamiseksi kehittämällä johdonmukainen lähestymistapa tekoälyn sääntelyyn kansainvälisellä tasolla.
Yleissopimuksessa vahvistetaan tekoälyä koskeva yleinen oikeudellinen kehys, joka mahdollistaa joustavuuden ja antaa sopimuspuolille mahdollisuuden suunnitella konkreettiset täytäntöönpanokehykset. Riskiperusteisella lähestymistavalla varmistetaan myös sääntöjen oikeasuhteisuus ja mahdollistetaan täytäntöönpanotoimenpiteiden eriyttäminen riskeihin suhteutetulla tavalla, samalla tavoin kuin tekoälysäädöksessä.
•Toimintatavan valinta
Toimintatapana on ehdotus neuvoston päätökseksi SEUT-sopimuksen 218 artiklan 5 kohdan mukaisesti.
3.JÄLKIARVIOINTIEN, SIDOSRYHMIEN KUULEMISTEN JA VAIKUTUSTENARVIOINTIEN TULOKSET
•Jälkiarvioinnit/toimivuustarkastukset
•Sidosryhmien kuuleminen
Euroopan komissio ei ole järjestänyt tästä ehdotuksesta erillistä sidosryhmien kuulemista.
Yleissopimus laadittiin yhteistyönä Euroopan neuvoston tekoälykomiteassa, jossa olivat mukana kaikki 46 Euroopan neuvoston jäsenvaltiota sekä tarkkailijavaltiot, kuten Kanada, Japani, Meksiko, Pyhä istuin ja Yhdysvallat, sekä Euroopan unioni. Työhön osallistui myös useita muita kolmansia maita, jotka eivät ole jäsenvaltioita, kuten Australia, Argentiina, Costa Rica, Israel, Peru ja Uruguay.
Euroopan neuvosto on sitoutunut tekemään yhteistyötä eri sidosryhmien kanssa, ja tämän sitoumuksen mukaisesti yleissopimuksen laatimiseen osallistui myös 68 kansalaisyhteiskunnan, tiedemaailman, teollisuuden ja muiden kansainvälisten järjestöjen kansainvälistä edustajaa. Näin varmistettiin kattava ja osallistava lähestymistapa. Yleissopimuksen laatimiseen kuului myös yhteistyö useiden muiden kansainvälisten järjestöjen, kuten Euroopan turvallisuus- ja yhteistyöjärjestön (Etyj), Taloudellisen yhteistyön ja kehityksen järjestön (OECD) ja Yhdistyneiden kansakuntien kasvatus-, tiede- ja kulttuurijärjestön (UNESCO) kanssa. Prosessiin osallistuivat myös Euroopan neuvoston asiaankuuluvat elimet ja komiteat. Unionin osallistumista johti Euroopan komissio. Tarkkailijoina olivat myös Euroopan unionin perusoikeusviraston ja Euroopan tietosuojavaltuutetun edustajat.
•Asiantuntijatiedon keruu ja käyttö
Yleissopimusta koskevat unionin neuvottelukannat on laadittu neuvoston nimeämää erityiskomiteaa (neuvoston televiestintä- ja tietoyhteiskuntatyöryhmää) kuullen.
•Vaikutustenarviointi
•Sääntelyn toimivuus ja yksinkertaistaminen
•Perusoikeudet
Yleissopimuksella pyritään puuttumaan ihmisoikeuksiin kohdistuviin mahdollisiin riskeihin ja haittoihin varmistamalla, että tekoälyjärjestelmien elinkaareen kuuluvissa toimissa kunnioitetaan ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta, samalla kun tunnustetaan tekoälyn tarjoamat mahdollisuudet suojella näitä oikeuksia ja helpottaa niiden käyttöä digitaalisessa ympäristössä sekä parantaa yhteiskunnallista ja ympäristöön liittyvää hyvinvointia ja teknologian kehitystä.
Yleissopimuksessa vahvistettujen konkreettisten periaatteiden ja velvoitteiden tarkoituksena on suojella ja kunnioittaa ihmisoikeuksia, jotka on vahvistettu useissa kansainvälisissä ja alueellisissa asiakirjoissa, sellaisina kuin niitä sovelletaan sopimuspuoliin, mukaan lukien unionin perusoikeuskirja ja ihmisoikeuksia koskevat kansainväliset asiakirjat, jotka unioni on tehnyt.
Yleissopimuksessa vahvistetaan siten yhteiset vähimmäisnormit ihmisoikeuksien suojelulle tekoälyn yhteydessä. Samalla turvataan nykyinen ihmisoikeuksien suojelu ja annetaan sopimuspuolille mahdollisuus tarjota laajempaa suojelua tiukemmilla suojatoimilla.
4.TALOUSARVIOVAIKUTUKSET
Yleissopimuksessa määrätään valtioiden, jotka eivät ole Euroopan neuvoston jäseniä, osallistumisesta sopimuspuolten konferenssin toiminnan rahoitukseen. Kaikki Euroopan neuvoston jäsenet maksavat osuutensa Euroopan neuvoston tavanomaisen talousarvion kautta Euroopan neuvoston perussäännön mukaisesti, mutta sopimuspuolet, jotka eivät ole jäseniä, suorittavat talousarvion ulkopuolisia rahoitusosuuksia. Ministerikomitea ja Euroopan neuvostoon kuulumaton valtio vahvistavat yhdessä kyseisen valtion rahoitusosuuden.
Yleissopimus ei vaikuta sopimuspuolten kansallisiin lakeihin ja asetuksiin, joissa säädetään talousarviomäärärahoja koskevasta toimivallasta ja menettelyistä. Siinä annetaan myös muille kuin jäsenvaltioille mahdollisuus suorittaa maksuosuutensa niiden lainsäädäntävallan käyttäjän hyväksymän talousarvion rajoissa, sanotun kuitenkaan rajoittamatta mahdollisten ennakkosopimusten soveltamista.
5.LISÄTIEDOT
•Toteuttamissuunnitelmat, seuranta, arviointi ja raportointijärjestelyt
Sopimuspuolten edustajista koostuva sopimuspuolten konferenssi valvoo, että yleissopimuksen tavoitteet tosiasiallisesti saavutetaan ja että sopimuspuolet panevat sen määräykset täytäntöön.
Kunkin sopimuspuolen on toimitettava sopimuspuolten konferenssille kahden ensimmäisen vuoden kuluessa liittymisestä ja sen jälkeen säännöllisin väliajoin raportti, jossa esitetään yksityiskohtaisesti yleissopimuksen täytäntöönpanemiseksi toteutetut toimenpiteet.
Sopimuspuolia kannustetaan lisäksi tekemään yhteistyötä yleissopimuksen tavoitteiden saavuttamiseksi. Tähän kansainväliseen yhteistyöhön voi sisältyä asiaankuuluvien tietojen jakaminen tekoälystä ja sen mahdollisuuksista vaikuttaa kielteisesti tai myönteisesti ihmisoikeuksiin, demokratiaan ja oikeusvaltioperiaatteeseen.
Tehokkaan seurannan ja täytäntöönpanon varmistamiseksi kunkin sopimuspuolen on nimettävä yksi tai useampi tehokas valvontamekanismi kansallisella tasolla.
2024/0150 (NLE)
Ehdotus
NEUVOSTON PÄÄTÖS
tekoälyä ja ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevan Euroopan neuvoston puiteyleissopimuksen allekirjoittamisesta Euroopan unionin puolesta
EUROOPAN UNIONIN NEUVOSTO, joka
ottaa huomioon Euroopan unionin toiminnasta tehdyn sopimuksen ja erityisesti sen 114 artiklan yhdessä sen 218 artiklan 5 kohdan kanssa,
ottaa huomioon Euroopan komission ehdotuksen,
sekä katsoo seuraavaa:
(1)Neuvosto antoi 21 päivänä marraskuuta 2022 Euroopan komissiolle luvan aloittaa unionin puolesta neuvottelut tekoälyä ja ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevasta Euroopan neuvoston yleissopimuksesta, jäljempänä ’yleissopimus’. Euroopan komissio on neuvotellut yleissopimuksen unionin puolesta. Neuvottelut saatiin menestyksekkäästi päätökseen 17 päivänä toukokuuta 2024, kun yleissopimus parafoitiin ja Euroopan neuvoston ministerikomitea hyväksyi sen.
(2)Yleissopimuksessa vahvistetaan yleiset periaatteet ja velvoitteet, joita yleissopimuksen sopimuspuolten olisi noudatettava varmistaakseen ihmisoikeuksien, demokratian ja oikeusvaltioperiaatteen suojelun tekoälyjärjestelmien elinkaareen kuuluvissa toimissa.
(3)Unioni hyväksyi 12 päivänä kesäkuuta 2024 asetuksen (EU) 2024/..., jäljempänä ’tekoälysäädös’, pääasiassa SEUT-sopimuksen 114 artiklan perusteella. Siinä vahvistetaan täysin yhdenmukaistetut säännöt, joilla säännellään tekoälyjärjestelmien markkinoille saattamista, käyttöönottoa ja käyttöä unionissa ja joita sovelletaan sellaisinaan jäsenvaltioissa, ellei tekoälysäädöksessä nimenomaisesti toisin säädetä. Yleissopimus on määrä panna unionissa täytäntöön yksinomaan tekoälysäädöksellä ja tarvittaessa muulla merkityksellisellä unionin säännöstöllä.
(4)Kun otetaan huomioon, että yleissopimuksen henkilöllinen ja aineellinen soveltamisala vastaavat tekoälysäädöstä ja muuta merkityksellistä unionin säännöstöä, yleissopimuksen tekeminen voi vaikuttaa unionin yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta Euroopan unionin toiminnasta tehdyn sopimuksen 3 artiklan 2 kohdassa tarkoitetulla tavalla. Unionilla on näin ollen yksinomainen ulkoinen toimivalta allekirjoittaa yleissopimus, ja sen vuoksi ainoastaan unionista olisi tultava yleissopimuksen sopimuspuoli, sillä varauksella, että sopimuksen tekeminen saatetaan päätökseen myöhemmin.
(5)Perussopimusten mukaisesti Euroopan komission olisi varmistettava yleissopimuksen allekirjoittaminen sillä varauksella, että sen tekeminen saatetaan päätökseen myöhemmin,
ON HYVÄKSYNYT TÄMÄN PÄÄTÖKSEN:
1 artikla
Hyväksytään tekoälyä ja ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevan Euroopan neuvoston puiteyleissopimuksen, jäljempänä ’yleissopimus’, allekirjoittaminen unionin puolesta sillä varauksella, että mainitun yleissopimuksen tekeminen saatetaan päätökseen myöhemmin.
Allekirjoitettavan yleissopimuksen teksti on tämän päätöksen liitteenä.
2 artikla
Tämä päätös tulee voimaan [...].
Tehty Brysselissä
Neuvoston puolesta
Puheenjohtaja