- Se luo riskitasoihin perustuvan sääntelykehyksen perusoikeuksien ja kansalaisten turvallisuuden suojelemiseksi.
- Se asettaa tiukat läpinäkyvyys- ja riskienhallintavelvoitteet korkean riskin tekoälyjärjestelmille ja yleiskäyttöisille malleille.
- Se kieltää kategorisesti sellaisten tekoälyteknologioiden käytön, joita pidetään sopimattomina, kuten sosiaalisen pisteytyksen tai käyttäytymismanipulaation.
- Määrittele asteittainen käyttöönottoaikataulu, johon sisältyy ankaria taloudellisia seuraamuksia niille, jotka eivät noudata määräyksiä.
Euroopan unioni on ottanut ratkaisevan askeleen käynnistämällä maailman ensimmäisen kattavan tekoälyn sääntelevän oikeudellisen kehyksen. Tämän lainsäädännön tarkoituksena ei ole tukahduttaa innovaatioita, vaan pikemminkin varmistaa, että teknologia kehittyy turvallisesti ja luotettavasti , asettaen aina etusijalle perusihmisoikeuksien suojelun ja estäen tekoälyn muuttumisen hallitsemattomaksi mustaksi laatikoksi.
Tämän saavuttamiseksi Bryssel on valinnut riskiperusteisen lähestymistavan, mikä tarkoittaa, että roskapostisuodatin ei ole sama asia kuin algoritmi, joka päättää, kuka saa pankkilainan. Järjestelmän terveydelle tai turvallisuudelle aiheuttaman riskin tasosta riippuen lakisääteiset vaatimukset ovat enemmän tai vähemmän tiukkoja, mikä pakottaa yritykset olemaan avoimia koneidensa toiminnan suhteen.
Kielletyt järjestelmät: EU:n raja
On joitakin asioita, joita ei yksinkertaisesti voida tehdä. Laki kieltää hyvin selvästi tekoälyn, joka aiheuttaa hyväksymättömän riskin . Näihin kuuluvat alitajunnan tai manipuloinnin tekniikat, joilla pyritään vääristämään ihmisen käyttäytymistä aiheuttaakseen vahinkoa, sekä ikään tai vammaisuuteen liittyvien haavoittuvuuksien hyväksikäyttö. Myös sosiaalinen pisteytys , jossa ihmisiä luokitellaan heidän käyttäytymisensä perusteella heidän epäsuotuisan kohtelun kohteeksi, on kielletty .
Biometriikan osalta luokittelu, joka viittaa arkaluonteisiin ominaisuuksiin, kuten rotuun tai uskontoon, on kielletty, samoin kuin kasvojen mielivaltainen skannaus verkossa tietokantojen luomiseksi. Reaaliaikainen biometrinen etätunnistus julkisissa tiloissa on rajoitettu hyvin erityisiin tapauksiin , kuten ihmiskaupan uhrien etsimiseen, uhkaavien terrori-iskujen estämiseen tai vakavista rikoksista epäiltyjen löytämiseen, aina oikeudellisen valvonnan alaisena.
Korkean riskin luokka ja sen vaatimukset
Kaikki kielletty ei ole vaarallista, mutta jotkin järjestelmät, vaikka ne ovatkin sallittuja, ovat tiukan valvonnan alaisia . Tähän sisältyvät tietoturvakomponentit, lääkinnälliset laitteet sekä rekrytoinnissa ja luottoarvioinnissa käytettävät algoritmit. Jos tekoälyn tehtävänä on luoda yksilöiden profiileja heidän työsuorituksensa tai terveydentilansa arvioimiseksi, se kuuluu täsmälleen tähän kategoriaan.
Näiden työkalujen tarjoajien on suoritettava pitkä lista tehtäviä. On pakollista ottaa käyttöön riskienhallintajärjestelmä koko tuotteen elinkaaren ajan ja varmistaa, että koulutustiedot ovat edustavia ja virheettömiä. Lisäksi heidän on luotava yksityiskohtainen tekninen dokumentaatio, tallennettava tapahtumat automaattisesti operatiivisten lokien avulla ja taattava, että virheellisten automatisoitujen päätösten estämiseksi on aina olemassa todellista ihmisen valvontaa.
Yleiskäyttöiset tekoälymallit (GPAI)
Tässä kohtaa tulevat mukaan tunnetut oikeustieteen maisterit (LLM) ja perustavanlaatuiset mallit . Laki erottaa toisistaan tavanomaiset GPAI-mallit ja mallit, jotka aiheuttavat systeemiriskin , joka yleensä määritellään massiivisena laskentatehon käyttönä (yli 10^25 FLOPia). Näiden mallien tarjoajien on oltava avoimia koulutusprosesseistaan ja noudatettava tekijänoikeusdirektiivejä.
Systeemisen riskin omaavien mallien kohdalla rima on korkeampi. Niiden on suoritettava punaista tiimiytymistä vikojen lieventämiseksi, ilmoitettava vakavista tapahtumista tekoälytoimistolle ja varmistettava vankka kyberturvallisuus . On syytä huomata, että avoimen lähdekoodin malleilla on joitakin etuja, vaikka niiden on silti julkaistava yhteenvedot koneen kouluttamiseen käytetystä sisällöstä.
Hallinto, määräajat ja lain rikkomisen kustannukset
Valvonta kuuluu ensisijaisesti tekoälytoimistolle , joka valvoo teknologiajättien vaatimustenmukaisuutta. Lain käyttöönotto tapahtuu vaiheittain: kiellot alkoivat helmikuussa 2025, kun taas korkean riskin järjestelmien velvoitteet tulevat voimaan vuosien 2027 ja 2028 välillä . Yritysten avuksi on luotu tekoälysopimus vapaaehtoiseksi väyläksi valmistautua määräyksiin.
Jos yritys päättää rikkoa sääntöjä, sakot ovat häkellyttäviä. Väärien tietojen antaminen voi maksaa jopa 7,5 miljoonaa euroa tai 1,5 prosenttia vuosituloista. Keskeisten velvoitteiden laiminlyönti voi kuitenkin nostaa sakon 15 miljoonaan euroon tai 3 prosenttiin maailmanlaajuisista tuloista, vaikka jotkut lähteet mainitsevat, että äärimmäisissä tapauksissa se voi nousta 7 prosenttiin.
Tämä sääntelykehys asettaa Euroopan maailmanlaajuiseksi vertailukohdaksi teknologian sääntelyssä ja edellyttää, että kaikki yhteismarkkinoilla toimivat yritykset mukauttavat algoritminsa eurooppalaisiin avoimuus- ja eettisiin standardeihin ja tasapainottavat siten teknistä kehitystä ja ihmisarvoa.
