- Den etablerer et regelverk basert på risikonivåer for å beskytte grunnleggende rettigheter og borgernes sikkerhet.
- Den pålegger strenge forpliktelser til åpenhet og risikostyring for høyrisiko-KI-systemer og generelle modeller.
- Den forbyr kategorisk bruk av AI-teknologier som anses som uakseptable, for eksempel sosial scoring eller atferdsmanipulasjon.
- Definer en gradvis implementeringsplan med alvorlige økonomiske straffer for de som ignorerer regelverket.

EU har tatt et avgjørende skritt ved å lansere verdens første omfattende juridiske rammeverk for å regulere kunstig intelligens. Denne lovgivningen har ikke som mål å kvele innovasjon, men snarere å sikre at teknologien utvikles trygt og pålitelig , alltid med prioritet for beskyttelse av grunnleggende menneskerettigheter og for å forhindre at AI blir en ukontrollert svart boks.
For å oppnå dette har Brussel valgt en risikobasert tilnærming, som betyr at et spamfilter ikke er det samme som en algoritme som bestemmer hvem som får et banklån. Avhengig av risikonivået systemet utgjør for helse eller sikkerhet, vil de juridiske kravene være mer eller mindre strenge, noe som tvinger selskaper til å være transparente om hvordan maskinene deres fungerer.
Forbudte systemer: EUs røde linje

Det finnes noen ting som rett og slett ikke kan gjøres. Loven er veldig tydelig når det gjelder å forby kunstig intelligens som utgjør en uakseptabel risiko . Blant disse er subliminale eller manipulerende teknikker som søker å forvrenge menneskelig atferd for å forårsake skade, samt utnyttelse av sårbarheter knyttet til alder eller funksjonshemming. Sosial scoring , praksisen med å klassifisere folk basert på deres atferd for å gi dem ugunstig behandling, er også forbudt .
Når det gjelder biometri, er kategorisering som avdekker sensitive trekk som rase eller religion forbudt, i likhet med vilkårlig skanning av ansikter på nett for å lage databaser. Fjernbiometrisk identifikasjon i sanntid på offentlige steder er begrenset til svært spesifikke tilfeller , som å søke etter ofre for menneskehandel, forhindre nært forestående terrorangrep eller lokalisere mistenkte i alvorlige forbrytelser, alltid under rettslig tilsyn.
Høyrisikokategorien og dens krav

Ikke alt som er forbudt er farlig, men noen systemer er tillatt, men underlagt strenge kontroller . Dette inkluderer sikkerhetskomponenter, medisinsk utstyr og algoritmer som brukes i ansettelser og kredittvurdering. Hvis en AI har i oppgave å lage profiler av individer for å vurdere deres jobbprestasjon eller helse, faller den rett inn under denne kategorien.
Leverandører av disse verktøyene må oppfylle en lang liste med oppgaver. Det er obligatorisk å implementere et risikostyringssystem gjennom hele produktets livssyklus og sørge for at treningsdataene er representative og feilfrie. Videre må de lage detaljert teknisk dokumentasjon, automatisk registrere hendelser ved hjelp av driftslogger og garantere at det alltid er reelt menneskelig tilsyn for å forhindre feilaktige automatiserte beslutninger.
Generelle AI-modeller (GPAI)

Det er her de kjente LLM-ene og grunnleggende modellene kommer inn i bildet . Loven skiller mellom standard GPAI-modeller og de som representerer en systemisk risiko , vanligvis definert av massiv bruk av datakraft (større enn 10^25 FLOP-er). Leverandører av disse modellene må være transparente om sine opplæringsprosesser og respektere opphavsrettsdirektiver.
For modeller med systemisk risiko er listen høyere. De må utføre «red teaming» for å redusere feil, rapportere alvorlige hendelser til AI-kontoret og sikre robust cybersikkerhet . Det er verdt å merke seg at modeller med åpen kildekode har noen fordeler, selv om de fortsatt er pålagt å publisere sammendrag av innholdet som brukes til å trene maskinen.
Styring, frister og kostnadene ved å bryte loven

Tilsynet faller primært på AI Office , som overvåker teknologigiganter for å sikre samsvar. Lovens utrulling skjer faset inn: forbudene startet i februar 2025, mens forpliktelser for høyrisikosystemer trer i kraft mellom 2027 og 2028. For å hjelpe selskaper er AI-pakten opprettet som en frivillig måte å forberede seg på regelverket.
Hvis et selskap bestemmer seg for å bryte reglene, er bøtene svimlende. Å gi falsk informasjon kan koste opptil 7,5 millioner euro eller 1,5 % av den årlige omsetningen. Manglende oppfyllelse av kjerneforpliktelsene kan imidlertid øke straffen til 15 millioner euro eller 3 % av den globale omsetningen, selv om noen kilder nevner at den i ekstreme tilfeller kan nå 7 %.
Dette regelverket plasserer Europa som den globale referansen innen teknologisk regulering , og krever at ethvert selskap i verden som ønsker å operere i det felles markedet, tilpasser algoritmene sine til europeiske standarder for åpenhet og etikk, og dermed balanserer teknisk fremgang med menneskelig verdighet.