- Estableix un marc regulador basat en nivells de risc per protegir els drets fonamentals i la seguretat ciutadana.
- Imposa obligacions estrictes de transparència i gestió de riscos per als sistemes dIA dalt risc i els models de propòsit general.
- Prohibeix rotundament l'ús de tecnologies d'IA que resultin inacceptables, com ara la puntuació social o la manipulació conductual.
- Defineix un calendari daplicació gradual amb sancions econòmiques severes per als qui ignorin la normativa.
La Unió Europea ha donat un cop sobre la taula en llançar el primer marc legal exhaustiu del món per posar a la cintura la intel·ligència artificial. Aquesta normativa no busca frenar la innovació, sinó assegurar que la tecnologia es desenvolupi de manera segura i fiable , posant sempre el focus en la protecció dels drets bàsics de les persones i evitant que la IA es converteixi en una caixa negra sense control.
Per aconseguir-ho, Brussel·les ha optat per un enfocament basat en el risc, cosa que significa que no és el mateix un filtre d'spam que un algorisme que decideix qui aconsegueix un crèdit bancari. Depenent de quant perill suposi el sistema per a la salut o la seguretat, les exigències legals seran més o menys estrictes, obligant les empreses a ser transparents sobre com funcionen les màquines.
Sistemes prohibits: la línia vermella de la UE
Hi ha coses que, senzillament, no es poden fer. La llei és molt clara en prohibir aquelles IA que suposen un risc inacceptable . Entre aquestes, destaquen les tècniques subliminals o manipuladores que busquin distorsionar el comportament humà per causar danys, així com l'aprofitament de vulnerabilitats per edat o discapacitat. Tampoc no es permet la puntuació social , aquesta pràctica de classificar la gent segons el seu comportament per donar-los un tracte desfavorable.
Pel que fa a la biometria, es prohibeix la categorització que infereixi trets sensibles com la raça o la religió, i el rastreig indiscriminat de cares a internet per crear bases de dades. La identificació biomètrica remota en temps real en espais públics queda restringida a casos molt específics , com ara la recerca de víctimes de tràfic, la prevenció d'atacs terroristes imminents o la localització de sospitosos de delictes greus, sempre sota supervisió judicial.
La categoria d'alt risc i les exigències
No tot allò prohibit és perillós, però hi ha sistemes que, encara que permesos, porten un estricte control . Aquí hi entren els components de seguretat, els dispositius mèdics o els algorismes usats en la contractació de personal i l'avaluació creditícia. Si una IA s'encarrega d'elaborar perfils de persones per avaluar-ne el rendiment laboral o la salut, entrarà directament en aquesta categoria.
Els proveïdors daquestes eines han de complir una llista llarga de tasques. És obligatori implementar un sistema de gestió de riscos durant tot el cicle de vida del producte i assegurar que les dades d'entrenament siguin representatives i estiguin lliures d'errors. A més, han de crear documentació tècnica detallada, registrar automàticament els esdeveniments mitjançant logs de funcionament i garantir que sempre hi hagi una supervisió humana real per evitar decisions automatitzades errònies.
Models d'IA de Propòsit General (GPAI)
Aquí és on entren els famosos LLM i els models fundacionals . La llei distingeix entre els models GPAI estàndard i aquells que presenten un risc sistèmic , definit generalment per un ús massiu de potència de càlcul (superior a 10^25 FLOP). Els proveïdors d'aquests models han de ser transparents sobre els seus processos d'entrenament i respectar la directiva de drets d'autor.
Pels models amb risc sistèmic, la corda està més tensa. Han de fer proves contradictòries (red teaming) per mitigar errors, notificar incidents greus a l'Oficina d'IA i garantir una ciberseguretat robusta . Cal destacar que els models de codi obert tenen algunes facilitats, encara que segueixen obligats a publicar resums del contingut utilitzat per entrenar la màquina.
Governança, terminis i el cost de saltar-se la llei
La supervisió recau principalment a l' Oficina d'IA , que vigila que els gegants tecnològics compleixin les regles. El desplegament de la llei és gradual: les prohibicions es van començar a aplicar el febrer del 2025, mentre que les obligacions per als sistemes d'alt risc arribaran entre el 2027 i el 2028 . Per ajudar les empreses, s'ha creat el Pacte sobre la IA, una via voluntària per avançar-se a les normes.
Si una empresa decideix passar-se les regles pel folre, les multes són per posar-se a tremolar. Proporcionar informació falsa pot costar fins a 7,5 milions d?euros o l?1,5% de la facturació anual. Tot i això, l'incompliment de les obligacions principals pot elevar la sanció fins als 15 milions d'euros o el 3% dels ingressos globals, encara que algunes fonts esmenten que en casos extrems podria arribar fins al 7%.
Aquest entramat normatiu posiciona Europa com el referent global en regulació tecnològica , obligant que qualsevol empresa del món que vulgui operar al mercat comú adapti els seus algorismes als estàndards de transparència i ètica europeus, equilibrant així el progrés tècnic amb la dignitat humana.
