- Stanovuje regulačný rámec založený na úrovniach rizika na ochranu základných práv a bezpečnosti občanov.
- Ukladá prísne povinnosti týkajúce sa transparentnosti a riadenia rizík pre vysoko rizikové systémy umelej inteligencie a modely na všeobecné použitie.
- Kategoricky zakazuje používanie technológií umelej inteligencie, ktoré sa považujú za neprijateľné, ako napríklad sociálne bodovanie alebo manipulácia správania.
- Definovať postupný implementačný harmonogram s prísnymi ekonomickými sankciami pre tých, ktorí ignorujú predpisy.
Európska únia urobila rozhodný krok zavedením prvého komplexného právneho rámca na svete na reguláciu umelej inteligencie. Cieľom tejto legislatívy nie je brzdiť inovácie, ale skôr zabezpečiť bezpečný a spoľahlivý vývoj technológie , pričom vždy uprednostňuje ochranu základných ľudských práv a zabraňuje tomu, aby sa umelá inteligencia stala nekontrolovanou čiernou skrinkou.
Aby sa to dosiahlo, Brusel sa rozhodol pre prístup založený na riziku, čo znamená, že filter spamu nie je to isté ako algoritmus, ktorý rozhoduje o tom, kto dostane bankovú pôžičku. V závislosti od úrovne rizika, ktoré systém predstavuje pre zdravie alebo bezpečnosť, budú právne požiadavky viac či menej prísne, čo núti spoločnosti byť transparentné, pokiaľ ide o fungovanie ich strojov.
Zakázané systémy: červená čiara EÚ
Existujú veci, ktoré sa jednoducho nedajú urobiť. Zákon je veľmi jasný v zakazovaní umelej inteligencie, ktorá predstavuje neprijateľné riziko . Medzi ne patria podprahové alebo manipulatívne techniky, ktoré sa snažia skresliť ľudské správanie s cieľom spôsobiť ujmu, ako aj zneužívanie zraniteľností súvisiacich s vekom alebo zdravotným postihnutím. Zakázané je aj sociálne bodovanie , prax klasifikácie ľudí na základe ich správania s cieľom poskytnúť im nepriaznivé zaobchádzanie .
Pokiaľ ide o biometriu, kategorizácia, ktorá odvodzuje citlivé znaky, ako je rasa alebo náboženstvo, je zakázaná, rovnako ako nerozlišujúce skenovanie tvárí online za účelom vytvárania databáz. Diaľková biometrická identifikácia v reálnom čase vo verejných priestoroch je obmedzená na veľmi špecifické prípady , ako je vyhľadávanie obetí obchodovania s ľuďmi, predchádzanie bezprostredným teroristickým útokom alebo lokalizácia podozrivých zo závažných trestných činov, vždy pod súdnym dohľadom.
Kategória vysokého rizika a jej požiadavky
Nie všetko, čo je zakázané, je nebezpečné, ale niektoré systémy, hoci sú povolené, podliehajú prísnym kontrolám . Patria sem bezpečnostné komponenty, zdravotnícke pomôcky a algoritmy používané pri prijímaní do zamestnania a hodnotení úverovej bonity. Ak je umelá inteligencia poverená vytváraním profilov jednotlivcov na posúdenie ich pracovného výkonu alebo zdravia, spadá priamo do tejto kategórie.
Poskytovatelia týchto nástrojov musia splniť dlhý zoznam úloh. Je povinné implementovať systém riadenia rizík počas celého životného cyklu produktu a zabezpečiť, aby boli tréningové údaje reprezentatívne a bezchybné. Okrem toho musia vytvoriť podrobnú technickú dokumentáciu, automaticky zaznamenávať udalosti pomocou prevádzkových protokolov a zaručiť, že vždy existuje skutočný ľudský dohľad, aby sa predišlo chybným automatizovaným rozhodnutiam.
Modely AI na všeobecné účely (GPAI)
Tu prichádzajú na rad renomované LLM a foundation modely . Zákon rozlišuje medzi štandardnými modelmi GPAI a tými, ktoré predstavujú systémové riziko , vo všeobecnosti definované masívnym využívaním výpočtového výkonu (viac ako 10^25 FLOP). Poskytovatelia týchto modelov musia byť transparentní, pokiaľ ide o ich školiace procesy, a rešpektovať smernice o autorských právach.
Pre modely so systémovým rizikom je latka vyššia. Musia vykonávať červené tímové testovanie na zmiernenie zlyhaní, hlásiť závažné incidenty Úradu pre umelú inteligenciu a zabezpečiť robustnú kybernetickú bezpečnosť . Stojí za zmienku, že modely s otvoreným zdrojovým kódom majú určité výhody, hoci sa od nich stále vyžaduje, aby zverejňovali súhrny obsahu použitého na trénovanie stroja.
Riadenie, termíny a náklady na porušenie zákona
Dohľad pripadá predovšetkým na Úrad pre umelú inteligenciu , ktorý monitoruje technologických gigantov, aby zabezpečil ich dodržiavanie. Zavádzanie zákona je postupné: zákazy sa začali vo februári 2025, zatiaľ čo povinnosti pre vysoko rizikové systémy nadobudnú účinnosť v rokoch 2027 až 2028. Na pomoc spoločnostiam bol vytvorený Pakt o umelej inteligencii ako dobrovoľná cesta k príprave na tieto nariadenia.
Ak sa spoločnosť rozhodne porušiť pravidlá, pokuty sú ohromujúce. Poskytnutie nepravdivých informácií môže stáť až 7,5 milióna eur alebo 1,5 % ročných príjmov. Nesplnenie základných povinností však môže zvýšiť pokutu na 15 miliónov eur alebo 3 % z celosvetových príjmov, hoci niektoré zdroje uvádzajú, že v extrémnych prípadoch by mohla dosiahnuť 7 %.
Tento regulačný rámec stavia Európu do pozície globálneho benchmarku v oblasti technologickej regulácie a vyžaduje, aby každá spoločnosť na svete, ktorá chce pôsobiť na spoločnom trhu, prispôsobila svoje algoritmy európskym štandardom transparentnosti a etiky, a tým vyvážila technický pokrok s ľudskou dôstojnosťou.
