- Stanovuje regulační rámec založený na úrovních rizika pro ochranu základních práv a bezpečnosti občanů.
- Ukládá přísné povinnosti v oblasti transparentnosti a řízení rizik pro vysoce rizikové systémy umělé inteligence a modely pro všeobecné použití.
- Kategoricky zakazuje používání technologií umělé inteligence, které jsou považovány za nepřijatelné, jako je sociální bodování nebo manipulace s chováním.
- Stanovit postupný implementační harmonogram s přísnými ekonomickými sankcemi pro ty, kteří předpisy ignorují.
Evropská unie učinila rozhodný krok zavedením prvního komplexního právního rámce na světě pro regulaci umělé inteligence. Tato legislativa nemá za cíl potlačit inovace, ale spíše zajistit bezpečný a spolehlivý rozvoj technologie , přičemž vždy upřednostňuje ochranu základních lidských práv a zabraňuje tomu, aby se umělá inteligence stala nekontrolovanou černou skříňkou.
Aby toho Brusel dosáhl, zvolil přístup založený na riziku, což znamená, že spamový filtr není totéž co algoritmus, který rozhoduje o tom, kdo dostane bankovní úvěr. V závislosti na míře rizika, které systém představuje pro zdraví nebo bezpečnost, budou právní požadavky více či méně přísné a nutí společnosti k transparentnosti ohledně fungování jejich strojů.
Zakázané systémy: červená linie EU
Existují věci, které prostě nelze dělat. Zákon je velmi jasný v zakazování umělé inteligence, která představuje nepřijatelné riziko . Mezi ně patří podprahové nebo manipulativní techniky, které se snaží zkreslit lidské chování a způsobit újmu, a také zneužívání zranitelností souvisejících s věkem nebo postižením. Zakázáno je také sociální bodování , praxe klasifikace lidí na základě jejich chování za účelem nepříznivého zacházení .
Pokud jde o biometrii, je zakázána kategorizace, která odvozuje citlivé rysy, jako je rasa nebo náboženství, stejně jako nerozlišující skenování obličejů online za účelem vytváření databází. Dálková biometrická identifikace v reálném čase ve veřejných prostorách je omezena na velmi specifické případy , jako je vyhledávání obětí obchodování s lidmi, prevence bezprostředních teroristických útoků nebo lokalizace podezřelých ze závažných trestných činů, a to vždy pod soudním dohledem.
Kategorie s vysokým rizikem a její požadavky
Ne všechno, co je zakázáno, je nebezpečné, ale některé systémy, i když jsou povoleny, podléhají přísným kontrolám . Patří sem bezpečnostní komponenty, zdravotnické prostředky a algoritmy používané při náboru a hodnocení úvěrů. Pokud má umělá inteligence za úkol vytvářet profily jednotlivců za účelem posouzení jejich pracovního výkonu nebo zdraví, spadá přímo do této kategorie.
Poskytovatelé těchto nástrojů musí splnit dlouhý seznam úkolů. Je povinné implementovat systém řízení rizik v celém životním cyklu produktu a zajistit, aby školicí data byla reprezentativní a bezchybná. Dále musí vytvářet podrobnou technickou dokumentaci, automaticky zaznamenávat události pomocí provozních protokolů a zaručit, že vždy existuje skutečný lidský dohled, aby se zabránilo chybným automatizovaným rozhodnutím.
Modely umělé inteligence pro všeobecné účely (GPAI)
A právě zde přicházejí na řadu renomované LLM a foundation modely . Zákon rozlišuje mezi standardními modely GPAI a těmi, které představují systémové riziko , obecně definované masivním využitím výpočetního výkonu (více než 10^25 FLOP). Poskytovatelé těchto modelů musí být transparentní ohledně svých školicích procesů a respektovat autorská práva.
Pro modely se systémovým rizikem je laťka vyšší. Musí provádět red teaming, aby zmírnily selhání, hlásily závažné incidenty úřadu pro umělou inteligenci a zajistily robustní kybernetickou bezpečnost . Za zmínku stojí, že modely s otevřeným zdrojovým kódem mají určité výhody, i když jsou stále povinny zveřejňovat shrnutí obsahu použitého k trénování stroje.
Řízení, lhůty a náklady spojené s porušením zákona
Dohled spadá především do působnosti Úřadu pro umělou inteligenci (AI Office ), který monitoruje technologické giganty, aby zajistil jejich dodržování. Zavádění zákona probíhá postupně: zákazy začaly platit v únoru 2025, zatímco povinnosti pro vysoce rizikové systémy vstoupí v platnost mezi lety 2027 a 2028. Na pomoc společnostem byl vytvořen Pakt o umělé inteligenci (AI Pact) jako dobrovolná cesta k přípravě na regulaci.
Pokud se společnost rozhodne pravidla porušit, pokuty jsou ohromující. Poskytnutí nepravdivých informací může stát až 7,5 milionu eur, neboli 1,5 % ročních tržeb. Nesplnění základních povinností však může pokutu zvýšit na 15 milionů eur, neboli 3 % celosvětových tržeb, ačkoli některé zdroje uvádějí, že v extrémních případech by mohla dosáhnout až 7 %.
Tento regulační rámec staví Evropu do role globálního měřítkového bodu v oblasti technologické regulace a vyžaduje, aby každá společnost na světě, která chce působit na společném trhu, přizpůsobila své algoritmy evropským standardům transparentnosti a etiky, a tím vyvážila technický pokrok s lidskou důstojností.
