- Ustanawia ona ramy regulacyjne uwzględniające poziom ryzyka w celu ochrony praw podstawowych i bezpieczeństwa obywateli.
- Ustawa ta nakłada ścisłe obowiązki w zakresie przejrzystości i zarządzania ryzykiem na systemy sztucznej inteligencji o wysokim ryzyku oraz modele ogólnego przeznaczenia.
- Kategorycznie zabrania stosowania technologii sztucznej inteligencji, które są uznawane za niedopuszczalne, takich jak punktacja społeczna i manipulacja zachowaniem.
- Określić harmonogram stopniowego wdrażania przepisów, przewidujący surowe kary ekonomiczne dla tych, którzy je ignorują.
Unia Europejska podjęła decydujący krok, wprowadzając pierwsze na świecie kompleksowe ramy prawne regulujące kwestie sztucznej inteligencji. Celem tych przepisów nie jest hamowanie innowacji, lecz zapewnienie bezpiecznego i niezawodnego rozwoju technologii , przy czym priorytetem jest ochrona podstawowych praw człowieka i zapobieganie przekształcaniu się sztucznej inteligencji w niekontrolowaną czarną skrzynkę.
Aby to osiągnąć, Bruksela zdecydowała się na podejście oparte na ryzyku, co oznacza, że filtr antyspamowy nie jest tym samym, co algorytm decydujący o tym, kto otrzyma pożyczkę bankową. W zależności od poziomu ryzyka, jakie system stwarza dla zdrowia lub bezpieczeństwa, wymogi prawne będą bardziej lub mniej rygorystyczne, zmuszając firmy do transparentnego informowania o sposobie działania swoich maszyn.
Zabronione systemy: czerwona linia UE
Są rzeczy, których po prostu nie da się zrobić. Prawo jasno zabrania stosowania sztucznej inteligencji, która stwarza niedopuszczalne ryzyko . Należą do nich techniki podprogowe lub manipulacyjne, mające na celu zniekształcenie ludzkich zachowań w celu wyrządzenia krzywdy, a także wykorzystywanie słabości związanych z wiekiem lub niepełnosprawnością. Zabronione jest również ocenianie społeczne , czyli klasyfikowanie ludzi na podstawie ich zachowania w celu niekorzystnego traktowania .
W odniesieniu do biometrii, kategoryzacja, która sugeruje wrażliwe cechy, takie jak rasa czy religia, jest zabroniona, podobnie jak bezkrytyczne skanowanie twarzy online w celu tworzenia baz danych. Zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeni publicznej jest ograniczona do bardzo szczególnych przypadków , takich jak poszukiwanie ofiar handlu ludźmi, zapobieganie zbliżającym się atakom terrorystycznym lub lokalizowanie podejrzanych o poważne przestępstwa, zawsze pod nadzorem sądowym.
Kategoria wysokiego ryzyka i jej wymagania
Nie wszystko, co zakazane, jest niebezpieczne, ale niektóre systemy, choć dozwolone, podlegają ścisłym kontrolom . Dotyczy to komponentów bezpieczeństwa, urządzeń medycznych oraz algorytmów wykorzystywanych w procesie rekrutacji i ocenie zdolności kredytowej. Jeśli sztuczna inteligencja ma za zadanie tworzyć profile osób w celu oceny ich wyników w pracy lub stanu zdrowia, to idealnie wpisuje się w tę kategorię.
Dostawcy tych narzędzi muszą sprostać długiej liście zadań. Obowiązkowe jest wdrożenie systemu zarządzania ryzykiem w całym cyklu życia produktu oraz zapewnienie reprezentatywności i bezbłędności danych szkoleniowych. Ponadto muszą oni tworzyć szczegółową dokumentację techniczną, automatycznie rejestrować zdarzenia za pomocą dzienników operacyjnych oraz zagwarantować stały nadzór ludzki, aby zapobiec błędnym decyzjom podejmowanym automatycznie.
Modele sztucznej inteligencji ogólnego przeznaczenia (GPAI)
W tym miejscu z pomocą przychodzą renomowane modele LLM i modele fundamentalne . Prawo rozróżnia standardowe modele GPAI od tych, które stanowią ryzyko systemowe , zazwyczaj definiowane jako masowe wykorzystanie mocy obliczeniowej (powyżej 10^25 FLOP-ów). Dostawcy tych modeli muszą transparentnie informować o swoich procesach szkoleniowych i przestrzegać dyrektyw dotyczących praw autorskich.
W przypadku modeli z ryzykiem systemowym poprzeczka jest wyżej. Muszą one przeprowadzać red teaming, aby minimalizować awarie, zgłaszać poważne incydenty do Biura AI i zapewniać solidne cyberbezpieczeństwo . Warto zauważyć, że modele open source mają pewne zalety, choć nadal muszą publikować podsumowania treści użytych do trenowania maszyny.
Zarządzanie, terminy i koszty łamania prawa
Nadzór spoczywa przede wszystkim na Biurze ds . Sztucznej Inteligencji (AI Office) , które monitoruje gigantów technologicznych pod kątem przestrzegania przepisów. Wdrażanie ustawy odbywa się etapami: zakazy weszły w życie w lutym 2025 r., a obowiązki dotyczące systemów wysokiego ryzyka wejdą w życie między 2027 a 2028 r. Aby pomóc firmom, stworzono Pakt AI jako dobrowolną ścieżkę przygotowań do przepisów.
Jeśli firma zdecyduje się na złamanie przepisów, kary są zatrważające. Podanie fałszywych informacji może kosztować nawet 7,5 mln euro lub 1,5% rocznych przychodów. Jednak niedopełnienie podstawowych obowiązków może zwiększyć karę do 15 mln euro lub 3% globalnych przychodów, choć niektóre źródła podają, że w skrajnych przypadkach może ona sięgnąć 7%.
Te ramy regulacyjne stawiają Europę w roli światowego punktu odniesienia w zakresie regulacji technologicznych , wymagając od każdej firmy na świecie, która chce działać na wspólnym rynku, dostosowania swoich algorytmów do europejskich standardów przejrzystości i etyki, a tym samym równoważenia postępu technicznego z godnością człowieka.
