- Он устанавливает нормативно-правовую базу, основанную на уровнях риска, для защиты основных прав и безопасности граждан.
- Он налагает строгие обязательства по обеспечению прозрачности и управлению рисками для систем искусственного интеллекта высокого риска и моделей общего назначения.
- В нем категорически запрещается использование технологий искусственного интеллекта, которые считаются неприемлемыми, таких как социальная оценка или манипулирование поведением.
- Разработать поэтапный график внедрения с жесткими экономическими санкциями для тех, кто игнорирует правила.
Европейский союз сделал решительный шаг, запустив первую в мире всеобъемлющую правовую базу для регулирования искусственного интеллекта. Цель этого законодательства — не подавление инноваций, а обеспечение безопасного и надежного развития технологии , всегда уделяя первостепенное внимание защите основных прав человека и предотвращению превращения ИИ в неконтролируемый «черный ящик».
Для достижения этой цели Брюссель выбрал подход, основанный на оценке рисков, а это значит, что спам-фильтр — это не то же самое, что алгоритм, определяющий, кому выдать банковский кредит. В зависимости от уровня риска, который система представляет для здоровья или безопасности, законодательные требования будут более или менее строгими, вынуждая компании быть прозрачными в отношении того, как работают их системы.
Запрещенные системы: красная линия ЕС
Есть вещи, которые просто нельзя делать. Закон очень четко запрещает использование ИИ, представляющего неприемлемый риск . К ним относятся подсознательные или манипулятивные методы, направленные на искажение поведения человека с целью причинения вреда, а также использование уязвимостей, связанных с возрастом или инвалидностью. Социальный рейтинг , практика классификации людей на основе их поведения для предоставления им неблагоприятного отношения, также запрещен .
Что касается биометрии, то запрещена категоризация, позволяющая выявлять такие конфиденциальные признаки, как раса или религия, а также неизбирательное сканирование лиц в интернете для создания баз данных. Дистанционная биометрическая идентификация в режиме реального времени в общественных местах ограничена очень специфическими случаями , такими как поиск жертв торговли людьми, предотвращение террористических актов или обнаружение подозреваемых в тяжких преступлениях, всегда под судебным надзором.
Категория высокого риска и ее требования
Не всё запрещённое опасно, но некоторые системы, хотя и разрешены, подлежат строгому контролю . К ним относятся компоненты безопасности, медицинские устройства и алгоритмы, используемые при найме и оценке кредитоспособности. Если задача ИИ состоит в создании профилей людей для оценки их профессиональной эффективности или состояния здоровья, то он попадает именно в эту категорию.
Поставщики этих инструментов должны выполнить длинный список задач. Обязательно внедрение системы управления рисками на протяжении всего жизненного цикла продукта и обеспечение репрезентативности и безошибочности обучающих данных. Кроме того, они должны создавать подробную техническую документацию, автоматически регистрировать события с помощью операционных журналов и гарантировать постоянный реальный человеческий контроль для предотвращения ошибочных автоматизированных решений.
Модели искусственного интеллекта общего назначения (GPAI)
Здесь вступают в игру известные LLM-модели и базовые модели . Закон различает стандартные модели GPAI и модели, представляющие системный риск , обычно определяемый массовым использованием вычислительной мощности (более 10^25 FLOPs). Поставщики этих моделей должны быть прозрачны в отношении своих процессов обучения и соблюдать директивы об авторском праве.
Для моделей с системным риском требования выше. Они должны проводить тестирование на уязвимость (red teaming) для предотвращения сбоев, сообщать о серьезных инцидентах в Управление по искусственному интеллекту и обеспечивать надежную кибербезопасность . Стоит отметить, что модели с открытым исходным кодом имеют некоторые преимущества, хотя от них по-прежнему требуется публиковать сводные данные об использованном для обучения машин контенте.
Управление, сроки и цена нарушения закона.
Надзор в основном возложен на Управление по искусственному интеллекту , которое следит за технологическими гигантами, чтобы обеспечить соблюдение требований. Внедрение закона происходит поэтапно: запреты вступили в силу в феврале 2025 года, а обязательства для систем высокого риска вступят в силу в период с 2027 по 2028 год. Для оказания помощи компаниям был создан Пакт по искусственному интеллекту, представляющий собой добровольный механизм подготовки к новым правилам.
Если компания решит нарушить правила, штрафы будут колоссальными. Предоставление ложной информации может обойтись до 7,5 миллионов евро или 1,5% от годового дохода. Однако невыполнение основных обязательств может увеличить штраф до 15 миллионов евро или 3% от мирового дохода, хотя некоторые источники указывают, что в крайних случаях он может достигать 7%.
Данная нормативно-правовая база позиционирует Европу как глобальный эталон в области регулирования технологий , требуя от любой компании в мире, желающей работать на общем рынке, адаптировать свои алгоритмы к европейским стандартам прозрачности и этики, тем самым обеспечивая баланс между техническим прогрессом и человеческим достоинством.
