欧州連合人工知能法完全ガイド

Informatec Digital »リソース»欧州連合の人工知能法に関する完全ガイド

欧州連合は、人工知能を規制するための世界初の包括的な法的枠組みを導入することで、決定的な一歩を踏み出した。この法律はイノベーションを阻害することを目的とするものではなく、むしろ、基本的人権の保護を常に最優先し、AIが制御不能なブラックボックスになることを防ぎながら、技術が安全かつ確実に発展することを保証するものである。

これを実現するために、ブリュッセルはリスクベースのアプローチを採用した。つまり、スパムフィルターと銀行融資の承認者を決定するアルゴリズムは同一ではないということだ。システムが健康や安全に及ぼすリスクのレベルに応じて、法的要件は厳格になったり緩和されたりし、企業は自社のシステムがどのように機能しているかを透明性をもって開示することを求められる。

禁止システム：EUのレッドライン

どうしてもできないこともあります。法律は、容認できないリスクをもたらすAIを明確に禁止しています。これには、人間の行動を歪めて危害を加えようとするサブリミナルまたは操作的な手法、年齢や障害に関連する脆弱性の悪用などが含まれます。行動に基づいて人々を分類し、不利な扱いをするソーシャルスコアリングも禁止されています。

生体認証に関しては、人種や宗教といった機密性の高い特性を推測するような分類は禁止されており、データベース作成のためにオンラインで無差別に顔をスキャンすることも禁止されています。公共の場におけるリアルタイムの遠隔生体認証は、人身売買の被害者の捜索、差し迫ったテロ攻撃の防止、重大犯罪の容疑者の特定など、司法の監督下にある非常に限定されたケースにのみ許可されています。

高リスクカテゴリーとその要件

禁止されているものすべてが危険なわけではありませんが、許可されているシステムの中には、厳格な管理下に置かれるものもあります。これには、セキュリティコンポーネント、医療機器、採用や信用評価に使用されるアルゴリズムなどが含まれます。AIが個人のプロファイルを作成し、業務成績や健康状態を評価する役割を担う場合、まさにこのカテゴリーに該当します。

これらのツールを提供する企業は、数多くのタスクを遂行しなければなりません。製品ライフサイクル全体を通してリスク管理システムを導入し、トレーニングデータが代表的でエラーのないものであることを確認することが必須です。さらに、詳細な技術文書を作成し、運用ログを使用してイベントを自動的に記録し、自動化された意思決定における誤りを防ぐために、常に人間の監視体制を確保する必要があります。

汎用AIモデル（GPAI）

ここで、定評のあるLLM（法医学モデル）や基礎モデルが登場します。法律では、標準的なGPAIモデルと、一般的に膨大な計算能力（10^25 FLOPs以上）の使用によって定義されるシステムリスクをもたらすモデルを区別しています。これらのモデルの提供者は、トレーニングプロセスについて透明性を確保し、著作権に関する指示を遵守しなければなりません。

システムリスクを伴うモデルの場合、要求水準はさらに高くなります。障害を軽減するためにレッドチーム演習を実施し、重大なインシデントをAIオフィスに報告し、強固なサイバーセキュリティを確保する必要があります。オープンソースモデルにはいくつかの利点がありますが、機械学習に使用したコンテンツの概要を公開する必要がある点には留意すべきです。

統治、期限、そして法律違反の代償

監督責任は主にAIオフィスが担い、同オフィスはテクノロジー大手企業が法令を遵守しているかどうかを監視する。この法律は段階的に施行され、禁止事項は2025年2月から開始され、高リスクシステムに対する義務は2027年から2028年の間に発効する。企業を支援するため、規制への準備のための自主的な手段としてAIパクトが策定された。

企業が規則を無視することを決定した場合、罰金は莫大なものとなる。虚偽の情報を提供した場合、最大7,5万ユーロ、または年間収益の1,5%の罰金が科される可能性がある。しかし、中核的な義務を履行しなかった場合、罰金は15万ユーロ、または全世界収益の3%にまで引き上げられる可能性がある。ただし、極端なケースでは7%に達する可能性もあると指摘する情報源もある。

この規制枠組みは、欧州を技術規制における世界的なベンチマークとして位置づけ、共通市場で事業を展開しようとする世界中の企業に対し、アルゴリズムを欧州の透明性と倫理に関する基準に適合させることを義務付けることで、技術進歩と人間の尊厳とのバランスを取ることを可能にする。