- 它建立了一個基於風險等級的監管框架，以保護基本權利和公民安全。
- 它對高風險人工智慧系統和通用模型施加了嚴格的透明度和風險管理義務。
- 它明確禁止使用被認為是不可接受的人工智慧技術，例如社交評分或行為操縱。
- 制定分階段實施計劃，並對無視規定的行為處以嚴厲的經濟處罰。
歐盟邁出了決定性的一步，推出了全球首個全面的人工智慧監管法律框架。這項立法並非旨在扼殺創新，而是為了確保人工智慧技術安全可靠地發展，始終將保護基本人權放在首位，並防止人工智慧淪為不受控制的黑箱。
為了實現這一目標，布魯塞爾選擇了基於風險的方法，這意味著垃圾郵件過濾器與決定銀行貸款發放的演算法截然不同。根據系統對健康或安全的風險程度，法律要求將有所不同，從而迫使公司公開其機器的運作方式。
被禁止的系統：歐盟的紅線
有些事情是絕對不允許的。法律明確禁止任何可能造成不可接受風險的人工智慧。這些風險包括利用潛意識或操縱手段來扭曲人類行為以造成傷害，以及利用與年齡或殘疾相關的弱點。此外，基於行為對人們進行分類並給予不利待遇的「社會評分」做法也被禁止。
關於生物辨識技術，禁止對種族或宗教等敏感特徵進行推斷，也禁止隨意在線上掃描人臉以建立資料庫。在公共場所進行即時遠端生物辨識僅限於非常特殊的情況，例如搜尋人口販運受害者、預防即將發生的恐怖攻擊或定位嚴重犯罪嫌疑人，且始終在司法監督下進行。
高風險類別及其要求
並非所有被禁止的事物都危險，但有些系統雖然被允許，卻受到嚴格的管控。這包括安全組件、醫療設備以及用於招聘和信用評估的演算法。如果人工智慧的任務是建立個人檔案以評估其工作表現或健康狀況，那麼它就完全屬於這個範疇。
這些工具的提供者必須完成一系列繁瑣的任務。他們必須在產品生命週期內實施風險管理體系，並確保訓練資料具有代表性且無誤。此外，他們還必須建立詳細的技術文檔，使用運行日誌自動記錄事件，並保證始終有真人監督，以防止自動化決策出錯。
通用人工智慧模型（GPAI）
這就是著名的機器學習模型和基礎模型發揮作用的地方。法律區分了標準通用人工智慧模型和那些構成系統性風險的模型，後者通常定義為大規模使用運算能力（大於10^25 FLOPs）。這些模型的提供者必須對其訓練過程保持透明，並尊重版權指令。
對於有系統性風險的模型，標準更高。它們必須進行紅隊演練以降低故障風險，向人工智慧辦公室報告嚴重事件，並確保強大的網路安全。值得注意的是，開源模型具有一些優勢，但它們仍然需要公佈用於訓練機器的內容摘要。
治理、期限和違法成本
監管主要由人工智慧辦公室負責，該辦公室負責監督科技巨頭，確保其合規。該法的實施分階段進行：禁令於2025年2月開始生效，而針對高風險系統的義務將於2027年至2028年間生效。為了幫助企業，人工智慧協議應運而生，為企業提供自願準備的途徑，以因應相關法規。
如果公司決定違反規定，罰款金額將非常驚人。提供假資料最高可被罰款7,5萬歐元，相當於年收入的1,5%。然而，未能履行核心義務可能會使罰款金額增加到15萬歐元，相當於全球收入的3%，儘管一些消息來源指出，在極端情況下，罰款金額甚至可能達到7%。
這個監管框架將歐洲定位為全球技術監管的標桿，要求任何想在共同市場運營的公司都必須使其演算法符合歐洲的透明度和道德標準，從而在技術進步與人類尊嚴之間取得平衡。
