- Ia mewujudkan rangka kerja kawal selia berdasarkan tahap risiko untuk melindungi hak asasi dan keselamatan rakyat.
- Ia mengenakan ketelusan yang ketat dan kewajipan pengurusan risiko untuk sistem AI berisiko tinggi dan model tujuan umum.
- Ia melarang secara mutlak penggunaan teknologi AI yang dianggap tidak boleh diterima, seperti pemarkahan sosial atau manipulasi tingkah laku.
- Tentukan jadual pelaksanaan secara beransur-ansur dengan penalti ekonomi yang berat bagi mereka yang mengabaikan peraturan.
Kesatuan Eropah telah mengambil langkah tegas dengan melancarkan rangka kerja perundangan komprehensif pertama di dunia untuk mengawal selia kecerdasan buatan. Undang-undang ini tidak bertujuan untuk menyekat inovasi, tetapi sebaliknya untuk memastikan teknologi berkembang dengan selamat dan andal , sentiasa mengutamakan perlindungan hak asasi manusia dan mencegah AI daripada menjadi kotak hitam yang tidak terkawal.
Untuk mencapai matlamat ini, Brussels telah memilih pendekatan berasaskan risiko, yang bermaksud penapis spam tidak sama dengan algoritma yang menentukan siapa yang mendapat pinjaman bank. Bergantung pada tahap risiko yang ditimbulkan oleh sistem terhadap kesihatan atau keselamatan, keperluan undang-undang akan menjadi lebih atau kurang ketat, memaksa syarikat untuk bersikap telus tentang cara mesin mereka berfungsi.
Sistem yang dilarang: garisan merah EU
Terdapat beberapa perkara yang tidak boleh dilakukan. Undang-undang sangat jelas dalam melarang AI yang menimbulkan risiko yang tidak boleh diterima . Antaranya ialah teknik subliminal atau manipulatif yang bertujuan untuk memesongkan tingkah laku manusia untuk menyebabkan kemudaratan, serta eksploitasi kelemahan yang berkaitan dengan usia atau kecacatan. Pemarkahan sosial , amalan mengklasifikasikan orang berdasarkan tingkah laku mereka untuk memberi mereka layanan yang tidak baik, juga dilarang .
Berkenaan biometrik, pengkategorian yang menyimpulkan sifat sensitif seperti bangsa atau agama adalah dilarang, begitu juga pengimbasan wajah secara sembarangan dalam talian untuk mewujudkan pangkalan data. Pengenalpastian biometrik jarak jauh masa nyata di ruang awam adalah terhad kepada kes yang sangat spesifik , seperti mencari mangsa pemerdagangan manusia, mencegah serangan pengganas yang akan berlaku atau mencari suspek dalam jenayah serius, sentiasa di bawah pengawasan kehakiman.
Kategori berisiko tinggi dan keperluannya
Tidak semua yang dilarang adalah berbahaya, tetapi sesetengah sistem, walaupun dibenarkan, tertakluk kepada kawalan ketat . Ini termasuk komponen keselamatan, peranti perubatan dan algoritma yang digunakan dalam pengambilan pekerja dan penilaian kredit. Jika AI ditugaskan untuk mencipta profil individu bagi menilai prestasi kerja atau kesihatan mereka, ia termasuk dalam kategori ini.
Penyedia alat ini mesti memenuhi senarai tugas yang panjang. Adalah wajib untuk melaksanakan sistem pengurusan risiko sepanjang kitaran hayat produk dan memastikan data latihan adalah representatif dan bebas daripada ralat. Tambahan pula, mereka mesti membuat dokumentasi teknikal terperinci, merekodkan peristiwa secara automatik menggunakan log operasi dan menjamin bahawa sentiasa terdapat pengawasan manusia yang sebenar untuk mencegah keputusan automatik yang salah.
Model AI Tujuan Umum (GPAI)
Di sinilah LLM dan model asas yang terkenal memainkan peranan . Undang-undang membezakan antara model GPAI standard dan model yang menunjukkan risiko sistemik , yang secara amnya ditakrifkan oleh penggunaan kuasa pengkomputeran secara besar-besaran (lebih daripada 10^25 FLOP). Penyedia model ini mesti telus tentang proses latihan mereka dan menghormati arahan hak cipta.
Bagi model yang mempunyai risiko sistemik, piawaiannya adalah lebih tinggi. Mereka mesti melaksanakan red teaming untuk mengurangkan kegagalan, melaporkan insiden serius kepada Pejabat AI dan memastikan keselamatan siber yang mantap . Perlu diingatkan bahawa model sumber terbuka mempunyai beberapa kelebihan, walaupun mereka masih dikehendaki menerbitkan ringkasan kandungan yang digunakan untuk melatih mesin.
Tadbir urus, tarikh akhir dan kos melanggar undang-undang
Pengawasan terutamanya terletak pada Pejabat AI , yang memantau syarikat gergasi teknologi untuk memastikan pematuhan. Pelaksanaan undang-undang ini secara berperingkat: larangan bermula pada Februari 2025, manakala kewajipan untuk sistem berisiko tinggi akan berkuat kuasa antara 2027 dan 2028. Bagi membantu syarikat, Pakatan AI telah diwujudkan sebagai laluan sukarela untuk bersedia menghadapi peraturan tersebut.
Jika sesebuah syarikat memutuskan untuk melanggar peraturan, denda yang dikenakan adalah sangat tinggi. Memberikan maklumat palsu boleh menyebabkan kerugian sehingga €7,5 juta atau 1,5% daripada pendapatan tahunan. Walau bagaimanapun, kegagalan untuk memenuhi obligasi teras boleh meningkatkan penalti kepada €15 juta atau 3% daripada pendapatan global, walaupun beberapa sumber menyebut bahawa dalam kes yang melampau ia boleh mencecah 7%.
Rangka kerja kawal selia ini meletakkan Eropah sebagai penanda aras global dalam kawal selia teknologi , yang mewajibkan mana-mana syarikat di dunia yang ingin beroperasi dalam pasaran umum untuk menyesuaikan algoritmanya dengan piawaian ketelusan dan etika Eropah, sekali gus mengimbangi kemajuan teknikal dengan maruah manusia.
