- Temel hakları ve vatandaş güvenliğini korumak için risk seviyelerine dayalı bir düzenleyici çerçeve oluşturur.
- Yüksek riskli yapay zeka sistemleri ve genel amaçlı modeller için katı şeffaflık ve risk yönetimi yükümlülükleri getiriyor.
- Sosyal puanlama veya davranış manipülasyonu gibi kabul edilemez olarak değerlendirilen yapay zeka teknolojilerinin kullanımını kesin olarak yasaklamaktadır.
- Yönetmeliklere uymayanlar için ağır ekonomik cezalar öngören kademeli bir uygulama takvimi belirleyin.
Avrupa Birliği, yapay zekayı düzenlemek için dünyanın ilk kapsamlı yasal çerçevesini başlatarak kararlı bir adım attı. Bu mevzuat, yeniliği engellemeyi değil, teknolojinin güvenli ve güvenilir bir şekilde gelişmesini sağlamayı , her zaman temel insan haklarının korunmasına öncelik vermeyi ve yapay zekanın kontrolsüz bir kara kutu haline gelmesini önlemeyi amaçlamaktadır.
Bunu başarmak için Brüksel, risk tabanlı bir yaklaşım benimsemiştir; yani bir spam filtresi, banka kredisi alacak kişiye karar veren bir algoritmayla aynı şey değildir. Sistemin sağlık veya güvenlik açısından oluşturduğu risk seviyesine bağlı olarak, yasal gereklilikler daha katı veya daha gevşek olacak ve şirketleri makinelerinin nasıl çalıştığı konusunda şeffaf olmaya zorlayacaktır.
Yasaklı sistemler: AB'nin kırmızı çizgisi
Yapılması mümkün olmayan bazı şeyler vardır. Yasa, kabul edilemez risk oluşturan yapay zekâyı yasaklama konusunda çok açık. Bunlar arasında, insan davranışını bozarak zarar vermeyi amaçlayan bilinçaltı veya manipülatif teknikler ile yaş veya engellilikle ilgili zaafların istismar edilmesi yer almaktadır. İnsanları davranışlarına göre sınıflandırarak onlara olumsuz muamele yapma uygulaması olan sosyal puanlama da yasaktır .
Biyometrik verilerle ilgili olarak, ırk veya din gibi hassas özellikleri ima eden sınıflandırmalar yasaktır; ayrıca veri tabanları oluşturmak amacıyla çevrimiçi olarak rastgele yüz taraması yapılması da yasaktır. Kamusal alanlarda gerçek zamanlı uzaktan biyometrik kimlik tespiti, insan ticareti mağdurlarının aranması, olası terör saldırılarının önlenmesi veya ciddi suçlarda şüphelilerin yerinin tespit edilmesi gibi çok özel durumlarla sınırlıdır ve her zaman adli gözetim altında gerçekleştirilir.
Yüksek risk kategorisi ve gereklilikleri
Yasaklanan her şey tehlikeli değildir, ancak bazı sistemler izin verilmiş olsa da sıkı kontrollere tabidir . Buna güvenlik bileşenleri, tıbbi cihazlar ve işe alım ve kredi değerlendirmesinde kullanılan algoritmalar dahildir. Bir yapay zekâ, bireylerin iş performansını veya sağlığını değerlendirmek için profiller oluşturmakla görevlendirilirse, bu tam olarak bu kategoriye girer.
Bu araçları sağlayanların uzun bir görev listesini yerine getirmesi gerekiyor. Ürün yaşam döngüsü boyunca bir risk yönetim sistemi uygulamak ve eğitim verilerinin temsili ve hatasız olmasını sağlamak zorunludur . Ayrıca, ayrıntılı teknik dokümantasyon oluşturmalı, operasyonel günlükler kullanarak olayları otomatik olarak kaydetmeli ve hatalı otomatik kararları önlemek için her zaman gerçek insan gözetimi olmasını garanti etmelidirler.
Genel Amaçlı Yapay Zeka Modelleri (GPAI)
İşte bu noktada ünlü LLM'ler ve temel modeller devreye giriyor . Yasa, standart GPAI modelleri ile genellikle büyük miktarda işlem gücü kullanımı (10^25 FLOP'tan fazla) ile tanımlanan sistemik risk oluşturan modeller arasında ayrım yapmaktadır. Bu modelleri sağlayanların eğitim süreçleri konusunda şeffaf olmaları ve telif hakkı yönergelerine uymaları gerekmektedir.
Sistemik risk taşıyan modeller için çıta daha yüksektir. Arızaları azaltmak için kırmızı ekip çalışmaları yapmaları, ciddi olayları Yapay Zeka Ofisine bildirmeleri ve sağlam siber güvenlik sağlamaları gerekir. Açık kaynaklı modellerin bazı avantajları olduğunu belirtmekte fayda var, ancak yine de makineyi eğitmek için kullanılan içeriğin özetlerini yayınlamaları gerekmektedir.
Yönetim, son tarihler ve kanunu çiğnemenin maliyeti
Denetim öncelikle, uyumluluğu sağlamak için teknoloji devlerini izleyen Yapay Zeka Ofisi'ne düşüyor . Yasanın uygulanması aşamalı olarak gerçekleşiyor: yasaklar Şubat 2025'te başladı, yüksek riskli sistemlere yönelik yükümlülükler ise 2027 ile 2028 yılları arasında yürürlüğe girecek . Şirketlere yardımcı olmak için, düzenlemelere hazırlanmak üzere gönüllü bir yol olarak Yapay Zeka Anlaşması oluşturuldu.
Bir şirket kuralları çiğnemeye karar verirse, cezalar çok yüksek olabilir. Yanlış bilgi vermek 7,5 milyon Euro'ya veya yıllık gelirin %1,5'ine kadar mal olabilir. Ancak, temel yükümlülükleri yerine getirmemek cezayı 15 milyon Euro'ya veya küresel gelirin %3'üne kadar çıkarabilir; bazı kaynaklar ise aşırı durumlarda bu oranın %7'ye kadar çıkabileceğini belirtmektedir.
Bu düzenleyici çerçeve, Avrupa'yı teknolojik düzenlemede küresel bir ölçüt haline getiriyor ve ortak pazarda faaliyet göstermek isteyen dünyadaki her şirketin algoritmalarını Avrupa şeffaflık ve etik standartlarına uyarlamasını, böylece teknik ilerlemeyi insan onuruyla dengelemesini gerektiriyor.
