- เป็นการกำหนดกรอบการกำกับดูแลโดยอิงตามระดับความเสี่ยง เพื่อคุ้มครองสิทธิขั้นพื้นฐานและความปลอดภัยของพลเมือง
- กฎหมายนี้กำหนดให้มีข้อกำหนดที่เข้มงวดด้านความโปร่งใสและการจัดการความเสี่ยงสำหรับระบบ AI ที่มีความเสี่ยงสูงและแบบจำลองทั่วไป
- ข้อกำหนดนี้ห้ามการใช้เทคโนโลยี AI ที่ถือว่าไม่เหมาะสมอย่างเด็ดขาด เช่น การให้คะแนนทางสังคม หรือการบิดเบือนพฤติกรรม
- กำหนดตารางการบังคับใช้แบบค่อยเป็นค่อยไป พร้อมบทลงโทษทางเศรษฐกิจอย่างรุนแรงสำหรับผู้ที่ไม่ปฏิบัติตามกฎระเบียบ
สหภาพยุโรปได้ก้าวไปอีกขั้นด้วยการเปิดตัวกรอบกฎหมายที่ครอบคลุมฉบับแรกของโลกเพื่อควบคุมปัญญาประดิษฐ์ กฎหมายนี้ไม่ได้มีจุดมุ่งหมายเพื่อยับยั้งนวัตกรรม แต่เพื่อรับประกันว่าเทคโนโลยีจะพัฒนาไปอย่างปลอดภัยและน่าเชื่อถือโดยให้ความสำคัญกับการคุ้มครองสิทธิมนุษยชนขั้นพื้นฐานและป้องกันไม่ให้ปัญญาประดิษฐ์กลายเป็นกล่องดำที่ควบคุมไม่ได้
เพื่อให้บรรลุเป้าหมายนี้ บรัสเซลส์ได้เลือกใช้แนวทางที่อิงตามความเสี่ยง ซึ่งหมายความว่าตัวกรองสแปมนั้นไม่เหมือนกับอัลกอริทึมที่ใช้ตัดสินว่าใครจะได้รับสินเชื่อจากธนาคาร ข้อกำหนดทางกฎหมายจะเข้มงวดมากหรือน้อยขึ้นอยู่กับระดับความเสี่ยงที่ระบบก่อให้เกิดต่อสุขภาพหรือความปลอดภัย ซึ่งจะบังคับให้บริษัทต่างๆ ต้องมีความโปร่งใสเกี่ยวกับวิธีการทำงานของเครื่องจักรของตน
ระบบต้องห้าม: เส้นแดงของสหภาพยุโรป
มีบางสิ่งที่ไม่สามารถทำได้โดยเด็ดขาด กฎหมายระบุไว้อย่างชัดเจนว่าห้ามใช้ AI ที่ก่อให้เกิดความเสี่ยงที่ยอมรับไม่ได้ ซึ่งรวมถึงเทคนิคที่แฝงเร้นหรือบิดเบือนพฤติกรรมมนุษย์เพื่อก่อให้เกิดอันตราย รวมถึงการใช้ประโยชน์จากจุดอ่อนที่เกี่ยวข้องกับอายุหรือความพิการ นอกจากนี้ การ ให้คะแนนทางสังคมซึ่งเป็นการจัดประเภทผู้คนตามพฤติกรรมเพื่อให้ได้รับการปฏิบัติที่ไม่เป็นธรรมก็เป็นสิ่งต้องห้ามเช่นกัน
ในส่วนของข้อมูลชีวมาตร การจำแนกประเภทที่บ่งชี้ลักษณะที่ละเอียดอ่อน เช่น เชื้อชาติหรือศาสนา เป็นสิ่งต้องห้าม เช่นเดียวกับการสแกนใบหน้าอย่างไม่เลือกปฏิบัติทางออนไลน์เพื่อสร้างฐานข้อมูล การระบุตัวตนด้วยข้อมูลชีวมาตรแบบเรียลไทม์จากระยะไกลในพื้นที่สาธารณะถูกจำกัดไว้เฉพาะกรณีที่เฉพาะเจาะจงมากเช่น การค้นหาเหยื่อการค้ามนุษย์ การป้องกันการก่อการร้ายที่กำลังจะเกิดขึ้น หรือการค้นหาผู้ต้องสงสัยในคดีอาญาร้ายแรง โดยอยู่ภายใต้การกำกับดูแลของศาลเสมอ
หมวดหมู่ความเสี่ยงสูงและข้อกำหนดต่างๆ
ไม่ใช่ทุกสิ่งที่ถูกห้ามจะเป็นอันตราย แต่บางระบบถึงแม้จะได้รับอนุญาตก็อยู่ภายใต้การควบคุมที่เข้มงวดซึ่งรวมถึงส่วนประกอบด้านความปลอดภัย อุปกรณ์ทางการแพทย์ และอัลกอริทึมที่ใช้ในการจ้างงานและการประเมินเครดิต หาก AI ได้รับมอบหมายให้สร้างโปรไฟล์ของบุคคลเพื่อประเมินประสิทธิภาพการทำงานหรือสุขภาพของพวกเขา ก็จะจัดอยู่ในประเภทนี้อย่างแน่นอน
ผู้ให้บริการเครื่องมือเหล่านี้ต้องปฏิบัติตามข้อกำหนดมากมาย จำเป็นต้องนำระบบการจัดการความเสี่ยงมาใช้ตลอดวงจรชีวิตของผลิตภัณฑ์ และตรวจสอบให้แน่ใจว่าข้อมูลการฝึกอบรมมีความถูกต้องและปราศจากข้อผิดพลาด นอกจากนี้ พวกเขาต้องจัดทำเอกสารทางเทคนิคโดยละเอียด บันทึกเหตุการณ์โดยอัตโนมัติโดยใช้บันทึกการปฏิบัติงานและรับประกันว่ามีการกำกับดูแลโดยมนุษย์อย่างแท้จริงเสมอเพื่อป้องกันการตัดสินใจอัตโนมัติที่ผิดพลาด
โมเดล AI อเนกประสงค์ (GPAI)
นี่คือจุดที่ LLM ที่มีชื่อเสียงและแบบจำลองพื้นฐาน เข้ามา มีบทบาท กฎหมายแยกแยะระหว่างแบบจำลอง GPAI มาตรฐานและแบบจำลองที่ก่อให้เกิดความเสี่ยงเชิงระบบซึ่งโดยทั่วไปแล้วจะกำหนดโดยการใช้พลังการประมวลผลจำนวนมหาศาล (มากกว่า 10^25 FLOPs) ผู้ให้บริการแบบจำลองเหล่านี้ต้องมีความโปร่งใสเกี่ยวกับกระบวนการฝึกอบรมและเคารพข้อกำหนดด้านลิขสิทธิ์
สำหรับโมเดลที่มีความเสี่ยงเชิงระบบ มาตรฐานจะสูงกว่า พวกเขาต้องทำการทดสอบเจาะระบบ (red teaming) เพื่อลดความล้มเหลว รายงานเหตุการณ์ร้ายแรงไปยังสำนักงาน AI และสร้างความมั่นใจใน ระบบรักษา ความปลอดภัยทางไซเบอร์ที่แข็งแกร่งควรสังเกตว่าโมเดลโอเพนซอร์สมีข้อดีบางประการ แม้ว่าพวกเขายังคงต้องเผยแพร่สรุปเนื้อหาที่ใช้ในการฝึกฝนเครื่องจักรก็ตาม
การกำกับดูแล กำหนดเวลา และค่าปรับสำหรับการฝ่าฝืนกฎหมาย
หน้าที่หลักในการกำกับดูแลคือสำนักงาน AIซึ่งทำหน้าที่ตรวจสอบบริษัทยักษ์ใหญ่ด้านเทคโนโลยีเพื่อให้แน่ใจว่าปฏิบัติตามกฎหมาย การบังคับใช้กฎหมายเป็นไปอย่างค่อยเป็นค่อยไป โดยข้อห้ามต่างๆ เริ่มมีผลบังคับใช้ในเดือนกุมภาพันธ์ 2025 ขณะที่ข้อกำหนดสำหรับระบบที่มีความเสี่ยงสูงจะเริ่มมีผลบังคับใช้ระหว่างปี 2027 ถึง 2028เพื่อช่วยเหลือบริษัทต่างๆ จึงได้มีการสร้าง AI Pact ขึ้นมาเป็นแนวทางสมัครใจเพื่อเตรียมความพร้อมสำหรับกฎระเบียบดังกล่าว
หากบริษัทใดตัดสินใจฝ่าฝืนกฎระเบียบ ค่าปรับจะสูงมาก การให้ข้อมูลเท็จอาจมีค่าปรับสูงถึง 7,5 ล้านยูโร หรือ 1,5% ของรายได้ประจำปี อย่างไรก็ตาม การไม่ปฏิบัติตามข้อผูกพันหลักอาจทำให้ค่าปรับเพิ่มขึ้นเป็น15 ล้านยูโร หรือ 3%ของรายได้ทั่วโลก แม้ว่าบางแหล่งข้อมูลจะระบุว่าในกรณีร้ายแรงที่สุดอาจสูงถึง 7% ก็ตาม
กรอบการกำกับดูแลนี้ทำให้ยุโรปเป็นมาตรฐานระดับโลกด้านการกำกับดูแลเทคโนโลยีโดยกำหนดให้บริษัทใดๆ ในโลกที่ต้องการดำเนินงานในตลาดร่วมต้องปรับอัลกอริทึมของตนให้สอดคล้องกับมาตรฐานด้านความโปร่งใสและจริยธรรมของยุโรป เพื่อสร้างสมดุลระหว่างความก้าวหน้าทางเทคโนโลยีกับศักดิ์ศรีความเป็นมนุษย์
