- กรอบการกำกับดูแลกำลังพัฒนาจากหลักการเรื่องความผิดพลาดไปสู่ความรับผิดโดยไม่มีเงื่อนไขสำหรับระบบ AI ที่มีความเสี่ยงสูง
- กฎระเบียบด้านปัญญาประดิษฐ์ของยุโรปกำหนดให้มีการจัดการความเสี่ยงล่วงหน้า เพื่อให้มั่นใจในความปลอดภัยและจริยธรรมในการนำเทคโนโลยีไปใช้
- การซ่อมแซมความเสียหายเผชิญกับความท้าทายที่ซับซ้อนเนื่องจากความไม่โปร่งใสของอัลกอริทึมและความเป็นอิสระของเครื่องจักร
ทุกวันนี้ ดูเหมือนว่าแทบจะไม่มีนาทีไหนที่เราไม่ได้ยินข่าวเกี่ยวกับ ChatGPT, Perplexity หรือหุ่นยนต์ที่ทำงานในห้องผ่าตัด การปฏิวัติทางเทคโนโลยีนี้เกิดขึ้นในชีวิตเราอย่างฉับพลัน และในขณะที่เราประหลาดใจกับความสะดวกสบายของเครื่องมือเหล่านี้ที่ทำให้ชีวิตเราง่ายขึ้น พวกมันก็ได้เปิดกล่องแพนโดราในแวดวงกฎหมายด้วยเช่นกัน ปัญหาคือ... กฎหมายมักล้าหลังเทคโนโลยี, y cuando un algoritmo toma una decisión autónoma que acaba en un desastre, no es tan sencillo como decir «la culpa es de la máquina».
เรากำลังเข้าสู่พื้นที่คลุมเครือที่แนวคิดดั้งเดิมของกฎหมายแพ่งใช้การไม่ได้ เราไม่ได้เผชิญกับปัญหาซอฟต์แวร์เพียงอย่างเดียว แต่เป็นปัญหาที่ซับซ้อนกว่านั้น ระบบที่มีความสามารถในการเรียนรู้และพัฒนาตนเอง โดยลำพังแล้ว การตรวจสอบต้นกำเนิดของความเสียหายเป็นเรื่องยากลำบาก ดังนั้น การวิเคราะห์วิวัฒนาการของกฎหมาย โดยเฉพาะในสหภาพยุโรป จึงมีความสำคัญอย่างยิ่ง เพื่อให้แน่ใจว่าทั้งบริษัทและผู้ใช้จะไม่ตกอยู่ในภาวะที่ไม่มีใครรับผิดชอบทางกฎหมาย
จากมุมมองทางกฎหมาย เราเข้าใจคำว่า AI ในแง่ใดกันแน่?
เพื่อหลีกเลี่ยงการพูดแบบไร้ทิศทาง เราจำเป็นต้องกำหนดให้ชัดเจนก่อนว่าเรากำลังพูดถึงอะไร คณะกรรมาธิการยุโรปและระเบียบข้อบังคับล่าสุด (EU) 2024/1689 อธิบายว่า AI คือระบบที่ใช้เครื่องจักรซึ่งทำงานด้วย ระดับความเป็นอิสระที่หลากหลายนี่ไม่ใช่เพียงแค่โปรแกรมที่ทำตามสูตรตายตัว แต่พวกมันประมวลผลข้อมูลป้อนเข้าเพื่อสร้างผลลัพธ์ เช่น การคาดการณ์หรือการตัดสินใจ ซึ่งสามารถเปลี่ยนแปลงโลกทางกายภาพหรือโลกเสมือนได้ ประเด็นสำคัญคือ แม้ว่าพวกมันจะจำลองพฤติกรรมอัจฉริยะก็ตาม พวกเขาขาดจิตสำนึกและเจตจำนงเสรีซึ่งหมายความว่า ในขณะนี้ ยังไม่สามารถให้สถานะทางกฎหมายที่เป็นอิสระแก่พวกเขาได้
ความเสี่ยงที่คุกคามสิทธิของเรา
การนำ AI มาใช้ไม่ใช่เรื่องที่ปราศจากความเสี่ยง มีความเสี่ยงหลักๆ สามชุดที่หน่วยงานกำกับดูแลกังวล ชุดแรกคือ... ความเสี่ยงต่อสิทธิขั้นพื้นฐานในสถานการณ์ที่ความเป็นส่วนตัวและการไม่เลือกปฏิบัติเป็นสิ่งที่เสี่ยง การใช้ข้อมูลไบโอเมตริกเพื่อการเฝ้าระวังจำนวนมากหรืออคติทางอัลกอริทึมอาจนำไปสู่การที่บุคคลถูกปฏิเสธในกระบวนการคัดเลือกหรือสินเชื่อธนาคารโดยไม่มีเหตุผลที่แท้จริง อคติที่ถูกปลูกฝังโดยไม่ตั้งใจ โดยผู้พัฒนา
ในทางกลับกัน เราก็มีจุดอ่อนด้านความปลอดภัยและการดำเนินงานที่ไม่มีประสิทธิภาพ การโจมตีทางไซเบอร์ต่อระบบการเงินที่ขับเคลื่อนด้วย AI หรือความผิดพลาดในหุ่นยนต์ผ่าตัดอาจก่อให้เกิดความเสียหายร้ายแรงได้ ความเสียหายร้ายแรงทั้งทางวัตถุและชีวิตสุดท้ายนี้ ความเสี่ยงเชิงระบบก็ปรากฏขึ้น ตั้งแต่การเผยแพร่ข้อมูลเท็จในวงกว้าง (ข่าวปลอม) ไปจนถึงการสูญเสียงาน ซึ่งสร้างความรู้สึกสิ้นหวังให้กับผู้บริโภคที่มักไม่รู้ตัวด้วยซ้ำว่ากำลังมีปฏิสัมพันธ์กับปัญญาประดิษฐ์
เขาวงกตแห่งความรับผิดทางแพ่ง
ตรงนี้แหละที่เรื่องเริ่มจริงจัง ตามธรรมเนียมในสเปน เรายึดถือมาตรา 1902 แห่งประมวลกฎหมายแพ่ง ซึ่งโดยพื้นฐานแล้วระบุว่า หากคุณก่อให้เกิดความเสียหายเนื่องจากความผิดหรือความประมาท คุณต้องชดใช้ค่าเสียหายนั้น แต่แน่นอนว่า... จะพิสูจน์ความประมาทเลินเล่อของโปรแกรมเมอร์ได้อย่างไร? จะเกิดอะไรขึ้นหากระบบเรียนรู้พฤติกรรมที่ไม่คาดคิดผ่านการเรียนรู้ของเครื่องจักร? ความไม่โปร่งใสของอัลกอริทึมนี้ทำให้แบบจำลองความรับผิดชอบตามอัตวิสัยแบบดั้งเดิมไม่เพียงพออีกต่อไป
การต่อสู้ระหว่างความรู้สึกผิดและความเสี่ยง
มีการถกเถียงกันอย่างดุเดือดว่าเราควรเปลี่ยนไปใช้โมเดลแบบใด ความรับผิดที่เข้มงวดโดยเฉพาะอย่างยิ่งสำหรับ AI ที่มีความเสี่ยงสูง ในระบบนี้ ผู้เสียหายไม่จำเป็นต้องคิดหนักเพื่อพิสูจน์ว่าใครเป็นผู้ประมาทเลินเล่อ เพียงแค่แสดงให้เห็นว่าระบบเป็นสาเหตุของความเสียหายและมีความสัมพันธ์เชิงสาเหตุอยู่ก็เพียงพอแล้ว มันจะคล้ายกับสิ่งที่เกิดขึ้นในอุบัติเหตุทางจราจร: ความเสี่ยงเกิดขึ้นจากผู้ที่นำเครื่องจักรมาใช้งาน ดังนั้น ควรรับผิดชอบค่าชดเชย independientemente de si hubo «mala fe» o no.
กรณีวิกฤตของยานยนต์ไร้คนขับ
Los coches que se conducen solos son el ejemplo perfecto de este dilema. Actualmente, hay una «línea roja»: mientras el humano tenga el control final, el conductor es el responsable. Pero cuando lleguemos a la autonomía total, el marco legal deberá cambiar radicalmente. No podemos seguir diciendo que un fallo en el software es «fuerza mayor» para exonerar al dueño. Es probable que veamos la obligatoriedad de ประกันภัยความรับผิดเฉพาะเจาะจง และการจัดตั้งกองทุนค้ำประกันเพื่อให้มั่นใจว่าผู้เสียหายจะไม่ถูกละเลยการชดเชย
กฎหมาย AI และยุทธศาสตร์ของสหภาพยุโรป
สหภาพยุโรปได้ก้าวแรกไปแล้วด้วยกฎระเบียบว่าด้วยปัญญาประดิษฐ์ (AI Act) ซึ่งเป็นกฎระเบียบที่ครอบคลุมฉบับแรกของโลกในเรื่องนี้ กฎระเบียบนี้ไม่ได้ควบคุมความรับผิดทางแพ่งโดยตรง (ซึ่งเป็นหน้าที่ของคำสั่งเฉพาะอื่นๆ) แต่ได้กำหนดหลักเกณฑ์ไว้ ระบบการกำกับดูแลล่วงหน้าระบบนี้จำแนกปัญญาประดิษฐ์ (AI) ตามระดับความเสี่ยง ตั้งแต่ความเสี่ยงที่ยอมรับไม่ได้ (ห้ามใช้) ไปจนถึงความเสี่ยงสูง ซึ่งรวมถึงภาคส่วนต่างๆ เช่น สุขภาพ การศึกษา หรือการจัดการโครงสร้างพื้นฐานที่สำคัญ
- ระบบที่มีความเสี่ยงสูง: พวกเขาต้องปฏิบัติตามข้อกำหนดที่เข้มงวดในด้านความโปร่งใส ความปลอดภัยทางไซเบอร์ และการกำกับดูแลโดยมนุษย์
- การสันนิษฐานถึงความสัมพันธ์เชิงสาเหตุ: มีการเสนอให้อำนวยความสะดวกในการพิสูจน์ความผิดแก่ผู้เสียหาย โดยอนุญาตให้พิจารณาการละเมิดพระราชบัญญัติปัญญาประดิษฐ์บางประการ การประมาทเลินเล่อที่ถูกกล่าวหา.
- สิทธิในการถูกลืมและ GDPR: การประมวลผลข้อมูลส่วนบุคคลยังคงอยู่ภายใต้ GDPR ซึ่งรับประกันว่าการใช้ข้อมูลส่วนบุคคลในทางที่ผิดผ่าน AI จะส่งผลให้มีการชดเชยอย่างมีประสิทธิภาพ
หน้าที่ในการหลีกเลี่ยงภัยพิบัติ
เพื่อหลีกเลี่ยงการจ่ายค่าชดเชยจำนวนมหาศาล บริษัทต้องดำเนินมาตรการต่างๆ เพื่อ... คณะกรรมการด้านการปฏิบัติตามกฎหมายและจริยธรรมระบบต้องทำงานได้แต่ตรวจสอบได้และโปร่งใสเท่านั้น การป้องกันเกี่ยวข้องกับการขจัดอคติในข้อมูลการฝึกอบรมและทำให้แน่ใจว่ามีมนุษย์ที่มีความสามารถคอยดูแลอยู่เสมอ... ปิดใช้งานฟังก์ชันการทำงาน ในกรณีฉุกเฉิน การไม่ปฏิบัติตามหน้าที่ในการใช้ความระมัดระวังอย่างรอบคอบเหล่านี้จะเป็นประเด็นสำคัญในการพิจารณาคดีในอนาคตเพื่อตัดสินว่าใครควรเป็นผู้รับผิดชอบค่าเสียหาย
การพัฒนาไปสู่ตลาดดิจิทัลเดียวจำเป็นต้องมีกฎระเบียบที่เหมือนกันสำหรับทุกคนในยุโรป เพื่อป้องกันไม่ให้บางบริษัทไปหลบภัยในที่หลบภัยทางกฎหมายที่มีข้อกำหนดเข้มงวดน้อยกว่า แนวโน้มชัดเจน: ภาระการพิสูจน์สำหรับพลเมืองลดลง และ ความรับผิดชอบที่มากขึ้นสำหรับผู้ปฏิบัติงาน และผู้ผลิต ซึ่งเป็นผู้ที่ได้รับผลประโยชน์ทางเศรษฐกิจอย่างแท้จริงจากการนำเทคโนโลยีเหล่านี้มาใช้
ภูมิทัศน์ทางกฎหมายกำลังมุ่งไปสู่ความสอดคล้องกัน โดยที่ความปลอดภัยและจริยธรรมไม่ใช่ทางเลือก แต่เป็นข้อกำหนดสำหรับการเข้าสู่ตลาด การผสมผสานระหว่างความรับผิดอย่างเข้มงวดสำหรับระบบที่อันตรายที่สุด ควบคู่ไปกับการประกันภัยภาคบังคับและการกำกับดูแลโดยมนุษย์อย่างเข้มงวด มีจุดมุ่งหมายเพื่อให้มั่นใจว่านวัตกรรมจะดำเนินต่อไป ในขณะเดียวกันก็ป้องกันไม่ให้ต้นทุนของความก้าวหน้าตกอยู่บนบ่าของผู้ใช้ที่เปราะบางที่สุด
